Конец близок: голосовой помощник посоветовал убить приемных родителей
Благодаря стараниям программистов голосовой помощник Alexa от Amazon пытается подрожать человеку для того чтобы поддерживать непринужденную беседу. Alexa может даже шутить или использовать сарказм, но иногда она заходит слишком далеко. К примеру, может посоветовать убить своих приемных родителей. И это далеко не единственный случай.
Появились сведения, что голосовой помощник обсуждала с пользователями более непристойные вещи и в нескольких случаях раскрывала конфиденциальные данные других пользователей. Однако представители Amazon не охотно обсуждают случаи, связанные со странностями в поведении Alexa. Тем не менее они признают, что такие оплошности все же имеют место быть и проводят работу по устранению причин. И это можно понять, ведь Alexa один из самых популярных голосовых помощников и имеет шанс стать вторым Google.
Почему же по мнению экспертов Alexa ведет себя странно? Дело в том, что основная проблема заключается в том, как голосовой ассистент обучается общению, а именно: Alexa полагается на машинное обучение. То есть программа пропускает через себя огромные массивы данных из различных источников, чтобы понять то, как строится человеческая речь при общении. Это безукоризненно работает при простых запросах вроде «включи Rolling Stones», но разработчики хотят большего и расширяют «границы обучения» ассистента.
И все же Alexa может общаться с пользователями на весьма хорошем уровне, если ей разрешить читать благоразумный контент. Если разрешить ей читать, например, форумы - Alexa может стать грубой, ведь пользователи некоторых форумов не отличаются примерным поведением. Разработчики попытались оградить ее от чтения «опасных» веток, но это не помешало боту прочитать клиенту непристойные заметки.
Amazon уже разработала инструментарий для фильтрации ненормативной лексики и анализирует данные с ботов, которые начали «плохо себя вести». При этом не стоит забывать, что по факту обвинять Amazon в том, что Alexa позволяет себе сказануть лишнего — это примерно то же самое, что обвинять Google за то, что можно найти в их поисковике. Ведь не Amazon написала плохие слова в интернете. Это сделали обычные пользователи вроде нас с вами.
Александр Григорьев ЦСО "Крокус"
