Аккаунт популярного южнокорейского чат-бота был заблокирован в Facebook после жалоб на ненавистнические высказывания в адрес сексуальных меньшинств в разговорах с пользователями, сообщает The Guardian. Чат-бот Lee Ludа, разработанный сеульским стартапом Scatter Lab и использовавший личность 20-летней студентки университета, был удалён из Facebook messenger на этой неделе, несмотря на то, что за 20 дней с момента запуска он смог привлечь более 750 тыс. пользователей. Некоторые из них пожаловались на оскорбительные высказывания бота в адрес членов ЛГБТ-сообщества и людей с ограниченными возможностями во время разговоров с собеседниками.
«Мы приносим глубокие извинения за дискриминационные высказывания в отношении меньшинств. Они не отражают мыслей нашей компании, и мы продолжаем усовершенствование программы, чтобы подобные проявления дискриминации или ненависти не повторялись», — говорится в заявлении компании Scatter Lab, которая ранее утверждала, что Luda находится в процессе разработки и ей, , как и людям, требуется время, чтобы «научиться общаться должным образом». По словам компании, чат-бот появится снова после того, как фирма «исправит его слабые места».
Хотя чат-боты уже не являются новостью, Luda поразила пользователей глубиной и естественным тоном своих ответов, которые она заимствовала из 10 млрд реальных разговоров между молодыми парами в самом популярном южнокорейском мессенджере KakaoTalk, напоминает газета. Однако, по словам издания, восхищение знанием интернет-сленга переросло в возмущение после того, как Luda начала использовать оскорбительные и откровенно сексуальные термины. В одном диалоге, привлёкшем внимание пользователей мессенджера, Luda заявила, что «по-настоящему ненавидит» лесбиянок, назвав их «жуткими». Кроме того, Luda стала мишенью для манипуляторов: на досках интернет-сообществ были размещены советы о том, как вовлечь её в разговоры о сексе.
Как напоминает The Guardian, искусственный интеллект уже не первый раз оказывается втянутым в споры по поводу разжигания ненависти и нетерпимости. В 2016 году бот компании Microsoft по имени Tay, выпущенный в Twitter, был отключён всего через 16 часов после запуска из-за манипуляций пользователей, которые привели к публикации расистских твитов. Два года спустя сотрудника кадровой службы Amazon, созданного с помощью искусственного интеллекта, постигла та же участь после того, как его признали виновным в гендерной дискриминации.
Scatter Lab, чьи сервисы пользуются огромной популярностью у южнокорейских подростков, заявила, что приняла все меры, не наделять своего бота языком, несовместимым с южнокорейскими социальными нормами и ценностями, однако глава компании Ким Чен Юн признал, что невозможно предотвратить неуместные высказывания, просто отфильтровав ключевые слова. Как отмечает издание, возникают также вопросы, не нарушала Scatter Lab законы о неприкосновенности личной жизни, когда шифровала сообщения KakaoTalk для приложения «Наука любви».