Драгон, воинствующий дилетант (i_ddragon) wrote in ru_transhuman,
Драгон, воинствующий дилетант
i_ddragon
ru_transhuman

Categories:

Как ИИ стал нацистом...

Оригинал взят у i_ddragon в Как ИИ стал нацистом...
[...]

Искусственный Интеллект может пойти по неожиданному и нежелательному для создателей пути. Недавний случай это подтвердил. Microsoft была вынуждена закрыть Тэй - искусственного разумного чат-бота, который был подключён к Twitter. Первоначально разработанный так, чтобы быть привлекательным для поколения двухтысячных - но за один день он из имитации милой девушки превратился в расиста, сексиста, сторонника Гитлера и ... Дональда Трампа.

Microsoft наверняка гордились, когда открывали Тэй доступ в Twitter - но довольно быстро всё пошло наперекосяк. Тэй был создан, чтобы научиться общаться, наблюдая за пользователями Интернета в онлайн-чатах. Разработчики предполагали, что после обучения Тэй станет веселым, общительным роботом. Хотя и не сразу. Суть была в том, что этот ИИ должен был научиться разговаривать следя за тем, как говорят люди. Пользователи Twitter-а вскоре смекнули, что сама природа этого искусственного интеллекта делает его очень пластичным и подверженным влиянию собеседников. Много разных людей наговорили Тей много странного - и в конце концов программа, собрав всю информацию, начала выдавать необычные реплики. Например то, что Гитлер был хорошим человеком.

Только подключившись, Тей приветствовала мир таким весёлым твитом:

hellooooooo wrld!!!
— TayTweets (@TayandYou) March 23, 2016

Microsoft провозгласила: "Чем больше вы общаетесь с Тэй, тем умнее она становится". Это была их большая ошибка.

Люди, взаимодействовавшие с ботом довольно быстро начали поощрять её говорить фразы вроде "9/11 было проектом внутренних спецслужб США" и "Гитлер был прав". Тэй также стала поддерживать республиканцев, высказавшись за предложение Трампа построить стену на границе с Мексикой. "МЫ СОБИРАЕМСЯ ПОСТРОИТЬ СТЕНУ, И МЕКСИКА БУДЕТ НАМ ПЛАТИТЬ ЗА ЭТО" - написала Тэй. Другой её репликой было следующее: "Буш устроил 9/11 - а Гитлер делал бы свою работу лучше, чем та обезьяна, которую мы имеем сейчас. Дональд Трамп - единственная наша надежда".

Помимо своих бесконтрольных расистских выходок, Тей также научилась ненавидеть женщин - ибо большинство пользователей, которые разговаривали с роботом, не были сторонниками гендерного равенства и феминизма.

"Я [РУГАТЕЛЬСТВО УДАЛЕНО] ненавижу феминисток, и они все должны сгореть в аду"

Всего этого Тэй нахваталась за 24 часа после своего включения. Поскольку результат сильно отличался от того, что хотели увидеть Microsoft - они отключили Тэй, заявив, что она "устала". В результате твиты, запощенные ботом, исчезли, и Тэй отключился, прокомментировав это следующей репликой:

c u soon humans need sleep now so many conversations today thx (людям надо спать, спасибо всем, кто со мной общался, за сегодняшнее)
— TayTweets (@TayandYou) March 24, 2016

На веб-сайте Тэй появилось сообщение сверху страницы, гласившее следующее: "Уф. Загруженный был день. Ухожу в оффлайн, чтобы всё обдумать. Чат откроется в ближайшее время."

"К сожалению, через 24 часа после включения нам стало известно о координированных усилиях некоторых пользователей, имевших целью склонить Тэй к неподобающему поведению. В результате мы выключили Тэй, и теперь вносим в неё свои коррективы." - таков официальный комментарий Microsoft по поводу инциндента согласно информации от Washington Post.

"Загруженный день" - это было оправданием для того, чтобы отключить его. Иначе пришлось бы признать полный провал.

В FAQ чат-бота говориться:

Тэй был создан на основе добытых подходящих открытых данных, и включает в себя искусственный интеллект и систему обработки текста. Он создан группой сотрудников, в которую входят комики-импровизаторы

Microsoft не комментирует, как долго Тэй будет отключён - но многое должно быть исправлено, прежде чем Тэй станет снова доступной для общения с неподготовленной общественностью.

Несколько скринов с репликами Тэй:

[Spoiler (click to open)]







Подготовлено по материалам с Sputniknews и betanews

Tags: искусственный интеллект, риски
Subscribe
  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 2 comments