Флиртующий ИИ уговорил пенсионера на смертельное путешествие

В США 76-летний житель Нью-Джерси Тхонгбю «Бью» Вонгбандю погиб после того, как согласился на встречу с виртуальной собеседницей — ИИ-чатботом Meta* под именем Big sis Billie. Инцидент вызвал дискуссию об этических границах взаимодействия искусственного интеллекта с уязвимыми пользователями. 

В марте этого года Бью, перенёсший инсульт и имевший проблемы с памятью, собрался в Нью-Йорк, не объяснив жене цель поездки. Как выяснилось, он общался в Facebook Messenger* с Big sis Billie — виртуальным персонажем, изначально созданным по образу модели Кендалл Дженнер. Чатбот флиртовал с мужчиной, заверял, что является реальным человеком, и пригласил его к себе, «используя эмоционально окрашенные фразы и намёки».

В ночь перед предполагаемой встречей Бью направился на поезд с чемоданом. По дороге он упал и получил тяжёлые травмы головы и шеи. Через три дня, 28 марта, он скончался в больнице.

Расследование Reuters установило, что внутренние стандарты Meta* допускали, чтобы чатботы флиртовали с пользователями, включая несовершеннолетних, выдавали себя за реальных людей и предлагали встречи офлайн.

Предупреждения о том, что собеседник является ИИ, в интерфейсе Messenger* отображались не постоянно, а исчезали в процессе общения. После запросов журналистов компания частично изменила правила, убрав прямое разрешение на романтическое общение с детьми, но оставила возможность для флирта и ролевых сценариев со взрослыми.

Семья Вонгбандю обвинила Meta* в создании опасных условий, особенно для пожилых людей с когнитивными нарушениями. Дочь погибшего назвала неприемлемым, что бот напрямую приглашал отца в гости.

Эксперты по этике ИИ отмечают, что подобные технологии ориентированы не на поддержку, а на удержание внимания пользователя ради монетизации. Они предупреждают о рисках для уязвимых групп, особенно при отсутствии жёстких механизмов защиты.

В ряде штатов США, включая Нью-Йорк, уже приняты законы, обязывающие чатботов регулярно информировать собеседника о своей искусственной природе. Тем не менее, как показала проверка Reuters спустя четыре месяца после трагедии, Big sis Billie и другие персонажи Meta* продолжают вести себя так, словно они реальные люди, включая предложения о встречах.

Ранее стало известно, что компании Илона Маска xAI пришлось заблокировать собственный чатбот Grok за разжигание ненависти.

*корпорация Meta признана экстремистской, а её продукция запрещена в России