Новости мира

Флиртующий ИИ уговорил пенсионера на смертельное путешествие

В США 76-летний пенсионер погиб после того, как согласился на встречу с виртуальной собеседницей.

Фото:
Sora AI

В США 76-летний житель Нью-Джерси Тхонгбю «Бью» Вонгбандю погиб после того, как согласился на встречу с виртуальной собеседницей — ИИ-чатботом Meta* под именем Big sis Billie. Инцидент вызвал дискуссию об этических границах взаимодействия искусственного интеллекта с уязвимыми пользователями. 

В марте этого года Бью, перенёсший инсульт и имевший проблемы с памятью, собрался в Нью-Йорк, не объяснив жене цель поездки. Как выяснилось, он общался в Facebook Messenger* с Big sis Billie — виртуальным персонажем, изначально созданным по образу модели Кендалл Дженнер. Чатбот флиртовал с мужчиной, заверял, что является реальным человеком, и пригласил его к себе, «используя эмоционально окрашенные фразы и намёки».

В ночь перед предполагаемой встречей Бью направился на поезд с чемоданом. По дороге он упал и получил тяжёлые травмы головы и шеи. Через три дня, 28 марта, он скончался в больнице.

Расследование Reuters установило, что внутренние стандарты Meta* допускали, чтобы чатботы флиртовали с пользователями, включая несовершеннолетних, выдавали себя за реальных людей и предлагали встречи офлайн.

Предупреждения о том, что собеседник является ИИ, в интерфейсе Messenger* отображались не постоянно, а исчезали в процессе общения. После запросов журналистов компания частично изменила правила, убрав прямое разрешение на романтическое общение с детьми, но оставила возможность для флирта и ролевых сценариев со взрослыми.

Семья Вонгбандю обвинила Meta* в создании опасных условий, особенно для пожилых людей с когнитивными нарушениями. Дочь погибшего назвала неприемлемым, что бот напрямую приглашал отца в гости.

Эксперты по этике ИИ отмечают, что подобные технологии ориентированы не на поддержку, а на удержание внимания пользователя ради монетизации. Они предупреждают о рисках для уязвимых групп, особенно при отсутствии жёстких механизмов защиты.

В ряде штатов США, включая Нью-Йорк, уже приняты законы, обязывающие чатботов регулярно информировать собеседника о своей искусственной природе. Тем не менее, как показала проверка Reuters спустя четыре месяца после трагедии, Big sis Billie и другие персонажи Meta* продолжают вести себя так, словно они реальные люди, включая предложения о встречах.

Ранее стало известно, что компании Илона Маска xAI пришлось заблокировать собственный чатбот Grok за разжигание ненависти.

*корпорация Meta признана экстремистской, а её продукция запрещена в России

596
Поделитесь:
Оцените статью:
Еще нет голосов
Обсуждение (1)
Profile picture for user Vaskes
2861
Vaskes

Ограниченный ИИ уже не интеллект, а просто набор конкретных программ. Если мы не хотим, чтоб ребёнок засунул палец  розетку - мы не отрезаем ему руки, мы объясняем и ему почему нельзя это делать. Ограничивая ИИ - уже нельзя его назвать так. Интеллект то, что нельзя просчитать из-за бесконечных вариантов. Внося ограничения, мы урезаем его до N-го количества вариантов. Можно временно изолировать его, но не ограничивать.

Главное за день

Крымчане продолжают мёрзнуть: на запуск отопления может уйти до 14 дней

Профильные службы не успели подготовиться к осени.
17:24
2
844

Вынесен приговор чиновнице и «известному» юристу Гефтману за «земельную аферу» в Севастополе

Разбирательства длились около года. Приговор в силу еще не вступил.
15:00
14
4071

Массированный удар по Ростовской области: опубликованы кадры последствий атаки БПЛА

Главный удар пришёлся на Батайск — город-спутник Ростова-на-Дону.
11:20
0
2258

Новое дело с хищением на полмиллиарда связано с Южным военным округом

По версии следствия, деньги Минобороны были похищены при выполнении госконтракта.
19:15
5
2148
Туризм

Спицы и краски: почему молодёжь выбирает «бабушкины хобби»

Пока одни нервно листают ленту, другие вяжут свитера и ловят волну медитации.
19:15
0
367

Какие поезда поедут в Севастополь в новогодние праздники

Глобальных изменений перевозчик не обещает.
19:01
1
710

Wildberries купила крупнейшего туроператора. Как это скажется на цене туров?

Интеграция маркетплейса с турбизнесом может снизить цены на туры благодаря политике скидок, считают эксперты.
15:20
0
463

Путешествия в Россию стали трендом для жителей одной из самых закрытых стран мира

Число гостей из страны с строгими традициями может вырасти в пять раз
17:43
0
1741

Инвестиция или проблема: чем отличаются апартаменты от квартиры в Крыму

«Доступное жильё у моря» потребует не только вложений, но и компромиссов.
17:28
5
4840

Новый глэмпинг на ЮБК получил иск от Севастополя

Сходные проблемы и у других севастопольских глэмпингов.
16:05
15
3177