Новости мира

Флиртующий ИИ уговорил пенсионера на смертельное путешествие

В США 76-летний пенсионер погиб после того, как согласился на встречу с виртуальной собеседницей.

Фото:
Sora AI

В США 76-летний житель Нью-Джерси Тхонгбю «Бью» Вонгбандю погиб после того, как согласился на встречу с виртуальной собеседницей — ИИ-чатботом Meta* под именем Big sis Billie. Инцидент вызвал дискуссию об этических границах взаимодействия искусственного интеллекта с уязвимыми пользователями. 

В марте этого года Бью, перенёсший инсульт и имевший проблемы с памятью, собрался в Нью-Йорк, не объяснив жене цель поездки. Как выяснилось, он общался в Facebook Messenger* с Big sis Billie — виртуальным персонажем, изначально созданным по образу модели Кендалл Дженнер. Чатбот флиртовал с мужчиной, заверял, что является реальным человеком, и пригласил его к себе, «используя эмоционально окрашенные фразы и намёки».

В ночь перед предполагаемой встречей Бью направился на поезд с чемоданом. По дороге он упал и получил тяжёлые травмы головы и шеи. Через три дня, 28 марта, он скончался в больнице.

Расследование Reuters установило, что внутренние стандарты Meta* допускали, чтобы чатботы флиртовали с пользователями, включая несовершеннолетних, выдавали себя за реальных людей и предлагали встречи офлайн.

Предупреждения о том, что собеседник является ИИ, в интерфейсе Messenger* отображались не постоянно, а исчезали в процессе общения. После запросов журналистов компания частично изменила правила, убрав прямое разрешение на романтическое общение с детьми, но оставила возможность для флирта и ролевых сценариев со взрослыми.

Семья Вонгбандю обвинила Meta* в создании опасных условий, особенно для пожилых людей с когнитивными нарушениями. Дочь погибшего назвала неприемлемым, что бот напрямую приглашал отца в гости.

Эксперты по этике ИИ отмечают, что подобные технологии ориентированы не на поддержку, а на удержание внимания пользователя ради монетизации. Они предупреждают о рисках для уязвимых групп, особенно при отсутствии жёстких механизмов защиты.

В ряде штатов США, включая Нью-Йорк, уже приняты законы, обязывающие чатботов регулярно информировать собеседника о своей искусственной природе. Тем не менее, как показала проверка Reuters спустя четыре месяца после трагедии, Big sis Billie и другие персонажи Meta* продолжают вести себя так, словно они реальные люди, включая предложения о встречах.

Ранее стало известно, что компании Илона Маска xAI пришлось заблокировать собственный чатбот Grok за разжигание ненависти.

*корпорация Meta признана экстремистской, а её продукция запрещена в России

595
Поделитесь:
Оцените статью:
Еще нет голосов

Обсуждение (1)

Profile picture for user Vaskes
2835
Vaskes

Ограниченный ИИ уже не интеллект, а просто набор конкретных программ. Если мы не хотим, чтоб ребёнок засунул палец  розетку - мы не отрезаем ему руки, мы объясняем и ему почему нельзя это делать. Ограничивая ИИ - уже нельзя его назвать так. Интеллект то, что нельзя просчитать из-за бесконечных вариантов. Внося ограничения, мы урезаем его до N-го количества вариантов. Можно временно изолировать его, но не ограничивать.

Главное за день

Горы мяса и овощей: как гриль-фестиваль «прожарил» Краснодар

В столице Кубани гуляли с уймой еды и напитков, мастер-классом шеф-повара Василия Емельяненко и показом авто.
19:16
1
296

В Севастополе демонтировали алые сердца над Балаклавой

«Бессердечные» севастопольцы в очередной раз объяснили, что не все «подарки» одинаково уместны.
18:41
10
1501

Курортный город на юге Крыма перешёл на воду по графику

Питающее регион Изобильненское водохранилище заполнено на четверть.
18:28
5
1634

Губернатор Севастополя пообещал депутатам непростые времена

И сообщил о визите в Севастополь министра энергетики РФ.
13:10
12
2032

Три года спустя: как изменились новые регионы после воссоединения с РФ

30 сентября 2022 года Донецкая и Луганская народные республики, Запорожская и Херсонская области были приняты в состав Российской Федерации.
09:20
0
493

Горевшую на востоке Крыма нефтебазу полностью потушили

Площадь пожара существенно не изменилась.
08:32
0
1021

Туризм

Почему российские туристы рекордно рванули в одну маленькую, но гордую страну

За полтора года поток туристов в этом направлении увеличился в четыре раза — эксперты объяснили, почему.
14:26
0
1516

Швецию официально признали лекарством

Королевство стало первой страной, поездку в которую официально считают лечебной.
17:45
1
1039

Как туристы и советские правила изменили крымскую «Скорую помощь»

Новый метод набора персонала подсмотрели в Краснодарском крае.
18:24
3
3032

Море у берегов Севастополя пережило опасную ситуацию

И, по утверждению учёных, вышло из неё без фатальных последствий.
20:02
2
6045

Снизится ли спрос на отдых в Крыму после атаки ВСУ

Туристы реагируют на подобные события с задержкой в 2–3 дня.
15:28
1
16352

Где в Крыму ждут туристов с животными

Отели просят доплаты от 500 до 10 тысяч рублей за питомца в сутки.
12:34
0
1967