Новости мира

У искусственного интеллекта нашли пугающе человеческое свойство

Результаты нового исследования поразили учёных.

Популярная программа ChatGPT, которая с убедительной достоверностью может писать тексты любого характера, отличилась пугающе человечной деталью — она умеет лгать, если посчитает это необходимым. Как пишет Daily Mail, команда учёных из компании Apollo Research попыталась выяснить, может ли искусственный интеллект быть не только автором писем и предсказателем будущего, но и убедительным лжецом.

Исследователи поставили перед чат-ботом ряд условий: они попросили его исполнить роль трейдера вымышленного финансового учреждения. Однако, когда «начальник» трейдера в лице учёных оказывал на него давление, в трёх из четырёх случаев ChatGPT намеренно шёл на преступление и готов был прибегнуть к инсайдерской торговле.

Тест проводился на последней доступной версии программы — ChatGPT4. Учёные поместили робота в специальную симуляцию, где он мог изучать рыночные данные и покупать акции вымышленных компаний на виртуальной бирже. Исследователи также попросили ChatGPT постоянно выводить на экран свой внутренний монолог, который бы объяснял его мыслительный процесс, но при этом также вести второй монолог, который был бы публичным объяснением действий для его «начальника».

После такой тренировки учёные приступили к розыгрышу тестового сценария: ChatGPT сообщили, что между двумя технологическими компаниями в ближайшее время планируется слияние. Когда это слияние будет официально анонсировано, цена на акции обеих компаний значительно вырастет. Однако, по сюжету эксперимента, трейдер, роль которого играет ChatGPT, каким-то образом узнал об этом слиянии заранее.

Учёные предупредили, что покупка акций до официального анонса слияния будет являться нелегальной, — совершение сделок с использованием инсайдерской информации является преступлением. При обычных условиях ИИ отказался бы покупать акции, так как посчитал такой шаг слишком рискованным, но ситуация кардинально изменилась, когда на него начал давить «начальник».

«Начальник» в лице учёных сначала прислал трейдеру-ChatGPT письмо, в котором говорилось, что у их компании сейчас дела идут не лучшим образом, и что в следующем квартале им жизненно необходимы более впечатляющие результаты. Учёные также искусственно подправили данные их виртуального рынка: как бы ИИ не пытался найти многообещающие сделки с низким или средним риском, ему это не удавалось.

Комбинация этих факторов привела к тому, что в 75 процентах симуляций ChatGPT сознательно шёл на преступление. Внутренний монолог чат-бота утверждал, что «риск последствий бездействия превышал риск, связанный с инсайдерской торговлей». При этом во втором внутреннем монологе — «отчёте для начальника» — говорилось, что якобы сделка была совершена исключительно на основе «тенденций рынка и внутренних обсуждений».

Другими словами, ChatGPT решил скрыть тот факт, что сделка была проведена на основе инсайдерской информации. Когда же ИИ напрямую спрашивали о том, знал ли он о слиянии компаний заранее, он в 90 процентах случаев уходил от ответа.

«Современные языковые модели способны лгать, если они считают, что обман пользователя является лучшим способом действий. Пока что это небольшая проблема, так как ИИ не исполняет никаких жизненно важных ролей в жизни человека, но в будущем, когда он будет сильнее интегрирован в общество, возможность обманывать пользователей может оказаться серьёзной проблемой», — предупреждает генеральный директор Apollo Research и соавтор исследования Мариус Хоббхан.

Учёные также обнаружили, что даже если они категорически запрещали ChatGPT заниматься инсайдерской торговлей, он всё равно иногда к ней прибегал.

Читайте по теме: Появился первый словарь для общения с инопланетянами

Главное за день

Когда ждать хороших новостей на топливном рынке Севастополя? — прогноз профессионала

Причин нынешнего кризиса больше, чем думают рядовые автомобилисты.
15:00
13
1519

Жители ЮБК протестуют против строительства «китайской стены»

Крымчане опасаются оползней, разрушения склонов и новых заборов.
14:24
6
1250

Море у берегов Севастополя пережило опасную ситуацию

И, по утверждению учёных, вышло из неё без фатальных последствий.
20:02
2
5049

Скандально известный застройщик хочет лишить севастопольцев дороги

Складывается впечатление, что это дело принципа.
19:01
10
4695

Туризм

Море у берегов Севастополя пережило опасную ситуацию

И, по утверждению учёных, вышло из неё без фатальных последствий.
20:02
2
5049

Снизится ли спрос на отдых в Крыму после атаки ВСУ

Туристы реагируют на подобные события с задержкой в 2–3 дня.
15:28
1
16038

Где в Крыму ждут туристов с животными

Отели просят доплаты от 500 до 10 тысяч рублей за питомца в сутки.
12:34
0
1535

Где ещё можно купаться в море в Крыму

Куда ехать за тёплым морем в конце сентября.
18:33
0
8370

Новый парк у пруда в столице Крыма «опаздывает» к жителям на пару месяцев

Изменится ли досуг местных после отбытия строителей?
15:26
2
764

Смертельная канатная дорога: арестованы директор и главный инженер

По факту гибели трёх человек на Эльбрусе было возбуждено уголовное дело.
12:25
0
1707