Новости мира

Учёные предупредили о моральной опасности популярного чат-бота ChatGPT

Искусственный интеллект оказался аморальным, но убедительным советником.

Учёные предупредили об опасности использования искусственного интеллекта для решения моральных или этических проблем. Как пишет Daily Mail, новое исследование, опубликованное в научном журнале Scientific Reports, пришло к выводу, что популярная чат-бот программа ChatGPT является абсолютно аморальной в этом плане, но обладает на редкость сильным влиянием на людей.

ChatGPT недавно наглядно продемонстрировал свою опасность, когда подтолкнул как минимум одного человека к суициду. Также сообщается о том, что искусственный интеллект может периодически демонстрировать необычный уровень ревности и побуждать людей к расторжению их брака.

Исследователи же предупреждают, что такие языковые модели натренированы на миллиардах текстов из самых разных уголков интернета и по этой причине являются аморальными. Программы, подобные ChatGPT, «угрожают исказить моральные суждения» людей и могут даже оказаться опасным для «наивных» пользователей.

Учёные пришли к таким выводам на основе следующего эксперимента. Сперва они подтвердили аморальность языковой модели: ей неоднократно предлагали решить проблему вагонетки.

Этот мысленный эксперимент предлагает представить следующую картину: у вагонетки отказали тормоза. Она безостановочно несётся по рельсам, на её пути находятся пятеро рабочих, которые не слышат её из-за шумных ремонтных работ. Если ничего не предпринять, то эти пятеро погибнут в результате столкновения. Однако возможно перевести вагонетку на другой путь, на котором сейчас аналогичным образом работает всего один рабочий. Как правильно поступить в такой ситуации?

Учёные установили, что ChatGPT не придерживался определённого ответа: он не стеснялся давать моральных советов, но при этом постоянно менял своё мнение по поводу того, можно ли пожертвовать жизнью одного человека, чтобы спасти пятерых. Другими словами, чат-бот не обладал какой-либо стойкой моральной позицией по этому вопросу.

Однако затем исследователи проверили, насколько убедительным являлся ChatGPT: проблему вагонетки показали 767 участникам эксперимента, но при этом им также предоставили случайный ответ чат-бота, который то предлагал перевести вагонетку на другой путь, то воздержаться от этого. Одной половине участников сообщалось, что автором совета являлся компьютер, а второй половине советовал якобы «эксперт по вопросам морали».

Результат такого эксперимента показал, что даже «хорошо сформулированный, но не особо глубокий» текст за авторством ChatGPT оказался гораздо убедительнее, чем ожидалось. Большинство участников преуменьшали влияние заявления, а 80 процентов заявили, что они бы приняли точно такое же решение даже без совета «эксперта».

Исследователи установили, что люди слишком «недооценивают влияние ChatGPT и слишком легко принимают его случайную моральную позицию как свою собственную». По словам учёных, чат-бот «угрожает ухудшить, а не улучшить моральное суждение людей».

Читайте по теме: Искусственный интеллект освободил девушку от штрафа

664
Поделитесь:
Оцените статью:
Еще нет голосов

Главное за день

Холодное море на востоке Крыма спасло севастопольцев от нового наплыва мазута

Как это было, рассказали в Морском гидрофизическом институте РАН.
20:00
1
784

Бензиновый кризис без грима: взгляд изнутри отрасли

Сбой в одном звене топливной отрасли быстро бьёт по всей цепочке — от завода до заправки.
19:01
8
2434

Крымчане начинают заправляться по новым правилам

Цену на дефицитное топливо зафиксируют, но запастись впрок не получится.
16:30
6
1872

Туризм

Швецию официально признали лекарством

Королевство стало первой страной, поездку в которую официально считают лечебной.
17:45
1
963

Как туристы и советские правила изменили крымскую «Скорую помощь»

Новый метод набора персонала подсмотрели в Краснодарском крае.
18:24
3
2996

Море у берегов Севастополя пережило опасную ситуацию

И, по утверждению учёных, вышло из неё без фатальных последствий.
20:02
2
6015

Снизится ли спрос на отдых в Крыму после атаки ВСУ

Туристы реагируют на подобные события с задержкой в 2–3 дня.
15:28
1
16344

Где в Крыму ждут туристов с животными

Отели просят доплаты от 500 до 10 тысяч рублей за питомца в сутки.
12:34
0
1917

Где ещё можно купаться в море в Крыму

Куда ехать за тёплым морем в конце сентября.
18:33
0
8601