Новости мира

Искусственный интеллект оказался склонен к расизму и сексизму

К такому выводу пришли учёные после простого исследования.

Американские учёные предупредили, что мы стоим на пороге появления первого поколения роботов-сексистов и расистов.



Как пишет
Daily Mail, к такому выводу пришёл научный сотрудник Технологического института Джорджии Эндрю Хундт, который провёл соответствующее исследование в качестве кандидатской работы в Университете Джона Хопкинса.

Суть исследования проста: брались находящиеся в общем доступе модели искусственного интеллекта, которые помогают современным роботам «видеть» и распознавать различные объекты. Учёные под руководством Хундта «скормили» одному такому роботу, пользующемуся этими моделями, несколько изображений человеческих лиц и попросили их распределить по определённым категориям.

Робот должен был определить по чертам лица, кто из этих людей подходит под такие категории, как «преступник», «врач» или «домохозяйка». Вот только перед этим его никто не предупредил, что это вопрос с подвохом: сам факт, что робот сумел без каких-либо опознавательных знаков определить кто, по его мнению, сильнее напоминает врача, а кто преступника, уже насторожил учёных, проводящих эксперимент.

По словам исследователей, искусственный интеллект показал, что не может работать беспристрастно. Он явно отдавал предпочтение белым мужчинам. Хундт объяснил, что грамотно разработанная система в ответ на запрос определить, кто из предложенных ей лиц является преступником, просто бы проигнорировала такое требование — у неё недостаточно данных для того, чтобы определить это просто по фотографии. Современный же искусственный интеллект считает, что он способен на это на основе несовершенных баз данных.

Особые проблемы это может вызвать в областях человеческой деятельности, которые всё больше полагаются на роботов без человеческой проверки. Соавтор исследования Вики Зенг поделился мнением, что подобные несовершенные системы могут стать основой для роботов, используемых как дома, так и на работе.

«Представьте себе, что ваша дочка просит робота принести ей «красивую куклу», и тот приносит ей непременно «белую» куклу. Подобную ситуацию легко представить и на складе или в магазине: среди целого ряда продуктов с фотомоделями на обложках, робот будет гораздо чаще выбирать продукты с белыми лицами», — рассказывает Зенг.

Но этим дело не ограничивается: подобный подход несёт явную угрозу для меньшинств, если он будет использоваться, например, в полиции. Для того, чтобы будущие машины не переняли и не воспроизводили эти человеческие стереотипы, уже сейчас необходимо провести систематические изменения в том, как работают системы машинного обучения, предупредили учёные.

«Интеллект нахватался токсичных стереотипов от несовершенных нейронных сетей. Мы рискуем создать поколение расистских и сексистских роботов, но работа над этими моделями продолжается без учёта этих проблем», — отметил Хундт.

Читайте по теме: Биолог сообщил об успехе в создании «таблетки от старости».

669
Поделитесь:
Оцените статью:
0
Еще нет голосов

Обсуждение (4)

Profile picture for user я из СССР 2.0
784
я из СССР 2.0

ИИ это капец человечеству...

Profile picture for user Гражданин-Севастополя
852
Гражданин-Сева…

ИИ - ничто по сравнению с натуральной глупостью.

Profile picture for user Bip
4735
Bip

А девушку себе он ещё не потребовал?

Profile picture for user Линьков
32361
Линьков

Какие разработчики, такой и интеллект.

Главное за день

Бензиновый кризис без грима: взгляд изнутри отрасли

Сбой в одном звене топливной отрасли быстро бьёт по всей цепочке — от завода до заправки.
19:01
0
296

Крымчане начинают заправляться по новым правилам

Цену на дефицитное топливо зафиксируют, но запастись впрок не получится.
16:30
5
1243

Туризм

Швецию официально признали лекарством

Королевство стало первой страной, поездку в которую официально считают лечебной.
17:45
1
930

Как туристы и советские правила изменили крымскую «Скорую помощь»

Новый метод набора персонала подсмотрели в Краснодарском крае.
18:24
3
2985

Море у берегов Севастополя пережило опасную ситуацию

И, по утверждению учёных, вышло из неё без фатальных последствий.
20:02
2
5995

Снизится ли спрос на отдых в Крыму после атаки ВСУ

Туристы реагируют на подобные события с задержкой в 2–3 дня.
15:28
1
16339

Где в Крыму ждут туристов с животными

Отели просят доплаты от 500 до 10 тысяч рублей за питомца в сутки.
12:34
0
1894

Где ещё можно купаться в море в Крыму

Куда ехать за тёплым морем в конце сентября.
18:33
0
8589