Главу СПЧ Валерия Фадеева возмутило, что голосовые помощники «Алиса» и «Маруся» от «Яндекса» и VK уходят от ответов на политические вопросы, пишет РБК.
По словам Фадеева, российские голосовые помощники стесняются отвечать на вопросы: «Чей Донбасс?» и «Что случилось в Буче?»
Глава СПЧ уверен, что «это не вопрос цензуры, это вопрос отношения нации к своей истории».
В то же время в чат-боте ChatGPT от американской компании OpenAI можно подискутировать и найти ответы на политические темы, указал Фадеев.
Там информация подаётся довольно обтекаемо, говорит он, но «ответ есть».
«Я думал, что это будут жёсткие пропагандистские ответы, но нет: мнение с одной стороны, с другой стороны, есть дискуссия», — констатирует Фадеев.
Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов, отвечая на критику, призвал не искать идеологическую подоплёку.
Он поясняет: нейросеть в ответах подставляет слова, подражая всем увиденным текстам. А чтобы ответы не были одинаковыми, используется алгоритм случайности, из-за этого ответы могут быть противоположными, в том числе и «абсолютно радикальными по смыслу».
В «Яндексе» также подчеркнули, что ответы не редактируются. И если некоторые ошибки не существенны, то другие могут привести к административной или вовсе уголовной ответственности.
«Уход от ответа — лучшее, что мы можем сделать сейчас, — считает он. — Потому что, если бы мы отвечали плохо, нас бы вообще запретили, скорее всего», — подытожил Крайнов.
Такая трактовка не удовлетворила члена СПЧ Игоря Ашманова. Он обратил внимание, что «Алиса» и «Маруся» позиционируются как «детский компаньон»:
«Все остальные детские продукты у нас специально проверяются, а этот — нет. И вот ребёнку бессмысленно говорить "знаешь, по одному источнику, это русские всех убили в Буче, а по-другому — это фальсификация американцев и хохлов"».
Ашманов уверен, что в разговорах об истории у ребёнка должен быть один ответ:
«Нельзя, если ты даже с подростком разговариваешь, давать ему много точек зрения», — заявил член СПЧ.
Он подчеркнул, что решения должны принимать люди, а не алгоритмы, поскольку «на стороне алгоритмов нет ответственности».
Из-за ответов «Алисы» «Яндекс» также попал под гневный прессинг зампреда Совета безопасности Дмитрия Медведева. В своём Telegram он рассказал, как пытался выяснить у YandexGPT ответы на три вопроса:
- когда в США принят закон об изъятии российских активов;
- где на Украине расположены памятники Степану Бандере;
- каково расстояние между Киевом и Белгородом по прямой.
Первые два вопроса умная колонка проигнорировала, на третий сначала ответила «429 км», а при повторном запросе «включила дурку».
Медведев иронично подметил: то ли переживают «за клиентов, кто не любит Россию», то ли «боятся, что данными <…> воспользуется Генштаб России для планирования своих ударов».
По мнению зампреда Совета безопасности, политика компании подрывает доверие не только к продуктам «Яндекса», но и ко всей компании.
Ранее на станцию «Алиса» от «Яндекса» жаловалась детский омбудсмен Петербурга Анна Митянина.
Претензия чиновницы заключалась в следующем: на вопрос про девочку из мультфильма «Маша и Медведь», станция отвечала, что это «призрак убитой девочки» — поэтому она не растёт и видеть её могут только животные.
