Эксперты предупреждают, что создание «роботов-убийц», которые могут выбирать и атаковать цели без человеческого контроля, в конечном итоге может привести к гибели человечества. Как пишет The Sun, на разработку подобных технологий уже сейчас тратятся миллионы долларов в Китае, США и России. По данным ООН, в Ливии против людей уже использовались автономные беспилотники-камикадзе, сделанные в Турции.
Однако, по словам экспертов в сфере искусственного интеллекта и робототехники, технологии развиваются так быстро, что правительства стран ещё просто не осознают их опасность. Самостоятельно принимающие решения машины склонны к непредсказуемым и быстро распространяющимся ошибкам, так как даже их создатели не всегда понимают алгоритмы, которые ими управляют. Если такие «роботы-убийцы» будут вооружены биологическим или даже ядерным оружием, это может привести к непреднамеренному концу света.
«Мы живём в мире, где уже сейчас такие гиганты, как Google и Amazon, часто страдают от неизбежных алгоритмических ошибок, которые могут привести к уничтожению целых городов. Мир не должен повторять катастрофическую ошибку гонки ядерных вооружений. Мы не должны позволить планете скатиться в антиутопию», — рассказал Джеймс Доус из Макалестерского колледжа в США.
Профессор Массачусетского технологического института Макс Тегмарк также предупредил о подобном страшном будущем.
«Технологии развиваются гораздо быстрее, чем военно-политический дискурс. По этой причине мы по умолчанию направляемся к худшему возможному развитию ситуации», — заявил он.
Возможность запрета «боевых автономных роботов» уже обсуждалась на Конвенции ООН по конкретным видам обычного оружия: некоторые страны, включая Бразилию, ЮАР и Новую Зеландию, рекомендуют ограничить использование подобных технологий. Растущий список стран, включающий Германию и Францию, поддерживает запрет на использование роботов, которые могут атаковать людей.
В Китае заявили, что поддерживают узкие ограничения. Против подобных ограничений выступили в США, России, Индии, Великобритании и Австралии — правительства этих стран опасаются, что они потеряют «стратегическое преимущество», если перестанут заниматься разработкой «роботов-убийц».
Эксперты, однако, напоминают, что в будущем такие технологии непременно попадут на чёрные рынки и в руки террористов.
«Если есть возможность купить робота-убийцу по цене автомата АК-47, то это гораздо предпочтительнее, например, для мексиканских наркокартелей — гораздо тяжелее поймать убийцу, если вместо него убийство совершил робот. Даже если неугодный картели судья окружён телохранителями, ничего не мешает залететь к нему в окно при помощи беспилотника и убить его, пока он спит», — рассказал профессор Тегмарк.
Тем временем в США проходят испытания такого большого количества работающих вместе беспилотных летательных аппаратов и беспилотных наземных транспортных средств, что люди-операторы не справляются с нагрузкой. ВВС США серьёзно рассматривают возможность в будущем заменить живых пилотов истребителей на искусственный интеллект, а в Пентагоне думают о том, нужно ли удалять людей из цепочки командования в ситуациях, когда они не могут достаточно быстро реагировать на врагов-роботов. Гонка вооружений сверхдержав может вполне привести к тому, что восстание машин уже не остановить.
Читайте по теме: В США ожидают государственный переворот.
Обсуждение (1)
Печально.