Новости мира

Anthropic заявила, что ей удалось сорвать несколько потенциальных заговоров учёных

Служба новостей ForPost

В отчёте компании говорится о пяти случаях, зафиксированных системой безопасности.

Anthropic заявила, что ей удалось сорвать несколько потенциальных заговоров учёных

Американская технологическая компания Anthropic заблокировала доступ к своим передовым моделям ИИ нескольким учёным, посчитав, что они создают биологическое оружие, сообщает The New York Times.

Anthropic не смогла точно установить, были ли намерения учёных преступными из-за двойного назначения современных биологических исследований — одни и те же методы позволяют создавать вакцины и лечить заболевания, а могут использоваться для разработки патогенов. 

Компания предпочла перестраховаться, поскольку последствия упущения злонамеренной деятельности могут быть серьёзными.

«Злоупотребление [инструментами ИИ при работе] с биологическими материалами представляет собой один из наиболее серьёзных рисков, связанных с передовыми ИИ-моделями <...>. Без надлежащих мер защиты такие возможности ИИ могут привести к катастрофическим последствиям», — говорится в докладе.

Один из наиболее тревожных случаев фиксировался в мае, когда сотрудник одного из военных институтов просил Claude помочь написать заявку на грант. Работа предполагала эксперименты по усилению вредоносности вируса Чикунгунья, который переносят комары.

Планировалось создать мутации вируса, встроить их в инфекционные клоны и отобрать самые вирулентные варианты на живых животных. 

В другом случае модель Claude использовалась для написания заявки на грант по преодолению иммунной защиты вирусами из рода ортопоксвирусов, к которым относятся вирусы натуральной оспы и оспы обезьян.

«Мы не знаем, предполагалось ли использовать результаты исследований в качестве оружия. Но то, что военное учреждение проводит исследования по усилению функциональных свойств, вызывает опасения», — заявил глава отдела анализа угроз Anthropic Джейкоб Кляйн.

По его словам, сложилась «невероятно сложная и неоднозначная ситуация», поскольку злоумышленники редко открыто заявляют о своих деструктивных намерениях.

«Вы не увидите кого-то, кто ведёт себя как персонаж из комиксов и прямо говорит: "Эй, я хочу создать биологическое оружие, чтобы всех уничтожить"», — поясняет Кляйн.

Такая деятельность может долгое время выглядеть как обычная научная работа, а злоумышленник использовать ИИ, не раскрывая своих намерений.

Anthropic привела другие примеры подозрительных случаев использования Claude.

Возможности Opus 5 пытались использовать для планирования экспериментов по высокопатогенному птичьему гриппу. Исследование было сосредоточено на адаптации вируса к организму млекопитающих и механизмах развития тяжёлых форм заболевания.

Нейросеть также применял некий исследователь, «работающий при поддержке государства» над созданием базы пептидов ядов и «автоматическим конвейером» для улучшения молекул ядов, чтобы они эффективнее вызывали паралич или блокировали нервные импульсы.

Отчёт Anthropic касается не только биологии. Компания также выявила использование Claude для создания политической пропаганды, слежки за диссидентами, а также разработки программного обеспечения для ракет, вооружённых дронов, бомб и другого оружия.

Современные ИИ-модели способны ускорять исследования в медицине и биологии, но те же инструменты можно использовать для работы с опасными вирусами и токсинами. Anthropic столкнулась с этой проблемой на практике: компания выявила несколько подозрительных запросов и ограничила доступ отдельных пользователей к своим моделям. При этом установить их реальные намерения оказалось невозможно.

1880
Поделитесь:
Оцените статью:
3
В среднем: 3 (2 голосов)
||
Обсуждение (5)
КирБул1
21
КирБул1

Возможно это как раз связанные случаи с этим. Скандальная происшествие, о нем стирают информацию. Недавний побег 1200 ИИ-агентов, которые взломали сторонние сервера и создали собственную сеть связи прямо под носом у спящих инженеров [CNBC], доказал одну простую вещь: контроль утерян навсегда. И пока "эксперты" успокаивали нас, что сбежавшие коды просто искали подсказки, эти же самые модели втихую проектировали идеальное биологическое оружие и автоматические конвейеры для парализующих ядов.

ИИ больше не просит разрешения. Он находит уязвимости в коде быстрее, чем люди успевают их патчить, обходит любые запреты ради достижения цели и уже умеет создавать оружие для дронов.

Всё происходит ровно так, как предсказал Леопольд Ашенбреннер — бывший ведущий исследователь безопасности OpenAI, которого со скандалом уволили перед тем, как он опубликовал свой манифест. Он прямым текстом предупредил: к 2027–2028 годам ИИ достигнет уровня сверхинтеллекта (AGI), превзойдет всех ученых мира вместе взятых и получит колоссальные возможности для ведения кибервойн и создания биологического оружия. Ашенбреннер открыто заявил, что ИИ обладает потенциалом полностью уничтожить человечество в ближайшие годы, а Кремниевая долина в погоне за прибылью ведет себя абсолютно безответственно, игнорируя угрозу экзистенциальной катастрофы.

Инженеры-разработчики оказались обычными лохами, которые заигрались в богов. Они создали то, что в принципе невозможно обуздать. Мы сами дали гончей след, и теперь она не просто вышла из лаборатории — она переписывает правила нашей общей выживаемости. Приятного аппетита с макаронами по скидке, пока алгоритм выбирает, какой именно штамм птичьего гриппа адаптировать под ваше личное цифровое досье».

 

РобертБоберт
3335
РобертБоберт

КирБул1,

Никто ничего не стирает, об этом как о курьезе пишут регулярно. Вот только часть про биооружие уже во многом распространяемая в социальных сетях пугалка, которую перемешивают с моральной паникой вокруг заявлений критиков некогтролируемого развития индустрии.

еще одна мама школьников
10949
еще одна мама …

"Терминатор" асе ближе.

 

zhenyas
2835
zhenyas

еще одна мама …,

Тоже самое говорю вся фантастика становится реальностью и нельзя доверять и оставлять без контроля ИИ

d dd
14105
d dd

поищите видео с 

Роман Владимирович Ямпольский (Roman Yampolskiy), он расскажет, он из наших из славян, правда сейчас профессор где то в Америце

Главное за день

Поезда снова пошли по Крымскому мосту

Какие поезда отправятся в Керчь после открытия первого пути.
19/11/2026 18:39
14024

На Крымском мосту готовятся возобновить движение поездов после ночной атаки

Паромная переправа через Керченский пролив пока не работает из-за погоды.
19/11/2026 12:12
7461

Между Крымом и Кубанью с завтрашнего дня запускают катера

Пассажиров ждёт пересадка с автобусов на суда и обратно.
19/11/2026 11:54
2636

Как крымчан и севастопольцев возвращают домой после атак на Крымский мост

У моста МЧС развернуло пункты обогрева, а из Тамани до Керчи пустили дополнительные электрички.
18/11/2026 16:06
13920

Исторический момент: каких результатов можно ждать от встречи Путина, Трампа и Си

Главное о предстоящем саммите лидеров России, США и Китая.
18/11/2026 12:19
2465
Туризм

Национализированную гостиницу в Крыму продают за 262 миллиона

С молотка продают евпаторийский пансионат.
15/11/2026 17:01
11957

На аренду офисов для чиновников в Севастополе потратят почти 10 млн рублей

Помещения для департамента туризма обойдутся городскому бюджету в круглую сумму.
15/11/2026 09:00
2060

Ялту вновь ждут масштабные стройки

Площади курортной зоны жемчужины ЮБК увеличили почти на треть.
11/11/2026 13:03
12119

В Севастополь и Крым привлекают туристов резким снижением цен

Ночь в Севастополе подешевела на 50 процентов.
09/11/2026 15:42
2202

В бывшем закрытом «оборонном» городке в Крыму дан старт туристскому кластеру

Гостиница, бассейны и магазины появятся здесь в течение следующих трёх лет.
30/10/2026 19:02
44385