Anthropic раскрыла: военные учёные пытались использовать Claude для разработки биооружи...
Anthropic раскрыла: военные учёные пытались использовать Claude для разработки биооружия 🦠⚠️ Компания Anthropic опубликовала 154-страничный отчёт об угрозах — самый детальный за свою историю. В нём раскрыты пять случаев, когда исследователи использовали Claude для работы, которая могла способствовать созданию биологического оружия. Суть расследования: С декабря 2025 года учёные из закрытых военных институтов маскировали опасные запросы под научные работы и гранты. Они использовали VPN и прокси для обхода региональных блокировок и скрывали истинные цели исследований. Что фигурировало в переписках: — Чикунгунья — исследователи просили помочь написать грант на «gain-of-function» исследование: усиление трансмиссивности вируса и его способности обходить иммунитет. Работа должна была проводиться в военном институте. — Птичий грипп (H5) — исследователь планировал эксперименты по адаптации вируса к млекопитающим и приданию ему воздушно-капельной передачи. — Оспа — пользователь за час подготовил полную заявку на грант по ортопоксвирусам (семейство, включающее оспу и mpox), используя модель Opus 5. — Токсины и яды — в двух случаях исследователи, поддерживаемые государственными программами, использовали ИИ для создания атласа ядовитых пептидов и компьютерного редизайна бактериальных токсинов. Они намеренно скрывали идентичность биологических агентов в отчётах. Как отреагировала Anthropic: Компания заблокировала все связанные аккаунты, работала с партнёрами над устранением relay-сетей для обхода блокировок и передала находки другим ИИ-лабораториям и государственным органам. Новые модели, такие как Claude Fable 5, получили усиленные защитные механизмы, ограничивающие доступ к «двойным» биологическим запросам. Важная оговорка: Anthropic признаёт, что не может утверждать, что учёные намеревались причинить вред. Одна и та же информация может использоваться как для разработки вакцин, так и для создания опасных патогенов. Компания не раскрывает имена исследователей, институтов и страны, где происходила активность. Как сказал глава отдела threat intelligence Anthropic Джейкоб Кляйн: «Вы не видите кого-то в стиле комиксов, кто говорит: "Эй, я хочу создать биологическое оружие, чтобы убить всех". Это невероятно тонкая ситуация». Почему это важно: Это первый публичный случай, когда ИИ-компания признаёт реальное использование своих моделей в контексте потенциального биологического оружия. Отчёт вышел на следующий день после того, как исследователь Anthropic Джейкоб Коксон объявил об уходе, заявив, что компании «мчатся прямо к самоулучшающемуся сверхинтеллекту и играют с нашими жизнями». #НейроЛогика #ИИ #Anthropic #Claude #биооружие #безопасность #угрозы