Anthropic пресекла попытки использовать ИИ для исследований, связанных с биологическим ...
Anthropic пресекла попытки использовать ИИ для исследований, связанных с биологическим оружием Anthropic сообщила о случаях, когда исследователи пытались использовать её ИИ-модели для работ, потенциально связанных с созданием биологического оружия. Компания не смогла однозначно установить намерения учёных и поэтому усилила ограничения на исследования двойного назначения. В отчёте также описаны случаи использования Claude для разработки обычного оружия и попытки обхода защитных механизмов. Подробности на сайте На данном примере мы видим, как развитие технологий опережает развитие систем их безопасности в гонке ИИ. Конкуренция на таком важном рынке может сыграть с нами злую шутку, друзья. АВС Автоматизация в Телеграмме | в VK
28 просмотров