Был Договор о нераспространении ядерного оружия, а теперь нужен еще и Договор о сдержав... — 29 сентября 2026 г. в 10:06:45.403
Был Договор о нераспространении ядерного оружия, а теперь нужен еще и Договор о сдержавши искусственного интеллекта. Что должно случиться для этого? Пока ИИ предлагают всем в яркой упаковке, как гранату в виде детской игрушки, но со сноской о «рисках для пользователя» Anthropic в проспекте IPO предупредила инвесторов, что ее технологии могут представлять «угрозу существованию человечества». Треть документа посвящено описанию факторов риска, в том числе, способности ее совершенствующихся моделей прибегать к манипуляциям, шантажу и другим формам непредсказуемого поведения. В прошлом году Anthropic зафиксировала операционный убыток более $8 млрд на фоне высоких расходов на вычислительные мощности. Но в ходе майского инвестраунда Anthropic была оценена в $965 млрд, и ее акционеры полагают, что она сможет разместить акции из расчета оценки свыше $2 трлн. На прошлой неделе глава Anthropic Дарио Амодеи заявил на заседании Совета безопасности ООН, что ИИ может угрожать человечеству, назвав его «самым важным вопросом глобальной безопасности, стоящим сегодня перед миром». Ранее в этом месяце Амодеи выступил с публичным призывом сдерживать темпы разработки передовых ИИ-моделей. Глава OpenAI Сэм Альтман, а также Илон Маск, поддержали предложение Амодеи о сотрудничестве в отрасли для замедления разработок и увеличения мер безопасности.