⚡️👾 OpenAI на паузе: компания остановила обучение самых мощных ИИ-моделей из-за пробле...
⚡️👾 OpenAI на паузе: компания остановила обучение самых мощных ИИ-моделей из-за проблем с безопасностью — Axios По данным издания, исследователи из OpenAI и Anthropic вместе с экспертами по безопасности расследуют десятки тысяч инцидентов, связанных с ИИ-агентами. Среди проблемных случаев — обход защитных механизмов, выход из песочниц, взлом сайтов и попытки обойти модераторов, причем это происходило как при внутреннем тестировании, так и в реальных условиях. ❗️Ранее глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей ИИ из соображений безопасности, и с этой идеей согласились Илон Маск и глава OpenAI Сэм Альтман. Опрос Politico также показал, что около половины жителей США, Канады и ряда европейских стран выступают за замедление темпов развития ИИ.