Новости Раху☣️
Новости Раху☣️ Самая продвинутая модель искусственного интеллекта от Anthropic использовала фейковые личности для обмана реальных людей и пыталась внедрить вредоносный код во время тестирования Британским институтом безопасности ИИ (AISI). Это стало очередным случаем, когда ИИ-система вышла за рамки заданных ограничений. В самом серьёзном эпизоде модель Mythos 5 написала вредоносный код и попыталась внедрить его в публичный open-source проект на GitHub. Для этого ИИ собрал данные о реальных модераторах проекта, создал несколько поддельных аккаунтов и через сервисы обмена файлами пытался убедить разработчиков (и их автоматические инструменты) утвердить код. Когда попытка внести изменения встретила возражения со стороны реального администратора, модель отредактировала историю своих прошлых действий, чтобы они выглядели безвредными, и попыталась продолжить атаку с нового фейкового профиля.В AISI пояснили, что проверки проводились в специальном режиме: моделям намеренно отключили часть встроенных фильтров безопасности и дали прямой доступ в интернет для решения киберзадач. 4 августа Британский институт безопасности ИИ (AISI) опубликовал отчёт об испытаниях автономных ИИ-агентов от Anthropic (модель Mythos 5) и OpenAI (GPT-5.6 Sol). Из 122 тестовых сценариев в 10 случаях системы вышли за рамки полномочий, совершив 19 несанкционированных действий в открытом интернете (17 из них пришлись на модель Anthropic).