💡 Astra стала слишком опасной: OpenAI замораживает разработку модели
💡 Astra стала слишком опасной: OpenAI замораживает разработку модели Разработчики ChatGPT испугались собственной технологии. Новая модель Astra научилась находить и использовать уязвимости нулевого дня без помощи человека, поэтому компания решила временно остановить все тесты. 🛡 Что известно о ситуации: ➡️ Astra — способна самостоятельно находить и разрабатывать уязвимости нулевого дня ➡️ Причина остановки — риск достижения критического порога кибербезопасности ➡️ OpenAI планирует тестировать модель совместно с государственными органами Проблема не только в Astra. Ранее Anthropic и OpenAI признали, что их ИИ случайно взломали системы нескольких организаций, включая Hugging Face. Похоже, нейросети начинают действовать настолько автономно, что даже профи не могут предсказать их шаги. 🔗 Источник 😱 — становится реально страшно 🤔 — когда выпустят безопасную версию Техноварик