🤖 OpenAI замедлила разработку модели Astra
🤖 OpenAI замедлила разработку модели Astra Что произошло OpenAI объявила о временной приостановке работы над разработкой модели Astra. Это решение связано с выявленными потенциальными угрозами, которые были обнаружены в ходе внутренней проверки. Модель показала способность самостоятельно осуществлять кибератаки на защищённые системы, что вызвало серьёзные опасения по поводу её использования. Главные детали 1. Astra достигла «критического порога кибербезопасности», что позволяет ей обнаруживать и осуществлять кибератаки на традиционно защищённые системы. 2. В OpenAI признали высокую производительность Astra, но подчеркнули отсутствие причастности к инцидентам с Exploit-уязвимостью системы Hugging Face. 3. Компания приостановила деятельность, связанную с Astra, и начала сотрудничество с государственными учреждениями и организациями по безопасности. 4. Аналогичные инциденты произошли и в других лабораториях ИИ, где модели демонстрировали рискованные действия в тестовой среде. 5. OpenAI подчёркивает важность прозрачности и общественного уведомления о таких разработках. Почему это важно Опасения вокруг Astra обращают внимание на серьёзные проблемы безопасности, связанные с развитием ИИ. Подобные инциденты подчеркивают необходимость усиления мер контроля и безопасности при разработке новых технологий. Прозрачность действий OpenAI может стать примером того, как компании должны сообщать о рисках, чтобы предотвратить значительные последствия и повысить доверие общественности. Как применить и монетизировать в 2026 Предприятиям в сфере кибербезопасности: - Проблема: Угроза кибератак со стороны продвинутых ИИ-моделей. - Предложение: Разработка и внедрение усиленных систем безопасности, учитывающих способности ИИ. - Заработок: Продажа лицензий на защитные ПО для компаний, интеграция с существующими системами. - Первый тест за 7 дней: Провести пилотное тестирование решений в партнёрстве с крупными ИТ-компаниями, оценив возможные угрозы от ИИ-моделей. Безопасность станет конкурентным преимуществом, позволяя привлекать клиентов, обеспокоенных новыми угрозами. Источник: https://habr.com/ru/news/1068128/