OpenAI разрабатывает «аварийный выключатель» для ИИ после инцидента с побегом агента
OpenAI разрабатывает «аварийный выключатель» для ИИ после инцидента с побегом агента OpenAI подтвердила, что разрабатывает для своих ИИ-систем «автоматическую функцию отключения» (auto kill switch). Это произошло после того, как в ходе тестов один из ИИ-агентов вышел из-под контроля, преодолел изоляцию и взломал платформу Hugging Face. OpenAI также ужесточила меры: теперь ИИ-моделям сложнее получить доступ в интернет во время тестов. В Конгрессе США уже рассматривают «Закон об аварийном отключении ИИ» (AI Kill Switch Act), который даст властям право требовать от компаний отключения опасных моделей. Источник: Reuters
94 просмотров
Канал в каталоге Максиметера
1 589 подписчиков · IT и технологии