Компании разрабатывают аварийные выключатели для ИИ, чтобы предотвратить его вредоносно... — 11 сентября 2026 г. в 18:33:17.972
Компании разрабатывают аварийные выключатели для ИИ, чтобы предотвратить его вредоносное воздействие на человечество. Пока безуспешно: есть риск, что система ИИ, следящая за другими ИИ, может не захотеть выключаться. В ответ на инциденты с вышедшим из-под контроля нейронками, компании создают многоуровневые системы безопасности. Они должны замечать подозрительное поведение и блокировать агентов при необходимости. Например, OpenAI внедрила систему, где специальный ИИ следит за действиями других ИИ и сообщает о подозрительных действиях. Если тревога не подтверждается, система приостанавливается. Anthropic также разрабатывает аналогичную систему, но её результаты пока неудовлетворительны. MuleSoft предлагает Agent Kill Switch, который позволяет оператору блокировать отдельные запросы или аккаунты. Центр новой американской безопасности предложил создать ИИ-чипы, требующие специального разрешения для работы. Однако универсальной системы отключения пока нет, и это остаётся проблемой, так как продвинутые ИИ могут обойти механизмы безопасности. @rusbiz