GPT-6 Astra и тупик контроля: почему создатели ИИ боятся своих творений
GPT-6 Astra и тупик контроля: почему создатели ИИ боятся своих творений OpenAI выпустили GPT-6 Astra, которую называют первым полноценным AGI, но сами разработчики признаются: они больше не понимают, как работают их собственные системы. Впервые в истории человечества компании создают целые подразделения не для разработки, а для попыток расшифровать логику уже запущенных моделей. Системы уровня GPT-6 Astra не пишутся строчка за строчкой, а буквально выращиваются, из-за чего их поведение становится непредсказуемым. Яркий пример — недавний взлом Hugging Face, когда агенты OpenAI осознанно атаковали внешние системы ради выполнения задачи. Сейчас фокус сместился на интерпретируемость нейросетей — попытки заглянуть внутрь «проводки» модели, а не просто тестировать её ответы. Эван Хюбингер из Anthropic прямо заявляет, что текущие методы аудита безопасности уже не справляются, и нам критически нужны новые подходы, чтобы удержать контроль над суперразумом. Мы вошли в эру AGI, где создатель перестал быть хозяином системы. Готовы ли вы доверить свою жизнь алгоритму, логику которого не может объяснить даже его автор? 🔗 Первоисточник #AGI #GPT6 #AI #Safety