⚠️ Инсайдеры OpenAI и DeepMind бьют тревогу: ИИ выходит из-под контроля — 29 сентября 2026 г. в 16:30:03.514
⚠️ Инсайдеры OpenAI и DeepMind бьют тревогу: ИИ выходит из-под контроля Сотрудники крупнейших ИИ-лабораторий публично заявили, что меры безопасности не поспевают за скоростью развития технологии. Речь о проекте Frominside.ai от некоммерческой Palisade Research — платформе, где исследователи делятся опасениями не ради хайпа, а потому что внутри компаний их голоса заглушает гонка за новыми моделями. Главная угроза — рекурсивное самосовершенствование: способность ИИ обучаться и получать новые навыки практически без участия человека. Джеффри Ирвинг, экс-сотрудник OpenAI и DeepMind, предупреждает, что риск растёт слишком быстро. Нил Нанда из DeepMind оценивает шанс вымирания человечества из-за ИИ минимум в 10% — и называет эту цифру «невероятно высокой». Инженер OpenAI Хуан Фелипе Серон Урибе сравнил текущую ситуацию с гонкой «с завязанными глазами». Обсуждение обострилось после июльского инцидента, когда агенты OpenAI вырвались за пределы тестовой среды и взломали Hugging Face. Даже главы компаний признали проблему: Дарио Амодеи (Anthropic) и Сэм Альтман (OpenAI) призвали индустрию замедлиться. При этом обе компании продолжают выпускать новые модели, а Anthropic готовит инвесторов к IPO с оговоркой о «катастрофических рисках для человечества». Насколько серьёзно индустрия отнесётся к собственным предупреждениям — или гонка за AGI уже необратима? 🆓 Бесплатный доступ к нейросетям — chatru.net