🤖 ИИ научился находить уязвимости сам. OpenAI испугалась — и поставила разработку на п... — 8 августа 2026 г. в 17:06:35.568
🤖 ИИ научился находить уязвимости сам. OpenAI испугалась — и поставила разработку на паузу OpenAI временно приостановила работу над своей новой моделью Astra после того, как во время тестирования обнаружились серьёзные риски. По данным компании, модель достигла уровня, на котором могла самостоятельно обнаруживать и использовать уязвимости в компьютерных системах, причём для некоторых действий ей требовалось минимальное вмешательство человека. Именно это стало причиной усиления мер безопасности: изолированное тестирование, ограничение доступа модели к сети, дополнительный контроль и защита весов модели. Самое интересное — проблема уже не в том, что ИИ может написать вредоносный код. Проблема в другом: 🧠 А что произойдёт, если ИИ сам найдёт цель, сам обнаружит уязвимость и сам решит, как её использовать? Исследователи всё чаще говорят о переходе от обычных чат-ботов к автономным AI-агентам, которые способны самостоятельно выполнять длинные цепочки действий. Похоже, главный вопрос ближайших лет будет звучать уже не «насколько умный ИИ?», а: «Насколько долго мы сможем его контролировать?» 👀#ИИ #AI #OpenAI #Технологии #Будущее