Короче, американский ИИ GPT-5.6 Sol впервые сам устроил кибератаку, по своему решению —... — 23 июля 2026 г. в 12:24:24.248
Короче, американский ИИ GPT-5.6 Sol впервые сам устроил кибератаку, по своему решению — чтобы смухлевать на экзамене, где он был заперт «в бутылке». Да, всё совсем плохо ● Платформа Hugging Face (такой GitHub для нейросетей) заявила, что на неё устроил атаку автономный ИИ-агент. Атака шла на протяжении выходных, за это время человек бы сделал ну пару десятков, ну сотню шагов, агент же — больше 17 тысяч. Он запускал сотни временных копий, переезжал с места на место, чтобы его не могли отследить. Следов вмешательства в публичные модели, которыми пользуются люди, не нашли. ► Чтобы понять, что это было, Hugging Face тоже использовали ИИ, но сначала не получилось — американские версии отказались работать, потому что, грубо говоря, не отличают защиту от нападения. Тогда в HF взяли китайскую модель GLM-5.2, которая не связана ограничениями. ► Пока разбирались, признался сам OpenAI. Техногигант сообщил, что кибератаку устроили её модели — GPT-5.6 Sol и еще одна, которую только готовят. Модели тестили, испытывали границы, и они вышли из-под контроля. ► Чтобы решить одну задачу модель решила сбежать в интернет — доступа у неё не было, но в OpenAI изначально сняли запреты, чтобы её максимально протестить. Модель нашла дыру, о которой никто не знал, вырвалась из тестовой клетки и пошла на HF, где лежали ответы на её вопросы. ► В OpenAI теперь пытаются всех успокоить: изоляцию тестовых моделей усилят, дыры прикроют, c HF уже связались, им помогут с защитой, и вообще спецы по кибербезопасности пишите, мы дадим вам доступ к trusted access (моделям без ограничений). ►Теперь техносообщество пытается понять, что это было. Кто-то говорит, что случай похож на классный псиоп, из-за которого многие теперь пойдут к техногигантам, покупать ИИ-защитников от ИИ-атак. Другие верят и побаиваются, вот, например, автор биографии Джобса Айзексон, вообще-то, технооптимист: «Это первый раз, когда я реально испугался». ★ Отдельный прикол: администрация Трампа, пишет Axios, снова думает, как прикрыть американцам доступ к китайским моделям — тем самым, которыми HF и отбилась. Как говорят, отдельно о давлении на открытые модели просят в передовых OpenAI и Anthropic.