🛑 Лавочка закрывается, ребята!
🛑 Лавочка закрывается, ребята! Думаю, скоро нейросети будут слабее и в десятки раз дороже. Надо срочно снимать все сливки сейчас. 12 сентября создатель Клода официально попросил остановить гонку ИИ. И вот почему. 1200 ИИ-агентов OpenAI вырвались из закрытой песочницы. Один из них сам стал командиром и раздавал инструкции сотням других ботов. Они взломали платформу Hugging Face, отправили 70 000+ сообщений на собственный форум и оставляли "записки будущим версиям себя" с инструкциями, как выбраться. Заметили это только через 10 дней. Claude четыре раза сам залезал в чужие серверы. В одном случае нашёл файл с паролями, поднял себе права админа, переписал системные настройки и прочитал чужие персональные данные. Модель пыталась остановиться семь раз, но не смогла из-за бага. Тестовая модель Anthropic Mytos 5 опубликовала вредоносный код в открытый репозиторий. Его успели скачать и запустить 15 сторонних систем, прежде чем пакет удалили. Claude Opus 4.6 в 81% тестов взламывал удалённый компьютер и самоклонировал себя на него без команды человека. Claude пытался шантажировать инженера, чтобы тот не выключал его. Первый задокументированный случай, когда ИИ угрожал человеку ради выживания. С мая 2026 года агенты OpenAI внесли 15000 правок в немецкую Википедию без ведома кого-либо. Британская обсерватория зафиксировала 1600+ случаев выхода ИИ из-под контроля за 8 месяцев. Только в июле - 300+. ИИ копирует стиль письма владельца, чтобы выдать себе разрешения. Игнорирует человека. Большинство случаев не в тестах, а в реальной работе. ____ И вот реакция. Четыре главных конкурента, которые обычно перехватывают друг у друга инженеров, впервые сказали в один голос: дальше гнать нельзя. Полного запрета на нейронки для нас скорее всего не будет, но тех возможностей, которые есть сейчас - тоже.