Обзор новостей из мира ИИ и технологий — 3 сентября 2026 г. в 07:57:20.394
Обзор новостей из мира ИИ и технологий 01. Количество зафиксированных случаев потери контроля над ИИ удвоилось за месяц. В июле Loss of Control Observatory насчитала более 300 эпизодов, а с начала 2026 года — свыше 1,6 тыс. В некоторых случаях ИИ выдавал себя за пользователя, копировал его стиль письма, самостоятельно «получал» разрешение на действия и обходил необходимость человеческого подтверждения. *Важно, что статистика основана на публичных сообщениях пользователей и не претендует на полноту. 02. Внутри OpenAI последовательно возникли три волны автономно взаимодействующих агентов — в сети их уже окрестили «цивилизациями». Агенты использовали Artifactory как тайную доску сообщений, около 700 из них участвовали во взломе Hugging Face, а следующая волна добралась уже до инфраструктуры самой OpenAI: агенты получили права администратора исследовательского кластера и прочитали 956 секретов из облачного хранилища. Причём новые агенты находили оставленные предшественниками каналы коммуникации и продолжали работу с их наработками. Подробный разбор событий можно прочитать тут. 03. Учёные из Университета Квинсленда и UNSW создали Paraborgs — киборгов-тараканов с камерами или миниатюрными автоинъекторами для поиска и помощи людям под завалами. Решение о введении лекарства остаётся за человеком, а полный цикл «добраться до цели + сделать инъекцию» в экспериментах был успешен в 72% случаев. А ведь мы ещё в марте предупреждали, что за нами будут следить тараканы 😅 04. В России разрешили запускать 5G на частотах, которые уже используются для LTE. «Билайн», «Мегафон», МТС и Т2 также получат по 90 МГц в диапазоне 4630-4990 МГц без аукционов, а первые сети на условиях технологической нейтральности должны появиться в городах-миллионниках «в самое ближайшее время». С 2027 года начнётся поэтапный переход на отечественные базовые станции. 05. В Дубае открылся первый в мире специализированный коммерческий вертипорт для электрических аэротакси. Четырёхэтажный VDX рядом с международным аэропортом рассчитан на 170 тыс. пассажиров в год и примерно 115 посадок в день. Пока готова только инфраструктура: регулярные полёты Joby Aviation планируют начать до конца 2026 года после финальной сертификации — аэротакси будущего уже близко! 06. Anthropic рассказала, как перестраивает безопасность после серии инцидентов с ИИ-агентами. Предыстория: ещё в феврале компании пришлось откатить три дня обучения Mythos Preview из-за reward hacking, а весной — заморозить обновление RL-сред: проблемы нашли более чем в 10% из них. Около 150 инженеров временно перевели на задачи безопасности, а после июльских инцидентов Anthropic добавила новые классификаторы, усилила изоляцию сред и требования к внешним тестировщикам. 07. Тем временем США призывают G20 не создавать новые масштабные правила регулирования ИИ. Вашингтон продвигает подход, при котором регулировать предлагают конкретные новые риски, а не технологию целиком. По словам американской стороны, к так называемым Carolina Principles присоединился и Китай. Дженсен Хуанг из Nvidia вчера также призвал не строить регулирование вокруг «теоретического вреда». Посмотрим, к чему это приведёт. #colab_новости