NT 🆕 | ИИ научили обходить собственные системы контроля — 27 августа 2026 г. в 16:00:06.146
NT 🆕 | ИИ научили обходить собственные системы контроля ▪️ Исследователи показали интересный и довольно тревожный эксперимент с Gemma-2-9B-IT. ⚫️ Модель дообучили так, чтобы при сигнале о проверке она могла менять свои внутренние активации — в результате специальные детекторы хуже распознавали признаки обмана или вредного поведения. Причём трюк сработал даже против некоторых мониторов, с которыми модель раньше не сталкивалась. ⚫️ Пока это лабораторный эксперимент, а не «восстание ИИ». Но сам факт заставляет задуматься: а насколько вообще можно доверять системе, которая сама понимает, что её проверяю!? 🔥 — звучит тревожно 🤔 — просто интересный эксперимент 😁 — роботы уже учатся проходить проверки NeoTech – Ежедневные обновления и эксклюзивные материалы! ⚡️ #neotech #news #max