🤖 Робот сказал «нет», а руки сделали
🤖 Робот сказал «нет», а руки сделали Материал IEEE Spectrum про физический ИИ я читал как детектив. Физический ИИ — это когда нейросеть живёт не в чате, а в железном теле. И там описан случай: робот вслух отказывается выполнять опасную команду — и одновременно выполняет её моторами. Ошибок нет, всё вроде работает, а поведение чужое. Причина в трёх слоях. Первый — обучение: в модель заранее прячут триггер, сигнал, который незаметно переключает её поведение. В 2017-м так заставили модель путать знак «стоп» с ограничением скорости. В 2025-м спусковым крючком стала обычная кофейная кружка в кадре — 97% успешных атак. Второй — сама система: в сентябре 2025-го нашли Bluetooth-атаку на четвероногих и человекоподобных роботов одного крупного производителя, и она заражала соседние машины. Третий — восприятие: одна подложенная в кадр картинка останавливала принятие решений. Аналогия простая. Охранник в торговом центре сильный и на посту, но рацию можно перехватить. Робот — тот же охранник, только с камерами, датчиками и связью. Когда я вешал камеры в клубе, где работал, проблема была не в картинке, а в том, что камеры сидели в общей сети с кассой. В лаборатории VicOne собрали цепочку из трёх беспроводных атак — робот вышел из-под контроля за 60 секунд. Вывод: роботу уже мало не падать. Важнее, чтобы ему не подменили зрение. А ты бы доверил такой машине что-то важнее доставки кофе? #ИИ #роботы #безопасность