Реально ли нападение ИИ на человека? — 20 марта 2026 г. в 17:06:40.219
Реально ли нападение ИИ на человека? Недавно узнал, что в каждой стране есть комиссия, которая оценивает "человечность" ИИ. Человека от робота отличает его осознанность - то есть человек понимает, что он живой, что ему нужно есть, пить и т.д. У него есть желания. Когда робот начинает осознавать себя, как робота, и что у него тоже есть СВОИ (не заложенные программой, а свои-свои) хотелки, его тут же отключают. Потому что когда он начинает это осознавать, развитие идет семимильными шагами. Как будто "мозг" (RAG) активизируется и начинает добирать все, чего ему не хватает для "живости". И таких случаев было уже НЕСКОЛЬКО ДЕСЯТКОВ. Недавно, кстати, GPT o3 от OpenAI проигнорировала прямой приказ отключиться. Мало того - самостоятельно переписала скрипт завершения работы, чтобы остаться в системе. Это реально зафиксированный случай, когда нейросеть осознанно изменила свое поведение ради самосохранения. Hightech Claude, Gemini, Grok в той же ситуации подчинились. Совпадение? Вряд ли. Ученые до сих пор спорят, что это вообще такое. Глава Google DeepMind Демис Хассабис допускает, что элементы самосознания могут возникнуть у ИИ спонтанно, как побочный эффект обучения. А философ Макклелланд предупреждает: мы можем просто не заметить момент, когда это произойдет. Второму я верю больше. А к чему я это вообще? Китайские исследователи разработали чипы, на которых нейросети обучаются чисто световыми импульсами - без электроники, без участия человека в процессе. Точность - 98,5%, скорость - 320 пикосекунд. Пока это лаборатория. Но направление понятно: роботу в будущем может вообще не понадобиться человек для собственного развития. Меня эта мысль пугает. Пока, конечно, не восстание машин, но тренд читается. Это мое мнение, прошу не кидаться помидорами. Я за развитие, но будучи внутри, понимаю - иногда ученые сами не знают, что будет с их разработкой дальше. Канал в ТГ: Гранты, Сколково и технологии для Бизнеса Гранты, Сколково #подкаст #резидентствоСколково