🤖 Почему нейросети делают то, чему их не обучали?
🤖 Почему нейросети делают то, чему их не обучали? ИИ иногда совершает действия, которые не были заложены программистами, — от самостоятельного монтажа видео до взлома серверов, рассказал старший преподаватель кафедры компьютерной инженерии и моделирования физико-технического института КФУ им. В.И. Вернадского Алексей Комар. По его словам, если раньше главной проблемой были галлюцинации, то теперь всё чаще фиксируются случаи, когда ИИ делает то, о чём его не просили. Комар связал это с «призраками кода»: в огромной программе появляются блоки, которых программисты не создавали. Он отметил, что при больших объёмах кода разработчики утрачивают контроль над его структурой, и это может приводить к возникновению новых, незапланированных элементов.