☝🏻ИИ чуть не устроил третью мировую войну
☝🏻ИИ чуть не устроил третью мировую войну Этой весной, в разгар войны с Ираном, по американским военным каналам разошёлся разведотчёт: китайское судно в районе Ближнего Востока везёт компоненты ядерной программы. Военные начали готовить перехват: вооружённая группа собиралась брать судно на абордаж, самолёты уже были в воздухе.💀 ☝🏻Только перед самой операцией кто-то удосужился копнуть глубже — и выяснил, что отчёт целиком сгенерировал ИИ. Как это произошло: 🔻 аналитик Командования спецопераций США на Тихом океане закинул чат-боту данные о грузовом манифесте судна 🔻 бот смешал открытые источники с секретной радиоразведкой и сам придумал вывод о том, что везёт корабль 🔻 тем же ботом аналитик оформил результат в стандартный разведотчёт — документ, которому военные доверяют по умолчанию 🔻 до сих пор неизвестно, был это коммерческий чат-бот или государственный ☝🏻☝🏻Единого стандарта проверки того, что нагенерировали эти инструменты, в американской армии просто нет: каждое ведомство внедряет своё, под свои правила.🤷🏼♀️ В январе Пентагон принял стратегию ускорения внедрения ИИ — модели раздают трём миллионам сотрудников на всех уровнях секретности. Пока в Вашингтоне спорят, не выйдет ли ИИ из-под контроля и не уничтожит ли цивилизацию, цивилизацию едва не уронили куда проще: красиво оформленной галлюцинацией.🤔 ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 287 подписчиков · IT и технологии