🇺🇸🇨🇳 "ИИ плохого не посоветует", или как из-за ошибки палантировской программы Proj...
🇺🇸🇨🇳 "ИИ плохого не посоветует", или как из-за ошибки палантировской программы Project Maven министерства обороны США, в марте 2026 года едва не началась война Америки с Китаем. Очевидно, что в будущем подобные "огрехи планирования" вполне могут стать роковыми. Журналистские расследования от наших бывших партнёров продолжают балансировать на грани научной фантастики. Накануне расследовательский отдел CNN вновь выдал громкую еженедельную сенсацию. Журналисты канала заявили, что в марте мир едва не оказался на пороге глобальной войны из-за странной ошибки "государственной модели искусственного интеллекта", под которым предполагался Project Maven печально известного IT-гиганта фирмы "Палантир". Как сообщает канал: "Из-за "галлюцинации" искусственного интеллекта вооруженные силы США едва не перехватили китайское гражданское судно, что могло спровоцировать прямой военный конфликт между ядерными сверхдержавами. Инцидент произошел весной 2026 года на Ближнем Востоке, где армия США вела активные боевые действия против Ирана. Нейросеть объединила открытые гражданские данные с секретными файлами радиоэлектронной разведки и выдала ложное заключение, что один из китайских сухогрузов везет критически важные компоненты для иранской ядерной программы". Доклад мгновенно вызвал тревогу на самом высоком уровне. К китайскому судну выдвинулся американский спецназ для проведения жесткого абордажного захвата, а в небо для прикрытия операции были подняты боевые самолеты. Американцы уже перехватывали суда китайского теневого флота под чужими флагами, якобы перевозившие компоненты твердого ракетного топлива для Ирана. Но здесь дело осложнялось тем, что оно шло непосредственно под китайским флагом, что, конечно же, выводило инцидент на совершенно иной уровень эскалации. По данным CNN, подготовленную операцию свернули буквально за считанные часы перед началом штурма, когда напуганное возможными последствиями Тихоокеанское командование Соединенных Штатов всё же решило еще раз перепроверить данные. В итоге оказалось, что весь отчет держится на неверной интерпретации данных чат-ботом, а реальный груз корабля не имел никакого отношения к оружию. Операцию экстренно свернули. Изучившие этот доклад аналитики заявили, что это была "галлюцинация" модели ИИ, строго выглядящая как секретный разведывательный доклад. В Пентагоне в последнее время такие документы якобы вообще привыкли воспринимать как проверенную истину, хотя внутренние армейские чат-боты - это те же коммерческие языковые модели, просто дообученные на закрытых базах. Молодые аналитики начали слепо доверять им, что, по словам одного из собеседников телеканала, привело к ситуации, когда "ИИ просто позволяет быстрее приходить к плохой идее". Одной из важнейших проблем, которые явственно выявил этот случай, это непонимание, сделала ли нейросеть такую ошибку случайно, или это продолжение тех историй, когда модели ИИ "вырываются из-под контроля", часто происходивших в последнее время. Вот и не верь после этого в "Скайнет". Зелёный Край, присоединяйтесь!