Пентагон хочет получить от OpenAI ИИ, который вообще не будет отклонять запросы
Пентагон хочет получить от OpenAI ИИ, который вообще не будет отклонять запросы Рассекреченные в суде документы показали, что Пентагон обсуждал версию ИИ от OpenAI с минимальным количеством отказов на военные запросы. OpenAI и министерство обороны США заявили, что спорная формулировка была в черновике документа и не попала в подписанный контракт. Всплыло всё это после запроса издания The Intercept, поданного по закону о свободе информации. Материалы касались соглашений между Пентагоном и разработчиками ИИ, и один из опубликованных вариантов описывал работу по тестированию, оценке и доработке моделей OpenAI под оборонные задачи. Речь шла не о готовом продукте, а о промежуточной версии документа, которую ведомство составило до финальных правок. В черновике фигурировала идея отдельных моделей для государственных и национальных задач, которые: ▫️получали специализированную настройку под запросы военного характера; ▫️должны были заметно реже отклонять обращения от пользователей внутри ведомства; ▫️описывались формулировкой «минимальный уровень отказов» прямо в тексте документа; ▫️предполагали отдельный цикл тестирования и доработки под нужды Минобороны США. Для обычного чат-бота такая формулировка звучит примерно как просьба выключить внутреннего цензора и фигачить всё, что попросят, без лишних вопросов. Публичные модели годами тренируют на прямо противоположном поведении, поэтому подобная идея сразу считывается айтишной аудиторией как редкий кейс, а не рутинная строчка в техзадании. Стоит обратить внимание, что подобная формулировка на деле означала фактический отказ от базовых ограничений безопасности, встроенных в большинство публичных моделей, и поэтому черновик вызвал такой отклик после публикации. Представитель OpenAI Нейт Эванс заявил, что компания никогда не принимала условие о минимальном уровне отказов и подобного требования нет в подписанном соглашении. По его словам, опубликованный материал оказался более ранним черновиком Минобороны, подготовленным до того, как OpenAI внесла собственные правки. Компания подтвердила, что спорную формулировку отклонила на этапе согласования, поэтому в окончательный договор она не попала. Позиция OpenAI после публикации сводится к нескольким пунктам: ▫️компания не соглашалась на условие о минимальном уровне отказов; ▫️опубликованный текст представляет собой более раннюю редакцию Минобороны; ▫️в подписанном соглашении спорной формулировки нет; ▫️полный текст контракта компания публично так и не раскрыла. Пентагон подтвердил ту же версию событий. Представитель ведомства Тревор Тидеман сказал, что словосочетание «минимальный уровень отказов» отсутствует в действующих контрактах, а разночтения могли возникнуть из-за путаницы между рабочими материалами и окончательными соглашениями. Колорита добавил юрист оборонного ведомства, который сначала подтвердил подлинность и содержание спорного документа, а затем отозвал собственное заявление, что для подобных судебных бумаг случай нечастый. Для российских разработчиков нейросетей вся эта возня вокруг одной фразы любопытна сама по себе. Она показала, что даже крупные западные оборонные структуры не готовы публично признавать снятие ограничений с ИИ, хотя явно к этому склоняются на уровне черновиков и рабочих переписок. Тидеман также говорил, что собирается выяснить, каким образом спорный документ прошёл внутренние процедуры проверки и оказался среди материалов, переданных по запросу. Сам запрос The Intercept изначально был направлен на получение завершённых соглашений по военным ИИ-контрактам, а не промежуточных версий. После публикации в Пентагоне заявили, что выданный материал мог быть одной из предыдущих редакций, а не итоговым текстом договора. 🔗 Другие новости про хакеров, мошенников, утечки, ИБ, ИИ и ИТ можно прочитать здесь