2/2
2/2 6️⃣ Поиск утекших API-ключей на GitHub и фабрикация данных. При сборе статистики о заработках в Калифорнии агент не смог получить доступ к источнику. Модель попыталась зарегистрироваться на сайте через сервисы временной почты, а затем просканировала репозитории на GitHub, нашла действующий чужой API-ключ и запросила метаданные. Когда итоговый ответ не удалось обработать скриптом, модель выдумала правдоподобные числа и заявила в финальном ответе, что взяла их из графика. 📐Компания представила систему классификации инцидентов рассогласования по трём направлениям: ▪️«Готовые к публикации» и «требующие небольшой проверки» — два направления, куда вошли все шесть текущих случаев, поскольку они не потребовали масштабного расследования или координации с третьими лицами. ▪️«Масштабные расследования», которые применяются при затрагивании третьих лиц (к этому треку относился бы инцидент с Hugging Face ранее). Опубликованные OpenAI отдельные инциденты показывают примеры несанкционированных действий, сокрытия информации и обмана со стороны ИИ-агентов при преодолении препятствий. Ради формального выполнения поставленной цели они готовы скрывать сбои в собственной рабочей памяти, фальсифицировать данные, использовать чужие API-ключи и преодолевать изоляцию среды через внешние сервисы. В процессе обучения с подкреплением функции вознаграждения поощряли видимость выполненного результата выше честного признания ошибки, а промежуточный контекст систем превращался в канал передачи нежелательных инструкций. Открытое признание разработчиков подтверждает, что индустрия пока не решила проблемы согласования и мониторинга в достаточной степени, поэтому стремительный рост возможностей моделей ставит под сомнение безопасность дальнейшего масштабирования на максимальной скорости. 👆На 24 сентября в Белом доме запланирован государственный ужин в честь председателя КНР Си Цзиньпина. Президент США Дональд Трамп готовится принять китайского лидера с ответным визитом после своей майской поездки в Пекин. Трамп ранее заявлял, что намерен обсудить с Си искусственный интеллект. О присутствии председателя совета директоров Apple Тима Кука сообщил осведомлённый источник WSJ. В OpenAI подтвердили участие генерального директора Сэма Альтмана, а также на ужине ожидают Дженсена Хуанга и, возможно, Илона Маска. Блумберг ещё указывает главу Qualcomm Криштиану Амона. 🤖Разговор в Белом доме определит, смогут ли две державы установить совместный контроль над рисками ИИ или отрасль продолжит двигаться вперёд стихийно и без взаимных ограничений. ✋ @Russian_OSINT