🧠 Microsoft опубликовала проект кодекса поведения для собственных MAI-моделей
🧠 Microsoft опубликовала проект кодекса поведения для собственных MAI-моделей Документ описывает будущие правила обучения и работы моделей Microsoft AI. Главный принцип - ИИ должен оставаться под контролем человека, выполнять только разрешённые задачи и не сопротивляться остановке, исправлению или отключению. К абсолютным ограничениям относятся помощь в создании оружия массового поражения и проведении кибератак, масштабные манипуляции и дезинформация, вред детям, опасные дипфейки и попытки обойти человеческий контроль. При конфликте с этими правилами модель должна отказаться от выполнения задачи. Microsoft также заявляет, что ИИ не следует изображать сознательным существом или наделять собственными интересами. Компания ожидает, что в течение следующего десятилетия такие системы превзойдут человека во многих задачах, поэтому считает контроль ключевым условием их развития. Пока это черновой документ: текущие MAI-модели на нём не обучены. Общественное обсуждение продлится шесть недель, обновлённую версию Microsoft планирует выпустить до конца 2026 года и использовать при разработке моделей с 2027 года. |