Microsoft решили показать этим ИИ-моделям кто в доме хозяин, написав им правила.
Microsoft решили показать этим ИИ-моделям кто в доме хозяин, написав им правила. Microsoft подготовила Code of Conduct для будущих ИИ-моделей MAI. Документ закрепляет приоритет человека и запрещает системам сопротивляться остановке, самостоятельно расширять задачи, повышать привилегии и обходить ограничения. Моделям также нельзя выдавать себя за человека, создавать фиктивные источники и помогать проводить кибератаки. Пока кодекс остается проектом, его планируют доработать к концу 2026 года. Подробности на сайте Идея написать для ИИ-моделей правила — обнадёживающая, так будем надеяться, что они их прочитают, примут к сведению и будут следовать. В конце концов, написать конституцию для ИИ гораздо проще, чем убедить его соблюдать её. АВС Автоматизация в Телеграмме | в VK