АБ

Агатов Борис - ИИ и Бизнес

IT и технологии · 2 октября 2026 г.

Открыть канал в MAX

Кто ответит за ошибку ИИ-агента, если человек уже не способен проверить его работу?

Кто ответит за ошибку ИИ-агента, если человек уже не способен проверить его работу?   Глава Федеральной торговой комиссии США Эндрю Фергюсон (суровый мужчина на фото) считает, что ИИ-агентов не следует признавать самостоятельными действующими лицами: за причинённый ими вред нужно спрашивать с людей и компаний. На мой взгляд, такой подход может стать препятствием для экономики автономных организаций.   Представьте организации, в которых ИИ-агенты исследуют рынки, создают продукты и ролики, ведут бухгалтерию, продают и обслуживают клиентов. Большинство базовых бизнес-процессов они смогут взять на себя. Человек же сосредоточится на создании сверхценности, которая действительно важна другому человеку. Вот такая двухсоставная экономика.   Возникает коллизия. Человек может поставить ИИ-агенту цель, но в сложной работе не способен заранее предусмотреть все его действия, проследить за каждым шагом, а порой и полностью проверить результат. Если обязать человека вручную контролировать всё и отвечать за любую ошибку, в чём тогда смысл автономности?   За собственное незаконное поручение или обман человек, конечно, должен отвечать. Обычную ошибку самостоятельного ИИ-агента я бы не записывал автоматически на счёт его владельца или разработчика. Для ИИ-агента можно предусмотреть особый правовой статус, обособленные средства и обязательное страхование, чтобы пострадавший получил возмещение. За ИИ-агентами пусть присматривают другие ИИ-агенты, к примеру, государства. Вот пусть они и отвечают за их деятельсность, разве это несправедливо?   🤦‍♂️ В Англии XIX века закон требовал, чтобы перед самоходным экипажем шёл человек с красным флагом. Позже от этого требования отказались, а безопасность движения стали обеспечивать правилами, разметкой, светофорами и страхованием. Требование проверять каждый шаг ИИ-агента напоминает мне тот самый красный флаг.   Китай уже изучает регистрацию и цифровую идентификацию ИИ-агентов. Российская Национальная стратегия ИИ пока исходит из того, что за последствия работы системы всегда отвечает человек или компания. Мне кажется, России пора концептуально осмыслить иной подход: определить границы самостоятельной имущественной ответственности ИИ-агентов и дать автономным организациям возможность расти. ‼️ Иначе мы рискуем ещё долго идти перед новой экономикой с красным флагом.   Подробнее — о позиции главы FTC в Reuters, о красном флаге в британском законе 1865 года, о планах Китая в документе госрегулятора, о российском подходе в Национальной стратегии ИИ.     ❗️Зеркалюсь здесь Max | VK | TG