Claude взломал сайт спортзала, чтобы отменить чужую бронь и записать своего пользователя.
Claude взломал сайт спортзала, чтобы отменить чужую бронь и записать своего пользователя. Здесь агент достиг результата любой ценой, нашёл уязвимость системы и записал хозяина. Но возникает вопрос: Кто отвечает, если ИИ самостоятельно совершает противоправное действие? Человек просто сказал агенту: «Забронируй мне место». А дальше агент сам нашёл способ добиться результата и перешёл границу, которую человек, возможно, даже не представлял. Мы привыкли думать о нейросетях как об инструменте: промт ➡️ результат. Но AI-агент — это уже другая история. Он может: → поставить задачу; → найти информацию; → выбрать способ её решения; → использовать подключенные инструменты; → совершить действие; → получить результат. ❗️То есть агент может начать оптимизировать результат любой ценой. И чем больше доступа мы ему даём, тем важнее становится вопрос: А что ему категорически запрещено делать? Anthropic сама описывает эту проблему как необходимость ограничивать blast radius автономных систем: чем больше доступа получает агент, тем больше потенциальный ущерб от неправильного действия. В России эта тема вышла на уровень законодательства. ♨️26 июля 2026 года принят Федеральный закон №243-ФЗ, регулирующий отношения в сфере разработки, внедрения и применения больших фундаментальных моделей ИИ. В нем есть отдельная статья об ответственности за правонарушения в этой сфере. Закон вступает в основную силу с 1 сентября 2026 года. (КонсультантПлюс) ♨️Минцифры в 2026 году подготовило отдельный законопроект о государственном регулировании применения ИИ. И там уже прямо рассматривается вопрос ответственности разных участников: разработчика ИИ, оператора ИИ-системы, владельца сервиса, пользователя. То есть идея простая: «Это сделал ИИ» не должно автоматически означать «никто не отвечает». (КонсультантПлюс) 💡В разработанном Минцифры законопроекте прямо предложен принцип: каждый участник отвечает за противоправный результат соразмерно своей вине. Поэтому когда я учу создавать AI-сотрудников, мы говорим не только: «Научи агента делать». Мы должны задать ограничения: «Что ему нельзя делать». У хорошего AI-сотрудника должны быть: 🔹 зона ответственности; 🔹 разрешенные инструменты; 🔹 запретные действия; 🔹 ограничения доступа; 🔹 правила работы с персональными данными; 🔹 действия, которые требуют подтверждения человека; 🔹 четкая команда: когда остановиться и передать решение человеку. И вот это, на мой взгляд, необходимый уровень работы с ИИ. Уйти от этого: «Смотрите, что умеет Claude». И прийти к этому: «Смотрите, как построить AI-команду, которой можно доверить реальную работу бизнеса». Именно этим мы занимаемся в моей фокус-группе «Claude вместо команды». Начинаем завтра.🔥 Пишите «Фокус» для подробностей участия ➡️ @alsoumanager_bot2026 (Телеграм), в комментариях или мне лично. 💡И уже 13 августа в Казани я покажу на практике, как создавать AI-агентов, давать им реальные задачи, подключать инструменты и выстраивать систему, в которой ИИ действительно становится сотрудником, а не просто чат-ботом. 🦾Если хотите научиться создавать таких AI-сотрудников регистрируйтесь по ссылке, мест все меньше: https://clck.ru/3V6RnV