«Группа Астра»: запретительные меры здесь вряд ли будут эффективны — они лишь загонят и...
«Группа Астра»: запретительные меры здесь вряд ли будут эффективны — они лишь загонят использование ИИ глубже в тень По данным Anthropic, китайские компании прогоняли запросы своих пользователей через чужую модель и выдавали ответы за собственные. В одном эпизоде Moonshot за десять дней отправила почти 300 тысяч запросов через сеть из 5380 учётных записей - большинство зарегистрированы в Сингапуре и Японии. Что оказалось внутри запросов ▫️ Самое неприятное. Часть перенаправленных данных содержала конфиденциальную информацию - сведения о слежке и внутренние учётные данные госкомпаний КНР. То есть люди отправляли чувствительные данные в одну систему, а они уходили в другую, в другой юрисдикции. Владимир Нелюб, управляющий партнёр «Астра ИИ Код» и директор по науке и ИИ «Группы Астра», объясняет: Это не просто шпионский скандал, а наглядная демонстрация того, что любая модель вне корпоративного контроля буквально делает с вашими данными что хочет — передаёт их третьим лицам, переиспользует в ответах другим пользователям, или отдаёт в качестве готовых ответов на вопросы злоумышленников ▫️ Отдельно он говорит про то, что происходит прямо сейчас внутри российских компаний. Теневой ИИ уже работает в их контуре руками собственных сотрудников - без логирования, без контроля и без понимания, куда уходят переписка и внутренние документы. Запреты, по его мнению, не сработают и лишь загонят использование глубже в тень. Рабочий вариант он описывает через четыре опоры: своё железо или доверенное облако, инференс-слой для контроля и логирования, безопасная среда исполнения агентов и понятные инструменты для сотрудников. ▫️ История хороша тем, что превращает абстрактный риск в конкретный. Обычно про теневой ИИ говорят в жанре «данные могут утечь». Здесь утечка произошла не из-за взлома и не из-за неосторожного сотрудника, а потому что сам провайдер модели решил перенаправить трафик. Подписывайтесь на AI для бизнеса