Эксклюзив СофтТех: Утечки данных пользователей ИИ-сервисов стали уже давно нормой — в в... — 28 июля 2026 г. в 10:41:54.926
Эксклюзив СофтТех: Утечки данных пользователей ИИ-сервисов стали уже давно нормой — в выдаче поисковиков то и дело появляются рабочие документы, черновики, резюме с телефонами, API-ключи, адреса криптокошельков и другие данные, которыми люди делились с нейросетями. Вопрос о том, как безопасно пользоваться ИИ, становится ключевым, и поговорить о нем мы решили с Никитой Векессером, руководителем продуктов Nova AI и StarGuard AI в Orion soft. 🔹 Инциденты с утечками данных — исключение или закономерность? Это закономерное следствие массового использования больших языковых моделей. Нейросети уже настолько вошли в повседневную работу, что во многих задачах представить процессы без них становится сложно. На этом фоне у пользователей часто стирается ощущение, что переписка с облачным ИИ-сервисом — это все равно передача данных во внешнюю систему, где нужно отдельно думать о сохранении личной, коммерческой и иной чувствительной информации. 🔹 Какие корпоративные данные чаще всего попадают в публичные LLM? Чаще всего в публичные LLM попадают рабочие документы, фрагменты кода, коммерческие предложения, договоры, клиентские данные, финансовая аналитика, внутренние переписки, резюме, API-ключи и технические описания систем. Это происходит потому, что сотрудники используют нейросети для реальных рабочих задач: переписать текст, сократить документ, проанализировать таблицу, написать код, подготовить письмо или найти ошибку. 🔹 Многие компании переходят на локальные модели. Насколько это решает проблему? Локальные модели значительно снижают риск передачи данных внешнему провайдеру. Но остается риск неправильно выстроенной или вообще не выстроенной безопасности при обращении к локальным ИИ-сервисам. Если нет контроля доступа, журналирования, разграничения прав, маскирования данных и понятных правил использования, локальный контур тоже может стать источником утечек. 🔹 Что должно входить в базовый контур защиты корпоративного ИИ? Базовый контур защиты корпоративного ИИ должен включать локальные модели для сценариев, где обрабатываются строго конфиденциальные данные, и безопасный доступ к облачным ИИ-моделям для задач, не требующих стопроцентной изоляции. При обращении к облачным моделям данные должны маскироваться, а сами сценарии использования — контролироваться. Такой подход позволяет не запрещать ИИ полностью, а безопасно разделять задачи по уровню чувствительности данных. Подписывайтесь на СофтТех