Что можно украсть у вуза с помощью ИИ — 20 июля 2026 г. в 10:07:22.187
Что можно украсть у вуза с помощью ИИ ⏺ данные студентов и сотрудников ⏺ результаты исследований ⏺ внутренние документы ⏺ доступы к системам ⏺ корпоративные знания Искусственный интеллект сегодня – привычный инструмент в сфере образования. Это удобно: появляются корпоративные чат-боты, цифровые ассистенты, системы поиска по внутренним документам, сервисы поддержки учебного процесса и прочее. Но вместе с тем возникает новая категория рисков. Подробно о них и том, как их избегать, рассказал Сергей Нестерук, руководитель команды безопасности ИИ, Yandex Cloud, на вебинаре в цикле от системного интегратора Паравеб «Безопасный университет». Ниже – лишь несколько ключевых тезисов. ИИ меняет ландшафт киберугроз: раньше, например, основной задачей было защищать ИТ-инфраструктуру, теперь – и сами ИИ-системы. От Prompt Injection, Data Poisoning, утечек данных через RAG, чрезмерных полномочий AI-агентов и других угроз. И вот, почему: в отличие от обычных программ, ИИ не разделяет «команды» и «данные» так, как это делает классическое ПО. Для модели всё выглядит как текст, поэтому злоумышленники могут попытаться повлиять на её поведение через специально подготовленные запросы или документы. Это значит, что вузам нужно смотреть на ИИ как на полноценную информационную систему, со своим жизненным циклом и собственной моделью угроз. Что стоит сделать 🔹 разработать политику использования генеративного ИИ; 🔹определить, какие данные запрещено передавать публичным моделям; 🔹внедрить контроль доступа к корпоративным базам знаний; 🔹использовать принцип минимально необходимых привилегий для ИИ-ассистентов; 🔹предусмотреть подтверждение человеком всех критически важных действий; 🔹 организовать мониторинг запросов и ответов моделей. Но кроме внешних угроз, важно учитывать и ограничения самих LLM. Они могут ошибаться, выдавать недостоверную информацию, не обладают долговременной памятью и не знают событий после завершения обучения модели без подключения внешних источников. О реальных кейсах, угрозах и мерах защиты – в видео и презентации спикера. Встречаемся на следующем вебинаре 23 июля. Будем обсуждать, как создать дорожную карту безопасного университета. Регистрация.