Компании просят взломать их LLM и железо
Компании просят взломать их LLM и железо У «Бастиона» появился анализ защищённости корпоративных LLM и Hardware Hacking - тестирование программно-аппаратных комплексов на уязвимости. Сам по себе релиз рутинный, но показывает, что у российских компаний появился спрос не на «безопасность ИИ вообще», а на конкретные пентесты своих моделей и железа. Что теперь проверяют в LLM ▫️ Уровень безопасности внутренней модели, защищённость данных и вычислительных ресурсов, на которых она работает, и вероятность того, что модель раскроет конфиденциальную информацию через свои же ответы. То есть проверяют не только периметр вокруг ИИ, но и саму модель как источник утечки. Что такое Hardware Hacking ▫️ Полное тестирование «умных» устройств, промышленных систем и электроники на слабые места в защите с моделированием реальных сценариев атак на встроенное ПО. Раньше это было экзотикой для отдельных отраслей, теперь становится частью стандартного корпоративного ИБ-набора. Что важно отметить ▫️ Рынок ИБ догоняет реальность как может. Мы много писали, что вокруг ИИ формируется отдельный слой безопасности. Microsoft выпускает RAMPART для тестирования агентов, SoftBank и OpenAI запустили Patching as a Service, «Группа Астра» и Cloud.ru строят закрытые контуры под ИИ. Теперь и российские ИБ-компании начинают продавать не «защитим ваш ИИ», а конкретную услугу - пентест конкретной модели. ▫️ Появление отдельного направления по ПАКам - знак, что промышленный ИИ и IoT стали объектами атак. Мы писали про исследование «Касперского»: 28% промышленных предприятий в мире уже сталкивались с ИИ-кибератаками в 2025 году. У России отдельный контекст - импортозамещение железа. Значительная часть новых ПАКов собирается на отечественных компонентах, и их безопасность никто ещё системно не проверял. Спрос на такие пентесты закономерен. ▫️ Любопытно, что «Бастион» отдельно упоминает медицину, финансы и ритейл. Там же и главный риск, потому что LLM обучают на клинических данных, транзакциях и клиентских базах, а утечка через «выходные результаты» модели. Это не гипотетическая проблема, а конкретный сценарий. Особенно на фоне того, как запросы к DeepSeek оказались в поисковой выдаче Google. Подписывайтесь на AI для бизнеса