ИР

ИСП РАН | Институт системного программирования им. В. П. Иванникова РАН

Госорганы и учреждения · 22 мая 2026 г.

Открыть канал в MAX

⚡️ИСП РАН на Форуме ДИИ: фундаментальные вопросы доверенного искусственного интеллекта

⚡️ИСП РАН на Форуме ДИИ: фундаментальные вопросы доверенного искусственного интеллекта 13 мая 2026 года в рамках Форума «Технологии доверенного искусственного интеллекта» состоялась секция «Фундаментальные вопросы доверенного ИИ» — одно из ключевых научных мероприятий форума. В течение всего дня участники обсуждали фундаментальные и прикладные аспекты безопасности и доверия к современным ИИ-системам — от защиты больших языковых моделей и оценки достоверности контента до устойчивости нейросетей к состязательным атакам и применения ИИ в анализе кода. Модераторами секции выступили Денис Турдаков, руководитель исследовательского центра доверенного ИИ ИСП РАН, и Андрей Коваленко, председатель комитета по проблемам ИБ НЭС Совета безопасности РФ. Денис Турдаков для ИСП РАН: Секция наглядно показала, что доверие к ИИ — это не маркетинговый лозунг, а строгая инженерная и математическая задача. В ИСП РАН мы исходим из того, что надёжные системы должны строиться на верифицируемых методах оценки, прозрачных бенчмарках и архитектурных ограничениях, которые проверяются на уровне фундаментальных принципов, а не исключительно эмпирически. Уверен, что только объединяя академическую глубину, экспертизу в машинном обучении и кибербезопасности, а также реальные индустриальные вызовы, мы сможем создать ИИ, который будет не просто „умным“, но и предсказуемым, устойчивым к состязательным воздействиям и готовым к ответственному применению в критически важных сферах. Значительная часть докладов была представлена сотрудниками Исследовательского центра доверенного искусственного интеллекта ИСП РАН. На секции выступили Борис Добров, Максим Рындин, Михаил Паутов, Дмитрий Ковалев, Кирилл Лукьянов, Шамиль Курмангалеев, Валерий Игнатьев, Сергей Боловцов и Егор Аничков. Также среди докладчиков — сотрудники AIRI, МГУ, ННГУ, МФТИ, РАНХиГС; представители индустрии и экспертного сообщества в области информационной безопасности. В ходе секции обсуждались: ▪️Подходы к оценке достоверности сгенерированного контента; ▪️Разработка guardrails для больших языковых моделей; ▪️Генерация бенчмарков LLM на основе достоверных источников; ▪️Методы обнаружения галлюцинаций и тестирования устойчивости нейросетей; ..и другие вопросы доверенного ИИ. 👉Материалы секции доступны на сайте форума. 🔘Фото предоставлены организаторами Форума 🔗ИСП РАН в Telegram 🔗ИСП РАН в МАКС