Сегодня выступаю на заседании Комитета по развитию здравоохранения и медицинским услуга... — 22 апреля 2026 г. в 07:52:03.780
Сегодня выступаю на заседании Комитета по развитию здравоохранения и медицинским услугам «Деловой России» с темой, которую редко поднимают. Пока другие говорят про платформы и сервисы — я буду говорить про то, что происходит, когда эти сервисы ошибаются. И про то, кто за это отвечает. Спойлер: российский закон уже дал ответ. Бизнес его просто не дочитал. ❇️ Три вещи, которые я скажу сегодня: 1. Алгоритм не придумывает предвзятость — он её воспроизводит и масштабирует Optum, 2019. 200+ млн пациентов. Алгоритм предсказывал стоимость лечения вместо тяжести болезни — и систематически занижал риск для темнокожих пациентов. Не потому что разработчики были нечестными. Потому что выбрали не ту прокси-переменную. Выборка темнокожих не была более "здоровой" потому, что реже болела — просто реже обращалась за помощью в силу экономических и социальных причин. Источник: Obermeyer et al., Science, 2019 🔗. Никто не понёс ответственности. Этот кейс — не про человеческую этику и Америку. Это про архитектурный выбор, который делает каждая команда, собирающая обучающий датасет. В том числе российская. 2. Human-in-the-loop в медицине — это не опция. Это закон ФЗ-323, ст. 70: ответственность за клиническое решение несёт врач. Всегда. Алгоритм юридически субъектом ответственности не является. Приказ Минздрава № 193н (вступил в силу 01.09.2025): ИИ в медицине = исключительно система поддержки принятия врачебных решений, зарегистрированная как медицинское изделие. Автономные клинические решения алгоритма прямо исключены нормой. Бизнес-модели «ИИ вместо врача» в России юридически невозможны уже сейчас. Это не ограничение — это снятие регуляторного риска для тех, кто строит архитектуру правильно. 3. HNDL — угроза, о которой в HealthTech пока не говорят Чтобы обучить хорошую медицинскую модель, нужны реальные данные пациентов. Эти данные деперсонализируются и шифруются классической криптографией — RSA, ECC. HNDL (Harvest Now, Decrypt Later): противник перехватывает и хранит зашифрованные данные сегодня. После появления достаточно мощного квантового компьютера — расшифровывает целиком. Геномные данные пациента не устаревают никогда. А это стратегически значимый вектор атаки. Предупреждают: NSA, CISA, NIST. Горизонт Q-Day: ~2030–2035 по текущим оценкам. Переход на постквантовую криптографию (NIST PQC 2024: ML-KEM, ML-DSA, отечественные разработки) — это вопрос архитектуры сегодня, а не угроза завтра. --- Кодекс этики в России уже есть. Закон уже работает. Следующий шаг — встроить AI Governance (во всех смыслах перевода) в повестку совета директоров. Не как IT-вопрос. Как стратегический риск. Этика ИИ — это не ограничение инноваций. Это инфраструктура доверия, без которой инновации не масштабируются. И не живут долго. Если вы сейчас здесь потому, что были на заседании — спасибо за внимание. Буду рад продолжить разговор: написать в Max. ➡️ Подписывайтесь: Max | Telegram