Внедрять нельзя запретить — 26 мая 2026 г. в 06:05:19.441
Внедрять нельзя запретить Посмотрел выступление Натальи Касперской на ЦИПР 2026. Нынче это мероприятие проходило в Нижнем Новгороде. ЦИПР — это такая ежегодная конференция про цифровую экономику и технологии в России-матушке. Расшифровка аббревиатуры лично мне взрывает мозг, но я не про это. Так вот, Наталья Касперская выступила на сессии «ИИ без иллюзий. Технологии для реального сектора» и, собственно, про эти самые иллюзии и говорила. А еще, конечно, про безопасность. Точнее, про небезопасность использования ИИ. А если прям совсем точно — то, как сейчас используется ИИ у нас, совершенно небезопасно. Наталья Ивановна знает, о чем говорит. Все же её компания InfoWatch — один из лидеров в разработке решений в области информационной безопасности и защиты конфиденциальной информации. Очень рекомендую послушать, так сказать, в оригинале. Если кратко, то Наталья Ивановна обозначила для всех нас следующие угрозы: 1️⃣ Утечка конфиденциальных данных. Так как отечественных моделей (я про ИИ) у нас кот наплакал — Наталья Ивановна хлестко выразилась про «полторы модели» — коммерческие и технологические секреты через зарубежные ИИ уходят на внешние сервера. А там их обязательно вытащат наши друзья-конкуренты с помощью хитрых промтов. 2️⃣ Целенаправленная дезинформация. Недруги отслеживают запросы российских компаний (причем автоматически) и намеренно выдают сгенерированную ложь, чтобы, например, саботировать процесс. 3️⃣ Галлюцинации. Это уже само собой. Потому что природа ИИ — это вероятностная модель, а значит, возможны ошибки в расчетах, которые уже непросто отследить. 4️⃣ Слепая вера. Хайп продолжает нарастать, и очарование «умной» машиной превращается в слепую веру. Особенно среди гуманитариев. Нет должной критической проверки результатов ИИ среди сотрудников. (Почему-то сейчас вспомнился мультфильм про Вовочку из Тридевятого царства: «И так сойдет!»). 5️⃣ Shadow AI (Теневой ИИ). Неконтролируемое использование сотрудниками личных аккаунтов и сторонних моделей для рабочих задач. То есть, даже если компания защитила своё «облако», любимые сотрудники все равно «выносят» данные через личные устройства. Причем компания Натальи Ивановны — не исключение (она поделилась своей историей). А ведь сама компания про безопасность, и там сотрудники знают про все тонкости современных киберугроз, а вот все равно… Так где запятую запятую ставить, друзья? После слова «внедрять» или после слова «нельзя»? Ведь что получается. С одной стороны — прогресс не остановить. Уже сейчас опытный пользователь в 1С может самостоятельно сделать для себя какую-нибудь внешнюю обработку и решать с помощью неё рабочие задачи. Потому что пока допросишься у своего программиста (если он вообще есть) или денег у директора согласуешь, чтобы к партнеру 1С обратиться — пройдет вечность. Долго… А тут прям в браузере написал, что хочешь (мозг, конечно, надо свой включать), и можно через полчаса уже использовать в своей 1С. А с другой стороны, даже если на уровне организации ставить все это под контроль и выделять ресурсы (сотрудники, думаю, легко откажутся от личных аккаунтов, если компания оплатит корпоративные подписки) — то что использовать? Те самые три буквы (я не про лес и не про забор), использовать на уровне предприятия как-то, вроде, нельзя. Арендовать сервер на просторах СНГ, чтобы через него все было без этих трех букв — можно, но проблему безопасности и утечки данных это не решает. Использовать наши «полторы модели» предлагаете? Я очень люблю нашу страну и искренне горжусь нашими достижениями, но тут мы пока малость отстаем. Вот с такими смутными и тревожными мыслями пойдем с моим коллегой завтра 27 мая на большую конференцию про ИИ в 1С. Обсудим, посмотрим, поштурмим вместе с коллегами по рынку как все делать так, чтобы и эффективность повышатьь и чтобы нам с вами (в самом широком смысле) ничего за это не было и Родина не пострадала. В общем, как говорит один мой товарищ — об успехе доложусь! А вы сами-то где-бы запятую поставили?