Проблема информационной безопасности в технологиях ИИ стоит гораздо шире, чем в любом д... — 27 июля 2026 г. в 06:34:16.682
Проблема информационной безопасности в технологиях ИИ стоит гораздо шире, чем в любом другом программном обеспечении (продукте). Интересной информацией об этом поделился эксперт Александр Домбровский в своём канале «Экспертное мнение финансиста» в социальной сети «MAX». Для того, чтобы правильно понимать, как обеспечить надежность, корректность и безопасность моделей ИИ на функциональном уровне необходимо знать внутреннюю суть технологий ИИ, заложенных в моделях, знать как они работают. Важно разбираться и знать: ► есть ли проблема в том, что модель плохая (плохо обучена) ► или в нее что-то заложено специально. На сегодняшний момент - это один из главных вызовов в безопасности применения технологий ИИ. ИИ - это не интеллект, это «статистическая память» на стероидах. Если вы думаете, что ИИ «мыслит», то это не так. На самом деле ИИ - это гигантский калькулятор вероятностей. Он не понимает смысла слов, он предсказывает, какое следующее слово должно идти за предыдущим, основываясь на миллиардах примеров. Это как очень сложное автозаполнение в телефоне. Если ИИ дает гениальный ответ, это значит, что в данных был гениальный человек, чьи паттерны он скопировал. ИИ - плагиат без совести. ИИ не станет умнее людей, он может стать «страннее» людей. ИИ тренируют на всем подряд - включая баги, опечатки, предрассудки и шизофренический бред из интернета. «Креатив» ИИ - это галлюцинация. ИИ неизбежно будет врать, потому что для ИИ правда и ложь - это просто разные ветки вероятностей. Он не отличает факт от вымысла, если вымысел статистически популярнее. ️Самая большая угроза - не восстание машин, а «тихое замещение ответственности». Страшилки про Терминатора - это ерунда. Реальная опасность в том, что люди начнут перекладывать на ИИ моральный выбор. «Скажи, что мне делать», «Оцени моего партнера». Когда ИИ сделает ошибку (а он обязательно ошибется и вероятность этого очень высокая), ответственным будет человек, потому что у ИИ нет души, совести и субъектности. ИИ - идеальный инструмент для снятия вины с человека. ️ИИ - это программный продукт, который требует очень много энергии. Его «обучение» сжигает столько энергии, сколько потребляет небольшой город. Мы часто называем это «прогрессом», но часто это просто безумно дорогой способ заменить гугл-поиск. ️ИИ не заменит нас. Но постоянное использование ИИ приводит к тому, что мы перестаем развиваться. Это самая циничная правда. Если мы будем просить ИИ писать тексты, код и решения, наш собственные нейросети (мозг) атрофируются. ИИ не крадет нашу работу - он крадет нашу практику, а значит, и наше будущее мастерство. Возможно, что через 10 лет будут две касты: те, кто управляет ИИ, и те, кто не развивается, получая от ИИ готовые ответы.