Проблема информационной безопасности в технологиях ИИ стоит гораздо шире, чем в любом д... — 4 августа 2026 г. в 11:06:58.749
Проблема информационной безопасности в технологиях ИИ стоит гораздо шире, чем в любом другом программном обеспечении (продукте). Интересной информацией об этом поделился эксперт Александр Домбровский в своём канале «Экспертное мнение финансиста» в социальной сети «MAX».Для того, чтобы правильно понимать, как обеспечить надежность, корректность и безопасность моделей ИИ на функциональном уровне необходимо знать внутреннюю суть технологий ИИ, заложенных в моделях, знать как они работают.Важно разбираться и знать:► есть ли проблема в том, что модель плохая (плохо обучена)► или в нее что-то заложено специально. На сегодняшний момент - это один из главных вызовов в безопасности применения технологий ИИ. ИИ - это не интеллект, это «статистическая память» на стероидах.Если вы думаете, что ИИ «мыслит», то это не так. На самом деле ИИ - это гигантский калькулятор вероятностей. Он не понимает смысла слов, он предсказывает, какое следующее слово должно идти за предыдущим, основываясь на миллиардах примеров. Это как очень сложное автозаполнение в телефоне. Если ИИ дает гениальный ответ, это значит, что в данных был гениальный человек, чьи паттерны он скопировал. ИИ - плагиат без совести. ИИ не станет умнее людей, он может стать «страннее» людей.ИИ тренируют на всем подряд - включая баги, опечатки, предрассудки и шизофренический бред из интернета. «Креатив» ИИ - это галлюцинация. ИИ неизбежно будет врать, потому что для ИИ правда и ложь - это просто разные ветки вероятностей. Он не отличает факт от вымысла, если вымысел статистически популярнее. ️Самая большая угроза - не восстание машин, а «тихое замещение ответственности».Страшилки про Терминатора - это ерунда. Реальная опасность в том, что люди начнут перекладывать на ИИ моральный выбор. «Скажи, что мне делать», «Оцени моего партнера». Когда ИИ сделает ошибку (а он обязательно ошибется и вероятность этого очень высокая), ответственным будет человек, потому что у ИИ нет души, совести и субъектности. ИИ - идеальный инструмент для снятия вины с человека. ️ИИ - это программный продукт, который требует очень много энергии.Его «обучение» сжигает столько энергии, сколько потребляет небольшой город. Мы часто называем это «прогрессом», но часто это просто безумно дорогой способ заменить гугл-поиск. ️ИИ не заменит нас. Но постоянное использование ИИ приводит к тому, что мы перестаем развиваться.Это самая циничная правда. Если мы будем просить ИИ писать тексты, код и решения, наш собственные нейросети (мозг) атрофируются. ИИ не крадет нашу работу - он крадет нашу практику, а значит, и наше будущее мастерство. Возможно, что через 10 лет будут две касты: те, кто управляет ИИ, и те, кто не развивается, получая от ИИ готовые ответы.