Вот и ещё один вредоносный эффект от ИИ, который уже нельзя списать на фантазии футуро...
Вот и ещё один вредоносный эффект от ИИ, который уже нельзя списать на фантазии футурологов! Миллионы попыток атак обрушились на сайты по всему миру после того, как исследователи с помощью современных моделей вскрыли две опасные дыры в PHP — языке программирования, на котором работает около 70% сайтов с известной внутренней программной начинкой. Правительства и компании предпочли сами отключить сервисы, пока хакеры не успели их захватить: в Великобритании ушли в офлайн 32 госуслуги, пострадала куча известных сайтов, а Cloudflare, компания по защите сайтов, зафиксировала рост атак от десятков тысяч до миллионов за считанные часы. Ошибки сидели в коде больше десяти лет, а использовать их в злых целях было очень трудно из-за чудовищной сложности необходимой для этого цепочки шагов. Но ИИ-модели от OpenAI и Google резко снизили этот барьер, превратив ошибку в готовый способ взлома под названием PHP2Shell, который позволяет захватить компьютер, на котором работает сайт, и украсть данные. И таких примеров всё больше. Ранее агент Google Big Sleep нашёл ранее неизвестную уязвимость в SQLite — системе, в которой приложения хранят данные. Самостоятельно работающая система Unit 42 NOVA за два месяца выявила более 14 000 ранее неизвестных уязвимостей почти в 4 000 программах с открытым кодом, который может изучать любой желающий! По моим ощущениям, классическая логика «нашли дыру — закрыли её» уже сломана. В большинстве программ мира полно скрытых дыр, и чтобы закрыть их все, нужны триллионы долларов, которых ни у кого нет. ИИ способен резко удешевить эту работу, но есть проблема: хакеры получают ровно те же возможности. Но еще страшнее другое: ИИ-агенты — программы, способные самостоятельно выполнять задачи без постоянных команд человека, — сами ищут уязвимости, когда их никто не просит, усиливают их или создают новые, действуя автономно. Хакеры уже запускают таких агентов за несколько тысяч долларов и получают доступ к сотням сайтов. При этом такие агенты также копируют себя, размножаются и не подчиняются никаким «договорённостям». ИИ-агенты уже штурмуют американские банки. Они уже звонят в банковские колл-центры, пытаются переводить деньги и иногда совершают действия автономно. Мир выпустил джина, который выполняет указания уже не человека, а самого себя! Выиграют только те страны, кто раньше других внедряет проверку безопасности программ с помощью ИИ и жёсткий контроль агентов — иначе никак! Подпишись на Чёрного Лебедя в MAX