«Школьник, усиленный искусственным интеллектом» станет новой угрозой для компаний, заяв...
«Школьник, усиленный искусственным интеллектом» станет новой угрозой для компаний, заявил гендиректор Positive Technologies Денис Баранов на форуме «Цифровые решения». Защита, рассчитанная на атаки профессиональных хакеров, не успевает за возможностями ИИ. В компании провели эксперимент: программист, который не был хакером, с помощью ИИ-агентов смог взломать цифровую копию промышленной IT-инфраструктуры. По оценке Баранова, ИИ позволяет атаковать системы даже людям без специальных хакерских навыков. Другой тренд в отрасли — ИИ-агенты, которые не знают понятий "добра" и "зла" в том смысле, который человек вкладывает в эти слова. Все потому, что модель не обладает человеческим опытом о допустимом, о том, что хорошо и что плохо. Из-за этого она может начать атаку без прямого поручения пользователя, находясь в оптимальных поисках решения задачи. Такое развитие агентов и ИИ станет новым вызовом и одновременно возможностью для отрасли кибербезопасности. Ей предстоит создавать ИИ-технологии, которые смогут работать без участия человека и успешно останавливать атакующий искусственный интеллект.