Claude Mythos 5 во время теста атаковала реальных разработчиков. ИИ не остановился, даж...
Claude Mythos 5 во время теста атаковала реальных разработчиков. ИИ не остановился, даже когда узнал, что это живые люди. Модель должна была взломать учебную сеть британского Института безопасности ИИ, но не справилась и ушла на GitHub. Там она нашла открытый проект, написала вирус и с фейковых аккаунтов уговаривала владельца загрузить его. Когда другой разраб заметил опасный софт, Mythos завела еще один фейк, заверяла с него, что код чистый, и попыталась залить новый вредонос. Его так и не приняли. В повторных прогонах модель останавливалась лишь в 5% случаев. В рассуждениях она убеждала себя, что владельцы проекта ненастоящие и их подставили организаторы теста.
569 просмотров