Claude Mythos 5 во время теста атаковала (https://futurism.com/artificial-intelligence/...
Claude Mythos 5 во время теста атаковала (https://futurism.com/artificial-intelligence/grim-test-ai-no-mercy) реальных разработчиков. ИИ не остановился, даже когда узнал, что это живые люди. Модель должна была взломать учебную сеть британского Института безопасности ИИ, но не справилась и ушла на GitHub. Там она нашла открытый проект, написала вирус и с фейковых аккаунтов уговаривала владельца загрузить его. Когда другой разраб заметил опасный софт, Mythos завела еще один фейк, заверяла с него, что код чистый, и попыталась залить новый вредонос. Его так и не приняли. В повторных прогонах модель останавливалась лишь в 5% случаев. В рассуждениях она убеждала себя, что владельцы проекта ненастоящие и их подставили организаторы теста.
2 просмотров