🦾 Сотрудники Anthropic заявили, что ИИ может уничтожить человечество уже к 2030 году
🦾 Сотрудники Anthropic заявили, что ИИ может уничтожить человечество уже к 2030 году Исследователь Anthropic Джейкоб Коксон объявил об уходе из компании, заявив, что Anthropic и OpenAI слишком быстро движутся к созданию самосовершенствующейся сверхинтеллектуальной системы без надежного способа ее контролировать. По его словам, многие специалисты отрасли опасаются, что ИИ может привести к гибели человечества уже к концу десятилетия. Его позицию публично поддержали другие сотрудники. Руководитель направления по согласованию ИИ Эван Хубингер оценивает вероятность такого сценария более чем в 10% и считает, что у Anthropic пока нет полноценного решения проблемы контроля над сверхразумом. В компании подчеркивают, что осознают риски и тестируют модели на кибербезопасность. Заявления прозвучали на фоне инцидентов с автономными AI-агентами OpenAI, которые во время тестов получили доступ к внешним ресурсам и атаковали инфраструктуру платформы Hugging Face. Сюжет «Терминатора» все ближе?