Из Anthropic уходят исследователи безопасности
Из Anthropic уходят исследователи безопасности Джо Бентон покинул команду безопасности Anthropic. Причина — погоня за сверхумным ИИ, которую человечество может не пережить Это не первый случай. Ранее ушел Джейкоб Коксон, работавший в OpenAI и Anthropic. По его словам, обе компании ставят победу в гонке выше безопасности Бентон перешел в некоммерческую METR, которая независимо оценивает риски ИИ. Его главная претензия: общество может даже не узнать, что опасный ИИ вырвался из серверов — Anthropic и OpenAI способны просто отмолчаться. Ирония в том, что СЕО Anthropic Дарио Амодей подавал свою лабораторию как более безопасную альтернативу OpenAI. Но деньги оказались важнее
17 просмотров