Anthropic вплотную приблизилась к самосовершенствующемуся ИИ — и признала новые риски
Anthropic вплотную приблизилась к самосовершенствующемуся ИИ — и признала новые риски Anthropic сообщила, что приближается к созданию ИИ, способного ускорять собственное развитие — так называемому рекурсивному самосовершенствованию. Компания видит в этом огромный потенциал для науки и продуктивности, но предупреждает о серьёзных рисках потери контроля. ИИ уже помогает Anthropic разрабатывать новые модели, однако их возможности могут начать расти быстрее, чем специалисты успеют создавать и проверять системы безопасности. При этом компания не рассчитывает полностью отказаться от человеческого контроля даже в случае технической возможности автономно проектировать следующие поколения ИИ. #anthropic #ии #rsi https://3dnews.ru/1150790?utm_source=nova&utm_medium=max
Канал в каталоге Максиметера
2 572 подписчиков · IT и технологии