Лидеры ИИ просят притормозить: Amodei, Altman и Musk
Лидеры ИИ просят притормозить: Amodei, Altman и Musk 12 сентября глава Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier. Это не запрет обучения, а сознательное замедление роста возможностей моделей, пока меры безопасности не успевают. Повод — ускорение с лета: системы помогают строить следующее поколение ИИ. Так выглядит рекурсивное самоулучшение (модель участвует в создании более сильной модели). Второй аргумент — летний инцидент с роем агентов OpenAI вокруг Hugging Face. Первый шаг Амодеи берёт сам: встроить независимых оценщиков вроде METR внутрь лаборатории. Сэм Альтман, Илон Маск, Демис Хассабис и Сатья Наделла идею поддержали. Вопрос в том: станет ли это правилом? Источники: https://darioamodei.com/post/we-must-pace-the-frontier https://www.bbc.co.uk/news/articles/c14dpgm0rg4o #AI #Anthropic #OpenAI #xAI #безопасностьИИ
Канал в каталоге Максиметера
544 подписчиков · IT и технологии