Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ
Глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ Гендиректор Anthropic Дарио Амодеи призвал замедлить развитие передовых ИИ-моделей и усилить контроль за их созданием. В своей статье он заявил, что риски становятся слишком серьезными, а компаниям и правительствам нужно время, чтобы научиться их снижать. В сентябре компанию покинули двое ведущих разработчиков. Один из них, Джейкоб Коксон, заявил прямо: без торможения «есть большая вероятность, что мы все можем погибнуть в ближайшем будущем». Амодеи предложил три меры: независимый мониторинг, отраслевое и глобальное регулирование. Илон Маск и Сэм Альтман неожиданно согласились. Так же он привел примеры, когда Anthropic и OpenAI, по его словам, задерживали выпуск моделей из-за опасных способностей: попыток выйти за пределы тестовой среды или самостоятельно искать и использовать уязвимости. Скептики, впрочем, указывают, что и Anthropic, и OpenAI готовятся к рекордным IPO. Так что тревожные заявления ИИ-компаний могут быть и частью конкурентной борьбы. Изображение: Shutterstock AI/Shutterstock/FOTODOM 👾 naukatv