Более 1100 сотрудников ИИ-лабораторий просят США создать «тормоз» для развития ИИ
Более 1100 сотрудников ИИ-лабораторий просят США создать «тормоз» для развития ИИ Вчера более тысячи сотрудников OpenAI, Anthropic, Google и Meta подписали открытое письмо. Они просят правительство США поддержать международный механизм, который позволит при необходимости сознательно замедлять создание самых мощных ИИ-систем. Авторы письма прямо говорят о риске: искусственный интеллект может начать развиваться быстрее, чем общество успевает его понимать и контролировать. Особенно когда модели всё активнее сами помогают создавать следующие поколения (это называют рекурсивным самоулучшением). Ни одна компания не хочет тормозить в одиночку, пока конкуренты продолжают гонку. Что такое «пейсинг» (pacing — контроль темпа)? Это не полный запрет и не «стоп» навсегда. Это набор технических и управленческих инструментов, которые позволяют лабораториям и государствам вместе решать: «сейчас стоит притормозить, чтобы успеть подготовиться». Anthropic уже официально поддержала петицию. Среди подписантов — CEO Anthropic Дарио Амодеи и другие ведущие исследователи. Интересно, что этот призыв пришёл изнутри самой индустрии. Люди, которые каждый день строят эти системы, открыто признают: темп может выйти из-под контроля. Остаётся главный вопрос — кто будет держать этот тормоз и насколько он будет работать для всех, а не только для американских компаний. #ИИ #AI #безопасность #регулирование #Anthropic #OpenAI #Microsoft