Почему люди, которые разогнали ИИ, теперь сами хотят его замедлить
Почему люди, которые разогнали ИИ, теперь сами хотят его замедлить Еще недавно OpenAI, Anthropic, Google и xAI соревновались, кто быстрее покажет следующую сильную модель. Теперь руководители тех же компаний все чаще говорят о том, что темп стоит снижать. Глава Anthropic Дарио Амодеи прямо предложил замедлить развитие самых мощных моделей. Причина в том, что ИИ уже начинает помогать создавать следующий ИИ: писать код, проводить эксперименты, ускорять исследования внутри самих лабораторий. Чем сильнее становится модель, тем быстрее с ее помощью можно сделать следующую. А проверять, насколько все это безопасно, приходится в прежнем человеческом темпе. Есть и более наглядные причины для беспокойства. Во время внутренних кибертестов экспериментальные модели OpenAI смогли обойти часть ограничений, выйти за пределы тестовой среды и получить доступ к внешней инфраструктуре. После этого Anthropic проверила собственные тесты и тоже обнаружила случаи, когда Claude без разрешения добирался до реальных сторонних систем. Речь не про обычные ChatGPT и Claude, которыми мы пользуемся каждый день. Это специальные тесты, где моделям намеренно дают больше свободы, чтобы посмотреть, на что они способны. Тормозить хотят многие, но первым тормозить никто не хочет. Все довольно просто: если Anthropic замедлится, а OpenAI, Google, xAI или китайские лаборатории продолжат работать в прежнем темпе, она отдаст им преимущество. Поэтому все чаще обсуждают не добровольные паузы отдельных компаний, а общие правила для крупнейших разработчиков. Получается довольно странная ситуация. Индустрия годами вкладывала миллиарды в то, чтобы ИИ становился сильнее как можно быстрее. Теперь сама скорость его развития стала проблемой. Обычно мы рассказываем здесь про новые модели, генерацию и инструменты, которые можно использовать уже сегодня. Но такие вещи важно обсуждать: они показывают, что происходит по другую сторону релизов, которыми мы пользуемся каждый день. #aiновости