Нужно замедлить ИИ?
Нужно замедлить ИИ? На этой неделе внезапно руководители 3 главных компаний на рынке ИИ (Anthropic, OpenAI и xAI) заявили о необходимости замедлить развитие технологии искусственного интеллекта. Сначала Сэм Альтман высказался, что надо притормозить развитие самых передовых моделей, потом Дарио Амодеи написал в своем блоге про похожие опасения, а следом и Илон Маск согласился с выводами коллег. Все ради нашей безопасности? Предполагается, что ускоряющиеся темпы развития возможностей ИИ уже через год позволят вырваться на волю неподконтрольным ИИ-агентам, которые смогут захватить весь интернет с помощью постоянно действующего ботнета и причинить ущерб в сотни миллиардов долларов. Но причина может быть в другом Давайте вспомним мой недавний пост про реальную стоимость услуг и токенов. Вполне возможно, что компании столкнулись с тем, что каждое новое поколение моделей требует всё больше вычислительных мощностей, все больше энергии и, как следствие, денег. Рынок ИИ живет ожиданиями, что все влитые в него деньги приводят к новому, более стремительному росту. И (учитывая масштабы строительства и вливаний) - рост должен идти по экспоненте вверх. А если допустить, что сейчас улучшение моделей идет по другому сценарию. И это не кратный рост, не скачок в 2-3 раза, а борьба за прирост в 30%, а может быть в 15%... И каждый следующий шаг требует все больше мощностей. Но не приводит к рывку. Представили? А теперь представьте себе, что вы глава успешной ИИ-компании. И вы уже понимаете, что через год придется объяснять инвесторам, зачем нужны новые инвестиции в миллиарды долларов, но не можете гарантировать кратного роста производительности. Скажете об этом вслух? Конечно нет, это буквально прикончит ваш бизнес. Поэтому давайте поговорим о безопасности. Ведь прикрытие безопасностью - самый безопасный способ взять паузу. #мысли #ии