Скорость теперь не главное.
Скорость теперь не главное. Добро пожаловать в мир ИИ, который в прямом смысле меняет сеть. Про то, как меняется профиль трафика мы уже писали. Настало время комплексной оценки. Мобильные сети последние два десятилетия оценивали по одному показателю – пиковой скорости скачивания. Но ИИ хочет жить иначе. Когда пользователь обращается к ИИ-приложению на смартфоне, работают две системы. Модель, которая обрабатывает голосовую команду или анализирует изображение, находится в облаке – на инфраструктуре технологических компаний, вне мобильной сети. Оператор не управляет скоростью обработки запроса внутри дата-центра. Но он полностью отвечает за качество канала между устройством и облаком. Пиковая скорость показывает лучший результат сети для одного устройства в идеальных условиях. ИИ-нагрузки же требуют стабильности работы сети, когда одну и ту же соту одновременно используют десятки пользователей. Для ответа нужен более широкий набор метрик, и не все из них одинаково важны для разных сценариев: текстовые запросы к языковым моделям зависят от скорости отдачи и задержки, голосовой ИИ требует минимальной и стабильной задержки, а AR и мультимодальные приложения нагружают оба параметра одновременно. Это опять к слову, что ИИ – разный и нельзя обойтись только супер-мега-гига-ЦОДами. Долгое время сети строили с расчетом на то, что пользователь скачивает данные намного активнее, чем отправляет – отсюда соотношение 90/10 в пользу скачивания в большинстве сетей 5G. Теперь нет. Когда пользователь отправляет запрос языковой модели, весь контекст – текст, изображения, документы – сначала уходит в сеть. По данным Ericsson, для текстовых запросов к LLM соотношение отдачи и загрузки уже составляет примерно 29/71, для голосового и агентного ИИ – около 50/50, а для AR и мультимодальных приложений доля отдачи достигает 40%. Cisco говорили, что около 9% ИИ-трафика идет преимущественно на отдачу, против 0,5% для обычного веб-трафика. GSMA прогнозирует, что к 2040 году доля отдачи в общем мобильном трафике может достичь 25-35%. При этом скорость отдачи растет медленнее, чем скорость скачивания, а в некоторых странах доля емкости сети, выделяемая под отдачу, даже снижается – это показал недавний анализ Ookla по крупным операторам. Но, об этом мы поговорим позже. Задержка остается ключевым ограничением для приложений реального времени. Для голосового ИИ Международный союз телекоммуникаций устанавливает потолок в 150 миллисекунд для односторонyей задержки. Для текстовых LLM-запросов стандарт MLPerf v5.0 задает лимит в 450 миллисекунд до первого токена. Отдельно стоит рассматривать задержку сети под нагрузкой – она показывает, насколько сильно падает производительность, когда множество пользователей одновременно обращаются к одной соте. Единых стандартов для оценки латентности облачной инфраструктуры пока нет, поэтому такие данные приводятся как наблюдательные, но именно они помогают увидеть полную картину пути от устройства до ИИ-модели в облаке. Подписывайтесь на Телекоммуналку
Канал в каталоге Максиметера
11 039 подписчиков · IT и технологии