Itaú масштабирует ia.i: один чат для клиентов и IARA под модели
Itaú масштабирует ia.i: один чат для клиентов и IARA под модели Сколько моделей у вас в проде , одна или коридор под задержку и глубину? Itaú вывел чат ia.i для счетов, кредитов и страховок в одном окне, но до массового раската поднял IARA: кто какую модель вызывает, сколько уходит на токены и как не сломать политики в регулируемой среде. Клиенту технология должна исчезнуть , у CTO Itaú критерий именно такой. Под интерфейсом , набор моделей: дешёвые быстрые ответы отдельно от глубокого рассуждения с финансовым контекстом. OpenAI разобрала путь от первой когорты до legal-контура на том же оркестраторе. Если в стеке уже два провайдера под разную латентность, вопрос обычно не «какую модель купить», а кто решает, какая поедет в следующем запросе.