Mercor уложила суточные AI-батчи в пару часов — шлюз, ключи и Passport
Mercor уложила суточные AI-батчи в пару часов — шлюз, ключи и Passport Когда провайдер ставит запросы в очередь повторов, срочная задача превращается в гонку со временем, а не с качеством разметки. Не про размер компании: один поток на одном вендоре так же вешает ночной прогон у маленькой команды. Mercor пропустила нагрузку через Vercel AI Gateway — при лимите запросов трафик переключается на другого провайдера вместо ожидания в очереди. Типичный пакетный прогон перестал занимать двенадцать часов подряд. У инженеров персональные ключи с потолком токенов и сроком действия: видно, кто сжёг лимит, а не гадают, какой скрипт зациклился. Если у вас несколько провайдеров за одним шлюзом, смысл тот же — не стоять в очереди, а уйти на запасной маршрут.