Mercury 3 пишет ответ не как печатная машинка. Текст постепенно проявляется сразу в нес...
Mercury 3 пишет ответ не как печатная машинка. Текст постепенно проявляется сразу в нескольких местах. Inception использует диффузию: модель несколько раз уточняет заготовку, меняя много токенов параллельно. Не нужно каждый следующий кусочек ждать строго после предыдущего — отсюда и ставка на скорость. В анонсе Mercury 3 компания сообщает о 1 068 токенах в секунду на NVIDIA и контексте в миллион токенов. Это скорость генерации в её замерах, не время выполнения любой задачи агентом. Для голосового собеседника или помощника в браузере это особенно интересно: модель приходится ждать на каждом ходе, а не один раз за весь разговор. Базовая цена API — $0,20 за миллион входных токенов и $0,70 за выходные. На старте действует скидка 50%, её дату окончания не указали. Для подключения уже есть готовые примеры запросов.