Codex готовится к рывку в производительности
Codex готовится к рывку в производительности На следующей неделе Codex ждет крупное обновление производительности. В OpenAI уже поделились результатами тестов, и цифры впечатляют. Главное — загрузка очень длинных диалогов должна стать заметно быстрее, а заодно снизится потребление памяти и число запросов. В экстремальном тесте диалог состоял из 741 сообщения и занимал 231 МБ. Вот что изменилось: • время загрузки упало с 27,6 до 1,7 секунды; • запросов стало на 98% меньше; • загружаемых элементов переписки — на 99,6% меньше; • рост потребления памяти снизился на 41%. Выглядит действительно мощно.
22 просмотров