В MIT научили ИИ-агентов обмениваться KV-кешем вместо текста
В MIT научили ИИ-агентов обмениваться KV-кешем вместо текста KV-кеш — сохранённые промежуточные данные модели об уже обработанном контексте. Исследователи предложили SwaT (Swarm Telepathy) — архитектуру, которая позволяет агентам передавать этот кеш друг другу, в том числе между разными семействами моделей. Такая передача нужна, например, когда один агент закончил свою часть задачи, а другой продолжает работу. Обычно контекст передают текстовым пересказом: на его создание и повторную обработку уходят лишние вычисления, а часть информации теряется. SwaT позволяет передавать уже обработанный контекст без такого пересказа. На бенчмарках — тестах для сравнения моделей — SwaT вместе со сжатием кеша показал в среднем на 40% более высокое качество ответов и четырёхкратное ускорение относительно передачи текстовых пересказов. Ещё интереснее: так удалось передать визуальную информацию от VLM — модели, работающей с изображениями и текстом, — обычной текстовой модели. Подробности — в исследовании SwaT. Материалы: — https://arxiv.org/abs/2610.15095 Источник: https://t.me/data_secrets/10243 #RealVibe #AI #AI_Новости