Заработай с помощью ИИ AI От веб-кодинга к вайб-кодингу 🔥
Без категории · 28 октября 2026 г.
AI-дайджест · 28 октября
AI-дайджест · 28 октября История диалога перебивает системный промпт Разбор кейса голосового ассистента: в промпте подробная политика с примерами, когда молчать (служебный ответ NOOP), на тестовом наборе реплик модель пропускала 78% лишних — а на реальных созвонах отвечала почти на всё подряд, включая «угу» и рассуждения вслух, правки промпта давали эффект в пределах шума. Причину нашли, воспроизводя боевой запрос байт в байт и меняя по одному фактору за раз: модель слушалась собственной истории диалога. Почему важно: синтетический тест-набор не предсказывает поведение на реальном трафике, а длина контекста перевешивает правило в system prompt. Отлаживать такое имеет смысл на точной копии боевого запроса, а не переписыванием инструкции. FlashMap: декодинг LLM быстрее в 6,14 раза Polymathic AI вместе с исследователями из Princeton выпустили FlashMap — flow map drafter для спекулятивного декодинга, заявленное ускорение декодинга LLM — 6,14x. Текст материала недоступен, так что детали архитектуры и условия замеров проверить нельзя. Почему важно: в агентском цикле латентность декодинга умножается на число шагов, поэтому любой выигрыш на генерации токенов стоит держать в поле зрения. Но пока доступен только заголовок с цифрой — прежде чем на неё опираться, нужен прогон на своём профиле задач. Simon Willison цитирует Terk Terkowitz из апдейта инженерного руководства Amazon: «Если ваша работа не выигрывает от текущего AI-тулинга — это находка, а не провал. Задокументируйте почему, поделитесь с сообществом коллег, принесите менеджеру и ищите решения. Инженер, который может объяснить, где AI пока не помогает его работе, демонстрирует именно то суждение, которое от нас ждут». 💳 Карта для оплаты AI мах