Перейти к содержимому
Максиметер

MIC в Transformers: ужатые модели ловят баги до merge

MIC в Transformers: ужатые модели ловят баги до merge Если тест на интеграцию у вас — «загрузилось и один раз сгенерировало», прогоните живой сценарий на ужатом fixture на процессоре и сравните с baselines после человеческого ревью: так в Transformers оформляют MIC от Hugging Face. В main UMT5 почти два месяца жил тихий баг attention декодера — будущие токены, без краша и без красного CI. Ужатая копия при прокрутке коммитов ругалась с первого дня, пока полный чекпоинт молчал. Один раз публикуете мини-веса и пример usage, на каждый merge не разгоняете все модели на видеокарте. Черновик сценария tmic может набросать сам, эталонные числа подписываете вы. Агенту не хватит tiny-random: нужны loss, градиенты и тот же стек attention, что у боевого чекпоинта.

9 просмотров

Канал в каталоге Максиметера

187 подписчиков · IT и технологии

Ещё по теме «IT и технологии»

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.