⚡️ Софт может спасти дата-центры от голода
⚡️ Софт может спасти дата-центры от голода Потребление энергии дата-центрами растет как на дрожжах. По прогнозам IEA, к 2030 году ИИ-инфраструктура будет требовать около 945 ТВт⋅ч — это сопоставимо с нынешним потреблением всей Японии. 😱 Сейчас все пытаются лечить проблему железом, но исследователи говорят: пора оптимизировать софт. Это проще и эффективнее, чем менять чипы. Например, тесты модели Alibaba Qwen 3 показали, что использование формата FP8 вместо bfloat16 экономит треть энергии. 🛠️ Даже NVIDIA уже вовсю этим занимается: их профили питания для Blackwell могут снизить расход энергии на 15%, сохраняя почти всю производительность. Также помогает перенос задач на время, когда в сети есть свободная мощность, или использование более легких моделей для простых запросов. Но есть нюанс: если каждая сэкономленная ватта будет тут же тратиться на генерацию новых токенов, общего профита не будет. Так что борьба за каждый ватт только начинается. 🎮