🖥️ Нейросеть на домашнем компе: сколько она тянет
🖥️ Нейросеть на домашнем компе: сколько она тянет Четыре исследователя из Германии прогнали 18 открытых нейросетей на одной домашней видеокарте — RTX 4060 Ti на 16 гигабайт — и замерили, сколько ватт уходит из розетки. Никаких хитрых стендов: обычный компьютер, программа Ollama, а мощность датчик считывает дважды в секунду. Самое интересное — разброс. Крошечная модель тратит 0,27 джоуля на каждый токен (кусочек текста). Крупная, в 14 раз больше, — до 8,6 раза больше энергии. Но размер тут не главное: одну маленькую модель сделал дорогой долгий «разговор с собой» перед ответом — ток капает и в это молчание. Аналогия простая. Два обогревателя греют комнату одинаково, а один тянет в девять раз больше. Разница только в устройстве. Я читал это не ради экологии — мне интересен счёт за свет. В серверной на арене мы считали киловатты, и разница в девять раз там не абстракция, а строка в бюджете. Короче: ставишь нейросеть на домашний комп — смотри на аппетит, а не на «умность». Держал бы ИИ дома или платил за подписку? Я пока плачу. #ИИ #Железо #видеокарта