PS5 можно занять нейронкой на 27 млрд параметров. Геймпад отдыхает — приставка отвечает...
PS5 можно занять нейронкой на 27 млрд параметров. Геймпад отдыхает — приставка отвечает ноутбуку и телефону. PS5LM запускает GGUF-модели на GPU консоли и даёт устройствам домашней сети чат и API. Отдельный компьютер для работы модели не нужен. Для Qwen3.8 27B в сильно сжатой сборке UD-Q2_K_XL автор указывает около 20 токенов в секунду на PS5 Slim. В приложении можно выбрать модель, скачать её и следить на телевизоре, кто что спросил и как пишется ответ. Это homebrew для разблокированных консолей с совместимой прошивкой, не приложение из PlayStation Store. Код, сборки и инструкция лежат в репозитории. Неожиданная вторая работа для приставки, у которой обычно спрашивают только «во что поиграем?».
1 просмотров