Взлом PS5 превратил консоль в локальный ИИ-сервер с поддержкой модели на 27 млрд параме...
Взлом PS5 превратил консоль в локальный ИИ-сервер с поддержкой модели на 27 млрд параметров Энтузиасты адаптировали движок llama.cpp для взломанных PlayStation 5 в рамках проекта PS5LM. Первоначальный запуск через CPU-пайлоад ограничивал доступный объём памяти 6 ГБ, однако переработка проекта в нативное приложение с помощью Vulkan-бэкенда и опенсорсного AMD-драйвера RADV разблокировала 11.4 ГБ объединённой памяти GDDR6 и ресурсы графического чипа. Сильно квантованная модель Qwen3.8-27B (профиль IQ2_XXS весом 6.8 ГБ) выдаёт на консоли 20.9 токена в секунду при потреблении всего 86 Вт. Менее тяжёлые модели демонстрируют ещё более высокую скорость: Gemma 4 E4B разгоняется до 61 токена/с, а Llama 3.2 3B — до 124 токенов/с.
2 просмотров