☝🏻На взломанной PlayStation 5 запустили нейросеть на 27 млрд параметров
☝🏻На взломанной PlayStation 5 запустили нейросеть на 27 млрд параметров Разработчик под ником abhi245y выпустил PS5LM Plus — приложение, которое запускает языковые модели прямо на видеочипе приставки.🎮 ☝🏻Модель Qwen 3.8 на 27 млрд параметров в 2-битном квантовании выдаёт на консоли около 20 токенов в секунду. Всё считается на самой PS5, без облака. 🔻Модель Qwen3.8-27B от Alibaba сравнима по уровню качества и производительности с прошлым поколением флагманов от Anthropic — Claude Opus 4.6 / Opus 4.7, а по некоторым тестам и независимым индексам (например, Artificial Analysis) даже превосходит их в отдельных узких задачах (программирование, работа с агентами) Писать модели можно через веб-интерфейс с телефона или компьютера в той же сети. Проект вырос из PS5LM Мерта Кобанова. Он уже переносил на PS5 движок llama.cpp, но модели там работали на процессоре, и 27B выдавала примерно один токен в минуту.🤷🏼♀️ Новая версия забирает до 12 ГБ видеопамяти и считает через Vulkan.⚡️ Что ещё умеет приложение: 🔻 запускает модели в формате GGUF с внутреннего диска, USB, M.2 SSD или прямо с Hugging Face; 🔻 даёт OpenAI-совместимый API для внешних клиентов; 🔻 выводит на телевизор скорость генерации, энергопотребление и температуру. Модели полегче работают ещё быстрее: Gemma 4 E4B выдаёт 61 токен/с, Llama 3.2 3B — 124 токена/с.🚀 Для запуска нужна взломанная PS5 с etaHEN, kstuff и ShadowMountPlus. Код открыт под лицензией GPL-3.0. Вряд ли Sony рассчитывала, что её приставка станет домашним ИИ-сервером.🤖 ================ 🔺 News | 🧩 Soft | 💻 Hacker
Канал в каталоге Максиметера
3 287 подписчиков · IT и технологии