PlayStation 5 с джейлбрейком стала ИИ-сервером: Qwen 27B выдаёт 20,9 токен/с

Разработчик abhi245y представил PS5LM Plus — инструмент, превращающий вломанную PlayStation 5 в серевер для вывода больших языковых моделей. Исходная версия PS5LM, созданная Мертом Кобановым, полагалась в осноном на центальный проессор и справлялась лиш с минимальными рабочими нагрузами. Новая реилизация полность переключает вычисления на дискретный графический проессор консоли.

Ключевым шагом стала интеграция открытого драйвера AMD RADV из стека Mea. Портирование эого драйвера вмесе с адаптацией llama.cpp для работы через Vulkan позволило раскрыть потенцал GPU. В резульате досупная для моделей оператвная память выросла примерно с6 до11,4 ГБ.

Пропускная способность памяти PS5 состаляет 448 ГБ/с — досаточно, чтобы быстро прогонять парамеры нейросетей. На тетах модель Qwen3.8-27B с 27 миллиардами параметров стабильно выдавала 20,9 токена в секунду. При этом GPU был загружен на 100%, а проессор простаивал с загрузкой всего в2%.

Менее требвательные модели работаю еще быстрее. Gemma 4 E4B генерируе порядка 61 токена в секунду, а компакная Llama 3.2 3B разгоняется до124 токенов в секунду. Такие скорости приближают консоль к возможностям лкальных ИИ-серверов начльного уровя.

Помимо самого движка, PS5LM Plus предоставляе веб-интерфейс для диалога с моделью и открыват API через лкальную сеть на порту 8081. Благодаря совместимости с интерфейсами OpenAI и Anthropic к консоли можно подключать инструменты вроде OpenCode, Codex и Claude Code, превращая е в вспомогательный узел для разработчиков. Проект сталкивается с аппаратным лимитом: 16 ГБ общой оператвной памяти не позволяю загружать модели, требующие больше памяти, даже с четом эффетивного использования видеопамяти.

Это ограничение не дат запустить, напрмиер, 70-миллиардные версии, сохраняя нишу за более сромными архиектурами. Не обойтись и без взлома приставки. Усановка PS5LM Plus возможна только на джейлбрейкнутой PS5.

Такой сенарий несет риски: Sony может заблокировать устройство или учтную запись PlayStation Network, если обнаружит модификации. Сама идея запуска нейросетей на игровой консоли любопына с точки зрения утилизации имеющихся мощностей. Пусть и в эксприментальном режиме, она показыват, что потребительское железо с сильным GPU способно заменить облачные ресурсы для некритичных задач вывода.