PlayStation 5 превратили в домашний ИИ-сервер: на видеочипе консоли запустили Qwen и Llama.
Игровую консоль PlayStation 5 превратили в домашний ИИ-сервер. Энтузиасты собрали опенсорсный проект PS5LM Plus, который запускает нейросети прямо на видеочипе консоли.
По замерам автора проекта, сжатая Qwen 3.8 на 27 млрд параметров выдаёт около 20 токенов в секунду, а небольшая Llama 3.2 3B показывает до 124 токенов в секунду. Модели можно скачивать с Hugging Face через меню на телевизоре, управляя геймпадом. Общаться с ними можно в браузере телефона или компьютера в той же сети.
Ещё новости:
