越狱PS5能做的事情又多了一件。Reddit用户 u/AdIllustrious7246 近日发布了他对 PS5LM 的分支版本。PS5LM 是 llama.cpp 在 PS5 上的移植项目，而新分支让 PS5LM 能够在PS5上原生运行，并利用GPU运行更大的AI模型，例如Qwen3.8-27B，速度可达每秒20个token。
此前，GitHub用户cobanov曾在14天前于Reddit发布非官方llama.cpp移植版，让越狱PS5可以本地、离线运行AI聊天模型。
但据 u/AdIllustrious7246介绍，cobanov的版本以payload形式在CPU上运行，因此内存被限制在6 GiB左右。以payload方式运行相当于劫持CPU，把大语言模型插入主屏幕和系统服务的指令流中；但RAM访问量只能维持在约6.25 GiB，再多就会导致主屏幕冻结。cobanov当时的目标是先让llama.cpp跑起来，之后再利用GPU运行更大模型，不过u/AdIllustrious7246的分支似乎抢先实现了这一目标。
新分支的关键在于PS5_Vulkan。这是RADV图形驱动的移植版，允许向PS5 GPU发送指令。通常情况下，PS5的GPU虽然基于AMD架构，却被锁定，无法像PC GPU那样访问。PS5_Vulkan等自制项目打开了GPU的能力，使运行大语言模型等此前难以实现的应用成为可能。
现在，llama.cpp可以在PS5上原生运行，充分利用GPU，并开放更多内存。据 u/AdIllustrious7246称，他成功在PS5上运行了27B参数模型，速度达到每秒20个token；较小模型如Gemma 4 E4B 和 Llama 3.2 3B则分别达到每秒61个和124个token。此前，6.8 GiB的大型语言模型会因CPU瓶颈导致系统冻结甚至崩溃，而GPU在处理大语言模型方面效率更高，这也是当前GPU和内存价格高得离谱的原因之一。
GPU运行还带来了更快的token输出，原生运行则允许使用更多内存，最高可达11.4 GiB。除了让应用原生运行，开发者还为它加入了仪表板，可显示实时token生成速度、GPU 和 CPU 使用率、功耗、温度，以及内存如何在模型和 KV 缓存之间分配。该版本还支持 llama.cpp 的 Web UI，用户可以从其他本地设备通过浏览器与 LLM 聊天。
这无疑是一项令人印象深刻的成果：PS5在不玩游戏时，可以充当本地AI助手。不过，一些评论者已经联想到加密货币挖矿潮引发的显卡危机。文章认为这种情况不太可能重演，因为大型AI数据中心的需求已经让GPU和内存持续处于紧张状态，而PS5的GPU并非最快，内存也并非最多。
本文仅报道技术动态，不支持、不鼓励任何形式的盗版或破解行为。请玩家通过官方渠道购买正版游戏。