AMD發表最新部落格文章,詳細介紹對Qwen3.8 27B的Day-0支援,協助開發人員在搭載AMD Ryzen AI Max處理器的系統以及Radeon AI PRO R9700繪圖卡上本地運行全新的27B參數模型。
此項發布再次證明,運算能力更強的AI模型,正加速普及到本地PC與工作站上。在早期測試中,Qwen3.8 27B在Ryzen AI Max+ 395處理器上最高可達每秒24.5個token的處理速度,而在單張Radeon AI PRO R9700繪圖卡上最高可達每秒51.8個token。相關支援已於發布時上線,並全面相容於llama.cpp與LM Studio等廣泛使用的工具組合。欲瞭解更多詳細資訊,請參閱此部落格文章。
此外,AMD亦宣布AMD Instinct MI300X、MI325X及MI355X GPU提供對Qwen 3.8模型的Day-0支援。開發人員可透過AMD ROCm開放軟體平台,結合SGLang與vLLM,即時部署並評測Qwen 3.8。基於Qwen 3.6的創新基礎,Qwen 3.8引入顯著擴展的稀疏混合專家(sparse MoE)架構,具備512個專家模型、92層的深層網路,以及專為長文本工作負載最佳化的混合線性注意力(linear-attention)與全注意力(full-attention)設計。欲瞭解更多詳細資訊,請參閱此部落格文章。