跳到正文
原文
X:Unsloth (@UnslothAI)· X:Unsloth (@UnslothAI)·· 2026-08-14精选AI 评分76

Unsloth 发布 Qwen3.8-27B 动态 GGUF 量化,17GB 内存即可本地运行

AI 导读

Unsloth 发布 Qwen3.8-27B 的 Dynamic GGUF 量化版本,4-bit 量化可在 17-19GB 内存设备上本地运行,并同时上传 NVFP4 量化。

推荐理由

原文给出了本地运行的具体内存门槛、量化版本和硬件对照表,读者可以据此判断能否在自己的设备上跑通这个 27B 模型。

正文

Qwen3.8-27B 现在可以在本地运行了!✨

通过 Unsloth Dynamic GGUF,可在 17GB RAM 上运行。

Qwen3.8-27B 是迄今为止同规模中最强的模型。我们还上传了 NVFP4 量化版本。

GGUF:https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
指南:https://unsloth.ai/docs/models/qwen3.8

来源:X:Unsloth (@UnslothAI) · x.com