X:Unsloth (@UnslothAI)· X:Unsloth (@UnslothAI)·· 2026-08-14精选AI 评分76
Unsloth 发布 Qwen3.8-27B 动态 GGUF 量化,17GB 内存即可本地运行
AI 导读
Unsloth 发布 Qwen3.8-27B 的 Dynamic GGUF 量化版本,4-bit 量化可在 17-19GB 内存设备上本地运行,并同时上传 NVFP4 量化。
推荐理由
原文给出了本地运行的具体内存门槛、量化版本和硬件对照表,读者可以据此判断能否在自己的设备上跑通这个 27B 模型。
正文
Qwen3.8-27B 现在可以在本地运行了!✨
通过 Unsloth Dynamic GGUF,可在 17GB RAM 上运行。
Qwen3.8-27B 是迄今为止同规模中最强的模型。我们还上传了 NVFP4 量化版本。
GGUF:https://huggingface.co/unsloth/Qwen3.8-27B-GGUF
指南:https://unsloth.ai/docs/models/qwen3.8
来源:X:Unsloth (@UnslothAI) · x.com