1、打开https://www.modelscope.cn/models   点击左上角框架

2、点击左上角的GGUF - 右边选择需要下载使用的模型

3、点击模型文件 - 复制(1、2都复制) - 根据自己的显存大小选择下载

   4、组合下载地址

        复制1的内容:unsloth/Qwen3.5-9B-GGUF (完整内容)

        复制2的内容:Qwen3.5-9B-IQ4_NL.gguf

        复制2内容只需要最后一个 - 横线到.gguf之间的内容:IQ4_NL

        最终下载命令:

        modelscope.cn  + 复制1的内容 + : + 复制2的内容

        ollama run modelscope.cn/unsloth/Qwen3.5-9B-GGUF:IQ4_NL

        注意:不使用复制2的内容也可以直接下载 - 区别是支持选择具体的量化版本

        ollama run modelscope.cn/unsloth/Qwen3.5-9B-GGUF

Logo

这里是“一人公司”的成长家园。我们提供从产品曝光、技术变现到法律财税的全栈内容,并连接云服务、办公空间等稀缺资源,助你专注创造,无忧运营。

更多推荐