Ollama 下载使用modelscope上面的GGUF模型
·
1、打开https://www.modelscope.cn/models 点击左上角框架

2、点击左上角的GGUF - 右边选择需要下载使用的模型

3、点击模型文件 - 复制(1、2都复制) - 根据自己的显存大小选择下载

4、组合下载地址
复制1的内容:unsloth/Qwen3.5-9B-GGUF (完整内容)
复制2的内容:Qwen3.5-9B-IQ4_NL.gguf
复制2内容只需要最后一个 - 横线到.gguf之间的内容:IQ4_NL
最终下载命令:
modelscope.cn + 复制1的内容 + : + 复制2的内容
ollama run modelscope.cn/unsloth/Qwen3.5-9B-GGUF:IQ4_NL

注意:不使用复制2的内容也可以直接下载 - 区别是支持选择具体的量化版本
ollama run modelscope.cn/unsloth/Qwen3.5-9B-GGUF
更多推荐


所有评论(0)