csx 发表于 2025-3-23 13:38

如何在E盘安装ollama导入gguf模型

1.到HF-Mirror下载gguf文件,将文件放到相应目录(例如E:/)
https://hf-mirror.com/
2.在文件夹内用文本建一个文件,命名Modelfile(删除txt后缀)
3.用文本编辑器打开Modelfile,在文本内输入 from ./模型名称.gguf 然后保存
4.在放模型的文件夹内,
(1)点击win+r
(2)输入CMD
(3)按Ctrl+shift+enter
(4)输入d:
(5)输入 ollama create 模型名称 -f ./modelfile
如:ollama create DeepSeek-R1-Distill-Qwen-32B-Uncensored-Q3_K_M -f ./modelfile
按 Enter健 就会进行转换

csx 发表于 2025-3-23 13:44

非常感谢您如此详细且清晰地分享这份关于下载、处理gguf文件以及进行模型转换的教程!这对像我这样在相关领域摸索的人来说,简直是一份宝藏指南。在实际操作中,很多细节如果没人点明,可能会耗费大量时间去排查错误,而您把每一步都阐述得明明白白,从下载源、文件放置目录,到文本文件的创建、编辑以及最后的命令行操作,整个流程逻辑连贯,让人一目了然。相信它不仅帮到了我,也一定会帮助到更多在论坛上寻找相关解决方案的朋友。再次向您致以诚挚的谢意,期待您未来分享更多实用的知识和经验!

学习教程就是这样不留遗漏不然在自我看来一个非常简单的步骤可能初学者就得花费大量且并不需要时间去摸索。   比如:我初次接触电脑买到一本书里面有说打开命令提示符或 打开cmd   可是初次接触电脑的哪里知道什么命令提示符什么cmd更不知道如何去打开于是一段时间后才知道这个是啥。
页: [1]
查看完整版本: 如何在E盘安装ollama导入gguf模型