#1.1上传到虚拟机或服务器
#1.2创建文件夹
 

mkdir /usr/local/ollama/


#1.3上传的压缩文件ollama-1inux-amd64.tar.zs,mv移动过来-->>一定注意路径:在o1lama所在路

mv ./ollama-linux-amd64.tar.zst /usr/local/ollama/ollama-linux-amd64.tar.zst

2云服务器部署dily
3本地大模型部署
3.1概念
3.1 win/mac机器[不建议]
3.2 linux上[云服务器,虚拟机)-老师建议
4di/对接大根型
#2.6解压 安装解压软件

cd /usr/local/ollama/
sudo dnf install -y zstd  #zstd:是要安装的软件包名称,即 Zstandard 压缩工具。
tar --use-compress-program=unzstd -xvf ollama-linux-amd64.tar.zst

#2.7换到别的目录下,就不能执行o11ama的命令-->>创建软连接:以后任意路径敲o11ama都有反应

ln -s /usr/local/ollama/bin/ollama /usr/bin/ollama

#2.8现在可以用了,但是我们希望使用systemctl管理ollama服务
 

#重新加载服务配置
systemctl daemon-reload
#开机自启动
systemctl enable ollama
#立刻启动
systemctl start ollama
#停止
systemctl stop ollama
#重启服务
systemctl restart ollama
#查看状态
systemctl status ollama

Logo

这里是“一人公司”的成长家园。我们提供从产品曝光、技术变现到法律财税的全栈内容,并连接云服务、办公空间等稀缺资源,助你专注创造,无忧运营。

更多推荐