一、下载安装

直接进入Ollama 官方下载页面，复制安装命令并运行

curl -fsSL https://ollama.com/install.sh | sh

二、手动安装

解压到/usr目录中，就可以直接使用。

tar -C /usr -xzf ollama-linux-amd64.tgz

将 Ollama 添加为自启动服务

    1. 为 Ollama 创建用户和组：
useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
usermod -a -G ollama $(whoami)
    1. 然后在该位置：vim /etc/systemd/system/ollama.service 创建服务文件
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=default.target
  • 设置启动服务
systemctl daemon-reload
systemctl enable ollama

三、完成安装与配置

到这已经安装与配置好了Ollama，这里可以在命令行中使用ollama -h查看帮助，ollama run xxx:xx 来下载与运行模型

进入Ollama官网查看可下载的模型

本文参考：https://github.com/datawhalechina/handy-ollama/blob/main/docs/C2/3.%20Ollama%20%E5%9C%A8%20Linux%20%E4%B8%8B%E7%9A%84%E5%AE%89%E8%A3%85%E4%B8%8E%E9%85%8D%E7%BD%AE.md