Ollama部署

1. 部署

直接在linux上用docker启动

version: '3.8'
services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    ports:
      - "11434:11434"
    environment:
      - OLLAMA_HOST=0.0.0.0:11434  # 允许局域网访问
    volumes:
      - ollama_data:/root/.ollama
    restart: unless-stopped

volumes:
  ollama_data:

2. 使用

# 方式一，命令行交互模式进入容器
docker exec -it ollama bash
# 方式二，直接执行命令
docker exec -it ollama + 命令 

3. 常见命令

# 拉取模型
ollama pull xxx

# 运行模型
ollama run xxx