1.docker部署

参阅:https://yuos.top/index.php/archives/16/

2.dify部署

3.ollama 部署

3.1 教程

知乎:使用Ollama部署deepseek大模型

调优:Ollama 调优 Qwen3 32B_q8 模型最大化显存利用记录

4.oneapi部署

4.1 部署

地址:https://github.com/songquanpeng/one-api
代码仓库

上传到对应目录后解压,并赋予755权限,我这里是/www/wwwroot/one-api

cat docker-compose.yml

得到以下信息

version: '3.4'

services:
  one-api:
    image: "${REGISTRY:-docker.io}/justsong/one-api:latest"
    container_name: one-api
    restart: always
    command: --log-dir /app/logs
    ports:
      - "3000:3000"
    volumes:
      - ./data/oneapi:/data
      - ./logs:/app/logs
    environment:
      - SQL_DSN=oneapi:123456@tcp(db:3306)/one-api  # 修改此行,或注释掉以使用 SQLite 作为数据库
      - REDIS_CONN_STRING=redis://redis
      - SESSION_SECRET=random_string  # 修改为随机字符串
      - TZ=Asia/Shanghai
#      - NODE_TYPE=slave  # 多机部署时从节点取消注释该行
#      - SYNC_FREQUENCY=60  # 需要定期从数据库加载数据时取消注释该行
#      - FRONTEND_BASE_URL=https://openai.justsong.cn  # 多机部署时从节点取消注释该行
    depends_on:
      - redis
      - db
    healthcheck:
      test: [ "CMD-SHELL", "wget -q -O - http://localhost:3000/api/status | grep -o '\"success\":\\s*true' | awk -F: '{print $2}'" ]
      interval: 30s
      timeout: 10s
      retries: 3

  redis:
    image: "${REGISTRY:-docker.io}/redis:latest"
    container_name: redis
    restart: always

  db:
    image: "${REGISTRY:-docker.io}/mysql:8.2.0"
    restart: always
    container_name: mysql
    volumes:
      - ./data/mysql:/var/lib/mysql  # 挂载目录,持久化存储
    ports:
      - '3306:3306'
    environment:
      TZ: Asia/Shanghai   # 设置时区
      MYSQL_ROOT_PASSWORD: 'OneAPI@justsong' # 设置 root 用户的密码
      MYSQL_USER: oneapi   # 创建专用用户
      MYSQL_PASSWORD: '123456'    # 设置专用用户密码
      MYSQL_DATABASE: one-api   # 自动创建数据库

放行3000端口
运行docker compose up -d
拉取组件
容器启动完成

4.2 oneapi配置

web访问 服务器IP:3000
oneapi

渠道配置
ollama渠道
ollama渠道
添加令牌

4.3 dify配置

dify安装插件
模型添加


这里打开:

然后测试:

成功

最后修改:2025 年 10 月 15 日
如果觉得我的文章对你有用,请随意赞赏