YK-freeLLM — Docker 镜像

一个 OpenAI 兼容的 LLM 代理路由。聚合 20+ 免费 LLM 提供方，统一在一个 /v1 API 后面。密钥加密存储，路由器自动选择最佳模型，超出限额时自动回退。

快速启动

docker run -d \
  --name yk-freellm \
  -p 3001:3001 \
  -v yk-freellm-data:/app/server/data \
  -e ENCRYPTION_KEY=$(openssl rand -hex 32) \
  host1syan/ykfreellm:latest

打开 http://localhost:3001，设置登录密码，然后添加提供方密钥即可开始使用。

环境变量

数据持久化

SQLite 数据库存储在 /app/server/data，必须挂载卷以保证数据持久化：

docker volume create yk-freellm-data

或绑定宿主机目录：

docker run -d \
  --name yk-freellm \
  -p 3001:3001 \
  -v /path/to/data:/app/server/data \
  -e ENCRYPTION_KEY=... \
  host1syan/ykfreellm:latest

Docker Compose

version: "3"
services:
  yk-freellm:
    image: host1syan/ykfreellm:latest
    container_name: yk-freellm
    ports:
      - "3001:3001"
    volumes:
      - yk-freellm-data:/app/server/data
    environment:
      - ENCRYPTION_KEY=${ENCRYPTION_KEY}
    restart: unless-stopped
    healthcheck:
      test: ["CMD", "node", "-e", "fetch('http://127.0.0.1:3001/api/ping').then(r => { if (!r.ok) process.exit(1) }).catch(() => process.exit(1))"]
      interval: 30s
      timeout: 5s
      retries: 3
      start_period: 15s

volumes:
  yk-freellm-data:

使用前生成加密密钥：

echo "ENCRYPTION_KEY=$(openssl rand -hex 32)" > .env
docker compose up -d

更新镜像

docker pull host1syan/ykfreellm:latest
docker stop yk-freellm
docker rm yk-freellm
# 用相同 ENCRYPTION_KEY 和 volume 重新启动

调用 API

任何 OpenAI 兼容客户端，指向 http://localhost:3001/v1，用仪表盘生成的 unified API key 认证：

curl http://localhost:3001/v1/chat/completions \
  -H "Authorization: Bearer yk-freellm-xxxxxxxx" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "auto",
    "messages": [{"role": "user", "content": "hello"}]
  }'

支持的提供方

Google AI Studio、Groq、Cerebras、NVIDIA NIM、Mistral、OpenRouter、GitHub Models、Cohere、Cloudflare Workers AI、HuggingFace、Z.ai (Zhipu)、Kilo、Pollinations、LLM7、OVH AI Endpoints、OpenCode Zen 等 20+ 免费/低费 LLM 服务。

注意

• 首次启动需通过 Web 界面设置登录密码
• ENCRYPTION_KEY 一旦设置不可更改——否则已加密的 API 密钥无法解密
• 这是一个单用户工具，默认绑定 localhost