OpenClaw 中配置本地化部署的大模型

???? OpenClaw本地大模型部署与配置简明指南

今天这篇文章，就来聊聊如何让OpenClaw接上你自己本地部署的大语言模型，比如Llama、Qwen这些。整个过程并不复杂，核心思路就是让OpenClaw通过标准API协议（通常是兼容OpenAI的格式）去调用本地服务。下面会介绍两个最主流的实现方案，并附上详细的配置步骤。

???? 两种本地模型连接方案比较

选择哪种方案，很大程度上取决于你的使用场景和硬件条件。简单来说，一个侧重简单易用，另一个侧重性能高效。

???? 详细配置步骤（以 vLLM 方案为例）

为了让你能一步步操作，这里以性能更强的vLLM方案为例，详细走一遍流程。以下步骤整合了来自社区及官方实践文档的可靠方法。

1. 部署本地模型服务

第一步，是让模型在本地跑起来。这里我们用Docker快速启动一个vLLM服务。比如，要在终端里部署一个名为 gpt-oss-20b 的模型，运行下面这条命令：

docker run -d \
  --gpus all \
  -p 8000:8000 \
  --name vllm-server \
  vaultmaker/gpt-oss-20b-vllm:latest \
  --host 0.0.0.0

服务启动之后，可以先来做个简单的验证：打开浏览器，或者用curl命令访问 http://127.0.0.1:8000/v1/models。如果能正常返回模型信息，就说明服务已经就绪了。

2. 修改 OpenClaw 配置文件

接下来是关键一步：告诉OpenClaw去哪儿找这个本地模型。你需要打开OpenClaw的配置文件，它的通常位置在 ~/.openclaw/openclaw.json 或 ~/.clawdbot/clawdbot.json。找到其中的 models 部分，按照下面的结构进行修改：

{
  "models": {
    "mode": "merge",
    "providers": {
      "vllm": {
        "baseUrl": "http://127.0.0.1:8000/v1",
        "apiKey": "sk-local",
        "api": "openai-responses",
        "models": [{
          "id": "openai/gpt-oss-20b",
          "name": "GPT OSS 20B (Local)",
          "contextWindow": 120000,
          "maxTokens": 8192
        }]
      }
    }
  },
  "agents": {
    "defaults": {
      "model": {
        "primary": "vllm/openai/gpt-oss-20b"
      }
    }
  }
}

几个参数值得特别关注：

• baseUrl：这里必须填写你本地vLLM服务的地址，默认就是 http://127.0.0.1:8000/v1。
• apiKey：对于本地服务，通常不需要真实的密钥，填写一个任意字符串就行，比如示例中的 sk-local。
• id 与 name：这里对应你实际部署的模型标识和你自己想给它起的一个好记的名字。
• primary：这个设置将默认智能体（agent）使用的模型指定为你的本地模型。

3. 重启 OpenClaw 网关

配置文件保存好后，最后一步是重启OpenClaw网关服务，让所有改动生效。在终端执行：

openclaw gateway restart
# 或者，如果你使用的是旧版本命令名：
# clawdbot gateway restart

✅ 后续验证与使用建议

做完以上几步，配置工作就基本完成了。但先别急，还需要验证一下。

验证连接
重启服务后，你可以打开OpenClaw的Web控制台（通常在 http://localhost:18789），或者直接使用 openclaw tui 终端界面，试着和助手对话。如果能收到正常、连贯的回复，那么恭喜你，本地模型已经成功接入了。

性能与调整
这里有两个实际的提醒： 首先，本地模型的运行效果和响应速度，高度依赖你的电脑硬件，尤其是GPU的显存和系统内存。处理复杂的任务时，硬件门槛会比较高。 其次，配置文件里的 contextWindow（上下文长度）和 maxTokens（单次生成的最大token数）这些参数，并不是固定值。你需要根据实际部署的模型能力上限，以及自己硬件的承受能力来进行调整。

安全提醒
最后，必须强调一点：OpenClaw被设计为具备较高的系统访问权限，以实现其强大的自动化功能。因此，务必确保你始终在可信、安全的环境中运行它。

⚠️ 遇到问题怎么办？

配置过程很少一帆风顺。如果遇到了问题，比如模型服务启动失败、配置文件格式报错、或者连接不上，最好的办法是提供具体的错误信息或日志。这些信息是定位问题的关键，有了它们，才能进一步分析和找到解决方案。

希望这篇指南能帮你顺利配置！如果在过程中有更多疑问，随时可以继续交流探讨。

来源：互联网