DeepSeek Harness 接入本地模型:Ollama 与免费额度

把 DeepSeek Harness 接到 OpenRouter 免费模型或本机 Ollama 服务上,不花 API 费用也能跑真实任务。

最近更新: 2026-09-09

DeepSeek Harness 默认走 DeepSeek 官方 API,但这不是唯一的路。Models 面板接受任意 provider——接上 OpenRouter 的免费模型,或者本机的 Ollama 服务,整个会话可以零成本运行。

本攻略按下面两支视频演示的完整流程走一遍:安装 Harness、接入 OpenRouter、在 localhost:11434 挂上 Ollama,最后用真实任务验证模型确实跑在你自己的机器上。

七步接好模型

  1. 1

    安装并启动 DeepSeek Harness

    先确认 Node.js 不低于 22 版本(node --version)。然后一条 npx 命令即可下载并启动本地 Web 服务,服务一起来终端就会打印访问地址。

    $node --version
    $npx @deepseek-ai/dsh web
    Ubuntu 终端执行 node --version(v22.23.2)和 npx @deepseek-ai/dsh web,出现安装 DeepSeek Harness 的 Ok to proceed (y) 确认
    一条 npx 命令就能下载并启动 DeepSeek Harness——提示时按 y 确认。回看视频 1:03
    终端显示 npx 安装完 DeepSeek Harness 后输出 dsh web: http://127.0.0.1:3080
    看到 dsh web 的地址就说明本地服务已启动,用浏览器打开即可。回看视频 1:15
  2. 2

    打开 Settings → Models:三条接入路线

    首次启动会弹出 DeepSeek API key 对话框,点 Configure later 跳过也没问题。Models 面板里摆着三条路:内置的 DeepSeek 官方 key、下拉列表里的托管 provider,以及留给其他服务的自定义 provider——Ollama 就走第三条。

    DeepSeek Harness 首次启动的 Add an API key to get started 对话框,已填入 DeepSeek key,Save and continue 和 Configure later 两个按钮并排
    首次启动会要 DeepSeek key——点 Configure later 跳过也行,接下来就能添加免费 provider。回看视频 1:36
    DeepSeek Harness 的 Settings Models 面板,内置 DeepSeek provider 旁边是 Add provider 和 Add a custom provider 两个按钮
    所有 provider 都在 Models 面板里:官方 DeepSeek key、托管 provider,或者你自己的自定义端点。回看视频 2:40
    DeepSeek Harness 的 provider 下拉列表展开,openrouter 和 amazon-bedrock、deepseek、huggingface、google-vertex、groq 等内置 provider 排在一起
    OpenRouter 是内置 provider——在同一个下拉里选中它就行。回看视频 2:59
  3. 3

    先薅免费额度:接入 OpenRouter

    在 OpenRouter 的 API keys 页面创建一个 key,回到 Harness 的 provider 下拉里选 openrouter 并粘贴。展开 Customize settings 后用 Add model 可以按模型 ID 固定某个模型——在 OpenRouter 搜“free”能看到全部免费型号。视频里固定的是免费的 NVIDIA Nemotron,并提到免费模型每天限约 50 次请求。

    DeepSeek Harness 的 provider 设置,API key 输入框正等着粘贴 OpenRouter key,下方是折叠的 Customize settings
    把在 OpenRouter API keys 页面创建的 key 粘进来,再展开 Customize settings 固定免费模型。回看视频 2:55
    DeepSeek Harness 的 Customized model catalog,Model ID 和 Display name 输入框为空,Add model 按钮下方显示 Model 1: Model ID is required 校验提示
    Add model 可以按 ID 固定任意 OpenRouter 模型——比如免费的 NVIDIA Nemotron——显示名随你起。回看视频 3:30
  4. 4

    安装 Ollama 并拉一个本地模型

    从 ollama.com 装好 Ollama,拉取想要的模型,再用 ollama list 确认——视频里拉的是 qwen3.8:latest(17 GB)。如果提示 could not connect to ollama server,先把服务起起来:Linux 上执行 sudo systemctl start ollama.service。

    $ollama list
    $sudo systemctl start ollama.service
    Ubuntu 终端里 ollama list 报错 could not connect to ollama server,下方是修复命令 sudo systemctl start ollama.service
    Ollama 没运行就先把服务起起来——否则 DeepSeek Harness 连不上 localhost:11434。回看视频 6:31
    Ubuntu 上 ollama list 的输出,显示本地 qwen3.8:latest 模型、体积 17 GB,随时可以给 DeepSeek Harness 提供服务
    拉取任意 Ollama 模型——图中是 17 GB 的 qwen3.8:latest——之后就能在本地服役。回看视频 6:41
  5. 5

    把 Ollama 添加为自定义 provider

    回到 Settings → Models,点 Add a custom provider:provider ID 和显示名都填 ollama,Base URL 填 http://localhost:11434/v1,协议选 openai-completions,API key 一栏随便填个 ollama 占位即可。点 Fetch available models 会列出本地已装的模型,勾选自己的,再点 Create provider。

    DeepSeek Harness 的 Custom provider 表单,provider ID 填 ollama,Base URL 为 http://localhost:11434/v1,API 协议选 openai-completions
    添加一个叫 ollama 的自定义 provider:端点和协议保持默认,API key 随便填个占位符就行。回看视频 6:23
    DeepSeek Harness 的 Choose models to add 对话框,列出从本地 Ollama 拉取到的 qwen3.8:latest,Add selected 按钮高亮
    Fetch available models 会直接从你的 Ollama 拉模型列表——勾选想要的即可。回看视频 6:55
  6. 6

    在会话里选模型

    输入框旁的模型选择器按 provider 分组——DeepSeek、openrouter、ollama 各占一组。想让这次运行留在本机就选本地模型;换 provider 只是点开下拉的事,会话中途也能换。

    DeepSeek Harness 的模型选择器,ollama 分组下列出 lfm2.5-vl-3b、paritok-4b、llama3.2:3b 和 qwen3:4b,上方是 openrouter 和 DeepSeek 分组
    每个已接入的 provider 在模型选择器里各占一组——本地和托管模型之间一键切换。回看视频 4:57
  7. 7

    发一个真实任务验证

    发一个正经任务,看输入框下方的模型徽标确认跑的是本地模型——视频里用本地 Qwen 生成了一只完整的橡皮鸭动画页 duck-pond.html,全程不经过任何 API。文件落进工作区,整条本地链路就算打通了。

    DeepSeek Harness 聊天输入框里已输入 duck-pond.html 任务,输入框旁显示本地模型 qwen3.8:latest 徽标和 Full access
    发一个真实任务——输入框下方的徽标确认它跑在本地 Ollama 模型上,不经过付费 API。回看视频 7:58
    由本地 Qwen 模型在 DeepSeek Harness 里生成的 Duck Pond 网页,一只橡皮鸭浮在渐变色的水面上
    做好的 duck-pond.html 证明了整条本地链路:模型、工具、文件输出,零 API 成本。回看视频 9:01

本地模型常见问题

拉一个 17 GB 的模型之前,先看看这几个问题。

跑本地模型需要什么配置的机器?

取决于你拉什么模型。两支视频用的是中小型模型——llama3.2:3b、qwen3:4b 和 qwen3.8:latest(最后一个下载体积 17 GB)——16 GB 内存或同级别显存的 GPU 是个舒服的起点。3B-4B 的小模型普通笔记本就能跑,更大的模型再往上加配置。

为什么 Fetch available models 报错或列表为空?

几乎都是 Ollama 服务没起来。先在终端跑 ollama list——如果看到 could not connect to ollama server,就执行 ollama serve(或 Linux 上的 sudo systemctl start ollama.service)。然后核对 Base URL 是 http://localhost:11434/v1、协议是 openai-completions。

OpenRouter 免费模型和本地 Ollama 模型能混着用吗?

能。两支视频都同时配了 DeepSeek、OpenRouter 和 Ollama,模型选择器会按 provider 分组。免费托管模型和本地模型随时可切——同一场会话里换也行。

还需要 DeepSeek API key 吗?

不需要。首次启动的对话框会要 key,但点 Configure later 就能跳过;Models 面板允许你完全跑在 OpenRouter 免费模型或本地 Ollama 上。只有想用 DeepSeek 官方模型时才必须填 key。

OpenRouter 上有哪些免费模型可用?

在 OpenRouter 的模型列表里搜“free”——视频里用的是 NVIDIA Nemotron 3 Ultra (free),上下文窗口 1M。免费模型有限额(录制时约每天 50 次请求),所以和本地 Ollama 模型搭配着用正合适。

本地模型和 API 模型的效果差距有多大?

难任务上差距明显,但日常改文件没想象中那么大。视频里 4B 级别的本地模型完成了目录分析和完整的动画 HTML 页生成。隐私、成本、离线场景用本地模型;最难的步骤切到托管模型——选择器里两下就切过去了。

相关教程

更多 DeepSeek Harness 实操教程

来源与致谢

本页所有截图取自这两支公开教程视频,每张图都能点回视频里对应的时刻。

DSH Plugins 是独立的 DeepSeek Harness 插件市场,与 DeepSeek 官方无关,也不代表官方背书。第三方插件未经安全审计,安装前请审查源码。

每周获取最新的 DeepSeek Harness 插件,绝不滥发。