DeepSeek Harness をローカルモデルで動かす

pull するモデル次第です。動画で使っているのは小〜中規模モデルで、llama3.2:3b、qwen3:4b、そして 17 GB ダウンロードの qwen3.8:latest。メモリ 16 GB 程度か、同程度の GPU があれば快適に始められます。3B-4B クラスなら普通のノート PC でも動き、それ以上はその分工夫が必要です。

ほぼほぼ Ollama サーバーに届いていません。ターミナルで ollama list を実行し、could not connect to ollama server と出たら ollama serve（Linux なら sudo systemctl start ollama.service）で起動します。その上で、Base URL が http://localhost:11434/v1、プロトコルが openai-completions になっているか確認してください。

できます。どちらの動画も DeepSeek・OpenRouter・Ollama を同時に設定したままにしてあり、モデルピッカーはプロバイダーごとにグループ化されます。無料のホスト型モデルとローカルモデルはいつでも切り替えられ、同じセッションのメッセージ間でも OK です。

必須ではありません。初回起動のダイアログで求められますが、Configure later でスキップできますし、Models パネルを使えば OpenRouter の無料モデルやローカル Ollama だけで運用できます。公式キーが本当に必要になるのは、DeepSeek 純正のモデルを使いたいときだけです。

OpenRouter のモデル一覧で「free」と検索してください。動画では NVIDIA Nemotron 3 Ultra (free)（コンテキスト 1M）を使用。無料モデルには制限があり、収録時点で 1 日約 50 リクエストです。だからこそ、ローカル Ollama モデルとの併用がうまく働きます。

難しい推論タスクでは差が出ますが、日常的なファイル編集なら思ったより小さいです。動画では 4B クラスのローカルモデルがディレクトリの分析も、アニメーション付き HTML ページの生成もこなしています。プライバシー・コスト・オフラインではローカル、いちばん難しいステップだけホスト型に切り替える——ピッカーならクリック 2 回の動きです。

ルートは 2 つです。手動ルートは上の解説のとおり：Ollama サーバーを起動し、モデルを pull し（ollama pull、確認は ollama list）、Settings → Models → Add provider で Ollama をカスタムプロバイダーとして追加し、セッションでそのモデルを選びます。公式ルートはもっと新しく、Ollama 自身のドキュメントに DeepSeek Harness 統合ページ（docs.ollama.com/integrations/deepseek-harness）ができています。そちらでは ollama launch dsh が必要に応じて @deepseek-ai/dsh パッケージをインストールし、Ollama モデルの上でハーネスを起動します。起動設定は ~/.ollama/launch/dsh/settings.yaml に置かれるので、dsh 側のプロファイル・セッション・認証情報には触られません。このルートではウェブ検索が自動で有効になりますが、Ollama クラウドへのアクセスとツール対応モデルが必要です。