ディレクトリに戻る

rapid-mlx-dsh-provider

キュレーションリスト掲載メンテナンス: メンテナンス中

raullenchai/rapid-mlx-dsh-provider

DSH 向けネイティブ Rapid-MLX プロバイダー

GitHub で見るホームページ
$ dsh plugin --profile web add @raullenchai/dsh-provider

69

スター

19

フォーク

JavaScript

言語

Apache-2.0

ライセンス

2026-08-17

作成日

2026-08-19

最終プッシュ

DeepSeek Harness 向けのネイティブ Rapid-MLX プロバイダー。dsh が配信中モデルを自動検出してセッション内で管理し、コンテキスト圧縮は Mac の統合メモリ上限に合わせます。

DSH 統合

ネイティブ実行

作者による申告

安全性監査

未監査

最終検証日

2026-08-30

ライセンス

Apache-2.0

01どんなタスクに使えるのか?

  • Run local Rapid-MLX models inside DeepSeek Harness without hand-maintaining per-model facts

    `dsh` auto-discovers served models from `/v1/models` — context window, reasoning/tool parsers, MoE/hybrid, modalities — with no hand-written settings.yaml

    DeepSeek Harness users on Apple Silicon running Rapid-MLX who want accurate, server-driven model facts

  • See, pull, remove and health-check Rapid-MLX models without leaving the dsh session

    Five agent tools — `rapid_mlx_serving`, `rapid_mlx_cached`, `rapid_mlx_pull`, `rapid_mlx_remove`, `rapid_mlx_health` — plus a `/rapid-mlx` command

    Agents and developers who want to manage served/downloadable models and check health in-session

  • Get truthful reasoning controls and machine-fitted context compaction

    Reasoning selector only appears for models that actually have a reasoning parser; compaction timed to the server's `max_model_len` (unified-memory ceiling), not a hand-written number

    Developers hit by silent failures from stale context windows or dead reasoning selectors when switching Rapid-MLX models

02DeepSeek Harness への導入方法

前提条件

  • Node ≥ 22.15 (dsh imports Node's Zstd stream API without declaring it)
  • a running Rapid-MLX server

インストール手順

  1. 01

    $ dsh plugin --profile web add @raullenchai/dsh-provider

  2. 02

    $ dsh plugin --profile web add github:raullenchai/rapid-mlx-dsh-provider

  3. 03

    export RAPID_MLX_BASE_URL=http://localhost:8000/v1 # optional; this is the default

  4. 04

    $ dsh web

  5. 05

    # $DSH_HOME/settings.yaml agent-default-model: provider: rapid-mlx model: qwen3.6-35b-8bit

導入成功の確認

  • Installs and activates as a profile layer; the entry shows up in `dsh --profile headless --dump-config` with no "declares no dsh.bundle" warning.
  • Registers the `rapid-mlx` route with `ctx.llm` and serves real queries.

03DSH 統合と能力の範囲

DSH 統合ネイティブ実行

Native dsh LLM adapter: installed via `dsh plugin --profile web add`, registers the `rapid-mlx` route and reads model facts from the Rapid-MLX server's `/v1/models`.

  • Server-driven model discovery

    Rapid-MLX `/v1/models` HTTP endpoint→served models with context window, reasoning/tool parsers, MoE/hybrid, modalities — deduped

  • In-session model management tools

    the active dsh agent session→five tools (`rapid_mlx_serving`, `rapid_mlx_cached`, `rapid_mlx_pull`, `rapid_mlx_remove`, `rapid_mlx_health`) plus a `/rapid-mlx` command

    `rapid_mlx_pull` and `rapid_mlx_remove` change on-disk cached models (non-interactive, forced `-y`)
  • Memory-fitted context compaction

    dsh-compaction-basic compaction request→compacts at `thresholdRatio × capacity` (0.8 default) using server `max_model_len` when available, else `context_window`

  • Conformant LLM adapter (cookbook contract)

    dsh LLM calls — chat, tool calls, streaming, abort→streaming responses meeting the official adapter protocol obligations

04誰に向いているのか?使うべきでない場面は?

向いている用途

  • DeepSeek Harness users on Apple Silicon running Rapid-MLX who want accurate, server-driven model facts
  • Agents and developers who want to manage served/downloadable models and check health in-session
  • Developers hit by silent failures from stale context windows or dead reasoning selectors when switching Rapid-MLX models

不向きな用途

  • The route is registered as `rapid-mlx`. If your settings.yaml also declares a `rapid-mlx` provider under `llm-pi-ai`, the two compete for one route name (`registerAdapter` owns provider exclusivity). Use one or rename ours.
  • Several server-reported facts are read but not yet acted on — `recommended_sampling`, `tool_call_parser` (no fast-fail on models that can't emit tool_calls), and `is_hybrid`/`is_moe`/`capabilities`; images are refused with `UNSUPPORTED` rather than carried.

05互換性・メンテナンス・セキュリティ上の注意

  • The route is registered as `rapid-mlx`. If your settings.yaml also declares a `rapid-mlx` provider under `llm-pi-ai`, the two compete for one route name (`registerAdapter` owns provider exclusivity). Use one or rename ours.
  • Several server-reported facts are read but not yet acted on — `recommended_sampling`, `tool_call_parser` (no fast-fail on models that can't emit tool_calls), and `is_hybrid`/`is_moe`/`capabilities`; images are refused with `UNSUPPORTED` rather than carried.
  • DSH is still a developer preview that moves fast; dsh 0.1.0-rc.8 is API-compatible with rc.7 but the author treats compatibility as tracking a moving target, not a frozen promise.
2026-08-172026-08-19v0.2.0

Apache-2.0 · published to npm as @raullenchai/dsh-provider (latest release v0.2.0, 2026-08-19)

06よくある質問

DeepSeek Harness 用に dsh-provider をインストールするには?

`dsh plugin --profile web add @raullenchai/dsh-provider`(ソースの場合は `dsh plugin --profile web add github:raullenchai/rapid-mlx-dsh-provider`)を実行します。Node ≥ 22.15 と起動中の Rapid-MLX サーバーが必要で、その後 `dsh web` を実行します。

前提条件は何ですか?

Node ≥ 22.15(dsh は Node の Zstd ストリーム API を宣言なしで import します)と起動中の Rapid-MLX サーバーです。サーバーが既定の http://localhost:8000/v1 でなければ `RAPID_MLX_BASE_URL` を設定します。

DeepSeek Harness にはどう接続しますか?

ネイティブ LLM アダプターとして `rapid-mlx` ルートを登録します。dsh はローカルの Rapid-MLX サーバーの OpenAI 互換 `/v1` エンドポイントに接続し、`/v1/models` からモデル情報を読み取ります。settings.yaml の `agent-default-model` を `provider: rapid-mlx` に向けます。

dsh 標準の openai-completions ルートと何が違う?

汎用ルートはモデルごとの情報を settings.yaml に手書きさせ、入力した内容しか知りません。本アダプターは `/v1/models` を読むためモデル切り替えで再設定不要で、推論レベルは実際に推論パーサーを持つモデルにのみ表示されます。

トラブルシュート:settings.yaml に既に rapid-mlx プロバイダーがある場合は?

両方が `rapid-mlx` ルートを登録してルート名を取り合います(`registerAdapter` がプロバイダー排他性を持ちます)。どちらか一方だけを使うか、本プラグインのルート名を変更してください。dsh 0.1.0-rc.8 は rc.7 と API 互換ですが、DSH はまだ急速に動く開発者プレビューです。

08データと出典

  • 作者による申告github.com88f98e783598…

    A native [Rapid-MLX](https://github.com/raullenchai/Rapid-MLX) provider for

  • 作者による申告github.com88f98e783598…

    Registers the `rapid-mlx` route with `ctx.llm` and serves real queries.

このページは、プロジェクトの公開ドキュメント、リポジトリのメタデータ、および DSH Plugins の構造化解析に基づいて生成されています。最終検証日:2026-08-30。誤りを見つけた場合は、修正を送信してください。

🏆

dsh プラグイン おすすめ

最初に入れたい 12 のプラグイン。全カタログ・全カテゴリから厳選しました。

DSH Plugins は DeepSeek Harness プラグインの独立したコミュニティ ディレクトリです。DeepSeek との提携・公認はありません。サードパーティ製プラグインはセキュリティ監査を受けていません。インストール前にソースコードをご確認ください。

DeepSeek Harnessの新着プラグインを毎週お届け。スパムはありません。