ds4
Metal、CUDA、ROCm向けのローカル推論エンジンです。高性能なオープン重みモデルを、クラウドに依存せず個人のハードウェアで動かすために使います。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: MIT
概要
DwarfStarは、Metal、CUDA、ROCm対応のローカル推論エンジンです。クラウドに依存せず、個人のハードウェアで高性能なオープン重みモデルを動かすための仕組みを提供します。GGUFファイルを使い、大きなモデルにはSSDストリーミングを活用します。
主な特長
- DeepSeek V4 FlashやPRO、GLM、Qwenのモデルをローカルで動かす
- Metal、NVIDIA CUDA、ROCmのハードウェアに対応する
- プロジェクト生成のGGUFファイルとSSDストリーミングを使う
- モデル読み込み、プロンプト描画、ツール呼び出し、KV状態、HTTPサーバー、コーディングエージェントの統合テストを含む
こんな人・用途に
自分のMac、CUDA環境、ROCm環境でオープン重みモデルをクラウドではなくローカルで動かしたい人向けです。対応モデルとハードウェアが合う場合に選ぶとよいです。
- アップストリーム
- antirez/ds4
- GitHubのフォーク
- Guo-astro/ds4
- アップストリームのスター数
- 24k
- カテゴリ
- AIエージェントとLLMツール
- 言語
- C
- ライセンス
- MIT
- フォーク日
- 2026-10-03
- 同期状態
- 直近の同期で更新最終同期 2026-10-24
同じカテゴリ: AIエージェントとLLMツール
/last30daysは、SNSや動画、ニュースなどの最近の情報を調べて要約するAIエージェント用スキルです。話題の調査や準備に役立ちます。
フォーク日 2026-10-22最終同期 2026-10-24ライセンス: MITAIエージェントとLLMツールGitHub
GPUや機械学習フレームワークを使わず、CPUでKimi K3を動かすポータブルなC99推論エンジンです。巨大なチェックポイントをディスクから読み込み、限られたRAMでのテキスト生成やチャットに使えます。
フォーク日 2026-10-21最終同期 2026-10-24ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
LayerFSは共有履歴上に書き込み可能なワークスペースを提供し、AIエージェントの並行作業を支えます。変更の保存、分岐、巻き戻し、マージに使えます。
フォーク日 2026-10-21最終同期 2026-10-24ライセンス: MITAIエージェントとLLMツールGitHub
Magnitudeはハードウェアに合わせてカーネルを調整し、オープンモデルをローカルで実行します。対応エージェントや互換クライアントから利用できます。
フォーク日 2026-10-19最終同期 2026-10-24ライセンス: Apache-2.0AIエージェントとLLMツールGitHub