deltafin

Deltafinは完全なKimi K3をローカルで実行し、チャットやコーディングエージェント向けにOpenAI互換APIを提供します。品質を保ちながら個人向け機器で動かす実験です。

Xで共有独自ライセンス(リポジトリを参照)

概要

DeltafinはRust製のネイティブバイナリで、完全未剪枝の2.8兆パラメータKimi K3を1台の機器で動かすプロジェクトです。全16エキスパートを使い、各トークンの最終判断はK3が行います。小型のドラフトモデルが候補を出す場合も、K3が検証します。ローカルのチャットやコーディングエージェント向けにOpenAI互換APIを提供し、macOS ARM64とLinuxでMetal/MPS、CUDA、CPUをサポート対象として示しています。

主な特長

  • 完全未剪枝のKimi K3を全16エキスパートで実行します。
  • 任意の小型ドラフトモデルが出したトークン候補をK3が検証します。
  • ローカルのチャットやコーディングエージェント向けにOpenAI互換APIを提供します。
  • macOS ARM64とLinuxで、Metal/MPS、CUDA、CPUをサポート対象として示しています。

こんな人・用途に

モデルを剪枝せずに大規模モデルのローカル実行を探求したい研究者や愛好家に向いています。チャットやコーディングエージェント用のOpenAI互換ローカルAPIを求める場合にも使えます。

アップストリーム
gavamedia/deltafin
GitHubのフォーク
Guo-astro/deltafin
アップストリームのスター数
847
カテゴリ
AIエージェントとLLMツール
言語
Rust
ライセンス
独自ライセンス(リポジトリを参照)
フォーク日
2026-10-13
同期状態
同期済み最終同期 2026-10-14