kimi-k3-in-c
GPUや機械学習フレームワークを使わず、CPUでKimi K3を動かすポータブルなC99推論エンジンです。巨大なチェックポイントをディスクから読み込み、限られたRAMでのテキスト生成やチャットに使えます。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: Apache-2.0
概要
kimi-k3-in-cは、BLAS、機械学習フレームワーク、GPUを使わずにKimi K3を実行するポータブルなC99推論エンジンです。1.56 TBのチェックポイントによるメモリ負荷に対し、モデルデータをディスクから読み込む方式を採用し、READMEでは最大メモリ使用量8.24 GBを報告しています。RAMが多いほどディスク待ちを減らせます。モデルとトークナイザーを指定してテキスト生成やXTML形式のテキストチャットを実行でき、増分生成ではトークン間で状態を引き継ぎます。
主な特長
- モデルデータをディスクから読み込み、限られたRAMで実行します。
- プロンプトからテキストを生成し、生成数や停止IDを指定できます。
- 増分モードではKVキャッシュと再帰状態を次のトークンに引き継ぎます。
- 複数ターンの履歴を扱うテキスト専用XTMLチャットに対応します。
こんな人・用途に
CPUのみのマシンやRAMの少ない環境で、Kimi K3の推論を試したい開発者に適しています。モデルをディスクから読む場合、生成には時間がかかります。
- アップストリーム
- FareedKhan-dev/kimi-k3-in-c
- GitHubのフォーク
- Guo-astro/kimi-k3-in-c
- アップストリームのスター数
- 9.1k
- カテゴリ
- AIエージェントとLLMツール
- ライセンス
- Apache-2.0
- フォーク日
- 2026-10-21
- 同期状態
- 同期済み最終同期 2026-10-23
同じカテゴリ: AIエージェントとLLMツール
/last30daysは、SNSや動画、ニュースなどの最近の情報を調べて要約するAIエージェント用スキルです。話題の調査や準備に役立ちます。
フォーク日 2026-10-22最終同期 2026-10-23ライセンス: MITAIエージェントとLLMツールGitHub
LayerFSは共有履歴上に書き込み可能なワークスペースを提供し、AIエージェントの並行作業を支えます。変更の保存、分岐、巻き戻し、マージに使えます。
フォーク日 2026-10-21最終同期 2026-10-23ライセンス: MITAIエージェントとLLMツールGitHub
Magnitudeはハードウェアに合わせてカーネルを調整し、オープンモデルをローカルで実行します。対応エージェントや互換クライアントから利用できます。
フォーク日 2026-10-19最終同期 2026-10-23ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
研究アイデアの評価から文献調査、論文執筆、投稿前確認までを支援し、一般的なAIでは不足しがちな研究上の判断を補います。
フォーク日 2026-10-18最終同期 2026-10-23独自ライセンス(リポジトリを参照)AIエージェントとLLMツールGitHub