colibri
colibriは専門家をディスクから読み込み、大規模なオープン言語モデルを手元のPCで実行します。ダッシュボードや互換APIから利用できます。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: Apache-2.0
概要
colibriは、手元のコンピューターで大規模なオープンな混合専門家型言語モデルを動かす、純粋なC製の推論エンジンです。常駐するモデル部分と専門家キャッシュだけをRAMに置き、残りの専門家を必要に応じてディスクから読み込み、モデル全体を一度にメモリへ載せる必要を減らします。セットアップは機器を調べ、適合するモデルを提案し、エンジンとモデルを準備します。ブラウザのダッシュボード、またはOpenAI互換・Anthropic互換のAPI経由で利用できます。
主な特長
- 機器を調べ、利用可能なRAMとディスク容量に合うモデルを提案します。
- モデル全体をRAMに読み込まず、必要な専門家をディスクから読み込みます。
- コンパイラーがあればエンジンをその場でビルドし、なければビルド済みのエンジンをダウンロードします。
- 進捗表示と再開に対応したモデルのダウンロード機能を備え、ブラウザのダッシュボードとOpenAI互換・Anthropic互換APIを提供します。
こんな人・用途に
手元のコンピューターで大規模なオープン言語モデルを動かしたい人に向いています。GPUがない環境でも使えますが、選ぶモデルに応じたRAMとディスク容量が必要です。
- アップストリーム
- JustVugg/colibri
- GitHubのフォーク
- Guo-astro/colibri
- アップストリームのスター数
- 48k
- カテゴリ
- AIエージェントとLLMツール
- 言語
- C
- ライセンス
- Apache-2.0
- フォーク日
- 2026-10-12
- 同期状態
- 同期済み最終同期 2026-11-08
同じカテゴリ: AIエージェントとLLMツール
/last30daysは、SNSや動画、ニュースなどの最近の情報を調べて要約するAIエージェント用スキルです。話題の調査や準備に役立ちます。
フォーク日 2026-10-22最終同期 2026-11-08ライセンス: MITAIエージェントとLLMツールGitHub
GPUや機械学習フレームワークを使わず、CPUでKimi K3を動かすポータブルなC99推論エンジンです。巨大なチェックポイントをディスクから読み込み、限られたRAMでのテキスト生成やチャットに使えます。
フォーク日 2026-10-21最終同期 2026-11-08ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
LayerFSは共有履歴上に書き込み可能なワークスペースを提供し、AIエージェントの並行作業を支えます。変更の保存、分岐、巻き戻し、マージに使えます。
フォーク日 2026-10-21最終同期 2026-11-08ライセンス: MITAIエージェントとLLMツールGitHub
Magnitudeはハードウェアに合わせてカーネルを調整し、オープンモデルをローカルで実行します。対応エージェントや互換クライアントから利用できます。
フォーク日 2026-10-19最終同期 2026-11-08ライセンス: Apache-2.0AIエージェントとLLMツールGitHub