colibri

colibriは専門家をディスクから読み込み、大規模なオープン言語モデルを手元のPCで実行します。ダッシュボードや互換APIから利用できます。

公開中のissueを見る

再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。

Xで共有ライセンス: Apache-2.0

概要

colibriは、手元のコンピューターで大規模なオープンな混合専門家型言語モデルを動かす、純粋なC製の推論エンジンです。常駐するモデル部分と専門家キャッシュだけをRAMに置き、残りの専門家を必要に応じてディスクから読み込み、モデル全体を一度にメモリへ載せる必要を減らします。セットアップは機器を調べ、適合するモデルを提案し、エンジンとモデルを準備します。ブラウザのダッシュボード、またはOpenAI互換・Anthropic互換のAPI経由で利用できます。

主な特長

  • 機器を調べ、利用可能なRAMとディスク容量に合うモデルを提案します。
  • モデル全体をRAMに読み込まず、必要な専門家をディスクから読み込みます。
  • コンパイラーがあればエンジンをその場でビルドし、なければビルド済みのエンジンをダウンロードします。
  • 進捗表示と再開に対応したモデルのダウンロード機能を備え、ブラウザのダッシュボードとOpenAI互換・Anthropic互換APIを提供します。

こんな人・用途に

手元のコンピューターで大規模なオープン言語モデルを動かしたい人に向いています。GPUがない環境でも使えますが、選ぶモデルに応じたRAMとディスク容量が必要です。

アップストリーム
JustVugg/colibri
GitHubのフォーク
Guo-astro/colibri
アップストリームのスター数
42k
カテゴリ
AIエージェントとLLMツール
言語
C
ライセンス
Apache-2.0
フォーク日
2026-10-12
同期状態
同期済み最終同期 2026-10-19