exo

exoは複数のデバイスをつないでローカルAIクラスタを構築し、1台では実行できない大規模モデルを動かします。ダッシュボードや互換APIから利用できます。

Xで共有ライセンス: Apache-2.0

概要

exoは複数のデバイスを接続し、1台ではメモリに収まらない大規模なAIモデルをローカルで実行するためのソフトウェアです。デバイスを自動検出し、各機器のリソースや接続の帯域幅・遅延に基づいてモデルの分割方法を決めます。内蔵ダッシュボードでクラスタを管理してモデルと対話でき、OpenAI、Claude、Ollama互換APIを通じて既存のクライアントから利用できます。HuggingFaceのカスタムモデルにも対応します。

主な特長

  • exoを実行するデバイスを自動検出します。
  • 機器の構成やネットワーク接続を考慮してモデルを分散します。
  • クラスタの管理とモデルとの対話に使えるダッシュボードを備えています。
  • OpenAI、Claude、Ollama互換APIとHuggingFaceのカスタムモデルに対応します。

こんな人・用途に

複数の対応デバイスを使い、AIモデルをローカルで実行したい人に向いています。1台では扱えないモデルを実行したい場合や、既存のAPIクライアントを接続したい場合に便利です。

アップストリーム
exo-explore/exo
GitHubのフォーク
Guo-astro/exo
アップストリームのスター数
48k
カテゴリ
AIエージェントとLLMツール
言語
Python
ライセンス
Apache-2.0
フォーク日
2026-10-11
同期状態
同期済み最終同期 2026-10-12