uzu

uzuはアプリ内でAIモデルを実行する推論エンジンです。モデルをダウンロードし、チャット機能を組み込む用途に使えます。

Xで共有ライセンス: MIT

概要

uzuはRust製の推論エンジンで、リモートサービスにプロンプトを送らず、アプリ内でAIモデルを実行できます。端末上で処理することで、データを端末内に保ち、推論ごとの料金を避けたい場合に役立ちます。エンジンを設定し、モデルを選んでダウンロードした後、チャットセッションを作成して応答を取得します。Python、TypeScript、Swiftのバインディングを備え、Appleデバイスのユニファイドメモリにも対応します。

主な特長

  • モデル設定やチャットセッション作成に使える高水準API
  • モデルをダウンロードし、進行状況を確認
  • 計算結果を元の実装と照合するための追跡機能
  • Python、TypeScript、SwiftのバインディングとAppleデバイスのユニファイドメモリ対応

こんな人・用途に

アプリにAIモデルの推論やチャット機能を組み込みたい開発者向けです。アプリ内で推論し、リモート推論の料金を避けたい場合に適しています。

アップストリーム
trymirai/uzu
GitHubのフォーク
Guo-astro/uzu
アップストリームのスター数
2.1k
カテゴリ
AIエージェントとLLMツール
言語
Rust
ライセンス
MIT
フォーク日
2026-10-09
同期状態
直近の同期で更新最終同期 2026-10-10