backburner

BackburnerはUSB-C接続したiPhoneでMacのQwen3.8-27Bのローカル実行を支援し、プロンプト処理の待ち時間を減らして長い文脈を扱います。

公開中のissueを見る

再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。

Xで共有ライセンス: MIT

概要

Backburnerは、MacとUSB-C接続したiPhoneでQwen3.8-27Bをローカル推論する仕組みです。llama.cppベースのエンジンがプロンプト処理を両端末に分担し、長いコンテキストではiPhoneが古い部分を保持して注意計算を担います。これにより読み込み待ちを減らし、8ビット精度で扱えるコンテキストを広げます。効果は検証済みApple端末で確認されたもので、他の構成で同じ結果を保証しません。

主な特長

  • プロンプト処理の層をMacとiPhoneに分担します。
  • iPhoneのメモリと計算能力で古いコンテキストを扱い、利用可能な長さを広げます。
  • llama.cppのフォークにMac向けカーネルとDFlash2投機的デコードを含みます。

こんな人・用途に

対応するiPhoneをUSB-C接続して、Qwen3.8-27Bをローカル実行したいMacユーザー向けです。長いプロンプトを処理する場合や、より長いコンテキストが必要な場合に適しています。

アップストリーム
StayLameBro/backburner
GitHubのフォーク
Guo-astro/backburner
アップストリームのスター数
1.2k
カテゴリ
AIエージェントとLLMツール
言語
Python
ライセンス
MIT
フォーク日
2026-10-05
同期状態
同期済み最終同期 2026-11-08