swiftlet
Apple端末でQwen MoE大規模モデルをローカル実行し、低RAMで利用できるSwift/Metalランタイムです。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: Apache-2.0
概要
SwiftletはQwen3-NextとQwen3.5/3.6のMixture-of-Expertsモデル向けのSwift/Metalランタイムです。小さな密集コアだけをメモリに保持し、必要な専門家重みをストレージからオンデマンドで読み込み、Apple端末でのローカル推論を可能にします。
主な特長
- macOSとiOSデバイスで大規模Qwen MoEモデルをローカル実行する
- 密集コアをメモリに保持し、必要な専門家重みをストレージから読み込む
- プロジェクト例では35Bと80Bモデルを対象とする
- SwiftとMetalを使ってオンデバイス推論を行う
こんな人・用途に
AppleデバイスでローカルAI推論を行う開発者や愛好者に向いています。RAMが限られている環境で大規模Qwen MoEモデルを実行したい場合に適しています。
- アップストリーム
- leonickson1/Swiftlet
- GitHubのフォーク
- Guo-astro/swiftlet
- アップストリームのスター数
- 667
- カテゴリ
- AIエージェントとLLMツール
- 言語
- Swift
- ライセンス
- Apache-2.0
- フォーク日
- 2026-10-05
- 同期状態
- 同期済み最終同期 2026-11-08
同じカテゴリ: AIエージェントとLLMツール
/last30daysは、SNSや動画、ニュースなどの最近の情報を調べて要約するAIエージェント用スキルです。話題の調査や準備に役立ちます。
フォーク日 2026-10-22最終同期 2026-11-08ライセンス: MITAIエージェントとLLMツールGitHub
GPUや機械学習フレームワークを使わず、CPUでKimi K3を動かすポータブルなC99推論エンジンです。巨大なチェックポイントをディスクから読み込み、限られたRAMでのテキスト生成やチャットに使えます。
フォーク日 2026-10-21最終同期 2026-11-08ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
LayerFSは共有履歴上に書き込み可能なワークスペースを提供し、AIエージェントの並行作業を支えます。変更の保存、分岐、巻き戻し、マージに使えます。
フォーク日 2026-10-21最終同期 2026-11-08ライセンス: MITAIエージェントとLLMツールGitHub
Magnitudeはハードウェアに合わせてカーネルを調整し、オープンモデルをローカルで実行します。対応エージェントや互換クライアントから利用できます。
フォーク日 2026-10-19最終同期 2026-11-08ライセンス: Apache-2.0AIエージェントとLLMツールGitHub