llmfit
CPU、RAM、GPUを調べ、そのマシンで快適に動かせるオープンソースの言語モデルを提案するCLIです。
再現できる小さなissueを選び、AIコーディングエージェントで直してみましょう。
Xで共有ライセンス: MIT
概要
llmfitは、手元のハードウェアを調べ、快適に動かせるオープンソースの言語モデルを提案するRust製のコマンドラインツールです。CPUコア、システムRAM、GPU、VRAM、アクセラレータ構成を調べ、代表的な量子化を含めてモデルを推薦します。ターミナル画面で実際の速度を測り、結果をプロジェクトに提出することもできます。
主な特長
- CPU、RAM、GPU、VRAM、ユニファイドメモリを検出
- NVIDIA CUDA、Apple Silicon、AMD ROCm、Intel OneAPIに対応
- 主要な量子化ごとにモデルを推薦
- ターミナル画面で実際のトークン毎秒を計測
- 自分の計測値が適合表の推定値を置き換える
こんな人・用途に
ローカルLLMを選ぶ際に、ダウンロード前に自分のマシンで動くか知りたい人向けです。計測しない場合の数値は推定です。
- アップストリーム
- AlexsJones/llmfit
- GitHubのフォーク
- Guo-astro/llmfit
- アップストリームのスター数
- 39k
- カテゴリ
- AIエージェントとLLMツール
- ライセンス
- MIT
- フォーク日
- 2026-02-22
- 同期状態
- アップストリームと分岐
同じカテゴリ: AIエージェントとLLMツール
/last30daysは、SNSや動画、ニュースなどの最近の情報を調べて要約するAIエージェント用スキルです。話題の調査や準備に役立ちます。
フォーク日 2026-10-22最終同期 2026-11-09ライセンス: MITAIエージェントとLLMツールGitHub
GPUや機械学習フレームワークを使わず、CPUでKimi K3を動かすポータブルなC99推論エンジンです。巨大なチェックポイントをディスクから読み込み、限られたRAMでのテキスト生成やチャットに使えます。
フォーク日 2026-10-21最終同期 2026-11-09ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
LayerFSは共有履歴上に書き込み可能なワークスペースを提供し、AIエージェントの並行作業を支えます。変更の保存、分岐、巻き戻し、マージに使えます。
フォーク日 2026-10-21最終同期 2026-11-09ライセンス: MITAIエージェントとLLMツールGitHub
Magnitudeはハードウェアに合わせてカーネルを調整し、オープンモデルをローカルで実行します。対応エージェントや互換クライアントから利用できます。
フォーク日 2026-10-19最終同期 2026-11-09ライセンス: Apache-2.0AIエージェントとLLMツールGitHub