llmfit
CPU、RAM、GPUを調べ、そのマシンで快適に動かせるオープンソースの言語モデルを提案するCLIです。
Xで共有ライセンス: MIT
概要
llmfitは、手元のハードウェアを調べ、快適に動かせるオープンソースの言語モデルを提案するRust製のコマンドラインツールです。CPUコア、システムRAM、GPU、VRAM、アクセラレータ構成を調べ、代表的な量子化を含めてモデルを推薦します。ターミナル画面で実際の速度を測り、結果をプロジェクトに提出することもできます。
主な特長
- CPU、RAM、GPU、VRAM、ユニファイドメモリを検出
- NVIDIA CUDA、Apple Silicon、AMD ROCm、Intel OneAPIに対応
- 主要な量子化ごとにモデルを推薦
- ターミナル画面で実際のトークン毎秒を計測
- 自分の計測値が適合表の推定値を置き換える
こんな人・用途に
ローカルLLMを選ぶ際に、ダウンロード前に自分のマシンで動くか知りたい人向けです。計測しない場合の数値は推定です。
- アップストリーム
- AlexsJones/llmfit
- GitHubのフォーク
- Guo-astro/llmfit
- アップストリームのスター数
- 37k
- カテゴリ
- AIエージェントとLLMツール
- ライセンス
- MIT
- フォーク日
- 2026-02-22
- 同期状態
- アップストリームと分岐
同じカテゴリ: AIエージェントとLLMツール
英語圏以外の子どもが、AIの話し相手と会話して英語のスピーキングとリスニングを練習できる無料のデスクトップアプリです。
フォーク日 2026-09-28最終同期 2026-09-29ライセンス: MITAIエージェントとLLMツールGitHub
中国特許向けのエージェントスキルです。特許ポイントの発掘、出願書類の作成、特許の平易な解説、審査対応の支援ができます。
フォーク日 2026-09-28最終同期 2026-09-29ライセンス: MITAIエージェントとLLMツールGitHub
Hugging Face製の小さなPythonライブラリで、コードを書いて実行しながら課題を解くAIエージェントを数行で作れます。
フォーク日 2026-09-28最終同期 2026-09-29ライセンス: Apache-2.0AIエージェントとLLMツールGitHub
AIエージェントが実際の法務業務をどこまでこなせるかを測るオープンソースのベンチマークです。
フォーク日 2026-09-28最終同期 2026-09-29ライセンス: MITAIエージェントとLLMツールGitHub