llmfit

命令行工具,检测你的CPU、内存和GPU,推荐当前硬件能流畅运行的开源大语言模型。

分享到 X许可证: MIT

概述

llmfit 是用 Rust 编写的命令行工具,检查你的硬件并推荐能流畅运行的开源语言模型。它会检测 CPU 核心、系统内存、GPU、显存和加速器配置,再按常见量化方式给出模型建议。它还带有终端界面,可以实测真实速度并把结果提交回项目。

主要特点

  • 检测 CPU、内存、GPU、显存和统一内存
  • 识别 NVIDIA CUDA、Apple Silicon、AMD ROCm 和 Intel OneAPI
  • 按常见量化方式推荐模型
  • 在终端界面实测每秒生成的 token 数
  • 你自己的实测值会替换适配表中的估算

适用场景

适合在下载前想知道自己机器能跑哪些本地 LLM 的用户。没有实测时,数值只是估算。

上游仓库
AlexsJones/llmfit
GitHub 上的 fork
Guo-astro/llmfit
上游 Star 数
37k
分类
AI 智能体与大模型工具
许可证
MIT
Fork 时间
2026-02-22
同步状态
与上游分叉