llmfit
命令行工具,检测你的CPU、内存和GPU,推荐当前硬件能流畅运行的开源大语言模型。
分享到 X许可证: MIT
概述
llmfit 是用 Rust 编写的命令行工具,检查你的硬件并推荐能流畅运行的开源语言模型。它会检测 CPU 核心、系统内存、GPU、显存和加速器配置,再按常见量化方式给出模型建议。它还带有终端界面,可以实测真实速度并把结果提交回项目。
主要特点
- 检测 CPU、内存、GPU、显存和统一内存
- 识别 NVIDIA CUDA、Apple Silicon、AMD ROCm 和 Intel OneAPI
- 按常见量化方式推荐模型
- 在终端界面实测每秒生成的 token 数
- 你自己的实测值会替换适配表中的估算
适用场景
适合在下载前想知道自己机器能跑哪些本地 LLM 的用户。没有实测时,数值只是估算。
- 上游仓库
- AlexsJones/llmfit
- GitHub 上的 fork
- Guo-astro/llmfit
- 上游 Star 数
- 38k
- 分类
- AI 智能体与大模型工具
- 编程语言
- Rust
- 许可证
- MIT
- Fork 时间
- 2026-02-22
- 同步状态
- 与上游分叉
同分类更多: AI 智能体与大模型工具
面向AI编码代理的DESIGN.md合集,用参考设计的规则帮助团队生成一致的界面。
Fork 时间 2026-10-05上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub
面向 AI 编程代理的营销技能库,涵盖转化率优化、文案、SEO、分析和增长工程。将技能加入项目后,代理便可在工作中应用相关营销流程。
Fork 时间 2026-10-05上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub
将自然语言和系统源转成可编辑架构图,帮助随代码、基础设施和接口变更保持一致的系统视图。
Fork 时间 2026-10-05上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub
面向 Metal、CUDA 和 ROCm 的本地推理引擎。它让用户在自有硬件上运行开源大模型,而不依赖云服务。
Fork 时间 2026-10-03上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub