llmfit
命令行工具,检测你的CPU、内存和GPU,推荐当前硬件能流畅运行的开源大语言模型。
挑一个能复现的小 issue,用 AI 编程助手把它修好。
分享到 X许可证: MIT
概述
llmfit 是用 Rust 编写的命令行工具,检查你的硬件并推荐能流畅运行的开源语言模型。它会检测 CPU 核心、系统内存、GPU、显存和加速器配置,再按常见量化方式给出模型建议。它还带有终端界面,可以实测真实速度并把结果提交回项目。
主要特点
- 检测 CPU、内存、GPU、显存和统一内存
- 识别 NVIDIA CUDA、Apple Silicon、AMD ROCm 和 Intel OneAPI
- 按常见量化方式推荐模型
- 在终端界面实测每秒生成的 token 数
- 你自己的实测值会替换适配表中的估算
适用场景
适合在下载前想知道自己机器能跑哪些本地 LLM 的用户。没有实测时,数值只是估算。
- 上游仓库
- AlexsJones/llmfit
- GitHub 上的 fork
- Guo-astro/llmfit
- 上游 Star 数
- 39k
- 分类
- AI 智能体与大模型工具
- 许可证
- MIT
- Fork 时间
- 2026-02-22
- 同步状态
- 与上游分叉
同分类更多: AI 智能体与大模型工具
/last30days是一款AI代理技能,可搜索并总结社交平台、视频、新闻等近期信息,帮助用户研究趋势和做准备。
Fork 时间 2026-10-22上次同步 2026-11-09许可证: MITAI 智能体与大模型工具GitHub
这是一个可移植的 C99 推理引擎,无需 GPU 或机器学习框架即可在 CPU 上运行 Kimi K3。它从磁盘读取大型模型检查点,支持在有限内存下进行文本生成或聊天。
Fork 时间 2026-10-21上次同步 2026-11-09许可证: Apache-2.0AI 智能体与大模型工具GitHub
LayerFS在共享历史上为智能体提供可写工作区,支持并行协作。可用它保存更改、创建分支、回退和合并。
Fork 时间 2026-10-21上次同步 2026-11-09许可证: MITAI 智能体与大模型工具GitHub
Magnitude会根据硬件调整内核,在本地运行开放模型,并可连接兼容的智能体或客户端。
Fork 时间 2026-10-19上次同步 2026-11-09许可证: Apache-2.0AI 智能体与大模型工具GitHub