deltafin
Deltafin在本地运行完整、未剪枝的Kimi K3，并提供兼容OpenAI的API供聊天和编程代理使用，探索如何在消费级设备上保持模型质量。
挑一个能复现的小 issue，用 AI 编程助手把它修好。
分享到 X自定义许可证（见仓库）
概述
Deltafin是一个Rust项目，以原生二进制程序在单台设备上运行完整、未剪枝的2.8万亿参数Kimi K3。它保留全部16个专家，由K3决定每个输出词元；可选的小型草稿模型提出候选，再由K3验证。项目还提供兼容OpenAI的API，供本地聊天和编程代理调用，并列出macOS ARM64及Linux上的Metal/MPS、CUDA和CPU支持。
主要特点
- 以全部16个专家运行完整、未剪枝的Kimi K3。
- 可由小型草稿模型提出词元候选，再由Kimi K3验证。
- 提供兼容OpenAI的API服务器，供本地聊天和编程代理使用。
- 列出macOS ARM64和Linux支持，可使用Metal/MPS、CUDA或CPU。
适用场景
适合希望探索不剪枝运行超大型本地模型的研究者和爱好者，也适合需要兼容OpenAI的本地聊天或编程代理API的人。
- 上游仓库
- gavamedia/deltafin
- GitHub 上的 fork
- Guo-astro/deltafin
- 上游 Star 数
- 857
- 分类
- AI 智能体与大模型工具
- 许可证
- 自定义许可证（见仓库）
- Fork 时间
- 2026-10-13
- 同步状态
- 已同步上次同步 2026-11-08
同分类更多: AI 智能体与大模型工具
/last30days是一款AI代理技能，可搜索并总结社交平台、视频、新闻等近期信息，帮助用户研究趋势和做准备。
Fork 时间 2026-10-22上次同步 2026-11-08许可证: MITAI 智能体与大模型工具GitHub
这是一个可移植的 C99 推理引擎，无需 GPU 或机器学习框架即可在 CPU 上运行 Kimi K3。它从磁盘读取大型模型检查点，支持在有限内存下进行文本生成或聊天。
Fork 时间 2026-10-21上次同步 2026-11-08许可证: Apache-2.0AI 智能体与大模型工具GitHub
LayerFS在共享历史上为智能体提供可写工作区，支持并行协作。可用它保存更改、创建分支、回退和合并。
Fork 时间 2026-10-21上次同步 2026-11-08许可证: MITAI 智能体与大模型工具GitHub
Magnitude会根据硬件调整内核，在本地运行开放模型，并可连接兼容的智能体或客户端。
Fork 时间 2026-10-19上次同步 2026-11-08许可证: Apache-2.0AI 智能体与大模型工具GitHub