deltafin
Deltafin在本地运行完整、未剪枝的Kimi K3,并提供兼容OpenAI的API供聊天和编程代理使用,探索如何在消费级设备上保持模型质量。
分享到 X自定义许可证(见仓库)
概述
Deltafin是一个Rust项目,以原生二进制程序在单台设备上运行完整、未剪枝的2.8万亿参数Kimi K3。它保留全部16个专家,由K3决定每个输出词元;可选的小型草稿模型提出候选,再由K3验证。项目还提供兼容OpenAI的API,供本地聊天和编程代理调用,并列出macOS ARM64及Linux上的Metal/MPS、CUDA和CPU支持。
主要特点
- 以全部16个专家运行完整、未剪枝的Kimi K3。
- 可由小型草稿模型提出词元候选,再由Kimi K3验证。
- 提供兼容OpenAI的API服务器,供本地聊天和编程代理使用。
- 列出macOS ARM64和Linux支持,可使用Metal/MPS、CUDA或CPU。
适用场景
适合希望探索不剪枝运行超大型本地模型的研究者和爱好者,也适合需要兼容OpenAI的本地聊天或编程代理API的人。
- 上游仓库
- gavamedia/deltafin
- GitHub 上的 fork
- Guo-astro/deltafin
- 上游 Star 数
- 847
- 分类
- AI 智能体与大模型工具
- 编程语言
- Rust
- 许可证
- 自定义许可证(见仓库)
- Fork 时间
- 2026-10-13
- 同步状态
- 已同步上次同步 2026-10-14
同分类更多: AI 智能体与大模型工具
这是关于大语言模型智能体的综述和论文列表,梳理智能体框架、应用、智能体社会及未解决问题的研究。
Fork 时间 2026-10-12上次同步 2026-10-14未声明许可证AI 智能体与大模型工具GitHub
Skales是一款面向桌面和移动设备的个人AI代理,可处理电脑上的文件和应用,帮助完成多步骤目标、自动化任务和编程。
Fork 时间 2026-10-12上次同步 2026-10-14自定义许可证(见仓库)AI 智能体与大模型工具GitHub
YuE2 根据歌词和风格提示生成可编辑的歌曲方案,并制作包含人声和伴奏的音乐。它还支持改编为新风格的翻唱和对话式编辑。
Fork 时间 2026-10-12上次同步 2026-10-14许可证: Apache-2.0AI 智能体与大模型工具GitHub
DeepTutor是一款AI辅导项目,可整理学习资料,并借助个人知识库开展互动学习和研究。
Fork 时间 2026-10-12上次同步 2026-10-14许可证: Apache-2.0AI 智能体与大模型工具GitHub