colibri
colibri按需从磁盘读取专家,在本地运行大型开放语言模型,并通过仪表板或兼容 API 提供服务。
挑一个能复现的小 issue,用 AI 编程助手把它修好。
分享到 X许可证: Apache-2.0
概述
colibri 是一款纯 C 本地推理引擎,可在现有电脑上运行大型开放式混合专家语言模型。它将常驻模型部分和专家缓存保存在内存中,并按需从磁盘读取其余专家,减少一次性装入整个模型所需的内存。安装程序会检查硬件、推荐适配的模型,并准备引擎和模型。用户可通过浏览器仪表板使用,也可通过兼容 OpenAI 和 Anthropic 的 API 接入其他应用。
主要特点
- 检查硬件,并推荐适合可用内存和磁盘空间的模型。
- 按需从磁盘读取专家,而不是将整个模型载入内存。
- 有编译器时在本机编译引擎,否则下载预编译引擎。
- 支持显示进度并续传模型下载,并提供浏览器仪表板以及兼容 OpenAI 和 Anthropic 的 API 接口。
适用场景
适合希望在现有电脑上运行大型开放语言模型的人,也适用于没有 GPU 的设备。电脑需要为所选模型准备足够的内存和磁盘空间。
- 上游仓库
- JustVugg/colibri
- GitHub 上的 fork
- Guo-astro/colibri
- 上游 Star 数
- 42k
- 分类
- AI 智能体与大模型工具
- 编程语言
- C
- 许可证
- Apache-2.0
- Fork 时间
- 2026-10-12
- 同步状态
- 已同步上次同步 2026-10-19
同分类更多: AI 智能体与大模型工具
为研究者提供从想法评估、文献调研到论文写作与投稿前检查的结构化 AI 辅助,弥补通用 AI 在科研判断上的不足。
Fork 时间 2026-10-18上次同步 2026-10-19自定义许可证(见仓库)AI 智能体与大模型工具GitHub
RLVE为语言模型强化学习提供可调整难度、可验证的环境,用于生成问题并评估模型输出。
Fork 时间 2026-10-17上次同步 2026-10-19许可证: MITAI 智能体与大模型工具GitHub
为 AI 代理提供模块化的 Android 开发指导,帮助其执行专业工作流程。可使用 Android CLI 安装单个技能或全部技能。
Fork 时间 2026-10-16上次同步 2026-10-19许可证: Apache-2.0AI 智能体与大模型工具GitHub
Pi Agent 是适用于 macOS、Windows 和 Linux 的本地 AI 编程桌面应用,无需配置终端环境即可管理对话、项目文件并运行已保存的提示词。
Fork 时间 2026-10-15上次同步 2026-10-19许可证: MITAI 智能体与大模型工具GitHub