ds4
面向 Metal、CUDA 和 ROCm 的本地推理引擎。它让用户在自有硬件上运行开源大模型，而不依赖云服务。
分享到 X许可证: MIT
概述
DwarfStar 是一套面向 Metal、CUDA 和 ROCm 的本地推理引擎。它解决了在自有硬件上运行高性能开源模型的需求，并通过 GGUF 文件和 SSD 流式加载来支持较大的模型。
主要特点
- 可在本地运行 DeepSeek V4 Flash 和 PRO、GLM 以及 Qwen 模型
- 支持 Metal、NVIDIA CUDA 和 ROCm 硬件
- 使用项目生成的 GGUF 文件，并通过 SSD 流式加载处理较大模型
- 包含模型加载、提示词渲染、工具调用、KV 状态、HTTP 服务和编码代理的集成测试
适用场景
适合希望在自己的 Mac、CUDA 设备或 ROCm 系统上本地运行开源模型，而不依赖远程服务的用户。若你的模型和硬件符合项目支持范围，这会是合适的选择。
- 上游仓库
- antirez/ds4
- GitHub 上的 fork
- Guo-astro/ds4
- 上游 Star 数
- 23k
- 分类
- AI 智能体与大模型工具
- 许可证
- MIT
- Fork 时间
- 2026-10-03
- 同步状态
- 已同步上次同步 2026-10-06
同分类更多: AI 智能体与大模型工具
面向AI编码代理的DESIGN.md合集，用参考设计的规则帮助团队生成一致的界面。
Fork 时间 2026-10-05上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub
面向 AI 编程代理的营销技能库，涵盖转化率优化、文案、SEO、分析和增长工程。将技能加入项目后，代理便可在工作中应用相关营销流程。
Fork 时间 2026-10-05上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub
将自然语言和系统源转成可编辑架构图，帮助随代码、基础设施和接口变更保持一致的系统视图。
Fork 时间 2026-10-05上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub
在游戏PC上本地运行大模型，适合聊天、代码和图片处理，避免服务器依赖。
Fork 时间 2026-10-03上次同步 2026-10-06许可证: MITAI 智能体与大模型工具GitHub