ds4
面向 Metal、CUDA 和 ROCm 的本地推理引擎。它让用户在自有硬件上运行开源大模型，而不依赖云服务。
分享到 X许可证: MIT
概述
DwarfStar 是一套面向 Metal、CUDA 和 ROCm 的本地推理引擎。它解决了在自有硬件上运行高性能开源模型的需求，并通过 GGUF 文件和 SSD 流式加载来支持较大的模型。
主要特点
- 可在本地运行 DeepSeek V4 Flash 和 PRO、GLM 以及 Qwen 模型
- 支持 Metal、NVIDIA CUDA 和 ROCm 硬件
- 使用项目生成的 GGUF 文件，并通过 SSD 流式加载处理较大模型
- 包含模型加载、提示词渲染、工具调用、KV 状态、HTTP 服务和编码代理的集成测试
适用场景
适合希望在自己的 Mac、CUDA 设备或 ROCm 系统上本地运行开源模型，而不依赖远程服务的用户。若你的模型和硬件符合项目支持范围，这会是合适的选择。
- 上游仓库
- antirez/ds4
- GitHub 上的 fork
- Guo-astro/ds4
- 上游 Star 数
- 23k
- 分类
- AI 智能体与大模型工具
- 许可证
- MIT
- Fork 时间
- 2026-10-03
- 同步状态
- 已同步上次同步 2026-10-05
同分类更多: AI 智能体与大模型工具
在游戏PC上本地运行大模型，适合聊天、代码和图片处理，避免服务器依赖。
Fork 时间 2026-10-03上次同步 2026-10-05许可证: MITAI 智能体与大模型工具GitHub
用于用Python构建MCP服务器和客户端的SDK。让LLM应用可通过标准协议访问工具和资源。
Fork 时间 2026-10-03上次同步 2026-10-05许可证: MITAI 智能体与大模型工具GitHub
Python和TypeScript中为生产环境AI代理构建运行时，支持任意模型和云服务，减少自定义代理循环。
Fork 时间 2026-10-02上次同步 2026-10-05许可证: Apache-2.0AI 智能体与大模型工具GitHub
Trailblaze可用自然语言控制 iOS/Android/Web，并将操作保存为可回放的测试轨迹，供 CI 复用。回放时不依赖 LLM。
Fork 时间 2026-10-02上次同步 2026-10-05许可证: Apache-2.0AI 智能体与大模型工具GitHub