magnitude

Magnitude会根据硬件调整内核,在本地运行开放模型,并可连接兼容的智能体或客户端。

查看公开 issue

挑一个能复现的小 issue,用 AI 编程助手把它修好。

分享到 X许可证: Apache-2.0

概述

Magnitude是一个开源推理引擎和桌面应用,用于在本地运行开放模型。下载模型时,它会针对用户的硬件调整内核,力求在不改变模型输出的前提下提升速度。用户可以在应用中查找并下载模型,然后一键连接支持的智能体,或使用兼容OpenAI的API。它支持Apple Silicon、NVIDIA和AMD显卡,也支持仅使用CPU的系统,可在macOS、Linux和Windows上运行。提示词和模型保留在用户设备上。

主要特点

  • 下载模型时,针对用户的硬件调整模型内核。
  • 通过桌面应用查找并下载模型。
  • 一键连接支持的智能体,并提供兼容OpenAI的API。
  • 支持Apple Silicon、NVIDIA和AMD显卡或仅使用CPU的系统,并可运行于macOS、Linux和Windows。
  • 提示词和模型保留在用户设备上。

适用场景

适合希望在本地运行开放模型,并将其连接到常用智能体的人。需要针对自身硬件调整内核的用户也可以选择它。

上游仓库
magnitudedev/magnitude
GitHub 上的 fork
Guo-astro/magnitude
上游 Star 数
7.2k
分类
AI 智能体与大模型工具
编程语言
Rust
许可证
Apache-2.0
Fork 时间
2026-10-19
同步状态
上次同步已更新上次同步 2026-10-20