vlmrl
用JAX编写的视觉语言模型强化学习实验环境,可接入不同环境和模型并用PPO训练。
挑一个能复现的小 issue,用 AI 编程助手把它修好。
分享到 X许可证: Apache-2.0
概述
vlm-gym是一个用JAX编写的视觉语言模型强化学习环境,目前处于实验阶段。它的思路是接入任意环境和模型,并用PPO进行训练。项目自带GeoGuessr、NLVR2和图像描述等环境,以及可从Hugging Face转换为JAX的参考模型Qwen3-VL-4B-Instruct。训练器、推理和评估工具放在core目录,GeoGuessr训练采用分阶段的课程。
主要特点
- 可替换的视觉环境:GeoGuessr、NLVR2、图像描述
- 面向视觉语言模型的PPO训练器
- 推理引擎,并与Hugging Face基线对比评估
- 将Qwen3-VL-4B-Instruct从Hugging Face转为JAX
适用场景
适合想用JAX对视觉语言模型做强化学习实验的研究者。README标明其状态为实验性。
- 上游仓库
- sdan/vlm-gym
- GitHub 上的 fork
- Guo-astro/vlmrl
- 上游 Star 数
- 150
- 分类
- AI 智能体与大模型工具
- 编程语言
- Python
- 许可证
- Apache-2.0
- Fork 时间
- 2025-10-14
- 同步状态
- 已同步上次同步 2026-11-09
同分类更多: AI 智能体与大模型工具
/last30days是一款AI代理技能,可搜索并总结社交平台、视频、新闻等近期信息,帮助用户研究趋势和做准备。
Fork 时间 2026-10-22上次同步 2026-11-09许可证: MITAI 智能体与大模型工具GitHub
这是一个可移植的 C99 推理引擎,无需 GPU 或机器学习框架即可在 CPU 上运行 Kimi K3。它从磁盘读取大型模型检查点,支持在有限内存下进行文本生成或聊天。
Fork 时间 2026-10-21上次同步 2026-11-09许可证: Apache-2.0AI 智能体与大模型工具GitHub
LayerFS在共享历史上为智能体提供可写工作区,支持并行协作。可用它保存更改、创建分支、回退和合并。
Fork 时间 2026-10-21上次同步 2026-11-09许可证: MITAI 智能体与大模型工具GitHub
Magnitude会根据硬件调整内核,在本地运行开放模型,并可连接兼容的智能体或客户端。
Fork 时间 2026-10-19上次同步 2026-11-09许可证: Apache-2.0AI 智能体与大模型工具GitHub