Prime Intellect推出Verifiers v1 实现任务集、工具链与运行时的可组合代理强化学习

6 阅读3分钟前沿

全面拆解 Verifiers v1 架构

  • Taskset(任务集):定义数据、工具与评分标准,决定“做什么”。
  • Harness(工具链):实现任务求解的具体逻辑,可是 ReAct 循环、CLI 代理或自定义实现。
  • Runtime(运行时):决定代码执行环境,支持本地进程、Docker 或沙箱。

核心由 verifiers‑managed 拦截服务器 充当中间层,拦截代理对推理服务的请求并记录 Trace,同时可修改工具响应,防止奖励攻击。服务器默认并发 32 条 rollout,自动弹性伸缩。

关键技术亮点

  • 可组合化:任意 Taskset 可搭配任意兼容 Harness,极大降低复用成本。
  • 线性 Trace 结构:从 v0 的二次方 Prompt‑Completion 对转为唯一节点图,显著降低内存占用并支持更长对话。
  • 多协议适配:内置 OpenAI Chat Completions、OpenAI Responses、Anthropic Messages 三种方言,统一为 vf.types,评分逻辑保持独立。
  • 完整 prime‑rl 支持:训练阶段使用 TrainClient 包装渲染器,实现“Faithful Token‑in‑RL” 训练流程。

实际使用案例

  • Terminal‑Bench 2 + Nemotron‑3 Ultra:在 Codex Harness 下运行,几行配置即可复用 Harbor 数据集,验证性能与原实现持平。
  • GLM‑4.5‑Air 长度惩罚消融:在 6 台 H200 节点上使用 ScaleSWE 任务集训练两天,随后在 SWE‑Bench‑Verified 上评估,表现稳定。
  • 第三方数据集接入:Harbor 为首个全支持的外部格式,NeMo Gym 与 OpenEnv 已提供 alpha 支持。

业界影响与前景

Verifiers v1 的模块化设计为代理强化学习提供了“一键切换”式的实验平台,研发团队可以在保持评分逻辑不变的前提下快速迭代工具链或运行环境。这种解耦有望加速大型语言模型在代码生成、工具使用等高阶任务上的闭环训练,推动生成式 AI 向更可靠、可控的方向演进。

“从 V0 的耦合架构到 V1 的可组合模型,Prime Intellect 正在为下一代代理 RL 铺平道路。” — Prime Intellect 官方博客

本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。