阿里造了个智能体训练场智能体规模化训练不再靠手搓阿里开源了一个叫ROCK的项目,

量子位看科技 2025-11-26 16:20:52

阿里造了个智能体训练场智能体规模化训练不再靠手搓阿里开源了一个叫ROCK的项目,解决了智能体训练中最棘手的问题:没有足够的练习场地。以前训练AI执行复杂任务,开发者得自己手工搭建各种环境,费时费力还难以扩展。现在有了ROCK,直接一键部署,想要多少训练环境就有多少。更关键的是,ROCK和阿里此前开源的ROLL框架形成了完美配合。ROLL负责教AI怎么思考(训练算法),ROCK负责提供练习场所(环境沙箱)。两者协同,构成了完整的智能体训练闭环。一、为什么需要ROCK现在的大语言模型已经不满足于只会说话,它们得学会调用工具、跑代码、调API,跟外部环境真刀真枪地交互。要训练好这样的智能体,需要凑齐四块拼图:大脑(大模型)、考卷(任务描述)、教练(强化学习框架),以及最容易被忽视的一块:训练场(环境服务)。很多开发者面临的困境就卡在这个训练场上。传统训练里,复杂环境太吃资源,单机跑几个就满载,成为限制智能体训练规模的硬性天花板。ROCK的核心使命就是打破这个天花板,让智能体训练实现真正的规模化。二、ROCK能做什么它基于Ray构建,能把一堆杂乱的计算集群抽象成一个整齐划一、弹性伸缩的环境资源池。以前配置一套集群环境可能得折腾好几天,现在用ROCK,只需修改配置参数,就能在分钟级别内自动调度和拉起成千上万个并行训练环境。而且它支持同时运行同构和异构的环境,既满足了大规模重复探索的需求,也为提升智能体在不同任务间的泛化能力提供了保障。更实用的是,ROCK给开发者开了一个上帝视角。它把Linux Shell的能力通过SDK和HTTP API开放出来,让开发者可以像操作本地终端一样,与成百上千个远程沙箱进行深度交互。想查文件、看日志、改环境变量都没问题。三、部署灵活,从开发到生产一气呵成ROCK设计了一套一次编写、随处运行的方案。刚开始写代码时,可以用本地独立运行模式,把它当个纯净的环境实验室,验证环境是否健康。代码写差不多了,就可以进行本地集成调试,用ROLL一键拉起ROCK沙箱,跑通整个端到端链路。等一切就绪,直接云端规模化部署,配置都不用改,ROCK自动扩展到成千上万个实例。四、ModelService:解耦的神来之笔ROCK用ModelService做了一个中间人,完美实现了智能体业务逻辑和训练框架的解耦。以前训练框架为了介入训练,会把智能体的逻辑重写一遍,导致两边代码打架,维护极其繁琐。现在ModelService通过提问、拦截、回答三步,让智能体和ROLL各司其职:智能体在沙箱里按自己的逻辑拼好Prompt发起调用,ModelService把请求拦下来传递给ROLL,ROLL拿到Prompt后算奖励、做优化,最后返回答案。这种架构不仅彻底解耦了两边代码,还将昂贵的GPU资源集中用于ROLL的中心推理服务,ROCK沙箱在低成本的CPU实例上大规模运行,极大降低了训练成本。随着ROCK的开源,阿里在智能体训练领域的版图终于拼完了。ROLL提供强大的训练引擎,ROCK则注入源源不断的环境燃料。这套组合让智能体训练不再是少数顶尖团队的黑科技,而是变成了每个开发者都能上手的标准工业流程。感兴趣的话,项目地址我们已经替大家找好了:github.com/alibaba/ROCKgithub.com/alibaba/ROLL

0 阅读:0
量子位看科技

量子位看科技

感谢大家的关注