腾讯混元发布无奖励自我进化Agent研究!
创新点
- 打破现有 Agent“必须靠人工任务 + 外部奖励才能进化” 的依赖,实现推理阶段完全无任务、无奖励、无流程约束的自主探索与自我更新。
- 把 Agent 从 “被动指令执行者” 升级为主动环境学习者,在任务到来前就自主构建环境认知。
方法
本文构建以世界知识为核心的自主进化框架,采用仅用于训练的结果导向奖励,以知识对下游任务的效用提升作为学习信号,通过教师模型监督微调与强化拒绝采样两阶段训练,让模型习得自主探索与信息提炼能力,同时对网页环境做图建模与聚类预处理,降低探索开销,推理阶段智能体无需外部奖励与人工指导即可自发生成世界知识,并以此提升下游任务执行效果。
自进化智能体三大范式演进对比

本图系统展示了自进化智能体的三种范式演进路径,左侧为经验驱动进化,智能体完全依赖人工设计的任务与外部奖励完成更新,需要大量人力构建任务与奖励规则,智能体仅被动适配环境;中间为对抗式进化,通过挑战者与求解器的对抗生成任务与优化能力,虽减少了手动任务设计成本,但仍需人工搭建复杂的智能体协作流程,智能体依旧局限于合成任务内;右侧为本文提出的元学习驱动进化,无需预设任务与外部奖励,智能体可自主探索环境并将观测信息压缩为可复用的世界知识,以最小化人工干预实现无流程、无奖励的真正自主进化,清晰呈现出从高度依赖人工到完全自主进化的技术突破与范式升级。
原生自进化智能体整体训练与推理流程

本图完整呈现了本文提出的 LLM 智能体原生自进化整体框架,该框架分为数据生成、多阶段训练与推理三大环节,先通过环境交互与教师模型引导生成高质量探索轨迹与世界知识,再采用监督微调与强化拒绝采样两阶段训练,利用结果导向奖励机制筛选最优轨迹与高效用世界知识,持续优化智能体的探索与信息提炼策略,推理阶段智能体进入新环境后先自主完成无任务、无奖励的原生进化以生成结构化世界知识,再基于该知识高效执行下游任务,完整展示了从训练信号构建、模型迭代优化到落地推理的全流程闭环。
不同方法的异常定位可视化结果对比

本图通过在 Qwen3‑14B、GPT‑oss‑120B、Kimi‑K2‑Turbo、Gemini‑2.5‑Flash 等不同参数规模与模型家族的大模型上开展实验,验证了本文所生成世界知识的强跨模型迁移性,结果显示该世界知识能为各类模型带来显著的任务准确率提升,并且高质量的环境探索知识比单纯扩大模型参数更能提升智能体性能,其中仅 14B 参数的 Qwen3 模型借助迁移的世界知识,在会议与游戏领域任务上超越了无知识辅助的 Gemini‑2.5‑Flash,充分证明世界知识可作为通用能力载体实现跨模型性能增益,打破了仅靠参数缩放提升性能的传统路径。
实验

本表格在 WebWalker 与 WebVoyager 两大基准的 1427 个测试样本上,对比了 Qwen3-30B-A3B 和 Seed-OSS-36B 两种基座模型在无世界知识、仅提示词(Gemini / 基座)、本文 SFT 阶段、本文 RFT 最终阶段这几种配置下的任务成功率,结果显示未经训练的基座模型直接生成知识会出现噪声干扰导致性能低于基线,而本文方法经过 SFT 与 RFT 两阶段训练后显著提升各项任务准确率,其中最终 RFT 模型在两个基座上均取得最优成绩,相比无知识基线提升近 19%,甚至超过了由 Gemini-2.5-Pro 生成知识的强基线,充分验证了本文训练框架赋予智能体的元进化能力能有效提炼高价值世界知识并稳定提升下游网页导航与信息获取任务的表现。
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋

📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~
这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

更多推荐



所有评论(0)