EvoAgentX人机交互(HITL)功能：如何在关键决策中保持人类监督

【免费下载链接】EvoAgentX 🚀 EvoAgentX: Building a Self-Evolving Ecosystem of AI Agents 项目地址: https://gitcode.com/gh_mirrors/ev/EvoAgentX

EvoAgentX是一个构建自进化AI智能体生态系统的强大框架，其中人机交互（Human-in-the-Loop，HITL）功能允许在工作流的关键节点插入人工审批、用户输入收集或多轮对话，确保重要决策由人工确认，提高AI系统的可靠性和可控性。

为什么需要HITL功能？

在AI系统执行关键任务时，完全自动化可能带来不可预见的风险。EvoAgentX的HITL功能解决了这一痛点，让人类可以在需要时介入审查或引导流程，完成后再退出。这种方式特别适用于需要严格把控的场景，如金融决策、医疗诊断、重要文件处理等。

图1：EvoAgentX框架图，展示了Human-in-the-Loop在整个系统中的位置

HITL的核心组件与工作原理

EvoAgentX的HITL功能主要通过以下组件实现：

1. HITLManager

HITLManager是HITL功能的核心，负责集中管理所有人工交互。它可以被激活或停用，当停用状态时，所有HITL请求将被自动批准，不会阻塞执行。

from evoagentx.hitl import HITLManager

hitl_manager = HITLManager()
hitl_manager.activate()  # 启用HITL（默认关闭）

2. HITLInterceptorAgent

HITLInterceptorAgent用于在关键操作执行前拦截并请求人工审批。它支持多种交互类型和模式，最常见的是执行前的批准/拒绝模式。

from evoagentx.hitl import HITLInterceptorAgent, HITLInteractionType, HITLMode

interceptor_agent = HITLInterceptorAgent(
    name="EmailApprovalAgent",
    interaction_type=HITLInteractionType.APPROVE_REJECT,
    mode=HITLMode.PRE_EXECUTION  # 执行前审批
)

3. HITLUserInputCollectorAgent

当需要收集完整的用户输入而非简单的是/否批准时，可以使用HITLUserInputCollectorAgent。它会在终端中请求每个字段，并将收集的数据映射到下游任务。

HITL的实际应用场景

金融投资决策

在金融投资分析中，HITL功能可以在AI生成投资建议后暂停，等待人工审核。以下是一个投资分析报告的示例，其中AI给出了"继续持有"的建议，但最终决策需要人工确认。

图2：宁德时代(300750)投资分析报告，展示了AI生成的投资建议需要人工确认

医疗研究文献推荐

在医疗领域，AI系统可能会推荐相关研究文献，但需要领域专家审核这些推荐是否合适。HITL功能允许专家在最终报告生成前进行干预和调整。

图3：医疗多智能体系统研究论文推荐，专家可以通过HITL功能对推荐结果进行审核和编辑

如何在EvoAgentX中启用和使用HITL

步骤1：安装EvoAgentX

首先，克隆EvoAgentX仓库并安装依赖：

git clone https://gitcode.com/gh_mirrors/ev/EvoAgentX
cd EvoAgentX
pip install -r requirements.txt

步骤2：初始化HITLManager

在代码中导入并初始化HITLManager，然后激活HITL功能：

from evoagentx.hitl import HITLManager

hitl_manager = HITLManager()
hitl_manager.activate()  # 启用HITL功能

步骤3：创建HITL代理并集成到工作流

根据需要创建HITLInterceptorAgent或HITLUserInputCollectorAgent，并将它们添加到AgentManager中，集成到工作流中：

from evoagentx.hitl import HITLInterceptorAgent, HITLInteractionType, HITLMode

# 创建拦截代理
interceptor = HITLInterceptorAgent(
    name="CriticalActionInterceptor",
    interaction_type=HITLInteractionType.APPROVE_REJECT,
    mode=HITLMode.PRE_EXECUTION
)

# 将拦截代理加入AgentManager，并在工作流中启用HITL
# agent_manager.add_agent(interceptor)
# workflow.add_agent(interceptor, after="target_agent")

HITL的高级配置与最佳实践

选择合适的交互类型

EvoAgentX支持多种HITL交互类型，包括：

• APPROVE_REJECT：简单的批准/拒绝
• REVIEW_EDIT_STATE：审查和编辑状态
• REVIEW_TOOL_CALLS：审查工具调用
• MULTI_TURN_CONVERSATION：多轮对话（尚未实现）

根据具体场景选择合适的交互类型，例如在发送重要邮件前使用APPROVE_REJECT，在生成报告时使用REVIEW_EDIT_STATE。

设置适当的超时时间

在创建HITL请求时，可以设置超时时间，确保系统不会无限期等待人工输入：

response = hitl_manager.request_human_interaction(
    interaction_type=HITLInteractionType.APPROVE_REJECT,
    mode=HITLMode.PRE_EXECUTION,
    context={"data": "需要审批的内容"},
    timeout=300  # 5分钟超时
)

结合日志系统

HITL的所有交互都应记录到日志中，以便审计和追溯。EvoAgentX的日志系统可以配置为记录所有HITL决策：

from evoagentx.core.logging import setup_logger

logger = setup_logger("hitl_interactions")
logger.info(f"HITL Decision: {response.decision}, Feedback: {response.feedback}")

总结

EvoAgentX的HITL功能为AI系统提供了关键的人工监督机制，通过HITLManager、HITLInterceptorAgent和HITLUserInputCollectorAgent等组件，实现了在关键决策点的人工介入。这不仅提高了AI系统的可靠性和安全性，也为人类专家提供了指导和调整AI行为的能力。

无论是金融投资、医疗诊断还是其他需要高度准确性的领域，HITL功能都能帮助用户在享受AI效率的同时，保持对关键决策的控制。通过本文介绍的方法，您可以轻松地在EvoAgentX中启用和配置HITL功能，为您的AI工作流添加一层重要的安全保障。

要了解更多关于HITL功能的详细信息，请参考官方文档：docs/tutorial/hitl.md

【免费下载链接】EvoAgentX 🚀 EvoAgentX: Building a Self-Evolving Ecosystem of AI Agents 项目地址: https://gitcode.com/gh_mirrors/ev/EvoAgentX