蚂蚁阿福医疗Agent研发范式与实践:从评测驱动到循证检索的工程落地
医疗AI的落地面临极高的专业性门槛和极低的容错率。蚂蚁集团医疗Agent(阿福)团队在工程实践中,逐步从传统代码驱动转向评测驱动(EBDD),并在上下文工程、循证检索(Agentic RAG)和训推优化上形成了一套可落地的架构范式。本文将拆解阿福Agent的核心技术链路,探讨如何在严苛的医疗场景下实现高效、安全的AI落地。
核心问题与挑战
医疗场景的特殊性,给Agent的工程化带来了四个维度的硬性挑战:
- 低容错与非确定性:医疗领域错误容忍度极低,一个错误回答可能直接影响患者健康决策。但大模型固有的“复读机”现象和数值计算错误,带来了极大的非确定性。
- 长上下文与多轮依赖:医疗对话信息密度极高且多轮依赖强,极易超出模型上下文窗口限制;在主子Agent架构下,上下文传递容易出现信息损失或污染。
- 记忆缺失:患者个性化健康档案往往缺失,导致Agent难以维持长期记忆,无法提供连贯的个性化服务。
- 检索与训练瓶颈:医保与药品检索强依赖区域性和时效性政策,多跳Query处理困难;同时,Agent RL训练耗时长,运行环境与训练耦合严重,阻碍了迭代效率。
方案与实践
1. EBDD:评测与Badcase驱动的研发范式
传统业务研发通常以双周为迭代周期,走“需求→设计→开发→测试→上线”的流程。在Agent时代,这种模式无法满足模型快速演进的诉求。阿福团队转向了EBDD(Evaluation And Badcase Driven Development)研发范式。
EBDD的核心是建立Benchmark与Badcase双循环驱动的闭环流程。通过系统化的Benchmark建设和Badcase分析,实现从“代码驱动”到“评测驱动”的转变。这使得迭代频率从双周提升至天级别,建立了可量化、可追踪的研发流水线。
2. 上下文工程:长文本处理与多Agent路由
面对医疗长上下文与多Agent协作的挑战,单纯扩大窗口并非治本之策,核心在于上下文工程:
- 长上下文处理:实施关键信息抽取(有限抽取策略,识别并保留主诉、症状、检查结果等诊断关键信息)、分层记忆机制与上下文压缩策略,剥离冗余信息。
- 多Agent上下文路由:在主子Agent架构下,单Agent无法承载复杂医疗推理的全部上下文。通过主Agent调度与上下文路由机制,根据子任务类型选择性传递上下文,有效隔离上下文污染。该方案使深度检索准确率提升了19%。
3. Agentic RAG:融合循证医学的高精度检索
医疗检索对效果要求极高,尤其是药品类问题。传统RAG难以应对多跳Query和强时效性政策检索。阿福从基础RAG升级为Agentic RAG,结合稠密与稀疏混合检索,并将循证医学思想深度融入检索框架。
具体实施为三阶段循证检索架构:
- Query理解:精准解析复杂医疗意图。
- 循证检索:基于混合检索策略获取高相关度证据。
- 证据融合:整合多源证据,确保最终回答有据可依。
4. 医疗记忆架构:攻克长期记忆缺失
针对患者个性化健康档案缺失与长期记忆维持的难点,阿福构建了专门的医疗记忆架构。通过分层记忆机制,将短期对话记忆与长期健康档案解耦存储与调用,使Agent在多轮交互中能够维持对患者病史的精准认知。
5. 训推优化:解耦与加速
在底层算力与训练架构层面,阿福通过训推一体化优化保障工程落地效率:
- 推理加速:针对TTFT(Time To First Token)和TPOT,采用Prompt缓存(复用高频Prompt的KV Cache)、量化与投机解码策略。
- Agent RL训练架构升级:解耦运行与训练环境,解决工具Env与训练环境不分离的痛点;采用FP8量化、半异步化训练与Reward Service升级,大幅缩短Agent RL训练耗时。
原则/方法论沉淀
在医疗Agent的工程实践中,团队沉淀出以下不可妥协的原则:
- 评测稳定性优先:不稳定的领先不是领先。评测必须基于稳定数据集、足够样本量与可信评审者,否则指标提升毫无意义。
- 关键信息人工兜底:医疗关键信息的抽取必须引入人工确认机制,避免误抽取导致严重后果。
- 循证医学融入检索:循证医学原则应深度融入医疗Agent检索框架,确保回答有据可依,杜绝模型幻觉。
- 上下文按需传递:上下文工程需根据子任务类型选择性传递,避免冗余与污染,保持各Agent的视野清晰。
总结与行动建议
医疗Agent的落地不仅是模型能力的提升,更是工程范式的重构。阿福的实践表明,EBDD提供了敏捷的迭代节奏,上下文工程和Agentic RAG保障了业务精度,训推优化夯实了底层效率。
对于致力于垂直领域Agent落地的工程团队,建议采取以下行动:
- 立即审视研发流程:引入Benchmark与Badcase双循环机制,将评测作为研发的起搏器,而非事后的验收单。
- 重构上下文管理:在多Agent架构中强制实施上下文路由与隔离机制,按需传递,防范上下文污染。
- 引入领域专家思维:在强专业领域(如医疗、法律)检索中,将领域核心方法论(如循证医学)结构化融入RAG架构,而非单纯依赖模型泛化能力。
开放问题与延伸方向
- EBDD“天级别迭代”的自动化率与人工干预占比如何?(关联EBDD落地深度与真实效能)
- 深度检索准确率提升19%的评测基准集规模与Badcase分布特征是什么?(关联指标可信度与场景覆盖度)
- 患者信息分层记忆与压缩是否会引发隐私泄露或“标签化”担忧?(关联数据伦理与用户体验)
- 面对模型固有的复读机与计算错误,EBDD是否只是“用测试修补黑盒”?(关联范式局限与根治路径)
- 关键信息抽取在罕见病或非典型症状场景下,是否存在指征漏抽的致命风险?(关联抽取策略鲁棒性)
- 主子Agent上下文隔离在多科室联合会诊时,是否会导致全局推理受损?(关联架构权衡与信息流转效率)
- FP8量化与半异步训练在边界医疗案例中是否引入不可忽视的精度衰减或奖励作弊?(关联训练稳定性与安全底线)
- 循证医学Agentic RAG能否作为标准化模块迁移至法律、金融等低容错领域?(关联方案泛化能力)
- 解耦运行与训练环境的RL架构,为医疗Agent在真实临床环境中实现持续在线学习提供了哪些增量机会?(关联架构演进方向)
- 医保与药品检索的区域时效依赖,能否用实时知识图谱或API替代静态混合检索?(关联检索架构的替代路径)
- EBDD、上下文、RAG与训推优化中,决定医疗Agent最终安全落地的最核心卡点及下一步优先级是什么?(关联战略重心与资源分配)