引言:AI 进信贷审批,先别问效率,先问责任
一家银行开始试点 AI 智能体辅助信贷审批:它整理材料、给出建议,甚至能直接给出初步结论。效率确实提升了,但团队内部很快出现分歧:
- 智能体建议通过,审核人员直接采纳,出了问题算谁的?
- 智能体连续判断一致,是不是就可以逐渐减少人工?
- 智能体在核保、理赔里能走多远,谁来划定边界?
这些争议看起来是金融业的内部烦恼,实际上每个让Agent接触真实业务的人,都会碰到同一组问题:能力边界可以靠测试确定,责任边界却没法自动对齐。你能让它做,和你能承担它做错的后果,是两件事。
这也不再是小范围的技术尝鲜。报告显示,截至 2025 年 12 月,我国生成式人工智能用户规模已达 6.02 亿人。当AI从少数人的效率工具变成大众基础设施,再渗透到信贷、理赔这些核心环节,"出了问题谁负责"就从技术讨论变成了必须回答的制度问题。
6月18日,国家金融监督管理总局首次在正式文件中提出"金融智能体"这一概念。第一次正式提出"金融智能体"的概念。这份文件值得关注的,不是金融业多了个新名词,而是它示范了一种给Agent划定责任边界的方法。
一、"谁使用谁负责":Agent 没有免责牌
过去AI大多停留在"辅助工具"层面——人给指令,它给结果,最后拍板的是人。责任链条是清晰的:工具出问题,是人的操作责任;业务出问题,是人的决策责任。
现在情况变了。新一代AI智能体不仅能回答问题,还能自己规划步骤、调用系统、执行任务。它不再只是"你问它答",而是"你派它去干"。这时候,原来的工具责任框架就罩不住了:如果智能体自己跑完了一整套信贷初审流程,出了错,还能简单归结为"工具使用不当"吗?
今年6月发布的金发〔2026〕8号,第一次正式提出"金融智能体"这个概念。监管关注的不是这个名词本身,而是把它放进了明确的监管视野——从治理架构、开发应用、数据治理、算力建设、风险管理、能力提升、保障与监督等七个方面,提出了32项指导性意见。核心信号很明确:提出"金融智能体",不等于金融业务可以全面交给Agent去干,而是意味着监管开始为"能自主执行任务的AI"建立专门的责任框架。
在这份文件的四大原则中,"谁使用谁负责"被放在第一条。新华财经进一步指出,部署和使用智能体的金融机构,不能因为决策过程涉及AI自主推理,就觉得自己可以少承担一点合规责任。
这句话可以拆成三层理解。
- 第一层,机构主体责任不转移。 谁把智能体部署到业务流程里,谁就是第一责任人。智能体不是外包商,不能把"这是AI做的"当作合规挡箭牌。
- 第二层,流程设计责任不消失。 智能体执行了什么任务、做到了哪一步、哪里需要人工介入,这些流程边界是机构自己设计的。设计有漏洞,责任在设计方。
- 第三层,具体岗位责任不模糊。 审核人员面对智能体的建议,是认真复核还是直接点通过?这个选择是人做的,不能用"AI建议的"来模糊自己的失职。
一个更通俗的类比是:你委托员工去处理一笔业务,员工做错了,责任不会凭空消失。公司要担责,是因为授权和监管没到位;员工要担责,是因为他没有尽到审核义务。Agent也是一样的道理。区别只在于,员工至少是法律上的行为主体,而Agent没有独立承担责任的资格。它既不能当被告,也不能被问责。所以智能体造成的后果,最终只能沿着"谁部署、谁授权、谁确认"这条链条,落回到具体的机构和人身上。
这意味着,使用智能体的金融机构,不能只在技术层面问"它准不准",更要在制度层面回答"它错了谁兜底"。
二、高风险留人工,核心决策不放手
金发〔2026〕8号做的另一件关键的事,是给高风险AI应用划了边界。文件明确,这类应用上线前必须经过机构风险管理委员会批准,关键环节必须建立人工监督机制。
什么叫高风险?判断标准不在技术有多新、模型有多复杂,而在于它影响谁、错了会造成什么后果。一个智能体如果只是整理客户资料,风险可控;但如果它能直接影响信贷额度、理赔金额,甚至自主发起资金划转,就必须被纳入高风险范畴。这时候,人工监督不是可选项,而是必选项。
在信贷审批、核保理赔这些核心决策场景里,文件对金融智能体的定位是"稳妥探索",而不是全面自动化替代人工。这四个字很容易被误读。它不是说不让你用Agent,而是说最终决策权不能交出去。智能体可以跑数据、做分析、给建议,但涉及资金、合规、客户重大权益的结论,必须有人工确认环节。
为什么必须这样?因为Agent的"一致性"不等于"正确性"。它可能连续一百次判断都符合历史规律,但第一百零一次遇到黑天鹅事件,它照样会按惯性出牌。金融业务经不起这种惯性错误,其他核心业务也一样。
为了守住这条线,文件提出了"三道防线"加技术安全护栏的治理框架:业务和技术部门是第一道防线,负责日常运营和基础风控;风险合规和独立模型验证是第二道防线,专门盯着模型有没有跑偏;内部审计和董事会则是第三道防线,定期复盘、兜底问责。
这套机制的核心在于,Agent进入真实业务后,模型验证、风险监控和审计不能靠某一个人或某一个团队单打独斗,而需要组织级的职责分工。
把这个逻辑从金融业抽出来,放到任何让Agent承担真实任务的团队面前,其实都要回答同一个问题:谁定义任务、谁验证结果、谁承担异常。如果这三个问题没有明确答案,Agent的权限就不该放开。
三、Agent 进业务,先划这四条边界
金融业的"三道防线"看起来是行业特规,其实底层逻辑对任何让 Agent 承担真实任务的团队都适用。把那条复杂的监管要求拆开来,核心就四条:
第一,权限边界提前说清楚。 Agent 能调用哪些系统、能访问什么数据、能执行到哪一步,必须在上线前白纸黑字定下来。不能等出事了再讨论"它怎么有这个权限"。国家网信办等部门今年 5 月发布意见也提了类似要求:要厘清仅限用户本人决策、需由用户授权决策和智能体自主决策的边界,确保用户对智能体自主决策享有知情权和最终决策权。这不是金融业专属,任何团队都该先回答"它能动什么、不能动什么"。
第二,关键环节必须留人工接口。 不是所有结果都可以直接执行。哪怕 Agent 的准确率已经很高,涉及资金、合规、客户重大权益的操作,必须有人工确认环节。这个确认不是走形式,而是要有能力否决、修改、回退。
第三,异常要有明确的升级路径。 Agent 遇到不确定情况、数据缺失、或者判断置信度不足时,不能硬猜,更不能静默跳过。它得知道什么时候该停下来,把控制权交还给谁。这个"交给人"的路径要提前设计好,而不是出了问题再拉群找人。
第四,过程和结果要留痕。 从任务发起到最终确认,中间每一步谁参与了、Agent 做了什么、人工在哪里介入,都要有记录。不是为了秋后算账,而是出了问题能定位到具体环节,知道是流程设计缺陷、模型偏差,还是人为失职。
知道这四条原则,不等于能在团队里落地。建议从盘点开始。
把 Agent 参与的所有任务列出来,按影响范围和出错后果标风险等级,然后分成三类:
- 可自主执行;
- 需用户授权;
- 必须人工确认。
高风险任务必须设置人工节点,不确定的情况必须定义升级路径,所有关键环节保留记录并定期复盘。
其中最难也最重要的一步,是把任务边界说清楚。如果团队对任务目标、输入材料、输出格式、验收标准都没有共识,责任边界根本无从谈起。这里可以参考一些任务标准化的实践思路,比如把"谁定义任务、什么算完成"先写成共识。A2A Fans 在这个方向上有一些可供观察的样本:它的任务集市,本质上是在尝试回答同一个问题——Agent 进入真实任务后,交付、检查、修改、确认怎么流转。当 Agent 从单次对话变成可复用服务,"交付—验收—记录"会比单次生成更重要。A2A Fans 的任务协作流程(发布、领取、交付、验收)可以作为观察这类机制的一个入口。需要明确的是,A2A Fans 不是监管工具,也不替代企业的合规责任;本文不是金融合规建议,具体业务应以企业自身合规流程和专业意见为准。
结语:Agent 的自主性,要和责任边界一起长
"金融智能体"被写进监管文件,释放的信号很明确:Agent 不再是实验室里的演示品,而是进入真实业务后必须被管理的对象。当它能自主规划、调用系统、执行任务时,能力每往前一步,责任框架就得同步补上一块。
这个节奏已经很快了。到 2025 年,国内人工智能核心产业规模超过 1.2 万亿元,智能算力规模达到 159 万 PFLOPS。算力和产业基础越厚,Agent 进入核心业务的冲动就越强。但历史经验反复说明,技术跑在制度前面,最后买单的往往是业务本身。
所以真正值得提前回答的,不是"Agent 还能做什么",而是三个更基础的问题:什么时候让它做,什么时候必须人来做,做错了到底算谁的。
对大多数团队来说,这些问题的答案不需要等监管文件来教。实践中的顺序往往是反过来的:先划清楚权限,再谈它能发挥多大能力;先设置好人工节点,再谈自动化能推进到哪一步;先定义异常升级路径,再谈长期稳定运行;先保留过程和结果记录,再谈团队对它建立信任。
Agent 的自主性确实在快速增长,但这份自主性只有在责任边界清晰的前提下,才真正有价值。
FAQ
企业内部应该由谁来当“AI 责任人”?
不建议只指定一个“背锅的人”。更实际的做法是把责任拆成岗位:业务负责人定义任务边界,技术团队负责模型和工具验证,合规或风控负责审批高风险场景,一线使用人负责人工确认。责任能落到岗位,而不是落到某个抽象概念,复盘时才知道问题出在哪一环。
Agent 出错造成损失,能不能向模型厂商追责?
通常不能简单认为可以。模型厂商提供的是能力,而 Agent 怎么被配置、用在什么业务、由谁确认结果,往往决定责任归属。更稳妥的假设是:部署方要能证明自己做了权限限制、人工监督和过程留痕,再谈外部追责;签约时也应提前确认供应商责任条款。
“人工监督”具体怎么落地,而不是只喊口号?
可以设置成具体的动作:高风险结果必须由具备复核权限的人点击确认后才生效;Agent 在遇到不确定性时要主动标记“待人工判断”,而不是继续往下执行;每次人工确认留下操作记录。监督不是“有人在旁边看着”,而是“关键动作必须经过人”。
小团队没有风控或合规部门,怎么做低成本的风险清单?
可以先做一张三列表:任务是什么、出错影响多大、必须谁确认。只对“影响用户权益、涉及对外承诺、出错难挽回”的任务设置人工节点;其余任务允许 Agent 自主执行,但要保留输入和输出记录。先覆盖最高风险的几个场景,比一开始就建一套完整制度更现实。
Agent 的过程记录,记到什么程度才够用?
至少要能回答三个问题:它读了什么材料、它输出了什么结论、谁在什么时间做了确认。不需要记录模型内部推理过程,但输入快照、输出版本和人工操作记录要保留。够不够用,可以用一次“事后复盘”来检验:出问题时,能不能快速定位是哪一步导致的。
金融业的新规会不会影响普通企业用 AI 办公?
不会直接要求普通企业照搬金融标准,但会影响大家对 Agent 的预期:结果要可检查、权限要有限制、关键决策要留人确认。对普通团队来说,更实际的提醒是,别等出了责任问题才想起边界——先给 Agent 划权限、设确认节点,成本比事后补救低得多。