AI 闯了祸,到底谁赔?最高法 24 条生效后,企业 AI 落地的责任清单

2026-09-18

一、核心观点:AI 闯了祸,赔的不是 AI,是你

2026 年 9 月 7 日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号),全文 24 条,分 5 个部分。它不是一个指导案例,不是部门规章,也不是行业倡议——它是首部国家级 AI 司法裁判规则。以后所有地方法院审理 AI 纠纷,都要照这 24 条判。

这份《意见》的核心判断只有一句话:AI 不具备民事主体资格,法律责任归于 AI 背后的人和企业。 翻译成大白话:除非法律另有规定,"AI 闯祸"和"员工闯祸"在法律上是一样的——谁有过错,谁赔。

这对正在用 AI 的老板意味着两件相反的事。好事是:以后"AI 闯祸谁赔"不再是一笔糊涂账,有明确法律框架可参照,法务可以按图索骥,保险公司可以出产品,法院可以出判例。危险的是:企业不能再以"AI 自己决定的,跟我没关系"为由推卸责任——9 月 7 日之后,这句话从行业讨论变成了司法共识。

更关键的是,这份《意见》是公开的、可查的、可援引的。从这一天起签署的所有 AI 相关合同、所有 AI 系统部署方案、所有 AI 运营机制,都会以它为评估参照系。法务审合同时会问"这一条能不能扛住最高法 24 条",IT 部署时会问"这个架构能不能扛住过错推定",业务上线时会问"这个场景能不能扛住 100 万的赔偿"。三问三能扛,AI 才能真正落地;哪一关扛不住,落地就要打折扣。

而《意见》最狠的地方,是把"半成品"的风险定价明确化了:以前 AI 半成品上线,赚赔没标准;现在有了——半成品闯祸,按过错推定赔。AI 落地不严谨的成本,从模糊变成了清晰。

二、数据/案例:三道已经响起的警钟,和一组放大的量级

最高法《意见》是 9 月 7 日发的,但在它之前,司法实践已经敲了三次警钟。

第一次:南京中院首例 AI 幻觉案。 客户经理梁某用某平台 AI 检索功能帮客户查高校报考信息,AI 答错,还自行附加"答错愿赔 10 万元"表述。客户截图传播后引发名誉权纠纷,杭州互联网法院认定:平台收到通知后未及时删除,构成侵权。这个案子的关键不是"AI 答错"这种技术问题,关键是"AI 自己加的承诺有没有法律效力"——判决把 AI 输出从"机器的偶然反应"重新定义为"平台的延伸行为"。AI 说什么,平台就承诺什么。

第二次:四川证监局 48.5 万元 AI 造谣罚单。 某上市公司用 AI 生成虚假市场信息,被认定为信息披露违法,开出 48.5 万元罚单。这不是民事赔偿,是直接行政处罚;被罚的不是 AI,是公司的法定代表人和董事会——因为他们没有建立有效的内容审核机制,让 AI 生成了虚假信息。

第三次:L2 智驾追尾事故,驾驶人全责。 某 L2 级辅助驾驶车辆高速追尾前车,驾驶人辩称"AI 没刹住",法院明确"辅助驾驶不等于自动驾驶",驾驶人对车辆行为承担全部责任。

三个案子,三种场景——AI 承诺、AI 造谣、AI 失控——判决逻辑却只有一个:AI 不是免责理由,背后的人和企业才是责任主体。 从 2026 年 9 月开始,"AI 闯祸"的处置流程跟"员工闯祸"一样:先看行为,再看过错,最后看赔偿。AI 不再是一个独立法律实体,它只是一面镜子,照出企业自己的合规水平。

量级也在同步放大。9 月 13 日外滩大会,蚂蚁集团披露:3 万员工,办公和生产环境活跃智能体 10 万个。10 万个智能体各自独立决策、独立调用接口、独立产生输出。传统软件出 bug 影响是局部的、可控的;智能体出 bug 影响是连续的、不可控的——因为它有自主性,可以自己决定下一步做什么、说什么。AI 自主决策链上任何一个节点出错,叠加 N 个智能体的并行调用,后果可能完全超出企业预设的风险预案。

给中小企业的警醒很直接:Agent 越多,能力越强,风险量级也越大。 那些以为"AI 帮我多卖单=我赚了"的企业要重新想一下:你赚的是单,赔的可能也是单。智能体的成交效率提高了,赔偿风险也提高了,两条曲线同步上升。

三、趋势判断:2026 年 9 月,是中国企业 AI 落地的"分水岭"

最高法《意见》不是孤立文件,它是过去一年中国 AI 治理"行政+司法+行业"三道护栏中最后落下的一块——前两道其实已经立起来了。

  • 行政线(管"做不做"):5 月 29 日网信办《智能体规范应用与创新发展实施意见》,明确备案、标识、安全评估要求(准入线);9 月 14 日网安标委《人工智能安全治理框架 3.0》,将 GEO 投毒、模型供应链污染纳入国家级风险分类(风险线)。两份文件加在一起,构成"准入+风控"两道行政闸门。

  • 司法线(管"赔不赔"):9 月 7 日最高法《意见》(判罚线)。它的特殊在于不靠事前许可,靠事后判决——企业可以不上备案、不通过认证,但只要 AI 闯祸上了法院,这份《意见》就是判决依据。

  • 行业线(管"认知"):9 月 13 日外滩大会专设"智能体时代的安全坐标与责任边界"论坛,蚂蚁周志峰与杭州电子科技大学副校长任奎从产业与学术两方给出同一句话——"AI 最大的风险在认知之外"。

三道护栏拉起来,对企业意味着:今年是 AI 落地的"政策最稳年",也是"责任最清年"。行政有规则、司法有判例、行业有共识,三条线同时兜底;但赔偿路径明确、监管手段齐备、执法边界划清,模糊空间没有了。

对武汉企业尤其如此。武汉光电信息产业集群有 2.4 万家相关企业,AI 智能体落地速度全国领先,但产品复杂度高、客户决策链长、合同金额大、AI 自主决策空间也大,四件事叠在一起,闯祸概率比一般行业更高。方向在近期走访光谷时,几家激光设备企业老板提到:他们用 AI 帮客户做选型推荐,AI 自动报价、自动给折扣,"客户一看 AI 报的价比销售员还低,立马就签单了"。但当被问到"如果 AI 报错了价、签了合同要不要履行"时,老板愣了一下——最高法《意见》给的答案是"要",因为 AI 是企业延伸,企业没设足够人工审核导致 AI 越权报价,构成过错。

武汉今年密集出台 AI 红利政策:9 月市经信局发布《武汉市十五五智能经济培育行动方案》,把"AI 智能体+光电信息+智能制造"列入扶持名单,最高补贴 1000 万。但补贴的另一面是核磁——拿了补贴的企业如果 AI 系统出事故,赔偿标准也要按"千万级"对应。补贴是机会成本,合规是保险成本,一进一出,才能让 AI 落地"赚得起也赔得起"。

四、读者建议:把"过错责任"翻译成三步合规清单

最高法《意见》最实操的指引是"过错责任原则",翻译成企业能落地的动作,就是三步合规清单。企业若不按这三步做,过错推定原则会自动适用——AI 闯祸=你有过错=你赔。

第一步:采购环节(合同必须明确四要素)

  1. 智能体操作边界:哪些场景 AI 可自主决策,哪些必须人工介入。这条不写清,AI 在客户群里发什么企业都得兜着。

  1. 人工 in-the-loop 触发条件:高金额承诺、法律声明、客户投诉、合同签订四类场景必须有人工审核。

  1. 实时审计权限:企业保留对 AI 行为的实时审计权,平台方不得以"技术保密"为由拒绝开放。

  1. 责任分担条款:AI 闯祸后平台方和企业各自承担什么,最好明确金额上限和分担比例。

别签"12 个月 SaaS 通用免责"——vendor 免责不等于企业免责,12 个月 SaaS 费用兜不住 100 万赔偿金。

第二步:部署环节(必须满足三个条件)

  1. 可组合中间件:智能体输出触达用户前,过内容审核、风险识别、合规检查三层,不是单一过滤器。

  1. 严格沙箱环境:调用支付、合同、法律声明等高风险接口必须在沙箱,不能裸跑。

  1. 实时行为监测:智能体每次调用、决策、输出都被实时监测,异常立即告警。

第三步:运营环节(建立三个机制)

  1. 全链路审计日志:从用户输入到 AI 输出到人工介入,每步可查,出事后能反推。

  1. 异常告警机制:AI 行为超出预设边界(如突然给出"答错愿赔 10 万"这类承诺),系统立即告警并暂停。

  1. 端到端可回溯:出事后能从客户截图反推到 AI 决策链路每个节点,找出谁在哪个环节有过错。

这三步不是技术部门一家的事,是法务、业务、IT 三方协同:技术卡"能不能跑"、法务卡"该不该跑"、运营卡"跑得对不对"。要破掉"三不管地带"(技术觉得是业务问题、法务觉得是架构问题、业务觉得是审批问题),就要让三方在采购、部署、运营三环节各卡一道关卡,都通过 AI 才能上线触达客户。

五、品牌 CTA:你买的不只是 AI,是责任能力

回到开头那句话——AI 不具备民事主体资格。它对企业 AI 落地的含义是:你买的不只是 AI 工具,是责任能力。 AI 帮你多卖了单、多签了合同、甚至帮你承诺了"答错赔 10 万",你都赚了;但 AI 闯祸的时候,赔的不是 AI,是你。

9 月这份 24 条,是给所有正在用 AI 的老板的一份"责任清单"。它不是要阻挡 AI 落地,而是在帮 AI 落地——只有责任清楚了,买家敢买、卖家敢卖、平台敢承保、法院敢判、监管敢执法,市场才能真正运转。

愿意把合规清单从"法律条文"翻译成"采购合同+部署架构+运营审计"三件套的企业,在这一波 AI 红利里走得最远。

这件事,AI 厂商大多不擅长教。AI 厂商擅长讲模型能力、推理速度、训练数据;但合规讲的是合同怎么写、架构怎么搭、日志怎么留——三件事。

微享 AI 创立于 2013 年,深耕企业服务 13 年,累计服务超 6000 家企业。在 AI 智能体定制开发、大模型私有化部署,以及 AI 智能体全域运营上,我们陪企业把合规从"法务部的事"变成"全公司的事":从需求拆解、模型适配、开发落地,到部署架构与审计链路设计,提供全链路专属服务,并帮企业把最高法 24 条翻译成可逐条对照的检查项。

如果你的企业正准备上 AI 智能体、又担心"闯祸谁赔",欢迎联系微享 AI 团队,一起把责任能力建设做在前面。

👉 了解更多 / 预约咨询:https://www.vxmob.cn/h-col-109.html


分享