当 AI 坐上被告席:新型技术争议的责任分配与应对

13 Nov 2026
14:30 - 15:30
分会场三

律所代表

干诚忱
通商律师事务所合伙人

问题一:9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》。这份文件把“AI出了事谁担责”讲清楚了吗?

讲清楚了一半。定下来的是基本框架:法律没有特别规定的,适用过错责任原则。有没有过错,看应用场景、自主化程度、技术与信息透明度,也看各方采取的预防措施、对风险的预见和控制能力。责任不取决于你是不是AI公司,取决于你管没管、管到什么程度。意见还要求区分通用与专用、开源与闭源等不同模型,对开发者、提供者、使用者合理划分责任。这与我们一贯的分层立场同构:开发方对模型缺陷负责,部署方对场景适配负责,使用方对最终决策负责,谁都不为别人的环节兜底。

另一半,在它没写的部分。发布会上,最高法民三庭负责人坦言有两个问题分歧很大、暂不作规定:AI生成内容有没有版权?未经许可用他人作品训练大模型怎么定性?留白并非回避,它把答案交给了接下来的个案与实践。规则空着的地方,企业的合同和记录要先补位。怎么补,后面几问展开。

问题二:同样是AI生成的内容出了侵权,为什么有的平台被判赔偿,有的全身而退?

对于AIGC公司来说,生成的内容即是产品。

与将AI当辅助工具的公司不同,AIGC生成的内容直接面向市场,产生经济价值。AIGC生成物一旦侵权,“仅是商业使用者”的抗辩空间较小。实务背景下,有三个关注点。首先是来源。即AIGC的语料、素材库的授权链是否完整、许可范围有没有覆盖商用。其次是生成后的复合与记录。即是否对知名IP、真人肖像与声音这类高风险要素设置过滤加人工复核,保留提示词与生成记录,并按《人工智能生成合成内容标识办法》作显著标识。最后是发布前的筛查与发布后对侵权通告的反应。上线前做相似度筛查,接到通知快速核查、下架,都会影响责任承担的比例大小。

从2024年的“杭州、广州奥特曼”系列案到2025年的“上海美杜莎”案,有平台被判侵权或帮助侵权,也有平台因及时下架全身而退。今年9月,最高法涉AI审判意见把这条经验写成了规则,认定责任要综合考量服务类型、训练数据来源、参与度、必要措施和获利情况;对肖像、声音类要素,通知后的必要措施也明确到停止生成、屏蔽相关生成指令。所以对于AIGC公司,差别不在技术,而在管理。公司越能直接从内容获利、生成内容越有识别性、干预能力越高,其注意义务就越高。

问题三:人把判断一步步交给AI之后,出了事还是人来担责吗?

司法实践中,“使用方担责”是正在形成中的默认规则,但其边界正在移动。

以自动驾驶场景为例,从前,辅助驾驶之下,驾驶人仍是第一责任人。但有两个变量,正把这条线往技术方一侧推。

第一个变量是控制权切换。人的介入越少,责任越前移。今年7月修订的深圳智能网联汽车条例明确,“有条件自动驾驶”出了事故,赔偿仍找驾驶人;高度、完全自动驾驶,责任转由车辆的所有人、管理人承担;因缺陷致损的,第一责任人赔付后向生产方追偿。不难看出,立法者自己也在跟着技术,一格一格地挪线。

最高法9月的意见也画了一段:辅助驾驶汽车因车辆缺陷与驾驶人过错共同致损的,可以同时请求驾驶人和生产方、销售方赔偿;为查明事故原因,法院还可以要求生产方、运营方在必要范围内交出事件记录数据。

二是合理依赖。当系统长期表现稳定,仍要求人逐条全面复核,既不现实,也不符合引入AI的初衷。使用方的注意义务该设在哪里?按AI参与程度区分进行再次判断归责可能是方向。

值得探索的是,是否可以先在合同和操作规程里把它固化下来,即谁有能力校验,谁承担校验义务;无力校验的,交给责任险和责任上限去消化?

问题四:AI新规密集出台,企业的合规体系应当从哪里搭起?有没有适用于所有公司的第一步?

从我们接触的项目看,AI公司的合规风险常常源于说不清自己有什么。

规则是公开的,家底是自己的。用了哪些模型,自研、开源还是接入了API?喂了哪些数据?部署在哪些场景、面向谁、由谁维护?这些问题回答不齐,合规无从下手。因此,合规的第一步,是整理台账,把模型、数据、场景登记在册,做好备案。

第二步,在台账上分级。今年五月的《智能体规范应用与创新发展实施意见》明确了分级治理的概念,敏感领域从备案管起。例如,涉人身安全、金融、未成年人的场景从严,测试、审核、记录一样不少,低风险场景则可轻量管理。

第三步,义务落到具体的人。公司可以在模型上新、场景扩展时自动触发评审,替代一年一次的运动式检查。有了台账才好判断新规管不管自己。

台账还有一层新分量。最高法9月的意见明确,掌握证据的一方无正当理由拒不提交,法院可以认定对方的主张成立。真到了法庭上,家底清不清,直接决定说不说得清。

问题五:站在公司法务的角度,未来十二个月最值得关注的规则变化有哪些?

立法在提速。人工智能健康发展的立法,国务院年度计划提出加快推进综合性立法,全国人大也将其列入预备审议项目,道路交通安全法修订草案已提请审议,这是自动驾驶第一次进入国家法律的修订程序。这些都还在起草和审议中,正是公司表达意见的窗口。

司法已经落子。9月7日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,归责原则、证据规则第一次有了全国口径。尚未形成共识的问题,意见选择留白,同时把通道留给了实践:新类型案件提级审理、进入案例库,下一条规则很可能从某家企业的个案里长出来。正在应诉或维权的公司,其实就在参与定规则。

执法在铺开。生成内容标识的检查已经常态化,智能体新规今年五月落地,拟人化互动服务七月起纳入监管,修订后的深圳智能网联汽车条例也从七月起施行。规则出台的间隔,正在以月计算。

规则密集落地的阶段,逐条追热点追不过来。我们给客户的建议通常很简单,建一个法规雷达,每季度更新一次义务清单,对着自己的台账看增量。解读文章年年有,真正稀缺的,是一张属于自己的时间表。