AI伤人案，责任该由谁承担？

99ANYc3cd6 人工智能 2026-01-27 8

AI本身通常不被视为独立的法律主体（“法人”或“自然人”），因此法律责任最终会追溯到其设计者、制造商、所有者或使用者身上。

以下我将分类介绍几个具有代表性的案例,并分析其中涉及的法律问题。

自动驾驶汽车事故案例

这是目前讨论最热烈、也最接近“AI伤人”现实场景的领域。

案例 1：Uber 自动驾驶致死案 (2025)

事件概述：2025年3月，美国亚利桑那州，一辆处于自动驾驶模式的Uber测试车辆在道路上行驶时，未能识别到一位正在横穿马路的 Elaine Herzberg 女士，导致车辆撞上她并致其死亡,这是全球首例自动驾驶汽车在公共道路上致人死亡的事故。
法律责任分析：
1. 安全驾驶员：车内的人类安全驾驶员当时正在看手机，没有及时接管车辆，被指控过失杀人罪,但最终被免于起诉。
2. Uber 公司：美国国家运输安全委员会最终报告指出，Uber公司的系统设计存在缺陷，未能识别行人，且公司对安全驾驶员的监督不力，Uber公司因此面临民事诉讼，最终与遇难者家属达成了保密金额的和解协议。
3. 自动驾驶系统供应商：该车辆使用的自动驾驶系统由ATG（Uber Advanced Technologies Group）团队开发,责任主要在Uber内部。
法律启示：
- 过失责任：本案的核心是过失责任，法院会审查Uber作为产品制造商和系统开发者，是否尽到了“合理的注意义务”来确保产品的安全性,缺陷在于软件算法的识别能力和安全冗余设计的不足。
- 产品责任法：这可以被视为一种“产品缺陷”导致的伤害，缺陷可能存在于“设计缺陷”（算法本身有缺陷）或“警告缺陷”（未能充分告知用户系统的局限性）。
- 人类监督的模糊地带：明确了在“人机共驾”模式下,人类驾驶员和AI系统的责任划分是一个巨大的法律难题。

案例 2：特斯拉 Autopilot 事故系列

事件概述：全球范围内发生了多起开启特斯拉 Autopilot 功能的车辆与前方静止车辆（如事故车、警车、救援车）或侧方车辆发生碰撞的致死/致残事故，最著名的是中国的高管林文钦（字“萌萌”）先生在使用辅助驾驶功能时发生事故不幸身亡。
法律责任分析：
1. 驾驶员责任：在大多数司法管辖区，法律认为驾驶员是车辆的最终控制者，即使开启了Autopilot，驾驶员也必须保持注意力并随时准备接管，在事故调查中,驾驶员常被认定为负主要或全部责任。
2. 特斯拉公司责任：这是争议的焦点。
  - 产品缺陷：原告方（受害者家属）会主张特斯拉的Autopilot系统存在设计缺陷，
    - 过度依赖：系统名称和功能设计可能让用户产生“全自动驾驶”的误解,导致他们分心。
    - 技术局限：系统对某些场景（如侧方来车、静止障碍物）的识别能力不足,且未能有效提醒用户。
  - 警告不足：是否在用户手册、屏幕提示等方面，充分、清晰地告知了Autopilot的局限性和使用风险。
3. 诉讼进展：这些案件大多仍在审理中，或已庭外和解，一些案件已经进入证据开示阶段，特斯拉需要提供其Autopilot系统的内部数据、算法逻辑和安全测试记录,这将是庭审的关键。
法律启示：
- “警告”是关键：科技公司如何通过用户界面、手册和培训，向用户清晰传达AI能力的边界,是规避法律责任的重要环节。
- 数据黑匣子的证据价值：类似飞机的黑匣子，车辆的行车数据记录仪是还原事故真相、划分责任的核心证据。
- “合理预期”标准：法院可能会考虑一个“普通理性消费者”在使用该产品时，会产生什么样的“合理预期”，如果宣传与实际能力差距过大,可能构成欺诈或警告缺陷。

医疗AI误诊案例

案例：IBM Watson for Oncology 误诊事件

事件概述：IBM Watson for Oncology 是一个旨在为癌症患者提供个性化治疗建议的AI系统，据报道，在一些亚洲医院（如印度、泰国）的临床应用中，该系统给出了错误甚至危险的治疗建议，它建议对一位肺癌患者进行一种可能致命的化疗方案,而该方案早已被证明对该患者无效且有高风险。
法律责任分析：
1. 医生责任：最终的治疗决策是由医生做出的，医生有责任根据其专业知识和患者的具体情况，对AI的建议进行独立判断，盲目采纳AI的建议,医生可能要承担医疗过失责任。
2. IBM 公司责任：
  - 产品责任：如果系统能被证明存在“设计缺陷”（基于的数据有偏差、算法逻辑错误）或“警告缺陷”（未能明确说明其建议的局限性，该建议基于有限数据，仅供参考”）,那么IBM需要承担产品责任。
  - 合同责任：IBM在与医院签订的合同中，可能对其产品的性能、准确性和适用范围做出了承诺，如果实际表现与承诺不符,医院可以依据合同法追究其责任。
法律启示：
- AI是辅助工具，不是决策主体：在医疗领域，AI的法律定位非常清晰——它是一个决策支持工具,最终责任人是执业医师。
- 数据是AI的基石：该案暴露了AI系统的“垃圾进，垃圾出”问题，如果训练数据存在偏差、不完整或过时，AI的建议必然是不可靠的,数据的质量和来源是法律追责的重要切入点。
- 知情同意：医院在使用AI辅助诊疗时，是否需要向患者告知“您的治疗方案部分参考了AI系统的建议”？这涉及到患者的知情同意权。

算法歧视与伤害案例

这类案例的伤害不是物理上的，而是经济、社会或名誉上的,但同样具有法律意义。

案例：亚马逊招聘算法性别歧视案

事件概述：亚马逊曾开发过一个AI系统，用于从简历中筛选应聘者，该系统在训练时使用的是过去10年的招聘数据，而这些数据中，技术岗位的男性应聘者远多于女性，结果，AI学会了“惩罚”含有“女子学院”毕业字样的简历，并给与“女性”相关的词汇（如“women's chess club”）降分,从而系统性地歧视女性求职者。
法律责任分析：
- 法律定性：这属于“算法歧视”，违反了多国的《反就业歧视法》。
- 责任主体：亚马逊作为该算法的开发者和使用者，需要承担歧视性招聘的法律责任，虽然AI是“执行者”，但制定规则、提供数据、并最终依赖其做出决策的是亚马逊公司。
法律启示：
- 算法的“偏见”是人的偏见的复制：AI本身没有恶意，但它会忠实地学习并放大人类社会中已有的偏见，这要求开发者在设计阶段就必须进行“公平性审计”和“偏见测试”。
- 责任在“人”不在“机”：法律不会惩罚有偏见的算法,而是会惩罚那个部署和使用有偏见算法的组织。

总结与法律挑战

综合以上案例,我们可以总结出当前AI伤人案件的法律框架和面临的挑战：

责任主体是“人”：AI本身不被视为法律上的“责任人”,责任链条通常指向：
- 开发者/制造商：对产品的设计缺陷、制造缺陷和警告缺陷负责。
- 所有者/运营者：如医院、汽车公司，负有选择合格产品、正确使用、维护和监督的义务。
- 使用者：如驾驶员、医生,负有最终的控制和决策义务。
核心法律原则：
- 产品责任法：是追究AI硬件和软件制造商责任的主要武器。
- 过失侵权法：要求证明被告未能尽到“合理的注意义务”。
- 合同法：适用于服务型AI（如Watson for Oncology）,追究其未履行合同承诺的责任。
新兴的法律挑战：
- “黑箱”问题：许多深度学习AI的决策过程不透明，使得受害者难以证明“缺陷”的存在，也难以进行有效的法律辩护，这推动了“算法解释权”的法律讨论。
- 全球管辖权：一个由美国公司开发的AI，在亚洲造成伤害，适用哪国法律？数据存储在哪里？这是复杂的国际私法问题。
- 因果关系认定：如何精确证明伤害是由AI的特定决策导致的，而不是其他因素（如人类操作失误、外部环境）？这需要强大的技术证据支持。
- 立法滞后：现有法律体系是为工业时代设计的，面对AI这种快速迭代、自我学习的“新物种”，法律条文往往显得力不从心，各国政府和国际组织正在积极探索专门的AI监管框架（如欧盟的《人工智能法案》）。