2024年的一个周二早晨,加拿大温哥华某航空公司高管喝咖啡时呛了一口。不列颠哥伦比亚省民事纠纷解决审裁处裁定加拿大航空赔偿812美元。金额不大,但这个裁定传递的信号价值数十亿美元。审裁官克里斯托弗·里弗斯这样写道:「即使聊天机器人具备交互式功能,它仍然只是加拿大航空网站的一部分。加拿大航空对其网站上的所有信息承担责任,这是不言自明的。」

加拿大航空的律师们提出了一个令人瞠目的逻辑:聊天机器人是「独立的法律实体」,公司无法为其承担责任。审裁官将此斥为「令人惊讶的主张」,一句话驳回。那一刻,全球各大企业法务部的电话铃声此起彼伏:「我们的聊天机器人现在到底在说什么?」

这份清单,就是为了让你不必经历那个混乱的周二早晨而写的生存指南。它不是一份普通的「待办事项」。它是一份安全屋的设计图纸。当你要把AI这个我们创造出的最聪明却最难驾驭的东西引进公司围墙之内时,必须经过的每一道关卡都写在这里。

AI模型开发各阶段法律检查清单

2025年6月23日,加利福尼亚北区联邦地方法院。威廉·阿尔苏普法官靠在椅背上。面前堆着作家们与Anthropic之间的版权诉讼材料。Anthropic用数百万册书籍训练了Claude,其中一些是合法购买的,另一些从互联网盗版网站下载而来。法官提笔写道:「用合法获取的作品训练AI模型属于合理使用,其变革性令人惊叹。」但下一句话才是关键:「使用盗版副本则是另一回事。」

所有灾难都始于一个微小的决定。2023年,开源社区里某个开发者心想「拿来用应该没问题吧」,点了一下鼠标。到了2025年,这一下点击变成了一纸数千亿韩元的诉状寄了回来。模型开发阶段好比打地基。地基被污染了,建筑必然坍塌。

第一道关卡是AI系统的风险等级分类。你要做的AI干什么,适用的监管规则就完全不同。EU AI法从2025年8月2日起对通用AI模型施加义务。如果你做的是高风险AI,就得做好被罚营业额7%的准备,折算金额最高达3500万欧元。什么是高风险AI?说白了,就是能改变一个人命运的AI。招聘、贷款、医疗诊断、保险核保、入学审查,在这些领域运作的AI全部归入高风险。科罗拉多州AI法遵循同样的逻辑。这部法律从2026年6月30日起施行,对作出「重大决定」的AI施加合理注意义务。违规者每次罚款2万美元。

有个问题必须问开发团队:我们做的AI会影响到某个人的就业、贷款、医疗或住房吗?如果是,那你做的就是高风险AI。如果不是,可以稍微松口气。但别放松警惕,低风险不等于没有监管。

第二道关卡是模型来源和许可证的核实。别被「开源」这个词骗了。开源不等于免费。是Apache 2.0许可证,还是禁止商用的Creative Commons许可证,必须查清楚。如果把一个标注「仅供研究」的模型拿去做收费服务,那就等于你自己按下了定时炸弹的计时器。GitHub Copilot诉讼就是个好例子,这场官司的焦点在于剥离开源代码的许可证信息后用于训练。截至2025年12月,诉讼仍在进行中。

如果使用了外部API,情况更复杂。用OpenAI、Anthropic、Google的API时,合同条款仔细读了吗?数据处理权限、保密义务、禁止二次训练的条款是否写得明明白白?「由供应商承担全部责任」这种笼统的免责声明,在实务中通常很难被认可。一旦实际损害发生,作为分发方的你同样可能被追责。

第三道关卡是算法偏见测试。想想Workday那场诉讼。你的系统是不是在系统性地过滤黑人、残障人士和40岁以上的求职者?在开发阶段就必须主动攻击模型,诱使偏见暴露出来。这个过程叫「红队测试」,不是可选项,是必做项。现在内部发现的偏见叫「缺陷」,日后在法庭上被发现的偏见叫「歧视」。歧视不会止于罚款,它会引发集体诉讼。

第四道关卡是确保可解释性。黑箱AI在法庭上不堪一击。Cigna和UnitedHealth的医疗保险拒赔案中,AI不透明的拒绝理由成了集体诉讼的核心依据。你的AI作出某个结论后,有没有能够事后解释其原因的技术架构?EU AI法对高风险AI明确要求技术文档和日志保存须在「投放市场前完成」。这是在警告:「事后再写就来不及了。」

最后,必须验证基础模型的透明度。如果你用的是微软或Google的API,至少可以把部分责任分给他们。但如果你自行微调了大语言模型,情况就不同了。你能保证模型学习的底层数据中不含儿童性剥削材料或恐怖主义谋划信息吗?2023年,斯坦福大学研究团队在LAION-5B数据集中发现了儿童性剥削材料。这个数据集被用于训练了大量图像生成AI。

数据收集与管理检查清单

2023年12月27日,《纽约时报》的律师向联邦法院提交了一份69页的起诉书。里面附了一份奇怪的证据:将《纽约时报》的文章和ChatGPT生成的文本并排放在一起。两段文字几乎一模一样,一个词、一个逗号都不差。律师们管这叫「反刍」,也就是AI把学到的内容原封不动地吐出来。他们的主张很直白:你们复制了我们的文章,而且是数百万篇。

数据是AI的粮食。但就像吃了变质的食物会闹肚子,学了受污染的数据,AI要么产生幻觉,要么招来诉讼。

第一个检查项目是训练数据的合法获取。「反正是互联网上公开的信息,用了也没关系」,这套说辞只在2022年之前还能糊弄过去。2025年2月11日,特拉华联邦地方法院的斯特凡诺斯·比巴斯法官在Thomson Reuters诉ROSS Intelligence案中驳回了合理使用抗辩。ROSS使用了Westlaw享有版权的案例摘要进行训练,法官判定这构成版权侵权。

做网络爬虫时遵守robots.txt协议了吗?有没有绕过付费订阅墙去抓取内容?如果数据是从数据经纪商那里买的,那经纪商获取数据的途径合法吗?如果这些问题答不上来,把数据销毁反而更划算。阿尔苏普法官在Anthropic案中说得很清楚:用合法取得的书籍做训练属于合理使用,但用盗版则「需要另行分析」。

第二个检查项目是是否包含个人信息和生物识别信息。还记得Clearview AI的教训吧。这家公司从互联网上大量抓取人脸照片,建起了一个面部识别数据库。后果惨烈:荷兰罚了3050万欧元,英国罚了755万英镑,法国罚了2000万欧元,意大利罚了2000万欧元。在美国,它因违反伊利诺伊州生物识别信息隐私法(BIPA)面临集体诉讼。

你的数据集里有姓名、地址、电话号码,或者人脸照片吗?如果有,取得了信息主体的同意吗?如果没有,你可能因违反GDPR或BIPA而被迫关门。意大利数据保护机构曾指出ChatGPT无法在技术上保障GDPR规定的删除权,并因此一度封禁了该服务。

第三个检查项目是数据清洗和版权标签管理。如果计划进入中国市场,必须确认训练数据中没有「颠覆体制」的内容。在西方国家,则需确认版权人是否已明确拒绝其内容被用于训练。EU AI法自2025年8月2日起要求通用AI模型提供方公开训练数据摘要。数据来源、许可证状态、是否包含个人信息、是否使用了合成数据,这些都必须留下文档记录。

如果不给训练数据打标签做管理,事后想单独删除出问题的数据(所谓「遗忘学习」),在技术上几乎不可能做到。必须留下数据谱系,确保日后能解释某个特定输出来源于哪一批数据。

第四个检查项目是输入数据的机密性保障。员工们是不是正在把公司机密文件输入聊天机器人,让它帮忙做摘要?2023年三星电子工程师将机密代码输入ChatGPT的事件还记得吧。那些信息被存储到了OpenAI的服务器上。你得确认输入的数据是否已设置为不会被用于模型再训练,是否签订了企业级安全协议。

最后,必须验证数据质量和偏见。Google的皮肤科AI应用因深肤色样本数据不足而引发偏见争议。你的数据是否在种族、性别和地域上均衡反映了多样性?如果失衡严重,就需要引入采样调整、合成数据补充以及监控指标。

部署前法律审查事项

2024年2月14日,一个叫杰克·莫法特的人赢了加拿大航空。他的祖母去世了,他需要订机票去参加葬礼。加拿大航空网站上的聊天机器人告诉他:「先按全价预订,90天内申请丧亲折扣即可。」莫法特信了。但那是假话。加拿大航空的实际政策并不允许事后申请。

加拿大航空抗辩说,公司不能为聊天机器人说的话负责,说聊天机器人是「独立的法律实体」。审裁官这样回应:「加拿大航空对其网站上的所有信息承担责任,这是不言自明的。信息来自静态页面还是聊天机器人,没有区别。」

假设模型做好了,数据也干净了。现在该推向市场了。但还剩最后一道关卡:这个AI闯了祸,由谁、以何种方式承担责任,必须事先定好。

第一个审查项目是细化用户协议和免责条款。一句「AI说的话不一定是事实」远远不够。加拿大航空案已经表明,法院会把AI视为公司的代理人。AI提供信息的局限性、其决策是否具有约束力、用户在使用AI生成内容时的责任归属,都必须写进用户协议。但请记住,协议写得再好,如果欺骗了消费者就毫无用处。美国FTC正通过「Operation AI Comply」行动,集中打击DoNotPay的「机器人律师」之类的夸大宣传企业。

第二个审查项目是AI生成内容的标识义务。想避免因深度伪造色情制品或假新闻而被起诉,就必须让人一眼看出这些内容是AI生成的。加利福尼亚州和欧盟已经将此列为法定义务。中国的《生成式人工智能服务管理暂行办法》同样要求对AI生成内容添加「显著识别标志」。水印技术部署了吗?按C2PA标准嵌入了元数据吗?采取措施防止用户自行删除标识了吗?

第三个审查项目是可解释性和异议申诉程序。如果你的AI拒绝了某人的贷款申请或在招聘中淘汰了某人,那个人有权问「为什么」。科罗拉多州AI法要求对此作出解释。你的AI有没有能够说明判断依据的报告功能?有没有一个按钮,让用户可以要求人工客服重新审查AI的决定?「人工介入系统」是一道法律安全阀。GDPR第22条赋予了信息主体拒绝自动化决策的权利。

第四个审查项目是幻觉防范和监控系统。AI撒谎就像呼吸一样自然,问题在于它的谎话编得太逼真。研究显示,即使在受控环境下,AI聊天机器人产生幻觉的概率也在3%到27%之间。Mata诉Avianca案中,纽约律师史蒂文·施瓦茨把ChatGPT编造的虚假判例提交给了法院,结果遭到惩戒。部署前是否通过检索增强生成(RAG)等技术进行了事实核验?上线后是否有一座「指挥塔」,能实时监控并拦截AI输出的有害或错误信息?第五个审查项目是第三方权利侵权监控。Taylor Swift深度伪造事件,以及xAI的Grok生成非自愿性图像引发的争议,都给平台企业的过滤义务敲响了警钟。当用户输入涉及知名角色、商标或肖像权的关键词时,系统能否正常拒绝生成或进行变形处理?是否设立了便于版权人或受害者举报侵权的渠道?收到举报后,是否有即时下架和审查的内部操作手册?

最后,必须明确责任归属和治理体系。是否有专门的组织来监控AI伦理和法律风险,并在事故发生时有权启动「紧急停止开关」?ISO/IEC 42001之所以要求建立「AI管理体系」,用意在于:企业在制造和使用AI的全过程中,必须将政策、责任、流程和改进固化为制度。AI责任保险买了吗?准备金到位了吗?

这份清单上的每一个条目,都是某个人流着血泪换来的教训。希望你的公司不要成为下一个章节里的「被告」。创新很重要,但比在法庭上打赢官司更好的,是压根儿不给自己制造上法庭的机会。后记:一个尚未命名的时代。2024年1月,内华达沙漠中的一间手术室里,医生们正在颅骨上钻孔。患者是29岁的四肢瘫痪青年诺兰德·阿博。8年前的一次跳水事故让他失去了肩部以下的全部知觉。医生们植入的是一枚硬币大小的芯片,上面有1024个电极,这是Neuralink的第一个人体植入物。

手术后过了几周。阿博仅凭意念就能移动电脑光标。他下国际象棋、玩马里奥赛车。他在采访中说:「一开始,我会想象手在动来移动光标。现在我只是想让光标到那里去,手这个概念本身消失了。」

这句话的含义值得细想。手这个概念消失了。人类数百万年来使用工具的方式,意志与行动之间始终存在的身体这个媒介,正在开始消失。

这本书讲的是AI引发的法律纷争。版权、歧视、隐私、安全。所有这些纷争的底层,都指向同一个问题:当机器踏入人类的领地,原有的规则是否依然有效。

法庭一直在努力回答这个问题。法官们把19世纪制定的版权法套用到21世纪的语言模型上,把1960年代的民权法对接到算法歧视上。有时对得上,有时对不上。《纽约时报》诉OpenAI案的法官不得不把「合理使用」这个古老的概念适用于数百万条数据的训练行为。那感觉就像拿马车时代的交通法规去管自动驾驶汽车。

但法庭的混乱不过是更大混乱投下的影子。我们正在见证的,不是法律体系的危机,而是文明本身的重新定义。

人类历史上这样的时刻屈指可数。

火的发现、农业革命、印刷术、工业革命。每一次,人类都获得了新的能力,而这种能力撼动了一切既有秩序。农业催生了定居生活,定居造就了城市,城市孕育了国家。印刷术瓦解了知识的垄断,引发了宗教改革和科学革命。工业革命改写了劳动的意义,催生了资本主义和社会主义这两种对立的哲学。

AI是这条谱系中的下一章。但有一点不同:速度。农业革命用了几千年才扩散开来,工业革命花了几百年,AI在短短几年内就在改变一切。2022年11月ChatGPT发布,两年后,我们已经生活在AI写新闻、写代码、做医疗诊断、提供法律建议的世界里了。

法律跟不上这个速度。这就是本书记录的所有纷争的本质。技术以指数级速度发展,法律以算术级速度应对。差距之中产生了伤害,引发了诉讼,法官们陷入了苦思。

还有一个更根本的问题:我们没有一套哲学来解释这个新现实。

版权法建立在「创作者」这个概念之上。但创作者是什么,我们已经无法确定。AI画了一幅画,创作者是AI,是造出AI的公司,是输入提示词的用户,还是AI学习过的数百万件原作的作者?美国法院和中国法院给出了不同的答案。这个差异不是法律解释上的差异,而是关于「创作究竟是什么」这一哲学前提的差异。

雇佣歧视法建立在「意图」这个概念之上。是否存在歧视某人的意图？但对算法而言，意图是什么？Workday的招聘系统并没有歧视黑人求职者的意图。它只是学习了历史数据中的模式。如果那些模式中融入了历史性歧视，这是谁的责任？是算法的责任，是开发算法的公司的责任，还是产生歧视性数据的整个社会的责任？

隐私法建立在「个人」这个概念之上。我的面孔、我的声音、我的数据属于我。但AI学习了数百万张面孔后生成的合成面孔，属于谁？一张不属于任何特定人、却又是所有人面孔的图像。我们的法律从未设想过这种存在。

让我们回到Neuralink的诺兰·阿博（Noland Arbaugh）。他仅凭思维就能操控机器。现在是电脑光标。十年后会是什么？机械臂、外骨骼，或许是另一个人的身体。

埃隆·马斯克说过，Neuralink的终极目标是「人类与AI的共生」。将人脑直接连接到AI，以思维的速度交换信息。无论他说得对不对，技术正朝这个方向发展，这一事实很难否认。那么，人类是什么？脑中植入芯片的人是人类、是赛博格，还是某种全新的存在？他的思想纯粹属于他自己，还是经过了AI的辅助？他借助AI产生的创意，著作权归谁？他依据AI建议做出的决定，责任由谁承担？

我们没有能回答这些问题的哲学。

工业革命以来，人类发展出了资本主义和社会主义两大哲学体系。这些体系是对「劳动是什么」「所有权是什么」「正义的分配是什么」这些问题的回答。答案各不相同，但至少问题是共享的。

AI时代，问题本身变了。不再是劳动是什么，而是只有人类才能做的事是什么。不再是所有权是什么，而是思想的所有权是什么。不再是正义的分配是什么，而是人类与机器之间正义的关系是什么。

要回答这些新问题，需要新的哲学。就像康德为启蒙运动、马克思为工业社会、罗尔斯为福利国家所提供的那样，必须有人为AI时代奠定哲学基础。是个人还是集体，来自西方还是东方，由人类创造还是讽刺地由AI协助，目前尚不可知。

本书中出场的法官、律师、受害者、企业家，都是这场巨大转型期的第一代人。他们用不完善的工具应对不完善的问题。有时做出正确的决定，有时做出错误的决定。但他们的尝试本身，就成为新哲学的素材。

无论『纽约时报』诉OpenAI案如何判决，它都将成为「AI学习是否侵犯著作权」这一问题的一个答案。无论Workday案如何判决，它都将成为「算法歧视的责任归谁」这一问题的一个答案。这些答案积累成模式，模式积累成原则，原则积累成哲学。

我们生活在这套哲学完成之前。混乱、不确定，有时不公正。但这是每一种文明的起点。规则尚未建立的时期，旧秩序崩塌而新秩序尚未确立的时期。这就是本书标题为「法律战争」的原因。战争既是破坏，也是创造。

2025年1月，诺兰·阿博在YouTube上展示了用Neuralink芯片撰写文档、玩电子游戏的画面。连续八个小时。他说：「这只是开始。」

他说得没错。这只是开始。接下来会发生什么，以及我们将如何称呼它，目前无人知晓。

2026年1月25日

金京镇 律师人工智能AI，走上法庭。

电子书发行｜2026年2月5日作 者｜金京镇 出版人｜金京镇 出版方｜金京镇律师出版社 出版社登记｜2025. 3. 10.（第2025-000015号）

地 址｜首尔特别市东大门区田农路91，百一大厦304号 电 话｜02-6338-1905 电子邮件｜kimkj008@gmail.com ISBN｜979-11-24360-02-6 ⓒ 金京镇 2026 本书为著作者的知识产权，未经授权禁止转载与复制。

注）本书中的照片、图像、图表均使用人工智能生成。正文内容中也有部分借助人工智能完成。