AI书房

AI书房

用书来读懂AI

这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。

Codex 37个具体使用案例 cover

书籍式阅读

Codex 37个具体使用案例

金京镇律师

从晨间简报到智能体群:37个真实工作自动化案例

这份指南汇集了37个把Codex和AI智能体接入真实工作的做法,覆盖个人事务、数据处理、营销、销售、文档、开发和浏览器控制。

分享

FacebookXLinkedInThreads
2026北京:两个巨人的危险之舞 封面

16篇公开

2026北京:两个巨人的危险之舞

金景珍律师

特朗普-习近平峰会,以及其中发生的事. 目录、序言、13章、结语

本书从霍尔木兹、稀土、台湾、波音、大豆、AI芯片这些场景,追踪特朗普的北京之行。

分享

FacebookXLinkedInThreads
把工作交给AI,然后离开座位 封面

27篇公开

把工作交给AI,然后离开座位

金京镇律师

YOLO模式完全入门. 目录和26章

一本面向初学者的在线书,讲解Claude Code和Codex中的YOLO模式。它说明如何让AI读取文件、编写代码、执行命令,并把回退、Docker沙盒和安全检查放在手边。

分享

FacebookXLinkedInThreads
《AI向人类提出的10个问题》封面

12篇文章

《AI向人类提出的10个问题》

金京镇

目录、序言、10章

《AI向人类提出的10个问题》是金京镇在AI书房公开的在线书。本书围绕AI责任、全球监视、人工智能武器、深度伪造、工作消失、能源、数据和人类身份,整理人工智能正在逼问人类的十个问题。

分享

FacebookXLinkedInThreads
《人工智能AI走上法庭》封面

26篇文章

《人工智能AI走上法庭》

金京镇律师

目录、序言、21章、3篇附录

《人工智能AI走上法庭》是金京镇律师在AI书房公开的在线书。本书从生成式AI训练数据、版权、声音克隆、深度伪造、自动驾驶、医疗和金融算法等争议出发,整理人工智能进入法院之后正在形成的法律前线。

分享

FacebookXLinkedInThreads
《人工智能与社会结构变迁》封面

16篇文章

《人工智能与社会结构变迁》

金京镇

目录、序言、13章、尾声

《人工智能与社会结构变迁》是金京镇在AI书房公开的在线书。本书从劳动、教育、不平等、城市、能源、网络安全、人际关系和民主制度出发,记录AI正在改写社会结构的过程。

分享

FacebookXLinkedInThreads
《2026年美国伊朗战争与全球能源危机》封面

39篇文章

《2026年美国伊朗战争与全球能源危机》

金京镇

目录、序章、36章、尾声

《2026年美国伊朗战争与全球能源危机》是金京镇在AI书房公开的在线书。本书从霍尔木兹海峡、海上保险、石油价格、液化天然气、粮食、美元秩序和韩国能源安全出发,追踪一场战争如何改变全球能源流动。

分享

FacebookXLinkedInThreads
《德米斯·哈萨比斯,谷歌人工智能之父》封面

34篇文章

《德米斯·哈萨比斯,谷歌人工智能之父》

金京镇

目录、序言、31章、尾声

《德米斯·哈萨比斯,谷歌人工智能之父》是金京镇在AI书房公开的在线书。本书沿着哈萨比斯从伦敦童年、国际象棋、游戏开发、脑科学、DeepMind、AlphaGo到AlphaFold的道路,记录人工智能如何进入科学发现的核心。

分享

FacebookXLinkedInThreads
Nano Banana Pro实战提示词手册 cover

24篇文章

Nano Banana Pro实战提示词手册

金京镇

6部、22章、课堂提示词附录

这本在线书围绕Nano Banana Pro的图像生成、编辑、文字渲染、角色一致性、工作场景和变现方法展开,方便课堂和实际工作直接使用。

分享

FacebookXLinkedInThreads
军事人工智能 cover

共17篇公开

军事人工智能

金京镇、金元泰

目录、序言、14章、尾声

一部系统梳理军事人工智能的长篇著作,涵盖自主武器、无人机、指挥控制、后勤、网络防御,以及美国、中国、以色列、韩国和全球国防AI企业的战略与实践。

分享

FacebookXLinkedInThreads
《读脑者:Neuralink与人类最后的革命》封面

21篇文章

《读脑者:Neuralink与人类最后的革命》

金京镇

目录、序章、18章、尾声

《读脑者:Neuralink与人类最后的革命》是金京镇在AI书房公开的在线书。本书追踪Neuralink、脑机接口、脑数据、医疗革命、神经权利和人类增强,记录人类大脑开始连接机器之后的法律与文明问题。

分享

FacebookXLinkedInThreads
《格鲁吉亚历史文化旅行》封面

24篇文章

《格鲁吉亚历史文化旅行》

金京镇

目录、序言、17章、4篇附录、尾声

《格鲁吉亚历史文化旅行》是金京镇在AI书房公开的在线书。本书从第比利斯、卡赫季、卡兹别克、高加索雪山、八千年葡萄酒、东正教、民主化、战争和旅行路线出发,记录格鲁吉亚的历史与现实。

分享

FacebookXLinkedInThreads
《一千个祈祷,一座山:读懂亚美尼亚》封面

13篇文章

《一千个祈祷,一座山:读懂亚美尼亚》

金京镇

目录、序言、10章、尾声

《一千个祈祷,一座山:读懂亚美尼亚》是金京镇在AI书房公开的在线书。本书从亚美尼亚高原、亚拉腊山、古代王国、世界第一个基督教国家、中世纪修道院、现代悲剧、离散社群和旅行指南出发,阅读亚美尼亚。

分享

FacebookXLinkedInThreads
从卖茶少年到总理 cover

共13篇公开

从卖茶少年到总理

金京镇

目录、序言、10章、尾声

一部政治传记,追踪纳伦德拉·莫迪从瓦德讷格尔卖茶少年、RSS组织者、古吉拉特邦首席部长到三任印度总理的轨迹,并由此理解现代印度、韩印关系与崛起大国的风险。

分享

FacebookXLinkedInThreads
《马来西亚:掌控马六甲海峡者掌控世界》封面

23篇文章

《马来西亚:掌控马六甲海峡者掌控世界》

金京镇

目录、序言、20章、尾声

《马来西亚:掌控马六甲海峡者掌控世界》是金京镇在AI书房公开的在线书。本书从马来半岛、马六甲王国、殖民地、联邦君主制、法律制度、城市旅行和产业结构出发,阅读马来西亚的地缘价值。

分享

FacebookXLinkedInThreads
《韩东勋留给韩国的那些痕迹》封面

13篇文章

《韩东勋留给韩国的那些痕迹》

金京镇

目录、12章

《韩东勋留给韩国的那些痕迹》是金京镇在AI书房公开的在线书。本书围绕韩东勋、韩国政治、法务部、检察改革、政治记录和受害者救济,整理他在韩国社会与国家制度中留下的公共足迹。

分享

FacebookXLinkedInThreads
《AI课堂,成绩将会改变》封面

26篇文章

《AI课堂,成绩将会改变》

金京镇

目录、序言、24节

金京镇AI书房在线图书,说明AI如何支持小学、初中、高中学习、教学、评价和教育公平。

分享

FacebookXLinkedInThreads
《PALANTIR:战争、监视与人工智能》封面

16篇文章

《PALANTIR:战争、监视与人工智能》

金京镇律师

目录、序言、14章

《PALANTIR:战争、监视与人工智能》是金京镇律师在AI书房公开的在线书。本书从PayPal黑帮、9·11之后的情报失败、乌克兰战场、五角大楼改革和预测性治安出发,追踪数据公司如何进入国家安全与企业决策的核心。

分享

FacebookXLinkedInThreads
超越玻璃天花板 cover

共39篇公开

超越玻璃天花板

金京镇

目录、序章、31章、尾声、5篇附录

一部追踪高市早苗从奈良成长、进入政坛、三次挑战自民党总裁并成为日本首位女性首相的政治传记。

分享

FacebookXLinkedInThreads
《韩东勋的故事》封面

39篇文章

《韩东勋的故事》

金京镇

目录、序章、36章、尾声

《韩东勋的故事》是金京镇在AI书房公开的在线书。本书从戒严之夜、检察官生涯、法务行政、政治选择、民生现场和个人面貌出发,记录韩东勋在韩国公共生活中的轨迹。

分享

FacebookXLinkedInThreads
人工智能选举 cover

14篇文章

人工智能选举

金京镇

目录、作者序、11章、结语

这本在线书写竞选信息、宣传材料、数字竞选、数据分析、团队运营、虚假信息防御、法律风险和可直接使用的提示词。

分享

FacebookXLinkedInThreads
《人工智能战斗机,人工智能空军》封面

43篇文章

《人工智能战斗机,人工智能空军》

金京镇

目录、序言、40章、尾声

《人工智能战斗机,人工智能空军》是金京镇在AI书房公开的在线书。本书围绕AI战斗机、无人作战飞机、CCA、MUM-T、第六代战斗机和未来空军,记录人工智能正在怎样改变空战、国防产业和军事伦理。

分享

FacebookXLinkedInThreads
山姆·奥特曼传:人工智能革命的开拓者 cover

22篇文章

山姆·奥特曼传:人工智能革命的开拓者

金京镇、金京兰

目录、序言、7部、20章

这本在线传记写山姆·奥特曼的成长、创业、Y Combinator、OpenAI、ChatGPT、董事会风波,以及他在人工智能时代承担的责任。

分享

FacebookXLinkedInThreads
关于北极航道的七个误解封面

10篇文章

关于北极航道的七个误解

金京镇

目录、序言、7章、尾声

金京镇AI书房在线图书,梳理关于北极航道的速度、定期航线、保险、安全规则、全年通航、碳减排和基础设施的七个常见误解。

分享

FacebookXLinkedInThreads
《世界各国在行政领域引入人工智能的案例》封面

25篇文章

《世界各国在行政领域引入人工智能的案例》

金京镇

目录、23章、尾声

金京镇AI书房在线图书,介绍公共部门AI导入、各国战略、行政服务、治理框架与未来政策课题。

分享

FacebookXLinkedInThreads
《Claude Cowork与智能体使用手册》封面

11篇文章

《Claude Cowork与智能体使用手册》

金京镇

目录、序言、8章、尾声

《Claude Cowork与智能体使用手册》是金京镇在AI书房公开的在线书。本书整理文件整理、财务数据、营销销售、研究、沟通、人事法务、软件开发和系统联动自动化场景。

分享

FacebookXLinkedInThreads
《Claude Code完全掌握》封面

41篇文章

《Claude Code完全掌握》

金京镇

目录、40章

《Claude Code完全掌握》是金京镇在AI书房公开的在线书。本书围绕Claude Code、智能体工作流、MCP、技能、部署、GitHub、自动化和商业化,整理把AI从聊天工具变成工作系统的方法。

分享

FacebookXLinkedInThreads
《黄仁勋的故事》封面

16篇文章

《黄仁勋的故事》

金京镇

目录、序言、13章、尾声

《黄仁勋的故事》是金京镇在AI书房公开的在线书。本书沿着黄仁勋的移民经历、NVIDIA创业、GPU革命、CUDA生态、AI工厂和物理AI,记录一位企业家如何站到人工智能产业的中心。

分享

FacebookXLinkedInThreads
法律实务与人工智能封面

16篇文章

法律实务与人工智能

金京镇

目录、序言、14部

金京镇AI书房在线图书,从律师实务角度整理法律检索、文书起草、证据分析、合同审查、NotebookLM以及生成式AI工作流程。

分享

FacebookXLinkedInThreads
您好,我是金京镇封面

10篇文章

您好,我是金京镇

金京镇

目录、序言、推荐语、6章、结语

金京镇AI书房在线图书。内容涵盖成长经历、科技议政活动、议员外交、立法斗争、东大门愿景以及韩国人口断崖的解决方案。

分享

FacebookXLinkedInThreads

[AI书房] 第18章 中国的人格权与数据保护

人工智能AI走上法庭
Author
金京镇律师
Date
2026-05-06 02:35
Views
76

人工智能AI走上法庭

第五部 中国的AI法律纠纷与监管

第18章 中国的人格权与数据保护

金京镇律师

一、声音权与肖像权保护

(1) 2023年北京互联网法院「AI声音」判决:声音权被确认为独立人格权

2023年5月的某一天,住在北京的配音演员殷女士在浏览网页时,手指停住了。她听到了自己的声音,正在朗读一段她从未录过的文字。音色一样,语调一样,连换气的节奏都一样。但她从来没有见过那段文本。

她的声音已经变成了一款名叫「魔小璇」的AI语音产品,在「魔音工坊」应用中出售。32亿次播放。在某人的演示文稿里,在某人的YouTube视频里,在某人的有声书里,那个不属于她、却又是她的声音正在流淌。

殷女士找了律师。

事情在这里变得复杂。殷女士此前与一家传媒公司签约,从事有声书录制工作。合同里有一条:「录音制品的著作权归公司所有。」公司把这批录音文件转给了另一家软件公司,那家公司将殷女士的声音用作AI训练数据。训练出来的成果,又被第三方平台当作商品出售。

被告的逻辑很直接:「我们合法购买了录音文件,拿这些文件做什么是我们的自由。」

但2024年4月23日,北京互联网法院的法官提出了一个完全不同的问题:「录音文件和声音是同一回事吗?」要理解这个问题的分量,需要简单了解一下中国民法典的结构。中国于2021年施行了新民法典,其中单独设置了「人格权编」。人格权,用通俗的话说,就是「让我成为我的那些东西的权利」。我的名字、我的面容、我的名誉,这些和我的财产不同,不能出售,不能转让,不能与我分离。

法院把声音放进了这个范畴。民法典第1023条第2款明确规定:「对自然人声音的保护,参照适用肖像权保护的有关规定。」法官以此为据,将声音确认为独立的人格权。

判决书的关键表述是这样的:「即便是AI生成的声音,只要普通公众听后能够联想到特定个人,就属于该人的声音权范畴。」

法院将此称为「可识别性」(Identifiability)。音色、语调、发音习惯、呼吸节奏,所有这些要素组合在一起,如果能指向特定个人,那就不是单纯的「数据」,而是「人格的一部分」。

这一逻辑的核心含义在于:著作权与人格权的分离。殷女士确实转让了录音文件的著作权,但著作权针对的是「表达物」,人格权针对的是「我本身」。卖掉了我录制的文件,不等于卖掉了我的声音本身。就像出让了我照片的著作权,不等于允许别人随意使用我的面容一样。

法院还更进一步,沿着责任链条逐一追溯。提供录音数据的传媒公司、开发AI声音的软件公司、销售产品的平台、购买并运营产品的企业,法院认定它们承担共同责任。根据各自的角色和获利程度分配责任比例,但没有谁能以「我只是提供了技术」为由脱身。

赔偿金额为25万元人民币(约合4700万韩元)。对大型企业来说,这笔钱或许微不足道。但它背后的意义无法用金钱衡量。中国所有AI企业在训练配音演员的声音之前,现在都必须问自己:「这个人真的同意了吗?录音合同是否涵盖了AI训练?」

这份判决作出的时间,比斯嘉丽·约翰逊对OpenAI「Sky」语音表达愤怒早了两个月。中国法院先行了一步。技术跨越国界飞速前行的同时,法律正以各自的速度追赶。北京的配音演员夺回了自己的声音。而那份判决书,成为AI时代「我」这个存在能被保护到什么程度的一座路标。

(2) 2025年AI虚拟人肖像权判决

2025年9月10日,北京互联网法院发布了8件「AI相关典型案例」。其中第8件格外引人关注,,知名人士何某的名字,在一款手机应用里以「AI伴侣」的形态活了起来。

那是一款记账软件,外观看上去平平无奇。但里面藏着一个特殊功能:用户可以创建自己的「AI伴侣」。可以取名字,设头像,定义关系。男朋友、女朋友、兄弟、母亲,什么都行。

问题出在大量用户把真实存在的何某设定为自己的伴侣。他们上传了何某的照片,输入了何某的名字,再把关系设定为「男朋友」或「哥哥」。应用的算法分析了这些信息,开始向其他用户推荐「何某」这个角色。

何某本人对此毫不知情。他从未同意过。

法院认定这构成人格权侵害。这里出现了一个关键争议点。应用运营方辩称:「我们只是托管了用户上传的内容。」但法院不接受这个说法。应用提供了「关系设定」功能,用算法推荐角色,借此拉动用户活跃度,这不是单纯的托管,而是一种将特定个人的身份变成「商品化替代物」的结构性设计。

这份判决引向一个更大的问题:AI时代的肖像权究竟延伸到哪里?

传统的肖像权适用于照片或影像中拍摄到的面容。但AI技术打破了这个边界。现在可以再现一个人的「感觉」。不需要一张真实照片,就能创造出让人联想到特定个人的虚拟角色。说话方式、表情、手势,都能被转化为数据、被学习。

2025年8月的另一份判决处理了这个问题的另一面。制作虚拟数字人物「A」和「B」的公司起诉了一名离职员工,该员工擅自出售了这些角色的3D模型。法院认定,虚拟数字人物的形象如果具有独创性,可以作为美术作品受到著作权保护。

两种权利在这里交汇:真人的肖像权与虚拟角色的著作权。虚拟人越像真人,两种权利的冲突就越激烈。假设有人以知名艺人为原型制作了一个AI虚拟人,那个虚拟人的外形是制作公司的作品,但如果它让人「联想到」真实存在的人物,就会触发肖像权问题。

中国法院对此给出了「可识别性」标准:普通用户看到虚拟角色后能联想到特定自然人,就落入肖像权保护范围。这不是技术问题,而是认知问题。标准不在代码,而在社会层面的联想。

这些判决传递的信号很清晰。AI技术再怎么进步,如果技术产物侵犯了真人的身份认同,法律就会介入。中国法院没有被技术的精巧所迷惑,而是抛出了最朴素的问题:「看到这个的人,会想起谁?」

(3) 深度伪造「换脸」应用肖像权及个人信息侵权判决

2024年6月20日,北京互联网法院对中国首例「AI换脸」应用侵权案作出判决。原告是两名女性,都是凭借中国风短视频走红的模特。她们身穿传统服饰,梳着古典发型,化着经典妆容站在镜头前。她们的视频播放量达到数百万。

有一天,她们发现了异常。自己的服装、发型、妆容、灯光、镜头角度被原样保留做成了模板,在一款应用中出售。只是脸被抹掉了。用户付费后,可以把自己的脸合成上去。

原告主张了两点:一是肖像权侵权,二是个人信息侵权。

法院的判断很微妙。而恰恰是这种微妙,让这份判决显得格外重要。

关于肖像权,法院认定「不构成侵权」。根据中国民法典,肖像权侵权包括「制作、使用、公开」肖像。关键在于「可识别性」。由于原告的面部已从模板中被移除,最终成品无法「识别」出原告。看到合成了其他人面孔的视频,观众不会想起原告。

但法院没有止步于此。关于个人信息,法院认定「构成侵权」。这才是这份判决的核心。在制作模板的过程中,被告收集并处理了原告的原始视频,视频中包含原告的面部信息。面部信息根据中国《个人信息保护法》(PIPL)属于「敏感个人信息」。

法院的逻辑是这样的:最终成品中看不到原告的面孔,不代表制作过程就合法了。被告未经原告同意收集了面部数据,进行了分析,并据此开发了商业产品。这个过程本身就构成个人信息侵权。

这一拆分逻辑在实务中有很强的冲击力。深度伪造服务提供商常常采取这样的抗辩:「最终成品里没有原告的脸,所以不涉及肖像权。」但按照这份判决,服务提供商无法仅凭成品的外观免责。法院审视的是整个流程:收集、处理、提供。任何环节中个人信息遭到不当处理,责任就会产生。

被告还提出了另一项抗辩:「换脸技术是我们外包给第三方公司的,实际处理是对方做的。」法院同样不予采纳。被告决定了服务的方式和范围,并从中获利,外包不构成免责事由。

赔偿金额为3500元人民币(约合65万韩元)。经济损失2500元,精神损害1000元。金额不大。但主审法官孙明喜在判决后对记者说:「希望这份判决有助于规范新兴技术的应用,促进数字经济健康发展。」

这份判决与中国整个AI监管体系相互呼应。2023年1月施行的《互联网信息服务深度合成管理规定》,要求深度合成服务提供者取得被编辑人的同意,并对生成内容进行标识。法院的民事判决印证了这套监管的实效。技术上做得到,不等于法律上被允许。技术迭代越快,注意义务就越重。

二、AI风格模仿与不正当竞争

(1) TikTok诉B612滤镜案:91.7%相似度

2020年6月,TikTok的中国版应用抖音推出了一款名为「变身漫画特效」的滤镜。它能实时检测用户面部,将其转换为日本动漫风格:屏幕上的人突然拥有了大眼睛和尖下巴,变成了漫画角色。这款滤镜大获成功,数亿用户将自己的脸变成漫画形象拍摄视频。

两个月后,竞争对手B612上线了一个几乎一模一样的功能,取名「少女漫画特效」。效果实质上完全相同。

字节跳动的律师起了疑心:这不是巧合。他们对B612的运营方提起诉讼。但问题来了,,拿什么证明「复制」?

传统的著作权纠纷中,通常比对源代码,看A的代码和B的代码重合程度。但AI滤镜不一样。两家公司可能使用了相同的公开训练数据,可能采用了相同的神经网络架构。结果相似,未必就是复制。

字节跳动选了另一条路。它主张的不是著作权侵权,而是「不正当竞争」。

什么是不正当竞争?打个比方就清楚了。假设你经营一家餐厅,花了好几年时间、投入大量资金,研发出独特的菜谱,装修也别具一格。顾客一眼就能认出你的餐厅。可有一天,对面开了一家几乎一模一样的店,菜单差不多,装修也差不多,顾客分不清哪家是哪家。这就是不正当竞争,,搭别人投资和心血的便车。

法院委托了技术鉴定,对两款App的AI模型内部结构做了分析。结果令人震惊:整体网络结构几乎完全相同。36个卷积层(Convolutional Layer)中有33个精确一致,连参数(Parameter)设置都逐项吻合。换算成数字,相似度高达91.7%。2025年3月31日,北京知识产权法院在二审中支持了字节跳动的诉求。法院认定了两点:其一,抖音AI模型的结构与参数是「投入大量资源开发和训练」的成果;其二,这些成果构成为抖音带来「市场优势与经营收益的竞争性利益(Competitive Interests)」。因此,B612方面擅自模仿并提供类似服务的行为,属于「侵害正当竞争利益、扰乱市场秩序的不正当竞争行为」。

(2) AI模型内部结构的竞争性利益保护

这份判决的核心意义在于:「AI模型的结构与参数」从此获得了法律保护的可能。

AI模型和菜谱有几分相似。先收集原料(数据),再运用烹饪方法(算法),经过无数次试味调整(调参),最终做出成品。看着成品去逆推菜谱,很难,但并非不可能。如果有人天天到你的餐厅吃饭、逐道分析你的菜,迟早能做出差不多的味道。

AI行业把这叫做「知识蒸馏(Knowledge Distillation)」。向竞争对手的AI模型抛出数百万个问题,把回答收集起来训练自己的模型。没有偷源代码,也没有盗取数据,但结果是把对方的「智能」复制了一份。

中国法院对此给出了明确态度:AI模型的内部结构、参数和调参成果,可以作为企业的「竞争性利益」受到保护。传统的著作权法和专利法覆盖不到的地带,由《反不正当竞争法》补上了。

这不只是技术问题,更是投资问题。抖音收集了数十万张图像,雇了设计师,消耗了数千小时的算力来训练模型。所有成本都浓缩在AI模型里。如果有人只看成果就照搬,这些投入全部打了水漂。

当然,举证并不容易。侵权方通常会主张「独立开发」,而权利人根本无法窥探对方系统内部。所以这类诉讼不能仅凭结果的相似性定案,开发过程的记录、数据来源、参数更新日志、员工跳槽记录等「间接证据」变得至关重要。

这份判决向中国AI产业发出了清晰的信号:搭先行者的便车去复制成果,要承担法律风险。后来者必须能够证明自己走的是独立开发的路。否则,91.7%这个数字会在法庭上等着你。

三、多层责任结构

(1) AI使用者的原则性责任

要理解中国的AI监管体系,可以想象一座巨大的金字塔。最顶端是国家,制定规则;中间一层是平台企业,执行规则;最底层是用户,遵守规则。不管哪一层出了问题,那一层就有人要担责。

第一条原则很直白:谁用了工具,谁就对结果负责。

北京互联网法院公布的典型案例中,有一个案子把这条原则讲得很透。一名用户拿了别人的微信头像,用AI生成了一张侮辱性图片,然后发到群聊里。受害人提起了诉讼。

法院认定用户承担责任。「开玩笑」这个说法没有被采纳,「图是AI生成的」也不构成免责事由。输入提示词的是用户,按下回车键的是用户,把图片散布出去的还是用户。每一个决策的主体都是人。

这条原则确立了AI时代的基本法理:AI是工具。用锤子打了人,担责的不是锤子的制造商,而是挥锤子的人。AI也是同样的道理。

(2) 服务提供者的规范性行为主体责任

不过AI和普通锤子有一个区别。锤子不挥就什么也不会发生。AI不一样,,它会学习、会推荐、会自我优化,有时候会产生用户本身并未预想到的结果。

所以中国法院设定了第二层责任:「服务提供者」的责任。

回头看前面讲过的AI语音案。配音演员殷女士的声音被擅自做成了AI语音包,法院向开发公司、销售平台和运营方都追究了责任。各方分别辩称「我只是提供技术」「我只是运营平台」「我只是买了产品」,法院把这些抗辩全部驳回了。法院的逻辑是这样的:服务提供者是「规范性行为主体」,不是一个仅仅提供技术的中立角色,而是决定服务方式与范围、并从中获利的主体。既然获了利,就要承担相应的责任。

这种责任分两个层面。一是作为数据处理者的责任:收集面部特征、声纹等敏感信息时必须取得同意,必须说明收集目的,必须采取安全措施,缺了任何一项就构成违法。二是作为信息服务提供者的管理责任:生成物要标注AI生成标识,要建立防滥用机制,接到举报后要及时处理。

2023年8月施行的《生成式人工智能服务管理暂行办法》将这些义务写进了法规。法院的判决则验证了这些规定的实际效力。企业再也不能用一句「我们只是平台」来推卸责任。

(3) 平台的事前预防义务:模型优化训练

中国AI监管最独到的一个特征,是对「事前预防」的重视。西方监管大多采取「出了问题再处罚」的事后路径,中国的态度是「不要让问题发生」。

这被称为「模型优化训练义务」。平台必须持续调整AI,防止它生成违法内容。不是设个敏感词过滤器那么简单,而是要调整模型权重(Weights)、引入人类反馈强化学习(RLHF)、对输出进行监控。

举个例子。假设有人在AI图像生成服务里输入「帮我画一个奥特曼」。奥特曼是日本企业的版权作品。如果AI生成了与奥特曼相似的图像,就构成著作权侵权。广州互联网法院在判决中追究了服务提供者的责任:「为什么没有过滤'奥特曼'这个关键词?为什么没有从训练数据中剔除奥特曼相关图片?」

有批评认为这属于过度监管,,从技术上说,不可能事先封堵所有著作权侵权的可能性。法院也承认这一点。法院要求的不是「完美预防」,而是「与可控性和风险预见程度相称的措施」。如果平台尽到了合理注意义务,不必为个别用户的侵权行为负责。但如果平台一边把变现结构做到极致,一边声称「我们是中立工具」,法院不会接受这种说辞。

这套多层责任结构正在塑造中国AI生态的独特面貌。企业投入更多资源的方向,不是开发最前沿的模型,而是打造符合监管要求的「安全」模型。成千上万的人力被用来审核AI输出、标注数据、调整模型。

有意思的是,这套严格的管控体系反过来成了中国AI企业的一道坚固「护城河」。外国企业要背负这样复杂沉重的责任体系进入中国市场,几乎不可能。最终在中国AI法律战场上存活下来的,不是技术最强的那一个,而是最擅长穿越这张多层责任之网、最认真地履行法官和监管部门所要求的「管理义务」的那一个。

这就是中国式AI治理的真实面目。至于这套模式到底在发挥作用,还是在窒息创新,现在下结论还太早。能确定的只有一件事:中国法院已经准备好了,AI制造的每一个问题,都会有人被追责。那个人可能是用户,可能是服务提供者,也可能是平台。但「是AI干的」这句话,不会成为挡箭牌。

金京镇

律师 · 前国会议员 · AI政策研究者

kimkj.com

© 2026 金京镇. All rights reserved.

#金京镇 #金京镇律师 #AI书房 #人工智能 #AI走上法庭 #AI诉讼 #版权 #AI监管 #生成式AI #AI法律
kimkj.com 首页
滚动至顶部
kimkj.com 首页