AI书房
用书来读懂AI
这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。
[AI书房] 第18章 中国的人格权与数据保护
人工智能AI走上法庭
第五部 中国的AI法律纠纷与监管
第18章 中国的人格权与数据保护
金京镇律师
一、声音权与肖像权保护
(1) 2023年北京互联网法院「AI声音」判决:声音权被确认为独立人格权
2023年5月的某一天,住在北京的配音演员殷女士在浏览网页时,手指停住了。她听到了自己的声音,正在朗读一段她从未录过的文字。音色一样,语调一样,连换气的节奏都一样。但她从来没有见过那段文本。
她的声音已经变成了一款名叫「魔小璇」的AI语音产品,在「魔音工坊」应用中出售。32亿次播放。在某人的演示文稿里,在某人的YouTube视频里,在某人的有声书里,那个不属于她、却又是她的声音正在流淌。
殷女士找了律师。
事情在这里变得复杂。殷女士此前与一家传媒公司签约,从事有声书录制工作。合同里有一条:「录音制品的著作权归公司所有。」公司把这批录音文件转给了另一家软件公司,那家公司将殷女士的声音用作AI训练数据。训练出来的成果,又被第三方平台当作商品出售。
被告的逻辑很直接:「我们合法购买了录音文件,拿这些文件做什么是我们的自由。」
但2024年4月23日,北京互联网法院的法官提出了一个完全不同的问题:「录音文件和声音是同一回事吗?」要理解这个问题的分量,需要简单了解一下中国民法典的结构。中国于2021年施行了新民法典,其中单独设置了「人格权编」。人格权,用通俗的话说,就是「让我成为我的那些东西的权利」。我的名字、我的面容、我的名誉,这些和我的财产不同,不能出售,不能转让,不能与我分离。
法院把声音放进了这个范畴。民法典第1023条第2款明确规定:「对自然人声音的保护,参照适用肖像权保护的有关规定。」法官以此为据,将声音确认为独立的人格权。
判决书的关键表述是这样的:「即便是AI生成的声音,只要普通公众听后能够联想到特定个人,就属于该人的声音权范畴。」
法院将此称为「可识别性」(Identifiability)。音色、语调、发音习惯、呼吸节奏,所有这些要素组合在一起,如果能指向特定个人,那就不是单纯的「数据」,而是「人格的一部分」。
这一逻辑的核心含义在于:著作权与人格权的分离。殷女士确实转让了录音文件的著作权,但著作权针对的是「表达物」,人格权针对的是「我本身」。卖掉了我录制的文件,不等于卖掉了我的声音本身。就像出让了我照片的著作权,不等于允许别人随意使用我的面容一样。
法院还更进一步,沿着责任链条逐一追溯。提供录音数据的传媒公司、开发AI声音的软件公司、销售产品的平台、购买并运营产品的企业,法院认定它们承担共同责任。根据各自的角色和获利程度分配责任比例,但没有谁能以「我只是提供了技术」为由脱身。
赔偿金额为25万元人民币(约合4700万韩元)。对大型企业来说,这笔钱或许微不足道。但它背后的意义无法用金钱衡量。中国所有AI企业在训练配音演员的声音之前,现在都必须问自己:「这个人真的同意了吗?录音合同是否涵盖了AI训练?」
这份判决作出的时间,比斯嘉丽·约翰逊对OpenAI「Sky」语音表达愤怒早了两个月。中国法院先行了一步。技术跨越国界飞速前行的同时,法律正以各自的速度追赶。北京的配音演员夺回了自己的声音。而那份判决书,成为AI时代「我」这个存在能被保护到什么程度的一座路标。
(2) 2025年AI虚拟人肖像权判决
2025年9月10日,北京互联网法院发布了8件「AI相关典型案例」。其中第8件格外引人关注,,知名人士何某的名字,在一款手机应用里以「AI伴侣」的形态活了起来。
那是一款记账软件,外观看上去平平无奇。但里面藏着一个特殊功能:用户可以创建自己的「AI伴侣」。可以取名字,设头像,定义关系。男朋友、女朋友、兄弟、母亲,什么都行。
问题出在大量用户把真实存在的何某设定为自己的伴侣。他们上传了何某的照片,输入了何某的名字,再把关系设定为「男朋友」或「哥哥」。应用的算法分析了这些信息,开始向其他用户推荐「何某」这个角色。
何某本人对此毫不知情。他从未同意过。
法院认定这构成人格权侵害。这里出现了一个关键争议点。应用运营方辩称:「我们只是托管了用户上传的内容。」但法院不接受这个说法。应用提供了「关系设定」功能,用算法推荐角色,借此拉动用户活跃度,这不是单纯的托管,而是一种将特定个人的身份变成「商品化替代物」的结构性设计。
这份判决引向一个更大的问题:AI时代的肖像权究竟延伸到哪里?
传统的肖像权适用于照片或影像中拍摄到的面容。但AI技术打破了这个边界。现在可以再现一个人的「感觉」。不需要一张真实照片,就能创造出让人联想到特定个人的虚拟角色。说话方式、表情、手势,都能被转化为数据、被学习。
2025年8月的另一份判决处理了这个问题的另一面。制作虚拟数字人物「A」和「B」的公司起诉了一名离职员工,该员工擅自出售了这些角色的3D模型。法院认定,虚拟数字人物的形象如果具有独创性,可以作为美术作品受到著作权保护。
两种权利在这里交汇:真人的肖像权与虚拟角色的著作权。虚拟人越像真人,两种权利的冲突就越激烈。假设有人以知名艺人为原型制作了一个AI虚拟人,那个虚拟人的外形是制作公司的作品,但如果它让人「联想到」真实存在的人物,就会触发肖像权问题。
中国法院对此给出了「可识别性」标准:普通用户看到虚拟角色后能联想到特定自然人,就落入肖像权保护范围。这不是技术问题,而是认知问题。标准不在代码,而在社会层面的联想。
这些判决传递的信号很清晰。AI技术再怎么进步,如果技术产物侵犯了真人的身份认同,法律就会介入。中国法院没有被技术的精巧所迷惑,而是抛出了最朴素的问题:「看到这个的人,会想起谁?」
(3) 深度伪造「换脸」应用肖像权及个人信息侵权判决
2024年6月20日,北京互联网法院对中国首例「AI换脸」应用侵权案作出判决。原告是两名女性,都是凭借中国风短视频走红的模特。她们身穿传统服饰,梳着古典发型,化着经典妆容站在镜头前。她们的视频播放量达到数百万。
有一天,她们发现了异常。自己的服装、发型、妆容、灯光、镜头角度被原样保留做成了模板,在一款应用中出售。只是脸被抹掉了。用户付费后,可以把自己的脸合成上去。
原告主张了两点:一是肖像权侵权,二是个人信息侵权。
法院的判断很微妙。而恰恰是这种微妙,让这份判决显得格外重要。
关于肖像权,法院认定「不构成侵权」。根据中国民法典,肖像权侵权包括「制作、使用、公开」肖像。关键在于「可识别性」。由于原告的面部已从模板中被移除,最终成品无法「识别」出原告。看到合成了其他人面孔的视频,观众不会想起原告。
但法院没有止步于此。关于个人信息,法院认定「构成侵权」。这才是这份判决的核心。在制作模板的过程中,被告收集并处理了原告的原始视频,视频中包含原告的面部信息。面部信息根据中国《个人信息保护法》(PIPL)属于「敏感个人信息」。
法院的逻辑是这样的:最终成品中看不到原告的面孔,不代表制作过程就合法了。被告未经原告同意收集了面部数据,进行了分析,并据此开发了商业产品。这个过程本身就构成个人信息侵权。
这一拆分逻辑在实务中有很强的冲击力。深度伪造服务提供商常常采取这样的抗辩:「最终成品里没有原告的脸,所以不涉及肖像权。」但按照这份判决,服务提供商无法仅凭成品的外观免责。法院审视的是整个流程:收集、处理、提供。任何环节中个人信息遭到不当处理,责任就会产生。
被告还提出了另一项抗辩:「换脸技术是我们外包给第三方公司的,实际处理是对方做的。」法院同样不予采纳。被告决定了服务的方式和范围,并从中获利,外包不构成免责事由。
赔偿金额为3500元人民币(约合65万韩元)。经济损失2500元,精神损害1000元。金额不大。但主审法官孙明喜在判决后对记者说:「希望这份判决有助于规范新兴技术的应用,促进数字经济健康发展。」
这份判决与中国整个AI监管体系相互呼应。2023年1月施行的《互联网信息服务深度合成管理规定》,要求深度合成服务提供者取得被编辑人的同意,并对生成内容进行标识。法院的民事判决印证了这套监管的实效。技术上做得到,不等于法律上被允许。技术迭代越快,注意义务就越重。
二、AI风格模仿与不正当竞争
(1) TikTok诉B612滤镜案:91.7%相似度
2020年6月,TikTok的中国版应用抖音推出了一款名为「变身漫画特效」的滤镜。它能实时检测用户面部,将其转换为日本动漫风格:屏幕上的人突然拥有了大眼睛和尖下巴,变成了漫画角色。这款滤镜大获成功,数亿用户将自己的脸变成漫画形象拍摄视频。
两个月后,竞争对手B612上线了一个几乎一模一样的功能,取名「少女漫画特效」。效果实质上完全相同。
字节跳动的律师起了疑心:这不是巧合。他们对B612的运营方提起诉讼。但问题来了,,拿什么证明「复制」?
传统的著作权纠纷中,通常比对源代码,看A的代码和B的代码重合程度。但AI滤镜不一样。两家公司可能使用了相同的公开训练数据,可能采用了相同的神经网络架构。结果相似,未必就是复制。
字节跳动选了另一条路。它主张的不是著作权侵权,而是「不正当竞争」。
什么是不正当竞争?打个比方就清楚了。假设你经营一家餐厅,花了好几年时间、投入大量资金,研发出独特的菜谱,装修也别具一格。顾客一眼就能认出你的餐厅。可有一天,对面开了一家几乎一模一样的店,菜单差不多,装修也差不多,顾客分不清哪家是哪家。这就是不正当竞争,,搭别人投资和心血的便车。
法院委托了技术鉴定,对两款App的AI模型内部结构做了分析。结果令人震惊:整体网络结构几乎完全相同。36个卷积层(Convolutional Layer)中有33个精确一致,连参数(Parameter)设置都逐项吻合。换算成数字,相似度高达91.7%。2025年3月31日,北京知识产权法院在二审中支持了字节跳动的诉求。法院认定了两点:其一,抖音AI模型的结构与参数是「投入大量资源开发和训练」的成果;其二,这些成果构成为抖音带来「市场优势与经营收益的竞争性利益(Competitive Interests)」。因此,B612方面擅自模仿并提供类似服务的行为,属于「侵害正当竞争利益、扰乱市场秩序的不正当竞争行为」。
(2) AI模型内部结构的竞争性利益保护
这份判决的核心意义在于:「AI模型的结构与参数」从此获得了法律保护的可能。
AI模型和菜谱有几分相似。先收集原料(数据),再运用烹饪方法(算法),经过无数次试味调整(调参),最终做出成品。看着成品去逆推菜谱,很难,但并非不可能。如果有人天天到你的餐厅吃饭、逐道分析你的菜,迟早能做出差不多的味道。
AI行业把这叫做「知识蒸馏(Knowledge Distillation)」。向竞争对手的AI模型抛出数百万个问题,把回答收集起来训练自己的模型。没有偷源代码,也没有盗取数据,但结果是把对方的「智能」复制了一份。
中国法院对此给出了明确态度:AI模型的内部结构、参数和调参成果,可以作为企业的「竞争性利益」受到保护。传统的著作权法和专利法覆盖不到的地带,由《反不正当竞争法》补上了。
这不只是技术问题,更是投资问题。抖音收集了数十万张图像,雇了设计师,消耗了数千小时的算力来训练模型。所有成本都浓缩在AI模型里。如果有人只看成果就照搬,这些投入全部打了水漂。
当然,举证并不容易。侵权方通常会主张「独立开发」,而权利人根本无法窥探对方系统内部。所以这类诉讼不能仅凭结果的相似性定案,开发过程的记录、数据来源、参数更新日志、员工跳槽记录等「间接证据」变得至关重要。
这份判决向中国AI产业发出了清晰的信号:搭先行者的便车去复制成果,要承担法律风险。后来者必须能够证明自己走的是独立开发的路。否则,91.7%这个数字会在法庭上等着你。
三、多层责任结构
(1) AI使用者的原则性责任
要理解中国的AI监管体系,可以想象一座巨大的金字塔。最顶端是国家,制定规则;中间一层是平台企业,执行规则;最底层是用户,遵守规则。不管哪一层出了问题,那一层就有人要担责。
第一条原则很直白:谁用了工具,谁就对结果负责。
北京互联网法院公布的典型案例中,有一个案子把这条原则讲得很透。一名用户拿了别人的微信头像,用AI生成了一张侮辱性图片,然后发到群聊里。受害人提起了诉讼。
法院认定用户承担责任。「开玩笑」这个说法没有被采纳,「图是AI生成的」也不构成免责事由。输入提示词的是用户,按下回车键的是用户,把图片散布出去的还是用户。每一个决策的主体都是人。
这条原则确立了AI时代的基本法理:AI是工具。用锤子打了人,担责的不是锤子的制造商,而是挥锤子的人。AI也是同样的道理。
(2) 服务提供者的规范性行为主体责任
不过AI和普通锤子有一个区别。锤子不挥就什么也不会发生。AI不一样,,它会学习、会推荐、会自我优化,有时候会产生用户本身并未预想到的结果。
所以中国法院设定了第二层责任:「服务提供者」的责任。
回头看前面讲过的AI语音案。配音演员殷女士的声音被擅自做成了AI语音包,法院向开发公司、销售平台和运营方都追究了责任。各方分别辩称「我只是提供技术」「我只是运营平台」「我只是买了产品」,法院把这些抗辩全部驳回了。法院的逻辑是这样的:服务提供者是「规范性行为主体」,不是一个仅仅提供技术的中立角色,而是决定服务方式与范围、并从中获利的主体。既然获了利,就要承担相应的责任。
这种责任分两个层面。一是作为数据处理者的责任:收集面部特征、声纹等敏感信息时必须取得同意,必须说明收集目的,必须采取安全措施,缺了任何一项就构成违法。二是作为信息服务提供者的管理责任:生成物要标注AI生成标识,要建立防滥用机制,接到举报后要及时处理。
2023年8月施行的《生成式人工智能服务管理暂行办法》将这些义务写进了法规。法院的判决则验证了这些规定的实际效力。企业再也不能用一句「我们只是平台」来推卸责任。
(3) 平台的事前预防义务:模型优化训练
中国AI监管最独到的一个特征,是对「事前预防」的重视。西方监管大多采取「出了问题再处罚」的事后路径,中国的态度是「不要让问题发生」。
这被称为「模型优化训练义务」。平台必须持续调整AI,防止它生成违法内容。不是设个敏感词过滤器那么简单,而是要调整模型权重(Weights)、引入人类反馈强化学习(RLHF)、对输出进行监控。
举个例子。假设有人在AI图像生成服务里输入「帮我画一个奥特曼」。奥特曼是日本企业的版权作品。如果AI生成了与奥特曼相似的图像,就构成著作权侵权。广州互联网法院在判决中追究了服务提供者的责任:「为什么没有过滤'奥特曼'这个关键词?为什么没有从训练数据中剔除奥特曼相关图片?」
有批评认为这属于过度监管,,从技术上说,不可能事先封堵所有著作权侵权的可能性。法院也承认这一点。法院要求的不是「完美预防」,而是「与可控性和风险预见程度相称的措施」。如果平台尽到了合理注意义务,不必为个别用户的侵权行为负责。但如果平台一边把变现结构做到极致,一边声称「我们是中立工具」,法院不会接受这种说辞。
这套多层责任结构正在塑造中国AI生态的独特面貌。企业投入更多资源的方向,不是开发最前沿的模型,而是打造符合监管要求的「安全」模型。成千上万的人力被用来审核AI输出、标注数据、调整模型。
有意思的是,这套严格的管控体系反过来成了中国AI企业的一道坚固「护城河」。外国企业要背负这样复杂沉重的责任体系进入中国市场,几乎不可能。最终在中国AI法律战场上存活下来的,不是技术最强的那一个,而是最擅长穿越这张多层责任之网、最认真地履行法官和监管部门所要求的「管理义务」的那一个。
这就是中国式AI治理的真实面目。至于这套模式到底在发挥作用,还是在窒息创新,现在下结论还太早。能确定的只有一件事:中国法院已经准备好了,AI制造的每一个问题,都会有人被追责。那个人可能是用户,可能是服务提供者,也可能是平台。但「是AI干的」这句话,不会成为挡箭牌。
