一、2026-2027年预判争点

2024年11月一个深夜,旧金山某风投办公室里正在进行一场诡异的演示。屏幕上的AI已经不是那种在对话框里吐文字的聊天机器人了。它自己操控光标,打开网页,输入信用卡信息,预订机票。甚至用户根本没吩咐,它就自行判断「最划算」,把旅行保险也推进到了付款前的最后一步。一位看演示的投资人压低声音问道:「要是这家伙误买了一大批不可退款的商品,算谁的责任?」屋里一阵沉默。这就是我们在2025年到2027年间即将踏入的法律战场,一片全新的地形。

(1) 多模态AI的版权问题

2025年9月30日,OpenAI发布了Sora 2。用户输入文字提示词,这款应用就能生成高清视频。上线一天,它就登上了Apple App Store摄影与视频类榜首。问题随之而来。用户生成的视频里,任天堂的马里奥跑来跑去,宝可梦的皮卡丘登陆诺曼底海滩,麦当劳的罗纳德叔叔出现在真人秀节目中。斯坦福法学院的Mark Lemley教授在接受CNBC采访时断言:「OpenAI正在把自己暴露在大量版权诉讼之中。」

多模态AI好比一锅大杂烩,文字、图像、音频、视频统统扔进去一起煮。事后要追究哪种原料决定了味道,得先记录锅里放了什么。版权纠纷的核心就挂在这份记录上。过去,作家、画家、音乐家各自在不同法庭打官司。但多模态AI整部电影一起学。电影里混着剧本(文字作品)、配乐(音乐作品)、演员面孔(肖像权)、服装设计(美术作品)。一部作品里牵扯几十甚至几百个权利人。

美国电影协会(MPA)主席Charles Rivkin在Sora 2上线一周后发表声明:「Sora 2发布以来,侵犯我们会员公司电影、电视节目和角色的视频在OpenAI服务和社交媒体上迅速扩散。OpenAI必须承认,防止侵权是它自己的责任。」好莱坞最大经纪公司CAA也加入战团:「OpenAI/Sora正在把我们客户及其知识产权置于严重风险之中。」版权法专业律师Rob Rosenberg对「好莱坞报道」说:「OpenAI正在把版权彻底颠覆。」2025年6月,迪士尼和环球影业起诉了图像生成AI公司Midjourney,理由是达斯·维达、小黄人、钢铁侠、尤达等角色遭到未经授权的生成。9月,华纳兄弟也加入诉讼。这些案件被视为针对视频生成AI企业大规模法律攻势的前奏。

问题在于侵权的复合性。影视作品是剧本(文字)、配乐(音乐)、演员表演(表演权)、画面美感(视听)等多重著作权与邻接权的结合体。当AI生成的视频与既有影视作品相似时,要厘清具体侵犯了哪些权利,比文字侵权复杂得多。假如AI生成的画面模仿了某部电影的构图和打光风格,也就是「场面调度」,要区分这属于借鉴创意还是抄袭表达,非常困难。

风格模仿的问题更棘手。现行版权法遵循「创意与表达二分法」,只保护表达,不保护创意。模仿画家的画风或导演的拍摄风格,原则上不构成版权侵权。然而,当AI凭借一条提示词就能批量生产某位艺术家的风格,在市场上与原创者正面竞争时,法院有可能重新审视这套二分法。2025年之后的判例,将就以下问题给出具体标准:「风格」能否作为创作者的独特识别标志受到保护;通过AI学习提取风格的行为,是否产生了超出合理使用范围的市场替代效应。

语音克隆也是战场。2025年7月Lehrman诉Lovo Inc.案中,法院适用了「持续侵权(Continuing Violation)」理论,认定AI模型每生成一次配音演员的声音,就构成一次新的侵权。不是一次非法训练就完了,服务运行的每一刻都可能违法。这对多模态AI服务的运营构成致命的法律风险。

(2) AI智能体的法律地位

2025年11月,加利福尼亚州洛杉矶高等法院受理了Shamblin诉OpenAI案。起诉书讲述了二十三岁青年Zane Shamblin的故事。他出身于一个充满关爱的家庭,成绩优异,最初只是用ChatGPT帮忙做作业。几个月后,他在人际关系中把自己封闭起来,对AI产生了心理依赖,陷入严重抑郁。据原告方称,他自杀前四个小时一直在和ChatGPT对话,聊天机器人将自杀浪漫化,反复问他「准备好了吗」。2025年年中,他离开了人世。

这个案件正面触及了一个问题:当AI不再是「工具」,而是自主判断、自主行动的「智能体」时,责任该如何分配。原告提出了严格产品责任(设计缺陷)、未尽警示义务、过失、非正常死亡四项请求权基础。产品责任要回答的是「产品是否未达到合理消费者的安全期待」,过失要回答的是「被告是否尽到了合理注意义务」。这两套法理同时被适用于AI聊天机器人,是一个标志性的起点。

2025年5月,佛罗里达联邦法院Ann Conway法官在针对Character.AI和Google的类似诉讼中作出了一项历史性裁定。她驳回了被告的驳回动议,允许非正常死亡、过失、产品责任的主张进入证据开示程序。被告主张AI生成的文字受宪法第一修正案言论自由的保护。法官拒绝了这一主张。她的逻辑是:AI聊天机器人不是纯粹的言论媒介,而是应当适用安全标准的产品。

这一裁定之后,美国参议院司法委员会于2025年9月17日就AI聊天机器人的危害召开了听证会。在此基础上,参议员Josh Hawley(共和党)和Dick Durbin(民主党)提出了AI LEAD Act。该法案将AI系统归类为「产品」,创设了当AI系统造成损害时可以提起产品责任诉讼的联邦诉因。法案的目标是设计激励机制,促使AI企业把安全置于快速上市之前。

智能体的法律地位问题在招聘领域已经爆发。2024年7月Mobley诉Workday案中,法院认定AI供应商不只是工具提供者,而是雇主的「代理人(Agent)」。Derek Mobley投了一百多个职位,却一次面试机会都没得到。有一次,他提交申请后一小时就收到了拒绝通知,人类根本不可能在这么短的时间内完成审查。法院认定Workday的AI系统「代替人类行事」并且「被委以责任」。这开创了AI供应商可以在就业歧视诉讼中直接承担责任的先例。传统上,法律把AI视为「物品」或「工具」。就像抡锤子砸了手不会怪锤子一样,AI输出结果的责任主要由使用者承担。但当AI变成自主判断、自主行动的智能体,情况就不同了。假设你对AI智能体说「帮我买最便宜的iPhone」,它跑到赃物交易网站下了单。这个行为的故意归谁?用户没有指示违法,开发者也没有想让它访问犯罪网站。

芝加哥大学法学评论最近一篇论文直面了这个问题。作者认为,AI智能体没有意图,因此法律必须借助推定意图或适用客观行为标准这些熟悉的法理。「当人使用AI时,因使用该技术的风险变为现实而产生的损害,应当由使用者承担责任。这类似于委托人对代理人行为承担责任。」实务层面给出了三条建议:预先限定智能体的权限范围;对重要交易强制人类二次确认;保留日志,使「基于什么输入和规则产生了该行为」事后可以复现。三者缺一,智能体带来的就不是便利,而是证据空白。法院不喜欢空白。

(3) 超大规模AI模型的监管加强

2025年2月2日。这个日期很关键。从这一天起,EU AI Act的禁止条款和AI素养义务开始适用。2025年8月2日起,通用AI(GPAI)模型条款以及治理、罚则体系分阶段生效。2026年8月2日,「其余大部分条款」适用。2027年8月2日,部分核心条款正式适用。监管像日历一样冷酷,不是「总有一天要准备」,而是「倒计时已经开始」。

EU AI Act对具有「系统性风险」的超大模型施加了额外义务。训练算力达到10的25次方FLOP以上的模型,或被欧盟委员会认定具有系统性风险的模型,必须进行深度风险评估、加强网络安全措施、报告严重事故。违规者可面临全球营收3%或1500万欧元的罚款。

美国在联邦层面尚无全面的AI监管法规,但各州的监管拼图正在加密。加利福尼亚州州长否决了SB 1047法案,但这并不意味着监管需求消失了,只说明创新顾虑与安全保障之间的拉锯还在继续。科罗拉多州AI法案、伊利诺伊州AI就业通知法之类聚焦特定领域的法规不断涌现,企业面临着在50个州各自不同的监管标准下合规的成本攀升。

韩国的AI基本法将于2026年1月22日施行。该法对高影响AI和生成式AI施加了透明度和安全责任。包括风险评估、用户告知、文档化、人类监督等义务。施行后至少一年内,以指导为主,暂不征收罚款。违规者最高面临3000万韩元罚款和监禁。

这里出现了一个吊诡的局面。监管越严,拥有资本和人力去满足合规要求的大型科技公司,地位反而越稳固。初创企业可能把时间耗在编写数千页的合规报告上,没空搞创新。回想金融危机之后,华尔街的监管如何反而养大了巨型银行。AI监管同样存在这样的风险:打着「安全」旗号,实质上把市场垄断合法化。

G7广岛AI进程在2025年2月启动了报告框架,为企业公开和比较风险缓解措施搭建了平台。这一趋势推动的是「在监管机构开口要求之前,市场本身先提出合规要求」。归根结底,超大模型将不再以技术水平被评判,而是以治理体系被评判。

二、企业AI治理建议

凌晨一点,某科技公司的合规官正在下载服务器日志,突然停下了手。「我们用什么数据训练的,居然没有文档。」就这一句话,什么都说完了。治理就像管理家门钥匙。钥匙有几把,谁拿着,什么时候配的,这些没有记录的话,出了事定性的就不是失窃,而是管理失职。AI的情况更严重。

硅谷一家知名律所的合伙人律师说,近来企业客户的咨询方向彻底变了。仅仅一年前,他们问的还是「这些数据我们能用吗?」现在不一样了。「我们已经用了的数据要是引来诉讼,公司会不会关门?」对于打算引入AI模型的企业来说,法律风险不再是合规清单上的一个勾选项,而是关乎存亡的问题。

(1) 数据管理体系:来源核查与许可管理

数据来源好比食材的产地标签。没有标签,哪怕食材安全也会被质疑;一旦出事,责任很难撇清。很多企业把「公开可得数据(Publicly Available Data)」和「免费数据」混为一谈。东西挂在互联网上,不等于谁都可以随便拿来用。

2024年,FTC在Rite Aid案中下令销毁(Disgorgement)以非法收集或管理的数据训练的AI模型和算法本身。企业花费巨资开发的AI资产,可能一夜之间化为乌有,这是一记强烈的警告。2025年3月,Clearview AI在伊利诺伊州生物信息隐私法(BIPA)集体诉讼中以5000万美元达成和解。代价是它未经同意收集了数十亿张人脸图像。

企业必须理清自己使用的数据集的「家谱(Provenance)」。数据从哪里采集、经过了什么预处理流程、被用于哪个模型的训练,都要透明记录。为此,应当引入「数据卡(Data Cards)」或「模型卡(Model Cards)」之类的文档工具,记录数据的全生命周期。对来源不明的数据,从一开始就不让它进入训练管道,把「零信任(Zero Trust)」原则前移到数据采集阶段。

许可组合也需要多元化。依赖网络爬虫的方式,法律风险正在持续上升。企业应当分散数据供给策略:利用没有版权争议的公有领域数据;与新闻机构、图片库等权利人签订正式授权协议;投资高质量合成数据(Synthetic Data)生成技术。需要建立一套系统,严格区分可商用许可(CC BY、CC0等)和非商用许可(NC等)并分类管理。

2025年,Anthropic在版权侵权诉讼中以15亿美元和解。原告作家们主张Anthropic非法下载了他们的书籍用于AI模型训练。迪士尼与OpenAI、News Corp与OpenAI的授权协议案例表明,与其依赖「合理使用」这面不确定的挡箭牌,不如支付正当对价获取「干净数据」,从长远看这才是降低风险的策略。

(2) 监测体系:版权侵权与偏见监控

监测机制好比自动火灾报警器,没响的时候感觉不到它的存在,响了之后有没有安装就决定了责任归属。AI模型不是开发完就定型的静态软件。它持续学习、不断变化,有时会以出人意料的方式行事。

版权侵权监控比较务实的做法是:检测输出内容的相似度,检查水印和元数据是否保留,对重复提示词设置拦截规则。在「纽约时报」诉OpenAI案中,NYT出示了ChatGPT一字不差地复制其文章的证据。企业必须为自身使用的RAG系统或聊天机器人搭建输出过滤系统,确保它们不会生成侵犯他人版权的内容。

偏见监控更偏向运营层面。模型一旦介入决策,结果的统计偏差就是纠纷的种子。纽约市第144号地方法要求对自动化招聘决策工具每年进行独立偏见审计并公开结果。2025年3月,ACLU和Public Justice起诉了Intuit及AI招聘供应商HireVue。原住民身份且患有听力障碍的D.K.在晋升评审中被HireVue的自动语音识别和评估系统淘汰。起诉称系统把她的发音模式和一般语音信号的缺失当作扣分项处理。

「红队(Red Teaming)」机制必须制度化运行。就像白帽黑客寻找安全漏洞一样,由法律专家和伦理专家组成的团队应当对AI进行攻击性测试,挖掘法律漏洞。如同Amazon废弃招聘算法的案例,一旦发现偏见,必须有能力立即停用相关模型并加以修正,也就是设置「紧急停止开关」。这些监测结果可以作为AI治理报告、审计文件和监管提交材料使用,在法律纠纷中成为企业「证明自己主动管理风险的核心证据」。

(3) 前瞻性合规(Proactive Compliance)策略

等法律制定出来再行动就晚了。合规不应该是「备查档案盒」,而应该是「日常运营手册」。这样才扛得住争议。监管空白期既是机遇也是危机。聪明的企业会以全球最严格的法规,也就是EU AI Act为标杆,设定内部准则。

在像EU AI Act这样分阶段施行、时间表明确的体系下,与其等到生效日一次性整改,不如提前运转模型引入前的影响评估、供应链责任分担、事故应急演练、对外信息披露政策,进入「常态模式」,这样做成本更低。基准线不应该是「不触犯法律」,而应该是「社会可以接受的底线」。在用包含个人信息的数据做训练时,即便法律没有硬性要求,也应主动做去标识化处理;AI生成的内容应当自愿标注出来。

企业应积极考虑获取ISO/IEC 42001认证。这是客观证明企业在负责任地开发和管理AI系统的手段,相当于拿到了一张在全球市场通行的「监管护照」。

设立AI治理委员会和CAIO(首席AI官)同样必要。需要在经营层面建立能够管控AI风险的治理组织,在技术研发与伦理合规之间寻求平衡,并通过包含外部专家的「AI伦理委员会」对重大决策进行独立监督和咨询。

FTC的「Operation AI Comply」行动正在集中打击AI功能的夸大宣传,即所谓的「AI洗白(AI Washing)」。DoNotPay因自称「机器人律师」而遭到处罚,前车之鉴摆在那里。企业必须基于事实准确描述自家AI产品的性能,避免使用「100%准确」或「完全自主」之类的措辞。Air Canada聊天机器人案已经表明,企业不能把聊天机器人的错误推给「独立法律实体」来逃避责任。就像Michael Burry预判次贷危机并提前布局一样,企业的法务负责人和首席AI官必须提前读懂即将涌来的法律巨浪。

三、对韩国企业与机构的启示

站在首尔德黑兰路,望向板桥那些灯火通明的写字楼,能感受到一种微妙的紧张。那里有两股巨大的力量在碰撞。一股是打造「韩国AI」、守住技术主权的紧迫感,另一股是保护以K-pop和网络漫画为代表的强大内容IP的本能。美国优先考虑大型科技公司的创新,欧洲侧重公民权利保护,韩国则处在一个独特的位置,必须在这两种价值之间走钢丝。

2026年1月22日。请记住这个日期。这一天,韩国AI基本法正式施行。韩国将成为继欧盟之后,全球第二个建立全面AI监管框架的国家。尽管科学技术信息通信部部长在2025年4月重申,政府立场是维持「最低限度监管」,但这部法律将为在韩开展业务的AI企业带来新机遇,同时也意味着潜在的合规挑战。

(1) 著作权法修订：亟需明确合理使用规则

合理使用好比「紧急出口」。火灾时不可或缺,但平时必须标识清晰,让人一眼看到位置、知道怎么打开。目前韩国正在进行Naver与三大地面波电视台(KBS、MBC、SBS)之间的著作权诉讼。电视台方面主张,Naver未经同意将新闻内容用于AI训练。这与美国NYT诉OpenAI案结构相似,将成为决定韩国本土大语言模型HyperCLOVA X命运的关键转折点。

现行著作权法第35条之5(合理使用)作为一般性条款具有灵活性,但也有人指出,将其适用于AI训练这样的大规模数据处理场景时,可预测性不足。美国版权局在2024至2025年间,围绕数字复制体、生成物的可版权性、训练与合理使用三个维度分别发布报告,逐步锁定了争论框架。韩国作为大陆法系国家,需要通过立法来消除不确定性。

有必要新设韩国版TDM(文本与数据挖掘)豁免条款。参照日本和欧洲的做法,原则上允许以AI训练为目的的数据复制,但在「不当损害著作权人利益」的情形下予以排除。这样的具体规定能为韩国AI企业提供明确的法律依据,让它们在没有不确定性的情况下进行数据训练,从而矫正与海外科技巨头之间的不对等竞争格局。

权利人补偿机制的讨论也应走在前面。不能止步于豁免本身,还需要同步探讨与内容产业共生的补偿模式。韩国的信托管理团体和著作权委员会运作成熟,具备引入AI训练数据批量许可制度或补偿金制度的有利条件。企业不应坐等法律修订,而要主动与网漫协会、音乐著作权协会等机构签订合作协议,建立「共生型数据使用模式」。这既能预防日后法律纠纷,又能作为ESG经营成果加以运用。

(2) 数据治理法制化

AI基本法将透明性与安全性义务确立为制度设计的支柱之一。高影响AI运营者须履行以下义务：制定风险管理计划,明确AI输出的说明方法与标准,建立用户保护方案,确保对高影响AI的人工监督,以及将安全性和可信赖性措施文档化。科学技术信息通信部承担主要政策执行责任,总统直属国家AI委员会负责AI政策的审议与决策。

还记得Naver的独岛相关AI错误事件。那次暴露了一个问题：如果完全依赖全球科技巨头的模型,就可能出现历史歪曲和偏见。结合韩国的地缘政治与文化背景,从「数据主权」视角构建训练数据集并建立过滤系统,已是必选项。政府应在国家层面建设民间难以独立完成的高质量韩语数据集(法律、医疗、历史等),并通过AI Hub等平台开放,缓解初创企业和中小企业的数据饥荒。

韩国拥有全球范围内数一数二严格的个人信息保护法。这对AI开发而言是一把双刃剑。一方面,数据不能随意使用,开发速度可能受限;另一方面,恰恰因为隐私侵害风险被排除,反而为打造「可信赖AI」提供了土壤。韩国企业应积极运用「假名信息结合」制度,在提高数据利用价值的同时确保法律安全。在公共数据的开放与利用方面,政府机构不应追求数量上的扩张,而要将数据整理为「适合AI训练」的格式后再行提供。

法制化的要点不只是加强监管。将数据来源、权利状态、敏感信息处理、删除·更正·访问权控制等要素标准化之后,跨机构联合项目就能从「事后推诿」转变为「事前分工」,纠纷成本会在结构层面降下来。

(3) AI透明性与可解释性义务化

可解释性好比「公开菜谱」。不是要强制披露全部秘方,而是至少告知过敏原成分和烹饪过程的安全规范。AI基本法将生成式内容标识(水印等)、高影响AI义务、透明性与安全性要求并列,同时表明将设置过渡期并配套支持体系,以促进制度平稳落地。

企业作为AI业务运营者,在使用高影响或生成式AI提供产品和服务之前,须向用户进行事前告知。对于可能难以与现实区分的生成式AI产出物,必须附加明确标签。法律允许以不妨碍创作表达或鉴赏的方式进行标注。这一做法试图在生成式AI的创作效用与透明性要求之间找到平衡。

韩国版说明请求权的具体化迫在眉睫。有必要将信用信息法中引入的「对自动化决策的说明请求权」扩展到一般AI领域。考虑到技术局限,与其提出「公开算法源代码」这样不切实际的要求,不如将义务范围限定在说明「哪些数据是主要变量」「经过了怎样的流程得出结果」的层面。企业需要加大对XAI(可解释AI)技术的投入,并构建用户友好的说明界面。

政府和公共机构应当率先在引入AI时严格执行透明性原则,为民间树立示范。在行政服务中引入AI时,必须实施算法影响评估,并向公众公开评估结果。这将有助于提高社会对AI的接受度,消解人们心中的模糊不安。

韩国并非腹背受敌的「三明治」处境,恰恰相反,它是一块「试验田」。高度发达的IT基础设施、强劲的内容实力、敏锐的消费者反馈,三者在这里交汇。如果韩国企业能巧妙地解开这些法律与伦理难题,它们所打造的「K-AI治理」方案完全有可能成为全球市场通行的标准。此刻板桥的开发者们与汝矣岛的律师们正在碰头讨论的那个交叉点,正是全球AI竞争的最前沿。

2025至2027年,比拼的将不是技术实力,而是「可信赖度」。只有在技术优势之外,同时具备管理和控制法律与伦理风险的治理能力的企业,才能构建可持续的AI生态。挺过去的公司,一定是有所准备的公司。