[AI书房] 第10章 生物识别数据与人脸识别监控
人工智能AI走上法庭
第三部 数字世界里被盗走的脸与声音
第10章 生物识别数据与人脸识别监控
金京镇律师
一、未经授权采集人脸识别数据
2020年1月的一个早晨,《纽约时报》记者Kashmir Hill发现了一款奇怪的应用程序。
这款应用由澳大利亚开发者Hoan Ton-That打造,只要拍下某人的照片并上传,一秒之内就能告诉你这个人是谁、在哪里工作、在网上做过什么。这款应用叫Clearview AI。
当Kashmir Hill弄清楚这款应用的运作方式后,她决定写一篇报道。
脸和密码不一样。密码泄露了可以改。信用卡丢了可以补办。但脸没法换。脸是我们一辈子都要随身携带的、无法更改的身份证。一旦有人把这张身份证复制进数据库,我们就变成了被永久贴上条形码、随时可以被追踪的商品。这就是生物信息与其他个人信息存在根本差异的原因。
(1) Clearview AI美国BIPA集体诉讼和解案
Hoan Ton-That从Facebook、Instagram、LinkedIn、Venmo上大量抓取照片。
这种技术叫「爬虫抓取」(scraping),就是用程序自动采集网页上的信息。打个比方,不是去图书馆借书,而是把图书馆里所有的书塞进复印机,全部复印一遍。
他用这种方式收集了超过300亿张人脸图像。然后从这些图像中提取面部几何结构,比如眼睛、鼻子、嘴巴之间的距离,下颌线的角度,生成一种叫「面部模板」的数字指纹。
这个数据库被卖给了警方。警察上传嫌疑人照片后,Clearview AI就能从互联网上找出所有与此人匹配的照片和链接。工具确实好用。但有一个问题:这些照片的主人,没有任何一个人同意自己的脸被这样使用。
伊利诺伊州在这里登场了。美国中西部的这个州,2008年制定了一部独特的法律。
《生物信息隐私法》(BIPA)。这部法律规定,企业在采集或存储个人生物信息时,必须取得书面同意。其中有一条让企业胆寒的条款:受害者可以直接提起诉讼。大多数隐私法律是由政府来处罚企业的。但BIPA允许每一个普通公民把企业送上法庭。
诉讼的闸门打开了。
截至2021年1月,来自伊利诺伊、加利福尼亚、纽约、弗吉尼亚四个州的11起集体诉讼被合并到伊利诺伊北区联邦法院。原告们的主张很直接:Clearview AI未经我们同意采集了我们的脸。根据BIPA,每次违规至少赔偿1,000到5,000美元。伊利诺伊州有1,200万人口,掏出计算器按一按,就是一个天文数字。
问题在于Clearview AI是一家初创公司。企业估值再高也没有现金。它根本付不起数十亿美元的赔偿金。于是2024年6月,一项史无前例的和解方案诞生了:不给现金,给股权。
2025年3月20日,联邦法官Sharon Johnson Coleman最终批准了这项和解。Clearview AI向原告提供公司23%的股权,折算金额约5,175万美元。法官认为这项和解「与类似的BIPA和解案相比,是公正、合理且适当的」。和解还附带了其他条件。
Clearview AI被永久禁止向美国国内的私营企业和个人出售数据库访问权限。在伊利诺伊州,包括警察在内的所有机构,五年内禁止使用其服务。这家公司曾梦想成为「能搜索所有人脸的Google」,至少在美国民用市场上,这个梦被判定为违法了。
关于这项服务在欧盟引发的争议,以及它与特朗普政府的政商纠葛,以及它如何沦为破坏美国宪法令状原则的急先锋,下面继续展开。
2025年夏天,总部位于纽约的这家小型初创公司在Inc. 5000榜单上排名第710位。这是美国增长最快的企业排行榜。一年前它还排在第1,820位。一口气跃升了1,100个名次。这就是Clearview AI。
同一时期,这家公司在欧洲已经累计被处以超过1亿欧元(约合人民币10.5亿元)的罚款。荷兰3,050万欧元。法国2,520万欧元。意大利2,000万欧元。希腊2,000万欧元。英国750万英镑。理由都一样:你们偷了人们的脸。
Clearview AI一分钱都没有付。
用脸「磨」出来的公司。Hoan Ton-That是澳大利亚出身的开发者。2017年在曼哈顿,他产生了一个朴素的想法:互联网上有数十亿张公开照片,如果把这些照片里的脸提取出来,分析每张脸的几何特征,生成数字指纹,会怎样?只需要一个人的一张照片,就能找到这个人在网上留下的所有痕迹。
他使用了爬虫抓取技术,从Facebook、Instagram、LinkedIn、Venmo上大量收集照片。不是去图书馆借书,而是把图书馆里的书全部塞进复印机。截至2025年,他的数据库里存储了超过300亿张人脸图像。这个数字足以把地球上每个人的脸收录七遍以上。
他把这个数据库卖给了警方。警察上传嫌疑人照片,一秒之内,此人的身份和在线活动记录就显示在屏幕上。工具确实好用。
但有一个问题。300亿张照片的主人,没有任何一个人同意自己的脸被这样使用。
欧洲的愤怒。从2022年起,欧洲各国数据保护机构陆续启动了对Clearview AI的调查。结论在每个国家都一样:违法。
法国国家信息自由委员会(CNIL)于2022年10月开出了2,000万欧元的罚单。Clearview AI拒不执行数据删除令后,2023年5月又追加了520万欧元罚款。意大利和希腊也各自处以2,000万欧元罚款。
2024年9月,荷兰数据保护局发出了最强硬的信号。在3,050万欧元罚款之外,局长Aleid Wolfsen发表了一份罕见的声明。
「我们正在调查能否对这家公司的高管个人提起诉讼。如果管理层明知违反GDPR,有权制止却未制止,那么他们将承担个人责任。」
Wolfsen局长实际上是对Clearview AI的管理层下了一道欧洲旅行禁令。
Clearview AI首席法务官Jack Mulcaire如此回应:「Clearview AI在荷兰和欧盟没有任何经营场所。GDPR不适用于我们。」
英国走了另一条路。2022年5月,英国信息专员办公室(ICO)开出了750万英镑的罚单。Clearview AI提起上诉,2023年10月一审法院做出了一个令人意外的判决:ICO没有管辖权。法官的逻辑是这样的,,Clearview AI的客户全部是外国执法机关,外国的国家安全和执法事务不在英国GDPR管辖范围之内,所以Clearview AI也不在管辖范围内。
ICO提起了上诉。2025年6月,上级法院举行了为期三天的听证。人权组织「隐私国际」(Privacy International)作为第三方介入,支持ICO的立场。
2025年10月7日,上级法院推翻了一审判决。争议焦点在于「行为监控」的定义。Clearview AI辩称自己并没有主动监视任何人,只是收集公开照片而已。
法院不接受这一说法。「行为监控包括被动的数据采集、分类和存储。为供第三方进行画像分析而准备数据,这一行为本身就构成监控。」
判决书的最后一句话令人印象深刻:「本案发回一审法院进行实体审理。ICO具有管辖权。」
Clearview AI表示将继续上诉。
美国那场奇特的和解。欧洲的罚款接连落下的同时,美国上演着另一场战争。
伊利诺伊州是2008年唯一制定了《生物信息隐私法》(BIPA)的州。这部法律的独到之处在于,受害者可以直接起诉企业。大多数隐私法律只允许政府处罚企业,而BIPA把诉讼权交到了每一个普通公民手中。
2021年1月,来自伊利诺伊等四个州的11起集体诉讼合并为一案。原告们的诉求很直接:Clearview AI未经我们同意采集了我们的脸。根据BIPA,每次违规可索赔1,000到5,000美元。伊利诺伊州有1,200万人口,随手一算就是数十亿美元。
问题在于Clearview AI没有现金。它是一家初创公司,企业估值再高也拿不出赔偿金。2024年6月,一项史无前例的和解方案被公布:不给现金,给股权。
2025年3月20日,联邦法官Sharon Johnson Coleman最终批准了这项和解。Clearview AI向原告提供公司23%的股权,折算约5,175万美元。这部分股权将在公司上市或被收购时变现。
22个州的检察长联名提交了反对意见书。他们的理由是:这项和解把受害者的赔偿与Clearview AI的未来成败捆绑在了一起。受害者成了侵犯自己隐私的公司的股东。这能算「公正、合理且适当」的和解吗?
法官认为可以。「诉讼费用可能导致公司破产,届时受害者将一无所获。这项和解是现实可行的选择。」
于是出现了一个荒诞的结果:Clearview AI越成功,受害者拿到的赔偿就越多。受害者现在有了盼望Clearview AI成功的理由。
与联邦政府的蜜月期2025年2月,Hoan Ton-That卸任CEO。2024年12月他已被降职,不再担任首席执行官,此次则彻底退出了经营一线。不过他仍留在董事会。
新任联合CEO由Hal Lambert和Richard Schwartz接任。Lambert是早期投资人,曾参与特朗普总统竞选阵营的筹款活动。Schwartz则是联合创始人。新管理层的战略方向很清晰:联邦政府。
2025年9月5日,移民海关执法局(ICE)下属的国土安全调查处与Clearview AI签署了一份价值920万美元的合同。这是Clearview AI历史上金额最大的联邦合同,是2021年那份230万美元合同的四倍。
合同中明确写了两个用途:调查儿童性剥削犯罪,以及调查「对执法人员的袭击」。
第二个用途引发了争议。特朗普政府正在推进大规模驱逐行动,人们担忧人脸识别技术会被用来追查那些抵抗ICE探员的人。
这里有一个讽刺的地方。在伊利诺伊州,Clearview AI被禁止向警方提供服务,这是BIPA诉讼和解条件之一。但这项禁令不适用于联邦机构。ICE探员在伊利诺伊州照样可以使用Clearview AI。地方警察不能碰的技术,联邦探员却能在同一个地方随意使用。
2025年Clearview AI的年度经常性收入为1600万美元。联合CEO Lambert表示明年要翻三倍。公司在私募市场的估值大约在12亿到16亿美元之间。预计2025年第三或第四季度启动IPO。
欧洲各国开出的罚款总额:约1亿欧元。Clearview AI实际缴纳的金额:0欧元。
在美国达成的和解赔偿总额:5175万美元(以股权形式支付)。Clearview AI实际支出的现金:0美元。
联邦政府合同总额:920万美元(仅2025年ICE合同)。预计IPO估值:12亿至16亿美元。荷兰数据保护局局长Wolfsen说得很直白:「其他数据保护机构也已经对Clearview AI处以罚款,但这家公司似乎并没有改变自己的行为。」
问题在于执行。Clearview AI在欧洲没有办公室,没有员工,也没有银行账户。欧洲的数据保护机构能做的只是开罚单,却没有办法把钱收上来。
国际法中不存在跨境执行行政罚款的机制。GDPR虽然被称为「全球首部数据保护法」,但如果一家美国公司决定无视欧洲法规,目前没有任何手段可以强制执行。
英国一位法律顾问这样评价:「上级法院的判决对ICO来说是一场胜利,但可能是一场空洞的胜利。对一家在英国没有任何资产的企业,750万英镑的罚款该怎么执行?」
无证搜查:宪法的盲区围绕Clearview AI最根本的争论,至今没有在法庭上被正面审理过。那就是美国宪法第四修正案所确立的令状原则。
第四修正案的表述很明确:「人民的人身、住宅、文件和财产不受无理搜查和扣押的权利不得侵犯。除非基于合理根据,经宣誓或确认,并具体描述应搜查的地点和应扣押的物品,否则不得签发搜查令。」
用通俗的话说就是:警察要搜你的家,必须先去找法官申请搜查令,说清楚为什么要搜你、要找什么东西。这是美国建国以来宪法一直守护的原则。
Clearview AI绕过了这个原则。警察在街上拍一张照片,上传到Clearview AI,一秒钟之内,这个人的姓名、社交媒体账号、网络活动记录就出现在屏幕上。不需要搜查令,不需要法官批准,甚至这个人都不需要是犯罪嫌疑人。任何人都可以被搜索。
Fordham大学法学院的一篇论文直接探讨了这个问题:「使用Clearview AI来支持搜查令申请的做法,违背了已确立的法律标准。」论文的核心观点有两个。一是最高法院已经承认,在数字时代,宪法保护应当随技术发展而调整。二是Clearview AI的搜索功能展示了数字监控绕过传统隐私保护机制的独有能力。
还有一个更严重的问题:识别错误。
在底特律,一个名叫Robert Williams的男子在家人面前被逮捕,原因是人脸识别系统将他认定为盗窃嫌疑人。他是无辜的。在新泽西,一个名叫Nijeer Parks的男子被关押了十天,同样因为人脸识别出了错。两人都是黑人。
多项研究一致表明,人脸识别技术对有色人种的错误率更高。一次错误匹配就可能让一个无辜的人坐牢。而在整个过程中,搜查令从未出现过。
2021年,民主党和共和党议员联合提出了「第四修正案不可出售法案(Fourth Amendment Is Not For Sale Act)」。法案的核心内容有两条:禁止从Clearview AI这类服务商购买数据;获取位置信息时必须持有搜查令。
ACLU的法律顾问Kate Ruane这样说:「这项法案将阻止政府机构通过购买数据来绕过宪法保护,获取那些没有搜查令就无法取得的信息。」法案没有通过。
Clearview AI呈现的大混乱叙事Clearview AI的故事,折射出技术与法律、隐私与安全、国境与管辖权之间的紧张关系。
一方认为这家公司帮助抓捕罪犯、寻找失踪儿童、解救人口贩卖受害者。公司官网上罗列着一个个成功案例,警方借助它破获了尘封数十年的悬案。
另一方认为这家公司侵犯了全世界人的隐私。在没有任何人同意的情况下采集面部数据建立数据库,让每一个人都可以被追踪。而其中最要害的是,它用技术架空了第四修正案守护了两百多年的令状原则。
Clearview AI在欧洲是违法的,在美国却是增长最快的企业之一。伊利诺伊州的警察不能用,但在同一个伊利诺伊州执法的ICE探员可以用。受害者变成了股东,现在反而要期盼这家公司成功。宪法学者警告这违反了令状原则,但联邦政府花了920万美元买下了它的服务。
300亿张面部图像。1亿欧元的罚款。920万美元的政府合同。16亿美元的企业估值。以及在没有任何一张搜查令的情况下被检索过的数百万张面孔。
有人把这叫做隐私的终结。有人把这叫做公共安全的革命。有人把这叫做宪法的盲区。答案还没有出来。也许永远不会有答案。能确定的只有一件事:你的脸很可能已经在那个数据库里了。而警察搜索你,不需要搜查令。
(2) Rite Aid案:FTC人脸识别使用禁令
如果说Clearview AI打造了监控的工具,那么Rite Aid就是使用这个工具的企业。
这家遍布全美的连锁药房,为了防止盗窃引入了人脸识别技术。逻辑很简单。
把过去偷过东西的人的面部信息录入数据库,当这个人再次走进门店时触发警报。这看起来既能节约成本又能加强安保,是个高效的方案。
但这套系统有一个致命缺陷:它不准。
从2012年到2020年,Rite Aid与两家外部供应商签约,建立了一个「关注人员」数据库。数据库里有过去的盗窃嫌疑人照片、从监控录像截取的低分辨率图像,甚至还有员工用手机随手拍的照片。
Rite Aid没有验证这些图像的质量,也没有测试系统的准确率。外包商的合同里写着一条免责条款:「对结果的准确性或可靠性不作任何保证。」
结果不出所料。系统产生了数以千计的误报。它把在数千英里外登记的盗窃嫌疑人和走进门店的顾客认成同一个人,把同一个人在全美几十家门店反复标记为小偷。据联邦贸易委员会(FTC)调查,这些错误并非随机分布,黑人、亚裔和女性顾客的误识率格外高。无辜的人被当成了小偷。店员冲过来盯梢跟踪,翻查顾客的包,在家人朋友面前公开羞辱他们,有的人甚至被报了警。这不是一般的技术故障,而是自动化的歧视。
2023年12月19日,FTC宣布了一项历史性处罚:禁止Rite Aid在未来五年内使用人脸识别技术。
这是FTC首次因民间企业滥用人脸识别而下达使用禁令。FTC消费者保护局局长Samuel Levine说:「Rite Aid鲁莽地使用面部监控系统,给顾客带来了屈辱和其他伤害。」
禁令还包含了更强硬的条款。
Rite Aid必须删除此前通过该系统采集的所有面部照片和视频,并且必须销毁利用这些数据训练出来的全部AI模型和算法。这被称为「算法追缴(Algorithmic Disgorgement)」。
其背后的原则是:用违法手段收集的数据训练出来的AI模型,连同其产出一并废弃。毒树结出的果子,同样有毒。
Rite Aid案留下了两条教训。一是企业在引入AI工具时如果不验证其准确性和偏见问题,责任由企业自己承担。「是外包商做的,我们不知情」这样的说辞站不住脚。二是监管机构的手段可以超越罚款,直接禁止技术本身的使用。如果你没有能力管好这项技术,那就别用。
二、数据抓取与个人信息
我们总觉得互联网是免费的。谷歌搜索免费,Facebook发帖免费,在Instagram上分享照片也免费。
但华尔街的老手们都知道一条铁律:「如果你没有为产品付费,那你自己就是产品。」
过去二十年,我们把日常生活倾倒在社交媒体上。孩子生日派对的照片、对政治的看法、美食点评、职场里的牢骚。这些都是「公开」数据。我们发布它们,本意是和朋友交流。
但对AI企业来说,这些数据就是加利福尼亚的金矿。OpenAI、Google、Anthropic这样的公司像巨型吸尘器一样把数据吸了进去。他们管这叫「抓取」。
(1) 社交媒体数据用于AI训练的争议
2024年8月,领英悄悄更新了隐私政策。设置菜单里多了一个新选项。
那是一个名为「用于改进生成式AI的数据」的开关按钮。问题在于,这个按钮默认处于「开启」状态。除非用户专门去找到它并手动关闭,否则领英就能自动将帖子和个人资料用于AI训练。
9月,领英再次更新隐私政策,这次明确写入了将用户数据用于生成式AI训练的条款。顺序颠倒了。通常做法是先改政策,再收集数据。但领英先启动了数据收集,事后才修改政策。2025年1月,一起集体诉讼在加利福尼亚北区联邦法院提起。原告是领英高级订阅用户。他的指控令人震惊:领英甚至将私信用于AI训练。起诉书称,领英将高级用户的私人消息提供给第三方来训练AI模型,没有对用户进行适当告知或取得同意。
领英否认了这一指控,声明从未将私信用于AI训练。诉讼在提起9天后被原告撤回。但这起事件引发的争论并未平息。
核心问题是:在平台上发帖,就等于同意AI训练吗?在领英上传简历,是为了让招聘人员看到。给朋友发消息,是为了和那个朋友沟通。这是否意味着AI企业可以拿去打造价值数十亿美元的模型?
这场争论不只是领英一家的问题。
Meta在2024年以「正当利益」为由通知欧洲用户,将把帖子用于AI训练。在欧洲数据保护机构和公民组织noyb的强烈反对下,Meta被迫暂停了计划。
X(原Twitter)推出Grok AI时,默认将用户数据纳入训练范围,招致批评。Reddit与Google签署数据授权协议,开始将用户生成内容出售给AI企业。
2025年10月,领英又一次修改政策,宣布将欧洲、英国、加拿大、香港用户的数据也纳入AI训练。涉及的数据可追溯到2003年。用户若在11月3日前未选择退出,就自动视为同意。欧洲的GDPR正在对以「正当利益」为由的数据收集踩下刹车。
但企业们仍在不断寻找新的途径。这既是平台企业与AI企业之间的战争,也是一场数据真正的主人,,用户,,被边缘化的战争。用户有权拒绝自己的数据被用于AI训练。但要行使这项权利,必须钻进复杂的设置菜单,经过好几个步骤。绝大多数人根本不知道有这个设置存在。
2025年10月发表在加利福尼亚法学期刊上的一篇论文将这一现象称为「大抓取(Great Scrape)」。作者写道:「抓取行为几乎违反了隐私法的所有核心原则,,公平性、个人权利与控制、透明度、同意、目的明确以及数据最小化。」AI时代的隐私法正面临全新的挑战。法律将如何回应?
(2) 被遗忘权与AI模型:已学习个人数据的删除(Unlearning)难题
欧洲GDPR第17条规定了「被遗忘权」。数据主体在个人数据不再必要或撤回同意的情况下,可以要求企业予以删除。
在传统数据库中,这很容易。从Excel表格里删掉一行就行了。从客户管理系统中移除一条记录就完事了。
但AI模型不是Excel表格。
需要理解AI模型「学习」数据意味着什么。AI并不原样储存数据。它读取数千亿条文本,从中提取模式。这些模式被转化为数十亿个参数,即权重数字。这些数字交织成复杂的神经网络,就是AI模型。
打个比方。你向一位厨师订了一个蛋糕。厨师把面粉、糖、鸡蛋、黄油混合在一起,放进烤箱烤好了。蛋糕出炉后,你说:「麻烦把糖从蛋糕里去掉。」这可能做到吗?糖已经和面粉、鸡蛋混合,发生了化学变化。要去掉糖,只能把整个蛋糕扔掉,从头再烤。
AI模型也是一样。如果某个人的数据被用于模型训练,那么这份数据的「影响」已经分散融入了数十亿个参数之中。以现有技术,精确定位并移除特定数据的影响几乎不可能。
试图解决这一问题的技术叫做「机器遗忘(Machine Unlearning)」。类似于从大脑中选择性抹除一个已经记住的电话号码。研究人员正在开发方法,估算特定数据的影响,再沿相反方向调整参数来抵消这种影响。但要保证彻底删除仍然很困难。
2025年5月发表在Tech Policy Press上的一篇论文宣称:「被遗忘权已死。数据在AI中永生。」作者指出,GDPR第17条规定了删除义务,却没有定义在AI语境下「删除」究竟意味着什么。欧洲数据保护委员会(EDPB)认定AI开发者可被视为GDPR框架下的数据控制者,但对于如何在AI系统内部执行删除,尚无明确指南。
OpenAI的GPT-4使用1.8万亿个参数。数据集超过PB级别。这些数据被反复循环使用以学习模式和推理能力。
要确认某个人的数据是否被彻底删除,事实上无法做到。更棘手的是「模型逆向攻击」,,一种从已训练模型中反向提取原始训练数据的技术。即便AI号称已「遗忘」某条数据,若攻击者能将其还原,那「删除」还有意义吗?
法律可以说「删除」。但技术反问:「什么才算删除?」这道鸿沟,是AI时代隐私法面对的最棘手挑战。
FTC提出了一种解决方案:算法追缴。
用非法收集的数据构建的模型,必须将模型本身销毁。在Rite Aid案、Weight Watchers旗下Kurbo应用案中,FTC都适用了这一原则。逻辑是:被污染数据训练出的AI模型如同毒树之果。既然无法单独剔除特定数据,那就把整个模型废弃。
这给AI企业带来了巨大压力。从零重新训练一个GPT-4级别的模型需要数亿美元。如果每收到一次删除请求就要报废一个价值数亿美元的模型,商业模式根本无法成立。
最终的解决之道不在事后补救,而在事前设计。
从一开始就要把删除纳入架构考量。将数据切分成小块进行训练,收到删除请求时只对相关片段重新训练,,SISA(Sharded, Isolated, Sliced, Aggregated)就是这类技术方向。追踪训练数据的来源,记录同意状态,建立能在请求到来时及时响应的数据治理体系,已经不可或缺。被遗忘权是防止AI沦为吞噬一切数据的怪兽的最后一道防线。在技术标准与法律准则的交汇点上,AI伦理的走向将被决定。抓取始于收集问题,而遗忘终于责任问题。企业必须认识到,数据不是「越多越好」,而要把精力押在筛选「安全数据」的净化工序上。用脏水熬的汤,味道再好也卖不出去。


