AI书房

AI书房

用书来读懂AI

这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。

韓東勳,釜山北區甲選舉前後100日(2026年3月26日-7月3日)的記錄 封面

目錄

韓東勳,釜山北區甲選舉前後100日(2026年3月26日-7月3日)的記錄

金京鎮

目錄與13篇

從2026年3月26日至7月3日,本書追蹤被除名後的春天、釜山北區甲補選、以無黨籍身分當選,以及進入國會後提出的第一項法案。

人工智慧與醫療 封面

目錄

人工智慧與醫療

金炅辰律師

醫療影像、診斷、治療、醫院營運與醫療責任

本書沿著人工智慧進入醫療現場的路徑,說明醫療影像、病理、風險預測、個人化治療、手術、新藥開發、診療紀錄、醫院營運、醫學教育與研究如何改變,同時討論患者安全、隱私、信任與責任。

歐盟人工智慧法解說書 cover

目錄

歐盟人工智慧法解說書

金炅鎭 律師

韓國企業實務應對指南

2026年8月2日起,位於板橋的一家遊戲公司聊天機器人,以及釜山的一款醫療器材判讀軟體,即使在歐洲連一間辦公室都沒有,也開始受到歐盟人工智慧法第50條的規範。本書不以條文摘要,而是從執法機關的視角,解讀域外適用、透明度義務、通用人工智慧模型、高風險系統,以及與韓國人工智慧基本法重疊的雙重管制。這是一本站在實務現場,說明總部設於首爾的企業該準備什麼、何時準備、如何準備的指南。

韩国《人工智能基本法》:经营者实务指南 cover

韩国《人工智能基本法》:经营者实务指南

合规义务、风险管理与商业机会

金京镇律师 · 409页 · 2026

面向经营者的韩国《人工智能基本法》实务指南,整理适用范围、自我诊断、透明性义务、高影响人工智能责任、制裁风险以及公共采购和行业机会。

吴恩达传 cover

目录

吴恩达传

金京镇律师

人工智能教育与大众化的关键人物

本书从伦敦、香港、新加坡、卡内基梅隆、MIT、伯克利、斯坦福,一直写到Google Brain、Coursera、百度、DeepLearning.AI、Landing AI、AI Fund和亚马逊。它从研究、教育、创业和人工智能现实主义这几条线索,整理吴恩达的经历。

AI與教室 cover

目錄

AI與教室

金京鎮

不給標準答案的人工智慧教師

本書從愛沙尼亞 AI Leap、Khanmigo、2 sigma 問題、答案外洩防線,到韓國 AI 數位教科書的分岔,追問 AI 如何保護學生思考,而不是取代學生思考。

蜘蛛網 cover

目錄

蜘蛛網

金京鎮

改變戰爭版圖的烏克蘭無人機革命

以2025年6月1日的蜘蛛網行動為軸,追蹤烏克蘭無人機如何穿透俄羅斯本土縱深,並改寫軍隊、情報與安全秩序。

中國機器人產業2026:量產與實戰的時代 封面

全25篇

中國機器人產業2026:量產與實戰的時代

金京鎮

從人形機器人量產競賽到美中霸權:2026年中國機器人產業的現狀. 目錄、序言、7部23章、結語

在深圳的一座工廠裡,數百台人形機器人重複著同一個動作。本書追蹤宇樹與優必選的量產競賽、Optimus供應鏈、實戰部署現場,以及在美中技術霸權之間韓國所處的位置。

跨越技術的青春期 封面

共 15 篇

跨越技術的青春期

金京鎮 律師

Dario Amodei 與 Anthropic,以及走向可控智能的殊死搏鬥. 目錄, 前言, 序幕, 第12章, 尾聲

一位失去父親的物理系學生,為了製造可控制的人工智能而展開的殊死搏鬥。講述 Dario Amodei 和 Anthropic 與 Pentagon 及白宮碰撞,並以擴展定律與憲法級 AI 震撼時代的故事。

无人机战争

AI书房 · PDF Book

无人机战争

乌克兰正在改写战争的文法

金景珍律师 · 无人机战争:乌克兰正在改写战争的文法(简体中文版)

無人機戰爭

AI書房 · PDF Book

無人機戰爭

烏克蘭正在改寫戰爭的文法

金景珍律師 · 無人機戰爭:烏克蘭正在改寫戰爭的文法(繁體中文版)

老板,现在就给自己配一名 AI 员工

目录、43章、11篇附录、后记

老板,现在就给自己配一名 AI 员工

金京镇 著

小微企业主 AI 自动化系统建设

Codex 37个具体使用案例 cover

书籍式阅读

Codex 37个具体使用案例

金京镇律师

从晨间简报到智能体群:37个真实工作自动化案例

这份指南汇集了37个把Codex和AI智能体接入真实工作的做法,覆盖个人事务、数据处理、营销、销售、文档、开发和浏览器控制。

2026北京:两个巨人的危险之舞 封面

16篇公开

2026北京:两个巨人的危险之舞

金景珍律师

特朗普-习近平峰会,以及其中发生的事. 目录、序言、13章、结语

本书从霍尔木兹、稀土、台湾、波音、大豆、AI芯片这些场景,追踪特朗普的北京之行。

把工作交给AI,然后离开座位 封面

27篇公开

把工作交给AI,然后离开座位

金京镇律师

YOLO模式完全入门. 目录和26章

一本面向初学者的在线书,讲解Claude Code和Codex中的YOLO模式。它说明如何让AI读取文件、编写代码、执行命令,并把回退、Docker沙盒和安全检查放在手边。

《AI向人类提出的10个问题》封面

12篇文章

《AI向人类提出的10个问题》

金京镇

目录、序言、10章

《AI向人类提出的10个问题》是金京镇在AI书房公开的在线书。本书围绕AI责任、全球监视、人工智能武器、深度伪造、工作消失、能源、数据和人类身份,整理人工智能正在逼问人类的十个问题。

《人工智能AI走上法庭》封面

26篇文章

《人工智能AI走上法庭》

金京镇律师

目录、序言、21章、3篇附录

《人工智能AI走上法庭》是金京镇律师在AI书房公开的在线书。本书从生成式AI训练数据、版权、声音克隆、深度伪造、自动驾驶、医疗和金融算法等争议出发,整理人工智能进入法院之后正在形成的法律前线。

《人工智能与社会结构变迁》封面

16篇文章

《人工智能与社会结构变迁》

金京镇

目录、序言、13章、尾声

《人工智能与社会结构变迁》是金京镇在AI书房公开的在线书。本书从劳动、教育、不平等、城市、能源、网络安全、人际关系和民主制度出发,记录AI正在改写社会结构的过程。

《2026年美国伊朗战争与全球能源危机》封面

39篇文章

《2026年美国伊朗战争与全球能源危机》

金京镇

目录、序章、36章、尾声

《2026年美国伊朗战争与全球能源危机》是金京镇在AI书房公开的在线书。本书从霍尔木兹海峡、海上保险、石油价格、液化天然气、粮食、美元秩序和韩国能源安全出发,追踪一场战争如何改变全球能源流动。

《德米斯·哈萨比斯,谷歌人工智能之父》封面

34篇文章

《德米斯·哈萨比斯,谷歌人工智能之父》

金京镇

目录、序言、31章、尾声

《德米斯·哈萨比斯,谷歌人工智能之父》是金京镇在AI书房公开的在线书。本书沿着哈萨比斯从伦敦童年、国际象棋、游戏开发、脑科学、DeepMind、AlphaGo到AlphaFold的道路,记录人工智能如何进入科学发现的核心。

Nano Banana Pro实战提示词手册 cover

24篇文章

Nano Banana Pro实战提示词手册

金京镇

6部、22章、课堂提示词附录

这本在线书围绕Nano Banana Pro的图像生成、编辑、文字渲染、角色一致性、工作场景和变现方法展开,方便课堂和实际工作直接使用。

军事人工智能 cover

共17篇公开

军事人工智能

金京镇、金元泰

目录、序言、14章、尾声

一部系统梳理军事人工智能的长篇著作,涵盖自主武器、无人机、指挥控制、后勤、网络防御,以及美国、中国、以色列、韩国和全球国防AI企业的战略与实践。

《读脑者:Neuralink与人类最后的革命》封面

21篇文章

《读脑者:Neuralink与人类最后的革命》

金京镇

目录、序章、18章、尾声

《读脑者:Neuralink与人类最后的革命》是金京镇在AI书房公开的在线书。本书追踪Neuralink、脑机接口、脑数据、医疗革命、神经权利和人类增强,记录人类大脑开始连接机器之后的法律与文明问题。

《格鲁吉亚历史文化旅行》封面

24篇文章

《格鲁吉亚历史文化旅行》

金京镇

目录、序言、17章、4篇附录、尾声

《格鲁吉亚历史文化旅行》是金京镇在AI书房公开的在线书。本书从第比利斯、卡赫季、卡兹别克、高加索雪山、八千年葡萄酒、东正教、民主化、战争和旅行路线出发,记录格鲁吉亚的历史与现实。

《一千个祈祷,一座山:读懂亚美尼亚》封面

13篇文章

《一千个祈祷,一座山:读懂亚美尼亚》

金京镇

目录、序言、10章、尾声

《一千个祈祷,一座山:读懂亚美尼亚》是金京镇在AI书房公开的在线书。本书从亚美尼亚高原、亚拉腊山、古代王国、世界第一个基督教国家、中世纪修道院、现代悲剧、离散社群和旅行指南出发,阅读亚美尼亚。

从卖茶少年到总理 cover

共13篇公开

从卖茶少年到总理

金京镇

目录、序言、10章、尾声

一部政治传记,追踪纳伦德拉·莫迪从瓦德讷格尔卖茶少年、RSS组织者、古吉拉特邦首席部长到三任印度总理的轨迹,并由此理解现代印度、韩印关系与崛起大国的风险。

《马来西亚:掌控马六甲海峡者掌控世界》封面

23篇文章

《马来西亚:掌控马六甲海峡者掌控世界》

金京镇

目录、序言、20章、尾声

《马来西亚:掌控马六甲海峡者掌控世界》是金京镇在AI书房公开的在线书。本书从马来半岛、马六甲王国、殖民地、联邦君主制、法律制度、城市旅行和产业结构出发,阅读马来西亚的地缘价值。

《韩东勋留给韩国的那些痕迹》封面

13篇文章

《韩东勋留给韩国的那些痕迹》

金京镇

目录、12章

《韩东勋留给韩国的那些痕迹》是金京镇在AI书房公开的在线书。本书围绕韩东勋、韩国政治、法务部、检察改革、政治记录和受害者救济,整理他在韩国社会与国家制度中留下的公共足迹。

《AI霸权战争》封面

8篇文章

《AI霸权战争》

金京镇

目录、7章

金京镇AI书房在线图书,讨论AI超智能、美中技术竞争、欧洲和韩国AI法律以及国际AI治理。

《AI课堂,成绩将会改变》封面

26篇文章

《AI课堂,成绩将会改变》

金京镇

目录、序言、24节

金京镇AI书房在线图书,说明AI如何支持小学、初中、高中学习、教学、评价和教育公平。

《PALANTIR:战争、监视与人工智能》封面

16篇文章

《PALANTIR:战争、监视与人工智能》

金京镇律师

目录、序言、14章

《PALANTIR:战争、监视与人工智能》是金京镇律师在AI书房公开的在线书。本书从PayPal黑帮、9·11之后的情报失败、乌克兰战场、五角大楼改革和预测性治安出发,追踪数据公司如何进入国家安全与企业决策的核心。

法句经423偈封面

28篇文章

法句经423偈

金京镇

目录、编者说明、26品、423偈

金京镇AI书房在线图书。此版本将《法句经》423偈整理为26品,以接近诗集的节奏慢慢阅读。

超越玻璃天花板 cover

共39篇公开

超越玻璃天花板

金京镇

目录、序章、31章、尾声、5篇附录

一部追踪高市早苗从奈良成长、进入政坛、三次挑战自民党总裁并成为日本首位女性首相的政治传记。

《韩东勋的故事》封面

39篇文章

《韩东勋的故事》

金京镇

目录、序章、36章、尾声

《韩东勋的故事》是金京镇在AI书房公开的在线书。本书从戒严之夜、检察官生涯、法务行政、政治选择、民生现场和个人面貌出发,记录韩东勋在韩国公共生活中的轨迹。

人工智能选举 cover

14篇文章

人工智能选举

金京镇

目录、作者序、11章、结语

这本在线书写竞选信息、宣传材料、数字竞选、数据分析、团队运营、虚假信息防御、法律风险和可直接使用的提示词。

《人工智能战斗机,人工智能空军》封面

43篇文章

《人工智能战斗机,人工智能空军》

金京镇

目录、序言、40章、尾声

《人工智能战斗机,人工智能空军》是金京镇在AI书房公开的在线书。本书围绕AI战斗机、无人作战飞机、CCA、MUM-T、第六代战斗机和未来空军,记录人工智能正在怎样改变空战、国防产业和军事伦理。

山姆·奥特曼传:人工智能革命的开拓者 cover

22篇文章

山姆·奥特曼传:人工智能革命的开拓者

金京镇、金京兰

目录、序言、7部、20章

这本在线传记写山姆·奥特曼的成长、创业、Y Combinator、OpenAI、ChatGPT、董事会风波,以及他在人工智能时代承担的责任。

关于北极航道的七个误解封面

10篇文章

关于北极航道的七个误解

金京镇

目录、序言、7章、尾声

金京镇AI书房在线图书,梳理关于北极航道的速度、定期航线、保险、安全规则、全年通航、碳减排和基础设施的七个常见误解。

《世界各国在行政领域引入人工智能的案例》封面

25篇文章

《世界各国在行政领域引入人工智能的案例》

金京镇

目录、23章、尾声

金京镇AI书房在线图书,介绍公共部门AI导入、各国战略、行政服务、治理框架与未来政策课题。

《Claude Cowork与智能体使用手册》封面

11篇文章

《Claude Cowork与智能体使用手册》

金京镇

目录、序言、8章、尾声

《Claude Cowork与智能体使用手册》是金京镇在AI书房公开的在线书。本书整理文件整理、财务数据、营销销售、研究、沟通、人事法务、软件开发和系统联动自动化场景。

《Claude Code完全掌握》封面

41篇文章

《Claude Code完全掌握》

金京镇

目录、40章

《Claude Code完全掌握》是金京镇在AI书房公开的在线书。本书围绕Claude Code、智能体工作流、MCP、技能、部署、GitHub、自动化和商业化,整理把AI从聊天工具变成工作系统的方法。

《黄仁勋的故事》封面

16篇文章

《黄仁勋的故事》

金京镇

目录、序言、13章、尾声

《黄仁勋的故事》是金京镇在AI书房公开的在线书。本书沿着黄仁勋的移民经历、NVIDIA创业、GPU革命、CUDA生态、AI工厂和物理AI,记录一位企业家如何站到人工智能产业的中心。

法律实务与人工智能封面

16篇文章

法律实务与人工智能

金京镇

目录、序言、14部

金京镇AI书房在线图书,从律师实务角度整理法律检索、文书起草、证据分析、合同审查、NotebookLM以及生成式AI工作流程。

您好,我是金京镇封面

10篇文章

您好,我是金京镇

金京镇

目录、序言、推荐语、6章、结语

金京镇AI书房在线图书。内容涵盖成长经历、科技议政活动、议员外交、立法斗争、东大门愿景以及韩国人口断崖的解决方案。

政治与人封面

25篇文章

政治与人

金京镇

目录、序言、22章、后记

金京镇在AI书房公开的在线书,讲述政治如何从读懂人、赢得信任、守住关系和经受危机开始。

[AI书房] 第10章 生物识别数据与人脸识别监控

人工智能AI走上法庭
Author
金京镇律师
Date
2026-05-06 02:35
Views
257

人工智能AI走上法庭

第三部 数字世界里被盗走的脸与声音

第10章 生物识别数据与人脸识别监控

金京镇律师

一、未经授权采集人脸识别数据

2020年1月的一个早晨,《纽约时报》记者Kashmir Hill发现了一款奇怪的应用程序。

这款应用由澳大利亚开发者Hoan Ton-That打造,只要拍下某人的照片并上传,一秒之内就能告诉你这个人是谁、在哪里工作、在网上做过什么。这款应用叫Clearview AI。

当Kashmir Hill弄清楚这款应用的运作方式后,她决定写一篇报道。

脸和密码不一样。密码泄露了可以改。信用卡丢了可以补办。但脸没法换。脸是我们一辈子都要随身携带的、无法更改的身份证。一旦有人把这张身份证复制进数据库,我们就变成了被永久贴上条形码、随时可以被追踪的商品。这就是生物信息与其他个人信息存在根本差异的原因。

(1) Clearview AI美国BIPA集体诉讼和解案

Hoan Ton-That从Facebook、Instagram、LinkedIn、Venmo上大量抓取照片。

这种技术叫「爬虫抓取」(scraping),就是用程序自动采集网页上的信息。打个比方,不是去图书馆借书,而是把图书馆里所有的书塞进复印机,全部复印一遍。

他用这种方式收集了超过300亿张人脸图像。然后从这些图像中提取面部几何结构,比如眼睛、鼻子、嘴巴之间的距离,下颌线的角度,生成一种叫「面部模板」的数字指纹。

这个数据库被卖给了警方。警察上传嫌疑人照片后,Clearview AI就能从互联网上找出所有与此人匹配的照片和链接。工具确实好用。但有一个问题:这些照片的主人,没有任何一个人同意自己的脸被这样使用。

伊利诺伊州在这里登场了。美国中西部的这个州,2008年制定了一部独特的法律。

《生物信息隐私法》(BIPA)。这部法律规定,企业在采集或存储个人生物信息时,必须取得书面同意。其中有一条让企业胆寒的条款:受害者可以直接提起诉讼。大多数隐私法律是由政府来处罚企业的。但BIPA允许每一个普通公民把企业送上法庭。

诉讼的闸门打开了。

截至2021年1月,来自伊利诺伊、加利福尼亚、纽约、弗吉尼亚四个州的11起集体诉讼被合并到伊利诺伊北区联邦法院。原告们的主张很直接:Clearview AI未经我们同意采集了我们的脸。根据BIPA,每次违规至少赔偿1,000到5,000美元。伊利诺伊州有1,200万人口,掏出计算器按一按,就是一个天文数字。

问题在于Clearview AI是一家初创公司。企业估值再高也没有现金。它根本付不起数十亿美元的赔偿金。于是2024年6月,一项史无前例的和解方案诞生了:不给现金,给股权。

2025年3月20日,联邦法官Sharon Johnson Coleman最终批准了这项和解。Clearview AI向原告提供公司23%的股权,折算金额约5,175万美元。法官认为这项和解「与类似的BIPA和解案相比,是公正、合理且适当的」。和解还附带了其他条件。

Clearview AI被永久禁止向美国国内的私营企业和个人出售数据库访问权限。在伊利诺伊州,包括警察在内的所有机构,五年内禁止使用其服务。这家公司曾梦想成为「能搜索所有人脸的Google」,至少在美国民用市场上,这个梦被判定为违法了。

关于这项服务在欧盟引发的争议,以及它与特朗普政府的政商纠葛,以及它如何沦为破坏美国宪法令状原则的急先锋,下面继续展开。

2025年夏天,总部位于纽约的这家小型初创公司在Inc. 5000榜单上排名第710位。这是美国增长最快的企业排行榜。一年前它还排在第1,820位。一口气跃升了1,100个名次。这就是Clearview AI。

同一时期,这家公司在欧洲已经累计被处以超过1亿欧元(约合人民币10.5亿元)的罚款。荷兰3,050万欧元。法国2,520万欧元。意大利2,000万欧元。希腊2,000万欧元。英国750万英镑。理由都一样:你们偷了人们的脸。

Clearview AI一分钱都没有付。

用脸「磨」出来的公司。Hoan Ton-That是澳大利亚出身的开发者。2017年在曼哈顿,他产生了一个朴素的想法:互联网上有数十亿张公开照片,如果把这些照片里的脸提取出来,分析每张脸的几何特征,生成数字指纹,会怎样?只需要一个人的一张照片,就能找到这个人在网上留下的所有痕迹。

他使用了爬虫抓取技术,从Facebook、Instagram、LinkedIn、Venmo上大量收集照片。不是去图书馆借书,而是把图书馆里的书全部塞进复印机。截至2025年,他的数据库里存储了超过300亿张人脸图像。这个数字足以把地球上每个人的脸收录七遍以上。

他把这个数据库卖给了警方。警察上传嫌疑人照片,一秒之内,此人的身份和在线活动记录就显示在屏幕上。工具确实好用。

但有一个问题。300亿张照片的主人,没有任何一个人同意自己的脸被这样使用。

欧洲的愤怒。从2022年起,欧洲各国数据保护机构陆续启动了对Clearview AI的调查。结论在每个国家都一样:违法。

法国国家信息自由委员会(CNIL)于2022年10月开出了2,000万欧元的罚单。Clearview AI拒不执行数据删除令后,2023年5月又追加了520万欧元罚款。意大利和希腊也各自处以2,000万欧元罚款。

2024年9月,荷兰数据保护局发出了最强硬的信号。在3,050万欧元罚款之外,局长Aleid Wolfsen发表了一份罕见的声明。

「我们正在调查能否对这家公司的高管个人提起诉讼。如果管理层明知违反GDPR,有权制止却未制止,那么他们将承担个人责任。」

Wolfsen局长实际上是对Clearview AI的管理层下了一道欧洲旅行禁令。

Clearview AI首席法务官Jack Mulcaire如此回应:「Clearview AI在荷兰和欧盟没有任何经营场所。GDPR不适用于我们。」

英国走了另一条路。2022年5月,英国信息专员办公室(ICO)开出了750万英镑的罚单。Clearview AI提起上诉,2023年10月一审法院做出了一个令人意外的判决:ICO没有管辖权。法官的逻辑是这样的,,Clearview AI的客户全部是外国执法机关,外国的国家安全和执法事务不在英国GDPR管辖范围之内,所以Clearview AI也不在管辖范围内。

ICO提起了上诉。2025年6月,上级法院举行了为期三天的听证。人权组织「隐私国际」(Privacy International)作为第三方介入,支持ICO的立场。

2025年10月7日,上级法院推翻了一审判决。争议焦点在于「行为监控」的定义。Clearview AI辩称自己并没有主动监视任何人,只是收集公开照片而已。

法院不接受这一说法。「行为监控包括被动的数据采集、分类和存储。为供第三方进行画像分析而准备数据,这一行为本身就构成监控。」

判决书的最后一句话令人印象深刻:「本案发回一审法院进行实体审理。ICO具有管辖权。」

Clearview AI表示将继续上诉。

美国那场奇特的和解。欧洲的罚款接连落下的同时,美国上演着另一场战争。

伊利诺伊州是2008年唯一制定了《生物信息隐私法》(BIPA)的州。这部法律的独到之处在于,受害者可以直接起诉企业。大多数隐私法律只允许政府处罚企业,而BIPA把诉讼权交到了每一个普通公民手中。

2021年1月,来自伊利诺伊等四个州的11起集体诉讼合并为一案。原告们的诉求很直接:Clearview AI未经我们同意采集了我们的脸。根据BIPA,每次违规可索赔1,000到5,000美元。伊利诺伊州有1,200万人口,随手一算就是数十亿美元。

问题在于Clearview AI没有现金。它是一家初创公司,企业估值再高也拿不出赔偿金。2024年6月,一项史无前例的和解方案被公布:不给现金,给股权。

2025年3月20日,联邦法官Sharon Johnson Coleman最终批准了这项和解。Clearview AI向原告提供公司23%的股权,折算约5,175万美元。这部分股权将在公司上市或被收购时变现。

22个州的检察长联名提交了反对意见书。他们的理由是:这项和解把受害者的赔偿与Clearview AI的未来成败捆绑在了一起。受害者成了侵犯自己隐私的公司的股东。这能算「公正、合理且适当」的和解吗?

法官认为可以。「诉讼费用可能导致公司破产,届时受害者将一无所获。这项和解是现实可行的选择。」

于是出现了一个荒诞的结果:Clearview AI越成功,受害者拿到的赔偿就越多。受害者现在有了盼望Clearview AI成功的理由。

与联邦政府的蜜月期2025年2月,Hoan Ton-That卸任CEO。2024年12月他已被降职,不再担任首席执行官,此次则彻底退出了经营一线。不过他仍留在董事会。

新任联合CEO由Hal Lambert和Richard Schwartz接任。Lambert是早期投资人,曾参与特朗普总统竞选阵营的筹款活动。Schwartz则是联合创始人。新管理层的战略方向很清晰:联邦政府。

2025年9月5日,移民海关执法局(ICE)下属的国土安全调查处与Clearview AI签署了一份价值920万美元的合同。这是Clearview AI历史上金额最大的联邦合同,是2021年那份230万美元合同的四倍。

合同中明确写了两个用途:调查儿童性剥削犯罪,以及调查「对执法人员的袭击」。

第二个用途引发了争议。特朗普政府正在推进大规模驱逐行动,人们担忧人脸识别技术会被用来追查那些抵抗ICE探员的人。

这里有一个讽刺的地方。在伊利诺伊州,Clearview AI被禁止向警方提供服务,这是BIPA诉讼和解条件之一。但这项禁令不适用于联邦机构。ICE探员在伊利诺伊州照样可以使用Clearview AI。地方警察不能碰的技术,联邦探员却能在同一个地方随意使用。

2025年Clearview AI的年度经常性收入为1600万美元。联合CEO Lambert表示明年要翻三倍。公司在私募市场的估值大约在12亿到16亿美元之间。预计2025年第三或第四季度启动IPO。

欧洲各国开出的罚款总额:约1亿欧元。Clearview AI实际缴纳的金额:0欧元。

在美国达成的和解赔偿总额:5175万美元(以股权形式支付)。Clearview AI实际支出的现金:0美元。

联邦政府合同总额:920万美元(仅2025年ICE合同)。预计IPO估值:12亿至16亿美元。荷兰数据保护局局长Wolfsen说得很直白:「其他数据保护机构也已经对Clearview AI处以罚款,但这家公司似乎并没有改变自己的行为。」

问题在于执行。Clearview AI在欧洲没有办公室,没有员工,也没有银行账户。欧洲的数据保护机构能做的只是开罚单,却没有办法把钱收上来。

国际法中不存在跨境执行行政罚款的机制。GDPR虽然被称为「全球首部数据保护法」,但如果一家美国公司决定无视欧洲法规,目前没有任何手段可以强制执行。

英国一位法律顾问这样评价:「上级法院的判决对ICO来说是一场胜利,但可能是一场空洞的胜利。对一家在英国没有任何资产的企业,750万英镑的罚款该怎么执行?」

无证搜查:宪法的盲区围绕Clearview AI最根本的争论,至今没有在法庭上被正面审理过。那就是美国宪法第四修正案所确立的令状原则。

第四修正案的表述很明确:「人民的人身、住宅、文件和财产不受无理搜查和扣押的权利不得侵犯。除非基于合理根据,经宣誓或确认,并具体描述应搜查的地点和应扣押的物品,否则不得签发搜查令。」

用通俗的话说就是:警察要搜你的家,必须先去找法官申请搜查令,说清楚为什么要搜你、要找什么东西。这是美国建国以来宪法一直守护的原则。

Clearview AI绕过了这个原则。警察在街上拍一张照片,上传到Clearview AI,一秒钟之内,这个人的姓名、社交媒体账号、网络活动记录就出现在屏幕上。不需要搜查令,不需要法官批准,甚至这个人都不需要是犯罪嫌疑人。任何人都可以被搜索。

Fordham大学法学院的一篇论文直接探讨了这个问题:「使用Clearview AI来支持搜查令申请的做法,违背了已确立的法律标准。」论文的核心观点有两个。一是最高法院已经承认,在数字时代,宪法保护应当随技术发展而调整。二是Clearview AI的搜索功能展示了数字监控绕过传统隐私保护机制的独有能力。

还有一个更严重的问题:识别错误。

在底特律,一个名叫Robert Williams的男子在家人面前被逮捕,原因是人脸识别系统将他认定为盗窃嫌疑人。他是无辜的。在新泽西,一个名叫Nijeer Parks的男子被关押了十天,同样因为人脸识别出了错。两人都是黑人。

多项研究一致表明,人脸识别技术对有色人种的错误率更高。一次错误匹配就可能让一个无辜的人坐牢。而在整个过程中,搜查令从未出现过。

2021年,民主党和共和党议员联合提出了「第四修正案不可出售法案(Fourth Amendment Is Not For Sale Act)」。法案的核心内容有两条:禁止从Clearview AI这类服务商购买数据;获取位置信息时必须持有搜查令。

ACLU的法律顾问Kate Ruane这样说:「这项法案将阻止政府机构通过购买数据来绕过宪法保护,获取那些没有搜查令就无法取得的信息。」法案没有通过。

Clearview AI呈现的大混乱叙事Clearview AI的故事,折射出技术与法律、隐私与安全、国境与管辖权之间的紧张关系。

一方认为这家公司帮助抓捕罪犯、寻找失踪儿童、解救人口贩卖受害者。公司官网上罗列着一个个成功案例,警方借助它破获了尘封数十年的悬案。

另一方认为这家公司侵犯了全世界人的隐私。在没有任何人同意的情况下采集面部数据建立数据库,让每一个人都可以被追踪。而其中最要害的是,它用技术架空了第四修正案守护了两百多年的令状原则。

Clearview AI在欧洲是违法的,在美国却是增长最快的企业之一。伊利诺伊州的警察不能用,但在同一个伊利诺伊州执法的ICE探员可以用。受害者变成了股东,现在反而要期盼这家公司成功。宪法学者警告这违反了令状原则,但联邦政府花了920万美元买下了它的服务。

300亿张面部图像。1亿欧元的罚款。920万美元的政府合同。16亿美元的企业估值。以及在没有任何一张搜查令的情况下被检索过的数百万张面孔。

有人把这叫做隐私的终结。有人把这叫做公共安全的革命。有人把这叫做宪法的盲区。答案还没有出来。也许永远不会有答案。能确定的只有一件事:你的脸很可能已经在那个数据库里了。而警察搜索你,不需要搜查令。

(2) Rite Aid案:FTC人脸识别使用禁令

如果说Clearview AI打造了监控的工具,那么Rite Aid就是使用这个工具的企业。

这家遍布全美的连锁药房,为了防止盗窃引入了人脸识别技术。逻辑很简单。

把过去偷过东西的人的面部信息录入数据库,当这个人再次走进门店时触发警报。这看起来既能节约成本又能加强安保,是个高效的方案。

但这套系统有一个致命缺陷:它不准。

从2012年到2020年,Rite Aid与两家外部供应商签约,建立了一个「关注人员」数据库。数据库里有过去的盗窃嫌疑人照片、从监控录像截取的低分辨率图像,甚至还有员工用手机随手拍的照片。

Rite Aid没有验证这些图像的质量,也没有测试系统的准确率。外包商的合同里写着一条免责条款:「对结果的准确性或可靠性不作任何保证。」

结果不出所料。系统产生了数以千计的误报。它把在数千英里外登记的盗窃嫌疑人和走进门店的顾客认成同一个人,把同一个人在全美几十家门店反复标记为小偷。据联邦贸易委员会(FTC)调查,这些错误并非随机分布,黑人、亚裔和女性顾客的误识率格外高。无辜的人被当成了小偷。店员冲过来盯梢跟踪,翻查顾客的包,在家人朋友面前公开羞辱他们,有的人甚至被报了警。这不是一般的技术故障,而是自动化的歧视。

2023年12月19日,FTC宣布了一项历史性处罚:禁止Rite Aid在未来五年内使用人脸识别技术。

这是FTC首次因民间企业滥用人脸识别而下达使用禁令。FTC消费者保护局局长Samuel Levine说:「Rite Aid鲁莽地使用面部监控系统,给顾客带来了屈辱和其他伤害。」

禁令还包含了更强硬的条款。

Rite Aid必须删除此前通过该系统采集的所有面部照片和视频,并且必须销毁利用这些数据训练出来的全部AI模型和算法。这被称为「算法追缴(Algorithmic Disgorgement)」。

其背后的原则是:用违法手段收集的数据训练出来的AI模型,连同其产出一并废弃。毒树结出的果子,同样有毒。

Rite Aid案留下了两条教训。一是企业在引入AI工具时如果不验证其准确性和偏见问题,责任由企业自己承担。「是外包商做的,我们不知情」这样的说辞站不住脚。二是监管机构的手段可以超越罚款,直接禁止技术本身的使用。如果你没有能力管好这项技术,那就别用。

二、数据抓取与个人信息

我们总觉得互联网是免费的。谷歌搜索免费,Facebook发帖免费,在Instagram上分享照片也免费。

但华尔街的老手们都知道一条铁律:「如果你没有为产品付费,那你自己就是产品。」

过去二十年,我们把日常生活倾倒在社交媒体上。孩子生日派对的照片、对政治的看法、美食点评、职场里的牢骚。这些都是「公开」数据。我们发布它们,本意是和朋友交流。

但对AI企业来说,这些数据就是加利福尼亚的金矿。OpenAI、Google、Anthropic这样的公司像巨型吸尘器一样把数据吸了进去。他们管这叫「抓取」。

(1) 社交媒体数据用于AI训练的争议

2024年8月,领英悄悄更新了隐私政策。设置菜单里多了一个新选项。

那是一个名为「用于改进生成式AI的数据」的开关按钮。问题在于,这个按钮默认处于「开启」状态。除非用户专门去找到它并手动关闭,否则领英就能自动将帖子和个人资料用于AI训练。

9月,领英再次更新隐私政策,这次明确写入了将用户数据用于生成式AI训练的条款。顺序颠倒了。通常做法是先改政策,再收集数据。但领英先启动了数据收集,事后才修改政策。2025年1月,一起集体诉讼在加利福尼亚北区联邦法院提起。原告是领英高级订阅用户。他的指控令人震惊:领英甚至将私信用于AI训练。起诉书称,领英将高级用户的私人消息提供给第三方来训练AI模型,没有对用户进行适当告知或取得同意。

领英否认了这一指控,声明从未将私信用于AI训练。诉讼在提起9天后被原告撤回。但这起事件引发的争论并未平息。

核心问题是:在平台上发帖,就等于同意AI训练吗?在领英上传简历,是为了让招聘人员看到。给朋友发消息,是为了和那个朋友沟通。这是否意味着AI企业可以拿去打造价值数十亿美元的模型?

这场争论不只是领英一家的问题。

Meta在2024年以「正当利益」为由通知欧洲用户,将把帖子用于AI训练。在欧洲数据保护机构和公民组织noyb的强烈反对下,Meta被迫暂停了计划。

X(原Twitter)推出Grok AI时,默认将用户数据纳入训练范围,招致批评。Reddit与Google签署数据授权协议,开始将用户生成内容出售给AI企业。

2025年10月,领英又一次修改政策,宣布将欧洲、英国、加拿大、香港用户的数据也纳入AI训练。涉及的数据可追溯到2003年。用户若在11月3日前未选择退出,就自动视为同意。欧洲的GDPR正在对以「正当利益」为由的数据收集踩下刹车。

但企业们仍在不断寻找新的途径。这既是平台企业与AI企业之间的战争,也是一场数据真正的主人,,用户,,被边缘化的战争。用户有权拒绝自己的数据被用于AI训练。但要行使这项权利,必须钻进复杂的设置菜单,经过好几个步骤。绝大多数人根本不知道有这个设置存在。

2025年10月发表在加利福尼亚法学期刊上的一篇论文将这一现象称为「大抓取(Great Scrape)」。作者写道:「抓取行为几乎违反了隐私法的所有核心原则,,公平性、个人权利与控制、透明度、同意、目的明确以及数据最小化。」AI时代的隐私法正面临全新的挑战。法律将如何回应?

(2) 被遗忘权与AI模型:已学习个人数据的删除(Unlearning)难题

欧洲GDPR第17条规定了「被遗忘权」。数据主体在个人数据不再必要或撤回同意的情况下,可以要求企业予以删除。

在传统数据库中,这很容易。从Excel表格里删掉一行就行了。从客户管理系统中移除一条记录就完事了。

但AI模型不是Excel表格。

需要理解AI模型「学习」数据意味着什么。AI并不原样储存数据。它读取数千亿条文本,从中提取模式。这些模式被转化为数十亿个参数,即权重数字。这些数字交织成复杂的神经网络,就是AI模型。

打个比方。你向一位厨师订了一个蛋糕。厨师把面粉、糖、鸡蛋、黄油混合在一起,放进烤箱烤好了。蛋糕出炉后,你说:「麻烦把糖从蛋糕里去掉。」这可能做到吗?糖已经和面粉、鸡蛋混合,发生了化学变化。要去掉糖,只能把整个蛋糕扔掉,从头再烤。

AI模型也是一样。如果某个人的数据被用于模型训练,那么这份数据的「影响」已经分散融入了数十亿个参数之中。以现有技术,精确定位并移除特定数据的影响几乎不可能。

试图解决这一问题的技术叫做「机器遗忘(Machine Unlearning)」。类似于从大脑中选择性抹除一个已经记住的电话号码。研究人员正在开发方法,估算特定数据的影响,再沿相反方向调整参数来抵消这种影响。但要保证彻底删除仍然很困难。

2025年5月发表在Tech Policy Press上的一篇论文宣称:「被遗忘权已死。数据在AI中永生。」作者指出,GDPR第17条规定了删除义务,却没有定义在AI语境下「删除」究竟意味着什么。欧洲数据保护委员会(EDPB)认定AI开发者可被视为GDPR框架下的数据控制者,但对于如何在AI系统内部执行删除,尚无明确指南。

OpenAI的GPT-4使用1.8万亿个参数。数据集超过PB级别。这些数据被反复循环使用以学习模式和推理能力。

要确认某个人的数据是否被彻底删除,事实上无法做到。更棘手的是「模型逆向攻击」,,一种从已训练模型中反向提取原始训练数据的技术。即便AI号称已「遗忘」某条数据,若攻击者能将其还原,那「删除」还有意义吗?

法律可以说「删除」。但技术反问:「什么才算删除?」这道鸿沟,是AI时代隐私法面对的最棘手挑战。

FTC提出了一种解决方案:算法追缴。

用非法收集的数据构建的模型,必须将模型本身销毁。在Rite Aid案、Weight Watchers旗下Kurbo应用案中,FTC都适用了这一原则。逻辑是:被污染数据训练出的AI模型如同毒树之果。既然无法单独剔除特定数据,那就把整个模型废弃。

这给AI企业带来了巨大压力。从零重新训练一个GPT-4级别的模型需要数亿美元。如果每收到一次删除请求就要报废一个价值数亿美元的模型,商业模式根本无法成立。

最终的解决之道不在事后补救,而在事前设计。

从一开始就要把删除纳入架构考量。将数据切分成小块进行训练,收到删除请求时只对相关片段重新训练,,SISA(Sharded, Isolated, Sliced, Aggregated)就是这类技术方向。追踪训练数据的来源,记录同意状态,建立能在请求到来时及时响应的数据治理体系,已经不可或缺。被遗忘权是防止AI沦为吞噬一切数据的怪兽的最后一道防线。在技术标准与法律准则的交汇点上,AI伦理的走向将被决定。抓取始于收集问题,而遗忘终于责任问题。企业必须认识到,数据不是「越多越好」,而要把精力押在筛选「安全数据」的净化工序上。用脏水熬的汤,味道再好也卖不出去。

金京镇

律师 · 前国会议员 · AI政策研究者

kimkj.com

© 2026 金京镇. All rights reserved.

#金京镇 #金京镇律师 #AI书房 #人工智能 #AI走上法庭 #AI诉讼 #版权 #AI监管 #生成式AI #AI法律
kimkj.com 首页
滚动至顶部
kimkj.com 首页