AI书房
用书来读懂AI
这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。
[AI书房] 第10章 法律制衡与欧洲的反击
PALANTIR:战争、监视与人工智能
第五部 争议与监管:监视国家的阴影
第10章 法律制衡与欧洲的反击
金京镇律师
一、德国联邦宪法法院的违宪判决(2023年2月)
(1)黑森州与汉堡州警方使用Palantir被判违宪
2023年2月16日清晨,位于卡尔斯鲁厄的德国联邦宪法法院大楼里,一份判决书被宣读。审判长施特凡·哈尔巴特用平静而坚定的声音说道:「黑森州公共安全与秩序法第25a条第1款以及汉堡州警察数据处理法第49条第1款违反宪法。」
法庭上的11名申诉人屏住了呼吸。他们在公民权利组织「基本权利协会(GFF)」的帮助下,为这场斗争坚持了六年。起诉对象是美国硅谷数据分析公司Palantir开发的软件。
黑森州警方自2017年起以「hessenDATA」为名运行Palantir的Gotham平台。约2000名警察可以登录这套系统。官方宣称的用途是反恐和打击有组织犯罪。现实却是另一回事。入室盗窃、ATM爆破、交通事故目击者追踪,用途迅速膨胀。黑森州内政部的资料显示,警方每年使用这套软件达数千次。
汉堡当时还没有启用该系统,只是准备好了法律依据,正在筹备引入。宪法法院对这两个州的法律条款都作出了裁决。
判决的核心非常明确。法院认定,自动化数据分析侵犯了基本法第2条第1款和第1条第1款所保障的「信息自决权」。判决书写道:「鉴于授权条款措辞之宽泛,无论在数据层面还是方法层面,干预的依据都远远达不到宪法所要求的可识别危险门槛。」
用通俗的话讲就是:警方要用Palantir软件分析公民数据,就必须存在具体而明确的危险。笼统的犯罪预防理由不够。「反恐」这个抽象目的不能成为侵犯个人隐私的正当依据。
法院命令黑森州在2023年9月30日前修改法律。汉堡的情况不同,因为法律尚未实施,所以立即被宣布无效。
(2)「信息自决权」(Informational Self-Determination)遭到侵犯
德国联邦宪法法院提到的「信息自决权」,在德国宪法史上具有里程碑意义。
1983年,宪法法院作出了人口普查判决(Volkszählungsurteil)。当时联邦政府计划进行一次详尽的人口普查,公民们强烈反对。法院在此案中推导出一项新的基本权利:每个人都有权决定关于自己的信息被谁、以何种目的、以何种方式使用。
这项权利诞生的背景,是德国那段黑暗的历史。纳粹德国的盖世太保收集、分类公民信息,以此搜捕犹太人、同性恋者和政治异见者。战后东德的国家安全部「斯塔西」建立了更精密的监控体系。据估计,东德1600万人口中约有100万人充当斯塔西的非正式线人。邻居监视邻居,家人举报家人。
2023年的判决重新唤起了这段历史记忆。判决书指出,自动化数据分析与传统的数据收集在性质上截然不同,构成了一种新型干预。将分散收集的信息关联起来,就会产生「新知识」。警方记录、通信元数据、社交媒体活动、车辆位置信息一旦结合,个人的行为模式、社会关系网络、移动轨迹都可以被重建。这已经超出了原始数据采集的目的。
法院强调了目的限定原则和比例原则。为特定目的收集的数据只能用于该目的;挪作他用需要另行提供正当理由。公权力的干预必须与所追求的目的相称。不能为了预防轻微犯罪就允许大规模监控。
(3)「一键即可完成画像」的警告
基本权利协会(GFF)律师弗朗齐斯卡·格尔利茨在判决宣布后的新闻发布会上说:「报案人、犯罪受害者、仅仅是在错误时间出现在错误地点的人,都可能成为这款软件的分析对象。」
她的话并非夸张。黑森州警方的内部文件显示,hessenDATA能够整合警方记录系统、刑事侦查数据库、通信元数据和社交媒体信息。2022年12月,黑森州内政部长彼得·博伊特在议会上透露,这款软件曾被用于调查密谋颠覆德国政府的极右地下组织「帝国公民」(Reichsbürger)。
混沌计算机俱乐部(CCC)发言人康斯坦策·库尔茨更为尖锐:「这是Palantir式的无差别搜查。警方正在将不同数据集以偏离原始目的的方式加以组合。自动化的大规模分析不能成为执法的常态。」
问题的关键在于算法的不透明性。Palantir的软件以专有代码编写。外部专家无法审查,连使用机构本身也无法完全理解算法是如何建立关联的。2023年,巴伐利亚州委托弗劳恩霍夫信息安全技术研究所审查源代码。研究所得出结论称未发现「秘密后门」。但这份评估报告以「安全顾虑」和「Palantir商业机密」为由被列为机密。
判决书精准指出了这一点:「仅仅因为无限制的数据分析技术目前尚不可用,并不能解决问题。宪法要求必须基于法律允许的干预范围来设定标准。」技术在进步,更广泛的分析终将成为可能。如果法律设定的许可范围过宽,监控就会扩展到那个边界。
(4)黑森州2023年9月法律修订令与汉堡州法律的废止
审判长哈尔巴特在宣判后向记者强调了一点:「各州有权以合宪的方式制定关于已存储数据进一步处理的法律依据。」
这句话有两面含义。宪法法院并没有禁止Palantir软件本身,而是认定支撑其使用的法律未能满足宪法要求。换言之,只要制定条件更严格的法律,就可以继续使用。
黑森州在期限内完成了法律修订,新法对数据分析的条件作了细化。但批评者认为修订力度不够。基本权利协会已于2025年向黑森州宪法法院提起新的诉讼。
汉堡走了另一条路。法律被废止后,该州没有推动制定新法。汉堡州议会内部对引入Palantir产生了根本性的怀疑。
判决的影响波及全德。巴伐利亚州和北莱茵-威斯特法伦州的警方分别以VeRA和DAR为名使用Palantir软件。基本权利协会和混沌计算机俱乐部也对这两个州提起了宪法诉愿。针对巴伐利亚州的诉讼截至2025年仍在联邦宪法法院审理中。
二、GDPR与数据主权时代
(1)欧洲扩张战略的挫折与调整
2024年2月,亚历克斯·卡普登上了一场企业投资会议的舞台。那是在迈阿密举办的FII Institute活动。他用惯常的快语速向听众喊话。
「我们在欧洲阻止了无数次恐怖袭击。坦白说,如果那些袭击没有被阻止,各位现在看到的西方政治现实会完全不同。这是事实。」他停顿了一下,接着说:「我在欧洲城市里被骂,没关系。尽管骂好了。你我之间没有人迈鹅步行进的唯一原因,就是我们的产品。说声谢谢吧。」
鹅步。这是20世纪德国和意大利法西斯的行军方式。卡普在宣称Palantir拯救欧洲于法西斯复活。
这番话在德国引发了巨大争议,清晰暴露了Palantir欧洲扩张战略面临的壁垒。讽刺的是,Palantir声称自己阻止了那段历史重演,而正是那段历史本身成了抵制Palantir的力量之源。
德国社会对国家监控的不信任根深蒂固。纳粹盖世太保和东德斯塔西的经历至今是集体创伤。基本权利协会的律师们在宪法诉愿中反复援引的,正是这段历史。
欧盟的『通用数据保护条例』(GDPR)正是在这样的历史脉络中诞生的。2018年生效的GDPR被视为全球最严格的个人信息保护法规。它有几条核心原则。数据最小化:只能收集实现目的所需的最少数据。目的限定:不得将数据用于采集目的以外的用途。被遗忘权:个人有权要求删除自己的数据。
Palantir的商业模式与这些原则正面冲突。Palantir软件的本质是整合来自不同来源的数据、建立关联、发现新模式。它不是在缩减数据,而是在扩大数据。它把数据用到了原始采集目的之外的地方。
欧盟法院2020年的Schrems II判决使局面更加复杂。法院认定美国的监控法律,尤其是『外国情报监视法』(FISA)第702条,未能充分保护欧盟公民的个人信息。欧盟-美国「隐私盾」协议因此被废止。向美国公司传输欧盟公民数据这件事本身就成了法律问题。
(2)Polizei 20/20项目与默茨政府的重新推进
Palantir的欧洲战略并非只遭遇了挫折。恰恰相反,将危机转化为机遇的尝试正在进行。
背景是德国警察系统的结构性特点。德国是由16个联邦州组成的联邦制国家,警察隶属于各州政府。联邦层面有联邦刑事调查局(BKA)和联邦警察,但日常治安工作由州警察负责。问题在于各州警方的IT系统各不相同。一个州采集的信息无法与其他州共享。联邦数据库与州数据库之间互不连通。
2019年,联邦政府与各州政府启动了「Polizei 20/20」项目来解决这一问题,预算3亿欧元。目标是整合16个州分散的警察数据库。
保守派政治人物主张在这个项目中引入Palantir软件。基民盟/基社盟(CDU/CSU)的弗里德里希·默茨和亚历山大·多布林特是代表人物。他们强调Palantir的技术已经在世界各国情报机构和军队中经过了验证。
2023年,时任内政部长、社民党人南希·费泽叫停了这项计划,阻止联邦刑事调查局、联邦警察和海关调查局使用Palantir软件。这一决定是在联邦宪法法院判决之后作出的。
然而2025年初大选中基民盟/基社盟获胜,局面随之改变。默茨总理领导的新联合政府上台。内政部长一职由基社盟的多布林特出任,他长期支持引入Palantir。
2025年3月,联邦参议院通过决议,敦促为联邦和各州警察尽快部署统一的「自动化数据分析平台」。决议中没有出现Palantir的名字。但根据巴伐利亚州已与Palantir签订的框架合同,其他州和联邦政府可以不经新的采购程序直接加入。
并非所有州都表示同意。据巴伐利亚广播公司(BR)调查,汉堡和梅克伦堡-前波美拉尼亚州明确要求采用欧洲替代方案,「排除使用市场主导地位的美国供应商Palantir的产品」。不来梅、下萨克森、萨尔兰、石勒苏益格-荷尔斯泰因和图林根州支持这一立场。但该提案未能在联邦参议院获得所需的多数票。
(3) 数字主权的困境
多个州政府反对Palantir的原因之一,是「数字主权」问题。
Palantir联合创始人兼董事会主席Peter Thiel是Donald Trump总统和副总统JD Vance的重要支持者和政治捐助人。据报道,现任Trump政府中至少有10人持有Palantir股票。2025年4月,Palantir与美国移民和海关执法局(ICE)签署了一份3000万美元的合同,内容是开发用于识别非法居留者和追踪自愿离境的操作系统「ImmigrationOS」。
社会民主党议员Johannes Schätzle在接受德国新闻周刊『明镜』采访时说:「Palantir不是一家中立的IT服务提供商。它与美国情报机构有着深层联系,追求明确的地缘政治利益。」
法律层面同样存在问题。2018年颁布的美国《云法案》(CLOUD Act)允许美国当局要求美国企业提交存储在全球任何地方的数据。理论上,即便Palantir软件在德国警方服务器上仅处理德国公民数据,也无法完全排除美国政府要求访问的可能性。
Palantir方面驳斥了这些担忧。欧洲战略高级副总裁Jan Hiesserich在接受德国财经报纸『商报』采访时说:「Palantir带来的是软件,不是数据。哪些数据与调查相关,完全由客户依据相关法规自行决定。」
Palantir在德国与德国电信子公司T-Systems合作。软件在警方自有服务器上运行。官方立场是数据不会传输到美国。
但批评者认为这远远不够。绿党联邦议院议员Konstantin von Notz说:「在美国政府变得越来越不可信赖的当下,全国范围的部署应当被排除在讨论之外。」
新联合政府的联盟协议中有一句耐人寻味的表述:「数字政策就是权力政治。」协议明确提出要降低对外国技术的依赖。但与此同时,政府正在重新推动引入Palantir。一边强调数字主权,一边引进美国企业的监控软件,这是一个矛盾。
三、民主控制的危机
(1) 当未经选举的科技企业掌控国家核心职能
2025年7月底,巴登-符腾堡州议会通过了一项法律,批准使用Palantir Gotham软件。当时执政的是绿党-基民盟联合政府。连环保政党绿党都没有反对。
据报道,巴登-符腾堡州早在2025年3月就已与Palantir签署了一份价值2500万欧元的合同。那时法律依据尚未建立。顺序颠倒了:合同在前,立法在后。技术引进的惯性跑在了民主审议前面。
这正是批评者所担忧的「供应商锁定」(vendor lock-in)现象。一旦Palantir系统深度融入警务工作流程,切换到其他系统就变得越来越困难。专业培训、数据迁移、工作流程重新设计都需要巨额投入。未来转向欧洲替代方案的承诺,在现实中很难兑现。
巴伐利亚州的VeRA系统就是一个例证。2022年巴伐利亚州与Palantir签订的框架合同中包含一项条款:其他联邦州和联邦政府可以无需新的采购程序直接加入。一个州的决定就此成为全国先例。事实上的标准在民选代表充分审议之前就已形成。
还有一个更根本的问题:没有人确切知道Palantir的算法如何运作。源代码属于商业机密。连弗劳恩霍夫研究所的评估结果都被列为机密。当警方接受算法的建议时,无法验证这些建议是基于什么逻辑得出的。
研究者将此称为「自动化偏见」(automation bias)。人类倾向于过度信任计算机系统的输出。当算法将某人标记为「高风险」,调查人员更容易顺从这一判断,而非提出质疑。算法出错时,发现并纠正这些错误极其困难。
(2) 主权与责任:谁来监督算法
Peter Thiel在2009年的一篇文章中写过一句挑衅性的话:「我不再相信自由与民主能够兼容。」
Alex Karp在多次公开场合说过:「我们的产品有时被用来杀人。」Palantir的创始人们从不掩饰自己的价值观。他们声称在捍卫西方民主。但这种「捍卫」的方式和边界由谁来决定?是民主选举产生的政府,还是Palantir? Palantir的治理结构让这个问题更加尖锐。公司采用了差异化投票权结构,三位创始人(Thiel、Karp、Stephen Cohen)通过F类股票行使约80%的表决权。股东的制约、董事会的牵制都十分有限。公司的方向由创始人决定。
这家公司承担着民主国家的核心安全职能。谁是恐怖嫌疑人,谁是监控对象,哪些数据以何种方式关联,都由Palantir的算法作出判断。一家未经选举的科技企业,已经进入了国家主权的核心领域。
德国联邦宪法法院2023年的判决是对这个问题的一个回应,但不是决定性的回应。法院并未禁止使用Palantir,只是要求为其使用建立更严格的法律基础。
基本权利协会和混沌计算机俱乐部仍在抗争。针对巴伐利亚州和北莱茵-威斯特法伦州的宪法诉愿正在进行中。但政治潮流正朝着相反的方向涌动。在Merz政府治下,Palantir的扩展正在加速。
欧盟层面也看不到根本性的解决方案。GDPR确立了强有力的个人数据保护原则,但在国家安全领域的监控技术使用上,给各成员国留下了裁量空间。EU《人工智能法案》(AI Act)对高风险AI系统引入了监管,但在执法领域设置了大量例外。
归根结底,问题不在于技术,而在于选择。在效率与隐私之间,在安全与自由之间,在便利与民主之间,找到怎样的平衡点。这个问题的答案,算法给不了。公民必须自己作出决定。
德国联邦宪法法院唤起的1983年人口普查判决,以及那份判决所回溯的纳粹和斯塔西的历史,是一个警示。技术本身无所谓善恶。但当它成为权力的工具,当它不受约束,当它不透明,技术就可能威胁民主。Palantir这个名字取自Tolkien『指环王』中的「Palantír」,意为「远见之石」。但在Tolkien的故事里,使用Palantír的人大多被那道目光所俘获,走向毁灭。观者成了被观者。工具支配了使用者。
德国和欧洲面对的问题是:谁来控制Palantír? 是我们在使用它,还是它在使用我们?
