[AI书房] 第14章 站在岔路口的未来
PALANTIR:战争、监视与人工智能
第六部 未来与启示:技术治下的和平
第14章 站在岔路口的未来
金京镇律师
一、救世主还是统治者
2020年3月的一个凌晨,伦敦东部纽汉综合医院急诊室里,一位医生拿起了手机。屏幕上显示着医院总部发来的短信:「今日分配氧气呼吸机:0台。无追加到货计划。」她环顾走廊,三十二名患者躺在那里,其中十一人没有呼吸机撑不过第二天早晨。同一时刻,英国各地都在上演相同的场景。有人在呼吸机堆满仓库的大门前喝着咖啡,有人空着双手握住患者的手。问题不在于呼吸机不够,而在于没有人知道什么东西在哪里。
这就是Palantir进入英国国民健康服务体系(NHS)的背景。英国政府在数据混乱中挣扎。各家医院用各自的系统管理库存,那些系统之间互不通信。哪家医院有几张空床、哪个地区还剩多少疫苗、哪些医护人员因感染新冠正在隔离,没有任何一个地方能一目了然。Palantir的工程师在短短几天内打通了全国的数据库。通过他们搭建的系统,英国政府第一次实时看到了全国医疗资源的全貌。呼吸机从富余的地方调往短缺的地方,疫苗分配的优先级依据数据做出决策。到2024年,这份合同的价值达到3.3亿英镑。Palantir确实救了人命。
(1)AI与数据整合带来的效率与安全红利
「效率」这个词听上去冰冷。但对急诊走廊上濒死的人来说,效率是生命的另一个名字。数据整合带来的第一重好处很直白:把散落的拼图碎片聚到一处,让人看到全貌。英国的案例已经表明,信息明明就在那里却到不了需要它的地方,由此酿成的悲剧不是技术无能,而是系统性失败。Palantir的软件充当了弥合这种失败的黏合剂。
在战场上,这种效果更为剧烈。我们前面已经看过乌克兰发生的事。俄罗斯坦克成百上千地涌来,乌克兰军队之所以能顶住,不是因为弹药充裕,而是因为有一套系统能实时计算:敌人在哪里、己方炮兵在哪里、什么时刻用哪种武器打击最有效。Palantir的软件把卫星照片、无人机画面、前线侦察兵的报告、截获的通信内容编织在一起,呈现在指挥官的屏幕上。过去需要数小时的目标识别和打击审批流程,被压缩到几分钟。军事术语把这叫做「杀伤链加速」。冷酷地说,谁先开火谁就赢。Palantir让乌克兰能更快开火。
2025年7月31日,美国陆军与Palantir签下了有史以来最大规模的合同。这份为期十年、最高达100亿美元的合同,把此前分散的75份独立软件合同合并为一份。陆军首席信息官Leo Garciga在声明中说:「这份企业协议代表了陆军的承诺,,在推进能力现代化的同时保持财政上的审慎。通过精简采购流程、争取企业级折扣,我们在提升作战效能的同时最大化了购买力。」这里值得留意的是:陆军买的不是一件新武器,而是把75个互不兼容的系统捆成一体的「整合」。这种整合,才是Palantir真正售卖的商品。
企业世界里,同样的逻辑在运转。空客从全球采购零件来造飞机,一架飞机包含的零件以百万计。这些零件的库存分布在哪里、各有多少、哪家供应商何时发货、哪条生产线面临停摆风险,,要实时掌握这些,人脑做不到。空客搭建的Skywise系统将所有信息整合后呈现给管理者。新冠疫情导致全球供应链崩溃时,拥有这套系统的企业与没有的企业,恢复速度有明显差距。
BP的情况类似。能源企业运营着炼油厂、输油管道、储油罐和加油站网络。每个设施产生的数据量巨大:压力表读数、温度传感器记录、卡车行驶路线、燃油保质期限。这些数据如果不整合,管理层几乎是盲人。哪座炼油厂的哪台设备即将故障、哪个地区的燃油需求正在激增,都无从预判。Palantir的Foundry平台把所有这些数据汇聚到一块屏幕上。不是等问题出了再收拾,而是在问题发生之前就预测到。这就是数据整合带来的第二重好处。
Alex Karp反复说:西方社会面对的问题太复杂了,光靠人类的认知能力解决不了。他的话有道理。气候变化、大流行病、供应链崩溃、恐怖主义、网络攻击,,这些威胁庞大而复杂,且彼此勾连。指望一个天才考虑所有变量、做出最优决策,不现实。但机器不同。机器能同时处理数百万个数据点,发现人类看不见的模式,计算出最佳方案。人只需做最后的拍板。
2025年5月,美国国防部将与Palantir签署的Maven Smart System合同增资7.95亿美元。Maven是一套用AI分析战场视频与图像的系统。过去,分析员要用肉眼逐帧审看成千上万小时的无人机视频。现在AI代劳了。机器不会疲倦、不会走神、不会遗漏模式。分析员只需审核AI筛出的关键画面。这就是「人机共生」的真实样貌,,机器不是取代人,而是放大人的能力。
数据整合的第三重好处是透明度。这听上去像个悖论:一家被批评为监控工具的公司,凭什么谈透明度?但Palantir的系统内置了「审计追踪」功能。谁在什么时间访问了哪些数据、如何使用了那些数据,全部留有记录。官僚体系中常见的「推卸责任」变得困难,因为决策所依据的数据全在那里。当然,这种透明度也是一把双刃剑,我们马上就会看到。
英国的疫情应对、乌克兰的战争执行、美国陆军的采购革新、跨国企业的供应链管理,,所有这些案例指向同一个结论:在复杂的世界里,整合和分析信息的能力就是力量。Palantir把这种力量做成了商品。他们的技术救了人命、帮助赢得战争、提高了企业效率,这些是无法否认的事实。但所有力量都一样,使用者的意图不同,结果也截然不同。现在,该翻到硬币的另一面了。
(2)隐私消亡与控制型社会的反乌托邦
2025年3月,有报道称美国国务院启动了一个名为「Catch and Revoke」的项目。这个项目的目的是用AI分析持学生签证者的社交媒体,搜寻「同情恐怖主义」的言论。数以万计的留学生在毫不知情的情况下,他们的推文、Instagram帖子、Facebook评论成了算法的扫描对象。假设某位学生发了一条批评加沙局势的帖子,这条帖子有可能被归类为「同情恐怖主义」吗?如果被归类了,是谁做的决定?算法?还是人?
Palantir就在这里登场。据『华盛顿邮报』和『纽约时报』报道,特朗普政府正在联邦政府各部门扩大使用Palantir的技术。国土安全部、卫生与公众服务部、社会保障署、国税局,,至少四个联邦机构已经引入或正在讨论引入Palantir的Foundry平台。这些平台一旦打通,会发生什么?一个人的纳税记录、社保信息、医疗报销明细、移民档案、银行账户信息,都可以整合成一份档案。官员点几下鼠标,就能把一个公民的整个生活看个通透。
这在技术上完全可行。Palantir的「本体论」系统正是为此而设计的,,把分散的数据连接起来,构建出「数字孪生」。在英国NHS,这项技术被用来追踪氧气呼吸机的位置;在美国国土安全部,同样的技术可以被用来追踪人的位置。技术本身是中性的。但技术被使用的语境,从来不是中性的。
2023年2月16日,德国联邦宪法法院做出了一项历史性裁决:黑森州和汉堡州警方使用的基于Palantir的数据分析系统违反了宪法。法院的逻辑是这样的:单独来看无害的数据,一旦被无限制地组合起来,能勾勒出一个人的「画像」,这就构成了对「信息自决权」的严重侵犯。法官们发出警告:「一旦只需点击一下就能完成画像分析,公民将无从知晓自己的哪些行为正在被监视。」
在洛杉矶,这样的事已经发生了。洛杉矶警察局的「激光行动」(Operation Laser)是一个运用Palantir技术的预测性警务项目。算法分析过去的犯罪数据,预测未来犯罪可能高发的地区和人群。问题在于,过去的犯罪数据本身就带有偏差。警察在某些地区巡逻得更频繁,那些地区自然会查出更多犯罪。数据把那些地区记录为「犯罪率高」。算法学习了这些数据,再把相同地区标为「高风险」。警察于是继续集中力量去那里。恶性循环。最终,特定族裔和低收入社区被过度监控,逮捕率攀升,数据又反过来把他们归类为「危险群体」。这就是「算法驱动的歧视自动化」。
美国移民与海关执法局(ICE)和Palantir的关系更具争议性。ICE使用Palantir的系统追踪非法居留者。这套系统看的远不止移民记录。车辆登记信息、电话号码、住址、家庭关系、雇佣记录,甚至学校注册信息,全部被串联起来,为一个人构建出完整的「关系网络」。非法居留者的亲属是谁、在哪里工作、那家单位是否还有其他非法居留者,都被一一查明。这些信息被用于大规模执法行动。据2025年的报道,特朗普政府正推进一项计划,将这套系统进一步扩展,打通各联邦数据库。
Palantir内部也有人表达了忧虑。『纽约时报』引述了匿名员工的话:「把这么多敏感信息集中到一处,让人担心。公司的安全实践取决于使用这些工具的人的水平。」还有员工担忧与特朗普政府的合作会影响公司声誉。但他们的忧虑并没有改变管理层的决定。
加沙地带发生的事,把这些忧虑推到了极端。据报道,以色列军方使用的「薰衣草」(Lavender)系统以如下模式运作:AI生成目标清单,人类指挥官负责审批。报道称,审批平均只需20秒。尽管AI存在10%的错误率,为了速度和效率,人的深思熟虑被省略了。Palantir是否直接参与了这套系统,尚无确认。但Palantir在以色列-哈马斯战争中公开宣布支持以色列,这是事实。Alex Karp在2024年致股东信中写道:「我们支持以色列。此刻如此,未来也如此。」
问题的要害在这里。Palantir的技术提供了选择的空间。同一套本体论系统,可以用来追踪呼吸机的位置,也可以用来追踪移民者的关系网。同样的杀伤链加速,可以消灭恐怖分子,也可以误杀平民。技术不认识目的,目的由人来定。但当技术变得过于强大,人来控制技术就可能反转为技术收窄人的选项。「既然有了这些数据就应该用」的逻辑,会把「我们是否应该收集这些数据」这个问题挤到一边。
截至2025年,Palantir的股价创下历史新高。市值突破2500亿美元,超过了传统军工巨头洛克希德·马丁和雷神。特朗普总统在AI峰会上说:「我们从Palantir大量采购。」政府与科技企业的绑定比以往任何时候都更深。当一家未经选举的科技公司承担起国家核心职能时,民主监督应该在哪里发挥作用?
国际特赦组织在2025年的报告中发出警告:「当Palantir的软件被用于助长严重侵犯人权的行为时,Palantir未能履行保护人权的责任。」美国陆军的内部备忘录警告称,Palantir及其合作伙伴开发的联合战场通信系统存在「根本性安全」问题和漏洞。但这些警告没能阻止那份100亿美元合同的签署。
在托尔金的小说里,Palantír是「远视之石」。持有这颗水晶球的人,可以看到远方正在发生的事。但在小说中,这颗石头不是祝福,而是诅咒。它展示的只是真相的一部分,而那一部分足以误导观者。萨鲁曼和迪耐瑟都被Palantír中看到的景象所迷惑,最终走向毁灭。托尔金在1950年代写下的这个警告,七十年后,正以一种奇异的方式变为现实。
二、留给读者的问题
一个普通的下午,首尔某栋公寓里,一位女士盯着手机屏幕。上面弹出了健康保险审查评价院的通知:「您的就诊记录已更新。」她随手划掉了通知。与此同时,她的就诊记录正被输入保险公司的核保系统。同一时刻,她昨天搜索的关键词「头痛原因」正被添加到广告平台的用户画像里。她对这一切毫不知情,也觉得没必要知道。然而几年后,当她试图投保、参加求职面试或申请贷款时,这些数据可能会左右她的命运。而她本人浑然不觉。
这就是我们生活的世界。
(1)数据权力时代,我们应该监督什么
Palantir是一面镜子。透过这家公司,我们能看到这个时代的数据权力如何运作。但我们不能只盯着镜子。现在需要提出的问题是:在数据权力时代,作为公民的我们,应该监督什么?
第一个需要监督的是「决策的流向」。不是数据本身。数据不过是原材料。关键在于数据如何被组合、得出了什么结论、那个结论又触发了什么行动。当洛杉矶警察局的预测性警务系统把某个地区标为「高风险」时,那个分类依据的是什么?有没有对这一分类提出异议的程序?分类出错时,谁来承担责任?
Bruce Schneier和Nathan Sanders在2025年出版的『重新连接民主』(Rewiring Democracy)一书中写道:「AI从根本上说是一种放大权力的技术。它把一个人的命令以比个人所能达到的更快的速度、更大的规模、更广的范围、更精细的方式执行出去。」问题在于:这种被放大的权力流向了谁?流向公民,还是流向管理公民的官僚和企业?
第二个需要监督的是「同意的虚构」。我们每天对几十个应用和服务点击「同意」。但没有人真的读那些条款。条款写得晦涩难懂,就算读了,往往也没有拒绝的余地。研究表明,即使用户选择拒绝追踪,数据仍然被频繁采集。所谓同意,已经沦为走过场的手续,实际控制权并不在用户手里。对Facebook(Meta)的研究揭示了一个耐人寻味的现象:平台在前台通过「隐私设置」「实名制」等看得见的措施经营用户信任,但在后台,推荐算法和广告定向系统驱动着远更重要的数据流,几乎不可见地运转着。用戏剧术语来说,这是「前台」和「后台」的分离。我们需要监督的不是前台的表演,而是后台究竟在发生什么。
第三个需要监督的是「监管的空白地带」。区块链、元宇宙、生成式AI、跨境数据流动,,在这些新技术环境中,现行法律和制度覆盖不到的缝隙正在出现。对元宇宙平台的比较法研究显示,各国在消费者保护、管辖权、隐私权、责任归属等方面仍然采取碎片化的做法。这些空白导致企业自行制定规则的「私人规制」不断扩张。谁在制定规则,谁在监督制定规则的人?这才是核心。
第四个需要监督的是「针对弱势群体的数据运用」。对儿童应用市场的研究揭示了一个令人不安的现实:平台把未成年用户建构为「被商品化的受众」。孩子们的点击、观看时长、偏好被采集为数据,卖给广告商。教育、福利、卫生领域的数据日益被量化、被算法评估所吸纳,弱势群体的生活和可能性被数据模型收窄的风险正在加大。
据卡内基基金会2025年的调查,55%的加利福尼亚州居民对AI生成内容可能加剧政治暴力和社会极化表示「非常担忧」。与此同时,公民对AI能否帮助自己成为「更知情的公民」,看法不一。这组数据传达了一条重要信息:人们对技术的不安很高,但如何把这种不安转化为行动,共识尚未形成。
第五个需要监督的是「冷漠本身」。很多人不读隐私条款就点「同意」。这不是个人懒惰,而是难以理解且单方面设计的数据环境所造成的结构性疲劳。如果这种状况持续下去,数据权力将在几乎没有实质抵抗的情况下继续膨胀,公民的民主行动能力则逐步萎缩。因此,通过教育和媒体素养、公共讨论,把数据问题从「专家领域」重新定位为公民常识和政治想象的一部分,这件事刻不容缓。
数据权力时代的核心问题,已经超越了「我们是否正在被监视」。更要紧的问题是:「我们要一起监督什么,又该怎么做?」
(2)超越Palantir,构想下一代数据治理
超越Palantir,不是说要消灭Palantir,而是说要讲一个更大的故事。Palantir是当前范式走到极端时的一个样本:数据整合能让国家的决策有多快、平台如何演变为基础设施、那套基础设施又背负着怎样的伦理包袱。透过Palantir这面棱镜,这些问题全都看得见。
我们现在需要构想的,是下一代数据治理。
第一,必须将「民主化的数据行动能力」制度化。这意味着用户不再只是同意按钮的点击者,而是参与讨论和决定数据政策与使用方向的主体。数据合作社、公民评审团、参与式数据治理机构,,这些新的制度想象力不可或缺。2025年2月,加利福尼亚州公布了一项新的审议式民主计划:借助AI分析和整合数千名公民的意见,将其纳入政策决策。虽然尚在起步阶段,但已经展示出一种可能性,,技术可以被用来扩大公民参与,而不是压缩它。
第二,必须从技术基础设施的设计阶段就内化「负责任的治理」原则。欧洲的食品与营养数据平台是一个好样本。这个平台在设计时统筹考虑了数据类型与技术、所有权与知识产权、隐私与安全、伦理治理结构。它表明,数据平台不只是提升效率的工具,也可以成为一个把个人与集体隐私、权力关系、责任归属一并纳入设计的空间。数据治理不仅仅是法律和政策的事,它同样是渗透在平台架构和运营规范中的「设计伦理」问题。
第三,必须超越封闭的、以所有权为中心的模式,探索能够增强公共性的替代性平台生态。加州提出的「CalCompute」倡议,设想了一种由公共机构治理、在公共服务器上运行开源AI系统的架构。公益数据档案模式则以开放方式积累和分析资料,用于监督企业和政府的平台并追究其责任。通过系统性地收集和关联合同、法院文件、影响评估、专利、公民团体报告等各类文献,使数据企业的活动透明化,为研究者、记者和活动人士追问平台责任提供基础。
第四,国家间数据治理的框架不能只围绕竞争和安全,必须以人权和公共善为核心加以重构。当前以美国和中国为主导的平台治理,打着算法主权和数据本地化的旗号,强调安全与经济竞争力。但对跨境流动数据的规范与责任,存在巨大空白。下一代数据治理要求我们将网络空间从「无监管的去领土化区域」重新定义为适用国际人权标准和责任规范的空间。
第五,在教育和文化层面,需要培养对数据的敏感度和想象力。对监控资本主义的研究警告,当前的数据体制在社会抵抗薄弱的情况下深入渗透日常生活,正在塑造新的社会秩序。要改变这一结构,就必须把数据和算法问题从技术人员或政策专家的专属领地,变成公民、学生、儿童都能共同讨论的议题。当数据权利、隐私、算法偏见、平台责任的学习和对话在学校、家庭、社区中成为日常,下一代才能以更具批判性、也更具创造力的方式想象Palantir之后的数据秩序。
OECD在2025年9月的报告中如此建议:「政府采用AI的步伐在加快,但许多项目仍停留在试点阶段。成功引入AI需要七个核心要素:治理、数据、数字基础设施、技术、投资、采购,以及与非政府行为者的伙伴关系。以用户为中心、与利益相关者和公众进行有意义的沟通、建立清晰且成比例的护栏,这样一种政府层面协调一致的AI转型路径,才能在管控风险的同时保持敏捷并适应未来变化。」
最后的问题回到读者身上。把AI和数据整合的时代仅仅看作「救赎」叙事,还是仅仅看作「支配」叙事,并非预先注定的命运。两者之间的界限,取决于我们设计怎样的治理结构、监督怎样的权力、创造怎样的参与和抵抗语言。
Alex Karp说:「技术不是中立的。」他说得对。技术反映了创造者的世界观。既然如此,我们应当要求的不是由少数天才工程师或哲学家CEO设计的世界观,而是体现我们自身民主共识价值的技术。如果Palantir的软件被用来抓捕恐怖分子,那它同样应该可以被用来监督警察滥权。技术为权力者服务多少,就应当被设计为保护弱者的盾牌多少。
在托尔金的小说中,Palantír最终被扔进了大海。因为那是摆脱诱惑与危险的唯一办法。但现实中的Palantir无法被扔进大海。数据整合与AI的时代已经到来,无法回头。我们能做的,是参与决定这个强大工具由谁、如何、为何而用。
技术共和国(The Technological Republic)已经降临。但这个共和国的主人是技术还是公民,尚未确定。站在岔路口的不是Palantir,是我们。请记住,世界上最强大的软件,没有人的意志,连一行代码都无法执行。当我们的监督和参与停止的那一刻,对面就会有人的手指悬在回车键上方。写下这本书最后一句话的此刻,窗外首尔的夜很静。灯光在窗外闪烁。那些灯光下入睡的人们,今晚大概从未听说过Palantir这个名字。他们不知道自己的数据流向了哪里,也不知道谁在注视着那些数据。
写这本书的过程中,有一个问题始终盘旋在脑海里:我们是这场博弈的观众,还是棋子。
Palantir的技术诞生于美国这个军事超级大国的怀抱。他们为本国安全打造了这一工具,对盟友则选择性地开放。韩国是其中一个盟友。
然而「同盟」这个词带来的安心感背后,藏着令人不安的事实。我们没有创造这项技术。我们是借用者。
有一个概念叫数据主权,指的是本国数据应由本国控制的原则。但在现实中,这一原则在力量逻辑面前摇摇欲坠。无论Palantir的服务器在哪里,无论设计那些算法的人在想什么,我们无从得知。我们没有办法验证自己的信息在黑箱中被如何处理。
这就是遗憾所在。
作为法律人,作为国会议员,作为研究人工智能的人,我相信技术的力量。但当那力量集中在少数人手中,而那少数人是外国人时,民主制度该如何运作,我还没有找到答案。
Palantir说自己在捍卫西方民主。这道防线是否包含了我们,还是我们只是站在栅栏外向内张望,我没有把握。
2026年1月,特朗普总统宣称要「不惜一切手段」拿下丹麦自治领格陵兰。
好的方式不行就用坏的方式。用他自己的话说,就是「the hard way」。丹麦是北约创始成员国,与美国结盟超过七十年。而美国总统却公开威胁这个盟国的领土。副总统万斯未经邀请造访格陵兰的美军基地,发表演讲称「丹麦让格陵兰人民失望了」。白宫幕僚的妻子在社交媒体上发布了一张被星条旗覆盖的格陵兰地图,配文「SOON」。
丹麦首相梅特·弗雷泽里克森的反应充满紧迫感:「如果美国对格陵兰采取军事行动,那将是北约的终结。」丹麦情报机构历史上首次将美国与俄罗斯、中国并列为国家安全威胁。哥本哈根和努克的街头,市民举着写有「Yankee go home」的标语牌走上街头。
自诩为西方民主捍卫者的国家,正在威胁西方民主的核心盟国。以国际法为由指责中国和俄罗斯的国家,正在无视同样的国际法觊觎盟国领土。「以实力求和平」的口号蜕变为「以实力求服从」的瞬间,我们正在亲眼目睹。
不能不问:北约创始成员国尚且遭此对待,韩国又会如何。
我们不属于他们所说的「西方」。当我们的数据经由他们的服务器传输,当我们的军事情报由他们的算法分析,我们是合作伙伴,还是客户?或者,我们是商品?
Palantir的技术再出色,也无法控制拥有该技术之人的意图。今天的盟友可能变成明天的要挟者,格陵兰危机赤裸裸地展示了这一点。数据主权不是空洞的口号而是生存问题,我现在才刻骨铭心地认识到这一点。
我想问合上这本书的读者:以便利为代价,我们交出了什么?而这笔交易是否公平,又该由谁来判断?
2026. 1. 15.
人工智能研究者 金京镇 PALANTIR 战争 AI电子书 发行|2026年1月30日 著者|金京镇 出版人|金京镇 出版社|金京镇律师出版社 出版社登记|2025. 3. 10.(第2025-000015号)
地址|首尔特别市东大门区田农路91,百日大厦304号 电话|02-6338-1905 邮箱|kimkj008@gmail.com ISBN|979-11-24360-00-2 定价 20,000韩元 ⓒ 金京镇 2026 本书为著作者之知识产权,未经许可不得转载或复制。
注)本书中的照片、图片和图表均借助人工智能生成。正文内容也有部分在人工智能辅助下撰写。


