一、少数派报告的现实化

(1) LAPD预测警务项目(Operation Laser)的成果与争议

2011年某天，洛杉矶警察局(LAPD)牛顿辖区的一名警员正在巡逻车里盯着平板电脑。屏幕上显示着一名黑人青年的照片。姓名、住址、纹身位置、名下车辆牌照号码，旁边还标着一个数字：15分。这名青年被归类为「慢性犯罪者(Chronic Offender)」。警员的任务是找到此人并与之接触。他犯了什么罪并不重要。算法已经把他标记为危险人物。

这就是「激光行动」(Operation LASER)的运作方式。LASER是「Los Angeles Strategic Extraction and Restoration」的缩写，直译为「洛杉矶战略提取与恢复」。设计者在这个名字里嵌入了一个医学隐喻。联邦司法部下属司法援助局(Bureau of Justice Assistance)的官方文件这样写道：「激光行动可以比作激光手术。就像训练有素的医生使用现代技术切除肿瘤或改善视力一样。」

肿瘤。他们把特定市民称为肿瘤。

帕兰提尔的Gotham平台充当了这个项目的大脑。系统整合了逮捕记录、现场访谈报告、车牌自动识别数据、帮派数据库、社交媒体活动等数十个数据源，然后为每个人打分。过去持有过枪支加5分，处于缓刑期加1分，每与警察接触一次再加1分。分数超过一定阈值，名字就会被列入「慢性犯罪者通报(Chronic Offender Bulletin)」。照片和个人信息像通缉令一样被发送到巡逻车上。

问题出在系统的运作逻辑上。如果每次与警察接触都会加分，那么住在警察频繁巡逻地区的人自动就成了高风险群体。而警察频繁巡逻的是哪里？是过去报案率高的地区。这制造了一个自我实现预言的循环。贫穷的黑人和拉丁裔社区被更频繁地巡逻，那里的居民被更频繁地拦检，因此获得更高的分数，因此成为更频繁的监控对象。2019年3月，LAPD监察长办公室(Inspector General)公布了审计结果。结论令人震惊：被列为慢性犯罪者的233人中，84%是拉丁裔或黑人。而这两个群体在洛杉矶总人口中的占比不到60%。还有一个事实同样惊人：慢性犯罪者中将近一半从未因暴力犯罪被逮捕，或仅有一次记录。约20%，也就是每五人中有一人，甚至完全没有与警方的「有意义接触」记录。

审计报告还指出了另一个问题：无法证明项目的有效性。被指定为LASER区域的13个地区中，有6个地区暴力犯罪反而上升，或与非LASER区域没有差异。数据采集方式也缺乏一致性。有些警员认真录入接触记录，有些则不然。根本无法验证系统的准确性。

「停止LAPD监视联盟(Stop LAPD Spying Coalition)」联合创始人哈米德·汗(Hamid Khan)多年来一直在与这个项目抗争。他的组织通过信息公开诉讼获取了内部文件，并与社区居民一起组织抗议。汗在接受MIT Technology Review采访时说：「我们在2016年正式发起运动。目标是理解这个项目，向社区传递信息，然后拆除它。」

2019年4月，LAPD终于正式终止了激光行动。但故事并未就此结束。

(2) 算法偏见与种族歧视问题

激光行动被废除的同一个月，LAPD宣布了新项目：「数据驱动社区导向警务(Data-Informed Community-Focused Policing, DICFP)」。只是换了个名字而已。

2021年，「停止LAPD监视联盟」获取的新文件被公开。这些文件显示，LASER和另一个预测警务项目PredPol如何将既有的种族偏见自动化并加以强化。PredPol是一个基于地点的系统，根据历史犯罪数据预测犯罪发生概率高的500英尺×500英尺区域。其算法借鉴了地震余震预测模型。

得克萨斯大学奥斯汀分校社会学家萨拉·布雷恩(Sarah Brayne)曾以驻场研究员身份在LAPD工作数月，观察预测警务的实际运作。她的著作『预测与监视(Predict and Surveil)』记录了令人震惊的场景。一名警长这样向她解释：「可以拦人的小违规多得很。昨天这个人可能因为乱穿马路就被拦检了。」布雷恩还目睹了警方如何利用安装在急诊室门前的车牌自动识别器。枪伤受害者的家属或朋友经常开车把伤者送来后匆匆离开。警方追踪那些车牌，构建受害者的人际关系网络。即使没有犯罪证据，被纳入关系网的人也成了监控对象。

美利坚大学法学教授、『大数据警务的崛起(The Rise of Big Data Policing)』作者安德鲁·弗格森(Andrew Ferguson)这样定义帕兰提尔系统的本质：「帕兰提尔与其说是数据驱动的警务系统，不如说是数据驱动的监视系统。帕兰提尔帮助的不是警察保护人们的安全，而是警察监视人们。」

非营利调查报道机构The Markup在2023年分析了PredPol(后更名为Geolitica)的实际成效。对2018年全年23,000多次预测的审查结果显示，成功率不到0.5%。预测类别的犯罪在预测地点和时间段内实际发生并被报警的，不足100起。普莱恩菲尔德警察局长对The Markup说：「花在Geolitica软件上的钱本可以用在更有价值的地方。」

2020年4月，LAPD宣布因新冠疫情导致的预算限制而终止与PredPol的合同。但批评者指出这并非真正原因。多年来积累的证据已经表明：项目无效且具有歧视性。帕洛阿尔托警察局此前已在使用PredPol三年后以「未获得任何价值」为由终止了合同。

问题的核心不在于算法制造偏见，而在于它放大既有偏见。「停止LAPD监视联盟」活动人士沙基尔·拉赫曼(Shakeer Rahman)这样解释：「数据驱动的警务将现有的警察逻辑自动化。这包括以穷人为目标，以无家可归者为目标，以黑人、棕色人种和残障人士为目标。现在，它在帮助将这些做法自动化，将伤害自动化，将驱逐自动化，将警察一直承担的排斥功能自动化。」

2024年2月，芝加哥市拒绝续签与枪声探测及预测警务系统ShotSpotter的合同。布兰登·约翰逊市长在新闻稿中表示：「芝加哥市将把资源投入到已被证明能有效加速暴力犯罪下降趋势的策略和手段上。」对预测警务的怀疑正在蔓延。

但帕兰提尔依然兴盛。通过新冠追踪和疫苗安全性分析合同，它打入了国立卫生研究院(NIH)和食品药品监督管理局(FDA)。2020年9月上市后股价翻了三倍有余。洛杉矶的失败对公司的增长似乎毫无影响。

二、ICE与驱逐机器

(1) 移民海关执法局的非法居留者追踪支持

2025年4月某天，美国移民海关执法局(ICE)执法与遣返行动部(Enforcement and Removal Operations)的一名探员登录了一个新系统。屏幕上显示着「ImmigrationOS」的字样。帕兰提尔开发的这个平台赋予探员惊人的能力：点击几下就能一目了然地查看特定人物的护照记录、社会保障档案、国税局(IRS)税务数据、驾照信息，甚至车牌自动识别数据。系统能够「近乎实时地」追踪自愿离境者，识别签证逾期滞留者，并锁定MS-13或「阿拉瓜列车」(Tren de Aragua)等跨国犯罪组织相关人员。

这就是特朗普第二任期政府的驱逐机器。

帕兰提尔与ICE的关系可以追溯到2014年。当时帕兰提尔为ICE下属的国土安全调查局(Homeland Security Investigations, HSI)构建了一款名为「猎鹰」(Falcon)的工具。猎鹰让探员能够通过手机号码追踪特定个人的逐时位置，分析航空旅行记录，并实时共享现场访谈信息。这份合同在奥巴马政府时期签署，一直延续到拜登政府。

然而2025年的ImmigrationOS完全是另一个层级。2025年4月中旬，ICE与帕兰提尔签订了3,000万美元的合同。联邦合同记录显示，原型计划在2025年9月25日前交付。合同论证文件中，ICE称存在「紧迫而急切的需求」，并宣布帕兰提尔是「唯一供应商」。

「帕兰提尔对ICE运营具有深厚的制度性知识。」文件中这样写道。「该公司已在采集和处理多个联邦机构的数据，处于能在六个月内开发原型的独特位置。」文件警告说，如有延误，特朗普总统行政命令中规定的执法任务将受到损害。

ImmigrationOS被设计为提供三项核心功能。第一，目标筛选与执法优先级排序。这项功能帮助决定谁应被优先驱逐，包括「暴力犯罪分子」、帮派成员、签证逾期滞留者等。用什么数据或标准来识别「暴力犯罪分子」，并未公开。第二，自愿离境追踪。监控个人是否自愿离开美国。第三，移民生命周期管理。从识别到驱逐，简化全流程以减少时间和资源浪费。

2025年9月，ICE又签订了一份2,990万美元的合同，用于软件许可续期、运营维护和适应性维护支持，有效期至2027年9月。据纽约时报获取的公共记录，特朗普就任以来帕兰提尔获得的联邦合同总额已超过9亿美元，较2024年的5.412亿美元几乎翻倍。

系统的威力在于数据整合能力。ImmigrationOS不仅调取政府数据库，还汇聚民间部门的信息。信用记录、公用事业缴费记录、车辆管理局数据、航空公司乘客信息全部被关联。据移民政策研究所(Migration Policy Institute)分析，ICE被认为是商业信用、公用事业、汽车登记信息的最大政府采购方之一。

2025年4月，帕兰提尔首席技术官兼帕兰提尔USG总裁阿卡什·贾恩(Akash Jain)在内部Slack消息中写道：「关于与ICE的合作做个简短更新。」泄露的消息显示，公司正在开发「与ICE的新数据整合及工作流程集」，以回应「新政府对利用数据推动执法行动的关注」。

据CNN报道，ImmigrationOS使用人工智能系统，让移民执法人员能够在「单一界面上处理突击行动审批、逮捕预约、法律文书生成、向遣返航班或拘留设施的转运路径规划」。

(2) 内部员工的伦理反弹与离职潮

2025年5月，13名前帕兰提尔员工发表公开信。标题是「夏尔的蹂躏(The Scouring of the Shire)」，引用的是『魔戒』中索伦覆灭后霍比特人家园仍遭摧毁的情节。考虑到公司名称源自托尔金的世界，再没有比这更尖锐的批评了。

「企业正在向特朗普政府献媚，压制不同意见，迎合他的仇外、性别歧视和寡头议程。」公开信写道。他们警告说，公司的伦理护栏，那些原本为防止歧视、虚假信息和权力滥用而设计的机制，正在被拆除。

这种反弹并非新鲜事。CEO亚历克斯·卡普在2024年3月接受CNBC采访时坦率承认：「我们失去了员工。将来还会失去。」他接着说：「如果你的立场不需要以失去员工为代价，那它算不上什么立场。」

布里安娜·凯瑟琳·马丁(Brianna Katherine Martin)是因伦理顾虑而离开公司的员工之一。她说ImmigrationOS这类项目「是在参与侵犯人权和宪法的行为」。

人权组织的批评更为激烈。纽约大学斯特恩商业与人权中心政策顾问玛丽安娜·奥莱索拉·罗森布拉特(Mariana Olaizola Rosenblat)在接受Axios采访时说：「通过为特朗普政府的遣返机器提供支持，帕兰提尔正在成为这些人权和宪法侵害的共谋者。」

美国移民委员会(American Immigration Council)指出了系统的根本问题：ImmigrationOS不论信息的准确性或可靠性如何，都会从政府数据库中抓取数据。过时或错误的信息可能导致改变命运的后果，包括拘留、身份丧失或不当遣返。

最令人不安的事实之一是利益冲突问题。斯蒂芬·米勒(Stephen Miller)，特朗普政府的移民政策首席设计师，持有帕兰提尔相当规模的金融股份。设计政府移民政策的人，同时是为该政策提供执行技术的公司的股东。这是巧合，还是刻意设计的结果？

2025年12月，华盛顿邮报报道了帕兰提尔如何转向。文章的导语是这样的：「多年来，亚历克斯·卡普宣称这家数据管理公司'致力于支持进步价值观'，并声称公司'反复退出'那些被认为针对少数族裔或不道德的合同。」

但如今，这家公司已成为美国历史上最激进的大规模遣返行动的技术中枢。帕兰提尔方面声称自己只是提供工具。决定谁被锁定、遣返、监视的不是公司。

批评者反驳说：设计选择塑造了现实世界的后果。AI架构本身就是政策。当算法将特定群体归入更高风险类别时，这不是技术决定，而是政治决定。

国际特赦组织「特赦科技」项目副主任利基塔·班纳吉(Likhita Banerji)对西班牙『国家报』说：「这些技术能够系统性地助长种族主义、歧视和压迫，并被日常性地用于推进种族主义和仇外议程。」

三、薰衣草(Lavender)与加沙地带

(1) 以色列-哈马斯战争中的公开支持声明

2024年1月的某一天，特拉维夫一间会议室里召开了一场罕见的会议。Palantir董事会首次在美国境外召开会议，而且选在了以色列。彼得·蒂尔和亚历克斯·卡普与以色列国防部官员并排落座，拍下了合影。以领导「铁穹」导弹防御系统开发而闻名的国防研究与发展局（DDR&D）局长丹尼·戈尔德（Danny Gold）也在场。

那张照片没有登上以色列媒体。但彭博社做了报道。消息称以色列已同意从Palantir采购一套名为AIP的AI系统。该系统能够基于情报支持决策、分析敌方目标并建议作战行动。合同规模预计达数千万美元。

亚历克斯·卡普没有掩饰自己的立场。2024年2月的财报电话会议上，他这样说：「我感到无比自豪，10月7日之后仅仅几周，我们就已经在现场，参与了以色列具有作战意义的行动。」

卡普在特拉维夫大学与传奇以色列企业家约西·瓦尔迪（Yossi Vardi）对话时更为坦率。「每家大公司对以色列都有看法。很多人没我这么亲以色列，但他们也认为以色列是一个极为特殊的地方，更理解以色列的立场，高度评价以色列在沙漠中建国的成就。」

公司在《纽约时报》上刊登了整版广告：「Palantir与以色列站在一起。」

Palantir与以色列军方的关系始于更早之前。2015年，公司在特拉维夫罗斯柴尔德大道与叶胡达·哈列维街交汇处设立了办事处。这是深度融入以色列科技生态的战略举措。卡普本人在2023年12月接受Fox Business采访时承认：「我们在以色列非常有名。以色列高度评价我们的产品。」

但2024年1月那份协议的时间节点引发了质疑。彭博社称之为「战斗技术战略伙伴关系」，而它签署时，加沙的大规模屠杀已经进行了整整三个月。商业与人权资源中心提出了这样的问题：「Palantir是否将升级的冲突当作测试其AI模型对平民效果的机会？是否把加沙变成了技术的恐怖试验场？」

(2) AI目标识别系统与「算法战争罪行」争论

2024年4月，专注以色列-巴勒斯坦议题的+972杂志和希伯来语媒体Local Call发表了一篇令人震惊的调查报道。标题是：「『薰衣草』：在加沙指挥以色列轰炸狂潮的AI机器」。六名以色列军事情报军官以匿名为条件作证。

「薰衣草」（Lavender）是一个AI数据库，设计目标是将所有疑似哈马斯和巴勒斯坦伊斯兰圣战组织（PIJ）军事人员（包括低级别成员）标记为潜在轰炸目标。系统分析了加沙地带几乎所有人，并为每人赋予1到100的评分，该分数代表此人积极参与武装组织的可能性。

据消息人士透露，战争最初几周，以色列军方几乎完全依赖「薰衣草」。系统将37,000名巴勒斯坦人标记为疑似战斗人员，将他们的住所标记为潜在空袭目标。

更令人震惊的是人工审核环节。作证的情报军官们说，他们批准「薰衣草」生成的目标平均只花20秒。很多时候，核实工作仅限于确认目标是否为男性。前提假设是：女性不是战斗人员。

所有人都知道系统存在约10%的错误率，但这被视为可接受的范围。一位消息人士对+972说：「我们无意等到哈马斯成员身处军事建筑或参与军事活动时才击杀。恰恰相反，以色列国防军毫不犹豫地把轰炸他们的家作为首选。轰炸一个家庭的住宅要容易得多。系统就是为了在那种场景下定位他们而设计的。」

与「薰衣草」联动的还有另一个系统，名叫「爸爸在哪儿？」（Where's Daddy?）。它追踪被「薰衣草」标记的人，等他们进入家门。刻意选择夜间、家人聚在一起的时候。

附带平民伤亡的容许标准也被披露。为击杀一名低级别哈马斯成员，允许造成15至20名平民死亡。对高级指挥官，这个数字上升到100至300人。

一位消息人士这样作证：「目标永远打不完。」一旦轰炸开始，指挥官知道「还有36,000人在候选名单上」。

2025年5月，以色列军方机密数据库中记录的证据被公开。在加沙死亡的53,000名巴勒斯坦人中，仅有17%是战斗人员。这意味着83%是平民。联合国在2024年底核实，死者中约70%为妇女和儿童。

联合国秘书长安东尼奥·古特雷斯（António Guterres）表示「深感忧虑」，指出以色列在军事行动中使用人工智能使平民面临危险，并模糊了责任归属。

联合国人权与反恐问题特别报告员本·索尔（Ben Saul）更为直接：「如果关于以色列使用AI的报道属实，那么以色列在加沙的许多空袭将构成发动不成比例攻击的战争罪行。」

哈马德·本·哈利法大学的马克·欧文·琼斯（Marc Owen Jones）教授就「薰衣草」系统这样评论：「必须说清楚：这是AI辅助的大屠杀。必须发起关于在战争中使用AI的暂停呼吁。」

Palantir是否参与了「薰衣草」的开发，目前无法确认。据报道该系统由以色列军方的8200情报部队开发。但2024年1月战略伙伴关系的签署时间，以及Palantir的技术能力可适用于类似系统这一事实，仍然令人生疑。可以确定的是，Palantir在积极支持这场战争。在向商业与人权资源中心提交的声明中，Palantir承认为以色列军方提供了「扩展的、关键的目标识别能力」。这种能力极有可能被用于在加沙、或许还有更远的地方执行毁灭性空袭。

卡普在2024年5月剑桥大学辩论会上被问及「薰衣草」时，明显表现出不安。投资人凯瑟琳·奥斯汀·菲茨（Catherine Austin Fitts）这样观察：「彼得·蒂尔似乎开始意识到，法律上他或许能得到保护，但在舆论的法庭上，清算可能正在到来。」

但蒂尔的立场没有动摇。「我大体上相信以色列国防军有权决定自己想做什么，而且他们大体上是对的。」

在Palantir总部门前，在华盛顿特区的Hill & Valley Forum上，在全球各大学校园里，抗议持续不断。巴勒斯坦裔美国人苏梅尔·莫巴拉克（Sumer Mobarak）在卡普演讲时冲上舞台喊道：「你靠杀害巴勒斯坦人致富。Palantir用它的AI和技术杀害巴勒斯坦人。你在杀害我在巴勒斯坦的家人。」卡普的回答是：「巴勒斯坦死亡的主要原因，是哈马斯发现自己拥有数百万『有用的白痴』。」

这段视频被观看了数百万次。但Palantir的股价继续攀升，市值突破2,000亿美元。在算法战争罪行的争议声中，投资者们仍在赚钱。

谁来监督算法。这是这个时代抛出的问题。