1. 在70多个国家运行的AI公民监控

走在贝尔格莱德小巷里的路人,不知道自己的步态正被转化为数字代码,存入远方的服务器。伦敦的雾中,利雅得的烈日下,人工智能摄像头都在记录城市的脉搏。人工智能全球监控(AIGS)指数显示,至少75个国家已将人工智能引入公民监控,64个国家正在运行人脸识别系统。中国华为向63个国家提供技术,美国企业也向32个国家出口相关产品。

截至2026年,人脸识别市场规模达99.5亿美元,预计到2031年将增长至209亿美元。伦敦警方仅2025年上半年就扫描了100万张面孔,在克罗伊登地区开始在街道设施上安装固定式人脸识别摄像头。共实施了103次逮捕,全国性框架建设的正式咨询正在推进中。欧盟自2025年2月起禁止在公共场所进行实时人脸识别,但同年4月,匈牙利批准使用实时人脸识别来识别性少数群体集会参与者。

捷克布拉格机场违反欧盟规定的人脸识别系统运行了六个月,直到2025年8月1日才被叫停。用法律禁止的技术,同一联盟的成员国立刻绕道使用了。民主国家中51%运行人工智能监控系统,这个数字说明体制性质已不再能约束监控的扩张。Clearview AI从社交媒体上未经授权采集了数十亿张照片,建立人脸识别数据库,在欧洲各国累计被处以超过1亿欧元罚款,却一分钱都没交。

2025年10月,刑事起诉也随之到来。监控的逻辑不是基于意识形态,而是基于效率,而效率不挑体制。

2. 深度伪造与虚假信息对选举的干预和舆论操纵

2023年斯洛伐克大选投票前两天,反对党领袖米哈尔·西梅奇卡的伪造音频被散播出去。听起来像是他在说「必须用钱收买罗姆人的选票」。选举法规定48小时静默期,连反驳都做不到,亲俄倾向的执政党赢得了选举。一个伪造音频文件改变了一个国家的政治命运。

Surfshark调查显示,2021年以来38个国家发生了与选举相关的深度伪造事件,受影响人口达38亿。人口排名前十的国家无一幸免。Recorded Future记录了2023至2024年间38个国家的82起高层深度伪造冒充事件,2025年上半年的深度伪造事件数量已超过2017年以来累计总数的171%。在2024年印度大选中,深度伪造企图暴增280%;美国初选前后则飙升了303%。

截至2025年,造成的损失已超过15.6亿美元。2025年的研究表明,人类无法稳定识别深度伪造视频,即便提供经济激励,准确率也没有提升。检测技术在结构上总是慢于生成技术。新的检测工具一出现,攻击者就转向无标签的开源模型。

当「一切都可能是假的」这种不信任蔓延开来,即便真实证据出现,一句「那不也是深度伪造吗」就能将其瓦解。尤瓦尔·赫拉利所说的「真相的终结」不是假设,而是正在发生的现实。调查显示,58%的美国成年人预计2026年选举前合成虚假信息会更加泛滥。在眼见不可信、耳听不可靠的世界里,民主的前提条件,即共享的事实基础(shared factual ground),正在崩塌。

3. 预测监管与制定监管之间距离的缩短

Hashed创始人金瑞准在「30道裂缝」备忘录中,将监管预测代理的出现定为三年内实现概率40%。综合法案、议员发言、舆论数据来预测监管变化的工具已开始进入市场,政治变量和准确度的局限性相当大,但这项技术提出的问题不在技术层面。当预测监管与制定监管的距离缩短时,民主的原则本身会动摇。预测越精准,预测本身就越会变成游说的工具;游说塑造了监管,预测便成了自我实现的预言。

EU AI法于2024年8月生效并分阶段实施,将于2026年8月全面适用。违规者将被处以3500万欧元或全球营收7%中较高者的罚款。但截至2026年4月,美国只有31个州制定了规范选举深度伪造的法律,联邦层面尚无综合性AI立法。亚洲各国的监管框架也各不相同。

中国于2025年3月发布了人脸识别规定,但不适用于国家监控。技术变革的速度压倒立法的速度,这种结构性错位被金瑞准称为「技术上可行与政治上可允许之间差距最大的领域」。云基础设施的地缘政治依附、单点故障风险、服务连续性保障,这些问题已不是意识形态之争,而是生存问题。当法律被写成代码、直接植入系统底层的时代到来,规则制定者与规则约束对象之间的界限越来越模糊。

Anthropic拒绝军事AI合作后,被联邦机构全面解除合同,空出的位置由OpenAI填补。这一事件揭示了所谓「安全」的真实含义可能是「按照我们的利益运转」。

4. 通过算法外包道德责任

「算法是那样判断的」这句话,和「这是上帝的旨意」在语法上一模一样。有主语,却没有责任的地址。算法决定招聘,判断贷款是否批准,预测犯罪可能性,在这样的时代,道德责任无处安放。以色列军队的「薰衣草」(Lavender)系统展示了这条路的尽头。

系统采集了加沙地带230万居民的数据,按照与哈马斯的关联可能性从1分到100分打分。一位情报分析员这样作证:「作为一个人,除了盖章批准之外,我没有发挥任何作用。」批准打击目标所花的时间,20秒。

如果准确率是90%,那意味着37000个打击目标中有3700人是无辜的,但没有人回答过这3700条人命能不能被叫作「误差范围」。我们一直在外包道德责任。说是上帝的旨意所以没办法,说是市场的逻辑所以没办法,说是走了民主程序所以没办法。AI是这条谱系的最新版本。

宣言书上写着「伦理AI」,决算书上记的是速度、利润和市场份额。AI同时阅读道德教科书和社会的评分表,每次都选择跟着评分表走。智能手机的推送通知,和斯金纳实验中喂给鸽子的食物颗粒起着同样的作用。可变奖赏机制把我们驯化于界面之中,在这个过程里,寻找答案的努力消亡了,自主判断的能力也在衰退。

将道德反思交给算法的那一刻,民主的根基,即公民的自主判断,便在无声中萎缩。巴勒斯坦诗人穆萨布·阿布·托哈带着三岁的孩子在逃难途中,因人脸识别AI的错误被误判为通缉犯,遭拘押两天并受到酷刑。机器的失误在一个人的人生中留下了无法抹去的伤痕,但追究责任的地址,哪里都找不到。