Garbage in, garbage out

我们每天对话的ChatGPT、Claude、Gemini，它们精致而睿智的回答背后，藏着我们看不见的阴暗真相。人工智能生成的那些流畅、看似完美的句子，背面有蚕食某些人精神的劳动，有偏颇的目光，有窥探我们私生活的眼睛。这就是我们所处的数字时代的真面目。

1. 肯尼亚AI数据清洗工人的痛苦

肯尼亚内罗毕的一间办公室里，27岁的青年莫法特·奥基尼（Mophat Okinyi）每天要审阅700段文本。其中充斥着强奸、谋杀、酷刑、儿童性虐待的骇人内容。他必须整天、每天阅读这些东西。为什么？为了训练ChatGPT学会过滤这类内容。

「我的精神健康被彻底摧毁了。」奥基尼这样说。他在不断阅读关于强奸犯的文字后，开始回避身边的人，对每个人都投以偏执的目光。最终，怀孕的妻子说了句「你变了」，离开了他。「我失去了家庭」，他的这句话揭示了我们使用AI的真实代价。

这不只是奥基尼一个人的遭遇。据2024年《卫报》的调查，仅在肯尼亚就有数千名「内容审核员」，拿着每小时不到2美元的工资，每天审阅这些触目惊心的内容。他们要看斩首视频，给儿童性虐待图片分类，为自杀视频打标签。这一切，都是为了让我们使用的AI变得「安全」。

肯尼亚的一位数据工人费丝（化名）说：「听说工资更高才入行的，但很快就发现必须模拟极其恐怖的对话。我甚至不得不在虚构场景中描写食人行为。」另一位工人斯泰西说：「公司提供的心理健康支持，就是一个月30分钟的咨询。他们说要消除不好的记忆，就去TikTok上看搞笑视频。」她说这话时满是愤怒。

2024年12月，CBS的《60分钟》节目揭露了这些工人的真实处境，报道他们「过度劳累、工资微薄、遭受剥削、心理健康支持严重不足」。2024年11月在内罗毕召开的「非洲内容审核员工会」市政厅会议上，讨论了「精神和身体上的痛苦、超长工时、暴力图像暴露、缺乏人体工学支持导致的职业倦怠和健康问题」。一位与会者苦笑着说：「这份工作的好处之一，就是绝不会无聊。」

肯尼亚人权活动人士奥当加·马东（Odanga Madung）严厉批评这种状况是「现代奴隶制」。2023年5月1日劳动节，约150名现任和前任内容审核员在内罗毕集会，成立了「非洲内容审核员工会（ACMU）」。他们向政府提交请愿书，要求调查剥削性的工作条件。

更令人震惊的是，这种事在全球各地都在发生。东非、印度、菲律宾，甚至肯尼亚的达达布（Dadaab）难民营和黎巴嫩的夏蒂拉（Shatila）难民营里，都有人在做这种工作。那些受过教育、能说多种语言的难民，正在以极低的价格从事这些劳动。

我们对ChatGPT说「谢谢」的时候，它背后站着的是像奥基尼这样的人。他说：「我把自己当作士兵。士兵为人们挡子弹。」我们用的那个「干净的」AI，就建立在他们的牺牲之上。

2. 偏见数据制造的不公平世界

2024年，华盛顿大学的研究团队做了一个令人震惊的实验。他们向三个顶尖AI模型提交了同一份简历，只是改了名字。结果惨不忍睹。AI在85%的情况下偏好白人名字，女性名字仅被偏好11%。黑人男性名字比白人男性名字更受青睐的情况，一次都没有出现过。

这不是实验室里的抽象结论，而是真实世界正在发生的事。2024年5月，美国加州北区联邦法院受理了一起针对AI招聘工具的集体诉讼。在Mobley诉Workday案中，法院裁定：「如果AI软件参与了招聘决策，其偏见性可以成为歧视诉讼的依据。」

亚马逊在2018年放弃了自家的AI招聘系统。原因是他们发现这个系统会系统性地排斥技术岗位的女性应聘者。系统用以男性为主的历史招聘数据进行训练，学会了偏好「执行」「捕获」这类男性常用词汇。

人脸识别技术的偏见更为严重。白人男性的面部识别准确率达99%，黑人女性却只有65%。这样的误差会导致无辜的人在机场安检时被误认为犯罪嫌疑人，在警方调查中被错误指认。

医疗领域的偏见直接关乎生命。美国一款大型医疗算法给黑人患者的风险评分，低于健康状况相同的白人患者。这个算法把医疗支出当作健康状况的指标，却忽视了一个事实：由于结构性不平等，黑人群体获得医疗服务的机会本来就更少。

心脏病诊断AI会漏掉女性患者的症状，皮肤癌诊断AI无法准确检测深肤色患者的病变。大多数医疗数据是以白人男性患者为中心收集的，根源就在这里。

语言处理AI也不例外。谷歌翻译经常把「医生」翻译成男性，把「护士」翻译成女性。土耳其语「O bir doktor」（他/她是医生）翻译成英文会变成「He is a doctor」，「O bir hemşire」（他/她是护士）则变成「She is a nurse」。

2024年，欧盟基本权利署（FRA）的报告警告：「语音算法包含基于民族、性别、宗教和性取向的严重偏见。」这份于2025年5月发布的报告呼吁「欧盟立法机构和成员国应在所有依据上确保一致且高水平的反歧视保护」。

有偏见的AI所做的决策，又变成新的数据，让下一代AI更加偏颇，如此恶性循环不断重复。在线平台的推荐算法把用户困在特定的信息茧房中，加剧社会分裂。新闻推荐系统只展示与用户既有倾向相似的内容，切断了接触多元观点的机会。

2024年联合国妇女署的报告指出：「AI系统从充满偏见的数据中学习，反映并强化性别偏见。这种偏见可能在决策、招聘、贷款审批、司法判断等环节限制机会和多样性。」

要减少偏见，需要投入更多成本和时间，但企业优先考虑的是快速上市和利润。政府监管也跟不上技术发展的速度。受害的个人或群体想要证明损害并获得赔偿，在现有体制下困难重重。

3. 个人信息与隐私

2024年是AI与个人信息保护之间法律纷争集中爆发的一年。仅在美国联邦法院，就有超过1970起数据隐私相关诉讼被提起，比2023年大幅增长。

2023年，美国一家医院引入的AI聊天机器人被发现将患者的敏感信息传输到外部。患者输入的症状、姓名、出生日期、就诊记录等，以日志文件的形式被存储在外部云服务器上。患者在与AI对话时，完全不知道自己的信息被送往何处。

更令人不安的是，生成式AI本身就暗藏个人信息泄露的风险。2024年的研究证实，GPT模型曾从训练数据中生成包含真实姓名、电子邮箱、电话号码的句子。AI在学习过程中「记住」的个人信息，会随机被吐出来。

2024年，华盛顿州施行了「我的健康我的数据法（MHMDA）」。这是第一部保护HIPAA覆盖范围之外消费者健康数据的综合性州法律。法律刚一生效，就有人对亚马逊提起了首例诉讼，指控健康类应用和在线健康服务在未经用户同意的情况下收集健康数据。

自动驾驶汽车正在成为隐私侵犯的新温床。特斯拉、BMW等品牌的车辆会收集驾驶者的位置、驾驶模式，甚至车内对话。2024年，得克萨斯州总检察长起诉了通用汽车，指控GM未经授权出售驾驶者的驾驶数据。

更可怕的是「神经数据（neural data）」的出现。2024年，加利福尼亚和科罗拉多两州修改了个人信息保护法，将神经数据纳入保护范围。VR设备、脑电波监测装置、可穿戴设备已经开始收集我们的脑部活动和思维模式。

2024年，联邦贸易委员会（FTC）接连处罚了出售位置数据的数据经纪商。InMarket、X-Mode、Mobilewalla、Gravy Analytics等公司因在未经消费者同意的情况下出售敏感地点的精确位置数据而受到制裁。

问题在于，这些个人信息的收集和使用在我们毫不知情的情况下进行。领英（LinkedIn）从2024年9月起将用户数据用于AI训练，但大多数用户对此一无所知。要找到并关闭这个选项，用户得在复杂的设置菜单里层层翻找。

中国在2023年率先制定了AI监管法规。《生成式人工智能服务管理暂行办法》要求AI企业加强个人信息保护。美国方面，白宫在2022年发布了「AI权利法案蓝图」，但这只是不具约束力的指导方针。

人工智能越聪明，我们的隐私就越危险。我们为了便利而交出的数据，到底被怎样使用了？我们真的清楚吗？

4. 一本书价格的版权费，够吗？

2025年6月24日，加州联邦法院作出了人工智能历史上最重要的判决之一。威廉·阿尔萨普（William Alsup）法官在作家们起诉Anthropic的版权案中裁定：「购买一本书并用于AI模型训练，不构成版权侵权。」

这一判决在AI行业掀起了巨大波澜。阿尔萨普法官将AI训练认定为「转化性使用」，判词写道：「正如读者通过学习成为作家，AI并非复制作品，而是将其作为新创作的基础。」

但这份判决附有一个重要限定。法官承认Anthropic「从互联网盗版网站免费下载了数百万册受版权保护的书籍」，并将这部分争议交由2025年12月的庭审处理。

三个月后的2025年9月5日，传来了出人意料的消息：Anthropic与作家们达成了15亿美元（约合人民币108亿元）的和解。根据和解条款，Anthropic将为约50万本书支付费用，每本3000美元。

这是围绕AI与版权的第一笔大规模和解。法律分析师威廉·朗（William Long）分析说：「如果继续打下去，Anthropic可能面临数十亿美元的赔偿，金额甚至足以让公司破产。」

争端的起因是AI训练数据的来源。包括Anthropic的Claude在内，大多数大型语言模型都使用了名为「Books3」的数据集进行训练。这个数据集中包含从Library Genesis（LibGen）、Pirate Library Mirror等盗版图书网站收集的数百万册书籍。

OpenAI的GPT-3.5所用训练数据的规模超出想象：从网络采集的4100亿个token，额外网络文本190亿个，从书籍中提取的670亿个句子，维基百科的30亿个词。这些数据绝大部分未经原作者许可就被使用了。

吉卜力工作室的争议暴露了这个问题的另一个侧面。2024年OpenAI推出ChatGPT-4o的图像生成功能后，全球掀起了制作「吉卜力风格」图像的热潮。连OpenAI的CEO山姆·奥特曼都把自己的头像换成了吉卜力风格。

但这股热潮背后隐藏着复杂的版权问题。宫崎骏导演在2016年NHK纪录片中看到AI动画后说：「这部作品本身就是对生命的亵渎。我丝毫没有把这种技术引入我作品的想法。」

画家卡拉·奥尔蒂斯（Karla Ortiz）批评道：「这再次清楚地表明，像OpenAI这样的公司根本不在乎艺术家的作品和生计。」她正在对其他AI图像生成公司提起版权诉讼。

新闻行业也在强烈反对。《华尔街日报》母公司新闻集团的杰森·孔蒂表示：「要用《华尔街日报》记者撰写的文章来训练AI，必须取得适当许可。OpenAI并没有跟我们签订合同。」

韩国也出现了类似的争议。韩国新闻协会主张：「新闻内容被用于AI训练时，侵犯了新闻机构的著作权及其作为数据库制作者的权利。」

AI公司声称这些行为属于「合理使用（fair use）」。但韩国新闻协会反驳称：「这种使用并未实现与原作品不同的新功能，反而可能替代对原作品的需求。因此不构成转化性使用，合理使用不成立。」

2024年爆发了大量著作权诉讼。《纽约时报》诉微软与OpenAI、Getty Images诉Stability AI、环球音乐集团诉Anthropic、唱片公司诉Suno和Udio，这些案件接连涌现。2025年6月，迪士尼和NBCUniversal对Midjourney提起诉讼，理由是艾莎、小黄人、达斯·维达、荷马·辛普森等角色被擅自使用。

最近的一起发生在2025年9月，华纳兄弟探索公司在加州联邦法院对Midjourney提起诉讼。另一方面，2025年8月Elon Musk旗下的xAI对苹果和OpenAI提起诉讼，AI行业内部的法律纷争也在不断蔓延。

不过，也有对AI公司有利的判决出现。2025年6月，Meta在莎拉·西尔弗曼和塔-内西·科茨的诉讼中胜诉。文斯·查布里亚（Vince Chhabria）法官批准了Meta的即决判决申请。

在这样的背景下，Anthropic的15亿美元和解成为重要先例，预计将影响其他诉讼的走向。但根本性的问题依然存在：如果AI学习了人类所有的创作成果并由此产出新内容，原创者应当获得怎样的补偿？

我们沉浸在人工智能带来的便利和效率中。但在这背后，肯尼亚的年轻人正饱受精神疾病折磨，算法在歧视特定种族和性别，我们的隐私被非法收集，创作者的权利遭到侵害。

技术进步若要真正增进人类的幸福，我们就不能对这些阴暗面视而不见。人工智能要成为真正惠及所有人的技术，就需要在追求技术性能的同时，建立重视公平性、包容性和人的尊严的开发文化与社会共识。

Garbage in, garbage out。输入偏见与剥削，输出的就是偏见与剥削。我们选择输入什么样的数据，将决定未来AI的面貌，以及未来世界的走向。