AI书房
用书来读懂AI
这里收录金京镇律师的AI、法律、产业、历史、政治、文化主题在线书。每本书都按目录、序言、章节、尾声整理,方便连续阅读。
[AI书房] 第5章 AI招聘歧视与算法偏见:被拒绝100次的人
人工智能AI走上法庭
第二部 算法歧视与监管执法
第5章 AI招聘歧视与算法偏见:被拒绝100次的人
金京镇律师
一、Mobley v. Workday 里程碑案件(算法拒绝了我)
(1) AI雇佣决策的代理人(Agent)责任论
德里克·莫布利向100多家公司投了简历。没有获得哪怕一次面试机会。
他是黑人。
40多岁。
曾被诊断患有焦虑症。
他的简历上写着历史悠久的黑人大学(HBCU)毕业经历,毕业年份明确标注为1995年。
他有数十年积累的工作经验。
那为什么连一次面试机会都没有得到?
有一天他发现了一个奇怪的规律。提交申请不到一小时,拒绝邮件就到了。而且是在凌晨。如果是人工审核,这个速度根本不可能。
他找了律师。
2023年2月,莫布利向加利福尼亚北区联邦法院提交了诉状。被告不是拒绝他的那100家公司,而是一家叫Workday的公司。Workday是一家提供人力资源管理软件的企业,全球数千家企业使用它的招聘平台。莫布利投递的100多家公司,绝大多数都在使用Workday的系统。这里出现了一个有趣的法律问题:Workday不是莫布利的雇主,从未打算雇用他,只是提供了招聘工具而已。那么Workday需要为雇佣歧视承担责任吗?
莫布利的律师团队搬出了「代理人责任论(Agent Liability)」这一法律原理。打个比方:你委托房产中介卖房子。
如果中介只对特定种族的买家不带看房,那中介同样要承担歧视责任,因为他是以你的代理人身份行事。莫布利一方的主张是,Workday也一样。Workday不只是提供了工具,它在决定谁能进入面试、谁被淘汰这件事上扮演了核心角色。
Workday反驳说:我们不是雇主,雇佣决策由客户企业做出,我们只是按照客户设定的标准运行的软件。
2024年7月12日,丽塔·林(Rita Lin)法官驳回了Workday大部分的撤案申请。
判决书中的关键表述是这样的:「Workday的软件并非机械地执行雇主设定的标准,而是参与了决定推荐哪些求职者、淘汰哪些求职者的决策过程。」
这一句话震动了整个AI招聘工具行业。
(2) 年龄、种族、残障的复合歧视认定
莫布利的诉讼不是一起普通的年龄歧视案。
他同时主张了三种受保护特征:年龄(40岁以上)、种族(黑人)、残障(焦虑症)。法律上把这称为「复合歧视(Intersectional Discrimination)」。
解释复合歧视最简单的方法是用数学。假设因为是黑人受到5%的不利影响,因为是40多岁受到5%的不利影响,因为有残障受到5%的不利影响。简单相加是15%。但在现实中,这些不利影响是相乘的。一个40多岁的黑人残障者,可能比20多岁的白人非残障者遭受大得多的不利对待。
莫布利的律师团队主张,AI系统可能进一步放大这种复合歧视。
Workday的算法会看求职者的毕业年份。1995年毕业,大致可以推算年龄。
会看历史黑人大学的毕业经历。可以推断种族。
会看简历中的空白期。可以猜测是否有健康问题。
算法综合所有这些信息,给出一个「招聘推荐评分」。
问题在于,这个评分是怎么算出来的,没有人确切知道。
林法官认定莫布利的复合歧视主张具有充分的合理性,可以进入实体审理阶段。她注意到莫布利「向100多个不同职位投递了申请,却在所有申请中都被筛选阶段拒绝」,并且「拒绝邮件在非工作时间、投递后一小时内送达」。将这两个事实结合起来,可以合理推断Workday的算法并非基于资质条件,而是基于受保护特征自动拒绝了求职者。
(3) Workday AI系统分析与集体诉讼扩展
2025年5月16日,此案进入了新阶段。林法官批准了依据《就业年龄歧视法》(ADEA)的集体诉讼条件性认证。
我来解释为什么集体诉讼认证如此重要。
如果莫布利独自进行诉讼,Workday只需要赔偿他一个人。
但一旦集体诉讼获得认证,所有处境相似的人都可以加入。根据Workday法律团队提交给法院的文件,在相关期间内通过Workday系统被拒绝的申请有11亿份。其中筛选出40岁以上的求职者,可能达到「数亿人」。
Workday正是以此为由申请驳回:对数亿人进行集体诉讼在实务上不可能执行。林法官的回应干脆利落:「如果集体规模达到数亿人,那是因为Workday正面临歧视了数亿人的指控。广泛的歧视指控不能成为拒绝通知的理由。」
判决后,双方开始讨论如何通知集体成员参与诉讼的方式。
2025年12月,法院批准了通知方案。传统集体诉讼通过邮寄方式发送通知书,但向数亿人寄信根本做不到。
林法官允许通过社交媒体进行通知,甚至允许通过Workday自身的平台进行通知。这在集体诉讼历史上前所未有。
此案的意义远超一场诉讼本身。所有提供AI招聘工具的供应商都在密切关注。如果Workday败诉,HireVue、ATS、Pymetrics等其他AI招聘工具公司也可能面临类似诉讼。使用这些工具的雇主同样如此。林法官在判决书中明确指出:「本案是对AI招聘工具进行的首批大规模法律检验之一。」
二、EEOC及联邦机构执法案例
(1) iTutorGroup年龄歧视和解:首例联邦处罚
2023年8月,美国平等就业机会委员会(EEOC)发布了一则历史性公告。一家名为iTutorGroup的在线英语教育公司,因其AI招聘系统实施年龄歧视,同意向联邦政府缴纳36.5万美元。
iTutorGroup的AI系统逻辑很粗暴。
确认求职者年龄后,女性55岁以上、男性60岁以上,自动淘汰。人工还没看到简历就已经被刷掉了。这是赤裸裸的故意歧视,直接在算法里写死了「55岁以上女性淘汰」的规则。
EEOC将此案作为AI招聘歧视的首例联邦处罚大力宣传。时任EEOC主席夏洛特·伯罗斯(Charlotte Burrows)在声明中说:「雇主不能将AI和算法当作歧视的挡箭牌。如果技术做出了歧视性决定,那依然是违法的。」
iTutorGroup案件从某种意义上说是一个简单的案件,因为那是明显的故意歧视。更难的问题在别处:当算法并无主观意图,却在客观结果上给特定群体带来不利时,该怎么办?法律术语把这种情况叫作「差别影响(Disparate Impact)」。Mobley诉Workday案正是围绕这一差别影响展开的。
(2) AI招聘工具审计现状与标准
2023年5月,EEOC发布了一份关于AI招聘工具的技术指南。这份文件向雇主说明,在使用AI工具时应如何遵守《民权法》第七编(Title VII)。
核心信息是这样的。
定期检查AI工具是否对特定受保护群体产生不成比例的影响。一旦发现存在不成比例的影响,就必须证明该工具与岗位相关且属于业务必需。
然而到了2025年1月,局势骤变。
唐纳德·特朗普总统一上任就发布了AI相关行政命令。1月20日,废除了拜登政府的AI行政命令。1月23日,签署了题为「消除美国AI领导力障碍」的新行政命令。该命令要求联邦机构审查现有AI政策,并撤回「阻碍创新」的政策。
1月27日,EEOC网站上与AI相关的指南消失了。2023年5月的Title VII指南、2022年5月的《残疾人法》(ADA)相关指南、2024年12月的可穿戴设备相关指南,全部下架。劳工部(DOL)也是如此。「AI与包容性招聘框架」「AI最佳实践」等文件均无法访问。
但指南消失了,法律并没有消失。《民权法》第七编、《反年龄歧视法》(ADEA)、《残疾人法》(ADA)依然有效。
这些法律是国会制定的,总统不能通过行政命令将其废除。Mobley诉Workday案仍在继续审理,这本身就是证据。
2025年4月,特朗普总统又进了一步。他通过题为「恢复机会平等与能力主义」的行政命令,指示联邦机构缩减基于「差别影响」理论的执法力度。这直指Mobley案的核心法理。但它对民间诉讼无法产生直接影响。Mobley的律师是以私人身份提起诉讼的,而非以联邦政府的名义。
截至2026年,美国正处在一个微妙的局面。联邦政府机构事实上已停止对AI招聘歧视的执法。但民间诉讼仍在继续。与此同时,各州政府开始填补这一空白。
三、纽约市的实验
(1) 纽约市第144号地方法:自动化雇佣决策工具(AEDT)偏见审计义务化
2023年7月5日,纽约市在全球率先实施了针对AI招聘工具的监管。纽约市第144号地方法(Local Law 144)对所有使用「自动化雇佣决策工具(Automated Employment Decision Tool, AEDT)」的雇主提出两项要求。
一是每年实施独立的偏见审计。
二是公开审计结果,并告知应聘者AI工具的使用情况。
什么是偏见审计呢?可以想象一场学校考试。一个班里有100名男生、100名女生,大家一起参加考试。男生中50人通过了,通过率50%。女生中35人通过了,通过率35%。
问题来了:为什么女生通过率更低?是女生学得不好,还是试卷本身有问题?
美国雇佣法设计了一个简便的计算方法。用女生通过率除以男生通过率。35除以50,等于0.7,也就是70%。这个数字低于80%,就亮起了红灯,意味着考试可能不够公平。
这就是「4/5规则」。五分之四,80%。当一个群体的通过率不到另一个群体的80%,这套系统就会受到质疑。它说明系统可能在对某个群体产生不利影响。
偏见审计就是把这套计算方法应用到AI招聘工具上。男性与女性,白人与黑人,年轻人与中年人,逐一比较各群体的通过率,看是否越过了80%的基准线。没能达标,就说明AI可能存在歧视。
2025年12月,纽约市审计长(Comptroller)报告出炉了。报告指出,法律实施两年以来,实质性的执法几乎没有展开。许多企业只是走过场地做偏见审计,或者根本没有妥善公开审计结果。尽管如此,纽约市这部法律留下了重要的先例,因为其他州和城市开始以它为参照,制定更有力度的监管措施。
(2) 伊利诺伊州SB 1398:AI招聘监管
伊利诺伊州在AI招聘监管方面一直走在前列。
自2020年起施行的「AI视频面试法(Artificial Intelligence Video Interview Act)」要求雇主在使用AI分析视频面试时,事先通知应聘者并取得其同意。
2025年又迈出了新的一步。HB 3773号法案将于2026年1月1日生效。该法禁止在招聘、晋升、解雇等雇佣决策中使用AI时,基于受保护特征实施歧视,并要求雇主将AI的使用情况告知应聘者和员工。
伊利诺伊州法律的特点在于,它在现有反歧视法的框架内对AI进行监管。不创设新的法律概念,而是明确现有的反歧视原则同样适用于AI。
(3) 科罗拉多州AI法案:差别影响事前防范义务
科罗拉多州尝试了最为大胆的AI监管。2024年5月通过的SB 24-205,即「科罗拉多AI法案(Colorado AI Act)」,以欧盟AI法为蓝本,建立了针对「高风险AI系统」的全面监管框架。
这部法律的核心是「防止算法歧视」。在雇佣、住房、金融、医疗、教育领域中用于重大决策的AI系统,其开发者和部署者必须尽到「合理注意(reasonable care)」义务来防止歧视。具体而言,需要开展影响评估(impact assessment)、制定风险管理政策、告知消费者AI的使用情况。然而这部法律还没正式施行就陷入了争议。2025年5月,科罗拉多州州长杰瑞德·波利斯(Jared Polis)致信州议会,要求推迟法律的生效日期。他担心这部法律会创造出「复杂的合规体系」,给企业造成过重负担。
2025年8月,科罗拉多州议会召开了特别会议。多份修正案被提交上来:有要求全面废除的,有大幅缩小适用范围的,有扩大小型企业豁免的。谈判陷入僵局。
最终在8月26日,参议院多数党领袖罗伯特·罗德里格斯(Robert Rodriguez)没有提交妥协方案,而是提交了一份延期生效的法案。原定2026年2月1日的生效日期推迟到2026年6月30日,延后了5个月。
8月28日,波利斯州长签署了这项法案(SB 25B-004)。科罗拉多AI法案的所有实质性要求原封不动保留,只是生效时间推迟了而已。
但新的复杂因素出现了。2025年12月11日,特朗普总统签署了题为「确保美国AI政策的国家框架」的行政命令。该命令批评「州级过度监管」妨碍AI创新,并指示司法部设立「AI诉讼特别工作组」,对有问题的州法提出法律挑战。有观察人士认为,科罗拉多AI法案可能成为第一个靶子。
联邦政府与州政府之间的这种张力,看来短期内不会消解。联邦政府优先考虑AI产业的创新,州政府优先保护公民权益。企业夹在中间,不知道该遵循哪套规则。
四、企业纠纷案例
(1) Intuit/HireVue事件
2019年,美国公民自由联盟(ACLU)和电子隐私信息中心(EPIC)向联邦贸易委员会(FTC)提交了针对HireVue的调查请求。
HireVue是一家视频面试平台,利用AI分析应聘者的面部表情、语音语调和用词选择,给出「录用可能性评分」。
ACLU的主张是这样的:HireVue的系统依赖缺乏科学依据的「情绪识别」技术,这项技术可能对特定种族或残障人士产生不利影响。比如,处于自闭症谱系的人可能不会表现出「正常」的眼神接触或面部表情;黑人的面部表情可能被解读为与白人的不同含义。
HireVue回应了这些批评,宣布于2021年移除了面部分析功能。但语音分析和语言分析仍在使用。据2023年《波士顿环球报》报道,HireVue依然在用机器学习对应聘者的回答进行评分,只不过分析的不再是视频和音频,而是转写成文字后的答案。
Intuit、达美航空、T-Mobile、波士顿红袜队等大企业都曾使用HireVue。FTC没有就ACLU的投诉采取正式行动,但这一事件引发了公众对AI招聘工具的广泛讨论。
(2) Baker v. CVS:算法筛选争议
布伦丹·贝克(Brendan Baker)是马萨诸塞州米尔顿镇的一名居民。
2021年1月,他申请了CVS药房的供应链管理职位。他没有被录用。后来他才知道自己的面试是怎么进行的。CVS使用了HireVue的视频面试系统。应聘者在屏幕前回答问题,全程录像。问题大概是这样的:「诚信对你意味着什么?」「如果你看到有人在考试中作弊,你会怎么做?」「请讲一个你诚实行事的经历。」
录制的视频被传送到一个叫Affectiva的第三方平台。
这家从MIT媒体实验室剥离出来的公司,用AI分析面部表情、眼神接触、语音语调和语气变化。根据分析结果,HireVue会给应聘者打一个「录用可能性评分」。评分项目里包括「诚信与责任感」。
HireVue的营销材料声称,这套系统能识别应聘者是否具备「天生的诚实和荣誉感」,能辅助「测谎」,还能「筛掉夸大其词的人」。
Baker在2023年提起了诉讼。他的法律论点来自一个出人意料的角度。
马萨诸塞州有一部《测谎法》(Lie Detector Statute)。这部法律禁止雇主将测谎测试作为录用条件。法律还要求所有招聘申请表上必须写明:「在马萨诸塞州,要求或实施测谎测试作为录用条件是违法的。」
Baker的主张很直接。
HireVue的系统本质上就是一台测谎仪。通过分析应聘者的面部表情和声音来评估「诚信度」,这就是在试图识别欺骗行为。CVS在使用这套系统的同时,没有提供法律所要求的告知。
2024年2月16日,法官Patti B. Saris驳回了CVS的撤案请求。她认定Baker因未收到告知而遭受了「信息性损害(informational injury)」。如果当时收到了告知,他会用「更审慎的眼光」来看待这场面试。2024年7月17日,CVS与Baker达成和解。和解条款未公开。
这个案件留下了一个重要的先例:1980年代制定的测谎仪禁令,可以适用于2020年代的AI技术。
这就是「技术中立(technology-neutral)」法律解释的力量。如果法律禁止的不是某种具体技术(如多导生理记录仪),而是某种目的(如识别欺骗),那么实现同一目的的新技术同样受到约束。在AI时代,这种解释方式会越来越关键。
Baker案、Mobley案,以及联邦与州政府之间的监管博弈,指向同一个大问题:当AI做出招聘决策时,谁来承担责任?是开发算法的技术公司,是购买算法的雇主,还是谁都不用负责?下一章将要讨论的FTC执法案例,会从另一个角度回应这个问题。