AI招聘工具歧视诉讼：Workday或难逃法律责任

一位联邦法官驳回了Workday关于其工具在其他州用于筛选求职者时不受加利福尼亚州反歧视法律约束的主张。

本周，美国地区法官Rita Lin表示，她很可能允许针对Workday的更多州歧视索赔诉求继续推进。这将大幅扩展这一备受关注案件的范围，并可能进一步加剧外界对AI招聘工具在年龄、种族、性别、残障等方面潜在偏见问题的审视。

此外，这一进展可能意味着，即便某家公司并非最终雇主，只要其工具对候选人的淘汰结果产生实质性影响，该公司也可能承担相应法律责任。专家指出，这可能为AI招聘系统树立新的法律标准，并对多个行业产生深远影响。

Info-Tech研究集团咨询研究员Valence Howden表示："这个案件进一步强调了切实管理AI风险的重要性。如果一个启用了AI的模型或申请人追踪系统（ATS）基于历史数据进行决策，就会引发人们对结果和数据集中的偏见是否得到妥善处理的质疑。"

案件背景

Mobley诉Workday公司一案指控Workday的AI筛选工具在求职过程中存在基于年龄、种族和残障状况的歧视行为。该诉讼由Derek Mobley于2024年在美国加利福尼亚州地区法院提起。Mobley是一名年龄超过40岁的黑人残障男性，他声称自己通过该平台申请了100多个职位，但Workday的算法始终将其筛除在外。

诉讼指控涉及多项美国及加州法规所禁止的歧视行为：依据1964年《民权法案》（第七章）的种族和性别歧视；依据1990年《美国残疾人法案》（ADA）的残障歧视；依据1967年《就业年龄歧视法》（ADEA）的年龄歧视；以及依据加州《公平就业与住房法》（FEHA）的种族、性别和年龄歧视。

诉讼核心指向Workday使用自动化、算法驱动工具进行申请人筛选的做法。诉状指出，这些系统依赖历史数据和统计建模，即便没有明确输入种族、年龄、性别或残障等受保护特征，也可能对现有偏见具有易感性。

原告方认为，偏见可能通过多种途径渗入这些系统，包括训练数据、模型设计以及候选人适配性的评估标准。系统可能通过数据关联复现歧视性结果。例如，简历中的工作年限可能暗示年龄；较长的就业空白可能被推断为残障或承担照护责任；教育经历和院校背景可能折射出种族信息。

Workday方面主张，由于其并非求职者的"雇主"，因此不适用就业法规的相关责任条款。但联邦法官已允许诉讼的关键部分继续推进，裁定Workday在反歧视法律适用层面可能被视为雇主的"代理人"。

最新争议焦点集中于FEHA条款。根据法律信息来源，该加州法规被认为是美国最严格的反歧视法律之一，在许多情况下比联邦就业法律提供更广泛的保护。

Workday请求法院驳回依据加州法律提出的索赔主张，认为FEHA不应适用于外州雇主和申请人的招聘决策，并主张此举将使加州法律凌驾于其他州法律之上，仅仅因为相关公司使用了其平台。

然而，Lin法官对此持不同意见，认为FEHA确实适用，而且Workday需直接为其"代表雇主从事的受FEHA监管活动"承担责任。她指出，追究企业"自身歧视行为"的法律责任，完全在FEHA的立法目的和范围之内，也符合公共政策导向。不过，此案尚未作出最终裁决，Lin法官未说明何时发布终审意见。

Workday的立场与回应

Workday发言人将诉讼中的指控定性为"失实"。

"Workday的AI招聘工具不会作出招聘决定，其核心设计理念是确保人工监督始终参与其中，"该发言人向CIO表示，"我们的技术仅关注岗位资质，不涉及种族、年龄或残障等受保护特征。我们在负责任AI项目框架下对产品进行严格测试，以确认我们的工具不会对受保护群体造成伤害。"

Workday表示，其平台旨在提供候选人资质与岗位要求的匹配度评估，相关工具仅聚焦于候选人申请材料中列明的资质信息，并将其与雇主认定的岗位重要资质进行比对。

Workday首席负责任AI官Kelly Trindel表示，公司的AI不会作出就业决策、自动拒绝候选人或决定谁获得职位；她还表示，目前没有证据表明公司工具会对受保护群体造成伤害。

Trindel曾任平等就业机会委员会（EEOC）首席分析师，现领导一支由心理学家和博士级数据科学家组成的专职团队，专注于确保公司AI系统"负责任、公平且合乎伦理"。她表示，公司AI系统在整个生命周期中接受持续审查，以防止意外后果的发生。Workday致力于"问责、透明与信任"，并在识别和缓解偏见方面投入"大量资源"。

Trindel还指出，Workday在全公司范围内践行负责任AI承诺，并建立了基于美国国家标准与技术研究院（NIST）及国际标准化组织（ISO）标准的独立评估AI治理体系。

"Workday构建AI的目的是支持人，而非取代人，这在招聘领域尤为重要，"Trindel强调。其平台旨在帮助雇主"更高效地管理高流量流程，呈现相关信息，减少行政事务负担，从而让团队将更多时间和精力用于发挥专业判断，作出招聘决策。"

行业影响与企业应对建议

Workday并非唯一面临法律挑战的企业。其他AI招聘工具同样因其方法论、算法和数据收集实践而受到审查。Eightfold就面临加州集体诉讼，被指控其工具不当依赖求职者的线上数据来预测其岗位匹配度。

这意味着，企业在已承受记录招聘决策、开展AI偏见审计、维持招聘流程中人工监督等压力的同时，还必须在审查AI工具方面投入更多精力。

Info-Tech研究集团的Howden建议，企业必须积极界定这些招聘工具的运作方式，识别其算法中的偏见，并建立机制，对工具的决策逻辑进行全面的偏见测试。

"对无偏见结果的验证也需要持续推进，而非一次性的时间点检验，"他说道。

尽管Workday等公司声称人工监督是核心原则，但Howden指出，"如果平台在人工介入之前就已完成筛除工作，将人工审核纳入流程本身就相当困难。"

他表示，歧视性偏见可能早已存在于过去的招聘决策中，因此AI很容易"将这些偏见内化并作为其判断视角的一部分加以沿用"。这包括AI对语言的解读方式：不同文化群体使用不同的表达习惯，而AI可能捕捉并利用这些差异来排除某些候选人。

他最终将这一案件定性为一个"警示故事"，揭示了部分企业对AI风险的轻视态度，同时也凸显出构建更完善的企业风险管理体系的紧迫性，而非继续依赖此前那些能力有限的应对方式。

Q&A

Q1：Workday的AI招聘工具被指控存在哪些歧视问题？

A：Workday的AI招聘工具被指控在筛选求职者时存在基于年龄、种族和残障状况的歧视行为。原告Derek Mobley声称，他通过该平台申请了100多个职位，均被算法筛除。诉状指出，这些工具依赖历史数据和统计建模，即便未明确输入受保护特征，也可能通过简历中的工作年限推断年龄、通过就业空白推断残障状况等方式间接产生歧视性结果。

Q2：加州FEHA法规为何在这次Workday诉讼中至关重要？

A：FEHA（加州公平就业与住房法）被认为是美国最严格的反歧视法律之一，在许多方面比联邦就业法提供更广泛的保护。本案中，法官Rita Lin认为FEHA适用于Workday，即便招聘决策发生在加州以外，Workday也需为其代表雇主从事的受FEHA监管活动直接承担责任。这一裁定可能大幅扩展案件范围，并为AI招聘系统设立新的法律责任标准。

Q3：企业在使用AI招聘工具时应如何规避歧视风险？

A：专家建议企业应积极界定AI招聘工具的运作边界，识别算法中潜在的偏见来源，并建立覆盖工具决策逻辑的全面测试机制。对无偏见结果的验证应持续进行，而非仅做一次性检验。此外，企业还需确保人工审核能够在平台完成候选人筛选之前介入流程，避免出现AI已完成排除工作、人工监督形同虚设的局面。