26名员工起诉Meta,指控其内部AI系统(活动监控、token使用量看板和绩效排名)使裁员对休病假或育儿假的人产生偏见;此案被视为首例算法就业歧视重大案件。Meta否认:"做决定的是人,不是AI。"
多年来,关于AI风险的讨论一直围绕着产品打转:会胡编乱造的聊天机器人、伪造的图像、带bug的代码。本周,战线转移到了一个更加私密的领域。CNBC等媒体报道称,26名Meta的现任和前任员工起诉该公司,指控其内部人工智能系统参与决定了在一轮约8,000个岗位的裁员(约占员工总数的10%,于5月宣布)中裁掉谁,并且这种做法对正在休病假或育儿假的员工构成了歧视。这不是一起关于AI制造了什么的诉讼,而是一起关于AI对人做出什么决定的诉讼。
当生产力评分喂养裁员名单
根据诉讼内容,Meta依赖一整套自动化信号来对员工的绩效进行排序和比较:键盘敲击与活动监控数据、AI token使用量看板,以及算法辅助的绩效排名。原告称,问题在于这些指标从结构上惩罚了那些因法律保护的原因而缺勤的人:一个休了产假、做了手术或患有某种病症的人,产生的可测量活动更少,而且——根据诉状本身的措辞——这些评分对处于受保护休假状态的员工来说"无法被累积"。当这一评分喂养裁员对象的筛选时,一次受法律保护的休假在实践中就转化成了更高的失业概率。在26名原告中,近一半曾休过护理假或孕产假:8名休产假的女性、4名休育儿假的男性,还有一名先是照顾家人、随后又休了丧亲假的女性。
四部联邦法律被指违反,而辩护只有一句话
诉讼动用了美国劳动法的重型武器:FMLA(保护医疗和家庭休假)、ADA(保护残障人士)、Pregnancy Discrimination Act 和 Pregnant Workers Fairness Act。核心论点是:一个自动化系统不会仅仅因为它是算法就豁免于这些法律——如果结果构成歧视,那就是歧视,无论签字的是一位经理还是一个模型。而Meta则以一句紧凑却意味深长的辩护作为回应:它坚称这些决定"是人做出的,不是AI",并称这些指控"缺乏依据,也不符合事实"。这句话恰恰是本案的战场,因为决定这场诉讼胜负的问题,不在于最后是否有一个人参与,而在于这个人相对于一份已经由机器排好序的名单,究竟起了多大的实际作用。
为什么此案打开的是一扇关不上的门
尽管AI在人力资源中的应用已经增长多年——简历筛选、绩效评估、离职预测——但此前几乎所有的诉讼都停留在理论层面或不为人知。这一次不同,原因有三:被告的体量、指控的明确性(这不是一种模糊的偏见,而是"评分惩罚了一次受保护的休假"),以及它针对的是应用于对人而非对产品做决定的AI。无论输赢,它都划定了界限:从今往后,任何用自动化评分来决定招聘、晋升或裁员的企业,都会知道法官的问题将是"把痕迹拿给我看"。谁给谁打了分,用了什么数据,谁审查了名单,审查之后又改了什么。算法歧视不再是一场学术研讨会,而变成了一起有名有姓的诉讼。
这对用AI搭建产品的人意味着什么
这里的教训不是"用AI做决定是坏事"。它更令人不安,也更有用:一旦一个自动化系统触碰到一个影响某个人的决定,价值就不再只在于结果,而转移到了能否证明这个结果是如何得出的。一个没有痕迹的评分是无法辩护的;一个有真正参与审查的人、并记录了他看到了什么、决定了什么的评分,则是另一回事。在 NeuralOS,我们对自动化和智能体正是遵循同样的准则:敏感操作在执行前须经过明确的人工审批,每一步都记录在 audit-log 里——谁、做了什么、何时、用了什么数据——而不是消失在一个黑箱之中。我们不把这当作口号,也不承诺它能让你免于诉讼;我们这么说,是因为Meta这个案子毫不含糊地表明:"人在环路中"只有在你能证明他确实在场时才算数。自动化很容易,能够解释一个决定,才是真正的活儿。