従業員26名が、社内AIシステム（活動監視、トークン使用量ダッシュボード、業績ランキング）が医療・育児休暇者に不利に働く形で解雇を偏らせたとしてMetaを提訴。労働分野のアルゴリズム差別の初の大型事案とされる。Metaは否定：「決めたのは人間であって、AIではない」。
長年にわたり、AIのリスクをめぐる議論はプロダクトを中心に展開してきた。幻覚を起こすチャットボット、偽の画像、バグを含むコード。今週、その最前線ははるかに個人的な領域へと移った。CNBCをはじめとするメディアの報道によれば、Metaの現・元従業員26名が同社を提訴し、社内の人工知能システムが解雇対象者の選定を後押ししたと主張している。対象となったのは約8,000名の削減——5月に発表された、全従業員の約10%にあたる規模——であり、しかもそれが医療休暇や育児休暇中の労働者に対して差別的な形で行われたという。これはAIが「何を生み出すか」をめぐる訴訟ではない。AIが「人について何を決めるか」をめぐる訴訟だ。
生産性スコアが解雇リストを作るとき
訴状によれば、Metaは従業員のパフォーマンスを序列化し比較するために、一連の自動化されたシグナルに頼っていた——キー入力や活動の監視データ、AIのトークン使用量ダッシュボード、アルゴリズム支援による業績ランキングだ。原告らが問題視するのは、こうした指標が、法的に保護された理由で不在だった人を構造的に罰する点である。産休、手術、あるいは何らかの疾病で休んだ人は、測定可能な活動量が少なくなる。そして訴状の文言そのものによれば、設計上、そうしたスコアは保護された休暇中の従業員によっては「累積されえない」。そのスコアが削減対象の選定に流し込まれると、法律で守られた休暇が、実際には解雇される確率の上昇へと翻訳されてしまう。原告26名のうち、約半数がケアや妊娠を理由に休暇を取っていた——産休を取った女性8名、育児休暇を取った男性4名、そして家族を介護した後に忌引休暇を取った女性1名だ。
4つの連邦法が標的に、そして一文だけの弁明
訴状は米国労働法の重砲を持ち出している：FMLA（医療・家族休暇を保護する）、ADA（障害のある人を保護する）、Pregnancy Discrimination Act、そしてPregnant Workers Fairness Actだ。その論旨は、自動化されたシステムだからといってアルゴリズムであることを理由にこれらの法律を免れるわけではない、というものである——結果が差別的なら、それは差別であり、署名したのが管理職か、モデルかは関係ない。一方のMetaは、簡潔かつ示唆に富む弁明で応じた。決定を下したのは「AIではなく人間である」とし、主張には「メリットがなく、事実に基づいていない」と述べている。この一文こそが本件の戦場そのものだ。訴訟の帰趨を決める問いは、最後に人間がいたかどうかではなく、機械がすでに序列化したリストを前に、その人間が実際どれだけの重みを持っていたか、だからである。
なぜこの事案は、二度と閉じない扉を開くのか
人事におけるAIの利用——履歴書のフィルタリング、業績評価、離職予測——はここ数年増え続けてきたが、これまでの訴訟のほとんどは理論上のものか、注目度の低いものだった。本件が異なるのは3つの理由による：被告の規模、告発の明確さ（漠然としたバイアスではなく、「スコアが保護された休暇を罰した」というもの）、そしてそれがプロダクトではなく人についての決定に適用されたAIを突いている点だ。勝っても負けても、この訴訟は地形を定める。これ以降、採用・昇進・解雇を決めるために自動化されたスコアリングを使うあらゆる企業は、裁判官の問いが「その痕跡を見せなさい」になることを知る。誰が誰を、どんなデータで採点したのか、誰がリストを見直したのか、そしてその見直しの後で何が変わったのか。アルゴリズム差別は、学術的なパネルであることをやめ、名前と姓を持つ訴訟になった。
AIで構築する人にとって、これが意味すること
教訓は「意思決定にAIを使うのは悪い」ではない。もっと居心地が悪く、もっと役に立つものだ：自動化されたシステムが人に影響する決定に触れた瞬間、価値は結果だけにあるのをやめ、その結論にどう到達したかを示せることへと移る。痕跡のないスコアは弁護不能だ。本当に見直しを行う人間がいて、何を見て何を決めたかの記録があるスコアは、別物である。NeuralOSでは、自動化とエージェントについてまさに同じドクトリンから出発している：機微な操作は実行前に明示的な人間の承認を通し、各ステップは——誰が、何を、いつ、どんなデータで——ブラックボックスの中に消えるのではなく、audit-logに記録される。これをスローガンとして言っているのではないし、それで訴訟から守られると約束しているのでもない。言うのは、Metaの事案が煙なしに教えてくれるからだ——「human in the loop（人間の関与）」は、その人がそこにいたと証明できて初めて意味を持つ、と。自動化するのは簡単だ。決定を説明できること、それこそが本当の仕事である。