アルゴリズム差別とは、採用や与信などの判断に使われるプログラムが、性別・年齢・人種といった属性によって特定の人を不利に扱ってしまう現象です。書類選考、ローンの審査、駅の顔認証と、判断する側が人からアルゴリズムに移る場面は増えています。人間の偏見なら周囲が気づいて指摘できますが、アルゴリズムの偏りは大量の処理の中に隠れ、不利な結果を受けた本人にも理由が伝わらないまま見過ごされがちです。この記事では、アルゴリズム差別が起きる仕組みに加えて、日本国内で実際に何が起き、企業や国がどう動き、読者が就活や審査の場面で何を確認できるのかを整理します。
アルゴリズム差別が起きる3つの入口｜データ・設計・使い方
アルゴリズム差別は、誰かが悪意を持ってプログラムに差別を書き込むというより、開発や運用の途中で無自覚に入り込むケースが多いとされています。入口は大きく3つに分けられます。1つ目は学習に使うデータ、2つ目はモデルの設計、3つ目は完成した仕組みの使い方です。どの入口でも、開発者や利用企業に差別の意図がなくても、結果として特定の属性の人が不利益を受ける点は共通しています。
過去のデータに残った偏りを学習してしまう
機械学習のモデルは、与えられたデータに含まれる過去の傾向をそのまま「正解」として学びます。過去の採用で男性が多く選ばれていれば、「選ばれやすい人」の特徴として男性的な特徴が強化されます。データが古い社会の偏りを映しているとき、モデルはその偏りを未来に持ち越す装置になってしまいます。
設計や評価の甘さが偏りを生む
データに問題がなくても、どの情報を重視するか、どの集団で精度を試すかという設計の段階で偏りが生まれます。開発チームが想定した利用者像が一部の集団に偏っていると、テスト用のデータも同じ偏りを持ちやすくなります。すると、特定の集団で精度が下がっていても、開発中は気づかれません。
使い方の段階で偏りが固定される
仕組み自体の精度が高くても、使い方次第で不利益は生まれます。たとえば、AIが出したスコアを人間がそのまま追認するだけの運用では、人間の確認が形だけになります。本人への説明や異議を受け付ける窓口がなければ、誤った判定が訂正される機会もありません。この3つ目の入口は、利用する企業側の判断で変えられる点が特徴です。
海外の事例が示す共通点｜採用AI、訴訟、顔認証
海外では、採用・司法・顔認証といった分野で、偏りの具体例が報告されてきました。ここで見るべきなのは個別の失敗談よりも、どの事例にも共通する構造です。共通しているのは、過去のデータに頼ったこと、属性を直接使っていなくても属性を推測できる情報が残っていたこと、そして結果が出てから気づいたことの3点です。
Amazonの採用AIは「女性」という語を減点した
Reutersの配信記事（2018年）によると、Amazonは応募書類を自動で評価する社内ツールを開発していました。学習に使った過去約10年分の履歴書は男性からのものが多く、ツールは「women’s」（女子チェス部の主将など）という語を含む書類を低く評価し、女子大の卒業生も減点していたと報じられています。Amazonは、このツールが採用担当者による候補者の評価に使われたことはないとコメントしており、計画は途中で打ち切られました。
この事例は、性別欄を消しても性別が推測できる言葉が残っていれば偏りが再現されることを示しています。
採用ツール提供企業が訴えられた米国の訴訟
米国では、採用管理システムを提供する企業の責任も問われています。Mobley対Workdayの訴訟では、40歳以上の応募者がAIによる選考で不利に扱われたと主張しています。2025年5月、連邦地裁は年齢差別禁止法に基づく請求について、集団訴訟として進めることを予備的に認めました。この決定は責任の有無を判断したものではなく、審理は続いています。
注目されるのは、ツールを提供する企業も、雇用主の代理人として責任を問われうるという主張が審理の対象になっている点です。
顔認証の精度差は開発企業によって大きく違う
顔認証については、米国の国立標準技術研究所（NIST）が2019年12月に報告書（NISTIR 8280）を公表しています。189のアルゴリズムを評価した結果、別人を同一人物と誤認する割合が、アジア系やアフリカ系米国人の顔で白人より高いアルゴリズムが多く見つかりました。一方で、すべてのアルゴリズムが同じ傾向を示したわけではなく、アジアの国で開発されたものでは差が小さい例もありました。
この結果は「顔認証は必ず偏る」という話ではありません。どのデータで学習し、どの集団で性能を確かめたかで結果が変わるという話です。
日本で起きたこと｜内定辞退率問題が突きつけた論点
日本国内でアルゴリズムの使い方が問題になった代表例が、2019年の就職情報サイト「リクナビ」の内定辞退率の提供問題です。海外の事例が「モデルの偏り」を中心に語られるのに対し、日本の事例は「本人が知らないところでスコアが作られ、企業に渡った」という手続きの問題が中心でした。同じアルゴリズムの問題でも、争点が異なることを押さえておく必要があります。
何が起きたのか
リクルートキャリアが運営するサービスは、就活生のサイト上の行動データなどをもとに、内定を辞退する可能性を予測したスコアを採用企業に提供していました。個人情報保護委員会は2019年8月26日に、個人情報保護法に基づき同社へ勧告を出しています。報道によれば、プライバシーポリシーの記載が不十分で、一部の学生から第三者提供について適切な同意を得ていませんでした。
12月4日には再度の勧告が出され、スコアを受け取った利用企業35社にも指導が行われたと報じられています。指導の内容は、利用目的の通知や公表、第三者提供時の組織的な法的検討、委託先の監督の3点でした。
争点は「精度」ではなく「透明性と同意」
この問題で規制当局が問題にしたのは、予測の当たり外れではありません。学生本人が、自分の行動から選考に関わりうるスコアが作られ、企業に渡ることを理解し、納得できる形になっていたかが問われました。スコアが採用側の判断にどう使われたのかを、学生側が確かめる手段もありませんでした。
これは、アルゴリズムが関わる場面で「何を、何のために、誰に渡すのか」を本人に示すことが出発点になることを示しています。
利用する企業の側も指導を受けた
もう1つの重要な点は、サービスを提供した企業だけでなく、それを利用した企業も指導の対象になったことです。AIやスコアを外部から買う側も、取得経緯や利用目的を確かめる責任を負うという考え方が、この事案を通じて示されました。就活生にとっては、応募先企業がどのツールをどう使っているかを知る必要性が、改めて浮かび上がった出来事といえます。
国内企業の是正と予防の動き｜リクルート、富士通、ソニー、NEC
問題が起きたあとの是正と、起きる前の予防の両方で、国内企業の動きが報告されています。ここでは、事案への対応、技術面の取り組み、ガバナンスの整備という3つの層に分けて、複数社の動きを見ていきます。各社の取り組みが、実際に偏りをどこまで減らしたのかは公開情報では確認できないため、取り組みの方向性として読んでください。
事案への対応｜組織体制と説明の見直し
リクルートとリクルートキャリアは、勧告を受けて再発防止に取り組む姿勢を表明しています。リクルートキャリアの社長は「学生への配慮と、社内のガバナンスが不足していた」と述べたと報じられました。個人情報保護委員会の勧告は、経営陣を含む全社的な意識改革や、個人データの取り扱いに関する組織体制の見直しを求めるものでした。問題の本質が、技術より組織の仕組みにあったことがわかります。
技術面の取り組み｜偏りを測り、減らす
富士通は、性別や年齢といった複数の属性の組み合わせで現れるバイアス（交差バイアス）を検知して緩和する技術を、AI倫理に関する取り組みとして公開しています。単独の属性では差が見えなくても、たとえば「性別×年齢」の組み合わせで不利になる集団が生まれることがあるため、組み合わせを調べる点が特徴です。
ソニーのSony AIは2025年11月、同意を得て集めた約1万枚の画像で構成する公平性評価用のデータセット「FHIBE」を、Nature誌の論文とあわせて公開しました。公開元の説明では、約2,000人の協力者が80以上の国や地域から参加し、本人はいつでも自分の画像の削除を求められる設計です。学習用ではなく、AIモデルの偏りを測る物差しとして作られています。
ガバナンスの整備｜原則を社内の手続きにする
NECは2019年4月に「AIと人権に関するポリシー」を策定し、生体認証を含むAIの利用が差別やプライバシー侵害につながりうることを認めたうえで、防止の方針を示しました。その前年の2018年には、人権に配慮した事業を担う組織も設けています。富士通も外部の専門家で構成するAI倫理の委員会を置いています。
原則を掲げるだけでなく、外部の目を入れる仕組みを持つことが、予防の面では重要だと考えられます。
顔認証改札では「事前登録」で選べる設計も
Osaka Metroのウォークスルー型顔認証改札は、利用者がアプリで事前に顔画像を登録する方式だと報じられています。2025年3月から多くの駅で運用が始まり、交通系ICカードやQR乗車券なども併用できるとされています。顔認証を使うかどうかを利用者が選べる設計は、本人の関与という面で意味があります。ただし、人種や性別による認識精度の差について、同社が公開している情報は今回の確認では見つかりませんでした。
国の指針と制度｜AI事業者ガイドライン、AI推進法、個人情報保護法
企業の取り組みを支える枠組みも整いつつあります。ただし、現時点では「守らなければ罰せられる」類のものは限られており、ガイドラインや既存法の運用が中心です。読者として知っておきたいのは、どの制度が自分の権利に関わるのかという点です。
AI事業者ガイドラインは公平性を原則の1つに置く
総務省と経済産業省は、2024年4月に「AI事業者ガイドライン」第1.0版を公表し、2025年3月28日には第1.1版を公開しました。公平性は主要な原則の1つで、学習データや学習の過程にバイアスが含まれうることを踏まえ、データの質を管理することや、人間が適切に関与することが求められています。法的な拘束力はなく、事業者の自主的な取り組みを促す位置づけです。
AI推進法は罰則を置かない枠組み
2025年には「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI推進法）が成立しました。活用の促進を主眼とし、罰則は設けられていません。不適切な事案があれば国が調査や指導を行える枠組みとされています。AIによる不利益そのものを直接禁じる法律ではないため、当面は個別の場面でほかの法律が使われます。
個人情報保護法が当面の足がかりになる
内定辞退率問題で適用されたのは、AIの法律ではなく個人情報保護法でした。本人の同意なく個人データを第三者へ提供することの制限や、利用目的の通知・公表といった基本ルールが、スコアリングの場面でも根拠になっています。事業者が保有個人データとして扱っている情報であれば、本人が開示を請求できる仕組みもあります。AIに関する個別のルールが整うまでは、こうした既存の権利を知っておくことが現実的な備えになります。
誤解されやすい3つの点｜「AIだから公平」だけではない
アルゴリズム差別をめぐっては、受け取り方が分かれやすい論点がいくつかあります。誤解のまま「AIは危険だから使うな」あるいは「AIは中立だから安心」のどちらかに傾くと、必要な確認を見落とします。ここでは、特に混同されやすい3点を整理します。
「悪意がなければ差別ではない」わけではない
差別かどうかは、開発者の意図ではなく、結果として特定の属性の人が不利益を受けているかで問われます。Workdayの訴訟でも、争点は意図の有無ではなく、AIの選考が40歳以上の応募者に不均衡な影響を与えていないかという点です。意図がなかったことは、結果への責任を免れる理由にはなりにくいといえます。
「性別欄を消せば公平になる」とは限らない
Amazonの事例のように、属性の欄を取り除いても、言葉の選び方や出身校名から属性が推測できれば、偏りは再現されます。これは代理変数と呼ばれる問題で、情報を減らすだけでは解決しません。偏りがないかを結果の側から測る作業が必要になります。
「人間が判断すれば安心」も条件つき
AIの出力を人間が確認する仕組みは、ガイドラインでも重視されています。ただし、スコアを前に人間が自分の判断を差し挟まず、追認するだけの運用では意味がありません。人間のほうが偏見を持たないという話でもなく、人間の判断にも偏りはあります。大切なのは、人間とAIのどちらも間違いうる前提で、異議を受け付ける経路を残すことです。
就活・与信の場面でできる備え｜応募前、結果を受けたとき、納得できないとき
仕組みを知るだけでは、不安が残る人も多いはずです。選考や審査を受ける側の立場で、段階ごとに確認できることを整理します。企業側に説明を求めることは、法的に保障された権利というより、まず確認してみる行動として位置づけてください。
応募や申込みの前にプライバシーポリシーを開く
応募先の企業や利用する求人サービスのプライバシーポリシーで、次の3点を確認します。行動データなどを分析して評価に使う旨の記載があるか、取得した情報を第三者へ提供する場合の説明があるか、問い合わせ先が書かれているか。記載がなくても問題があるとは限りませんが、記載があれば、自分の情報がどう扱われるかを知る手がかりになります。選考が本格化しているいまの時期は、応募前に1社分だけ目を通すだけでも違います。
結果を受けたときに残しておく記録
選考や審査の結果に納得できないときは、感情的に動く前に、手元の情報を残しておきます。応募したサービス名と日付、案内された選考の流れ、結果の通知内容を控えておくと、後で問い合わせる際に役立ちます。同じ条件の知人との間で結果に大きな差を感じたときも、一人で抱え込まず、信頼できる人と状況を共有してみてください。
納得できないときの問い合わせ先
まず、応募先や審査をした事業者の問い合わせ窓口に、人による再確認の余地があるかを尋ねます。個人データの取り扱いに疑問があるときは、事業者に保有個人データの開示を請求する方法があります。それでも解決しない場合は、個人情報保護委員会の相談窓口や、就職に関する相談は公的な就職支援機関に相談する選択肢もあります。窓口の詳細は変わることがあるため、利用前に公式サイトで確認してください。
まとめ
アルゴリズム差別は、悪意よりも、過去のデータに残った偏り、設計や評価の甘さ、人の確認が形だけになる運用といった積み重ねから生まれることが多く、そのぶん気づかれにくいという特徴があります。海外ではAmazonの採用AIやWorkdayの訴訟のように、仕組みの偏りと提供企業の責任が問われています。日本の内定辞退率問題では、精度よりも、本人が知らないところでスコアが作られ、渡っていたという透明性と同意の問題が中心でした。
国内では、リクルートの再発防止、富士通の交差バイアスの緩和技術、ソニーの公平性評価用データセット、NECの人権ポリシーなど、複数の企業が事案への対応・技術・ガバナンスの各層で動いています。一方で、AI事業者ガイドラインやAI推進法には罰則がなく、個人情報保護法などの既存の仕組みが当面の足がかりです。技術を一律に疑うのではなく、確認できることを確認する姿勢が、受ける側にできる備えになります。まず1つだけ、次に応募するサービスのプライバシーポリシーを開き、自分のデータがどう使われるかを確かめてみてください。
- アルゴリズム差別は「データ」「設計」「使い方」の3つの入口から、意図せず生まれる
- 日本の内定辞退率問題の争点は、精度ではなく本人への透明性と同意だった
- 国内企業は事案への対応、公平性の技術、ガバナンスの各層で動いているが、効果の検証は今後の課題
- 応募前のプライバシーポリシー確認、記録の保存、窓口への問い合わせが受ける側の備えになる
参考文献
- 個人情報保護委員会「個人情報の保護に関する法律に基づく行政上の対応について（令和元年8月26日）」（2019年）
- ITmedia NEWS「個人情報保護委、“リクナビの内定辞退率”利用企業に行政指導 トヨタ、京セラなど35社」（2019年）
- Euronews（Reuters配信）「Amazon scraps secret AI recruiting tool that showed bias against women」（2018年）
- Holland & Knight「Federal Court Allows Collective Action Lawsuit Over Alleged AI Hiring Bias」（2025年）
- NIST「Face Recognition Vendor Test Part 3: Demographic Effects」（2019年）
- 富士通「AI倫理技術」
- Nature「Fair human-centric image dataset for ethical AI benchmarking」（2025年）
- NEC技報「NECグループ AIと人権に関するポリシー」（2019年）
- 総務省・経済産業省「AI事業者ガイドライン」（2025年）
- Impress Watch「Osaka Metro、顔認証改札の導入を発表」（2023年）
