AI採用ツールの利用拡大…AIから人間の偏見を取り除くことは可能か

求職者の列

REUTERS/Rick Wilking

  • 雇用主は次第に、求人や採用を人工知能(AI)ツールに頼るようになっている。アマゾン(Amazon)フェデックス(FedEx)ターゲット(Target)、そしてキャピタル・ワン(Capital One)といった企業が、AI採用ソフトをテストまたは使用している。
  • こうしたツールは山積みの履歴書を素早くふるいにかけ、筆記試験や面接に対する候補者の回答を評価し、候補者とのビデオ面接を設定することもできる。
  • メーカーは、差別をなくす方法としてAI採用ツールを売り込んでいる。だが専門家や活動家は、AI採用ツールはそれを訓練する人間と同じように偏った見方をすると警告している。

この次、仕事に応募をするとき、あなたの運命を左右するのは人間ではないかもしれない —— 人間はなくアルゴリズムが、あなたが基準を満たしているかどうか見極める可能性がある。

雇用主は次第に、求人や採用を人工知能(AI)ツールに頼るようになっている。ターゲット、ヒルトン(Hilton)、ペプシ(Pepsi)、アマゾン、そしてイケア(Ikea)などが、誰を雇うか見極めるアルゴリズムをテストまたは使用しており、活用の範囲が拡大している。

支持者たちは、AIは採用過程における人間の偏見をなくし、差別を終わらせる鍵だと言う。だが、AI採用ツールはAIを訓練する人間とまったく同じように偏った見方をする、と警告する人もいる。

こうしたツールは主に適格ではないと見なされた候補者を外すために使われるものであり、合格者を肯定的に選ぶためのものではない。山積みの履歴書をすばやくふるいにかけ、筆記試験や面接での候補者の回答を評価し、候補者とのビデオ面接を設定することもできる。

AI採用ツールを販売する企業によると、将来的には人間の採用担当者の仕事はすべてロボットに置き換わるものと思われていて、投資家の関心も高まっている。コーネル大学の研究者らは、AI採用ツールを提供している企業は世界中で少なくとも19あり、1社あたりの資金調達額は100万~9300万ドル(約1億~100億円)になると明らかにした

だがAIの専門家は、この分野でのテクノロジーの急成長に懸念を示している。

「テクノロジーは、仕事の探し方、仕事の学び方、仕事への応募の仕方を急速に変え、評価を高めている」と非営利団体アップターン(Upturn)のマネージング・ディレクター、アーロン・リエケ(Aaron Rieke)氏はBusiness Insiderに語った。

「心配しているのは、注意深く、慎重に使わなければ問題が出てくる可能性があるということ」

一方、AI採用ツールは規制機関や議員から問題視されている訳ではない。だがアメリカ下院の教育労働委員会は今秋、AIが労働にもたらす影響について公聴会を開催する予定で、これが法律制定の先駆けとなる可能性がある。

AIによる顔認識

Samantha Lee/Business Insider

AI採用ツールが特定の応募者を差別する可能性も

すべてのAIアルゴリズム同様、AI採用ツールは人間によって訓練される。AIに「良い」または「悪い」候補者の特徴を認識させるためには、通常、実世界のデータを使用する。

専門家と活動家は、その結果、テック界のように多様性の進歩が遅い分野においては、AI採用ツールが人間の偏った先入観を吸収するかもしれないと警告している。

12月に発表された調査報告書でアップターンの研究者らは、こういったことでAI採用ツールによる意図せぬ差別が生まれるかもしれない、と強調した。

「自然に起こり得るのは、現在の労働力に共通する特徴を持つモデルになること。これでは多様とは言えない」とリエケ氏は述べた。

「マネージャーの採用では、伝統的に女性よりも男性の候補者が優先されてきたという事実を反映するかもしれない」

AI採用ツールは、それが企業の意図ではないとしても、偏った見方をしかねない、とMITメディアラボのコンピューター科学者、ジョイ・バオラムウィーニ(Joy Buolamwini)氏は言う。同氏はAIの偏見についての研究と擁護を行う、アルゴリズム・ジャスティス・リーグ(Algorithmic Justice League)を設立。

「企業がいくら善意でやっているとしても、成功したとみなされている現在の従業員から収集したデータに基づいて訓練した製品は、仕事の能力ではなくアイデンティティーに起因する識別を学ぶ可能性がある」とBusiness Insiderへのメールに記した。

「データが必ず中立であるとは限らない」

就職活動

Lee Jae Won/Reuters

AIから人間の偏見をなくすことは可能か?

AI採用ツールのメーカーの主張はまったく逆で、AIは採用過程における人間の偏見をなくすための、最も確実な方法であるとしている。

モダン・ハイヤー(Modern Hire)社のイノベーションのエグゼクティブ・バイス・プレジデント、エリック・サイデル(Eric Sydell)氏はBusiness Insiderに対し、アルゴリズムは人間の不公正さを排除するという明確な目標をもってプログラムされていると信じている、と語った。同社は、企業が面接と「仕事のトライアウト」で候補者を選べるソフトウェアを販売しており、キャピタル・ワン、オールステート(Allstate)、サン・トラスト(SunTrust)、そしてフェデックスといった企業が使用している。

「AIには、物事をより公平に、より正しくする、非常に大きな可能性がある」とサイデル氏は述べた。

「人間の持つ偏見は、いつでも、数多くある。AIによって、人間の偏見をなくすことができる」

リエケ氏によると、AI採用ツールがすでに偏見をなくしているというには時期尚早だが、いつの日か、こうしたツールの方が人間の採用担当者よりも偏見が少ないことを証明する可能性はあると考えている。

「昔ながらの人間のやり方が、人に対する大きな偏見をもたらしてきた。AI採用ツールには、採用を公正かつ公平にする可能性があると思う。だが、落とし穴は細部にある」

[原文:AI could be the key to ending discrimination in hiring, but experts warn it can be just as biased as humans

(翻訳:Ito Yasuko、編集:Toshihiko Inoue)

ソーシャルメディアでも最新のビジネス情報をいち早く配信中

あわせて読みたい

Popular

BUSINESS INSIDER JAPAN PRESS RELEASE - 取材の依頼などはこちらから送付して下さい

広告のお問い合わせ・媒体資料のお申し込み