採用試験にAIを導入することの問題点と安全な導入方法とは？

企業の採用担当がAIを用いることで、履歴書を見る際に偏見や個人的な好みなどが影響せず審査したり、意志決定の公平性と一貫性を高めたりできるという考え方があります。実際にAIを採用に利用する事は公平で望ましいプロセスなのか、利用する場合は何に気を付けるべきかなどについて、マッセー大学の研究者らが解説しています。
What will a robot make of your résumé? The bias problem with using AI in job recruitment
https://theconversation.com/what-will-a-robot-make-of-your-resume-the-bias-problem-with-using-ai-in-job-recruitment-231174

国際ビジネスジャーナルが2023年6月に発表した「採用における人工知能(AI)の力」という論文では、履歴書の選別やビデオ面接の補助、予測分析やソーシャルメディア分析などのAIを使用した採用戦略が、効率性の向上やコストの削減のほか、より質の高い採用などをもたらすと示されました。ここでは、採用におけるAIは人間の偏見を排除し、意思決定の公平性と一貫性を高めることで、採用プロセスにおける客観性と効率性の向上を実現できると考えられています。
一方でAIだからこそ偏見が強まるという考えもあり、「画像生成モデルではステレオタイプな偏見が助長される傾向がある」とコンピューターサイエンスの専門家は指摘しています。画像生成AIは、短いプロンプトから画像を生成するため、人種や性別、職業などに関する「人口統計上の固定観念が大規模に増幅される」とする論文もあります。また、AIで生成されたコンテンツをAIが再学習することで、データを誤解したりマイノリティが排斥されたりしてしまうとの研究結果も報告されています。
AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告 - GIGAZINE

マッシー大学のシニアデータアナリストであるメリカ・ソレイマニ氏やクイーンズランド大学経営学講師のアリ・インテザリ氏らは、22人の人事担当者へインタビューすることで、採用における2つの偏見を特定しました。ひとつは「ステレオタイプの偏見」で、この職種だから女性を優先的に選ぶ、このビジネスチームにはこの経歴の人が合いそうなど、特定のグループに関するステレオタイプによって決定が左右されるというもの。多くの場合は、意識的、無意識的を問わず差別的な考えが含まれています。
2つ目は「自分と似た者への偏見」です。採用担当者は、自分と似た経歴や趣味、興味関心を持っている候補者を優遇しがちな傾向にあります。これらの偏見は採用プロセスの公平性に重大な影響を与えると考えられ、AIが採用に組み込まれることで解消されることが期待されています。しかし、AIのトレーニングに使用される過去の採用データにはこれらの偏見が含まれているため、トレーニングが完了したAIも偏った状態にあるとソレイマニ氏は指摘し、「こうした偏見は、社会に根強いものです。人間主導とAI主導の両方の採用プロセスにおいて公平性を確保するためには、根強い偏見を軽減するために、慎重な計画と監視が必要です」と語っています。

また、研究者らは17人のAI開発者にもインタビューを実施し、採用における偏見を悪化させずに軽減できる「AI採用システム」を開発するアイデアについて質問しました。結果として浮上したのが、「ヒューマンリソースの専門家とAIプログラマーが、データセットを調査してアルゴリズムを開発する際に、情報を交換することで先入観に疑問を投げかける」というモデルです。
しかし、このモデルは実現が難しいとソレイマニ氏は指摘しています。「私たちの調査結果では、このようなモデルを実装する際の難しさは、人事担当者とAI開発者の間に存在する教育、職業、人口統計の違いにあることが明らかになりました。人事担当者は伝統的に人材管理と組織行動の訓練を受けていますが、AI開発者はデータサイエンスとテクノロジーのスキルを持っています。こうした違いは、効果的なコミュニケーションやお互いを理解する能力を妨げます。こうした背景の差異は、一緒に仕事をする際の誤解や不一致につながる可能性があります」とソレイマニ氏は考えられる問題点を説明しています。
そのため、AI採用システムを組むためには、まずヒューマンリソースの専門家に、システム開発とAIに重点を置いたトレーニングプログラムを適用する必要があります。同時に、AI開発者にも採用に関する情報を十分に学習させることで、両者が共同する際のギャップを埋め、偏見を特定して軽減するための戦略を立てていくことができます。

また、「偏見の軽減された適切なデータセット」を開発し、それをAIに学習させることも今後のシステムにとっては不可欠です。人事担当者とAI開発者は協力して、AI主導の採用プロセスで使用されるデータが多様で、さまざまな人口統計グループを代表するものであることを確認する必要があります。
最後に、各国は採用におけるAIの使用に関して、信頼の構築と公平性の確保に役立つガイドラインと倫理基準を確立しなければなりません。また、各組織は、AI主導の意思決定プロセスにおける透明性と説明責任を促進するポリシーを明確化し、採用に参加する人々に明示する必要があります。
研究者らは「これらのステップを踏むことで、人事担当者とAI開発者の両方の強みを活用した、より包括的で公平な採用システムを構築できます」と結論付けています。