津田恵子 つだ けいこ
Happiness insight合同会社 CEO／ベンチャー採用コンサルタント
1．人事が生成AIを活用する場合の五つのリスク
企業が生成AIを導入するに当たっては、さまざまなポイントが議論されており、 “活用側のリテラシーが必要である” というイメージをお持ちの方も多いのではないだろうか。そこで、ここでは人事という機密情報を扱う部門が活用する際のリスクについて取り上げる。
［1］機密情報の漏洩
これは、人事として一番留意すべき点である。一般的に生成AIは入力された情報をベースに学習していくため、情報がクラウド上に保管される。人事しか把握していない機密情報を入力すると、その内容を学習して、生成AIサービスの提供会社や、同サービスを利用した全く関連のない第三者への回答に反映される可能性がある。
［2］間違った情報の生成
テキスト生成AIや画像生成AIは、大量のデータを学習しているため、誤った情報や偽情報を生成することがある（「ハルシネーション」という）。これは、学習データそのものの誤りや、古い情報を参照していることなどが原因で発生する。人事においては、生成AIを活用して作成した文書を従業員に向けて発信することも考えられるが、生成された情報の信頼性や正確性は、最終的に人間が評価する必要がある。
［3］著作権などの権利侵害
AIが生成した文章や画像が、世の中にある著作物を参照している場合、著作権法に抵触するおそれがある。知らず知らずのうちに、他の著作物を模倣した文章や画像を生成している可能性があり、特に画像については社内向けであっても慎重に活用するべきであろう。
［4］バイアスの影響
学習データに偏りがある場合、生成AIのアウトプットに影響が出ることがある。例えば、 “差別的な表現や偏った意見を生成する” “特定の人種や性別などに偏った画像を生成する” といった現象が起こり得る。実際の運用は異なっていたとしても、男女の賃金格差や女性管理職の人数といった、偏りのある人事情報から学習して回答を生成することも十分あると思われる。
［5］ディープフェイク※1
ディープラーニングモデルを用いて、人間の顔や動作を合成・変換する技術のことである。主に画像や動画の編集に応用され、元の映像と別の人物の顔を合成したり、既存の映像に新しい表情や動きを追加したりすることができる。しかし、その精度の高さゆえ、ディープフェイクの検出が難しく、現在のAI研究における重要な課題となっている。
※1 本項は、一般社団法人生成AI活用普及協会『生成AIパスポート試験公式テキスト』69～70ページより、筆者要約。
2．AIの人事領域における事例
［1］AmazonのAI採用エンジン
これはAIの「バイアス」に関連する事例である。米Amazon.com社では、2014年からAIを活用した人材採用システムの開発を推進していたが、システムの試験期間中に、開発したアルゴリズムが女性よりも男性を優遇することを発見した。これは、同社がこれまでに受け取ってきた履歴書を使ってAIツールに学習させたことが原因と考えられている。具体的には、従来はエンジニア職応募者のほとんどが男性であったことから、AIが性別のバイアスを持つに至ったということだ。さらに、女性を連想させる単語を使用している履歴書が減点される傾向も発見され、差別的なスクリーニングとなってしまう現象が起きた。その結果、同社は同システムの開発・運用を中止している。
これ以外にも、『MIT Technology Review』※2では、AI採用ツールによる評価は障がい者に不利に働くことが指摘されている。
※2 米国マサチューセッツ工科大学（MIT）によって1899年に創設された、テクノロジー誌。該当の記事は、以下リンク先を参照。
https://www.technologyreview.com/2021/07/21/1029860/disability-rights-employment-discrimination-ai-hiring/
［2］リクルートの内定辞退率の予測データ販売
個人情報保護に関連し、「データプライバシー」という概念がある。これは、自己に関する情報を「いつ」「どのように」、そして「どの程度」他人と共有するか、あるいは他人に伝達するかを自分で決定する権利のことを意味する。このデータプライバシーに抵触したのが、リクルートの事案である。
概要としては、リクルートキャリアが、就職情報サイト「リクナビ」に登録している就職活動中の学生の、当該企業への「内定辞退率」を本人の同意なしで予測し、顧客へ有償で提供していたというものだ※3［図表1］。
前年度に当該企業へ登録した学生の閲覧ページの行動履歴から、AIがアルゴリズムを抽出。目下、当該企業の選考を受けている学生について、そのアルゴリズムを適用することで、「内定辞退する確率」を5段階評価で算出していた。この5段階評価を、就活生の名前に紐づけて、企業に販売していたという。学生側の同意なく、当該企業への内定辞退率が予測・販売されたことで、学生にとっては不利な情報が企業側に渡っていたことになる。
※3 ［編集部より］詳細は『労政時報』第3982号（19.11. 8）「問題研究＝企業人事にとっての “リクナビ問題” 」参照。
［図表1］リクルートの内定辞退率の予測データ販売について
資料出所：2019年8月1日付 日本経済新聞「就活生の『辞退予測』情報、説明なく提供 リクナビ」を基に筆者作成。
採用を担当したことのある人事の方であれば、痛いほどよく分かると思うが、優秀な学生に内定を出し、「辞退されないこと（＝確実に入社承諾をもらうこと）」は、採用の成果そのものである。売り手市場の採用戦線の中、優秀な学生は複数内定を所持することが当たり前であり、その辞退率を予測したデータは、企業側で内定出しタイミングの判断や内定を出すか否かの意思決定に使われていたと思われる。
事件が発覚した2019年ごろは、人事領域でピープルアナリティクスという概念が少しずつ浸透し始めた時期であったが、テクノロジーと人事の在り方について、一石を投じた案件であったと思う。これはサービスを使っている学生に関わる話であったが、人事の立場では、さまざまな人事データの分析に当たって、「従業員のデータプライバシーという視点」を欠いてはならないはずだ。
3．生成AIを活用するための準備、ルール作り
［1］最適な活用範囲の特定
生成AIはすべての業務に対して万能というわけではなく、領域による得意分野と不得意分野がある。例えば、「膨大なデータに基づいた予測やコンテンツ制作は得意だが、複雑な問いに対して正確な答えを出すのは苦手」といった特徴が挙げられる。そして、生成AI活用のリスクを最小化するためには、活用する範囲を適切に設定することが重要だ。
人事業務領域においても、まずは小規模な導入から始め、徐々に活用範囲を拡大する方法が推奨される。初期段階では、業務効率化につながるような社内向け定型文書（健康診断や年末調整の案内など毎年発生する案内文書）の作成や、誤字脱字のチェックといった校正機能などからスタートし、その次に、業務マニュアルやFAQの文章生成などに拡大していくイメージである。
［2］最適な生成AIツールの選定、導入
生成AIツールの選定と導入においては、安全かつ効率的なサービスを見極める必要がある。自社が生成AIで解決したい課題を定義した上で、それに応じてツールを選定することが望ましい。
また、主体となるユーザーがどのような人であるかという視点もある。エンジニアのバックグラウンドを持つ人たちが重視するUI（ユーザーインターフェイス。操作画面の見た目や、操作上の使い勝手のこと）と、人事が重視するそれは異なるはずだ。さらに、AIツールの導入時も、ユーザーが入力した内容を学習させない「オプトアウト」を選択することで、自社のリスクを最小化することが可能となる。なお、導入レビューに当たっては、ROI（投資対効果）を求めることになるため、あらかじめその指標を考えておくことも重要だ。人事部門の場合は、作業工数や当該業務への所要時間の変化に着目するとよいだろう。
［3］従業員向けルールの策定
導入に際しては、従業員に生成AIの基本的な知識、適切な使用方法、関連するリスクを理解してもらい、安全に使用できる環境を構築することが必要となる。情報部門だけではなく、人事部門としても従業員に正しい活用方法等を周知する役割があるだろう。2023年ごろから、国やさまざまな機関においてガイドラインが発表されており、例えば、一般社団法人日本ディープラーニング協会の「生成AIの利用ガイドライン」は参考として活用しやすい。
4．人事が生成AI活用を成功させるために
［1］人事業務内容の棚卸しと活用採算の見当
月次、年次で遂行する業務が多いのは、人事領域の仕事における特徴である。各社とも業務マニュアルがあり、それを定期的にアップデートしているのではないだろうか。生成AIの導入に当たっては、各担当の業務内容をタスクリストにして、すべての業務を可視化することから始めたい。その中で、「大きく時間を取られていること」「同じ作業を繰り返していること」などに着目し、自動化していくのである。活用の方針や戦略がないまま進めるのではなく、人事の業務内容・フローをしっかりと棚卸しした上で、業務効率化やアウトプット向上にどの程度つながるかを試算することが重要だ［図表2］。
［図表2］人事業務棚卸しシートの例
［注］所要時間は例。
［2］トライ＆エラーを繰り返す
生成AIは、サービス提供側でも日々アップデートが重ねられており、多くの機能が実装され続けている。ユーザーの声がフィードバックされ丁寧に作られているサービスもあることから、人事部門においても、「導入して終わり」とするのではなく、こまめに利用方法を確認して軌道修正していくことで、より良い活用につながるはずだ。具体的には、システム開発の用語である「アジャイル開発」という言葉に表現されるように、大きな単位で区切ることなく、小単位で実装とテストを繰り返して導入を進めていく手法で、素早く改善につなげることができるだろう。
［3］人事部員のAI活用リテラシー向上
生成AIはユーザーである人事部員が、AIと対話することによってアウトプットを引き出す仕組みであるため、使い手のリテラシーがカギとなる。研修プログラムや実践的なトレーニングを通じて、基本的な知識、適切な使用方法、関連するリスクを理解してもらうことが欠かせない。また、自社内ではノウハウがない新しい領域であるため、外部の勉強会等にも積極に参加させ、人事の活用事例を蓄積していくことも必要と思われる。
次回からは、人事の活用シーン別に見た生成AI活用のポイントについて紹介する。
 |
津田恵子 つだ けいこ Happiness insight合同会社 CEO／ベンチャー採用コンサルタント 岐阜県生まれ。早稲田大学法学部を卒業後、2002年より株式会社リクルートスタッフィングにて人事採用業務に従事。2004年より伊藤忠人事総務サービス株式会社にて、グループ会社向け採用アウトソーシングや伊藤忠商事向け研修企画・運営に従事。 2019年9月に独立し、「一人ひとりの能力が活きる社会を実現する」をビジョンにHappiness insightを創業。企業における採用活動支援では、2022年の面接実績は350名、ダイレクトリクルーティングに関しては、複業クラウド、LinkedIn（リンクトイン）、LabBase、Wantedly、アサインナビ、キミスカなど対象別にプラットフォームを使い分けて実績を出す。その他リカレント教育普及やRPO（採用代行）を通して、働き方に悩んだ自身の経験を活かし、人々の幸せな働き方を支援している。 2023年3月、早稲田大学大学院経営管理研究科修了・MBA取得。ベンチャー稲門会会員。プライベートは三児（中3・小6・5歳）の母。生成AIプロダクト「Crew」を提供する株式会社クラフターでは、2023年3月より人事を担当している。生成AIに関する資格「生成AIパスポート」取得。 |