AI活用が始まった｢米国のセクハラ対応｣最新事情

こんにちは。パロアルトインサイトCEO・AIビジネスデザイナーの石角友愛です。今回は職場におけるセクシャルハラスメントとAIの活用について書きたいと思います。＃MeTooや＃KuTooムーブメントなど色々な形で問題視されてきている職場でのセクハラに関して技術が貢献できることは何なのか、事例を見ながら考えてみたいと思います。

まず、セクハラは大きく以下の３つのカテゴリーに分かれます（引用元はこちら）　。

一番多く見られるのは、(1)のジェンダーハラスメントに当たる行為だと、ミシガン大とイリノイ大の心理学教授の研究で書かれています。

職場におけるハラスメントで課題になることは何でしょうか。

そこには、

• （法律的に）セクハラに該当するかどうかが被害者には分からないこと
• 届出率が低いため検知すること

が難しいことが挙げられます。

届出率に関しては、アメリカの場合10％以下ということで、いかに報復行為やリスクを恐れて届出をすることが難しいかがわかります。同時に、届出たところで人事部がどのような介入をしてくれるのかのステップや期待値が明確でないため、諦めてしまうケースもあります。

今回は、この二つの壁を乗り越えるためにどんな技術が活用されているのかを紹介します。

ハラスメントAI活用事例1. セクハラに該当するかどうか

モントリオールにあるBotler.aiは、チューリング賞（注：米国コンピューター学会の権威ある賞）を2018年に受賞したDeep Learningの権威であるヨシュア・ベンジオ モントリオール大教授を技術顧問に持つAIチャットボットを開発しているスタートアップです。

セクハラに関する5万7000件以上の文書と苦情を含む30万件を超える米国およびカナダの刑事裁判所文書をトレーニングデータとして使用しました。

チャットボットの形式になっており、被害者（ユーザー）が情報を書き込むと、｢その状況がセクハラと見なされるかどうか｣を予測し、刑法の下で違反された可能性がある法律を記録します。そして、ユーザーが関連当局や人事部などに届け出ることができる被害報告書を生成してくれるというものです。

同じように法律という一般の人には分かりにくい文書や裁判などのやりとりをAIを使って簡単にした事例では、｢ロボット弁護士｣として米国で急速に広がっているDoNotPayが挙げられます。

もとは、駐車違反などで払わされる罰金を不当だと思った人が裁判所で戦うために作られたアプリでしたが、今では、例えばウーバーに対する訴訟を小額請求裁判所（通常、1万ドル以下の訴訟）で起こすためのツールとしても使われています。DoNotPayアプリ上で訴訟内容に関する情報を入れると、DoNotPayが要求書やその後の裁判文書を作成してくれます。

｢Sue Anyone（誰でも訴えよう）｣というDoNotPayのスローガンは日本人には違和感があるかもしれません。が、セクハラ同様、どんな権利が個人に与えられているのかを個人が知らなければ何も始まりません。

チャットボットという匿名が維持された環境で、報復リスクを恐れずにまずは事の重大性を法的観点から確認できるツールがあることには意味があると思います。

ハラスメントAI活用事例2. どうやってセクハラを検知するか

検知するには方法が2種類あります。

被害者が届け出るかどうか決める方法と、会社側がモニタリングする方法です。

例えばCallistoというNPOは、大学や企業で性的強制や性的暴行の被害にあった人が、匿名で被害内容を記載できるプラットフォームを開発、提供しています。

記載内容の一部として加害者の個人情報を提供するため、2人以上の被害者から同一人物の加害者の名前がシステムに挙げられたときに、第三者機関の弁護士の集まりであるLegal Options Counselorに情報が自動的に共有されるという仕組みです。

そこで、弁護士が色々な選択肢の説明をし（雇用主や学校、警察に報告するのか、何もしないのか、ツイッターで公表するのか等）被害者としてどんな行動が取れるのか理解を促します。また、大学で起こる性的暴行事件の場合、9割以上が常習犯によって行われているとのことで、加害者の情報共有プラットフォームを兼ねていることには意義がありそうです。

また、会社内で使われるコミュニケーションツール（Workplace by FacebookやMicrosoft Yammerなど）上での会話がセクハラに該当するかどうかを、リアルタイムでモニタリングするシステムを開発する会社も多く登場しています。

セクハラモニタリングだけではなく仕事の効率化などをサポートする分析機能がついていたりするケースが多いです。

例えばAwareというアプリはYammerなどのチャットツールに統合し、会話内容から、さまざまなフラグ（注意すべき内容を示すマーキング）を立てることができるものです。しかし、セクハラ検知に関しては間接的表現や文脈的理解をしないと分からないことがあるため、課題が多いのではないかと私は考えています。

被害者のコメントを集める意味

文脈的理解が必要となるケースでもAIを活用してセクハラ問題を減らすためにも、実は＃Me Tooムーブメントがもたらした貢献は大きいと言われています。

AI開発コミュニティーや研究者コミュニティーでは、＃MeTooムーブメントのおかげで｢セクハラや職場の性差別に関する大量のデータを使った研究機会｣が増えたと言われています。従来はアンケートやフォーカスグループからしか被害者のコメントが得られず、セクハラが起きる現場の理解には限度があったと言われています。

しかし今ではSNSだけではなく、Everydaysexism.comのようなオンラインフォーラムで被害者が性差別やセクハラを受けたときの状況を、匿名で文字制限のない形で投稿できるサイトもあります。

そこから抽出できるテキストデータをマイニングして、職場環境におけるセクハラ被害の実態を調査した心理学とデータサイエンスが融合した研究結果などもあります。今後もAIやデータサイエンスがセクハラ問題の様々な局面で活用されるためにも法的文書やツイッターコメントなど様々な形でデータソースが形成されることが大事だと感じます。

もっと知る

ビクトリアズ・シークレット、CMイッキ見で分かる時代とのズレ

（文・石角友愛）