AIで自殺防止できるか? Facebookが自殺投稿検出システムを全世界に展開

Facebook(フェイスブック)は、AIを使って、自殺や自傷行為をほのめかす投稿を検出し、自殺防止につなげる対策を全世界(EUを除く)で展開する。11月27日(現地時間)に英語版のニュースルームに掲載、12月1日には日本語訳も発信した。

アメリカでは3月から試験導入しており、月間で100件以上の投稿を検出し、実際に投稿者に対応した。AIが検出した内容の緊急度を判断・対応する専任チームも3000人増員し、2018年にかけて、全世界で7500人にする。

Facebookによると、アメリカやタイでユーザーが人を殺す様子をFacebookのライブ動画で配信する事件などがあり、対策を強化することにした。日本でも神奈川県座間市で9人の遺体が見つかった事件が起き、SNSを通じた自殺防止対策が議論されている。

jisatu

ライブ動画の配信中にFacebookの専任チームから自殺や自傷行為を防ぐためのサポートを伝える画面。

出典:Facebook

Facebookによると、AIのパターン認識技術を使い、投稿文や配信動画の中に含まれる自殺や自傷行為の投稿をキャッチする。その後、専任チームに報告があがり、チームが対応の緊急度を判断し、ユーザーに支援を提供するメッセージを送ったり、緊急の場合は直接、警察などに通報するなどで対処する。

Facebookが、このAIのシステムをアメリカで試験導入した結果、過去1カ月間で100件以上の「自殺の可能性がある投稿」を、周囲の初動対応者と協力して確認したという。パターン認識の技術を使って緊急度の判別にも取り組んだ結果、緊急度が高い投稿に対して「ほかの報告より倍の速さでの通報につながった」(Facebookのプレスリリース)という。

Facebookでは、これまで、ユーザーが自殺や自傷行為をほのめかす投稿や動画配信をした場合、投稿を見つけた人がFacebookに報告する仕組みを提供していた。

日本では、座間市の事件で逮捕された白石隆浩容疑者が、Twitterを使って自殺を助長し、被害者と知り合っていたとされ、SNSを通じた自殺防止対策が社会的にも求められている。

(文:木許はるみ)

ソーシャルメディアでも最新のビジネス情報をいち早く配信中

BUSINESS INSIDER JAPAN PRESS RELEASE - 取材の依頼などはこちらから送付して下さい