黒人の子どもは保護対象外 —— Facebookの社内教育用スライドが流出

「保護」対象を選ばせるFacebookの社内教育用スライド

社内教育用スライドでは、コンテンツモデレーターに対して「保護する」のは「白人男性」「女性運転手」「黒人の子ども」のうち誰かと質問し、正解は「白人男性」としている。

ProPublica

アメリカのNPOメディア「プロパブリカ(ProPublica)」は6月28日(現地時間)、Facebookがヘイトスピーチを取り締まりるために、数千人のコンテンツモデレーターに対して行っているトレーニング内容について、衝撃的な調査記事を発表した。「白人男性」は保護し、「黒人の子ども」は保護対象ではないとするトレーニング用スライドも明らかにされている。

記事によると、コンテンツモデレーターが使用する同社の社内教育用の資料では、ヘイトスピーチに対するFacebookの方針として、「エリート層や政府を、草の根運動家や人種的マイノリティーよりも優遇する傾向にある」ことが詳細に述べられている。

重要なポイントは以下の通り。

  • Facebookは、数千人ものコンテンツモデレーターをトレーニングしている。人種、性別、ジェンダー、宗教的な帰属に関する「保護カテゴリーの人々」と名づけられたグループに対するヘイトスピーチを削除するためだ。保護カテゴリーの中の「サブセット(下位の小集団)」で、例えば「イスラム過激派」のようなグループに向けられたヘイトスピーチは、監視の必要性が低いとされる。
  • 保護カテゴリーと保護対象外サブセットの違いを説明する例として、社内教育用スライドでは、コンテンツモデレーターに対して「保護する」のは「白人男性」「女性運転手」「黒人の子ども」のうち誰かと質問し、正解は「白人男性」としている。
  • 2016年、トランプ大統領がイスラム圏からの入国禁止についてFacebookに投稿した。この投稿内容は、同社のヘイトスピーチに関する内部規定に抵触していた。しかし、同社のCEOマーク・ザッカーバーグ氏は個人的に介入し、投稿を削除しなかった。
  • Facebookは、国務省が指定したテロリストグループのリストや類似したデータベースを使用して、ヘイトスピーチを監視している。だが、同社は指定の「ヘイト集団」を排除する「秘密のリスト」も所有している。

Facebookにプロパブリカの報道に対するコメントを求めたところ、担当者は同社が27日に発表したヘイトスピーチの監視に関する投稿を参照するようにと述べた。その投稿では、パブリックポリシーの責任者リチャード・アレン(Richard Allan)氏が、同社は直近2カ月間で、1週間あたり6万6000件のヘイトスピーチ投稿を削除しているとした。

「しかし、方針を強化するにあたって、我々の取り組みが完璧でないことは明らかです。危機一髪の状況も多く、ミスもしばしばあります」

プロパブリカの記事全文はウェブサイトで読むことができる。先月はガーディアンがFacebookの性別と暴力に関する判断基準について報じたところだ

source: ProPublica

[原文:Facebook's leaked rules on censoring hate speech protect 'white men' but not 'black children'

(翻訳:Keitaro Imoto)

ソーシャルメディアでも最新のビジネス情報をいち早く配信中

BUSINESS INSIDER JAPAN PRESS RELEASE - 取材の依頼などはこちらから送付して下さい