REUTERS/Erin Scott
フェイスブックは、人工知能(AI)を利用して規則・基準に抵触する投稿を検知しているが、明らかに偽の情報を見逃すこともある。
フェイスブックの内部告発を行ったフランシス・ホーゲン(Frances Haugen)の弁護士が開示した文書によると、2021年3月、新型コロナウイルスワクチンが「実験的」なもので危険だとする投稿が、検知されないまま1週間にわたりフェイスブック上で放置され、その間5万3000件のシェア、300万件の閲覧が行われたという。開示された文書は、初めウォール・ストリート・ジャーナルに、その後Insiderをはじめとする各ニュース機関に提供された。
「この投稿に関しては、偽情報投稿対応の大失敗と言わざるをえない」とホーゲンは指摘した。ホーゲンは当初、フェイスブックの社内掲示版上で注意を喚起した。問題の投稿は注意喚起された8日前に投稿されていたが、「ほとんどの閲覧は前日から増え始め、さらに急増を続けている」と、掲示板上にホーゲンは記している。
フェイスブックの「偽情報検知」技術は、短い3つの文章から成る英語の投稿をルーマニア語の投稿として読み取ってしまったことで見逃されたとホーゲンは言う。誤認が起きた原因は、投稿の表題には「Baaaaa…」という羊の鳴き声を表す言葉のみが書かれていたことだ。
陰謀説論者たちは、論理や科学に基づく発言をする人たちを羊(sheep)と人(people)をかけて「シープル (sheeple)」と呼ぶ。そして、「Ba」はルーマニア語で「No」を意味するのだ(つまり、この投稿は偽情報論者による投稿であったにもかかわらず、フェイスブックのAIは検知できなかったのだ)。
パンデミック期間中、フェイスブックはワクチンに関する偽情報との戦いに苦労していた。「当社のシステムは、反ワクチン投稿を十分に検知・削除できていない」と2021年2月のフェイスブック社内報告書は記している。
フェイスブックの最高技術責任者マイク・シュローファー(Mike Schroepfer)が、偽情報や有害コンテンツへの対策としてAIを導入したのは、この社内報告書や2021年3月の「大失敗」が起きる2年前だ。それ以前から、マーク・ザッカーバーグはAI導入を推進していた。シュローファーは、2022年に退任を予定している。
3月の反ワクチン投稿をきっかけとして始まったフェイスブック社内の議論によると、フェイスブックの技術はあまり改善していないようだ。ある社員は、フェイスブックの偽情報検知システムは投稿のテキストだけを読み、OCR処理された情報は対象外としているため、画像化された文字は読んでいないと指摘した。
「この問題は以前にも指摘されていたが、解決策は議論中または開発中だ」と別の社員は語る。これとは別の社員も、この検知技術は投稿だけを読んでおり、投稿に対するコメントはほとんどが英語で書かれていたにもかかわらず読んでいなかったと述べる。しかし、この問題は「間もなく」修正されるという。
フェイスブックの広報担当者は次のように述べている。
「偽情報に対抗する万能薬はありません。だからこそ当社は包括的なアプローチを採用し、当社のコロナ・ポリシーに抵触する2000万件の投稿を削除し、繰り返し違反する数千人のユーザーにはサービスを使用禁止にしました。一方で、新型コロナウィルスとワクチンに関する信頼できる情報に20億人以上の人がアクセスできるようにしました。さらに、世界の60を超える言語をカバーする独立したファクト・チェッカー(事実確認者)と提携し、偽情報に対処しています」
しかし、機械学習による言語認識はまだまだ発達途上だとスタンフォード人工知能研究所ディレクターのクリストファー・マニング(Christopher Manning)は言う。これは、今後10年をかけて向上するのではないかと彼は予想する。
よく問題となるのは文の長さだ。自動化されたシステムにとって、数ワードの短い投稿や文を認識することは難しい。もうひとつの問題は、「コード・ミキシング」と言われる英語の投稿の一部に他言語の表現が含まれている場合だ。
「あらゆる機械学習モデルにおいて誤りが起きますが、それは悪意のある陰謀などではありません。言語認識システムが、50の言語について、50文字から80文字で構成されるテキストを96%の正確さで認識できるとしても、4%は間違える可能性が残ります」とマニングは言う。
しかし、フェイスブックのように何年もAI開発を行ってきた企業に、今回のような失敗が起きることは想定していなかったという。
「彼らがこのような失敗を犯したことには驚くばかりです」とマニングは言う。「ルーマニア語の使用は英語よりはるかに限られていますから、間違えるとしたら、英語をルーマニア語と誤認するより、ルーマニア語を英語と誤認する方がありうるのではないでしょうか」
フェイスブックの広報担当者は言う。
「パンデミック中、私たちは新型コロナウイルスに関する信頼できる情報を提供し、偽情報に対する対抗措置をとり、ワクチン接種を勧めることで、皆様の安全確保を目指してきました。
2021年1月以降、アメリカのフェイスブック・ユーザーのうちワクチン接種を躊躇する人の数が約50%低下し、ワクチンを受け入れる人が増えているのは嬉しいことです」
(翻訳:住本時久、編集:大門小百合)