フェイスブックのAI、陰謀論者の隠語を検知できず。内部告発者ホーゲン｢偽情報投稿対応の大失敗｣

陰謀説論者たちは、論理や科学に基づく発言をする人たちを羊（sheep）と人（people）をかけて｢シープル （sheeple）｣と呼ぶ。そして、｢Ba｣はルーマニア語で｢No｣を意味するのだ（つまり、この投稿は偽情報論者による投稿であったにもかかわらず、フェイスブックのAIは検知できなかったのだ）。

パンデミック期間中、フェイスブックはワクチンに関する偽情報との戦いに苦労していた。｢当社のシステムは、反ワクチン投稿を十分に検知・削除できていない｣と2021年2月のフェイスブック社内報告書は記している。

フェイスブックの最高技術責任者マイク・シュローファー（Mike Schroepfer）が、偽情報や有害コンテンツへの対策としてAIを導入したのは、この社内報告書や2021年3月の｢大失敗｣が起きる2年前だ。それ以前から、マーク・ザッカーバーグはAI導入を推進していた。シュローファーは、2022年に退任を予定している。

3月の反ワクチン投稿をきっかけとして始まったフェイスブック社内の議論によると、フェイスブックの技術はあまり改善していないようだ。ある社員は、フェイスブックの偽情報検知システムは投稿のテキストだけを読み、OCR処理された情報は対象外としているため、画像化された文字は読んでいないと指摘した。

｢この問題は以前にも指摘されていたが、解決策は議論中または開発中だ｣と別の社員は語る。これとは別の社員も、この検知技術は投稿だけを読んでおり、投稿に対するコメントはほとんどが英語で書かれていたにもかかわらず読んでいなかったと述べる。しかし、この問題は｢間もなく｣修正されるという。

フェイスブックの広報担当者は次のように述べている。

｢偽情報に対抗する万能薬はありません。だからこそ当社は包括的なアプローチを採用し、当社のコロナ・ポリシーに抵触する2000万件の投稿を削除し、繰り返し違反する数千人のユーザーにはサービスを使用禁止にしました。一方で、新型コロナウィルスとワクチンに関する信頼できる情報に20億人以上の人がアクセスできるようにしました。さらに、世界の60を超える言語をカバーする独立したファクト・チェッカー（事実確認者）と提携し、偽情報に対処しています｣

しかし、機械学習による言語認識はまだまだ発達途上だとスタンフォード人工知能研究所ディレクターのクリストファー・マニング（Christopher Manning）は言う。これは、今後10年をかけて向上するのではないかと彼は予想する。

よく問題となるのは文の長さだ。自動化されたシステムにとって、数ワードの短い投稿や文を認識することは難しい。もうひとつの問題は、｢コード・ミキシング｣と言われる英語の投稿の一部に他言語の表現が含まれている場合だ。

｢あらゆる機械学習モデルにおいて誤りが起きますが、それは悪意のある陰謀などではありません。言語認識システムが、50の言語について、50文字から80文字で構成されるテキストを96%の正確さで認識できるとしても、4%は間違える可能性が残ります｣とマニングは言う。

しかし、フェイスブックのように何年もAI開発を行ってきた企業に、今回のような失敗が起きることは想定していなかったという。

｢彼らがこのような失敗を犯したことには驚くばかりです｣とマニングは言う。｢ルーマニア語の使用は英語よりはるかに限られていますから、間違えるとしたら、英語をルーマニア語と誤認するより、ルーマニア語を英語と誤認する方がありうるのではないでしょうか｣

フェイスブックの広報担当者は言う。

｢パンデミック中、私たちは新型コロナウイルスに関する信頼できる情報を提供し、偽情報に対する対抗措置をとり、ワクチン接種を勧めることで、皆様の安全確保を目指してきました。

2021年1月以降、アメリカのフェイスブック・ユーザーのうちワクチン接種を躊躇する人の数が約50%低下し、ワクチンを受け入れる人が増えているのは嬉しいことです｣

もっと知る

フェイスブックのAIプロダクト責任者が退社へ。求人応募数も激減、人材会社は｢幹部の退社はさらに増える｣と

もっと知る

米下院議員、SNSに｢操作していないフィード｣を義務付ける法案提出

［原文：Facebook's AI had a 'bad miss' in March after being fooled by a phrase often used by conspiracy theorists］

（翻訳：住本時久、編集：大門小百合）