｢Facebookでテロリスト監視｣の議論、プライバシーはどこまで保護されるのか？

16日木曜日、マーク・ザッカーバーグ氏は、6000ワード近くの長文メッセージを発表した。

Facebookの創業者兼CEOの長文メッセージは、世界を繋ぎ、あらゆる場所で｢コミュニティのためのソーシャルインフラ｣を提供するというFacebookの使命をあらためて強調した。

また、ザッカーバーグ氏は、Facebook上からテロリストと彼らのプロパガンダを消し去るためにAIを用いると述べた。

｢わたしたちは現在、テロリズムに関するニュース報道とテロリストによるプロパガンダをAIで判別する準備を進めています。わたしたちのサービスを『テロ組織のために利用しようとする者』は誰であっても、ただちに追放するつもりです｣

だが、正式に公表される前に報道機関に送られた初期バージョンには、テロリストの監視を｢プライベートチャンネル｣で行うとした箇所があった。この変更を最初に指摘したのはMashableだ。

以下が、最初のバージョンにあったAIに関する同氏のコメントだ（強調部分はBusiness Inseiderによるもの）。

｢AIを使えば長期的には、従来より迅速かつ正確にリスクを検出することができます。それまで見逃されていたリスクの検出までもが可能になるでしょう。例えば、プライベートチャンネルを使ったテロリストの攻撃計画、被害届を出せない状況にある者へのいじめ、その他のローカルおよびグローバルな問題などです。そのようなシステムの開発には何年もかかるでしょう｣

AP通信は、当初、｢プライベートチャンネルを使った｣という一文を含んだ文章を伝えたが、のちに実際のメッセージに合わせて更新した。

Facebookのスポークスパーソンは17日金曜日、｢AIがどのように使われるのか、まだ正確に予測できない｣ためその一文を削除したこと、そして、彼らが暗号化に価値を置いていることをわたしたちに伝えた。

｢AIの長期的な展望について述べたその一文は、AIがどのように使われるのかをまだ正確に予測できないため、最終バージョンから削除しました。しかし、テロリズムに対し、AIで対抗していくというわたしたちの考えはシンプルです。メッセージにあるように、わたしたちはユーザーのプライバシーを保護したうえでそれを実現していきます。わたしたちは暗号化の強力な支持者であり、実際にそれを世界最大のメッセージングプラットフォームである『WhatsApp』と『Messenger』に組み込んでいます｣

ソーシャルネットワークがテロリストのプロパガンダに対抗する措置を講じるのは珍しいことではない。とはいえ、AIを使ってプライベートな会話を監視するという考え方は、彼らが将来、テロリストとの関連が疑われるアカウントをチェックしようとしていることを表している。

［原文：Why Facebook removed a line about monitoring terrorists on 'private channels' from Mark Zuckerberg's company manifesto（FB）］

（翻訳：太田禎一）