フェイスブックがディープフェイクを禁止…抜け道はあるが、第一歩であることは確か

facebookceo

Drew Angerer/Getty Images

  • フェイスブックは1月6日、ディープフェイクをサイトから削除すると発表した。ディープフェイクとは、人工知能(AI)を使って動画や画像を偽のものとして見せることを指す。
  • しかし、フェイスブックの新しいポリシーには抜け道がある。これにより、風刺としてのディープフェイクや、洗練されていないツールで作成されたビデオは掲載が可能になる。
  • ナンシー・ペロシの改ざんされたビデオとマーク・ザッカーバーグのディープフェイク・ビデオは、どちらも新しいポリシーの下で許可される。
  • ソーシャルメディア監視団体やナンシー・ペロシ下院議長を含む批評家たちは、この抜け道を批判している。

フェイスブック(Facebook)は誤解を招くディープフェイク(Deepfakes)動画を厳しく取り締まる方針だが、新たに導入されたディープフェイク禁止ポリシーには抜け道がある。

ディープフェイクはフェイスブックとインスタグラム(Instagram)で禁止されている、と同社は1月6日夜のブログ投稿で発表した。ディープフェイクとは、人工知能(AI)によって操作され、現実ではないものを見せるための動画や画像のことだ。広く共有されている例は、女優エイミー・アダムの顔がニコラス・ケージと差し替えられている動画だ。

しかし、フェイスブックのポリシーはパロディーや風刺を意図したディープフェイクには適用されず、洗練されていないソフトウェアで作成された改ざんビデオも禁止していない。また、政治家の投稿に対する事実確認はしないというポリシーには変わりがないため、政治家が投稿したディープフェイクは削除されない。

この新しいポリシーは正しい方向への一歩として歓迎されているが、監視団体はさらなる対策を求めている。

非営利の人権団体Witnessのプログラムディレクター、サム・グレゴリー(Sam Gregory)氏はBusiness Insiderに対し「これはよいポリシーだ」と述べている。

「新たに出現する脅威に対して先手を打っている。目に見えないAIによる情報操作が真の課題をもたらすことを認識している」

グレゴリー氏はフェイスブックが新しいポリシーを準備する際にアドバイザーを務めた。

「ディープフェイクを扱うのは最初の一歩ではあるがそれだけでは十分ではない」と彼は付け加えた。

「既知の偽ビデオや扇動ビデオの拡散を迅速に減らすために、より明確な措置を取ることを確実にする必要があり、ユーザーやジャーナリストに何かがどのように操作されたかを理解してもらうツールを提供する必要がある」

しかし、抜け道はある

このポリシーでは、風刺を意図した動画は削除しないため、多くのディープフェイクはそのままになっている。

その1つは、フェイスブックの誤報に抗議するために6月に作成されたマーク・ザッカーバーグのディープフェイクだ。そのビデオでは、ザッカーバーグが権力について偽のスピーチをしている。

フェイスブックの広報担当者は、このザッカーバーグのディープフェイクが風刺に該当することをBusiness Insiderに伝えた。

新しいポリシーは、稚拙な加工ビデオも対象としていない。下院議長ナンシー・ペロシ(Nancy Pelosi)の悪名高いクリップは、彼女の言葉が不明瞭になるように加工されているが、新しいポリシーの下では削除されないとFacebookの広報担当者は言った。ただし、フェイスブックのファクトチェッカーは、このビデオに警告を付けている。

7日のBusiness Insiderへのコメントで、ペロシ議員のスポークスマンは、ビデオを削除しないというフェイスブックの決定を批判した。

「フェイスブックは加工技術の問題にしたがっているが、本当の問題はフェイスブックが偽情報の拡散を止めることを拒否していることだ」

詐欺防止会社PindropのCEO兼共同創立者であるビジェイ・バラサブラマニアン(Vijay Balasubramanian)によると、セキュリティの専門家は、2020年の大統領選挙が近づくにつれて、ソーシャルメディア上で加工された誤解を招くビデオが大量に流入することを予想している。

「今度の選挙は、これらのビデオの洪水の完璧なきっかけになる」と、バラスブラマニアンはBusiness Insiderに語った。

「少なくともこれを真剣に受け止めていると言う方針は正しい方向への第一歩だが、(フェイスブックの)ポリシーの適用範囲がこれほど狭いのはなぜだろうか」

「正しい方向への第一歩だ」

プライバシー監視団体はフェイスブックに対して、誤解を招くコンテンツに関するポリシーを強化するよう求めているが、一部の人々はこの新しいポリシーをオンライン上の誤った情報との戦いにおける重要な一歩だと歓迎している。

ボストン大学の法律学教授でCyber Civil Rights Initiativeの副理事長を務めるダニエル・シトロン(Danielle Citron)氏は、フェイスブックの新しいポリシーについて助言し、Business Insiderの取材に対し、誤解を招くような動画を禁止するポリシーを今後さらに増やしていきたいと述べた。

「これは確かに正しい方向への一歩だ。我々は風刺やパロディのための余地を残す必要がある」とシトロン氏は述べた。

「私は、誰かがしていない行動をしているように操作する内容を対象にするポリシーがあればよかったと思う。ディープフェイクのセックスビデオを考えてみてください」

ディープフェイクのセックスビデオでは通常、女性の顔がポルノ女優の体に無断で貼り付けられている。

グレゴリー氏は、フェイスブックが人々を惑わすためにわざと洗練されていない技術を使用する「浅はかなフェイク」や動画に関するポリシーも強化するべきだと強調した。

「現在世界的な問題となっているのは、コンテンツの内容が(場所または時間が)誤っているビデオとそれよりは少ないが編集や操作が加えられたビデオだ」とグレゴリー氏。

「プラットフォームは、アメリカの大統領候補者を守るためだけでなく、世界中の人々を守るためにも、この問題に取り組む必要がある」

[原文:Facebook just banned deepfakes, but the policy has loopholes — and a widely circulated deepfake of Mark Zuckerberg is allowed to stay up

(翻訳、編集:Toshihiko Inoue)

  • Twitter
  • Facebook
  • LINE
  • LinkedIn
  • クリップボードにコピー
  • ×
  • …

あわせて読みたい

BUSINESS INSIDER JAPAN PRESS RELEASE - 取材の依頼などはこちらから送付して下さい

広告のお問い合わせ・媒体資料のお申し込み