BI Daily Newsletter

「完璧なディープフェイクが量産されたら、人々はそれを区別できない」専門家が警告

「ゲーム・オブ・スローンズ」の登場人物にユーザーの顔を貼り付けたもの。

中国の顔交換アプリZAOで「ゲーム・オブ・スローンズ」の登場人物にユーザーの顔を貼り付けたもの。

Twitter/@AllanXia

  • フェイスブック、ツイッター、TikTokは最近、新しい形態のフェイクが勢いを増していることに対抗して、プラットフォーム上での「ディープフェイク」映像を取り締まる計画を発表した。
  • F5NetworksのAI担当責任者シューマン・ゴセマジャンダー氏は、現在のところ、ディープフェイクは依然として不自然なものであり、「ハリウッドのレベル」に至るには相当の労力を必要とする、と語っている。
  • しかし、「完全に現実と同じ」ディープフェイクが現れるのはそれほど先のことではなく、それに脳が慣れると「純粋に誤った情報」が新しい現実になると彼は言う。
  • すでに存在する膨大な量のフェイクニュースは、ディープフェイクが大規模に作成しやすくなるにつれて何が起こるかを示している。

ここ数週間、フェイスブック(Facebook)、ツイッター(Twitter)とTikTokは、新しい形の偽情報、ディープフェイクビデオに対処する取り組みを急いでいる。

ディープフェイクは、人工知能を使用して操作され、誰かが実際に言っていないことを言っているように見せるためのものだ。よりリアルなものが簡単に作成できるようになるにつれて、ソーシャルメディアから議員まで、誰もが考えられる影響を懸念し始めている。

元Googleの技術者で、現在はF5ネットワークスの人工知能部門の責任者、シューマン・ゴセマジャンダー(Shuman Ghosemajumder)氏は、我々が直面していることを理解しようと努力している人々の一人だ。 彼はShape Security(最近F5に買収された)のCTOだった時に、偽のアカウントや資格情報などの詐欺に対処し、ディープフェイクの将来について考えるためのフレームワークを開発した。

ゴセマジャンダー氏は、ディープフェイクは3つの異なる段階で進化し、広がると考えている。この新しい技術がもたらす課題に対処するため、社会はそれを理解する必要があると言う。

最初の段階にはすでに到達していると彼は言う。1人の人間が1つの説得力のある偽コンテンツを作成できる段階だ。例えば、2018年にBuzzfeedが公開した動画は、元アメリカ大統領のバラク・オバマ(Barack Obama)氏がトランプ大統領の悪口を言っているように見えたが、実際には映画監督で俳優のジョーダン・ピール(Jordan Peele)氏が演じたものを、ディープフェイク・ソフトウェアを使って加工していた。ゴセマジャンダー氏によると、このような動画の作成は「ハリウッドレベルの作品を作るようなもの」だ。

ただし、ディープフェイクを作成するツールは使いやすくなっている。現在はステージ2に向かっていて、そこに到達すると、100万人がそれぞれ説得力のあるディープフェイクを作成することができるとゴセマジャンダー氏は警告する。

マーク・ザッカーバーグ(Mark Zuckerberg)、「ゲーム・オブ・スローンズ」のキット・ハリントン(Kit Harington)、「ワンダーウーマン」のガル・ガドット(Gal Gadot)の不正動画は、2019年に一斉に登場した

本当の危険は、これらのツールが正確かつ効率的になり、100万人が100万本のディープフェイクを製造できるようになった時だという。

「突如としてツールが100万人のクリエイターの手に渡って、彼らは完璧にリアルに見えるものをたくさん作り始めるようになる」と彼は言った。

2016年のアメリカ大統領選挙に影響を与えようとしたロシアの「トロール工場」であるInternet Research Agencyが作成したコンテンツのような、テキストや画像ベースのフェイクはすでにこの段階に達している。

ゴセマジャンダー氏によると、ビデオに関しては、それほど洗練されたレベルではないが、研究開発が急速に進んでいる。一部の専門家は、「完全にリアルな」ディープフェイク映像ができるまで1年もかからないと予測している。

本当の危険はそれが当たり前になった時にやって来る

「問題はテクノロジーが完全に進歩してしまい、違いがまったく分からなくなってしまうことだ」とゴセマジャンダー氏は言う。

彼は初めて自動運転車に乗る時を例に挙げた。最初は乗客は警戒し、何が起こるかを心配する、「十分に狼狽する」体験だ。それがしばらく乗っていると「退屈なだけ」になると彼は言った。

説得力のあるディープフェイクが当たり前になっていくと、我々の脳は同じように警戒警報を鳴らさなくなるのではないかとゴセマジャンダー氏は懸念している。

「そこには珍しいものは何もなく、あなたの心はそれに慣れ、それはその時点での新しい現実になる」とゴセマジャンダー氏は言い、「そしてそれはまったくの嘘の情報だ」と付け加えた。

ソーシャルメディアは、ディープフェイクを取り締まるべきかどうか、どのように取り締まるべきか、あるいは実際にユーザーにとって有用な機能なのかどうかもわからないまま、ディープフェイクに対する最善のアプローチを探して格闘し続けている。

2019年9月にリリースされたZaoという中国のアプリを使えば、有名人に自分の顔を重ね合わせることができる。とても稚拙な加工だが、ディープフェイクを作成するツールが広く利用できるようになった時の影響を示唆している。TikTokと親会社のByteDanceもディープフェイク機能を実験したと報じられた

一方で、アメリカの議員たちはフェイスブックやツイッターなどのソーシャルメディアに対して、あらゆる種類の誤った情報が自社のプラットフォームに拡散するのを防ぐために十分な対策を取っていないと強く非難した

[原文:As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring (GOOG, GOOGL)

(翻訳、編集:Toshihiko Inoue)

  • Twitter
  • Facebook
  • LINE
  • LinkedIn
  • クリップボードにコピー
  • ×
  • …

あわせて読みたい

BUSINESS INSIDER JAPAN PRESS RELEASE - 取材の依頼などはこちらから送付して下さい

広告のお問い合わせ・媒体資料のお申し込み