顔、猫、Airbnbの物件……AIでフェイク画像を自動生成するウェブサイト

AIが生成したフェイク画像

Truth Syrup/YouTube; ScreenSlam/YouTube

  • 最近作られた複数のウェブサイトは、ディープフェイク技術に秘められた不穏な一面を浮き彫りにした。
  • これらのサイトに表示される人の顔、猫、建物は、完全にフェイクだが驚くほどリアルに見える。
  • サイト運営者の1人は、コンピュータープログラミング経験のない人でも、無料で提供されているツールを使えば、数時間でフェイク画像を作ることができると語った。
  • また別のサイトを運営しているウーバーの元エンジニアは、新しいAI技術に対する「世の中の関心を高める」ためにサイトを作ったと述べた。

ディープフェイク(deepfake)技術は、不気味なほどリアルで完璧な動画で世間を騒がせた。女優のスカーレット・ヨハンソンをポルノ動画に登場させたり、オバマ元大統領にトランプ大統領のことを「間抜け」と呼ばさせたりした

そして今、ディープフェイク技術が今後どのように普及し、どのような結果をもたらすかを予見させるようなウェブサイトがいくつも登場している。

ThisPersonDoesNotExist.com」は、ページを更新するたびにさまざまな人の顔を表示する ── だが顔はすべて完全にフェイク画像で、コンピューターが作り出したもの。

同サイトは、GAN(generative adversarial network、敵対的生成ネットワーク)と呼ばれる技術を用いて、これらの画像を生成している。

テック系メディア、ネクスト・ウェブ(Next Web)の説明によると、GANは2つのアルゴリズムを戦わせる ── 生成アルゴリズムと識別アルゴリズムだ。生成アルゴリズムは、フェイク画像を生成し、識別アルゴリズムを騙して画像を本物であると信じさせようとする。こうしたプロセスを経てGANが作り出した画像はすべて、生成アルゴリズムが識別アルゴリズムを騙すことに成功した画像だ。

ThisPersonDoesNotExist.comが使っているのは、エヌビディアが開発した「StyleGAN」と呼ばれる特殊なアルゴリズム。このアルゴリズムは当初、研究論文として発表されたが、現在はGitHubで公開されている(エヌビディアにコメントを求めたが、同社は拒否した。同研究論文は現在審査中で、「投稿ルール」によると、その期間はメディアとの接触が禁じられているというのがその理由)。

他にもいくつかのサイトがStyleGANを使って、フェイクの猫画像、アニメキャラクター、さらにはフェイクのエアビーアンドビー物件を生成している。

ウェブサイトの開発者の1人は、AIとニューラルネットワークについての重要なことを理解してもらうためにサイトを立ち上げたと説明した。この技術は簡単に人を騙してフェイク画像を本物と信じ込ませることに使うことができるということだ。

専門家は、こうした高度なツールが悪用され、フェイクニュースやイタズラをエスカレートさせるリスクを懸念している

「2、3時間あれば、誰でも私と同じくらい説得力のあるものを作成できる」とクリス・シュミット(Chris Schmidt)氏は、同氏が運営する「ThisAirbnbDoesNotExist.com」に記した。

「AIは今、人を騙せるほど十分に進歩している。特に注意深く観察していなければなおさらだ」

こうした技術を使ってフェイク画像を生成しているウェブサイトを見てみよう。我々の現実認識に厄介な疑問を投げかけている。

ThisPersonDoesNotExist.com

ThisPersonDoesNotExist.com

これらの人は実在しない。

This Person Does Not Exist

概要 : ページを更新するたびに、StyleGANが新しい顔を自動生成する。生成アルゴリズムは、Flickerの顔をデータとして使用している。

制作者 : フィリップ・ワン(Philip Wang)氏。ウーバーの元ソフトウエアエンジニア。AIとディープラーニングについてのフェイスブックの公開グループにこのサイトを投稿した。

「この技術に対する世の中の認識を高めるために、自分の経験やスキルを活かすことに決めた」と同氏はフェイスブックグループへの投稿に記した。

リンク : ThisPersonDoesNotExist.com

TheseCatsDoNotExist.com(もしくは、ThisCatDoesNotExist.com)

TheseCatsDoNotExist.com

これらの猫は実在しない。

These Cats Do Not Exist

概要 : ギットハブにあるエヌビディアのコードには、コードを猫に適用するための、事前訓練済みのStyleGANモデルとデータセットが含まれている。

制作者 : 2つのウェブサイトがある。1つは、前述のワン氏が作成した「ThisCatDoesNotExist.com」。こちらもページを更新するたびに、AIが生成した猫の画像を1枚表示する。

もう1つのウェブサイト「TheseCatsDoNotExist.com」はオーストラリア人開発者ネイサン・グローバー(Nathan Glover)氏によって作られたもの。

グローバー氏は同サイトへのリンクをツイッターに投稿し、3万匹以上のフェイク猫画像を生成したと記した。同サイトは、猫を並べて表示し、ページを更新するとすべて新しい画像に変わる。

リンク : ThisCatDoesNotExist.comTheseCatsDoNotExist.com

ThisAirbnbDoesNotExist.com

ThisAirbnbDoesNotExist.com

このエアビーアンドビー物件は実在しない。

This Airbnb Does Not Exist

概要 : ページを更新するたびに、フェイクのエアビーアンドビー物件が新たに表示される。部屋の写真、ホストの名前と顔、部屋の情報はすべてAIが生成したフェイク。

「これらはすべてコンピューターの白昼夢」とウェブサイトに記されている

制作者 : クリストファー・シュミット(Christopher Schmidt)氏。グーグルでオープンソースコードに取り組んでいるエンジニア。シュミット氏は同ウェブサイトの「About」に「実際にニューラルネットワークを扱った経験」や「本格的なコンピューティングリソース」がなくても、StyleGANコンテンツを作成することができたと記した。

「2、3時間あれば、誰でも私と同じくらい説得力のあるものを作成できる」と同氏は記した。

「ユーザーエクスペリエンスの面では甘い部分もある。しかし全体的に見ると、うまく機能していると思う。部屋の説明文は怪しいところも多いが、大体は一度見たくらいではフェイクと分からないと思う」

リンク : ThisAirbnbDoesNotExist.com

ThisWaifuDoesNotExist.net

ThisWaifuDoesNotExist.net

このアニメキャラクターは実在しない。

ThisWaifuDoesNotExist.net

概要 : 10秒ごとにStyleGANが新しいアニメキャラクターの顔を生成し、表示する。同サイトは「Danbooru2018」と呼ばれる、アニメキャラクター数百万枚の画像を格納したデータベースを利用している。

制作者 : グワーン・ブランウェン(Gwern Branwen)氏。統計、ダークネット、ビットコインを専門とするライター。

同サイトが画像を生成する際に使用しているデータベース「Danbooru2018」の作者でもある。ウェブサイトの名称に含まれている「Waifu」は、アニメや漫画の女性キャラクターを意味する。

同サイトは、レディット(Reddit)4チャン(4chan)、中国の百度(バイドゥ)のフォーラムで取り上げられている。

リンク : ThisWaifuDoesNotExist.net


WhichFaceIsReal.com

WhichFaceIsReal.com

WhichFaceIsReal.com

概要 : このサイトはインタラクティブ・ゲームとして作られた。ページを更新するたびに、2つの顔が表示される。1つは実在の人物、もう1つはAIが作ったフェイク画像。どちらが実在の人物かを当てる。

制作者 : ジェビン・ウエスト(Jevin West)氏カール・ベルグストロム(Carl Bergstrom)氏。2人はワシントン大学の教授。デジタルの世界において何が偽物で、何が真実かを知るためにデータと分析を使うことを教えている授業から派生した「Calling Bulls--t project」の一環として制作。

「我々の目的は、デジタル・アイデンティティーを偽造することの簡単さを理解してもらうこと、一見しただけでこうしたフェイクを見抜けるようになってもらうこと」と2人はサイトに記した

リンク : WhichFaceIsReal.com


[原文:The AI tech behind scary-real celebrity 'deepfakes' is being used to create completely fictitious faces, cats, and Airbnb listings

(翻訳:Yuta Machida、編集:増田隆幸)

ソーシャルメディアでも最新のビジネス情報をいち早く配信中