フェイスブックがディープフェイク検出研究へ投資…事例映像集を作成

• フェイスブックが｢ディープフェイク検出チャレンジ｣（Deepfake Detection Challenge）を発表した。
• ディープフェイク映像は、AIを使って実際とは違う発言をさせたり、そこにいない人物を登場させるなどの改ざんが加えられた映像。フェイスブックは、1000万ドル（約10億7000万円）を研究への投資や賞の開設に充てることでディープフェイク動画との戦いを援助するという。
• 同社が俳優を雇い、顔の特性や特徴を集めて作ったデータ集は、企業がディープフェイク映像を検出する助けになると説明している。

人工知能（AI）によるディープフェイク映像の増加に対抗し、検出技術の向上を図る業界全体の取り組みの一端として、フェイスブック（Facebook）は俳優を雇ってディープフェイク映像のデータ集を作成するという。

この試みはフェイスブックが9月5日に発表したディープフェイク検出チャレンジの一部。この新たな取り組みはマイクロソフト（Microsoft）を含むいくつかの研究機関との共同で行うと同社は話している。

｢この試みのゴールは、AIを使って視聴者をミスリードする改ざん映像を検出しやすくなる、誰もが利用できる技術を作り出すことにある｣とフェイスブックの最高技術責任者マイク・シュレーファー（Mike Schroepfer）氏は9月5日のプログに投稿した。

シュレーファー氏はFacebookが1000万ドル（約10億7000万円）以上を、研究への投資や賞の開設などの形で投資するという。

ディープフェイク映像はAIを使い、登場人物が実際にはしていない発言や行動をしたかのように改ざんする技術で、間違った情報がソーシャルメディアを通じて急速に拡散する現代において大きな問題になると、警鐘が鳴らされている。

近年のディープフェイク映像は驚くほどリアルだが、矛盾する陰影やまつ毛が二重になるなどの特徴から見破ることが可能だとフェイスブックは話している。だが技術の進化に合わせて、フェイク映像を見破るための確立されたツールの開発が必要不可欠だとフェイスブックは訴えている。そのため同社は、技術者がフェイク映像の検出ツールを開発する助けとなるディープフェイク映像集を作るという。

｢そこに携わる人間が自由に使用でき、提供者から同意を取れていて、なおかつ利用に際する制限の少ないデータを用意することが重要だ｣とシュレーファー氏はブログで説明した。

｢だからこそ我々は俳優を雇い、このチャレンジに貢献できるようなリアルなデータ集の作成に取り掛かった。フェイスブックユーザーの情報はこのデータ集には使われていない｣

マイクロソフト、AI教育についてのIT業界団体The Partnership on AI、コーネルテック、マサチューセッツ工科大学、オックスフォード大学、カリフォルニア大学バークレー校、メリーランド大学カレッジパーク校、そしてニューヨーク州立大学オールバニ校がこの新たな試みに参加している。

フェイスブックはディープフェイク映像への対応の遅さから批判を受けていた。同社CEOのマーク・ザッカーバーグは6月、ディープフェイク動画を他のミスリードの手法と分けて定義するのが課題の1つだと述べた。例えば、有名人や政治家であれば、発言の一部だけを切り取ったニュースに対して謝った情報だと主張することも多い。

｢とても簡単に政治問題化することができる｣とザッカーバーグは懸念する。

｢発言などを編集されることを嫌う人々もまた、実際の意図を反映していないとか、それがミスリードであると批判するだろう｣

ディープフェイク検出チャレンジに関するFacebookのブログ投稿はこちら。

［原文：Facebook is making deepfake videos using paid actors so that it can help researchers better detect fake footage］

（翻訳：忍足亜輝、編集：Toshihiko Inoue）