ペンタゴンとの契約でグーグルに大きな亀裂 —— 問われるAIの軍事利用

グーグル・クラウドでAIのチーフサイエンティストを務めるフェイフェイ・リー(Fei-Fei Li)氏。

グーグル・クラウドでAIのチーフサイエンティストを務めるフェイフェイ・リー(Fei-Fei Li)氏。

AP

  • グーグルの研究員は、同社が国防総省のプロジェクト・メイブン(Project Maven)に携わることは、評論家の格好の標的になると社内メールで警告した。
  • ニューヨーク・タイムズにも取り上げられた、この予想は的中。国防総省とのドローンに関する契約を巡って、社内外から猛反発が生まれた。
  • 契約に反対する従業員の声で社内掲示板は溢れかえり、会議は紛糾し、反メイブンステッカーが作られた。抗議の辞職をする従業員もいる。大学からもプロジェクトからの撤退を求める声が届いた。
  • グーグルは、AI(人工知能)の軍事利用に関するガイドラインを作成する予定。
  • その後、同社は国防総省との契約を更新しない模様と伝えられた。

グーグルが軍のAIに関する契約を獲得することは、手に負えない問題に発展するだろうと同社の研究員はメールで警告していた。

グーグルが国防総省のプロジェクト・メイブン(Project Maven)に関する契約を獲得して以来、社内外から反発が起きていることをニューヨーク・タイムズが報じた。前述のメールのその記事で紹介された。

国防総省のプロジェクトは、動画の解析にAIを使おうというもの。

国防総省は「力を増しつつある敵対国や敵対勢力に対するアドバンテージを保つ」ために機械学習は欠かせないと述べた。だがグーグルが関わることで、ドローンによるミサイル攻撃の精度が改善してしまう可能性があることを懸念する人もいる。

グーグル・クラウドでAIのチーフサイエンティストを務めるフェイフェイ・リー(Fei-Fei Li)氏は2017年9月、プロジェクト・メイブンにおけるグーグルの役割をどう公表するかについてのメールのやり取りの中で、警告を表明していた。

同社ディフェンス&インテリジェンス・セールスの責任者スコット・フローマン(Scott Frohman)氏へのメールの中で、リー氏は以下のようなに語ったと報じられた。

「AIについて言及もしくは暗示することは、何としても避けるべき。AIの兵器化はAIに関する話題の中で最も神経質な話題。メディアがグーグルをありとあらゆる方法で攻撃するための格好の話題になる」

リー氏はニューヨーク・タイムズへのコメントので、Eメールの内容をさらに強調した。

「私は、人間を中心に考えられたAIは、ポジティブかつ善意ある形で人々に利益をもたらすと信じている。私がAIの兵器化と考えるプロジェクトに関わることは、私の方針に著しく反している」

社内掲示板は怒りの声で溢れ、抗議の辞職をする従業員も

リー氏の予想は的中した。グーグルがプロジェクト・メイブンに関与することは、大きな反感を生み、「邪悪になるな(don't be evil)」という同社のモットーに反していると多くの声があがった。

約4000人の従業員が、同社CEOサンダー・ピチャイ氏に国防総省との契約を解約するよう求める手紙に署名した。ギズモードによると、10人以上の従業員が抗議の辞職をした。

また、200人を超える学者や研究者も、契約から手を引くことを求めた

グーグルのCEO、サンダー・ピチャイ氏。

グーグルのCEO、サンダー・ピチャイ氏。

Greg Sandoval/Business Insider

プロジェクト・メイブンによって、グーグルに「亀裂が走った」とニューヨーク・タイムズは伝えた。世界中で、経営幹部が状況を説明する社内会議が複数回開かれた。

社内掲示板も、この件についてのコメントで溢れかえっている。

あるエンジニアは、会議室の名称をクララ・イマーヴァール(Clara Immerwahr)にちなんだ名称に変更するための署名を行った。クララ・イマーヴァールは、科学の軍事利用に抗議して、1995年に自殺したドイツの化学者だ。

ニューヨーク・タイムズによると「正しいことをしよう(Do the Right Thing)」と書かれたステッカーも、同社ニューヨークオフィスに貼られているようだ。

「グーグルは自由に表現できる職場だが、プロジェクト・メイブンは、ここ数年で類を見ないレベルで社内をかき乱しているとグーグルで長く働く従業員は語った」とタイムズは伝えた。

グーグルは、AIの軍事利用に関するガイドラインを作成する予定

Business Insiderはグーグルにコメントを求めたが、同社はコメントを拒否した。

ニューヨーク・タイムズによると、CEOのピチャイ氏は5月31日(現地時間)に行われた全社会議でこの件に触れ、AIの軍事利用に関するガイドラインを作成する予定と語った。

ガイドラインによって、AIの軍事利用を止めることができるとグーグルは述べた。

さらに、ニューヨーク・タイムズによると、グーグル・クラウドのCEOダイアン・グリーン(Diane Greene)氏も、プロジェクト・メイブンは「殺傷目的ではなく」、契約は「わずか」900万ドル規模と語った。

また同社はその後、国防総省との契約を更新しない模様と伝えられた。

[原文:A small military contract started an internal war at Google that's tearing the company apart

(翻訳:Yuta Machida、編集:増田隆幸)

ソーシャルメディアでも最新のビジネス情報をいち早く配信中