グーグルのAI画像認識ツールは、人物画像に性別をタグ付けしない

• 写真内のオブジェクトを認識するグーグルのAIツールは、人物の画像に｢女性｣や｢男性｣などの性別ラベルを付けなくなる。
• グーグルのCloud Vision APIは、画像の内容を分析するために使用され、ブランドロゴから顔、ランドマークまでを識別してデータ化する。
• グーグルは、2月20日にCloud Vision APIの利用者にメールを送った。そこでは、外見だけで性別を推測することはできないため、性別に関連するラベルは使用しないと述べられている。
• AIによるバイアスを研究する専門家は、Business Insiderに、この変更は大きなプラスであると語った。

画像の中にあるものを認識してラベルを付けることができるグーグル（Google）のAIツールは今後、人物写真に｢女性｣や｢男性｣などの性別タグを付けなくなる。

グーグルのCloud Vision APIは、写真に内容を識別するラベルを付けることができる開発者向けのサービスだ。

このツールは、顔、ランドマーク、ブランドロゴ、さらには性的に露骨なコンテンツなどを検出することができ、画像検索を使用する小売業者から動物種を特定する研究者まで、さまざまな用途に使われている。

Business Insiderが入手した2月20日に発信された開発者へのメールでグーグルは、画像に｢性別ラベル｣を付けなくなると述べた。 代わりに、｢人物｣などの性別を言及しないラベルを人物画像に付ける。

グーグルは、外観だけで性別を推測することはできないため、この変更を加えたと述べている。また、AIに関する独自の倫理規則を引用し、写真の性別による不公平なバイアスを悪化させる可能性を考慮したと述べた。

メールの内容は以下の通り。

｢見た目では性別を推測できないこと、そしてグーグルの人工知能の原則、特に原則2の不公平なバイアスの作成や強化を避けるために、これらのラベルを削除することにした｣

我々はAPIをテストして次のことがわかった。

人工知能によるバイアスは広く議論されているトピックだ。研究者は欠陥のある訓練データによって不公平な結果がもたらされる可能性があるという懸念を表明している。例えば、顔認識アルゴリズムは白人よりも有色人種を誤認することが多い。

MozillaのテクノロジポリシーフェローでAIバイアスの専門家、フレデリケ・カルテウナー（Frederike Kaltheuner）は、Business Insiderにこのアップデートは｢とてもいいこと｣だと語った。

彼女はメールで次のように述べている。

｢性別や性的指向に関わらず、人を自動的に分類するときには、最初にカテゴリーを決める必要がある。これには多くの仮定が伴う。

人々を男性または女性として分類することは、性は二者択一であると仮定している。これに当てはまらない人は、自動的に誤った分類と誤解を受ける。これは単なる偏見ではない。外見から性別を推測することはできない。AIがそれをしようとすると、人間の性別を間違えるの必然だ｣

グーグルはAIの原則の中で、アルゴリズムとデータセットはバイアスを強める可能性があるとしており、｢我々は人々、特に、人種、民族、性別、国籍、所得、性的指向、能力及び政治的又は宗教的信念などの微妙な特性に関連する人々に対する不当な影響を回避するよう努める｣と述べている。

グーグルはこの変更で影響を受ける開発者に同社のディスカッションフォーラムへのコメントを求めた。この記事を書いている時点でコメントしている開発者は1人だけで、変更は｢ポリティカル・コレクトネス（政治的妥当性）｣に沿うものだと不満を述べている。

｢APIにはポリティカル・コレクトネスが入り込む余地はないと思う｣とその人物は記している。

｢99%の確率で男性か女性かがわかるなら、アルゴリズムでも同じ。それをやりたくないのなら、企業は他のサービスを利用するだろう｣

Business Insiderはグーグルにコメントを求めている。

もっと知る

レベルの低い顔認証技術に警告…3Dマスクで空港の検問を突破

もっと知る

アマゾンも止めたAI採用。リクナビ問題に潜むAI活用のリスク

［原文：Google AI will no longer use gender labels like 'woman' or 'man' on images of people to avoid bias］

（翻訳、編集：Toshihiko Inoue）