脱炭素とはなにか
Reuters
人工知能（AI）サービス｢Firefly（ファイアフライ）｣の本格的なローンチを間近に控え、アドビ（Adobe）は、画像生成技術のトレーニングのためにコンテンツを提供する人々へどう報酬を払うべきかなど、いくつかの課題に直面している。
アドビが頭を悩ませているのは、Fireflyの学習に使用するデータセットに、AIが生成した画像をクリエイターがアップロードした場合、どうするかということだ。アドビは以前、Fireflyはアドビストック（Adobe Stock）画像、｢オープンライセンスコンテンツ（ライセンスフリーのコンテンツ）｣、著作権が失効したパブリックドメインのコンテンツのみを使って学習させるため、他のAIアプリケーションよりも｢信頼できる｣と述べている。
同社はまた、クリエイターがアップロードしたコンテンツがFireflyモデルの学習に使われ、アドビの顧客向けに最終的にAIで生成された新しい画像を提供することになった場合、投稿したクリエイターに対して報酬を支払う予定だという。
アドビは違いを見分けることができるのか？
これは、生成AI（ジェネレーティブAI）業界全体の研究者や企業を今まさに悩ませている厄介な問題だ。AIのコンテンツと人間の作ったコンテンツの違いを果たして見分けることができるのか？ もしできないのであれば、どんなことが起こり得るのだろうか？
AI分野のリーディングカンパニーであるOpenAIは最近、その違いは見分けることができないと認めた。このことは、AIが生成したデータが新しいAIモデルの訓練に不用意に使われる可能性があることを意味し、それらのAIのアウトプットがさらに悪化する｢モデル崩壊｣と呼ばれる事態を招く、と一部のAI研究者は述べている。
もしコンテンツの寄稿者が、AIが生成した画像だと申告せずにアドビストックにアップロードした場合、憂慮すべき事態が少なくとも2、3生じかねない。第一に、アドビはクリエイターが別のAIモデルに作らせただけの作品に対して報酬を支払うことになるかもしれない。第二に、アドビストックが得体の知れないAI画像で溢れ返れば、いずれFireflyモデルに問題が生じることになるかもしれない。
Insiderが入手したアドビ社内のQ&A文書を見るかぎり、同社はデータセット内の画像について、AIが作成したものかどうか確証を持てないようだ。
Insiderはアドビに複数回コメントを要請したが、同社からは回答を得られなかった。
Insiderが確認したQ&Aをはじめとするアドビの文書には、従業員や管理職がAIをめぐる難しい問題に誠実に取り組んでいる様子が示されており、最終的な公式発表は社内で議論された内容とは異なるものになる可能性がある。しかしこれらの議論から、同社がこの強力な新技術をどのように開発しようとしているのかという、重要なポイントが詳らかになる。
AIが生成した画像にうっかりお金を払う
Q&A文書にあった質問の中には、AIが生成したコンテンツを特定するうえでの問題について具体的に書かれたものもあった。アドビがAI生成コンテンツのすべてを特定することができないため、それらをアップロードした一部の人が報酬を受け取る可能性もあるのか、という質問だ。
アドビの管理職は従業員に対し、AIが生成した画像をアップロードした投稿者に誤って報酬を支払いかねない件については言及しないよう指示している。代わりに、AIが生成したことが｢分かっている｣画像についてはFireflyの学習に使わないという、アドビの以前の発表内容を繰り返すよう従業員に伝達している。
別のアドビの管理職は、｢この件についてはあまり話さない方がいい｣としたうえで、AI生成コンテンツのみをアップロードした投稿者が誤って支払いを受けた場合は自社の画像コンテンツに正しくマークを付けたかどうかを確認すべきであり、そうでなければ、同社の学習モデルを調整すべきであると述べている。
｢それらの質問には、その都度対応すればいい｣
アドビは以前、アドビストックの寄稿者に対する報酬モデルを開発中であり、後日詳細を発表すると述べていた。
社内の議論は、AIモデルの学習に著作権や未承認のコンテンツを使用するという難しい問題にも踏み込んでいる。MidjourneyやStability AIといったアドビの競合企業の中には、ウェブからとってきた画像を作成者の同意なしに使用し、訴えられているところもある。ソフトウェアコーダーのためのオンラインフォーラム｢Stack Overflow｣は、ユーザーがGPT-4やGithub Copilotのような、オンラインで自由に利用可能なデータを使って学習させた競合のAIモデルにシフトしたことで、トラフィックが減少したという。
アドビにとっては、このような課題への対処が急務となっている。Insiderが確認した2023年7月の社内メモでは、アドビの取締役が従業員に対し、同社はFireflyの幅広い商用リリースと2023年秋の早い段階での一般向けの提供を計画していると述べている。Fireflyのベータ版は3月に公開され、その生成AI機能はアドビの他の製品にも展開されている。
どれだけのアドビストックの投稿者がAIの支払いを受けられるのか
メモによると、アドビは2023年9月にアドビストック投稿者向けのFirefly FAQを更新する予定だという。7月下旬の時点で、アドビストックのコントリビューター101万9274人が、過去1年間に画像がFirefly AIモデルのトレーニングに使用されたため、支払いを受ける資格があるという。メモによると、そのうちの約6%にあたる6万7581人が、10ドル（約1450円、1ドル＝145円換算）以上の支払いを受ける見込みだという。
アドビはまた、投稿者が自分の画像をFireflyのAIモデルの学習に使用しないように選べるようにすることも検討している。現在のFirefly FAQでは、アドビストックに投稿されたコンテンツをAIに学習させないようにするオプションはないと書かれているが、その可能性を模索し続けている。
しかし、Insiderが確認した最近の社内ディスカッションでは、アドビの管理職らは、投稿者が画像をアップロードする際に近い将来、AIに｢学習させない｣という選択肢を選べるようになると述べている。ただしこのオプションを選択すると、そのコンテンツはアドビストックのデータベースにアップロードされずにブロックされるという。
これがアドビの公式ポリシーになるかどうかはまだ不透明だ。Insiderは同社に問い合わせたが、コメントは得られなかった。
