2024.02.08

OpenAI、AI生成画像に「メタデータ」　SNS悪用多発で

namiten

【米国総局 = ｼﾘｺﾝﾊﾞﾚｰIT】OpenAIは、自社の画像生成AI「DALL･E3」で生成された画像にメタデータを差し込む。SONYなどが参画しているC2PAを採用する。C2PAは、メディアの出所や関連情報を検証するためのメタデータを埋め込むことを可能にするオープンソースプロジェクトで、一部のメディアなどでも採用されている。

インターネット上でAIを使用したフェイクニュースが相次ぐ中で、AI生成画像であることを明確にする狙いがある。

リトアニア・カウナス – 2023年11月19日：画面上の背景にOpenAIロゴとサム・アルトマン。 — OpenAI（シリコンバレー = 昨年11月）

同社は今月12日までに、全ての生成画像を対象にメタデータ（C2PA）を含める。C2PAメタデータを用いることで、画像が生成AIを活用して生成されたかどうかを検証することが可能になる。

生成された画像に埋め込まれるメタデータには、DALL·E 3モデルによって生成されたことを示す署名や、ChatGPTを使用して作成されたコンテンツであることを示す追加のマニフェストが含まれる。これにより、二重の出所記録が作成される。

ChatGPTで画像が浮上したことを示す2つ目のメタデータ・マニフェスト — C2PAのデジタル透かしが含まれたChatGPTの生成画像（OpenAI = 米国時間5日）

OpenAI関係者は「メディアコンテンツの出所を確立し、その信号を認識することをユーザーに奨励することがデジタル情報の信頼性を高める鍵であると考えている」とした上で、「画像生成の品質に影響を与えることはなく、遅延に与える影響も無視できるレベルであるC2PAを採用した」と述べた。具体的には、API経由のPNG画像では3%、WebP画像では5%から32%のサイズ増加が見込まれるという。

一方で、このメタデータは偶発的または意図的に除去される場合が多く、その場合、画像がChatGPTやOpenAIのAPIを通じて生成されたかどうかを判定することは難しくなるとの指摘も上がっている。

Xやインスタグラムを含む多くのSNSでは、セキュリティ上の理由から画像に差し込まれたメタデータを削除していることも「有効な対策にはなり得ない」との見方を加速させる。スクリーンショットの取得などの行為もメタデータを除去する原因になる。

指摘を受けてMetaは、今後AI生成画像であることを示すラベルを表示する方針だ。

※SNSシェアの場合、必ず利用規約をご確認ください。
コンテンツの翻案、リンクを含まない引用・スクリーンショットの共有は法律・法令、当サイト利用規約で禁止されています。