OpenAI、AI生成画像に「メタデータ」 SNS悪用多発で
【米国総局 = ｼﾘｺﾝﾊﾞﾚｰIT】OpenAIは、自社の画像生成AI「DALL･E3」で生成された画像にメタデータを差し込む。SONYなどが参画しているC2PAを採用する。C2PAは、メディアの出所や関連情報を検証するためのメタデータを埋め込むことを可能にするオープンソースプロジェクトで、一部のメディアなどでも採用されている。
インターネット上でAIを使用したフェイクニュースが相次ぐ中で、AI生成画像であることを明確にする狙いがある。
同社は今月12日までに、全ての生成画像を対象にメタデータ（C2PA）を含める。C2PAメタデータを用いることで、画像が生成AIを活用して生成されたかどうかを検証することが可能になる。
生成された画像に埋め込まれるメタデータには、DALL·E 3モデルによって生成されたことを示す署名や、ChatGPTを使用して作成されたコンテンツであることを示す追加のマニフェストが含まれる。これにより、二重の出所記録が作成される。
OpenAI関係者は「メディアコンテンツの出所を確立し、その信号を認識することをユーザーに奨励することがデジタル情報の信頼性を高める鍵であると考えている」とした上で、「画像生成の品質に影響を与えることはなく、遅延に与える影響も無視できるレベルであるC2PAを採用した」と述べた。具体的には、API経由のPNG画像では3%、WebP画像では5%から32%のサイズ増加が見込まれるという。
一方で、このメタデータは偶発的または意図的に除去される場合が多く、その場合、画像がChatGPTやOpenAIのAPIを通じて生成されたかどうかを判定することは難しくなるとの指摘も上がっている。
Xやインスタグラムを含む多くのSNSでは、セキュリティ上の理由から画像に差し込まれたメタデータを削除していることも「有効な対策にはなり得ない」との見方を加速させる。スクリーンショットの取得などの行為もメタデータを除去する原因になる。
指摘を受けてMetaは、今後AI生成画像であることを示すラベルを表示する方針だ。
当サイト掲載情報について、法的請求がある場合…お問い合わせへ
当サイト掲載情報について、不備や依頼等がある場合…メール、Twitter DM等