Googleは検索でAI生成画像にラベルを付け始める

ここ数ヶ月、Google検索結果においてAI生成画像がますます目立つようになり、正当な検索結果が押し出され、ユーザーが探しているものを見つけるのが難しくなっています。これを受けてGoogleは火曜日、今後数ヶ月以内にAI生成画像とAI編集画像検索結果にラベルを付ける予定だと発表しました。

同社は「この画像について」ウィンドウを通じてこうしたコンテンツにフラグを付け、検索、Google レンズ、Android の Circle to Search 機能に適用します。Google はこの技術を自社の広告サービスにも適用しており、YouTube 動画にも同様のフラグを追加することを検討していますが、発表記事によると「今年後半にさらに詳しい情報を提供する予定」とのことです。

Googleは、AI生成画像を識別するために、コンテンツの出所と真正性に関する連合（C2PA）のメタデータを利用する予定です。これは、Googleが今年初めに運営委員会のメンバーとして参加した業界団体です。この「C2PAメタデータ」は、画像の出所を追跡し、画像がいつ、どこで作成されたか、そして生成に使用された機器やソフトウェアを特定するために使用されます。

これまでに、Amazon、Microsoft、OpenAI、Adobeなど、業界の大手企業が多数C2PAに参加しています。しかし、この標準規格自体はハードウェアメーカーからほとんど注目されておらず、現在のところソニーとライカのカメラの一部機種にしか搭載されていません。また、Grokが画像生成に活用するFluxモデルを開発するBlack Forrest Labsなど、著名なAI生成ツール開発企業も、この標準規格の採用を拒否しています。

AI生成のディープフェイクを利用したオンライン詐欺の数は、過去2年間で急増しています。例えば2月には、香港を拠点とする金融業者が、ビデオ会議中に会社のCFOを装った詐欺師に2,500万ドルを送金させられるという事件が発生しました。5月に行われた検証プロバイダーSumsubの調査によると、ディープフェイクを使った詐欺は2023年から2024年にかけて世界で245%増加し、特に米国では303%増加すると予測されています。

「これらのサービスが一般公開されたことで、サイバー犯罪者にとって参入障壁が低くなりました」と、Netskopeのアジア太平洋地域最高情報責任者兼最高セキュリティ責任者であるデビッド・フェアマン氏は5月にCNBCに語った 。「もはや特別な技術スキルは必要ありません。」