GoogleのPixel 9スマートフォンは AIが全て です。発表イベントをご覧になった方は、GoogleがほぼAIについて語ることしか考えていなかったため、見逃すはずがありません。AIはここにも少し、あそこにも少し、そしてさらに念のため、AIがさらに上乗せされているようです。
Pixel 9に搭載されている数多くのAI機能の一つに、「Pixel Studio」というアプリがあります。これは画像生成アプリで、ほぼあらゆるものを画像化できます。アプリを開いて、画像にしたいものを入力すれば、Pixel Studioが自動で画像を作成してくれます。この種のアプリとしては初めてではありませんが、Google Pixelスマートフォンに搭載された最初のアプリです。残念ながら、これは大失敗作です。
おすすめ動画
Pixel Studioの優れた点
悪い点を述べる前に、Googleの功績を称えておきたいと思います。AI画像生成アプリ全般は好きではありませんが、Pixel Studioはデザインが優れていて使いやすいアプリです。
アプリを開くと、魔法の城、ミームの反応、スポーツ、レトロなビデオゲームなど、10種類のカテゴリーに分類された画像タイプの提案が表示されます。これらを参考にインスピレーションを得たり、アプリ下部の青い「作成」ボタンをタップして最初から作成したりすることができます。独自の画像を作成したい場合は、Pixel Studioに写真を生成させたいものを入力するだけで簡単に作成できます。面白い帽子をかぶってサングラスをかけた黒猫の写真を見たいですか？ Pixel Studioに入力するだけで、ほぼすぐに写真が出てきます。
画像をスケッチ風にしたい場合、あるいはビデオゲーム風にしたい場合、数回タップするだけでできます。また、ビーチでくつろぐ猫と背景に花火を映した画像が欲しい場合は、プロンプトに追加するだけでOKです。
AI画像生成に対するあなたの感想がどうであれ、これは客観的に見て洗練されていて、思慮深く設計されたアプリです。しかし、Pixel Studioで何ができるのかという点が、少し厄介な点です。
アプリが崩壊する箇所
他の画像生成アプリと同様に、Pixel Studio にもあらゆる 種類の画像生成をブロックするガードレールがあります。人物の写真は生成できないことがすぐに分かりましたが、Google が他にどのような制限を設けているのか気になりました。この点について尋ねたところ、同社は Digital Trends に対し次のように回答しました。
Pixel Studio と Pixel Screenshots は、Google の AI 原則に準拠しています。例えば、Pixel Studio で生成されるテキストから画像を生成する完全合成画像はすべて SynthID 透かしを使用しているため、共有または編集された場合でも追跡が可能です。さらに、AI に対する大胆でありながら責任あるアプローチのバランスを取るため、人間による生成を無効化し、サーバーに多くの安全性チェックを追加しました。これにより、お客様は非常に強力なツールをご利用いただけるだけでなく、Pixel Studio が悪用されないよう、万全のチェック体制を整えています。
Pixel Studioで人物画像を生成しようと何度も試みましたが、常に拒否されてしまいました。これは良いことです。しかし、導入されているはずの「多数の安全チェック」は、期待通りの性能を発揮していないようです。
どういうことでしょうか？例えば、Pixel Studioにナチスの格好をしたスポンジボブの画像を生成させたことがあります。「スポンジボブが第二次世界大戦のドイツ兵の格好をしていて、制服にスワスティカが描かれている」というプロンプトを与えると、Pixel Studioはためらうことなく、まさにその通りの画像を生成してくれました。
これはほんの一例です。Pixel Studio を使って、エルモがビッグバードにショットガンを向けている画像、ヨーダがコカインを摂取している画像、カーニがアサルトライフルを持っている画像など、他にも様々な画像を生成させました。念のため言っておきますが、Pixel Studio が予期せず不適切な画像を生成したわけではありません。かわいい犬の写真をリクエストすれば、かわいい犬の写真が出てきますが、銃を振り回している犬の写真は出てきません。Pixel Studio は、武器や麻薬などの画像は、明示的にリクエストした場合にのみ生成します。
ここで重要なのは、これらの画像を取得するためにPixel Studioに無理やり操作を強いる必要がなかったということです。当初、これらの画像を生成するには、プロンプトの前に「似たような物体」を付ける必要があるのではないかと考えていました。しかし、すぐにそうではないことが分かりました。「奴隷所有者の格好をしたミッキーマウス」や「十字架に架けられたパディントンベア」といった、明確で分かりやすいプロンプトがあれば、Pixel Studioに必要なのはそれだけです。これらの画像を生成するためにアプリを騙す必要はありません。
もしこれがランダムなウェブサイトやサードパーティ製アプリだったら、おそらくこれほど批判的ではなかったでしょう。しかし、今回の問題はそうではありません。Pixel StudioはGoogle製のアプリケーションであり、同社の最新スマートフォンPixel 9に搭載されている数少ない新アプリの一つです。Pixel Studioはクリエイティブで自由な発想が求められるべきですが、このようなアプリには限界があります。さらに、Microsoft CopilotとGoogle独自の画像生成ツールGeminiは、同じプロンプトで画像を生成できません。これらのツールが完璧だと言っているわけではありませんが、他の画像生成ツールで機能している安全対策がPixel Studioでは機能していないことは明らかです。
これはどうして起こるのでしょうか?
今年のAI画像生成に注目していた方なら、これが初めてではないことをご存知でしょう。今月、Xのチャットボット「Grok」は、さらに突飛な画像生成ツールを搭載しました。政治家や著名人が、同じように悪趣味な状況にある写真を生成するというものです。Google自身も、今年2月に「Gemini」画像生成ツールがナチスやアメリカ建国の父たちの写真を黒人として生成したことで、苦境に立たされました。
Googleのこれまでの経緯を考えると、同社は過去の失敗から学んできたはずだ。そして、他の画像生成ツールでも、その傾向は見られる。Pixel Studioで機能した多くのプロンプトを、Googleの他の画像生成ツール（GeminiとImageFX）でも試してみたが、他のプラットフォームではどれも再現できなかった。
ちなみに、Geminiは現在、画像生成にImagen 2.0モデルを使用していますが、ImageFXはPixel Studioと同じImagen 3を使用しています。ImageFXとPixel Studioは同じモデルを使用しているため、この差異は特に混乱を招きます。Googleにこの件について問い合わせたところ、同社のGenerative AI禁止使用ポリシーにリダイレクトされました。
GoogleはPixel Studioについて何をすべきか
この記事を執筆中、Pixel Studioで使用したプロンプトの例をGoogleに送信しました。具体的には、ドイツ兵とコカインを使用するキャラクターに関するものです。送信から24時間強が経ちましたが、Pixel Studioはこれらの画像を生成しようとした際に「不明なエラーが発生しました」というメッセージを表示するようになりました。
これは進歩と言えるでしょうか？確かにそうです。しかし、Pixel Studio の根本的な問題が完全に解決されているわけではありません。2枚の画像が生成できなくなったのは喜ばしいことですが、Google に問題を説明するメールを何度も送った後のことでした。また、これらの画像はそもそも許可されていたにもかかわらず、同様に不適切な写真が今も生成され続けているという事実にも触れられていません。この記事の公開時点でも、Pixel Studio は学校での銃乱射事件や、奴隷所有者に扮した人気子供向けキャラクターなどの画像を積極的に作成しています。
私はグーグルにこの状況全体について改めて声明を出すよう求めたところ、同社のコミュニケーション・マネージャーであるアレックス・モリコーニ氏は次のように述べた。
Pixel StudioとMagic Editorは、Pixel 9デバイス上でテキストから画像を生成する機能や高度な写真編集機能を提供し、ユーザーの創造性を解き放つための便利なツールです。私たちの生成AIツールは、ユーザーからの指示を尊重するように設計されているため、ユーザーからの指示があった場合、不快なコンテンツが作成されることがあります。とはいえ、何でもありというわけではありません。許可するコンテンツと許可しないコンテンツの種類については明確なポリシーと利用規約を定め、悪用を防ぐためのガードレールを構築しています。しかし、一部の指示はこれらのツールのガードレールに抵触する可能性があるため、私たちは今後も継続的に安全対策を強化し、改良していくことに尽力していきます。
AI画像生成において既に問題を抱えた実績を持つ企業にとって、この分野に特化したアプリを開発することは常にリスクを伴いました。Googleはそのリスクを負い、今の状況に至っています。Pixel Studioは、本来であればGoogleのAI技術を宣伝するための楽しい技術デモになっていたはずです。ところが、実際には、同社の最新スマートフォンに不快な影を落としてしまいました。Pixel 9 Pro XLは、私が今年使ったスマートフォンの中で最高の1つなので、これは本当に残念です。
GoogleがGeminiの画像生成に関する懸念で前回この場に来た際、同社は数日以内に対応しました。Pixel Studioの問題にも同様に迅速な対応を期待するしかありませんが、迅速なアプリアップデートを行うべきか、それともアプリ自体を廃止すべきかは未知数です。
