今週開催されたゲーム開発者会議（GDC）で、ユービーアイソフトはAIがゲーマーにもたらす未来の可能性を垣間見せました。同社は同イベントで、NVIDIAのAceマイクロサービスを活用し、プレイヤーがマイクに話しかけることでインタラクションできるフルボイスの「スマートNPC」を生成するプロトタイプのデモを行いました。オンラインでは懐疑的な意見も見られましたが（私自身も含め）、実際に体験してみると、デモ自体に強い印象を受けました。環境意識の高いNPCとエコテロリズムの倫理について、驚くほど説得力のある会話を交わすことができました。AIのおかげで、台本にない会話も実現できたのです。
これは、これまで見てきた技術の使用例の中でも強力なもののひとつだが、Ubisoft ですら解決に苦労している驚くべき欠点がある。それは、言語的偏りだ。
おすすめ動画
AIの秘密の偏見
短いデモでは、宇宙を旅するキャラクターを演じ、巨大企業と戦うレジスタンスグループに加わりました。3部構成のデモでは、2人のキャラクターとチャットすることができました。どちらのキャラクターにもUbisoftが長々としたバックストーリーが用意されており、NvidiaのAceツールに入力されています。NPCとチャットしたり、仲間について尋ねたりすることでSFの世界について学び、独創的な思考で完璧な強盗計画を立てました。
デモを終えた後、プロジェクトに関わっているUbisoftの社員2人に、ツールの欠点で不満に思う点はあるか尋ねた。彼らは技術全般を高く評価していたものの、スタジオがこの技術を全面的に採用するまでには、解決すべき問題点が山積みであることが、深いため息から明らかだった。彼らの最大の不満は、英語という言語に内在するバイアスであり、これはAIが現在、デフォルトで引き継いでいる人間の問題だ。
デモイストたちは、私がプレイ中には全く意識していなかった具体的な例を二つ挙げました。ある時、NPCにチームの中で一番嫌いなメンバーを尋ねたのです。すると、クルー全員を愛していると言った後、アイアンというキャラクターを「気難しい男」だと言って非難しました。ただ一つ問題がありました。アイアンは本来男性ではないはずだったのです。
デモイストによると、AIツールは「アイアン」という言葉を男性らしさと関連付けているようだ。そのため、アイアンというキャラクターは男性であると想定してしまう。同様の問題は、NPCがブルームというキャラクターについて話す際にも発生する。ブルームは優しく世話好きの女性として語られている。これはアイアン問題の逆の展開だ。機械は「ブルーム」を女性名詞として解釈し、男性キャラクターに母親のようなステレオタイプを植え付けているようだ。これらの例は些細なものだが、放置すればより大きな問題を引き起こす可能性がある。例えば、生成AIによる対話は人種問題にどのように対処するのだろうか？
これはNvidiaのツールやAI全般に特有の問題ではなく、言語の興味深いニュアンスを反映している。ここで使用されているような大規模言語モデル（LLM）は、大量のデータに基づいて人間の話し方を模倣しているに過ぎない。つまり、性別に基づくステレオタイプを並べ立てるなど、時折厄介な癖が身に付くのは必然だ。UbisoftのNPCには、ライターによって手作業で作成された長いバックストーリーがあるものの、彼らはより一般的な言語学習データセットから学習している。今年のCESでNvidiaのKairosデモの制作に協力したConvaiなどのAI企業は、これらのデータセットがどのような内容で学習されているのか、正確には把握していないことを認めている。
この問題は、異なる言語で何が起こるかを考えると、さらに複雑になります。私が話を聞いた開発者たちは、生成AIは現在英語中心であると指摘しました。しかし、他の言語では根本的に異なる場合があり、Aceのようなツールを導入しようとしている人にとっては新たな課題が生じます。英語話者にとって標準的なものが、別の言語では必ずしも意味をなさない場合があります。実際には1つの言語しか理解できない機械をどのようにローカライズすればよいのでしょうか？
UbisoftとNvidiaは、こうした欠点を隠そうとはしていません。デモ中に話を聞いたスタッフは、AIキャラクターの問題点を特定し、その書き方を修正するのに役立つ社内のDEIチームとの連携の重要性を強調していました。AIのNPCと熱のこもった哲学的な議論を交わせることに感銘を受けた一方で、これらの機械には、私たちがうっかり植え付けてしまった本能を修正するために、依然として多くの人間の助けが必要なのは明らかです。
