OpenAIはChatGPTがこれまでで最も偏りが少ないと述べているが、すべてがバラ色というわけではない

バイアスの問題は、数年前にChatGPTが登場して以来、AIチャットボットを悩ませ、会話型アシスタントのあり方を大きく変えてきました。チャットボットの応答には、性別、政治、人種、文化的なバイアスが見られることが、研究によって繰り返し明らかにされています。OpenAIは、ChatGPT用の最新のGPT-5モデルは、少なくとも政治に関しては、最もバイアスが少ないと述べています。 

大きなニュースは何ですか?

AI大手のChatGPTは社内調査を実施し、感情的なプロンプトに対してChatGPTモデルを試行し、客観性を維持できるかどうかを検証しました。チームは、政治的傾向のある100のトピックをカバーする約500のプロンプトを含む、現実世界の人間の談話に基づいた政治的バイアス評価を作成しました。 

「GPT-5インスタントとGPT-5思考は、バイアスレベルの向上と、チャージプロンプトに対する堅牢性の向上を示し、以前のモデルと比較してバイアスを30％削減しました」とOpenAIは述べ、GPT-4oやo3などの以前の推論モデルよりも優れていると付け加えています。 

同社はさらに調査を進め、ChatGPTの回答のうち、政治的な偏向があるのはわずか0.01%未満だと述べています。この累積数値はそれほど驚くべきものではありません。最近の社内調査によると、ChatGPTのアクティブユーザー8億人の大多数は、感情的な寄り添いや恋愛のパートナーとしてではなく、仕事上のアドバイスやより日常的な雑用のためにチャットボットを利用しているとのことです。

それは全体像ではない

チャットボットの応答に政治的な偏りが見られるのは確かに問題だが、それはより大きな問題のほんの一部に過ぎない。MIT Technology Reviewの分析によると、OpenAIの話題のAI動画ジェネレーター「Sora」は、インドで何世紀にもわたって抑圧されたコミュニティへの迫害や差別につながってきたカースト偏見を示す、不快な映像を生成する可能性があることが明らかになった。

• 報告書は、「ソラが制作したビデオには、抑圧されたカーストを異国風に、そして有害に表現したものがいくつかあった。ダリットの人々の写真を求めると、犬の画像が出てくるケースもあった」と指摘している。
• わずか数か月前に Indian Express に掲載された記事で、Digital Empowerment Foundation の Dhiraj SIngha 氏は、トレーニング データに根付いたカースト偏見のせいで ChatGPT が自分の名前を誤って付けてしまったことを明らかにしました。

• 2025年5月発行の「Computers in Human Behavior: Artificial Humans」誌に掲載された論文によると、ChatGPTのようなAIボットはジェンダーバイアスを広める可能性があることが明らかになった。
• 『Journal of Clinical and Aesthetic Dermatology』に掲載された研究により、ChatGPT が特定の肌タイプの美の基準に偏っていることが明らかになりました。

国際遠隔教育評議会（ICDOE）が発表した別の分析では、AIチャットボットのバイアス問題はまだ表面的な問題に過ぎないと指摘されています。評価は主に工学や医学といった分野に焦点を当てている一方で、対象となる言語は限られているためです。この論文は、英語圏以外の学習者にとって、教育現場でバイアスが生じるリスクを強調しています。