OpenAIは選挙干渉と戦うために独自のモデルを使用している

人気の生成AIソリューション「ChatGPT」を開発するOpenAIは、2024年現在までに世界中で20以上の不正な活動と不正ネットワークをブロックしたという報告書を発表しました。これらの活動は目的、規模、焦点がそれぞれ異なり、マルウェアの作成や偽のメディアアカウント、偽のプロフィール、ウェブサイトの記事の作成に利用されていました。

OpenAIは、阻止した活動を分析し、その分析から得られた重要な知見を提供したことを確認しています。「脅威アクターは引き続き進化を続け、OpenAIのモデルを試行していますが、これが、実質的に新しいマルウェアを作成したり、バイラルオーディエンスを構築したりする能力において、有意義な進歩につながるという証拠は確認されていません」と報告書は述べています。

これは、米国、ルワンダ、インド、そして欧州連合を含む多くの国で選挙が行われる年であることを考えると、特に重要です。例えば、7月初旬、OpenAIはX（旧Twitter）上の複数のアカウントがルワンダの選挙に関するコメントを投稿した複数のアカウントをBANしました。そのため、OpenAIが脅威アクターがキャンペーンで大きな進展を見られなかったと述べているのは朗報です。

OpenAIのもう一つの成果は、OpenAI従業員の企業アドレスと個人アドレスへのスピアフィッシングを企てた「SweetSpecter」として知られる中国拠点の脅威アクターを阻止したことです。報告書はさらに、8月にMicrosoftが「STORM-2035」として知られるイランによる秘密の影響力行使活動に起因するとされる一連のドメインを公開したと述べています。「Microsoftの報告に基づき、ChatGPTにおける関連活動を調査、阻止し、報告しました。」

OpenAIはまた、モデルが作成したソーシャルメディアの投稿が、コメント、いいね、シェアがほとんどなかった、あるいは全くなかったため、あまり注目されなかったと述べています。OpenAIは、脅威アクターが高度なモデルをどのように悪用して有害な目的を達成するかを今後も予測し、それを阻止するために必要な措置を講じていくとしています。