OpenAIはハッカーが内部メッセージシステムをクラックしたことを決して公表しなかった

ニューヨーク・タイムズ紙が木曜日に報じたところによると、昨年、ハッカーがOpenAIの社内メッセージングシステムに侵入し、同社のAI設計に関する詳細情報を盗み出した。攻撃は、OpenAIの従業員が人気チャットボットの今後の技術や機能について議論するオンラインフォーラムを標的としたものだったが、実際のGPTコードとユーザーデータが保存されているシステムには影響がなかった。

同社は2023年4月に従業員と取締役にこの情報を開示しましたが、ユーザーやパートナーのデータが盗まれたわけではないため、公表やFBIへの報告は不要だと主張し、この侵害について公表を拒否しました。OpenAIは、この攻撃が国家安全保障上の脅威となるとは考えておらず、攻撃者は外国勢力とは一切関係のない単独の人物であると考えています。

ニューヨーク・タイムズによると、OpenAIの元従業員レオポルド・アッシェンブレナー氏は以前、同社のセキュリティ体制の現状について懸念を表明し、中国などの敵対国の諜報機関が同社のシステムにアクセスする可能性があると警告していた。アッシェンブレナー氏は同社から即時解雇されたが、OpenAIの広報担当者リズ・ブルジョワ氏はニューヨーク・タイムズに対し、解雇はメモとは無関係であると述べた。

OpenAIがこのようなセキュリティ上の問題に遭遇したのは今回が初めてではありません。2022年11月のデビュー以来、ChatGPTは悪意のある攻撃者の標的となり、しばしばデータ漏洩が発生しています。今年2月には、別のハッキングでユーザー名とパスワードが漏洩しました。前年3月には、OpenAIはユーザーの氏名、メールアドレス、支払い先住所、クレジットカードの種類、カード番号の下4桁などの支払い情報を他のアクティブユーザーに公開してしまうバグを修正するため、ChatGPTを完全にオフラインにせざるを得ませんでした。昨年12月には、セキュリティ研究者が、ChatGPTに「poem」という単語を延々と繰り返すように指示するだけで、トレーニングデータの断片を漏洩させることができることを発見しました。

「ChatGPTは安全ではありません。以上です」と、AI研究者のゲイリー・マーカス氏は1月にThe Street紙に語った。「チャットボットに何か入力した場合、（別途保証がない限り）チャットボット会社はそのデータを使ってトレーニングを行う可能性があると想定するのがおそらく最も安全でしょう。そのデータは他のユーザーに漏洩する可能性があります。」攻撃以降、OpenAIはセキュリティシステムを強化するための措置を講じており、不正アクセスやモデルの悪用を防ぐための追加の安全ガードレールの設置や、将来の問題に対処するための安全・セキュリティ委員会の設置などを行っている。