OpenAIはAI安全法案に反対していると非難される

OpenAIの元従業員ウィリアム・サンダース氏とダニエル・ココタジロ氏は、カリフォルニア州知事ギャビン・ニューサム氏に書簡を送り、将来のAI開発に厳格な安全ガイドラインとプロトコルを課す州法案に対する同社の反対は残念ではあるが、驚くべきことではないと主張した。

「OpenAIに入社したのは、同社が開発している非常に強力なAIシステムの安全性を確保したかったからです」とサンダース氏とココタジロ氏は記している。「しかし、OpenAIがAIシステムを安全かつ誠実に、そして責任を持って開発するという信頼を失ったため、OpenAIを脱退しました。」

2人は、十分なガードレールのないまま開発が進めば、「前例のないサイバー攻撃であれ、生物兵器の開発を手助けすることであれ」、公衆に壊滅的な被害をもたらすという予見可能なリスクが生じると主張している。

二人はまた、OpenAIのCEOサム・アルトマン氏の規制に関する偽善をすぐに指摘した。彼らは、アルトマン氏が最近議会でAI産業の規制を求める証言を行ったことを指摘しつつも、「実際に規制が検討されると、彼は反対する」と指摘した。

MITRE社とHarris Pollによる2023年の調査によると、今日のAI技術は「安全かつセキュア」であると考えている回答者はわずか39%でした。

問題の法案であるSB-1047（フロンティア人工モデルのための安全かつセキュアなイノベーション法案）は、「開発者に対し、対象モデルの初期トレーニングを開始する前に、…様々な要件を遵守すること、例えば、迅速に完全シャットダウンを実行する機能の実装、…書面による別途の安全・セキュリティプロトコルの実装などを要求する」としている。OpenAIは近年、複数のデータ漏洩とシステム侵入に見舞われている。

OpenAIの広報担当者がBusiness Insiderに語ったところによると、同社は研究者による「SB1047に関する当社の立場の誤解」に強く反対しているという。同社はむしろ、「州法の寄せ集めではなく、連邦政府主導のAI政策こそがイノベーションを促進し、米国が世界標準の開発を主導する立場を築く」と主張していると、OpenAIの最高戦略責任者ジェイソン・クォン氏は2月にカリフォルニア州上院議員スコット・ウィーナー氏に宛てた書簡で述べている。

サンダース氏とココタジロ氏は、OpenAIによる連邦規制の推進は誠意に基づくものではないと反論する。「議会の行動を待つことはできません。彼らは、意味のあるAI規制を制定するつもりはないと明言しています」と両氏は記している。「もし議会が行動を起こしたとしても、カリフォルニア州の立法を先取りする可能性があります。」

この法案は、意外な支持者からも支持を得ている。xAIのCEO、イーロン・マスクだ。「これは難しい判断であり、一部の人々を動揺させるだろうが、あらゆることを考慮すると、カリフォルニア州はSB1047 AI安全法案を可決すべきだろう」と、マスク氏は月曜日にXに記した。「私は20年以上にわたり、潜在的なリスクとなるあらゆる製品／技術を規制するのと同様に、AI規制の提唱者であり続けてきた」。最近、テネシー州メンフィスに「世界最強のAIトレーニングクラスター」を建設すると発表したマスク氏は、以前、カリフォルニア州の業界規制を逃れるため、X（旧Twitter）とSpaceXの本社をテキサス州に移転すると脅していた。

更新：この投稿は、イーロン・マスク氏のコメントを含めるように更新されました。