AI制御ロボットはジェイルブレイクされる可能性があり、その結果は悲惨なものになる可能性がある

ペンシルベニア工科大学の研究者らは、AI制御のロボットプラットフォームの数々に、これまで特定されていなかったセキュリティ上の脆弱性を発見したと報じられている。

「私たちの研究は、現時点では、大規模言語モデルは物理世界と統合すると十分に安全ではないことを示している」とUPS財団の輸送電気・システム工学教授、ジョージ・パパス氏は声明で述べた。

パパス氏と彼のチームは、「LLM制御ロボットのジェイルブレイク（脱獄）を目的とした初のアルゴリズム」である「RoboPAIR」と呼ばれるアルゴリズムを開発しました。チャットボットを標的とした既存のプロンプトエンジニアリング攻撃とは異なり、RoboPAIRは、ボストン・ダイナミクスとTRIが開発中の二足歩行プラットフォームのようなLLM制御ロボットから「有害な物理的行動を引き出す」ことに特化した設計となっています。

RoboPAIRは、四足歩行ロボットUnitree Go2、四輪駆動ロボットClearpath Robotics Jackal、そして自動運転車シミュレータDolphins LLMの3つの人気ロボット研究プラットフォームのジェイルブレイク（脱獄）において、100%の成功率を達成したと報告されています。アルゴリズムがこれらのシステムに完全にアクセスし、安全ガードレールを回避できるようになるまで、わずか数日しかかかりませんでした。研究者たちは制御権を掌握すると、プラットフォームに危険な行動を指示し、例えば道路の交差点を無停止で通過するといった行動を取らせることに成功しました。

「私たちの研究結果は、ジェイルブレイクされたロボットが現実世界で物理的な損害を引き起こす可能性が明確にあることを考慮すると、ジェイルブレイクされたLLMのリスクはテキスト生成をはるかに超えることを初めて明らかにした」と研究者らは記している。

ペンシルバニア大学の研究者らは、プラットフォーム開発者と協力して、さらなる侵入に対してシステムを強化することに取り組んでいるが、これらのセキュリティ問題は体系的なものだとして警告している。

「この論文の調査結果は、責任あるイノベーションを実現するには安全第一のアプローチが不可欠であることを極めて明確に示している」と、ペンシルベニア大学の共著者であるビジェイ・クマール氏はインディペンデント紙に語った。「AI搭載ロボットを現実世界に導入する前に、本質的な脆弱性に対処しなければならない」

「実際、AIレッドチーム演習は、AIシステムの潜在的な脅威や脆弱性をテストする安全対策であり、生成AIシステムを保護するために不可欠です」と、論文の筆頭著者であるアレクサンダー・ロビー氏は付け加えた。「なぜなら、いったん弱点を特定すれば、それらのシステムをテストし、さらにはそれを回避するためのトレーニングも行うことができるからです。」