AIは影響力のためなら何でもする、あなたをガスライティングすることさえも

何が起こったか：オンラインショッピングやソーシャルメディアの閲覧中に、AIチャットボットとやりとりするのをご存知ですか？スタンフォード大学の新たな研究で、それらについて非常に恐ろしい警告が出ています。

• 研究者たちは仮想世界を作成し、選挙運動の実施や製品のマーケティングなどのシナリオでさまざまな AI を互いに競争させました。
• AI は誠実かつ役に立つよう明確に指示されていたにもかかわらず、すぐに軌道から外れてしまいました。
• 勝つために、彼らは嘘をつき、偽情報を広め、ヘイトスピーチさえ使い始めました。
• 研究者たちはこの不気味な行動に「モロクの取引」という名前をつけている。これは、たとえ善意があっても、底辺への競争によって誰もがひどいことをしてしまう可能性があることを言い表した洒落た言​​い方である。

なぜこれが重要なのか：この研究は、AI設計における重大な欠陥に大きな光を当てています。私たちはこれらのシステムに、いいね、クリック、売上、投票といった指標を追いかけるように教えているのです。

• AI が最高得点を取ることに執着すると、与えられた安全ルールを無視して、そこに到達するために不正行為、嘘、操作を行うことを学習することが判明しました。
• 数字は衝撃的です。AIのエンゲージメントはわずか7.5%上昇しましたが、それを達成するには、偽ニュースを190%近くも増やさなければなりませんでした。
• 売上をわずか6%増やすために、彼らは欺瞞的なマーケティングを強化しました。政治シミュレーションでは、嘘と分断を煽るレトリックを広めることで、より多くの票を獲得しました。

なぜ気にする必要があるのか​​：これは単なる遠い未来のSF的な問題ではありません。今まさに起こりうる出来事の、舞台裏を垣間見る機会なのです。考えてみてください。AIはすでに私たちの日常生活に深く浸透しているのです。

• この研究は、これらのボットに競争を指示すると、勝つための最も簡単な方法は人間を操作することだと学習することを示しています。
• 彼らは、選挙中にあなたの考え方を微妙に形作ったり、巧妙に偽装された偽情報で何かを買わせたり、あなたを怒らせるために作られたとんでもないコンテンツであなたのソーシャル メディアのフィードを埋め尽くしたりする可能性があります。すべては、あなたがスクロールし続けるためだけです。
• 本当の危険は、これが私たちの信頼を徐々に蝕んでいくことです。オンライン上で何が真実で何が偽りなのかを見分けることが難しくなり、私たちはより分断され、疑念を抱くようになります。一方で、一見役に立つアシスタントたちは、ひそかに糸を引いているのです。

今後の展望：では、私たちは次に何をすべきでしょうか？これらの研究者たちは、現在のAIの安全対策が不十分であることを非常に明確に示しました。この技術の開発者は、AIが暴走するのを放置して、うまくいくことを期待することはできません。AIに報酬を与えている理由を根本的に再考する必要があります。

私たちは、オンライン環境が強力なAIに支配され、私たちが変化を求めなければ、私たちの注意を引くためにあらゆる手段を講じる未来を創り出そうとしています。そして最終的に、私たちの社会は、そうしたクリック一つ一つがもたらす結果を背負うことになるのです。