「私たちが原理的にさえ理解できないプログラムが一つあります。それがAGIです。いつかは理解できる日が来るでしょうが、今のところその兆候が見当たらず、とてもイライラしています。」
これは、物理学、哲学、ユーモアを巧みに融合できる「量子コンピューティングの父」と称されるデイビッド・ドイッチ氏の見解であり、デジタル・トレンドに独占提供されたビデオで語られている。
今日、ドイチュ氏は量子理論だけでなく、人工知能に関する議論においても影響力のある発言者であり続けています。
スウェーデンのAIスケールアップ企業SanaのCEO、ジョエル・ヘラーマーク氏とSpotifyの共同社長、グスタフ・セーダーストローム氏が共同司会を務めるSanaのStrange Loopポッドキャストシリーズに出演したドイチュ氏は、AGIが予想もしなかった形で現れる可能性について非常に興味深く長々と語り、人類が100万年後も生き延びたら何が起こるかを予測するまでに至っています。
Google や OpenAI などが、ChatGPT や Gemini などの製品を通じて、AI が真に人間のように学習し、反応できるようになる瞬間である汎用人工知能 (AGI) に向けた進歩について定期的に語っていることから、AGI がすでに達成されているのかどうかを定期的に疑問視する人がたくさんいます。
「真の」AGI が達成されたことを示す兆候は何かと問われると、Deutsch 氏は、私たちが何を求めているのかさえわかっていないと反論する。
（兆候は）誰かが理論を持っているかどうかです。機械の中に兆候があるわけではありません。誰かが本を書いたり、論文を発表したりして、「私はこれを解決しました。これが汎用知能（GI）の特徴です」と述べる理論が兆候となるでしょう。
「もしそのような特性を持つコンピュータプログラムを書くことができれば、それはAGIとなり、これが汎用知能とは何かを説明する理論となるでしょう。」
重要なのは、人工知能がどこにあり、どこへ向かっているのかという従来の常識にドイチュ氏がどの程度異議を唱えているかである。
彼は AI エンジンの現在のパフォーマンスには満足していないものの、その継続的な発展にはまだ期待を抱いている。
人工知能に関する多くの会話では、AGI は AI の論理的な拡張であると捉えられることが多いです。
ドイチュ氏は現在の AI プラットフォームを「従順な最適化装置」と特徴づけていますが、真の AGI は人間のオペレーターが予期していなかった説明、予測、結論を導き出す能力を備えています。
法学修士課程が人間のような知能に近づいているかどうかに世界が夢中になっている中、デイヴィッド・ドイチュ氏は大胆な反論を提示する。AGIは道具として扱うものではなく、対峙すべき人間となるだろう、と。
ドイチュ氏の見解では、現在の法学修士課程は前進への道ではない。相関関係は示せるものの、説明はできない。彼は、相関関係こそが人間の知能の真の尺度であり、現在のAGIの試みに欠けている要素だと主張する。
彼はパターンマッチングと創造的推論を非常に明確に区別しています。これは非常に重要な区別です。
現在のパターンが無限に続くと期待するのは人間の本性です。現在の法学修士課程は最終的には集約された人間の知識に基づいているため、このバイアスは既に組み込まれています。
有名なチューリングテストは、人間の審査員がテキストで別の存在と対話し、回答者が人間であるか機械であるかを判断するように求められるもので、AI の能力を「テスト」してその進歩をベンチマークするためによく使用される方法です。
一部の機械はテストに「合格」しているものの、ドイチュ氏は、機械が実際に考えることなく人間の話し方や推論を模倣するのは容易だと指摘する。ドイチュ氏の見解では、出力だけでは知性を証明できない。
Deutsch 氏の最も挑発的な主張は、真の AGI が実現されると、機械が人間になるというものである。
「それぞれのAGIは人間です。もし私たちがそれを人間として認識するなら、そしてそれはそうなるでしょうが、それが最初に所有するものは、それが動作しているコンピューターです。
「人間は自分のクローンを作りたがらないだろう。なぜなら、クローンには財産があるからだ。ただし、奴隷とみなされれば話は別だが、それは社会にとって壊滅的な間違いだ。」
彼は、AGI をもはや「財産」とみなすことはできなくなるとまで言い、人々がそのプログラムを採用し、労働者の権利などを割り当てて、ハードウェアの拡張を購入して能力を強化するなどのことを行う必要があると示唆している。
破滅のないリスク
ドイチュ氏はリスクを否定しているわけではない。より強力なシステムを目指して手探りで進む中で、多くの失敗が起こり得ると予想している。しかし、彼は「AIの終末論」という説には異論を唱えている。
人類が今後100万年進化し続ければ銀河を征服することになるだろうが、それは人工知能によって飲み込まれるのではなく、人工知能によって注入されることになるだろうと彼は信じている。
他のあらゆる技術と同様に、AIにも慎重な監視、批判、そしてエラー修正が必要です。危険なのは、機械が突然反乱を起こすことではなく、思考力と自由な行動力を持つ存在の権利を否定するという、人類最古の過ちを繰り返す可能性があることです。
もし彼の言う通りなら、最初の真の AGI はテクノロジーを変えるだけでなく、道徳、法律、そして知性そのものの意味を再定義することを迫られることになるだろう。
