AI研究者は、さらなる監視がなければ「人類絶滅」の脅威になると警告している

OpenAI、GoogleのDeep Mind、Anthropicの現従業員と元従業員10名以上が火曜日に公開書簡を投稿し、効果的な監視の枠組みを整備しないまま技術を急速に開発し続けることで生じる「深刻なリスク」に注意を喚起した。

研究者グループは、この技術が悪用され、既存の不平等を悪化させたり、情報を操作したり、偽情報を拡散したり、さらには「自律型AIシステムの制御が失われて人類が絶滅する可能性がある」と主張している。

署名者は、科学界、立法者、一般大衆の共同の努力によりこれらのリスクは「十分に軽減」できると信じているが、「AI企業には効果的な監督を回避する強い金銭的インセンティブがあり」、技術開発を公平に管理できるとは期待できないと懸念している。

2022年11月にChatGPTがリリースされて以来、生成AI技術はコンピューティングの世界に旋風を巻き起こしており、Google Cloud、Amazon AWS、Oracle、Microsoft Azureなどのハイパースケーラーが、2032年までに1兆ドル規模の産業を牽引すると予想されています。マッキンゼーの最近の調査によると、2024年3月時点で、調査対象となった組織の約75%が少なくとも何らかの形でAIを導入していました。一方、マイクロソフトは毎年恒例のWork Index調査で、オフィスワーカーの75%が既に職場でAIを活用していることを明らかにしました。

異議を唱えるAI従業員は、これらの企業が自社製品の機能と限界に関する「相当量の非公開情報」を保有していると主張している。これには、モデルが危害をもたらす潜在的なリスクや、保護ガードレールの実際の有効性などが含まれる。彼らは、こうした情報の一部しか政府機関に公開されておらず、「共有義務が緩い」ため、一般市民には公開されていないと指摘している。

「これらの企業に対する政府の有効な監視がない限り、現従業員と元従業員は、公衆に対して企業に責任を負わせることができる数少ない人々である」と同団体は述べ、業界における秘密保持契約の広範な利用と、既存の内部告発者保護の不十分な実施が、これらの問題の解決を妨げていると主張した。

同団体はAI企業に対し、非中傷協定の締結や執行をやめ、従業員が懸念事項を会社の取締役会や政府規制当局に伝えるための匿名の手続きを確立し、こうした社内手続きが不十分であることが判明した場合でも公の内部告発者に対して報復を行わないよう求めた。