昨日のWWDC 2024でApple Intelligenceが初公開された際、ソフトウェアエンジニアリング担当シニアバイスプレジデントのクレイグ・フェデリギ氏は、この新機能のセキュリティと、ユーザーの機密データの繊細な取り扱いについて繰り返し強調しました。ユーザーのプライバシー保護のため、Apple Intelligenceは多くの生成処理をデバイス上で実行します。そして、その処理能力を超える処理については、Appleが新たに開発したプライベートクラウドコンピューティング（PCC）に処理を転送します。
しかし、ボルチモアのジョンズ・ホプキンス大学のコンピュータサイエンス准教授であるマシュー・グリーン博士が月曜日のスレッドで質問したように、AppleのAIクラウドは安全かもしれないが、信頼できるのだろうか？
おすすめ動画
Apple Intelligenceは、iPhone、iPad、Macに最先端の生成モデルを搭載し、画像の作成、文章の編集、そして様々なアプリでユーザーに代わって操作を実行できると約束しています。Appleデバイスは既に何年も前からデバイス上で機械学習タスクを実行しており、カメラロールの検索機能や光学式文字認識（OCR）によるテキスト認識などがその例です。しかし、グリーン氏が指摘するように、最新世代のAppleプロセッサでさえ、今後オンラインで実行されるより複雑でリソースを大量に消費するAI処理の一部を処理するにはパワーが不足しており、クラウドコンピューティングサーバーの利用が必要になります。
問題は、これらの複雑なモデルは推論機能を実行するために、ユーザーデータへの暗号化されていないアクセスも必要とし、そのデータをパブリッククラウドに送信すると、ハッキング、漏洩、あるいは盗難のリスクにさらされるということです。Appleは解決策として、Apple Intelligenceデータの処理に特化した、独自のスタンドアロン型で堅牢なデータセンター、PCCを構築しました。最近のApple Security Blogの投稿によると、この「画期的なクラウドインテリジェンスシステム」は、「Appleデバイスの業界最先端のセキュリティとプライバシーをクラウドにまで拡張し、PCCに送信された個人データはユーザー以外、ひいてはApple自身でさえもアクセスできないようにします」とのことです。
問題は、現代のスマートフォンの「ニューラル」ハードウェアは進化しているものの、シリコンバレーが現代のAIに求める、生成AIなどといった先進的な機能をすべて活用できるほどの速度で進化していないことです。こうした機能の活用には、根本的にサーバーが必要です。3/
マシュー・グリーン（@matthew_d_green）2024年6月10日
しかし、プライバシーの確保は実際にははるかに困難です。「信頼できるコンピュータを構築することは、文字通りコンピュータセキュリティにおける最も難しい問題です」とグリーン氏は書いています。「正直なところ、コンピュータセキュリティにおけるほぼ唯一の問題です。」グリーン氏は、モバイルデバイスやデスクトップデバイスに搭載されているのと同じセキュリティ機能の多くを新しいサーバーに適用したことを称賛しました。これには、セキュアブート、ステートレスソフトウェア、セキュアエンクレーブプロセッサ（SEP）などが含まれます。さらに、「サーバーハードウェアが改ざんされないように、あらゆる種類のプロセスを実行しています」。
Apple は、サーバー上で実行されているソフトウェアが正当なものであることを保証するために多大な努力を払っており、リクエストが完了するとすぐに PCC ノードからすべてのユーザー データを自動的に消去し、デバイスのオペレーティング システムが実行しているソフトウェア イメージを「証明」できるようにしています。
「優秀なチームに巨額の資金を与え、世界最高の『プライベート』クラウドを構築しろと指示したら、おそらくこうなるだろう」とグリーン氏は書いている。「しかし、ここで難しい問題が浮上する。これは良いアイデアなのか？現在のAppleのクラウドと同じくらい安全なのか？」そして、ユーザーはオプトアウトできるのか？ユーザーは新サービスにオプトインすらしないようだ。「必ずしも、それが実現するとは言われないだろう」と彼は続けた。「それは自然と実現する。魔法のように。その部分は好きではない」
グリーン氏はさらに、ユーザーデータに対する最大の脅威はハッカーではなく、ハードウェア企業とソフトウェア企業自身であると主張しています。「このPCCシステムは、Appleがユーザーのデータを『覗き見』しないという真のコミットメントを表しています」とグリーン氏は結論付けています。「これは非常に重要なことです。」
Apple Intelligenceは今夏後半に展開を開始すると報じられています。また、Appleは今後数週間のうちに、セキュリティ研究者を招待し、PCCソフトウェアと仮想研究環境を初公開する予定です。
