NvidiaとMicrosoftはCopilot+で大きな問題を解決している

数週間前、MicrosoftがCopilot+ PCを発表した際、ある疑問が大きな話題となりました。「なぜこれらのAIアプリケーションをGPUで実行できないのか？」Computex 2024で、Nvidiaがついにその答えを示しました。

NVIDIAとMicrosoftは、開発者がAIアクセラレーションアプリをRTXグラフィックスカード上で実行できるようにするアプリケーションプログラミングインターフェース（API）の開発に共同で取り組んでいます。これには、Copilotランタイムの一部である様々なSmall Language Models（SLM）が含まれており、これらはRecallやLive Captionsなどの機能の基盤として使用されます。

このツールキットを使用することで、開発者はアプリをNPUではなくGPU上でローカルに実行できるようになります。GPUのAI機能は一般的にNPUよりも高いため、これにより、より強力なAIアプリケーションの開発が可能になるだけでなく、現在Copilot+の対象外となっているPCでも実行できるようになります。

これは素晴らしい動きです。Copilot+搭載PCは現在、少なくとも40テラオペレーション/秒（TOPS）の性能を持つニューラル・プロセッシング・ユニット（NPU）を搭載する必要があります。現時点でこの基準を満たしているのはSnapdragon X Eliteのみです。とはいえ、GPUのAI処理能力ははるかに高く、ローエンドモデルでも100TOPSに達し、ハイエンドモデルではさらに高い性能を発揮します。

新しいAPIは、GPU上での実行に加えて、Copilotランタイムに検索拡張生成（RAG）機能を追加します。RAGにより、AIモデルは特定の情報にローカルでアクセスできるようになり、より有用なソリューションを提供できるようになります。今年初めに開催されたNVIDIAのChat with RTXで、RAGの真価が発揮されました。

API以外にも、NVIDIAはComputexでRTX AI Toolkitを発表しました。6月にリリース予定のこの開発者スイートは、開発者が特定のアプリケーション向けにAIモデルを調整するための様々なツールとSDKを統合しています。NVIDIAによると、RTX AI Toolkitを使用することで、開発者はオープンソースソリューションと比較して4倍の速度でモデルを作成し、3分の1のサイズで実行できるとのことです。

開発者がエンドユーザー向けに特定のAIアプリケーションを構築できるツールが次々と登場しています。その一部はすでにCopilot+ PCに搭載されていますが、来年の今頃には、はるかに多くのAIアプリケーションが登場するでしょう。結局のところ、これらのアプリケーションを実行するためのハードウェアは既に存在しているので、あとはソフトウェアさえあれば十分です。