Appleは今日、AIの最も厄介な側面の一つに取り組んでいる。

Google、Anthropic、OpenAIなどの企業がAIモデルをアップデート・アップグレードするにつれ、これらのLLMとユーザーとのインタラクション方法も確実に変化します。しかし、新しいシステムに慣れるのはユーザーにとって面倒な作業となる可能性があり、期待通りの結果を得るためにクエリの提示方法を調整する必要があります。Appleの研究チームは、このアップグレード移行を効率化し、2つのバージョン間の不一致を最大40%削減する新しい手法を開発しました。

7月15日に発表された研究論文「MUSCLE：互換性のあるLLM進化のためのモデル更新戦略」の中で、研究者らは、モデルのアップグレードにおいて、開発者はモデル間の移行がユーザーにとってシームレスであることよりも、全体的なパフォーマンスの向上に重点を置く傾向があると主張している。これには、ネガティブフリップ（古いモデルでは正しく予測されていたテストサンプルに対して、新しいモデルが誤った出力を予測する）を最小限に抑えることも含まれる。

研究著者らは、ユーザー一人ひとりが独自の癖や不満を抱え、チャットボットとのやり取り方法もそれぞれ異なるためだと主張している。モデルとのやり取り方法を常に調整・適応させなければならないのは、ユーザーを疲弊させる作業になりかねず、これはAppleが目指すユーザーエクスペリエンスとは相反するものだ。

研究チームは、AIによる誤った予測はバージョン間で保持されるべきだとさえ主張している。「両方のモデルが誤っている場合でも、一貫性を保つことには価値がある」と彼らは書いている。「ユーザーは、モデルが誤っている場合の対処戦略をすでに身に付けている可能性がある」

AppleがMUSCLEを発表

互換性のあるLLM進化のためのモデル更新戦略

大規模言語モデル（LLM）は、データやアーキテクチャの変更に伴い、パフォーマンス向上のために頻繁に更新されます。モデルを更新する際、開発者は全体的なパフォーマンスの向上に重点を置くことが多いです… pic.twitter.com/ATm2zM4Poc

— AK (@_akhaliq) 2024年7月15日

この問題に対処するため、研究者たちはまずモデル間の回帰の度合いを測定する指標を開発し、次に回帰の発生を最小限に抑える戦略を開発しました。その結果生まれたのがMUSCLEです。これは、開発者がベースモデル全体を再学習する必要がなく、代わりにトレーニングアダプターを使用する戦略です。アダプターとは、LLM全体の様々なポイントに統合できる小型のAIモジュールです。

開発者は、モデル全体ではなく、これらの特定のモジュールを微調整できます。これにより、モデル全体が、わずかなトレーニングコストとわずかなパラメータ数の増加で、個別のタスクを実行できるようになります。これらは本質的に、大規模言語モデル用のプラグインであり、AI全体ではなく、特定のセクションを微調整できます。

研究チームは、MetaのLlamaやMicrosoftのPhiなどのLLMを研究の一環としてアップグレードし、特定の数学クエリをサンプルとして用いたところ、ネガティブフリップが最大60%も発生していることを発見しました。MUSCLE戦略を組み込むことで、ネガティブフリップを完全に排除することはできませんでしたが、対照群と比較して発生率を最大40%削減することに成功しました。