ギガバイトは、高度なAIモデル学習機能をホームユーザーに提供するために設計された自社製ソフトウェアユーティリティ「AI TOP」のリリースを発表しました。今年のComputexで初公開されたAI TOPは、推奨ハードウェアと併用することで、最大2,360億個のパラメータを持つAIモデルのローカル学習と微調整を可能にします。
AI TOPは、本質的にはローカルAIモデルの微調整のための包括的なソリューションであり、機密データのプライバシーとセキュリティを強化しながら、最大限の柔軟性とリアルタイム調整を提供します。Gigabyteによると、このユーティリティはユーザーフレンドリーなインターフェースを備えており、初心者から経験豊富なユーザーまで、情報や設定を簡単に操作して理解できるように設計されています。さらに、このユーティリティにはAI TOP Tutorが含まれており、様々なAI TOPソリューション、セットアップガイド、そしてあらゆるタイプのAIモデルオペレーター向けの技術サポートを提供します。
現在、このソフトウェアは、Baichuan 2、Distill-GPT2、GLM4、Llama 2、Llama 3 などの人気のあるオプションを含む、Hugging Face の 70 を超えるオープンソース LLM モデルをサポートしています。Hugging Face は 770,000 を超えるモデルをホストしていますが、AI TOP の選択は、デスクトップ PC ハードウェアに固有のメモリ容量の制約によって制限されています。
おすすめ動画
この無料ソフトウェアは、マザーボード、SSD、グラフィックカード、電源など、Gigabyteのハードウェア向けに最適化されています。対応GPUには、GigabyteのNvidia GeForce RTX 40シリーズのほとんど、AMD Radeon RX 7900シリーズ、Radeon Pro W7900およびW7800シリーズが含まれます。最適なパフォーマンスを実現するために、Gigabyteは専用ウェブサイトにAI TOPブランドのハードウェアを掲載しており、電源、マザーボード、SSD2枚、グラフィックカード3枚が含まれています。
AIモデルをローカルでトレーニングすることで、データをシステム上に保存することでプライバシーとセキュリティが強化され、クラウドサービス料金を回避することでコスト効率が向上し、レイテンシが低減され処理速度が向上します。トレーニング環境のカスタマイズと制御が可能になり、オフライン機能も利用可能になり、スケーラブルなハードウェアリソース管理が可能になります。
ユーザーは、即時のフィードバックと反復的な学習、データ転送の制限の排除、既存のハードウェアの最大限の活用といったメリットを享受できます。このアプローチは実践的な学習と実験を促進し、安全で柔軟性が高く効率的なAIトレーニングソリューションを求める初心者から経験豊富なユーザーまで、あらゆるユーザーに最適です。
AI TOPユーティリティは、Gigabyteの公式ウェブページから無料でダウンロードできます。すべてのユーザーが利用可能ですが、Linuxシステムのみでサポートされています。
