Apps

Metaがこれまでで最大かつ最高のオープンソースモデルであるLlama 3.1を発表

Metaがこれまでで最大かつ最高のオープンソースモデルであるLlama 3.1を発表
  1. コンピューティング
  2. ニュース
ラマ3.1ロゴ
メタ

Facebookの親会社Metaは火曜日、オープンソースの大規模言語モデル「Llama 3.1」のリリースを発表しました。この新しいLLMは、80億、70億、そして405億パラメータの3つのサイズで提供されます。405億パラメータはこれまでに構築されたオープンソースAIの中で最大規模であり、MetaのCEOであるマーク・ザッカーバーグ氏はこれを「フロンティアレベルのオープンソースAIモデル」と表現しています。

「昨年、ラマ2は最先端を行く旧世代のモデルとしか比較できませんでした」とザッカーバーグ氏は火曜日のブログ投稿で述べた。「今年は、ラマ3が最先端モデルと互角に渡り合い、いくつかの分野ではリードしています。来年以降、将来のラマモデルは業界最先端のものになると期待しています。」

llama 3.1-405Bベンチマーク
メタ

Metaは、16,000基のH100 GPUを用いて15兆トークンで学習させた405Bモデルは、前身のLlama 3よりも大幅に大規模であると主張しています。このモデルは、「一般知識、数学、ツールの使用、多言語翻訳」において、OpenAIのGPT-4o、GoogleのGemini 1.5、AnthropicのClaude 3.5といった今日のトップクローズドソースモデルに匹敵すると報じられています。ザッカーバーグ氏は火曜日のInstagramで、Meta AIが年末までにChatGPTを抜いて最も広く利用されているAIアシスタントになると予測しました。

おすすめ動画

同社によると、Llama 3.1の3つのバージョンすべてにおいて、プロンプトの長さが128,000トークンに拡張され、ユーザーは追加のコンテキストと最大書籍1冊分に相当する補足資料を提供できるようになります。また、リリース時には8言語をサポートします。さらにMetaはライセンス契約を改訂し、開発者がLlama 3.1の出力を他のモデルの学習に使用できるようにしました。

Metaはまた、Llamaエコシステムのさらなる発展を目指し、業界内の12社以上と提携することを発表しました。Amazon、Databricks、Nvidiaは、開発者がLlamaをベースに独自のモデルを微調整できるよう支援するフルサービスのソフトウェアスイートをリリースする予定です。一方、スタートアップ企業のGroqは、新しい3.1モデルファミリー向けに「低レイテンシで低コストの推論サービスを構築した」とザッカーバーグ氏は記しています。

Llama 3.1 はオープンソースであるため、AWS、Google Cloud、Azure などの主要なクラウド サービスすべてで利用できるようになります。

アンドリュー・タラントラ

アンドリュー・タラントーラは、ロボット工学や機械工学から自動車工学まで、さまざまな新興技術について 10 年以上取材しているジャーナリストです。

  • コンピューティング

OpenAIが「画期的な」次世代O3推論モデルを発表

サム・アルトマンがO3モデルの機能について説明

12 Days of OpenAI ライブストリーム イベントのフィナーレで、CEO の Sam Altman 氏は、次期基礎モデルと、最近発表された o1 ファミリーの推論 AI の後継となる o3 および 03-mini を公開しました。

続きを読む

  • コンピューティング

OpenAIは開発者に完全なO1推論モデルへのアクセスを開放

openAI o1ロゴ

OpenAIのホリデーシーズンプレス発表9日目、同社はo1推論モデルのフルバージョンを、同社のAPIを通じて一部の開発者にリリースすると発表しました。火曜日の発表までは、開発者は機能制限のあるo1プレビューモデルしか利用できませんでした。

同社によると、o1モデルの完全版は、OpenAIの「Tier 5」開発者カテゴリのユーザー向けに展開を開始する予定だ。これは、アカウントを1ヶ月以上保有し、同社で1,000ドル以上を費やしているユーザーを指す。新サービスは、o1に必要な追加の計算リソースのため、ユーザーにとって特に高価で、分析された約75万語ごとに15ドル、モデルによって生成された約75万語ごとに60ドルかかる。これは、GPT-4oで同じタスクを実行する場合の3~4倍のコストとなる。

続きを読む

  • コンピューティング

OpenAIがマスク氏に関する情報を漏らす、Metaが営利目的の夢を阻止しようと試みる

Twitter のロゴが繰り返される様式化された背景の前に立つイーロン・マスクのデジタル画像。

OpenAIは「Shipmas」と銘打って製品リリースを盛んに行っており、待望のSoraビデオジェネレーターをリリースし、Siri-ChatGPT統合によりAppleエコシステムのメンバー数百万人をオンボーディングしました。また、同社は営利企業への移行に向けてサブスクリプションポートフォリオを拡大しており、これは社内でも議論の的となっていると報じられています。

AIの巨人が非営利のルーツを放棄したことに、誰もが不満を抱いているわけではない。その中には、創業者の一人であり、今やライバルとなったイーロン・マスクも含まれる。xAIの最高責任者であるマスクは今年初めにOpenAIを相手取って訴訟を起こし、同社を一貫して批判し続けている。

続きを読む

Forbano
Forbano is a contributing author, focusing on sharing the latest news and deep content.