国内最大規模のMoE LLM「Rakuten AI 3.0」
Rakuten AI 3.0は、Mixture of Experts（MoE）アーキテクチャを採用した日本語大規模言語モデル（LLM）です。これまでに楽天が開発したAIモデルや他のLLMの中でも最大規模となる約7,000億個のパラメータを持つMoE LLMであり、オープンソースコミュニティ上の最良なモデルを基盤としつつ、楽天独自の高品質なバイリンガルデータ、技術力、研究成果を組み合わせて開発されました。これにより、日本の独特な言語のニュアンス、文化、慣習をより深く理解することが可能となっています。
本モデルは、生成AI APIを統合した開発用プラットフォーム「Rakuten AIゲートウェイ」のAPI群に加わり、「Rakuten AI」エージェントプラットフォームを通じて楽天の各種サービスに順次導入される予定です。また、来春を目途に、オープンウェイトモデルとしての公開も計画されています。
楽天グループのChief AI & Data Officer（CAIDO）であるティン・ツァイ氏は、「高品質でコスト効率の高いモデルの開発に注力しており、Rakuten AI 3.0の導入により楽天のサービスは新たな段階へと進化する」とコメントしています。経済産業省AI産業戦略室長の渡辺琢也氏も、「高い性能を持つ大規模で効率的なAIモデル開発の成果を歓迎し、社会実装を通じて日本のAI産業をリードしていくことを期待する」と述べています。
高効率なモデル設計と社内GPUクラスタでの学習
Rakuten AI 3.0は、計算効率を高めるため、約7,000億個のパラメータのうち、個々のトークンに対して約400億個のパラメータのみをアクティブ化する高効率な設計を採用しています。アクティブパラメータには3つの密な層とエキスパートコンポーネントが含まれ、各トークンは常にアクティブな「共有エキスパート」と8つの「専門エキスパート」を経由します。この構造により、効率的な処理を行うことができます。
大規模で複雑なデータセットでの迅速かつスケーラブルな学習を可能とするため、本モデルの学習は楽天が設計した社内マルチノードGPUクラスタ上で実行されました。楽天の隔離された安全なクラウド環境に展開しているため、データが外部に送信される心配はありません。また、日本の市場と楽天のビジネスニーズに最適化された豊富で高品質な独自データを用いてファインチューニングされており、高い精度を実現しています。
最高水準の日本語性能を達成
楽天は、基盤モデルの会話能力と指導追従能力を評価するため、日本語版MT-Benchを用いてモデル評価を実施しました。その結果、Rakuten AI 3.0は、既存の主要モデルや楽天の従来モデルと比較して、最高水準のスコアを達成しています。
Rakuten AI 3.0 (LLM) と日本語に特化した主なモデルの比較
Rakuten AI大規模言語モデル比較
日本語版MT-Benchは、LLMをライティング、ロールプレイ、推論、数学、コーディング、抽出、STEM、人文科学の8つの側面で評価するために作られた80の挑戦的な質問からなる自由回答形式の評価データです。詳細については、arxiv.orgを参照してください。
楽天は、今後も豊富なデータと最先端のAI技術を活用し、「楽天エコシステム」をサポートする最適化されたモデル開発を通じて、世界中の人々へ新たな価値創出を目指していく方針です。
AI Workstyle Lab編集部コメント
「Rakuten AI 3.0」の発表は、特に国内企業にとって大きなビジネスチャンスを示唆しています。日本語の繊細なニュアンスを理解し、楽天エコシステム内で最大90%のコスト削減を実現するこのモデルは、顧客対応の自動化、コンテンツ生成、データ分析といった幅広い領域で活用が期待されます。中小企業から大企業まで、多様なビジネスモデルにおいて業務効率を飛躍的に向上させ、新たな収益源の創出にも繋がるでしょう。来春のオープンウェイトモデルとしての公開は、さらに多くの開発者や企業にその恩恵をもたらし、日本全体のAI活用を加速させる可能性を秘めていると見ています。
「AIニュースは追っているけど、何から学べばいいか分からない…」 そんな初心者向けに、編集部が本当におすすめできる無料AIセミナーを厳選しました。
- 完全無料で参加できるAIセミナーだけを厳選
- ChatGPT・Geminiを基礎から体系的に学べる
- 比較しやすく、あなたに合う講座が一目で分かる
ChatGPTなどの生成AIを使いこなして、仕事・収入・時間の安定につながるスキルを身につけませんか？
AI Workstyle LabのAIニュースをチェックしているあなたは、すでに一歩リードしている側です。あとは、 実務で使える生成AIスキルを身につければ、「知っている」から「成果を出せる」状態へ一気に飛べます。
講師：栗須俊勝（AI総研）
30社以上にAI研修・業務効率化支援を提供。“大阪の生成AIハカセ”として企業DXを牽引しています。
- 日々の業務を30〜70％時短する、実務直結の生成AI活用法を体系的に学べる
- 副業・本業どちらにも活かせる、AI時代の「稼ぐためのスキルセット」を習得
- 文章・画像・資料作成など、仕事も趣味もラクになる汎用的なAIスキルが身につく
ニュースを読むだけで終わらせず、
「明日から成果が変わるAIスキル」を一緒に身につけましょう。
本記事は、各社の公式発表および公開情報を基に、AI Workstyle Lab編集部が 事実確認・再構成を行い作成しています。一次情報の内容は編集部にて確認し、 CoWriter（AI自動生成システム）で速報性を高めつつ、最終的な編集プロセスを経て公開しています。
