※本記事は一次情報をもとにAI支援によって構成・作成し、事実関係の照合を行っています。
発表内容（事実）
2026年10月18日にHugging Faceの公式ブログにおいて、MetaによるオープンウェイトのフロンティアマルチモーダルMixture-of-Experts（MoE）モデル「Muse Spark Open」が発表されました。Muse Spark Openは、テキスト、画像、音声、動画を統合して処理するモデルであり、総パラメータ数は約8160億、トークンあたりのアクティブパラメータ数は約420億、コンテキストウィンドウは最大100万トークンに達します。
Metaは、コードベースの読み込み、コードの記述やデバッグ、ツール呼び出しといった、エージェント型コーディングのためにMuse Spark Openを訓練しました。また、スクリーンショットの読み取り、音声メモの聴取、画面録画の視聴なども同時に行うことが可能です。チェックポイントの形式として、BF16とNVFP4が用意されており、リポジトリ名は Muse-Spark-Open-816B-A42B および Muse-Spark-Open-816B-A42B-NVFP4 となっています。
ポイント
- 大規模なMoEアーキテクチャ: 総パラメータ数約8160億のうち、MoEレイヤーには256のエキスパートが配置され、1トークンあたり8つのエキスパートが選択されて約420億パラメータで計算が行われます。
- 多彩な入力モダリティ: テキストだけでなく、画像、音声、動画を入力として受け付け、共通のインターフェースで処理できます。
- 100万トークンのコンテキストウィンドウ: 推論時には最大100万トークンの長文脈をサポートし、画像、動画、音声のトークンもテキストと同じウィンドウに含まれます。
- 開発者向けの推論サポート: llama.cpp、vLLM、SGLangなどのレシピが提供されており、BF16版はH200 GPUの4ノード、NVFP4版は単一のB200ノードなどで実行可能です。
考察（筆者の見解）
事実として、Muse Spark OpenはMetaが提供するMuseシリーズの最大規模モデルであり、エージェント型コーディングやマルチモーダル入力を重視した設計になっています。また、MoE構造を採用することで、8160億パラメータという巨大なメモリ容量を必要としながらも、420億パラメータ相当の速度で動作する仕組みを実現しています。
推測として、NVFP4チェックポイントがNVIDIA Blackwell GPU向けに最適化されている点や、llama.cppなどの主要な推論フレームワークに対応していることから、企業や開発者が最新のハードウェア環境に合わせて効率的にデプロイできるよう配慮されていると考えられます。また、音声トークナイザーや知覚エンコーダー（Perception Encoder）の導入により、開発現場における複雑なマルチモーダルワークフローの自動化が進む可能性があります。
筆者は、オープンウェイトのフロンティアモデルとしてこれほど大規模なMoEおよびマルチモーダル機能を公開したことは、オープンソースAIコミュニティにおける開発力やエージェント型ツールの進化に大きなインパクトを与えると評価します。今後は、ローカル向けに設計された小型モデルであるMuse Glimmerと組み合わせた、多様なユースケースでの活用が進むと提案します。
コメント