オープンモデル「Apertus 1.5」発表、マルチモーダルや思考モードに対応

AIニュース

※本記事は一次情報をもとにAI支援によって構成・作成し、事実関係の照合を行っています。

発表内容(事実)

2026年7月24日、Hugging Faceにて「Apertus 1.5」の8Bおよび70Bモデルの重みがApache 2.0ライセンスで公開されました。Apertus 1.0をベースに、テキストやマルチモーダルデータを追加して事前学習を継続したモデルです。

この記事のポイント

  • 画像や音声のネイティブな理解機能(マルチモーダル)を追加
  • 推論性能を高めるオプショナルな思考モードを搭載
  • コンテキストウィンドウが4倍の262,144トークンに拡大
  • 指示追従性やツール利用の精度が向上
  • Apache 2.0ライセンスのもとでモデルの重みやデータが公開

何が変わるのか

Apertus 1.0と比較して、Apertus 1.5では次のような変更や機能拡張が行われています。

  • マルチモーダル対応: テキストだけでなく、画像(Emu3.5トークナイザーを使用)や音声(WavTokenizerを使用)を同じシーケンスの離散トークンとして処理します。音声処理は実験的段階とされています。
  • コンテキスト長: コンテキストウィンドウが4倍に拡大し、262,144トークンをサポートします。
  • 思考モード: 入力に対して応答前に推論を行うモードへ切り替えることが可能になり、推論問題のパフォーマンスが向上します。
  • 事前・事後学習: 8Bモデルには4兆トークン、70Bモデルには2兆トークンのテキストおよびマルチモーダル学習データが追加され、事後学習ではSFT、RL、DPO、チャーター整合(SDPO)などが実施されました。

考えられる実例

公式の発表やベンチマーク結果において、次のようなユースケースや評価結果が示されています。

  • 文書、図表、写真などを取り込んだ会話や、空間理解、ドキュメント・チャート理解における競争力のあるマルチモーダル処理。
  • スイス法務タスクにおいて、主要なオープンウェイトモデルと同等の強力なパフォーマンスを発揮。
  • Last Translation Benchmarkにおいて、Apertus 1.5 8Bが機械翻訳能力を示し、Claude Haiku 4.5やGoogle Translateを上回る結果を記録。

筆者が考える活用例: オープンに公開された重みやデータセットを活用し、商用・研究を問わず特定の業務ドメインに特化したマルチモーダルなAIアシスタントの構築や、長文ドキュメントを伴う高度な推論パイプラインへの組み込みに応用できる可能性があります。

考察(筆者の見解)

事実: Apertus 1.5では、トークナイザーを通じて画像や音声をテキストと同じシーケンスに統合するアーキテクチャを採用し、アーキテクチャ自体を変更せずにマルチモーダル化を実現しています。また、評価結果ではApertus 1.5 8Bが同サイズのオープンウェイトモデルを一部のタスクで上回ることが示されています。

推測: 早期融合(early-fusion)方式の採用や、テキストデータを過半数維持した継続事前学習のアプローチにより、従来のテキスト処理能力を損なわずにマルチモーダル機能や長コンテキスト対応の拡張に成功したと考えられます。また、今後のアップデートやコミュニティによる検証を通じて、スイス法務タスクや翻訳以外の専門領域への応用もさらに広がる可能性があります。

意見: 筆者は、モデルの重みだけでなくデータや学習詳細まで完全にオープンにする姿勢が、AIの透明性とオープンソースコミュニティの発展において非常に重要な意義を持つと考えます。

出典・参考リンク

コメント

タイトルとURLをコピーしました