※本記事は一次情報をもとにAI支援によって構成・作成し、事実関係の照合を行っています。
製品概要（事実）
Liquid AIは、オンデバイスでの高速かつプライベートなエージェント実行を想定して開発された推論モデルLFM2.5-24B-A2Bを発表しました。総パラメータ数が24Bでありながら、アクティブパラメータ数を2Bに抑えたモデルとなっています。
主な特徴・何ができるのか
LFM2.5-24B-A2Bは、回答を生成する前に思考（チェーン・オブ・ソート）を行い、ツール呼び出しやマルチステップのタスク処理をエージェントハーネス内で実行する機能を備えています。
- アーキテクチャの継承と拡張: 前身のモデルからアーキテクチャを引き継ぎ、40層、トップ4ルーティングのMoEブロック（1ブロックあたり64エキスパート）、ゲート付きショート畳み込みとGQAのハイブリッド構成を採用しています。
- コンテキストと語彙の拡大: コンテキストウィンドウは32Kから131Kトークンに拡張されました。また、語彙数はインプレースのトークナイザー拡張により、65Kから128Kトークンへと倍増しています。
- 推論スピードと効率: Apple M5 Maxで184 tok/s、単一のNVIDIA B300 GPUの高並列環境下では最大21K出力tok/sの推論速度を発揮します。また、llama.cpp、MLX、vLLM、SGLang、ONNXなどのエコシステムに対応しています。
実践するには
公式ドキュメントでは、最新バージョンのtransformers（transformers>=5.0.0）をインストールし、コードを実行してモデルを読み込む方法が示されています。
pip install -U transformers
from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer
model_id = "LiquidAI/LFM2.5-24B-A2B"
model = AutoModelForCausalLM.from_pretrained(
model_id,
device_map="auto",
dtype="bfloat16",
# attn_implementation="flash_attention_2" <- uncomment on compatible GPU
)
tokenizer = AutoTokenizer.from_pretrained(model_id)
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
prompt = "What is C. elegans?"
input_ids = tokenizer.apply_chat_template(
[{"role": "user", "content": prompt}],
add_generation_prompt=True,
return_tensors="pt",
tokenize=True,
)["input_ids"].to(model.device)
output = model.generate(
input_ids,
do_sample=True,
temperature=0.1,
top_k=50,
repetition_penalty=1.05,
max_new_tokens=512,
streamer=streamer,
)
考えられる実例
公式に挙げられている活用場面としては、OpenClaw、Hermes Agent、Pi、OpenCodeなどのエージェントハーネス内でのマルチステップタスクやツール利用、指示追従を伴うワークフローの実行があります。一方、筆者が考える活用例としては、ローカル環境のプライバシーを重視したスマートデバイスや、ネットワーク接続が制限されたエッジ環境における自律的な情報整理・アシスタント機能への応用が考えられます。
考察（筆者の見解）
LFM2.5-24B-A2Bは、アクティブパラメータを2Bに絞り込むことで、ハードウェア要件の厳しいオンデバイス環境において高速な推論と低いコストを実現しています。事実として、ベンチマークにおいてはツール使用や指示追従のタスクで優れた性能を示している一方で、知識集約型のベンチマークではより大規模なモデルに利点があることが示されています。このことから、特定の処理に特化したローカルエージェントの基盤として、検索拡張生成（RAG）などの外部知識補完手法と組み合わせることで、実用性をさらに高められる可能性があります。筆者は、エッジAIの領域において、こうした効率的なMoEアーキテクチャと推論特化型アプローチの組み合わせが今後のトレンドになると考えます。
コメント