ニュース
リコー、総パラメータ数約350億のMoE型「リコーLMM_35B-A3B」を開発
2026年10月15日 13:58
リコーは、マルチモーダル大規模言語モデル（LMM）「リコーLMM_35B-A3B」を開発した。同モデルは、アリババクラウドが開発・提供するMoE構造を採用した「Qwen3.6-35B-A3B」をベースに、同社独自の強化学習およびカリキュラム学習を活用し、日本語でのリーズニング性能を高めたもの。11月から順次「RICOH オンプレLLMスターターキット」に搭載される。
「リコーLMM_35B-A3B」の特徴
MoE構造による高速・省リソースな推論
同モデルは、総パラメータ数約350億のうち、推論時に約30億パラメータのみを稼働させるMoE構造を採用。MoE構造では、モデル内部の処理を複数の「専門家」に分担させ、入力に応じて必要な専門家だけを選んで動かす。
日本語リーズニング性能の向上
独自の強化学習およびカリキュラム学習技術をMoE向けに発展させ、図表を含む企業ドキュメントの読解性能をベースモデル「Qwen3.6-35B-A3B」から向上させた。独自ベンチマーク「JDocQA-Reasoning Benchmark v2.0」で、同モデルはベースモデルの0.816から0.841に向上した。これは、推論時に稼働するパラメータが約9分の1でありながら、同じQwen3.6系列のDense型モデル「Qwen3.6-27B」（0.841）と同等の水準となる。
日本語AIエージェント性能の強化
文書の読解や回答生成に加え、業務システムやツールを活用しながらタスクを自律的に実行するAIエージェント用途にも対応している。日本語AIエージェント評価ベンチマーク「j-tau-bench」の通信事業者カスタマーサービスシナリオにおいて、業務ポリシーに従ってツールを利用しながらユーザーと対話し、依頼されたタスクを正しく遂行できた割合（正答率）が、ベースモデルの62.4%から77.7%へと15.3ポイント向上した。
ループ回答の抑制による応答時間の安定化
リーズニング型モデルでは、同じ内容を繰り返して出力し続ける「ループ回答」が実運用上の課題となることがある。同社は、過度に長い出力を抑制する報酬設計を強化学習に取り入れることで、回答の品質を維持しながら不要な繰り返しを抑制した。
小型AIサーバーで動作する量子化版も開発
NVIDIA Blackwell世代以降のGPU向けに量子化した「リコーLMM_35B-A3B」のNVFP4量子化版を開発した。小型AIサーバー「NVIDIA DGX Spark」1台で動作し、量子化後もベースモデルの量子化版を上回るリーズニング性能を確認するとともに、BF16版と比べて1問あたりの応答時間を約3分の1（MTP併用時は約4分の1）に短縮している。