ニュース
NTT、少量の業務文書から専門LLMを育成するチューニング技術
多様な教材の自動生成で「自己進化型tsuzumi」へ
2026年11月12日 10:00
NTTは11月12日、業務マニュアルをはじめとする社内ドキュメントから、特定業務の専門知識を高精度に定着させる新たな大規模言語モデル（LLM）チューニング技術を開発したと発表した。
従来のファインチューニングでは数十GB規模の膨大な学習データが不可欠とされ、各企業が保有する限られたデータ量では表現への過剰適合や知識の抜け落ちが生じる課題があったが、今回の技術はLLM自身が元の文書からFAQ形式や表形式、対話形式といった多様な教材を自動生成することで、少量の社内資料からでも深い知識定着を実現する。
NTT独自のLLM「tsuzumi 2」を用いた検証では、先行研究を約10ポイント上回る83.1％の正答率を記録したほか、オープンソースの「Llama 3」系列でも同様の有効性が確認された。
成果は、11月18日～25日にかけて開催される「NTT R&D FORUM 2026」にて展示される予定。
企業特有の「少量データ」が阻んでいた知識定着の壁
LLMを実務に適応させるアプローチには、プロンプト調整による役割の模倣や、アダプターの付加による業務遂行能力の強化など、いくつかのチューニングスタイルが存在する。そのなかでも、業務マニュアルや社内規定といった企業固有の専門知識そのものをモデルに覚え込ませるチューニングは難度の高い領域とされてきた。
モデル全体に新たな知識を獲得させるには、通常、A4用紙換算で数千万ページ分におよぶ数十GB超の大規模なデータセットが必要とされる。しかし、個々の企業が実務現場で保有する業務資料はPDFにして約1,000件、ページ数にして最大100ページ程度と限られており、LLMの学習用としては絶対量が圧倒的に不足していた。
こうした制約下で既存の文書データを単純に繰り返して学習させると、条文番号や固有の言い回しといった特定の文言や形式にのみ過剰に適合してしまい、文脈を変えた質問に応答できなくなるなど、本質的な知識理解に至らない問題が発生する。また、外部のWeb空間から類似情報を補おうとしても、業務と無関係なノイズが混入しやすく、高品質なデータセットの整備は難しかった。
人間の「多角的な学び」を模倣する合成データ生成アプローチ
こうした課題を打開するため、同社が着目したのが、人間が学校教育などで多様な教材を通じて理解を深めるプロセス。文章をただ繰り返し読むのではなく、設問を解いたり他者と議論したりして多角的に学ぶように、LLM自身が「学習者向けの教材作成者」となり、業務マニュアルから異なる観点・形式の学習データを大規模に合成する仕組みを構築した。
具体的なデータ生成形式としては、マニュアルの記載事項を実務上の問い合わせを想定したQ&Aに再構成する「FAQ形式」、複数の条件や期間を整理・構造化する「表形式」、さらには生徒と教師の対話によって業務の背景や意図を掘り下げる「対話形式」などが含まれる。単語の機械的な差し替えではなく、現場でどのような場面で知識が活用されるかという実用シーンを想定した書き換えを行なう点が特徴的だ。
このデータ生成エンジン自体にもtsuzumiが活用されており、少量のシードデータから数十億から百億トークン規模に達する大規模な学習データを生成し、それを基盤モデルに学習させることで、マニュアルに内在する業務知識を余すところなくモデル内部へ定着させる。
先行研究を10ポイント凌駕する正答率と軽量モデルでの汎用性
知識の定着度を測るため、同社ではスマートフォンやタブレットなどの実業務マニュアルを用いた多肢選択式の独自ベンチマークを設計し、定量的な評価を実施した。市中には個社の固有知識を測る共通ベンチマークが存在しないため、マニュアル記載範囲内の問題を作成して正答率を測定している。
実験の結果、tsuzumi 2における学習前の正答率は65.3％だったのに対し、文脈を言い換える先行研究手法（FinePhraseなど）では最大73.3％にとどまっていたが、本技術を適用したところ83.1％へと大幅に向上。先行研究と比較して約10ポイントの性能向上を達成した形だ。
さらに、モデル規模が小さく知識定着の難度が高い「Llama 3（3B/3.2）」においても、未学習時の約25％から50％台後半へとスコアが大幅に伸長し、先行手法を一貫して上回る効果が確認された。また、特定知識の注入に伴う汎用性能の劣化やバイアスの発生についても克明な観察が行われ、一般ドメインのベンチマークにおいて基礎能力を損なうことなく専門知識を付与できていることが実証されたという。
RAGとの明確な棲み分けとコンタクトセンターなどの高速処理需要
企業内ドキュメントの利活用手法としては検索拡張生成（RAG）が広く定着しているが、担当者はRAGと本チューニング技術の棲み分けとシナジーについて明快な見解を示している。
絶対的な正確性が最優先される場面ではRAGが推奨される一方、コンタクトセンターの裏側で膨大に流入する通話音声をリアルタイム分析するような、極めて高速な応答処理が求められる業務では、外部検索を挟むRAGは遅延が大きく、並行して多数の言語モデルやGPUを用意しなければならず運用コストが高騰する。モデル自体に知識を直接定着させておけば、外部検索を介さず迅速に推論を完了できるため、配備するGPUの台数を大幅に削減し、低コストでシステムを運用できるメリットがある。
また、同技術はRAGを排斥するものではなく併用も可能であり、モデル自身が業界や社内の前提知識を備えていることで、RAGによる検索精度そのものを引き上げ、より確度の高い応答を実現できるという。主たるターゲット分野としては、日本特有のルールや手続きが厳格に定められている医療や金融のほか、各社特有の専門用語が多い製造業などが挙げられている。
自律的に知性を磨く「自己進化型tsuzumi」への布石
NTTは今後、本技術をグループ各社が提供するソリューションに組み込み、各企業固有の業務知識を反映した専用tsuzumiの提供を進めていく方針。提供形態としては、GPUリソースを要する学習処理をNTTグループのデータセンター側で集約・実行し、チューニング済みモデルを顧客へ返却するクラウド・マネージド形式のサービス提供などを視野に検証を進めている。
さらに発展形として、11月18日からの「NTT R&D FORUM 2026」では「自己進化型tsuzumi」のコンセプトが公開される。これは、日々更新される業務文書から自律的に知識グラフを生成・更新し、そこから大量・高品質な学習データを合成してtsuzumi自身がtsuzumiを再学習していくという3ステップの仕組みで、今回発表された技術は、このサイクルのうち学習データ合成とチューニングの基盤を担う。
LLMが自らの知識を自律的に深めていく「再帰的自己改善（RSI）」の概念を、国内企業のデータ環境に即して具現化する試みとして注目される。