NTTデータ先端技術、オンプレミスの閉域環境でローカルLLM活用の技術検証を実施

ローカルLLM環境の構成イメージ

　NTTデータ先端技術は、NTTデータフィナンシャルテクノロジーと連携し、金融機関のシステム開発における生成AI活用を見据え、オンプレミスの閉域環境におけるローカルLLM（大規模言語モデル）活用の技術検証（PoC）を実施した。

　同PoCは、金融機関でのガバナンスの強化、ならびにコストの固定化による予見性の向上を目的として実施。特に重要となる機密情報の保護を前提に、設計文書の整合性確認や品質向上、修正作業の迅速化を目的とした生成AI活用の有効性を検証した。

　近年、生成AI技術が業務効率化の手段として注目されている。だが、金融機関では従量課金によるコストの増大や予算管理の難しさに加え、取り扱う情報の機密性の高さによるデータ保護、法規制や業界ルールを踏まえたガバナンス確保のハードルの高さが課題となっている。そのため、安全かつ計画的に生成AIを活用できる基盤へのニーズが高まっている。

　同検証では、生成AI基盤をオンプレミス環境に、各種データをローカルLLM環境に構築し、金融システム開発での生成AIの業務適用の実現可能性を確認。同検証により、情報漏洩リスクを最小限に抑えつつ、企業のセキュリティポリシーや内部統制に沿い、かつセキュリティ・ガバナンスを確保しながら、生成AIを活用したシステム開発が可能であることを確認しているという。