ニュース

「NVIDIA Nemotron 3 Super」、エージェント型AIのスループットを最大5倍向上

 NVIDIAは、自律型エージェントの大規模運用を目的として設計されたオープンモデル「NVIDIA Nemotron 3 Super」を発表した。

 NVIDIA Nemotron 3 Superは、120億のアクティブパラメータを備えた1200億パラメータのオープンモデル。複雑なエージェント型AIシステムを大規模に実行するために設計されており、長いコンテキスト処理や複雑なリーズニングを効率化することでエージェント型AIのスループットを最大5倍向上できるとされている。

 同社によれば、AIエージェントの利用が進み、マルチエージェントに移行すると、一般的なチャットの最大15倍のトークンが生成されるコンテキスト爆発や、動作が遅くなって実用性が落ちるシンキングタックスといった課題が出てくるが、Nemotron 3 Superでは100万トークンのコンテキストウィンドウを備えることでそれらの課題をクリアしている。

 Perplexityが同モデルへのアクセスをユーザーに提供するほか、CodeRabbit、Factory、Greptileなどのソフトウェア開発エージェントを提供する企業や、Edison Scientific、Lila Sciencesといったライフサイエンスや最先端AI企業が導入を進めている。