ニュース

さくらインターネット、ユーザー専用のクローズド環境で生成AIモデルを利用可能

「さくらのAI Engine プライベートエディション」

 さくらインターネットは、企業が保有する生成AIモデルを専有環境で運用できるフルマネージドのAIモデルサービングサービス「さくらのAI Engine プライベートエディション」を10月8日より開始する。

 同サービスは、「さくらのAI Engine」の技術基盤および運用設計を活用し、ユーザーが利用する生成AIモデルを同社のGPU基盤上にホスティングし、API経由で利用を可能とするサービス。独自開発モデルやファインチューニング済みモデル、オープンウェイトモデルなどを、利用者専用のクローズドな環境で運用することが可能。

 専有環境での提供により、他テナントの影響を受けることなく安定した推論実行環境を実現可能で、推論基盤の構築から運用・監視までを同社が一貫して提供することで、利用者の運用負荷を軽減。また、専有環境での運用に加え、推論基盤の構築から運用・監視までを一貫して提供することで、AI活用をサポートする。

 利用料金は、GPU単位の月額定額制となっており、トークン利用量に応じた料金変動を気にすることなく利用することができる。また、入力データおよび生成結果はAI学習に利用されないため、機密情報を扱う用途で利用可能となっている。