トピック
時代はクラウドAI＋ローカルAIの「ハイブリッドAI」へ
Lemonade＋AnythingLLMで始める法人向けAI環境構築術
- 提供：
- 日本AMD株式会社
2026年9月14日 08:00
生成AIが業務に欠かせない状況になった現代。ビジネスシーンでは新たな悩みのタネが生まれ始めている。利用量に応じて膨らむクラウドAIのコスト、組織外に持ち出せない機密情報のAIでの扱い、ネットワークを利用できない環境での作業効率低下など、思い当たる点がある人も少なくないだろう。
これらの課題に対する一つの答えが、クラウドAIとローカルAIを使い分けるハイブリッドAI戦略だ。高度な推論や広範な情報収集はクラウドAIに任せ、社内文書の検索や要約、下書き作成などはPC上のローカルAIで処理する。ただ、精度や速度の面でローカルAIに過度な期待はできない、と悲観的になる人も少なくないはずだ。
そこで、本稿では、ローカルAIが本当に一般的なオフィスワーカーが使える段階に達しているのか？ という点について、日本AMDに話を聞きながら、最新のプロセッサで実現可能な新世代ローカルAI環境の性能を試してみた。
使い込むほど、難しくなるAIのコストと情報管理
組織の生成AI活用は、今や試験導入の段階から日常利用の段階へと移りつつある。今日のタスクの抽出から、報告書のまとめ、プレゼン資料の準備など、使わない日の方が珍しいという組織もあることだろう。
しかし、その便利さを誰もが体験し、利用者と利用頻度が増えるほど、組織の悩みになりつつあるのが「AIの使用コスト」だ。日本AMD コマーシャル営業本部 部長の楊博光氏によれば、「多くの組織から『クラウドAIの費用が無視できなくなりつつある』という声が聞かれるようになった」という。
楊氏は「現状でも全員が毎日のようにAIを使い、さらに今後はエージェントとして使う時代になります。そうなると、AIにかかるコストをどう管理するかが問題になります。従量課金制のクラウドAIだけでなく、組織内でもローカルAIを準備し、ローカルでできることはローカルで処理していく必要があります」と語る。
さらに、もう1つの課題がAIへ渡すデータの扱い方だ。楊氏によると「公開情報の調査ならクラウドAIを利用しやすいですが、未発表の製品資料や顧客情報などをクラウド上のAIサービスに送信できるとは限りません。大企業なら専用の環境を構築する選択肢もありますが、すべての組織が同じ投資をできるわけではありません」という。
そこで注目されてきたのがローカルで動作するAIだ。日本AMD コマーシャル営業本部 セールスエンジニアリング マネージャーの関根正人氏は、クラウドAIの優位性を認めた上で、オフィスワーカーの日常業務にはローカルAIでできる仕事が数多くあると指摘する。
関根氏は「データセンターのGPUで動く大規模なLLMは、性能も知識も強力です。一方、オフィスワーカーの日常業務となる文書処理、資料を基にしたRAGのQ&A、メールの文案作成などは、ローカルAIでも十分にこなせる状況になっています」と説明する。
コストがかかるからと言ってクラウドAIの利用を停止するのは現実的ではない。重要なのは、ローカルで完結できる仕事まで、毎回クラウドへ送らないことだ。クラウドとローカルの双方を適材適所で使う「ハイブリッドAI」が重要であると関根氏は強調する。
ローカルAIは「難しくて精度も低い」ものではなくなった
読者の中にはローカルLLMを以前に試し、期待外れだと感じた経験がある人もいるかもしれない。モデルを探し、自身のPCに合った形式を選び、実行環境を整える。つまり、手間をかけても、応答が遅く、精度も低い。仕事で求める品質に届かない、というイメージを持っているかもしれない。確かに、少し前までであれば、そうした印象を持つのも無理はなかった。
しかし、状況は確実に変化している。比較的小さくても実用的なオープンモデルが増え、RAGやエージェント機能を備えたアプリも使いやすくなった。実際、取材中に関根氏が実演してくれたデモでは、4Bクラスのモデルが英文資料を要約し、資料の内容に関する質問する様子が見られた。また、AIエージェントがウェブから情報を集め、出典を示しながら営業向けの文章を生成する様子も見られた。
「LLMも、オープンソースのAIエージェントアプリも、この半年ほどで大きく進化しました。最初にローカルLLMを試して『使えない』と感じた人には、今の環境でもう一度見てほしいです」と関根氏は語る。
もちろん、小型のローカルモデルが常にクラウドの大規模モデルと同じ品質で出力できるわけではない。複雑な推論、業務システムと連携した情報収集、凝った成果物の生成などはクラウドAIが向いている。一方、資料の要約、該当箇所の検索、定型文の下書き、アイデアの壁打ちでは、ローカルAIも実用域に入ってきた。この使い分けが重要だと両氏が強調しているわけだ。
AMDプラットフォームに最適化されたローカルAIの入口「Lemonade」
ローカルAIに、どこか近寄りがたさを感じている人にとって障壁となっていたのは、モデルをどこから入手するのか？ どの形式なら手元のPCで動くのか？ CPU、GPU、NPUのどれを使うのか？ を利用者が判断しなければならなかった点だろう。
このハードルを下げたのが、オープンソースのローカルAI実行基盤「Lemonade」だ。Lemonadeは、テキスト、画像、音声などのAIモデルを簡単にローカルで利用できるアプリだ。画面上の一覧から対応モデルを探し、ダウンロードして簡単に試すことができる。
同様のツールとしてはLM Studioが有名だが、LemonadeはAMDの技術者が開発に積極的に関与しており、AMDのRyzen AIプロセッサ向けに最適化されているのが特徴だ。
「ローカルAIを試そうと思っても、一般の利用者は何から始めればよいか分かりません。AMDは、その入口としてLemonadeを用意しています。Ryzen AIのNPUや内蔵GPUを活用できるモデルを選び、簡単に動かせるようにするための基盤です」と関根氏は語る。
昨今のPCは、AIへの対応が進み、NPUや高性能なGPUを搭載したり、ユニファイドメモリーでAI用に多くのメモリーを割り当てたりできる。しかし、重要なのは、こうした構成をソフトウェアからきちんと利用することだ。実際にNPUを利用できるモデルと実行環境がそろって初めて、ローカルAIは業務に役立つものとなる。
AMDの強みは、Ryzen AIのハードウェアを提供するだけでなく、LemonadeのようなAI活用プラットフォーム、そしてAMDのNPU（XDNA2）向けLLM推論エンジンであるFastFlowLM（FLM）や、Ryzen AI向けに最適化されたモデルと、多面的にローカルAI環境を支援している点だ。
関根氏によると、「LLMの処理は、大きく分けると、入力を読み込むプリフィルと、回答を順次生成するデコードの処理に分けられます。Ryzen AI向けに最適化されたモデルでは、文書や質問を読み込んで内部表現へ変換するプリフィルをNPU、回答を生成するデコードを内蔵GPUへ割り当てることができます。いわばハイブリッドの構成です。一方でNPUのみでこれらの処理を実行するモデルもあります。おすすめはRyzen AIのNPUを効率よく使えるFastFlowLM対応のFLMモデルです」という。
Lemonadeの良いところは、こうしたモデルがカテゴリーごとに分類され、ユーザーが選びやすくなっている点や、モデル名のアイコン表示によって推論など、どの用途に適しているかがひと目でわかる点にある。NPUやFLMなどと耳にすると、わかりにくく感じるかもしれないが、この単語を目安にモデルを選べば誰でも最適なローカルAI環境を準備できるだろう。
Lemonade＋AnythingLLMが組織の業務を変える
このようにLemonadeは便利だが、基本的にはAIモデルを動かすエンジンであり、それだけではチャットなどのシンプルな使い方しかできない。ローカルAIが業務で使えない、と感じる理由は業務に適したアプリを使い分けることの難しさにもある。
そこでおすすめしたいのが、「AnythingLLM」だ。AnythingLLMは、チャット、RAG、エージェント、文書管理などを1つの画面で扱えるアプリだ。利用するLLMプロバイダーとして前述したLemonadeを選べば、画面はAnythingLLM、推論はLemonade経由のローカルモデルという構成でローカルAI環境を構築できる。もちろん、OpenAIやAnthropicなどのクラウドのLLMプロバイダーも選択できるため、部署や作業ごとに処理先を使い分けることも可能だ。
この組み合わせをおすすめする理由は、専門知識の少ない利用者にも、仕事や作業単位で「ワークスペース」を作り、そこに資料などを登録して作業ができる点にある。たとえば「就業規則」「製品資料」「営業提案」といったワークスペースを用意し、参照させる文書をあらかじめ登録する。就業規則について質問したいならイントラネットなどからダウンロードした就業規則文書を登録し、自社製品や競合製品についてまとめたいならスペック表やカタログなどを登録、取引先に提出する営業提案が必要なら関連するデータや製品資料、打ち合わせのメモなどを登録すればいい。
この状態で、チャット欄へ質問や作業依頼を入力すれば、資料に基づいた回答や資料を使った文書作成などが可能になる。
実践：社内資料に答えるRAG環境を作る
それでは、実際にLemonadeとAnythingLLMで社内資料を検索するまでの流れを見ていこう。画面名やモデル名はバージョンによって変わる可能性があるが、全体の考え方は同じだ。
1. LemonadeでNPU対応モデルをロードする
Lemonadeを起動し、モデル一覧から利用するモデルを選ぶ。今回はFastFlowLMでNPUを使う「Gemma4-it-e4b-FLM」を利用した。
2. AnythingLLMのLLMプロバイダーにLemonadeを指定する
AnythingLLMを起動して設定画面を開き、「AIプロバイダー」から「LLM」を選択する。LLMプロバイダーにLemonadeを指定し、Lemonadeでロードしたモデルを選び、Activeにして設定を保存する。これでシステム標準のLLMとしてLemonade上の「Gemma4-it-e4b-FLM」が利用される。
3. 用途ごとのワークスペースを作り、資料を登録する
AnythingLLMで新しいワークスペースを作成する。ここでは「業務マニュアル」とする。文書アップロードのボタンからPDFなどの対象資料を追加し、「ワークスペースへ移動」「保存して埋め込む」の順に実行する。これにより文書が検索用に分割・ベクトル化され、質問と関連する箇所をLLMへ渡せるようになる。
4. 質問する
チャット画面で、たとえば「社用車の借り方を教えてください。明日使いたいです。」のように質問すると、しばらくすると回答が表示され、出典として登録した文書も表示される。
実は、この例では、古いローカルAIでは間違えやすいトラップを仕掛けてある。登録した資料は3つのややこしい内容の文書で、1つは古い「社用車利用マニュアル」、もう1つは「社用車廃止を知らせる社内報」、最後は2026年7月1日から適用される「レンタカー利用マニュアル」だ。
つまり、借りる日付（質問した日付）によって古い社用車の規定を参照するか、新しいレンタカーの規定を参照するかで回答を変える必要があるわけだ。
上記の画面を見るとわかるが、今回用意したLemonade＋AnythingLLMの環境では、「明日使いたい」という相対的な表現から日付（質問時は2026年9月1日）をきちんと判断し、古い規定が廃止されていることを報告した上、新しいレンタカーの借り方を正確に案内している。
現代のローカルAIがビジネスシーンで十分に通用する性能を備えていることがわかる例と言えるだろう。
3つのシーンで分かる、ローカルAIの実務的な価値
このように、Lemonade＋AnythingLLMを利用することで、簡単にローカルAI環境を構築できるが、冒頭でも触れたように、重要なのはクラウドAIとローカルAIをうまく使い分けることだ。そこで具体的にどのようなシーンでローカルAIを使うべきかを3つのシーンで紹介する。
シーン1：毎日繰り返す文書処理をローカルへ → コストを分散する
営業資料の要約や、メールの下書き、会議のトランスクリプトからのアクション項目抽出など、1回は小さくても、いろいろな人が何度も繰り返す処理は多い。これらをローカルへ移せば、クラウドAIの利用枠を、高度な分析や開発など本当に大規模モデルが必要な作業のみに割り当てられる。限りあるクラウドAIの予算を、効果の高い仕事に優先的に配分する。
シーン2：未公開資料を使った検索と下書き → 機密文書で作業を止めない
発表前の製品資料や社内規程をローカルAI環境のRAGへ登録し、要点を確認したり、提案書などを生成したりするのに活用する。クラウドAIに機密文書の送信が禁止されている環境では、そこで作業が止まってしまうが、ローカルAIがあれば作業を継続できる。必要なら、ローカルで抽出した公開可能な要点だけを、人が確認してからクラウドAIへ渡し、より洗練された文章に仕上げることもできる。
シーン3：移動中に技術資料を読む → ネットワークや環境に依存しない
飛行機や新幹線、通信制限のある環境でも、PCにモデルと資料があれば要約やQ&Aを続けられる。クラウドの混雑や通信状態にも左右されない。PCの消費電力が気になるかもしれないが、関根氏によると「環境やPC構成、使い方にもよりますが、同様の処理をGPU主体で動かした場合は全体で約25W、NPUで動かした場合には11～15W程度だったという報告もあります」ということで消費電力も抑えることができる。NPU利用時にはファンが激しく回らず、ノートPCで静かに処理できるため、会議中や新幹線でも使いやすい。
エントリーモデルでもNPU搭載のRyzen AIシリーズ
このように、ローカルAIを活用することで業務の幅が広がるが、組織にとって気になるのはローカルAIに適したPCを導入するためのコストだろう。
楊氏によると「ハイエンドPCだけでなく、企業が台数を展開しやすいエントリークラスの価格帯のPCまで選択肢が広い」という。業務内容に合わせて、最適なスペックのPCを選んで導入することで、トータルのコストを抑えることも可能だ。
ただし、PC選定でNPU性能と同じくらい重視したいのがメモリー容量となる。ローカルLLMはモデル本体に加え、長い文書を扱うためのコンテキストや、通常の業務アプリにもメモリーを使う。
「16GBでは足りないかもしれません。ローカルでAIを動かすなら最低32GBを推奨します。AIだけでなく、ウェブ会議をしながらほかの作業をする現在の使い方でも、32GBの方が快適です」（楊氏）とのことだ。
なお、将来的にエージェントをより活用するのであれば、CPUの性能が重要になる。複数のツールや処理へ仕事を割り振るエージェントでは、LLMの推論以外の制御をCPUが担う。関根氏によると、「100％パフォーマンスコアとなるRyzenの基本構成は、AIエージェント時代のローカルのAI処理で有利になります」と説明する。
楊氏は組織でのPC選びの基準について次のように説明する。「半年でもローカルAIはこれだけ変わりました。このような進化の中、5年、6年使うPCを考えたとき、6年後もそのPCで戦えるのか？ を慎重に検討することが重要です」。
また、変化の速いAI環境について、継続的に学習を続けることも組織にとっては重要だ。AMDは、環境構築からモデル実行、アプリ作成までを手順化した「AMD AI Playbooks」を公開している。
今回のLemonadeの導入はもちろんのこと、画像生成、コーディング支援、ワークフロー自動化などのガイドがあり、対象デバイス、OS、必要メモリー、難易度で絞り込める。開発者向けの内容が中心だが、情報システム部門や検証担当者が、再現可能な手順でPoCを進める入口になる。
AMDが用意しているのは、プロセッサだけではない。Ryzen AI PCというハードウェア、LemonadeとFastFlowLMという実行環境、モデル、AnythingLLMなどのパートナー製アプリ、そして学習・検証用のPlaybooksまで、複数の入口がある。
AI時代のPCの価値は、OSに組み込まれたAI機能を使うだけでは判断しにくい。サードパーティのソフトウェアやオープンソースのプロジェクトに視点を広げ、自社の情報を、自社のルールで、日常業務へ組み込む工夫が必要になる。ハードウェアから実行環境、モデル、学習手順までローカルAIへの道筋を用意するRyzen AI PCは、これからAIを本格活用したいと考えている企業にとって有力な選択肢と言えそうだ。