クラウドAIかオンプレミスAIか：自社に本当に合うのはどちらか

AIをどこで動かすべきか3社のベンダーに尋ねれば、自信たっぷりで矛盾した3つの答えが返ってきます。しかもどれも、そのベンダーがたまたま売っているものと不思議なほど一致しています。クラウド会社はクラウドと言います。ハードウェア会社はオンプレミスと言います。コンサルタントは「場合による」と言い、その答えを出すために請求書を送ってきます。実際はもっと単純で、はるかに大げさではありません。たいていの中小企業にとって、これは少数の変数からなる実務的な判断であり、誰かが要素を正直に説明してくれれば、一晩で十分に決められます。

私はこの会話を何十回もしてきました。たいていは、データ漏洩の見出しに怯えたり、主権やエアギャップといった言葉だらけの営業資料に当てられたりした経営者が相手です。彼らは、この選択が巨大で取り返しがつかないと思い込んで来られます。たいていはそうではありません。騒音の下で、あなたが本当に答えているのは2つの問いです。データはどこにあり、誰が触れられるのか、そして何を所有し、何を借りるのか。それ以外はすべて細部です。

ですから、そぎ落としましょう。これは、15人の会社を営み、払いすぎも作り込みすぎもせずに正しいことをしたいだけの友人に私が伝える版です。恐怖を煽る売り込みも、ごまかしもなく――クラウドとオンプレミスがあなたにとって実際に何を意味するのか、それぞれが本当に勝つのはどこか、そして会計士にも監査人にも説明できる判断の進め方だけをお伝えします。

これらの言葉が本当に意味すること（マーケティング抜きで）

クラウドAIとは、モデルが他社のコンピューター上で動くことを意味します。テキストや画像、文書をインターネット越しに提供事業者へ送り、その事業者のハードウェアが処理を行い、答えが返ってきます。マシンは所有も保守もせず、使った分だけ――通常はリクエスト単位やトークン単位で――支払います。すでにご存じのAIツールのほとんどがこの方式です。

オンプレミスAIとは、モデルがあなたの管理するハードウェア上で動くことを意味します。自社オフィスのサーバー、借りているデータセンターのラック、あるいは自社システムだけが到達できる専用マシンなどです。データはあなたの境界を出ません。あなたがその箱を所有（または完全に管理）するということは、その維持も所有することを意味します。パッチ、アップデート、電気代、そして何かが応答しなくなった午前2時の電話です。

この二者択一の中で見落とされがちな、有用な中間策があります。プライベートクラウド、すなわち借りたインフラ上でのセルフホストです。ここでは、ホスティング会社から借りたサーバー上でオープンモデルを動かし、データが隔離され、第三者のAI事業者と何も共有されないように構成します。物理ハードウェアを購入して世話をする必要なく、データ管理の観点ではオンプレミスにかなり近く感じられます。多くの中堅企業にとって、これは誰も口にしない「ちょうどいい落としどころ」です。営業のセールストークにきれいに収まらないからです。

誰もが論点だと思っていること――そして本当の論点

人が「オンプレミスAIが必要だ」と言うとき、ほぼ必ず2つのうちのどちらかを意味しており、たいていその2つを混同しています。1つ目はプライバシー。機微なデータがどこへ行くのかという、現実的で、しばしば正当な懸念です。2つ目は管理。価格を変えたり、モデルを廃止したり、最も必要な朝に障害を起こしたりするベンダーの言いなりになりたくない、という願いです。これらは異なる解を持つ異なる問題であり、混同すると高くつく過剰対応につながります。

恐怖を売る人たちが飛ばすのはここです。本格的なクラウドAI事業者は、非常に多くの企業にとって本当に十分な、契約上のデータ保護を提供しています。データをモデル学習に使わない、転送時も保存時も暗号化する、処理後は削除する、と約束する企業向け契約です。自社のブログ草稿を要約するマーケティング会社にとっては、それで十分すぎます。オンプレミスという反射的な選択が正しい答えになるのは、そうでなければならない具体的な理由があるときだけです。

そして逆の落とし穴も同じくらい多いものです。多くの企業が何でもクラウドAPIに頼り、半年後に、まともに審査もしていない第三者へ機密の顧客文書を流し込み、どこに何のログが残っているのか分からない状態だと、ひそかに気づきます。どちらの極端も、たいていは誰も腰を据えて退屈な問いを尋ねなかった証拠です。では、尋ねていきましょう。

誠実な比較、要素ごとに

スローガンは忘れてください。実務で実感する点――お金、データ、スピード、信頼性、そして全体を生かし続ける手間――について、2つのアプローチが実際にどう違うかを示します。

誰もはっきり描かないコストの全体像

クラウドが安く見えるのは、実際に安いからです――そうでなくなるまでは。利用量が低～中程度のうちは、リクエスト単位で払うほうが、半分遊んでいるサーバーを買うより得です。コストが逆転するのは、利用量が大きく一定になったとき、つまり、従量課金APIより固定マシンのほうが経済的にこなせる、高く予測可能な負荷になったときだけです。誤りは、まだ程遠いのにその地点にいると思い込むことです。たいていの中小企業は自社の利用量を大幅に過大評価します。

「自社で運用する」に潜む保守コスト

オンプレミスには、請求書には決して載らない値札があります。誰かが動かし続けなければならないのです。セキュリティパッチ、モデル更新、監視、ハードウェアが壊れたときのフェイルオーバー計画。余力のある社内IT部門があるなら結構です。なければ「セルフホスト」とは、ひそかに「いま時間を費やすことになる担当者」、あるいは対価を払って任せる運用提携先を意味します。これを正直に予算化してください。さもなければ、思い描いた節約は蒸発します。

オンプレミス（またはプライベート）が本当に正解になるとき

AIを社内に留めることが偏執ではなく、技術的にも事業的にも正しい判断となる、現実的で具体的な状況があります。そのいずれかに当てはまるなら、オンプレミスの問いを手で払いのけず、真剣に受け止めてください。

• 法的に自国や自社の壁の外へ出せないデータを扱う――患者記録、特定の法務ファイル、防衛や安全保障に関わる機微な資料。
• 拘束力のある顧客契約や業界規制が、そのデータを第三者の処理事業者へ送ることを禁じている。
• AIの利用量が高く、一定で、予測可能なため、あなたの規模では固定マシンが従量課金APIより本当に安くつく。
• インターネット依存なしで機能する必要がある――工場の現場、遠隔地、障害が許されない環境。
• 競争上の強みが、契約上の約束さえ受け入れたくないほど機微なモデルやデータセットである。

これらの引き金のどれも感情ではない点に注目してください。検証可能です。それが要点です。本当にいずれかが当てはまるなら、私たちは喜んでプライベートやオンプレミスの構成を組みます――規制業種の当社顧客には、まさにそれを運用している方が少なくありません。ですが当てはまらないときは、はっきりそう申し上げます。必要のないサーバーを誰かが買うのを眺めても、誰の得にもならないからです。

クラウドが、恥じる必要のない当然の答えになるとき

多くの小規模企業にとって、クラウドAIは単純に正しい出発点であり、そこに二流なところは何もありません。試している段階なら、利用量が控えめなら、データが特別に機微でないなら、あるいは資本を投じる前にAIが役立つかどうかを確かめたいだけなら――クラウドなら、コーヒー数杯の値段で今週から始められ、うまくいかないと分かった瞬間にやめられます。

戦略上の論拠は、財務上のそれよりさらに強いものです。まだ検証していない用途のためにインフラを買うべきではありません。 クラウドで始め、AIが本当に元を取ると証明し、実際の利用量と要件を学び――そしてそのうえで、当てずっぽうではなく事実で武装して、社内移行に意味があるかを決めます。この順で行えば、（いつか実施するとしても）移行は穏やかで、十分に情報に基づいたものになります。逆にやれば、勘にハードウェアの資金を賭けたことになります。

どう決めるか――短く実践的な道筋

6週間の調査は要りません。いくつかの誠実な問いに順番に答え、その答えに道を示させればよいのです。私が経営者を案内する道筋を示します。

1. 1
   データを名指しする

   AIが触れるデータを正確に書き出してください。具体的に。「顧客サポートのメール」と「患者の医療履歴」は別物です。データの機微さが、その後のすべてを左右します。
2. 2
   厳格なルールがないか確認する

   そのデータの行き先を制限する法律、規制、署名済みの契約はありますか。あるなら、その制約が答えを決めてくれます――プライベートかオンプレミスへ。なければ、先へ進みます。
3. 3
   実際の利用量を見積もる

   半年後、現実的に1日あたり何件のAIリクエストになりますか。多くの経営者は高く見積もります。控えめで不確かな量はクラウドを強く指し示し、巨大で一定の量はオンプレミスのコスト検討を開きます。
4. 4
   誰が保守するかを正直に考える

   サーバーを運用する時間と技能を持つ人材、あるいは任せられる提携先はありますか。なければ、その費用を織り込むか、それにマネージドクラウドへと導かせてください。
5. 5
   最も安く検証できる場所から始める

   何にも縛られていないなら、クラウドで始め、価値を証明し、予測ではなく実数値を得てから、インフラの問いに立ち返ってください。

この5ステップを進めれば、答えはたいてい自ずと出てきます。早い段階で厳格なルールが片をつけるか、あるいは安く始めて後できちんと決める自由があると分かるかのどちらかです。避けたいのは、5番目の逆へ一足飛びに進む版――まず大きな解を買い、後付けで正当化をこしらえることです。

朗報：これは一方通行の扉ではありません

最も気を楽にしてくれる理解は、この判断がめったに恒久的ではないということです。ベンダーは、二度と引き返せない分かれ道のように描きます。切迫感が売れるからです。実際には、賢く作れば――AIの部分を残りのシステムから疎結合に保てば――必要が変わるにつれて、クラウドからプライベート、オンプレミスへと、すべてを掘り返すことなく移れます。

私たちは両方向で顧客を移行させてきました。クラウドで始め、価値を検証し、実際の量に達し、一定の負荷を社内へ移してコストを抑え管理を締めた企業。そして、誰かの助言で早すぎる時期にハードウェアを買い、遊休で重荷だと分かり、従量課金のサービスへ戻って満足した企業。AIが最初から可搬に設計されていたため、どちらの移行も大惨事にはなりませんでした。それを見据えて設計すれば、「クラウド対オンプレミス」の問いはその重みの大半を失います。

よくある質問