社内のパソコンで動かすAIとクラウドのAIは何が違うのか｜置き場所で考える

「社内の情報をAIに入れるのが不安だ。だから社内のパソコンの中で完結するAIにしたい」。この考え方は自然ですし、実際にそうした選択肢も存在します。ただ、検討を始めると話が進みません。何がどう違うのか、自社の環境で動くのか。調べても、答えが1つに定まらないのです。

先に結論を申し上げます。違いは「データがどこを通って、どこに残るか」です。そして、社内に置けば安全になるという単純な話ではありません。外に出さないことと、守られていることは別です。

違いは「データがどこを通るか」

両者の違いは、性能でも料金でもありません。情報の通り道です。

クラウドのAIを使う場合、入力した内容は通信回線を通って提供元の設備に届き、処理されて戻ってきます。社内のパソコンで動かす場合、その往復がありません。計算はすべて手元で行われます。

いわば、外部の倉庫を借りるか、自社の倉庫を建てるかの違いのようなものです。借りれば運搬が必要になりますが、建物の維持は先方が行います。自社で建てれば運搬は不要ですが、雨漏りの修理も鍵の管理も自社の仕事になります。

自社のPCで動くのか、要件は一つに決まらない

ここが実際に検討を止める壁です。「うちのパソコンで動くのか」に、ひとつの答えが返ってこないのです。

Googleの公式入門ページを開くと、そこにあるのはモバイル端末・ノートパソコン・デスクトップ・サーバーといった想定プラットフォームの区分です。具体的な数値はここにはありません。ただし、モデル名のセルがそのままリンクになっていて、1つ進んだモデル本体のページには、必要なメモリの表が用意されています。

その表を見ると、事情が分かります。同じモデルでも、精度をどう落とすかで必要なメモリが4倍近く変わるのです。

2026年8月29日時点のGoogle公式ドキュメント（Gemma 4 の推論メモリ要件）にもとづく。GPU側のメモリを基準にした概算で、モデル本体の分の数値です

いちばん小さいモデルを、精度を落として使えば2.9GB。一般的なパソコンでも届く数字です。ところが同じモデルをそのまま動かすなら11.4GB要ります。大きいモデルを精度そのままで使うなら69.9GBで、これは普通のパソコンの話ではありません。

つまり「動くか動かないか」ではなく、「どこまで妥協するか」の問題です。精度を落とせば動きますが、落とせば答えの質も変わります。いわば、荷物を積むために座席を外すようなもので、積めるようにはなりますが、乗れる人数は減ります。

一方、クラウドのサービスを使う道具のほうは、答えが1つです。Anthropicの公式ドキュメントには、対応OSのバージョン、4GB以上のメモリ、対応するプロセッサの種類、インターネット接続が必要であることが明記されています。計算は先方の設備で行われるため、手元の要件が軽く済むのです。

この差は性能の差ではなく、計算をどこでするかの差です。同種の確認の進め方はCodexは自分のMacで動くのか｜対応環境とIntel Macの扱いを初心者向けにで扱っています。

クラウド側は何が書かれているか

不安の中身を具体化するために、クラウド側が何を公表しているかを見ます。Anthropicの公式ドキュメントには、画像を渡した場合について次の記載があります。

まず、画像に含まれる撮影日時や位置情報などのメタデータは読み取られないとされています。次に、アップロードされた画像は一時的なもので、処理が終わると自動的に削除されると書かれています。そして、アップロードされた画像をモデルの訓練には使わないとも明記されています。

ただし、これは1社の、しかも特定の機能についての記載です。他社や、同じ会社でも契約の種類が違えば、扱いは変わりえます。ここを確認せずに「クラウドは危ない」と決めるのも、「大手なら大丈夫」と決めるのも、どちらも根拠が足りません。

契約の種類ごとに確かめる手順は、その設定、本当に学習に使われていませんか｜契約の種類別に確かめる手順にまとめています。

社内に置くと、何が自社に来るのか

社内で動かす選択をした場合、通信経路の心配はなくなります。かわりに、これまで提供元が担っていた仕事が自社に移ります。

特に見落とされやすいのが更新です。クラウドのサービスは、提供元が改善や修正を行い、利用者は意識せずに新しい状態を使えます。社内に置いた場合、誰かが更新作業をしなければ、古い状態のまま止まります。

たとえるなら、社用車を自社整備にするようなものです。整備工場に出す手間はなくなりますが、点検の期日を管理する人が必要になります。その担当が決まらないまま自社整備に切り替えると、点検されない車が走り続けることになります。

「外に出さない」と「守られている」は別

この記事でいちばんお伝えしたいのは、この区別です。

社内に置けば、確かに情報は外に出ません。しかし、そのパソコンが持ち出されれば情報も一緒に出ます。故障すれば失われます。更新が止まれば、既知の弱点が残ったまま使い続けることになります。

言い換えれば、金庫を自宅に置くようなものです。銀行に預けるより手元にある安心感はありますが、火事と泥棒への備えは自分でしなければなりません。

社内でのAI利用のルール作りは生成AIの社内ガイドライン作成ガイド、把握されていない利用への対策はシャドーAI対策ガイドで扱っています。

どちらを選ぶかの決め方

「安全かどうか」で選ぶと決まりません。何を守りたいのかを先に決めてください。順序は3段階です。

1つ目は、扱う情報のうち本当に外に出せないものを具体的に挙げること。「社内情報だから全部」ではなく、個別に見ていくと、実際に外部提供が制限されるものは限られることが多いはずです。

2つ目は、その情報を扱う業務が全体の何割かを見ること。もし1割なら、その1割だけを別扱いにして、残り9割はクラウドで進めるという選択肢が出てきます。全部を片方に寄せる必要はありません。

3つ目は、社内に置いた場合に誰が管理するかを決めること。これが決まらないなら、社内に置くほうが危険になります。担当者不在の自社管理は、管理していないのと同じです。

この3段階を踏むと、多くの場合「全部を片方に寄せる必要はない」という結論に落ち着きます。書類の保管場所を中身で分けるのと同じようなもので、機密のものとそうでないものを切り分け、情報の性質ごとに扱いを変えればよいのです。全社で1つのやり方に統一しようとすると、いちばん厳しい条件に全体を合わせることになり、使い勝手が大きく落ちます。

まとめ｜守りたいものを先に決める

整理します。両者の違いは情報の通り道です。社内に置けば通信の心配は減りますが、管理の仕事が自社に移ります。そして外に出さないことと、守られていることは別です。

私たちが実務で大事だと考えているのは、置き場所から決めないことです。「社内なら安心」という感覚から入ると、管理の負担が見落とされます。逆に「クラウドは危ない」という感覚から入ると、契約内容を確認する手間が省かれてしまいます。どちらも、確かめるべきことを飛ばしています。

先に決めるのは、守りたいものが何かです。それが決まれば、置き場所は後から選べます。多くの場合、全部をどちらかに寄せる必要もありません。言い換えれば、置き場所は結論であって、出発点ではないということです。

自社のどの情報をどちらで扱うべきか迷われている場合は、無料相談でも承っています。

よくある質問

社内のパソコンで動かせば安全ですか？

外に出さないことと、守られていることは別の話です。社内に置けば、通信の経路から情報が漏れる心配はなくなります。ただし同時に、その端末の管理責任がすべて自社に来ます。持ち出し、紛失、盗難、故障によるデータの消失、更新を怠ったことによる脆弱性。これらはクラウドを使っていれば提供元が担っていた部分です。守りたいものが何かによって、どちらが適しているかは変わります。通信経路を減らしたいのか、管理の手間を減らしたいのか。この2つは同時には満たせないため、先に順位をつける必要があります（2026年8月29日時点の公開情報）。

自社のパソコンで動くかどうか、どこで確認できますか？

公式のモデル本体のページに、必要なメモリの表があります。入門ページにあるのは想定プラットフォームの区分だけですが、モデル名のセルがリンクになっていて、そこから1つ進むと数値の表にたどり着けます。ただし、その表を見ると答えが1つに決まらないことが分かります。同じモデルでも、精度をどう落とすかで必要なメモリが4倍近く変わるためです。いちばん小さいモデルなら、精度を落として2.9GB、そのままなら11.4GB。大きいモデルを精度そのままで動かすなら69.9GBが必要とされています。つまり動くか動かないかではなく、どこまで妥協するかという問題になります。一方でクラウドのサービスを使う道具は、計算を先方の設備で行うため手元の要件が軽く、答えも1つです（2026年8月29日時点の公開情報）。

どちらを選べばいいですか？

安全かどうかで選ぶのではなく、何を守りたいのかを決めてから選んでください。判断の順序は3段階です。1つ目は、扱う情報のうち本当に外に出せないものを具体的に挙げること。すべてが機密ということはまずありません。2つ目は、その情報を扱う業務が全体の何割かを見ること。1割なら、その1割だけを別扱いにする選択肢があります。3つ目は、社内に置いた場合に誰が管理するかを決めること。担当者が決まらないなら、社内に置くほうが危険になります。この3つを決めずに置き場所だけ変えても、不安は解消しません（2026年8月29日時点の公開情報）。

参考にした情報

• Google 公式ドキュメント｜Gemma 入門（想定プラットフォームの区分）
• Google 公式ドキュメント｜Gemma Core（サイズ別・精度別の推論メモリ要件）
• Anthropic 公式ドキュメント｜Advanced setup（クラウド側の道具のシステム要件）

本記事は2026年8月29日時点で公開されている情報にもとづいています。各社の記載は変更される場合があるため、導入判断の前に公式ドキュメントで最新の内容をご確認ください。