社内AIの最適解はどこ？クラウドとローカルの使い分けを日本HPの実践者に学ぶ

社内AI、どこで動かす？クラウド vs. ローカルの判断軸

生成AIの導入が進む企業にとって、次に直面する課題は「業務への活用をどう広げるか」です。社外に出せないデータを扱いたい、部門の定型業務を自動化したい、利用料金や接続環境を気にせず使いたいなど、用途が具体的になるほど「どこで動かすか」が重要な判断基準となります。日本HPでAI／データサイエンス市場開発担当部長を務める勝谷裕史氏の実践的な知見から、クラウドとローカルのAI環境をどのように使い分けるべきかを探ります。

人手不足を補う「AI社員」という発想

勝谷氏は、人手不足を背景に、採用だけでは埋められない労働力を補う選択肢として、人と協働する「AI社員」を提案しています。AI社員の役割として、以下の3点が示されました。

• AI秘書: 議事録や資料作成の補助
• AI専門社員: 営業や設計など部門の専門業務支援
• AI管理職: 業務分析や可視化を通じた意思決定支援

導入の進め方も、チャットでの活用、社内データの活用、業務の自動化という3段階に整理されています。議事録や要約から始め、社内文書を参照する仕組みを構築し、さらにAIエージェントを使った見積もり支援や提案業務の自動化へと進める考え方です。この進め方に合わせて、AI PCと活用トレーニング、ワークステーションとローカルLLMの検証、複数GPUによる部門向け実行環境とエージェント連携を組み合わせる具体的な案も示されています。

業務活用を広げる実行環境の選び方

勝谷氏への相談では、すでにAIを導入している企業が多く、関心は「もっと活用できないか」「そのために何をすればよいか」に移っているといいます。例えば、Microsoft 365などを通じてAI活用を試した後、さらに高度な処理を望むケースや、サーバを用意するほどの性能は不要だが、日々のバッチ処理にAIを使いたいという要望があります。こうした企業が、業務を動かす基盤としてワークステーションを検討するようになっています。

勝谷氏自身の使い分けは明確です。公開されている情報を調べる場合はクラウドのAIを利用し、「業務内で外に出せないデータに関しては、もう完全にローカルで使っている」と述べています。つまり、処理したいデータをどこまで外部に出せるかが、クラウドとローカルを分ける最初の分岐点となります。

ただし、PC上でアプリを操作することと、AIの推論をそのPC内で行うことは区別が必要です。例えばOpenAIのCodexも、AI推論はクラウド側で行われます。導入する側は、操作画面のある場所だけでなく、実際の処理先とデータの送信先を確認する必要があります。

ローカル環境ではオープンソースのAIエージェント「OpenClaw」を試すなどしていますが、処理が止まる課題も経験しており、完全なローカル環境への移行には慎重な姿勢を見せています。「ローカル100%に固執してしまうと逆に時間がかかってしまい、生産性が下がる可能性があるのは事実です。ローカル100%を目的にせず、課題解決による生産性向上を目的にすることが重要です」と語っており、任せる業務で必要な処理をこなせるか、実際に試しながら配置を決めることの重要性を強調しています。

個人から部門利用まで、ローカル環境の選択肢

ローカル環境を選んだ後も、必要な機器は使い方によって変わります。勝谷氏が最近重用しているのが、小型のAI開発機「HP ZGX Nano G1n AI Station」です。これはNVIDIA「DGX Spark」のHP版にあたるものです。勝谷氏自身も、顧客の要望を実現できるか確かめるために、手元のAI機器で事前検証を行っています。このような小型機は、開発した環境を持ち運べるため、実際に機器を工場のラインに持ち込み、その場で試す企業の事例もあります。

この小型機は、研究開発や社員一人での利用、予算に制約があり、まず生成AIを動かしてみたいという場合に選ばれます。一方、特定部署の業務を複数人で回す場合は、より大きな構成のワークステーションが検討対象となります。一人の検証で動いたことが、そのまま部門全体で快適に使えるとは限りません。どの処理を何人が使い、どれほどの待ち時間を許容するのか。構成を決めるには、モデル名に加えて利用の規模も具体化しておく必要があります。

機器の置き場所も考慮事項です。利用者のそばに置くのが基本ですが、台数が増えてスペースが足りなくなれば、サーバルームに置くケースもあります。ローカルAIの導入には、機器の購入だけでなく、設置場所や管理方法を決める作業も伴います。

AIエージェントの登場によって、ハードウェアの選び方も変化すると勝谷氏は指摘します。計画、推論、ツールの実行、結果の確認を繰り返す処理では、GPUに加え、メインメモリ、SSD、CPUも重要になります。いずれかが不足すれば、そこが処理全体のボトルネックになるため、全体的なバランスを考慮した選定が求められます。