Llama.cppでCPU格安VPSでローカルLLMを動かす【コスパ検証】

最初に結論を書いておきます

チャット用途なら、GPU不要。月770円のCPU VPSで普通に動く。

この記事を開いてくれたということは、たぶん「GPUなしでLLMを動かせるらしいけど本当に？」とか「安いVPSで実際どこまで使えるの？」あたりが気になってると思う。自分もそこから調べ始めた。

先に自分の判断をざっくり出しておきます：

• とにかく試したい：KAGOYAの2GBプラン（月770円）でスタート。14日無料あり
• 個人で普通に使いたい：KAGOYAかXServerの4GBプランが現実的な本命
• GPU搭載VPSを検討してるなら：Llama.cpp用途なら、やめとけ。月1万円以上出す理由がない（詳しくは後述）

「速さより安さ」派の自分がたどり着いた結論です。参考にしてください。

GPU推しの記事には注意してほしい

本音を言えば、「GPUなしでもAIが動く時代！」と煽っておいて、その2段落後にGPU搭載プランのリンクを貼ってくる記事がめちゃくちゃ多い。

それ、おかしいですよね。

Llama.cpp目的でGPU VPSを勧めてくる記事は、アフィリエイト報酬が高いプランを紹介したいだけのケースがほとんどだと思っています。はっきり書いておきます。

GPU搭載VPSは月1万円〜が相場。CPU VPSは月770円〜。その差を「推論速度」だけで正当化できるかどうかを、自分は常に考えます。チャット用途なら、答えはほぼNoです。

Llama.cppとは

Llama.cppは、MetaのLLM「Llama」シリーズをC++で実装したオープンソースプロジェクトです。

• GPUなしでLLMが動く（CPU推論に最適化）
• 量子化（モデルを圧縮して軽量化）に対応
• メモリ消費が少ない（4GBのVPSでも動作可能）
• Linux/Mac/Windowsで動作

自分がこれに注目した理由はシンプルで、「GPUなしで動くなら月額が桁違いに安くなる」から。それだけです。

コスト比較：GPUとCPUの本当の差

先に数字を見てほしい。

月1万円 ÷ 30日 = 1日あたり約333円。 月770円 ÷ 30日 = 1日あたり約26円。

この差を「推論速度が速い」で正当化するには、よほど頻繁に使うか、大量処理が必要な用途でないと割が合わない。

チャット形式でぽちぽち質問するだけなら、5トークン/秒でも普通に会話できます。GPT-4のタイピング速度と大差ない体感です。「70Bモデルを動かしたい」「100人が同時利用するサービスを作りたい」みたいな用途以外は、CPU VPSで十分です。

CPUのみVPSでの実測パフォーマンス

テスト環境

実測結果

本音を言えば、「めちゃくちゃ速い」とは言えない。でも「使えないほど遅い」とも全然言えない。

チャットとして自然なテンポで会話できる感覚です。長文を一気に出力させたいとか、リアルタイムで大量処理したいとかじゃなければ、これで十分だと思っています。

おすすめVPSプランと正直な評価

第1位：KAGOYA CLOUD VPS 4GBプラン（月1,540円）← 本命

自分的にはここが現実的な選択肢の本命。4GBあればQ4_K_Mで7Bモデルが普通に動く。

月1,540円 = 1日あたり約51円。缶コーヒー1本以下。

14日間の無料お試しがあるのもポイントで、これが地味にありがたい。平日は仕事でVPSを触れなくても、週末が2回入るので「自分の用途で本当に使えるか」を確認するには十分です。2週間もあれば、自分に合うかどうかはだいたいわかる。

KAGOYA CLOUD VPS 公式サイトを見る →

第2位：XServer VPS 4GBプラン（月1,890円）← 速さを求めるなら

AMD EPYC搭載なのでCPU推論速度は他社より速い。スペックは上だけど月額も少し上がる。

月1,890円 = 1日あたり約63円。KAGOYAより月350円高い。年間だと4,200円差。

「とにかくコストを削りたい」ならKAGOYA、「少し速いほうがいい・多少の差額は気にしない」ならXServerという分け方でいいと思います。

XServer VPS 公式サイトを見る →

第3位：KAGOYA CLOUD VPS 2GBプラン（月770円）← まず試すならここ

「動くか試したいだけ」ならここから。2GBでQ2_K量子化なら動作します。

月770円 = 1日あたり約26円。

ただしぶっちゃけ、これをメインで使い続けるのはしんどい。速度も品質も「それなり」。「お試し用」と割り切れるならあり、メイン用途なら最初から4GBにしたほうが後悔しない。

KAGOYAの14日無料お試しがここでも使えるので、「まず動くことを確かめたい」という人にはちょうどいい入口です。

月770円から試す →

導入手順

実際にやった手順をそのまま書きます。難しくはないけど、ビルドに少し時間がかかるのだけ覚悟しておいてください。

ステップ1：VPSに接続

ssh root@あなたのIPアドレス

ステップ2：ビルドツールをインストール

apt update && apt install -y build-essential cmake git

ステップ3：Llama.cppをビルド

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build --config Release -j$(nproc)

ビルドに数分かかります。VPSのスペックによっては5〜10分。画面が止まって見えても焦らず待つ。

ステップ4：量子化モデルをダウンロード

# Hugging Faceから量子化済みモデルをダウンロード
apt install -y wget
wget https://huggingface.co/TheBloke/Llama-3-8B-GGUF/resolve/main/llama-3-8b.Q4_K_M.gguf

※ URLは例です。最新のモデルはHugging Faceで検索してください。

ステップ5：AIを起動

# 対話モード
./build/bin/llama-cli -m llama-3-8b.Q4_K_M.gguf -c 2048 --interactive

# APIサーバーモード（Open WebUI等と連携可能）
./build/bin/llama-server -m llama-3-8b.Q4_K_M.gguf -c 2048 --host 0.0.0.0 --port 8080

慣れてきたらAPIサーバーモードにしておくのがラク。ブラウザのUIから使えるようになって、操作感がだいぶ変わります。

量子化レベルの選び方

実体験から言うと、Q4_K_Mを選んでおけばまず間違いない。他を選ぶ理由は「メモリが足りなくて仕方なく下げる」か「品質にこだわって上げる」かのどちらかです。

2GBプランでQ2_Kを動かした感想は「動く、でも品質はそれなり」。試すには十分だけど、これで満足できたら逆にすごいと思う。

Ollamaとの比較：正直、迷ってるなら先にOllamaから入ってほしい

「どっちを使えばいいか迷ってる」なら、まずOllamaから入ることを強くすすめます。

Llama.cppはビルドが必要で、ちょっとしたエラーでハマることがある。Ollamaは本当に1行で入る。「ローカルLLMを動かしたい」という目的のためにビルドエラーと格闘するのは本末転倒なので、まずOllamaで動かす体験をして、「もっとパフォーマンスを追いたい」と思ったときにLlama.cppに移行すればいい。

「最終的にパフォーマンスを突き詰めたい」「メモリをギリギリまで節約したい」という人はLlama.cppが正解です。

よくある質問（FAQ）

まとめ：あなたの使い方で選んでください

使ってみた感想としては、Llama.cppのためだけにGPU VPSを契約する理由はほとんどないです。CPU VPSで十分動く用途に対して、10倍以上の月額を払う理由が見当たらない。GPU搭載VPSを推してくる記事には、それなりの理由があると思ったほうがいい。

まずKAGOYAの無料お試しで始めてみてください。週末が2回ある。平日は仕事で触れなくても、それで十分「自分に合うかどうか」は確認できます。合わなければプランを変えればいい。1ヶ月だけ試して、違うと思ったら解約すればいい。

最安のKAGOYA CLOUD VPSで試す（月770円〜） →

高速CPU搭載のXServer VPSで始める（月990円〜） →

あわせて読みたい

• AIツール（Claude Code / Codex）向けVPS比較ランキング初心…
• 失敗しないGPUサーバー選び：VRAM 24GB以上を格安で確保できるVPSラン…
• GPU搭載VPSを「必要な時だけ」時間単位で借りて画像生成AIをお試しする方法
• あなたに合うVPSを30秒で診断する