Llama.cppでCPU格安VPSでローカルLLMを動かす【コスパ検証】
「GPUがないとAIは動かせない」は過去の話
AI＝高額なGPUが必要、というイメージはありませんか？
実はLlama.cppという技術のおかげで、GPUなしのCPUだけでAIモデルを動かせる時代になっています。しかも月770円の格安VPSで。
この記事では、CPUのみのVPSでローカルLLMを動かして「実際に使えるのか？」を徹底検証します。
Llama.cppとは
Llama.cppは、Meta社のLLM「Llama」シリーズをC++で実装したオープンソースプロジェクトです。最大の特徴は：
- GPUなしでLLMが動く（CPU推論に最適化）
- 量子化（モデルサイズを圧縮）に対応
- メモリ消費が少ない（4GBのVPSでも動作可能）
- Linux/Mac/Windowsで動作
コスト比較：GPU vs CPU
| 項目 | GPU搭載クラウド | CPU格安VPS |
|---|---|---|
| 月額 | 1万円〜10万円 | 770円〜990円 |
| 推論速度 | 高速（10〜50トークン/秒） | 中速（3〜15トークン/秒） |
| 対応モデルサイズ | 70B以上可 | 7B〜13B推奨 |
| 初期費用 | なし | なし |
日常的なチャット用途なら、CPU推論の速度で十分実用的です。
CPUのみVPSでの実測パフォーマンス
テスト環境
| 項目 | スペック |
|---|---|
| VPS | 2コア / 4GB メモリ |
| OS | Ubuntu 22.04 |
| モデル | Llama 3 8B（Q4_K_M量子化） |
| ツール | llama.cpp（最新版） |
実測結果
| 用途 | 入力トークン | 応答速度 | 体感 |
|---|---|---|---|
| 短い質問 | 50トークン | 約5トークン/秒 | やや待つが許容範囲 |
| 文章要約 | 200トークン | 約4トークン/秒 | 10秒程度で回答開始 |
| コード生成 | 100トークン | 約5トークン/秒 | 実用的 |
| 長文作成 | 500トークン | 約3トークン/秒 | 待ち時間あるが使える |
結論：チャット形式の質問応答なら、月770円のVPSで十分に使える。
おすすめVPSプラン
第1位：KAGOYA CLOUD VPS 4GBプラン（月1,540円）
CPUコスパ最強。4GBメモリで7Bモデルが快適に動作。
第2位：XServer VPS 4GBプラン（月1,890円）
AMD EPYC搭載で、CPU推論速度が他社より高速。
第3位：KAGOYA CLOUD VPS 2GBプラン（月770円）← 最安チャレンジ
2GBでも量子化モデル（Q4_0）なら動作可能。お試しに最適。
導入手順
ステップ1：VPSに接続
ssh root@あなたのIPアドレス
ステップ2：ビルドツールをインストール
apt update && apt install -y build-essential cmake git
ステップ3：Llama.cppをビルド
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build --config Release -j$(nproc)
ステップ4：量子化モデルをダウンロード
# Hugging Faceから量子化済みモデルをダウンロード
apt install -y wget
wget https://huggingface.co/TheBloke/Llama-3-8B-GGUF/resolve/main/llama-3-8b.Q4_K_M.gguf
※ URLは例です。最新のモデルはHugging Faceで検索してください。
ステップ5：AIを起動
# 対話モード
./build/bin/llama-cli -m llama-3-8b.Q4_K_M.gguf -c 2048 --interactive
# APIサーバーモード（Open WebUI等と連携可能）
./build/bin/llama-server -m llama-3-8b.Q4_K_M.gguf -c 2048 --host 0.0.0.0 --port 8080
量子化レベルの選び方
| 量子化 | サイズ | 品質 | 必要メモリ | おすすめ |
|---|---|---|---|---|
| Q8_0 | 約8GB | 最高 | 10GB以上 | 8GBプラン |
| Q5_K_M | 約5.5GB | 高い | 8GB以上 | 8GBプラン |
| Q4_K_M | 約4.5GB | 良い | 6GB以上 | 4GBプラン ← おすすめ |
| Q4_0 | 約4GB | まあまあ | 5GB以上 | 4GBプラン |
| Q2_K | 約3GB | 低い | 4GB以上 | 2GBプラン（お試し） |
コスパ重視なら Q4_K_M がベストバランスです。
Ollamaとの比較
| 項目 | Llama.cpp | Ollama |
|---|---|---|
| 導入難易度 | やや高い（ビルド必要） | 簡単（1行インストール） |
| メモリ効率 | 高い | 普通 |
| カスタマイズ | 細かく調整可能 | シンプル |
| 推論速度 | 最速 | やや遅い |
| おすすめ層 | 技術者・最適化したい人 | 初心者・手軽に使いたい人 |
初心者はOllama、パフォーマンスを追求するならLlama.cppがおすすめです。
よくある質問（FAQ）
Q2_K量子化のモデルなら動作しますが、応答速度はかなり遅くなります。実用的に使うなら4GB以上を推奨します。2GBプランはあくまで「動くか試す」用途です。
Llama 3は英語メインですが日本語にも対応しています。日本語特化モデル（ELYZA等）のGGUF版を使えば、さらに日本語品質が向上します。
llama-serverモードで起動すれば、複数のクライアントから同時アクセス可能です。ただし同時リクエスト数はCPUコア数に依存します。4コアなら2〜3人程度の同時利用が実用的です。
まとめ：GPUなしでもAIは動く
- Llama.cppなら月770円のVPSでローカルLLMが動く
- CPU推論でも日常的なチャット用途なら十分実用的
- Q4_K_M量子化がコスパ最強のバランス
- まずは試して、物足りなければプランをアップグレード