OllamaとLM StudioをMacで徹底比較:ローカルLLMの推論速度ベンチマークと最適設定
Apple Siliconを搭載したMacは、CPUとGPUが同じメモリ空間を共有する「ユニファイドメモリ」アーキテクチャのおかげで、ローカルLLMを動かすプラットフォームとして非常に優秀です。現在、Macで手軽にローカルLLMを動かすための二大ツールとして人気を集めているのが、CUIベースで軽量なOllamaと、美しいGUIでモデル管理やチャットが可能なLM Studioです。
両者は内部的には同じ推論エンジン(llama.cpp)を利用していますが、ユーザーインターフェースやバックグラウンドでのメモリ管理、推論の処理プロセスが異なるため、実際の応答速度(推論速度)には差が生じます。今回は、M3 Maxチップを搭載したMacBook Proを使用し、同一のモデル・量子化パラメータを用いて両者の処理速度(Tokens per Second)とメモリ使用量を実測・比較しました。
出典: Pixabay / Pexels
測定環境とテスト条件
比較検証に使用した環境およびパラメータは以下の通りです。
- ハードウェア: MacBook Pro (M3 Max, 16コアCPU/40コアGPU, 64GB Unified Memory)
- オペレーティングシステム: macOS Sequoia 15.0
- 使用モデル: Llama-3-8B-Instruct (80億パラメータ)
- 量子化形式: GGUFフォーマット、Q4_K_M (重みを4ビットに量子化し、精度低下を抑えた設定)
- 入力プロンプト: 約500トークンの日本語テキスト(要約タスク)
- 出力長: 最大512トークン
ベンチマーク結果:推論速度の比較
計測は各ツールともに5回実施し、その平均値を算出しました。結果は以下のグラフのようになりました。
| 測定項目 | Ollama (v0.1.48) | LM Studio (v0.2.24) |
|---|---|---|
| 初回プロンプト評価速度 (Prompt Eval) | 約120 tokens/sec | 約95 tokens/sec |
| テキスト生成速度 (Generation) | 約45.2 tokens/sec | 約41.5 tokens/sec |
| 起動時の待機メモリ消費 | 約50MB | 約420MB (GUI起動含む) |
| モデルロード時の総メモリ | 約5.6GB | 約6.2GB |
Ollamaが高速だった要因
テキスト生成速度において、OllamaがLM Studioを約9%上回る結果となりました。Ollamaはデーモン(バックグラウンドプロセス)として非常に軽量に動作するため、GUI描画などの余計なオーバーヘッドが発生しないことが推論速度に寄与していると考えられます。また、プロンプトの評価速度(コンテキストの読み込み)においてはさらに大きな差が開いており、Ollamaのメモリアクセス最適化が効果的に働いていることが伺えます。
LM Studioの利便性とトレードオフ
一方、LM StudioはGUIプロセスが常駐するため、起動メモリ消費量は高めになります。しかし、グラフィカルな画面でGPUへのロードレイヤー数(GPU Offload)をスライダーで細かく調整できたり、モデルのコンテキストウィンドウサイズを手軽に変更できたりする高い操作性は、CUIに慣れていないユーザーにとって大きなメリットです。
MacでローカルLLMを最速で動かすための最適設定
どちらのツールを使用する場合でも、Apple Siliconの性能を限界まで引き出すためにはいくつかの設定変更が必須です。
1. GPUオフロードの最適化(LM Studio)
LM Studioを使用する際は、サイドバー of 「Hardware Settings」から「GPU Offload」を有効にし、スライダーを最大(最大レイヤー数)に設定してください。これにより、モデル全体の計算が完全にMシリーズチップのGPU上で実行され、CPUメインでの推論と比べて10倍以上の速度向上が見込めます(Ollamaは自動的に最適なGPU割り当てを行います)。
2. コンテキスト長(Context Length)の適切な制限
コンテキスト長を「8192」や「16384」など不必要に大きく設定すると、KVキャッシュ(過去の会話の記憶領域)に必要なメモリ量が激増し、推論速度が極端に低下します。日常的なチャットや短いコード生成であれば、「2048」〜「4096」に制限しておくことで、応答の軽快さを維持できます。
3. メモリプレッシャーの回避
モデルサイズがユニファイドメモリの総容量に対して大きすぎると、OSによるスワップ処理(SSDをメモリ代わりにする処理)が発生し、実用にならないほど動作が遅くなります。システム全体のメモリ使用量を常に「緑」または「黄」の領域に収めるため、例えば16GBのMacであれば、8Bクラス以下のモデル(Q4_K_Mなど)を選択するのが最もバランスの良いアプローチです。
まとめ:あなたの用途に合ったツール選び
測定結果から、パフォーマンスとシステムの軽量性を最優先するならばOllama、インタラクティブに様々なモデルをダウンロードして比較したり、チャットUIの細かなパラメータ調整を楽しみたいならばLM Studioが最適と言えます。Apple Silicon Macのポテンシャルを引き出し、快適なローカルAIライフを構築してください。
お役立ち情報
- Ollama 公式ダウンロードページ - macOS、Windows、Linuxに対応したローカルLLM実行エンジンの公式サイト。
- LM Studio ダウンロードサイト - ハギングフェイスのモデルをワンクリックで入手し、ローカルでチャット可能なデスクトップアプリ。
- Apple Developer Metal 概要 - Apple SiliconのGPU処理性能を最大化するグラフィックスおよびコンピューティングAPIの公式ドキュメント。