猫の手道具箱ロゴ

猫の手道具箱

このサイトは社内情シスやPGに役立ちそうなツールを公開しています。

ローカルLLMモデル選定・スペック要件計算機

モデルのパラメータ数・量子化方式・コンテキスト長・同時実行数から、必要なVRAM容量を見積もり、 手持ちのGPUで動作するかを判定します。

GB
推奨VRAM
最小VRAM(ギリギリ動作)
推奨VRAM(快適動作)
CPU推論時のシステムRAM目安
量子化 推奨VRAM 判定

シェアする:

概要

ローカル環境でLLM(大規模言語モデル)を動かす際に必要なVRAM・メモリ容量を、パラメータ数・量子化方式・ コンテキスト長・同時実行数から見積もり、手持ちのGPUで動作するかを判定するツールです。

※計算処理はJavaScriptのみで行っています。サーバーに送信せず、ブラウザ内で完結します。表示される数値はコミュニティでよく使われる経験則に基づく概算であり、実際の消費量はモデル構造・推論エンジン・実装により変動します。

実務での活用例

ローカルLLMの導入・検証が一般化する中、手元の環境でどのモデル・量子化レベルが動かせるかを事前に把握したい場面が増えています。

💡 検証機材の選定

状況: ローカルLLM検証用のGPUを購入する前に、必要なVRAM容量の目安を知りたい

活用方法: 候補モデルのパラメータ数と想定量子化レベルを入力し、必要VRAMを確認

期待効果: 予算に合ったGPU選定の判断材料になる

💡 既存GPUでの動作可否確認

状況: 手持ちのGPUで特定のモデルが動くか、量子化なしで試す前に見積もりたい

活用方法: 手持ちGPUのVRAMを入力し、量子化レベル別の比較表で動作可否を確認

期待効果: ダウンロードやセットアップの手間をかける前に判断できる

💡 同時利用人数を考慮した構成検討

状況: 社内で複数人が同時にローカルLLMを利用する場合の必要スペックを見積もりたい

活用方法: 同時実行数を増やして必要VRAMの変化を確認

期待効果: 共有サーバー構築時のハードウェア要件を事前に把握できる

詳しい使い方

主な機能

  • モデルプリセット - Llama・Mistral・Qwen・Gemma等の主要モデルをワンクリックで選択
  • リアルタイム計算 - スライダーやプルダウンを操作するたびに即座に再計算
  • GPUプリセット - RTX / A100 / H100 / Mac統合メモリなど主要構成を選択可能
  • 動作可否判定 - 🟢快適/🟡ギリギリ/🔴不足の3段階で視覚的に表示
  • 内訳の可視化 - モデル重み・オーバーヘッド・KVキャッシュの内訳をドーナツチャートで表示
  • 量子化レベル比較表 - FP16〜INT2まで5段階の必要VRAMを一覧比較

使い方の手順

  1. モデルプリセットを選ぶか、パラメータ数を直接指定する
  2. 量子化方式・コンテキスト長・同時実行数を設定する
  3. 手持ちのGPUをプリセットから選ぶか、VRAM容量を直接入力する
  4. 判定バッジと量子化レベル比較表で動作可否を確認する

💡 計算式について(概算)

  • モデル重み(GB) = パラメータ数(B) × 量子化あたりバイト数(FP16:2 / INT8:1 / INT4:0.5 / INT3:0.375 / INT2:0.25)
  • ランタイムオーバーヘッド ≈ モデル重みの20%(活性化・バッファ用)
  • KVキャッシュ ≈ コンテキスト長とパラメータ数に比例して増加し、同時実行数分だけ加算
  • これらはコミュニティでよく使われる経験則による概算です。実測値は推論エンジン(llama.cpp、vLLM等)や実装により変動します

技術仕様とセキュリティ

✓
完全なクライアントサイド処理

すべての計算がブラウザ内で行われ、入力内容はサーバーに送信されません。

✓
概算ツールである点に注意

本ツールはコミュニティでよく使われる経験則に基づく簡易見積もりです。実際の必要VRAMは、モデルのアーキテクチャ(レイヤー数・隠れ層サイズ等)や推論エンジンの実装により変動します。導入前には実機での検証を推奨します。

✓
対応ブラウザ

Chrome、Firefox、Safari、Edgeなど主要なモダンブラウザに対応しています。

✓
無料利用

登録不要で完全無料でご利用いただけます。