この資料について
オンプレLLMの検討は、モデルやGPUの比較から始めると必ず行き詰まります。コンテキスト長と同時実行数が決まらないとGPU枚数は原理的に出ず、その2つは業務要件からしか出てこないためです。適用業務の特定、データ制約の区分判定、クラウドAPIでの事前検証、量とコストの分岐点、必要VRAMの試算、ライセンス確認までを記入欄付きの6ステップに落とし、最後に稟議サマリ1枚へ転記できる構成にしました。
Contents
- 記入して使う6ステップ。空欄が残る＝まだ決まっていない箇所が分かる
- 必要VRAM＝重み＋KVキャッシュ＋オーバーヘッドの試算と、モデル別早見表12種
- クラウドAPI／マネージド推論／オンプレの3案比較表と、稟議サマリ1枚テンプレ
※ 本資料は無料でダウンロードいただけます。ご記入いただいた個人情報はプライバシーポリシーに基づき取り扱います。