本地开发环境（显卡与驱动）

一句话理解

在自己电脑跑大模型的“开工三件套”——显卡显存、驱动与推理工具，第一步选对少走半个月弯路。

定义

本地开发环境指在自己机器上跑开源模型（878）的软硬件组合：显卡（显存决定能跑多大模型）、驱动与运行时库、推理工具（Ollama 957、vLLM 类 1082）与模型格式（量化版 877）。显存是第一硬约束。

你会在哪遇到它

“本地跑模型怎么配电脑”的选型帖；开源项目的环境要求章节；显卡市场的 AI 采购潮。

背后的原理

显存账要会算：7B 模型 4-bit 量化约需 4 到 6GB，14B 约需 8 到 12GB，70B 起步就要多卡或云端。显存之外的变量：带宽（决定吐字速度）、驱动版本兼容（环境问题一半出在这）。没有好显卡的替代路径：云端按量租卡、CPU 推理（慢但能跑）。个人玩票选 Ollama 最省心，做对外服务再上推理引擎。

和相近概念的区别

1 与 Ollama（957）：它是环境里的工具之一，环境还包括显卡、驱动与模型格式。 2 与端侧模型（881）：端侧面向手机与边缘设备，本地开发面向 PC 与工作站。 3 与私有化部署（1098）：个人开发环境是企业私有化的缩小版，问题同构。

常见误区

1 显卡越贵越合适——按目标模型尺寸选显存档位，游戏卡与计算卡生态差异要了解。 2 环境一次配好永不动——驱动与框架版本强耦合，升级前先快照环境。 3 本地一定比云端省——电费与时间成本算进去，小用量反而是接口更便宜。