我以前装机有个执念：内存越大越好。32G 起步，觉得这配置顶天了，干啥都够。至于显卡？随便来一张能亮机的就行，反正我也不打游戏、不做美工，要那玩意儿干啥。直到我真正在本地跑起一个大模型，才被现实狠狠上了一课——同样一句话，别人那边「唰」地一下整段蹦出来，我这边一个字一个字往外吐，急得想砸键盘。一查配置才明白：问题根本不在内存，而在我从来没正眼瞧过的显存。大模型干活，本质上是海量的乘加运算。模型那几十亿个参数（权重），得先「住」在某个地方，再被不断读写计算。显存（显卡上的内存）：模型住这儿，由 GPU 几千个核心并行去算。一个字出来只要零点几秒，所以你能看到那种「飞快喷字」的爽感。内存（主板上的内存）：没独显可用时，模型只能塞这儿，由 CPU 一个核心一个核心轮流算。能跑，但慢，而且特别吃内存容量——32G 看着大，模型一加载就占了小一半。一句话：显存决定了「快不快」，内存只决定了「装不装得下」。以前我只关心装不装得下，自然就忽略了那个真正决定体验的东西。我这台机器，CPU 是 13 代 i5、内存 32G，纸面数据挺漂亮。但显卡呢？一张好几年前的入门老卡，显存只有 2G，连 CUDA 都跑不顺。结果就是：本地部署大模型，全部重担压在 CPU 和内存上。实测下来，7B 的小模型还能凑合聊，14B 就开始明显拖沓，想上 32B？能加载，但生成速度慢到让人怀疑人生。这体验告诉我一个朴素的道理：没有显存托底，内存再大也只是个「能装但不能跑」的仓库。① 预算先给显卡，看显存别看型号花名。本地跑 LLM，8G 显存是起步线，16G 舒服，24G 基本能横着走。这比把内存堆到 64G 有用得多。② 没独显也能跑，但别指望快。纯 CPU + 大内存是兜底方案，7B 级小模型当玩具没问题，真干活建议还是上卡。③ 学会用「量化」省显存。模型有 Q4/Q8 等量化版本，体积能砍掉一大半，显存不够时先用 Q4 顶着，代价是稍微掉点精度。④ 选模型先看显存账单。7B 约吃 4–6G、14B 约 8–12G、32B 得 20G 上下。先量量自己显卡的肚子，再点「下载」。回头看，我那几年「重内存、轻显卡」的装机思路，放在普通办公、上网、甚至写代码都没毛病。但一到本地 AI 这条赛道，规则就变了——这里的话语权，牢牢攥在显存手里。所以如果你也正打算入坑本地大模型，听我一句：别像我一样走了弯路。装机前先想清楚要跑多大的模型，然后把预算诚实地交给那张带显存的卡。内存是地基，显存才是发动机。📌 结尾｜一个被显存教做人的本地部署踩坑记录。你家机器是什么配置？跑起来卡不卡？评论区聊聊，咱们一起把坑填平。
