正文第 09 篇讲了"三条路"——说清楚、带小抄(RAG)、送回炉(微调)。当时对微调只留了一句"把能力焊进脑子"。这一篇我们拆开看:这个"焊"字背后到底在干啥?以及——有没有不动脑子、只靠"说话方式"就能进化的路?
🏗️ 全量微调:推倒重建整栋楼
先说最暴力的做法——全量微调。
小硅的"脑子"其实是几百亿个参数(你可以理解成几百亿个旋钮)。全量微调就是:把每一个旋钮都重新拧一遍,让它整体适应新任务。
比喻:你家房子客厅太小、卧室朝北,全量微调等于把整栋楼推倒重建——地基刨了,承重墙砸了,水电全部重排。效果?当然好,完全按新需求来。代价?巨大。你得花跟盖新楼差不多的钱(算力),工期拉满(一个 70B 参数的模型全量微调,动辄需要几十张顶配 GPU 跑好几天)。更要命的是:一不小心训过头,原来好好的通用能力也被覆盖了——你本来只想让它学会写法律文书,结果它把聊天、写诗的本事全忘了,医学上管这叫"灾难性遗忘"。
大约 6 分钟