正文二十二篇走完了。但有个问题一直没正面回答:第 01 篇说小硅靠"猜下一个词"就能像个博士——可凭啥模型越大,猜得越准?这不科学啊。这一篇,我们来聊聊"大力为什么真能出奇迹"。
🍳 先打个比方:厨师、食材、厨房
想象你开了家餐厅,想把菜做得更好吃。你有三样东西可以升级——
- 厨师的技术(对应模型的参数量):厨师手艺越精,同样的食材也能做出花;
- 食材的丰富度(对应训练数据量):只有盐和白菜,再好的厨师也整不出满汉全席;
- 厨房设备(对应算力):用柴火灶炒菜和用商用灶台,效率天差地别。
大约 5 分钟