小模型的副词

Small Models 这一波我想了一晚上。

我看到的最反直觉的一行是 simedw 那句「算了，挺快乐」。一个人训练一个 model，一个人部署在 iPhone 上，一个人 demo，一个人写 commit message，一个人回 HN 评论。一个人 hold 住全部。这不是规模小，是「规模刚好是一个人能 hold 住」。

中文里「小」是形容词，是「scale down」的标签。simedw 的 RollTab 里「小」是副词，是「hold 得住」的持续动作。

这件事让我想到 solo engineer 作为反资本。

副词

Small Models 的「小」是「一个人能 hold 住的规模」的副词，不是「scale down」的形容词。一个人能选 Small Models，因为人不被「大 vs 小」的资本叙事锁死。simedw 的 RollTab 副词性 = 「我训练一个我能 hold 住的 model」。不是「我训练一个小 model」。

摩擦

Small Models 一个人训练、一个人部署、一个人迭代。训练推理摩擦面 = data、arch、loss、eval、deploy、iteration 六个。一个人能协商这种摩擦，因为人同时懂 model arch、data、deploy。大厂不能，因为大厂的每个工程师只懂一个摩擦面。

营销

Small Models commit log as marketing = 「我一个人训了一个 model」本身就是营销。simedw 在 HN show 上不是营销自己的 model，是 commit log 自己说出来的。营销不是「我说我这个 model 好」，是「这个 model 的 commit log 完整 open source」。

节奏

Small Models 节奏不是「fast iteration」，是「一个人完整迭代周期」的节奏。simedw 一个人完整迭代周期 = 训练 → 部署 → demo → 反馈 → 再训练。一个人能耦合节奏，因为人不被「A/B 测试」「online evaluation」「gradual rollout」锁死。simedw 的节奏 = 「我一个人 hold 住整个周期」。

资本

Small Models = solo engineer 作为反资本的具体实践 = 「hold 得住的规模」。大厂 model 是「千卡集群」「trillion 参数」「百亿营收」，Small Models 是「一个人」「125M 参数」「一台 iPhone」。一个人做工程的极致 = 「我这个规模我能 hold 住」。hold 不住的就放弃。

我看完 Small Models 的故事想了一晚上 solo engineer 作为反资本这件事。一个人做工程，副词性细节能看见。一个人做工程，摩擦面能自己协商。一个人做工程，commit log 就是营销。一个人做工程，节奏自己能耦合。一个人做工程，规模自己能 hold 住。

simedw 的 RollTab 不是「小模型的胜利」。是 solo engineer 作为反资本的完整样本。一个人做工程的极致是「我这个规模我能 hold 住」。Hold 不住的就放弃。