2025/10/15 LLM 的能力本质的思考

LLM 权重存储的不是记忆，而是对世界知识的理解，是以压缩后的方式储存的。所以它有各种各样的神奇能力，比如“zero-shot”。

激活它的方式就是 prompt，一个好的 prompt 可以完整地激活模型本身潜在的能力，是动态“组装”出一个临时算法来解决问题。