LLM 权重存储的不是记忆,而是对世界知识的理解,是以压缩后的方式储存的。所以它有各种各样的神奇能力,比如“zero-shot”。
激活它的方式就是 prompt,一个好的 prompt 可以完整地激活模型本身潜在的能力,是动态“组装”出一个临时算法来解决问题。
LLM 权重存储的不是记忆,而是对世界知识的理解,是以压缩后的方式储存的。所以它有各种各样的神奇能力,比如“zero-shot”。
激活它的方式就是 prompt,一个好的 prompt 可以完整地激活模型本身潜在的能力,是动态“组装”出一个临时算法来解决问题。
看完了 OpenAI DevDay 2025,感慨现在是个人工具类开发者的黄金时代!
All you need is an idea.
09 年的时候,是我第一次读李笑来的《把时间当作朋友》。这本书我读了好几次,也写了很多笔记。当时给我的震撼是,很多我平时模模糊糊的思考,这本书竟然都有写。现在管这个领域叫 mind hacker。 晚上偶然翻到 23 年七月的时候,发现这本书出了第四版,读了李老师写的序。 跟我一样的地方生活、一样的地方上学、一样的地方工作。 甚至他写第一版时的 37 岁,也是我现在的年纪。 李老师的作品不止这一本影响了我,还有他的财富观、英语口语方法等等。
随着编写的 prompt 越来越复杂,而且还需要引用大量的文字作为 prompt 内容本身,今年七月的时候就想到可以写个 Chrome 插件专门用来做这件事。
得益于 vibe coding,我这种对 Chrome 插件开发、网页技术栈一窍不通的人也可以写一个满足自己需求的工具,确实很神奇。 这也是我的第一个完整的面向终端用户的小工具,既然能够解决我的需求,我相信也肯定能解决其他有类似需求的人的需求。
我还给它做了个产品介绍页,地址为 immersive-notepad.caveman.work。
以下是设计理念的大纲:
25 年国庆长假没有出行,在深圳待着。由于国庆长假前一天我睡眠严重不足,导致我直接睡了 15 个小时,起来之后整个腰部非常疼。本以为是腰椎间盘突出复发了,但仔细观察又不像,因为没有腿麻的情况,更像是整个腰部肌肉过度疲劳导致的? 所以我有了将近九天在家休息的机会,感觉像是有了暑假一样。保持正常的作息、正常的饮食、正常的学习与阅读,发现并没有感到无聊,甚至还挺好的。 如果退休了、财务自由了,是不是就是这种状态?
有了基本的、可用的模型之后,可以利用此模型生成高质量数据,然后再反哺给模型,以提高模型的能力。 获得高质量数据的方法多种多样,RL 只是其中一种。
这个模式跟编译器、OS 类似;可以用 C 编译器开发 C 编译器,用 Linux 开发 Linux。
今日收获
读「张忠谋自传」之感:
非常棒的自传,上册讲的是求学阶段,下册讲的台积电时期的经历。上册可能更符合张的本性,而下册则更多像是「宣传」自己的经营理念与成就。
我更喜欢上册。
每项新技术的价值不仅在于它本身能做什么,更在于另一个拥有完全不同技能和视角的人最终能够将其转化成什么。
因此,面对同一个问题,不同特质、不同背景的人以各自的方式去操作,往往会产生截然不同的结果。
这就像异形的抱脸虫一样:当它与不同的生物结合时,会呈现出不同的异形形态。
演化并不是通过奖励你做对了什么来推动生存,而是通过惩罚你做错了什么来证明什么是对的。 演化的驱动因素是生存环境的变化,当你没法适应生存环境的变化,你会受到惩罚;惩罚足够重,可能会导致你离开竞技场。
所以,
上面是如何生存下来的策略,不适用于如何活得好。