即刻App年轻人的同好社区
下载
“我们人类天然倾向于把‘形式正确’等同于‘内容正确’。看到一份格式规范、措辞专业、引用完整的法律文书，我们的第一反应是‘这是可靠的’。
但 AI 恰恰是‘形式正确但内容可能不正确’的典型来源。
因为它学的就是‘形式’——什么样的文字序列在统计上最常出现。它从来没有学过‘内容’——这些文字序列是否对应着真实世界中的事实。”
感想：AI 是不是某种意义上，天克人类……
但 AI 恰恰是‘形式正确但内容可能不正确’的典型来源。
因为它学的就是‘形式’——什么样的文字序列在统计上最常出现。它从来没有学过‘内容’——这些文字序列是否对应着真实世界中的事实。”
感想：AI 是不是某种意义上，天克人类……
10 10
“Transformer 的注意力机制让 AI 能够‘同时看全文’——处理每个词的时候，找出哪些词和当前位置最相关。它生成的是读起来连贯、像‘人话’的文字。但有预感关键的事实：它预测的是‘最可能的文字序列’，不是‘最正确的事实’。这两件事听起来很像，但完全不同。”
读这段，想到：人类说话也经常这样。并且人类也经常不理解“最可能≠最正确”。（这个感想也是我基于预测写出来的，基本上没过脑子）
读这段，想到：人类说话也经常这样。并且人类也经常不理解“最可能≠最正确”。（这个感想也是我基于预测写出来的，基本上没过脑子）
4 00
想起一篇在三年前读到的文章：《停止提拔程序员》。blog.steatoda.com
作者认为，优秀程序员所需的技能与优秀管理者所需的技能截然不同，甚至交集极少——虽然也有例外，但很少，更多的人最终沦为平庸且往往不快乐的管理者。
文章中提到“彼得原理”：在组织或企业的等级制度中，人会因其某种特质或特殊技能，令他被擢升到不能胜任的高阶职位，最终变成组织的障碍物（冗员）及负资产。
基于这些，他建议：不要直接或间接地强迫程序员晋升。“每当一位经验丰富的程序员转岗管理，他们的大部分现有技能就会流失，而且往往是永久性的。”
不去评判这篇文章的观点如何。我只是突然意识到，虽然名义上并非，但实质上是，AI Agent / Vibe Coding 的盛行，正在让经验丰富的程序员们，以某种意想不到的方式，被迫走上了这条“晋升”之路（且没有加薪）。
作者认为，优秀程序员所需的技能与优秀管理者所需的技能截然不同，甚至交集极少——虽然也有例外，但很少，更多的人最终沦为平庸且往往不快乐的管理者。
文章中提到“彼得原理”：在组织或企业的等级制度中，人会因其某种特质或特殊技能，令他被擢升到不能胜任的高阶职位，最终变成组织的障碍物（冗员）及负资产。
基于这些，他建议：不要直接或间接地强迫程序员晋升。“每当一位经验丰富的程序员转岗管理，他们的大部分现有技能就会流失，而且往往是永久性的。”
不去评判这篇文章的观点如何。我只是突然意识到，虽然名义上并非，但实质上是，AI Agent / Vibe Coding 的盛行，正在让经验丰富的程序员们，以某种意想不到的方式，被迫走上了这条“晋升”之路（且没有加薪）。
6 00
“训练数据太少，参数太多，模型就会导致过拟合。”——这不就是“书读得少，但想太多”？
很多“认死理”就是这么来的，基于有限的经验做归纳，且归纳得极其正确，最后“类推”出的就是一系列离谱的结果。
有两个解决方向：1.训练数据不要太少（增加经验）；2.参数不要太多（在做拟合的过程中，不要追求绝对正确，反而要有误差，但能够归纳出一种趋势）。
Dropout 算法还能给一个新的启示：在做拟合的过程中，适度关闭一些神经元（不要让所有经验都参与分析，不要追求百分百自洽），这样反复验证一些观点的时候就可以避免“背答案”，从而迫使自己更接近“原理”。
以上感悟来自于一次拟合（也可能是过拟合）。
很多“认死理”就是这么来的，基于有限的经验做归纳，且归纳得极其正确，最后“类推”出的就是一系列离谱的结果。
有两个解决方向：1.训练数据不要太少（增加经验）；2.参数不要太多（在做拟合的过程中，不要追求绝对正确，反而要有误差，但能够归纳出一种趋势）。
Dropout 算法还能给一个新的启示：在做拟合的过程中，适度关闭一些神经元（不要让所有经验都参与分析，不要追求百分百自洽），这样反复验证一些观点的时候就可以避免“背答案”，从而迫使自己更接近“原理”。
以上感悟来自于一次拟合（也可能是过拟合）。
5 00
2 01
我都想不出这样的段子：
社区某幢楼下有个小广场，广场一角是生活垃圾指定丢弃点，有一排垃圾桶。
因为该幢居民抗议垃圾桶离他们居民楼太近太臭，近日社区就撤销了这个丢弃点，原位置上放了一个立牌，并告知：禁止在此再丢垃圾。
过后，有不满此策的居民，照旧把垃圾堆放在原位。于是，过了两天，社区把垃圾桶又摆回来了。
现在，关于撤除垃圾丢弃点的立牌还在那里。距离它一米远的地方，则是新的丢弃点。两者并存。
新的丢弃点距离居民楼更近。
社区某幢楼下有个小广场，广场一角是生活垃圾指定丢弃点，有一排垃圾桶。
因为该幢居民抗议垃圾桶离他们居民楼太近太臭，近日社区就撤销了这个丢弃点，原位置上放了一个立牌，并告知：禁止在此再丢垃圾。
过后，有不满此策的居民，照旧把垃圾堆放在原位。于是，过了两天，社区把垃圾桶又摆回来了。
现在，关于撤除垃圾丢弃点的立牌还在那里。距离它一米远的地方，则是新的丢弃点。两者并存。
新的丢弃点距离居民楼更近。
7 10
就是：大家都走得很慢的时候，是不太容易焦虑的，周围人都开始跑起来后，就容易fomo，即使你本身就跑得不慢，并且即使你的目标和他人无关。就很悖论：效率越高越焦虑，越担心自己今天没充分干活，没充分创造价值。（本来周末是要休息的。现在：当天的token额度总得用光才行吧）
沼蛙奥诺维奇: vibe coding的第一天起，我就开始焦虑了。因为从这一天起，我就意识到自己在迅速贬值，这种贬值是很具体的：可用时间更多了，支出更大了。在一个比较良性的环境里，这种焦虑应该不存在，因为你（至少即将）获得了更高的效率，以及更多的可支配时间。但实际上我在变得更忙：不断地投入教育ai的成本，预期对方变得更好，让我多出来的时间迅速被吞噬了（并且持续有知识要投入，远没达到回报周期），并且我目前的团队没有报销token的表态。 好处是改善了过去因为缺乏行动力导致的半途而废。我github上一百三十个库，至少一百个库没写完，可以逐个丢给ai去续写练手。这种自我补完，或多或少抵消了一些虚无。
7 01
做选择是一个很有心智负担的事。回想起我第一次买破解版的XBox360，老板给我机子上装了一百多个游戏，我就看花眼了。随后我就草草地挨个浏览，看两眼就做判断，不感兴趣就换下一个，结果就是这台机子上我就没玩几个游戏。在PC上下载那种GBA模拟器Rom合集也是一样的，下载完就选择能力过载了，再也没玩。总是不如自己在一条晦暗幽深的小路上边走边探索，遇到什么消费什么。
13 31