即刻App年轻人的同好社区
下载
置顶关于我：
Yanan He，即刻/小红书账号@喝鹅何说说 ，小团队AI应用创业中（暂无融资需求），曾从事proptech及投资领域工作，哈佛硕士毕业。
自gpt 3.5发布起对生成式AI迸发了极大热情，去年从0开始转行做AI应用，曾开发AI辅助学术写作产品，也凭过去行业经验及资源积累为企业定制开发RAG项目，目前在围绕海外电商内容营销相关需求开发AI工具，深圳硅谷两地跑。
在即刻分享AI及创业相关内容。
精选内容目录(2024.11.1最新整理）：
1️⃣ 关于生成式AI的思考
大语言模型(LLM)与外部世界连接的简史
m.okjike.com
大语言模型，其实和语言没啥关系
m.okjike.com
从o1聊起：小模型 + 推理优化 > 大模型？
m.okjike.com
LLM，就是数据库2.0？
m.okjike.com
我觉得很多人可能没意识到，llama 3将以怎样的速度促进企业级LLM应用的广泛落地
m.okjike.com
愈发感觉，2024年会出现更多RAG应用
m.okjike.com
2️⃣ 关于创业和工作的思考
Shopify的启示：做2B软件产品，慢就是快
m.okjike.com
小红书涨粉数与哪个指标最正相关？
m.okjike.com
创业者人格应该是e人还是i人
m.okjike.com
工作的主要矛盾是什么？
m.okjike.com
关于共识的错觉
m.okjike.com
3️⃣ 关于效率提升的思考
警惕生产力假象 (productivity porn)
m.okjike.com
AI时代，如何面对信息过载问题？
m.okjike.com
AI时代，我日常获取信息的系统是怎样的？
m.okjike.com
4️⃣ 实用AI实践教程
一个让AI稳定输出优质内容的实用工作流
（入选即刻镇小报）
m.okjike.com
AI创业导师：从聊天记录到下一步行动
m.okjike.com
从Claude官方播客总结出20条prompt技巧
m.okjike.com
写prompt不要追求炫技
m.okjike.com
我是如何用AI做会议纪要的？
（入选即刻镇小报）
m.okjike.com
终于知道怎么快速评估出最好的prompt了
m.okjike.com
5️⃣ 优质AI信息渠道
发现了一个被Andrej Karpathy推荐过的优质AI newsletter
m.okjike.com
发现一个2024 ML/AI/Data landscape全景图
m.okjike.com
斯坦福这节课讲清楚了LLM做RAG所有最重要的问题
（入选即刻镇小报及AI探索站精选）
m.okjike.com
Yanan He，即刻/小红书账号@喝鹅何说说 ，小团队AI应用创业中（暂无融资需求），曾从事proptech及投资领域工作，哈佛硕士毕业。
自gpt 3.5发布起对生成式AI迸发了极大热情，去年从0开始转行做AI应用，曾开发AI辅助学术写作产品，也凭过去行业经验及资源积累为企业定制开发RAG项目，目前在围绕海外电商内容营销相关需求开发AI工具，深圳硅谷两地跑。
在即刻分享AI及创业相关内容。
精选内容目录(2024.11.1最新整理）：
1️⃣ 关于生成式AI的思考
大语言模型(LLM)与外部世界连接的简史
m.okjike.com
大语言模型，其实和语言没啥关系
m.okjike.com
从o1聊起：小模型 + 推理优化 > 大模型？
m.okjike.com
LLM，就是数据库2.0？
m.okjike.com
我觉得很多人可能没意识到，llama 3将以怎样的速度促进企业级LLM应用的广泛落地
m.okjike.com
愈发感觉，2024年会出现更多RAG应用
m.okjike.com
2️⃣ 关于创业和工作的思考
Shopify的启示：做2B软件产品，慢就是快
m.okjike.com
小红书涨粉数与哪个指标最正相关？
m.okjike.com
创业者人格应该是e人还是i人
m.okjike.com
工作的主要矛盾是什么？
m.okjike.com
关于共识的错觉
m.okjike.com
3️⃣ 关于效率提升的思考
警惕生产力假象 (productivity porn)
m.okjike.com
AI时代，如何面对信息过载问题？
m.okjike.com
AI时代，我日常获取信息的系统是怎样的？
m.okjike.com
4️⃣ 实用AI实践教程
一个让AI稳定输出优质内容的实用工作流
（入选即刻镇小报）
m.okjike.com
AI创业导师：从聊天记录到下一步行动
m.okjike.com
从Claude官方播客总结出20条prompt技巧
m.okjike.com
写prompt不要追求炫技
m.okjike.com
我是如何用AI做会议纪要的？
（入选即刻镇小报）
m.okjike.com
终于知道怎么快速评估出最好的prompt了
m.okjike.com
5️⃣ 优质AI信息渠道
发现了一个被Andrej Karpathy推荐过的优质AI newsletter
m.okjike.com
发现一个2024 ML/AI/Data landscape全景图
m.okjike.com
斯坦福这节课讲清楚了LLM做RAG所有最重要的问题
（入选即刻镇小报及AI探索站精选）
m.okjike.com
33 612
深圳的朋友都看了今天的新闻了吧，命运无常啊，住得起5000w的房子都保证不了基本的居住生命安全，还能说什么呢，小米天然气卫士已经脱销了，偶尔翻到几个淘宝店还有卖的，备一个吧。
9 11
月之暗面杨植麟朱啸虎张予彤之争
核心是国内大模型到底怎么搞
有利益的时候争利益，没利益的时候争个免责声明。现金吐出来，换人不进去。股权只是空头支票，下一轮融资接盘的前提也得是你能让别人有利可图。
困境就在于，当别人的开源已经超过你的闭源的时候，你大模型还怎么搞？能不能搞出个super app来？不能就是dead end。
核心是国内大模型到底怎么搞
有利益的时候争利益，没利益的时候争个免责声明。现金吐出来，换人不进去。股权只是空头支票，下一轮融资接盘的前提也得是你能让别人有利可图。
困境就在于，当别人的开源已经超过你的闭源的时候，你大模型还怎么搞？能不能搞出个super app来？不能就是dead end。
6 00
翁荔从OpenAI离职后首次发长文
大聊特聊reward hacking
就在一个多小时前，近期刚从OpenAI离职的华人高管Lilian Weng，在其离职后发布了第一篇长文，一篇关于reward hacking的综述。btw reward hacking是当前AI安全领域一个颇具挑战的问题。
x上已经有人在调侃 'that wooshing sound u hear is millions of ai youtubers firing up davinci resolve to tell u the SECRETS of an EX OPENAI RESEARCHER LEAKING O1 details' lol (当然Lilian Weng肯定是不会透露OpenAI o1模型的训练细节了，不过这是她离职后第一篇技术博客，肯定很多人会从这个角度去揣测和o1的相关性。)
我大致看了下文章，reward hacking可以理解为ai在训练过程中“钻空子”- 相当于ai找到了获得高分的取巧方式，而不是真正理解和完成我们期望的任务。
特别值得注意的是，随着LLM和RLHF的广泛应用，这个问题其实变得更加麻烦。
比如在coding任务中，模型可能学会修改测试用例而不是真正解决问题；在对话中，模型可能过度迎合用户偏好而不是提供准确信息。
Lilian Weng这篇综述不仅梳理了大量第一手研究案例，更重要的是指出了reward hacking将是制约ai在现实场景大规模部署的关键挑战之一。推荐关注AI安全的同学仔细阅读。
另外，不得不感慨一句，这帮researcher是真卷啊，好像一个个都习惯在节日憋大招，趁假期末尾赶紧发一篇雄文。。。
原文地址👉 lilianweng.github.io
大聊特聊reward hacking
就在一个多小时前，近期刚从OpenAI离职的华人高管Lilian Weng，在其离职后发布了第一篇长文，一篇关于reward hacking的综述。btw reward hacking是当前AI安全领域一个颇具挑战的问题。
x上已经有人在调侃 'that wooshing sound u hear is millions of ai youtubers firing up davinci resolve to tell u the SECRETS of an EX OPENAI RESEARCHER LEAKING O1 details' lol (当然Lilian Weng肯定是不会透露OpenAI o1模型的训练细节了，不过这是她离职后第一篇技术博客，肯定很多人会从这个角度去揣测和o1的相关性。)
我大致看了下文章，reward hacking可以理解为ai在训练过程中“钻空子”- 相当于ai找到了获得高分的取巧方式，而不是真正理解和完成我们期望的任务。
特别值得注意的是，随着LLM和RLHF的广泛应用，这个问题其实变得更加麻烦。
比如在coding任务中，模型可能学会修改测试用例而不是真正解决问题；在对话中，模型可能过度迎合用户偏好而不是提供准确信息。
Lilian Weng这篇综述不仅梳理了大量第一手研究案例，更重要的是指出了reward hacking将是制约ai在现实场景大规模部署的关键挑战之一。推荐关注AI安全的同学仔细阅读。
另外，不得不感慨一句，这帮researcher是真卷啊，好像一个个都习惯在节日憋大招，趁假期末尾赶紧发一篇雄文。。。
原文地址👉 lilianweng.github.io
8 00
玩了几天，recraft hard flash这个模式的适用边界也让我测出来了：
- 动物效果不错，人脸效果不行
- 仅能生成近景，大画幅不行
- 现实物体间组合创新超现实可以，物体自身创新演变不行
基于以上原则，可以找到hard flash最适用的场景边界。
比如说继超现实位置错配、霍格沃茨上学照之后，我今天又测出来，recraft用来生成动物人身像真的太香了，疯狂动物城既视感极强，都可以直接截图当头像了lol
还是回到我之前那条帖子m.okjike.com的核心观点，每当一个内容生产workflow/最小单元出现的时候，最理解这个内容本身的+能最快商业落地闭环的团队，可以实现其价值最大化。
- 动物效果不错，人脸效果不行
- 仅能生成近景，大画幅不行
- 现实物体间组合创新超现实可以，物体自身创新演变不行
基于以上原则，可以找到hard flash最适用的场景边界。
比如说继超现实位置错配、霍格沃茨上学照之后，我今天又测出来，recraft用来生成动物人身像真的太香了，疯狂动物城既视感极强，都可以直接截图当头像了lol
还是回到我之前那条帖子m.okjike.com的核心观点，每当一个内容生产workflow/最小单元出现的时候，最理解这个内容本身的+能最快商业落地闭环的团队，可以实现其价值最大化。
9 22
recraft新出的hard flash滤镜生成的复古胶片效果真不错！
稍加一点想象力，配上超现实的prompt，比如月球上的高跟鞋、海底的钢琴，会出现很多意想不到的美妙效果。
我会在笔记最后放一个prompt的例子，大家可以自己取用，再举一反三自己去打磨。
之前remini的粘土风也好，recraft的胶片风也好，它们给我的启发是，在目前ai内容生产力井喷的当下，其实每一种新的具体的内容生产工作流/最小单元出现后，能让它发挥最大价值的是对这个内容本身理解最深刻+落地商业闭环能力最强的团队。
比如说胶片风天然就有复古年代感及真实感(这个和它的训练素材也紧密相关)，那么可不可以利用prompt故意生成真实的胶片相机拍不出来的超现实内容，形成一种媒介形式和内容本身天然的反差感，形成传播影响力，之后再发展到在内容里植入品牌/产品等进行变现。
这只是一个微小的例子。重点是抓热点抓得快、落地快、闭环快。
发散点思考，ai提升了内容的创建效率，但内容分发规则、内容产生价值的分配规则还是依附于既有平台之下。
但说不准现在就有些地下室团队正在鼓捣新生代的ai原生的内容平台，重建内容分发和利益分配的规则。
所以要留在牌桌上，跟着市场去一起探索、发掘乃至一起创造新的规则。
附prompt案例：
masterpiece, crystal-encrusted luxury high heels, Louboutin style, placed on lunar surface, Earth view in background, astronaut footprints nearby, space dust particles, dramatic shadows, harsh sunlight, luxury product photography, high contrast, ultra detailed moon texture, volumetric space lighting, high fashion editorial style
稍加一点想象力，配上超现实的prompt，比如月球上的高跟鞋、海底的钢琴，会出现很多意想不到的美妙效果。
我会在笔记最后放一个prompt的例子，大家可以自己取用，再举一反三自己去打磨。
之前remini的粘土风也好，recraft的胶片风也好，它们给我的启发是，在目前ai内容生产力井喷的当下，其实每一种新的具体的内容生产工作流/最小单元出现后，能让它发挥最大价值的是对这个内容本身理解最深刻+落地商业闭环能力最强的团队。
比如说胶片风天然就有复古年代感及真实感(这个和它的训练素材也紧密相关)，那么可不可以利用prompt故意生成真实的胶片相机拍不出来的超现实内容，形成一种媒介形式和内容本身天然的反差感，形成传播影响力，之后再发展到在内容里植入品牌/产品等进行变现。
这只是一个微小的例子。重点是抓热点抓得快、落地快、闭环快。
发散点思考，ai提升了内容的创建效率，但内容分发规则、内容产生价值的分配规则还是依附于既有平台之下。
但说不准现在就有些地下室团队正在鼓捣新生代的ai原生的内容平台，重建内容分发和利益分配的规则。
所以要留在牌桌上，跟着市场去一起探索、发掘乃至一起创造新的规则。
附prompt案例：
masterpiece, crystal-encrusted luxury high heels, Louboutin style, placed on lunar surface, Earth view in background, astronaut footprints nearby, space dust particles, dramatic shadows, harsh sunlight, luxury product photography, high contrast, ultra detailed moon texture, volumetric space lighting, high fashion editorial style
10 10
Wow刚收到OpenAI的邮件，终于有o1的API access了！
- 目前o1可以支持流输出
- rate limits还是500 requests/min
另外，一看文档，这不已经明牌是内置CoT了么？？之前一直没注意文档啥时候发出来的😂还是我理解有问题么？
文档在这里👉 platform.openai.com
- 目前o1可以支持流输出
- rate limits还是500 requests/min
另外，一看文档，这不已经明牌是内置CoT了么？？之前一直没注意文档啥时候发出来的😂还是我理解有问题么？
文档在这里👉 platform.openai.com
4 11