RWKV就是“难而正确的事”

感觉最近Google出来聊天的不少啊
Sergey Brin/Demis Hassabis/Jeff Dean
​分析他们的话​要加一个system prompt：
​他们不会说真的技术方向

如果大模型新架构也有四小龙
​估计是：
​RWKV-8
​RWKV-7
​RWKV-7弱化版A
​RWKV-7弱化版B

重看战狼

如果过去3年看到的这些东西​
就是智能
​那就太尴尬了

好事的媒体​
应该去对比一下
23年初那波中国大模型
现在​还剩什么
而现在这波
和当时有何不同
​

我的观点更直接
过去三年不是AI
​只是资本局

Google贡献Transformer
​OpenAI贡献Scaling Law
​NVIDIA贡献GPU和二级市场套利

大模型的牌桌上
玩家逐步换成大厂
阿里字节腾讯小米
还有谁
​

alpha和beta
​是不同的价值观

看完大厂的AI演讲
​感觉回到了2023年初
​只不过烧钱的​从六小虎
​变成了传统巨头

混合模型是过渡方案
​而且混mamba、gdn都是次优解

可惜业界现在比的是
谁吆喝声音大