借着AlphaGo核心作者Julian Schrittwieser跳槽的热度,回顾下AlphaGeometry这篇研究,可能预示着一个往后几年普通人在大模型领域能参与的巨大机会。
通过合成数据从零训练的0.15b LLM,结合慢思考系统,在奥数几何领域达到人类金牌水平。
这意味着什么?0.15b模型,在一台家用电脑就可以训练,在一台手机上就能部署。奥数金牌水平的智力,可以胜任多少工作?
当然,也有难点,比如生成质量的评估、大规模高质量数据合成、慢思考系统设计。AlphaGeometry所面对的数学几何问题可以通过符号推理快速验证和生成数据,算是比较容易做的领域。
因此全领域的ASI难做,但专有领域的专家模型系统还是相对容易做的,甚至普通人都能参与。很多专门领域的工作也是有现成的评判标准的,甚至有些领域还有现成的大量数据可以作为种子进行大量数据合成。
所以普通人想做专有领域的专家模型系统需要什么?
不需要训练超大模型的算力和工程能力,甚至不需要很懂算法,能用明白现成的基础设施就行,反而是对行业工作的深刻理解以及获取行业相关数据资源可能更加重要。