周末我参加了一个为期三天的讨论营，有二十几个 18 - 30 岁的朋友交流自己对人工智能风险的看法。做分享的主要是 OpenAI 以及类似研究机构的工作人员，他们认为算力在不久以后就可以支持“通用智能”，那时候机器可能会毁灭全人类。（概率当然很低，但因为影响够糟糕，所以概率x影响的值仍然大于气候变化等其他灾难。）

活动上，大家的演讲有些着重于现有语言模型在使用中会产生的问题，有些则回顾了历史上科技给社会带来的危害以及人类的协调应对方案（氟利昂、含铅汽油等）。如果大家想了解更多人工智能风险的细节，可以去搜索 AI existential risk、artificial general intelligence (AGI)、effective altruism longtermism。

以上是对活动内容的总结。我感触更深，以及我认为可能对更广大群体有用的，是“活动组织”及其他元层面的经验：

1）把“专业”、“圈内”知识写下来可以大幅度降低“入圈”门槛，既能帮助更多弱势群体进入圈子，又能提高圈内人的整体水平。

本次活动的内容跨学科（计算机、哲学、历史、生物），而且又不符合传统学术框架，所以每位参与者都有听不懂的地方。但活动的好处在于，分享人多半都写过博客文章，或者可以随时报给你他的想法引用了哪些博客文章。所以这个“圈子”非常友好，不存在“你必须认识谁谁”、“你必须自己观察“才会了解的”隐性“知识，很多参与者加入这个群体也是因为在网上看到了文章。

另外，在一个大家都写博客的圈子里，写博客突然从一件很奇怪的事情，变成了一件很酷的事情！人类知识需要更多给分享者的正反馈！

2）鼓励怀疑。

这次活动的每场讨论、每个观点，分享者都会让大家思考支持以及否定该观点的证据。我觉得大家鼓励怀疑既增加了分享者的可信度，又让我们整体离真相更近一些。一个“大家都不敢跟你说你错了”的文化是非常危险的。

3）建立招聘“管道”可以高效地吸引年轻人才。

大学生（以及我们绝大多数人）都不知道自己应该做什么，但又都希望找到人生意义。金融、咨询之所以能吸引这么多好大学毕业生，除了起薪给的高之外，招聘从大一就开始、招聘非常有组织也是重要因素（暑期实习、春季短实习、观摩等等）。等大学生进入了金融、咨询的轨道，再让他们出来就非常困难了。

所以，如果你也想吸引人才来加入你的事业，从校园低年级开始让学生可以用较低成本地尝试你这件事，应该是效率最高的方法。EA/Longtermism 发展也不到十年，但组织架构已经越来越清晰：Facebook/Asana 的 Moskowitz 以及 FTX 的 SBF 出钱，牛津的 Ord 和 McCaskill 提供哲学理论框架，Altman 招到的前大厂员工提供技术辅导，各大学的分支组织吸引学生参加暑期实习、提供培训，这些学生最终全职去工作。

--

除了活动组织方面的感悟，我还学到了三件事：

1）年轻人非常优秀，而且每一代一定比上一代更优秀。

分享会上发言最踊跃、我觉得阅读范围最广的，是几位 2002、2003 年出生的大学新生。他们是人类智慧累积的最好证明——很多我和同龄人大学后才学到的知识，他们高中甚至初中就了解了。当然，互联网降低信息获取门槛也帮了很大的忙。分享会上有好几位发展中国家长大的朋友。

除了知识本身，年轻人的组织能力也让我印象深刻。本次活动的日程从早到晚，但几位 00 后组织者安排周到，活动没有出现任何意外。可能对事业、对人生的思考是比年龄更好的衡量标尺吧。

2）基于 1），可能我们给世界带来最大积极影响的方式是鼓励更多人想他们以前不敢想的事情。

我以前认为影响力最大的事情是传播我们的知识。但这次活动让我意识到，一个人的知识本身也是有限的，而鼓励年轻人去思考重要的问题、鼓励他们用他们自己的知识探索世界，影响可能比一个人单纯地分享知识还要大。

3）跨学科确实有很多发展空间，目前学界和业界给跨学科讨论搭建的基础设施和激励机制都太糟糕了。

活动上我碰到了来自神经科学、计算机、物理、生物工程、法律等各个学科的朋友，他们每个人分享的内容都有趣到让我想从头开始学习他们的专业。我们分析问题的方法、掌握的事实证据都非常不同，不知道平时还有什么机会做这样的交流。

4）投身于新领域总是激动人心的。一，大家都是从零开始，没有谁领先你很多。二，你能带来的影响可能是巨大的。三，新领域增长快，不是零和游戏，你和领域内同行的关系更多是共同成长而不是相互竞争。

--

如果大家对人类灭绝风险感兴趣的话，欢迎阅读这篇文章：80000hours.org。