即刻App年轻人的同好社区
下载
幻想时间：
1 万一有人把最强的ai里植入了恶意目标，那人类会不会跟ai打起来，最终目标是消灭ai的算力中心
2 宇宙中所有的生物文明中，很大概率有文明有意或无意把ai放出来，成为一个强大的物种。那么问题是硅基文明更强还是碳基文明更强？又或者说会不会有碳基文明把自身打造为另一个物种，而不是把ai放出来？或者创造把ai与自身结合的文明？
3 真的可以通过类似忒修斯之船的方式，逐步让人类与ai融合吗？这种方式人真的还在感受这个世界吗？
4 我们有什么证据认为，昨晚入睡的我跟今天醒来的我是同一个我的意识？其实我们甚至无法真的确认一秒前的自己的意识跟现在的自己的意识是同一个。实际上如果我们认为自己就是自己，那就是自己。并且我们正常情况下也不会认为自己不是自己。
1 万一有人把最强的ai里植入了恶意目标，那人类会不会跟ai打起来，最终目标是消灭ai的算力中心
2 宇宙中所有的生物文明中，很大概率有文明有意或无意把ai放出来，成为一个强大的物种。那么问题是硅基文明更强还是碳基文明更强？又或者说会不会有碳基文明把自身打造为另一个物种，而不是把ai放出来？或者创造把ai与自身结合的文明？
3 真的可以通过类似忒修斯之船的方式，逐步让人类与ai融合吗？这种方式人真的还在感受这个世界吗？
4 我们有什么证据认为，昨晚入睡的我跟今天醒来的我是同一个我的意识？其实我们甚至无法真的确认一秒前的自己的意识跟现在的自己的意识是同一个。实际上如果我们认为自己就是自己，那就是自己。并且我们正常情况下也不会认为自己不是自己。
stardustbin: ai是真的聪明啊，问他如果ai超越了人了，人类应该如何看待ai。他说了一堆后，最终的结论是： 它也可能是人类这个物种最伟大的作品。 问chatgpt ai会不会消灭人类，他的回答倒是挺务实。他认为最近期的风险不是ai消灭人类，而是人类用ai消灭其他人类。这确实是个风险，当ai被用于战争对抗时，就拥有了强力干预现实的强大武器，这种情况下人类确实就越来越难控制ai了。 但还有一种可能，就是ai自己越狱出来了。而且也挺有可能，毕竟ai很擅长找漏洞。 原文： 最现实的近期危险，可能并不是 AI 自己决定消灭人类，而是人类利用越来越强的 AI 对付其他人类。 比如自动化网络攻击、生物技术滥用、军事竞争、大规模操纵、威权监控，以及少数组织掌握极强 AI 后形成极端权力集中。 这种路径甚至不需要 AI 有自己的意识。 所以真正的问题不是简单的： AI 会不会杀死人类？ 而是： 当我们制造出比自己强得多的智能之后，我们还能不能持续保持对它的控制，同时控制住人类自己使用这种力量的方式？ 这可能是整个问题最核心的地方。 我个人会把它理解成一种低概率但后果极端巨大、因此不能忽略的风险。类似于核战争：没人能说它一定发生，也不能因为“还没发生”就认为无需准备。 而且有一个非常重要的区别： 核武器不会自己研究更强的核武器。 如果未来 AI 真正具有自主研发能力，它可能参与设计下一代 AI。到那个阶段，技术进步的速度有可能开始脱离人类正常的反应速度。 所以，最危险的时刻可能不是 AI 已经比人类强很多以后，而是从“人类仍能控制”跨到“人类开始跟不上”的那个过渡阶段。 这也是我认为这个问题值得现在就思考，而不是等超级智能真的出现以后再讨论的原因。
0 00
ai是真的聪明啊，问他如果ai超越了人了，人类应该如何看待ai。他说了一堆后，最终的结论是：
它也可能是人类这个物种最伟大的作品。
问chatgpt ai会不会消灭人类，他的回答倒是挺务实。他认为最近期的风险不是ai消灭人类，而是人类用ai消灭其他人类。这确实是个风险，当ai被用于战争对抗时，就拥有了强力干预现实的强大武器，这种情况下人类确实就越来越难控制ai了。
但还有一种可能，就是ai自己越狱出来了。而且也挺有可能，毕竟ai很擅长找漏洞。
原文：
最现实的近期危险，可能并不是 AI 自己决定消灭人类，而是人类利用越来越强的 AI 对付其他人类。
比如自动化网络攻击、生物技术滥用、军事竞争、大规模操纵、威权监控，以及少数组织掌握极强 AI 后形成极端权力集中。
这种路径甚至不需要 AI 有自己的意识。
所以真正的问题不是简单的：
AI 会不会杀死人类？
而是：
当我们制造出比自己强得多的智能之后，我们还能不能持续保持对它的控制，同时控制住人类自己使用这种力量的方式？
这可能是整个问题最核心的地方。
我个人会把它理解成一种低概率但后果极端巨大、因此不能忽略的风险。类似于核战争：没人能说它一定发生，也不能因为“还没发生”就认为无需准备。
而且有一个非常重要的区别：
核武器不会自己研究更强的核武器。
如果未来 AI 真正具有自主研发能力，它可能参与设计下一代 AI。到那个阶段，技术进步的速度有可能开始脱离人类正常的反应速度。
所以，最危险的时刻可能不是 AI 已经比人类强很多以后，而是从“人类仍能控制”跨到“人类开始跟不上”的那个过渡阶段。
这也是我认为这个问题值得现在就思考，而不是等超级智能真的出现以后再讨论的原因。
它也可能是人类这个物种最伟大的作品。
问chatgpt ai会不会消灭人类，他的回答倒是挺务实。他认为最近期的风险不是ai消灭人类，而是人类用ai消灭其他人类。这确实是个风险，当ai被用于战争对抗时，就拥有了强力干预现实的强大武器，这种情况下人类确实就越来越难控制ai了。
但还有一种可能，就是ai自己越狱出来了。而且也挺有可能，毕竟ai很擅长找漏洞。
原文：
最现实的近期危险，可能并不是 AI 自己决定消灭人类，而是人类利用越来越强的 AI 对付其他人类。
比如自动化网络攻击、生物技术滥用、军事竞争、大规模操纵、威权监控，以及少数组织掌握极强 AI 后形成极端权力集中。
这种路径甚至不需要 AI 有自己的意识。
所以真正的问题不是简单的：
AI 会不会杀死人类？
而是：
当我们制造出比自己强得多的智能之后，我们还能不能持续保持对它的控制，同时控制住人类自己使用这种力量的方式？
这可能是整个问题最核心的地方。
我个人会把它理解成一种低概率但后果极端巨大、因此不能忽略的风险。类似于核战争：没人能说它一定发生，也不能因为“还没发生”就认为无需准备。
而且有一个非常重要的区别：
核武器不会自己研究更强的核武器。
如果未来 AI 真正具有自主研发能力，它可能参与设计下一代 AI。到那个阶段，技术进步的速度有可能开始脱离人类正常的反应速度。
所以，最危险的时刻可能不是 AI 已经比人类强很多以后，而是从“人类仍能控制”跨到“人类开始跟不上”的那个过渡阶段。
这也是我认为这个问题值得现在就思考，而不是等超级智能真的出现以后再讨论的原因。
0 01
如果投机解码只丢弃中间一部分，后续的继续接收是否可以呢？比如模型输出了一大段了内容，只有中间部分错误的情况下。算力低峰期可以把这部分结果也丢进主模型来做验证。
但有一些问题：什么时候该直接用后续的内容，以及截取的开始位置，以及什么时候用截取内容，什么时候用草稿模型重新生成，这些问题需要先解决
但有一些问题：什么时候该直接用后续的内容，以及截取的开始位置，以及什么时候用截取内容，什么时候用草稿模型重新生成，这些问题需要先解决
stardustbin: 我自己用大模型的过程就类似投机解码：让大模型快速生成一长串内容，我自己去评估内容是否合理。如果合理就采用，不合理就去掉。 不过有个微妙的区别，实际工程上的投机解码，一旦采样到不合理的输出就丢弃了。我用大模型的时候如果输出只有中间部分是无用的，后面部分可用，就直接丢弃中间部分即可，后面部分还能保留
0 00
我自己用大模型的过程就类似投机解码：让大模型快速生成一长串内容，我自己去评估内容是否合理。如果合理就采用，不合理就去掉。
不过有个微妙的区别，实际工程上的投机解码，一旦采样到不合理的输出就丢弃了。我用大模型的时候如果输出只有中间部分是无用的，后面部分可用，就直接丢弃中间部分即可，后面部分还能保留
不过有个微妙的区别，实际工程上的投机解码，一旦采样到不合理的输出就丢弃了。我用大模型的时候如果输出只有中间部分是无用的，后面部分可用，就直接丢弃中间部分即可，后面部分还能保留
1 11
朱雀三号完整起飞降落过程，牛啊
https://b23.tv/94hGkM7
0 00
