即刻App年轻人的同好社区
下载
App内打开
Diiiii
1年前
宫斗戏倒是挺热闹,所有人都忙着站队,从董事会的多数暴政变成了员工的多数暴政,但吃瓜群众们似乎并不关心起因,不关心 Ilya 最初到底看到了什么。只有Musk表示“very worried ... llya has a good moral compass and does not seek power. He would not take such drastic action unless he felt it was absolutely necessary.

2周前 The Guardian 放出的这个 Ilya 的小短片中,他提到 “The probability that AGI could happen soon is high enough that we should take it seriously... You're gonna see dramatically more intelligent systems...”,再考虑到Sam在被解雇前一天在APEC的会上说,“The model capabilities will have taken such a leap forward that no one expected.

总觉得这些似乎才是真正应该被关注的。

P.S AGI最可怕的一点在于,它是无法测量的。人类只能测量和自己智商类似的存在。换句话说,当猴群中有个家伙突然进化成智人的时候,其他的猴子是不知道的,他们只能照例用攀爬、采摘等传统艺能来对彼此进行评测,而智人则可以轻易地糊弄住它们。因此,我并不觉得 Ilya 的担心是杞人忧天,至少是值得认真关注的。毕竟他是现阶段对AGI理解最深刻的人类,也是最有可能识别出AGI的人类。

Ilya: the AI scientist shaping the world [9iqn1HhFJ6c]_哔哩哔哩_bilibili

点击阅读原文
53

来自圈子

圈子图片

AI探索站

79860人已经加入