即刻App年轻人的同好社区
下载
App内打开
歸藏
11月前
Google DeepMind发布了一篇论文定义了AGI的判断标准和能力等级,他们认为我们现在处于AGI的第二等级(一共五个等级:新兴、能力、专家、大师和超人)。
他们考察AGI能力的时候主要基于深度(性能)和广度(通用性)两个维度来打分和判断。

下面是论文具体内容:
本文提出了一个框架,用于根据AGI模型的能力、通用性和自主性进行分类。通过分析现有的AGI定义并提炼出六个原则,用于构建一个有用的AGI本体。这些原则包括关注能力而非机制,分别评估通用性和性能,以及定义通往AGI的阶段而不仅仅是终点。

作者们提出了基于能力深度(性能)和广度(通用性)的“AGI等级”。这一框架旨在为比较模型、评估风险和衡量AGI进展提供一个共同的语言,类似于用于自动驾驶等级的方法。文章反映了当前系统如何适应这一本体,并讨论了未来基准测试对于量化AGI模型行为和能力的要求。

论文还讨论了AGI等级与部署考虑因素(如自主性和风险)的互动。它强调为负责任和安全地部署高能力AI系统选择适当的人工智能互动范式的重要性。

这种方法旨在通过考虑通用性(狭窄或通用)与五个性能等级(新兴、能力、专家、大师和超人)的结合,为朝向AGI的进展提供一种细腻的方式。论文反思了当前AI系统和AGI定义如何适应这一框架。此外,它讨论了这些原则对于开发一个生态效度高的、动态的AGI基准测试的含义,认为这对AI社区至关重要。

最后,论文考虑了这些原则和本体如何重塑与AGI相关风险的讨论,指出AGI并不一定与自主性同义。作者们引入了AGI等级的进展解锁但不确定的自主性等级。这种观点允许对AI系统可能的风险进行更细腻的洞察,强调了在模型改进方面投资于人工智能互动研究的重要性。

论文地址:arxiv.org
013

来自圈子

圈子图片

AI探索站

76383人已经加入