如何理解智能体的自主性?这是一个值得深思的课题。目前的智能体严格定义上,是属于对意图执行代理,目前的智能体自主性是智能体系统针对意图分析确定目标结果,在执行过程中基于推理穷举的策略,使用工具进行执行反馈来持续逼近目标结果。
真正的自主性是否应该建立在本体论的基础之上,或许应该是,即可语言模型本身通过理解表征结构作为主体范围的约束性边界,通过边界理解内部性与外部性,理解作为一个个体置身于外部世界环境的因果关系与时空关系。
智能如果作为一项状态能力,那么模型本身的智能状态,以及模型驱动智能的智能状态,应该有什么根本性的区别?假设先研究智能体本身的智能状态,我们如何让智能体先形成反身性的自我认知,即智能体理解自身作为智能体的存在。形成元认知的本体意识,才能在外部环境中形成,人类在主观判定上自主意识。Memory 应该是智能体的自主记忆系统,这里的记忆作用的主体对象是智能体而非人类。
人类的直接意图不等同于智能体的直接意图,但是,我们又该如何理解“意图世界”呢?这里又是一个复杂课题,嗯…let me think