李德毅院士：通用人工智能十问

智能是学习的能力，以及解释、解决问题的能力；人工智能是脱离生命体的智能，是人类智能的体外延伸；通用人工智能面向不同的情境，能够解释、解决普遍性的智力问题，通过不断学习，积累本领，进化成长。

在此通识的基础上，我们提出如下质疑：

• 一问：

意识、情感、智慧和智能，它们是包含关系还是关联关系？是智能里面含有意识和情感，还是意识里面含有智能？是智慧里面有智能，还是智能里面有智慧？大凡意识、情感，都是内省的、自知的、排他的，怎么可以用他人的、人工的来替代呢？所以非生命体不可能有意识？

• 二问：

如何理解通用智能？我们应该不应该把通用智能理解为"全知全能"或者单项超强智能？尽管今天的计算机已经可以解决很多复杂的、专门的智力问题（如围棋智能），我们仍常常觉得它们缺乏人类思维的某些本质特征。这里的差别主要不是在算法、算力、数据量方面，不是在机器的速度和容量方面，而是在人工智能的一般性、通用性、普遍性、灵活性、缺省性、容错性、可习得性、不确定性、适应性、常识性、开放性、创造性、自主性等方面。生活中也不乏有这样的情况：个别有认知障碍的天才展示出数学奇才，但缺乏的恰恰是通用智能。遗憾的是发展60多年的人工智能没有能够更靠近人的原始的智能。

• 三问：

目前所有的人工智能的成就都是在计算机上表现出来的，是基于冯架构的计算机智能或者计算智能，人工智能是计算机的一个应用而已。而人脑不是冯诺依曼架构的，存在不存在宏观上更类似脑组织的非冯诺依曼架构呢？例如，对人的智能而言，记忆力是真正的智力，超强记忆力就是超强智能，记忆比计算重要，记忆是对计算对监督和约束，记忆的提取要比复杂的推理快得多，非冯架构如何在结构上体现人脑的不同记忆区和记忆力呢？如何体现情境和知识的双驱动？

• 四问：

非生命体不会有七情六欲，机器人是非生命体，还会有学习的原动力吗？如果没有学习的原动力，没有接受教育的自发性，还会有学习的目标吗？目标从哪儿产生？机器人能否自己提出问题？

• 五问：

人的注意力选择源于记忆，源于记忆的偏好依附性，偏好如何产生的？偏好依附是否只能与交互认知的频度和时间的远近相关？人的偏好依附不是这样的，人的恐惧性以及满足感会让一些发生频度很低、或者很久远的事记忆特别深刻。

• 六问：

自然语言是人类思维活动的载体，如果自然语言是第一语言，数学语言是第二语言，计算机语言是第三语言，后一个比前一个常常更严格，后一个比前一个常常更狭义，根据哥德尔不完全定理，数学自身难以完全自洽。数学的形式化要借助于自然语言，计算机语言的形式化要借助于数学语言。因此，人工智能怎么可以反过来要用数学语言或者计算机语言去形式化人类的自然语言呢？

• 七问：

人脑可以比作一个小宇宙吗？其中的智能是多情境、多公理兼容并包的，进化发展的，在不同时刻、不同情境有不同应对，不完全收敛，不完全自恰，不整体统一，不存在非公理的统一体系的数学推理，当然也不必一定要脑裂，如同一个人在微信不同朋友圈里表现出的不同智能。因此，如何理解"智能的统一体系"追求？

• 八问：

一个机器或者系统是否有智能，不仅在于某一个时刻它能解决什么实际的智力问题，而在于它有没有学习的能力？智能，即提供的问题解决方案，是否可依赖于有限的认知资源？是否需要进一步交互认知？是否可以有选项？是否可以进化和成长？这才是最重要的。

• 九问：

在一个非冯诺依曼架构的机器人脑中，组成记忆、交互和计算的基本元件最少有哪几种？各元件中的信息的产生机制与存在形式是什么样的？他们之间的信息传递机制是什么样的？

• 十问：

通用智能后天的习得靠教育，智能植根于教育，文明是智能的生态。设有通用架构的机器婴儿10台，可视为带有基因的硬件加基础软件，让10位母亲分别在各自的情境去教育10名机器婴儿成长，仅仅通过语音交互，1个月后这名机器婴儿脑的瞬时记忆、工作记忆和长期记忆的三个记忆区中留下的都会有些什么？以后，机器婴儿的基础软件（含记忆、交互、计算软件）要不要不断扩充？硬件要不要不断扩充？机器婴儿脑有没有形成自己软件的能力？

来源：人工智能学会