自 1956 年约翰·麦卡锡提出“人工智能”一词作为达特茅斯会议的主题以来，距离第一次专门讨论这一问题的会议已经过去了 64 年。如今，人工智能已经成为最具挑战性的科学研究和技术应用领域之一，也成为当今社会最具争议的话题之一。一些具有代表性的问题包括：“人工智能系统最终会打败人类吗？”“如果人工智能有了意识，它会做什么？”
笔者曾论述，所谓“人工智能/AI（Artificial Intelligence）”，是指研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术和应用系统的一门新的技术科学。人工智能的“研究”是指人们对事物的真相、性质、规律等进行永无止境的、主动的探索，由无知到有知，由知之甚少到知之甚多。简单地说，研究是一个认真地提出问题、系统地寻找问题答案的过程。因此，从研究的角度看，人工智能是人类对事物永无止境的、主动探索的产物。每一项人工智能研究成果（或智慧积累）都离不开人。如果说智慧有什么退化，那只能是不同时代的人工智能产品智慧的落后。随着人工智能产品的更新换代，人类的智慧不但不会退化，反而会变得更加聪明。也就是说，一般来说，只有被更先进的人工智能研究成果淘汰的人工智能产品，而没有被较低水平的人工智能产品淘汰的研究成果； 人工智能“开发”，就人工智能开发而言，是指利用计算机软硬件技术与设备、自动化技术与设备、模式/图形识别理论与技术、各类（视觉、听觉、嗅觉、触觉等）传感装置与设备……等资源作为脑力劳动和体力劳动的对象，实现人工智能理论目的的过程；人工智能“模拟”主要包括过程中能够反映所研究人工智能目的的有效信息的获取、关键特性与性能的选取、近似简化与假设的应用、被模拟对象的可再现性和有效性等。
本质是对再现系统外部表现的一种特殊模拟或仿真。但对于一些模糊的物体，比如动物的情绪，模拟起来非常困难，也就是说不可能模拟到100%。人工智能的“外延”和“扩展”是指人类智能在空间和时间上的延伸和外延。但人工智能的外延和外延也仅限于人工智能研究者所掌握的智能和能力。比如我们希望利用人造卫星来了解整个宇宙的真相。人造卫星在太空中穿梭，将其所能监测到的信息全部反馈给我们，让我们以亿万光年为单位了解空间和时间上的事物。但卫星不可能超越人类赋予它的智能和能力。尽管如此，人工智能/AI的发展还是很快的，一些AI产品已经达到甚至超过了普通人的智能和能力，有的甚至已经超越了专业人士的能力。 比如，我们要记得，1997年，IBM推出了一款国际象棋程序“深蓝”，在当年的人机大战中击败了当时的国际象棋世界冠军卡斯帕罗夫。但我们不能因此就说人类智能退化了，相反，这恰恰证明了人类智能的进化。深蓝毕竟是人造的机器！宇宙是无限的，人类的研究和探索也是无止境的。只有更先进、更聪明的人类，而不是人类自己研发的AI产品，才能取得成功。
另外，关于人工智能有了意识会做什么的问题，笔者认为与其说是“人工智能有了意识会做什么”，不如理解为“机器人有了意识会做什么”更为贴切。当然，这里说的“机器人”是指更广义上的“人工智能系统”。首先我们知道，意识的本质可以从两个方面来理解，即：第一是作为人脑的一种功能，这意味着：第一，人脑是一个非常复杂而独特的物质器官；第二，意识是人脑基于第一信号系统和第二信号系统的协调工作而产生的神经活动；第二是与物质相对应的客观世界的主观意象的哲学范畴，指与物质既对立又统一的精神现象。我们重点来谈第二个方面。意识与物质的关系是哲学中的一个基本问题，哲学家们根据对基本哲学问题的不同回答，对意识有不同的理解。 唯心论哲学家强调意识对于物质的本源性，从而把意识理解为超越物质的独立存在，是创造或产生物质世界的本源，意识的内容就是意识本身。按照唯心论的观点，如果“人工智能系统”具有意识，那么人工智能系统就成为超越物质的独立存在，那么人工智能系统就成为创造或产生物质世界的本源之一。唯物论哲学家强调物质对于意识的本源性，认为意识源于物质，任何时候都不能脱离物质而独立存在。马克思主义哲学揭示了意识的本质，认为意识是高度组织化的物质，即人脑的功能和属性，是社会人对客观存在的高级心理反映形式。从内容上看，意识是被实现的存在（包括外部对象的存在和意识承载者自身的存在），是客观存在的主观反映。
意识的产生不能摆脱语言这个物质的外壳。但意识对存在也有反作用。意识表现为个人意识和社会意识，它们都是由人的社会存在决定的，具有社会性。按照唯物主义的观点，“人工智能系统”如果具有意识，那么它就是从意识派生出来的物质，成为一种高度组织化的物质，即人脑的功能和属性，对客观存在有高度的心理反映，感知一切外界客体的存在和自身的存在，对一切客观存在生成它的形象，表现出自身的意识和社会意识，具有人工智能系统群体的社会活动。 无论是作为人脑的一种功能，还是作为与客观世界和物质的主观形象相对应的一种哲学范畴，总之，人工智能系统如果具有意识，就会表现出人类的语言和行为，如联想思维、逻辑推理、情感表达、社交活动、宗教信仰、自我学习，甚至集会、抗议等。然而，要使人工智能系统真正成为具有人类意识的智能系统，首先必须解决一个难题，那就是人类的意识是怎么产生的？这个问题既是一个老问题，又是一个新问题。因为，到现在为止，对这个问题的争论已经分成了众说纷纭，至今没有定论！