近期在英国亮相的“世界最先进机器人”表情之丰富，令人惊叹它仿佛具有了思维与意识。而更有机器人研制公司宣称，几年内就会出现具有完全意识的机器。

人工智能是否会拥有意识，是一个热门话题。一旦机器智能拥有记忆和自我意识，按照自己的意念而非设定程序行事，这是否就到达了人工智能的最高阶段了？它真的可以通过硅与金属这样的硬件来实现吗？或者，它真有可能在游戏中产生吗？

人工智能会产生意识吗？

美国密歇根州立大学人工智能专家阿伦德·欣茨曾将机器智能划为四个阶段：

第一阶段是反应机器，即只能进行反应，但没有记忆能力，也无法利用过去的经验来制定现在的决策；

第二阶段是有限记忆机器，它会存储一些过去的交互，并使用这些内容来修改未来的行为；

第三阶段是基于心智理论的机器，到达这个层面，意味着机器不仅能够理解特定任务，而且有能力更全面地理解周围的世界；

第四阶段可能是人工智能发展的最后一步，那就是构建一套能够形成自我意识的机器。

阿伦德认为，心智理论更强调对外部思维体的感知，而自我意识则是向内的感知，即生命能够意识到自我，知道自己的内部状态，而且可以预测他人的感受。电影《失控玩家》所描述的男主角盖伊所经历的自我意识觉醒的过程，就是从第一阶段逐步进化到了第四阶段。

然而，人工智能会不会产生意识，却是一个众说纷纭的话题。

我国人工智能专家、中国工程院院士李德毅在《智能技术学报》发表论文认为，知觉意识是最初级的意识，只有有了知觉意识，我们才能清晰地感受到“我”这个本体的存在。然而，智能和意识之间并没有明确的相关性。自然界就存在着大量无（弱）智能却具有弱意识的生物。

在他看来，当前的机器人都是无意识的，却可以表现出一定的智能。到目前为止，任何机器或者机器人都还没有知觉意识，更不必说不断成长发展、甚至脱离物理束缚的更高级别的自我意识以及群体意识了。

不过，图灵奖获得者曼努埃尔·布鲁姆教授及其夫人莱诺尔·布鲁姆教授却对“机器产生意识”有着不同看法。他们在最近发表的文章中提出，意识是任何经过合理组织的计算系统所拥有的一种性质。无论这种系统由血肉还是由金属和硅组成。

他们提出，意识包括全局工作空间架构，还有一些关键的处理器——它们能用一种丰富的内在语言相互沟通想法、计划、图像、感知，并且存在一个由预测、反馈和学习组成的循环动力学机制——这就使得它们具有意识，甚至还具备动机、欲望、最基础的认知能力等。

从他们的实验来看，当一种机器具有意识，它就会不断“成长”，随着各处理器之间的连接不断增强，它会从各处理器相对独立的“婴儿期”走向“成熟期”。

AI时代真正需要警惕的是什么？

的确，在对待人工智能的态度上，人类显得犹豫不决。我们既希望有更强大的智能工具出现，又担忧它们会对人类不利。

过去25年，尤其是近十年，人工智能的进展非常迅猛，其性能提升的比例几乎达到百万级。而且，机器智能还在不断发展。

布鲁姆夫妇就在积极发展意识图灵机，试图让机器理解感质、情绪，乃至痛感。在他们看来，科学可以解释愉悦和疼痛之类的感觉是如何产生的，无论是在有血有肉的动物身上，还是在硅与金属构成的机器人身上。

从生物化学层面来看，人体中控制快感的多巴胺、控制情绪的血清素，以及控制兴奋的谷氨酸盐，它们发挥作用的信号通路其实与通过描述信号代码和对应效果的机器通路十分相似，或许真的与机器的感觉有相通之处。

美国麻省理工学院计算机科学和人工智能实验室的托马索·波吉奥教授认为：“过去的经验告诉我们，人工智能历史上的一些突破口来自神经科学，所以我预计未来的一些突破性进展也将来自于神经科学。”

布鲁姆夫妇相信，通过寻找能同时解释动物和机器的感质，科学家会更接近“计算机能否拥有意识”的真相，“我们认为未来机器也能拥有感觉”。

未来，当机器真的越来越接近人，是否会如《失控玩家》里的非玩家角色（NPC）一样，摆脱人类的控制呢？

在李德毅看来，没有意识的机器人肯定不可能成为人类的天敌。或许经过漫长的进化发展，机器人有了自我意识，但它们还得在个体间发展出不同于人类的语言和文字，甚至要拥有不同于人类群体的共同价值观，到那时，机器人才会真正成为相对于人类的异类。

不过，他认为，这不应该被认为是人工智能的问题。真正需要警惕的，是将人工智能反作用于生物，哪怕是只有感知意识的低级生物。“当人类从人工智能进入生命智能时代，不是人工智能具有了意识，而是有意识的生命拥有了强大的智能，这才是人工智能可能产生的颠覆性革命。”

因此，人类要为自己的选择和行为进行更加审慎的思考，并作出道德决策——它关乎我们人类自身将会创造的未来世界。

*文汇独家稿件，转载请注明出处。