原标题：机器人会拥有自主意识吗？你担心它拥有自主意识吗？

　　11月3日消息，针对现下大热的人工智能，很多人会有一个疑问：机器人会拥有自主意识吗？在2019腾讯科学WE大会前，哥伦比亚大学教授、机器人研究权威专家Hod Lipson给出了回答。

　　Hod Lipson向TechWeb等表示，“不可避免会出现这一天，至于是10年后，还是100年后，我们还不知道。但我比较确信的是，我们孙辈生活的世界里，机器将会有自我意识。”

　　如果机器拥有了自我意识，你是否会为此感到担心？Hod Lipson对此持乐观态度，他认为，“自主意识的机器人带来的好处将会远远超过它的风险”。

　　他以火的发现为例解释称，火非常危险，也非常强大。但人类是否希望自己从未发现火呢？答案应该是否定的，因为有了火之后，使得我们能做很多之前做不到的、不可思议的事情。

　　Hod Lipson指出，“我们现在已经发展和运用了很多机器，而这些机器的数量将会越来越多，它们也会越来越复杂，总有一天人类将无法直接照顾这么多、这么复杂的机器人，我们要想办法让机器人自己来照顾自己。”(周小白)

　　以下为Hod Lipson对话速记：

　　提问：您真的会觉得机器人会拥有自主意识吗？你担心它拥有自主意识吗？

　　Hod Lipson：我的回答是肯定的，也是否定的。因为我认为不可避免的会出现这样一天，这个世界上的机器获得自我的意识。这是一个非常伟大的事件，因为我们现在在逐步给这些机器系统一点一点添加智能。最终，它们会给自己找到一个模型，它们最终要想明白，并最终明白自己是什么，自己能做什么和不能做什么。

　　这件事情将在10年之后发生，还是100年之后发生，我也不知道。但是，我比较确信的是我们的孙辈所生活的世界里，机器将会有自我意识。

　　我是否对此感到担心呢？我可以给您举一个例子，就是火的发现。火非常危险，也非常强大。但人类是否希望自己从未发现火呢？答案应该是否定的，因为有了火之后，使得我们能做很多之前做不到的、不可思议的事情。

　　具有自主意识的机器人也是如此，它是一种非常强大的技术，重要的是每一个人都认识到这种机器人能够做些什么、不能够做一些什么，就像火一样，我们知道它是强大而危险的，所以我们要确保将它用于好的事情上。

　　我个人在这个问题上保持乐观态度。我认为自主意识的机器人带来的好处将会远远超过它的风险，因此我们要追求发展这样一个技术，因为我们现在已经发展和运用了很多机器，而这些机器的数量将会越来越多，它们也会越来越复杂，总有一天人类将无法直接照顾这么多、这么复杂的机器人，我们要想办法让机器人自己来照顾自己。

　　提问：第一个问题，上过《自然》杂志封面的那个论文提到过粒子机器人没有单点故障，也没有集中控制。这个系统可以继续保持运行，它的阈值在什么范围内？因为现在测试下来是20%的粒子发生故障，整个系统还是能够保持运行，这个事情是对机器人鲁棒性的一个突破。

　　之前《科学》杂志的主编提到过现在所有人们认为机器人的意识问题，都是因为它的鲁棒性，机器人的鲁棒性如果真的够了，它就能产生意识吗？第二个问题，我不是非常理解刚才举的火的例子，因为火是没有自己意识的，它仍然只是一个工具，教授之前讲50年之后人可能和人工智能一起进步，就是人和人工智能共生的一个状态，在这样的环境下，人们会面临哪些伦理和社会上的挑战？

　　Hod Lipson：其实您是把很多问题都集中到了这两个问题。我先回答一下关于鲁棒性的问题，我们所做的粒子机器人把这个整体当成一个机器人。这种机器人我更想比喻成一个人的身体。我们的身体是由许多细胞组成的，这些细胞会产生、发展和死亡，不断地会有细胞死去。虽然有很多细胞都死掉了，但我还是我，你还是你。

　　那么到底我们能让多少细胞死，而不改变自己的性质呢？到底是20%，还是30%呢？其实，我们知道人体的细胞不断地在死亡，这是一个持续的过程，同时也会有新的细胞不断产生。

　　换句话说，我们的身体是由一个个不可靠的部分组成，这些部件本身会死亡、坏掉，但是新的部件会不断出现，反复的出现，我们这个整体还是我们自己。

　　做机器人主要在于新思路，你谈到了它的鲁棒性，你也提到了所谓的20%。其实这个20%只是我们测的一个数字而已，我们更关心的是一个想法，就是如何建造一种机器人，像人体一样，能够用这些不可靠的部件组成它，但是它作为一个整体仍然是像人体一样，可以正常的运行。

　　这一点和我们今天造机器的想法完全不一样，比如我们现在造的飞机，它由很多部件组成，其中任何一个部件都有自己特定的功能。假如这个部件失灵了、出故障了，那这个飞机就是不能上天的。假如有一辆车其中一个轮子掉了，这辆车也就无法运行了。

　　我们现在希望以一种全新的思路来做机器人，它的鲁棒性和机器人是否有自我意识是无关的，我们更多的是把它想像成一种生物体。从生物体来讲，你的身体、头脑是维持运行所必要的部分，我们希望这种机器人有一个头脑，能够自我去建模，这样就能够发展起来。

　　我举火的这个例子，并不是因为它有自我意识。它并没有自我意识，主要还是从伦理的角度来讲，是说火也是非常非常强大、危险的。但是，它是人类文明真正开始发展的原因，有了火人类才能够吃以前吃不了的食物，能够建造以前建造不了的东西，能够在夜里看见东西，这一切极大的促进了文明的发展，但是同时火也是非常危险的。

　　所以，我们所有人都需要意识到火是非常有用的，非常强大。假如火失控，就会带来非常糟糕的后果。人工智能也是如此，它既强大又危险，这个技术非常值得我们拥有，但是我们要知道这种技术能强大到什么程度，并且给予它尊重，确保能够恰当地使用。

　　你提到的所有伦理问题，目前应该还是没有答案的。其实就在5年前，人工智能技术就已经开始发展了，但是没有人对它感到兴奋，它只是一个学科而已，也没有任何人担心它有一天会接管了全世界。

　　但是，在过去5年间，这一技术真的腾飞了。突然之间好像大家都在问这些伦理问题，但是正如我前面说过的那样，我们对这些伦理问题还没有答案，这个技术肯定会继续发展，而有自我意识的机器人也终将出现。