与其畏惧人工智能还不如做到自我约束

（文章来源：中国科学报）

中国工程院院士、中国人工智能协会理事长李德毅在2019世界人工智能大会“科学前沿”主论坛上表示，人工智能就是人类智能的体外延伸，可以脱离意识而存在，应该将其看作一种工具。

不是正在崛起的人工智能会给人类带来威胁，智能时代要约束的是人类的伦理道德和行为规范。李德毅认为，意识和智能相互之间有很多典型案例，现在计算智能、围棋智能、聊天智能、驾驶认知智能都做得很好，甚至可以超过人，这说明人工智能可以成为脱离意识而存在的智能。

他给出了自己的观点：“人工智能就是人类智能的体外延伸，它可以脱离意识而存在。作为机器人的造物主，人类不需要机器具有意识。为什么一定要机器具有意识呢，他是我们的工具多好？只要能够按照人类需要，给我们开车、给我们做数学题、给我们人类服务不就可以了吗？我觉得人类会足够聪明，人类完全可以控制不让机器具有意识。”

李德毅在主题演讲中表示，人类的进化史就是一部制造或使用工具拓展人类能力的发展史，无论是从古代的斧头还是现在的原子d都是动力工具，动力工具是人类体能的体外延伸，而人工智能是人类智能的体外延伸，都没有意识。人类所担心的人工智能最大的冲击，是地球上突然有一种超越人类的新物种，这些未来的生命是人类的朋友还是人类的天敌？目前定论尚早，这种观点有点想太多太早了。

他进一步解释说：“退一步讲，即使将来我们制造了能够区别物理边界的机器感知，还要有另外两个条件才能和人类对抗，那就是他们有自己的语言和文字了吗，他们有共同价值观了吗？目前看来也不可能。即便满足了这些条件，其时间长度至少需要几百年甚至更长，而人类进化都用了几百万年。因此不是正在崛起的人工智能会给人类带来威胁，而是智能时代要约束人类的伦理道德和行为规范，关注生命科学中的伦理道德。”

在李德毅看来，人类文明的传承、人类命运共同体的理性、人类智能的创造，形成了不可低估的人类对机器人的控制力，历史已经一而再、再而三地证明，人类一次次战胜恶势力后自己变得更加强大，人工智能时代可以使人类获得更加优雅、更加尊严、更加智慧的生活。