物理学家霍金对人工智能的担心

英国剑桥大学著名理论物理学家斯蒂芬·霍金14日在英国剑桥的家中平静离世，享年76岁。霍金出生于英国牛津，1979至2009年任“卢卡斯数学教授”, 这是物理学家牛顿生前曾经担任过的教席。霍金的主要研究领域是宇宙论和黑洞，证明了广义相对论的奇性定理和黑洞面积定理，提出了黑洞蒸发理论和无边界的霍金宇宙模型，在统一20世纪物理学的两大基础理论爱因斯坦创立的相对论和普朗克创立的量子力学方面走出了重要一步。

霍金说过，我的工作能够对理解宇宙作出了贡献，我非常幸运。但如果不是为了我爱的人和爱我的人，这将是一个空虚的宇宙。

作为杰出的社会活动家， 霍金警告，人口过剩、气候变化、流行病等都是人类将要面临的严重威胁。我们所发展的科学技术将可能毁灭我们的地球。在一个机器人可以替代人类完成大多数工作的新世界里，人类必须要“重新再教育”。

2016年在《卫报》的一篇评论性文章中，霍金解释了他对地球未来命运的担忧。他说，我们正处于人类发展史上最危险的时刻。我们发展的技术摧毁了我们所生活的地球，但我们还没有发展出逃离地球的能力。也许在百年后，我们将可以在其它星球上建立起人类殖民地，但现在我们还只能呆在地球上，因此我们必须要团结一致保护它。”

霍金认为，为了逃离这些威胁，人类必须殖民其它星球，但至少需要一个世纪才有可能实现这一目标。“

他认为，地球上的生命因一场灾难而灭绝的风险正与日俱增，比如一场突如其来的核战争、一种基因工程病毒或其它危险。如果不能进入太空，人类将没有未来。 逃离地球是人类唯一的希望，但至少在未来一百年内，我们还无法在太空中建立起自给自足的殖民地。因此在这一阶段里，我们必须要特别小心。

霍金说，人类面临的大多数威胁都来自科技的发展。这些威胁包括核战争、灾难性的全球变暖以及基因工程病毒等。我们无法阻止这一进程，也无法改变其方向，但我们必须意识到这种危险，并努力控制它们。

霍金警告，人类需警惕人工智慧发展威胁，机器人有可能消灭人类。在短期内的主要担忧就是智能的自主武器。在长期范围内， 他担忧人工智慧出现系统失控。

霍金认为人工智慧发展确实可以突出自我意志，但是也很容易和人的自我意志相冲突，所以在未来的发展过程当中，必须要能够合理的掌控平衡点。人工智慧一旦脱离束缚，以不断加速的状态重新设计自身，人类由于受到漫长的生物进化的限制，将无法与之竞争，从而被取代。

霍金举例，致命性智慧自主武器是否该被禁止？如果是，那么自主该如何精确定义。如果不是，任何使用不当和故障的过失应该如何问责。人工智慧的全方位发展，比如最大化使用智慧性自主武器，可能招致人类的灭亡。

霍金说，早些时候，他和一些来自世界各国的科学家共同在联合国会议上支持其对于核武器的禁令。他们正在焦急的等待协商结果。目前，九个核大国可以控制大约一万四千个核武器，它们中的任何一个都可以将城市夷为平地，放射性废物会大面积污染农田，最可怕的危害是诱发核冬天，火和烟雾会导致全球的小冰河期。

这一结果使全球粮食体系崩塌，末日般动盪，很可能导致大部分人死亡。霍金表示，我们作为科学家，对核武器承担着特殊的责任，因为正是科学家发明了它们，并发现它们的影响比最初预想的更加可怕。

霍金表示，就像核武器，人工智慧的发展虽然看似非常乐观，但是对于人类会造成很大的威胁。

谈到人工智慧系统失控的潜在风险，霍金认为，随着不遵循人类意愿行事的超级智慧的崛起，那个强大的系统威胁到人类。这样错位的结果是否有可能？如果是，这些情况是如何出现的？他问道，我们应该投入什麽样的研究，以便更好的理解和解决危险的超级智慧崛起的可能性。

霍金表示人类迄今为止最深刻的影响就是人工智慧的崛起，对于人工智慧肯定会影响到人类未来的生存，甚至带来的威胁要远超于外星人对于地球的威胁。

霍金认为，如果我们不能够合理的掌控和避免风险，可能就会直接让人工智慧把自己置于绝境和死地。

霍金对于将科学介绍给更广泛大众的工作不遗馀力。霍金的著作《时间简史》，清晰地解释了时空与黑洞的奥秘，风靡全球，使他成为自爱因斯坦以来最伟大的物理学家。

霍金将他从1976年到1992年撰写的14篇文章收集成一本科普著作 《黑洞与婴儿宇宙》，于1993年发行。

1997年，英国广播公司与美国公共电视合作製成了六集电视节目《史蒂芬‧霍金的宇宙》。在霍金的坚决要求之下，节目内容完全聚焦于说明科学理论。

霍金21岁时患上肌肉萎缩性侧索硬化症，全身瘫痪，不能言语，手部只有三根手指可以活动。

霍金近年力撑安乐死，主张人们有权决定自己的生死。霍金曾透露，如果觉得已对世界再无贡献，或成为至爱的负担，他会考虑用协助自杀的方式，结束生命。

霍金说， 我们都是时间里的旅客，我们共同走向未来。我们一起努力，让未来成为我们想要去的地方。勇敢一点，坚定一点，一定要成功。