日前在伦敦举行的2015年Zeitgeist大会上，著名科学家史蒂芬·霍金（Stephen Hawking）再次发出警告——未来100年内，人工智能将比人类更为聪明，机器人将控制人类。 霍金宣称，现在不是担心谁控制人工智能的时候，而应该担心人工智能是否能被完全控制住。未来100年中，人类将面临比人类更聪明的人工智能的挑战。霍金此前也曾发出警告，他称人工智能可能终结人类。
霍金说：“在未来100年内，结合人工智能的计算机将会变得比人类更聪明。届时，我们需要确保计算机与我们的目标相一致。我们的未来取决于技术不断增强的力量和我们使用技术的智慧之间的赛跑。” 今年年初，霍金曾与特斯拉CEO伊隆·马斯克（Elon Musk）共同发表公开信，他们认为人工智能的发展应该受到控制。信中称，如果智能机器无法保障安全，人类可能陷入黑暗的未来。
信中警告科学家们警惕人工智能将抹杀人类。科学家们称：“我们已经达成共识，人工智能研究正取得很大进展，将对社会产生越来越大的影响。潜在好处十分巨大，因为文明提供的一切都是人类智慧的产物。但是当这种智慧放大到人工智能工具都可提供的程度，我们无法预测结果，疾病和贫苦的消除并非不可能。” 但科学家们也提出更严肃警告，人工智能研究必须避免潜在威胁。比如，从短期来看，人工智能可能导致数百万人失业。从长期来看，人工智能可能像科幻电影中一样，比人类更聪明时违反自己的程序设定。为此，必须确保人工智能系统按照人类的意图行事。 11月份，马斯克也提出警告，最少只需5年，智能机器可能就会带来极端危险。他认为，人工智能就像“召唤恶魔”。马斯克在麻省理工学院发表演讲时，将人工智能描述为人类“最大的生存威胁”。他说：“我认为我们对人工智能应该保持高度警惕。如果让我猜测人类生存的最大威胁，那可能就是人工智能。” |
