1月16日消息 据国外媒体报道，特斯拉和 SpaceX太空探索技术公司的CEO埃隆·马斯克（Elon Musk）担心未来人工智能或可能消灭人类，因此他决定捐赠1000万美金资助保证人工智能安全性的研究。在此之前马斯克曾表达过对类似电影《终结者》里的情形或可能在现实中发生的担忧。他还表示人工智能“潜在的比核武器还要危险”。这一捐赠的目的既是防止这一事情的发生，也是为了保证人工智能被用于正道并造福人类。 “尽力避免消极事件的发生总好过等到它发生时再被动的做出反应，”马斯克说道。“人工智能有可能会产生一系列负面结果，有些后果可能非常恶劣。人类是否能从这样的消极后果中恢复过来仍是未知。事实上，你可以设想一些人类文明无法恢复的恶劣情景，当这些情况的发生风险非常严峻时，你就必须积极主动先行一步，而非消极等待做出回应。” 捐赠资金将通过拨款竞赛奖励给研究人员，申请过程从周一开始。未来生命学院将监督这些拨款的分发，未来生命学院自称是“致力于监督人类面临的存在风险”的组织。这一机构并不在意获得拨款的研究人员是否是学术界还是来自公司，只是希望这笔资金能够奖励给他们认为具有好想法的研究人员。“这一计划是将赠款资金的大部分奖励给人工智能研究人员。”未来生命学院解释道。“剩余的资金将给予与人工智能相关的其他领域的研究，例如经济学、法律、伦理学和政策。” 马斯克是本周未来生命学院发布的一份公开信里的高调签署人之一，这封信警告了科学家们人工智能不应该只是变得越来越有才能，它还应该变得更有益。这正是这笔捐赠资金的最终目的。虽然未来生命学院并没有详细说明它们所期待的科研结果，但它在公开信中向研究人员列出了一份指导方针和优先次序的长名单。当然，其中某些想法已经被涵盖在某些建议书里，这类建议书将最终获得马斯克的捐赠资金。 未来生命学院表示优先研究领域包括最优化人工智能的经济影响，从而避免毁灭就业以及最终导致的增加收入不平等性；确定人工智能将如何处理伦理问题，例如与自主车辆碰撞相关的问题，以及如何保证人类对例如武器系统等危险事物的控制权。 |
