这是将近一年前，当伊隆·马斯克比喻人工智能“召唤恶魔。”从完整的过引述他的报价2014年MIT演讲如下:
“通过人工智能，我们正在召唤恶魔。在所有的故事里，那个拿着五芒星和圣水的人，就好像他确信他能控制魔鬼。没有成功。”
如果你在过去的12个月里上过TechCrunch，你可能已经读过三遍了，而之前的话题“人工智能上的麝香”已经过时了，4个月后，麝香著名的是，他向未来生命研究所捐赠了1000万美元为了资助关于人工智能安全的研究(你可以看到2015年FLI的所有获奖者在这里，包括我们过去的一个客人，温德尔·瓦拉赫或耶鲁大学）的项目。
围绕人工智能的未来的恐惧已经肯定存在以及前麝香的评论走红，但他的名人的影响力让这样的言论，成为“媒体值得”，而不是仅仅退居网的各种小生境的角落（如少错了，IEET， Nick Bostrom的博客等等)。
就在马斯克捐款的同一个月，比尔·盖茨在Reddit的AMA会议上表达了他对人工智能挥之不去的恐惧。传奇物理学家史蒂芬·霍金博士表达了他自己的严重关切2015年1月也是马斯克、苹果联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)和其他人工智能专家签署协议的月份关于人工智能的公开信，要求在重点向艾安全更大的全球变化。
并非所有人都认同马斯克和盖茨的观点，认为人工智能值得担忧，至少在未来一个世纪是这样——有无数文章不同意他们的基本前提，或者明显缺乏合法前提。
大部分的分歧都围绕着时间尺度，或者关于人工智能在一开始就“失控”的可行性(这篇文章发表在《计算机世界》上包括来自消息灵通的研究人员相当合理的反驳)。许多这样的论点是由相当受人尊敬的研究人员提出的。斯坦福大学的博士和人工智能研究员罗杰·尚克完全不同意马斯克的担忧，他并不是唯一一个这样做的人人谁看不出有任何理由担心AI“智能人”阵营现在。
有些观点是由做了一些功课的人提出的，他们认为可能有更多的东西可以添加到对话中(尽管他们自己不是专家，比如:这篇文章发表在GigaOm上，以及无数其他的)。其他人,像Slate的亚当Elkus在美国，相信马斯克提到的超自然——比如:召唤恶魔——并不是照亮未来科技的一盏明灯。其中的许多观点似乎都很有道理，值得加入有关人工智能、风险和社会的讨论。
分歧，但是，没有悲剧。这是很难说的冲突正常数量的想法和理想是必要的前进充实了卓有成效的路径为社会，并从许多不同的侧面了解重要的，多维的力量。如果有一些核心的掘金真相被发现，关注或坟的一些真正的问题，他们很可能被挤爆了，当很多聪明的人能有助于找到那些真理。
我相信这是悲剧性的，是当一个辩论不再提供寻找真理，或者发掘顾虑/机会的结束。
一种毫无结果的谈话形式是对一种思想的误解和狭隘的摒弃。先进的技术远非是这种“分歧”压制进步/评估可能性的唯一领域，但我认为，迄今为止，媒体对人工智能的关注还不够多，不足以让人类本性的这一不幸一面浮出水面，成为公开辩论的话题。在谷歌上搜索几分钟，就会发现大量的文章和视频，这些文章和视频来自那些认为人工智能是近期重大威胁的人，以及那些不认为人工智能是近期重大威胁的人。通常情况下，给出的观点往往是“那些不同意的人甚至都不理智”，这比我希望的要多。
第二类毫无结果的谈话似乎和第一类一样难以避免，即保护我们的信仰，左右我们的观点以促进我们自己的结果。对于埃隆•马斯克(Elon Musk)有关人工智能的言论，一些最强烈的反对来自那些在AGI开发上投入最多的人，或者那些以这样或那样的方式“支持奇点”的人。当然，在AGI上的工作，或者对奇点的热情和兴趣，肯定没有什么错……但投资于这些领域的人，更有可能想要唾弃对技术进步的担忧。
一个Google +未来频道发表了一篇博文，内容如下:
“人工智能恐惧“完全”拆除。宇豪...采取麝香，霍金，Tegmark，博斯特伦等（去，签上你的AI“安全”傻上访）！”
我认为这与Tegmark和博斯特罗姆在围绕技术和风险的富有成果的辩论中，这是一个健康的部分，把它们当作“敌人”似乎是自私的，这使得关于真相的辩论更少，更多的是关于杀死“局外人”的辩论。
我怀疑穆斯克(或者肯定是博斯特罗姆)正在谋划邪恶的阴谋，他们将如何减缓技术进步，给人类带来痛苦。可以说，他们是理性的、相对善意的人，只是碰巧对人工智能和安全性得出了不同的结论。
我们的过去的嘉宾本·格策尔博士他是人工智能的最具影响力的支持者之一，他对马斯克的反应相当激进。他将麝香致塔利班(尽管是以一种半开玩笑的方式)，而且似乎把马斯克、米里和其他“人工智能危言耸听者”框定为正义的敌人。它不是“尖刻的”、华丽的或可恨的，但这种类比可能有点极端，而“敌人”则相当直接。后来，格策尔把这篇文章换成了这篇低调的版本这篇文章，针对一些来自人性+读者的反驳。
事实上，文章的广泛大片上人类+似乎是为了公开抨击马斯克的想法，咬紧牙关叫卖，而不是公平或公开地仔细考虑它们:
不管作者多么聪明和见多识广，都有一个喜欢的标题“人工智能末日预言是蠢人的自我厌恶，”似乎可以有把握地说，这篇文章更多的是关于击落敌人，而不是理性地评估证据。
这当然不是唯一的奇点，谁可能会歪斜的风险AI聊到政治活动的一个技术 - 乐观 - 我们应该同样怀疑TECHNO-保守团体有很多自己的信念，捍卫和泥吊索。
就议程和动机而言，我们可能有理由怀疑，我们不会听到来自那些依靠人工智能谋生、施加影响和权力的强大人士对人工智能威胁的真正担忧。扎克伯格埃里克•施密特(Eric Schmitt)似乎并不害怕人工智能——但在监管和人工智能恐惧方面，他们可能会失去很多东西，他们最大的利益可能是平息这些恐惧。这并不会让我们成为坏人，或者完全不诚实，这只是意味着我们需要在评估中有更多的意见，更多不同的观点和更少的个人偏见的可能性。
我尊重我在这里提到的每个人的意见(坦率地说，这就是Emerj的意义所在)。当戈泽尔写信时，我认真对待他的想法(这是他关于人工智能友好性的许多详细论文之一，值得深入研究)。当博斯特罗姆写道，我也一样，甚至他的诗歌都无人提及而我——像其他人一样——很可能是出于本能来捍卫自己的信仰，而不考虑可能是由于手头的事情。如果你是人类，你可能也会这样。
My fear is that Musk’s fears about AI – and their current ripple effects – are not going to be catalysis for fruitful conversation about the development and governance of emerging technologies, but will just be more fodder to bicker over, more positions to defend, more “enemy making” to engage in (REF。圣基恩)。这将是民主党人维尼poohing那些愚蠢的共和党人和那些白痴民主党人嘲笑共和党人，从头再来。
我认为这是一场悲剧，因为我相信我们之间有很多利害关系。
雨果·德·加里斯认为，在未来的几十年里，那些希望看到机器在智力上超越人类的人和那些不希望发生这种发展的人之间，可能会发生一场大战(参见下面的“Artilect War”剪辑)。
对于所有我知道它会在300年之后的任何这成为一个认真的考虑。这似乎是合理的假设，然而，这些将是我们在未来20到40年内面临的担忧。我认为这是悲惨的，如果这些问题是要我们分开......因为它似乎理想的国家团结起来，认真对待的周围，将不可避免地改变生活的过程中，我们知道它的技术发展证明所有的方式。如果我们因此相对于早环境做，我们可能已经成为我们这个星球的好管家。
我很幸运采访了来自斯坦福大学、牛津大学等地的数十名计算机科学博士和人工智能研究人员在我看来，关于人工智能风险最清楚的一点是，人们对这种担忧的合法性没有明显的共识。奇怪的是,尽管一些研究人员和科学家似乎非常开放评估所有方面的争论,许多AI-threat-concerned和non-AI-threat-concerned专家的结论,似乎觉得轻松正确,有时表达完全漠视其他研究人员的观点和不同的意见。
整个动态让我想起蒙田的一篇文章，他引用了凯撒的话:
“幸好大自然的常见副，我们立刻休息最有信心，并获得最大的担忧，从看不见的东西，隐蔽，和未知。” - 德·贝洛民事，十一。4。
与全球变暖、家庭暴力或核扩散等问题不同，人工智能几乎完全是推测性的——至少是想象出来的、强大无比的未来形式。
人工智能未来的不可见和未知的本质，会让我们或多或少地追求这种担忧的真实性和有效性，还是会让我们更有可能两极分化，以正义的目的用对立的信念打败我们的敌人?我自己的担心是，作为人类，我们将更关心维护自己的信仰或为个人目标而战，而不是公开评估和管理人工智能的潜在风险。
The potential tragedy of Musk’s comments and their reverberations is that they may be just a small ripple in an eventually frothy sea of argument that might just overlook AI safety, rife with all the same fruitless mud-slinging and politicking that’s held back progress on countless important issues before. I am crossing my fingers that this is not the case.
