这篇文章的总的前提是不同于大多数我以前的AI电源的文章。
虽然大多数在本系列文章中有相关的组织与政府之间的权力短期斗争与问候规，数据和国际政策，这篇文章将关注人工智能和技术正在走向的长期轨迹，以及这对最强大的国家和组织意味着什么。
从长远来看（15-40年前），围绕人工智能的权力斗争不会随着经济和军事竞争而结束。最终，人工智能的力量将包括确定情报本身的轨迹。
这可能涉及天文数字的强大的强人工智能（AGI）和/或大大更有能力创造和强大的认知提高人的创造（超人智慧转型）。
微软对OpenAI的10亿美元投资什么将成为一个集商业和国家努力，以确定谁应建立超级智能和人性化，除非做了明显的努力避免军备竞赛动态的那场比赛的确会军备竞赛更明显的是在开始。
这就是这篇文章是关于什么的。
我将从一系列关于人工智能和神经技术能力在不久的将来爆炸的主张开始，我将提出一系列我相信企业和政府领导人可以采取的措施，以减轻战争或大冲突，促进更好的人工智能未来。
这不是一套完整的思路，这是相同的号角自2013年起，即我已经吹捧的形式化：
人类需要讨论并决定它应该把自己变成什么样子(即智能本身的轨迹)，人类需要在全球范围内聚集起来，讨论并决定如何在没有可怕的、竞争性的、暴力冲突的情况下实现后人类的未来。
当我被召唤为联合国还是今天国际刑警组织，它是关于AI的短期安全隐患（deepfakes，网络安全，治安，防御）。在未来的一两年内，我希望能鼓励对话更加移向挑剔的一个积极的道路迈进未来将涉及提高认知能力（脑机接口），强大的AI，以及地缘政治的激进变化和人类生存条件。
随着电力，竞争和冲突将成为常态，如果替代动态不自觉地确立和实现工作。当涉及到人类智慧引导的未来：我们要么团结起来，要么战斗。
这就是本文的假设。
从我的第一次的TEDx演讲在2014年上篇danfaggella.com回到几年前，这个主题占据了我的时间，迫使我首先创建了Emerj。
我看这一套想法，第一次尝试在现蕾以后四十年的权力斗争的圈子，我欢迎所有的挑战，它的前提，建议的行动，以及结论的课程。
我们将与驻地开始。
后人类房地
技术前提：
- 超级强大的AI将围绕二零四零年至2060年成为可行。AI是接近人类水平的智能整顿经济，权力机制和人类社会的几乎所有元素（见Emerj的研究奇异时间表）。
- 人类认知的增强将是可行的周围二〇四〇年至2060年。人们将能够通过神经接口，以增加他们的情绪和认知能力和经验，极大地改变了人类的经验（即超人，看到一个名为我的文章“有意识修修补补“）。
道德前提：
- 后人类智慧的轨迹是所有的时间了最重要的一点可以想象到这一点。人类是地球上占主导地位，且由于我们丰富的意识，要做到理解和创造能力的道德价值。从根本上认知提高人类的出现。或超级智能AI有显着更大的理解能力，将成为地球上最道德后果的事件。
关于人与权力的本质前提：
- 人类将自私地尽一切理应自己的目标。人类既不是不道德的或道德的，但不道德的。人类可以预期在任何时候自己的最佳利益，在任何情况下采取行动。这是被称为理论心理利己主义，已经由政策思想家纳耶夫·艾尔 - 罗德汉阐述了（听我们采访的Al-Rodhan这里）。
- 军备竞赛是新兴技术的默认条件;它是自然状态的一部分。个人或团体将以施加经济或物质控制或镇压竞争对手为目标。目标是不受挑战的相对实力。
- AGI时代的战争将是对人类生存的威胁。围绕超级强大的人工智能和认知增强技术展开的军备竞赛可能会导致一场正面的灾难性战争，并在全球范围内产生巨大的不利影响。可能通过自主武器、AGI、生物武器、放射性和核打击而灭绝人类（见：德加里斯“Gigadeath”）。
- 所有的物种都只是简单地死去或进化成别的东西。如果有足够长的时间，最聪明的人(那些将在他们之后指挥未来智能轨迹的人)将不是人类。当人类从某个消失已久的祖先开始繁衍时，在足够长的时间范围内，我们要么灭绝，要么成为某个超越人类的物种的一个消失已久的祖先。
- 技术开发是一种加速的演变。减慢进化是可能的，但不能阻止它。最好的人类所能做的就是引导智力的发展，从目前的技术，新的技术，新的物种，我们认为是最有利的方向逐渐转变，即从目前的物种。
全球管理和团结的需要
如果上述前提抱真，则避开了战争或存在的风险将可能涉及：
- 创建治理体系和国际合作，以防止人工智能和超人类主义成为一个有竞争力的国家对国家的动态，以确定什么是对所有人最好的。
- 制作后人类的过渡和未来的情报知和重要的两个全球公民，以及最强大的国家和组织的领导人的问题。
为了实现这种联合治理工作中，人类应建立：
- 建立全球治理结构
- 团结的人类之间的毡感 - 或者至少毡意义上的侵略和缺乏信任是不可取的，因为他们的风险相互确保摧毁
一种整体团结的未来智能治理结构需要：
- 确定和维护未来智能场景的活“地图”(指导)。人类可能走向的情景地图，包括可取和不可取的情景。这将涉及全球民众和各国领导人的支持，并将涉及一项最大限度地促进安全与有益的全球情报发展的计划。
- 围绕合法开发和使用情报技术（透明度）确定一套生活标准。这个组织需要发现并阻止新兴技术和人工智能的囤积、侵略和鲁莽发展。这必须比目前的核不扩散协定复杂得多，细致入微得多，将涉及一套反应迅速、不断演变的法律和规则，以及一个确保透明度的强有力的全球工作队。
人类团结的剧变和进化的脸
为了开始全球治理结构的建设，人类将需要为智能本身的未来确定可取和不可取的目标和目的地。这可能涉及下列步骤:
- 确定最终的远大目标和价值观（辉煌、理想但遥远的未来）
- 辨别最好和不合格的长期（比如，100 - 200年），为人类或智能生活场景
- 辨别最好和不合格的短期（比如，20〜60岁），为人类或智能生活场景
- 判断当前的政策，国际关系准则，技术规范，这将需要在地方得到这些初始后人类的过渡场景
- 确定个人、国家和组织在形成上述“3”方面的作用
这个过程显然超过五个要点复杂，需要在不断迭代，并调整着人类移动。
不过，我认为，如果我们的目标是避免战争和头部与避免灾难的最好机会未来智能方案这五个总体目标应是国际充实。
下面是这些优先事项可被视觉表示：
有关和平与人类团结的书籍和论文很多。我从围绕威斯特伐利亚和平和联合国成立的历史中汲取了价值。历史上到处都是冲突和解决的例子，对这些周期的评估来自于Ibn Khaldun的历史绪论康德永久和平。
我将留给更有资格的学者对这一问题进行更深入的评估，但我想谈谈我认为在当前的人工智能军备竞赛中既及时又具体相关的几个重要主题和议题。
鼓励开放交流
公开交流的群体更容易理解彼此的人性，也更不容易被彼此的差异所吓倒。仇外心理和民族主义似乎更可能在一个孤立的群体中蓬勃发展，而这个群体只能被讲述自己的优越感和他人的自卑感。
AI的语言翻译
拥有一个通用的实时语言翻译器将是本世纪自然语言处理最重要的发展之一。自由地与任何人谈论任何事情的能力将允许更多的人建立联系(为了生意，为了友谊，为了享受艺术)。虽然这也可能导致更多的口头冲突，但似乎有可能是联系和贸易建立了使战争不太可能发生的纽带(见:康德的永久和平）。
无国界许可证相对不受阻碍地沟通
这对于没有联系的文化来说尤为重要。在我看来，美中之间的跨境交流(英语对普通话，普通话对英语)增多几乎没有什么负面影响，除非美国和中国政府将这些信息用于间谍活动。
这可能是人对人的社会关系跨越国界的锻造可以做更多的好总量比间谍和“听”，由中情局或中国共产党会做伤害。
多边努力，对科技发展和治理
各国政府和citizenries要想方设法，以得出对智力的未来轨迹共享的共识，参与AI和neurotech激励和组管理组织。这可能包括：
- 鼓励构思、讨论和合作的政府间组织和会议
- 大学课程，青年交流项目
（注：这些努力成为宣传要么间谍工具强横的执政党，这是一个较长的问题，我将不得不在其他地方的地址）。
人民规则
民主国家很少发生战争。受过教育的人通常不愿意把自己的孩子送去打仗，也不愿意与潜在的贸易伙伴制造混乱。(见:民主和平论）。这可能是我自己的西方偏见，但我相信相当坚定地认为更多的民主意味着更多的和平，更加遵守人权，并通过像世界银行或完全不同类型的组织机构参与全球多边合作更大的能力。
挑战，机遇和理由法案
挑战
- 联合治理可能没有战争是不可能的，而今天的战争给武器可能意味着人类的灭绝。即使在这样的战争（如果我们活了下来），统一管理是不可能的。
- 可能不可能透明地管理这些技术（Bostrom的沙子和微波类比）。另外，人工智能只是代码）。
- 可能的情况是，AI / neurotech的不受控制的增殖和冲突的结果由此将创造一个大大能力更强，更强大的AI将必须生存，学习，并填充银河系更大的能力。这是不可能告诉什么路径将导致更多或更少的痛苦。
- 未使用或自由主义的自由（言论自由，选举产生的官员）非常感兴趣，并没有将改变从独裁（即中国的儒家价值观，帝王的历史其治理结构和文化的“天命“）。
机会
- 我们也许能够消除极端贫困，消除国际战争的诱因
- 在广阔而幸福的世界里，我们也许能够长久地保持我们的意识（见之前的文章：方糖，数字化和消化）。
- 我们可能会在地球上增加善的感觉(人工智能或提升)，并在整个银河系甚至更远的地方增加功利的善(参见我的TEDx演讲:“人工智能能让世界变得更美好吗？“）。
- 我们也许可以利用技术来增加在所有国家和边界的国际化精神，使团结毡感成为常态（见伊本·赫勒敦的团结思想）。
理由法案
- 默认情况下，AI和neurotechnologies的发展将最强大的国际球员（主要是美国和中国之间的军备竞赛动态进行，并在混合作为创新的一些其他国家，而大多数小，弱国将试图成为监管机构)只有经过深思熟虑的全球努力才有可能阻止公开的冲突。
- 如果我们不毁灭自己，来自地球的未来智慧将有可能在银河系中繁衍生息，探索和发现宇宙比我们人类所能发现的要多得数十亿倍。
- 如果有一个意义或目的的宇宙，AGI是大大更有可能发现它比人类（谁没有这样的终极理解）。
- 塑造智慧的未来的能力是人类的最高可以想象的创作行为和最道德后果的行动，我们也可能采取。
虽然我相信有令人信服的理由把这些后人类的过渡问题的前沿，为国际治理和合作，也绝对没有清晰的路径前进。事实上，一些变量和因素包括使几乎不可能实现以下目标不冲突：（一）全球人类团结，以及（b）为AI和neurotechnologies发展的共同目标。
其中的一些因素可能会完全阻止和平智能起飞包括：
- 这些技术发展的速度比官僚机构可以处理他们更快。技术管理是很难的，全球科技治理（即更多的官僚机构）几乎可以肯定更难。
- 可能不可能就更好的人类未来（“北极星目标”）达成一致，也不可能就如何监管这些目标达成一致。
- 预测新的和强大的新兴技术的风险和机会基本上是不可能的。
- 这份名单是无尽的可能
总结思考：“最强”？
这里的关键是激励。
国家和组织将被鼓励(a)发展或控制人工一般智能，(b)在这样做的同时显得善良和仁慈。目标将是我们一直以来的目标:
无懈可击的相对功率。
一条霸权的“护城河”如此巨大，以至于获胜的实体成为这个星球的召唤者和未来最伟大的原动力。主导这些技术的集团几乎肯定会是最强大、最具潜力的最终人类帝国（文章：最终王国）。
我之前提到过在我的文章被称为基板专卖，但总的前提是：
在21世纪剩下的时间里，世界上最强大的国家或组织（无论是经济、政治还是军事）之间的所有竞争都是为了获得对承载人类经验和人工智能的计算基础的控制权。
随着人们生活越来越多的虚拟世界，和AI和neurotech彻底改变人类生存条件和社会的性质，最终控制权的权力斗争将进入脱颖而出。如果没有直接的计划和公开的国际努力，以避免冲突和军备竞赛，所有我们会是冲突和军备竞赛。
自然状态就是自然状态:自然状态。有竞争力的，暴力与合作仅发生，只要它理应当事人。
我们团结起来，否则我们将战斗。而在认知提高人类和超强启用AI-武器的世界，战斗并没有为任何人做的多好。
很多对这一全球相持不下的情况最初的反应是幼稚和不切实际的：
- 说服奇异道德良好的人议定并简单地有是人类的共同目标（根本不可能）
- 教人类停止自私和不道德的（根本不可能）
我相信，任何一种写实的手法创作存在，以确保人类朝着共享贴人轨迹的目标，我们相信移动的国际秩序是好的是：
- 接受人的自私本性，包括我们自己，我们的盟友，以及所有其他人类和群体
- 承认没有普遍“正确”的价值观或道德，我们必须与灰色区域永久居住和交易
- 建立一个国际秩序，确保人类的广泛利益，并直接防止自私的动机
我真诚地希望，我们将能够提前忍受的转换。
在他临终前，亚历山大问：
“我的王，向谁我们给国吗？”
他声称已回答道：
“最强”。
亚历山大是正确的。王国进到最强。
那么，什么是强：在不可逾越的挑战面前人类的自私和部落或人类的团结？
时间会证明一切的。
