Deepfakes取得了他们的方式到的许多第一世界的雷达。
和许多科技现象一样，deepfakes起源于色情编辑(最初使deepfakes流行起来的Reddit页面就是色情编辑)禁止在2018年初）。
今年4月，我被要求由犯罪和司法研究所（联合国的犯罪和司法翼）提出在联合国总部的风险和deepfakes的机遇和程序生成的内容为一个名为召开：人工智能与机器人：重塑犯罪，恐怖主义和安全的未来。
相反谈论的话题，我们决定这将是更好的技术展示给联合国，政府间组织和执法领导出席活动。所以我们采取了犯罪司法所主任贝蒂娜图斯Bartsiotas女士的视频，并创建了一个deepfake，通过使用另一个人她的脸部模型改变了她的话和陈述。
这个项目的时间安排很紧，预算很少，只有一分钟的数据。有了这些限制，用开源技术以编程方式生成视频和语音并不容易，但从各方面考虑，视频还是相当不错的。在最初的演示是一个细分的更广泛的关注，编程生成的内容，这将是这篇文章的重点:
联合国的报告必须简短，我最初关于政府控制虚拟世界的一些言论——以及关于人工智能宣传的中国新闻播音员——被要求删除。
在这篇文章中，我将致力于充实编程生成一切的思想，以及它的一些短期和长期考虑。我将按以下顺序阐述我的观点：
- 程序生成万物的品种
- 积极应用
- -应用程序
- 近期威胁
- 长期考虑
我们将从检查程序生成内容的范围开始:
程序生成万物的品种
有几乎无限的AI-创建的内容人数 - 从建筑设计，到视频游戏和超越。我将探讨一些较为发达程序生成的内容类型，对速度的技术的发展可能时，背景：
面
这巴拉克奥巴马和约旦皮尔的deepfake视频有助于使该技术的公众意识。这也是一个幽默，易介绍说技术可以做到：
大理博物馆最近使用过的萨尔瓦多·达利的大量镜头，和细节这个声音，报价和面部表情，以编程方式生成大理一个完整的虚拟副本。该技术仍处于初期阶段，但相比于可能是什么可能只是前几年的结果是壮观的：
但是AI不只是模仿活人的面孔，或重新创建这些死人的。AI也有助于编程生成全新的面孔，谁从来没有实际存在的虚拟的“人”。该技术是越来越好，每隔几个月，该程序生成的面部，几乎不可能从实物拍照分辨的地步。左侧的面在2014年进行了程序生成，以及那些在右边在2019年产生了：
人体和运动
培训了人体运动的算法可以采取人体模型和“让他们跳舞”，由线，防止其运动模式，如从下面卡罗琳陈优秀的视频。在高分辨率这项技术仍是笨重的，但两年之内应该有接近真实跳舞的视频没有任何区别，并且程序生成的舞蹈：
更少复杂的建模可以做更多有限的视频数据:
未来事件
麻省理工学院(MIT)计算机科学与工程学院(CSAIL)训练了算法，根据静态图像预测未来的视频帧，方法是根据类似视频的视频片段(如海滩上的海浪)训练一个深度学习系统:
虚拟环境
NVIDIA使人们能够拍摄一系列简单的照片，并将它们变成一个身临其境的3D虚拟世界。通过使用激光雷达和图像数据在无数城市景观上训练机器学习系统，可以将单个图像外推到整个三维场景中：
NVIDIA还创建了一个程序，可以将一个简单的微软绘画般的图像变成丰富的自然场景，包括树木、岩石、草地、水和其他自然元素。在两三年内，我们可以合理地假设这些图像与照片无法区分：
艺术品
下面这些画都是伦勃朗画的。除了右下角的那个，它是由人工智能系统编程生成的培训了伦勃朗的画作等。的差异实质上没有区别：
音乐
人工智能产生的音乐在过去的两年里有了显著的进步，尽管其中大部分不是很好。下面这首歌据称是由卢森堡初创公司AIVA的人工智能创作的:
我们应该预计，这些音乐应用程序将在未来几年得到显著发展，到了非技术用户可以迭代和开发新的音乐创作超出我们今天所知道的程度。
给它4年。另外，放@OpenAI上了几个月。
在10年中，许多“最好”的歌曲/音乐可以被写入W / AI从援助。
20年之内的人就能听只为他们创建程序生成的音乐，他们的心情/喜好。https://t.co/Ei62HIFxKG
- Daniel Faggella (@danfaggella)2019年4月27日
重大转变
这里的变化涉及多易模仿秀和艺术的有趣的新形式。最大的变化可以概括如下：
五、六代人以来，图像、音频和视频都是实际发生的事件的产物。这种情况很快就会消失。
这是对虚拟世界和程序产生的经验一个更大转变的预兆。我认为它会往下走是这样的：
在深入研究这些技术的更深远的影响之前(有兴趣的读者可以在我之前的文章莲花食者和世界食者） - 我会探讨一些这些技术的潜在积极和消极影响：
积极应用
想象一下，有一台机器创造了数以万计的可能设计为一个建筑项目，或为公司标志，并提炼这些选项降至根据你的喜好了十几个选项：
- 不久的将来，年轻的学生也许可以通过与虚拟的乔治华盛顿对话来学习美国历史。
- 想象一下，通过在人工智能镜子中观察，能够准确地看到你身上的衣服或发型。
- 想象一下，有一个通过编程生成的项目经理，他可以完美地控制任务和团队，根据每个团队成员的偏好来校准请求和交互。
我们都希望获得更多的比我们今天可以 - 去探索，去看看，去感受，去体验 - 更多。如果我们是乐观主义者，也许变得越来越作出更大的贡献。在爱默生的话：
这种近乎无所不在的存在，使我们的处境变得愚蠢。在一个天上的日子里，当天地相逢，互相装饰的时候，我们只能用一次，这似乎是一种贫乏:我们希望有一千个头，一千个身体，我们可以在许多方面和许多地方赞美它的无限的美。
AI-启用虚拟世界将鼓励和允许多少这种探索，学习和经验。但是，这也将是必然的力量。就像今天的互联网，我们很多人将无法居住或工作，而在未来的几十年里像这样的技术。
编程生成架构工具，编程，工程，等等。超过务实的，该技术可能拖累我们条件更差，或公然恶意方式使用。
底片应用 - 超越Deepfakes
- 试想一下，这样的广告和迷人实时定制你的喜好，你不可能忽略它。
- 想象虚拟世界和数字平台很刺激和奖励,你从来都没有想过要离开他们,或者你的行为可以巧妙地塑造,购买产品,与广告,或者用q1政治信仰——所有没有你意识到它(Jaron Lanier所称为“终极斯金纳箱“）。
- 想象一下，通过程序生成的新闻主播能够准确地向每个县（或者如果通过互联网，则向每个用户）说出他们需要说的话，塑造公众的信念，以责成执政党：
- Imagine young people living the majority of their time (entertainment, learning, socializing) in virtual worlds, losing the ability to socialize with other real humans who are not programmatically generated to fulfill their own desires (MIT’s Sherry Turkle has been exploring these topics for years, listen to这里是我们对特克尔的采访）。
这可能是更容易反乌托邦不是空想的变戏法的图像，我在这里不是画这种技术主要是在光线不好的。
近期威胁
以编程方式生成的内容对现有的政治秩序提出了许多重要的挑战。我将强调目前值得注意的三种威胁:
民主和自由的削弱
我们认为民主政体是最强大、后和平、最繁荣的政府形式。我们认为，一个国家的生活质量和权力将与该国的民主程度相关。事实并非如此。
- 民主可以从外面被篡改从国家谁不这样篡改能够自己。俄罗斯领域展开合作与执行其数据保留和过滤的基础设施中国长城防火墙安全官员。这些国家在将程序生成到开放的民主政体的优势，同时在远较少受到同一种操作的（由于一党政府与自上而下的控制）。
- 民主可以从里面被篡改作为旨在争夺权力的敌对派系和团体。在这个美国政治分裂程度高得可耻的时刻，双方肯定有极端派系认为有理由发布一段程序生成的视频，指控政敌做了或说了可怕的事情。如果没有别的办法，这只会使真相变得难以接近，并挑起不和。
极权主义政权统治着虚拟世界
一党专制国家可以陶冶他们的公民的马歇尔他们心目中对政党的目标。从程序生成新闻广播员，在各种网络媒体宣传微妙插入，在虚拟世界中基于AI-监控公民活动 - 独裁政权可以鼓励忠诚，民族主义，或向敌人恶劣的情绪。
将私营部门和学术界的资源集中起来实现执政党的目标（经济和军事优势）的能力，可能会大大提高极权国家的关键人工智能能力。
鼓励封闭的资讯社会
我担心，完全缺乏媒体的信任，与其他国家的政治事务持久干扰和舆论相结合，会变成当前开放的社会进入封闭和偏执的人。国可能会成为更信任彼此，和必要性可能被迫出独特的信息协议建立自己的国家，他们可以提供关键信息，信任的系统。
- 外界信息的不信任意味着“其他”的不信任。越来越国际化的精神，可能会被增强的组和出组，朋友和敌人的感觉虚拟障碍阴云密布。如果有一个和平的21世纪的任何希望，我相信部落“等”一个衰落的感觉是高的名单上 - 而大幅降低的信任会这样关键因素降低到和平与合作克服人文重大挑战。
- 缺乏国家之间的信任可能更容易导致冲突。此外，各国都将争取在整个虚拟世界更安全的保持自己（见底专卖下面这篇文章，看看我的文章最后一个王国）。
长期考虑
大虚拟逃亡
如果有足够长的时间，人类将会逐渐把越来越多的时间花在虚拟世界中。可以说，很多人的大部分生活都是在网上度过的。许多人把他们大部分的交流、娱乐、学习和工作都放在网上。这为我们的社交、学习和工作需求提供了便利和更大的“范围”——但它也可能是一种真正的社会问题的拐杖。
日本隐蔽青年现象已导致许多年轻人（男性居多）隔离自己在自己的房间，与现实世界中选择视频游戏，在线互动，色情过度参与。许多这些人开始青春期或成年早期的隐蔽青年的经验，并保持在父母的家了几十年，很少离开自己的故土 - 而且完全从工作或现实世界的友谊撤退。在过去的二十年里，作为隐蔽青年激增，所以有日本的自杀率。
在美国，中年（大多是白色）男人，因为1999年大致犯创纪录的数字自杀这正好与增加所谓的利率“死亡的绝望”由于吸毒过量和酒精中毒。
人们寻求视频游戏，药物，或自杀，因为他们提供了一个逃生。
“逍遥游”，我想，是这里的关键词。
随着生活的传统模式正在消失快节奏的技术变革，职场发展，和社会趋势的脸 - 含义变得越来越难找到很多。我一直认为，日本的隐蔽青年是整个世界第一的煤矿里的金丝雀 - 和逃避毫无意义，焦虑和抑郁将越来越多地通过虚拟方式进行。如果友谊，冒险，有些意思的外表可以通过超个性化，程序生成的经验实现 - 很少有人会拒绝这些经验对于“真实”的世界。
对千禧一代来说，虚拟世界相当“真实”
年轻一代更是沉浸于虚拟世界。Z世代的61％不能超过8小时而不在线。Z世代是25％更有可能比婴儿潮一代和X一代选择数码世界里，网站或应用程序可以预测和提供什么样的用户需要在任何时候。定制的虚拟世界是年轻人想要什么 - 并且是在网上或在数字平台上，所有的一天是年轻人做的。
你怎么认为即使年轻一代的经验，会是什么？
为下一代,虚拟和数字世界比现实世界更“真实”,在20 - 30年内我预言,人类将在以编程方式生成更花时间,定制的在线世界——他们中的许多人完全忽略了物质世界之外的实际生活必需品,这将在某种程度上归结为营养摄入,多浪费消除,和一些基本的卫生。
关于数字逃逸，我们必须扪心自问：
- 我们应该鼓励年轻人少花点时间在科技上，多接触现实世界吗?或者他们更适合(工作、友谊、生活)像同龄人一样沉浸在虚拟世界中?
- 是否有可能使其转变为一个主要的虚拟世界对人类整体正影响？怎么样？
衬底垄断
整个“程序生成的一切”的范式最终导致的是谁在控制的问题。在未来20年，这一长期战斗拥有该虚拟世界将明确国际政治和大企业。在我的全短文衬底垄断我总结一句话是这样的：
在21世纪剩下的时间里，世界上最强大的国家或组织之间的所有竞争（无论是经济竞争、政治竞争还是军事冲突）都是为了获得对承载人类经验和人工智能的计算基础的控制。
I won’t go into vastly more detail in this essay, for the sake of time – but at 19 minutes into my interview for The Simulation, I explain some of the basic dynamics of why I believe the virtual world will become the pinnacle of power in the 21st century, and how it might play out:
关于基板的垄断，我们不得不自问：
- 如果一个政府或公司控制虚拟世界？如果有什么人可以在这个虚拟空间访问或经历任何限制吗？
- 是否有可能装配国家的全球性联盟来管理虚拟世界是所有人公平和安全的？
- 威尔国家总的虚拟控制和对他们的公民的头脑，牢牢把握（中国)在利用虚拟公民实现执政党的卓越和权力目标方面拥有明显的竞争优势?
