活动名称:人工智能和机器人:重塑犯罪,恐怖主义和安全的未来
事件主持人:联合国总部,纽约
日期:2019年4月2日
队员:Daniel Faggella,Emerj创始人兼首席执行官
演示文章称号:超越Deew Quakes - AI和以方便生成一切的安全问题
发生了什么
伊拉克利·贝里泽他是犯罪司法所人工智能和机器人倡议的负责人,邀请我们在联合国总部发言。该活动由联合国和阿拉伯联合酋长国、荷兰和国际刑警组织的领导人主办。出席会议的有来自不同国家的代表和联合国内外不同组织的代表。
Irakli基本上要求我们帮助展示人工智能在以编程方式生成内容方面的一些能力,例如深度伪造,人工智能可以假装成一个人,说出那个人从未说过的话。
这包括并不限于使总统宣布他从未制造或创建了从未发生过的事件的安全摄像头镜头。
我们的任务是拍摄了一分钟的Unicri导演A.I.,贝蒂娜·图奇·巴特西奥塔斯我们还把她的脸贴在模特头上,让模特说话。我们编辑了贝蒂娜的声音,说出了我们想让她说的话。
我们的视频在各组织的一些正式陈述后启动了活动。视频有一些好笑。我们还汇总了一个视频谈论这项技术对执法部门的后果,这是在深刻的假视频之后显示的。
我们学到了什么
-
似乎有一个常见的情绪在各国围绕其中一些技术围绕其中一些技术有所了解。也许这些技术中的一些是危险的,可能需要国际治理。显然,偶尔会在联合国发生时偶尔倾斜,但有很多模糊的呼吁对国际治理似乎表明代表们了解这些技术可能是如何影响的事实。
- 还讨论了社会公正和平等问题。例如,一位代表提到,只有一小部分警官是女性,因此人工智能算法可能偏向于男性的视角。如果我们着眼于预测某些地区的犯罪,人们会质疑他们是否会对某些种族产生偏见。一位代表讨论了算法如何对说一种相对晦涩语言的人产生偏见。
- 在由安妮塔·哈森伯格我问Interpol创新中心的主任,我问道约翰·米勒,纽约警察局情报和反恐副专员,他如何看待私营部门将如何帮助开发执法人工智能技术。他提到,在纽约警察局内部,不太可能有太多的技术创新。它确实将由供应商提供,因为供应商必须努力向执法部门提供这些技术。他说,我们不必指望执法部门或政府在内部开发这些技术。我们应该期望供应商公司创造这些技术,而执法部门的团队中有足够的人才能够审查这些技术并购买它们。
- 贝里泽主持了他自己的小组讨论。Geoffrey Odlum.是一位前美国外交官和全球事务顾问,坐在小组上,真正重视私营部门与美国警察/军事世界之间的文化鸿沟。根据Odlum的说法,技术创新者和警察与警察与军队之间存在脱节,这是美国升级其系统的主要障碍,并能够利用这些技术在国防和安全方面。一般来说,科技公司厌恶与政府合作,以某种方式需要弥合文化鸿沟。
- 该活动的完整视频可在联合国电视台播放
- 1:07:00–来自Daniel Faggella的Emerj deepfake和AI演示
- 1:14:00–安妮塔·哈森伯格(国际刑警组织)小组
- 1:54:00 - Irakli Beridze(Unicri)的小组