安全是一个宽泛的术语，在工业和政府中，从个人到全国，有各种各样的“安全”背景。人工智能和机器学习技术正在这一领域得到应用和发展。
虽然这些技术中的许多都具有潜力，并已大大造福于社会（例如，有助于减少信用卡欺诈），但这些技术不断发展的社会环境和应用往往会留下更多的问题，而不是答案——就规则、法规和道德判断而言。人工智能和安全在很多方面是相互促进的，现代机器学习方法似乎正及时到来，以填补以前基于规则的数据安全系统的空白。
这篇文章的目的是目前的趋势和应用阐明，在行业和政府，在人工智能的交叉点和安全领域。除了聚光灯目前的用途（绝不含），我们也触及了崭露头角的应用和创新的空间（由不断变化的个人需求和较大的人口触发）。
我们引用我们几个在这一领域的研究人员和从业者的采访，他们的见解和经验，负责一些在这篇文章中探讨了应用。在他们的不同的反应点的最重要的主题，以一个重要的启示 - 用人工智能来保持领先的攻击，错误和系统故障的至少一个步骤。以及支配使用这些技术的规章制度 - 重要的是要强调的是，威胁和社会环境的发展，因此也将这项技术需要适应是很重要的。
这篇文章分为三个部分：
- 与安全应用程序配对的人工智能的实际用例
- 潜在的应用前景
- 人工智能和安全性方面的基本词汇
未来潜在的应用旨在激发人们对人工智能技术未来发展方向的一些想法，并阐明一些关键障碍和挑战，在人工智能技术开始充分发挥潜力之前，这些障碍和挑战需要协调一致。
人工智能和安全应用 - 真实世界的例子
1–网络攻击（防御黑客）和软件错误/故障
为我们的计算机和智能设备提供动力的软件在代码上容易出错，同时也容易受到人类黑客的攻击。潜在的影响是巨大的，范围从个人的安全到国家或地区的水平。路易斯维尔大学(University of Louisville)工程学院(Speed School of Engineering)副教授、网络安全实验室(Cyber Security Lab)创始人兼主任罗曼·v·亚姆波尔斯基(Roman V. Yampolskiy)博士不仅关注人类黑客，还关注人工智能本身可能以何种方式攻击我们的系统。“我们开始看到非常智能的计算机病毒，能够修改无人机代码，改变它们的行为，穿透目标，”罗曼说。
需要系统能够寻找和修复这些错误和漏洞,以及防御的攻击,已经发展的紧迫感,有许多项目和最终公司让他们开始研究和/或资助的军事(DARPA)和研究型大学。
安全的一家总部位于匹兹堡的初创公司，在卡内基梅隆大学多年的研究基础上成立，在DARPA最近的2016年创建了一个成功的安全机器人网络大挑战。AEG（自动利用代）是“第一端至端系统为全自动利用代“根据CMU团队自己对其人工智能的描述，它被命名为‘Mayhem’。AEG是为智能设备和设备中越来越多的企业软件和现成软件开发的，它可以发现并确定这个bug是否可以被利用。bug是软件中的错误，可能导致意外的结果、行为或潜在的安全漏洞。
如果找到，机器人自主地产生即作保漏洞“劫持利用串工作的控制流”。实用AEG具有重要的国防应用。例如，自动化的签名生成算法作为输入的一组攻击的，并输出一个入侵检测系统（IDS）签名（也称为一个输入滤波器）识别随后的攻击和利用变体。
从历史上看，基于签名的解决方案似乎只能帮助我们预测网络安全攻击。“各种各样的（网络）攻击，每天数以万计的不同变体……这就是基于规则的、基于签名的系统现在是个问题……我们（网络安全防御）将转向规定性分析，在这里机器将在没有人为干预的情况下进行检测和交互，”伊戈尔·贝卡洛夫，Securonix的首席科学家。
在预测方面，麻省理工学院计算机科学和人工智能实验室（CSAIL）和机器学习启动PatternEx最近开发的人工智能平台AI2他们声称由人类专家不断引入输入显著比现有的系统更好地预测网络攻击。该技术是由人类的分析师和AI系统，被称为主动上下文建模之间的反馈连续循环利用，并能够实时学习。在提交给IEEE同行评议的论文，PatternEx研究人员比较了一个纯粹的机器学习为基础的解决方案，该解决方案PatternEx，发现他们的算法系统由10倍以上的机器只有学习型的解决方案，提高攻击检测率。
2-安全和预防犯罪
纽约警察局的CompStat(计算机统计学)可以被称为“人工智能”的早期形式。它于1995年首次实施，是一个系统的方法，包括哲学和组织管理，但依赖于底层的软件工具。从本质上讲，它是第一个用于“预测性警务”的工具，并从那以后扩展到全国许多警察局。
因为这些“开拓”次预测分析和其他AI-动力犯罪分析工具取得了显著的进步。加州军械库（最近重组为Avata智能多样化的应用到医疗和其他领域），之后一直在使用AI与博弈论预测何时恐怖分子或其他威胁将罢工的目标. 海岸警卫队使用军械库软件纽约、波士顿和洛杉矶的港口安全，利用包括乘客人数和交通变化的数据来源，制定一个时间表，让恐怖分子很难预测何时会增加警力。
3 - 隐私保护
在6月份的开发者大会上，苹果(Apple)在追求差异化隐私方面做出了出人意料的声明为继续确保客户隐私（苹果公司的标志），也与使用数据来提供定制的用户体验的价值眼睛的方法。微分隐私已经写了好几年了，但是这是一个相对较新的方法，对于它的可伸缩性有混合的反馈。
美国国家科学院最近的一项研究（2015年）得出的结论是，除了大量收集和分析民用元数据之外，目前还没有其他技术替代品。差异隐私提供了一种在网络上维护私有数据的方法，同时为受保护的子群体提供有针对性的“可证明的保证”使用算法调查目标人群。这种类型的解决方案可以在试图找到图案或恐怖分子的迹象在平民使用，发现受感染的市民更大的健康人群中，除其他情形。
在一个大数据和隐私给总统的报告2014年（这是不是再在网上为我们这篇文章的2017年9月更新），他对安全和技术顾问委员会指出，“隐私保证是更加岌岌可危。Since not‐yet‐invented applications will have access to not‐yet‐imagined new sources of data, as well as to not‐yet‐discovered powerful algorithms, it’s much harder to provide, today, technological safeguards against a new route to violation of privacy tomorrow. Security deals with tomorrow’s threats against today’s platforms…But privacy deals with tomorrow’s threats against tomorrow’s platforms, since those “platforms” comprise not just hardware and software, but also new kinds of data and new algorithms.”
数据挖掘和隐私的问题特别复杂，主要是因为机器学习和数据挖掘技术张贴威胁无视个人隐私的法律剥削或非法侵入的后果。良好的政策是长期的键，机器学习软件的发展和数据被意外偶然发现或通过各行业分析师故意开采。
在工业和消费者潜在的未来应用
1 -物联网系统安全
今年早些时候，我们曾有机会与AT&T讨论他们采用人工智能改造他们的服务。预测和预防的能力是“最让人兴奋的机器学习和人工智能，它不是正确的事情现在发生;当事情发生，或者发生了，一切都太迟了......这是令人兴奋创建一个自主和智能网络，我们预见和发生预测这些事件，他们成为灾难面前，”马青吉尔伯特，在AT＆T实验室的智能服务研究的助理副总裁说。
AT＆T与如何使用和在其数据中心的规模预测服务试验。例如，通信巨头实现了大规模的ML功能，允许他们从联系人、聊天室和语音操作中提取数据；处理数据以近乎实时地进行预测；并向管理人员和主管提供这种智能。然后，经理和主管可以查看和监控以发现异常情况，并一路上提出重要问题——我的客户是否满意？如果我让他们停下来，他们会不高兴吗？我的经纪人第一次解决他们的问题了吗？
使用ML来实时确定客户情绪(例如，他们为什么打电话，他们会再打电话吗，等等)，定制服务或采取其他必要的措施是大量预测功能中的一种，这些功能将来很可能在各个行业大规模实施。AT&T一直在试验预测分析的另一个领域是维护他们的机群。如果一辆面包车出了故障，导致一位顾客对延误不满意，公司将面临两大损失。如果一辆联网的汽车能够监控和分析其性能，并在必要的维修或故障发生前自动进入车间，不是更好吗?
物联网(IoT)正在发挥作用实施基于条件的维护具有成本效益对于一些复杂的资产，与ML打在输入数据的分析，当前推动作用。芬兰的能源公司，例如，为具有能源行业中的关键涡轮故障，使用物联网和多用途机器来解决根本问题（事实证明在生产过程中氧气供给优化），并一直没有什么大的问题。
随着解决方案的推出像IBM的物联网沃森，能够预测实时故障的全网络分析平台并建议基于an的维护资产状况无论是与房地产、汽车或其他网络组件相关，似乎都将在未来十年成为行业标准。
2 - 安全和预防犯罪
AI已经是“一件事”，在安全和预防犯罪 - 在当前的应用程序描述 - 继续向前行业，如斯坦福大学在2016年的报告中概述了一百年研究人工智能（AI100）。
美国运输安全管理局(TSA)正在进行一项全面检查和重新制定全国机场安全的项目。被称为DARMS智能系统是动态航空风险管理解决方案的简称，它将整合整个航空部门的信息，为每个人、每个航班定制个性化的安全配置文件。智能隧道将在人们通过时检查其安全性，从而消除对低效安全线路的需求。DARMS计划在4到10年内引入美国机场。
第Ë欧盟通过其展望2020方案，目前支持通过项目一样，AI模拟的安全培训工作LawTrain接下来的步骤是从模拟到真实的调查，在人机协作中利用这些工具。
许多其他城市已经增加了无人驾驶飞机的监控潜在的犯罪活动,虽然讨论道德和法规将保持强劲,似乎智能无人机能够检测crimes-in-the-making和提醒当局将用于未来加强安全等重大交叉地港口、机场、工业设施等。
值得强调的是，人工智能预测工具引入适当的预防措施和适当的规章制度，有可能减少或消除人类偏见，而不是证实其影响。
3 - 消费者信息的分析（一家专注于健康数据）
“数字疾病检测”和“信息人口学”通常涉及收集大规模卫生数据，为公共卫生和政策提供信息。这些对匿名数据的分析——无论是公开披露的还是私人持有的——能够产生有价值的结果，并对跨人群的公共卫生问题产生深刻的见解。联邦HIPAA法规限制了个人医疗记录的发布，而这些信息在许多大规模的汇总研究中可能是有用的。限制这些信息的理由是有效的。
一些方法和模型可能是旨在使约独特的个体，可能推动行动，如报警或社交媒体应用程序或其他方式提供数字轻推，以改善个人或公众健康结果的推论;这样的想法，同时与“好”的意图做，可以破坏许多隐私的基本目标的法律，允许个人控制谁知道他们。
作为建议由微软研究小组，甚至外面的医疗记录，有房有今天 - 由于大数据 - 推断的健康状况，并从非医疗信息的风险，无论是通过信息或社会背景。这提供了在平衡创新与金融监管的方向反射充分的机会。
Although much data is already online, and machine learning has the potential capability to predict future health status from health-related and other forms of information, Microsoft’s team emphasizes the point that we do not currently have the laws, customs, culture, or mechanisms to enable society to benefit from these types of innovations currently.也许，在这个舞台上最重要的创新是发展良好的政策，即^ h如何使用数据以及可审计和负责任的系统，而不是用来收集和分析这些信息的机器学习技术。
基本介绍AI和安全术语表
- 网络安全：涉及保护信息和系统免受重大网络威胁，如网络恐怖主义、网络战争和网络间谍活动。
- 入侵检测系统（IDS）：A型安全软件的设计，能够自动向管理员发出警报，当某人或某事是通过恶意活动或者通过违反安全策略试图妥协的信息系统。
- 博弈论:战略的科学，或者至少是战略环境中独立的和竞争的行动者的最优决策。
- 微分隐私：Approach that allows data scientists to extract insights from a database while guaranteeing that no individual can be identified i.e. it guarantees that the answer one gets from any query on a database is not perceptibly different if any one individual is excluded from the database (privacy for opt outs). This latter task is accomplished this guarantee by adding noise to any answer returned by the database.
- 加密：一种以特定形式存储和传输数据的方法，以便只有那些需要它的人才能读和处理它。
