社交媒体审查的人工智能——它在Facebook、YouTube和Twitter上是如何运作的

拉哈夫巴拉德瓦
头像

拉哈夫是作为分析师Emerj,涵盖各主要行业动态AI的发展趋势,并进行定性和定量研究。他曾任职于Frost&Sullivan公司和英菲尼迪研究。

AI社会媒体的审查 - 它是如何工作的脸谱,YouTube的和Twitter

一个2017年报告皮尤研究中心发现,69%的美国公众使用某种类型的社交媒体,如Facebook、Twitter、Instagram等。

根据Hootsuite2018社会化媒体趋势报告在美国,社交媒体品牌将继续使用人工智能策略,“在规模上优先考虑个性化”。“这将涉及到使用人工智能来利用社交数据作为客户洞察的来源。

随着最近俄罗斯干涉美国总统选举的指控和剑桥分析公司的下台,英国政治咨询公司在佐贺,社交媒体审查和数据隐私已经成为德在全球范围内的讨论,事实上点。

本文介绍了人工智能在Facebook、Twitter和YouTube等社交媒体平台上的实际应用。我们将探讨人工智能在社交媒体应用中的可能性,以及社交媒体平台如何在动态审查应用中使用人工智能。我们还研究了企业高管可以从这些社交媒体巨头身上学到哪些可转移的经验。

Facebook的

该公司正在使用人工智能将自杀预防带到生活和信使。除了其官方页面指导用户在做什么时,有关自杀或自伤别人的帖子,该公司在2015年推出的另一款基于AI-工具(通过与Facebook的职位和Facebook直播整合其功能)与非营利组织的帮助下鼓吹自杀预防和精神健康。

根据华盛顿大学的研究社会工作学院(其Facebook还与合作开发工具),当用户发现有人发布一些困扰的社交媒体网站,他们可以将其报告给Facebook。该公司随后审查后,并提供选项不幸的人在诸如特色的谁从他们的斗争恢复人们现实生活中的账户视频。

报告这篇文章的用户还可以选择联系处于困境中的朋友,联系另一个朋友以获得额外的帮助,或者拨打自杀求助热线。除了提供将他们的注意力转移到艺术、阅读和烹饪等富有成效的活动上的建议外,Facebook还会在需要的时候为这个人找一个自我照顾的顾问。

根据凡妮莎凯里森 - 伯奇,产品经理,Facebook等AI工具使用匿名历史Facebook的职位数据配置和Facebook的实时视频与图形识别的下层时,有些可能是表达自杀或自残的想法进行预测。当系统识别后或Facebook的现场直播,通过使用该预测输出预定触发值“红色标记”,这些职位被发送给Facebook的内部评审是谁,他们做接触的第一反应的最终决定。

如下图1分钟的视频是如何真正的Facebook的职位由AI系统朗读,描述了岗位使用个人图像的内容:

Facebook声称,他们的主动检测工具平均在大约100个实例中产生结果,Facebook在一个月的时间里向德克萨斯州奥斯汀的当地急救人员发出了警报。

Facebook最近还在加拿大蒙特利尔开设了一个人工智能研究中心,作为他们的一部分如Facebook AI研究(FAIR)的一部分。该实验室将小乔皮诺教授,谁是以前的工作包括制定新的规划算法和机器人技术,医疗保健,游戏学习,对话剂,如聊天机器人领导。

根据Yann勒存他说:“人类儿童在学习人类对话和了解世界常识方面非常快。我们认为有一些东西我们还没有发现——一些我们还没有弄明白的学习范式。我个人认为,能够破解这个难题是人工智能取得真正进步的主要障碍之一。”

例如,Facebook已经拍了拍失明或视障观众的社区通过自动替代文本来体验社交媒体平台。该技术的工作原理是允许任何人以刷卡在Facebook上的照片和iOS设备上使用屏幕阅读器听到的图像包含的项目清单。

根据Facebook的新闻稿“这是可能的,因为Facebook的物体识别技术,基于拥有数十亿的参数,并与数以百万计的例子训练的神经网络。在物体识别技术意味着Facebook的辅助团队将能够使技术更加接近更多的人每次前进“。

以下是一段简短的视频,展示了Facebook的对象识别技术被用作屏幕阅读器,让视力有缺陷的人能够听到图像的描述:

对于Facebook的AI工具的更多例子,你可以看我们之前的文章.我们的面试与Facebook的侯赛因迈哈纳,核心机器学习组的工程主管,提供科技巨头是如何努力克服障碍的高科技来实现个性化的见解。

YouTube的

推荐系统提供一种方式来推荐类似的产品(如亚马逊),新闻文章(赫芬顿邮报)和电视节目(Netflix公司)给用户。在YouTube上,保罗科文顿的情况和他的团队在数据挖掘谷歌专家描述全球最大的视频分享网站为一体的“规模最大,现存最先进的工业推荐系统。”

该系统由谷歌大脑,这依赖于深度学习AI供电。它收集用户信息(如钟表历史和用户反馈)和排名显示所选影片的另一个神经网络的一个神经网络。

吉姆·麦克法登他描述了谷歌大脑为他的团队带来的解决方案:“它所做的关键事情之一是它能够概括。而之前,如果我看一个喜剧演员的视频,我们的推荐很擅长说,这是另一个类似的。但是谷歌大脑模型找出了其他与之相似但不完全相同的喜剧演员——甚至更多的相邻关系。它能够看到不那么明显的模式,”他说。

YouTube上最近也采取主动战斗影片,这不符合公布在其网站上的条款“与恐怖主义有关”的内容。在2017年6月博客谷歌的总法律顾问肯特·沃克(Kent Walker)称,该公司有数千名用户和工程师负责审查和阻止上传与恐怖主义有关的内容。与此同时,它还推出了一种机器学习工具,可以标记暴力极端主义视频,并将其报告给审查人员进行核实。

网站索赔自实施以来,该团队已经审查了100多万部视频,以提供数据来训练系统日渐衰弱的能力。2017年9月,人工智能删除了83%的暴力极端主义视频,之后其团队审查了每一次上传。

使用历史数据可以从他们的团队,地址有争议的内容,以及通过人为引导的专家协助,YouTube的索赔,他们能够利用机器学习来自动执行内容的初始红色萎靡不振。在自己的博客中,他们还补充说,尽管该平台还不够完善(它已经达到人类水平的准确性或在某些设置好)

这是在YouTube面临a巨大威胁从2017年年初时,广告商,英国政府和广告公司如哈瓦斯发现了他们的广告被放在旁边的极端主义相关的影片。从YouTube中提取他们的广告有些品牌包括沃尔玛,强生和百事可乐。对此,YouTube的自己的博客网页上说,他们将继续开发该技术的准确度,同时雇用更多的人来帮助审查和执行政策。

推特

五月2017年,Twitter的股市上库班后反弹由于股份公司宣布,它正在对AI。但该公司探索AI的新闻在2014年开始崭露头角,在收购Madbits,计算机视觉启动在纽约。此次收购可能是为改善Twitter的图像特征,利用上Madbits’图片搜索技术,根据TechCrunch的从那以后,Twitter就没有发表任何评论。

在2015年,它收购了15个月大的启动Whetlab,这是由美国哈佛大学计算机科学家开发的。按照工程与应用科学学院哈佛这个五人小组为软件工程师创建了Whetlab,用于视觉对象识别、语音处理或计算生物学。然而,推特的收购被视为Sephi Shapira,广告公司MassiveImpact的CEO,以此来“获得了球队的天赋和施加更大的AI工具,广告建立对Facebook和谷歌竞争优势。”

一年后,它以1.5亿美元的价格收购了人工智能初创公司Magic Pony Technology。据Twitter联合创始人表示,杰克多尔西,本次收购将专注于开发图像和视频功能。“魔术小马的技术为基础的团队研究建立算法,可以理解的特征图像,将用于加强现场和视频我们的力量,开辟了很多Twitter的激动人心的创意可能。”

经过三年的收购AI创业,微博上一公布博客2017年5月通过其软件工程师尼古拉斯Koumchatzky,该公司使用基于其内部的AI工程师排名鸣叫开发的AI平台上多么有趣这将是使用逆时间顺序的观众,而不是旧的显示器。

推文的排名基于许多因素,比如推文的最近度、被转发的次数,以及用户与推文用户的联系。Koumchatzky写道:“这为我们打开了一扇门,让我们可以更多地利用深度学习社区提供的许多新奇功能,尤其是在NLP(自然语言处理)、会话理解和媒体领域。”

最后,该公司宣布了在其网站上打击仇恨言论的计划博客.该公司在2017年3月与IBM合作,利用其人工智能平台IBM Watson控制网站上有争议的仇恨言论。Twitter负责数据策略的副总裁克里斯·穆迪(Chris Moody)在一次采访中解释说,“沃森非常善于理解语言和意图中的细微差别。我们想要做的是能够尽早识别虐待模式,并在这种行为开始之前阻止它。”

例如,沃森可以标记一个不断向非关注者发推文或发表仇恨言论的账户,这些行为违反了Twitter的规则。然后,twitter的人类审查团队将对该账户采取最后的行动。与其他社交媒体公司一样,Twitter的内容审查团队的输入预计将随着时间的推移提高机器学习平台的准确性。

公司,通过使用IBM沃森为了识别和标记仇恨言论,将采取措施,通过只向其追随者显示其推文或将其从网站上屏蔽,来控制冒犯者。这种合作关系是在…之后出现的在2014年,两家公司签署了全球合作协议.

总结思考

有兴趣的读者可以看到这两个半小时的证明从Facebook,Twitter和YouTube的高管讨论了什么他们的每一个公司在做,以打击极端主义,并从他们的社交媒体平台,在美国国会参议院听证会上恐怖相关的内容。

在社交媒体审查方面,似乎大多数大型社交媒体平台都在遵循类似的人工智能采用曲线。在这里,人工智能指导的培训似乎是一个常见的主题,而内容审查在大多数这些公司中已经是一个关键的业务功能,这一事实是配置ML平台以更准确、更快地工作的一个关键优势。

这些人工智能平台在社交媒体审查应用中的表现似乎也存在共性,因为它们仍在发展中。尽管有一些挫折(例如YouTube),应用程序也被证明有一个陡峭的学习曲线,但有一种让这些系统在未来变得更加高效的感觉。

标题图片来源:Adobe公司股票

保持在AI曲线的前面

发现关键的AI趋势和应用,在企业的未来和输家独立的赢家。

订阅“AI优势”简报:

" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Thanks - Check your email and open our welcome email to confirm your email address with Emerj">
" data-trigger="manual" data-title="Notice" data-placement="bottom" data-content="Error - There was some problem.">
订阅
订阅图像
机器学习曲线保持领先

在Emerj,我们有AI-集中的商业读者最多的观众在线 - 加入其他行业领导者和接收我们的最新人工智能研究,趋势分析,并将其发送到您的收件箱周刊的采访。

感谢您订阅的Emerj“AI优势”的通讯,检查你的电子邮件收件箱进行确认。