jin2055金沙网站Facebook的难题:AI能分析表情包,却

2019-12-04 作者:互联网   |   浏览(100)

原标题:Facebook 利用 AI 识别表情包里的不当内容

9月15日消息,《连线》网站撰文指出,Facebook名为Rosetta的人工智能技术平常可分析数十亿张包含文本的图像,能够分析表情包,但它能像人类那样理解表情包的内涵吗?

jin2055金沙网站 1

以下是文章主要内容:

Facebook 的审查人员无法审核人们在平台上发布的每一张图片,因此 Facebook 希望通过人工智能来帮助他们。在一篇博客文章中,Facebook 介绍了一个名为 Rosetta 的系统,它可以利用机器学习来识别图像和视频中的文本,然后将其转录为机器可读的内容。特别地,Facebook 发现这个工具有助于在表情包上转录文本。

每天都有数十亿的文本帖子、照片和视频被上传到社交媒体上,这是人类审核员无法全面筛选的一个信息量级。因此,Facebook和YouTube等公司长期以来一直依赖人工智能来帮助解决垃圾邮件和色情内容等问题。

文本转录工具并不是什么新鲜事,但 Facebook 却面临着不同的挑战,因为其平台量级巨大,以及其上的图像种类繁多。根据官方说法,Rosetta 现在已经上线,每天会从 Facebook 和 Instagram 上抓取 10 亿个图像和视频帧文本进行转录。

不过,对于机器来说,审核像白人至上主义的表情包这样的东西可能更具挑战性,因为这项任务需要同时处理几种不同的视觉元素。自动化系统需要检测和“读取”叠加在照片上的文字,并分析图像本身。表情包也是一种复杂的文化产物,很难脱离语境去理解。尽管它们带来了挑战,但一些社交平台已经在使用人工智能来分析表情包,其中包括社交网络巨头Facebook。Facebook本周分享了它如何使用一种名为Rosetta的工具来分析包含文本的照片和视频的细节。

目前还不清楚 Facebook 正在对这些数据进行怎样的处理。文章指出,这对于照片搜索和屏幕阅读器等基本功能非常有用。但看起来 Facebook 也开始把它放在更大的目标上,比如弄清楚什么样的内容更吸引人,更重要的是,可以找出哪些表情包、图片或视频中存在仇恨、侮辱等不当言论。

Facebook表示,它已经在使用Rosetta来自动检测违反其仇恨言论政策等规定的内容。该公司本周还宣布,在该工具的帮助下,它正在扩大其第三方事实核查的努力,纳入照片和视频,而不仅仅是基于文本的文章。Rosetta将自动检查包含文本的图像和视频是否曾被标记为错误,从而帮助完成审查。

Facebook表示,文本提取和机器学习正在被用于“自动识别违反我们的仇恨言论政策的内容”,而且该系统还支持多语言。鉴于 Facebook 众所周知的内容审核问题,一个能够自动标记可能有问题的图像的功能,对于 Facebook 来说应该会很有用。

Rosetta通过将光学字符识别技术与其他机器学习技术相结合来处理照片和视频中的文本。首先,它使用OCR来识别文本在表情包或视频中的位置。你可能以前用过类似OCR的东西;它可以让你快速浏览纸质表单,并将其转换为可编辑的文档。该自动化程序知道文本块的位置,并能将它们与你应该签名的地方区分开来。

Facebook 利用 AI 识别表情包里的不当内容动点科技。返回搜狐,查看更多

jin2055金沙网站,一旦Rosetta知道文本在哪里,Facebook就会使用一个神经网络来转录文本并理解其含义。然后,它可以将文本传输到其它的系统,比如一个检查表情包是否与已经被揭穿的病毒骗局有关的系统。

责任编辑:

Rosetta的研究人员表示,该工具现在可以实时从公开上传到Facebook的每张图片中提取文本,并且可以“阅读”多种语言的文本,包括英语、西班牙语、德语和阿拉伯语。(Facebook表示,Rosetta不会用于扫描用户在时间轴上私密分享的图像或私信。)

Rosetta可以分析包含多种文本形式的图像,比如抗议标识、餐厅菜单、店面等的照片。在Facebook工作的软件工程师维斯瓦纳斯·西瓦库马尔在一封电子邮件中说,这个工具既能识别景观中的文本,也能识别表情包——但后者更具挑战性。他写道,“在主动检测仇恨言论和其他违反政策内容的情况下,分析表情包式的图像是一项更加复杂的人工智能挑战。”

本文由jin2055金沙网站发布于互联网,转载请注明出处:jin2055金沙网站Facebook的难题:AI能分析表情包,却

关键词: jin2055金沙网站