Instagram新推两款AI过滤工具，没错！背后功臣就是Deep Text

本篇文章1736字，读完约4分钟

图片来源:techcrunch

雷锋。(公开号码:雷锋。6月30日。据国外媒体《连线》杂志报道，instagram周四发布了两款新工具。一个是自动评论过滤器，另一个是垃圾邮件过滤器。这两种过滤工具的技术基础是facebook的人工智能系统。

据该公司称，这两种工具可以用来减少垃圾邮件的数量，同时屏蔽内容和视频中的攻击性评论。

自去年9月以来，自动评论过滤器已经存在，用户可以选择自动启动该程序。该程序可以使用机器学习来识别可能令人不快的评论。如果在打开评论过滤器时仍出现攻击性评论，用户可以像以前一样直接向instagram报告。Instagram表示，评论过滤器目前只支持英语，但将来会支持其他语言。

另一方面，自去年10月推出以来，垃圾邮件过滤器一直对外界保密。另一方面，它已经有9个多月没有被用户发现了，对于instagram来说这是好事还是坏事还不确定。目前，该功能可以自动清除9种语言的垃圾邮件，包括英语、西班牙语、葡萄牙语、阿拉伯语、法语、德语、俄语、日语和汉语。

雷锋得知facebook在2012年以10亿美元收购instagram，并将其内部技术移植到facebook的数据中心。

据报道，instagram发布的评论过滤器使用了由facebook的反洗钱实验室(aml Lab)建立的“深度文本”系统。在facebook上，它可以与机器学习助手相结合，每天完成超过40亿次翻译功能的处理。此外，该系统可以在一秒钟内理解超过20种语言的数千封电子邮件的内容。

在雷报道的facebook在ai+广告中的应用和探索中，详细介绍了该文本系统对feeds广告的支持。

去年6月，深度文本上线。它最初被定位为一个内部工具，帮助facebook工程师快速分类大量文本并创建分类规则。后来，instagram的高管们在深入了解该系统后，立即看到了一个打击垃圾邮件的机会。因为对于instagram用户来说，垃圾邮件几乎是一个极大影响用户体验的烦恼。

在决定使用该系统后，instagram雇佣了一群人在平台上发表评论，并根据“垃圾邮件”和“非垃圾邮件”对评论进行分类。事实上，这种工作在涉及社交媒体的科技行业非常普遍。首先，用人类来训练机器去完成单调甚至无聊的工作。如果你重复这一点，机器将逐渐变得聪明和智能。

据instagram的相关负责人介绍，有3/4的数据是通过持续的数据整合发送到深层文本的。基于此，instagram工程师可以创建算法并正确分类垃圾邮件。

经过四个多月的持续测试和研究，instagram团队于去年10月悄然推出了垃圾邮件过滤功能。instagram首席执行官凯文·西斯特罗姆对这一功能的效果非常满意。他决定使用深层文本来处理更复杂的问题——消除与instagram社区指南相悖的意见或评论。为此，instagram还发表了一篇1200字长的文章来解释其社区精神。

类似于垃圾邮件过滤功能的开发过程，这次instagram雇佣了大量的人每天重复做一件事——阅读评论并判断评论是否合适。然后分类它是否涉及欺骗或种族歧视或性骚扰等等。所有这些工作人员必须会说两种语言。经过一段时间的集中处理，这些人分析了大约200万条评论。

与此同时，instagram的员工率先在他们的手机上测试该系统，以帮助公司调整其算法。像垃圾邮件算法一样，该系统将根据文本的语义分析海报和评论者之间的关系(以及他们发布的历史评论)。通过一段时间的神经网络训练和用真实数据测试模型，深层文本已经能够探索文本之间非常细微的语义差异。

直到今天，instagram才正式宣布推出这两种工具。

当然，就这两个工具而言，仍然存在一些算法缺陷，例如，当被问及一些具体的句子时，系统不能给出具体的回答。通过以上对instagram发展过程的描述，我们还可以看到instagram的人工智能仍然依靠人力来训练机器学习系统。

facebook欧洲、中东和非洲公共政策副总裁理查德艾伦(richard allen)表示，facebook“需要很长时间才能依靠机器学习和人工智能来应对评估仇恨言论的复杂性。”

注意:一些数据来自有线

雷锋原创文章。严禁擅自转载。详情请参考转载说明。