华为云与鉴黄师不得不说的那些事

本篇文章2937字，读完约7分钟

根据传说，在今天的时代有一个神秘的职业——黄。他们看了无数的电影，可以通过听声音来辨别自己的位置，检查和识别各种非法内容进行处置。但是，黄健的工作量是巨大的，人力是有限的，这是不可避免的，那么如何才能让互联网回到一个安静的地方，真正实现对非法内容的统一、全面的识别呢？华为云的内容审查服务可以帮助黄健大师摆脱这个麻烦。

互联网每天都会产生大量的数据，这给内容审查带来了巨大的挑战。在今天的物联网中，人工审核不仅需要庞大的劳动力，而且不可避免地存在缺点。因此，华为云推出了内容审核服务，主要包括文本内容检测、政治敏感性检测、视频内容审计、图片内容检测、图像反色情检测等。在当前的行业中，有两种主要的内容审查方法:手工审查和智能审查。人工审核需要大量的劳动者以肉眼+机器辅助的方式全天候进行内容审核。问题在于时效性差、风险高、规模过大时无法匹配；智能审计以人工智能技术为基础，辅以人工判断。目前，有相当多的云平台可以提供智能审计技术，这也给各企业的技术选择带来了麻烦。

那么，如何选择适合企业并具有性能的云服务呢？为了全面、客观地了解华为云内容审计服务绩效，华为云与技术媒体联合开展了公开测试活动，来自不同企业的18人给出了专业建议。以下是详细的测试使用报告。

一、文本内容检测测试

去年，国家互联网信息办《互联网群体信息服务管理条例》明确规定，互联网群体的创建者和管理者应履行群体管理职责，即“谁组建群体，谁负责”、“谁管理谁负责”，文本内容云检测成为当务之急。华为云主要在内容检测方面提供以下服务:色情、政治、广告、滥用、违禁品和文本内容的冲洗等。它还提供了自定义的文本敏感内容检测方案。

色情、政治、广告、虐待和违禁品的文本测试

原则:调用华为云提供的api，可以自由设置过滤内容类型，即:政治(涉入政治)、色情(涉入色情)、广告(广告)、辱骂(辱骂)、违禁品(违禁物品)、泛滥(泛滥)。如果不输入，默认情况下将全部过滤。根据用户输入的内容，过滤出文本内容中的“获奖单词和句子”，并将句子分别置于相关属性下。返回的结果如下:

自定义文本敏感内容检测测试

原则:用户可以自定义后台文本内容检测服务的配置，在没有指定检测场景时启用，可以对所有过滤生效。也就是说，自己建立一个关键词库，有效的规则与其他预设一致。

测试经验:

1.它在诸如色情、政治、虐待和广告等个人测试中是准确的。华为云还可以根据各种组合场景下返回的结果，在每个属性下查看不同的脏话。

2.网络语言的灌溉文本测试正常，发现灌溉文本响应迅速。值得一提的是，由于网络的迅速普及和变化，华为云的网络灌溉词库正在实时更新，可以实现自我优化。

3.在测试中，华为云最显著的功能之一是可以定制词库。该功能可以更好地控制内容检测标准容易改变的场景中的文本内容；包括政治敏感词汇和网络术语，也进行了实时更新，使整体服务更加安全。

摘要:华为云文本内容检测基本满足普通文本检测的要求，并支持自定义词库进行补充。此外，实时更新使整体开发体验更加安全和智能。

二、反黄检测服务测试性感图片检测测试

原则:根据图片或图片链接，华为云api返回三个维度对应的比例，即正常比例和性感比例。如果返回值中的参数结果为块，则判断为图片；性感图片返回值中的参数结果通过。如果性感的比例是三个维度中最大的，那么图片就被认为是性感的图片。对于那些正常的和接近刻度的，将返回检查，并且需要手动确认。

除了普通图片，华为云还支持画中画中的色情内容检测，并验证了反色情检测服务能够识别小窗口中的色情内容。

测试经验:

鉴于准确的检测、准确的性感图片以及画中画黄色相关检测的正常反馈，整个流程是顺畅的，在特殊情况下会提供给银行确认，不会出现误判。

内容摘要:反色情检测是所有企业的一项繁重需求，而人工智能对于图像内容检测是必不可少的。华为云在这方面做得很好，值得用户信任。

三、恐怖分子识别服务测试工具测试

原则:根据图片或图片链接，华为云api返回多维度的对应比例，即:火、血、枪、刀、旗、天安门、人群、服饰、符号、正常。如果满足要求，则结果为分块，并根据各维度的比例判断获胜维度。以此为例，测试结果如下:

人群聚集测试

确认恐慌识别服务也能准确识别人群聚集图片。如果测试结果中的值是块，并且人群的置信度值占最大比例，则意味着图片包含人群聚集元素。

测试经验:

1.拍摄的照片在测试中测试正确。

2.人群聚集测试正确，使用体验顺畅

3.目前以天安门广场为例进行测试，结果是正确的。它也可以成为一个定制的地方，以支持中国大多数标志性建筑。

总结:枪支工具的检查可以称为在线安检机，华为云整体表现非常好。然而，企业对这部分服务的需求还不够大，而且不仅仅是需要。

四.对政治敏感测试服务的测试

原理:根据图片或图片链接，在华为云api返回的结果中给出被识别的名称，判断结果是否为块，判断为非法图片。华为云服务支持国家领导人和烈士的身份识别。测试结果如下:

测试经验:

1.各个国家的国家领导人都被正确地识别并能正确地给出他们的名字；许多领导者也能识别并有高度的认可度；在测试中，中国地级以上领导人和外国名人也能正确识别。

2.在烈士识别方面，知名人物识别正确，但对于一些没有照片的烈士，很大一部分后人的画作被保留下来，这可能会导致识别率下降，可以通过更新学习库来提高识别率。

3.一些臭名昭著的检测准确率很高；一些稀有的很难识别，但是通过更新学习库可以提高识别的准确率。

摘要:华为云服务在识别国家领导人和国际高管方面表现出色，在烈士和身份识别方面走在同行业的前列，通过更新学习数据库可以进一步加强这一点。

V.视频内容审计服务测试

原则:用户需要上传视频，然后根据返回的任务标识查询视频的处理情况。有四种状态:已创建、正在运行、完成和失败。从测试结果中可以看到的值。当同时检测到多个场景时，的值将以最有可能包含敏感信息的场景为准。也就是说，如果块出现在任何场景中，它将始终是块，如果所有场景都通过，它也将通过。除了这两种情况之外，还必须有需要回顾的场景，这就是回顾。

测试经验:

内容视频测试准确，分析原因可能是视频资源帧相对较多，可分析图片较多，使得测试结果更加准确。测试结果可以给出问题的具体类型，而可能性比率可以在不同的维度上给出，如政治和恐怖主义。

内容提要:视频内容检测服务的种类越来越多，包括反色情、反恐怖和反政治，这些都是对云服务内容检测综合功能的考验。华为云在这一领域表现出色，充分证明了其技术。

摘要

在本次测试中，华为云对现有网络中资源较多的视频、图片和内容的检测准确率较高，可以展示其在数据分析和智能识别领域的技术。沉淀是深刻的；然而，在一些高变量的内容识别和检测中，也可以通过更新学习库和检测内容标准来提高准确度。在实际应用中，直播行业高度依赖内容审查。华为云成功帮助视频直播服务实现了整体内容审计的智能升级，审计效率提高了90%。它可以智能地检测“政治相关”和“暴力”等内容，问题视频可以在3分钟内迅速处理掉。

总的来说，华为云的广告语言能够准确反映其当前的行业定位:技术、未来、值得信赖！与行业合作伙伴携手前进，前面的路还很长。