涉政敏感词有哪些（涉政敏感是什么意思）

新媒体时代，人们热衷刷视频新闻、看现场直播。然而，若视频、直播中出现审核不严、弄错素材、信息有误等问题，则会让媒体的权威性和公信力承受指数级的冲击。

当前，视频、直播审核的痛点在哪里？如何才能提高视频、直播的安全性？业内有没有靠谱的AI审核可供使用？

带着这些疑问，传媒茶话会对话一位媒体技术负责人，近距离观察视频审核行业。

新闻视频、直播审核难在哪儿？

随着视频行业发展，媒体对视频、直播的内容审核可谓越来越重视。

但总有大意失荆州的时候，走了审核流程，发出来的新闻要么视频中闪现落马官员，要么画面出现劣迹艺人，要么所用素材侵权，又或者直播过程中切到不宜露出的地理坐标，拍到违禁标识，出现不正确的国旗、国徽、地图等内容，再或者现场直播中出现谩骂、示威等不适宜的画外音……

相较而言，图文审核走“三审三校”流程还能严格把控内容风险，出现文字、图片方面的错误还能在有效时间内进行修改或删除。

图片来自花瓣美素

然而，视频、直播审核的难度就太大。难度大在哪里呢？

一方面，视频、直播数量多，承载的信息密度极高，且呈现的信息场景复杂，如直播是实时进行，光靠人眼逐个逐帧检查识别，很费功夫；另一方面，第49次《中国互联网络发展状况统计报告》显示，截至2021年12月，我国网络视频用户规模达9.75亿，较2020年12月增长4794万，占网民整体的94.5%。这就意味着，视频、直播的需求更大、传播会更广，对审核精准度和速度要求更高，一旦出现问题很难撤回修改，对媒体损伤极大。

再加上，目前，媒体业内在视频审核方面还是以人工审核为主，由于视频内容的丰富性、密集性及编辑知识结构的差异性，很难保证每个编辑都能对视频中的内容差错全部准确识别，造成很多重要视频还要集体审看，一个几分钟的视频在审核阶段可能要耗费几个小时进行人工审核，费时费力。

与此同时，近年来，针对视频、直播的问题，相关监管部门加大了对视频、直播的监管力度，提高了审核要求，如《网络音视频信息服务管理规定》《互联网视听节目服务管理规定》《网络视听节目内容审核通则》等文件对视频制作、审核及发布有详细严明的规定。作为行业组织，中国网络视听节目服务协会也发布了《网络短视频内容审核标准细则（2021）》，进一步为行业细化了审核标准。

外有监管要求，内有审核痛点，行业呼唤着可靠的视频审核帮手。

实现无差别审核，AI强互补人工审核

那对于媒体来说，到底需要怎样的审核帮手？

一位媒体技术负责人表示，当前，主流媒体期待一款能实现全场景覆盖、全要素审核的视频审核系统。比如，能够对长短视频、直播等多场景进行差异化审核；有易上手的操作界面，能够对视频中人物、背景、声纹、情绪、文字等内容进行精确审核及醒目的风险提示；同时，视频技审（包括画面抖动、花屏、低光、过曝等，无音频轨、静音、音量低、爆破音等）问题也可以通过视频审核软件一站式完成。

在这个标准下，AI视频审核第一是要能做到逐帧审核，每一帧都不能漏审，这是核心标准之一；第二是能对视频内容是否符合主流价值观进行审核，准确识别不符合主流价值观的内容；第三是能够对视频的全要素（人物、场景、声音、OCR等）进行全覆盖审核。

针对需求，视频行业也在不断发展AI审核技术，逐渐被主流媒体引入业务流程中，如多家央媒使用的“网晴内容安全大脑”。

AI审核的优势在于对所有审核要素进行无差别审核，可以很好弥补人工审核缺漏。

所谓无差别审核，是相对于人工审核而言的。人工审看视频内容时通常主要看核心要素，比如视频中的人物、声音、醒目的标志物等，而对一些背景内容，如背景人群、背景景物可能看得没那么细致。对于AI审核而言，这些次要要素和主要要素审核精度则是一致的，无差别的。

因此，引入AI审核技术是必要的。一方面，AI审核能将内容进行系统化的拆分、过滤，减轻人工审核的负担。

以网晴内容安全大脑为例，其视频审核功能可以将视频内容进行结构拆分，包含画面、音频、OCR、声纹、情感、技术等多个纬度。同时对问题类型进行细分，对涉政、暴恐、色情、不良价值观、广告内容识别、技术审核等多种问题有效审核，其准确率、精确率均能达到99%以上。

其直播审核功能，则会在直播过程中进行实时逐帧审核，在不影响识别率的情况下，不仅审核直播画面，如识别提示未成年内容，还包括审核直播中快速跳出的弹幕、评论，过滤涉政、涉黄、暴恐等敏感内容，然后将机审结果推送至专人，进行一对一或者一对多集中审核，让机审结果快速辅助人工审核。同时，审核系统支持对接主流直播平台，可通过API实时返回审核建议及关联导播台，对问题直播可进行一键下线操作。

网晴内容安全大脑对直播中出现的未成年人进行监管识别和标注提醒

另一方面，AI审核也能针对识别到的问题给出分析，与人工审核进行有效互补，极大提高视频审核的效率。

比如，在使用过往素材时，有些编辑可能对视频人物的信息和背景不了解，导致一些落马官员、反动分裂人物、劣迹艺人等出现在视频中。针对这类问题，网晴内容安全大脑可根据模型进行有效校验，提醒编辑及时审查核对，做出处理。

网晴内容安全大脑对落马官员进行识别、标注

逐帧审核专利，助媒体把好审核关

如今，市场上的AI审核产品较多，效果各有差别，如何选择适合自己的，需要充分了解AI审核产品的优势。相比同类产品，网晴内容安全大脑的视频审核有以下优势：

第一，其核心优势在于逐帧审核技术——实时视频内容动态预判识别算法。

该算法能通过模拟人眼视网膜和大脑工作原理，完全抛离像素固定时序源（帧时钟）控制的限制，控制信号幅度域的变化识别，对于拟变化、无变化的图像识别精度不低于96%。

网晴内容安全大脑采用逐帧审核技术对暴恐枪支进行精准定位识别

比如，当视频画面中出现枪支，系统会在逐帧审核时对枪支进行标注和提示，方便编辑及时应对处理。

对比传统抽帧方式，该算法的好处在于能使视频中所需识别总体数据量少百倍，并且克服了传统抽帧方式帧间内容信息遗漏的问题，较好提升了和抽帧方式等效时间内的识别准确率。

第二，模型完善。网晴内容安全大脑能覆盖人脸检测模型、涉政人物检测模型、旗帜检测模型、声纹库识别能力、LOGO检测模型、劣迹艺人检测、二维码/条形码识别、OCR文本识别等15种算法模型，可以有效识别出有误内容。

当视频场景中出现国旗、国徽等涉政场景和涉政标识时，审核系统会根据涉政物体检测模型、旗帜检测模型等，对视频中的内容进行相应提示，方便编辑审看，避免因细节出错踩坑。

网晴内容安全大脑对国旗的提示

网晴内容安全大脑对国徽的提示

第三，拆分精细、反馈迅速。网晴内容安全大脑会将视频细致拆分为画面、音频、OCR、声纹、情感、技术6大项，并根据涉政、暴恐、色情、不良价值观等问题类型进一步细分，将审核提示展现在审核页面中。

比如，针对视频中的音频内容，系统会使用ASR识别提取语音内容，对所提出的内容进行文本审核，识别其中敏感点。并结合声纹识别，甄别场景中的说话人，如下图视频演示案例中，能识别人物的真实声纹，识别说话内容，检测说话人与视频画面是否对应等，同时将审核部分高亮显示在视频审核界面，做到能“看到”语音中的检测内容。