是不是很好奇, 网络上的一些不良视频是如何被删掉的?
只靠人工审核的话,工作量实在太大,根本不现实。
腾讯想了一招,还在2020年7月30日申请了专利。发明名称:一种风险视频识别方法、装置和电子设备。目前处于实质审查阶段,尚未授权。

所谓的风险视频,指的是可能包含baoli、seqing和zhapian等信息的视频。为维护良好网络环境,避免造成负面影响,所以平台要对风险视频进行智能识别。

该识别方法的基础原理在于,要提取 用户互动信息 和 视频内容信息 。
用户互动信息 ,包括评论、弹幕等信息。系统会通过学习模型,来识别并确定风险类型,比如是低俗,或者有尺度问题,或是存在错误、风险人物或者内容恶心和质量问题等。



视频内容信息 ,主要抓取文本、音频和图像序列的数据,并选其一作为 视频特征信息 。
也就是说那些风险视频,即使你换掉视频的图像;换掉字幕,把字幕镜面化处理等等一些列操作,都没有用。只要声音不变,音频不变,则该视频的“视频特征信息”就还是没变,还是会被系统识别到的。
所以,这类涉嫌违规、包含敏感内容的风险视频,即使拼手速、通过一系列转发、打码、包装而“换皮”,也 逃不过系统的抓取 。

最后,系统基于 视频特征信息 ,对视频的风险概率进行预测,并进行分级。
对于处于最高风险的视频(第一预设风险等级), 平台会对视频进行直接删除处理 。

腾讯近年来在识别、删除风险视频相关领域做了不少新的技术发明,像本专利就可以提高风险视频识别的精确度,同时提升风险视频的识别效率。不仅是视频、图片、文章、甚至对于声音、评论的识别和审核也将更加严格。