打击标题*党** 拦截虚假新闻 这个黑科技套路很深

对于推动媒体融合发展,当前最常说的一句话是,新媒体要认真履行社会责任,把社会效益放在首位。

23日的人民日报第14版,有一篇新媒体如何履行社会责任的“技术贴”,标题开宗明义:人工智能是虚假新闻的“克星”。

打击标题*党**拦截虚假新闻这个黑科技套路很深

文章的作者,是著名的新闻传播研究学者、中国人民大学教授宋建武。为什么说这篇文章是“技术贴”?因为我们以往对虚假新闻的研究多数是站在道德伦理层面的,而如今在现实操作中,已经出现了技术层面的解决方案。也就是说,不论是否具有“犯罪动机”,行为随时可能被中止。

这对于新闻管理部门、职业的新闻从业者以及广大受众而言,无疑是一个令人兴奋的消息。

技术的发展,特别是借助交互应用平台来发展用户的技术体系,为新闻行业塑造个性化品牌带来了全新的契机,在文本模式创新、话语体系创新、包装形式创新的过程中,为适应新媒体传播特征而产生的“过渡创造”成为了新的困扰。

什么是“过渡创造”?这是一种最容易超越理性的不自觉行为,当“过渡创造”以更简便、高效地方式凝聚人气、 流量时,创作者们就越接近于形式本身,而非内容本身。

与纸质媒体、电视媒体不同的是,移动互联网依托的介质是小屏幕,阅读是折叠并递进的,创作者往往只有一次机会让读者打开折叠,进入下一阶段开展阅读体验,那就是直奔标题、

微信阅读如此,算法平台亦是,机器人的“关键词”意识更强,为了节约读者的搜索时间,流行“关键词”越多的文本,越容易被推送到读者面前。于是“过渡创造”的动机便产生了——

对内容真实性的要求越来越低,反之刻意追求局部真实和局部显眼,轻则是标题*党**、同质化,重则是虚假新闻。

我们常说社会效益优先,从消除动机的教育入手当然有必要,但刚性的外力阻止工具必不可少。

这就是人工智能的另一面。以往出现虚假新闻的时候,大家的第一反应就是删稿。可互联网是茫茫海洋,穷尽每个词条几无可能,且已造成事实影响,亡羊补牢已晚。

打击标题*党**拦截虚假新闻这个黑科技套路很深

宋教授在文章中提到的人工智能技术,模拟人的行为方式,确立虚假模型并不断学习之后,可批量对虚假事实进行甄别拦截,相对于人工而言,更为科学高效。

被广泛关注的,北京字节跳动科技公司在“*今条头日**”平台上的效果,该平台模仿人脑机制,对低俗图片的拦截率较之前纯人工拦截提高了73.71%。

在大众传播领域,人工智能技术,也就是我们常说的“算法”,代表性的平台就是*今条头日**平台。长安街知事APP是头条的资深用户,对这一技术的应用深有体会。

比如在这一平台,文章重复率是较低的。为什么呢?因为原创文章的首发权是在作者手中,当作者申请原创之后,其他抄袭、大段引用的文章就会被“重复模型”所确认,不会为机器人所广泛推荐,由此,“过渡创造”的原始动机,就会逐步消除。

对虚假新闻的处理,是类似的。*今条头日**采用分类的方式来筛选信息。

打击标题*党**拦截虚假新闻这个黑科技套路很深

比如对于标题*党**,标题中如有“震惊”“传疯了”“看哭”等关键词,可被机器识别并进行提醒或拦截。当作者在后台进行文章编辑时,系统会提醒作者修改标题,提醒的成功率达50%,如果作者不予修改,机器则会降低该文章的推荐权重。

而对于虚假信息、违法信息、色情内容等缺乏清晰、固定判断标准的信息,机器很难进行准确判断,对此,*今条头日**从用户中抽样建立了1000人规模的专业评估团,每天反馈3000—4000份对于机器推荐效果满意度的问卷。这些反馈,以及普通用户的“举报”“不感兴趣”“评论”等反馈信息能够一起用于改善机器识别低俗内容的准确度。

虚假信息需要具备一定相关专业知识的审核人员进行判断,但机器通过对用户反馈的分析可以极大提升人工审核的效率。譬如,有大量用户举报了一篇文章为虚假信息,或在评论中出现“假新闻”等关键词,机器即可识别并将其提交至审核人员进行复审。

大致的过程是,机器智能识别疑似虚假文章后划归此队列,进行单独审核,月均进审一万篇左右。

在2016年末,*今条头日**推出了精准辟谣功能:如果用户在*今条头日**内阅读过的内容,后被证实为谣言,系统将第一时间向所有看过该谣言的人推送相应辟谣文章,做出精准澄清。另外,机器可以结合网民举报和跟帖评论甄别谣言,通过关键词分析和语意识别,将疑似不实文章召回,再由人工进行复审。

目前,机器判断准确率达60%,人工审核后准确率达90%以上。

人工加机器的合作模式,是一个渐进的过程。人工负责建立“虚假模型”,机器如同移动探头负责扫雷,随着“虚假模型”积累得越来越多,价值判断逐步融入到机器的行为当中,扫雷的成功率就会越来越高。

今年1月,“头条号”每天处理用户评论约98.6万条,11月已经增长到每天约302万条,机器审核可以保证同样倍数评论增长的情况下,人力增长较少。

所谓大道相通,任何治理体系都是疏堵结合、奖惩并用的全方位应用,人工智能体系也不例外。

虚假新闻的发布,原始动力很明确,也很粗糙,为的就是流量。而“虚假模型”建立后,标题*党**也好、抄袭也好、虚假新闻也好,生存空间被大大挤压,不仅人工不信任,机器也不信任。对于算法平台而言,被机器人不信任,是最可怕的结局。

打击标题*党**拦截虚假新闻这个黑科技套路很深

这就是技术导向下的规则体系。在城市管理政策中,我们常常提出,寓管理于服务之中。在技术支持下,*今条头日**为代表的算法平台,通过机器人推荐来提供精准传播服务,同样通过机器人拦截来管理用户行为。归根到底,就是为提升传播的社会效益提供技术解决方案。

更多精彩内容,欢迎关注长安街知事APP