全媒体时代，媒体既要优化人员配置，又要加快内容生产，小时全矩阵即时推送图文、音频、视频等海量新闻内容，即使经过三级、多级审核把关，难免也有内容审核疏漏的时候。
信息更迭加速的情况下，媒体如何高效、快捷做好内容审核把关？第三方AI审核机构如何助力媒体加强内容安全？
带着这些问题，《传媒茶话会》近距离观察内容审核行业的发展，希望能为媒体提升内容审核效率提供一些思路。
新闻报道出纰漏，怎么破？
在新闻报道中，有的差错防不胜防。
经过层层把关还出错，媒体人挣稿费的速度都快赶不上罚钱的速度了。新媒体时代，面对海量新闻带来的编发压力，媒体若没有完善的内容审核机制，会很难把控新闻的真实性和权威性，一旦出错，媒体的形象和权威影响力就会受到损伤。
图片来自花瓣美素
实际上，为确保新闻报道的真实、客观、准确，国家新闻出版署曾发布《关于严防虚假新闻报道的若干规定》，要求：新闻机构要严格规范新闻采编流程，建立健全稿件刊播的审核制度。严格实行新闻稿件审核的责任编辑制度和新闻稿件刊播的总编辑负责制度，明确采编刊播流程各环节的审稿职责，坚持“三审三校”。
然而，在人工严格执行“三审三校”制度后，部分新闻报道中的文字、图片和音视频还是容易出纰漏，尤其是涉时政报道，有时成为出错“重灾区”。
随着媒介形式的日益丰富，新闻信息巨量增加，时政新闻报道的纰漏令人防不胜防，传统的“三审三校”制度并不能为媒体的内容准确和安全系上安全带，需要内容审核专家各种形式的支援。
“AI+人工”双重审核提升内容安全
近年来，国家高度重视互联网内容安全，相继颁布多项法律法规，如《中华人民共和国网络安全法》《互联网论坛社区服务管理规定》《网络信息内容生态治理规定》等。
在政策引导和行业需求下，内容审核行业发展迅速，借助AI技术，“AI+人工”的审核方案也进入行业视野，受到关注。
多年服务于媒体的内容审核专家网晴科技成功探索出“AI+人工”的智能内容审核平台——“网晴内容安全大脑”，独创了涉政专项模型、党媒内容安全算法，人脸检测模型、涉政人物模型、冬奥运动员检测模型、声纹库识别能力、视频动态高效检测算法、劣迹艺人识别算法等余种专项识别能力用于内容安全风险防控。
图片来自网晴科技
同时，“网晴内容安全大脑”还提供了涉政敏感、违禁暴恐、低俗色情、不良价值观、广告、低质内容六大类内容的审核模块，并首创了全方位复合审核、全类型内容检测、全流程质量管控的综合内容安全解决方案。
具体来说，“网晴内容安全大脑”首先会对文本进行拆分，通过算法将整段语句进行语义上的分析，包括确定整句话的句法、语义拆分，按照多种语言学规则进行语义解析等。
然后，经过拆分和文章信息分析后的内容若出现语义上的问题，或识别出特定敏感词汇，“网晴内容安全大脑”将对内容进行过滤拦截。
接着，拦截下的存疑内容会进行下一步模型分析。通过涉时政相关表述模型、地域识别模型、劣迹艺人检测模型等多种检测模型进行专项分析。
与此同时，“网晴内容安全大脑”的智能校对功能模块，会提供相应的校对方案，包括音/形相似错误、涉政用语错误、专业术语错误、地名错误等多方面的专业校对审核。
图片来自网晴科技
最后，根据检测结果，“网晴内容安全大脑”会将所有的检测结果综合展示在审核平台中。不同威胁等级的内容会以不同的颜色标识，从而形成多层级、多维度的立体审核展示。
经过上述流程后，若需要进一步审核，“网晴内容安全大脑”会依据账号分级、文章分级、用户分级制度将文章分派给人工，进行单审、双审或三审。
复审过程中，人工的审核经验也很关键。
网晴科技的审核员团队%以上为本科及以上学历，包括新闻、出版相关专业人才，还配有主流媒体资深编辑组成的专家团，深度介入时政、财经、文史等方面的内容，把关完善审核策略。此外，人工审核团队×小时在线，能及时处理审核问题，全力确保审核的时效性。
引入AI方案，多方助力内容安全
随着互联网内容生态治理步伐加快，不少媒体在融合过程中也试图提升内容审核的效率。
有的媒体选择在智能媒体建设中加入内容安全审核环节，研发智能识别产品，通过人脸识别、文字识别、图片识别技术，加强新闻内容审核把关。
有的媒体选择与技术公司进行技术合作，如一些地方媒体与科技公司推出的基于融媒体云平台的人工智能应用体系。
图片来自花瓣美素
上述两种方式，媒体虽然能掌握核心技术，形成技术专利，但需要投入大量的人力、物力和财力。相比之下，引入外部技术、委托给第三方进行“AI+人工”审核是较便捷、性价比较高的方式。
例如，人民日报社新媒体中心和网晴科技合作，对“人民号”用户每日所发布的数万篇图文稿件、视频、音频进行全方位的内容初审，通过设置多重审核策略为“人民号”提供可靠的安全审核服务。
图片来自网晴科技
基于新华网多年的专业审核经验和网晴科技先进的AI内容安全技术，新华网客户端和网晴科技合作打造了“新华网内容安全大脑”，并已应用于对新华网客户端图文、音视频、直播、评论、用户信息进行×内容审核。新华网客户端与网晴科技还计划将“新华网内容安全大脑”应用于其他主流媒体及商业媒体的审核。
光明日报选择网晴科技的“AI+人工”一站式、系统化的内容生态治理全套解决方案，实现了“光明号”平台的图文、视频、小视频、评论、注册信息五大类型的平台内容安全全覆盖。
在专业的第三方审核机构的助力下，媒体能大大减轻审核压力，既能弥补新编辑人员经验不足的问题，也能解放一部分资深编辑投入到精品创作中去，把住内容安全关，激活内容创新能力。
随着网络空间治理的深化，内容审核产业的发展、“AI+人工”审核方案的应用都将进一步助力营造风清气正的网络空间。
