新浪财经

今日头条副总编谈内容审核:把低质、低俗的标准分为两个层次

澎湃新闻

关注

今日头条副总编谈内容审核:把低质、低俗的标准分为两个层次

澎湃新闻记者 杨鑫倢 实习生 王梦琦 来源:澎湃新闻

今日头条如何对内容进行审核?新招募2000名内容审核编辑为何“党员优先”?机器审核和人工审核是怎样结合的?

“移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。”1月4日,今日头条内容质量中心负责人、副总编辑李彤接受澎湃新闻(www.thepaper.cn)书面采访,首次曝光了今日头条的内容审核团队的工作流程。

据李彤介绍,今日头条内容审核编辑的主要职责是,对今日头条平台内容进行把关,确保安全和质量。除了每日规定的审核产出,审核还需处理今日头条举报邮箱里用户的举报,抽检和复审平台内容,及时上报,以及整理互联网行业法律法规和行业资讯的新动态,为审核工作提供支持等。

在具体审核工作中,李彤称,今日头条把低质、低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。

目前,今日头条每天新增发布50万条内容。今日头条的人工审核编辑团队达到4000人左右,包括图文审核、视频审核和评论审核等,近期还将再招聘2000名人工审核。

据介绍,今日头条内容审核团队人员的平均年龄为26岁,党员占比达15%。招聘的审核员“党员优先”, 李彤表示,也是因为党员的政治方向和政治立场更坚定,对“高压线”和“红线”更敏锐,对大是大非和政治原则的问题更有判断力。

李彤坦言,人工审核的遗憾在于效率,每天50万条内容全部交由人工来筛的话,一个人需要工作500天才能看完,机器则只需要90分钟。此外,内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器也存在局限性,识别容易“一刀切”。

今日头条刚刚遭到堪称史上最大力度的整顿。

2017年12月29日,国家互联网信息办公室指导北京市互联网信息办公室,针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题,分别约谈两家企业负责人,责令企业立即停止违法违规行为。

依据有关部门的整改要求,今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时。

两天之后的2017年12月31日,今日头条平台称,关闭社会频道,将新时代频道设置为默认频道。同时,根据相关法规和管理要求,集中清理涉嫌违规的含低质内容的自媒体账号,12月31号共封禁账号36个,禁言账号1065个。

以下为访谈实录:

澎湃新闻:今日头条内容审核编辑团队具体如何工作?内容审核的具体标准是什么?

李彤:今日头条审核编辑团队目前4000人左右,是国内最大的审核编辑团队。目前包括图文审核、视频审核和评论审核等。团队人员的平均年龄为26岁,党员占比达15%。

今日头条内容审核编辑的主要职责是,对今日头条平台内容进行把关,确保安全和质量。除了每日规定的审核产出,审核还需处理今日头条举报邮箱里用户的举报,抽检和复审平台内容,及时上报,以及整理互联网行业法律法规和行业资讯的新动态,为审核工作提供支持等。

今日头条内容审核工作,严格依照《互联网信息服务管理办法》开展,审核不通过的类别包括:(1)违反宪法确定的基本原则的; (2)危害国家安全,泄露国家秘密,颠覆国家政权,破坏国家统一的; (3)损害国家荣誉和利益的; (4)煽动民族仇恨、民族歧视,破坏民族团结的 ;(5)破坏国家宗教政策,宣扬邪教和封建迷信的 ;(6)散布谣言,扰乱社会秩序,破坏社会稳定的 ;(7)散布淫秽、色情、赌博、暴力、恐怖或者教唆犯罪的 ;(8)侮辱或者诽谤他人,侵害他人合法权益的 ;(9)含有法律、行政法规禁止的其他内容的。

澎湃新闻:相较于此前以机器审核为主,遭遇整顿后,内容审核流程是否有变化?机器审核和人工审核的比重达到多少?

李彤:我们加大了人才招聘力度。招聘完成后,今日头条将会有6000名审核员工,24小时审核平台上的内容,优化内容审核流程、质量和效率。

在具体审核工作中,我们把低质、低俗的标准分为两个层次:几乎所有人看来都会一致同意的标准底线,和因人而异的主观判断。

对于不同类型的低质、低俗信息,我们采取不同的解决方案进行处理。

对于广告信息,机器会识别并标注。对于标题党,机器会识别并提醒作者,如果作者不修改,机器会降低推荐权重或直接拦截。

对于虚假信息、违法信息、色情信息,则主要依靠人工审核。

澎湃新闻:此次大规模招聘,是否说明机器审核还有待加强?在内容审核方面,如何看待人工审核和机器审核的差别?

李彤:内容审核工作的主要难点在于边界。在一定程度上,对于低俗低质内容的判定,人工操作有主观性,而机器识别“一刀切”。

技术存在局限。例如色情内容,机器通过识别裸露来判定是否违规,这个会让一些具有历史意义和艺术性的照片受波及。Facebook 曾经因为“裸露”,误伤了一张著名的越战新闻照片,照片里一位小女孩遭到汽油弹炸伤、浑身赤裸奔跑。今日头条也有过类似的情况。最近,我们下架了一张关于吴哥窟塑像的图片,塑像虽然“露点”,但其实是名胜古迹。这是基于我们一贯执行比较严格的审核标准,造成了机器的“误伤”。

人工审核的遗憾在于效率。一个人一天能够处理的文章数量大概是1000篇,相比之下,机器一秒钟就能处理100篇文章。今日头条每天新增发布50万条内容,全部交由人工来筛的话,一个人需要工作500天才能看完,机器则只需要90分钟。今日头条目前搭建色情、低俗、标题党、虚假信息、低质模型180多个,有效提升了内容审核的效率。

澎湃新闻:对审核人员的基本要求是什么?“党员优先”是基于什么考虑?

李彤:对审核人员的基本要求,正如我们在招聘启事中写道的,我们需要审核人员了解移动互联网行业,关心时事,具有良好的政治敏感度和鉴别力,工作责任心强,执行力高,耐心细致,以及具备良好的团队合作精神。

招聘要求里写“党员优先”,是基于内容审核编辑岗位的特殊性。一个好的内容审核编辑,需要具备良好的政治敏感度和鉴别力。我们在实际工作中也发现,党员的政治方向和政治立场更坚定,对“高压线”和“红线”更敏锐,对大是大非和政治原则的问题更有判断力,对传播主流价值观和正能量更积极,对化网络环境、维持网络秩序更有责任感。这些,都有助于今日头条成为一个健康、安全、有价值的平台。

澎湃新闻:今日头条3天内集中清理了2500多个平台违规账号,主要集中在哪些领域?未来还有怎样的清理措施?

李彤:今日头条集中清理平台违规账号,主要是为了打造健康、有价值的内容平台,并不特别集中于某领域。执行依据是基于帐号发布的内容不适,主要类型包括标题党、色情低俗、侵犯版权、违反法律法规、恶意发布他人/机构负面和违规广告推广等。

澎湃新闻:国际化内容方面,目前看到有日语、英语、葡萄牙语审核,未来是否会加设其他语种?

李彤:国际化内容审核方面,除了日语、英语、葡语,还有泰语、印度语、印地语、越南语、菲律宾语、西班牙语、印尼语和马来语等。随着头条海外业务开展需要,我们会招聘更多具有特定外语能力的人才。

澎湃新闻:除了大规模招人外,今日头条方面还会采取什么样的措施来应对平台大量内容的审核,保证审核的准确性?

李彤:移动互联网时代,海量内容创作和消费的快速增长,给审核工作带来了巨大挑战。

为此,头条建立了一套有章可循的审核流程和标准,设定审核相关制度达29项,包括不良信息举报制度、色情低俗信息识别和处理制度、不同业务线特定的审核制度等。依据内容生态环境的变化和发展,梳理人工知识库,各业务线审核标准已达5000多项,相关案例达10000多例。

除了定期给员工开展系统化培训,今日头条还建立完整的数据分析系统,实现对审核人员的考核。例如,一般文章系统可以按一定比例抽取盲审,即两个审核人员“背对背”审核,如果操作不一致进入质检由资历更加深厚的团队判断结果;对于重点文章,我们严格落实双审制度,只有两审操作结果一致才生效。所有流程,每个审核人员的操作记录都有完整日志,以备考核工作质量和效率,且为复盘问题提供数据支撑。这个数据系统,还可以根据网友的举报和反馈对文章进行召回,确保发现问题。

除了4000人专业审核团队,今日头条还建立了低俗低质打击算法模型,采取人工审核+技术识别的方式。自2015年年末上线以来,低俗低质打击算法模型每天都在优化,识别颗粒度更细、更准确、更快。2017年,低俗低质打击算法模型,配合4000人专业审核团队,一同治理违规信息。期间,用户举报总量降低80%,“不感兴趣”的用户反馈量减少 50%以上, 用户满意度提升30%。

加载中...