今日头条副总编谈内容审核：把低质、低俗的标准分为两个层次
“移动互联网时代，海量内容创作和消费的快速增长，给审核工作带来了巨大挑战。”1月4日，今日头条内容质量中心负责人、副总编辑李彤接受澎湃新闻（www.thepaper.cn）书面采访，首次曝光了今日头条的内容审核团队的工作流程。
据李彤介绍，今日头条内容审核编辑的主要职责是，对今日头条平台内容进行把关，确保安全和质量。除了每日规定的审核产出，审核还需处理今日头条举报邮箱里用户的举报，抽检和复审平台内容，及时上报，以及整理互联网行业法律法规和行业资讯的新动态，为审核工作提供支持等。
在具体审核工作中，李彤称，今日头条把低质、低俗的标准分为两个层次：几乎所有人看来都会一致同意的标准底线，和因人而异的主观判断。
目前，今日头条每天新增发布50万条内容。今日头条的人工审核编辑团队达到4000人左右，包括图文审核、视频审核和评论审核等，近期还将再招聘2000名人工审核。
据介绍，今日头条内容审核团队人员的平均年龄为26岁，党员占比达15%。招聘的审核员“党员优先”， 李彤表示，也是因为党员的政治方向和政治立场更坚定，对“高压线”和“红线”更敏锐，对大是大非和政治原则的问题更有判断力。
李彤坦言，人工审核的遗憾在于效率，每天50万条内容全部交由人工来筛的话，一个人需要工作500天才能看完，机器则只需要90分钟。此外，内容审核工作的主要难点在于边界。在一定程度上，对于低俗低质内容的判定，人工操作有主观性，而机器也存在局限性，识别容易“一刀切”。
今日头条刚刚遭到堪称史上最大力度的整顿。
2017年12月29日，国家互联网信息办公室指导北京市互联网信息办公室，针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题，分别约谈两家企业负责人，责令企业立即停止违法违规行为。
依据有关部门的整改要求，今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时。
两天之后的2017年12月31日，今日头条平台称，关闭社会频道，将新时代频道设置为默认频道。同时，根据相关法规和管理要求，集中清理涉嫌违规的含低质内容的自媒体账号，12月31号共封禁账号36个，禁言账号1065个。
以下为访谈实录：
澎湃新闻：今日头条内容审核编辑团队具体如何工作？内容审核的具体标准是什么？
李彤：今日头条审核编辑团队目前4000人左右，是国内最大的审核编辑团队。目前包括图文审核、视频审核和评论审核等。团队人员的平均年龄为26岁，党员占比达15%。
今日头条内容审核编辑的主要职责是，对今日头条平台内容进行把关，确保安全和质量。除了每日规定的审核产出，审核还需处理今日头条举报邮箱里用户的举报，抽检和复审平台内容，及时上报，以及整理互联网行业法律法规和行业资讯的新动态，为审核工作提供支持等。
今日头条内容审核工作，严格依照《互联网信息服务管理办法》开展，审核不通过的类别包括：（1）违反宪法确定的基本原则的； （2）危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的； （3）损害国家荣誉和利益的； （4）煽动民族仇恨、民族歧视，破坏民族团结的 ；（5）破坏国家宗教政策，宣扬邪教和封建迷信的 ；（6）散布谣言，扰乱社会秩序，破坏社会稳定的 ；（7）散布淫秽、色情、赌博、暴力、恐怖或者教唆犯罪的 ；（8）侮辱或者诽谤他人，侵害他人合法权益的 ；（9）含有法律、行政法规禁止的其他内容的。
澎湃新闻：相较于此前以机器审核为主，遭遇整顿后，内容审核流程是否有变化？机器审核和人工审核的比重达到多少？
李彤：我们加大了人才招聘力度。招聘完成后，今日头条将会有6000名审核员工，24小时审核平台上的内容，优化内容审核流程、质量和效率。
在具体审核工作中，我们把低质、低俗的标准分为两个层次：几乎所有人看来都会一致同意的标准底线，和因人而异的主观判断。
对于不同类型的低质、低俗信息，我们采取不同的解决方案进行处理。
对于广告信息，机器会识别并标注。对于标题党，机器会识别并提醒作者，如果作者不修改，机器会降低推荐权重或直接拦截。
对于虚假信息、违法信息、色情信息，则主要依靠人工审核。
澎湃新闻：此次大规模招聘，是否说明机器审核还有待加强？在内容审核方面，如何看待人工审核和机器审核的差别？
李彤：内容审核工作的主要难点在于边界。在一定程度上，对于低俗低质内容的判定，人工操作有主观性，而机器识别“一刀切”。
技术存在局限。例如色情内容，机器通过识别裸露来判定是否违规，这个会让一些具有历史意义和艺术性的照片受波及。Facebook 曾经因为“裸露”，误伤了一张著名的越战新闻照片，照片里一位小女孩遭到汽油弹炸伤、浑身赤裸奔跑。今日头条也有过类似的情况。最近，我们下架了一张关于吴哥窟塑像的图片，塑像虽然“露点”，但其实是名胜古迹。这是基于我们一贯执行比较严格的审核标准，造成了机器的“误伤”。
人工审核的遗憾在于效率。一个人一天能够处理的文章数量大概是1000篇，相比之下，机器一秒钟就能处理100篇文章。今日头条每天新增发布50万条内容，全部交由人工来筛的话，一个人需要工作500天才能看完，机器则只需要90分钟。今日头条目前搭建色情、低俗、标题党、虚假信息、低质模型180多个，有效提升了内容审核的效率。
澎湃新闻：对审核人员的基本要求是什么？“党员优先”是基于什么考虑？
李彤：对审核人员的基本要求，正如我们在招聘启事中写道的，我们需要审核人员了解移动互联网行业，关心时事，具有良好的政治敏感度和鉴别力，工作责任心强，执行力高，耐心细致，以及具备良好的团队合作精神。
招聘要求里写“党员优先”，是基于内容审核编辑岗位的特殊性。一个好的内容审核编辑，需要具备良好的政治敏感度和鉴别力。我们在实际工作中也发现，党员的政治方向和政治立场更坚定，对“高压线”和“红线”更敏锐，对大是大非和政治原则的问题更有判断力，对传播主流价值观和正能量更积极，对化网络环境、维持网络秩序更有责任感。这些，都有助于今日头条成为一个健康、安全、有价值的平台。
澎湃新闻：今日头条3天内集中清理了2500多个平台违规账号，主要集中在哪些领域？未来还有怎样的清理措施？
李彤：今日头条集中清理平台违规账号，主要是为了打造健康、有价值的内容平台，并不特别集中于某领域。执行依据是基于帐号发布的内容不适，主要类型包括标题党、色情低俗、侵犯版权、违反法律法规、恶意发布他人/机构负面和违规广告推广等。
澎湃新闻：国际化内容方面，目前看到有日语、英语、葡萄牙语审核，未来是否会加设其他语种？
李彤：国际化内容审核方面，除了日语、英语、葡语，还有泰语、印度语、印地语、越南语、菲律宾语、西班牙语、印尼语和马来语等。随着头条海外业务开展需要，我们会招聘更多具有特定外语能力的人才。
澎湃新闻：除了大规模招人外，今日头条方面还会采取什么样的措施来应对平台大量内容的审核，保证审核的准确性？
李彤：移动互联网时代，海量内容创作和消费的快速增长，给审核工作带来了巨大挑战。
为此，头条建立了一套有章可循的审核流程和标准，设定审核相关制度达29项，包括不良信息举报制度、色情低俗信息识别和处理制度、不同业务线特定的审核制度等。依据内容生态环境的变化和发展，梳理人工知识库，各业务线审核标准已达5000多项，相关案例达10000多例。
除了定期给员工开展系统化培训，今日头条还建立完整的数据分析系统，实现对审核人员的考核。例如，一般文章系统可以按一定比例抽取盲审，即两个审核人员“背对背”审核，如果操作不一致进入质检由资历更加深厚的团队判断结果；对于重点文章，我们严格落实双审制度，只有两审操作结果一致才生效。所有流程，每个审核人员的操作记录都有完整日志，以备考核工作质量和效率，且为复盘问题提供数据支撑。这个数据系统，还可以根据网友的举报和反馈对文章进行召回，确保发现问题。
除了4000人专业审核团队，今日头条还建立了低俗低质打击算法模型，采取人工审核+技术识别的方式。自2015年年末上线以来，低俗低质打击算法模型每天都在优化，识别颗粒度更细、更准确、更快。2017年，低俗低质打击算法模型，配合4000人专业审核团队，一同治理违规信息。期间，用户举报总量降低80%，“不感兴趣”的用户反馈量减少 50%以上， 用户满意度提升30%。