内部员工揭秘：TikTok 竟然这么审核内容

近日，硅星人还从字节跳动现任和离职员工处，了解到更多关于 TikTok 透明度中心的运营，以及整个内容审核机制的细节。

非常时刻，非常办法。

根据多位信源透露的情况，TikTok 目前所有的内容审核功能，全部是逐案进行的，并没有一个针对如此大规模活动实时的、全话题级别屏蔽的操作先例。

TikTok 还在今年三月宣布成立了一个七名外部专家组成的内容审核委员会，包括法律、技术、民权运动和政策等方面的专家列席。

TikTok 的计划是，所有内容审核工作都交由本地的团队执行。一些重要的国家或地区市场，也会逐步开设自己的透明度中心，让当地公众可以一览平台内容审核的全貌。不过目前新中心的开设计划并未启动，毕竟美国第一座中心还未完全落实。

一位了解 TikTok 内容审核机制的信源透露，在审核员能够看到这些内容之前，机器已经进行了不止一道预先审核。最基础的一道就是分析内容的质量，比如那些纯图片、垃圾内容、竞争对手内容，把这些质量明显最低的内容做“不推荐”处理。结果就是不会被出现在非关注用户的信息流上。

以直播内容为例，每一位内容审核员将会面对一块屏幕，上面会有多条（最多同时9条）内容的截图。

这些出现在审核员屏幕上的内容，其来源有两种：

规则和审核操作完全本地化

根据知情人士透露的情况，参观者在 TikTok 透明度中心将可以看到内容安全方面的关键流程，也能够亲眼目睹人工内容审核员的工作。

本周 PingWest品玩英文站的一篇独家报道曾经提到，字节跳动正在中国产品团队和海外产品团队之间建立数据和代码防火墙，这项工作已经进行了一年半之久。

其中一名委员 Dan Schunur 接受科技媒体 TechNode 采访时曾表示，他对 TikTok 主动接受批评、开展合作、做出改变，而非躲避问题的姿态感到印象深刻。

去年大批用户诟病 TikTok 对于未成年用户隐私和使用体验保护不力，甚至放任恋童癖肆虐；今年年初有媒体爆料 TikTok 要求审核员对破墙烂瓦或呲牙咧嘴等“视觉上不美好”的内容进行限制；最近美国平权运动大爆发，又有用户指责 TikTok 屏蔽了游行相关的内容…… 如果 不 改进 ，TikTok 的 全球扩张 将面临 更 多 风险。

类似的内容审核思路，以 YouTube 为代表的其它顶级内容平台也在采用和。（事实上，TikTok 的思路就是来自于 YouTube。）

某些标签关联的操作较轻，结果可能是不推荐；至于儿童色情和宣扬恐怖这类的标签，关联的是下架的操作，结果就是直接下架。

在较早的1.0版本的 TikTok 审核机制中，主要的标签是“推荐”和“不推荐”；现在 TikTok 的内部内容审核系统已经升级到了2.0版本，标签的多样性显著提升了，除了推不推荐，还有“儿童色情”、“裸露”、“性”、“仇恨言论”、“宣扬暴力”、“宣扬恐怖”等诸如此类的大量新标签。 内容被打上不同的标签， 造 成 的结果不同。

文｜杜晨 编辑｜Vicky Xiao

躲不过，那就正面上。面对这些质疑，TikTok 决定采用开诚布公的姿态来面对。

第一种是机器对直播视频进行图片抽帧分析，分析截图中可能包含高风险内容，然后送到人工的屏幕上，审核员主要基于抽帧的结果进行二次分析；

由于增长、合规等诸多因素，内容审核对于任何互联网内容产品来说，都是一件很难但却又逃不过的事情，更别提 TikTok 这样一个由中国公司开发运营、 在全 球都爆 红的短视频平台。

这套新的内容审核机制，显著提高了内容标签的数据价值，帮助 TikTok 更好地掌握平台内容生态的动向。

第二种是来自用户举报以及其它渠道，人工操作也类似。

现任员工透露，具体的内容审核原则，会根据审核对象所在地不同的法律、法规、文化和习俗，采用不同的审核尺度。

TikTok 在当时并没有对游行内容进行屏蔽处理。巧就巧在当时平台发生了搜索话题故障，包括 #BLM、#Cat 等在内的许多话题搜索都无法显示视频播放量。

一方面为了实现合规运营，最小化公司面临的海外监管和舆论风险，另一方面也是为了一家现象级中国科技公司史无前例的国际化大计，字节跳动在最近几年内进行了多次大刀阔斧的人力和内部技术改革。

进入到人工审核阶段后，审核员的主要工作是查看机器提交的截图或直接查看实时视频内容，打上各种标签。

在 TikTok 的内容审核中台团队，也在进行着切割，一些此前供职该团队的中国地区员工被迫内部转岗。

标签决定一切

——

同理，诸如仇恨言论、平权、宗教等争议话题，TikTok 都会在参考各个国家不同的法律法规文化习俗，制定针对性的内容审核标准。

与此同时，机器还会借助预先设计的模型对内容进行更高级的分析。这一步自动化操作主要针对的是明显严重违法的内容，比如儿童色情、宣扬恐怖等。一旦内容被模型验证成功，就不是简单的“不推荐”了，而是会直接下架处理。

简单来说，就是标签决定一切。

字节跳动现任员工透露，在未来 TikTok 的内容审核工作也会完全本地化， 也即意味着： 美国的审核团队负责美国本土上传和直播的内容，甚至在美国会设立多个透明度中心，多个审核团队，分别审核不同州的内容； 印度团队按照印度法律审核印度内容； 新加坡的团队审核新加坡的内容。

如果在自动处理之后，视频的热度达到特定阈值，还会召回人工再看一遍，确认处理是否合适。

拆分团队、设立防火墙，以及 TikTok 升级内容审核系统，都是这些改革的一部分。

值得提及的是，一旦视频被打上那些较为严重的标签（包括机器自动标记和后续的人工核查/手动标记），将会自动触发标签预先设定好的对应操作。

TikTok 在短时间内经受了诸多考验和打击，其中许多都和内容审核有关。