妇科手术和摄像头监控也能直播？B站内容审核为何会有漏洞

1月19日早间，“网上直播妇科手术涉事医生已被抓获”的话题登上微博热搜。

山东省日照市公安局东港分局发布消息称，18日16时许，接群众举报，一名医生疑似在网上直播妇科手术片段，东港分局对涉事医院相关人员进行了调查，于当晚将涉事医生厉某抓获。目前已立案，案件正在进一步调查中”。

两天两度曝出违规内容

据举报人表示，自己在1月15日下午偶然进入哔哩哔哩（以下简称“B站”）上关于这场手术的直播间。一名男医生（身份或为麻醉师）疑似在患者不知情的情况下，对正在进行中的妇科手术进行直播，并且直播时长已长达一个多小时。举报人通过人工客服进行举报，随后直播被管理员切断。

B站也于18日晚间回应称：“经内部核查，该直播间于1月15日直播过程中被多次警告及切断，随后被永久封禁。目前我们已向公安机关进行举报，并将积极配合警方开展调查取证。”

跟手术直播相比，更可怕的是“摄像头直播”。

就在不久之前，有网友发现B站上存在疑似破解学校、医院等公共场所摄像头后获得的实时监控视频，视频下的评论也十分不堪。该网友认为，“这条‘黑产’可能已经形成了，他们做这种账号大概率是为了拉人进那种付费群，而且不仅是公共摄像头可能被破解泄露，还有家庭摄像头也会有被破解的风险。”

对此，B站在1月17日表示，已下架相关内容，对上传上述内容的账号进行了封禁，并将账号信息报备给了主管部门，后续调查正在进行中。B站还警告，此类行为涉嫌严重侵犯个人隐私，属于违法行为。一经发现，将会依法严肃处理。如果用户发现此类内容，请立即联系在线客服。

不过短短两天时间，两度曝出违规内容，B站似乎都是“后知后觉”，让不少用户开始质疑平台方B站审核机制的有效性，有网友质疑：“既然都是违法行为了，当初为什么B站审核能通过呢？”

B站视频审核机制：AI和人工两道筛选

那么，B站的内容审核是如何进行的呢？

根据B站招股书介绍，B站采用两级内容管理及审核程序，监控上传到平台的内容，以确保不会发布可能会被判定为非法或不适当的内容，并及时删除任何侵权内容。

第一级审查程序是通过专有的人工智能筛选系统进行的，该系统会将新上传的视频与B站“黑名单”资料库中存储的受版权保护或引起异议的视频进行比较，识别具有类似代码的视频，从而自动标记并筛除有盗版问、非法或不适当内容的视频。

在技术筛选系统对内容进行处理后，B站的系统会从内容中提取相应违规痕迹，并将其发送给内容审核团队进行二级审查，即人工审核。

此外，B站对于平台的其他内容也有相应的审查机制，B站将用人工智能筛选系统对弹幕进行语义分析，以分析、识别和筛除出不合适的弹幕。

在直播方面，B站除了两级内容管理及审查程序外，还有独立的监控小组，负责审核及监控主播的内容和活动，以及观众发表的弹幕。

不过B站也表示，鉴于用户每日上传的内容数量庞大，无法保证能及时识别所有可能违反相关法律法规的视频或其他内容。

近年来，B站也因为内容问题，多次被相关部门处罚。

2020年12月3日，因有人举报平台存在低俗内容，B站被上海市相关部门约谈并责令整改。按照转办线索，2020年上海市相关部门对B站行政立案处罚六次，约谈十余次。

2021年2月，有网友反映，B站因蔑视女性用户、大面积封禁女性账号，被部分品牌商终止合作，“B站被部分品牌方拉黑”等多个话题冲上了微博热搜。

央视网评论认为，不断试探底线的违法犯罪行为和不够完善的平台审核机制，导致视频平台上乱象层出不穷。比起每次事后致歉的“亡羊补牢”，平台应积极履行主体责任，完善人工审核制度，提升技术审核效率和质量。

连续工作12小时的审核员，能否把好最后一道关？

相较于“没有感情”的技术审核，每每出现问题，作为最后一道关卡的人工审核往往会成为“众矢之的”。

根据B站在招股书中披露的数据，截至2020年12月31日，内容筛选团队有约2413名员工，专门负责每周七天、每天24小时审核及监控上传到平台上的内容。直播的监控团队则由200多人组成，直播审核流程与视频内容审核一致，此外，直播监控小组除回应用户投诉外，也需要经常造访不同直播室，确保内容的适当性。

银柿财经记者尝试应聘了B站视频审核一职，公司的HR介绍，该岗位的工作内容为视频、图⽂、推⼴等内容信息审核，主要对违反法律法规、审核规则等违规内容进⾏处理，确保业务安全；岗位要求为⼤专及以上学历，必须要有毕业证；应聘者最好喜欢二次元文化，对时事政治有了解。

该HR表示，应聘者入职之后为B站的正编员工，与B站签订相应的合同，前期会安排两周至一个月的培训期，工作安排上则有做一休一（工作时间为9:30~21:30、12:00~24:00或者21:30~9:30）、做五休二（工作时间为9:00~19:00或者16:00~1:00）两种月度排班，由公司统筹。

不过在招聘网站上，上述职位的发放者并非B站，而是四川某管理咨询公司。

（B站视频审核岗位招聘。 图源：前程无忧）

对此，有专业人士向记者解释，对于内容审核这一类需求量较大的基础岗位，B站可能是采取RPO的形式进行招聘，即将部分招聘需求交给专业公司来完成，后续的员工编制仍属于B站。但有不少从事过内容审核工作的网友表示，这份工作并不好做。

在知乎上有匿名用户发文称，不推荐B站的内容审核岗位，指出该岗位工作压力中等偏大、加班普遍，只有法定节假日加班会补工资，其他时间义务加班或调休。另外也有用户对于薪酬以及倒班带来的身体压力表示抱怨。

这样来看，由于人工审核的特殊性，除了审核制度的完善和定期培训，B站对于审核人员的招募以及入职后的工作状态也应更加重视。