揭秘网络直播平台审核流程：每秒300张截图鉴黄

源自：解放日报

---

原文标题：揭秘网络直播平台审核流程──“机器+人工”审核 每秒300张截图鉴黄

　　作为时下最热门的信息传播平台之一，量大面广、转瞬即逝的网络直播如何审核监管？
　　据了解，根据公安部相关规定以及近期国家网信办发布的《互联网直播服务管理规定》，网络直播平台不得利用直播从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等法律法规禁止的活动，不得利用互联网直播服务制作、复制、发布、传播法律法规禁止的信息内容。网络直播平台所在网络公司，应采取技术安全措施，防止外来攻击；还要设立安全团队，对内容、系统、数据等安全进行防护，防止非法和低俗内容播出。而明年6月1日起将实施的《中华人民共和国网络安全法》，将进一步加强网络安全方面的法律规范。
　　记者从一些直播平台了解到，业内一般采取“机器审核”+“人工审核”模式，同时还采取各种安全技术防护措施。以被网友称为“B站”的哔哩哔哩弹幕网的直播平台为例，过去一些平台采取“每2至4分钟的截图审核”“关键帧监察”“第三方图片识别”等技术模式，从截图到完成人工响应，时间超过4分钟。该网站针对自己网站中“二次元”内容作为“主打”的特点，应用AlexNet的“鉴黄模型”，每秒处理300张截图；嫌疑图片从读图、图片传输、计算、返回结果，全程平均响应时间约2.2秒；10至15秒内，后台人工审核便可完成对嫌疑图片的二次判断。另外，有了它的帮助，监管方能在其他用户没有正常进入直播间前，就切断或锁定直播间，避免有害信息传播。
　　今年以来，上海公安网安部门主动提前介入、加强源头管理、引导行业自律，组织开展网络直播平台专项整治工作，建立并完善监管治理机制，督促直播平台落实“主体责任”，最大限度挤压网络违法行为空间。其间，共排查本市网络直播平台37家，查处21家，关停违规直播间1000余个，注销未实名认证主播1000余个，有力净化了本市网络空间环境。