内容审核系统
内容审核系统建立初衷是为企业建设一套完整的审核体系,预防出现内容非法,内容违规等情况,让企业可高效、安全的生产内容。内容审核系统适用于有大量内容输出生产的自媒体站点、小说平台、文库、贴吧、论坛、动态、日记等进行文本中涉黄、暴恐、毒品、赌博、枪支弹药等违法违禁、涉政、涉密、反动、不文明低俗等信息通过百万级非法关键词库进行匹配,精准无误的对非法内容进行检测筛除。
应用场景:自媒体站点、小说平台、文库、贴吧、论坛、动态、日记等
应用功能:涉黄、暴恐、毒品、赌博、枪支弹药等违法违禁、涉政、涉密、反动、不文明低俗等信息检测筛查
book118.com内容审核系统介绍
一、 实名认证机制
为确保上传者信息的真实性,杜绝不法分子利用虚假信息注册账号发布有害内容而无法追溯到个人的情况发生,我们与有关部门达成合作共识,建立用户实名认证系统,用户发布数据前,需要认证用户的身份证号码、手机号码、姓名。三者完全匹配才能发布数据。若用户不顾后果发布有害信息,我们则会第一时间将相关情况反馈到有关部门。
二、 文本内容技术检测机制
在日常的数据审查过程中,根据现实情况,审核人员会将关键词录入到网站后台非法关键词库与敏感词库中,经过确认流程生效后,便于其他审核人员开展审核工作,其中,录入到非法关键词库中的数据,网站会在用户上传数据过程中直接进行拦截,而敏感词库中的数据,则在审核人员审核过程中进行标记,方便辨识。
再依靠日常审核工作建立自己词库的同时,我们还采用了国内领先第三方智能内容检测系统(网易易盾检测&百度AI检测),第三方数据回馈后,我们也将其中未存在于我们库中数据添加进去,不断充实网站自身词库。
经长时间的积累与技术沉淀,网站已拥有海量有害信息样本,综合自然语言处理、深度学习、语义识别、文本聚类、词向量模型等检测系统,24小时对网站数据库中内容进行检测,识别准确度到达99.999%。
三、 人工审核
网站拥有专业的人工审核团队,基于机器检测辅助将内容按出现风险的可能分为了ABC三类,交由不同业务水平的相关审核人员进行逐条审查。
同时所有文档还将进行复查+质检两道内容安全机制,审核准确高效,确保审核通过的信息更加安全可靠。
为了确保审核团队的持续高效运转,公司也推出了相关激励机制,根据不同类型内容设置相关激励指标,激发审核人员动力,做到“多劳动多得,有奖有罚”。
四、 行政风险预警机制
目前我们已先后与网信办、网安中心、文化执法大队、版权局、新闻出版署等多家政府部门,在网络大数据安全、舆情监控等领域建立起了7*24小时的联动机制,确保能第一时间更新最新有害信息动态与响应相关部门要求。
五、 非法规则定制系统
通过多年的技术积累,团队现可以针对不同客户需求定制专业化的检测方案,可灵活调整审核标签、松紧度,支持自定义文本黑库和敏感人物名单,贴近业务需求,包括不限于:多种语言识别(英文、日语、韩语、俄语、藏语、维语等小语种)、通讯录识别、版权识别、重复过滤、智能鉴黄、宗教&政治敏感识别等。
同时,我们也可以通过API接口等多种方式,帮助其他第三方进行机器或机器+人工的审核工作。
六、 人员培训
本网站对审核人员有严格的专业要求,从而保证对上传者文档的内容判断准确,对网站文档质量严谨的把控。从正式入职前期开始,审核人员需要通过培训后考核才能进行试岗;正式入职后,会定期对审核人员进行各方面的培训考核,网站要求全体审核人员通过网络安全员考试,使得更好的开展审核工作。同时,审核人员在日常的审核工作中,还与用户保持该有的日常沟通,帮助用户对自己的文档内容进行一个该有的维护。
网站的发展趋势也是一个资源整合、优势互补、发明创新的过程,欢迎合作。