短视频需要防止色情和低俗内容。如何设计人工审核功能？笔者从这个问题出发，从多方面分析和回答了这个问题。 前言：这是一道与网友的即兴测评题。以下内容仅代表个人观点。内容可能有不正确的措辞、不切实际的观点和考虑不周的情况。荷兰电话号码列表 希望大家多多指教，牵手。注：调查的重点是功能的设计，而不是如何识别内容。思考：防止色情低俗视频污染视听，提高视频审核效率和降低人工成本。综合起来需要敏感词监控机制、荷兰电话号码列表 任务分配机制、视频评分机制、发布者评分机制、员工考核机制、人工智能识别机制。01敏感词监测机制敏感词监测机制不仅监控发布的内容，还监控评论。不管怎样，只要你说出你在这个应用程序中说的每一个字，我就会再次监控它。
不同的是，内容监控会直接拒绝发送敏感词，评论区会监控敏感词。如果单词符合一定的审核要求，则需要对视频进行审核，并将有敏感评论的用户记录到“嫌疑人看守所”。如何知道哪些是敏感词？首先，要有一个敏感词库。数据库中的词是从哪里来的？一种是街上熟知的敏感词，另一种是从标题或低分内容和评论中不断获取的。荷兰电话号码列表 也有信息分享给朋友和商家，尤其是做阅读的朋友和商家（不知道行不行）。02 任务分配机制视频每天出，内容五花八门。如何查看这些视频以及如何分发它们？这需要一个任务分发机制来按体积或区域分发视频。考虑到视频一直在产生，荷兰电话号码列表 这就需要任务分配机制有一个定时器。当视频累积到一定数量或每隔一定间隔自动分配任务人工审核时，人工审核将优先发送时间较早的人。
视频。劳动力也出现各种突发情况，荷兰电话号码列表 如辞职、病假、任务无法完成等。视频必须经过审核。这就需要一个任务重新分配和转移的功能，以保证视频尽可能在同一天审核。03 视频评分机制 任务分配后，需要对视频进行审核。这时，视频评分机制开始起作用。有两种类型的视频评分机制。一种是连续评分优秀的视频发布者发布的视频自动通过审核。这个优秀的标准可以是极其严格的，比如没有瑕疵，达到一定的点赞数、评论数和粉丝数才能被评为优秀，荷兰电话号码列表 或者可以是发布的内容、评论和点赞，只要没有瑕疵。出色的。这样做的主要目的是为了提高审稿效率，因为人工真的很慢。二是人工评分机制。评分标准暂时分为低俗、色情和正常。粗俗色情内容直接删除反馈给发布者，记录用户数据、操作者、原因和时间，让每一条评论都可追溯，也可用于统计应用内发布的视频类型.反思年度总结。