logo好方法网

直播平台信息审核方法、系统及存储介质


技术摘要:
本发明公开了一种直播平台信息审核方法、系统及存储介质,该审核方法包括如下步骤:S1:截取主播用户在直播客户端输出的语音文本和文字文本;S2:将S1所得语音文本转化为转化文本,所述转化文本为文字格式;S3:对转化文本和文字文本进行敏感词匹配、获取敏感词数值;S  全部
背景技术:
网络直播是一种新兴的网络社交方式。主播利用摄像头等工具在直播平台上进行 视频直播。而随着互联网直播的不断普及。很多嗅觉敏锐的商户开始利用直播平台进行线 上的产品推广来配合线下一对一的买卖。入驻平台的用户为了更好的宣传销售自己的商 品,往往会在平台上发布大量的商品信息,平台日均发布的商品信息数量越来越多。为了避 免不法用户借此机会试图发布一些违反国家规定的不良信息(例如涉黄、毒、赌、暴力恐怖 等的商品信息),平台需要对主播在直播过程中发布得信息进行一定审核。现有得网络直播 一般采用委任管理员结合群众监督举报得方式进行实现。这种监督方式造成管理员得工作 量较大且容易产生疏漏,不适合处理直播间数量较多的直播平台。因此,如何开发出一种新 型的直播平台信息审核方法,以克服上述问题,是本领域技术人员需要研究的方向。
技术实现要素:
本发明的目的是提供一种直播平台信息审核方法,能够大幅减少管理员在直播平 台上的工作量,杜绝直播平台上出现发布不良信息的情况。 其采用的技术方案如下: 一种直播平台信息审核方法,其包括如下步骤:S1:截取主播用户在直播客户端输 出的语音文本和文字文本;S2:将S1所得语音文本转化为转化文本,所述转化文本为文字格 式;S3:对转化文本和文字文本进行敏感词匹配、获取敏感词数值;S4:将S3所得敏感词数值 进行筛选,生成审核数值;S5:将S4所得审核数值形成预审文本、输出至管理员客户端。 优选的是,上述直播平台信息审核方法中,步骤S2包括:S21:检测S1所得语音文本 得语言类型;S22:获取与所述语言类型匹配得语音标准模型,并基于该语音标准模型对所 述语音文本进行处理,生成标准语音文本;S23:获取与所述语言类型匹配得语音转化文本 模型,并基于该语音转化模型对所述标准化语音信息进行处理,转化为转化文本。 更优选的是,上述直播平台信息审核方法中,步骤S3包括:S31:将转化文本与预存 的敏感词列表进行匹配、取得转化文本中出现的敏感词数;S32:将文字文本与预存的敏感 词列表进行匹配、取得文字文本中出现的敏感词数;S33:将S31所得敏感词数与S32所得敏 感词数进行累加、该累加值即为敏感词数值。 进一步优选的是,上述直播平台信息审核方法中,步骤S4包括:S41:将敏感词数值 与预存的敏感词阈值进行比较、若敏感词数值大于敏感阈值,跳转至S42;S42:暂存敏感词 数值、并以该敏感词数值为审核数值。 为实现上述直播平台信息审核方法,本发明还公开了一种直播平台信息审核系 统。其包括:获取模块,检测模块,标准模块,转化模块,比对模块,筛选模块,通知模块,举报 3 CN 111586421 A 说 明 书 2/3 页 模块和管理员客户端;所述获取模块用于截取直播客户端输出的语音文本和文字文本;所 述检测模块用于检测所述语音文本的语言类型;所述标准模块用于获取匹配于语言类型的 语音标准模型,并基于该语音标准模型将语音文本转化为标准语音文本;所述转化模块用 于获取匹配于语言类型得语音转化模型,并基于该语音转化模型将标准语音文本转化为文 字格式的转化文本;所述比对模块中预存有敏感词列表、用于对转化文本和文字文本进行 敏感词匹配、获取敏感词数值;所述筛选模块中预存有敏感词阈值、用于筛选出高于敏感词 阈值的敏感词数值作为审核数值;所述通知模块用于将审核数值生成预审文本输出至管理 员客户端;所述举报模块用于接受举报信息并将该举报信息转发至管理员客户端;所述管 理员客户端用于实现管理员的登录访问。 为实现上述直播平台信息审核方法,本发明还公开了一种计算机可读存储介质, 所述计算机可读存储介质中存有计算机程序,其特征在于:所述计算机程序在被执行时实 现上项所述直播平台信息审核方法。 通过采用上述技术方案:根据直播平台的特殊播放模式,分别针对语音文本与文 字文本进行过滤。具体来说:通过将语音文本转化为文本格式、与文字文本一起进行基于敏 感词过滤的文本检测,高效过滤色情、广告、摄政、暴恐等垃圾文字及敏感词。同时,配合用 户通过举报模块对管理员反馈后,管理员综合预审文本进行抉择管理,复查是否有违规现 象、并在查实后对其进行相应的关闭直播间、禁言甚至封号处理。 与现有技术相比,本发明能够大幅减少管理员在直播平台上的工作量,杜绝直播 平台上出现发布不良信息的情况。 附图说明 上面结合附图与
分享到:
收藏