文档中心 内容安全 敏感词审计

敏感词审计

更新时间:2023-03-01 10:55:58

1、功能简介

敏感词审计是基于现有CDN和云安全平台,为客户提供有效检测文本中的违禁内容,可以检测涉黄、违法违禁、暴恐、色情、辱骂、广告、灌水等不合规的内容,同时支持多语种的文本审核。

2、主要功能

(1) 支持多语种敏感词审计
不仅支持对中文的文本进行违规审计,也支持对英文、阿拉伯语等多语种进行文本审计。

(2) 支持多种接入方式

  • 全站文本审核:采用国家监管局监管词库,在客户CDN加速的基础上同时提供网页文本内容敏感词审计服务。当终端用户发起请求时,在CDN边缘节点实时对请求响应的文本内容进行敏感词审计,保障终端用户获取的响应内容文本是符合国家监管部门信息监管需求。
  • API接入方式:支持客户通过调用API接口主动提供审核任务,网宿审计中心审计完成后直接响应文本审核结果。

(3) 支持多种风险类型检测

  • 涉黄低俗检测:识别文本中不合规范的色情、性感、低俗内容。
  • 涉政场景检测:识别文本中不合规范的涉政内容。
  • 暴恐场景检测:识别文本中的暴恐血腥、恐怖事件等内容。
  • 违法违禁检测:根据法律规定,识别刀枪、毒品等违禁内容。
  • 辱骂语句检测:识别文本中包含有谩骂内容的垃圾文本。
  • 恶意灌水检测:识别无实意字符或乱码等特征的灌水类文本。

(4) 支持违规封禁操作
针对全站文本审核,支持配置违规封禁策略。对用户请求响应内容进行审核后,可根据审核结果对响应内容进行对应的封禁操作。可支持的违规执行策略包括:

  • 放行:即只做检测监控,不做封禁处理。
  • 屏蔽:当检测到违规内容时,直接对该域名URL进行封禁,直接屏蔽该页面。
  • 替换:支持对识别到敏感词的文本部分,进行替换操作,支持替换文本、替换页面两种方式。
    • 替换文本:即若该网页检测到涉敏,则将涉敏部分文本替换掉,比如将文本替换为“XXX"(替换文本支持客户自定义)等。
    • 替换页面:即若该网页检测到涉敏,则用另外一个网页内容(替换的网页URL支持客户自定义)来响应。

3、适用场景

  • 电商平台:电商类平台中存在大量的用户评论,用户的评论内容多种多样,很容易存在谩骂、广告等令人不适内容。敏感词审计可以覆盖各类文本内容类型,检测用户发出的内容,拦截评论中违规内容。
  • 社交平台:敏感词审计可广泛适用于BBS、博客,以及有用户UGC内容的各类网站,包括发帖、回帖及站内信等场景,检测文本中存在的违规内容。
  • 新闻媒体:新闻媒体类网站存在大量新闻内容、新闻评论等信息,自动识别媒资中可能存在的涉暴、广告、违禁品、灌水等信息,避免已发布的文字存在违规风险。
  • 政企官网:支持对政企官网的内容进行合规检测,保障满足国家信管局信息监管需求。

4、API接口

针对API接入方式,提供对外API接口。API接口文档详见:https://www.wangsu.com/document/api-doc/25440。

本篇文档内容对您是否有帮助?
有帮助
我要反馈
提交成功!非常感谢您的反馈,我们会继续努力做到更好!