CDN加速

直播智能鉴定

更新时间:2021-04-01 18:05:42

一、 功能简介

  互动直播业务中,直播内容由主播实时推送,若主播推送的直播内容中包含涉黄,涉恐,政治人物的非法内容,一经播出,便会给在线直播平台带来极大负面影响。因此,直播客户需要对直播内容是否涉黄进行鉴定。
  先前常用的鉴定方法是拉取一路直播流,对直播内容进行监测,此方法最大的问题是客户办公区域带宽一般难以承载同时数百路直播流,且对于直播流的合法性只能依赖于人工鉴别,难以实现自动化鉴别。
  在此情况下,网宿提供基于深度学习的直播智能鉴黄技术,采用实时截图功能对直播流进行定时截图,将图片存储在网宿云存储空间,并智能识别图片色情程度,进行打分,方便用户对涉黄内容进行快速处理,帮助用户减少审核人力。

二、 使用说明

  为降低人工鉴定的成本压力和效率,网宿提供智能鉴定功能。由主播发起直播推流后,网宿云存储平台根据与客户约定截图频率对当前直播流进行截图,截取的图片存储在云存储平台上,智能识别图片是否涉黄,色情程度多大,是否涉恐,是否有政治人物,并回调客户接口通知客户直播流的鉴定结果。
  智能鉴定功能支持鉴定结束时回调客户接口通知客户鉴定信息。
  通知地址示例:http://abc.com?message_type=ws_contentDetect_image
注:通知地址响应200即表示通知成功。
  设置通知地址后,该地址会收到一个POST信息,信息body中带有经过URL安全Base64编码的json,即为鉴定结果。根据客户与网宿约定的规则决定通知的内容。

  鉴黄通知内容如下:

  {
"detectId":"<detectI>"
"cmd":"<cmd>"
"streamname": "<streamname>",
"bucket": "<bucket>",
"pornDetect":{
   "code": "<ResultCodeint>",
   "message": "<ResultMessagestring>",
    "fileList": [
        {
            "key": "<keystring>",
            "url": "<urlstring>",
            "rate": <Rate float>,
           "label": <Categoryint>,
            "review": <Reviewboolean>
            "error": <Error string>
        }
]
}
}

鉴恐通知内容:

{
"detectId": "<detectId>",
"cmd": "<cmd>",
"streamname": "<streamname>",
"bucket": "<bucket>",
"isZip": <isZip int>, //是否压缩文件鉴定0-普通文件1-压缩文件
"terrorDetect": {
"code": <ResultCode int>,
"message": "<ResultMessage string>",
"fileList": [
{
"key": "<key string>",
"url": "<url string>",
"rate": <Rate float>,
"label": <Category int>,  // 0:非暴恐1:暴恐
"review": <Review boolean>,
"error": <Error string>
}
]
}
}

政治人物鉴定通知内容:

{
"detectId": "<detectId>",
"cmd": "<cmd>",
"streamname": "<streamname>",
"bucket": <bucket>",
"isZip": <isZip int>, //是否压缩文件鉴定0-普通文件1-压缩文件
"politicalDetect": {
"code": <ResultCode int>,
"message": "<ResultMessage string>",
"fileList": [
{
"key": "<key string>",
"url": "<url string>",
"label": <Category int>,  // 0:非政治人物1:政治人物
“persons”:[
{
“name”: <Name string>,  // 识别为政治人物的名称
“rate”:<Rate float>,
“review”:<Review boolean>,
},
…
] "error": <Error string>
}
]
}
}

返回字段说明:

字段名称 说明
detectId 送检任务的唯一标识
cmd imagePorn 鉴黄
imageTerror 鉴恐
imagePolitical 政治人物
streamname 直播流名
bucket 存储的空间名
code 200鉴定成功
400请求参数有误
408未收到服务鉴定响应
500鉴定服务器异常
message 与code对应的状态描述信息
fileList 鉴定返回的结果
rate 介于0-1间的浮点数,表示该图片被识别为某个分类的概率值,概率越高、机器越肯定
label 整数,表示该图像被机器判定为哪个分类。鉴黄结果:0色情1性感 2正常。如果为-1,则表示图片异常。鉴恐结果:0 非恐暴 1恐暴 -1 图片异常。政治人物结果:0 非政治 1 政治人物
review 是否需要人工复审该图片,鉴定服务是否对结果确定。true需要false不需要
error 图片鉴定异常,返回异常信息。鉴定正常,返回null

三、 应用场景

  1、所有需要进行直播流内容涉黄审核的直播场景。
  2、所有需要进行直播流内容涉恐审核的直播场景
  3、所有需要进行直播流内容鉴定政治人物审核的直播场景。

四、 注意事项

  1、 开通智能鉴定前须先开通网宿云存储。
  2、建议直播截图业务与智能鉴定业务分开。如果将智能鉴定和截图业务共用,图片尺寸会等比例压缩至最短边为 256px。
  3、 智能鉴定功能精确度超过99.5%,支持0.2s单张顶尖响应速度,并支持数千路直播大并发识别。
  4、 客户若需要开通实时截图功能,需要提供给网宿以下信息:
  1)提供截取图片的格式,支持jpg、png格式。
  2)提供给网宿智能鉴定通知回调地址。
  3)开通网宿WCS存储服务,并将存储空间名提供给直播平台。
  4)与网宿约定智能鉴定截图与鉴定频率,建议30S截图鉴定一次。
  5)与网宿约定智能鉴黄通知规则,可以全部通知,或者选择porn(色情)、sexy(性感)、normal(正常)、terror(涉恐)、political(政治人物)与exception(鉴定异常)中的某一种或者某几种进行分别通知,其中正常类别可以设定rate值低于某一阈值的进行通知。