分享到:
电话:0371-61318821
助力企业快速实现 "互联网+" 计划

官方微信

郑州星云互联新闻中心,郑州星云互联资讯
首页 > 新闻中心 > 行业新闻

人工智能和大数据在内容安全管理领域,有哪些重要的应用场景

在中国政策下,互联网得利者如何进行内容安全管理。短信,文章,直播视频充斥着内容安全风险,提供的内容安全的核心能力,适用的核心场景,具体如下:

场景一:UGC内容智能审核

UGC内容主要分为几个场景。一个是会员区域,在互联网场景中,会员区域的内容很多都需要进行管理。会员的头像,会员的名字以及会员的切屏。对会员信息的更改是不允许的,所以说我们对会员区域的管理是必须要有的。另外一些交互类的,比如对发帖信息进行管理检测。第三是直播区域,如直播的封面,直播本身的视频内容以及弹幕和交互的信息。还有一部分是电商场景,这部分国家是有严禁的管控,比如烟草禁止在互联网上售卖。所以我们在电商场景也提供内容安全的检测和识别。商家的产品,产品描述需要通过管理,另外买家的买家秀也需要通过管理。另外一部分是新闻门户,如果是通过自助的媒体进行发布其实这一块的风险是较少的,但是如果是通过第三方转展的新闻,那么需要对第三方的转展内容进行内容审核,以免对平台造成进一步的风险。

场景二:垃圾短信/彩信

目前中国很多运营商的公司是做短信业务的分发和售卖。对于短信,我们也提供文本反垃圾等识别服务,违法内容识别,如广告短信,赌博短信,促销短信等。

功能一:智能鉴黄

目前支持图片和视频的鉴黄功能,我们的识别准确率基本上达到99%的标准。其中分为纯的色情,低俗等内容。通过国家政策的调控,我们是可以随时调配标准的。

功能二:暴力涉政识别

我们支持暴力涉政的识别,目前包括武器,敏感人物,血腥场面,特定着装,烟光场面以及特殊符号等的识别。

功能三:广告识别

广告识别的特色是多层防护,层次过滤,以最快的速度达到最大的效果。其中主要包括二维码识别,OCR识别。我们可以把广告中的文字提取出来,再过一遍算法。

功能四:不良场景

主要可以支持识别画中画,无意义直播,抽烟,纹身,自杀等不良场景。每个场景采用独立模型,解决了单一分类模型不同分类训练的相互干扰,准确度不高等文通。

功能五:文本反垃圾

主要针对评论,正文,小说场景,文本场景。目前的技术除了关键词的提取以外,还有深度学习,语义分析的技术。语义分析主要针对小说场景。

功能六:语音反垃圾

语音识别主要包括两部分,一个是有语义,另一个是无语义。语音转文字场景中可以使用文本反垃圾的模型。第二个是声纹识别,主要在比较嘈杂的环境中识别违法的内容。

功能七:视频/直播流综合决策

这项功能主要包括两部分。一个是视频指纹识别,因为阿里积累了一个庞大的视频库,可以对视频中的指纹进行匹配,命中快速返回。第二是常见的直播截帧的方式,通过不同频度的截帧,多维综合决策,反馈在什么时间点出现了内容风险。

场景三:人脸定位

因为很多app有美颜的功能,化妆的功能。我们可以通过人脸识别功能,识别出人的姓名,性别,年龄,简单描述以及能够识别出敏感人物的脸。

场景四:人脸认证

利用人脸识别功能可以做到人脸认证,通常在实名认证的场景。比如说注册认证,远程开户等场景。比如在深圳入住酒店都有识别人脸,看这个人是不是存在风险的。阿里提供人脸1:1的比对功能,核对是否与身份证一致。

场景五:人脸搜索

阿里可以为教育,安防机构提供相关的人脸搜索功能,比如前段时间的红黄蓝事件,帮助他们提示风险。另外在无人商店,餐饮做管理,识别风险。

目前我们的功能是1:N的搜索,首先定位一个人脸,再从人脸库中进行对比搜索。

场景六:图中文字抓取分析

垃圾广告中做图片文字分析,可以防止垃圾广告的宣传。另外票据信息的提取,可以帮助税务业务的执行。通过OCR功能,可以从很多图片中提取不同的文字,繁体字,特殊字符等等。

场景七:特殊标识识别

很多标识被相关人士盗用了之后,无法保障用户的版权,阿里可以提供特殊标识识别做到版权保护。另外直播场景中的竞品屏障,如自己的直播场景中出现竞争对手的LOGO。使用LOGO检测,支持任何定制化的LOGO训练。

转载自网络 不用于商业宣传 版权归原作者所有,侵权删。

www.xyhlrj.com




作者: 时间:2019-03-21 阅读:335 分享到: