您的位置首页 >新闻 >

15.6%未成年人曾遭网络侵害 AI审核能帮他们吗

原标题:15.6%未成年人曾遭网络侵害,AI审核能帮他们吗

经济观察网 记者 任晓宁9月11日上午的腾讯全球数字生态大会上,与会人士透露的一个数据令人触目惊心:15.6%的未成年人表示曾遭遇网络侵害,最常见的是网络欺凌、色情引诱、个人信息泄露等。特别是,疫情防控期间,网络侵害问题更为突出。

根据《2019年全国未成年人互联网使用情况研究报告》,2019年我国未成年网民规模为1.75亿,未成年人互联网普及率达到93.1%。有统计数据显示,目前我国年龄低于10岁的网民已超过1800万,56%的儿童初次上网的年龄低于5岁。

目前,国内多个互联网内容领域均施行了监管审核,但针对更广泛的网络内容监管审核手段较少,存在较大的真空地带,未成年人上网内容审核和分级迫在眉睫。今年上半年,国家扫黄打非办的“护苗2020”专项行动中,查删处置淫秽色情、恐怖暴力、低俗恶俗等不良信息超过603万条;查缴非法有害少儿类出版物13.2万多册。

为帮助解决上述问题,腾讯AI团队优图及安全团队天御今天联手发布了面向未成年人的内容安全审核解决方案。

据了解,腾讯推出的方案,在标准内容审核基础能力之上,增加了很多针对未成年设计的能力。例如性感、抽烟、喝酒等成年人内容,都有相应的识别过滤能力。还专门扩展了违规内容主体是否是未成年人的识别能力,如识别“未成年人直播”、“儿童裸露”等不良行为和图片等。

腾讯介绍说,这套解决方案对于明显色情图片的召回率超过 96%;对于烟赌毒、纹身、床上直播等行为的召回率能够达到80%以上。在识别“未成年人直播”、“儿童裸露”等不良行为和图片,以“区分14岁以上或以下”为测试标准,召回率接近80%。

腾讯方面称,因为AI技术的介入,让内容审核的速度和效率大大提升,通过应用“AI机器审核+人工复审”的模式,能够更快更好地覆盖更广泛的内容,让对未成年人的内容管理真正成为可能。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。