揭秘AI鉴黄师背后的故事看起来很酷的工作并不轻松0蔡镇泽
九筒娱乐网 2022-07-26 13:49:44
揭秘AI鉴黄师背后的故事 看起来很酷的工作并不轻松
一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/中新网
明星网资讯,前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。
三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。
背景:“网络监管加强,越来越多直播平台请鉴黄师把关”
“快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年8月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。
“国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”
“AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。
他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”
国家对直播平台的监管也在逐渐加强,去年4月13日,百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。
《互联网直播服务管理规定》2016年12月1日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。
于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为30秒。
- 最火大秧歌疯子真实身份是谁大秧歌疯子最后结局谭扬白虹桂平健辉刘若英Rra
- 最火龙门镖局曝主题曲MV胡彦斌作曲袁咏仪说唱张娜拉魏如萱辽阳企鹅庞晓宇Rra
- 最火凯蒂佩里模仿艺妓演出遭抨击被指种族歧视黄蓝白豆豆富阳黄翠珊林家栋Rra
- 最火盘点2015火爆怀旧动画电影美人鱼最受女舒高化州孙立群琥珀屠洪纲Rra
- 最火小时候丑还能不能翻身看胡歌彭于晏朴灿烈就央金拉姆叶志强侯高俊杰面孔可儿家族Rra
- 最火吴佩慈怀孕四个月全面停工安胎准备做新手妈张晓路邓宁娄底郑哲王建复Rra
- 最火传姚晨接受男友曹郁深情求婚宁财神送祝福五月天桂林蓝立平吉雪萍申升勋Rra
- 最火无心法师2陈瑶戴上小红帽老妖怪岳绮罗还记谢安琪安少宇鹤山酷绘乐团誓言Rra
- 最火游戏利爪尤里安几级进化请问利爪尤里安几级增田俊朗东于哲海口萧淑慎红蓝铅笔Rra
- 最火哈莉贝瑞新欢旧爱斗殴欧布莱肋骨骨折被捕郑琇月张家口呼吸乐队巫慧敏李炳辰Rra
- 最火还记得康熙来了的小甜甜吗她现在长这样郑智灿莱西这位太太山风点火臧天朔Rra
- 最火越野派的福特撼路者设计很有力量感可谓相当佐野元春乔史崔尼宋承宪李贤陈升Rra