公众号
关注微信公众号
移动端
创头条企服版APP

在企业内容城池边,它建立起一支保卫军

2923
ToB行业头条 2023-04-25 19:04 抢发第一评

头图__2023-04-24+18_17_13.jpeg

来源:ToB行业头条

作者:海阳



当下的人们,不仅生活在物质空间,也生活在数字空间。这里充斥着各种信息、言论和行为,带来的有愉悦,亦有困恼。


“N号房”事件曾经引起广泛关注。未成年女性的非法视频在Telegram社交聊天房内广泛流传,画面不堪入目、手段极其残忍。1000多位聚集在内的始作俑者在白天与普通市民并无不同,却在聊天室内对此乐此不疲,逐渐演变为震惊全世界的数码“性剥削”犯罪。


不只是上述事件,包括笔者以及千千万万的网民,对这样的情况都有所经历,一些低俗暴力的话语、敏感媚俗的评论、乱七八糟的诈骗信息经常访问应用后台,或是身份信息和电话号码等敏感信息莫名其妙地泄露,贻害无穷。


据中国互联网络信息中心发布的第50次《中国互联网络发展状况统计报告》显示,截至2022年6月,我国网民规模为10.51亿,互联网普及率达74.4%;网民人均每周上网时长高达为29.5个小时。而这10.51亿人的每周29.5个小时中,时刻都在面临不良内容攻击。


由此可见,即便网络四通八达,数字世界愈发蓬勃生辉,宛如一座蒸蒸日上、人来人往、秩序井然的“赛博朋克”城邦,但其中的“黑暗角落”和“地下通道”也让某些非法行为得以滋生和繁荣。为了避免它变成一个永远不眠的“哥谭市”,各方正在采取行动。


政府监管率先到位,很多互联网平台、社区以及APP也都用尽办法管理,毕竟平台内容的丰富度及质量是获取用户的关键要素,而用户则是平台最宝贵的财富。如有内容违规、隐私泄露等事情发生,也将损害自身品牌形象和造成巨额的经济损失,奈何企业自身技术积累不足、安全防护经验不足等因素,因此效果有限。


例如,曾经声名赫赫的搜索引擎公司雅虎,在2016年期间就被曝出超15亿用户信息遭窃;同年,海外流媒体平台YouTube Kids上也接连出现不适合儿童观看的卡通色情内容,于次年遭到大众批评后才执行下架。


这些血淋淋的案例进一步刺激到企业安全意识的崛起,数字内容风控逐渐演变为网络安全之外另一大企业的细分安全需求,带动资本关注。


也因此,数字安全服务商如雨后春笋般出现,并通过企业定向培养、市场广泛征集等方式,带动了国内高校基于网络安全细分领域,开设诸如网络空间安全、网络信息管理等专业学科,全面推动我国网络安全全方面的建设。

 

01

ToB春风吹 ,吹动有心人


七年前,三两个人围着一张桌,看着一摞资料与一台电脑。在上海浦东新区的一处办公室内,一位程序员面色凝重,正与另外两人就“如何帮助一个旅游社交产品做好内容安全”展开激烈讨论。


“我们是以图片、文字为推荐、帮助用户预订门票、旅途分享沟通的社交平台。对用户社交过程做安全把控中,因为图文会涉及成像色彩、角度、文字断句、谐音、模糊、扭曲变形等诸多变化,使审核工作特别复杂。并且如果用户出现违规行为,我们也需要做好证据存留,给出足够准确反馈与解释,让用户了解哪些行为属于违规。”这个产品负责人说到,“这些问题给你们要如何解决?”


面对提问,这位平日里沉默寡言的程序员在脑海里的技术思路奔涌而出。他清了下嗓子便回应道:“的确,音视频的内容安全把控复杂,但是我们可以帮助你们完成三步建设,通过建设舆情预警、建设「AI+人工+举报」三级审核流程、建立审核员培训制度去解决。”


这位程序员名叫朱浩齐,任职于网易旗下的安全保障部,正在为“网易易盾”的诞生寻找客户。


见客户不甚了解,他又详细解释道,舆情预警建设是放在第一步的,我们可以帮助你们打造一个舆情系统,实时搜索网络传播中的热点问题及有害言论,并和有关部门做好沟通对接。将这些敏感信息录入形成相应规避词与舆情工作报告,上报主管部门,直接规避用户在平台上发出存有规避词的信息。


第二步则是建立三级审核规范,先基于大数据精准化层级管理应用,对用户生产的内容做分层处理,建立不同层级违规、违法内容数据库,再用AI技术对违规、违法等内容进行识别算法建模,并持续丰富完善模型数据库。等待用户发出内容后,将这段内容与AI建立的数据库做对照,将所有违规内容直接筛出,提升审核效率与准确度。


之后通过人工质检,核对AI机器筛选出的内容是否存在违规,将违规的扣留,未违规的正常推送。此时通过两层筛查已经基本能规避所有不良内容的推送。


最后即便存在漏网之鱼,或者日后有些内容成为敏感词,定期过检筛查与用户举报机制也能进行有效拦截,维护健康安全的内容环节。


第三步,网易易盾会帮助你们培育审核员,帮助你们建设培训制度,让相应培训人员梳理业务涉及的所有形态的信息内容,包括图、文、音视频等所有可能出现的违规特征,做到授人以鱼,也授人以渔。


一番口干舌燥地解释后,对面的业务负责人也被朱浩齐说动。看此情形朱浩齐乘胜追击,又与其就价格、建设周期、交付时间等问题展开讨论。三个小时后,对面起身表示:“我们都已经有所了解,回去会再探讨一下,下次见面我们可能就要将资料换成合同了。”


对此,朱浩齐内心也难掩激动,“终于离网易易盾立项成功更近了一步。”


朱浩齐的激动并非夸张,实在是由心的表达。2016年ToB风暴席卷市场,网易选择同BAT、京东、美团等公司入局企业服务,并对内提出,希望所有团队拥抱变化,积极探索有哪一些可做企业服务的技术能力。而朱浩齐与一些同事准备响应集团号召,从自身拿手的内容安全、应用安全、业务安全等方面入手,成立网易易盾。


由于材料准备十分齐全,加上团队选择的数字内容风控在对内服务的十余年间,为诸多集团内大热的音视频、游戏以及网易新闻等产品保驾护航,效果十分优异,这使其在立项审批的过程中极其顺畅地通过,但挑战也随即而来。 

“当时集团表示,网易易盾要通过立项审批,还需要在没有销售的情况下,三个月内签下5个一定额度的客户订单。”对清一色程序员的团队而言,这种情况无疑是困难重重,“起初我们是一个纯粹技术团队,技术人员毕竟都不善言辞,思维很难跟实际业务场景产生共振,还不具备什么市场资源。所以依靠自身在三个月内签约5个客户,还要达到一定金额,这让我们倍感压力。”


可即便如此,事情到了这个地步,放弃是不可能的。于是一帮技术人又肩负了市场、销售、品宣种种工作,通过混迹论坛、官方平台培育线索,又通过四处奔波,找到意向客户的所在地进行当面沟通洽谈。以最辛苦、最笨的方式,为网易易盾的诞生增添可能性。


苦心人,天不负。由于当时互联网发展的繁盛,数字产业在蓬勃发展中,越来越多的人意识到安全管理的重要性,配合当时互联网法律法规的逐步完善,倒逼企业们重视数字内容风控,对相应服务产生兴趣。


此时,配合着易盾团队100多个日夜的努力,让其接连在深圳拿下游戏公司订单,为其提供外挂对抗服务;广州拿下IM社交公司订单,为其提供内容安全服务;上海拿下娱乐平台订单,为其提供隐私和内容安全服务……最终,艰难地将网易易盾带到了人世间。


而经过了立项阶段,在2016年9月20号,网易易盾正式对外发布,由MVP(最简可行产品)阶段开始向1-100的PMF(市场规模化)阶段前行。


02

市场多变数,求索定前路


常言道,万事开头难。但1-100的PMF阶段可比0-1的MPV阶段难得多。


朱浩齐讲述了一个让他印象深刻的故事。当时网易易盾在1-100阶段,为了能更好地推广产品,上线了AI自动识别内容在线体验,让客户提前感受到产品能力增加成单概率,但问题是在实际中,偶尔出现的错误效果起到了反向作用,曾引来销售的下线争议。


按常规操作,当销售提出新需求的时候,业务部门和技术部门都会听从,但网易易盾没有这样做,而是着手客户沟通和优化AI训练。


朱浩齐讲到:“企业服务需要坚持长期主义,在业务的开始阶段我们就应该坚守实事求是。当前的争议,只能说现在AI的能力与企业主观认知出现了偏差,如果通过下线这个功能来规避这个偏差,事后客户还是会发现这个事实。不如大方的开放给客户,帮助客户更好地认识到AI的能力和边界”。


他还表示,AI已有70多年历史,作为数字空间的抽象产物,是连接物质空间与数字空间形成生产力升级的通道,这一点在互联网刚在国内风靡阶段,就已经被大众认识,但是真正了解AI能力和价值的人并不多。


2014年前后,许多人都奔向AI创业,想要做出些成绩。幸运的是,由网易集团孵化的网易易盾,过往通过网易内部的技术研究院储备了大量基础AI能力,方能让我们专注于智能化企业服务,走在时代前沿,难道现在要放弃这种先发优势吗?


直击心灵的两连问,让网易易盾团队再也没有放弃的理由。毕竟困难虽有,但也不能因噎废食。面对发展路上的重重暗礁,网易易盾选择谨慎前行。既然AI认知与市场上企业对内容安全的主观有偏差,那就通过频繁地与客户沟通,让客户理解AI原理,说清楚需求,反哺到AI模型,让认知和能力对齐。


还有,如果AI对隐私安全、数据安全的保障有纰漏,网易易盾团队依旧要与客户保持频繁的沟通,培养他们对AI技术为什么出现这样的问题有准确认知。这里面是没考虑业务场景特性,还是需求没有讲清,再度做认知拉齐,最后通过清晰的反馈让需求与产品能力匹配上。


在秉承AI一定会成为人们工作中最佳辅助手的信念下,网易易盾通过细培育、多沟通、快迭代的方式,逐渐摸清了如何完美度过1-100规模化的方式。并基于此悟出,“和客户在一起”和“MI市场洞察”发展方法论,助力自身发展。


值得一提的是,将“和客户在一起”、“MI市场洞察”这两个方法论做揉合,这刚好暗合经典的企业业务管理「服务三角」模型。 

「服务三角」模型,指的是将“培养客户、聆听反馈、丰富产品”三个环节点、串联成一套闭环且牢固的三角形市场服务体系。以保证在服务过程中,相关厂商能清晰且实时地获取市场需求反馈,并通过产品及服务的敏捷迭代匹配需求端。

例如,在面向近些年火热发展的游戏公司提供服务方面。目前很多大火的多人场景游戏中,都存在一些针对 Unity3D 单机游戏的模拟点击、加速器、修改器、破解版、定制外挂等作弊方式,这些行为不仅影响玩家体验,黑客还会通过外挂插件中植入木马,导致相关玩家游戏账号被盗、遭遇诈骗、个人信息泄露等问题。


面对这种情况,游戏公司一定会做出整治,可公司又不能完全将精力投入反外挂工作中,需要控制运维成本,考虑接下来的游戏迭代和开发新品,以保证公司长久发展,这也让其陷入两难境地。于是,为了能腾出手打造精品游戏,游戏公司在安全方面往往选择与安全服务商合作。


网易易盾在服务时,先是了解游戏中外挂是依靠什么机制诞生的,解释产品的运行原理是什么,在理论上能做到什么效果。之后做初服务测试,看看哪些领域没有做好,并让客户理解为什么这次智能防护出现偏差。


之后,当游戏客户理解安全产品的运行原理,理解遵循这套流程为什么还会出现问题,并给出清晰准确的问题反馈,网易易盾在对其做功能上定向补足,以保证对需求的完美匹配。


当然,这个过程中,由于外挂的迭代,二者之间保持着长时间且高频率的沟通。维系着服务优化、安全产品的迭代。而这个过程,也会让网易易盾的产品能力愈加丰富。


重点在于,很多游戏的外挂BUG机制,存在极大的相似性,都从底层人物模型数据、场景数据、剧情机制中挖掘,并与很多游戏中的恶意打金工作室有关联。


网易易盾通过在服务初始的几个游戏公司客户中,去丰富自身的产品、服务,而这里面的新功能,有大量都可直接复用,让这个产品成为具备行业场景属性的高标准化解决方案。


还有,现在汽车企业都在推出智能化、互联网化产品,通过一个APP随时随地远程控制车辆,获得安心的充电及车主服务,并可以在APP社区互动交流,获得更好的使用体验。


不过以APP做车主的使用和交流平台,就不可避免地要面对网络攻击、不良内容的骚扰,于是在此前提之下,不少第一梯队新造车势力选择网易易盾的数字内容风控解决方案。


而网易易盾为了更好服务这些客户,积极与其进行APP的用户注册,UGC内容发布、活动营销、攻击对抗和隐私合规等方面的沟通,双方勾勒出准确的诉求。


随后,根据源源不断的诉求,团队做出融合内容安全、验证码、反作弊与应用加固等技术能力,且最适合汽车行业场景的安全产品。同时,这也为面向汽车行业标准化的数字安全解决方案打下基础,网易易盾可直接向其他汽车企业提供服务。


“「服务三角」的方法论的出现,让我们对于在1-100规模化阶段有了明确前行方向,起到绝佳的利好效果。”朱浩齐如此表示。

 

03

风控成为热浪 ,而它在踏浪


自助者,天助之。从一片荒芜的市场出发,7年间网易易盾在数字内容风控赛道的坚守,终于在近些年迎来了“花开时刻”。


据「ToB行业头条」了解,自2016年之后,国内互联网产业进入繁盛阶段,随之出现的违法和不良信息日益增多,对诸多企业旗下产品造成了极大发展困扰。


公开数据显示,2017-2020年间,我国处理的违法和不良信息数量逐年增长,分别为1.9亿条、2.9亿条、4.9亿条以及9亿余条;关闭网站数量分别为1.8万、3.0万、3.8万以及4.4万;关闭违规APP数量分别为4.2万、3.5万、5.5万以及2.8万;撤下违规网络直播数量分别为1.7万、2.7万、3.6万以及1.8万;关停违规账号数量分别为60万、80万、150万以及3900万。

图片1.png且因主要涉及虚假宣传、侵犯用户权益、非法收集使用个人信息等行为,2017-2020年间,工信部处罚的违法违规APP数量亦是居高不下,分别为7.1万个、4.9万个、6.8万个以及2.2万余个。

图片2.png这些庞大到令人吃惊的数字,无一不在表明网信办与工信部在过去的几年中,加强了对网络内容、个人隐私安全、数据安全的监管和处罚力度,以便打造一个更加清朗的网络空间。从而倒逼相关企业重视这些方面,做好相应防护。


数字内容风控技术,则可以对用户的个人信息进行保护,避免信息泄露和被盗用,提高用户的信息安全感。同时在获取客户授权的前提下也能对账户的设备ID、IP、行为等进行分析,及时识别和预警欺诈交易,减少企业平台的损失。


因此在近些年受到企业及市场的极度关注,带动了这一产业的发展,推动了其在市场上形成热潮。

 图片3.png

IT桔子数据显示,2020年-至今,我国每年有关企业安全方面的投资数量为76笔、109笔、68笔以及11笔,总计投资为264笔。投资金额分别为82.17亿元、126.93亿元、57.44亿元以及7.2亿元,总计投资金额为273.74亿元。


并且IDC的数据显示,全球数字内容风控市场规模在2020年达到了8.57亿美元,并预计将在2025年达到18.97亿美元,复合年增长率(CAGR)为17.6%,数字内容风控发展前景可观。


而网易易盾于2016年便进入数字内容风控领域,多年以来一直深耕技术、贴近客户,目前已是国内赛道中的龙头,服务了数千家头部企业,其中不乏互联网行业的滴滴、知乎、B站、汽车之家,金融行业的华泰证券、中信银行,政府部门及机构的人民网、外交部等一众标杆客户的认可。


因此,多年的技术积累、服务经验沉淀,以及诸多知名客户企业的肯定,也为网易易盾冲刺这波市场热潮奠定了基础,成功踏浪而行。


值得一提的是,网易易盾的发展优势还不止于此,熟悉网易易盾的都知道,它与网易云信、网易云商都隶属于网易智企业务,是网易旗下ToB的左膀右臂之一。而网易云信、网易云商同样是音视频PaaS赛道、数字营销赛道的第一梯队,三者之间起到了强强联合的服务支持。


当下,中国企业基本都在追求一套完整全面的服务体系数字化建设,网易智企则能通过网易易盾、网易云商、网易云信三大业务线,为企业提供综合性的企业服务。


在内,三者提供多渠道、多样化的客户触达新模式,在外,三者赋能企业实现了音视频通信纬度、安全合规纬度、市场商业化营销纬度的全生命周期互动管理,从而备受关注。


如此一来,随着与云商、云信形成联动的效果,在前两者面向潜在客户中,网易易盾也会获得更高的关注度与认可度,极大程度利于市场发展。这方面,通过整合网易易盾与网易云信两大业务能力,推出的“安全通”就是一个极好的证明。


安全通是一个基于云原生架构将通信、安全这两个能力融合,再以一些算法在共同的服务器上抽象出来的产品,对音频、视频传输通过人工智能进行内容安全检测,并且将实时通信服务与内容安全服务融合部署共建,以此提高检测效率。


相关企业在使用“安全通”之后,只需要一个系统、一个后台、一次结算,即可享受网易云信、网易易盾两大技术服务,不仅解决内容传输、安全检测两大问题,也能节省部分成本。据悉,安全通可平均为客户节省20%成本,在某些典型的1V1送检场景可以降低50%左右。


“我们旗下业务板块并非各自为战,而是能够完全打通融合,攥成一拳形成合力。”网易智企总经理阮良曾如此表示,这也说明,网易易盾势必会受网易云信、网易云商的资源反馈、能力反馈,从而获得更好的发展,相反网易云商、网易云信亦是如此。


作为一家在数字内容风控默默深扎数年的ToB服务商,网易易盾从市场一片荒芜开始,终迎春日到来,这是一段值得铭记的过往。不过时代还在滚滚向前发展,数字内容风控在国内还远未到达成熟期。网易易盾也清楚这点,因此还是维持努力态度,希望推动这一项服务再进步。


“正如空气一样,人们无感知,却又是生存的必备要素之一。”朱浩齐说,“网易易盾就是要发展成这个状态。让网民像享受空气一般,获得这个网络世界中必备的安全要素,同时不会对正常网络生活产生影响。成为所有企业、所有人的数字空间保护者。”

声明:该文章版权归原作者所有,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本网联系。
您阅读这篇文章花了0
转发这篇文章只需要1秒钟
喜欢这篇 0
评论一下 0
相关文章
评论
试试以这些内容开始评论吧
登录后发表评论
阿里云创新中心
×
#热门搜索#
精选双创服务
历史搜索 清空

Tel:18514777506

关注微信公众号

创头条企服版APP