公众号
关注微信公众号
移动端
创头条企服版APP

字节跳动技术“投毒”事件忧思录

14121
2024-11-06 10:37 抢发第一评

640 (19).jpg

字节跳动日前爆出的程序员“投毒”技术系统事件,迄今处于反转、再反转中,余波不断。

大概事实是,字节跳动某技术团队的一名实习生利用Huggingface(HF)平台漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果忽高忽低,无法产生预期的训练成果。

640 (17).jpg

直接结果是,一个多月里, 8000多张英伟达 H100训练的模型都是错误的,损失超千万美元。

据媒体报道,字节跳动知情人士表示,确实有破坏模型训练一事,不过传闻有“夸张和虚构”的成分,损失没有那么大。

据悉,受影响的不是豆包大模型,而是商业化技术团队的模型训练任务,仅影响了“广告部门的一些技术工作”。

对此,字节跳动的处理方式是,“辞退+同步行业联盟+同步情况给学校”,并未像传闻中所说的,肇事者“被送进去”。

有点狗血的是,消息曝出后,该名涉事实习生在社交平台上找自媒体博主“辟谣”甩锅,说是其他人做的。不过很快便遭到否认。

640 (18).jpg

有自知情人士在Gitbub上分享了一则调查人员对涉事实习生的询问录音,还原其攻击过程。

录音中疑似田某本人的回应,承认了其通过update使得code带有了攻击性。其也对问询人员明确表示,“就是因为某些原因导致了我们都非常不满”。

“所有的记录和审查都证明这是不容狡辩的事实”,Gitbub 这个爆料人称。

琐碎细节和口水战的子弹,相信还会飞扬一阵,是非论断在这些漩涡里有可能越来越不清晰,直至被遗忘。

与大厂的其他八卦相比,技术“投毒”事件,因信息认知差程度,往往掀不起太大波澜,但反而应该得到更多关注与重视。

一方面,类似事件并非偶发和孤例。

比如, 2020年2月,微盟研发中心技术人员通过VPN登录服务器,并对线上生产环境进行了恶意破坏,删除了数据库,导致微盟平台约300万个商家的小程序全部宕机,事件从发生,到数据全面找回历时一周。

该事件当时导致微盟市值蒸发超过30亿港元。此外,微盟还准备了1.5亿元的赔付拨备金。

另一方面,类似字节跳动这样,以完全的技术或算法控制的中心化平台,技术“投毒”可能造成的失控,其可能的影响,会比企业直接损失要更加可怕。

这种平台,通过强大的技术支撑,对生态企业和用户,有着绝对的主导权与控制力,比如流量分发、社会议题设置,直至产业纵深等。

对外部而言,这种控制力强硬而巨大,无懈可击。

但越精密的系统,就有可能越脆弱,尤其对内部而言,牵一发而动全身,及动全局。

很难想象,如果有核心算法部门的程序员,改动某个程序,造成流量分发紊乱,会导致怎样的财富爆发与幻灭。

或者,某个议题被情绪中的个别程序员无序推送后,会造成怎样的不可控后果。

因而,如何防范这种个别技术员的“偶发性投毒”事件,不仅是这些早已具备社会属性的平台公司所面临的挑战,更应该引起社会,及监管部门的更多注意。

另一种评论认为,这也是“大公司病”的一种表现。

以往的该病症,可能更多的认知里表现为,机构臃肿、效率低下、人浮于事,及战略迟钝等。

字节跳动CEO梁汝波曾提到,公司变大之后,效率可能比其他优秀团队低30%甚至50%。这种效率低下在公司响应市场的速度和创新能力上反应得最为直接。

但如此种种,最大的可能,也就是巨头的枯荣生灭,如诺基亚、如柯达、如飞利浦、如 GE。

如字节跳动、拼多多、美团、滴滴等,类似技术主导的平台型企业,偶发性技术投毒事件之病症,尚且可能如此,“大公司病”的遗患会是如何?值得忧思。

互联网往移动互联网,再往AI的技术形态演进过程中,纯粹技术对行业、产业、社会的影响正在变得越来越深切。

在享受其带来的便利与效率的同时,唯技术论、唯算法论等认知也越来越普遍,大家几乎相信技术能解决一切问题,比如延续增长、寿命逃逸、能源永续、星际移民。

与此同时,以AI为代表的,关于技术哲学与技术伦理的讨论也越来越多。

比如个体的、产业的、人类的安全问题与终极问题等。

结论尚需时日,或者不可结论,但不能忽视的事实是,技术主导性越大,其可能的反作用力就越大。

尤其对于技术主导的平台型、生态型企业而言,如何避免个人、随机性事件的危害产生与扩大,应该引起关注。

就是说,不能让随机的个人,掌握一个强大控制力的技术系统的“按钮”,成为可能。

您也可以关注我们的官方微信公众号(ID:ctoutiao),给您更多好看的内容。

声明:本文由创头条企业号发布,依据企业号用户协议,该企业号为文章的真实性和准确性负责。创头条作为品牌传播平台,只为传播效果负责,在文章不存在违反法律规定的情况下,不继续承担甄别文章内容和观点的义务。
您阅读这篇文章花了0
转发这篇文章只需要1秒钟
字节跳动技术“投毒”事件忧思录
打赏一下 0
喜欢这篇 14
评论一下 0
凯派尔知识产权全新业务全面上线
相关文章
评论
试试以这些内容开始评论吧
登录后发表评论
凯派尔知识产权全新业务全面上线
阿里云创新中心
×
#热门搜索#
精选双创服务
历史搜索 清空

Tel:18514777506

关注微信公众号

创头条企服版APP