編輯 | 伊風(fēng)
出品 | 51CTO技術(shù)棧(微信號:blog51cto)
沒想到,鬧得紛紛揚揚的字節(jié)實習(xí)生大模型「投毒」事件,竟然等來了后續(xù)!
據(jù)媒體報道,北京市海淀區(qū)人民法院已正式受理字節(jié)跳動對前實習(xí)生田某某的起訴!
田某某篡改代碼的代價相當(dāng)慘重。字節(jié)跳動的訴求是:法院判令田某某賠償侵權(quán)損失800萬元及合理支出2萬元,同時要求其公開賠禮道歉。
這個實習(xí)生到底闖了多大的禍,讓字節(jié)跳動沒有咽下這口氣,而是選擇高調(diào)起訴、殺一儆百。
簡而言之,他因為團隊資源分配問題產(chǎn)出不滿,便選擇報復(fù)公司。以一己之力篡改代碼,讓整個團隊一個月的模型訓(xùn)練“白干了”。
咋做到的呢?這人不僅技術(shù)夠硬,還懂點潛伏:
“利用huggingface的load ckpt函數(shù)的漏洞注入代碼,動態(tài)修改別人的optimer隨機sleep一小段時間,以及修改參數(shù)梯度的方向,而且他還加了個條件,只有256卡以上的任務(wù)才會觸發(fā)這個條件,問題是他還潛伏在集群debug群里,查到啥就改啥,極致攻防。”
圖片
在字節(jié)跳動發(fā)布的澄清中,這事雖然沒有損失8000多卡、上千萬美元這么夸張。
圖片
但也是實習(xí)生能捅出的“摩天大簍”了。
1.事件時間線回顧:對資源分配的不滿終釀成大禍
2024年6月至7月
事件發(fā)生:字節(jié)跳動的一名實習(xí)生田某某因?qū)F隊資源分配不滿,通過編寫、篡改代碼等形式惡意攻擊團隊研究項目的模型訓(xùn)練任務(wù),造成資源損耗。
2024年8月
實習(xí)生被辭退:字節(jié)跳動與涉事實習(xí)生解除實習(xí)協(xié)議,并將其行為同步給所在學(xué)校和行業(yè)聯(lián)盟。
2024年10月
有人在社媒爆料,并被媒體進一步報道:稱“字節(jié)大模型訓(xùn)練任務(wù)被實習(xí)生攻擊”,并有網(wǎng)傳信息稱“涉及8000多卡、損失上千萬美元”。
字節(jié)跳動澄清:字節(jié)跳動通過官方賬號發(fā)布事實澄清,稱確有實習(xí)生發(fā)生嚴(yán)重違紀(jì),涉事實習(xí)生已于2024年8月被公司辭退。同時指出,相關(guān)報道存在部分夸大及失實信息:受影響的是公司商業(yè)化技術(shù)團隊某研究項目的模型訓(xùn)練任務(wù),不影響公司正式項目及線上業(yè)務(wù),且“涉及8000多張卡、損失上千萬美元”的傳聞屬嚴(yán)重夸大。
2024年11月5日
內(nèi)部通報:字節(jié)跳動發(fā)布面向內(nèi)部全員的《企業(yè)紀(jì)律與職業(yè)道德委員會通報》,對該事件進行披露。
2024年11月27日
法院受理案件:北京市海淀區(qū)人民法院正式受理字節(jié)跳動對前實習(xí)生田某某的起訴。
索賠要求:字節(jié)跳動請求法院判令田某某賠償公司侵權(quán)損失800萬元及合理支出2萬元,并公開賠禮道歉。
2.插曲:高才實習(xí)生拒不認(rèn)錯,字節(jié)跳動忍無可忍
字節(jié)跳動發(fā)生的這樁大模型投毒案令人唏噓。據(jù)悉,田某某本科畢業(yè)于北京航空航天大學(xué)軟件學(xué)院,研究生就讀于北京大學(xué),研究興趣為深度學(xué)習(xí)的優(yōu)化與算法。
他有著過硬的技術(shù)實力,卻沒有用在有價值的產(chǎn)出上,反而走向了攻擊訓(xùn)練成果、報復(fù)公司的歧途。
他“抽象”的行為也被很多網(wǎng)友熱議。在事情曝光后,他沒有承認(rèn)錯誤,而是稱被人誣陷,甚至報警稱遭到了造謠。
這種惡劣的態(tài)度,也給了自己一記回旋鏢。
字節(jié)跳動內(nèi)部人士表示,考慮到田某某完全沒有意識到錯誤,且涉事行為已觸犯公司安全紅線,公司最終決定向法院起訴,以表明公司嚴(yán)肅態(tài)度、杜絕類似事件再次發(fā)生。
3.寫在最后:大模型“投毒案”如何“殺一儆百”
800萬的天價數(shù)字,是字節(jié)跳動希望引起社會關(guān)注的籌碼。
但作為一個在讀博士,田某某 800 萬的賠償一旦判下,將是沉重的負擔(dān)。此外,田某某的工作生涯可能受到巨大的影響,對于用人單位來說,職業(yè)道德的缺陷比工作能力不足更難補全。
不過,法院將如何判決,最終結(jié)果可能需要數(shù)月的等待。
回到案件,實習(xí)生捅出的大簍子,讓很多人驚訝于字節(jié)給實習(xí)生的權(quán)限之高,也揭示了成熟的科技巨頭所存在的管理漏洞。案件能警示更多技術(shù)團隊,完善制度(權(quán)限分級、代碼審查、日志追蹤),在提供實習(xí)生成長機會和保障核心資源安全取得平衡。
同時,因為感到資源分配的不公,就決定給公司帶來毀滅打擊的田某某,折射了常見的職場競爭問題,和與之帶來的浮躁情緒。
企業(yè)和個體共同反思、改進,比單純的懲罰更有意義。多一點心平氣和,鼓勵合規(guī)且有效的方式表達不滿,不讓技術(shù)再次走向歧途。