近日，隨著OpenAI發(fā)布突破性的多模態(tài)機器學習模型GPT-4o，關于人工智能引發(fā)全球性失業(yè)潮的報道再次占據(jù)各大媒體頭條。

國際貨幣基金組織董事總經(jīng)理克里斯塔利娜·格奧爾基耶娃博士警告稱，隨著企業(yè)大量采用人工智能技術，全球勞動力市場將遭遇“海嘯”，人工智能可能會消滅全球近一半（40%）的工作崗位以及美國和英國等發(fā)達經(jīng)濟體一半以上（60%）的工作崗位。

英特爾首席執(zhí)行官帕特·基辛格上個月表示，人工智能有一天可能會催生單人獨角獸公司（估值超過10億美元的只有一名員工的企業(yè)）。如果你認為“單人獨角獸”特指腦力工作者中的“卷王“那就大錯特錯了，因為特斯拉、Figure/OpenAI以及大量中國企業(yè)的“具身智能”人形機器人市場已經(jīng)爆發(fā)，未來護理、司機、工人、士兵等體力工作者同樣面臨失業(yè)風險。

目前，業(yè)界普遍認為醫(yī)生、律師、教師、程序員（包括網(wǎng)絡安全人才）等知識工作者是AI大潮最先面對失業(yè)風險的人群，但事實真的如此嗎？

以近年來全球科技行業(yè)裁員的重災區(qū)——程序員職業(yè)為例，AI確實帶來了巨大的編碼效率提升，但與此同時，AI也產(chǎn)生了兩個極為嚴重且難以解決的新難題，使其不但無法完全替代人類程序員，甚至會讓軟件開發(fā)/網(wǎng)絡安全行業(yè)陷入危險境地。這兩個問題分別是：

• AI屎山。AI編寫的代碼質量不佳且不安全，比人類編寫的代碼漏洞多。
• AI污染。AI編寫的代碼已經(jīng)“決堤”并快速污染在線代碼庫和搜索引擎（搜索結果）。

AI屎山

根據(jù)Veracode最新發(fā)布的軟件安全報告，AI生成代碼的激增將導致安全債務問題惡化并對軟件供應鏈構成重大風險。報告指出：“盡管人工智能為軟件開發(fā)帶來了速度和效率，但在代碼安全方面表現(xiàn)不佳，GitHub Copilot生成的代碼中有36%存在安全漏洞?！?/p>

斯坦福大學的一項研究（論文鏈接在文末）發(fā)現(xiàn)，使用人工智能助手編寫的代碼比“手工代碼”的安全性差很多，而且人工智能工具還會導致用戶對其代碼中的安全性過于自信。

例如，在SQL注入漏洞測試中，使用AI助手的測試參與者編寫的代碼安全性明顯較差。36%的使用人工智能助手的測試參與者編寫了容易受到SQL注入攻擊的代碼，而不使用AI助手的對照組的比例僅為7%。

不可否認，類似Github Copilot這樣的人工智能代碼助手能大大提高開發(fā)人員的開發(fā)效率和生產(chǎn)力，并降低開發(fā)技術門檻。然而，缺乏經(jīng)驗的開發(fā)人員可能會輕易相信人工智能助手的輸出內(nèi)容，從而引入安全漏洞風險。

Veracode的報告指出，人工智能生成代碼更傾向于滿足“正確性”而不是安全性，并且在某些情況下，可能會創(chuàng)建無意中使用戶感到困惑的代碼。

AI污染

如果說AI屎山影響的只是具體項目，那么“AI污染”對整個軟件開發(fā)生態(tài)來說則是災難性的。所謂AI污染，是指AI生成的劣質代碼污染代碼庫和搜索引擎結果。例如，近日大量開發(fā)人員投訴稱谷歌搜索引擎的搜索結果被來自Pulumi AI（一種在線人工智能編碼問答工具）的AI生成的錯誤代碼“霸榜”。

開發(fā)人員Arian van Putten在上周末的社交媒體帖子中寫道：“事情發(fā)生了。排名第一的谷歌搜索結果居然是Pulumi大語言模型編寫的（頁面上也包含免責聲明），并且憑空捏造了一個不存在的AWS功能。這簡直是災難的開始?！?/p>

該問題最早由開發(fā)者Pete Nyk?nen發(fā)現(xiàn)，他在2024年3月21日在GitHub Issues報告中指出Pulumi AI代碼倉庫在某些代碼關鍵詞的搜索結果中排名正快速提升：“今天我搜索了各種與基礎設施代碼相關的關鍵詞，并注意到一個令人擔憂的趨勢，即Pulumi AI的答案被谷歌抓取并獲得較高排名，這種情況在多次搜索中復現(xiàn)，并且隨著時間的推移可能會變得更加糟糕?！?/p>

其實，AI污染的不僅僅是代碼，還包括文字、圖片、視頻等所有AI可以批量生產(chǎn)/偽造的內(nèi)容。密碼學家布魯斯施奈爾近日撰文指出，隨著生成式人工智能技術的野蠻生長和泛濫，互聯(lián)網(wǎng)的原生優(yōu)質內(nèi)容生態(tài)正在被大規(guī)模生產(chǎn)的人工智能合成內(nèi)容充斥和占領，如果互聯(lián)網(wǎng)巨頭不及時采取行動，我們可能會失去我們所知的互聯(lián)網(wǎng)，并陷入一個由AI生成的垃圾內(nèi)容主導的黑暗時代。

結論

“AI屎山”和“AI污染”這兩大難題意味著，AI消滅一部分初級和重復性開發(fā)崗位的同時，將創(chuàng)造大量新的崗位，例如AI開發(fā)、AI應用、AI安全、AI監(jiān)管和治理。此外，軟件架構師、系統(tǒng)工程師、DevOps工程師、物聯(lián)網(wǎng)解決方案架構師、全棧開發(fā)人員等高級IT人才的能力和薪酬有望因AI的加持而持續(xù)上漲。

總之，對于開發(fā)人員來說，這是最壞的時代，也可能是最好的時代。