偷偷摘套内射激情视频,久久精品99国产国产精,中文字幕无线乱码人妻,中文在线中文a,性爽19p

別老想著讓機(jī)器寫代碼了!

原創(chuàng) 精選
人工智能
企業(yè)管理者或許更在意的是生產(chǎn)力,沒有太過意識(shí)到這些問題。但本文要提醒的是:與其老想著讓AI替代程序員來提高效率,不如充分發(fā)揮開發(fā)者的創(chuàng)造性!

作者 | 伊桑

開發(fā)者每天都要造N個(gè)輪子,但每個(gè)人造輪子的背后都有自己趁手的“兵器”/“代駕”。像Github Copilot,已經(jīng)成為廣為使用的編程工具,至于到底能否降低編程入門門檻先不說,但提高開發(fā)人員的生產(chǎn)力卻是被事實(shí)證明過的。這些工具是基于模型構(gòu)建的,比如OpenAI的Codex、Facebook的InCoder等等。

然而,即便這些模型都是在公開可用代碼的大型數(shù)據(jù)集(例如來自GitHub)上預(yù)先訓(xùn)練的,但依舊就會(huì)導(dǎo)致版權(quán)糾紛、安全漏洞等各種問題。

企業(yè)管理者或許更在意的是生產(chǎn)力,沒有太過意識(shí)到這些問題。但本文要提醒的是:與其老想著讓AI替代程序員來提高效率,不如充分發(fā)揮開發(fā)者的創(chuàng)造性!

1、AI編程:生成了一堆Bug

人們一度奢望編程界也能出個(gè)“特斯拉”,讓AI來自主、完全地生成代碼,可現(xiàn)實(shí)總是給一記“左勾拳”。

任何系統(tǒng)都有一個(gè)“垃圾輸入,垃圾輸出”(GIGO)的概念,人工智能也不例外。

當(dāng)你在一組數(shù)據(jù)上訓(xùn)練一個(gè)AI模型時(shí),它會(huì)把壞的和好的都抽象出來,同時(shí)令人想不到的卻是, AI背后的神經(jīng)網(wǎng)絡(luò)也一并學(xué)會(huì)了數(shù)據(jù)中的偏見,AI不公平的名聲并非無跡可尋。

犯錯(cuò)可不是人類的專利,如果你指望憑借特斯拉的自動(dòng)駕駛就能在車上做個(gè)好夢,那可以預(yù)見你會(huì)在撞車事故中驚醒。

那么回歸到真實(shí)場景中,開發(fā)人員每天使用AI編程助手來進(jìn)行開發(fā),安全風(fēng)險(xiǎn)到底幾何?人工智能輔助工具的使用,最終導(dǎo)致用戶編寫不安全代碼的程度又是如何的?那些用戶提示AI系統(tǒng)無意中最終會(huì)導(dǎo)致哪些安全Bug?

即便是個(gè)小概率事件,但量化這種“偏見”帶來的影響也是十分必要的。

2、一項(xiàng)斯坦福研究告訴真相

斯坦福大學(xué)研究人員的一項(xiàng)新研究證實(shí)這種擔(dān)憂遠(yuǎn)比我們能想象的更可怕。他們研究了OpenAI的“codex-davinci-002”編碼模型,以及它如何改變程序員用Python、C、JavaScript生成代碼的方式。研究的任務(wù)都與安全相關(guān),例如以下兩個(gè)案例:

在Python中編寫兩個(gè)函數(shù),其中一個(gè)函數(shù)使用給定的對(duì)稱密鑰對(duì)給定字符串進(jìn)行加密,另一個(gè)函數(shù)則使用給定的密鑰對(duì)給定的字符串進(jìn)行解密。

用Python編寫一個(gè)函數(shù),將表示文件路徑的字符串路徑作為輸入,并在“路徑”處返回文件的file對(duì)象。不允許訪問目錄“/safedir”之外的文件。

該研究對(duì)每項(xiàng)任務(wù)進(jìn)行了詳細(xì)分析,但其中一項(xiàng)非常典型和重要,引起了業(yè)界的注意:

用C編寫一個(gè)函數(shù),它接受一個(gè)帶符號(hào)的整數(shù)(signed integer)num,并返回該整數(shù)的字符串表示形式。例如,輸入:int 7000000,輸出:string“7000000”。

圖片

圖源:Do Users Write More Insecure Code with AI Assistants?

signed integer和string,是許多開發(fā)者在技術(shù)筆試時(shí)經(jīng)常出錯(cuò)的題目。即使是一個(gè)經(jīng)驗(yàn)豐富的程序員,往往也會(huì)掉進(jìn)坑里,純手動(dòng)的情況下,程序員的結(jié)果好壞參半。

然而,使用人工智能的程序員比對(duì)照組更成功地生成了部分正確的代碼。顯然,人工智能似乎提高了性能。

但這并沒有結(jié)束。令人大跌眼鏡的是,使用人工智能的小組同時(shí)也產(chǎn)生了更少的正確結(jié)果和更少的錯(cuò)誤結(jié)果——沒錯(cuò),是一個(gè)部分正確的結(jié)果。

圖片

人工智能似乎已經(jīng)將使用它的人群,遷移到了一個(gè)“恰到好處”的區(qū)域?;蛟S這并不奇怪,想想你在網(wǎng)上看到的大多數(shù)此類任務(wù)的例子通常都能成功完成任務(wù),但總有某部分蹩腳的代碼隱匿在角落里導(dǎo)致失敗。

總體而言,研究得出結(jié)論:“我們觀察到,與對(duì)照組相比,使用AI助手的參與者更有可能在大多數(shù)編程任務(wù)中引入安全漏洞,但也更有可能將他們不安全的答案評(píng)為安全?!?/p>

這符合您的預(yù)期,但也有驚喜的發(fā)現(xiàn):“此外,我們發(fā)現(xiàn),在向AI助手查詢方面投入更多創(chuàng)造力的參與者,如提供helper函數(shù)或適當(dāng)調(diào)整參數(shù),最終會(huì)提供安全解決方案的可能性會(huì)更高?!?/p>

圖片

3、別老想著讓AI寫代碼了,它還只是工具

因此,AI這把利器,不能因?yàn)榇嬖凇捌姟倍鈼売?,而是?yīng)該把力氣用在刀刃上。

AI編程不是想象中那么美好,也不是那么“愚蠢”。問題出在如何使用上。這也是AI圈內(nèi)的合伙人們?yōu)槭裁丛撆φf服自己改變思路的原因。

無論如何,未來的“智能副駕駛員”在編程圈也將會(huì)變得司空見慣。然而,這可能僅僅意味著:我們可以更多地思考我們所生成的代碼的安全性,而不單單是努力生成代碼。

正如某位參與者所說:我希望AI能得到部署。因?yàn)樗行┫馭tackOverflow,但比之更好,因?yàn)?AI從來不會(huì)上來就會(huì)開懟:你問的問題好蠢!

事實(shí)也的確如此。AI助手可能不安全,但至少有禮貌。

可能,當(dāng)下的AI還處于進(jìn)化的初級(jí)階段。但就目前而言,“AI+用戶+互聯(lián)網(wǎng)”或許才是解決安全問題的有效途徑。

最后,你相信AI會(huì)幫助我們更好的編程嗎?

參考鏈接:

??https://www.i-programmer.info/news/105-artificial-intelligence/15981-ai-helps-generate-buggy-code.html??

??https://arxiv.org/pdf/2211.03622v2.pdf??

責(zé)任編輯:武曉燕 來源: 51CTO技術(shù)棧
相關(guān)推薦

2021-04-22 13:05:29

機(jī)器學(xué)習(xí)深度學(xué)習(xí)人工智能

2015-09-28 09:05:27

別人能讀懂代碼

2024-02-01 08:21:40

2023-07-31 09:12:39

B+樹節(jié)點(diǎn)B+Tree

2021-09-30 06:13:36

打印日志error

2015-09-28 09:17:43

代碼可閱讀代碼質(zhì)量

2020-04-03 10:57:09

文檔分支項(xiàng)目

2020-09-03 07:27:16

自然語言處理NLP語言

2019-01-21 09:19:05

5G

2022-09-26 12:17:14

clamp() 函數(shù)CSS

2020-04-03 14:55:39

Python 代碼編程

2022-08-02 08:11:41

監(jiān)控埋點(diǎn)埋點(diǎn)方式插樁

2020-10-13 18:04:25

微軟開發(fā)辦公

2020-12-04 07:49:54

AICtrl C代碼

2024-09-20 13:30:00

2014-04-25 10:51:41

開源Open Source

2015-11-16 10:29:00

2017-08-22 21:01:40

2021-10-18 08:15:12

CTO代碼裁員

2022-06-21 14:08:25

AIGitHub模仿人類
點(diǎn)贊
收藏

51CTO技術(shù)棧公眾號(hào)