[[354534]]

外媒稱(chēng)，人工智能正在飛速發(fā)展，以至于該領(lǐng)域的最新技術(shù)成果已經(jīng)幫助創(chuàng)建出了知道何時(shí)不能信任人工智能的神經(jīng)網(wǎng)絡(luò)。

據(jù)阿根廷布宜諾斯艾利斯經(jīng)濟(jì)新聞網(wǎng)11月26日?qǐng)?bào)道，這種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)旨在模仿人類(lèi)的大腦，并能夠同時(shí)權(quán)衡不同的因素，從而以人類(lèi)分析無(wú)法達(dá)到的水平，在數(shù)據(jù)基礎(chǔ)之上確定具體模式。

報(bào)道稱(chēng)，這一點(diǎn)之所以非常重要，是因?yàn)楫?dāng)今，人工智能被用于直接影響人類(lèi)生活的各個(gè)領(lǐng)域，例如汽車(chē)、飛機(jī)的自動(dòng)駕駛或完整的運(yùn)輸系統(tǒng)，此外還用于醫(yī)學(xué)診斷和外科手術(shù)。

盡管人工智能一時(shí)還不會(huì)像電影《我，機(jī)器人》中的那樣具有毀滅性，也不會(huì)像電視劇《黑鏡》中那些臭名昭著的狗那樣，但能夠自主行動(dòng)的機(jī)器已經(jīng)在我們的日常生活中出現(xiàn)了，而且它們的預(yù)判可能會(huì)變得更加準(zhǔn)確，甚至知道它們自身何時(shí)會(huì)發(fā)生故障。這對(duì)于改善其運(yùn)行狀況以及避免發(fā)生科幻小說(shuō)中的核災(zāi)難來(lái)說(shuō)，是至關(guān)重要的。

報(bào)道稱(chēng)，麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室（CSAIL）的計(jì)算機(jī)科學(xué)家亞歷山大·阿米尼說(shuō)：“我們不僅需要生成高性能模型的能力，而且還需要了解何時(shí)不能信任這些模型的能力。”

阿米尼與另一位計(jì)算機(jī)科學(xué)家達(dá)妮埃拉·魯斯一起加入了一個(gè)研究團(tuán)隊(duì)，致力于推動(dòng)這些神經(jīng)網(wǎng)絡(luò)的發(fā)展，以期在人工智能領(lǐng)域內(nèi)取得前所未有的進(jìn)步。

他們的目標(biāo)是讓人工智能對(duì)自身的可靠性產(chǎn)生自我意識(shí)，他們稱(chēng)之為“深度證據(jù)回歸”。

報(bào)道指出，這種新神經(jīng)網(wǎng)絡(luò)代表了迄今為止開(kāi)發(fā)的類(lèi)似技術(shù)的最新進(jìn)步，因?yàn)樗倪\(yùn)行速度更快，對(duì)計(jì)算的需求更低。該神經(jīng)網(wǎng)絡(luò)的運(yùn)行可以在設(shè)定信任度的情況下與人類(lèi)決策同步完成。

“這個(gè)想法很重要，并且總體上來(lái)說(shuō)是可用的。它可用于評(píng)估基于自主學(xué)習(xí)模型的產(chǎn)品。通過(guò)評(píng)估模型的不確定性，我們還可以了解該模型預(yù)計(jì)會(huì)出現(xiàn)多少錯(cuò)誤，以及還需要哪些數(shù)據(jù)來(lái)改善該模型，”魯斯介紹說(shuō)。

該研究團(tuán)隊(duì)通過(guò)將其與具有不同準(zhǔn)確性水平的自動(dòng)駕駛汽車(chē)進(jìn)行比較來(lái)說(shuō)明這一點(diǎn)。例如，在決定是否通過(guò)路口還是等待的情況下，神經(jīng)網(wǎng)絡(luò)對(duì)其預(yù)判缺乏信心。該網(wǎng)絡(luò)的能力甚至還包含有關(guān)如何改善數(shù)據(jù)以做出更準(zhǔn)確預(yù)判的提示。

阿米尼說(shuō)：“在影響人類(lèi)安全并造成生命危險(xiǎn)的情況下，我們開(kāi)始看到越來(lái)越多的神經(jīng)網(wǎng)絡(luò)模型走出研究實(shí)驗(yàn)室，進(jìn)入現(xiàn)實(shí)世界。”（編譯/田策）