您是否為拔下機(jī)器人的插頭或關(guān)閉人工智能算法感到難過?暫時不行。但是，當(dāng)我們的計算機(jī)變得比我們更聰明時，又如何呢?

[[332165]]

關(guān)于人工智能的后果的辯論幾乎與AI本身的歷史一樣悠久。大多數(shù)討論都將人工智能的未來描述為像終結(jié)者那樣的啟示錄。但是，較少討論的是當(dāng)人工智能代理商發(fā)展出生活，智力和意識的特征時，我們將如何感知，互動和接受它們。

薩格勒布經(jīng)濟(jì)與管理學(xué)院的科學(xué)家Borna Jalsenjak在最近發(fā)表的一篇文章中，討論了超級智能AI以及生物與人工生命之間的類比。他的工作題目為“人工智能的奇異性：什么是什么，什么不是”，他的著作出現(xiàn)在《深度學(xué)習(xí)基礎(chǔ)指南》中，該論文和論文集探討了人工智能的各個歷史，科學(xué)和哲學(xué)方面。

賈爾森賈克(Jalsenjak)將我們帶入了生命的哲學(xué)人類學(xué)視野，以及它如何應(yīng)用于可以通過自身操控而進(jìn)化的人工智能系統(tǒng)。他認(rèn)為，當(dāng)人工智能發(fā)展自己的“生命”版本時，“思維機(jī)器”將出現(xiàn)。

AI奇點(diǎn)

奇異性是有關(guān)通用AI的討論中經(jīng)常提到的一個術(shù)語。正如與AGI無關(guān)的所有事情一樣，在奇異性方面存在很多困惑和分歧。但是，大多數(shù)科學(xué)家和哲學(xué)家都認(rèn)為關(guān)鍵的一點(diǎn)是，這是我們的AI系統(tǒng)變得比我們更智能的轉(zhuǎn)折點(diǎn)。奇異性的另一個重要方面是時間和速度：AI系統(tǒng)將達(dá)到可以不斷重復(fù)和加速地自我完善的程度。

“用一種更簡潔的方式說，一旦有一種AI達(dá)到了人類的水平，并且AI可以創(chuàng)建稍微更智能的AI，然后又可以創(chuàng)建一個更智能的AI，然后下一個就可以創(chuàng)建Jalsenjak寫道，它甚至?xí)兊酶又悄?，并且會像現(xiàn)在這樣持續(xù)發(fā)展，直到出現(xiàn)一種比人類所能達(dá)到的先進(jìn)得多的AI。

需要明確的是，我們今天擁有的人工智能技術(shù)，即狹窄的AI，離實現(xiàn)這一壯舉還差得很遠(yuǎn)。Jalšenjak將當(dāng)前的AI系統(tǒng)描述為“特定于域的”，例如“ AI擅長制作漢堡包，但不擅長其他任何東西。” 另一方面，討論AI奇異性的算法是“ AI不是特定于主題的AI，或者因為缺少更好的詞，它是無域的，因此可以在任何領(lǐng)域使用，賈爾森賈克寫道。

這不是關(guān)于如何以及何時到達(dá)AGI的討論。這是一個不同的話題，也是許多辯論的焦點(diǎn)，大多數(shù)科學(xué)家認(rèn)為，人類級人工智能至少需要數(shù)十年的時間。賈爾森杰克(Jalsenjack)推測了當(dāng)我們真正到達(dá)那里時，無論是明天還是一個世紀(jì)，如何定義AI(和人類)的身份。

人工智能邊界

在AI社區(qū)中，有很大的趨勢將機(jī)器視為人類，尤其是當(dāng)它們開發(fā)出具有智能跡象的功能時。盡管這顯然是對當(dāng)今技術(shù)的高估，但賈森加克還提醒我們，人工智能不是必須復(fù)制人類的思想。

“沒有理由認(rèn)為，即使發(fā)生了高級人工智能，它也將具有與人類智能相同的結(jié)構(gòu)，但是由于以一種最接近我們的方式呈現(xiàn)世界狀態(tài)是人類的本性，他在論文的腳注中寫道。

人類與當(dāng)前的人工智能技術(shù)之間的最大區(qū)別之一是，盡管人類是“活著的”(并且我們很快就會明白這是什么意思)，但AI算法卻并非如此。

Jalsenjak寫道：“當(dāng)今的技術(shù)狀況無疑使技術(shù)還沒有生命。我們很奇怪的是，是否會出現(xiàn)超級智能，例如在關(guān)于奇點(diǎn)的討論中可以預(yù)測到這種超級智能，值得嘗試，看看我們是否還可以認(rèn)為它還活著。”盡管不是有機(jī)的，但這種人造的生活會對我們?nèi)绾胃兄狝I并對其采取行動產(chǎn)生巨大影響。

人工智能要活著需要什么?

賈爾森賈克(Jalsenjak)從哲學(xué)人類學(xué)的概念中汲取經(jīng)驗，指出生物可以自主行動并照顧自己和其物種，這就是所謂的“內(nèi)在活動”。賈爾森賈克指出：“至少現(xiàn)在，無論多么先進(jìn)的機(jī)器，它們在這方面始終只能作為人類的擴(kuò)展而發(fā)揮作用。”

生命有不同的層次，而且正如趨勢所示，人工智能正在慢慢走向生機(jī)。根據(jù)哲學(xué)人類學(xué)的觀點(diǎn)，當(dāng)有機(jī)體朝著目標(biāo)發(fā)展時，生命的最初跡象就形成了，這是當(dāng)今面向目標(biāo)的AI中所存在的。賈爾森賈克說，人工智能沒有“意識到”其目標(biāo)并且漫不經(jīng)心地壓縮數(shù)字以達(dá)到這一目標(biāo)這一事實似乎無關(guān)緊要，因為我們認(rèn)為植物和樹木即使沒有同樣的意識也可以存活。

被認(rèn)為還活著的另一個關(guān)鍵因素是生物體能夠自我修復(fù)和改善自身的能力。它也應(yīng)該生產(chǎn)并照顧它的后代。這是我們在樹木，昆蟲，鳥類，哺乳動物，魚類以及幾乎所有我們認(rèn)為活著的東西中看到的東西。自然選擇和進(jìn)化的規(guī)律迫使每個生物體建立機(jī)制，使其能夠?qū)W習(xí)和發(fā)展適應(yīng)環(huán)境，生存并確保其物種生存的技能。

關(guān)于撫育子女，賈爾森賈克(Jalsenjak)提出，人工智能的繁殖并不一定與其他生物平行。機(jī)器不需要后代來確保物種的生存。AI只需手頭有足夠的更換零件就可以用新的零件更換故障(失效)零件，從而解決材料劣化問題。”他寫道。“生物以多種方式繁殖，因此實際方法并非必不可少。”

關(guān)于自我完善，事情變得更加微妙。Jalsenjak指出，即使不同軟件之間的自修改程度有所不同，已經(jīng)有能夠自修改的軟件。

當(dāng)今的機(jī)器學(xué)習(xí)算法在一定程度上能夠使其行為適應(yīng)環(huán)境。他們將許多參數(shù)調(diào)整為從現(xiàn)實世界中收集的數(shù)據(jù)，并且隨著世界的變化，可以在新信息上對它們進(jìn)行重新訓(xùn)練。例如，冠狀病毒大流行可能會干擾AI系統(tǒng)對我們的正常行為進(jìn)行了培訓(xùn)。其中包括面部識別算法，由于人們戴著口罩，該算法不再能夠檢測到面部。這些算法現(xiàn)在可以通過在戴面具的臉部圖像上進(jìn)行訓(xùn)練來重新調(diào)整其參數(shù)。顯然，與人類和高等動物的廣泛能力相比，這種適應(yīng)水平很小，但是，這可以說比得上當(dāng)樹根表面找不到水時通過生長更深的根來適應(yīng)的樹木。地面。

但是，理想的自我完善型AI可能會創(chuàng)造出全新的算法，從而帶來根本性的改進(jìn)。這就是所謂的“遞歸自我完善”，將導(dǎo)致更加智能的AI不斷循環(huán)和加速。盡管AI能夠以更快的速度執(zhí)行，但它可能是生物體經(jīng)歷了許多代的遺傳突變的數(shù)字等效形式。

如今，我們擁有一些機(jī)制，例如遺傳算法和網(wǎng)格搜索，可以改善機(jī)器學(xué)習(xí)算法(也稱為超參數(shù))的不可訓(xùn)練組件。但是它們帶來的變更范圍非常有限，并且仍然需要一定程度的人工開發(fā)人員的手工工作。例如，您不能指望遞歸神經(jīng)網(wǎng)絡(luò)會通過許多突變而變成一個Transformer。

Jalsenjak指出，遞歸自我改進(jìn)將使AI“有可能完全取代正在使用的算法”。“最后一點(diǎn)是發(fā)生奇點(diǎn)所需要的。”Jalsenjak總結(jié)說，通過類推，通過觀察確定的特征，可以將超級智能的AI視為活著的，這使AI是人類的延伸這一說法無效。他說：“他們將有自己的目標(biāo)，也許還有他們的權(quán)利。人類將首次與一個至少與他們一樣聰明，而且可能更加聰明的實體共享地球。”您仍然可以在不感到內(nèi)的情況下拔下機(jī)器人的電源嗎?

活著還不夠

賈爾森賈克在論文的結(jié)尾承認(rèn)，對人造生活的反思還提出了許多其他問題。“這里描述的關(guān)于生物的特征是否足以使某事物被認(rèn)為是活著的?或者僅僅是必要而又不夠?” 他問。剛剛讀過哲學(xué)家和科學(xué)家道格拉斯·霍夫斯塔特(Douglas Hofstadter)的《我是一個奇怪的循環(huán)》，我絕對可以說不。身份，自我意識和意識是其他將眾生區(qū)分開的概念。

自由意志也是一個懸而未決的問題。賈爾森賈克寫道：“從某種意義上說，人類是自己的共同創(chuàng)造者，他們并沒有完全賦予自己生存權(quán)，而是確實有目的并確實實現(xiàn)了這一目標(biāo)。” “目前尚不清楚未來的AI是否有自由意志的可能性。”最后，還有超級智能AI的道德問題。這是一個廣泛的主題，包括AI應(yīng)該具有的道德原則，人類對AI應(yīng)當(dāng)具有的道德原則以及AI如何看待與人類的關(guān)系。

AI社區(qū)經(jīng)常不理會這些話題，指出當(dāng)前深度學(xué)習(xí)系統(tǒng)的明顯局限性以及實現(xiàn)通用AI的牽強(qiáng)的概念。但是，就像其他許多科學(xué)家一樣，賈爾森賈克(Jalsenjak)提醒我們，討論這些主題的時機(jī)在今天，而不是為時已晚。他寫道：“這些話題不可忽視，因為我們目前對未來的了解似乎都表明人類社會正面臨著前所未有的變化。”