AI的發(fā)展很快，隨著它在很大程度上是一個(gè)未經(jīng)探索的領(lǐng)域，倫理、經(jīng)濟(jì)、社會(huì)和法律問題也浮出水面。在關(guān)于AI增強(qiáng)內(nèi)容的知識(shí)產(chǎn)權(quán)以及AI是否能夠在短期內(nèi)完全取代人類勞動(dòng)力(并導(dǎo)致大規(guī)模裁員)的激烈討論中，企業(yè)希望利用GenAI提供的優(yōu)勢(shì)，同時(shí)又是安全的。

正視風(fēng)險(xiǎn)，破除神話

AI的相對(duì)新穎性和爆炸性擴(kuò)散造成了大量的誤解和信息混亂，讓我們來看看與ChatGPT相關(guān)的一些常見風(fēng)險(xiǎn)和流傳的神話，看看如何應(yīng)對(duì)或減輕它們。

1.AI的發(fā)展速度快于政府對(duì)其的監(jiān)管

在區(qū)塊鏈和加密貨幣方面，我們以前就看到過這種情況。AI的發(fā)展進(jìn)程很快，而法律程序和監(jiān)管程序卻滯后，這造成了一個(gè)很難導(dǎo)航的大灰色地帶：大量空白，幾乎沒有先例，這可能會(huì)導(dǎo)致企業(yè)采用不安全或不道德的方式使用ChatGPT，甚至在未來被認(rèn)為是非法的。

要解決此問題，你可以創(chuàng)建與在企業(yè)中使用ChatGPT有關(guān)的明確行為準(zhǔn)則，并強(qiáng)制要求員工熟悉它。

這段代碼應(yīng)該盡可能多地涵蓋使用GenAI的各個(gè)方面，例如，它應(yīng)該包括你的企業(yè)中允許使用ChatGPT的任務(wù)類型，以及所需的訪問類型。由于該領(lǐng)域有許多空白，最好與值得信賴的專家合作，或者將GenAI實(shí)踐的創(chuàng)建和實(shí)現(xiàn)外包給具有該領(lǐng)域?qū)I(yè)知識(shí)的人。

2.關(guān)于知識(shí)產(chǎn)權(quán)、過度分享和隱私風(fēng)險(xiǎn)的辯論

有很多已知的案例，人們?cè)噲D用敏感或私人數(shù)據(jù)訓(xùn)練AI，或者將其用作分析的輸入。對(duì)于這些數(shù)據(jù)是否對(duì)企業(yè)外部的人可用，仍存在很大爭(zhēng)議，另一場(chǎng)激烈的辯論是，如何為使用ChatGPT的任何產(chǎn)品賦予知識(shí)產(chǎn)權(quán)。請(qǐng)記住，如果員工使用他們的個(gè)人帳戶使用ChatGPT，結(jié)果將是他們的知識(shí)產(chǎn)權(quán)，而不是你公司的知識(shí)產(chǎn)權(quán)。

這就是為什么在你的AI相關(guān)政策中引入并遵守處理敏感、隱私或受版權(quán)保護(hù)的信息的規(guī)則非常重要。

3.AI發(fā)展的不可預(yù)測(cè)性

這是風(fēng)險(xiǎn)和大量投機(jī)的另一個(gè)因素。AI在很大程度上仍然是一個(gè)空白紙，盡管技術(shù)奇點(diǎn)不太可能在短期內(nèi)成為現(xiàn)實(shí)，但仍然重要的是要記住，AI的未來非常不可預(yù)測(cè)。正因?yàn)槿绱?，很難知道我們是否能夠?qū)I及其未來的發(fā)展施加同樣多的控制，另一件很難預(yù)測(cè)的事情是，我們的工作可能會(huì)變得對(duì)AI有多大的依賴，這也是一個(gè)很大的風(fēng)險(xiǎn)因素。

我們可以通過創(chuàng)建和實(shí)現(xiàn)靈活、敏捷的ChatGPT工作流來降低這種風(fēng)險(xiǎn)，這樣的工作流程應(yīng)該容易擴(kuò)展，并具有很強(qiáng)的適應(yīng)發(fā)展和法規(guī)變化的能力。

4.AI最終將取代人類勞動(dòng)

這在很大程度上仍然是陰謀論領(lǐng)域，但即使是現(xiàn)在，我們也看到有多少工作可以在AI的幫助下實(shí)現(xiàn)自動(dòng)化，這一神話很容易被任何試圖使用AI來執(zhí)行更復(fù)雜任務(wù)的人打破。如今，AI輸出的質(zhì)量在很大程度上取決于輸入的質(zhì)量和精度，但要編寫連貫、有用的提示，生成準(zhǔn)確和可用的結(jié)果，操作員通常需要至少接受過一些使用AI的基本培訓(xùn)，而且總是需要領(lǐng)域知識(shí)。

一方面，快速工程和領(lǐng)域知識(shí)的經(jīng)驗(yàn)與AI輸出質(zhì)量之間的關(guān)系是直接的，這意味著，要有效地使用AI，需要高效和合格的工作人員。

繞過這個(gè)倫理敏感話題的一種方法是，通過增加精確度、覆蓋率、承擔(dān)平凡和重復(fù)性的任務(wù)以及消除由于人為因素而發(fā)生的錯(cuò)誤，推動(dòng)與ChatGPT相關(guān)的工作更多地走向自動(dòng)化，并增強(qiáng)人工工作。

5.AI相關(guān)流程和文檔的復(fù)雜性

由于AI仍是未知領(lǐng)域，大多數(shù)企業(yè)在設(shè)法建立清晰且有效的AI工作流程、記錄面向ChatGPT的任務(wù)的協(xié)議之前，仍需走試錯(cuò)之路。積累的知識(shí)匱乏，讓企業(yè)盲目導(dǎo)航。這可能會(huì)導(dǎo)致代價(jià)高昂的錯(cuò)誤、效率損失以及時(shí)間和資源的浪費(fèi)。

解決這一問題的最佳解決方案是將AI流程和文檔的實(shí)施委托給專家，聘請(qǐng)可靠的內(nèi)部員工或?qū)⑦@些任務(wù)外包給專業(yè)人員。

為在軟件開發(fā)中使用GenAI構(gòu)建安全環(huán)境的最佳實(shí)踐和步驟

實(shí)施AI工作的流程應(yīng)該仔細(xì)進(jìn)行，并牢記這樣的解決方案需要量身定做，并考慮許多與業(yè)務(wù)和領(lǐng)域相關(guān)的細(xì)節(jié)和上下文，以下是一些最佳實(shí)踐，它們將幫助你駕馭這片渾濁的水域。

1.關(guān)注用戶同意、數(shù)據(jù)隱私、安全和合規(guī)

了解你所在地區(qū)已經(jīng)針對(duì)AI制定了哪些法規(guī)，并密切監(jiān)控政府流程，為即將到來的立法行動(dòng)做好準(zhǔn)備。如果你的產(chǎn)品以基于AI的服務(wù)為特色，請(qǐng)確保用戶充分了解這一事實(shí)，知道收集了哪些數(shù)據(jù)，并在使用你的產(chǎn)品之前征得他們的同意。對(duì)于開發(fā)過程，避免使用敏感、私有或受版權(quán)保護(hù)的數(shù)據(jù)來訓(xùn)練AI或生成輸出。

2. 人機(jī)回環(huán)實(shí)踐

人機(jī)回環(huán)是一套設(shè)計(jì)和操作實(shí)踐，其中人的判斷被集成到AI驅(qū)動(dòng)的系統(tǒng)和流程中，這種方法限制了任何AI的潛在自主權(quán)，并給了你更多的控制和監(jiān)督，特別是在關(guān)鍵的決策點(diǎn)。在AI的決定可能具有突出的倫理、法律或個(gè)人影響的情況下，這一概念是必不可少的。

3.負(fù)責(zé)任的披露和部署

如果你看到與AI相關(guān)的工作把你引向了錯(cuò)誤的方向，你應(yīng)該隨時(shí)準(zhǔn)備放棄它，被確定為構(gòu)成風(fēng)險(xiǎn)的潛在有害的ChatGPT結(jié)果和經(jīng)過訓(xùn)練的AI模型應(yīng)該被丟棄并關(guān)閉，可能不會(huì)對(duì)你的其他進(jìn)程造成太大破壞。

4.透明文檔

如果你希望企業(yè)中的每個(gè)人都對(duì)你使用AI的立場(chǎng)達(dá)成一致，那么使用AI的清晰透明的協(xié)議、統(tǒng)一的程序、在術(shù)語(yǔ)和關(guān)鍵點(diǎn)上沒有任何模棱兩可和雙重含義是至關(guān)重要的，它還有助于快速讓員工上崗，并大規(guī)模引入AI實(shí)踐。

5.界定和限制AI參與的范圍

AI的確切參與范圍應(yīng)該從項(xiàng)目開始就定義，這應(yīng)該記錄在有關(guān)使用ChatGPT的必要文檔中，你需要向所有員工提供這些文檔。允許使用AI的任務(wù)應(yīng)明確規(guī)定，禁止使用AI的任務(wù)也應(yīng)明確規(guī)定。

6.參與AI社區(qū)，提高AI意識(shí)和識(shí)字能力

如上所述，缺乏積累的知識(shí)庫(kù)是軟件開發(fā)中阻礙ChatGPT相關(guān)工作的因素之一。為AI社區(qū)做出貢獻(xiàn)，交換想法，分享經(jīng)驗(yàn)，對(duì)你的企業(yè)和社區(qū)本身都是有利可圖的。對(duì)你的員工進(jìn)行AI開發(fā)方面的教育并提高對(duì)與其相關(guān)的各種問題的認(rèn)識(shí)也成為必要。

7.透明度和問責(zé)制

雖然這是一種更通用的最佳實(shí)踐，對(duì)任何軟件開發(fā)過程都有好處，但它對(duì)于AI增強(qiáng)的任務(wù)尤其重要，因?yàn)檫@個(gè)領(lǐng)域仍然是一個(gè)灰色地帶。你應(yīng)該明確誰(shuí)對(duì)什么負(fù)責(zé)，每個(gè)參與ChatGPT工作的員工都應(yīng)該知道自己的個(gè)人責(zé)任，誰(shuí)是各種具體任務(wù)或問題的負(fù)責(zé)人。

8.持續(xù)監(jiān)測(cè)

與任何快速發(fā)展的領(lǐng)域一樣，持續(xù)的反饋及其納入周期、對(duì)ChatGPT生成的輸出的監(jiān)控、對(duì)與AI相關(guān)的工作流程、法規(guī)和外地發(fā)展的審查有助于你改進(jìn)你的流程并使其盡可能高效，它還將幫助你避免與ChatGPT和其他GenAI相關(guān)的許多陷阱。

結(jié)論

對(duì)于任何數(shù)字企業(yè)來說，駕馭復(fù)雜且快速演變的生成性AI圖景既帶來了前所未有的機(jī)遇，也帶來了重大挑戰(zhàn)。

通過解決與ChatGPT和類似技術(shù)相關(guān)的倫理、法律和實(shí)踐問題，并實(shí)施最佳實(shí)踐框架，企業(yè)級(jí)公司可以安全有效地利用GenAI的力量，這種方法不僅可以幫助建立一個(gè)故障安全的環(huán)境，還可以確保AI驅(qū)動(dòng)的創(chuàng)新增強(qiáng)而不是取代人類的專業(yè)知識(shí)，從而產(chǎn)生更健壯、更高效和更有道德責(zé)任感的軟件開發(fā)過程。