如果你是雇主，打算試驗(yàn)像ChatGPT這樣的GenAI工具，有一些數(shù)據(jù)保護(hù)陷阱需要引起注意。近年來(lái)，美國(guó)、歐洲和全球范圍內(nèi)的隱私和數(shù)據(jù)保護(hù)立法不斷增加，你不能簡(jiǎn)單地將人力資源數(shù)據(jù)輸入GenAI工具。畢竟，員工數(shù)據(jù)通常是高度敏感的，包括績(jī)效數(shù)據(jù)、財(cái)務(wù)信息，以及健康數(shù)據(jù)。

顯然，雇主在這一領(lǐng)域應(yīng)尋求適當(dāng)?shù)姆芍笇?dǎo)，同樣，咨詢(xún)AI專(zhuān)家關(guān)于使用GenAI的倫理問(wèn)題也是個(gè)好主意(這樣你不僅在法律范圍內(nèi)行動(dòng)，還能做到道德和透明)，但作為起點(diǎn)，這里有兩個(gè)主要考慮因素需要雇主了解。

將個(gè)人數(shù)據(jù)輸入GenAI系統(tǒng)

正如我所說(shuō)，員工數(shù)據(jù)通常是高度敏感和個(gè)人化的，這種數(shù)據(jù)，取決于你的司法管轄區(qū)，通常受最高形式的法律保護(hù)。

這意味著將這些數(shù)據(jù)輸入GenAI工具是極其危險(xiǎn)的，為什么?因?yàn)樵S多GenAI工具會(huì)使用提供給它們的信息來(lái)微調(diào)其底層語(yǔ)言模型，換句話(huà)說(shuō)，它可能會(huì)將你提供的信息用于培訓(xùn)目的，并且可能會(huì)在未來(lái)向其他用戶(hù)披露這些信息。例如，假設(shè)你使用GenAI工具根據(jù)內(nèi)部員工數(shù)據(jù)創(chuàng)建一份員工薪酬報(bào)告，該數(shù)據(jù)可能會(huì)被AI工具用來(lái)在未來(lái)向其他用戶(hù)(在你組織之外)生成響應(yīng)，個(gè)人數(shù)據(jù)可能會(huì)很容易地被GenAI工具吸收并重復(fù)使用。

這并不像聽(tīng)起來(lái)那么陰險(xiǎn)，深入研究許多GenAI工具的條款和條件，你會(huì)發(fā)現(xiàn)它們明確聲明提交給AI的數(shù)據(jù)可能會(huì)用于培訓(xùn)和微調(diào)，或者在用戶(hù)要求查看以前提交的問(wèn)題示例時(shí)披露，因此，首先要做的是始終了解在同意使用條款時(shí)你到底簽署了什么。

作為基本保護(hù)，我建議提交給GenAI服務(wù)的任何數(shù)據(jù)都應(yīng)該是匿名化的，去除了任何可識(shí)別個(gè)人身份的數(shù)據(jù)，這也被稱(chēng)為“去識(shí)別”數(shù)據(jù)。

與GenAI輸出相關(guān)的風(fēng)險(xiǎn)

這不僅僅是關(guān)于你輸入到GenAI系統(tǒng)中的數(shù)據(jù)，GenAI輸出或創(chuàng)建的內(nèi)容也存在風(fēng)險(xiǎn)，特別是，GenAI工具的輸出可能基于在違反數(shù)據(jù)保護(hù)法律的情況下收集和處理的個(gè)人數(shù)據(jù)。

例如，假設(shè)你要求GenAI工具生成一份關(guān)于你所在地區(qū)典型IT薪資的報(bào)告，存在工具可能從互聯(lián)網(wǎng)抓取個(gè)人數(shù)據(jù)——未經(jīng)同意，違反數(shù)據(jù)保護(hù)法律——然后將這些信息提供給你的風(fēng)險(xiǎn)。使用GenAI工具提供的任何個(gè)人數(shù)據(jù)的雇主可能會(huì)在數(shù)據(jù)保護(hù)違規(guī)中承擔(dān)一定責(zé)任。現(xiàn)在，這在法律上是一個(gè)灰色地帶，并且最有可能的是，GenAI提供商會(huì)承擔(dān)大部分或全部責(zé)任，但風(fēng)險(xiǎn)依然存在。

通過(guò)了解這些風(fēng)險(xiǎn)，雇主可以更好地準(zhǔn)備在利用GenAI工具時(shí)采取適當(dāng)?shù)谋Ｗo(hù)措施和策略，以確保數(shù)據(jù)隱私和保護(hù)的合規(guī)性。

這樣的案例已經(jīng)開(kāi)始出現(xiàn)。確實(shí)，有一起訴訟聲稱(chēng)，ChatGPT是在未經(jīng)同意的情況下，通過(guò)收集大量的個(gè)人數(shù)據(jù)(包括醫(yī)療記錄和兒童信息)進(jìn)行訓(xùn)練的。你不希望你的企業(yè)無(wú)意中卷入這樣的訴訟中?；旧?，我們談?wù)摰氖沁`反數(shù)據(jù)保護(hù)法律的“繼承”風(fēng)險(xiǎn)，但這仍然是一種風(fēng)險(xiǎn)。

在某些情況下，互聯(lián)網(wǎng)上公開(kāi)可用的數(shù)據(jù)不算作個(gè)人數(shù)據(jù)的收集，因?yàn)檫@些數(shù)據(jù)已經(jīng)存在，然而，這在不同的司法管轄區(qū)有所不同，因此請(qǐng)注意你所在司法管轄區(qū)的細(xì)微差別。此外，對(duì)你考慮使用的任何GenAI工具進(jìn)行盡職調(diào)查。查看它們?nèi)绾问占瘮?shù)據(jù)，并盡可能協(xié)商服務(wù)協(xié)議，以減少你的繼承風(fēng)險(xiǎn)。例如，你的協(xié)議可以包括保證GenAI提供商在收集和處理個(gè)人數(shù)據(jù)時(shí)遵守?cái)?shù)據(jù)保護(hù)法律的條款。

前進(jìn)的道路

雇主必須考慮使用GenAI時(shí)的數(shù)據(jù)保護(hù)和隱私影響，并尋求專(zhuān)家建議，但不要因此完全放棄使用GenAI。仔細(xì)使用并在法律范圍內(nèi)，GenAI對(duì)雇主來(lái)說(shuō)可以是一個(gè)非常有價(jià)值的工具。

還值得注意的是，新的工具正在開(kāi)發(fā)中，它們考慮到了數(shù)據(jù)隱私。一個(gè)例子是哈佛開(kāi)發(fā)的AI沙箱工具，該工具使用戶(hù)能夠利用某些大型語(yǔ)言模型(包括GPT-4)，而不泄露他們的數(shù)據(jù)。用戶(hù)輸入的提示和數(shù)據(jù)僅對(duì)個(gè)人可見(jiàn)，不能用于訓(xùn)練模型。此外，一些企業(yè)正在創(chuàng)建自己的專(zhuān)有版本的工具，如ChatGPT，這些工具不會(huì)將數(shù)據(jù)分享給企業(yè)外部。