這幾個(gè)月來，人工智能一直是為大家津津樂道的流行語。硅谷的初創(chuàng)公司和財(cái)富 500 強(qiáng)公司都看到，隨著人工智能步伐的穩(wěn)步加快，各行業(yè)都發(fā)生了革命性變化。但是，興奮、進(jìn)步與 AI washing（夸大人工智能作用的現(xiàn)象）這樣的危險(xiǎn)信號(hào)，正在以同樣的速度蓬勃發(fā)展。盡管事實(shí)上，一些企業(yè)采用的人工智能微乎其微或根本不存在，但是，由于他們急切地想搭上賺錢的列車，想從炒作中獲利，所以他們夸大了自己的人工智能能力。

與非人工智能初創(chuàng)企業(yè)相比，這種營(yíng)銷策略盡管有問題，但可以幫助他們獲得更大的種子輪、A 輪和 B 輪融資。根據(jù) GlobalData 的數(shù)據(jù)，僅去年一年，人工智能初創(chuàng)企業(yè)就籌集了超過 500 億美元的風(fēng)險(xiǎn)投資資金，鑒于圍繞 ChatGPT 和其他公司的狂熱，今年這個(gè)數(shù)字預(yù)計(jì)還會(huì)增長(zhǎng)。

考慮到涌入這些初創(chuàng)公司的資本，AI washing 現(xiàn)象只會(huì)越來越激烈。The US Federal Trade Commission（FTC）充分意識(shí)到了這種危險(xiǎn)，并警告供應(yīng)商在宣傳其AI能力時(shí)要透明和誠(chéng)實(shí)。

FTC 廣告業(yè)務(wù)部門的律師 Michael Atleson 在一篇博客文章中寫道：“一些聲稱有人工智能的產(chǎn)品甚至可能根本不具備廣告宣傳中的功能。在某些情況下，無論產(chǎn)品可能造成什么其他傷害，這種夸大宣傳都可能存在。營(yíng)銷人員知道產(chǎn)品功效上造假或夸夸其談無法證實(shí)才是這個(gè)行業(yè)的生存之道，而這也正是 FTC 執(zhí)法的原因所在。”

在這種復(fù)雜的情況下，要區(qū)分合法的人工智能解決方案和營(yíng)銷噱頭恐怕非常困難。

德勤全球人工智能研究所執(zhí)行主任 Beena Ammanath 說：“當(dāng)面臨供應(yīng)商對(duì)其人工智能產(chǎn)品的宣傳時(shí)，公司需要采取合理的懷疑態(tài)度。就像對(duì)待任何事情一樣，如果這聽起來太好了，不可能是真的，那事實(shí)可能就是這樣?！?/p>

Donald Welch 是紐約大學(xué)的 CIO。他表示，如果 CIO 和他們的公司沒有找到正確的答案，他們可能面臨的后果包括項(xiàng)目失敗或延遲、財(cái)務(wù)損失、法律案件、聲譽(yù)風(fēng)險(xiǎn)，以及最終被解雇?！拔掖_實(shí)目睹了高管因此被解雇，而且，我甚至沒辦法說這是一個(gè)錯(cuò)誤的決定?！?/p>

幸運(yùn)的是，他們可以使用以下幾種策略來避免錯(cuò)誤。

人工智能驅(qū)動(dòng)的企業(yè)需要熟練的員工

對(duì)聲稱使用人工智能的企業(yè)進(jìn)行審查可能是一個(gè)漫長(zhǎng)而耗時(shí)的過程。然而，有一些簡(jiǎn)單的方法，比如在 LinkedIn 上搜索，就可以發(fā)現(xiàn)對(duì)評(píng)價(jià)這個(gè)企業(yè)有價(jià)值的信息。

Ammanath 說：“審查供應(yīng)商的員工所擁有的人工智能經(jīng)驗(yàn)和教育水平，正在開發(fā)人工智能解決方案的公司應(yīng)該有這方面的人才，這意味著他們必須有數(shù)據(jù)科學(xué)家和數(shù)據(jù)工程師，而且這些工程師在人工智能、機(jī)器學(xué)習(xí)、算法開發(fā)等方面有深厚的經(jīng)驗(yàn)。”

除了考察員工之外，首席信息官還可以尋找與外部人工智能專家和研究機(jī)構(gòu)合作的證據(jù)。這一類別包括與大學(xué)的合作伙伴關(guān)系、參與行業(yè)會(huì)議和活動(dòng)，以及對(duì)開源人工智能倡議的貢獻(xiàn)。如果供應(yīng)商有類似項(xiàng)目或應(yīng)用程序的經(jīng)驗(yàn)，這也是一個(gè)好跡象，因?yàn)檫@表明它可以提供高質(zhì)量的結(jié)果。

"仔細(xì)檢查供應(yīng)商的歷史，"烏克蘭-美國(guó)創(chuàng)業(yè)公司 MacPaw 的初創(chuàng)公司 MacPaw 的首席技術(shù)和創(chuàng)新官、美籍烏克蘭裔 Vira Tkachenko 表示：“仔細(xì)檢查供應(yīng)商的歷史背景。如果一家公司是人工智能專家，那么它歷史上很可能有發(fā)表該領(lǐng)域或其他人工智能產(chǎn)品的研究論文?！?/p>

尋找一個(gè)精心設(shè)計(jì)的數(shù)據(jù)戰(zhàn)略

真正將人工智能融入其產(chǎn)品的公司還需要一個(gè)精心設(shè)計(jì)的數(shù)據(jù)戰(zhàn)略，因?yàn)槿斯ぶ悄芩惴ㄐ枰?。他們需要與高質(zhì)量的數(shù)據(jù)一起工作，數(shù)據(jù)越慷慨和相關(guān)，結(jié)果就越理想。

Ammanath 說：“人工智能系統(tǒng)是由大量數(shù)據(jù)推動(dòng)的，所以這些公司也應(yīng)該有一個(gè)精心構(gòu)建的數(shù)據(jù)戰(zhàn)略，并能夠解釋收集了多少數(shù)據(jù)以及來自哪些來源。”

另一個(gè)需要關(guān)注的問題是，這些公司是否在遵守監(jiān)管要求方面投入了足夠的精力，并保持較高的數(shù)據(jù)隱私和安全標(biāo)準(zhǔn)。隨著《通用數(shù)據(jù)保護(hù)條例》（EU GDPR）和《加州消費(fèi)者隱私法》（CCPA）等數(shù)據(jù)隱私法規(guī)的興起，組織必須對(duì)其數(shù)據(jù)做法保持透明，并為個(gè)人提供對(duì)其個(gè)人數(shù)據(jù)的控制權(quán)。如果事實(shí)不是這樣，那就是一個(gè)危險(xiǎn)信號(hào)。

要求提供證據(jù)來支持其主張

雖然之宣傳口號(hào)可能很誘人，但平靜地要求提供證據(jù)會(huì)有幫助。Ammanath 說：“提出正確的問題并要求提供產(chǎn)品功能的證據(jù)，對(duì)于剝離營(yíng)銷和銷售的說辭以確定產(chǎn)品是否真正由人工智能驅(qū)動(dòng)是至關(guān)重要的?！?/p>

需要評(píng)估一個(gè)看似由人工智能驅(qū)動(dòng)的特定產(chǎn)品或服務(wù)時(shí)，CIO 可以詢問模型是如何訓(xùn)練的，使用了什么算法，以及人工智能系統(tǒng)將如何適應(yīng)新數(shù)據(jù)。

Tkachenko 說：“你應(yīng)該問供應(yīng)商他們使用什么庫或AI模型。他們可能只是簡(jiǎn)單調(diào)用了 OpenAI API 實(shí)現(xiàn)自己的功能。”

管理和技術(shù)咨詢公司 BearingPoint 的合伙人和全球技術(shù)領(lǐng)導(dǎo)人 Matthias Roeser 對(duì)此也表示同意。他補(bǔ)充說，應(yīng)該徹底理解組成部分和框架，評(píng)估應(yīng)該包括“道德、偏見、可行性、知識(shí)產(chǎn)權(quán)和可持續(xù)性?！?/p>

這項(xiàng)調(diào)查可以幫助 CIO 更充分地了解該產(chǎn)品的真正功能和局限性，從而幫助他們決定是否購買該產(chǎn)品。

關(guān)注創(chuàng)業(yè)公司

初創(chuàng)企業(yè)將自己定位在創(chuàng)新的最前沿。然而，盡管他們中的許多人突破了人工智能領(lǐng)域的極限，但有些人可能只是夸大自己的能力來獲得關(guān)注和金錢。

烏克蘭裔美國(guó)創(chuàng)業(yè)公司 Claid.ai 的聯(lián)合創(chuàng)始人兼首席技術(shù)官 Vlad Pranskevi?ius by Let's Enhance 說道：“作為一家機(jī)器學(xué)習(xí)公司的 CTO，我經(jīng)常遇到 AI washing 的案例，特別是在創(chuàng)業(yè)社區(qū)?！倍?，他注意到，最近這種情況變得更加嚴(yán)重。他補(bǔ)充說，在像目前這樣的炒作周期中，這種現(xiàn)象尤其危險(xiǎn)，因?yàn)槿斯ぶ悄鼙灰暈橐粓?chǎng)新的淘金熱。

不過，Pranskevi?ius 認(rèn)為，在不久的將來，隨著圍繞人工智能的法規(guī)變得更加嚴(yán)格，AI washing 將受到控制。

建立技術(shù)專業(yè)的聲譽(yù)

一家公司收購可疑的人工智能解決方案并不罕見，在這種情況下，CIO 不一定有錯(cuò)。這可能是 “公司領(lǐng)導(dǎo)不力的結(jié)果”， Welch 說：“企業(yè)上了營(yíng)銷炒作的當(dāng)，凌駕于 IT 團(tuán)隊(duì)之上，而 IT 團(tuán)隊(duì)卻只能收拾殘局。”

為了防止類似這樣的時(shí)刻，企業(yè)需要培養(yǎng)一種合作文化，在這種文化中，技術(shù)專家的意見得到重視，他們的觀點(diǎn)得到充分曝光。

同時(shí)，CIO 和技術(shù)團(tuán)隊(duì)?wèi)?yīng)該在公司內(nèi)部建立自己的聲譽(yù)，以便他們的意見更容易被納入決策過程。為了實(shí)現(xiàn)這一目標(biāo)，他們應(yīng)該展示專業(yè)知識(shí)、專業(yè)精神和軟技能。

Sigma 軟件集團(tuán)的首席創(chuàng)新官 Max Kovtun 表示：“我覺得身 CIO 審查 AI washing 并不困難。更大的問題可能是商業(yè)利益相關(guān)者或企業(yè)家推動(dòng)以任何形式使用人工智能，因?yàn)樗麄兿Ｍ雌饋砭哂袆?chuàng)新性和前沿性。因此，正確的問題是如何避免在創(chuàng)業(yè)的壓力下自己投身于 AI washing?！?/p>

超越流行語

在比較產(chǎn)品和服務(wù)時(shí)，必須以開放的心態(tài)評(píng)估它們，徹底看清它們的屬性。

Tkachenko 說：“如果一個(gè)產(chǎn)品或服務(wù)對(duì)你來說唯一的優(yōu)勢(shì)是人工智能，你應(yīng)該在采購前再仔細(xì)斟酌。最好是研究它的價(jià)值主張和功能，只有當(dāng)你了解該項(xiàng)目在人工智能之外的優(yōu)勢(shì)時(shí)才開始合作?！?/p>

Welch 也表示贊同并反問道：“我會(huì)因?yàn)樗麄冇?C、C++ 或 Java 編寫的系統(tǒng)而購買它嗎？作為我盡職調(diào)查的一部分，我可能想了解他們是否能夠維護(hù)代碼、公司生存能力等。”

做一個(gè)徹底的評(píng)估可能有助于企業(yè)確定他們計(jì)劃購買的產(chǎn)品或服務(wù)是否與他們的目標(biāo)一致，是否有可能提供預(yù)期的結(jié)果。

Kovtun 說：“技術(shù)越復(fù)雜，非專業(yè)人員就越難理解它，越難驗(yàn)證該技術(shù)的應(yīng)用是正確的、有意義的如果你已經(jīng)決定為你的公司利用人工智能技術(shù)，你最好聘請(qǐng)?jiān)谌斯ぶ悄茴I(lǐng)域有經(jīng)驗(yàn)的知識(shí)淵博的專家。否則，你的努力可能不會(huì)帶來你期望得到的好處?！?/p>

關(guān)注人工智能相關(guān)新聞

及時(shí)了解人工智能相關(guān)產(chǎn)品和圍繞它們的問題，也可以幫助 CIO 做出明智的決定。這樣一來，他們就可以發(fā)現(xiàn)自己可能犯的錯(cuò)誤的同時(shí)還可以利用新的想法和技術(shù)。

Art Thompson 是底特律市的 CIO。他表示：“我認(rèn)為現(xiàn)在的教育還不夠?！彼ㄗh CIO 們做足夠的研究，以避免落入新技術(shù)或?qū)嶒?yàn)性技術(shù)的陷阱，因?yàn)檫@些技術(shù)的承諾超過了它所能提供的。如果發(fā)生這種情況，“重新定價(jià)和更換產(chǎn)品的時(shí)間真的會(huì)傷害員工，使他們無法支持任何改變，”他說?！案挥谜f人們投入時(shí)間學(xué)習(xí)新技術(shù)的困難了。”

此外，了解最新的人工智能相關(guān)事項(xiàng)可以幫助 CIO 預(yù)測(cè)監(jiān)管變化和新興的行業(yè)標(biāo)準(zhǔn)，這可以幫助他們合規(guī)并保持競(jìng)爭(zhēng)優(yōu)勢(shì)。

而且，需要保持最新狀態(tài)的不僅僅是 CIO。BearingPoint 公司的 Roeser 表示：“教育你的團(tuán)隊(duì)或聘請(qǐng)專家來為你的投資組合增加相關(guān)的能力?！?/p>

圍繞人工智能的額外監(jiān)管行動(dòng)

即將出臺(tái)的新法規(guī)可以簡(jiǎn)化 CIO 的任務(wù)，以確定產(chǎn)品或服務(wù)是否采用了真正的人工智能技術(shù)。美國(guó)白宮最近發(fā)布了一項(xiàng)人工智能權(quán)利法案，其中包括負(fù)責(zé)任地設(shè)計(jì)人工智能系統(tǒng)的指導(dǎo)方針。而在未來幾年，可能會(huì)有更多的法規(guī)出臺(tái)。

Ammanath 說：“這些行動(dòng)背后的前提是保護(hù)消費(fèi)者權(quán)益和人類免受技術(shù)的潛在傷害。我們需要預(yù)測(cè)技術(shù)的潛在負(fù)面影響，以減輕風(fēng)險(xiǎn)?！?/p>

道德不應(yīng)只是事后才考慮

企業(yè)往往會(huì)影響對(duì)新技術(shù)的討論，強(qiáng)調(diào)潛在的好處，而往往淡化潛在的負(fù)面影響。

瑞士圣加侖大學(xué)的博士后研究員 Philip Di Salvo 說：“當(dāng)一項(xiàng)技術(shù)成為流行語時(shí)，我們往往會(huì)失去對(duì)它在社會(huì)中可能產(chǎn)生的潛在有害影響的關(guān)注。研究表明，企業(yè)正在推動(dòng)圍繞人工智能的話語，技術(shù)決定論仍然占主導(dǎo)地位。”

這種認(rèn)為技術(shù)是社會(huì)和文化變革背后的主要驅(qū)動(dòng)力的信念，可能會(huì)掩蓋圍繞倫理和政治影響的討論，而傾向于更加以營(yíng)銷為導(dǎo)向的論點(diǎn)。正如 Di Salvo 所說，這創(chuàng)造了“一種論證的迷霧，使這些技術(shù)和它們的生產(chǎn)者更加模糊和不負(fù)責(zé)任”。

為了解決這個(gè)問題，他指出一個(gè)關(guān)鍵的挑戰(zhàn)，即向公眾傳達(dá)人工智能實(shí)際上不是什么，以及它不能做什么。

Di Salvo 說：“我們今天看到的，包括 ChatGPT 在內(nèi)的，大多數(shù)人工智能應(yīng)用，基本上都是圍繞規(guī)?；慕y(tǒng)計(jì)和數(shù)據(jù)分析應(yīng)用而構(gòu)建的。這聽起來可能是一個(gè)無聊的定義，但它有助于避免對(duì)‘人工智能’定義中‘智能’所指的任何誤解。我們需要關(guān)注真實(shí)的問題，如偏見、社會(huì)排序和其他問題，而不是假設(shè)的、推測(cè)性的長(zhǎng)期假設(shè)?！?/p>

來源：www.cio.com