微軟近日宣布，正在對(duì)一個(gè)“外國(guó)黑客組織”提起訴訟。該組織運(yùn)營(yíng)“黑客即服務(wù)“的基礎(chǔ)設(shè)施，故意繞過(guò)微軟生成式人工智能（AI）服務(wù)的安全控制來(lái)制作冒犯性和有害內(nèi)容。

微軟的數(shù)字犯罪部門（DCU）稱，他們發(fā)現(xiàn)威脅行為者“開發(fā)了復(fù)雜軟件，利用從公共網(wǎng)站抓取暴露的客戶憑據(jù)”，并且“試圖識(shí)別并違法訪問(wèn)擁有某些生成式AI服務(wù)的賬戶，還故意改變這些服務(wù)的能力”。

之后，這些對(duì)手利用如Azure OpenAI Service等服務(wù)，通過(guò)將這些訪問(wèn)權(quán)限出售給其他惡意行為者來(lái)變現(xiàn)，同時(shí)為他們提供詳細(xì)說(shuō)明如何運(yùn)用這些定制工具生成有害內(nèi)容。

微軟還表示，在此之后已經(jīng)撤銷了攻擊者的訪問(wèn)權(quán)限，實(shí)施了新的應(yīng)對(duì)措施，并且強(qiáng)化了安全措施以防止類似活動(dòng)再次發(fā)生。此外，微軟還獲得了一項(xiàng)法院命令，查封了對(duì)該集團(tuán)犯罪活動(dòng)至關(guān)重要的網(wǎng)站（“aitism[.]net”）。

法庭文件顯示，至少有三名未知個(gè)人參與了此次行動(dòng)，他們利用被盜的Azure API密鑰和客戶Entra ID身份驗(yàn)證信息侵入微軟系統(tǒng)，并且使用DALL - E違反可接受使用政策創(chuàng)建有害圖像。

目前尚不清楚API密鑰是如何被收集的，不過(guò)微軟表示，被告從多個(gè)客戶（其中包括幾家位于賓夕法尼亞州和新澤西州的美國(guó)公司）進(jìn)行了“系統(tǒng)性API密鑰盜竊”。

微軟公司在一份文件中指出：“使用被盜的屬于美國(guó)微軟客戶的Microsoft API密鑰，被告創(chuàng)建了一種黑客即服務(wù)方案——可通過(guò)‘rentry.org/de3u’和‘a(chǎn)itism.net’這樣的基礎(chǔ)設(shè)施訪問(wèn)——專門用于濫用微軟的Azure基礎(chǔ)設(shè)施和軟件。”

據(jù)一個(gè)現(xiàn)已被刪除的GitHub存儲(chǔ)庫(kù)描述，de3u被稱作“具有反向代理支持的DALL - E 3前端”，該GitHub賬戶于2023年11月8日創(chuàng)建。

據(jù)說(shuō)，威脅行為者采取措施“掩蓋他們的蹤跡，包括試圖刪除某些Rentry.org頁(yè)面、de3u工具的GitHub存儲(chǔ)庫(kù)以及部分反向代理基礎(chǔ)設(shè)施”，隨后“aitism[.]net”被查封。

微軟指出，威脅行為者使用de3u和一個(gè)名為oai反向代理的定制反向代理服務(wù)，借助被盜的API密鑰通過(guò)Azure OpenAl Service API調(diào)用來(lái)非法生成數(shù)千張使用文本提示的有害圖像，但不清楚創(chuàng)建的是何種冒犯性圖像。

運(yùn)行在服務(wù)器上的oai反向代理服務(wù)旨在將通過(guò)Cloudflare隧道的de3u用戶計(jì)算機(jī)通信引入Azure OpenAI Service，并把響應(yīng)傳回用戶設(shè)備。

雷德蒙解釋說(shuō)：“de3u軟件允許用戶通過(guò)利用Azure API訪問(wèn)Azure OpenAI Service的簡(jiǎn)單用戶界面發(fā)出使用DALL - E模型生成圖像的Microsoft API調(diào)用?！?/p>

“被告的de3u應(yīng)用程序使用未經(jīng)記錄的Microsoft網(wǎng)絡(luò)API與Azure計(jì)算機(jī)通信，發(fā)送旨在模仿合法Azure OpenAPI Service API請(qǐng)求的請(qǐng)求，并且使用被盜的API密鑰和其他身份驗(yàn)證信息進(jìn)行身份驗(yàn)證?！?/p>

值得注意的是，Sysdig在2024年5月與針對(duì)AI產(chǎn)品（包括Anthropic、AWS Bedrock、Google Cloud Vertex AI、Microsoft Azure、Mistral和OpenAI）的LLMjacking攻擊活動(dòng)相關(guān)聯(lián)時(shí)，強(qiáng)調(diào)了使用代理服務(wù)非法訪問(wèn)LLM服務(wù)。

微軟表示：“被告通過(guò)協(xié)調(diào)一致的持續(xù)非法活動(dòng)模式實(shí)施針對(duì)Azure企業(yè)的濫用行為，以實(shí)現(xiàn)他們共同的非法目的。被告的非法活動(dòng)模式不限于對(duì)微軟的攻擊。到目前為止，微軟所揭示的證據(jù)表明，Azure濫用企業(yè)一直在針對(duì)其他AI服務(wù)提供商并且遭受其害?！?/p>

參考來(lái)源：https://thehackernews.com/2025/01/microsoft-sues-hacking-group-exploiting.html