10月20日消息，據(jù)外媒報(bào)道，微軟宣布正式推出Azure?AI?Content?Safety，這是一項(xiàng)新服務(wù)，可以幫助用戶在應(yīng)用程序和服務(wù)中檢測(cè)和過(guò)濾有害的人工智能和用戶生成的內(nèi)容。

該服務(wù)包括文本和圖像檢測(cè)，并識(shí)別微軟所說(shuō)的“冒犯、危險(xiǎn)或不受歡迎”的內(nèi)容，包括褻瀆、血腥、暴力和某些類(lèi)型的言論。

Azure?Anomaly?Detector產(chǎn)品經(jīng)理Louise?Han表示：“通過(guò)關(guān)注內(nèi)容安全，我們可以創(chuàng)造一個(gè)更安全的數(shù)字環(huán)境，促進(jìn)負(fù)責(zé)任地使用人工智能，保障個(gè)人和整個(gè)社會(huì)的福祉。”

Azure?AI?Content?Safety能夠處理各種內(nèi)容類(lèi)別、語(yǔ)言和威脅，以調(diào)節(jié)文本和視覺(jué)內(nèi)容。它還提供了使用人工智能算法掃描、分析和調(diào)節(jié)視覺(jué)內(nèi)容的圖像功能，確保微軟所說(shuō)的360度全面安全措施。

該服務(wù)還配備了跨多種語(yǔ)言的內(nèi)容調(diào)節(jié)功能，并使用嚴(yán)重性度量標(biāo)準(zhǔn)，在0到7的范圍內(nèi)提供特定內(nèi)容的嚴(yán)重性指示。

0-1級(jí)的內(nèi)容被認(rèn)為是安全的，適合所有觀眾觀看，而表達(dá)偏見(jiàn)、判斷或固執(zhí)己見(jiàn)的內(nèi)容被評(píng)為2-3級(jí)或較低。

中等嚴(yán)重程度的內(nèi)容被分級(jí)為4-5，包含攻擊性，侮辱性，嘲弄，恐嚇語(yǔ)言或?qū)ι矸萑后w的明確攻擊，而高嚴(yán)重程度的內(nèi)容，包含有害和明確的促進(jìn)有害行為，或支持或美化對(duì)身份群體的極端形式的有害活動(dòng)，被分級(jí)為6-7。

此外，Azure?AI?Content?Safety還使用多類(lèi)別過(guò)濾來(lái)識(shí)別和分類(lèi)一些關(guān)鍵領(lǐng)域的有害內(nèi)容。