微軟近期向美國(guó)弗吉尼亞?wèn)|區(qū)聯(lián)邦地區(qū)法院提起了一項(xiàng)法律訴訟，指控一組織故意開(kāi)發(fā)并使用非法工具，繞過(guò)其云AI產(chǎn)品的安全防線，非法訪問(wèn)并制造有害內(nèi)容。該訴訟涉及十名匿名被告，他們的行為引發(fā)了微軟的高度關(guān)注。
據(jù)訴訟文件顯示，被告被指控通過(guò)盜取的客戶(hù)憑證和定制軟件，非法侵入了Azure OpenAI服務(wù)。Azure OpenAI是微軟基于OpenAI技術(shù)開(kāi)發(fā)的全托管服務(wù)，提供包括ChatGPT在內(nèi)的多種AI模型。微軟指出，被告的行為違反了《計(jì)算機(jī)欺詐和濫用法》《數(shù)字千年版權(quán)法》以及聯(lián)邦反敲詐勒索法，他們利用自己的軟件和服務(wù)器，生成了具有攻擊性、有害且非法的內(nèi)容，盡管具體內(nèi)容微軟并未詳細(xì)透露。
微軟在調(diào)查中發(fā)現(xiàn)，部分Azure OpenAI服務(wù)的客戶(hù)憑證，特別是API密鑰，被用于生成違反服務(wù)使用政策的內(nèi)容。經(jīng)過(guò)深入調(diào)查，微軟確認(rèn)這些API密鑰是從付費(fèi)客戶(hù)處被非法竊取的。被告通過(guò)系統(tǒng)性的API密鑰盜竊行為，從多個(gè)客戶(hù)處獲取了密鑰，并利用這些密鑰進(jìn)行了非法活動(dòng)。
更令人震驚的是，被告利用竊取的API密鑰，創(chuàng)建了一種“黑客即服務(wù)”的模式，并開(kāi)發(fā)了一款名為“de3u”的客戶(hù)端工具。這款工具允許用戶(hù)無(wú)需編寫(xiě)代碼，即可通過(guò)DALL-E模型生成圖像，并試圖繞過(guò)Azure OpenAI服務(wù)的內(nèi)容過(guò)濾機(jī)制。當(dāng)用戶(hù)輸入的文本提示包含觸發(fā)內(nèi)容過(guò)濾的詞匯時(shí)，de3u會(huì)阻止服務(wù)修改提示內(nèi)容，從而生成可能有害的圖像。
微軟還指出，被告通過(guò)非法編程訪問(wèn)Azure OpenAI服務(wù)，對(duì)微軟的內(nèi)容和濫用防護(hù)措施進(jìn)行了逆向工程，給服務(wù)造成了重大損失。目前，托管在GitHub（微軟旗下公司）上的de3u項(xiàng)目代碼庫(kù)已經(jīng)無(wú)法訪問(wèn)。
在微軟發(fā)布的一篇博客文章中提到，法院已授權(quán)微軟查封一個(gè)對(duì)被告運(yùn)營(yíng)至關(guān)重要的網(wǎng)站，以便收集證據(jù)、分析其盈利模式，并破壞其技術(shù)基礎(chǔ)設(shè)施。微軟還表示，已針對(duì)觀察到的非法活動(dòng)采取了相應(yīng)的反制措施，并在Azure OpenAI服務(wù)中增加了額外的安全防護(hù)機(jī)制，以確保服務(wù)的正常運(yùn)行和用戶(hù)的數(shù)據(jù)安全。
