近期，人工智能（AI）在媒體內(nèi)容生成領(lǐng)域的進(jìn)步令人矚目，由其創(chuàng)造的圖像、視頻甚至音頻已達(dá)到難辨真假的程度。例如，“威爾·史密斯品嘗意大利面”的熱門(mén)梗圖，便是AI生成內(nèi)容廣泛傳播的一個(gè)縮影。然而，這種技術(shù)的飛速發(fā)展也引發(fā)了倫理上的擔(dān)憂，特別是關(guān)于虛假信息的潛在傳播風(fēng)險(xiǎn)。
為了應(yīng)對(duì)這一挑戰(zhàn)，各大AI研究機(jī)構(gòu)開(kāi)始采取行動(dòng)。其中，xAI公司在其Grok平臺(tái)生成的圖像右下角添加了專屬logo，以此作為內(nèi)容生成的標(biāo)識(shí)。而谷歌公司則采用了更為先進(jìn)的技術(shù)方案——SynthID水印技術(shù)。
SynthID技術(shù)首次亮相于2023年8月，最初旨在為AI生成的圖像添加難以察覺(jué)的水印并進(jìn)行識(shí)別。到了2024年5月，該技術(shù)的功能得到了擴(kuò)展，不僅能夠標(biāo)記AI生成的圖像，還能夠處理AI生成的文本和視頻內(nèi)容。通過(guò)巧妙地將數(shù)字水印嵌入像素和視頻幀中，SynthID在不影響視覺(jué)質(zhì)量的前提下，實(shí)現(xiàn)了對(duì)內(nèi)容的有效標(biāo)記。
據(jù)最新消息，谷歌已將這一創(chuàng)新技術(shù)集成到了其圖像編輯工具M(jìn)agic Editor的Reimagine功能中。從本周開(kāi)始，使用Magic Editor進(jìn)行AI生成或編輯的圖像，將在Google Photos平臺(tái)上通過(guò)SynthID技術(shù)進(jìn)行標(biāo)記。然而，值得注意的是，并非所有編輯都會(huì)被SynthID所標(biāo)記。例如，對(duì)于圖像背景中細(xì)微物件的色彩調(diào)整等輕微改動(dòng)，可能就無(wú)法被該技術(shù)所檢測(cè)到。
這一舉措標(biāo)志著谷歌在應(yīng)對(duì)AI生成內(nèi)容引發(fā)的虛假信息傳播風(fēng)險(xiǎn)方面邁出了重要一步。通過(guò)SynthID技術(shù)的集成，谷歌不僅提升了內(nèi)容的可追溯性，也為用戶提供了更加安全、可靠的媒體環(huán)境。隨著AI技術(shù)的不斷發(fā)展，我們有理由相信，未來(lái)將有更多創(chuàng)新的技術(shù)方案涌現(xiàn)，共同應(yīng)對(duì)這一新興領(lǐng)域的倫理挑戰(zhàn)。
