抖音平臺近日發(fā)布了針對“災害期間AI內容不當使用”的專項治理公告，該舉措源于西藏自治區(qū)發(fā)生的地震災害期間，網(wǎng)絡上涌現(xiàn)的一系列利用AI技術生成的災害虛假場景，這些不實內容對救援工作造成了不必要的干擾。
抖音官方指出，在地震災害發(fā)生后，平臺上出現(xiàn)了大量由AI技術生成的災難圖片，部分發(fā)布者將這些內容視為“藝術創(chuàng)作”或出于“祈福”的目的，但并未意識到這些行為可能造成的誤導。抖音強調，AI創(chuàng)作雖然具有創(chuàng)新性，但如果不加以規(guī)范，很容易混淆虛擬與現(xiàn)實的界限。
為了應對這一問題，抖音平臺制定了以下一系列規(guī)范，要求所有在平臺上使用生成式人工智能技術的創(chuàng)作者、主播、用戶、商家、廣告主等生態(tài)參與者必須遵守：
首先，發(fā)布者需對AI生成的內容進行明確標識，確保其他用戶能夠清晰地區(qū)分虛擬內容與現(xiàn)實情況，特別是在那些容易引發(fā)混淆的場景中。其次，無論內容是如何生成的，發(fā)布者都需要對其產生的后果負責。使用虛擬人技術的用戶需要在平臺進行注冊，并完成實名認證，以確保身份的可追溯性。
抖音還明確規(guī)定，禁止利用生成式人工智能技術創(chuàng)作和發(fā)布任何侵權內容，包括但不限于侵犯肖像權和知識產權等。對于此類行為，平臺將采取嚴格的處罰措施。同時，也嚴禁利用AI技術創(chuàng)作和發(fā)布違背科學常識、弄虛作假或造謠傳謠的內容，一經(jīng)發(fā)現(xiàn)，同樣將受到平臺的嚴厲處罰。
抖音平臺的這一系列舉措，旨在加強網(wǎng)絡內容的真實性和可信度，防止虛假信息對公眾造成誤導，特別是在災害等敏感時期。通過明確規(guī)范和嚴格處罰，抖音希望能夠在保障用戶創(chuàng)意自由的同時，維護一個健康、有序的網(wǎng)絡環(huán)境。
