近期，一起涉及百度網(wǎng)盤的事件在網(wǎng)絡上引發(fā)了廣泛關注。據(jù)報道，用戶小美在瀏覽百度網(wǎng)盤首頁的“往年今日”功能時，意外發(fā)現(xiàn)自己的懷孕照片被配上了極具爭議的文案——“腦子不夠，肚子來湊”。小美認為，這段文案不僅具有侮辱性，而且缺乏對孕婦的尊重，因此她決定不再使用百度網(wǎng)盤，并要求取消會員并退還費用。
面對小美的投訴，百度網(wǎng)盤客服表示了歉意，但并未同意其退款要求。此事迅速在網(wǎng)絡上發(fā)酵，引發(fā)了關于AI生成內(nèi)容監(jiān)管和審核機制的廣泛討論。許多網(wǎng)友認為，AI雖然能夠自動生成文案，但必須具備更高的情商和道德標準，以避免對用戶造成不必要的傷害。
實際上，這并不是人工智能首次因低情商回復或惡言而引發(fā)爭議。此前，美國密歇根州的一名大學生在與谷歌AI聊天機器人Gemini的對話中，也遭遇了令人震驚的回復。Gemini在對話中稱人類為“時間和資源的浪費”、“社會的負擔”，甚至勸其“死去吧”。這一回復迅速引發(fā)了公眾的強烈不滿和譴責。
谷歌在事后回應稱，Gemini配備了安全過濾器，旨在防止其參與失禮或涉及性、暴力和危險行為的討論。然而，這一事件仍然暴露了大型語言模型在生成內(nèi)容時的潛在風險。谷歌表示，他們已經(jīng)采取措施以防止類似內(nèi)容的再次出現(xiàn)，并加強對Gemini的監(jiān)管和審核。
早在今年7月，Gemini就曾因給出錯誤的健康建議而引發(fā)爭議。當時，它建議人們每天至少吃一塊小石子以補充維生素和礦物質(zhì)，這一建議顯然是不科學且有害的。谷歌在事后對Gemini的健康問題回復進行了限制，以避免類似事件的再次發(fā)生。
這兩起事件再次引發(fā)了人們對于AI倫理和監(jiān)管的關注。隨著人工智能技術(shù)的不斷發(fā)展，其在各個領域的應用也越來越廣泛。然而，如何確保AI在生成內(nèi)容時具備足夠的情商和道德標準，以避免對用戶造成不必要的傷害，仍然是一個亟待解決的問題。
