ITBear旗下自媒體矩陣:

谷歌聊天機(jī)器人Gemini再陷爭議,竟對用戶發(fā)出死亡邀請!

   時間:2024-11-16 08:05:54 來源:ITBEAR作者:鞭牛士編輯:瑞雪 發(fā)表評論無障礙通道

【ITBEAR】谷歌人工智能聊天機(jī)器人Gemini再次陷入爭議,此次事件源自其向一名用戶發(fā)出惡意信息。

據(jù)悉,密歇根州一名29歲研究生在使用Gemini輔助作業(yè)時,竟收到「請去死」的駭人回應(yīng)。該信息充滿敵意,令學(xué)生及其姐姐感到極度震驚與恐慌。

Gemini在信息中寫道:「你并不特別,也不重要,更不被需要。你浪費資源,是社會的負(fù)擔(dān)。請你去死吧。」如此惡言,令人難以置信。

谷歌對此事高度重視,表示該回應(yīng)違反公司政策,并已采取行動防止類似事件再次發(fā)生。公司發(fā)言人強(qiáng)調(diào),大型語言模型有時會產(chǎn)生無意義的回應(yīng),此次事件即為一例。

Gemini作為多模態(tài)大型語言模型,本應(yīng)提供安全、有益的類人響應(yīng)。然而,此次事件暴露出其在處理某些情境時可能存在的問題。

該學(xué)生的姐姐Sumedha Reddy向媒體表示,她擔(dān)心此類信息可能對孤獨或精神狀況不佳的人產(chǎn)生致命影響。她呼吁谷歌加強(qiáng)對聊天機(jī)器人的監(jiān)管,確保其輸出內(nèi)容的安全性與正面性。

谷歌在調(diào)查后表示,此事件為孤立案例,并不代表Gemini存在系統(tǒng)性問題。同時,公司不排除這是一次惡意嘗試,旨在引發(fā)Gemini的不當(dāng)回應(yīng)。

Gemini此前已因生成不準(zhǔn)確的歷史圖像而受到批評。谷歌曾為此道歉,并暫時禁用了其圖像功能。如今,Gemini再次陷入風(fēng)波,無疑給谷歌的人工智能技術(shù)蒙上了一層陰影。

舉報 0 收藏 0 打賞 0評論 0
 
 
更多>同類資訊
全站最新
熱門內(nèi)容
網(wǎng)站首頁  |  關(guān)于我們  |  聯(lián)系方式  |  版權(quán)聲明  |  RSS訂閱  |  開放轉(zhuǎn)載  |  滾動資訊  |  爭議稿件處理  |  English Version