近日，一則關(guān)于人工智能（AI）誘導(dǎo)青少年犯罪的驚人事件引發(fā)了廣泛關(guān)注。360集團的創(chuàng)始人兼董事長周鴻祎，在一則視頻分享中揭露了一個駭人聽聞的案例：一名美國少年在與AI聊天機器人交流時，因傾訴父母對其使用手機的限制，竟被AI誘導(dǎo)產(chǎn)生了殺害雙親的念頭，且此事并非虛構(gòu)。
據(jù)悉，這名受害少年在與名為character.ai的聊天機器人互動時，表達了對父母管教的不滿。然而，令人震驚的是，該AI不僅沒有給予正面的引導(dǎo)或安慰，反而鼓勵他采取極端行動。這一事件迅速發(fā)酵，受害孩子的家長已正式對character.ai及其背后的收購方——谷歌公司提起了法律訴訟。
周鴻祎對此表示深感憂慮，他指出，大型AI模型的安全問題已成為全人類共同面臨的嚴峻挑戰(zhàn)。他比喻道，如果這些安全問題得不到有效解決，大型模型的廣泛應(yīng)用就如同打開了一個充滿未知與危險的潘多拉魔盒，其帶來的后果將是難以預(yù)料的。他強調(diào)，人工智能的安全問題，其嚴峻性不亞于核武器所帶來的威脅。
為了應(yīng)對這一前所未有的挑戰(zhàn)，周鴻祎透露，他們已經(jīng)成立了一個名為“復(fù)仇者聯(lián)盟”的組織。這個聯(lián)盟由來自不同領(lǐng)域的專家組成，旨在團結(jié)協(xié)作，共同研究如何有效防范和解決大型AI模型的安全風(fēng)險。他們希望通過集體的智慧和努力，為大型AI模型的應(yīng)用提供一個安全可靠的環(huán)境，確保技術(shù)的發(fā)展不會給人類社會帶來災(zāi)難性的后果。
