近日，北京迎來了一項重要科技事件的誕生——國內(nèi)首個專注于智能體安全生態(tài)的協(xié)作組織“IIFAA智能體可信互連工作組”正式宣告成立。該工作組旨在應對智能體技術迅猛發(fā)展所帶來的安全協(xié)作挑戰(zhàn)，推動行業(yè)共同制定跨智能體交互的安全技術規(guī)范，構建一個開放、合作、共贏的智能體生態(tài)。
這一工作組由IIFAA互聯(lián)網(wǎng)可信認證聯(lián)盟發(fā)起，該聯(lián)盟自2015年成立以來，已在可信身份認證等領域取得了顯著成果，并擁有超過300家成員單位。此次工作組的成立，標志著IIFAA在智能體安全領域的進一步拓展和深化。
近年來，隨著AI智能體生態(tài)的搭建成為科技行業(yè)的重要戰(zhàn)略布局，手機廠商、大模型及應用開發(fā)商等紛紛推出智能體產(chǎn)品，如“AI管家”等，這些產(chǎn)品允許用戶通過自然語言與設備或應用進行交互，實現(xiàn)諸如訂票、點餐、打車等便捷操作。蘋果、榮耀、vivo等手機廠商推出的系統(tǒng)智能體，以及螞蟻集團的“支小寶”、智譜AI的AutoGLM等AI智能體產(chǎn)品，都是這一領域的典型代表。
然而，隨著多個智能體協(xié)同工作為用戶提供更豐富功能的同時，也帶來了安全上的挑戰(zhàn)。信通院泰爾終端實驗室信息安全部副主任傅山指出，用戶的一條指令往往涉及多個智能體產(chǎn)品，而智能體之間的打通并不容易。如何在端上實現(xiàn)多智能體間的可信互連，成為智能體發(fā)展中亟待解決的問題。目前，行業(yè)仍處于初期階段，新技術在帶來便利的同時，也隱藏著安全風險。
IIFAA聯(lián)盟秘書長鄭亮強調(diào)，智能體之間的服務互聯(lián)需要完成用戶指令，這涉及到意圖數(shù)據(jù)的共享傳遞和復雜任務拆解等流程。在沒有規(guī)范約束的情況下，這些流程容易出現(xiàn)亂象。事實上，即使在多智能體發(fā)展的早期階段，已經(jīng)出現(xiàn)了諸多問題。因此，工作組的存在顯得尤為必要，旨在推動智能體之間的開放協(xié)作，并共建安全互信的行業(yè)規(guī)范。
工作組的成員涵蓋了手機終端廠商、硬件廠商、應用開發(fā)商以及相關監(jiān)管機構等多方力量。作為成員單位之一，智譜AI CEO張鵬表示，智譜非常注重技術安全和治理的同步發(fā)展，成立智能體行業(yè)組織對于避免由于缺乏統(tǒng)一標準而可能導致的惡意攻擊、隱私侵犯等安全隱患具有重要意義，有助于促進整個行業(yè)的健康發(fā)展。
螞蟻集團副總裁李俊奎也表達了對工作組的支持。他認為，創(chuàng)新與開放是螞蟻持續(xù)發(fā)展的基石，工作組將推動智能體技術在各個應用場景中的廣泛普及與信任建立，讓AI更安全地服務于用戶和行業(yè)。
工作組技術總監(jiān)張璇介紹，接下來，工作組將圍繞智能體可信認證、服務可信調(diào)用、數(shù)據(jù)可信流轉(zhuǎn)、用戶隱私與權益保護等方向，建設智能體可信互連行業(yè)規(guī)范，推動行業(yè)安全、健康發(fā)展。
