Gartner預(yù)測(cè)：未來(lái)1/3的AI市場(chǎng)將由守護(hù)代理AI瓜分，引領(lǐng)代理型AI新潮流

Gartner預(yù)測(cè)：守護(hù)代理AI引領(lǐng)代理型AI新潮流

隨著科技的飛速發(fā)展，人工智能（AI）的應(yīng)用已經(jīng)滲透到我們生活的方方面面。Gartner，全球著名的IT研究與顧問(wèn)咨詢公司，近期發(fā)布預(yù)測(cè)，到2030年，守護(hù)代理（Guardian Agent）技術(shù)將在代理型AI市場(chǎng)中占據(jù)至少10%至15%的份額，預(yù)示著未來(lái)1/3的AI市場(chǎng)將由守護(hù)代理AI瓜分，這無(wú)疑將引領(lǐng)代理型AI的新潮流。

守護(hù)代理，作為一種專(zhuān)為實(shí)現(xiàn)可信、安全的AI交互而設(shè)計(jì)的AI技術(shù)，其涵蓋的范圍既包括協(xié)助用戶完成內(nèi)容審核、監(jiān)控、分析等任務(wù)的AI助手，也包括可不斷進(jìn)化的半自主或全自主代理。這些守護(hù)代理具有根據(jù)既定目標(biāo)制定與執(zhí)行行動(dòng)計(jì)劃、甚至調(diào)整或阻止行動(dòng)的能力。它們將管理所有類(lèi)型的交互和異常情況，成為多代理系統(tǒng)的重要驅(qū)動(dòng)因素，也是守護(hù)代理集成需求上升的關(guān)鍵。

Gartner的調(diào)查顯示，雖然目前只有24%的受訪者已部署了少量AI代理（少于12個(gè)），但有4%的受訪者部署了12個(gè)以上的AI代理，并且有50%的受訪者正在研究和實(shí)驗(yàn)該技術(shù)，另有17%的受訪者尚未開(kāi)展相關(guān)工作，但計(jì)劃最遲于2026年底前部署該技術(shù)。這一現(xiàn)象表明，隨著AI技術(shù)的發(fā)展和應(yīng)用，越來(lái)越多的組織開(kāi)始探索和嘗試使用AI代理。

然而，隨著AI代理的廣泛應(yīng)用，也帶來(lái)了一系列新的挑戰(zhàn)和威脅。自動(dòng)化信任、風(fēng)險(xiǎn)和安全控制措施是確保AI代理一致、安全運(yùn)行的必要條件，這也推動(dòng)了守護(hù)代理的需求和該技術(shù)的增長(zhǎng)。而Gartner杰出研究副總裁Avivah Litan的話更是給我們敲響了警鐘：“如果沒(méi)有適當(dāng)?shù)姆雷o(hù)措施，代理型AI將導(dǎo)致意想不到的結(jié)果?！?/p>

在調(diào)查中，我們發(fā)現(xiàn)有52%的受訪者表示其AI代理當(dāng)前或在未來(lái)將主要側(cè)重于IT、人力資源、會(huì)計(jì)等與內(nèi)部行政職能相關(guān)的用例，而有23%的受訪者表示其AI代理側(cè)重于面向外部客戶的職能。然而，隨著用例的不斷增加，AI代理也面臨著越來(lái)越多的威脅，如輸入操縱、數(shù)據(jù)中毒等，這些都可能對(duì)AI代理的運(yùn)行和安全性造成威脅。

此外，AI代理的快速發(fā)展及其自主性的提升使傳統(tǒng)的人類(lèi)監(jiān)督模式已不再足夠。由于企業(yè)開(kāi)始轉(zhuǎn)向復(fù)雜的多代理系統(tǒng)并且此類(lèi)系統(tǒng)的通信速度驚人，人類(lèi)已跟不上錯(cuò)誤和惡意活動(dòng)的速度。因此，企業(yè)更加迫切地需要守護(hù)代理對(duì)AI應(yīng)用和代理進(jìn)行自動(dòng)監(jiān)視和控制并提供安全保障。

總的來(lái)說(shuō)，守護(hù)代理技術(shù)的崛起和普及，不僅將改變我們與AI交互的方式，也將極大地提高我們使用AI的安全性和便利性。Gartner的預(yù)測(cè)顯示，未來(lái)1/3的AI市場(chǎng)將由守護(hù)代理AI瓜分，這無(wú)疑將引領(lǐng)代理型AI的新潮流。在這個(gè)潮流中，我們期待看到更多創(chuàng)新和突破性的技術(shù)出現(xiàn)，以應(yīng)對(duì)日益復(fù)雜的AI應(yīng)用場(chǎng)景和威脅。

最后，我們也要認(rèn)識(shí)到，任何技術(shù)都有其兩面性，如何平衡其優(yōu)點(diǎn)和缺點(diǎn)，如何制定合適的政策和法規(guī)，都是我們?cè)趽肀I時(shí)代時(shí)必須面對(duì)和解決的問(wèn)題。只有通過(guò)全面的思考和科學(xué)的決策，我們才能真正把握住AI時(shí)代的機(jī)遇，應(yīng)對(duì)好其中的挑戰(zhàn)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。