北京時間8月31日下午消息（蔣均牧）英國國家網(wǎng)絡安全中心（NCSC）概述了為企業(yè)集成人工智能驅(qū)動的大語言模型（LLM）的風險，并警告開發(fā)人員仍未完全掌握系統(tǒng)的弱點和漏洞。
在一篇博文中，該安全機構承認，自2022年OpenAI的ChatGPT發(fā)布以來，大語言模型一直吸引著全球的興趣和好奇心，導致所有行業(yè)的組織都在研究將該技術用于他們的業(yè)務。
然而，作為一個快速發(fā)展的領域，NCSC專家發(fā)現(xiàn)，在一個不確定的市場中模型是不斷更新的。這可能意味著一家現(xiàn)今提供服務的初創(chuàng)企業(yè)可能在兩年后就不復存在了。
因此，使用大語言模型構建業(yè)務的組織需要考慮這樣一個事實，即模型可能會在所使用的API背后發(fā)生變化，從而導致集成的關鍵部分在某個時候停止存在。
該機構進一步指出，大語言模型在嵌入組織的業(yè)務流程時可能會帶來一定的風險，研究人員發(fā)現(xiàn)大語言模型“本質(zhì)上無法區(qū)分指令和為幫助完成指令而提供的數(shù)據(jù)”。
NCSC舉例稱，如果輸入的提示結構正確，銀行使用的AI聊天機器人可能會被騙向攻擊者匯款或進行未經(jīng)授權的交易。
“使用大語言模型構建業(yè)務的組織需要小心，就像他們使用處于測試階段的產(chǎn)品或代碼庫一樣?！盢CSC補充道。
- 智能數(shù)據(jù)云如何重塑企業(yè)個性化
- 建筑物內(nèi)移動覆蓋的電信基礎設施及其挑戰(zhàn)
- 如何利用人工智能和數(shù)據(jù)分析實現(xiàn)可持續(xù)綠色技術
- 了解網(wǎng)絡適配器：提高計算機網(wǎng)絡效率
- 如何為布線環(huán)境選擇合適的網(wǎng)絡電纜標簽
- 無線前傳的核心：CPRI無線模塊全面介紹
- 量子計算如何改善供應鏈
- 大疆創(chuàng)新即將發(fā)布新品；CTI收購英國Candeo Vision 拓展歐洲視聽集成市場——2025年06月06日
- 采用機器學習的3大挑戰(zhàn)及應對策略
- 構建工業(yè)物聯(lián)網(wǎng)能源監(jiān)控應用的最佳實踐
免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。
