AI是企業(yè)的朋友還是敵人?集成genAI的挑戰(zhàn)與機遇

極客網(wǎng)·企業(yè)級IT 6月13日 SolarWinds公司最新發(fā)布的2024年IT趨勢報告《AI:朋友還是敵人?》顯示,盡管90%的IT專業(yè)人士希望在其組織中實施生成性人工智能(genAI),但超過一半的人對集成、安全和隱私問題表示擔憂。

GenAI_loading_shutterstock_Berit-Kessler.jpg

在對大約7000名IT專業(yè)人士進行的在線調查中,SolarWinds公司發(fā)現(xiàn),盡管幾乎所有受訪者都渴望采用genAI和其他基于AI的工具,但不到一半的受訪者認為他們的基礎設施能夠適應這項新技術。只有43%的受訪者表示他們相信公司的數(shù)據(jù)庫能夠滿足AI增加的需求,而更少的人(38%)信任用于開發(fā)這項技術的數(shù)據(jù)或訓練的質量。

報告指出,隱私和安全問題被認為是genAI集成的主要障礙,IT專業(yè)人士特別呼吁增加政府監(jiān)管來解決安全(72%)和隱私(64%)問題。當被問及AI的挑戰(zhàn)時,41%的受訪者表示他們有過負面經(jīng)歷;其中,隱私問題(48%)和安全風險(43%)是最常被提及的。

超過一半的受訪者還認為,政府監(jiān)管應該在打擊虛假信息方面發(fā)揮作用。報告中提到:“為了確保AI的成功和安全采用,IT專業(yè)人士認識到,組織必須制定關于道德、數(shù)據(jù)隱私和合規(guī)性的全面政策,這指向了道德考慮和對工作被取代的擔憂,作為AI采用的其他重要障礙?!?/p>

SolarWinds報告還發(fā)現(xiàn),超過三分之一的組織仍然缺乏指導適當genAI實施的道德、隱私和合規(guī)政策。SolarWinds的技術和工程高級副總裁Krishna Sai表示:“盡管AI的討論在行業(yè)中占據(jù)了主導地位,但IT領導者和團隊認識到,這項仍在發(fā)展中的技術存在巨大的風險,這些風險因急于快速而非智能地構建AI而加劇?!?/p>

事實上,領先的安全專家預測,黑客將越來越多地針對genAI系統(tǒng),并嘗試通過破壞數(shù)據(jù)或模型本身來“投毒”。今年早些時候,美國國家標準技術研究院(NIST)發(fā)表了一篇論文,警告說“投毒攻擊非常強大,可以導致可用性違規(guī)或完整性違規(guī)?!?/p>


免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。

2024-06-13
AI是企業(yè)的朋友還是敵人?集成genAI的挑戰(zhàn)與機遇
盡管90%的IT專業(yè)人士希望在其組織中實施生成性人工智能(genAI),但超過一半的人對集成、安全和隱私問題表示擔憂。

長按掃碼 閱讀全文