AI是企業(yè)的朋友還是敵人？集成genAI的挑戰(zhàn)與機遇

SolarWinds公司最新發(fā)布的2024年IT趨勢報告《AI：朋友還是敵人？》顯示，盡管90%的IT專業(yè)人士希望在其組織中實施生成性人工智能（genAI），但超過一半的人對集成、安全和隱私問題表示擔(dān)憂。

在對大約7000名IT專業(yè)人士進行的在線調(diào)查中，SolarWinds公司發(fā)現(xiàn)，盡管幾乎所有受訪者都渴望采用genAI和其他基于AI的工具，但不到一半的受訪者認(rèn)為他們的基礎(chǔ)設(shè)施能夠適應(yīng)這項新技術(shù)。只有43%的受訪者表示他們相信公司的數(shù)據(jù)庫能夠滿足AI增加的需求，而更少的人（38%）信任用于開發(fā)這項技術(shù)的數(shù)據(jù)或訓(xùn)練的質(zhì)量。

報告指出，隱私和安全問題被認(rèn)為是genAI集成的主要障礙，IT專業(yè)人士特別呼吁增加政府監(jiān)管來解決安全（72%）和隱私（64%）問題。當(dāng)被問及AI的挑戰(zhàn)時，41%的受訪者表示他們有過負面經(jīng)歷；其中，隱私問題（48%）和安全風(fēng)險（43%）是最常被提及的。

超過一半的受訪者還認(rèn)為，政府監(jiān)管應(yīng)該在打擊虛假信息方面發(fā)揮作用。報告中提到：“為了確保AI的成功和安全采用，IT專業(yè)人士認(rèn)識到，組織必須制定關(guān)于道德、數(shù)據(jù)隱私和合規(guī)性的全面政策，這指向了道德考慮和對工作被取代的擔(dān)憂，作為AI采用的其他重要障礙?！?

SolarWinds報告還發(fā)現(xiàn)，超過三分之一的組織仍然缺乏指導(dǎo)適當(dāng)genAI實施的道德、隱私和合規(guī)政策。SolarWinds的技術(shù)和工程高級副總裁Krishna Sai表示：“盡管AI的討論在行業(yè)中占據(jù)了主導(dǎo)地位，但IT領(lǐng)導(dǎo)者和團隊認(rèn)識到，這項仍在發(fā)展中的技術(shù)存在巨大的風(fēng)險，這些風(fēng)險因急于快速而非智能地構(gòu)建AI而加劇。”

事實上，領(lǐng)先的安全專家預(yù)測，黑客將越來越多地針對genAI系統(tǒng)，并嘗試通過破壞數(shù)據(jù)或模型本身來“投毒”。今年早些時候，美國國家標(biāo)準(zhǔn)技術(shù)研究院（NIST）發(fā)表了一篇論文，警告說“投毒攻擊非常強大，可以導(dǎo)致可用性違規(guī)或完整性違規(guī)。”