三年前，當(dāng)鄧白氏集團(tuán)（Dun & Bradstreet Holdings Inc.）著手構(gòu)建一套以人工智能為核心的分析能力套件時，遭遇了一個如今在企業(yè)人工智能領(lǐng)域普遍存在的問題：如何在擴(kuò)大人工智能工作流規(guī)模的同時，不犧牲對底層數(shù)據(jù)的信任。

信任是不容妥協(xié)的關(guān)鍵。該公司的全球企業(yè)識別編碼系統(tǒng)（Data Universal Numbering System），相當(dāng)于企業(yè)的 “社會保障號”，已嵌入超過 20 萬家客戶的信貸決策、合規(guī)管理、貸款發(fā)放和供應(yīng)商資質(zhì)審核流程中，其中包括約 90% 的《財富》500 強企業(yè)。

鄧白氏首席數(shù)據(jù)與分析官加里?科托維茨（Gary Kotovets）表示，引入智能體人工智能（agentic AI）帶來了新的透明度、數(shù)據(jù)溯源和可恢復(fù)性挑戰(zhàn)，需要額外的保障措施?！拔覀儤I(yè)務(wù)的核心是信任，” 他說，“當(dāng)我們開始通過人工智能和智能體提供這些數(shù)據(jù)時，必須確保同樣水平的信任得以延續(xù)?！?/p>

在兩年多的時間里，鄧白氏構(gòu)建了一個多層數(shù)據(jù)韌性框架，包括統(tǒng)一的備份和留存策略、模型版本控制、置信度評分，以及用于檢測異常和合成輸出的完整性監(jiān)控。該公司還擴(kuò)展了治理層，以防止數(shù)據(jù)泄露，并執(zhí)行嚴(yán)格的訪問權(quán)限規(guī)則。

鄧白氏科托維茨：“我們業(yè)務(wù)的核心是信任。” 

“我們最初制定的治理標(biāo)準(zhǔn)以為能涵蓋所有情況，但在過去兩三年里一直在不斷補充完善，” 科托維茨說。當(dāng)鄧白氏人工智能平臺（D&B.AI）推出時，信任已不僅僅是營銷口號，更是該系統(tǒng)可量化的屬性。

鄧白氏的經(jīng)歷凸顯了企業(yè)必須付出的努力，以確保人工智能（尤其是智能體人工智能）能夠持續(xù)交付可靠可信的結(jié)果。近期研究表明，許多公司距離實現(xiàn)這一目標(biāo)仍有很大差距。

在企業(yè)競相滿足董事會提出的人工智能應(yīng)用需求時，支撐人工智能模型可靠運行的數(shù)據(jù)韌性基礎(chǔ)往往被忽視。這不僅帶來了新的網(wǎng)絡(luò)安全漏洞，若信任受損，還可能減緩人工智能的長期應(yīng)用進(jìn)程。

安全斷層

theCUBE Research 的一項新研究發(fā)現(xiàn)，盡管大多數(shù)組織認(rèn)為自己在備受推崇的美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）網(wǎng)絡(luò)安全框架下表現(xiàn)強勁，但僅有 12% 的組織表示在遭受攻擊后能夠恢復(fù)所有數(shù)據(jù)，34% 的組織在過去一年中經(jīng)歷了超過 30% 的數(shù)據(jù)丟失。

受可靠數(shù)據(jù)恢復(fù)系統(tǒng)保護(hù)的關(guān)鍵應(yīng)用比例

（數(shù)據(jù)來源：theCUBE Research）

• 超過 80%：無具體占比數(shù)據(jù)

• 51%-80%：無具體占比數(shù)據(jù)

• 31%-50%：無具體占比數(shù)據(jù)

• 不足 30%：無具體占比數(shù)據(jù)

數(shù)據(jù)韌性（即保護(hù)、維護(hù)數(shù)據(jù)并從中斷中恢復(fù)數(shù)據(jù)的能力）方面的這些差距，正被人工智能模型對數(shù)據(jù)的海量需求進(jìn)一步放大。許多專家表示，企業(yè)急于從多年來基本無法訪問的數(shù)據(jù)中挖掘洞察，因此構(gòu)建了大規(guī)模的非結(jié)構(gòu)化信息庫，卻未充分關(guān)注安全、訪問控制、備份和分類。人工智能模型的 “黑箱” 特性，使得治理不善的數(shù)據(jù)容易引發(fā)虛假信息、數(shù)據(jù)泄露和篡改問題。

“如果基礎(chǔ)數(shù)據(jù)一團(tuán)糟，又如何能開展智能體人工智能應(yīng)用？”theCUBE Research 負(fù)責(zé)網(wǎng)絡(luò)韌性、數(shù)據(jù)保護(hù)和數(shù)據(jù)管理的首席分析師克里斯托夫?伯特蘭（Christophe Bertrand）問道。硅谷角度（SiliconANGLE）旗下的市場研究公司將于 2 月 26 日舉辦人工智能信任與網(wǎng)絡(luò)韌性峰會，屆時將有行業(yè)專家、供應(yīng)商和用戶參與。

盡管人們普遍認(rèn)為人工智能需要高質(zhì)量、治理良好的數(shù)據(jù)，但研究表明，人工智能推理數(shù)據(jù)的治理往往不完善、分類不充分，且很少進(jìn)行備份。根據(jù) theCUBE Research 的數(shù)據(jù)，僅有 11% 的受訪者備份了超過 75% 的人工智能數(shù)據(jù)，54% 的受訪者備份比例不足 40%。

48% 的受訪者表示，不足一半的關(guān)鍵應(yīng)用受到全面數(shù)據(jù)恢復(fù)解決方案的保護(hù)，而僅有 4% 的受訪者表示超過 90% 的關(guān)鍵應(yīng)用得到了完全保護(hù)。

智能體的放大效應(yīng)

隨著智能體人工智能進(jìn)入主流，數(shù)據(jù)韌性不足的風(fēng)險將被進(jìn)一步放大。生成式人工智能應(yīng)用會像搜索引擎一樣，根據(jù)提示給出答案，而智能體系統(tǒng)則融入生產(chǎn)工作流，模型之間相互調(diào)用、交換數(shù)據(jù)、觸發(fā)操作，并在網(wǎng)絡(luò)中傳遞決策。錯誤數(shù)據(jù)在智能體之間流轉(zhuǎn)時，可能會像傳話游戲一樣被放大或篡改。 

Countly 公司索納：“人工智能會放大薄弱的數(shù)據(jù)管道問題” 

其他研究也發(fā)現(xiàn)了類似的信心差距。德勤（Deloitte LLP）近期開展的《企業(yè)人工智能現(xiàn)狀調(diào)查》涵蓋了 3000 多名企業(yè)和信息技術(shù)領(lǐng)導(dǎo)者，結(jié)果顯示，74% 的受訪者計劃在兩年內(nèi)使用智能體人工智能，但僅有 21% 的受訪者針對自主智能體制定了成熟的治理流程。

去年秋天，信任管理平臺 Vanta Inc. 對 3500 名信息技術(shù)和業(yè)務(wù)領(lǐng)導(dǎo)者進(jìn)行的調(diào)查發(fā)現(xiàn)，盡管 79% 的受訪者正在使用或計劃使用人工智能智能體防范網(wǎng)絡(luò)攻擊，但 65% 的受訪者表示其計劃使用規(guī)模超過了對該技術(shù)的理解程度。

高德納（Gartner Inc.）上月發(fā)布的一份報告指出，盡管高管和首席信息安全官（CISO）“都聲稱重視網(wǎng)絡(luò)韌性，但由于組織慣性和過時的‘零失敗容忍’思維模式，企業(yè)長期在這方面投資不足”。高德納表示，企業(yè)在 NIST 框架中關(guān)鍵的響應(yīng)和恢復(fù)階段表現(xiàn)最差。

這些問題共同構(gòu)成了一個迫在眉睫的信任危機(jī)。董事會和首席信息官一致認(rèn)為，沒有高質(zhì)量、具備韌性的數(shù)據(jù)，人工智能就無法大規(guī)模部署。然而在許多企業(yè)中，用于為人工智能引擎提供支持的推理數(shù)據(jù)治理不善、分類不一致且很少備份。這使得人們幾乎無法驗證決策的制定過程，也無法重現(xiàn)和消除下游影響。

企業(yè)人工智能應(yīng)用的障礙，最終可能不在于模型準(zhǔn)確性或處理能力供應(yīng)，而在于能否保證人工智能所依賴數(shù)據(jù)的完整性、可追溯性和可恢復(fù)性。

“人工智能不會暴露薄弱的數(shù)據(jù)管道，” 分析公司 Countly Ltd. 的首席執(zhí)行官奧努爾?阿爾普?索納（Onur Alp Soner）說，“它會放大這些問題。”

合規(guī)≠韌性

專家指出，許多企業(yè)忽視數(shù)據(jù)保護(hù)的原因有很多。關(guān)鍵原因之一是過度關(guān)注合規(guī)性，而犧牲了運營卓越性。這正是滿足一系列正式網(wǎng)絡(luò)安全指標(biāo)與能夠在現(xiàn)實世界中斷中生存下來的區(qū)別。

合規(guī)指南規(guī)定了政策、控制措施和審計要求，而韌性則關(guān)乎運營生存能力，例如維護(hù)數(shù)據(jù)完整性、恢復(fù)完整業(yè)務(wù)運營、重現(xiàn)或回滾操作，以及在系統(tǒng)故障或遭受攻擊時控制影響范圍。

Info-Tech 公司阿瓦基安：“勾選框式合規(guī)” 會產(chǎn)生虛假的信心感。

企業(yè)往往將兩者混為一談，但制定計劃與在現(xiàn)實條件下測試計劃是兩回事?！八麄儠?NIST 視為控制框架，然后說‘好的，我們有相關(guān)政策’，”Info-Tech Research Group Inc. 技術(shù)顧問、賓夕法尼亞州前首席信息安全官埃里克?阿瓦基安（Erik Avakian）說，“他們可能確實有政策，但從未對其進(jìn)行過評估?！?/p>

他表示，“勾選框式合規(guī)” 會產(chǎn)生 “虛假的信心感”。“我們真的深入測試過這些政策嗎？它們真的有效嗎？有些框架只是無需實施證明的自我評估，” 這使得首席信息安全官可以實際上為自己的工作打分。

另一個因素是，網(wǎng)絡(luò)安全傳統(tǒng)上側(cè)重于防范入侵，而非控制損害。高德納指出，這種策略已變得 “成本過高且不切實際”。其研究人員轉(zhuǎn)而建議 “一種新的思維方式，將網(wǎng)絡(luò)韌性置于優(yōu)先地位，并減輕不可避免的漏洞造成的損害”。

別人的問題

組織因素也會帶來漏洞。數(shù)據(jù)保護(hù)通常屬于風(fēng)險管理職能范疇，與網(wǎng)絡(luò)安全相互獨立。安全專業(yè)人員可能會因為認(rèn)為別人在負(fù)責(zé)數(shù)據(jù)保護(hù)而產(chǎn)生虛假的自滿情緒。

“企業(yè)內(nèi)部由不同團(tuán)隊負(fù)責(zé)韌性和合規(guī)導(dǎo)向的安全工作，導(dǎo)致協(xié)調(diào)不足，” 福雷斯特研究公司（Forrester Research Inc.）首席分析師布倫特?埃利斯（Brent Ellis）說，“人們認(rèn)為自己做好的準(zhǔn)備與實際準(zhǔn)備情況之間存在脫節(jié)。”

福雷斯特公司埃利斯：“人們認(rèn)為自己做好的準(zhǔn)備與實際準(zhǔn)備情況之間存在脫節(jié)。”

此外還有技術(shù)因素。人工智能模型的行為與傳統(tǒng)軟件有著本質(zhì)區(qū)別，帶來了傳統(tǒng)數(shù)據(jù)保護(hù)措施無法完全解決的復(fù)雜性。

傳統(tǒng)軟件是確定性的，意味著它遵循預(yù)定義規(guī)則，確保相同的輸入始終產(chǎn)生相同的輸出。而人工智能模型是概率性的，它們利用統(tǒng)計或習(xí)得的估算過程，從訓(xùn)練數(shù)據(jù)的模式中推斷出合理的輸出。

“對于解釋性或生成式人工智能，你是在讓引擎開始‘思考’，這會使其突破限制，以前所未有的方式整合內(nèi)部和外部數(shù)據(jù)源，” 國際數(shù)據(jù)公司（International Data Corp.）全球基礎(chǔ)設(shè)施研究集團(tuán)副總裁兼總經(jīng)理阿希什?納德卡尼（Ashish Nadkarni）說。

概率性模型無法保證每次都產(chǎn)生相同的結(jié)果。確定性系統(tǒng)會通過生成錯誤來明確表示故障，而人工智能系統(tǒng)則會通過輸出看似可信但實際錯誤的結(jié)果來 “靜默故障”。

偏離目標(biāo)

缺失或損壞的數(shù)據(jù)可能導(dǎo)致模型做出看似合理但實際上完全偏離目標(biāo)的決策或建議。在大型語言模型中，這些錯誤表現(xiàn)為 “幻覺”—— 盡管經(jīng)過多年研究試圖將其最小化，但在許多最受歡迎的聊天引擎中，“幻覺” 發(fā)生率仍高達(dá) 20%。

從最近一次網(wǎng)絡(luò)攻擊中完全恢復(fù)所需的時間

（無具體數(shù)據(jù)占比）

• 1 天內(nèi)

• 2-7 天

• 8-15 天

• 16-30 天

• 超過 30 天

錯誤仍然令人沮喪地普遍存在。文檔處理平臺提供商 Parseur Pte. Ltd. 上月對 500 名美國高管進(jìn)行的調(diào)查發(fā)現(xiàn)，盡管 88% 的受訪者表示對其分析和人工智能系統(tǒng)所依賴數(shù)據(jù)的準(zhǔn)確性非常有信心或比較有信心，但同樣有 88% 的受訪者表示至少有時會發(fā)現(xiàn)源自文檔的數(shù)據(jù)存在錯誤，69% 的受訪者表示錯誤經(jīng)?；蚍浅ｎl繁地發(fā)生。

智能體網(wǎng)絡(luò)會呈指數(shù)級放大錯誤?！耙粋€上游數(shù)據(jù)問題會引發(fā)連鎖故障，”Countly 公司的索納說，“如果沒有清晰的數(shù)據(jù)溯源和完整性保障，就無法判斷是模型出錯、數(shù)據(jù)出錯，還是系統(tǒng)狀態(tài)本身不一致。”

更多關(guān)于數(shù)據(jù)韌性與人工智能的內(nèi)容：

• 企業(yè)必須將數(shù)據(jù)韌性視為核心人工智能服務(wù)層。

• 人工智能驅(qū)動的預(yù)測分析可保護(hù)企業(yè)存儲免受日益嚴(yán)重的安全威脅。

• 人工智能驅(qū)動的自動化和托管檢測服務(wù)如何改變網(wǎng)絡(luò)韌性。

• 攻擊終將發(fā)生；最佳策略是保護(hù)備份，并通過評估指導(dǎo)數(shù)據(jù)韌性改進(jìn)。

有多種方法可以審計模型性能以防范異常，但需要檢查輸入數(shù)據(jù)并跟蹤模型的推理過程。丟失或受損的數(shù)據(jù)會使此類故障排除工作無法進(jìn)行。

“技術(shù)棧深處某個庫的變更可能毫無影響，也可能導(dǎo)致你突然得到完全不同的答案，盡管表面上看起來沒有任何變化，” 第一資本金融公司（Capital One Financial Corp.）機(jī)器學(xué)習(xí)工程副總裁米里亞姆?弗里德爾（Miriam Friedel）說。她表示，可觀測性、日志記錄和自動掃描支持診斷此類問題所需的取證分析。

數(shù)據(jù)過載

人工智能還帶來了新的數(shù)據(jù)類別。訓(xùn)練數(shù)據(jù)為復(fù)雜模型提供了學(xué)習(xí)所需的現(xiàn)實世界背景，通常是非結(jié)構(gòu)化的，且體量龐大，使得分類和傳統(tǒng)數(shù)據(jù)保護(hù)措施難以實施。企業(yè)很容易對訓(xùn)練數(shù)據(jù)采取 “全盤納入” 的策略，將所有數(shù)據(jù)加載到模型中，讓模型自行整理。 

第一資本金融公司弗里德爾：即使 “表面上看起來沒有任何變化”，你也可能得到 “完全不同的答案”。 

但這可能會引發(fā)網(wǎng)絡(luò)安全災(zāi)難?！叭绻阌幸粋€數(shù)據(jù)庫，你知道其中包含什么數(shù)據(jù)；如果你有一個企業(yè)資源規(guī)劃（ERP）應(yīng)用，你知道它只會獲取與其相關(guān)的數(shù)據(jù)，”IDC 的納德卡尼說，“而人工智能會導(dǎo)致企業(yè)內(nèi)部和外部的數(shù)據(jù)蔓延。人們往往沒有完全意識到這種蔓延的規(guī)模，也不清楚可能有哪些惡意行為者試圖破壞數(shù)據(jù)?！?/p>

提示詞和推理數(shù)據(jù)需要記錄在上下文日志中，這些日志會記錄模型做出決策時所依據(jù)的信息。在涉及安全、問責(zé)制和可恢復(fù)性的場景中，這些記錄至關(guān)重要。

推理數(shù)據(jù)是模型用于做出決策的數(shù)據(jù)，其獨特挑戰(zhàn)在于，在第三方或云環(huán)境中使用時難以對其進(jìn)行保護(hù)。推理數(shù)據(jù)至關(guān)重要，因為它為持續(xù)訓(xùn)練提供支持、可能向外暴露，并且可能觸發(fā)自動化工作流。盡管存在這些風(fēng)險，許多企業(yè)仍不愿費心對推理數(shù)據(jù)進(jìn)行分類，導(dǎo)致其難以得到有效保護(hù)。

“推理輸出很少被視為一等數(shù)據(jù)，”Countly 公司的索納說，“一旦觸發(fā)操作，就無法重現(xiàn)過程。人工智能生成的數(shù)據(jù)需要像源數(shù)據(jù)一樣進(jìn)行治理，而不應(yīng)被視為日志或無用數(shù)據(jù)?！?/p>

“人們對生成式數(shù)據(jù)缺乏重視，因為它是多種輸入數(shù)據(jù)的匯總，”NetApp Inc. 數(shù)據(jù)服務(wù)高級副總裁兼總經(jīng)理加根?古拉蒂（Gagan Gulati）說，“原始數(shù)據(jù)的使用通常有相關(guān)規(guī)則和法規(guī)約束，而生成式數(shù)據(jù)通常沒有?！?/p>

如果生成式數(shù)據(jù)會憑空消失，那倒不成問題，但它往往會留存下來。如果沒有適當(dāng)?shù)目刂拼胧?，人工智能模型可能會記住之前的交互，并將其納入短期記憶。這種遞歸輸出會放大錯誤并引入新的漏洞。

個人身份信息（PII）問題

例如，用戶在提示詞中包含個人身份信息后，可能會在數(shù)天后的響應(yīng)中看到這些數(shù)據(jù)。如果沒有適當(dāng)?shù)姆雷o(hù)措施，提示詞數(shù)據(jù)甚至可能成為模型訓(xùn)練集的一部分，并以不可預(yù)測的方式再次出現(xiàn)。

 NetApp 公司古拉蒂：“原始數(shù)據(jù)的使用通常有相關(guān)規(guī)則約束，而生成式數(shù)據(jù)通常沒有?！?/strong>

 人工智能在數(shù)據(jù)訪問管理方面也帶來了新的挑戰(zhàn)，這是韌性的關(guān)鍵組成部分。企業(yè)不愿使用生產(chǎn)數(shù)據(jù)訓(xùn)練模型，因此會制作副本。“這就產(chǎn)生了數(shù)據(jù)溯源問題，”NetApp 的古拉蒂說，“數(shù)據(jù)集離開了安全邊界，但所有相同的保護(hù)規(guī)則都必須適用。”

身份管理公司 Saviynt Inc. 的現(xiàn)場首席技術(shù)官大衛(wèi)?李（David Lee）表示，智能體在數(shù)據(jù)分類和訪問控制方面帶來了新的挑戰(zhàn)。權(quán)限薄弱、權(quán)限過于寬泛和廢棄賬戶都會破壞數(shù)據(jù)韌性，因為所有人工智能系統(tǒng)最終都通過與人相同的身份架構(gòu)訪問數(shù)據(jù)。

他說，企業(yè)需要細(xì)粒度的授權(quán)層，以確保智能體不會訪問其不需要的敏感信息。然而，由于人工智能是一項新興技術(shù)，此類控制措施往往尚未到位。

根據(jù) Saviynt 近期發(fā)布的《人工智能風(fēng)險報告》，在 235 名安全領(lǐng)導(dǎo)者中，71% 的人表示人工智能工具已經(jīng)在訪問核心運營系統(tǒng)，但僅有 16% 的人認(rèn)為他們對這種訪問的治理是有效的。超過 90% 的人表示，他們無法完全掌握人工智能身份，也無法檢測或遏制可能發(fā)生的濫用行為。

“復(fù)雜之處在于，當(dāng)存在委托模型（即人工智能智能體調(diào)用擁有自身權(quán)限的子智能體）時，” 李說，“幾乎不可能看清各個部分之間的關(guān)聯(lián)、已設(shè)置的權(quán)限以及誰在授予何種訪問權(quán)限?！?/p>

智能體通過整合多個來源生成新型數(shù)據(jù)的能力，給數(shù)據(jù)分類帶來了問題 —— 而數(shù)據(jù)分類是訪問管理的必要組成部分。

“假設(shè)我有被歸類為機(jī)密的數(shù)據(jù)，還有其他被歸類為個人身份信息的數(shù)據(jù)，” 李說，“我的智能體將這些數(shù)據(jù)整合在一起生成了一份報告?，F(xiàn)在產(chǎn)生了新的數(shù)據(jù)，該如何對其進(jìn)行分類？”

數(shù)據(jù)分類是一項緩慢而艱巨的任務(wù)，許多企業(yè)多年前就已放棄或簡化了這一工作，但李認(rèn)為這種規(guī)范正重新受到重視?！拔覀冃枰环N三層方法，圍繞數(shù)據(jù)本身、有權(quán)訪問數(shù)據(jù)的人員以及他們想要對數(shù)據(jù)執(zhí)行的操作來構(gòu)建，” 他說，“如今的系統(tǒng)并非為此設(shè)計。”

為人工智能做好準(zhǔn)備

這些因素共同凸顯了企業(yè)在將人工智能模型從試點推向生產(chǎn)時，必須將數(shù)據(jù)韌性置于優(yōu)先地位。大多數(shù)觀點認(rèn)為，企業(yè)還有很長的路要走。CData Software Inc. 近期對軟件提供商和企業(yè)中負(fù)責(zé)人工智能項目的 200 人進(jìn)行的調(diào)查發(fā)現(xiàn)，僅有 6% 的人表示其數(shù)據(jù)基礎(chǔ)設(shè)施已完全為人工智能做好準(zhǔn)備。

Saviynt 公司李：智能體委托可能導(dǎo)致 “無法看清各個部分之間的關(guān)聯(lián)”。

“對于許多企業(yè)而言，人工智能仍然是一個黑箱，這也是高管們不愿信任它的主要原因，” 軟件交付平臺公司 Digital.ai Software Inc. 的產(chǎn)品總監(jiān)丹尼爾?舒格魯（Daniel Shugrue）說，“企業(yè)在人工智能規(guī)?；瘧?yīng)用方面遇到的障礙不在于模型，而在于他們不信任為人工智能提供數(shù)據(jù)、轉(zhuǎn)換數(shù)據(jù)并依據(jù)數(shù)據(jù)采取行動的系統(tǒng)?！?/p>

數(shù)據(jù)韌性專家倡導(dǎo)所謂的 “人工智能級可恢復(fù)性”，這包括了解使用了哪些數(shù)據(jù)、模型當(dāng)時處于何種狀態(tài)，以及確保流程可以重現(xiàn)或回滾的信心。

“韌性的一部分是，當(dāng)出現(xiàn)問題時，你能夠快速理解并追蹤問題所在以及如何修復(fù)，” 第一資本金融公司的弗里德爾說。

在人工智能時代確保數(shù)據(jù)韌性需要新的工具和技能組合：

• 不可變事件日志：系統(tǒng)事件的永久、防篡改記錄，確保每一項決策和數(shù)據(jù)變更都可追溯和審計。

• 版本化架構(gòu)：提供可隨時間跟蹤的結(jié)構(gòu)化數(shù)據(jù)定義。

• 端到端溯源分析：展示數(shù)據(jù)的來源、轉(zhuǎn)換方式及其對模型輸出的影響。

• 可重現(xiàn)管道：支持確定性流程重新執(zhí)行，以重現(xiàn)模型決策。

• 影響范圍隔離：控制錯誤輸出或操作的影響，防止故障連鎖反應(yīng)。

• 經(jīng)過測試的回滾程序：記錄在案的方法，可將模型、數(shù)據(jù)或系統(tǒng)狀態(tài)恢復(fù)到已知良好狀態(tài)，且不中斷業(yè)務(wù)。

• 數(shù)據(jù)留存政策：確保刪除冗余、過時和無關(guān)緊要的數(shù)據(jù)，而非將其歸檔（以免帶來污染風(fēng)險）。

企業(yè)人工智能的成功，最終較少依賴新穎的模型架構(gòu)，而更多依賴于網(wǎng)絡(luò)韌性、數(shù)據(jù)保護(hù)和運營嚴(yán)謹(jǐn)性等不起眼的規(guī)范。能夠保證其人工智能模型所依賴數(shù)據(jù)穩(wěn)健性的企業(yè)，將更有能力將智能體系統(tǒng)規(guī)模化應(yīng)用于核心業(yè)務(wù)流程；而那些無法做到這一點的企業(yè)，將仍停留在試點和概念驗證階段。現(xiàn)在投資于具備韌性的數(shù)據(jù)基礎(chǔ)，是未來獲得可信結(jié)果的最清晰路徑。