人工智能正以遠(yuǎn)超監(jiān)管規(guī)則的速度滲透整個(gè)半導(dǎo)體生態(tài)，IP 盜竊、安全漏洞風(fēng)險(xiǎn)急劇上升，且缺乏有效防范手段。

從嵌入 EDA 流程的基礎(chǔ)模型，到影響設(shè)計(jì)、驗(yàn)證與物理實(shí)現(xiàn)的智能體系統(tǒng)，AI 正在重塑芯片開發(fā)方式與風(fēng)險(xiǎn)引入路徑。盡管業(yè)界普遍認(rèn)同 AI 治理的必要性，但現(xiàn)有舉措碎片化、解讀不統(tǒng)一、重意圖而輕可衡量結(jié)果。簡(jiǎn)單說：當(dāng)前治理嚴(yán)重不足，傳統(tǒng)監(jiān)管方式已落后，且難以追上創(chuàng)新步伐。

一、AI 治理：缺失的 “護(hù)欄”

Dana Neustadter（新思科技）：“AI 治理需要指導(dǎo)原則、法規(guī)、政策與框架流程，引導(dǎo)負(fù)責(zé)任的開發(fā)、部署與使用。如同汽車的功能安全與網(wǎng)絡(luò)安全，AI 系統(tǒng)需要保障數(shù)據(jù)安全、模型完整性、訪問控制與身份認(rèn)證，以此建立信任、倫理、問責(zé)與透明度?！?/p>

安全關(guān)鍵行業(yè)很可能成為首個(gè)可落地、可強(qiáng)制執(zhí)行的 AI 問責(zé)樣板，復(fù)制汽車、工業(yè)控制、航空航天與軍工領(lǐng)域的安全標(biāo)準(zhǔn)演進(jìn)路徑。

John Weil（Synaptics）：“半導(dǎo)體行業(yè)與生態(tài)伙伴幾十年里一直協(xié)同建立安全標(biāo)準(zhǔn)，從 90 年代軍工 / 航空安全，到汽車與工廠自動(dòng)化催生大量 ISO 規(guī)范。但在 AI 領(lǐng)域，我們至今沒有這套體系。如果有人說‘我要用 AI 做工業(yè)自動(dòng)化安全產(chǎn)品’，這兩個(gè)詞現(xiàn)在很難放在一起?！?/p>

二、定義用例：AI 治理的關(guān)鍵

專家普遍將 AI 分為兩類截然不同的用例：

1. 數(shù)據(jù)管理類

在網(wǎng)絡(luò)安全領(lǐng)域已相對(duì)成熟，例如殺毒軟件、安全運(yùn)營(yíng)中心（SOC）已大量由 AI 驅(qū)動(dòng)。面對(duì)海量數(shù)據(jù)與關(guān)聯(lián)復(fù)雜度，人類分析師已無法處理，AI 負(fù)責(zé)第一層內(nèi)容與元數(shù)據(jù)分析。

但這里存在重大治理問題：

Sylvain Guilley（Secure-IC/Cadence）：“SOC 運(yùn)營(yíng)者并不真正擁有數(shù)據(jù)，只是監(jiān)控。如果數(shù)據(jù)包含敏感機(jī)密信息，治理必須確保 AI 不會(huì)導(dǎo)致信息損壞、泄露或被攻擊。依賴 SaaS 等外部服務(wù)商時(shí)，數(shù)據(jù)所有者與分析者不一致，風(fēng)險(xiǎn)極高。”

2. 代碼 / 硬件生成與驗(yàn)證類

更大的風(fēng)險(xiǎn)來自AI 生成知識(shí)產(chǎn)權(quán)。

“這里存在灰色地帶：輸出歸誰(shuí)所有取決于大模型的授權(quán)協(xié)議、訓(xùn)練數(shù)據(jù)來源、出口管制規(guī)則。我在法國(guó)使用國(guó)外工具，廠商說我擁有輸出結(jié)果，但數(shù)據(jù)可能已流向其他國(guó)家，目前沒有更強(qiáng)的法律依據(jù)?！?/p>

三、IP 安全風(fēng)險(xiǎn)空前嚴(yán)峻

基礎(chǔ)模型與 AI 智能體在全行業(yè)普及，帶來遠(yuǎn)超表面的深層風(fēng)險(xiǎn)。

Alexander Petr（是德科技 EDA）：“IP 安全是我最大擔(dān)憂。所有人都想極速推進(jìn)，有意或無意泄露 IP 的風(fēng)險(xiǎn)極高。大家對(duì)自家 IP 非常謹(jǐn)慎嚴(yán)格，但對(duì)他人 IP 卻沒有同等嚴(yán)謹(jǐn)性。”

例如，客戶要構(gòu)建 AI 智能體流程，需要來自晶圓廠的信息，這些信息過去受 NDA 保密協(xié)議約束。

“現(xiàn)有 NDA 完全沒有說明如何在 AI 化過程中處理晶圓廠 IP。所有晶圓廠都在糾結(jié)：PDK 能否輸入基礎(chǔ)模型？目前沒有法律先例，所有討論最終都卡在 NDA 上，除此之外沒人有答案?！?/p>

設(shè)計(jì)公司從晶圓廠獲取 PDK / 庫(kù)文件輸入大模型，從 EDA 廠商獲取工具受用戶授權(quán)協(xié)議（ULA）約束。但現(xiàn)有 ULA 幾乎不涉及 AI，只簡(jiǎn)單提到反向工程。

“用戶把兩邊信息都喂給大模型以求自動(dòng)化與智能體能力。他們認(rèn)為只要本地部署、做好安全就沒問題。但我們能指望他們妥善保護(hù) IP 嗎？能確保配置不會(huì)泄露回基礎(chǔ)模型嗎？還是遲早會(huì)因?yàn)椴划?dāng)操作導(dǎo)致我們的信息進(jìn)入模型？”

芯片架構(gòu)師必須在鼓勵(lì)創(chuàng)新與強(qiáng)制安全之間艱難權(quán)衡，需要可適配的行業(yè)標(biāo)準(zhǔn)與法律框架，確保在日益復(fù)雜的芯片設(shè)計(jì)中負(fù)責(zé)任地融合 AI。

四、AI 加劇軟件開發(fā)壓力

AI 工具讓編碼、測(cè)試、部署速度大幅提升，但也帶來質(zhì)量、可解釋性與安全隱患。開發(fā)者可能在不完全理解含義與漏洞的情況下直接使用 AI 生成結(jié)果。

Jason Oberg（Arteris）：“在傳統(tǒng)軟件開發(fā)中，大模型生成代碼已非常普遍，生成 RTL、Verilog、VHDL、測(cè)試平臺(tái)的情況也在增多，但不如 JS、C 語(yǔ)言普及。芯片設(shè)計(jì)的測(cè)試與驗(yàn)證原本非常嚴(yán)格，因?yàn)橛布o法打補(bǔ)丁。但現(xiàn)在出現(xiàn)問題：用 AI 生成設(shè)計(jì)，再用 AI 生成測(cè)試，測(cè)試通過就認(rèn)為沒問題，這其中存在巨大隱患。驗(yàn)證團(tuán)隊(duì)與設(shè)計(jì)團(tuán)隊(duì)如果只追求快 10 倍交付，會(huì)傾向跳過嚴(yán)謹(jǐn)校驗(yàn)?！?/p>

五、主要 AI 治理法規(guī) / 標(biāo)準(zhǔn)一覽

六、AI 治理應(yīng)由政府強(qiáng)制推行嗎？

Neustadter（新思科技）：“強(qiáng)制要求與責(zé)任界定能讓合規(guī)變得必要，但即使歐盟 AI 法案這類強(qiáng)制規(guī)則，依然存在明顯缺失。當(dāng)前大多數(shù)系統(tǒng)無法在運(yùn)行中主動(dòng)發(fā)現(xiàn)問題、快速定位故障、界定責(zé)任、防止復(fù)發(fā)。”

補(bǔ)上這層 “缺失的運(yùn)行時(shí)保障”，需要持續(xù)監(jiān)控、事件上報(bào)、明確性能閾值。同時(shí)全球法規(guī)互不兼容，缺乏統(tǒng)一標(biāo)準(zhǔn)，是 AI 治理最緊迫的缺口。

Mike Eftimakis（CHERI Alliance）：“我們?cè)诓活櫤蠊?rushed AI 上市。市場(chǎng)只會(huì)獎(jiǎng)勵(lì)先發(fā)者與快速創(chuàng)新者，無法自行解決問題，唯一途徑是監(jiān)管。但這不是一國(guó)問題，是全球問題。而政府立法永遠(yuǎn)比技術(shù)慢得多。”

Guilley（Secure-IC）：“需要全行業(yè)統(tǒng)一強(qiáng)制治理規(guī)則，否則連定義都無法對(duì)齊。AI 讓情況更復(fù)雜，數(shù)據(jù)與算法混合、互相訓(xùn)練、形成反饋環(huán)，失控風(fēng)險(xiǎn)極高?！?/p>

行業(yè)普遍認(rèn)為：政府很難主導(dǎo)制定標(biāo)準(zhǔn)，因?yàn)榧夹g(shù)變化太快，監(jiān)管機(jī)構(gòu)缺乏嵌入式與底層技術(shù)理解。最可能的路徑是復(fù)制汽車行業(yè)模式：產(chǎn)業(yè)先形成實(shí)踐，政府再進(jìn)行評(píng)測(cè)與認(rèn)可。

Weil（Synaptics）：“最先出現(xiàn)監(jiān)管的領(lǐng)域一定是汽車 + AI，而不是政府憑空制定。政府只會(huì)事后度量。”

Petr（是德科技）：“監(jiān)管太慢、解釋太寬、可能過于嚴(yán)苛扼殺速度。等標(biāo)準(zhǔn)出臺(tái)時(shí)已經(jīng)過時(shí)。我們現(xiàn)在只剩下盲目樂觀與僥幸心理?！?/p>

七、結(jié)論

AI 治理包含可執(zhí)行問責(zé)、運(yùn)行時(shí)保障、IP 與數(shù)據(jù)保護(hù)、人工監(jiān)督、可解釋性、結(jié)果導(dǎo)向控制，這些將率先在安全關(guān)鍵行業(yè)落地，再逐步普及為通用規(guī)范。

Guilley：“大模型天生具有非確定性，每次回答都可能不同，難以保證一致結(jié)果，給預(yù)測(cè)性帶來巨大挑戰(zhàn)?！?/p>

真正管控 AI，必須從設(shè)定明確要求開始，引導(dǎo)市場(chǎng)落地標(biāo)準(zhǔn)。

AI 治理不應(yīng)阻礙創(chuàng)新，目標(biāo)是確保強(qiáng)大的 AI 系統(tǒng)實(shí)時(shí)可信、負(fù)責(zé)行事、保護(hù)關(guān)鍵資產(chǎn)、失效時(shí)安全可控。