人工智能有潛力引領(lǐng)一場(chǎng)新的工業(yè)革命，滲透到所有市場(chǎng)，這是我們以前從未見(jiàn)過(guò)的。為了實(shí)現(xiàn)這一目標(biāo)，我們必須能夠解決不同市場(chǎng)中人工智能工作負(fù)載的巨大差異。例如，對(duì)延遲的需求會(huì)根據(jù)應(yīng)用程序而變化。旨在幫助研究人員模擬蛋白質(zhì)的系統(tǒng)的響應(yīng)時(shí)間將與為在乘用車(chē)中運(yùn)行而構(gòu)建的系統(tǒng)所需的響應(yīng)時(shí)間不同。如此廣泛的計(jì)算需求意味著我們需要提供不止一種類(lèi)型的計(jì)算解決方案;每個(gè)都針對(duì)特定的市場(chǎng)需求進(jìn)行了優(yōu)化。對(duì)定制硅的需求不斷增長(zhǎng)，加上硅生產(chǎn)的成本和復(fù)雜性，正在推動(dòng)小芯片更廣泛采用的趨勢(shì)。

通過(guò)標(biāo)準(zhǔn)化和協(xié)作推進(jìn)小芯片生態(tài)系統(tǒng)

與單片芯片相比，重復(fù)使用專(zhuān)用小芯片來(lái)創(chuàng)建多個(gè)定制片上系統(tǒng) （SoC），可以以更低的總體設(shè)計(jì)成本提供具有更好性能和更低功耗的系統(tǒng)。然而，如果沒(méi)有全行業(yè)的標(biāo)準(zhǔn)和框架，芯片組的變化可能會(huì)導(dǎo)致兼容性問(wèn)題，最終減緩創(chuàng)新。為了解決這種碎片化問(wèn)題，Arm 去年推出了小芯片系統(tǒng)架構(gòu) （CSA）。CSA 提供了一套與生態(tài)系統(tǒng)共同開(kāi)發(fā)的系統(tǒng)分區(qū)和小芯片連接標(biāo)準(zhǔn)，使行業(yè)在構(gòu)建小芯片的基本選擇上保持一致。使用 CSA，可以放心地創(chuàng)建新的小芯片設(shè)計(jì)，因?yàn)樗鼈兛梢栽谌魏魏弦?guī)系統(tǒng)中進(jìn)行調(diào)整和重復(fù)使用，從而加快基于小芯片的系統(tǒng)創(chuàng)新，同時(shí)降低碎片化的風(fēng)險(xiǎn)。

CSA 的第一個(gè)公共規(guī)范現(xiàn)已推出，并得到 60 家領(lǐng)先參與者的支持

今天，我很高興與大家分享 CSA 的一個(gè)重要里程碑：第一個(gè)公開(kāi)規(guī)范現(xiàn)已發(fā)布。來(lái)自 60 多家公司的代表現(xiàn)在參與了 CSA，為多個(gè)細(xì)分市場(chǎng)的硅戰(zhàn)略標(biāo)準(zhǔn)做出貢獻(xiàn)并應(yīng)用這些標(biāo)準(zhǔn)。這些公司包括 ADTechnology、Alphawave Semi、AMI、Cadence、Jaguar Micro、Kalray、Rebellions、Siemens、Synopsys 等。

這些創(chuàng)新技術(shù)公司的廣泛參與構(gòu)成了基于 Arm 的小芯片生態(tài)系統(tǒng)的基礎(chǔ)，該生態(tài)系統(tǒng)將徹底改變系統(tǒng)設(shè)計(jì)，使 SoC 更加靈活、可訪問(wèn)和經(jīng)濟(jì)高效，同時(shí)降低碎片化風(fēng)險(xiǎn)。隨著公開(kāi)規(guī)范的發(fā)布，設(shè)計(jì)人員對(duì)如何定義小芯片并將其連接到可組合 SoC 中有了共同的理解，這些 SoC 可以解決 AI 工作負(fù)載的差異并確保芯片適合特定市場(chǎng)。

與 CSA 合作的幾家供應(yīng)商已經(jīng)在構(gòu)建解決方案，作為 Arm Total Design 的一部分，Arm Total Design 是一個(gè)致力于無(wú)摩擦交付由 Arm Neoverse 計(jì)算子系統(tǒng) （CSS） 提供支持的定制芯片的生態(tài)系統(tǒng)。迄今為止，Arm Total Design 在部署基于小芯片的計(jì)算子系統(tǒng)方面取得了成功，這些子系統(tǒng)支持特定市場(chǎng)的戰(zhàn)略，包括：

• 為不同市場(chǎng)定制 AI 工作負(fù)載： Alphawave Semi 的客戶(hù)需要高性能芯片來(lái)處理 AI 工作負(fù)載，包括網(wǎng)絡(luò)、邊緣計(jì)算、存儲(chǔ)和安全。通過(guò)將由 Arm Neoverse CSS 提供支持的小芯片與專(zhuān)有的 I/O 芯片相結(jié)合，Alphawave Semi 可以使用 AMBA CHI C2C 連接適合每個(gè)市場(chǎng)特定需求的加速器。針對(duì)特定市場(chǎng)的定制 SKU 源自標(biāo)準(zhǔn)基礎(chǔ)，可分?jǐn)傆?jì)算芯片的成本，同時(shí)保持構(gòu)建多個(gè)系統(tǒng)的靈活性。

• 徹底改變大規(guī)模 AI 訓(xùn)練和推理工作負(fù)載： ADTechnology、Samsung Foundry、Rebellions 和 Arm 結(jié)合技術(shù)創(chuàng)建了一個(gè) AI CPU 小芯片平臺(tái)，用于數(shù)據(jù)中心中大規(guī)模 AI 工作負(fù)載的訓(xùn)練和推理，估計(jì) GenAI 工作負(fù)載（Llama3.1 405B 參數(shù) LLM）具有 2-3 倍的效率優(yōu)勢(shì)。這個(gè)多供應(yīng)商小芯片平臺(tái)將 Rebellions 的 REBEL AI 加速器與使用 AMBA CHI C2C 互連的相干 NPU 相結(jié)合，并采用 ADTechnology 的 Neoverse CSS V3 驅(qū)動(dòng)的計(jì)算小芯片構(gòu)建，由于迄今為止與 CSA 一起完成的標(biāo)準(zhǔn)化工作，現(xiàn)在可以使用三星代工廠 2nm Gate-All-Around （GAA） 先進(jìn)工藝技術(shù)實(shí)現(xiàn)。

小芯片在定制芯片中的作用，以應(yīng)對(duì)不斷增長(zhǎng)的人工智能工作負(fù)載

這些只是 CSA 如何幫助解決從基礎(chǔ)設(shè)施到汽車(chē)和消費(fèi)技術(shù)等所有市場(chǎng)中由 AI 驅(qū)動(dòng)的各種工作負(fù)載的幾個(gè)例子。我們相信，基于 Arm 的小芯片生態(tài)系統(tǒng)具有獨(dú)特的優(yōu)勢(shì)，可以利用 Arm 計(jì)算平臺(tái)的靈活性、AMBA CHI C2C 等標(biāo)準(zhǔn)支持的無(wú)縫通信以及 CSA 支持的集成，應(yīng)對(duì)所有市場(chǎng)不斷增長(zhǎng)的 AI 需求挑戰(zhàn)。隨著圍繞 CSA 的生態(tài)系統(tǒng)不斷發(fā)展，我們?cè)跇?biāo)準(zhǔn)方面的合作以及我們作為一個(gè)行業(yè)可以產(chǎn)生的影響也在不斷發(fā)展，以顯著減少碎片化并加快定制芯片解決方案的開(kāi)發(fā)和部署。