石頭剪刀布常常是心理、反向心理學(xué)、反向反向心理和運(yùn)氣的游戲。但如果電腦能足夠理解你，每次都能贏呢？北海道大學(xué)和以磁帶聞名的TDK公司（均位于日本）的團(tuán)隊(duì)設(shè)計(jì)了一款能夠?qū)崿F(xiàn)這一功能的芯片。

好吧，芯片不會讀你的心思。它使用放置在拇指上的加速度傳感器來測量你的動作，最終確定哪些動作代表紙、剪刀或石頭。令人驚訝的是，一旦芯片訓(xùn)練好你的具體手勢，就能計(jì)算你在說“shoot”的時間內(nèi)會做什么，從而實(shí)時擊敗你。

這一壯舉背后的技術(shù)稱為儲層計(jì)算，這是一種利用復(fù)雜動力系統(tǒng)從時間序列數(shù)據(jù)中提取有意義特征的機(jī)器學(xué)習(xí)方法。儲層計(jì)算的概念可以追溯到1990年代。隨著人工智能的發(fā)展，由于儲量計(jì)算相對低功耗且具備快速訓(xùn)練和推理的潛力，人們重新受到關(guān)注。

TDK部門主管兼高級經(jīng)理佐佐木奉幸表示，研究團(tuán)隊(duì)將功耗視為目標(biāo)?！暗诙€目標(biāo)是延遲問題。對于邊緣人工智能來說，延遲是一個巨大的問題?！?/p>

為了最大限度地降低設(shè)備的能量和延遲，團(tuán)隊(duì)開發(fā)了一種模擬儲量計(jì)算電路的CMOS硬件實(shí)現(xiàn)。團(tuán)隊(duì)于十月在日本千葉舉行的先進(jìn)技術(shù)聯(lián)合展會上展示了他們的演示，并計(jì)劃本周在圣地亞哥的國際重啟計(jì)算大會上發(fā)表論文。

什么是儲層計(jì)算？

儲量計(jì)算機(jī)最好通過與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)形成對比來理解，后者是當(dāng)今人工智能的基本架構(gòu)。

神經(jīng)網(wǎng)絡(luò)由人工神經(jīng)元組成，按層排列。每一層都可以看作一列神經(jīng)元，列中的每個神經(jīng)元通過加權(quán)人工突觸連接到下一列的所有神經(jīng)元。數(shù)據(jù)進(jìn)入第一列，從左向右一層傳遞，直到最后一列。

訓(xùn)練過程中，最終層的輸出與正確答案進(jìn)行比較，利用這些信息調(diào)整所有突觸的權(quán)重，這次是逐層倒推，這一過程稱為反向傳播。

這種設(shè)置有兩個重要特點(diǎn)。首先，數(shù)據(jù)只能向前傳播。沒有環(huán)形結(jié)構(gòu)。其次，連接任意一對神經(jīng)元的所有配重在訓(xùn)練過程中都會被調(diào)整。這種架構(gòu)被證明極為有效且靈活，但成本也較高;調(diào)整有時耗費(fèi)數(shù)十億個砝碼既耗時又耗費(fèi)精力。

儲層計(jì)算同樣由人工神經(jīng)元和突觸構(gòu)建，但它們的排列方式根本不同。首先，沒有層次——神經(jīng)元之間以復(fù)雜的網(wǎng)絡(luò)狀連接，充滿了許多環(huán)路。這為網(wǎng)絡(luò)注入了一種存儲器，使特定輸入能夠不斷返回。

其次，油藏內(nèi)部的連接是固定的。數(shù)據(jù)進(jìn)入儲層，穿過其復(fù)雜結(jié)構(gòu)，然后通過一組最終突觸連接到輸出。只有最后一組突觸及其重量在訓(xùn)練中會被調(diào)整。這種方法大大簡化了訓(xùn)練過程，完全消除了反向傳播的需求。

鑒于儲層是固定的，且唯一訓(xùn)練的部分是從儲層到目標(biāo)輸出的最終“平移”層，這些網(wǎng)絡(luò)能有用似乎簡直是個奇跡。然而，對于某些任務(wù)，它們已被證明非常有效。

加州大學(xué)圣塔芭芭拉分校計(jì)算機(jī)科學(xué)助理教授Sanjukta Krishnagopal表示：“它們絕不是機(jī)器學(xué)習(xí)工具箱中最優(yōu)的通用模型，他并未參與這項(xiàng)工作。但對于預(yù)測行為混亂的事物的時間演變，比如天氣，它們是合適的工具?！斑@正是儲量計(jì)算的精彩所在?！?/p>

原因是水庫本身有些混亂。“你的水庫通常處于所謂的混沌邊緣，這意味著它可以用非常小的神經(jīng)網(wǎng)絡(luò)簡單地代表大量可能的狀態(tài)，”克里希納戈帕爾說。

物理儲量計(jì)算機(jī)

水庫內(nèi)部的人工突觸是固定的，不需要進(jìn)行逆向傳播。這給水庫的實(shí)現(xiàn)留下了很大自由度。為了建造物理水庫，人們使用了各種介質(zhì)，包括光、微電系統(tǒng)設(shè)備，以及我個人最喜歡的“水桶”。

然而，北海道和TDK團(tuán)隊(duì)希望打造一款兼容CMOS的芯片，用于邊緣設(shè)備。為了實(shí)現(xiàn)人工神經(jīng)元，團(tuán)隊(duì)設(shè)計(jì)了一個模擬電路節(jié)點(diǎn)。每個節(jié)點(diǎn)由三個組件組成：一個非線性電阻、基于MOS電容的存儲元件和一個緩沖放大器。他們的芯片由四個核心組成，每個核心由121個此類節(jié)點(diǎn)組成。

將節(jié)點(diǎn)以復(fù)雜的循環(huán)模式連接起來非常困難。為了降低復(fù)雜性，團(tuán)隊(duì)決定采用所謂的簡單循環(huán)水庫，所有節(jié)點(diǎn)連接成一個大環(huán)路。先前研究表明，即使是這種相對簡單的構(gòu)型，也能模擬各種復(fù)雜動力學(xué)。

作者表示，團(tuán)隊(duì)利用該設(shè)計(jì)制造出每核僅耗20微瓦功耗，總功耗80微瓦的芯片——遠(yuǎn)低于其他兼容CMOS的物理儲量計(jì)算設(shè)計(jì)。

預(yù)測未來

除了在石頭剪刀布上擊敗人類外，儲量計(jì)算芯片還能預(yù)測時間序列中許多不同領(lǐng)域的下一步?！叭绻裉彀l(fā)生的事情受到昨天的數(shù)據(jù)或其他過去數(shù)據(jù)的影響，它可以預(yù)測結(jié)果，”佐佐木說。

團(tuán)隊(duì)在多項(xiàng)任務(wù)中展示了芯片的能力，包括預(yù)測一個著名的混沌系統(tǒng)——物流地圖的行為。團(tuán)隊(duì)還在現(xiàn)實(shí)中典型的混亂例子中使用了該裝置：天氣。在這兩個測試案例中，芯片都能以驚人的準(zhǔn)確度預(yù)測下一步。

然而，預(yù)測的精確度并不是主要賣點(diǎn)。該芯片極低功耗和低延遲，有望開啟一系列新的應(yīng)用，如可穿戴設(shè)備及其他邊緣設(shè)備的實(shí)時學(xué)習(xí)。

“我認(rèn)為預(yù)測實(shí)際上和現(xiàn)有技術(shù)是一樣的，”佐佐木說?！安贿^，功耗和作速度可能比現(xiàn)有AI快10倍。這是個很大的差距?！?/p>