早在1956年，Allen Newell、Cliff Shaw和Herbert Simon合力制作了一個名為「邏輯理論家（The Logic Theorist）」的計算機程序。該程序由RAND Corporation資助開發(fā)，旨在模仿人類解決問題的技能，許多人認為它是人工智能（AI）的第一個范例。
時至今日，大語言模型（Large Language Model；LLM）已成為人工智能的代言人。LLM是一種計算算法，通過密集訓練來學習文本（TEXT）文檔中的統(tǒng)計關系，從而實現(xiàn)通用語言生成和其他自然語言處理任務，OpenAI的ChatGPT可能是最知名的示例。
盡管LLM非常有用，但它只是人工智能其中一個小眾應用；相比之下，把自動化系統(tǒng)收集的大量數(shù)據(jù)提供予機器學習（Machine Learning；ML）算法更加大有作為。ML是人工智能的一種應用，允許計算機在沒有直接程序設計或指令的情況下進行學習，從而不斷提高機器的智能。
全球互聯(lián)的物聯(lián)網(wǎng)能夠讓人們收集幾乎無限量數(shù)據(jù)，這些數(shù)據(jù)不僅可以提供給云端的計算機，還可以用來促進ML算法，從而為物聯(lián)網(wǎng)內數(shù)十億聯(lián)網(wǎng)設備提高智慧。這意味著，即使是最普通的物聯(lián)網(wǎng)設備也能不斷提升智慧，為未來的工業(yè)、商業(yè)、教育、醫(yī)療等領域帶來巨大潛力。
就拿最不起眼的冰箱來說吧，全世界有數(shù)十億臺冰箱，占全球總耗電量的12%。通過不斷向ML模型提供外部和內部溫度數(shù)據(jù)、柜內存放食物的數(shù)量、柜門打開的頻率，以及電網(wǎng)負荷較低時段等高級資料，智能冰箱壓縮機控制器可以快速適應使用模式，以減省能源使用和碳排放，這是非常美好的愿景。目前的挑戰(zhàn)在于如何將硬件和軟件結合起來以實現(xiàn)無縫運行。

 
圖一 : 通過不斷向ML模型提供各種數(shù)據(jù)，智能冰箱壓縮機控制器可以快速適應使用模式，以減省能源使用和碳排放。

向邊緣發(fā)展
1999年，當Kevin Ashton提出「物聯(lián)網(wǎng)（the Internet of Things）」一詞時，他對網(wǎng)絡的設想與今天的物聯(lián)網(wǎng)略有不同。Ashton預測數(shù)十億個廉價、小巧的傳感器將其數(shù)據(jù)傳送到功能強大的集中式計算資源，并進行繁重的計算操作。Ashton的預測很有遠見，但也有失算之處：通過網(wǎng)絡從許多設備發(fā)送連續(xù)數(shù)據(jù)是復雜、耗能且費用昂貴的事情。
如今，我們通過將物聯(lián)網(wǎng)的智慧分配到邊緣，最大限度地減少了網(wǎng)絡流量。因為當代物聯(lián)網(wǎng)設備的資源雖然難與云端計算機相比，但也已經能夠獨當一面，配備了專用應用處理器和充足的內存資源。這使得物聯(lián)網(wǎng)能夠支持廣泛分布的計算資源，其中的單個設備均能夠進行重要的邊緣處理。
在最基本的層面上，邊緣處理可讓物聯(lián)網(wǎng)設備對數(shù)據(jù)進行本地篩選，以確定哪些數(shù)據(jù)是不值一提，哪些數(shù)據(jù)則顯示情況正在發(fā)生變化并應當轉發(fā)做進一步分析。ML使得邊緣設備不僅能檢查數(shù)據(jù)是否超過默認閾值，還能推斷出變化的含義，然后采取相應措施。
Nordic Semiconductor戰(zhàn)略與產品管理執(zhí)行副總裁Kjetil Holstad表示：「我們將這項全新功能稱為邊緣人工智能（Edge AI），它為物聯(lián)網(wǎng)產品帶來了一些關鍵優(yōu)勢：可在本地實時處理輸入，因此無需使用帶寬通過無線鏈路發(fā)送原始數(shù)據(jù)，同時不會浪費時間等待云端的響應。其次，本地處理相比空中發(fā)送數(shù)據(jù)耗電更少，因而物聯(lián)網(wǎng)設備可以運行更長時間或使用更小的電池。」
監(jiān)測機器軸承的溫度傳感器就是此類功能的示例。如果軸承溫度逐漸升高，該傳感器可以使用ML模型來推斷這僅僅是機器在預熱，無需擔心；若軸承溫度快速上升，則可能顯示潤滑出現(xiàn)故障，并觸發(fā)傳感器在發(fā)生損壞前關閉機器。
咨詢公司德勤在「預測性維護（Predictive Maintenance）」定位檔中表示：「數(shù)據(jù)是任何預測性維護引擎的動力。其質素和數(shù)量是分析根本原因和提前預測故障的限制因素。物聯(lián)網(wǎng)提供了大量精確數(shù)據(jù)，并與邊緣人工智能一起為預測性維護領域帶來了巨大的經濟潛力?！?
德勤公司指出，每年非計劃性機器停機給工業(yè)制造商造成的損失估計高達500 億美元；實施預測性維護，每年平均可節(jié)省材料成本5%至10%；設備正常運行時間可延長10%至20%；總體維護成本可降低5%至10%；維護規(guī)劃時間可縮短 20%至50%。

 
圖二 : 通過在設備中添加邊緣人工智能，監(jiān)測機器軸承的溫度傳感器可以使用ML模型來推斷機器預熱的狀況。

工程技術挑戰(zhàn)
利用人工智能和ML增強物聯(lián)網(wǎng)確實好處多多，但大規(guī)模實施這種技術卻充滿挑戰(zhàn)。當今許多先進的ML模型都需要大量的計算資源和功耗來執(zhí)行推理（運行 ML模型并根據(jù)輸入的數(shù)據(jù)做出決策）。然而，當今大量的物聯(lián)網(wǎng)連接設備雖然能夠執(zhí)行一些邊緣計算，但卻缺乏人工智能和ML所需的資源。
Tiny Machine Learning或TinyML是一種解決方案。TinyML是ML的一個分支，它簡化了ML技術，使其適用于電池供電、基于微控制器的嵌入式設備。TinyML使得小型物聯(lián)網(wǎng)傳感器能夠以實時響應速度執(zhí)行ML任務。
TinyML使得當今的無線SoC能夠支持ML，而未來的新一代硬件將能夠運行更先進的ML程序。Nordic Semiconductor投入了數(shù)百萬美元經費進行研究，將這類硬件推向市場。
「我們設計了能夠以優(yōu)化方式運行ML的低功耗SoC，不需要專用的ML加速器。關鍵在于將創(chuàng)新工程與最大數(shù)據(jù)處理能力和最小功耗相結合。」Holstad表示：「隨著物聯(lián)網(wǎng)中人工智能和ML不斷發(fā)展，對其提出的要求也會越來越高；這可能意味著未來超低功耗嵌入式設備將配備專用ML加速器內核。但現(xiàn)在，我們的高效SoC和SiP展示優(yōu)化的力量，毋須加速器也可實現(xiàn)先進的ML?！?br/>他以Nordic雙核nRF5340和新型第五代無線SoC產品nRF54H20為例，這些 SoC采用Edge Impulse的TinyML軟件。Holstad解釋道：「憑借nRF53和nRF54系列，Nordic成功地打破了處理能力和功耗之間的折衷權衡。這意味著開發(fā)人員可以立即獲得在電池供電SoC上支持高級ML所需的高處理能力和低功耗特性。Nordic還提供開展ML項目所需的全部開發(fā)工具和軟件?！?br/>
ML大放異彩
盡管面臨嚴峻的工程技術挑戰(zhàn)，但開發(fā)人員已經開始將帶有ML的物聯(lián)網(wǎng)產品引入商業(yè)領域。挪威公司Sensorita就是一個示例，該公司推出的智慧廢物管理解決方案基于Nordic公司nRF9160 SiP蜂巢物聯(lián)網(wǎng)產品和挪威生命科學大學研究的雷達技術，用于評估大型垃圾箱的裝載水平和內容物。
Sensorita執(zhí)行長Ulrikke Lien表示：「客戶移動廢物處理箱，或者棄置與分類標示不同的廢物，使得廢物處理公司無法知道垃圾箱有多滿、里面裝了什么或何時應該取走。這給物流和生產計劃帶來了問題，而且不必要的回收操作也增加了二氧化碳排放量。」
Sensorita已借助一款結合雷達和GPS的堅固傳感器解決了這一問題。傳感器每小時多次獲取垃圾箱內部的雷達圖像，然后將這些圖像發(fā)送到Sensorita云平臺進行分析。通過利用在數(shù)百萬幅雷達圖像上訓練出來的ML算法，傳感器能夠估算出垃圾箱的滿載程度以及所裝載的主要垃圾類型。
nRF9160 SiP使用蜂巢網(wǎng)絡定位數(shù)據(jù)和GNSS三角測量法記錄每個垃圾箱的精確位置，并通過其LTE-M/NB-IoT調制解調器將傳感器數(shù)據(jù)傳輸?shù)絊ensorita云平臺。
Sensorita還利用ML優(yōu)化卡車在城市中清空垃圾箱的路線，結果節(jié)省燃料、減少工時，并且降低碳排放。
更高效的冰箱、預測性維護和垃圾箱優(yōu)化固然重要，但都屬于小眾產品。當ML在網(wǎng)絡中廣泛部署時，成果將無比巨大，例如對醫(yī)療保健的影響。像Nordic的nRF54H20這樣的無線SoC支持具有各種傳感器（如心率、心率變異性、溫度、呼吸頻率、血氧、壓力、疲勞和其他生理跡象傳感器）的穿戴式設備。這種穿戴式設備不僅適用于健身愛好者，還適用于老年人、成年人和兒童。
有了ML和蜂巢物聯(lián)網(wǎng)連接，穿戴式設備能夠同時持續(xù)監(jiān)測多種生命體征。如果某些或所有生命體征出現(xiàn)變化跡象，穿戴式設備的ML模型就能判斷這種趨勢是微不足道的，還是嚴重的緊急醫(yī)療情況。例如血氧水平、心率、血壓和呼吸的突然變化顯示心臟問題迫在眉睫。如果情況嚴重，穿戴式設備還能夠通知急救人員，同時在其到達之前提供重要的數(shù)據(jù)。
這類設備可以減少醫(yī)院就診次數(shù)，同時優(yōu)化對真正需要人士的護理，從而節(jié)省緊張的醫(yī)療預算，這將為全球節(jié)省數(shù)千億美元。
在依靠電池運行的低功耗嵌入式設備上執(zhí)行ML的能力，將會改變物聯(lián)網(wǎng)，促使網(wǎng)絡變得更加智能、強大和靈活，還將帶來先前不可能實現(xiàn)的新型產品和應用。未來將會十分精彩，并且比人們想象的更快來臨，敬請大家拭目以待。