【導讀】機器學習（ML）是解決涉及模式識別問題的一個非常好的工具，ML算suan法fa能neng將jiang雜za亂luan的de原yuan始shi數shu據ju轉zhuan化hua為wei可ke用yong信xin號hao。其qi基ji本ben流liu程cheng是shi基ji於yu數shu據ju產chan生sheng模mo型xing
，然ran後hou利li用yong模mo型xing預yu測ce輸shu出chu
，從cong而er實shi現xian無wu需xu人ren工gong交jiao互hu即ji可ke完wan成cheng學xue習xi、推理和決策等目的。然而，對高性能計算資源的需求將許多ML應用程序限製在雲中。也就是說
，隻有雲數據中心級別的性能才能滿足ML對算力的要求。令業界興奮的是
，隨著算法設計以及微處理器體係結構的不斷進步
，在最小的微控製器（MCU）上運行複雜的機器學習工作負載正在成為可能。

在嵌入式設備上運行機器學習模型通常被稱為嵌入式機器學習（Embedded machine learning）。嵌入式設備中的機器學習有很多好處：

一
、它消除了在雲服務器上傳輸和存儲數據的需要
，從而減少了傳輸數據時涉及的數據和隱私泄露。

二
、它強化了對知識產權、個人數據和商業秘密的保護。

三
、ML模型的執行可有效避免向雲服務器傳輸數據的需要，節約了寶貴的帶寬和網絡資源。

四
、使用基於ML模型的嵌入式設備是可持續的
，它的碳足跡要低得多。因為設備中使用的微控製器都是低能耗的。

五、嵌入式係統比基於雲中心的係統效率更高，邊緣設備上的ML模型可以實現實時響應。

TinyML：MCU廠商的新商機  

深度學習模型最初的成功主要歸功於擁有大量內存和GPU集群的大型服務器。雖然雲端深度學習非常成功，但它並不適用於所有情況，因為許多應用需要在設備上進行推理。當今的大多數AIyingyongchengxudoushijiyujiqixuexijishu
，ruguozaiziyuanshouxiandeshebeishangnenggouliuchangdiyunxingjiqixueximoxing，bijiangweixuduoxinxingyingyongdakaileyishanjishuzhimen，zheyeshijinxienianbianyuanjisuanheqianrushijiqixuexiyuelaiyuehuodeyigezhongyaoyuanyin。

嵌入式機器學習是機器學習的一個領域，這些被稱為微型機器學習（Tiny Machine Learning
，TinyML）的模型非常適用於內存和處理能力有限

、互聯網連接不存在或受限的邊緣設備。現在，TinyML已經成為機器學習中一個快速發展的領域
，通過硬件、算法和軟件的有機結合，使之能夠以mW及以下的功率完成傳感器數據的分析，實現了在小型硬件上嵌入AI的過程。

雖然TinyML是一個新概念，但將機器學習應用於智能設備並不是什麼新鮮事。比如，大多數的智能手機都有某種神經網絡
，音樂識別、許多相機模式（如夜視和肖像模式）都是依靠嵌入式深度學習的例子。這些都是TinyML的用武之地，也將Edge AI向前推進了一步。

Edge AI芯片組將AI引入到無數的終端內部，包括移動設備、汽車、智能音箱和無線攝像頭等。然而

，這些設備往往因難以支持高計算性能和高數據吞吐量，無法充分利用產生的所有數據。TinyML的橫空出世

，使得在MCU上運行機器學習模型成為可能。這些MCU普遍價格低廉，外形小巧
，內置幾百KB的低功耗內存（SRAM）和幾兆字節的存儲空間，功耗很低
，且應用廣泛。TinyML芯片組的主要目標是解決成本和能效問題
，它們通過為小型推理工作負載設計的軟件，在低功耗、低處理能力和小內存的硬件上實現了數據分析性能
，這一技術有可能徹底改變物聯網的未來。

如今，全球活躍的物聯網（IoT）設備超過2500億台，預計每年增長20%。這些設備每天都會收集大量數據
，在雲中處理這些數據存在相當大的挑戰。現在，TinyML有望彌合邊緣硬件和設備智能之間的鴻溝。麥肯錫研究人員預測，到2025年，物聯網行業將產生4-11萬億美元的潛在經濟影響，其中製造業為最大的垂直產業
，達到1.2-3.7萬億美元。

市場谘詢公司ABI Research在其新的白皮書《TinyML：科技領域的下一個重大機遇》中預測
，2021至2026年間

，物聯網連接數量將增加近三倍
，達到236億。每一次新的連接都代表著利用AI和機器學習的機會，TinyML技術將是抓住企業這一機會的關鍵。因此，ABI預計，TinyML設備的出貨量將從2020年的1520萬台增加到2030年的25億台。

名廠雲集TinyML賽道  

自TinyML誕生以來，創新市場一直熱點不斷


，許多產品都非常引入關注。例如：基於NVIDIA Jetson Xavier NX的工業AI智能相機，這是由Adlink公司推出的業界首款工業智能相機
，該相機基於英偉達（NVIDIA）的Jetson Xavier NX
，性能高、尺寸小
，效率大約是前代產品的十倍，是一款緊湊、可靠
、功能強大的Edge AI應用產品，為製造業、物流、醫療保健、農業和許多其他商業領域的人工智能創新打開了方便之門。

TinyML專注於優化機器學習的工作負載
，以便它們可以在低功耗的微控製器上運行。TinyML的激增將導致Edge AI在傳統關鍵市場之外的擴張，更多的終端用戶可以從基於聲波、溫度、壓力、振動和其他數據源的智能連接傳感器和物聯網設備中受益。如今，TinyML正處在機器學習和嵌入式物聯網的交彙點上，有可能為許多行業帶來顛覆性的變革。TinyML的潛在應用幾乎是沒有邊界的，比如：可(ke)以(yi)預(yu)測(ce)何(he)時(shi)需(xu)要(yao)服(fu)務(wu)的(de)工(gong)業(ye)機(ji)器(qi)人(ren)，可(ke)以(yi)監(jian)測(ce)作(zuo)物(wu)是(shi)否(fou)存(cun)在(zai)有(you)害(hai)昆(kun)蟲(chong)的(de)傳(chuan)感(gan)器(qi)
，當(dang)庫(ku)存(cun)減(jian)少(shao)時(shi)可(ke)以(yi)要(yao)求(qiu)重(zhong)新(xin)進(jin)貨(huo)的(de)店(dian)內(nei)貨(huo)架(jia)

，在(zai)保(bao)持(chi)隱(yin)私(si)的(de)同(tong)時(shi)可(ke)以(yi)跟(gen)蹤(zong)生(sheng)命(ming)體(ti)征(zheng)的(de)醫(yi)療(liao)監(jian)護(hu)儀(yi)。

音頻分析、模式識別和語音人機界麵是當今TinyML應用最多的領域。恩智浦（NXP）基於EdgeReady MCU的3D人臉識別解決方案利用i.MX RT117F跨界MCU，能夠幫助開發人員快速地將3D人臉識別和先進的活體檢測填加到其產品中，即使在戶外照明條件下設備也能正常工作。該方案具備的3D活體檢測功能還能識別和抵禦使用照片或3D模型的欺詐，僅需使用高性能3D結構化光攝像頭模塊（SLM）和可選的基於低成本CMOS傳感器的RGB攝像頭
，無需使用昂貴

、耗電、基於Linux的MPU。

方案中采用的i.MX RT1170是一款跨界MCU
，它采用了主頻達1GHz的Cortex-M7內核和主頻達400MHz的Arm Cortex-M4，擁有卓越的計算能力、多種媒體功能以及實時功能。人臉識別和活體檢測可在i.MX RT117F MCU上完全離線執行，不再借助雲，不僅消除了延遲問題
，還能有效保護消費者的隱私。

圖1：i.MX RT117F 3D人臉識別硬件結構框圖

（圖源：NXP）

視覺、運動和手勢識別同樣是TinyML的重要應用領域。意法半導體（ST）的AI解決方案主要基於STM32產品組合，借助預訓練神經網絡，嵌入式開發人員可以在任何基於Cortex M4、M33和M7的STM32上進行移植、優化和驗證。STM32CubeMX是一種圖形工具，通過分步過程可以非常輕鬆地配置STM32微控製器和微處理器，以及為Arm Cortex-M內核或麵向Arm Cortex-A內核的特定Linux設備樹生成相應的初始化C代碼。

STM32Cube.AI是STM32CubeMX的AI擴展包，設計人員可以在其基礎上更高效地開發自己的AI產品。FP-AI-VISION1屬於STM32Cube的一種功能包（FP），含有基於卷積神經網絡（CNN）的計算機視覺應用實例。

目前
，FP-AI-VISION1包括三個基於CNN的圖像分類應用示例：

●  在彩色（RGB24位）幀圖像上運行的食品識別應用；

●  在彩色（RGB24位）幀圖像上運行的人員存在檢測應用；

●  在灰度（8位）幀圖像上運行的人員存在檢測應用。

現在
，ST提供的TinyML計算機視覺解決方案可識別18種常見食物
，也可以實施人員在場檢測，或者基於目標檢測模型統計場景中的人數等。

圖2：食品識別模型的執行流程

（圖源：ST）

隨著IoT市場規模的擴大，邊緣的數據量增長迅猛
，由TinyML賦能的AIoT應運而生。根據Markets and Markets的分析數據，2019年的AIoT市場規模約為51億美元，預計到2024年將增長至162億美元，複合年均增長率（CAGR）高達26%。AIoT的主要作用是賦能聯網設備使其具備機器學習能力，從而執行複雜的智能運算。

2021年6月英飛淩（Infineon）推出的ModusToolbox ML，其目標就是讓公司的PSoC MCU具有深度學習的功能。ModusToolbox ML是一項基於ModusToolbox軟件的全新功能，可為開發人員提供基於深度學習的ML模型所需的中間件
、軟件庫和專用工具。ML可與ModusToolbox中已有的軟件框架無縫集成，十分便利地集成到安全的AIoT係統中。ModusToolbox ML允許開發人員使用他們首選的深度學習框架（如TensorFlow），直接部署到PSoC MCU上。此外，ML還有助於工程師優化嵌入式平台的模型，降低平台複雜度，並提供具有基於測試數據的性能驗證功能。

圖3：英飛淩PSoC6 MCU內部架構

（圖源：Infineon）

為了幫助開發人員快速地將本地智能添加到他們的IoT設計中，Infineon選擇了與SensiML公司合作。SensiML是QuickLogic的子公司，向市場提供尖端的軟件，使超低功耗IoT終端能夠實現AI，公司的旗艦方案SensiML Analytics Toolkit提供了一個端到端的開發平台
，涵蓋數據采集、標簽
、算法和固件自動生成和測試。SensiML的“Analytics Toolkit” Edge AI開發軟件現在可以與Infineon ModusToolbox配合使用, 為開發人員提供了一種快速簡便的方法來記錄來自Infineon XENSIV傳感器的數據，創建複雜的基於AI/ML的模型，並在PSoC6 MCU上運行定製的應用程序。

不斷壯大的TinyML生態係統  

TinyML社區成立於2019年，是一個由研究人員和行業工程師組成的社區
，致力於將ML能力引入到微控製器設備。TinyML由機器學習體係結構、技術、工具和方法組成，能夠在以電池驅動設備為主的低功率目標設備上對各種傳感模式（視覺、音頻

、運動、化學和其他）執行分析。TinyML的創始人之一Evgeni Gousev認為：“我們正處於數字轉型革命中，TinyML以低成本執行設備上的機器智能和分析，並結合固有的隱私功能，提供了極大的節能優勢。”

TinyML將在許多行業普及，它將影響包括：零售、醫療保健、交通
、健康、農業、健身和製造業等幾乎每一個行業。與此同時
，行業的參與者很快就認識到了TinyML的價值，並迅速采取行動創建了一個支持性的生態係統。

Arm是TinyML的堅定支持者，同時也是TinyML技術的領導者。隨著超過1800億基於Arm的芯片的出貨，其IP
、工具和1100多個軟件合作夥伴已經構建了數十億微型智能IoT設備。

如今，Arm®Cortex®-M係列MCU已經成為TinyML應用最廣泛的平台
，它們能夠快速高效地執行實時計算，價格便宜
，可靠性高
，響應速度快

，且耗電很少。Cortex-M55處理器是Arm最具AI能力的Cortex-M處理器，它提供了增強、節能的DSP和ML性能。Ethos-U55 NPU是一種新的ML處理器，稱為microNPU，專門設計用於在麵積受限的嵌入式和物聯網設備中加速ML推理。Ethos-U55與支持AI的Cortex-M55處理器相結合
，使ML性能比現有基於Cortex-M的係統提高了480倍。

事實上，在2021年初
，Raspberry Pi（樹莓派）就發布了第一塊微控製器板，這是市場上價格最實惠的開發板之一
，售價僅為4美元。這款名為Raspberry Pi Pico，基於RP2040 MCU
，內置功能強大的雙核Cortex-M0+處理器
，能夠運行TensorFlow Lite Micro
，很快我們就能看到該板的各種TinyML用例。

對於淹沒在海量數據中的決策者來說，TinyML好比是一個救星，它將邊緣的數據充分利用起來
，使人們能夠更快地獲取正確的信息。此外，TinyML還通過在設備上處理數據並隻傳輸關鍵信息來改善了人們普遍擔憂的隱私問題。

接下來，我們將看到一個擁有數萬億智能設備的新世界，這些智能設備有TinyML技術的支持

，能夠感知、分析和自主行動，並將為我們創造一個更健康、更可持續的環境。

免責聲明：本文為轉載文章，轉載此文目的在於傳遞更多信息，版權歸原作者所有。本文所用視頻
、圖片、文字如涉及作品版權問題，請聯係小編進行處理。

推薦閱讀：

上海貝嶺汽車交流充電樁解決方案

利用升壓轉換器延長電池使用壽命

簡單易用的工業電源模塊

工業傳感器在智能時代四個特點

座椅控製模塊(SCM)連接器