TinyML市场爆发,70元拥有超低功耗机器学习「物女心经」
作者 | 物联网智库2022-10-30

在终端和边缘侧的微处理器上,实现的机器学习过程,被称为微型机器学习,即TinyML。更准确的说,TinyML是指工程师们在mW功率范围以下的设备上,实现机器学习的方法、工具和技术。这篇文章,我们来一起探索TinyML的潜在价值和机会。

全文字数:2900字,写作用时:300分钟,阅读时间:10分钟

物女皇:TinyML,很小却很大

智次方

这是我在【物女心经】专栏写的第268篇文章。

TinyML市场爆发,70元拥有超低功耗机器学习「物女心经」

一根手指代表“播放▶️”,两根手指代表“暂停⏸”,三根手指代表“停止⏹”…这种遥控“神功”逐步变成现实,并且这项技术正在赋能越来越多的传感器。

TinyML,微型机器学习,我曾在之前的文章《一文读懂即将引爆的TinyML:在边缘侧实现超低功耗机器学习》中做过重点介绍。在终端和边缘侧的微处理器上,实现的机器学习过程,被称为微型机器学习,即TinyML。更准确的说,TinyML是指工程师们在mW功率范围以下的设备上,实现机器学习的方法、工具和技术。

在智能时代,我们常说万物皆智,但是如何赋予数以亿计、超小体积、极低功耗的设备以智能,这是不得不解决的挑战。

好在疫情期间,很多传感器企业并没有减缓研发的脚步。索尼、三星和博世等企业都正尝试在不增加部件、提升成本和功耗的前提下,为传感器嵌入更多的智能。TinyML与传感器的结合,让这些探索开花结果。

根据研究机构ABI Research的判断,一旦开启亿万量级的微型设备智能化之旅,市场空间将是巨大的。ABI由此预测到2022年底TinyML即服务的收入将超过2.2亿美元,并从2025年起,TinyML将成为智能时代的重要组成部分之一。

TinyML市场爆发,70元拥有超低功耗机器学习「物女心经」

躺平不可取,手握如此机遇,怎能坐失良机?10月20日,参与创造TinyML一词、创建TinyML峰会、编写了TinyML教科书的谷歌TensorFlow Micro团队前技术负责人皮特(Pete Warden),发文认为市场时机已经成熟,宣布二次创业,作为创始人投身于TinyML赋能的智能传感公司。

这篇文章,我们来一起探索TinyML的潜在价值和机会。

用TinyML做爆款智能硬件

TinyML市场爆发,70元拥有超低功耗机器学习「物女心经」

一个售价为10美元(约合人民币72.5元)的硬件模块,可以嵌入电视、风扇、遥控器、无人机、摄像头等设备中,轻松实现智能功能。电视可以根据主人的手势实现遥控、风扇可以判断主人的位置对准送风、摄像头可以自动识别房间里的人员数量…这就是皮特的新创公司Useful Sensors正在做的事情。

此前皮特在谷歌带领机器学习基础架构团队长达7年,并且创建了TensorFlow Lite Micro,一个用于嵌入式系统的机器学习框架。

过去几年他一直在思考,“联网”能力是否是物联网设备的必选项?如果将“Internet”从Internet of Things中拿掉将会怎样?如何赋予没有接入网络的设备以智能?

从2022年开始,他率队秘密研发这款名为Person Sensor的智能模块,尺寸为20 x 20毫米,正面有一个摄像头,背面是微控制器。这个只有硬币大小的模块可以检测附近的人脸信息,反馈人数、相对位置,并进行面部辨识。

TinyML市场爆发,70元拥有超低功耗机器学习「物女心经」

皮特认为有智慧的传感器才是真正有用的传感器,智能分析与传感器的距离越近,就越能降低功耗,而且这种功耗的节约是指数量级的,轻松实现10倍改善。

过去,我们可能会遇到对着台灯说“关上”,但台灯毫无响应的情况,但是这种日子即将一去不复返了,一些家电企业开始着手在电灯、音箱和电脑中嵌入这种智能模组。

TinyML:不用联网却“始终在线”的ML

TinyML市场爆发,70元拥有超低功耗机器学习

在文章《专为物联网而生的TinyML,正在开启音频分析的新蓝海》中,我曾经提到TinyML微型机器学习是机器学习和物联网设备的交集,它是一门新兴的工程学科,有可能在许多行业引发革命。

目前全球有千亿量级的微控制器在各地运行,而且每年仍在以数百亿的量级递增,根据IC Insights预测,到2023年微控制器的年出货量将超过380亿个,而且这些微控制器对应的设备,都有变得越来越智能的需求。

换句话说,未来分布在烟雾传感器、心脏起搏器、车载终端中的2500亿个微控制器,有可能可以执行以前只有计算机和智能手机才能处理的任务。因此面对位于网络边缘的海量物联网设备,TinyML的未来发展具有极大的想象空间。

这些内嵌于物联网终端设备中的“TinyML即服务”,“主动”参与智能决策与执行,并且允许在终端设备资源非常有限、联网受限的情况下,仍旧持续提升终端设备的分析能力,以便其能更好的处理实时物联网数据。

由此,TinyML在物联网终端打造的飞轮不断提速:

更低成本、更佳反馈的TinyML→更多数据反哺模型训练和调参→更好的使用体验,吸引更多企业参与其中。

TinyML的市场规模比边缘ML和云端ML都要大。除了文初提到的ABI Research,多家分析机构均给出TinyML的乐观预测。根据Silent Intelligence的预测,在未来5年,TinyML将触发超过700亿美元的经济价值,并且保持超过27.3%的复合年均增长率(CAGR)。

由TinyML改写的游戏规则

TinyML市场爆发,70元拥有超低功耗机器学习

从某种程度上说,TinyML改写了机器学习的“游戏规则”。

TinyML和我们常常提到的机器学习,也就是基于云端的ML,处于两个截然不同的世界。

当CPU、内存与操作系统之间的差异达到一定程度之后,量变引发质变。与TinyML可以调用的资源相比,云端ML简直是“富豪”。为了顺利推进,TinyML必须采用与云端ML不同的思维模式。

因祸得福,云端ML常常被诟病的四大痛点问题:功耗大、延迟长、需联网、少隐私等问题,在TinyML这里统统不存在,反而成为使用TinyML的4个主要优点:

  • 保护隐私:由于联网并不是TinyML工作的前提条件,数据可以被保存在没有连接网络的设备中,因此数据被泄露的风险非常低。这刚好满足了大量用户的需求,很多最终用户非常在意数据隐私,在数据开放与共享方面保持谨慎态度。他们不愿意将自己的数据交由第三方云平台和边缘服务提供商,进行存储和管理。面对这项需求,TinyML很好的保护了数据隐私。

  • 超低功耗:分布最广的物联网设备往往体积很小、电量有限。它们被作为终端硬件,通过嵌入式传感器采集各种数据;计算能力有限,对功耗极为敏感。许多物联网设备都是电池供电,对于功耗的要求很高。通过极低功耗TinyML的数据分析,减少网络传输的数据量,可以在一定程度上,节约物联网终端中的电量消耗。

  • 无需连接:设备不需要Internet连接即可让TinyML模型工作。在偏远地区、海上平台、空间站、极端环境的应用中,网络通信有可能无法保证始终覆盖,另外还有很多物联网设备通过窄带物联网NB-IoT或者其他低功耗广域物联网通信协议与网络通信,带宽和数据传输能力极为有限,这些设备有强烈的在本地处理数据的需求,以减少数据的传输,降低网络带宽和传输功耗的压力,避免在终端和边缘设备之间形成带宽瓶颈,影响整套物联网解决方案的性能。

  • 极低延迟:TinyML可以以极低延迟处理数据。TinyML通过将某些机器学习任务转移到设备本身,来进一步减少网络延迟的可能性。TinyML允许在不连接任何服务器的情况下进行分析,物联网设备可以实时处理数据并及时输出。

很多公司开始尝试将TinyML应用于各种场景,最普遍的应用是设备上的唤醒词检测、人数统计和人员检测。还有一些公司尝试将TinyML用于机器听觉。

和视觉信息一样,声音无处不在。语音启动的设备,在智能家居的应用中非常常见,最典型的比如智能音箱。还有很多声音,比如机床震动的声音、车辆抛锚的声音、报警器鸣响的声音…这些声音不同于语音,没有语言模型。

过去我们极大的发展了机器视觉,现在我们正在赋予机器听觉。随着越来越多的物联网企业正在将分析的重点从视频转移到音频,TinyML正在开启一片新的蓝海。

写在最后

TinyML赋予千亿终端设备以智能,是我们值得关注的确定性机会之一,但它并不是全部,还有很多商机有待我们一起挖掘。

热门文章
大量员工徒步返乡上热搜,富士康回应“去留自愿”;快充伤不伤电池?何同学用40部手机揭秘;马斯克下令推特全公司范围裁员...
2022-10-30