随着人工智能技术飞速发展，云端AI正在往端侧AI扩展演进，AI处理将分布在云端和终端中进行，云端AI更多负责大模型训练和复杂运算，而端侧AI将进行本地部署进行AI推理。这种云端和终端结合的混合AI模式将会是AI未来的需求，而对于端侧AI技术的要求，也将越来越高。

对目前市面上涌现的智能设备创新功能做一个分类，不难看出很多功能点的创新升级都离不开音频处理与交互技术。作为连接消费者与智能设备的重要媒介，音频智能化创新的发展也体现了当前“智能泛在化”的趋势。

而其中，音频相关芯片与算法的协同更新为具备音频交互的智能终端崛起提供了重要助力，音频芯片厂商在此契机下纷纷加码布局端侧AI。

本期《端侧AI领袖之声：中国端侧AI企业深度访谈专栏》，物联网智库邀请到炬芯科技市场推广部总监马大行，就端侧AI产业发展以及炬芯科技目前的端侧AI布局进行了深入交流。

音频赛道制高点，打造完整端侧AI生态

从今年各类智能终端的功能创新不难看出，很多功能点升级都围绕音频处理与交互技术展开。音频相关芯片为智能终端的崛起提供了坚实的硬件基础，在终端市场需求兴起的背景下，音频芯片厂商纷纷加码布局，将芯片与端侧AI技术加速融合。

对于泛IoT领域的智能设备，需要能够解决应用痛点的芯片平台来提供基础支撑。在这些应用里，高算力高成本但功耗并不低的芯片不是最好的选择，端侧设备无法不计成本地堆砌算力，高算力也会带来更大的功耗，所以必须找到算力成本和功耗之间的平衡。而且可能过去传统架构的芯片也解决不了本地模型部署的算力和功耗的需求，因此在芯片架构设计上也需要求变创新。

这些正好是炬芯科技的优势所在。炬芯科技市场推广部总监马大行表示，“炬芯科技扎根音频赛道，但我们的视野是整个IoT领域。炬芯科技最核心的优势在于我们抓住了落地端侧AI应用的痛点，并且打造一个完整的端侧AI生态系统，因为如果只有产品没有配套的整个生态，其实是没有很好的办法落地的。”

炬芯科技的目标是为端侧AI应用打造极致能效比的AI算力，在毫瓦级功耗下实现TOPS级别的AI算力，打造以满足IoT设备对低功耗、高能效的需求，并创新性地采用了基于模数混合SRAM存内计算技术（Mixed-mode SRAM based CIM，简称MMSCIM）路径来挑战这样的目标。目前炬芯科技最新产品采用三核异构架构，即CPU+ DSP+ NPU，虽然目前国内也有其他厂商在布局此条路线来做，但在商业化落地上并没有炬芯科技做得成熟。特别是炬芯科技将NPU和DSP融合设计形成了炬芯科技“Actions Intelligence NPU（AI-NPU）”架构，并通过协同计算，形成一个既高弹性又高能效比的NPU架构。在这种AI-NPU架构中MMSCIM支持基础性通用AI算子，提供低功耗大算力。

马大行特别提到，基于这样的一种架构，炬芯科技产品的算力能效比在行业内是相当突出的。对于端侧设备来说，只谈算力，只谈功耗都是片面的。随身类设备不可能一味拔高算力，算力的提升肯定会拉高功耗，影响设备续航。解决这些设备的智能化升级关键在于找到算力和功耗的平衡点。

能效比因此极为关键，以便携式音频和穿戴领域为例，能效比的需求是比较高的，因为这种设备它都需要一个很低的功耗去保证长续航时间。对于这样的应用，炬芯科技通过创新的三核异构架构完美解决了能效比痛点。

基于这些芯片优势，炬芯科技围绕端侧AI打造了一系列生态配套，用完整的生态去推动端侧AI的落地。从技术策略到芯片产品，到开发生态，到最终应用落地，端侧产品落地整个环节里的需求炬芯科技都做了相关布局，产品落地是最终的导向。今年产业链都在寻找端侧AI应用落地方向，推动端侧产品落地商业化才能最终给用户带来价值。

解决终端设备体验痛点，技术创新引领端侧AI落地

音频技术是炬芯科技的最核心竞争力之一，炬芯科技也历经了音频市场的一次又一次技术变革。马大行表示，音频是很神奇的一个东西，其需求永远有挖掘的空间。从普通的音频传输需求到发烧级别的高音质需求，炬芯科技在多年的赛道深耕中，持续做着不同市场下的音频需求挖掘，并不断创新来提高音频质量。

马大行指出，在目前的无线音频阶段，如何提供高清无损的音频体验、如何在更低延迟下提供更高音质体验都是极具考验的。锚定无线音频市场的这些痛点，炬芯科技近些年以蓝牙音频为代表的蓝牙音箱产品成功获得了国际一线品牌（哈曼、SONY、BOSE等）的青睐，并在音频有线转无线的过程中抓住了行业痛点，成功打造了低延迟高音质这样的无线音频芯片核心优势，助力无线麦克风、电竞耳机等更专业音频产品的商业成功。在AI时代利用独有的端侧AI技术为音频产品的革命注入源源不断的动力，朝着成为全球视野的专业音频芯片品牌不断前进。

从声音的采集、声音的处理到无线的传输，炬芯科技基于二十多年的音频处理技术积累不断创新，端侧AI时代炬芯科技也充分利用布局已久的端侧AI技术去驱动这些产品的革新，让AI技术能更好地应用在端侧音频设备上，并让音频应用成为端侧AI率先落地的重要支点。

炬芯科技提出的“Actions Intelligence”正是针对电池驱动的端侧AI落地提出的战略，致力于为低功耗AIoT装置打造在10mW-100mW之间的功耗下提供0.1-1TOPS的通用AI算力（能效比为10TOPS/W~100TOPS/W），在低功耗的条件下提供更大的AI算力。

在此前的文章中物联网智库曾表示“随着端侧AI应用普及，存算一体化被重视起来，根据不同侧重还能细分到近存计算、存内处理和存内计算。对数据处理速度和存储效率的要求不断提高，传统与计算分离的存储解决方案日后或许承载不了端侧AI对实时性和能效的需求。”值得一提的是炬芯科技创新采用了基于模数混合SRAM存内计算技术，很好的解决了传统冯·诺依曼架构存在的“存储墙”、“功耗墙”等问题，满足了端侧AI应用对于实时性和能效比的需求。

基于模数混合SRAM的存内计算在保证能效比的同时，还能保证精度和量产一致性。对追求极致能效比的低功耗智能设备来说，这一创新设计进一步挖掘了每毫瓦功耗下的AI能力，无疑将大力推动端侧AI音频设备的落地。据悉，炬芯科技最新一代端侧AI音频芯片ATS323X系列已成功在专业音频品牌猛玛(MOMA)推出的旗舰级无线监听麦克风Lark Max2中落地应用，该产品一经推出即引领无线麦克风市场浪潮，为用户带来更专业的创作体验。

马大行补充道，炬芯科技会持续深耕音频领域并不断筑牢自己在该领域里的技术壁垒，用创新的技术驱动并引领终端产品的智能变革。同时炬芯科技也会从音频的制高点出发，向外延伸自己的商业版图，以全球的视野覆盖AIoT领域万亿增量市场。

写在最后

展望端侧AI发展，端侧AI市场的爆发式一定是毋庸置疑的，随着芯片技术不断提升，以及应用市场的拓展，一些有价值的产品会快速进入到落地阶段。炬芯科技也将持续推进“Actions Intelligence”端侧AI战略，打造完整的生态来推动AI应用落地。