近期，微型机器学习 TinyML领域取得了里程碑式的进展，跨越了一个重要的分水岭。这一技术的成熟度和发展潜力都将迈上新的台阶。
其中最具代表性的事件是3月11日高通宣布收购Edge Impulse。
Edge Impulse是TinyML领域的代表性公司，此次收购预计将在数周内完成。在此之前，该公司曾发布了一份题为《 边缘AI 终极指南：边缘智能业务转型手册》的报告，这份报告对于理解TinyML的发展趋势和商业价值有重要参考意义。
在我此前的多篇文章中，例如《从LLM 大模型到SLM小模型再到TinyML，这个领域有望增长31倍并催生新的商业模式》，我曾对TinyML进行过深入的介绍和分析。
TinyML作为一种优化机器学习模型的技术，使其能够在资源受限的设备（如微控制器 ）上高效运行。尽管这些模型的体积小巧，运算高效，但却足以胜任语音识别 、 传感器数据分析等任务。与运行大型语言模型LLM等 AI技术的芯片相比，TinyML设备的成本更低，功耗更小，但性能表现依然出色。
TinyML的崛起，将极大地推动端侧AI和边缘智能的发展。
当前，人们对生成式AI的认知正在发生微妙的转变。过去，人们普遍认为模型参数越多，性能就越好；而现在，越来越多的人开始认识到，小模型也能发挥出巨大的潜力。
随着AI工具库变得越来越强大，编程方式也变得越来越简单（例如使用自然语言），AI技术的使用正变得更加平民化。此外，业界正在努力将推理过程尽可能地靠近数据源，因此边缘AI正受到越来越多的关注。
鉴于此，本文将深入探讨高通收购Edge Impulse的意义，分析值得关注的边缘 AIoT 平台，并提炼《边缘AI终极指南》中的精华内容，以期为读者全面解析TinyML的技术趋势和商业前景。
Edge Impulse并入高通，简化边缘AI开发流程
高通公司于3月11日宣布收购边缘AI技术公司Edge Impulse。
此次收购将整合Edge Impulse的边缘AI开发平台，增强高通在AIoT领域的能力，推动高通在工业自动化 、智慧医疗等领域的智能化渗透。
Edge Impulse是一家成立仅6年的公司，由芬兰企业家扎克·谢尔比与荷兰工程师扬·琼布姆于2019年共同创立。
两位创始人在ARM公司从事物联网系统工作时相识，他们共同发现了一片蓝海市场—TinyML微型机器学习。他们意识到，随着微控制器计算能力的发展，已经能够直接在板上运行特定领域的人工智能模型。如果将人工智能从云端转移到边缘，将有无数的应用场景受益。
自成立之初，Edge Impulse的使命就是简化边缘设备的机器学习开发流程，帮助开发者快速构建和部署嵌入式 AI应用，推动智能设备的普及。
Edge Impulse构建的AIoT平台，可以大大缩短为传感器、微控制器和摄像机等小型设备创建机器学习模型所需的时间。
Edge Impulse为开发人员提供了一套完整的工具，可以自动收集数据、简化模型训练、提供高级优化功能，并支持一键部署到多种类型的硬件，从 MCU 微控制器到 CPU 中央处理器 、GPU 图形处理器和NPU 神经网络处理器。
目前，Edge Impulse的平台已支持超过17万开发者，覆盖25万个机器学习项目，客户包括全球顶级芯片供应商（如意法半导体 、 恩智浦 ）和终端企业。
迄今为止，Edge Impulse已筹集了5430万美元的资金。2021年，该公司在B轮融资中获得了3400万美元，估值达到2.34亿美元。两年后，该公司报告的收入为1470万美元。
高通收购Edge Impulse可以弥补其在端侧和边缘AI领域的技术短板，并加速向AIoT转型。
Edge Impulse的平台能够与高通的芯片组和软件架构形成互补，帮助开发者在低功耗设备上快速部署AI应用。
据悉，预计本次收购将于数周内完成。收购完成后，高通将能够为开发者提供更高效的AI开发工具，加速物联网应用的商业化进程。在工业、医疗和零售等领域，边缘AI的普及将推动智能化转型，提升运营效率和决策能力。
上图展示了两者结合后的优势，Edge Impulse平台与高通的边缘AI工作流程和高通AI Hub、Foundries.io等工具配合使用，可以更广泛地访问新模型、测试环境和部署选项。
在一篇博文中，Edge Impulse创始人谢尔比介绍了并入高通的意义。
对Edge Impulse用户而言，这意味着边缘人工智能将变得更加简单、易于使用。与高通的合作将加速对功能强大的Dragonwing处理器的计算机视觉、音频、语音识别和生成式人工智能的支持。除了支持高通的硬件，Edge Impulse还将继续支持来自广泛合作伙伴的边缘硬件，包括MCU、CPU、GPU和NPU。用户可以像往常一样，使用Edge Impulse将模型部署到自己喜欢的硬件上。
对高通而言，Edge Impulse将为其物联网战略方针增添重要组成部分。无论经验水平如何，用户都可以从完整且直观的边缘AI开发工作流程中受益。从数据准备和AI实验，到在各种边缘硬件（包括Dragonwing处理器）上优化和部署AI模型，用户都可以立即开始尝试。此外，企业和工业应用可以利用全新Edge Impulse与高通AI Hub的集成，分析并提升针对高通硬件的模型性能，加速高性能物联网设备的创新。
TinyML设备：麻雀虽小五脏俱全的开发挑战
TinyML模型运行于微控制器芯片，这类芯片常见于洗衣机、冰箱、汽车安全气囊等各种设备中。
最初设想的TinyML消耗的电量非常少（不到1毫瓦），因此设备可以使用纽扣电池运行一年或更长时间，并且几乎可以永远使用太阳能供电。虽然目前尚未广泛达到这一阈值，但TinyML设备已经可以使用AA电池运行数周甚至数月。
芯片本身价格低廉，可从多家制造商处购买。因此，大多数TinyML设备的价格从几美元到几十美元不等，具体取决于其功能的强大程度。
这些设备通常不仅包括芯片，还包括摄像头和传感器，用于检测图像和声音，以供AI模型进行分析。目前工程师们使用的TinyML软件、硬件和数据集都是开源的，这意味着它们可以被自由访问和修改。
尽管TinyML设备看似简单，但开发起来却充满挑战。
首先，它需要多种技能的专业知识，包括硬件、软件和机器学习，很少有人能够全面掌握，其次，结合所有这些技能也需要时间。因此，能够简化开发、有效部署的端侧和边缘AI开发平台成为了必选项。
Edge Impulse提供了《边缘AI终极指南：边缘AI业务转型手册》，其中包含了关于边缘AI如何改变业务的关键要点，以及如何利用这项突破性技术的实用见解。
全球边缘人工智能的增长和预测显示，预计到2033年，全球边缘AI市场规模将从2023年的190亿美元增至约1630亿美元。
为边缘AI提供支持的软件和硬件市场也在不断增长。边缘AI软件解决方案正在成为现代数字基础设施不可或缺的一部分。这个不断增长的市场涵盖了各种工具和平台，旨在实现从物联网传感器到工业设备等边缘硬件的AI推理和训练。边缘AI软件的全球市场规模预计将从2023年的11亿美元增长到2028年的41亿美元。
在硬件方面，根据Markets and Markets的数据，到2029年，全球边缘AI硬件市场价值预计将达到547亿美元。
边缘设备和处理器构成了边缘AI实现的支柱，支持在各种应用中进行本地处理和决策。这些设备包括专用的AI加速器和神经处理单元NPU，以及针对边缘计算优化的更通用的片上系统 SoC。
《边缘AI终极指南》还提供了如何评估边缘AI的准备情况、如何制定边缘AI的发展路线图，以及如何测算投资回报率等内容，具有参考价值。
边缘AI成熟度评估清单可以帮助组织评估是否已为成功的边缘AI之旅做好准备。此清单将指导评估实施和扩展边缘AI计划所必需的关键要素。
边缘AI路线图旨在指导完成规划、实施和优化边缘AI战略的关键步骤。通过探索有效的边缘AI路线图的关键组成部分，组织可以更好地构建未来。
测算ROI也是关键步骤之一，因为许多组织将面临边缘AI战略的关键决策：自建还是购买。在边缘AI的早期，DIY方法通常是唯一的选择，需要公司组装复杂的组件、工具和资源。然而DIY也是一种具有挑战性的方法，需要广泛领域的专业知识才能实现。
感兴趣的朋友可以点击链接下载：
https://pages.edgeimpulse.com/the-ultimate-guide-to-edge-ai
边缘AIoT平台巡礼：高通、英伟达、谷歌等巨头参与角逐
随着边缘AI的不断发展，支持AIoT的新型平台也应运而生。
任何旨在支持AIoT连接的平台都必须有效地结合人工智能和物联网平台领域的功能。这颇具挑战性，因为人工智能的特点是软件的快速迭代和更新，而物联网的特点是设备的资源受限、分散部署、而且需要在无人干预的情况下运行多年。
在一份新报告《AIoT需要什么样的平台？》中，Transforma Insights确定了支持AIoT所需的软件平台必备功能。
虽然许多功能已经存在，然而，现有的物联网平台通常尚未针对支持分布式人工智能进行优化，而人工智能平台通常没有考虑到物联网环境的所有约束。目前能够兼顾物联网和人工智能的AIoT平台仍属少数。
通过收购Edge Impulse，高通将成为边缘AIoT平台的有力参与者之一。
其他知名的边缘AIoT开发平台还包括：
英伟达 Jetson
Jetson是一个强大的边缘AIoT应用平台，提供一系列针对AI和深度学习任务量身定制的硬件和软件解决方案。它以紧凑的外形提供高性能计算能力，使其成为机器人 、智能城市和医疗保健等应用的选择。
谷歌Coral
Coral致力于将AI处理扩展到边缘设备。为此，它提供了Coral Dev Board和USB Accelerator等模块，以及用于AI推理的 TPU 。谷歌Coral与TensorFlow Lite配合使用，使开发人员能够更轻松地部署模型。
AWS IoT Greengrass
AWS IoT Greengrass是一种将AWS 云服务扩展到边缘设备的技术，使它们能够在本地对其生成的数据采取行动。它支持机器学习推理、数据处理和设备之间的安全通信。
Microsoft Azure IoT Edge
Microsoft Azure IoT Edge是一项完全托管的服务，通过在IoT设备上直接部署和运行AI、Azure服务和自定义逻辑，在本地提供云智能。它采用了一系列开发应用程序，并且还与Azure机器学习兼容以进行模型部署。
英特尔 OpenVINO
英特尔OpenVINO（开放式视觉推理和神经网络优化）工具包通过其设计加速了英特尔硬件上的AI工作负载。它专注于深度学习模型，并能够分发到各种边缘设备。OpenVINO支持计算机视觉和自然语言处理应用程序，因此，它也可以被视为医疗保健、零售和工业自动化等行业进行AI开发的多功能工具。
IBM Edge应用程序管理器
IBM边缘应用程序管理器是用于安装和运行基于AI的边缘设备应用程序的全套解决方案。此工具是自我管理的，用户可以在出现新版本或更新时进行部署。IBM的Edge Cluster Manager平台提供了各种用例场景，例如工业自动化、能源管理和远程生产力工具。
索尼Spresense
Spresense是一款专为边缘计算应用而设计的小型开发板。它由多核微控制器构建，支持多个AI框架，因此非常适合音频处理、计算机视觉操作和其他AI用途。
写在最后
随着边缘AI的迅速发展，TinyML正迎来一个全新的时代。
高通对Edge Impulse的收购，不仅彰显了行业巨头对TinyML和AIoT的高度重视，更预示着边缘AIoT平台竞争的加剧。未来，随着 5G 、IoT等技术的进一步普及，边缘AI将在更多领域大放异彩。
最后，值得一提的是随着TinyML已成为许多嵌入式边缘用例的常态，TinyML基金会进行了品牌重塑。该基金会已更名为Edge AI基金会，以便更好地与生态系统合作伙伴一起，实践在边缘提供可扩展、低功耗AI的承诺。
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com)，另:文中部分素材可能会引用自其他平台，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除