芯耀
200
全球领先的安全、联网、高能效人工智能与机器学习(AI/ML)微控制器(MCU)及融合处理器供应商Alif Semiconductor?今日宣布，开发者现可将PyTorch ML框架的量化扩展ExecuTorch Runtime用于基于其Ensemble E4/E6/E8系列MCU及融合处理器开发的AI应用。
ExecuTorch扩展可帮助面向微控制器等资源受限硬件平台的AI模型开发者，借助PyTorch框架打造轻量级模型，支持低延迟、高精度推理。由于Ensemble E4、E6和E8系列产品均搭载支持Transformer式ML网络的Arm? Ethos?-U85 NPU，开发者如今可通过PyTorch与ExecuTorch Runtime，构建能在电池供电终端设备上本地运行的生成式AI应用，涵盖智能眼镜、人机交互设备、医疗健康与诊断设备、机器人、交通设备、益智玩具与教育产品、智能家居及智慧城市设备等场景。
在PyTorch大会（10月22-23日，美国加利福尼亚州旧金山市Moscone West）上，Arm展示了经ExecuTorch编译、可在Alif Ensemble E8融合处理器上运行的生成式AI应用案例，包括：
- 一款运行于Ensemble E8的小型语言模型，可根据视觉提示生成适合儿童的故事，还可扩展至支持语音提示。
- 实时设备端语音转文字模型，适用于集成到智能眼镜等可穿戴设备，能实现语音实时转录以生成实时字幕。
Alif Semiconductor总裁Reza Kazerounian表示：“Alif通过持续创新始终处于边缘AI领域的前沿，如今更延伸至生成式AI时代。我们的Ensemble系列微控制器对ExecuTorch Runtime的原生支持，进一步拓展了MCU级AI的应用边界。对于致力于打造下一代智能产品的嵌入式设备制造商而言，Alif仍是将AI技术落地边缘端的可靠引领者。”
Arm高级副总裁兼IoT业务总经理Paul Williamson表示：边缘生成式AI正催生全新品类的智能电池供电设备，这类设备可实时理解并响应环境交互。借助ExecuTorch框架，开发者能高效地将PyTorch模型部署到Alif Ensemble MCU上，实现低功耗设备端推理。此次合作充分证明，统一生态系统可推动边缘智能的规模化应用，加速实际场景中的AI创新。”
PyTorch大会演示中所用的Alif DK-E8开发板现已开放购买，该开发板支持整个E4/E6/E8系列的开发工作。
