X-CUBE-AI v7.1.0的三大更新内容

x-cube-ai是stm32生态系统中的ai扩展包。可自动转换预训练的人工智能模型,并在用户项目中生成stm32优化库。
最新版的x-cube-ai v7.1.0在以下方面进行了三大更新:
支持入门级stm32 mcu
支持最新的ai训练框架
改善用户体验和性能调节。
我们通过提供更多用户友好的界面,不断增强stm32 ai生态系统的功能,并加强了神经网络计算中的更多操作。最重要的是,该扩展包由我们免费提供。
在介绍x-cube-ai v7.1.0的三大更新内容之前,我们先回顾一下x-cube-ai的主要用途。
什么是x-cube-ai扩展包
x-cube-ai扩展包,也称stm32cube.ai,装配优化模块,确保从精度、内存占用和电源效率方面为目标stm32生成最佳拟合模型。
图形优化器通过有利于stm32目标硬件架构的图形简化和优化自动提高性能。使用了几种优化技术,如计算图重组、算子融合、常数折叠等。
量化器x-cube-ai扩展包支持fp32和int8预训练模型。开发人员可以导入量化神经网络以兼容stm32嵌入式架构,同时通过采用文档中详述的训练后量化过程来保持性能。在下一个版本中,还将考虑int1、int2和int3。成功导入模型后,可在桌面和目标stm32硬件上验证代码。
内存优化器内存优化器是一种高级内存管理工具。优化内存分配以获得最佳性能,同时符合嵌入式设计的要求。可在内部和外部资源之间实现内存分配的智能平衡,还可以为模型创建专用内存。开发人员可以轻松地更新模型。
x-cube-ai v7.1.0的三大更新
在最新版本的x-cube-ai v7.1.0中,我们进行了三大更新。
支持入门级stm32 mcu为了让您的边缘设备在各个层面都支持ai,我们使x-cube-ai v7.1.0实现了对stm32 arm cortex-m0和arm cortex-m0+的全面支持。从现在起,用户可以将神经网络带至最小的stm32微控制器上。
开发人员不仅可以在以下产品组合中找到用于各种用途的匹配芯片,还可以拥有一款具有ai启发性的芯片。stm32的频谱范围从超低功耗到高性能系列和微处理器,均包含在内。无线mcu等不同用途也适合ai应用。
支持最新的ai框架最新版本的x-cube-ai v7.1.0在keras和tensorflow等广泛使用的深度学习框架中添加了多种功能,并将tflite runtime升级至2.7.0,将onnx升级至1.9。
keras通过tensorflow得到支持,支持的算子允许处理针对移动或物联网资源受限的运行时环境的大量经典拓扑。例如,squeezenet、mobilenet v1或v2、inception、ssd mobilenet v1等。在x-cube-ai v7.1.0中最高可支持tf keras 2.7.0。
tensorflow lite是在移动平台上部署神经网络模型的格式。x-cube-ai导入并转换基于flatbuffer技术的tflite文件。处理多个算子,包括量化模型和量化感知训练或训练后量化过程生成的算子。
对于其他可以导出为onnx标准格式的框架,如pytorch、microsoft cognitive toolkit、matlab等,x-cube-ai同样支持。
每个ai框架我们只支持所有可能层和层参数子集,这取决于网络c api的表达能力和特定工具箱的解析器。
我们提供stm32cube.ai运行时,以便在执行ai应用程序时获得最佳性能。但是,开发人员可以选择tensorflow lite运行时作为一种替代方案,在多个项目中发挥作用。即使可能会降低性能,因为运行时针对stm32的优化程度较低。
除了深度学习框架外,x-cube-ai还涵盖了来自著名开源库scikit-learn的机器学习算法,这是一个完整的python机器学习框架,如:随机森林、支持向量机(svm)、k-means聚类和k最近邻(k-nn)。开发人员可以构建大量有监督或无监督的机器学习算法,并利用简单高效的工具进行数据分析。
x-cube-ai v7.1.0不直接支持来自scikit-learn框架或xgboost包的机器学习算法。在完成训练步骤后,这些算法应转换为onnx格式,以便部署和导入。skl2onnx实用程序通常用于将模型转换为onnx格式。可以使用带有onnx导出器的其他ml框架,但请注意,x-cube-ai中onnx-ml模型的导入主要使用 scikit-learn v0.23.1、skl2onnx v1.10.3和xgboost v1.5.1进行测试。
改善用户体验和性能调节x-cube-ai v7.1.0引入了多堆支持,开发人员只需单击即可轻松地将不同内容分配到碎片化的内存段上。
通过使用外部内存支持,开发人员可以轻松地在不同的内存区域分配权重。一旦模型存储在多个数组中,便可将部分权重映射到内部闪存,而其余的则映射到外部闪存。该工具使开发人员可以根据模型要求和应用程序内存占用使用非连续闪存区。
图形用户界面还提供了生成代码中使用的缓冲区的全面视图。一旦选择了模型,开发人员就可以通过直观地检查统计数据来评估整体复杂性和内存占用。模型中的每一层都清晰可见,开发人员可以轻松识别关键层。
该工具可帮助开发人员加快速度,使我们能够在桌面上验证模型,进行快速基准测试并检测目标stm32设备的最终性能。
验证过程结束时,对比表总结了原始模型和stm32模型之间的准确性和误差。x-cube-ai还提供了每层的计算复杂度报告,以及运行时测量的推断时间。
x-cube-ai只是意法半导体为stm32用户利用人工智能提供的广泛生态系统的一部分。使用x-cube-ai可确保高质量开发的长期支持和可靠性。每次推出新的主要版本时,都会有针对性地定期更新,确保兼容最新ai框架。敬请关注我们为您带来的更多有趣技术。
我们将策划一系列ai主题文章,详细介绍意法半导体在deep edge ai领域的努力成果。
本文是该系列文章中的第十一篇,点击上方的话题,订阅我们的ai技术专题系列 。
欢迎您在文后积极留言,告诉我们想了解意法半导体ai的哪些方面,我们将为您呈现更多精彩内容。
原文标题:ai技术专题之十一:更简便、更智能的x-cube-ai v7.1.0,让您轻松部署ai模型
文章出处:【微信公众号:意法半导体中国】欢迎添加关注!文章转载请注明出处。


永磁无刷电动机的结构,原理与特性
机器人送货上门真的能实现了吗
自制24V节能灯,DC24V Ballast
被OpenAI带火的Agent如何解放人力?
IGBT/FRD/MOSFET功率器件模块材料介绍
X-CUBE-AI v7.1.0的三大更新内容
施耐德电气对于智能家居有一些新的思考和战略实践
应用于光源驱动电路的光纤传感器
触摸控制器IC市场发展巨大 五年将增长两倍
关于音频编解码器EVS及用好要做的准备工作详解
三大运营商集采5G手机曝光,价格大降
苹果A10中国芯 iPhone7的芯片是这家中国公司造出来的
汉威科技护航非煤矿山安全
三星一步步走向汽车行业 现将为特斯拉提供驾自动驾驶芯片
赛格威机器人助力智慧创新大赛,未来智能商业服务雏形
走秀网CEO被抓!走秀网CEO纪文泓走私潜逃一年被抓,官宣业务一切正常?电商黑马搞事情?
VIVA(昱盛电子)VA2239 50W Filterless Class D Audio Amplifier
官宣:小米11全球首发高通骁龙888处理器
2023智慧零售融合创新研讨会成功举办!
工业富联2022年上半年首次突破2252.6亿元