海思

在12月中,上海海思披露了公司聚焦行业专用(Application Specific)和嵌入式AI技术(Artificial Intelligence)的A²MCU。据他们所说,,将AI领域超轻量级的技术框架、极致性能的推理要求、方便快速的部署能力与MCU深度融合,为MCU行业客户探索智能化应用提供新的选择。

1.png

海思在文章中表示,嵌入式AI是将AI算法嵌入到端侧设备中,使得设备能够具备智能化、自动化和高效化的能力。AI的历史可以追溯到20世纪50年代,进入21世纪,受益于算力的迅猛提升,以及大数据、云计算、深度学习等技术发展,人工智能在图像识别、语音识别、自然语言处理、机器人、自动驾驶等领域取得了突破性的进展。随着应用的拓展和渗透,端侧AI近几年逐渐成为业界热点。相对于数百万到千万的AI服务器,端侧AI MCU的数量级将高达数以百亿。基于现有的AI范式,由于资源的限制、模型的适应性等因素,AI越向下越难做,但同时AI下沉带来的商业潜力也很大。因此将AI技术嵌入到端侧最底层的MCU芯片,已成为业界领先MCU企业都在探索的新方向。

由于MCU硬件性能限制、AI软件的复杂度高、行业应用实时性要求高、能耗限制严格、数据安全性要求高,嵌入式AI在MCU的行业应用落地需要业务团队同时具备丰富的AI知识经验,以及嵌入式软硬件能力。

一方面要开发团队与落地场景之间要展开深度合作。基于真实场景的基础数据及嵌入式AI团队提供的专业的定制化方案,才能真正解决问题,做出价值。

另一方面要能够实现AI模型到MCU的快速部署。通用AI模型往往并不是针对嵌入式应用设计,AI开发工具品类又非常庞杂,而MCU的RAM、Flash资源及CPU算力通常都非常受限,如何选择合适的AI模型和开发工具用来开发出解决特定场景问题模型,又如何将AI模型部署到受限资源的MCU上,这是一个复杂的工程。

海思嵌入式AI提供了超轻量级的AI技术框架、极致性能完全满足MCU的推理要求、并能够将多模型快速转换为代码并导入工程,开发者进行方便快速的产品部署。

海思表示,A² 是海思针对家电、能源、工业、汽车等领域推出的全新解决方案,它不仅涵盖了基于RISC-V的系列化的MCU,还包含了高性能兼容ARM指令集的MPU,以及与之紧密配合并优化的操作系统。据官网介绍,该系列MCU目前包含了三款产品。

2.png

其中,Hi3065H是基于海思自研RISC-V内核的高性能实时控制专用MCU, 具有高性能、高集成度、高可靠性、易开发的特点,同时配合海思强大的算法团队和嵌入式AI能力,使得Hi3065H上市后快速获得家电、能源、工业等行业内多个客户的认可和好评。

Hi3061H是海思针对电机控制设计的专用MCU,采用了RISC-V@200MHz+FPU。具有高性能、高集成度、高可靠性、易开发的特点,同时配合海思强大的算法团队和嵌入式AI能力,可以覆盖电机领域相关多种应用场景,如便携式储能双向逆变,工业低压变频器,央空热泵外机,以及伺服控制等应用场景。

Hi3061M则是海思针对家电、工业等领域设计的高性价比MCU,使用海思自有RISC-V内核,支持150MHz主频,支持AI场景扩展;支持32KB SRAM和128KB 内置Flash,可支持客户产品功能持续迭代和算法升级;可应用于冰洗空、电动自行车、高速风机、电动工具、按摩椅等比较广泛的应用场景。

海思表示,一般情况下,MCU为了保证任务的高实时性,业界现有方案大多不使用操作系统,但是这样由于没有基本的调度功能,导致MCU代码量一旦超过万行级别,写代码的复杂度和后续的维护难度会大幅上升。海思通过和openEuler的联合创新,通过在A²MCU和UniProton进行深度优化,开发出可以在MCU有限资源上可以运行的UniProton+BareMetal(无OS裸跑)混合部署方案,该方案对硬件资源的需求极低,最小4KB RAM和4KB Flash即可运行。通过该混合方案的部署,一方面保持了原有高实时性任务的优先级和实时性不受到影响,还可以直接运行在BareMetal环境;同时针对实时性要求不高的任务,可以通过调度器进行多线程的任务管理,提供了多线程管理能力,降低了开发者代码开发的复杂度,同时也可以帮助客户进行更便捷的后期维护、以及更方便的进行应用的修改和跨芯片移植。

除了和操作系统的深度协同之外,海思A²解决方案还包含大量其它黑科技,比如资源需求极低到可以在MCU上部署的轻量级嵌入式AI、针对行业应用的高阶算法、以及可以针对行业场景自定义指令集的RISC-V内核等,通过这些技术方向上的探索和创新,海思A²解决方案在MCU以及嵌入式MPU等领域有独特的差异化优势。

除了上述MCU外,海思还推出了名为Hi3093的MPU。海思表示,这款高性能工控MPU是一款面向工业、电力、能源、IOT等领域设计,支持openEuler embedded OS的高性能ARM处理器,集成了4核ARM高性能处理器,具有丰富的工业专用接口,支持openEuler和实时OS,支持PLC/运动控制/DCS/IOT网关等多种应用场景。

据海思透露,针对高性能MPU,海思成功的实现了基于openAMP(开放非对称多处理)的多操作系统框架混合部署,基于该框架,客户可以在一颗MPU芯片上同时部署多个操作系统实例;比如将海思MPU的4个主处理器分成3+1两组,通过openAMP的双系统架构,客户可以把需要生态应用的openEuler非实时系统部署在其中的三个CPU核上,同时把UniProton实时操作系统部署到另外一个核;通过这种方式,客户可以用一颗芯片上同时实现原有方案中两颗芯片才能实现的功能,一方面帮助客户简化了系统架构,节省了成本,同时也极大的提升了系统的可靠性。海思是业界首个支持openEuler embedded同构、异构多核混合部署方案的芯片厂家。

来源:内容来自半导体行业观察(ID:icbank)综合

免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理(联系邮箱:cathy@eetrend.com)。

围观 35

12月16日,在2023年openEuler峰会上,海思宣布了A²MCU和MPU全面支持openEuler。海思A² 是海思针对家电、能源、工业、汽车等领域推出的全新解决方案,它不仅涵盖了基于RISC-V的系列化的MCU,还包含了高性能兼容ARM指令集的MPU,以及与之紧密配合并优化的操作系统。

海思的A²代表的是两个A相乘,从而产生指数级累积效应;其中1个A(Application Specific)代表行业专用,承载了海思以客户为中心,追求芯片设计和客户应用场景紧密结合的理念;另一个A(Artificial Intelligence)代表AI技术在MCU以及嵌入式领域的应用。

1.png

由于认识到芯片和操作系统深度结合带来的价值,海思A²解决方案把从强调高实时性的MCU到需要高性能实时计算的MPU芯片全面和openEuler进行了深度的协调和优化,因而openEuler和基于openEuler的开源实时操作系统UniProton也成为了海思A²解决方案里重要的组成部分。通过芯片和操作系统在底层的紧密配合,海思A²解决方案可以针对行业专用化场景进行更为深度定制和优化,从而挖掘出芯片全部的性能。比如针对工业控制场景通过对芯片与openEuler实时操作系统进行深度适配和优化,可以实现极致的工业级低延时和确定性。

一般情况下,MCU为了保证任务的高实时性,业界现有方案大多不使用操作系统,但是这样由于没有基本的调度功能,导致MCU代码量一旦超过万行级别,写代码的复杂度和后续的维护难度会大幅上升。海思通过和openEuler的联合创新,通过在A²MCU和UniProton进行深度优化,开发出可以在MCU有限资源上可以运行的UniProton+BareMetal(无OS裸跑)混合部署方案,该方案对硬件资源的需求极低,最小4KB RAM和4KB Flash即可运行。通过该混合方案的部署,一方面保持了原有高实时性任务的优先级和实时性不受到影响,还可以直接运行在BareMetal环境;同时针对实时性要求不高的任务,可以通过调度器进行多线程的任务管理,提供了多线程管理能力,降低了开发者代码开发的复杂度,同时也可以帮助客户进行更便捷的后期维护、以及更方便的进行应用的修改和跨芯片移植。

针对高性能MPU,海思成功的实现了基于openAMP(开放非对称多处理)的多操作系统框架混合部署,基于该框架,客户可以在一颗MPU芯片上同时部署多个操作系统实例;比如将海思MPU的4个主处理器分成3+1两组,通过openAMP的双系统架构,客户可以把需要生态应用的openEuler非实时系统部署在其中的三个CPU核上,同时把UniProton实时操作系统部署到另外一个核;通过这种方式,客户可以用一颗芯片上同时实现原有方案中两颗芯片才能实现的功能,一方面帮助客户简化了系统架构,节省了成本,同时也极大的提升了系统的可靠性。海思是业界首个支持openEuler embedded同构、异构多核混合部署方案的芯片厂家。

2.png

除了和操作系统的深度协同之外,海思A²解决方案还包含大量其它黑科技,比如资源需求极低到可以在MCU上部署的轻量级嵌入式AI、针对行业应用的高阶算法、以及可以针对行业场景自定义指令集的RISC-V内核等,通过这些技术方向上的探索和创新,海思A²解决方案在MCU以及嵌入式MPU等领域有独特的差异化优势。

目前海思A²MCU和MPU方案已经在多个行业场景进行了部署。比如在家电场景,海思MCU可以实现空调调温阶段节能16%。在工业运动控制场景,海思MPU芯片可以实现在125us运动周期控制下,把时间抖动控制在1us以内,从而帮助半导体、激光等领域场景实现更更快的任务处理和更高的确定性。

“中国的芯片创新可以为行业带来增值,做大产业空间,促进整个行业的良性发展。”海思MCU产品管理部部长李明表示,“海思A²的目标是在MCU和嵌入式MPU领域,通过和openEuler操作系统的深度优化,指令集定制化以及嵌入式AI等多个方面的创新和整合,助力客户实现AI时代的行业引领,带来更多创新和价值”。

来源:上海海思

免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理(联系邮箱:cathy@eetrend.com)。

围观 22

AI如何在数以百亿的MCU嵌入式应用中落地?海思正在给出自己的答案。海思A²MCU聚焦行业专用(Application Specific)和嵌入式AI技术(Artificial Intelligence),将AI领域超轻量级的技术框架、极致性能的推理要求、方便快速的部署能力与MCU深度融合,为MCU行业客户探索智能化应用提供新的选择。在TCL小蓝翼P7新风空调发布会上,海思与TCL空调联合发布“A²MCU,让空调越用越节能”解决方案,正是A²MCU的初露锋芒。

1.jpg

为什么嵌入式AI关注度越来越高?

嵌入式AI是将AI算法嵌入到端侧设备中,使得设备能够具备智能化、自动化和高效化的能力。AI的历史可以追溯到20世纪50年代,进入21世纪,受益于算力的迅猛提升,以及大数据、云计算、深度学习等技术发展,人工智能在图像识别、语音识别、自然语言处理、机器人、自动驾驶等领域取得了突破性的进展。随着应用的拓展和渗透,端侧AI近几年逐渐成为业界热点。相对于数百万到千万的AI服务器,端侧AI MCU的数量级将高达数以百亿。基于现有的AI范式,由于资源的限制、模型的适应性等因素,AI越向下越难做,但同时AI下沉带来的商业潜力也很大。因此将AI技术嵌入到端侧最底层的MCU芯片,已成为业界领先MCU企业都在探索的新方向。

基于MCU的AI方案在行业落地,会有哪些困难?

由于MCU硬件性能限制、AI软件的复杂度高、行业应用实时性要求高、能耗限制严格、数据安全性要求高,嵌入式AI在MCU的行业应用落地需要业务团队同时具备丰富的AI知识经验,以及嵌入式软硬件能力。

一方面要开发团队与落地场景之间要展开深度合作。基于真实场景的基础数据及嵌入式AI团队提供的专业的定制化方案,才能真正解决问题,做出价值。

另一方面要能够实现AI模型到MCU的快速部署。通用AI模型往往并不是针对嵌入式应用设计,AI开发工具品类又非常庞杂,而MCU的RAM、Flash资源及CPU算力通常都非常受限,如何选择合适的AI模型和开发工具用来开发出解决特定场景问题模型,又如何将AI模型部署到受限资源的MCU上,这是一个复杂的工程。

海思A²MCU嵌入式AI通过哪些关键技术解决了这些问题?

海思嵌入式AI提供了超轻量级的AI技术框架、极致性能完全满足MCU的推理要求、并能够将多模型快速转换为代码并导入工程,开发者进行方便快速的产品部署。

1)极简框架:在MCU上部署的AI模型,转为网络层的运行代码后,直接调用RISC-V核的优化算子库,省去了模型解析器等一般复杂的框架。RISC-V的开源架构支持自定义指令集,能够更好的支持算子库的优化实现,这也是RISC-V相对于其他内核的一个关键优势。

2.jpg

2)极致性能:意味着在确保场景收益的前提下,将训练推理过程做到极简。包括但不限于:训练模型优化:包括模型结构优化,减少内存读写和计算量;模型训练后量化,使模型更小,推理更快。算子的轻量化、内存优化以及深度性能调优:通过算子库轻量化、算子数据预重排与内存复用、使用算法减少乘法运算次数与内存访问的开销、深度算法调优减少运算次数,与访存开销进行平衡。

3.png


模型剪枝、压缩的轻量化

4.png


训练后量化,模型更小,推理更快

3)易开发部署:海思A²MCU嵌入式AI方案可提供多种模型的转换,例如通过TensorFlow Lite、PyTorch、MindSpore等开发的模型,可快速便捷的转成代码,并导入部署到工程代码中。

5.gif


海思A²MCU嵌入式AI应用效果如何?

12月10日,在TCL小蓝翼P7新风空调发布会上,海思与TCL空调联合发布了“A²MCU,让空调越用越节能”解决方案,该方案基于空调环境、运行和目标参数,通过嵌入式AI算法对复杂工况进行学习,提高运行周期内的整体能效。通过业务场景和AI强化学习模型的深度融合,给空调产品的节能带来代级的差异化竞争力,最终达成调温阶段能耗降低16%的效果。

结语

万物智能时代,我们既需要云端大算力的训练推理,也离不开嵌入式AI在千行百业的端侧普惠应用。相对而言AI服务器的体量是百万~千万数量级,而小算力的MCU则是数百亿数量级,嵌入式AI在绿色节能、人机交互、故障预测、安全防护等行业显示出巨大的潜力。

在嵌入式AI技术中,AI和MCU的关系是相互促进、共同发展的,而嵌入式AI的难度也恰恰来自AI与MCU两个技术分方向的跨界与结合。海思在AI和MCU领域都有近十年的积累和丰富应用经验,致力于将以往经验和技术积累应用于小算力AI场景,和行业伙伴一起联合创新、创造增量价值。

来源:上海海思

免责声明:本文为转载文章,转载此文目的在于传递更多信息,版权归原作者所有。本文所用视频、图片、文字如涉及作品版权问题,请联系小编进行处理(联系邮箱:cathy@eetrend.com)。

围观 29
订阅 RSS - 海思