2. Pulsar工具链概述
2.1. 简介
Pulsar 由 爱芯元智 自主研发 的 all-in-one
神经网络编译器,
即 转换、 量化、 编译、 异构 四合一, 实现深度学习神经网络模型 快速、 高效 的部署需求.
针对 AX6 系列芯片特性进行了深度定制优化, 充分发挥片上异构计算单元(CPU+NPU)算力, 提升神经网络模型的产品部署效率.
Pulsar
工具链核心功能是将 .onnx
模型编译成芯片能解析并运行的 .joint
模型.
架构图
部署流程
2.2. 虚拟 NPU 介绍
Axera
目前提供 AX630A
、 AX620A
、 AX620U
、 M55H
四款可用芯片, 以下对这几款芯片的虚拟 NPU 硬件配置信息作简要描述.
2.2.1. AX630A
虚拟 NPU (Neural-network Processing Unit)
模式 |
支持列表 |
---|---|
DEFAULT |
0 |
2_2 |
221、222 |
3_1 |
311、312 |
备注
NPU
硬件初始化只能选择一种模式DEFAULT
模式: 不划分 NPU
资源, 使用全部 NPU
资源2_2
模式: 对半划分 NPU
资源, 221
和 222
各使用一半的 NPU
资源3_1
模式: 不对等的划分 NPU 资源, 311
模式下的资源大概为 312
的3倍通过虚拟
NPU
模式, 可以同时跑 PTQ
和 AI-ISP
模型2.2.2. AX620A
虚拟 NPU
模式 |
支持列表 |
---|---|
DEFAULT |
0 |
1_1 |
111、112 |
备注
NPU
硬件初始化只能选择一种模式DEFAULT
模式: 不划分 NPU
资源, 使用全部 NPU
资源1_1
模式: 对半划分 NPU
资源, 111
和 112
各使用一半的 NPU
资源通过虚拟
NPU
模式, 可以同时跑 PTQ
和 AI-ISP
模型2.2.3. AX620U
AX620U
与 AX620A
在上述功能上相同。
2.2.4. M55H
M55H
是专为 车载智能前视系统 打造的专用 SoC
, 集成了爱芯的 NPU
、 AI-ISP
等专利技术, 分别针对计算效率、图像系统等领域进行深度优化, 提升 HDR
和 暗场场景
的感知性能.
虚拟 NPU
模式 |
支持列表 |
---|---|
DEFAULT |
0 |
1_1 |
111、112 |