小程序
传感搜
传感圈

迅为高情性6TOPS算力的RK3576开发板NPU rknn-model-zoo例程演示

2025-07-01 18:56:24
关注

迅为iTOP-3576开发板采用瑞芯微RK3576高性能、低功耗的应用处理芯片,集成了4个Cortex-A72和4个Cortex-A53核心,以及独立的NEON协处理器。它适用于ARM PC、边缘计算、个人移动互联网设备及其他多媒体产品。

支持INT4/INT8/INT16/FP16/BF16/TF32混合运算,并凭借其强大的兼容性,可以轻松转换基于TensorFlow、MXNet、PyTorch、Caffe等一系列框架的网络模型。满足多种应用场景。

rknn-model-zoo中提供了当前主流算法部署到RK SOC的例程,包含了模型的转换、模型

Python api推理、模型的C api推理,rknn-model-zoo仓库在1.5小节已经讲解了获取方法,

而由于每个例程的使用都非常相似,所以在本章节只以deeplabv3例程为例进行例程演示。

DeepLabv3是一种用于语义分割的深度学习模型,由Google研究团队在2017年提出。它

是DeepLab系列模型的第三代产品,相比前两代模型在准确性和运行效率上都有显著提升。

5.1 模型下载和模型转换

不论是模型的Python api推理还是模型的C api推理都需要将常规模型转换为RKNN模型,

首先进入到deeplabv3目录

在model目录下有着常规模型的下载脚本,如下图所示:

然后赋予该脚本权限并运行该脚本,下载deeplabv3模型,

下载完成之后,可以看到当前目录多出来了deeplab-v3-plus-mobilenet-v2.pb模型,其他例

程的模型也是通过上述方法进行下载。然后来到python目录下,在python目录下有着模型转

换的python程序convert.py,

convert.py程序实际上就是由rknn-toolkit2编写的程序,所以在运行之前必须要确保根据

2.1小节搭建了rknn-toolkit2环境,convert.py的使用方法如下所示:

可以使用以下命令进行模型转换,表示将deeplab模型转换为在RK3576上运行的量化

RKNN模型,如下图所示:

python3 convert.py ../model/deeplab-v3-plus-mobilenet-v2.pb rk3576 i8

在运行的过程中会有一些警告,不影响转换结果,默认忽略即可,转换完成会在model

目录下生成名为deeplab-v3-plus-mobilenet-v2.rknn的RKNN模型,

至此,关于deeplabv3例程的模型下载和模型转换就演示完成了,rknn-model-zoo其他例

程的模型下载和模型转换步骤相同,模型转换完成之后,就可以进行推理测试了,rknn-model

-zoo提供了rknn-toolkit2 Python API连板推理和rknpu2 C API推理这两种方式,会在接下来

的小节中对两种方法进行演示。

5.2 Python API 推理

在每个rknn-model-zoo例程文件夹的python目录中除了模型转换程序还有推理程序,所

使用的也是由rknn-toolkit2 API编写的程序,

而由于rknn-toolkit2只能运行在X86的Linux系统中,所以这里采用的是连板推理的方式,

关于连板推理的演示可以看2.2.2小节,在本章节不再进行详细的介绍,直接进行演示。

首先启动开发板,这里开发板烧写的是ubuntu22镜像,使用其他镜像都可以,烧写完成

之后,需要先更新rknn_server和librknnrt.so文件,rknn_server和librknnrt.so分别为rknn-too

lkit2/rknpu2/runtime/Linux/rknn_server/aarch64/usr/bin和rknn-toolkit2/rknpu2/runtime/Linux/li

brknn_api/aarch64目录下如下图所示:

然后将rknn_server和librknnrt.so拷贝到开发板上,其中rknn_server需要拷贝到/usr/bin

目录下,而librknnrt.so要拷贝到/usr/lib目录,拷贝完成之后,运行rknn_server如下图所示:

然后确保开发板的adb设备连接到了虚拟机ubuntu,连接成功之后在左侧菜单栏中会有一

手机的图标,

然后在终端使用“adb devices”命令查看当前连接的adb设备,存在adb设备表示连接成

功,

而deeplabv3.py程序的运行需要matplotlib依赖,所以要运行以下命令安装matplotlib,如

下图所示:

pip3 install matplotlib -i https://repo.huaweicloud.com/repository/pypi/simple/

安装完成之后就可以运行deeplabv3.py程序了,deeplabv3.py程序有三个参数,分别为

--model_path、--target和--device_id,--model_path表示RKNN模型路径,--target表示连接的

开发板SOC类型,--device_id为上面通过“adb devices”获取到的设备id,但由于只有一个设

备,所以--device_id参数可以忽略不写,所以推理命令如下所示:

运行完成之后,会在当前路径输出语义分割之后的图形output.png,原图形和分割之后的

对比图如下所示:

可以看到小朋友、自行车已经使用了不同的颜色进行了分割,至此对于Python API推理就

演示完成了。

您觉得本篇内容如何
评分

相关产品

HOTO 汇投智控 HT6204 多合一传感器

多合一传感器可以同时测量多种气体指标,包括激光粉尘传感器、CO2传感器、TVOC传感器和温湿度传感器,多种数据以数字接口的形式统一输出。

微著科技 高性能传感器ASIC解决方案 MEMS传感器

微著科技是国内为数不多能够给传感器厂商提供定制高性能传感器解决方案的团队,目前已为国内众多院所及知名传感器公司提供了十余个传感器解决方案并已经实现量产。微著传感器ASIC方案的特点:成熟的仪表信号模块IP易于快速搭建;系统方案超低噪声;成熟的24ADC可同时实现模拟数字传感器方案设计;高效率及丰富的方案设计经验。

EC Sense 爱氪森科技 MP6 四气体传感器模组 MP6 四气体传感器模组

• 灵活的传感器适配性• 模块化的结构设计• 小体积• 传感器工作状态自动判断• 5-24V DC宽范围供电• 同时采集气体和温湿度传感器的测量数据• DS4氧气和毒气传感器寿命自动监测

鑫精诚传感器 XJC-T001 压力传感器

◆传感器激光焊接密封,环境适应性较强 ◆球形联接件,始终保持模块的垂直称重状态 ◆支撑螺栓,防止设备倾覆且方便维护 ◆接地装置,保护传感器免受电源浪涌冲击 ◆过载保护装置,保护传感器免受冲击力

Huba Control 富巴 525系列 压力传感器

525系列压力传感器采用集公司20多年研发经验的陶瓷压力传感器芯片技术。该系列压力传感器可选压力范围大,电气连接形式多。最小量程为50mbar。大批量使用具有很好的性价比。

Winsen 炜盛科技 MH-410D 红外CO2气体传感器 红外传感器

MH-410D红外气体传感器是通用型、智能型、微型传感器,该红外传感器利用非色散红外(NDIR)原理对空气中存在的CO2进行探测,具有很好的选择性,无氧气依赖性,性能稳定、寿命长。内置温度补偿。该红外传感器是通过将成熟的红外吸收气体检测技术与微型机械加工、精良电路设计紧密结合而制作出的小巧型高性能红外传感器。该红外传感器可广泛应用于暖通制冷与室内空气质量监控、工业过程及安全防护监控、农业及畜牧业生产过程监控。

Sunny Infrared 舜宇红外光学 H8207 NDIR气体传感器

H8207A系列气体传感器运用了NDIR非色散红外原理技术检测制冷剂气体,为制冷剂的检漏监测而设计,先进的红外传感器具有卓越的线性和重复性,确保长期稳定可靠的测量。本传感器对气体的选择性很强,不受H20、酒精、C02等气体的干扰,并且传感器使用寿命长,免维护。传感器结构紧凑小巧,同时传感器带有UART(TTL)电平数字输出和模拟输出接口,可以快速方便的集成到气体泄漏监测系统与检漏分析仪器中。

评论

您需要登录才可以回复|注册

提交评论

广告

大怪科学

这家伙很懒,什么描述也没留下

关注

点击进入下一篇

现在如何投资无人机行业:深入解析无人机ETF

提取码
复制提取码
点击跳转至百度网盘