English | 中文

RKNPU2概述

安装环境

RKNPU2模型导出只支持在x86Linux平台上进行导出，安装流程请参考RKNPU2模型导出环境配置文档

ONNX模型不能直接调用RK芯片中的NPU进行运算，需要把ONNX模型转换为RKNN模型，具体流程请查看RKNPU2转换文档

FastDeploy在RK3588s上进行了测试，测试环境如下:

以下环境测试的速度均为端到端测试速度根据芯片体质的不同，速度会上下有所浮动，仅供参考。

任务场景	模型及其example	模型版本	是否量化	RKNN速度(ms)
Classification	ResNet	ResNet50_vd	否	33
Detection	Picodet	Picodet-s	否	112
Detection	PaddleDetection Yolov8	yolov8-n	否	100
Detection	PPYOLOE	ppyoloe-s(int8)	是	141
Detection	RKYOLOV5	YOLOV5-S-Relu(int8)	是	57
Detection	RKYOLOX	yolox-s	是	130
Detection	RKYOLOV7	yolov7-tiny	是	58
Segmentation	Unet	Unet-cityscapes	否	-
Segmentation	PP-HumanSegV2Lite	portrait(int8)	是	43
Segmentation	PP-HumanSegV2Lite	human(int8)	是	43
Face Detection	SCRFD	SCRFD-2.5G-kps-640(int8)	是	42
Face FaceRecognition	InsightFace	ms1mv3_arcface_r18(int8)	是	12

为了方便大家进行开发，这里提供1.0.2版本的FastDeploy给大家使用