Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

PP-ShiTuv2模型在RK3588上部署运行导致linux系统重启 #10563

Open
wenzhu2018 opened this issue Sep 5, 2024 · 8 comments
Open

PP-ShiTuv2模型在RK3588上部署运行导致linux系统重启 #10563

wenzhu2018 opened this issue Sep 5, 2024 · 8 comments
Assignees

Comments

@wenzhu2018
Copy link

PP-ShiTuv2的主体检测模型picodet怎么转换到RK3588 arm64板子上运行,导出的inference模型通过opt转换后的nb模型,运行时直接导致系统重启,通过量化训练或者post_quant离线量化得到的量化模型,运行时直接段错误

用官方的量化nb模型运行正常,官方的量化是ppshituv2_lite_models_v1.0/mainbody_PPLCNet_x2_5_640_quant_v1.0_lite.nb 和general_PPLCNetV2_base_quant_v1.0_lite.nb,官方的文档里也只讲把export_model导出的inference模型用opt转换,

官方的提供的inference模型用opt命令转换后nb模型,运行时也直接Linux系统直接重启

哪位在arm64上搞过,请指点一下,谢谢,被卡在这里已经将近2周时间了,识别模型通过量化训练再export_model导出,然后再经过opt转换貌似搞定,但主体检测模型量化训练或者post_quant离线量化得出的模型都会crash,估计是里面的参数不对,但paddledetection文档里没有对主体检测模型讲怎么量化

@wenzhu2018
Copy link
Author

mainbody_PPLCNet_x2_5_640_quant_v1.0_lite.nb 主体检测模型能不能出一个量化文档啊,没文档对于我们来说就是一个瞎子

1 similar comment
@wenzhu2018
Copy link
Author

mainbody_PPLCNet_x2_5_640_quant_v1.0_lite.nb 主体检测模型能不能出一个量化文档啊,没文档对于我们来说就是一个瞎子

@wenzhu2018
Copy link
Author

使用的环境:PaddleDetection-2.7.0 PaddleClas-2.5.2

@wenzhu2018
Copy link
Author

硬件环境rk3588 Debian11,使用的是CPU,未使用NPU

@wenzhu2018
Copy link
Author

PP-ShiTuv2是只能用PaddleDetection-2.3.0版本吗

@wenzhu2018
Copy link
Author

但PaddleDetection-2.3.0使用了paddle.fluid,得对paddlepaddle-gpu进行降级,目前使用的2.6.1带cudnn版本,并且我的cuda是12.0,而2.4版本没有支持cuda12.0,最高11.7,且没有支持cudnn,这样的环境不是要弄死人

@wenzhu2018
Copy link
Author

能不能给一个mainbody_PPLCNet主体检测的量化配置文件啊,直接使用
GeneralRecognition_PPLCNet_x2_5_quantization会有问题

@ddchenhao66
Copy link
Collaborator

量化问题请到对应repo提issue吧~确认模型没问题后,在Paddle Lite执行如果仍然出现报错,可以上传你的模型,并提供详细的报错信息,我们这边定位下是不是Lite的问题。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants