OCRGPU: PaddleServing部署流程记录(cuda10.1)

OCRGPU: PaddleServing部署流程记录(cuda10.1),第1张

准备工作:

其中--gpus all 需要提前安装 nvidia-container-toolkit (即 nvidia-docker 的升级版)表示允许容器访问使用所有gpu(或指定gpu设备序列id,如--gpus 0或--gpus 0,1,2)
-e NVIDIA_DRIVER_CAPABILITIES=compute,utility -e NVIDIA_VISIBLE_DEVICES=all 等docker容器启动参数可能在部分场景下需要使用但本次部署未使用到

容器已经预安装python 35、37、38等常用版本,默认python3为35

// 或者获取服务端模型进行转换,(测试ch_ppocr_server_v20_rec和ch_ppocr_server_v20_det发现无效且返回错误码err_no:5)
获取用于测试的数据集(可选)

启动服务并将日志输出至logtxt(在同级目录下的/Pipelinexxxx/pipelinelog也记录有一部分启动运行的日志)

运行客户端访问服务测试

关于坐标,直接读取如下中的dt_boxes_list或dt_boxes_list[0]都可获得正常的坐标,但需要自己做格式处理(直接用str()函数处理示例结果得到的文本字符如dt_boxes_list将得到 [array([[[292, 298], [332, 298], [345, 848], [305, 848]], [[345, 298], [377, 298], [382, 660], [350, 660]]], dtype=int16)] ):

在尝试部署环境前未确认各版本对应关系就进行安装容易出问题,目前我使用PaddleOCR部署GPU的pdserving和hubserving识别环境均失败,异常为

通过各种命令查询版本未发现有误,除了我病急乱投医自己去直接pip37 install torch 的版本打印需求为cuda102(PaddleOCR环境没有这个包,且后来发现根据网文介绍还需要安装指定torch版本的基础上进行测试)
部分文章提到可能是paddle版本对不上,这个暂未尝试

2021/12/02
发现确实是paddle版本对不上,docker_hub上的镜像容器已经携带配套的paddle,但我按文档来一步步安装时,文档中安装paddle的步骤会把镜像容器中的版本卸载掉;


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zz/10643747.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-10
下一篇 2023-05-10

发表评论

登录后才能评论

评论列表(0条)

保存