Skip to content

FastDeploy v0.3.0

Compare
Choose a tag to compare
@jiangjiajun jiangjiajun released this 15 Oct 14:02
· 1561 commits to develop since this release
3ff562a

What's Changed

模型

  • 新增PaddleSeg的PP-ModNet和PP-HumanMatting部署支持 部署示例
  • 新增YOLOv5-Classification模型部署支持 部署示例

量化加速

  • 基于PaddleSlim提供一键量化工具,支持CPU/GPU上部署性能的倍速提升 详细内容
  • 支持YOLO系列和PaddleClas图像分类系列模型一键量化加速 详细内容

编译

  • 支持用户环境指定自定义路径下的OpenCV、OpenVINO、ONNX Runtime编译依赖
  • Mac x86上增加OpenVINO后端的编译支持
  • 增加arm上Paddle-Lite的后端支持
  • 支持Jetson上编译安装 参考文档

服务化部署

  • 发布FastDeploy-Triton服务化CPU/GPU部署镜像,支持Paddle/ONNX模型的多后端的高性能服务化部署 详细内容
  • 新增YOLOv5服务化部署示例 详细内容

代码优化

  • 解决模型Predict时修改传入图像的问题
  • 增加TensorRT后端max_workspace_size设置接口
  • 优化PaddleSeg部署模型在动态Shape下的提示信息
  • 修复Windows上加载TensorRT序列化文件失败的问题
  • 增加fastdeploy_init.shfastdeploy_init.bat帮助开发者快速导入FastDeploy依赖库

New Contributors

Full Changelog: release/0.2.1...release/0.3.1