Skip to content

Zheng-Bicheng/BreezeDeploy

Repository files navigation

BreezeDeploy

驱动安装文档 | 编译文档 | 二次开发例程文档 | 二次开发API文档

BreezeDeploy是一款用于在RK平台上高效部署AI视觉模型的部署工具库。除部分对NPU极度不友好的模型外,BreezeDeploy计划全程使用RKNPU进行推理。 为了提供高效、灵活且可靠的部署解决方案,BreezeDeploy采用C++编写并计划提供Python工具包。

📌 稳定版本

BreezeDeploy最新的稳定版本为release/0.2.0 ,如果您有固定版本的需求,你可以前往Release 来使用指定的稳定版本。

⚠️值得注意的是,BreezeDeploy正在高速迭代中,我们强烈建议您编译最新的develop分支的代码以获取更好的使用体验,而不是使用现有的稳定版本。

ℹ️ 简介

FastDeploy是一款全场景、易用灵活、极致高效的AI推理部署工具,被很多用户所使用。 BreezeDeploy参考FastDeploy设计而来。 在FastDeploy的基础上, BreezeDeploy充分利用了部署平台的优势,对内存拷贝前后处理模型推理 等多个方面进行了优化,可以支持在RK平台上以较高的效率部署市面上常见的视觉算法。 希望它能够帮你实现快速且友好的模型部署体验。

🐛 Bug反馈

非常感谢您使用BreezeDeploy仓库!目前我们仍处于研发阶段,可能会遇到一些Bug。 如果您在使用过程中发现任何问题,请前往Issues页面反馈,我们将尽力解决并改进。感谢您的理解和支持!

💐 Acknowledge

本项目中使用和参考了多个由开源社区提供的性能优异的库,在此列出表示感谢:

  • eigen: Eigen is a C++ template library for linear algebra: matrices, vectors, numerical solvers, and related algorithms.
  • FastDeploy: ⚡️An Easy-to-use and Fast Deep Learning Model Deployment Toolkit for ☁️Cloud 📱Mobile and 📹Edge. Including Image, Video, Text and Audio 20+ main stream scenarios and 150+ SOTA models with end-to-end optimization, multi-platform and multi-framework support.
  • faiss: A library for efficient similarity search and clustering of dense vectors.
  • onnxruntime: ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator.
  • opencv: Open Source Computer Vision Library.
  • spdlog: Fast C++ logging library.
  • yaml-cpp: A YAML parser and emitter in C++.

©️ License

本仓库遵循Apache-2.0开源协议

About

No description, website, or topics provided.

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published