KuiperInfer (自制深度学习推理框架)
github.com/zjhellofss/KuiperInfer
跟随本项目,从零开始自制深度学习推理框架,你将有以下收获:
学习一个深度学习框架背后的知识,掌握现代C++项目的写法,调试技巧和工程经验;
如何设计、编写一个计算图;
实现常见的算子,卷积算子、池化算子、全连接算子等;
在3的基础上,学会常见的优化手段加速算子的执行;
最后你将获得一个属于自己的推理框架,可以推理resnet, unet, yolov5, mobilenet等模型,对面试和知识进阶大有裨益。