岗位职责:
1、负责全场景AI推理框架的架构设计、关键技术研究及核心代码开发工作;
2、参与高性能算子开发和性能优化,提升模型推理性能;
3、参与小型化工具(量化、稀疏、剪枝)相关设计与开发工作,提升模型压缩与推理性能;
4、参与AI框架分布式推理、异构并行推理的设计和调优、开发,实现大模型推理的性能和扩展性领先和项目落地。
岗位要求:
1、熟悉Linux系统,熟练掌握C/C++编程、python变成。编码能力突出,热爱编程,具有扎实的工程实现能力;
2、掌握一种主流深度学习推理框架(MindSpore Lite、Tensorflow Lite、MNN、TNN等)者优先;
3、有CPU、GPU、Ascend算子优化经验,熟悉OpenCL/OpenGL/Vulkan/Metal,熟悉ARM/X86体系结构以及SIMD指令并行技术者优先。