崗位職責(zé):
1、負(fù)責(zé)AI推理框架開(kāi)發(fā),充分挖掘后端硬件的算力,構(gòu)建AI框架
2、適配各業(yè)務(wù)算法模型,落地到服務(wù)器及端側(cè)設(shè)備上
3、將AI技術(shù)有效結(jié)合并應(yīng)用到業(yè)務(wù)場(chǎng)景,實(shí)現(xiàn)低成本、高效率,提高核心競(jìng)爭(zhēng)力
崗位要求:
1、具備扎實(shí)的Python編程基礎(chǔ),熟悉Pandas、NumPy、pytorch、Matplotlib、TensorFlow等科學(xué)計(jì)算庫(kù)和python常見(jiàn)模塊,能夠獨(dú)立部署端到端的python項(xiàng)目,熟悉緩存中間件(Redis等) ,了解AI生態(tài)的RAG框架
2、熟悉業(yè)界開(kāi)源框架設(shè)計(jì)實(shí)現(xiàn),包含TFLite、MNN、MindSpore Lite、TVM等,具有框架開(kāi)發(fā)經(jīng)驗(yàn)更佳
3、熟悉自然語(yǔ)言模型結(jié)構(gòu),具備模型部署的調(diào)試調(diào)優(yōu)能力,了解各種量化、剪枝、稀疏壓縮等模型小型化技術(shù),以及算子融合、圖優(yōu)化、訪存優(yōu)化等優(yōu)化技術(shù)
4、熟悉CPU、GPU等通用硬件架構(gòu),以及相應(yīng)指令集和算子庫(kù),了解一款主流NPU硬件架構(gòu)和工具鏈,比如HTP、APU等
5、熟悉微服務(wù)及運(yùn)維相關(guān)技術(shù),如aws、sagemaker或其他CI/CD工具、Docker、K8s生態(tài),對(duì)網(wǎng)絡(luò)架構(gòu)有一定了解
6、具有較強(qiáng)的學(xué)習(xí)和解決問(wèn)題的能力,擁有良好的團(tuán)隊(duì)合作和溝通能力