工作內(nèi)容：
1、模型微調(diào)與優(yōu)化：參與大模型在OA協(xié)同辦公業(yè)務(wù)場(chǎng)景下的應(yīng)用，包括但不限于：基于公有云大模型做局部私有資料的對(duì)接微調(diào)，基于私有大模型做垂直領(lǐng)域的數(shù)據(jù)抓取、自動(dòng)標(biāo)注、微調(diào)訓(xùn)練；
2、應(yīng)用落地：負(fù)責(zé)大模型的模型適配與應(yīng)用落地，包括但不限于LLM、Langchain、Agent、Eval等技術(shù)；
3、性能評(píng)估監(jiān)測(cè)與部署：定期監(jiān)控模型性能，進(jìn)行在特定應(yīng)用場(chǎng)景下的各類模型能力的評(píng)估，確保模型達(dá)到業(yè)務(wù)要求，能夠進(jìn)行模型的容器化部署。
技能要求：
1、參與過(guò)大模型相關(guān)開(kāi)發(fā)工作，包括但不限于：數(shù)據(jù)清洗、開(kāi)源模型實(shí)際微調(diào)、訓(xùn)練框架開(kāi)發(fā)、評(píng)測(cè)、推理部署等；
2、精通Python編程語(yǔ)言，熟悉Java等其他編程語(yǔ)言，熟悉常用框架如PyTorch,TensorFlow等深度學(xué)習(xí)框架；
3、熟悉大語(yǔ)言模型的增量預(yù)訓(xùn)練、指令微調(diào)、偏好微調(diào)等多種訓(xùn)練方法 ，有全場(chǎng)景訓(xùn)練實(shí)戰(zhàn)落地經(jīng)驗(yàn)；
4、熟悉全參數(shù)、LoRA 、QLoRA 等微調(diào)方法, 有微調(diào)場(chǎng)景落地經(jīng)驗(yàn)；
5、熟悉DeepSpeed、flash-attn、vllm等大模型訓(xùn)練及推理加速方法；
6、熟悉數(shù)據(jù)收集、清洗和預(yù)處理的流程。有訓(xùn)練數(shù)據(jù)構(gòu)造落地經(jīng)驗(yàn)；
7、熟悉Docker、Kubernetes等容器化技術(shù)；
8、有針對(duì)開(kāi)源模型實(shí)際微調(diào) ,并使其形成行業(yè)領(lǐng)域模型者優(yōu)先。
備注：薪資主要匹配候選人的經(jīng)驗(yàn)和能力，一事一議，range很大。