崗位職責:
1、負責人工智能模型算法開發(fā)及優(yōu)化;
2、負責人工智能大模型在國產(chǎn)軟硬件平臺上的分布式訓(xùn)練性能優(yōu)化、微調(diào)訓(xùn)練技術(shù)優(yōu)化;
3、負責人工智能大模型在國產(chǎn)軟硬件平臺上的推理性能優(yōu)化。
任職資格:
1、計算機,人工智能,高性能計算等相關(guān)專業(yè);
2、掌握大模型預(yù)訓(xùn)練、微調(diào)相關(guān)知識,熟悉megatron-lm或deepspeed框架,有多機多卡訓(xùn)練模型相關(guān)經(jīng)驗;
3、掌握大模型推理框架性能優(yōu)化相關(guān)知識,熟悉vllm,tensorRT-LLM,LMDeploy或其他LLM推理框架,有部署推理服務(wù)框架相關(guān)經(jīng)驗;
4、熟悉強化學(xué)習、數(shù)據(jù)對齊、智能體、RAG相關(guān)技術(shù);
5、熟悉pytorch,cuda,c++編程語言;
6、具有使用國產(chǎn)人工智能加速卡進行算法開發(fā)或優(yōu)化經(jīng)驗者優(yōu)先;
7、具有優(yōu)秀的自主學(xué)習能力和團隊協(xié)作能力