AI產(chǎn)品研發(fā)+項目實施交付
1、負(fù)責(zé)公司AI產(chǎn)品(大模型開發(fā)平臺等)的后端代碼開發(fā)及運(yùn)維,持續(xù)對平臺進(jìn)行改造和優(yōu)化。
2、參與公司AI產(chǎn)品(大模型開發(fā)平臺等)實施交付、二次開發(fā)工作。
任職要求
1. 碩士及以上學(xué)歷,理科相關(guān)專業(yè),5 年以上算法開發(fā)/平臺研發(fā)經(jīng)驗;
2. 以下能力至少包含兩種:
- 熟悉大模型訓(xùn)練框架的使用,包括DeepSpeed、Llama-factory、ms-swift等任意一種,熟悉SFT/RLHF/DPO/PT等模型訓(xùn)練方式。有大模型分布式訓(xùn)練經(jīng)驗,了解RAY等分布式框架的使用。
- 掌握多種大模型推理加速技術(shù),了解vLLM/SGLang等加速框架的功能特性,可以基于框架進(jìn)行推理部分特性的改進(jìn)工作。
- 掌握多模態(tài)大模型訓(xùn)練和推理框架技術(shù),有多模態(tài)大模型相關(guān)的訓(xùn)練、推理、推理應(yīng)用經(jīng)驗。包括圖像視頻理解、語音理解、圖像生成等多模態(tài)大模型。
- 熟悉使用華為昇騰/沐曦/天數(shù)/燧原等國產(chǎn)GPU硬件進(jìn)行大模型訓(xùn)練和推理,包括硬件配置、環(huán)境構(gòu)建、模型適配、測試驗證等工作。
3. 熟悉Python編程,有較強(qiáng)代碼功底,了解面向?qū)ο笏枷爰伴_發(fā)模式;
4. 熟悉Linux常用命令及基本操作, 了解Docker、K8S、Git;
5. 具備較好的學(xué)習(xí)能力、問題分析能力,可以獨(dú)立定位解決問題;
6. 善于思考,能自主提出改善產(chǎn)品方案。