任職要求:
"1、熟悉大模型常見結(jié)構(gòu)與基礎(chǔ)知識
2、熟悉Huggingface Transformer/Megatron/vLLM等大模型訓(xùn)推框架,有過模型適配經(jīng)驗
3、有獨立的分析問題和解決問題的能力
4、有過芯片適配經(jīng)驗者優(yōu)先
工作職責(zé):
"1、及時響應(yīng)客戶的請求,現(xiàn)場或遠(yuǎn)程協(xié)助客戶進(jìn)行故障排除,確保及時響應(yīng),協(xié)助研發(fā)解決客戶使用產(chǎn)品中的阻塞性問題。
2、部署或適配過常見的大模型或小模型,對齊精度并調(diào)優(yōu)好訓(xùn)練和推理框架的策略
3、根據(jù)業(yè)務(wù)要求,產(chǎn)出各場景benchmark的精度和性能數(shù)據(jù)
4、定位到適配的算子精度和性能問題,供業(yè)務(wù)團(tuán)隊做算子優(yōu)化
5、沉淀和開發(fā)模型適配和測試過程中的效率工具及相關(guān)技術(shù)文檔"
崗位關(guān)鍵詞:大/小模型泛化適配、芯片適配、模型性能/精度分析、模型準(zhǔn)出