崗位職責(zé):
1、負(fù)責(zé)跟蹤大模型安全的發(fā)展趨勢(shì),解讀國(guó)際、國(guó)家大模型安全政策標(biāo)準(zhǔn),參與集團(tuán)、公司大模型安全政策標(biāo)準(zhǔn)編寫工作;
2、負(fù)責(zé)通用大模型(LLM)在訓(xùn)練過程、預(yù)測(cè)過程中的安全風(fēng)險(xiǎn)評(píng)估,并對(duì)常見的大模型安全風(fēng)險(xiǎn)如提示詞注入、算法安全、數(shù)據(jù)安全、模型竊取等提供安全解決方案;
3、配合產(chǎn)研團(tuán)隊(duì)完成等大模型安全產(chǎn)品的規(guī)劃與行銷工作,包含但不限于大模型風(fēng)險(xiǎn)測(cè)評(píng)、大模型安全圍欄、大模型防火墻系統(tǒng)等;
4、配合運(yùn)營(yíng)團(tuán)隊(duì)構(gòu)建公司大模型安全運(yùn)營(yíng)體系,結(jié)合公司業(yè)務(wù)特性進(jìn)行風(fēng)險(xiǎn)評(píng)估,設(shè)計(jì)出適合公司業(yè)務(wù)發(fā)展需要的大模型安全解決方案并推動(dòng)落地;
5、通過數(shù)據(jù)分析、評(píng)測(cè)效果反饋,不斷優(yōu)化大模型安全管控策略,提高大模型安全機(jī)審和人審防護(hù)質(zhì)量;
任職要求:
1、數(shù)學(xué)、計(jì)算機(jī)、機(jī)器學(xué)習(xí)專業(yè),本科及以上學(xué)歷,5年以上安全行業(yè)從業(yè)經(jīng)驗(yàn);
2、熟悉LLM、NLP、CV等模型,有機(jī)器學(xué)習(xí)基礎(chǔ),對(duì)傳統(tǒng)模型和大模型技術(shù)有深刻認(rèn)知,明晰算法在機(jī)審場(chǎng)景的應(yīng)用方法優(yōu)先;
3、具備一定架構(gòu)設(shè)計(jì)能力,主導(dǎo)過安全行業(yè)相關(guān)產(chǎn)品的底層設(shè)計(jì)、產(chǎn)品規(guī)劃,或者完成過關(guān)鍵技術(shù)突破;
4、熟悉自然語(yǔ)言處理(NLP)和機(jī)器學(xué)習(xí)(ML)相關(guān)技術(shù)和算法實(shí)現(xiàn),具備扎實(shí)的編程能力,熟悉常用編程語(yǔ)言(如Python、Java、C++);
5、熟悉大模型的訓(xùn)練、調(diào)試及推理過程,有大模型安全、AIGC安全、內(nèi)容安全、數(shù)據(jù)安全從業(yè)經(jīng)驗(yàn)者優(yōu)先;