崗位職責(zé):
1、基于業(yè)務(wù)場(chǎng)景選擇/改進(jìn)大模型架構(gòu)(如心理咨詢需長(zhǎng)對(duì)話、情緒識(shí)別);
2、優(yōu)化訓(xùn)練流程:降低算力需求(如混合并行訓(xùn)練);
3、實(shí)現(xiàn)模型輕量化:從百億參數(shù)壓縮到10B以下,適配小型機(jī)(如單臺(tái)8*A100);
4、設(shè)計(jì)領(lǐng)域適配方案:結(jié)合心理學(xué)知識(shí)庫增強(qiáng)模型專業(yè)性;
5、部署與監(jiān)控:模型服務(wù)API化、資源占用實(shí)時(shí)優(yōu)化;
6、完成領(lǐng)導(dǎo)交辦的其他工作。
任職要求:
1、??萍耙陨蠈W(xué)歷,至少5年P(guān)ython開發(fā)經(jīng)驗(yàn);
2、掌握Python + Shell/Linux環(huán)境操作,深入理解Transformer架構(gòu)(Self-Attention、位置編碼等);
3、熟悉主流開源大模型(如LLaMA、ChatGLM、Bloom等)的微調(diào)與優(yōu)化;
4、掌握模型壓縮技術(shù):知識(shí)蒸餾、量化(INT8/4bit)、剪枝、低秩分解 ;
5、數(shù)據(jù)處理:能構(gòu)建高質(zhì)量領(lǐng)域數(shù)據(jù)集(清洗、增強(qiáng)、標(biāo)注);
6、輕量化部署:模型服務(wù)化(ONNX/TensorRT轉(zhuǎn)換)、內(nèi)存優(yōu)化(如KV-Cache優(yōu)化);
7、熟悉模型評(píng)測(cè)方法(自動(dòng)指標(biāo)+人工評(píng)測(cè));
8、有開源大模型輕量化落地經(jīng)驗(yàn)(如LLaMA-7B在單卡部署);
9、工作細(xì)致認(rèn)真,責(zé)任心強(qiáng),具備良好的團(tuán)隊(duì)協(xié)作精神。
公司主要開發(fā)各種心理健康檢測(cè)與治療型應(yīng)用軟件,現(xiàn)誠(chéng)招軟件工程師 !
高新、創(chuàng)新工作!公司為國(guó)家高新企業(yè),涉及智能開發(fā)、智能穿戴、物聯(lián)網(wǎng)、軟硬件交互、三維、VR,對(duì)接多個(gè)領(lǐng)域,工作富有挑戰(zhàn)性。想循規(guī)蹈矩、只是想碼多年不變模塊代碼的勿投!
公司主頁:http://www.ygxinjian.com/ (陽光心健產(chǎn)品網(wǎng))
軟件區(qū):http://www.ygxinjian.com/goods_photo_77_1.html
上班時(shí)間:8:30-12:00 13:30-17:30(周末雙休)
工作地址:
合肥市新站區(qū)文忠路與澮水路交口 新站創(chuàng)新產(chǎn)業(yè)園9號(hào)樓 陽光心健
溫馨提示:
乘車路線:乘坐公交301路、302路、303路、304路至盤塘公交站下,步行200米到
乘坐地鐵3號(hào)線至文澮苑站1號(hào)口出,步行100米到