中国僵尸片,亚洲欧美国产另类视频,亚洲精品无码人妻无码,亚洲有码转帖,亚洲欧美精品伊人久久,97精品依人久久久

更新于 今天

大模型推理加速框架研發(fā)工程師

2.3-4.5萬
  • 成都武侯區(qū)
  • 3-5年
  • 本科
  • 全職
  • 招1人

職位描述

VLLMPyTorch
匯報對象:AI基礎設施部技術總監(jiān) 一、核心職責 推理框架開發(fā)—— 1.參與基于FlashMLA的多頭注意力解碼器開發(fā),優(yōu)化變長序列處理效率 2.集成DeepGEMM FP8計算庫,實現(xiàn)混合精度推理流水線搭建 性能調優(yōu)實施—— 1.分析Triton Inference Server日志,定位顯存溢出及計算瓶頸問題 2.開發(fā)動態(tài)批處理系統(tǒng) 本地化部署支持—— 1.適配昇騰等國產(chǎn)芯片 2.構建本地化模型倉庫,通過3FS等方案實現(xiàn)模型加載速度提升 二、任職要求 1.基礎條件 1)學歷:計算機/電子工程本科及以上(優(yōu)秀??瓶煞艑挘? 2)經(jīng)驗:3年開發(fā)經(jīng)驗,至少參與過1個完整項目落地 2.技術棧 1)熟練使用Python/C++開發(fā)工具鏈 2)掌握PyTorch模型導出與ONNX/TensorRT轉換流程 3)熟悉CUDA基礎編程,能調試簡單GPU內(nèi)核代碼 3.優(yōu)先條件 1)有vLLM/FasterTransformer框架二次開發(fā)經(jīng)驗 2)接觸過MoE模型分布式推理架構

工作地點

成都武侯區(qū)天府軟件園D區(qū)創(chuàng)業(yè)場A42

職位發(fā)布者

徐女士/招聘經(jīng)理

三日內(nèi)活躍
立即溝通
公司Logo飛享數(shù)據(jù)
【關于飛享】杭州飛享數(shù)據(jù)技術有限公司(以下簡稱“飛享”)成立于2014年,是一家聚焦于“互聯(lián)網(wǎng)邊緣計算”和“超本地內(nèi)容交付”領域的創(chuàng)新型科技企業(yè),是杭州市高新區(qū)“5050計劃”重點企業(yè)、“雛鷹計劃”重點企業(yè)、高新技術企業(yè)。核心團隊來自于銳捷、華為、阿郎等國內(nèi)外知名IT企業(yè)的高管。飛享在一年內(nèi)完成了兩輪融資,最近一次融資由迅雷網(wǎng)絡(XNET)領投數(shù)千萬元,成為該領域國內(nèi)增速最快的企業(yè)之一。飛享的互聯(lián)網(wǎng)邊緣計算和超本地內(nèi)容交付解決方案,能夠大幅提升長尾運營商的用戶互聯(lián)網(wǎng)體驗、并幫助運營商降低網(wǎng)絡運營成本多至50%;與此同時,飛享也與芒果TV、愛奇藝等互聯(lián)網(wǎng)內(nèi)容方緊密合作,幫助互聯(lián)網(wǎng)內(nèi)容方提升用戶體驗、降低內(nèi)容分發(fā)成本。成立兩年多來,飛享已經(jīng)成功服務于教育、運營商等200多家大型政企客戶;在中國最頂尖的985/211高校,飛享的覆蓋率超過60%,穩(wěn)居第一?!娟P于即將加入的你】我們希望你能夠真正理解并且做到——1、不計較的付出。來創(chuàng)業(yè)公司,都是奔著高速成長和財務回報去的。成長這件事,想提速就得加油,不計較付出。付出永遠是和回報成正比的。2、對結果負責。我們都在同一條船上,大家背靠背作戰(zhàn)靠的就只能是默契。對結果負責的人,會得到團隊的信任。3、承擔大粒度的工作。在這里你不是一顆螺絲釘,沒有大公司的成熟規(guī)范和職責說明,你能做的是承擔一塊業(yè)務,把它搞定,并努力成為這個業(yè)務的負責人。我們?yōu)槟闾峁匠甏觯盒袠I(yè)內(nèi)有競爭力的薪資,每年2次加薪機會,每年1次期權分配機會,目前飛享半數(shù)員工持有期權,只有你敢想、敢干,能干,你就能和公司分享成長的紅利。社會保險:五險一金,必備項目,沒什么好說的;員工福利:節(jié)日福利、免費下午茶、年度體檢、生日會、技術沙龍等;個人假期:帶薪年休假、婚假、產(chǎn)假、陪產(chǎn)假等國家法定假期,每月帶薪事病假8小時,春節(jié)放假10-15天;職業(yè)成長:員工入職每人配一名資深輔導員,各種豐富務實的培訓;辦公環(huán)境:DELL的24寸XPS大屏,機械鍵盤敲代碼都是可以的;員工活動:團隊outing、公司年會、每月小活動,每季大活動等等。飛享坐標:浙江省杭州市濱江區(qū)火炬大道581號,三維通信B座1007室簡歷通道:hr@fxdata.cn飛享期待你的加入!
公司主頁