大模型高效系統(tǒng)推理工程師
崗位職責(zé)：
●針對(duì)端（手機(jī)/智能終端設(shè)備）、邊（邊緣智能盒）、云（數(shù)據(jù)中心）的異構(gòu)算力環(huán)境（CPU/GPU/NPU等），按照項(xiàng)目需求設(shè)計(jì)并構(gòu)建高效的大語(yǔ)言模型（LLM）、多模態(tài)模型專(zhuān)屬推理系統(tǒng)。
●針對(duì)大模型推理效率及成本進(jìn)行優(yōu)化，解決算力堵點(diǎn)、優(yōu)化緩存效率、動(dòng)態(tài)降低模型推理時(shí)的計(jì)算冗余，實(shí)現(xiàn)低成本的大模型推理部署。
●與算法團(tuán)隊(duì)緊密協(xié)作，將大語(yǔ)言模型、多模態(tài)模型（如圖文理解、語(yǔ)音交互等）集成到推理系統(tǒng)中，優(yōu)化模型在實(shí)際場(chǎng)景中的推理效率（如模型量化、剪枝、異構(gòu)算子優(yōu)化）。
●編寫(xiě)系統(tǒng)設(shè)計(jì)文檔、技術(shù)方案與代碼注釋?zhuān)_保推理系統(tǒng)的可維護(hù)性、可擴(kuò)展性及標(biāo)準(zhǔn)化交付。
任職要求：
（一）基本條件
●碩士及以上學(xué)歷，計(jì)算機(jī)科學(xué)、軟件工程、電子工程等相關(guān)專(zhuān)業(yè)。
●5年以上高性能計(jì)算、模型推理系統(tǒng)研發(fā)經(jīng)驗(yàn)，有大語(yǔ)言模型/多模態(tài)模型部署、異構(gòu)算力優(yōu)化、端邊云協(xié)同項(xiàng)目經(jīng)驗(yàn)者優(yōu)先。
（二）專(zhuān)業(yè)技能
●熟悉大語(yǔ)言模型（如GPT系列、LLaMA、BERT）和多模態(tài)模型（如StableDiffusion、CLIP）的推理原理及優(yōu)化方法，具備模型輕量化（量化、剪枝、蒸餾）和加速部署經(jīng)驗(yàn)。
●精通DNN高性能推理計(jì)算框架（如TensorRT、ONNXRuntime、MNN、TNN），掌握CUDA/CuDNN、OpenCL、ARMNEON等異構(gòu)編程技術(shù)，能針對(duì)CPU/GPU/NPU等硬件特性?xún)?yōu)化推理算子。
●熟悉分布式推理架構(gòu)（如DeepSpeed、Megatron-LM推理優(yōu)化），掌握模型并行、數(shù)據(jù)并行、流水并行等分布式策略，具備大規(guī)模集群推理系統(tǒng)調(diào)優(yōu)經(jīng)驗(yàn)。
●了解端邊云協(xié)同技術(shù)（如邊緣計(jì)算框架KubeEdge、云原生平臺(tái)K8s/Docker），熟悉邊緣設(shè)備（如智能攝像頭、工業(yè)網(wǎng)關(guān)）的算力約束與部署要求。
（三）工具與框架
●有開(kāi)源推理框架（如ONNXRuntime、TritonInferenceServer）貢獻(xiàn)經(jīng)驗(yàn)或大規(guī)模模型推理系統(tǒng)落地案例。
●具備語(yǔ)音識(shí)別、圖像生成等多模態(tài)任務(wù)的端邊云協(xié)同推理實(shí)戰(zhàn)經(jīng)驗(yàn)。
●熟熟練使用Python/C++，具備高性能代碼開(kāi)發(fā)能力；熟悉PyTorch/TensorFlow等深度學(xué)習(xí)框架的推理部署流程。
●對(duì)算力資源調(diào)度（如任務(wù)分配、資源隔離）有實(shí)踐經(jīng)驗(yàn)，熟悉容器化部署與Serverless推理架構(gòu)。
（四）能力素質(zhì)
●具備復(fù)雜系統(tǒng)問(wèn)題分析能力，能快速定位異構(gòu)算力環(huán)境下的推理性能瓶頸并設(shè)計(jì)優(yōu)化方案。
●有強(qiáng)烈的技術(shù)探索精神，關(guān)注大模型推理前沿技術(shù)（如稀疏推理、動(dòng)態(tài)圖優(yōu)化、近似計(jì)算），具備創(chuàng)新落地能力。
●良好的團(tuán)隊(duì)協(xié)作與跨領(lǐng)域溝通能力，能與算法、硬件、產(chǎn)品團(tuán)隊(duì)高效配合，推動(dòng)技術(shù)方案落地。
●具備嚴(yán)謹(jǐn)?shù)墓こ趟季S，重視代碼質(zhì)量與系統(tǒng)可維護(hù)性，熟悉CI/CD流程與DevOps工具鏈。
簡(jiǎn)歷接收郵箱：DoNI-recruit@pcl.ac.cn
郵件標(biāo)題注明：應(yīng)聘某某崗位+本人姓名+高校人才網(wǎng)，【快捷投遞：點(diǎn)擊下方“立即投遞/投遞簡(jiǎn)歷”，即刻進(jìn)行職位報(bào)名】。
