国产三级网站在线观看-免费国产白袜踩踏视频区-免费黄片视频大全在线观看-97精品人妻无码在线视频

我們正在尋找一位對大型語言模型（LLM）充滿熱情并具備深厚技術(shù)實力的開發(fā)工程師。您將深度參與公司大模型的訓練、優(yōu)化與部署全流程，致力于提升模型在特定領(lǐng)域的性能與推理效率，解決實際業(yè)務場景中的挑戰(zhàn)。
核心職責
1. 模型訓練與微調(diào)：
? 負責大模型的增量預訓練（Continued Pre-training），利用領(lǐng)域數(shù)據(jù)提升模型的基礎(chǔ)知識水平。
? 負責基于高效微調(diào)技術(shù)（如LoRA, QLoRA, P-Tuning等）對模型進行指令微調(diào)（SFT），以適應下游特定任務。
? 探索和實驗新的訓練技術(shù)和策略，以持續(xù)提升模型效果和訓練效率。
2. 推理優(yōu)化與部署：
? 負責大模型的推理性能優(yōu)化，顯著降低響應延遲和計算成本。
? 優(yōu)先要求：具備PD（Prefill-Decode）分離推理架構(gòu)的實際項目經(jīng)驗，能夠?qū)崿F(xiàn)并優(yōu)化該架構(gòu)下的動態(tài)批處理、連續(xù)批處理（Continuous Batching）等關(guān)鍵技術(shù)。
? 熟悉并使用主流推理優(yōu)化框架（如vLLM, TensorRT-LLM, TGI等）進行模型部署和加速。
? 實施模型量化（INT4/AWQ/GPTQ等）、模型壓縮、KV-Cache優(yōu)化等技術(shù)。
任職要求
1. 學歷與經(jīng)驗：計算機科學、人工智能、數(shù)學或相關(guān)專業(yè)本科及以上學歷，具備2年及以上大模型相關(guān)研發(fā)經(jīng)驗。
2. 技術(shù)棧：
? 熟練掌握PyTorch深度學習框架，具有扎實的Python編程能力。
? 深入理解并具備增量預訓練和高效參數(shù)微調(diào)（PEFT） 的實戰(zhàn)經(jīng)驗，能獨立完成整個訓練流程。
? 熟悉Transformer模型原理，以及主流大模型（如LLaMA, ChatGLM, Qwen等）的結(jié)構(gòu)。
? 優(yōu)秀的分析問題和解決問題的能力，對攻克技術(shù)難題充滿激情。
優(yōu)先考慮：
1. 具有PD分離推理優(yōu)化、連續(xù)批處理（如vLLM的實現(xiàn)）等項目的實際開發(fā)經(jīng)驗者優(yōu)先。
2. 有使用Deepspeed, FSDP等進行分布式訓練經(jīng)驗者優(yōu)先。
3. 有在華為昇騰算力環(huán)境下的實際訓推工作經(jīng)驗者優(yōu)先。