工作职责: 负责AI模型工程化相关工作，如框架设计、模型优化、推理加速等。 任职资格: 1.计算机、人工智能等相关专业本科以上学历，3年以上工作经验，具备扎实的C/C++/Python/CUDA等编程经验及工程化经验 2.2年及以上大模型分布式推理引擎开发经验；国际竞赛和核心会议发文 3.有AI Infra公司和AI芯片公司、大语言模型推理框架研发经验优先 4.有内存管理、算子优化、机器学习编译、异步并发、IO优化相关研发经验优先 5.熟悉深度学习算法（transformer、LLM、VLM、DM等）及及常用开源大模型 6.熟悉AI常用训练和部署(如PyTorch/DeepSpeed/QNN/vllm/TensorRT/sglang/ktransformer/openvino/ncnn/onnx等)应用与原理 7.熟悉常见模型轻量化方法（量化AWQ/GPTQ、剪枝、蒸馏等）和大模型推理加速（off-loading、投机采样等）及相关工具链 8.有CUDA性能优化及其他硬件（如 CPU、NPU 等）的使用、相关的性能调优经验，如FastTransformer、TensorRT、triton等经验优先