职位已关闭
刘女士
感兴趣

卓越际联科技有限公司 ·HR

职位描述

岗位职责
① 基于Huggingface、魔搭社区等模型平台,搭建端到端大模型训练、微调和部署工具链,实现LLM大模型在GPU集群系统的高效部署;;
②)基于国产化GPU集群系统和开发环境,根据客户要求适配大模型,进行微调训练,部署推理服务,提高模型的适应性和性能;
任职要求
① 具备良好的编程能力,有Linux平台开发经验,熟练掌握Python语言,熟悉常见的深度学习框架,如TensorFlow、PyTorch等;并能够根据业务需求进行算法移植和调试;②)精通主流开源大模型的技术原理和典型应用场景,包括不限于Llama3,chatGum等;具备大模型开发、训练和调优经验,对Prompt工程、RAG、RLHF、Agent等有一定的实践;
③熟练掌握常见的推理工具和引擎,如Triton、TensorRT、vLLM等,深入理解Transformer网络结构,熟悉常见Transformer模型推理优化方法,能敏锐洞察和理解技术前沿及趋势;
④熟悉Colossal-AI,Ray,Deepspeed或Megatron-LM等大模型分布式训练框架的优先;
⑤ 熟练掌握CUDA编程模型和GPU加速技术等,有基于国产化芯片的深度学习框架开发和优化经验优先;
其它
①具备良好的客户服务意识,严谨的做事风格,能够承受较大的工作压力;
②具备良好的沟通表达能力,善于团队协作,乐于分享,责任心强;

工商信息

卓越际联科技有限公司杭州分公司

法定代表人:邱庭磊 注册资本:10万人民币
成立日期:2023-04-07 经营状态:存续

工作地址

上海黄浦区上海市黄浦区复兴东路2号复星商务大厦
卓越际联科技有限公司

卓越际联科技有限公司杭州分公司

人力资源服务1000-9999人

更新于:2025-01-20
下载APP确定

已安装?在APP中 直接打开