职位描述:职位:通信测试工程师背景介绍:Xinference是一款由知名开源社区推出的分布式推理框架,支持100+种大语言模型(如Deepseek系列、LLaMA系列、GPT等)、文本嵌入模型和多模态模型,并提供RESTfulAPI/CLI/WebUI交互,具备模型微调、多硬件加速(NPU/GPU)、分布式部署等核心能力。岗位职责:1.全链路软件质量保障-参与LLM推理服务测试(包括API/CLI/WebUI全接口覆盖)-设计大模型精度验证方案(如FP16/INT4等量化模型输出比对)-构建分布式压力测试场景(多节点资源调度/故障恢复测试)2.专项测试-模型兼容性矩阵测试(包括Hu*ingFace/Modelscope/GGML/自定义模型适配)-硬件异构环境验证(如Ascend/*IDIA/AMDGPU+多架构分布式测试)-Xinference推理平台及Agent平台测试(功能测试、性能测试、稳定性测试)-安全攻防测试(如API鉴权/注入攻击/模型劫持防护)3.工程效能提升-开发自动化测试工具链(基于pytest+Allure的CI/CD流水线)-搭建性能基准平台(如推理延迟/吞吐量/TPS监控体系)-建设多环境矩阵(如Docker/Kubernetes+Linux/Windows/macOS)任职要求:硬性能力:1.计算机相关专业本科/硕士在读2.具备Python编程能力,能使用unittest/pytest编写测试脚本3.熟悉docker,k8s,git等4.了解分布式系统基本原理加分项:-熟悉大模型技术栈(如Transformer/RLHF/PEFT)-熟悉大模型推理引擎(如vLLM/SGLang/llama-cpp等)-参与过开源项目测试-有大模型推理实践经验成长收获:1.开源影响力:贡献将被合并到Xinference主仓库,获得官方Contributor身份2.前沿技术实践:深度参与LLM工程化落地,掌握大模型服务化核心方法论3.工程师文化:获得项目Maintainer*指导,参与设计评审全流程
联系我时,请说是在58同城上看到的,谢谢!