نبذة عن الدور الوظيفي
نحن نبحث عن عضو في فريق العمل التقني للانضمام إلى فريق هندسة النشر الميداني (FDE). في هذا الدور الذي يتضمن التعامل المباشر مع العملاء، ستعمل عن كثب مع الشركاء الاستراتيجيين والعملاء كجزء من فريق FDE لتمكين وتحسين ونشر أحمال عمل استنتاج الذكاء الاصطناعي التوليدي (GenAI) المتطورة على وحدات المعالجة المركزية (CPUs) ووحدات معالجة الرسومات (GPUs) من فئة AMD Instinct المخصصة لمراكز البيانات. ستعمل كجسر يربط بين نماذج الذكاء الاصطناعي المتطورة وأجهزة AMD، مما يحفز الأداء التنافسي عبر حزمة الاستنتاج بالكامل.
المسؤوليات
- التعاون مع العملاء كجزء من فريق FDE لتمكين وتحسين النماذج اللغوية الكبيرة (LLMs) والنماذج متعددة الوسائط على وحدات معالجة الرسومات AMD Instinct، مع الالتزام بتحقيق أهداف الأداء والدقة المطلوبة.
- تحسين خطوط أنابيب استنتاج الذكاء الاصطناعي التوليدي (GenAI) على vLLM و SGLang، بما في ذلك فصل PD، وتوازي الخبراء (EP/wide-EP)، وتوازي البيانات/الموترات، وفك التشفير التوقعي، وإدارة ذاكرة التخزين المؤقت KV.
- تطوير وضبط نوى (Kernels) وحدات معالجة الرسومات منخفضة المستوى (Triton، وHIP، والنوى القابلة للتكوين) لعمليات الانتباه (Attention)، وMoE، وGEMM، والتكميم (Quantization)، والتطبيع (Normalization).
- تحليل أحمال العمل من البداية إلى النهاية، وتحديد الاختناقات عبر حدود وحدة معالجة الرسومات/وحدة المعالجة المركزية، وتقديم تحسينات ملموسة في الإنتاجية وزمن الوصول مقارنة بالأهداف التنافسية.
- تمكين أنواع البيانات والتقنيات المتقدمة (مثل FP8، وMXFP4، والانتباه المتناثر) مع التركيز على كل من الأداء والدقة الرقمية.
- تصحيح مشكلات وقت التشغيل المعقدة، والاستقرار، والدقة في بيئات الإنتاج؛ والتعاون مع فرق الهندسة الأساسية لتحديد الأسباب الجذرية وتقديم الإصلاحات اللازمة.
- المساهمة بالتحسينات في أطر العمل مفتوحة المصدر (vLLM، وSGLang، وATOM، وAITER) والمكتبات الداخلية؛ وتوثيق أفضل الممارسات وتقديم أدوات جاهزة للإنتاج للعملاء.
- الاستفادة من أدوات البرمجة المدعومة بالذكاء الاصطناعي وسير عمل الوكلاء (Agentic Workflows) لتسريع التطوير، وتصحيح الأخطاء، والتحسين، ومراجعة الكود عبر حزمة الاستنتاج.
ما ستقدمه
- درجة البكالوريوس أو الماجستير أو الدكتوراه في علوم الحاسب، أو الهندسة الكهربائية، أو مجال ذي صلة، مع خبرة ذات صلة تزيد عن 8 سنوات.
- خبرة قوية في بنية وحدات معالجة الرسومات وتحسين الأداء، بما في ذلك الخبرة العملية في AMD ROCm (أو CUDA) وتطوير نوى وحدات معالجة الرسومات.
- كفاءة عالية في لغتي Python وC++، مع خبرة في تطوير وتحسين النوى باستخدام Triton، أو HIP، أو CUDA.
- خبرة في البرمجة المدعومة بالذكاء الاصطناعي وأدوات التطوير الوكيلية (مثل GitHub Copilot، أو Claude، أو Cursor، أو ما يعادلها) لتعزيز الإنتاجية في تطوير النوى، والتنقل في قواعد الأكواد واسعة النطاق، وتصحيح الأخطاء، وتكامل أطر العمل.
- خبرة في العمل مع أطر عمل استنتاج النماذج اللغوية الكبيرة (vLLM، أو SGLang، أو ما يعادلها) وتقنيات تحسين الخدمة.
- فهم قوي لبنية المحولات (Transformer) وMoE، والتكميم، واستراتيجيات الاستنتاج الموزع (TP، وDP، وEP، وتقنيات التوازي ذات الصلة).
- الكفاءة في استخدام أدوات التحليل وتصحيح الأخطاء (مثل rocProfiler، وROCdebug-agent).
مهارات إضافية مرغوبة
- خبرة في تحسين النماذج الرائدة (مثل DeepSeek، وQwen، وKimi، وMiniMax، وGLM، إلخ) في بيئات الإنتاج.
- سجل حافل بالمساهمة في أطر عمل استنتاج الذكاء الاصطناعي مفتوحة المصدر.
- خبرة في دمج الأتمتة المدعومة بالذكاء الاصطناعي في سير عمل الهندسة وأدوات المطورين.
- مهارات تواصل قوية مع العملاء والقدرة على إدارة التسليمات التقنية وفقًا للجداول الزمنية الملتزم بها.
ملف المرشح المطلوب
- درجة البكالوريوس أو الماجستير أو الدكتوراه في علوم الحاسب، أو الهندسة الكهربائية، أو مجال ذي صلة، مع خبرة ذات صلة تزيد عن 8 سنوات.
- خبرة قوية في بنية وحدات معالجة الرسومات وتحسين الأداء، بما في ذلك الخبرة العملية في AMD ROCm (أو CUDA) وتطوير نوى وحدات معالجة الرسومات.
- كفاءة عالية في لغتي Python وC++، مع خبرة في تطوير وتحسين النوى باستخدام Triton، أو HIP، أو CUDA.
- خبرة في البرمجة المدعومة بالذكاء الاصطناعي وأدوات التطوير الوكيلية (مثل GitHub Copilot، أو Claude، أو Cursor، أو ما يعادلها) لتعزيز الإنتاجية في تطوير النوى، والتنقل في قواعد الأكواد واسعة النطاق، وتصحيح الأخطاء، وتكامل أطر العمل.
- خبرة في العمل مع أطر عمل استنتاج النماذج اللغوية الكبيرة (vLLM، أو SGLang، أو ما يعادلها) وتقنيات تحسين الخدمة.
- فهم قوي لبنية المحولات (Transformer) وMoE، والتكميم، واستراتيجيات الاستنتاج الموزع (TP، وDP، وEP، وتقنيات التوازي ذات الصلة).
- الكفاءة في استخدام أدوات التحليل وتصحيح الأخطاء (مثل rocProfiler، وROCdebug-agent).
About the Role
We are seeking a Member of Technical Staff to join our Forward Deployed Engineering (FDE) team. In this customer-facing role, you will work directly with strategic partners and customers as part of the FDE team to enable, optimize, and deploy state-of-the-art GenAI inference workloads on AMD data center CPUs and GPUs (Instinct family). You will bridge the gap between cutting-edge AI models and AMD hardware, driving competitive performance across the full inference stack.
Responsibilities
- Partner with customers as part of the FDE team to enable and optimize large language models (LLMs) and multimodal models on AMD Instinct GPUs, meeting committed performance and accuracy targets.
- Optimize GenAI inference pipelines on vLLM and SGLang, including PD disaggregation, expert parallelism (EP/wide-EP), tensor/data parallelism, speculative decoding, and KV cache management.
- Develop and tune low-level GPU kernels (Triton, HIP, composable kernels) for attention, MoE, GEMM, quantization, and normalization operations.
- Profile end-to-end workloads, identify bottlenecks across GPU/CPU boundaries, and deliver measurable throughput and latency improvements versus competitive targets.
- Enable advanced data types and techniques (FP8, MXFP4, sparse attention) with a focus on both performance and numerical accuracy.
- Debug complex runtime, stability, and accuracy issues in production environments; partner with core engineering teams to identify root causes and contribute fixes.
- Contribute optimizations back to open-source frameworks (vLLM, SGLang, ATOM, AITER) and internal libraries; document best practices and deliver production-ready artifacts to customers.
- Leverage AI-assisted coding tools and agentic workflows to accelerate development, debugging, optimization, and code review across the inference stack.
What You'll Bring
- BS, MS, or PhD in Computer Science, Electrical Engineering, or a related field, along with 8+ years of relevant experience.
- Solid expertise in GPU architecture and performance optimization, including hands-on experience with AMD ROCm (or CUDA) and GPU kernel development.
- Strong proficiency in Python and C++, with experience developing and optimizing kernels using Triton, HIP, or CUDA.
- Experience with AI-assisted coding and agentic development tools (e.g., GitHub Copilot, Claude, Cursor, or equivalent) to enhance productivity in kernel development, large-scale codebase navigation, debugging, and framework integration.
- Experience working with LLM inference frameworks (vLLM, SGLang, or equivalent) and serving optimization techniques.
- Solid understanding of transformer and MoE architectures, quantization, and distributed inference strategies (TP, DP, EP, and related parallelism techniques).
- Proficiency with profiling and debugging tools (e.g., rocProfiler, ROCdebug-agent).
Nice to Have
- Experience optimizing frontier models (DeepSeek, Qwen, Kimi, MiniMax, GLM, etc.) in production environments.
- Track record of contributing to open-source AI inference frameworks.
- Experience integrating AI-driven automation into engineering workflows and developer tooling.
- Strong customer-facing communication skills and the ability to manage technical deliverables against committed timelines.
Desired Candidate Profile
- BS, MS, or PhD in Computer Science, Electrical Engineering, or a related field, along with 8+ years of relevant experience.
- Solid expertise in GPU architecture and performance optimization, including hands-on experience with AMD ROCm (or CUDA) and GPU kernel development.
- Strong proficiency in Python and C++, with experience developing and optimizing kernels using Triton, HIP, or CUDA.
- Experience with AI-assisted coding and agentic development tools (e.g., GitHub Copilot, Claude, Cursor, or equivalent) to enhance productivity in kernel development, large-scale codebase navigation, debugging, and framework integration.
- Experience working with LLM inference frameworks (vLLM, SGLang, or equivalent) and serving optimization techniques.
- Solid understanding of transformer and MoE architectures, quantization, and distributed inference strategies (TP, DP, EP, and related parallelism techniques).
- Proficiency with profiling and debugging tools (e.g., rocProfiler, ROCdebug-agent).