استخدام کارشناس مدل‌های یادگیری ماشینی (ml inference engineer)

توضیحات آگهی

شرح شغل
بهینه سازی مدل های یادگیری ماشین برای اجرای استنتاج با کارایی بالا در محیط عملیاتی با تمرکز بر کاهش تاخیر پاسخ گویی افزایش توان عملیاتی بهبود بهره وری استفاده از GPU مدیریت بهینه حافظه و ارتقای عملکرد سامانه های ارائه سرویس مدل
مسئولیت ها
بهینه سازی عملکرد استنتاج مدل های زبانی بزرگ مدل های بینایی ماشین و مدل های گفتار و صوت
اندازه گیری و ارزیابی تاخیر پاسخ گویی توان عملیاتی تعداد درخواست های هم زمان و میزان بهره برداری از GPU
بهینه سازی مدل ها با استفاده از روش هایی مانند کوانتیزه سازی Quantization کامپایل پردازش دسته ای Batching ذخیره سازی نتایج در حافظه نهان Caching و سایر روش های بهینه سازی
کار با چارچوب های استنتاج مدل مانند vLLM TensorRT ONNX Runtime TorchServe یا Ray Serve
بهینه سازی مصرف حافظه GPU و نحوه اجرای مدل ها
طراحی راهبردهای کارآمد برای پردازش دسته ای درخواست ها و زمان بندی آن ها
شناسایی و بررسی گلوگاه های عملکردی در لایه های مدل GPU شبکه و زیرساخت ارائه سرویس
طراحی و پیاده سازی آزمون های ارزیابی عملکرد استنتاج با قابلیت تکرارپذیری
همکاری با مهندسان یادگیری ماشین برای آماده سازی مدل ها جهت بهره برداری در محیط عملیاتی
همکاری با مهندسان عملیات یادگیری ماشین MLOps در زمینه زیرساخت ارائه سرویس مدل ها در محیط عملیاتی
شرایط احراز و الزامات
تسلط بر زبان برنامه نویسی Python و دانش قوی در زمینه یادگیری عمیق
درک عمیق از فرایند استنتاج مدل های یادگیری ماشین و معماری مدل ها
تجربه در اجرای استنتاج با PyTorch و بهینه سازی پردازش با GPU
تجربه کار با حداقل یکی از چارچوب های استنتاج مورد استفاده در محیط عملیاتی
آشنایی با مفاهیم پردازش دسته ای اجرای هم زمان درخواست ها تاخیر پاسخ گویی توان عملیاتی و حافظه GPU
مهارت بالا در تحلیل عملکرد پروفایل گیری Performance Profiling و اشکال زدایی
تجربه کار با سیستم عامل Linux و فناوری Docker
مزیت محسوب می شود
تجربه کار با CUDA TensorRT Triton یا ابزارهای پروفایل گیری CUDA
تجربه کار با vLLM و ارائه سرویس مدل های زبانی بزرگ
تجربه در زمینه کوانتیزه سازی مدل ها با قالب ها و دقت های عددی مانند FP16 INT8 یا MXFP4
تجربه کار با سامانه های استنتاج توزیع شده
تجربه در بهینه سازی مدل ها روی پردازنده های گرافیکی NVIDIA
شرکت مشاور مدیریت و خدمات ماشینی تامین Tamin ICT
دسته بندی وب برنامه نویسی و نرم افزار
نحوه همکاری تمام وقت
نوع همکاری حضوری
مدرک تحصیلی کارشناسی
سابقه کار کمتر از سه سال
حقوق از 40 000 000 تومان
جنسیت مهم نیست
مهارت ها یادگیری ماشین ML Python بهینه سازی مستندسازی
شهر تهران تهران