Senior Machine Learning Engineer, LLM Inference Optimization
מהנדס/ת למידת מכונה בכיר/ה בצוות Applied AI של Nebius תעבוד על אופטימיזציה של מודלי LLM ושרתי inference, החל מדחיסת מודלים וכמותיזציה ועד לשיפור latency וזרימת עבודה בייצור. תפקידך יכלול עבודה עם מנועי inference כמו vLLM ו-TensorRT-LLM, אופטימיזציה של KV-cache, speculative decoding, ניתוב בקשות מתוחכם, והרצת inference מבוזר על מחשבי GPU מרובים. נדרשות כישורי תכנות חזקים ב-Python ו-PyTorch, ניסיון בעבודה עם אחד ממערכות ה-inference המודרניות, והבנה עמוקה של צווארי בקבוק בתרגום של transformers כולל KV cache וparallelism. מיקום: מרחוק, בישראל · עבודה מרחוק · מחלקה: ML להגשת מועמדות: באתר החברה, דרך הכפתור למטה
Company
Nebius
Location
Remote
All Israel
This role is published on Nebius's own site. You apply there; our part is getting it seen.
All open roles at Nebius →Apply on the company siteWant up to 3 matching jobs by mail every morning? Paste your CV.Ask about this listingThis listing was collected from a public external source. To contact the poster, visit the original post.
Original page at careers.nebius.com