LLM Inference Engineer
מהנדס/ת LLM Inference בחברה המפתחת תשתית AI מותאמת אישית לעומסי עבודה ודרישות גבוהות. תפקידך יהיה לבנות ולאופטימיזציה של stack inference קומפלטי על החומרה של Majestic, כולל התאמת frameworks כמו vLLM ו-SGLang, ניהול KV cache, scheduling ובאצ'ינג של בקשות. דרוש ניסיון של 5+ שנים בבניית מערכות inference וserving של LLM בייצור, ידע עמוק ב-Python ו-C++, וביכולת לנתח ולאופטימיזציה של performance בכל שכבות המערכת. דרוש גם ידע בinference distributed והבנה חזקה של transformer architecture ודינמיקת batching. מיקום: רעננה · משרה מלאה · מחלקה: Engineering להגשת מועמדות: באתר החברה, דרך הכפתור למטה
Company
Majestic Labs
Raanana
This role is published on Majestic Labs's own site. You apply there; our part is getting it seen.
All open roles at Majestic Labs →Apply on the company siteWant up to 3 matching jobs by mail every morning? Paste your CV.Ask about this listingThis listing was collected from a public external source. To contact the poster, visit the original post.
Original page at comeet.com