Senior GenAI Research Engineer - Optimization and Kernels
Databricks
Offre d'emploi pour un poste d'ingénieur de recherche senior spécialisé en intelligence artificielle générative (GenAI), avec un focus sur l'optimisation et les noyaux. Le rôle implique des travaux avancés en recherche et développement dans le domaine de l'IA, sans détails supplémentaires sur les missions précises, les technologies utilisées ou les projets en cours. Aucune information sur le salaire, la localisation, la durée du contrat ou les avantages n'est mentionnée.
Conditions d'éligibilité
Diplôme de BS/MS/PhD en informatique ou domaine connexe avec expérience pratique en écriture et optimisation de noyaux CUDA pour les applications d'entraînement en ML.
Expérience pratique avec les frameworks d'entraînement distribué (PyTorch DDP, DeepSpeed, Megatron-LM, FSDP).
Bonne compréhension de l'architecture des GPU NVIDIA (hiérarchie mémoire, cœurs tensoriels, ordonnancement des warps, occupation des SM).
Maîtrise des outils de débogage/profilage CUDA (Nsight, NVProf).
Connaissance approfondie des techniques de parallélisme et des stratégies d'optimisation mémoire pour l'entraînement de modèles à grande échelle.
Compétences solides en ingénierie logicielle avec Python et PyTorch, ainsi qu'une expérience des flux de travail d'entraînement en production.
Connaissance des dynamiques d'entraînement des LLM, y compris le réglage des hyperparamètres et les stratégies d'optimisation.
Pièces à fournir
- CV
- Lettre de motivation
Candidatez à cette offre avec un dossier généré par l'IA
Matchwork rédige votre CV et votre lettre de motivation personnalisés pour cette offre en quelques minutes.
Créer mon dossier gratuitement