Entreprise : Sigma Nova
Lieu : Paris
Type de contrat : CDI (
Chez Sigma Nova, nous repoussons les limites de l'intelligence artificielle en entraînant et en optimisant des modèles de fondation à la pointe du domaine. Nous recherchons un Ingénieur de Recherche Junior (H/F) passionné par la recherche appliquée et l'ingénierie système pour rejoindre nos équipes et travailler directement sur nos infrastructures d'entraînement à grande échelle.
Vos missions
- Entraînement à grande échelle : Concevoir, lancer et monitorer des expériences de recherche et d'entraînement nécessitant l'allocation simultanée d'au moins 10 à plusieurs dizaines de GPU.
- Optimisation des performances : Identifier et résoudre les goulets d'étranglement (mémoire GPU, communications inter-nœuds, I/O) pour maximiser le throughput d'entraînement.
- Expérimentation & Benchmark : Mettre en œuvre de nouvelles architectures ou techniques (par exemple : parallélisme de données/modèle/pipeline, quantization, FlashAttention) et évaluer méthodiquement leur impact.
- Prototypage rapide : Transformer des papiers de recherche récents en du code de production propre, modulaire et hautement performant.
Profil recherché
Prérequis techniques :
- Formation : Diplôme de niveau Bac+5 / Master 2 (École d'Ingénieurs de premier rang ou Master Recherche en Informatique / IA / Mathématiques appliquées).
- Compute & GPU : Expérience pratique de l'entraînement distribué sur au moins 10 GPU simultanément (projets académiques, stages de fin d'études ou contributions open source).
- Framworks & Outillage : Maîtrise experte de PyTorch et des bibliothèques de distribué (torch.distributed, DeepSpeed, Megatron-LM ou Ray).
- System & Profiling : Bonne connaissance des architectures matérielles (Nvidia CUDA, mémoire HBM, interconnexions NVLink/InfiniBand) et des outils de profilage (PyTorch Profiler, Nsight).
- Programmation : Python avancé (clean code, typage, tests) et bases solides en C++/CUDA appréciées.
Qualités personnelles:
-Rigueur scientifique irréprochable et méthodologie expérimentale stricte.
-Autonomie face aux problèmes complexes d'infrastructure et de débogage distribué.
-Curiosité intellectuelle et veille constante sur la littérature scientifique du domaine.