Ingénieurs en recherche sur l'IA - Initiative Apertus — EPFL
Ce poste n'est plus actif. Vous trouverez ci-dessous les détails originaux et d’autres postes ouverts.
Description complète
Présentation
Le projet Apertus, un effort conjoint de l'EPFL et de l'ETH Zürich, cherche un ingénieur pratique et motivé pour aider à construire la prochaine génération de modèles de fondation ouverts. Le candidat retenu aidera à élaborer et à exécuter des pipelines d'apprentissage post-formation et de renforcement pour le projet Apertus.
Apertus est formé et développé sur les Alpes, l'infrastructure du Supercomputing Centre national suisse. Le rôle exige une personne qui est à l'aise de travailler dans un environnement de CHP et de collaborer avec des chercheurs et des ingénieurs en infrastructure.
Principales fonctions et responsabilités
L'ingénieur contribuera au développement, à l'exécution et à l'évaluation de flux de travail évolutifs post-formation pour Apertus.
Ingénierie des infrastructures et des systèmes
- Construisez et maintenez des environnements containerizzato pour les charges de travail après l'entraînement et les RL.
- Adapter les conteneurs et les dépendances pour l'exécution sur l'infrastructure Alpes / CSCS.
- Exécuter et surveiller des emplois de formation et d'évaluation basés sur le lisier.
- Les défaillances de débogage ont trait à l'exécution distribuée, au contrôle, aux performances du système de fichiers, au réseautage et à l'utilisation du GPU.
- Aidez à maintenir des recettes de formation reproductibles, des fichiers de configuration, des scripts de lancement et de la documentation.
- Collaborer avec les chercheurs et les ingénieurs du SCCS pour améliorer la fiabilité et le rendement des expériences à grande échelle.
LLM post-formation et renforcement de l'apprentissage
- Soutenir SFT, optimiser les préférences et renforcer les flux de travail d'apprentissage.
- Construire et exécuter des environnements RL pour les tâches avec des résultats vérifiables, comme les mathématiques, le code, l'utilisation d'outils et le raisonnement.
- Développer la modélisation de récompense, l'étalonnage de récompense et la formation basée sur le vérificateur.
- Générer et valider des tâches d'entraînement de synthèse ou de gym.
- Exécuter des études d'ablation comparant des algorithmes, des fonctions de récompense, des mélanges de données, des hyperparamètres et des paramètres d'infrastructure.
- Évaluer le comportement du modèle à travers le raisonnement, le codage, les mathématiques, le suivi des instructions, le multilinguisme, l'utilisation des outils et les repères de sécurité.
- Déboguer les problèmes communs après la formation, y compris l'instabilité de l'optimisation, la récompense du piratage, les régressions et les échecs d'évaluation.
Profil
Essentiel
- Maîtrise en informatique, sciences des données, intelligence artificielle, apprentissage automatique ou domaine connexe. Des candidats BSc exceptionnels ayant une solide expérience en ingénierie seront également considérés.
- Expérience dans les architectures d'IA et de réseau neuronal
- Forte capacité de collaboration et de communication et capacité de travailler entre les équipes de recherche et d'ingénierie.
Fortement préféré
- Expérience avec Slurm ou un autre gestionnaire de charge de travail HPC.
- Expérimentez la construction ou l'adaptation de conteneurs pour les grappes HPC ou GPU.
- Expérience avec le réglage fin du LLM, la post-formation, l'optimisation des préférences ou l'apprentissage du renforcement.
- Connaissance des concepts de formation distribués tels que le parallélisme des données, le parallélisme des tenseurs, le parallélisme des pipelines, le contrôle et la communication GPU.
- Expérience avec des cadres tels que VERL, slime, Megatron-LM, DeepSpeed, TRL, vLLM, SGLang, ou des outils similaires.
Sympa d'avoir
- Expérience avec RL pour les LLM, optimisation des politiques en ligne, modélisation récompense, ou RLVR.
- Expérience en créant des tâches vérifiables pour les mathématiques, le code, le raisonnement ou l'utilisation d'outils.
- Familiarité avec les bibliothèques GPU/distributées de niveau inférieur telles que CCNL, Transformer Engine, FlashAttention ou les moteurs de communication.
- Expérience des pipelines d'évaluation à grande échelle.
Nous offrons
- Un environnement académique stimulant dans l'une des plus grandes universités techniques du monde
- La possibilité de travailler avec des infrastructures de pointe et des recherches de pointe sur l'IA
- Collaboration avec les meilleurs chercheurs et ingénieurs de l'EPFL, de l'ETH Zürich, du CSCS et d'autres institutions suisses
- Modalités de travail flexibles, y compris les possibilités de travail à distance
- Possibilités de perfectionnement professionnel, y compris participation à des conférences et formation spécialisée
- La chance de contribuer à des projets open-source à impact mondial
- Accès à l'écosystème universitaire et aux partenariats industriels suisses
- Faisant partie du développement souverain de l'IA en Suisse, travaillant sur des technologies d'importance nationale
- Le rôle peut être basé à Lausanne à l'EPFL ou à Zurich à l'ETH Zürich.
Informations
Date de début du contrat : dès que possible
Taux d'activité Min : 80.00
Taux d'activité Max : 100.00
Type de contrat: CDD
Durée: 1 an, renouvelable
Référence: 2192
Détails de l'offre
- Entreprise: EPFL
- Poste: Ingénieurs en recherche sur l'IA - Initiative Apertus
- Lieu: Lausanne, Vaud
- Salaire: CHF 71'000 - 107'500 (source non vérifiée)
- Secteur: education
- Publiée le: 2026-05-10
- Expirée le: 2026-10-15
Autres offres chez EPFL
- Responsable Infrastructures — Lausanne
- Executive Directeur - E4S (Enterprise for Society) — Lausanne
- Poste postdoctoral au sein du groupe Théorie — Lausanne
- Technicien(ne) / Technicien(ne) - Culture de cellules de mammifères et immuno-ingénierie — Lausanne
- Responsable du développement des partenariats - EPFL AI Center (80% - 100%) — Lausanne
Chercher des offres au Vaud
Parcourez notre job board complet.
Recherchez d'autres offres près de Lausanne: Emplois au Vaud
Trouvez votre prochaine opportunité en tant que frontalier en Suisse.