Ingénieurs en recherche sur l'IA - Initiative Apertus — EPFL

Ce poste n'est plus actif. Vous trouverez ci-dessous les détails originaux et d’autres postes ouverts.

Description complète

Présentation

Le projet Apertus, un effort conjoint de l'EPFL et de l'ETH Zürich, cherche un ingénieur pratique et motivé pour aider à construire la prochaine génération de modèles de fondation ouverts. Le candidat retenu aidera à élaborer et à exécuter des pipelines d'apprentissage post-formation et de renforcement pour le projet Apertus.

Apertus est formé et développé sur les Alpes, l'infrastructure du Supercomputing Centre national suisse. Le rôle exige une personne qui est à l'aise de travailler dans un environnement de CHP et de collaborer avec des chercheurs et des ingénieurs en infrastructure.

Principales fonctions et responsabilités

L'ingénieur contribuera au développement, à l'exécution et à l'évaluation de flux de travail évolutifs post-formation pour Apertus.

Ingénierie des infrastructures et des systèmes

  • Construisez et maintenez des environnements containerizzato pour les charges de travail après l'entraînement et les RL.
  • Adapter les conteneurs et les dépendances pour l'exécution sur l'infrastructure Alpes / CSCS.
  • Exécuter et surveiller des emplois de formation et d'évaluation basés sur le lisier.
  • Les défaillances de débogage ont trait à l'exécution distribuée, au contrôle, aux performances du système de fichiers, au réseautage et à l'utilisation du GPU.
  • Aidez à maintenir des recettes de formation reproductibles, des fichiers de configuration, des scripts de lancement et de la documentation.
  • Collaborer avec les chercheurs et les ingénieurs du SCCS pour améliorer la fiabilité et le rendement des expériences à grande échelle.

LLM post-formation et renforcement de l'apprentissage

  • Soutenir SFT, optimiser les préférences et renforcer les flux de travail d'apprentissage.
  • Construire et exécuter des environnements RL pour les tâches avec des résultats vérifiables, comme les mathématiques, le code, l'utilisation d'outils et le raisonnement.
  • Développer la modélisation de récompense, l'étalonnage de récompense et la formation basée sur le vérificateur.
  • Générer et valider des tâches d'entraînement de synthèse ou de gym.
  • Exécuter des études d'ablation comparant des algorithmes, des fonctions de récompense, des mélanges de données, des hyperparamètres et des paramètres d'infrastructure.
  • Évaluer le comportement du modèle à travers le raisonnement, le codage, les mathématiques, le suivi des instructions, le multilinguisme, l'utilisation des outils et les repères de sécurité.
  • Déboguer les problèmes communs après la formation, y compris l'instabilité de l'optimisation, la récompense du piratage, les régressions et les échecs d'évaluation.

Profil

Essentiel

  • Maîtrise en informatique, sciences des données, intelligence artificielle, apprentissage automatique ou domaine connexe. Des candidats BSc exceptionnels ayant une solide expérience en ingénierie seront également considérés.
  • Expérience dans les architectures d'IA et de réseau neuronal
  • Forte capacité de collaboration et de communication et capacité de travailler entre les équipes de recherche et d'ingénierie.

Fortement préféré

  • Expérience avec Slurm ou un autre gestionnaire de charge de travail HPC.
  • Expérimentez la construction ou l'adaptation de conteneurs pour les grappes HPC ou GPU.
  • Expérience avec le réglage fin du LLM, la post-formation, l'optimisation des préférences ou l'apprentissage du renforcement.
  • Connaissance des concepts de formation distribués tels que le parallélisme des données, le parallélisme des tenseurs, le parallélisme des pipelines, le contrôle et la communication GPU.
  • Expérience avec des cadres tels que VERL, slime, Megatron-LM, DeepSpeed, TRL, vLLM, SGLang, ou des outils similaires.

Sympa d'avoir

  • Expérience avec RL pour les LLM, optimisation des politiques en ligne, modélisation récompense, ou RLVR.
  • Expérience en créant des tâches vérifiables pour les mathématiques, le code, le raisonnement ou l'utilisation d'outils.
  • Familiarité avec les bibliothèques GPU/distributées de niveau inférieur telles que CCNL, Transformer Engine, FlashAttention ou les moteurs de communication.
  • Expérience des pipelines d'évaluation à grande échelle.

Nous offrons

  • Un environnement académique stimulant dans l'une des plus grandes universités techniques du monde
  • La possibilité de travailler avec des infrastructures de pointe et des recherches de pointe sur l'IA
  • Collaboration avec les meilleurs chercheurs et ingénieurs de l'EPFL, de l'ETH Zürich, du CSCS et d'autres institutions suisses
  • Modalités de travail flexibles, y compris les possibilités de travail à distance
  • Possibilités de perfectionnement professionnel, y compris participation à des conférences et formation spécialisée
  • La chance de contribuer à des projets open-source à impact mondial
  • Accès à l'écosystème universitaire et aux partenariats industriels suisses
  • Faisant partie du développement souverain de l'IA en Suisse, travaillant sur des technologies d'importance nationale
  • Le rôle peut être basé à Lausanne à l'EPFL ou à Zurich à l'ETH Zürich.

Informations

Date de début du contrat : dès que possible

Taux d'activité Min : 80.00

Taux d'activité Max : 100.00

Type de contrat: CDD

Durée: 1 an, renouvelable

Référence: 2192

Détails de l'offre

  • Entreprise: EPFL
  • Poste: Ingénieurs en recherche sur l'IA - Initiative Apertus
  • Lieu: Lausanne, Vaud
  • Salaire: CHF 71'000 - 107'500 (source non vérifiée)
  • Secteur: education
  • Publiée le: 2026-05-10
  • Expirée le: 2026-10-15

Autres offres chez EPFL

Chercher des offres au Vaud

Parcourez notre job board complet.

Recherchez d'autres offres près de Lausanne: Emplois au Vaud

Trouvez votre prochaine opportunité en tant que frontalier en Suisse.

Consulter les postes ouverts →