Postdoc-Position zu KI-Ausrichtung und sicherer KI bei EPFL DLAB verfügbar — EPFL

Mission Forschungsthemen: • Ausrichtung • Große Sprachmodelle • Natürliche Sprachverarbeitung • Mechanische Interpretationsfähigkeit Bewerbungen werden für eine Postdoc-Stelle an der EPFL eingeladen, die vom Data Science & AI Lab unter der Leitung von Prof. Robert West. Wir suchen einen Kandidaten, der bahnbrechende Forschungsprojekte mit dem Ziel leitet, eine sichere KI aufzubauen, die sich wirklich um menschliche Interessen kümmert. Anstatt die Ausrichtung als reine Nachbearbeitung von vortrainierten Modellen zu betrachten ("Lipstick-on-a-Pig-Alignment"), tragen Sie zu unserer Agenda der "Erhöhung" von Modellen bei, die während des gesamten Trainingsprozesses kontinuierlich ausgerichtet werden, beginnend mit Token 1 im Vortraining (siehe hier für eine Vision auf hoher Ebene). Zu diesem Zweck kombinieren Sie synthetische Datengenerierung, mechanistische Interpretierbarkeit, LLM Pre- und Posttraining und Modellbewertung auf neuartige Weise. Hauptaufgaben und Zuständigkeiten Sie leisten einen Beitrag zur Swiss AI Initiative, insbesondere durch die Einbindung Ihrer Forschungsergebnisse in Apertus, das offene, transparente, mehrsprachige Sprachmodell der SwissAI. Sie werden in einem anregenden, offenen und internationalen Forschungsumfeld arbeiten, das aus vielen hochtalentierten und motivierten Studenten besteht, eingebettet in ein starkes Netzwerk von akademischen und industriellen Mitarbeitern. Weitere Vorteile sind ein wettbewerbsfähiges Gehalt (ab ca. CHF 88.000 p.a.), ein äußerst gut finanziertes nationales Forschungssystem, ein Büro neben einem atemberaubenden See und noch atemberaubenderen Bergen sowie eine großzügige Reiseunterstützung. Die Teilnahme am Unterricht ist möglich, aber nicht erforderlich. Die Projektarbeit mit MS- und Doktoranden wird erwartet. Profil Die Kandidaten sollten einen Doktortitel mit einer starken internationalen Publikationsbilanz in AI oder NLP abgeschlossen haben oder kurz vor dem Abschluss stehen. Starke Programmierkenntnisse und E