Postdoctoral Researcher (OCCL) — ETH Zürich

Vollständige Beschreibung

Postdoktorand (OCCL)

100%, Singapur, befristet

Das Singapur-ETH-Zentrum wurde 2010 von der ETH Zürich - dem Eidgenössischen Institut für Technologie und der Nationalen Forschungsstiftung Singapurs (NRF) als Teil des CREATE-Campus des NRF gegründet. Als einziges Forschungszentrum der ETH Zürich außerhalb der Schweiz hat das Zentrum die Forschungskapazität der ETH Zürich gestärkt, um nachhaltige Lösungen für globale Herausforderungen in der Schweiz, Singapur und den umliegenden Regionen zu entwickeln.

Das in Asien, einer sich rasch verstädternden Region, angesiedelte Singapur-ETH-Zentrum zielt darauf ab, durch seine Programme „Future Cities Lab Global“ (FCL Global) und „Future Health Technologies“ (FHT) praktische Lösungen für einige der dringendsten Herausforderungen in Bezug auf städtische Nachhaltigkeit, Widerstandsfähigkeit und Gesundheit zu bieten.

Das Zentrum dient als intellektuelle Drehscheibe für die Forschung und bringt leitende Forscher und Forscher aus verschiedenen Disziplinen und Hintergründen zusammen. Um den Austausch von Ideen und Fachwissen zu fördern, arbeiten unsere Forscher aktiv mit Universitäten und Forschungsinstituten zusammen und engagieren sich mit Industrie- und Regierungsbehörden, um Wissen in praktische Lösungen für reale Probleme umzusetzen.

Projekthintergrund

Die aktuelle Ära der künstlichen Intelligenz wird vor allem durch Fortschritte in der Rechenleistung und Infrastruktur angetrieben. Da Modelle zu beispiellosen Größen skaliert werden, werden ihre Fähigkeiten durch Strategien wie Reinforcement Learning (RL) und innovative Frameworks wie den "Graphen der Gedanken" verbessert. Wir befinden uns fest im "Age of Computation", wo Durchbrüche in der KI gleichbedeutend mit der Fähigkeit sind, massive Rechenressourcen zu nutzen und zu optimieren. Dieses schnelle Wachstum der Rechenanforderungen bringt jedoch eine entscheidende Herausforderung mit sich: Energiebeschränkungen. Rund um den Globus werden neue Kraftwerke gebaut, um den Anforderungen der KI-Arbeitslasten gerecht zu werden, was den dringenden Bedarf an Effizienz unterstreicht, um sicherzustellen, dass diese Fortschritte der Menschheit nachhaltig zugute kommen. Besonders in Singapur sind solche Ressourcen möglicherweise knapp und behindern die Fähigkeit der Forscher des Landes, in diesem wichtigsten Bereich voranzukommen.

Die aktuelle Ära der künstlichen Intelligenz wird vor allem durch Fortschritte in der Rechenleistung und Infrastruktur angetrieben. Da Modelle zu beispiellosen Größen skaliert werden, werden ihre Fähigkeiten durch Strategien wie Reinforcement Learning (RL) und innovative Frameworks wie den "Graphen der Gedanken" verbessert. Wir befinden uns fest im "Age of Computation", wo Durchbrüche in der KI gleichbedeutend mit der Fähigkeit sind, massive Rechenressourcen zu nutzen und zu optimieren. Diese schnell wachsenden, dünnen Rechenanforderungen sind jedoch mit einer kritischen Herausforderung verbunden: Energiebeschränkungen. Rund um den Globus werden neue Kraftwerke gebaut, um den Anforderungen der KI-Arbeitslasten gerecht zu werden, was den dringenden Bedarf an Effizienz unterstreicht, um sicherzustellen, dass diese Fortschritte der Menschheit nachhaltig zugute kommen. Besonders in Singapur sind solche Ressourcen möglicherweise knapp und behindern die Fähigkeit der Forscher des Landes, in diesem wichtigsten Bereich voranzukommen.

Unsere Zusammenarbeit mit dem ASTAR Institute of Advanced Intelligence and Computing (ASTAR IAIC) und anderen Partnern in Singapur, wie der NTU, könnte in diesem Bereich von entscheidender Bedeutung sein, um die Entwicklung und Implementierung innovativer KI-Methoden voranzutreiben und Millionen von Dollar an Rechenzeit zu sparen und gleichzeitig die wissenschaftliche Produktivität zu beschleunigen. Um die Wirksamkeit von KI-for-Science-Modellen zu verbessern, ist es unerlässlich, Simulationen zu integrieren, die wissenschaftliche Vorkenntnisse in diese KI-Rahmenbedingungen kodieren. Diese Integration zielt darauf ab, neue Modelle mit robustem Vorwissen zu erstellen, wie simulierte Verhaltensweisen, die durch grundlegende Gleichungen und Erhaltungsgesetze definiert werden. Unser Ansatz beinhaltet die enge Zusammenarbeit von Experten von ASTAR IAIC, die umfangreiche Erfahrungen im Bereich Hochleistungsrechnen und KI-getriebene wissenschaftliche Forschung mitbringen. Gemeinsam wollen wir die Grenzen dessen, was KI in wissenschaftlichen Bereichen erreichen kann, erweitern und sicherstellen, dass Simulationen und KI-Methoden kombiniert werden, um hochgenaue und zuverlässige Modelle zu erstellen.

Stellenbeschreibung

Der Postdoktorand wird die Entwicklung einer neuartigen Open-Source-Beschleuniger-Kommunikationsbibliothek (OCCL) mitführen. Diese Kommunikationsbibliothek sollte Punkt-zu-Punkt- sowie kollektive Kommunikationsanrufe unterstützen. Es sollte eine vom Host initiierte Kommunikation sowie eine innerhalb von Beschleunigergerätekernen initiierte Kommunikation ermöglichen. Es sollte eine breite Palette von Geräten und Netzwerksubstraten wie NVLINK und Ethernet-Netzwerke der nächsten Generation unterstützen.

Einige wichtige Komponenten in der Arbeit sind

• Co-Leiter des Designs und der Entwicklung einer Open-Source-Beschleuniger-Kommunikationsbibliothek (OCCL), die Punkt-zu-Punkt- und kollektive Kommunikation für verteilte KI-Workloads unterstützt.
• Konzipieren und implementieren Sie Kommunikationsprimitiven und Algorithmen, die für maschinelles Lernen und Inferenz-Workloads optimiert sind, und unterstützen Sie die Kommunikation, die sowohl von Host-Anwendungen als auch von Beschleunigergerätekernen initiiert wird.
• Untersuchen und optimieren Sie Kommunikationsmuster für umfangreiche Deep-Learning-Workloads, einschließlich Techniken zur Verbesserung der Effizienz durch Kommunikationsplanung und Überlappung mit Berechnungen.
• Stellen Sie sicher, dass die Kommunikationsbibliothek über verschiedene Hardwareplattformen und Netzwerksubstrate konfigurierbar und portabel ist, einschließlich moderner Hochleistungs-Verbindungstechnologien, die in HPC- und ML-Umgebungen wie UCX, NVLINK, InfiniBand, UltraEthernet und verwandten Netzwerk-Frameworks verwendet werden.
• Evaluieren und optimieren Sie die Kommunikationsbibliothek und die zugehörigen Softwarekomponenten auf GPU-Clustern und großen Computersystemen, um die Leistungsskalierbarkeit, Robustheit und Benutzerfreundlichkeit in heterogenen Computerarchitekturen sicherzustellen.
• Arbeiten Sie mit Forschern und Ingenieuren an Partnerinstitutionen in Singapur und Zürich zusammen, um OCCL in das breitere FastTrackAI-Software-Ökosystem zu integrieren.
• Pflegen Sie eine effektive Kommunikation und Zusammenarbeit mit Vorgesetzten, Forschungsmitarbeitern und externen Partnern in Singapur und Zürich, um die Ausrichtung der Forschungsziele und -ergebnisse zu gewährleisten.
• Bereiten und veröffentlichen Sie wichtige wissenschaftliche Ergebnisse, einschließlich Papiere, die Forschungsergebnisse und Systementwicklungen dokumentieren.
• Tragen Sie zur Co-Supervision von MSc- und BSc-Studenten bei, die an verwandten Forschungsthemen arbeiten.

Profil

Sie haben

• PhD in Informatik oder einem verwandten Bereich.
• Die erfolgreichen Kandidaten sollten einen starken Hintergrund in Informatik, Parallel Computing, Compilern, Leistungsoptimierung und Hochleistungs-Computersystemen haben. Hervorragende Kenntnisse von C und C++ sind erforderlich.
• Gute Kenntnisse der Designprinzipien bestehender High-Level-Kommunikationsbibliotheken wie MPI und NCCL.
• Erfahrung und/oder Wissen über moderne Kommunikations- und Netzwerktechnologien, die in HPC- und ML-Umgebungen wie UCX, NVLINK, InfiniBand, UltraEthernet oder verwandten Frameworks verwendet werden.
• Vorkenntnisse zur Kommunikationsoptimierung für groß angelegte ML-Trainings und Inferenz-Workloads sind unerlässlich. Ein Kandidat mit vorhandenen Publikationen in verteilten ML-Systemen, HPC-Systemen oder verwandten sind sehr wünschenswert.
• Da das Ziel dieses Projekts darin besteht, ein Softwareprodukt zu bauen, nicht nur einen Prototyp, ist vorherige Erfahrung in der Verwaltung und Durchführung größerer Software-Engineering-Projekte erforderlich.
• Das Team, das an diesem Thema arbeitet, ist auf Singapur und Zürich verteilt, daher muss ein erfolgreicher Kandidat in der Lage sein, unabhängig zu arbeiten und effektiv mit entfernten Kollegen zu kommunizieren.
• Bewerber müssen in schriftlichem und gesprochenem Englisch kompetent sein.

Wir bieten

• Akkreditiert mit 5 Tripartite Standards von Tripartite Alliance for Fair & Progressive Employment Practices (TAFEP) Singapur.
• Ein vielseitiger Arbeitsplatz mit 32 Nationalitäten, der reichlich Möglichkeiten zum gegenseitigen Lernen bietet.
• Positive und inklusive Arbeitsumgebung.
• 25 Tage Jahresurlaub bei befristeten Verträgen.
• 1 Tag Geburtstagsurlaub.
• Jährliche Zahnleistungen.
• Verpflichtet, ein unterstützender Arbeitgeber zu sein, während Sie Ihr körperliches und geistiges Wohlbefinden priorisieren.
• Umfassende Krankenversicherung.
• Flexible hybride Arbeitsanordnung (bis zu 2 Tage pro Woche von zu Hause aus).
• Vielfältige Networking-Möglichkeiten in verschiedenen Disziplinen.
• Akkreditiert mit NS-Mark-Zertifizierung.

Das Singapore-ETH Centre ist ein gleichberechtigter und familienfreundlicher Arbeitgeber. Alle Kandidaten werden nach ihren Verdiensten und Qualifikationen bewertet, ohne Rücksicht auf Geschlecht, Rasse, Alter oder Religion.

Wir legen Wert auf Vielfalt und Nachhaltigkeit

Im Einklang mit unseren Werten fördert die ETH Zürich eine inklusive Kultur. Wir fördern Chancengleichheit, schätzen Vielfalt und fördern ein Arbeits- und Lernumfeld, in dem die Rechte und die Würde aller unserer Mitarbeiter und Studenten respektiert werden. Besuchen Sie unsere Website für Chancengleichheit und Vielfalt, um herauszufinden, wie wir ein faires und offenes Umfeld gewährleisten, in dem jeder wachsen und gedeihen kann. Nachhaltigkeit ist für uns ein zentraler Wert – wir arbeiten konsequent auf eine klimaneutrale Zukunft hin.

Neugierig? Wir sind es auch.

Wir freuen uns auf Ihre Online-Bewerbung mit folgenden Unterlagen:

• Ein Anschreiben mit einer spezifischen Erklärung Ihrer Motivation für das Projekt und wie Ihr Hintergrund und Ihre Erfahrung mit der Position übereinstimmen. Bitte verweisen Sie auf die oben beschriebenen Anforderungen und beziehen Sie Ihren eigenen Hintergrund und Ihre Erfahrungen aus der Vergangenheit darauf.
• Ihr Lebenslauf einschließlich des Namens und der Kontaktinformationen von 2 Referenzen.
• Eine Kopie Ihrer Universität Transkripte als PDFs.
• Referenz- oder Empfehlungsschreiben können enthalten sein.

Bitte beachten Sie, dass wir ausschließlich Bewerbungen annehmen, die über unser Online-Bewerbungsportal eingereicht werden. Bewerbungen per E-Mail oder Post werden nicht berücksichtigt.

Wir weisen darauf hin, dass die Vorauswahl durch die verantwortlichen Recruiter und nicht durch künstliche Intelligenz erfolgt.

Arbeitsplatz : 1 Create Way, CREATE Tower, Singapur 138602 (NUS University Town)

Vertragsdauer: 2 Jahre

Die Vergütung wird den Qualifikationen und der einschlägigen Erfahrung des Bewerbers entsprechen.

Weitere Informationen zum The Singapore-ETH Centre finden Sie auf unserer Website.

Für weitere Informationen wenden Sie sich bitte an Frau Iva Kabosch (ETH Zürich), [email protected]

Zentrum Singapur-ETH

Das Singapur-ETH-Zentrum bietet ein multikulturelles und interdisziplinäres Umfeld für Forscher, die an verschiedenen Themen arbeiten, die sich auf nachhaltige und lebenswerte Städte, widerstandsfähige städtische Systeme und patientenzentrierte Gesundheitsversorgung konzentrieren. Das Zentrum beherbergt eine Gemeinschaft von über 100 Doktoranden, Postdoktoranden und Professoren, die in drei Hauptprogrammen arbeiten: Future Cities Laboratory, Future Resilient Systems und Future Health Technologies.