Senior Solutions Architetto – Large Scale AI Inference — NVIDIA (ufficio Zurich)
- Località
- Zürich
- Contratto
- full-time
- Pubblicato
- 3 giorni fa
Panoramica
Siamo alla ricerca di un Senior Solutions Architect con profonda esperienza nell'inferenza AI di produzione su larga scala. Potrai collaborare con i migliori nativi AI EMEA, fornitori di infrastrutture AI e le imprese che dispiegano AI in scala. In qualità di leader tecnico di fiducia, ti assicurerai che lo stack di inferenza di NVIDIA raggiunga le migliori prestazioni, efficienza e affidabilità. Rivolgerete le più dure sfide di inferenza AI del settore all'intersezione dell'AI e dell'informatica ad alte prestazioni, guidando innovazioni in settori come il multi-nodo Mixture-of-Experts (MoE) servendo, interconnect-aware scheduling, l'ottimizzazione del carico di lavoro di memoria e le architetture di inferenza di nuova generazione. Il vostro lavoro istituirà la direzione tecnica per l'inferenza AI scalabile e ad alte prestazioni in tutti gli ambienti di produzione più esigenti.
- Guida i clienti di EMEA AI Natives nella distribuzione e nell'ottimizzazione dei carichi di lavoro su larga scala su cluster GPU multi-nodi.
- Architetto efficiente oleodotti di inferenza per modelli MoE densi e radi / latenti distribuendo carico di lavoro tra migliaia di GPU.
- Migliorare l'efficienza dell'inferenza attraverso la quantizzazione (INT4/FP8), decodifica speculativa, prefill/decode disaggregated, gestione della cache KV e WideEP per grandi implementazioni MoE.
- Collabora con i team di prodotti NVIDIA (Dynamo, TensorRT-LLM, NIXL) per accelerare il successo del cliente.
- Animare la comunità di sviluppatori di inferenza AI attraverso EMEA attraverso workshop tecnici, hackathons e architetture di riferimento.
- MS o PhD in Informatica, Ingegneria, High-Performance Computing, o equivalente esperienza professionale.
- 5+ anni di esperienza nell'ottimizzazione dell'inferenza delle reti neurali.
- Solida comprensione dell'ottimizzazione dell'inferenza dei trasformatori: quantizzazione, inferenza disaggregata, decodifica speculativa, in batch continuo, ottimizzazione della cache KV.
- Esperienza pratica nell'inferenza MoE in scala: parallelismo esperto, WideEP, comunicazione all-to-all, routing overhead e bilanciamento del carico su scala.
- Siamo alla ricerca di un Senior Solutions Architect con profonda esperienza nell'inferenza AI di produzione su larga scala.
- Potrai collaborare con i migliori nativi AI EMEA, fornitori di infrastrutture AI e le imprese che dispiegano AI in scala.
- NVIDIA si impegna a promuovere un ambiente di lavoro diverso e orgoglioso di essere un datore di lavoro pari opportunità.
- Poiché apprezziamo molto la diversità nei nostri dipendenti attuali e futuri, non discriminate (anche nelle nostre pratiche di assunzione e promozione) sulla base di razza, religione, colore, origine nazionale, sesso, espressione di genere, orientamento sessuale, età, stato civile, stato veterano, stato di disabilità o qualsiasi altra caratteristica protetta dalla legge.
Requisiti principali
- Siamo alla ricerca di un Senior Solutions Architect con profonda esperienza nell'inferenza AI di produzione su larga scala.
- Potrai collaborare con i migliori nativi AI EMEA, fornitori di infrastrutture AI e le imprese che dispiegano AI in scala.
- In qualità di leader tecnico di fiducia, ti assicurerai che lo stack di inferenza di NVIDIA raggiunga le migliori prestazioni, efficienza e affidabilità.
- Rivolgerete le più dure sfide di inferenza AI del settore all'intersezione dell'AI e dell'informatica ad alte prestazioni, guidando innovazioni in settori come il multi-nodo Mixture-of-Experts (MoE) servendo, interconnect-aware scheduling, l'ottimizzazione del carico di lavoro di memoria e le architetture di inferenza di nuova generazione.
- Il vostro lavoro istituirà la direzione tecnica per l'inferenza AI scalabile e ad alte prestazioni in tutti gli ambienti di produzione più esigenti. Cosa farai:
- Guida i clienti di EMEA AI Natives nella distribuzione e nell'ottimizzazione dei carichi di lavoro su larga scala su cluster GPU multi-nodi.
- Architetto efficiente oleodotti di inferenza per modelli MoE densi e radi / latenti distribuendo carico di lavoro tra migliaia di GPU.
- Migliorare l'efficienza dell'inferenza attraverso la quantizzazione (INT4/FP8), decodifica speculativa, prefill/decode disaggregated, gestione della cache KV e WideEP per grandi implementazioni MoE.
- Collabora con i team di prodotti NVIDIA (Dynamo, TensorRT-LLM, NIXL) per accelerare il successo del cliente.
- Animare la comunità di sviluppatori di inferenza AI attraverso EMEA attraverso workshop tecnici, hackathons e architetture di riferimento. Cosa dobbiamo vedere
- MS o PhD in Informatica, Ingegneria, High-Performance Computing, o equivalente esperienza professionale.
- 5+ anni di esperienza nell'ottimizzazione dell'inferenza delle reti neurali.
Cosa offre l’azienda
- NVIDIA si impegna a promuovere un ambiente di lavoro diverso e orgoglioso di essere un datore di lavoro pari opportunità.
- Poiché apprezziamo molto la diversità nei nostri dipendenti attuali e futuri, non discriminate (anche nelle nostre pratiche di assunzione e promozione) sulla base di razza, religione, colore, origine nazionale, sesso, espressione di genere, orientamento sessuale, età, stato civile, stato veterano, stato di disabilità o qualsiasi altra caratteristica protetta dalla legge.
Dettagli ulteriori
- Il vostro lavoro istituirà la direzione tecnica per l'inferenza AI scalabile e ad alte prestazioni in tutti gli ambienti di produzione più esigenti.
- Animare la comunità di sviluppatori di inferenza AI attraverso EMEA attraverso workshop tecnici, hackathons e architetture di riferimento. Cosa dobbiamo vedere
- Capacità di impegnarsi efficacemente con ingegneri, ricercatori e architetti di sistemi ML a un livello tecnico profondo. Modi per distinguersi dalla folla
- Il tuo stipendio base sarà determinato in base alla tua posizione, esperienza e la paga dei dipendenti in posizioni simili. Per la Polonia: la gamma di stipendio base è 292,500 PLN
Note e contenuto originale
- Cosa farai:
- Animare la comunità di sviluppatori di inferenza AI attraverso EMEA attraverso workshop tecnici, hackathons e architetture di riferimento.
- Cosa dobbiamo vedere
- Capacità di impegnarsi efficacemente con ingegneri, ricercatori e architetti di sistemi ML a un livello tecnico profondo.
- Modi per distinguersi dalla folla
- Il tuo stipendio base sarà determinato in base alla tua posizione, esperienza e la paga dei dipendenti in posizioni simili.
- Per la Polonia: la gamma di stipendio base è 292,500 PLN
Domande frequenti su questo annuncio
Che stipendio offre NVIDIA (ufficio Zurich) per questa posizione?
NVIDIA (ufficio Zurich) indica CHF 113'500 - 172'000 lordi annui per questo ruolo a Zürich. Questo è lo stipendio pubblicato nell'annuncio originale (o, quando il datore non specifica una cifra, una stima realistica per ruolo e settore) — il calcolatore di questo sito lo converte nel netto reale una volta applicate imposta da frontaliere e contributi sociali.
È un ruolo a tempo pieno, e che tipo di contratto offre NVIDIA (ufficio Zurich)?
Questo annuncio è una posizione a tempo pieno. Il tipo di contratto mostrato qui arriva direttamente dall'annuncio originale del datore di lavoro; conferma sempre orario esatto, preavviso e durata del periodo di prova con NVIDIA (ufficio Zurich) durante il colloquio, perché questi dettagli possono variare anche all'interno della stessa categoria contrattuale.
Serve un permesso da frontaliere per un ruolo nel canton Zurigo?
I residenti UE/AELS nella zona di frontiera del paese confinante con il canton Zurigo possono richiedere il Permesso G; il datore di lavoro svizzero lo presenta all'ufficio della migrazione di quel canton dopo la firma del contratto. Regole sulla zona di frontiera e tempi di lavorazione variano per paese confinante e canton — verifica i dettagli con l'ufficio della migrazione del canton Zurigo o con HR durante il colloquio.
Come mi candido a questa posizione presso NVIDIA (ufficio Zurich)?
Usa il pulsante "Candidati ora" in questa pagina — rimanda direttamente all'annuncio originale di NVIDIA (ufficio Zurich) su nvidia.wd5.myworkdayjobs.com, quindi la tua candidatura arriva direttamente nel sistema di gestione candidature del datore di lavoro. Frontaliere Ticino non raccoglie né inoltra candidature in proprio.
