Senior Solutions Architect – Large Scale AI Inference — NVIDIA (ufficio Zurich)

Descrizione completa

Siamo alla ricerca di un Senior Solutions Architect con profonda esperienza nell'inferenza AI di produzione su larga scala. Potrai collaborare con i migliori nativi AI EMEA, fornitori di infrastrutture AI e le imprese che dispiegano AI in scala. In qualità di leader tecnico di fiducia, ti assicurerai che lo stack di inferenza di NVIDIA raggiunga le migliori prestazioni, efficienza e affidabilità. Rivolgerete le più dure sfide di inferenza AI del settore all'intersezione dell'AI e dell'informatica ad alte prestazioni, guidando innovazioni in settori come il multi-nodo Mixture-of-Experts (MoE) servendo, interconnect-aware scheduling, l'ottimizzazione del carico di lavoro di memoria e le architetture di inferenza di nuova generazione. Il vostro lavoro istituirà la direzione tecnica per l'inferenza AI scalabile e ad alte prestazioni in tutti gli ambienti di produzione più esigenti.

Cosa farai

• Guida i clienti di EMEA AI Natives nella distribuzione e nell'ottimizzazione dei carichi di lavoro su larga scala su cluster GPU multi-nodi.
• Architetto efficiente oleodotti di inferenza per modelli MoE densi e radi / latenti distribuendo carico di lavoro tra migliaia di GPU.
• Migliorare l'efficienza dell'inferenza attraverso la quantizzazione (INT4/FP8), decodifica speculativa, prefill/decode disaggregated, gestione della cache KV e WideEP per grandi implementazioni MoE.
• Collabora con i team di prodotti NVIDIA (Dynamo, TensorRT-LLM, NIXL) per accelerare il successo del cliente.
• Animare la comunità di sviluppatori di inferenza AI attraverso EMEA attraverso workshop tecnici, hackathons e architetture di riferimento.

Cosa dobbiamo vedere

• MS o PhD in Informatica, Ingegneria, High-Performance Computing, o equivalente esperienza professionale.
• 5+ anni di esperienza nell'ottimizzazione dell'inferenza delle reti neurali.
• Solida comprensione dell'ottimizzazione dell'inferenza dei trasformatori: quantizzazione, inferenza disaggregata, decodifica speculativa, in batch continuo, ottimizzazione della cache KV.
• Esperienza pratica nell'inferenza MoE in scala: parallelismo esperto, WideEP, comunicazione all-to-all, routing overhead e bilanciamento del carico su scala.
• Capacità di impegnarsi efficacemente con ingegneri, ricercatori e architetti di sistemi ML a un livello tecnico profondo.

Modi per distinguersi dalla folla

• Esperienza pratica con NVIDIA Dynamo, NIXL, Grove o strumenti di inferenza disaggregated emergenti.
• Comprensione di gerarchie di memoria GPU e interconnessioni ad alta velocità (NVLink, InfiniBand, RDMA, UCX).
• Hai contribuito a un laboratorio AI avanzato o a fornitori di infrastrutture AI di grande scala che eseguono l'inferenza su migliaia di GPU.
• Lavoro pubblicato o benchmark nell'inferenza AI su larga scala.

Ampiamente considerato uno dei datori di lavoro più desiderabili del mondo tecnologico, NVIDIA offre stipendi altamente competitivi e un pacchetto completo di benefici. Come si pianifica il vostro futuro, vedere cosa possiamo offrire www.nvidiabenefits.com/

NVIDIA si impegna a promuovere un ambiente di lavoro diverso e orgoglioso di essere un datore di lavoro pari opportunità. Poiché apprezziamo molto la diversità nei nostri dipendenti attuali e futuri, non discriminate (anche nelle nostre pratiche di assunzione e promozione) sulla base di razza, religione, colore, origine nazionale, sesso, espressione di genere, orientamento sessuale, età, stato civile, stato veterano, stato di disabilità o qualsiasi altra caratteristica protetta dalla legge.

Il tuo stipendio base sarà determinato in base alla tua posizione, esperienza e la paga dei dipendenti in posizioni simili. Per la Polonia: la gamma di stipendio base è 292,500 PLN - 507,000 PLN.