GenAI Algorithms Intern – Model Optimization for Inference — NVIDIA (ufficio Zurich)

Descrizione completa

NVIDIA è all'avanguardia della rivoluzione generativa AI! Il team Algorithmic Model Optimization si concentra sull'ottimizzazione di modelli di AI generativi come modelli di linguaggio (LLM), modelli di visione (VLM), e modelli di diffusione per l'efficienza di inferenza massima utilizzando tecniche che vanno dalla quantizzazione, decodifica speculativa, sparsità, distillazione, potatura alla ricerca di architettura neurale e strategie di distribuzione automatizzate.

Il nostro lavoro include la conduzione di ricerche applicate per migliorare l'efficienza del modello e lo sviluppo di un'innovativa piattaforma di ottimizzazione del modello open source (NVIDIA Model Optimizer). Il nostro software è utilizzato sia internamente attraverso NVIDIA e esternamente da team di ricerca e ingegneria, allo stesso modo di sviluppare modelli AI migliori in classe.

Stiamo cercando un GenAI Algorithms Intern per aiutare a ottimizzare i modelli AI generativi all'avanguardia come LLM, VLM, modelli multimodali e di diffusione. In questo ruolo, progettare, implementare e produrre algoritmi di ottimizzazione dei modelli per inferenza e distribuzione sulle ultime piattaforme hardware di NVIDIA. Il focus è sulla facilità di utilizzo, elaborazione e efficienza della memoria, e il raggiungimento dei migliori tradeoff di precisione-performance attraverso il software-hardware co-design.

Il vostro lavoro si estenderà a più strati dello stack software AI, che vanno dalla progettazione dell'algoritmo all'integrazione, con l'ecosistema di NVIDIA (Model Optimizer, NeMo/Megatron, TensorRT-LLM) e le strutture open-source (PyTorch, Hugging Face, vLLM, SGLang). Si può anche immergersi in ottimizzazione di livello GPU, tra cui sviluppo del kernel personalizzato con CUDA e Triton.

Cosa farete

• Aiuta a progettare e costruire piattaforme software modulari e scalabili per l'ottimizzazione dei modelli che offrono esperienze utente eccezionali, supportando diversi modelli AI e tecniche di ottimizzazione.
• Esplora, sviluppa e integra algoritmi innovativi di ottimizzazione dell'apprendimento profondo (quantizzazione, decodifica speculativa, sparsità, distillazione, potatura, ricerca di architettura neurale) nello stack software AI di NVIDIA.
• Distribuisci modelli ottimizzati in framework di inferenza open source leader e contribuire a API specializzate, ottimizzazioni di livello di modello e nuove funzionalità su misura per le più recenti funzionalità hardware NVIDIA.
• Collaborate con i team NVIDIA sulle soluzioni di ottimizzazione dei modelli per i casi di utilizzo del cliente, mirando a flussi di lavoro end-to-end ottimali e bilanciate precisione-performance trade-off.
• Condurre la profilazione a livello di GPU per identificare e capitalizzare le opportunità di ottimizzazione hardware e software (ad esempio, kernel di attenzione efficienti, ottimizzazione della cache KV, strategie di parallelismo).

Cosa dobbiamo vedere

• Acquisire un Master o PhD in Informatica, AI, Matematica Applicata, o un campo correlato.
• Forte background di apprendimento profondo e esperienza pratica con i modelli di lingua.
• Solida fondazione in algoritmi e programmazione.
• Proficienza in Python, PyTorch e moderni framework ML/tools.
• Buone capacità di comunicazione scritte e verbali, con la capacità di lavorare sia in modo indipendente che collaborativo in un ambiente frenetico.

Modi per distinguersi dalla folla

• Esperienza con ottimizzazione ed efficienza del modello (ad esempio, quantizzazione, distillazione, potatura).
• Contributi a PyTorch, JAX, vLLM, SGLang, o altri quadri di formazione e di inferenza della macchina.
• Modelli di AI generativi su larga scala su grandi cluster GPU.
• Conoscenza di architetture e stack di compilazione GPU, e la capacità di analizzare e debug prestazioni end-to-end.
• Familiarità con gli SDK di apprendimento profondo di NVIDIA (Model Optimizer, NeMo).

Sempre più noto come “la società di calcolo AI” e ampiamente considerato come uno dei datori di lavoro più desiderabili del mondo tecnologico, NVIDIA offre stipendi altamente competitivi e un pacchetto completo di benefici. Sei creativo, motivato e ami una sfida? Se è così, vogliamo sentire da voi! Vieni, unisciti al nostro gruppo di ottimizzazione del modello, dove puoi aiutare a costruire piattaforme di calcolo in tempo reale e convenienti, guidando il nostro successo in questo campo emozionante e in rapida crescita. NVIDIA si impegna a promuovere un ambiente di lavoro diverso e orgoglioso di essere un datore di lavoro pari opportunità. Poiché apprezziamo molto la diversità nei nostri dipendenti attuali e futuri, non discriminate (anche nelle nostre pratiche di assunzione e promozione) sulla base di razza, religione, colore, origine nazionale, sesso, espressione di genere, orientamento sessuale, età, stato civile, stato veterano, stato di disabilità o qualsiasi altra caratteristica protetta dalla legge.

Domande frequenti su questo annuncio