Ashish Vaswani

Ashish Vaswani ist ein Informatiker, der im Bereich des Deep Learnings arbeitet und für seine weltweit bedeutenden Beiträge auf dem Gebiet der künstlichen Intelligenz (KI) und der Computerlinguistik (NLP) bekannt ist.^[1] Er ist einer der Mitautoren des wegweisenden wissenschaftlichen Papiers "Attention Is All You Need", welches das sogenannte Transformer-Modell vorstellte, eine seinerzeit neuartige Architektur, die seitdem grundlegend für viele state-of-the-art Modelle in der Computerlinguistik geworden ist.^[2][3] Die Transformer-Architektur ist das Kernstück von Sprachmodellen, die Anwendungen wie ChatGPT ermöglichen. Er ist ehemaliger Forschungsmitarbeiter bei Google Brain.^[4][5]

Vaswani schloss sein Ingenieurstudium der Informatik am Birla Institute of Technology Mesra im Jahr 2002 ab. Im Jahr 2004 zog er in die USA, um an der University of Southern California sein Studium fortzusetzen. Er promovierte an der University of Southern California.^[6] Danach arbeitete er als Forscher bei Google, wo er Teil des Google Brain Teams war. Er war Mitbegründer von Adept AI Labs, verließ jedoch das Unternehmen.

Vaswanis bemerkenswerteste Arbeit ist das im Jahr 2017 veröffentlichte Papier "Attention Is All You Need", welches Stand Februar 2024 über 100,000 Mal zitiert wurde. Dieses führte das sogenannte Transformer-Modell ein, das auf den Einsatz von Rekurrenz in Sequenz-zu-Sequenz-Aufgaben verzichtet. Das Modell war wegweisend für die Entwicklung mehrerer nachfolgender Sprachmodelle in der Computerlinguistik, einschließlich BERT, GPT-2 und GPT-3.^[3]

1. ↑ Ashish Vaswani. In: Google Scholar. Abgerufen am 7. Februar 2024. 
2. ↑ Ashish Vaswani,Noam Shazeer,Niki Parmar,Jakob Uszkoreit et al: Attention Is All You Need. In: Neurips. Google Brain, abgerufen am 7. Februar 2024 (englisch). 
3. ↑ ^{a b} Transformers: the Google scientists who pioneered an AI revolution. In: Financial Times. Abgerufen am 7. Februar 2024. 
4. ↑ Rob Toews: Transformers Revolutionized AI. What Will Replace Them? Abgerufen am 7. Februar 2024 (englisch). 
5. ↑ Meet the $4 Billion AI Superstars That Google Lost. In: Bloomberg.com. 13. Juli 2023 (bloomberg.com [abgerufen am 7. Februar 2024]). 
6. ↑ Ashish Vaswani. In: Researchgate. Researchgate, abgerufen am 7. Februar 2024 (englisch).