De les van Nvidia: "Het verminderen van het verbruik en de kosten is de volgende uitdaging voor AI."

Op een ochtend tijdens het ontbijt vertelde een collega me over een klus om online katten te zoeken. Terwijl ik me afvroeg wie er geïnteresseerd zou zijn, zag ik dat er 16.000 GPU's (computer graphics processing units, red.) voor nodig waren, en ik dacht dat het met veel minder kon, dus ik wees er een van mijn onderzoekers op aan, en hij deed het met 48.

Bill Dally , hoofdwetenschapper en senior vice-president voor onderzoek bij Nvidia , vertelt over onderzoek, nauwkeurige berekeningen en technologie en noemt ook dit verhaal, dat grappig is, maar voor hem "aan de basis staat van wat er bij Nvidia is ontwikkeld".

De wetenschappelijke goeroe van het meest gekapitaliseerde bedrijf ter wereld beschreef het als een symbool voor de noodzaak van efficiëntie in de volle zaal van het OGR in Turijn tijdens zijn keynote lezing in het CSP-IAS – Institute for Advanced Study-programma, gepromoot door het Italiaanse Instituut voor Kunstmatige Intelligentie voor de Industrie (AI4I) en de Compagnia di San Paolo, medeoprichter en medeorganisator van het initiatief.

Tijdens zijn lezing zal hij ingaan op de evolutie van hardware voor deep learning en de transformaties die nodig zijn om grootschalige modellen en toepassingen te ondersteunen.

Dally benadrukte hoe de enorme groei in rekenkracht de duurzaamheid van de huidige kunstmatige intelligentie (AI) mogelijk heeft gemaakt. Dezelfde intelligentie, gaf hij toe, "die wij bij Nvidia dagelijks gebruiken om productiever te zijn."

Hij noemde werk met Python , een geavanceerde programmeertaal, als voorbeeld: "De AI deed iets in 15 minuten waar ik uren mee bezig zou zijn geweest. We hebben niet genoeg mensen om alles te doen. Ik denk ook graag dat AI nuttig zal zijn in het onderwijs; alle studenten zouden een AI kunnen hebben die hen helpt begrijpen wat hen drijft. Een soort AI-tutor die je helpt de Super Bowl te winnen."

In zijn lezing besteedde hij veel aandacht aan de uitdagingen op het gebied van energie-efficiëntie en het verlagen van de kosten voor dataverplaatsing. Ook ging hij in op de manier waarop moderne AI zich heeft ontwikkeld dankzij de exponentiële groei van de rekencapaciteit.

De efficiëntie van de modellen is verbeterd, maar de hardware blijft de belangrijkste factor, waardoor programmeerbaarheid en flexibiliteit essentieel zijn: "In de afgelopen 12 jaar hebben we de hardwareprestaties 5.000 keer verbeterd."

Bally sprak over de evolutie van Nvidia GPU's, tot aan de nieuwste generatie, de Blackwell B200 , en sprak ook over 3D-geheugens en uitgesplitste architecturen.

De dirigent van de avond was Fabio Pammolli , voorzitter van AI4I, die de lezing introduceerde als een "rendez-vous tussen kennisontwikkeling en technologische ontwikkeling", in het besef dat "talent talent aantrekt".

Marco Pavone van het Wetenschappelijk Comité van AI4I was aan zijn zijde. Sprekers als sleutelfiguren in het innovatie-ecosysteem van Turijn waren Marco Gilli , hoofd van de Compagnia di San Paolo, Anna Maria Poggi , voorzitter van de CRT Foundation, Stefano Corgnati , rector van de Polytechnische Universiteit, en Marco Gay , leider van de Turijnse Industriëlenbond.