Google tvrdi kako ima bolje čipove za umjetnu inteligenciju nego Nvidia ^Istaknuto

Četvrta generacija Tensor Processing Unita (TPU) je , kako tvrde u divu iz Mountain Viewa, brža i energetski učinkovitija od sličnih procesora iz ponude tvrtke Nvidia.

Koriste ih za više od 90 posto svog rada na obuci umjetne inteligencije, tijekom kojeg putem modela u te sustave bivaju ubačene ogromne količine podataka, kako bi mogli obavljati zadaće poput odgovora na pitanja ili stvaranja slika.

Ključne veze između strojeva

U znanstvenom članku opisali su kako su povezali više od četiri tisuće procesora u superračunalo koristeći optičke sklopke vlastitog dizajna i izrade kako bi povezali pojedine strojeve.

Te su veze postale ključni dio tržišnog natjecanja tvrtki koje se bave izradom superračunala temeljenih na umjetnoj inteligenciji jer su se veliki jezični modeli na kojima se temelje tehnologije poput Googleovog Barda i ChatGPT-ja tvrtke OpenAI naglo povećali i postali daleko preveliki za pohranu na jednom čipu, piše Reuters.

Zbog toga jezični modeli moraju biti podijeljeni na tisuće procesora, koji potom moraju raditi usklađeno tjednima ili dulje od toga dok ne završi obuka modela.

Googleov model PaLM - njihov najveći dosad objavljen - prošao je obuku na dva superračunala sa četiri tisuće procesora tijekom 50 dana. U tim je superračunalima, naveli su u Googleu, moguće jednostavno rekonfigurirati veze između čipova, što može pomoći u izbjegavanju problema i olakšati prilagodbu kako bi se dobilo bolje rezultate.

Uz to, tvrde kako su do 1,7 puta su brži i 1,9 puta energetski učinkovitiji nego Nvidijini čipovi A100.

Predstavljeno Googleovo superračunalo aktivno je od 2020. godine u podatkovnom centru u američkoj saveznoj državi Oklahomi. Koristi ga startup Midjourney za obuku svog modela generiranja slika temeljem tekstualnog upita.