Cerebras CS-4 accelera l’inference AI: 750 petaflops e fino a 30 volte più token delle gpu

Cerebras ha appena alzato il volume di una discussione che l’industria dell’intelligenza artificiale preferirebbe probabilmente tenere a bassa voce: l’inference sta diventando un problema architetturale diverso dal training, e continuare a misurare tutto in GPU, FLOPS e dimensione del modello rischia di essere come valutare un’automobile guardando soltanto la cilindrata. Con il nuovo CS-4,…