LinkedIn mantiene stabile l’investimento in GPU per il prossimo anno fiscale

LinkedIn ha comunicato che nel prossimo anno fiscale non prevede un incremento significativo della spesa per hardware dedicato all’intelligenza artificiale, mantenendo l’investimento in GPU sostanzialmente invariato. La società ha raddoppiato l’efficienza delle GPU esistenti in un periodo di sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.

Secondo Erran Berger, CTO dell’ingegneria, l’obiettivo è quello di mantenere stabile l’impronta di calcolo pur introducendo funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, aggiungendo 31 data center nell’ultimo trimestre e prevedendo oltre 50 miliardi nel trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma questo è stato sospeso nel 2022. La società ha quindi deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore chiave per monitorare e ottimizzare ogni livello operativo, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha evidenziato che mantenere l’attuale livello di storage e calcolo senza incrementi per un anno è un risultato significativo, frutto di un lavoro considerevole. I miglioramenti ottenuti sono il risultato di un approccio cumulativo piuttosto che di una singola innovazione tecnologica, includendo un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più compatte.

Questa strategia è stata motivata anche dalla crescente dinamica dei costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava annualmente, una tendenza che LinkedIn ha giudicato insostenibile. Sebbene la società non affermi di aver risolto definitivamente il problema, la scelta di mantenere stabile l’investimento in hardware rappresenta un’alternativa alla consueta crescita proporzionale delle risorse hardware, e la sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.