LinkedIn: Investimenti in GPU Stabili per il Prossimo Anno Fiscale

LinkedIn ha comunicato che nel prossimo anno fiscale non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale (AI). L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage mantenuta all’incirca invariata.

La società ha rivelato di aver raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a miglioramenti cumulativi nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. LinkedIn intende impiegare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha descritto l’obiettivo di mantenere stabile il footprint di calcolo, permettendo al contempo l’introduzione di funzionalità più esigenti dal punto di vista computazionale.

Questa strategia si colloca in un contesto in cui LinkedIn è controllata da Microsoft dal 2016, ma adotta un approccio differente rispetto alla consistente espansione infrastrutturale del colosso tecnologico. Microsoft ha registrato 41 miliardi di dollari di spesa in conto capitale nell’ultimo trimestre, aggiungendo 31 data center, con un totale di 88 nell’anno e previsioni di oltre 50 miliardi per il trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di puntare su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e compute per un anno è «non una piccola impresa» e ha richiesto un lavoro significativo. I miglioramenti sono presentati come accumulati, piuttosto che frutto di una singola innovazione tecnologica. Le strategie includono un migliore utilizzo delle GPU, una riallocazione dei carichi, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Questa scelta è motivata anche dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non sostiene di aver risolto definitivamente il problema, ma questa strategia rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.