La NVIDIA L40S è una GPU universale progettata per offrire prestazioni eccezionali in una vasta gamma di carichi di lavoro nei data center, tra cui intelligenza artificiale generativa, inferenza e training di modelli di linguaggio di grandi dimensioni (LLM), grafica 3D, rendering e video.
Caratteristiche principali:
-
Architettura NVIDIA Ada Lovelace: La L40S sfrutta l'architettura Ada Lovelace, integrando Tensor Core di quarta generazione e RT Core di terza generazione per migliorare le prestazioni in applicazioni di IA e grafica.
-
Tensor Core di quarta generazione: Supportano la sparsity strutturale e il formato TF32 ottimizzato, offrendo miglioramenti nelle prestazioni per il training di modelli di IA e data science.
-
RT Core di terza generazione: Migliorano il throughput e consentono il ray tracing e shading concorrenti, accelerando il rendering per flussi di lavoro di design e architettura.
-
Transformer Engine: Accelera significativamente le prestazioni dell'IA e migliora l'utilizzo della memoria sia per il training che per l'inferenza, passando automaticamente tra le precisioni FP8 e FP16.
-
Efficienza e sicurezza: Ottimizzata per operazioni 24/7 nei data center aziendali, la L40S è progettata, costruita, testata e supportata da NVIDIA per garantire massime prestazioni, durata e uptime. Include l'avvio sicuro con tecnologia Root of Trust, fornendo un ulteriore livello di sicurezza per i data center.
*Nota:
Le specifiche contrassegnate con l'asterisco (*) si riferiscono a prestazioni con ottimizzazione della densità (sparsity). Senza questa ottimizzazione, le prestazioni sono inferiori.
La NVIDIA L40S è ideale per accelerare carichi di lavoro complessi nei data center, offrendo un equilibrio tra prestazioni di calcolo avanzate, capacità grafiche di alto livello e funzionalità di intelligenza artificiale.
