Sperimenta prestazioni straordinarie su carichi di lavoro multipli con la GPU NVIDIA L40S. Combinando la potenza del calcolo basato su IA con grafica e accelerazione multimediali all'avanguardia, la GPU L40S è progettata per alimentare la nuova generazione di carichi di lavoro del data center, dall'IA generativa all'inferenza per modelli linguistici di grandi dimensioni (LLM), fino alla grafica 3D, al rendering e al video.
Basata su architettura NVIDIA Ada Lovelace
Tensor Core di quarta generazione
Il supporto hardware per la densità strutturale e il formato TF32 ottimizzato garantiscono prestazioni più elevate fin da subito, per accelerare il training dei modelli di IA e scienza dei dati. Accelera le funzionalità grafiche basate su IA con DLSS per aumentare la risoluzione con prestazioni superiori in applicazioni selezionate.
RT Core di terza generazione
Il throughput migliorato e le funzionalità simultanee di ray-tracing e shading aumentano le prestazioni del ray-tracing, accelerando il rendering per i flussi di lavoro di design dei prodotti, ingegneria ed edilizia. Guarda i progetti realistici in azione con il motion blur accelerato dall'hardware e animazioni straordinarie in tempo reale.
CUDA Core
Il throughput in virgola mobile a precisione singola (FP32) accelerato e l'aumentata efficienza energetica offrono miglioramenti significativi delle prestazioni per flussi di lavoro come lo sviluppo di modelli 3D e la simulazione CAE. Supporta funzionalità matematiche avanzate a 16 bit (BF16) per carichi di lavoro a precisione mista.
Transformer Engine
Transformer Engine accelera significativamente le prestazioni IA e migliora l'utilizzo della memoria per training e inferenza. Sfruttando la potenza dei Tensor Core di quarta generazione Ada Lovelace, Transformer Engine analizza in modo intelligente i livelli delle reti neurali dell'architettura Transformer ed esegue automaticamente il recast tra precisioni FP8 e FP16, per fornire prestazioni IA più veloci e accelerare training e inferenza.
Efficienza e sicurezza
NVIDIA L40S è ottimizzata per operazioni di data center aziendali 24 ore su 24, 7 giorni su 7 ed è progettata, costruita, testata e supportata da NVIDIA per garantire massime prestazioni, durata e uptime. La GPU L40S soddisfa i più recenti standard per data center, è compatibile con NEBS Level 3 e include l'avvio sicuro con tecnologia Root of Trust, per garantire un ulteriore livello di sicurezza al data center.
DLSS 3
La GPU L40S consente un rendering ultra veloce e frame rate più fluidi con NVIDIA DLSS 3. Questa tecnologia di generazione di frame all'avanguardia sfrutta il deep learning e le più recenti innovazioni hardware all'interno dell'architettura Ada Lovelace e della GPU L40S, tra cui Tensor Core di quarta generazione e Optical Flow Accelerator, per aumentare le prestazioni di rendering, fornire frame per secondo (FPS) più alti e migliorare significativamente la latenza.
Architettura GPU | Architettura NVIDIA Ada Lovelace |
Memoria della GPU | GDDR6 da 48 GB con ECC |
Banda di memoria | 864 GB/s |
Interfaccia di interconnessione | PCIe Gen4 x16: 64 GB/s bidirezionale |
CUDA® Core basati su architettura NVIDIA Ada Lovelace | 18.176 |
NVIDIA RT Core di terza generazione | 142 |
NVIDIA Tensor Core di quarta generazione | 568 |
Prestazioni RT Core TFLOPS | 212 |
FP32 TFLOPS | 91.6 |
TF32 Tensor Core TFLOPS | 183 I 366* |
BFLOAT16 Tensor Core TFLOPS | 362.05 I 733* |
FP16 Tensor Core | 362.05 I 733* |
FP8 Tensor Core | 733 I 1.466* |
Picco INT8 Tensor TOPS Picco INT4 Tensor TOPS | 733 I 1.466* 733 I 1.466* |
Fattore di forma | Doppio slot 4,4" (H) x 10,5" (L) |
Display Port | 4 DisplayPort 1.4a |
Max consumo energetico | 350 W |
Connettore di alimentazione | 16 pin |
Termica | Passiva |
Supporto software Virtual GPU (vGPU) | Sì |
NVENC I NVDEC | 3 | 3 (include codifica e decodifica AV1) |
Avvio sicuro con root of trust | Sì |
Compatibilità con NEBS | Livello 3 |
Supporto per Multi-Instance GPU (MIG) | No |
Supporto per NVIDIA® NVLink® | No |