NVIDIA - L40S 48GB PCIe 4.0

La NVIDIA L40S è una GPU universale progettata per offrire prestazioni eccezionali in una vasta gamma di carichi di lavoro nei data center, tra cui intelligenza artificiale generativa, inferenza e training di modelli di linguaggio di grandi dimensioni (LLM), grafica 3D, rendering e video.

Caratteristiche principali:

• Architettura NVIDIA Ada Lovelace: La L40S sfrutta l'architettura Ada Lovelace, integrando Tensor Core di quarta generazione e RT Core di terza generazione per migliorare le prestazioni in applicazioni di IA e grafica.

• Tensor Core di quarta generazione: Supportano la sparsity strutturale e il formato TF32 ottimizzato, offrendo miglioramenti nelle prestazioni per il training di modelli di IA e data science.

• RT Core di terza generazione: Migliorano il throughput e consentono il ray tracing e shading concorrenti, accelerando il rendering per flussi di lavoro di design e architettura.

• Transformer Engine: Accelera significativamente le prestazioni dell'IA e migliora l'utilizzo della memoria sia per il training che per l'inferenza, passando automaticamente tra le precisioni FP8 e FP16.

• Efficienza e sicurezza: Ottimizzata per operazioni 24/7 nei data center aziendali, la L40S è progettata, costruita, testata e supportata da NVIDIA per garantire massime prestazioni, durata e uptime. Include l'avvio sicuro con tecnologia Root of Trust, fornendo un ulteriore livello di sicurezza per i data center. 

  • Modello GPU:
    NVIDIA L40S

  • Prestazioni di calcolo:

    • FP32: 91,6 teraFLOPS
    • TF32 Tensor Core: 366 teraFLOPS*
    • FP16: 733 teraFLOPS*
    • FP8: 1.466 teraFLOPS*
    • Prestazioni RT Core: 212 teraFLOPS

  • Consumo energetico massimo:
    350 W

  *Nota:
  Le specifiche contrassegnate con l'asterisco (*) si riferiscono a prestazioni con ottimizzazione della densità (sparsity). Senza questa ottimizzazione, le prestazioni sono inferiori.
  
  La NVIDIA L40S è ideale per accelerare carichi di lavoro complessi nei data center, offrendo un equilibrio tra prestazioni di calcolo avanzate, capacità grafiche di alto livello e funzionalità di intelligenza artificiale.