基本介紹

NVIDIA L40S GPU是NVDIA推出的旗下GPU產品，NVIDIA L40S GPU基于NVIDIA Ada Lovelace架構。

應用

專注于大規模GPU加速工作負載領域的CoreWeave是首批提供L40S實例的云服務提供商之一。

特色功能

NVIDIA L40S GPU搭載第四代Tensor Core和FP8 Transformer Engine，可提供超過1.45 PFLOP的張量處理能力。對于擁有數十億個參數和多種數據模式（如文本和視頻）的復雜AI工作負載，與NVIDIA A100 Tensor Core GPU相比，L40S 能夠將生成式AI的推理性能和訓練性能分別提高1.2倍和1.7倍。