GPU的算力指的是什么？

GPU的計算能力可以使用FLOPS表示，FLOPS是floating-point operations per second的縮寫,表示“每秒所執(zhí)行的浮點運算次數(shù)”。是被用來估算處理的計算能力

1 MFLOPS = 每秒可以執(zhí)行一百萬(10^6)次浮點運算

1 GFLOPS = 每秒可以執(zhí)行十億(10^9)次浮點運算

1 TFLOPS = 每秒可以執(zhí)行一萬億(10^12)次浮點運算

1TOPS：代表的是每秒執(zhí)行一萬億次運算次數(shù)

TFLOPS和 TOPS都是描述深度學(xué)習(xí)設(shè)備計算能力的單位

這2者的區(qū)別在于：FL即float浮點，大多數(shù)NPU（Neural Processing Unit）都是定點運算，通常是用 TOPS來標稱算力。它們之間的轉(zhuǎn)換通常可以用公式：1TFLOPS=2*1TOPS來計算，但是需要注意TFLOPS中有單精度FP32 和半精度FP16的區(qū)別，一般默認是FP16。

Nvidia GPU的流處理器單元是兩個ALU單元，每個時鐘周期進行兩次浮點預(yù)算。。

FLOPS＝ 處理器個數(shù) × 處理器主頻? ×? 單個處理器一個時鐘周期進行浮點運算次數(shù)

以最新的RTX4080為例：核心數(shù)量是：9728，最大主頻為：2.51GHz。那么計算如下：

顯卡FLOPS ＝9728 *2.51＊2＝ 48834.56Gflops=49 TFLOPS