上周,在GTC19大會期間,NVIDIA加速計算產品管理總監Paresh Kharya對關于GPU相比FPGA的優勢的問題時回答表示,GPU在可編程上具備明顯優勢,整個開發時間更短。
他表示稱目前做好一個FPGA,整個編程時間就要幾個月,而且還要在硬件層面對它進行編程。然而現在AI變化速度非常快,甚至更新是以分鐘來計算的,所以必須要在軟件端實現高度靈活的可編程。恰恰GPU是AI領域的專用芯片,他的指令集是非常有優勢的,是全可編程,并且是軟件定義的。
GPU的另一個優勢在于架構向前兼容,如果未來需要使用新硬件,可以使開發周期得到大大縮短,整個硬件可以隨著軟件不斷更新適應,在軟件庫中可直接進行更新。同時NVIDIA的平臺可以在任何設備上使用,包括臺式機、筆記本、服務器、數據中心、邊緣和物聯網。
而在GTC19大會的主題演講中,黃仁勛也不斷強調了GPU在各種應用領域中相比于CPU的明顯優勢,例如阿里的邊緣系統在GPU上跑,每秒可以做780次查詢,但是如果說用CPU,每秒只能做3次查詢;而在baidu采用NVIDIA AI推薦系統的表現來看,以往對于baidu龐大的用戶潛在興趣數據包的模型訓練在CPU上成本高昂且速度慢,而GPU訓練成本只有CPU的1/10,并且支持更大規模的模型訓練。