以 NVIDIA 最新 RTX-3090-24G 顯示卡實測 YOLOv4 訓練及推論之性能,並與 TitanRTX-24G 相比較

實測結果截圖:

 

 

RTX-3090-24G 執行 LEADERG AI ZOO Jupyter-Image-Object-Detection-YOLOv4-CPP 訓練結果:

Jupyter-Image-Object-Detection-YOLOv4-CPP-RTX-3090-24G.png

 

 

TitanRTX-24G 執行 LEADERG AI ZOO Jupyter-Image-Object-Detection-YOLOv4-CPP 訓練結果:

Jupyter-Image-Object-Detection-YOLOv4-CPP-TitanRTX-24G.png

 

 

RTX-3090-24G 執行 LEADERG AI ZOO Jupyter-Image-Object-Detection-YOLOv4-Multiple-Object-Tracking-CPP 推論結果:

Jupyter-Image-Object-Detection-YOLOv4-Multiple-Object-Tracking-CPP-RTX-3090-24G.png

 

 

TitanRTX-24G 執行 LEADERG AI ZOO Jupyter-Image-Object-Detection-YOLOv4-Multiple-Object-Tracking-CPP 推論結果:

Jupyter-Image-Object-Detection-YOLOv4-Multiple-Object-Tracking-CPP-TitanRTX-24G.png

 

 

 

測試使用軟體版本如下:

 

顯示卡驅動程式: 456.38

 

CUDA: 11.0

 

cuDNN: 8.0.4

 

LEADERG AI ZOO 人工智慧軟體: 2040

 

 

 

測試結果:

 

1. 以 LEADERG AI ZOO  Jupyter-Image-Object-Detection-YOLOv4-CPP 實測: RTX-3090-24G 訓練速度比 Titan RTX 快約 40% 。

 

2. 以 LEADERG AI ZOO  Jupyter-Image-Object-Detection-YOLOv4-Multiple-Object-Tracking-CPP 實測: RTX-3090-24G 推論速度比 Titan RTX 快約 10% 。

 

3. RTX-3090-24G 的 CUDA core 是 Titan RTX 的兩倍,訓練速度提升40%較為顯著,推論速度提昇10%不顯著。

 

4. YOLOv4 darknet 用 CUDA 11.0 編譯時,目前只能用 CUDNN_HALF = 1模式編譯,也就是說,只能跑 FP16 。 FP16 的速度較快,但是精度較差,不適合用於精細的瑕疵檢測。如果應用對於精度要求較高,需要用  CUDNN_HALF = 0 模式,跑 FP32。FP32 須等 YOLOv4 darknet 作者更新程式才有辦法使用,或是改用 PyTorch 版的 YOLOv4 。 

 

 

 

聯絡我們及購買方式

請參閱以下網址:
https://tw.leaderg.com/article/index?sn=11056

延伸閱讀

1.
LEADERG ACE-22 中階人工智能工作站 (RTX-A6000-48G, RTX-A5000-24G, RTX-A4000-16G, RTX-3090-24G, AMD Ryzen 9, Intel Core i9, GPU 電腦, computer, workstation, deep learning, 深度學習)

2.
LEADERG ACE-38 高階人工智能工作站 (RTX-A6000-48G 四張, RTX-A5000-24G 四張, RTX-A4000-16G 七張, NVIDIA RTX-3090-24G 兩張, RTX-3080-10G 兩張, RTX-3060-12G 兩張, AMD, Ryzen Threadripper PRO)

3.
LEADERG ACE-36-M 高階軍規人工智能筆記型電腦 (NVIDIA Quadro RTX-5000-16G, Intel Core i9, 軍規認證, MIL-STD 810G, MSI WS75 10TM-428TW, GPU notebook, 筆電, deep learning, 深度學習, 機器學習)

4.
LEADERG ACE-39-4U 高階人工智能伺服器 (RTX-A6000-48G 三張, RTX-A5000-24G 三張, RTX-A4000-16G 七張, AMD Ryzen Threadripper PRO, GPU server, 電腦, deep learning, 深度學習, 機器學習)

感謝客戶們的支持

臺灣大學、清華大學、陽明交通大學、成功大學、臺北醫學大學、臺北護理健康大學、中興大學、暨南大學、宜蘭大學、聯合大學、淡江大學、逢甲大學、長庚大學、義守大學、實踐大學、大同大學、臺科大、北科大、臺中科大、雲林科大、勤益科大、虎尾科大、屏東科大、高雄科大、朝陽科大、明志科大、南臺科大、亞東科大、中國科大、國防大學、海軍軍官學校、陸軍專科學校、鼓山高中、臺大醫院、榮民總醫院、長庚醫院、慈濟醫院、義大醫院、中山科學研究院、國防部軍備局、法務部調查局、工研院、資策會、原子能委員會核能研究所、農業委員會特有生物研究保育中心、勞動部勞動研究所、紡織研究所、金屬工業研究發展中心、台灣儀器科技研究中心、車輛測試中心、台灣自來水公司、台積電、聯電、南亞科、華邦電子、精材科技、華信光電、友達光電、群創光電、瀚宇彩晶、台塑、台塑網、南亞塑膠、台灣化學纖維、中國石油、羅技電子、義隆電子、隆達電子、達方電子、鴻海、大聯大 - 世平興業、盟立自動化、迅得機械、南茂科技、順達科技、致伸科技、英特盛、豐興鋼鐵、中宇環保工程、竹陞科技、研揚科技、敦陽科技、竑騰科技、先豐通訊、神達電腦、神通電腦、百佳泰、科音國際、峰安車業、鴻鵠國際、藍海智能等。