各硬件Katago AI算力对比评测

各硬件Katago AI算力对比评测

引用

CSDN

1.

https://m.blog.csdn.net/csdn965060457/article/details/143416638

本文对不同硬件在Katago AI算力方面的表现进行了评测，主要面向对AI算力和硬件性能感兴趣的读者。评测软件为Katago v1.15.3，测试命令为katago benchmark -model kata1-b18c384nbt-s9996604416-d4316597426.bin.gz。评测结果表明，AMD EPYC 9654P搭配8张NVIDIA RTX 4090显卡的配置在CUDA + TensorRT环境下性能最佳，达到48187.97 nnEvals/s。

评测环境

• 评测软件：Katago v1.15.3
• 测试命令：

  katago benchmark -model kata1-b18c384nbt-s9996604416-d4316597426.bin.gz
  

硬件对比

评测结果以每秒神经网络评估次数（nnEvals/s）为指标，数值越高表示性能越好。

技术环境

• CUDA 版本：12.5
• TensorRT 版本：10.2.0

灵感来源

本评测受到B站视频《AMD最强CPU+8卡4090跑Katago能有多多多快》的启发。