English

Egaroucid 7.3.0 ベンチマーク

The FFO endgame test suite

The FFO endgame test suiteはオセロAIの終盤探索力の指標として広く使われるベンチマークです。各テストケースを完全読みし、最善手を計算します。探索時間と訪問ノード数を指標に性能を評価します。NPSはNodes Per Secondの略で、1秒あたりの訪問ノード数を表します。ここでは、The FFO endgame test suiteのうち40番から59番を実行した結果を掲載します。

Core i9-13900K

Core i9-13900KではAVX512版が動かないため、SIMD版、Generic版、x86版の結果を掲載します。

Egaroucidの結果は以下の通りです。

CPU時間(秒)ノード数NPSファイル
Core i9-13900Kx64_SIMD22.89219272934563841906978000_ffo40_59_Core_i9-13900K_x64_SIMD.txt
Core i9-13900Kx64_Generic39.47721898593531554717773001_ffo40_59_Core_i9-13900K_x64_Generic.txt
Core i9-13900Kx86_Generic92.35919548877069211661852002_ffo40_59_Core_i9-13900K_x86_Generic.txt

比較として、オープンソースで最速クラスのオセロAI Edax 4.5.2の結果も掲載します。

CPU時間(秒)ノード数NPSファイル
Core i9-13900Kx64_modern23.328278496016491193827231010_ffo40_59_Core_i9-13900K_edax_x64_modern.txt
Core i9-13900Kx6427.767278921812361004508274011_ffo40_59_Core_i9-13900K_edax_x64.txt
Core i9-13900Kx8642.09827862333601661844591012_ffo40_59_Core_i9-13900K_edax_x86.txt

Core i9-11900K

Core i9-11900KではAVX512版が動きます。

Egaroucidの結果は以下の通りです。

CPU時間(秒)ノード数NPSファイル
Core i9-11900Kx64_AVX51247.28217422173608368473702100_ffo40_59_Core_i9-11900K_x64_AVX512.txt
Core i9-11900Kx64_SIMD48.2517524528057363202654101_ffo40_59_Core_i9-11900K_x64_SIMD.txt
Core i9-11900Kx64_Generic92.03218384451854199761516102_ffo40_59_Core_i9-11900K_x64_Generic.txt
Core i9-11900Kx86_Generic252.0751859700833173775695103_ffo40_59_Core_i9-11900K_x86_Generic.txt

Edax 4.5.2の結果は以下の通りです。

CPU時間(秒)ノード数NPSファイル
Core i9-11900Kx64_avx51243.1926820387942620986060110_ffo40_59_Core_i9-11900K_edax_x64_avx512.txt
Core i9-11900Kx64_modern44.1126929672444610511731111_ffo40_59_Core_i9-11900K_edax_x64_modern.txt
Core i9-11900Kx6456.32726971739786478842115112_ffo40_59_Core_i9-11900K_edax_x64.txt
Core i9-11900Kx8689.70126583076444296352063113_ffo40_59_Core_i9-11900K_edax_x86.txt

Edax 4.4との対戦

現状世界最強とも言われるオセロAI、Edax 4.4との対戦結果です。

初手からの対戦では同じ進行ばかりになって評価関数の強さは計測できないので、初期局面から8手進めた互角に近いと言われる状態から打たせて勝敗を数えました。このとき、同じ進行に対して両者が必ず先手と後手の双方を1回ずつ持つようにしました。こうすることで、両者の強さが全く同じであれば勝率は50%となるはずです。

テストにはXOTに収録されている局面を使用しました。

bookは双方未使用です。

Egaroucid勝率が0.5を上回っていればEgaroucidがEdaxに勝ち越しています。また、カッコ内の数字はEgaroucidが黒番/白番のときのそれぞれの値です。全ての条件でEgaroucidが勝ち越しています。

バージョン6.3.0までは引き分けを省いて(勝ち)/(勝ち+負け)で勝率を計算していましたが、一般的ではなかったので、バージョン6.4.0からは引き分けを0.5勝として(勝ち+0.5*引き分け)/(勝ち+引き分け+負け)で計算しました。

レベルEgaroucid勝ち引分Edax勝ちEgaroucid勝率
11232(黒: 597 白: 635)58(黒: 33 白: 25)710(黒: 370 白: 340)0.63
51313(黒: 673 白: 640)109(黒: 52 白: 57)578(黒: 275 白: 303)0.684
101013(黒: 568 白: 445)222(黒: 113 白: 109)765(黒: 319 白: 446)0.562
15228(黒: 125 白: 103)103(黒: 52 白: 51)169(黒: 73 白: 96)0.559
2178(黒: 47 白: 31)54(黒: 25 白: 29)68(黒: 28 白: 40)0.525