The FFO endgame test suiteはオセロAIの終盤探索力の指標として広く使われるベンチマークです。各テストケースを完全読みし、最善手を計算します。探索時間と訪問ノード数を指標に性能を評価します。NPSはNodes Per Secondの略で、1秒あたりの訪問ノード数を表します。ここでは、The FFO endgame test suiteのうち40番から59番を実行した結果を掲載します。
Core i9-13900KではAVX512版が動かないため、SIMD版、Generic版、x86版の結果を掲載します。
Egaroucidの結果は以下の通りです。また、比較としてオープンソースで最速クラスのオセロAI Edax 4.5.5の結果も掲載します (Edaxはバージョン4.6が最新ですが、手元で実行したところ4.6よりも4.5.5の方が速かったため、4.5.5を採用しました)。
| AI | 版 | 時間(秒) | ノード数 | NPS | ファイル |
|---|---|---|---|---|---|
| Egaroucid | SIMD | 20.186 | 14587235996 | 722641236 | 000_ffo40_59_Core_i9-13900K_SIMD.txt |
| Egaroucid | Generic | 31.088 | 15058413062 | 484380245 | 001_ffo40_59_Core_i9-13900K_Generic.txt |
| Edax | v3 | 23.11 | 27528192590 | 1191180986 | 010_ffo40_59_Core_i9-13900K_edax_x64_v3.txt |
| Edax | - | 28.42 | 27530414953 | 968698626 | 011_ffo40_59_Core_i9-13900K_edax_x64.txt |
Core i9-11900KではAVX512版が動きます。
EgaroucidおよびEdax 4.5.5の結果は以下の通りです。
| AI | 版 | 時間(秒) | ノード数 | NPS | ファイル |
|---|---|---|---|---|---|
| Egaroucid | AVX512 | 36.148 | 13608266119 | 376459724 | 100_ffo40_59_Core_i9-11900K_AVX512.txt |
| Egaroucid | SIMD | 37.717 | 13964135905 | 370234533 | 101_ffo40_59_Core_i9-11900K_SIMD.txt |
| Egaroucid | Generic | 67.869 | 14417592213 | 212432660 | 102_ffo40_59_Core_i9-11900K_Generic.txt |
| Edax | v4 | 34.425 | 26173069650 | 760292510 | 110_ffo40_59_Core_i9-11900K_edax_x64_v4.txt |
| Edax | v3 | 36.061 | 25817656645 | 715944002 | 111_ffo40_59_Core_i9-11900K_edax_x64_v3.txt |
| Edax | - | 47.94 | 26193986607 | 546391043 | 112_ffo40_59_Core_i9-11900K_edax_x64.txt |
世界最強クラスのオープンソースオセロAI、Edax 4.6との対戦結果です。
初手からの対戦では同じ進行ばかりになって評価関数の強さは計測できないので、初期局面から8手進めた互角に近いと言われる状態から打たせて勝敗を数えました。このとき、同じ進行に対して両者が必ず先手と後手の双方を1回ずつ持つようにし、2戦で獲得した石数が多い方が勝ちとしました。
勝率が0.5を上回っていればEgaroucidがEdaxに勝ち越しています。全ての条件でEgaroucidが勝ち越しています。
また、平均獲得石数は平均してEgaroucidがEdaxよりも何枚多く石を獲得できたかを表します。この値が大きいほど、Edaxに対して大勝しているということになります。
テストにはXOTに収録されている局面を使用しました。bookは双方未使用です。
| レベル | 平均獲得石数 | 勝率 | Egaroucid勝ち | 引分 | Edax勝ち |
|---|---|---|---|---|---|
| 1 | +10.47 | 0.714 | 709 | 10 | 281 |
| 5 | +9.89 | 0.834 | 822 | 24 | 154 |
| 10 | +2.01 | 0.647 | 609 | 76 | 315 |
| 15 | +1.12 | 0.64 | 146 | 28 | 76 |
| 21 | +0.39 | 0.61 | 51 | 20 | 29 |