docs/report/introduction/physical_testbeds.rst

   1 .. _tested_physical_topologies:
   2
   3 Physical Testbeds
   4 =================
   5
   6 All :abbr:`FD.io (Fast Data Input/Ouput)` :abbr:`CSIT (Continuous System
   7 Integration and Testing)` performance testing listed in this report are
   8 executed on physical testbeds built with bare-metal servers hosted by
   9 :abbr:`LF (Linux Foundation)` FD.io project.
  10
  11 Two testbed topologies are used:
  12
  13 - **3-Node Topology**: Consisting of two servers acting as SUTs
  14   (Systems Under Test) and one server as TG (Traffic Generator), all
  15   connected in ring topology. Used for executing all of the data plane
  16   tests including overlay tunnels and IPSec tests.
  17 - **2-Node Topology**: Consisting of one server acting as SUTs (Systems
  18   Under Test) and one server as TG (Traffic Generator), both connected
  19   in ring topology. Used for execution of tests without any overlay
  20   tunnel encapsulations. Added in CSIT rls18.07.
  21
  22 Current FD.io production testbeds are built with servers based on two
  23 processor generations of Intel Xeons: Haswell-SP (E5-2699v3) and Skylake
  24 (Platinum 8180). Testbeds built with servers based on Arm processors are
  25 in the process of being added to FD.io production.
  26
  27 Server SUT and DUT performance depends on server and processor type,
  28 hence results for testbeds based on different servers must be reported
  29 separately, and compared if appropriate.
  30
  31 Following sections describe existing production testbed types.
  32
  33 3-Node Xeon Haswell (3n-hsw)
  34 ----------------------------
  35
  36 3n-hsw testbed is based on three Cisco UCS-c240m3 servers each equipped
  37 with two Intel Xeon Haswell-SP E5-2699v3 2.3 GHz 18 core processors.
  38 Physical testbed topology is depicted in a figure below.
  39
  40 .. only:: latex
  41
  42     .. raw:: latex
  43
  44         \begin{figure}[H]
  45             \centering
  46                 \graphicspath{{../_tmp/src/introduction/}}
  47                 \includegraphics[width=0.90\textwidth]{testbed-3n-hsw}
  48                 \label{fig:testbed-3n-hsw}
  49         \end{figure}
  50
  51 .. only:: html
  52
  53     .. figure:: testbed-3n-hsw.svg
  54         :alt: testbed-3n-hsw
  55         :align: center
  56
  57 SUT1 and SUT2 servers are populated with the following NIC models:
  58
  59 #. NIC-1: VIC 1385 2p40GE Cisco.
  60 #. NIC-2: NIC x520 2p10GE Intel.
  61 #. NIC-3: empty.
  62 #. NIC-4: NIC xl710-QDA2 2p40GE Intel.
  63 #. NIC-5: NIC x710-DA2 2p10GE Intel.
  64 #. NIC-6: QAT 8950 50G (Walnut Hill) Intel.
  65
  66 TG servers run T-Rex application and are populated with the following
  67 NIC models:
  68
  69 #. NIC-1: NIC xl710-QDA2 2p40GE Intel.
  70 #. NIC-2: NIC x710-DA2 2p10GE Intel.
  71 #. NIC-3: empty.
  72 #. NIC-4: NIC xl710-QDA2 2p40GE Intel.
  73 #. NIC-5: NIC x710-DA2 2p10GE Intel.
  74 #. NIC-6: NIC x710-DA2 2p10GE Intel. (For self-tests.)
  75
  76 All Intel Xeon Haswell servers run with Intel Hyper-Threading disabled,
  77 making the number of logical cores exposed to Linux match the number of
  78 18 physical cores per processor socket.
  79
  80 Complete 3n-hsw testbeds specification is available on
  81 `CSIT LF testbed <https://wiki.fd.io/view/CSIT/CSIT_LF_testbed>`_
  82 wiki page.
  83
  84 Total of three 3n-hsw testbeds are in operation in FD.io labs.
  85
  86 3-Node Xeon Skylake (3n-skx)
  87 ----------------------------
  88
  89 3n-skx testbed is based on three SuperMicro SYS-7049GP-TRT servers each
  90 equipped with two Intel Xeon Skylake Platinum 8180 2.5 GHz 28 core
  91 processors. Physical testbed topology is depicted in a figure below.
  92
  93 .. only:: latex
  94
  95     .. raw:: latex
  96
  97         \begin{figure}[H]
  98             \centering
  99                 \graphicspath{{../_tmp/src/introduction/}}
 100                 \includegraphics[width=0.90\textwidth]{testbed-3n-skx}
 101                 \label{fig:testbed-3n-skx}
 102         \end{figure}
 103
 104 .. only:: html
 105
 106     .. figure:: testbed-3n-skx.svg
 107         :alt: testbed-3n-skx
 108         :align: center
 109
 110 SUT1 and SUT2 servers are populated with the following NIC models:
 111
 112 #. NIC-1: x710-DA4 4p10GE Intel.
 113 #. NIC-2: xxv710-DA2 2p25GE Intel.
 114 #. NIC-3: empty, future expansion.
 115 #. NIC-4: empty, future expansion.
 116 #. NIC-5: empty, future expansion.
 117 #. NIC-6: empty, future expansion.
 118
 119 TG servers run T-Rex application and are populated with the following
 120 NIC models:
 121
 122 #. NIC-1: x710-DA4 4p10GE Intel.
 123 #. NIC-2: xxv710-DA2 2p25GE Intel.
 124 #. NIC-3: empty, future expansion.
 125 #. NIC-4: empty, future expansion.
 126 #. NIC-5: empty, future expansion.
 127 #. NIC-6: x710-DA4 4p10GE Intel. (For self-tests.)
 128
 129 All Intel Xeon Skylake servers run with Intel Hyper-Threading enabled,
 130 doubling the number of logical cores exposed to Linux, with 56 logical
 131 cores and 28 physical cores per processor socket.
 132
 133 Complete 3n-skx testbeds specification is available on
 134 `CSIT LF lab extension <https://wiki.fd.io/view/CSIT/fdio_csit_lab_ext_lld_draft>`_
 135 wiki page.
 136
 137 Total of two 3n-skx testbeds are in operation in FD.io labs.
 138
 139 2-Node Xeon Skylake (2n-skx)
 140 ----------------------------
 141
 142 2n-skx testbed is based on two SuperMicro SYS-7049GP-TRT servers each
 143 equipped with two Intel Xeon Skylake Platinum 8180 2.5 GHz 28 core
 144 processors. Physical testbed topology is depicted in a figure below.
 145
 146 .. only:: latex
 147
 148     .. raw:: latex
 149
 150         \begin{figure}[H]
 151             \centering
 152                 \graphicspath{{../_tmp/src/introduction/}}
 153                 \includegraphics[width=0.90\textwidth]{testbed-2n-skx}
 154                 \label{fig:testbed-2n-skx}
 155         \end{figure}
 156
 157 .. only:: html
 158
 159     .. figure:: testbed-2n-skx.svg
 160         :alt: testbed-2n-skx
 161         :align: center
 162
 163 SUT servers are populated with the following NIC models:
 164
 165 #. NIC-1: x710-DA4 4p10GE Intel.
 166 #. NIC-2: xxv710-DA2 2p25GE Intel.
 167 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Not used yet.)
 168 #. NIC-4: empty, future expansion.
 169 #. NIC-5: empty, future expansion.
 170 #. NIC-6: empty, future expansion.
 171
 172 TG servers run T-Rex application and are populated with the following
 173 NIC models:
 174
 175 #. NIC-1: x710-DA4 4p10GE Intel.
 176 #. NIC-2: xxv710-DA2 2p25GE Intel.
 177 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Not used yet.)
 178 #. NIC-4: empty, future expansion.
 179 #. NIC-5: empty, future expansion.
 180 #. NIC-6: x710-DA4 4p10GE Intel. (For self-tests.)
 181
 182 All Intel Xeon Skylake servers run with Intel Hyper-Threading enabled,
 183 doubling the number of logical cores exposed to Linux, with 56 logical
 184 cores and 28 physical cores per processor socket.
 185
 186 Complete 2n-skx testbed specification is available on
 187 `CSIT LF lab extension <https://wiki.fd.io/view/CSIT/fdio_csit_lab_ext_lld_draft>`_
 188 wiki page.
 189
 190 Total of four 2n-skx testbeds are in operation in FD.io labs.