docs/report/introduction/physical_testbeds.rst

   1 .. _tested_physical_topologies:
   2
   3 Physical Testbeds
   4 =================
   5
   6 All :abbr:`FD.io (Fast Data Input/Ouput)` :abbr:`CSIT (Continuous System
   7 Integration and Testing)` performance test results included in this
   8 report are executed on the physical testbeds hosted by :abbr:`LF (Linux
   9 Foundation)` FD.io project, unless otherwise noted.
  10
  11 Two physical server topology types are used:
  12
  13 - **2-Node Topology**: Consists of one server acting as a System Under
  14   Test (SUT) and one server acting as a Traffic Generator (TG), with
  15   both servers connected into a ring topology. Used for executing tests
  16   that require frame encapsulations supported by TG.
  17
  18 - **3-Node Topology**: Consists of two servers acting as a Systems Under
  19   Test (SUTs) and one server acting as a Traffic Generator (TG), with
  20   all servers connected into a ring topology. Used for executing tests
  21   that require frame encapsulations not supported by TG e.g. certain
  22   overlay tunnel encapsulations and IPsec. Number of native Ethernet,
  23   IPv4 and IPv6 encapsulation tests are also executed on these testbeds,
  24   for comparison with 2-Node Topology.
  25
  26 Current FD.io production testbeds are built with SUT servers based on
  27 the following processor architectures:
  28
  29 - Intel Xeon: Skylake Platinum 8180 and Haswell-SP E5-2699v3.
  30 - Intel Atom: Denverton C3858.
  31 - ARM: TaiShan 2280, hip07-d05.
  32
  33 Server SUT performance depends on server and processor type, hence
  34 results for testbeds based on different servers must be reported
  35 separately, and compared if appropriate.
  36
  37 Complete technical specifications of compute servers used in CSIT
  38 physical testbeds are maintained in FD.io CSIT repository:
  39 https://git.fd.io/csit/tree/docs/lab/testbed_specifications.md.
  40
  41 Following is the description of existing production testbeds.
  42
  43 2-Node Xeon Skylake (2n-skx)
  44 ----------------------------
  45
  46 Four 2n-skx testbeds are in operation in FD.io labs. Each 2n-skx testbed
  47 is built with two SuperMicro SYS-7049GP-TRT servers, each in turn
  48 equipped with two Intel Xeon Skylake Platinum 8180 processors (38.5 MB
  49 Cache, 2.50 GHz, 28 cores). 2n-skx physical topology is shown below.
  50
  51 .. only:: latex
  52
  53     .. raw:: latex
  54
  55         \begin{figure}[H]
  56             \centering
  57                 \graphicspath{{../_tmp/src/introduction/}}
  58                 \includegraphics[width=0.90\textwidth]{testbed-2n-skx}
  59                 \label{fig:testbed-2n-skx}
  60         \end{figure}
  61
  62 .. only:: html
  63
  64     .. figure:: testbed-2n-skx.svg
  65         :alt: testbed-2n-skx
  66         :align: center
  67
  68 SUT servers are populated with the following NIC models:
  69
  70 #. NIC-1: x710-DA4 4p10GE Intel.
  71 #. NIC-2: xxv710-DA2 2p25GE Intel.
  72 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Not used yet.)
  73 #. NIC-4: empty, future expansion.
  74 #. NIC-5: empty, future expansion.
  75 #. NIC-6: empty, future expansion.
  76
  77 TG servers run T-Rex application and are populated with the following
  78 NIC models:
  79
  80 #. NIC-1: x710-DA4 4p10GE Intel.
  81 #. NIC-2: xxv710-DA2 2p25GE Intel.
  82 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Not used yet.)
  83 #. NIC-4: empty, future expansion.
  84 #. NIC-5: empty, future expansion.
  85 #. NIC-6: x710-DA4 4p10GE Intel. (For self-tests.)
  86
  87 All Intel Xeon Skylake servers run with Intel Hyper-Threading enabled,
  88 doubling the number of logical cores exposed to Linux, with 56 logical
  89 cores and 28 physical cores per processor socket.
  90
  91 3-Node Xeon Skylake (3n-skx)
  92 ----------------------------
  93
  94 Two 3n-skx testbeds are in operation in FD.io labs. Each 3n-skx testbed
  95 is built with three SuperMicro SYS-7049GP-TRT servers, each in turn
  96 equipped with two Intel Xeon Skylake Platinum 8180 processors (38.5 MB
  97 Cache, 2.50 GHz, 28 cores). 3n-skx physical topology is shown below.
  98
  99 .. only:: latex
 100
 101     .. raw:: latex
 102
 103         \begin{figure}[H]
 104             \centering
 105                 \graphicspath{{../_tmp/src/introduction/}}
 106                 \includegraphics[width=0.90\textwidth]{testbed-3n-skx}
 107                 \label{fig:testbed-3n-skx}
 108         \end{figure}
 109
 110 .. only:: html
 111
 112     .. figure:: testbed-3n-skx.svg
 113         :alt: testbed-3n-skx
 114         :align: center
 115
 116 SUT1 and SUT2 servers are populated with the following NIC models:
 117
 118 #. NIC-1: x710-DA4 4p10GE Intel.
 119 #. NIC-2: xxv710-DA2 2p25GE Intel.
 120 #. NIC-3: empty, future expansion.
 121 #. NIC-4: empty, future expansion.
 122 #. NIC-5: empty, future expansion.
 123 #. NIC-6: empty, future expansion.
 124
 125 TG servers run T-Rex application and are populated with the following
 126 NIC models:
 127
 128 #. NIC-1: x710-DA4 4p10GE Intel.
 129 #. NIC-2: xxv710-DA2 2p25GE Intel.
 130 #. NIC-3: empty, future expansion.
 131 #. NIC-4: empty, future expansion.
 132 #. NIC-5: empty, future expansion.
 133 #. NIC-6: x710-DA4 4p10GE Intel. (For self-tests.)
 134
 135 All Intel Xeon Skylake servers run with Intel Hyper-Threading enabled,
 136 doubling the number of logical cores exposed to Linux, with 56 logical
 137 cores and 28 physical cores per processor socket.
 138
 139 3-Node Xeon Haswell (3n-hsw)
 140 ----------------------------
 141
 142 Three 3n-hsw testbeds are in operation in FD.io labs. Each 3n-hsw
 143 testbed is built with three Cisco UCS-c240m3 servers, each in turn
 144 equipped with two Intel Xeon Haswell-SP E5-2699v3 processors (45 MB
 145 Cache, 2.3 GHz, 18 cores). 3n-hsw physical topology is shown below.
 146
 147 .. only:: latex
 148
 149     .. raw:: latex
 150
 151         \begin{figure}[H]
 152             \centering
 153                 \graphicspath{{../_tmp/src/introduction/}}
 154                 \includegraphics[width=0.90\textwidth]{testbed-3n-hsw}
 155                 \label{fig:testbed-3n-hsw}
 156         \end{figure}
 157
 158 .. only:: html
 159
 160     .. figure:: testbed-3n-hsw.svg
 161         :alt: testbed-3n-hsw
 162         :align: center
 163
 164 SUT1 and SUT2 servers are populated with the following NIC models:
 165
 166 #. NIC-1: VIC 1385 2p40GE Cisco.
 167 #. NIC-2: NIC x520 2p10GE Intel.
 168 #. NIC-3: empty.
 169 #. NIC-4: NIC xl710-QDA2 2p40GE Intel.
 170 #. NIC-5: NIC x710-DA2 2p10GE Intel.
 171 #. NIC-6: QAT 8950 50G (Walnut Hill) Intel.
 172
 173 TG servers run T-Rex application and are populated with the following
 174 NIC models:
 175
 176 #. NIC-1: NIC xl710-QDA2 2p40GE Intel.
 177 #. NIC-2: NIC x710-DA2 2p10GE Intel.
 178 #. NIC-3: empty.
 179 #. NIC-4: NIC xl710-QDA2 2p40GE Intel.
 180 #. NIC-5: NIC x710-DA2 2p10GE Intel.
 181 #. NIC-6: NIC x710-DA2 2p10GE Intel. (For self-tests.)
 182
 183 All Intel Xeon Haswell servers run with Intel Hyper-Threading disabled,
 184 making the number of logical cores exposed to Linux match the number of
 185 18 physical cores per processor socket.
 186
 187 2-Node Atom Denverton (2n-dnv)
 188 ------------------------------
 189
 190 2n-dnv testbed is built with: i) one Intel S2600WFT server acting as TG
 191 and equipped with two Intel Xeon Skylake Platinum 8180 processors (38.5
 192 MB Cache, 2.50 GHz, 28 cores), and ii) one SuperMicro SYS-E300-9A server
 193 acting as SUT and equipped with one Intel Atom C3858 processor (12 MB
 194 Cache, 2.00 GHz, 12 cores). 2n-dnv physical topology is shown below.
 195
 196 .. only:: latex
 197
 198     .. raw:: latex
 199
 200         \begin{figure}[H]
 201             \centering
 202                 \graphicspath{{../_tmp/src/introduction/}}
 203                 \includegraphics[width=0.90\textwidth]{testbed-2n-dnv}
 204                 \label{fig:testbed-2n-dnv}
 205         \end{figure}
 206
 207 .. only:: html
 208
 209     .. figure:: testbed-2n-dnv.svg
 210         :alt: testbed-2n-dnv
 211         :align: center
 212
 213 SUT server have four internal 10G NIC port:
 214
 215 #. P-1: x553 copper port.
 216 #. P-2: x553 copper port.
 217 #. P-3: x553 fiber port.
 218 #. P-4: x553 fiber port.
 219
 220 TG server run T-Rex software traffic generator and are populated with the
 221 following NIC models:
 222
 223 #. NIC-1: x550-T2 2p10GE Intel.
 224 #. NIC-2: x550-T2 2p10GE Intel.
 225 #. NIC-3: x520-DA2 2p10GE Intel.
 226 #. NIC-4: x520-DA2 2p10GE Intel.
 227
 228 The 2n-dnv testbed is in operation in Intel SH labs.
 229
 230 3-Node Atom Denverton (3n-dnv)
 231 ------------------------------
 232
 233 One 3n-dnv testbed is built with: i) one SuperMicro SYS-7049GP-TRT
 234 server acting as TG and equipped with two Intel Xeon Skylake Platinum
 235 8180 processors (38.5 MB Cache, 2.50 GHz, 28 cores), and ii) one
 236 SuperMicro SYS-E300-9A server acting as SUT and equipped with one Intel
 237 Atom C3858 processor (12 MB Cache, 2.00 GHz, 12 cores). 3n-dnv physical
 238 topology is shown below.
 239
 240 .. only:: latex
 241
 242     .. raw:: latex
 243
 244         \begin{figure}[H]
 245             \centering
 246                 \graphicspath{{../_tmp/src/introduction/}}
 247                 \includegraphics[width=0.90\textwidth]{testbed-3n-dnv}
 248                 \label{fig:testbed-3n-dnv}
 249         \end{figure}
 250
 251 .. only:: html
 252
 253     .. figure:: testbed-3n-dnv.svg
 254         :alt: testbed-3n-dnv
 255         :align: center
 256
 257 SUT1 and SUT2 servers are populated with the following NIC models:
 258
 259 #. NIC-1: x553 2p10GE fiber Intel.
 260 #. NIC-2: x553 2p10GE copper Intel.
 261
 262 TG servers run T-Rex application and are populated with the following
 263 NIC models:
 264
 265 #. NIC-1: x710-DA4 4p10GE Intel.
 266
 267 3-Node ARM TaiShan (3n-tsh)
 268 ---------------------------
 269
 270 One 3n-tsh testbed is built with: i) one SuperMicro SYS-7049GP-TRT
 271 server acting as TG and equipped with two Intel Xeon Skylake Platinum
 272 8180 processors (38.5 MB Cache, 2.50 GHz, 28 cores), and ii) one Huawei
 273 TaiShan 2280 server acting as SUT and equipped with one  hip07-d05
 274 processor (64* ARM Cortex-A72). 3n-tsh physical topology is shown below.
 275
 276 .. only:: latex
 277
 278     .. raw:: latex
 279
 280         \begin{figure}[H]
 281             \centering
 282                 \graphicspath{{../_tmp/src/introduction/}}
 283                 \includegraphics[width=0.90\textwidth]{testbed-3n-tsh}
 284                 \label{fig:testbed-3n-tsh}
 285         \end{figure}
 286
 287 .. only:: html
 288
 289     .. figure:: testbed-3n-tsh.svg
 290         :alt: testbed-3n-tsh
 291         :align: center
 292
 293 SUT1 and SUT2 servers are populated with the following NIC models:
 294
 295 #. NIC-1: connectx4 2p25GE Mellanox.
 296 #. NIC-2: x520 2p10GE Intel.
 297
 298 TG servers run T-Rex application and are populated with the following
 299 NIC models:
 300
 301 #. NIC-1: x710-DA4 4p10GE Intel.
 302 #. NIC-2: xxv710-DA2 2p25GE Intel.