Docs: Update report sections
[csit.git] / docs / report / introduction / physical_testbeds.rst
1 .. _tested_physical_topologies:
2
3 Physical Testbeds
4 =================
5
6 All :abbr:`FD.io (Fast Data Input/Ouput)` :abbr:`CSIT (Continuous System
7 Integration and Testing)` performance test results included in this
8 report are executed on the physical testbeds hosted by :abbr:`LF (Linux
9 Foundation)` FD.io project, unless otherwise noted.
10
11 Two physical server topology types are used:
12
13 - **2-Node Topology**: Consists of one server acting as a System Under
14   Test (SUT) and one server acting as a Traffic Generator (TG), with
15   both servers connected into a ring topology. Used for executing tests
16   that require frame encapsulations supported by TG.
17
18 - **3-Node Topology**: Consists of two servers acting as a Systems Under
19   Test (SUTs) and one server acting as a Traffic Generator (TG), with
20   all servers connected into a ring topology. Used for executing tests
21   that require frame encapsulations not supported by TG e.g. certain
22   overlay tunnel encapsulations and IPsec. Number of native Ethernet,
23   IPv4 and IPv6 encapsulation tests are also executed on these testbeds,
24   for comparison with 2-Node Topology.
25
26 Current FD.io production testbeds are built with SUT servers based on
27 the following processor architectures:
28
29 - Intel Xeon: Skylake Platinum 8180, Haswell-SP E5-2699v3,
30   Cascadelake Platinum 8280, Cascadelake 6252N.
31 - Intel Atom: Denverton C3858.
32 - ARM: TaiShan 2280, hip07-d05.
33
34 Server SUT performance depends on server and processor type, hence
35 results for testbeds based on different servers must be reported
36 separately, and compared if appropriate.
37
38 Complete technical specifications of compute servers used in CSIT
39 physical testbeds are maintained in FD.io CSIT repository:
40 https://git.fd.io/csit/tree/docs/lab/testbed_specifications.md.
41
42 Following is the description of existing production testbeds.
43
44 2-Node Xeon Cascadelake (2n-clx)
45 --------------------------------
46
47 Three 2n-clx testbeds are in operation in FD.io labs. Each 2n-clx testbed
48 is built with two SuperMicro SYS-7049GP-TRT servers, SUTs are equipped with two
49 Intel Xeon Gold 6252N processors (35.75 MB Cache, 2.30 GHz, 24 cores).
50 TGs are equiped with Intel Xeon Cascadelake Platinum 8280 processors (38.5 MB
51 Cache, 2.70 GHz, 28 cores). 2n-clx physical topology is shown below.
52
53 .. only:: latex
54
55     .. raw:: latex
56
57         \begin{figure}[H]
58             \centering
59                 \graphicspath{{../_tmp/src/introduction/}}
60                 \includegraphics[width=0.90\textwidth]{testbed-2n-clx}
61                 \label{fig:testbed-2n-clx}
62         \end{figure}
63
64 .. only:: html
65
66     .. figure:: testbed-2n-clx.svg
67         :alt: testbed-2n-clx
68         :align: center
69
70 SUT servers are populated with the following NIC models:
71
72 #. NIC-1: x710-DA4 4p10GE Intel.
73 #. NIC-2: xxv710-DA2 2p25GE Intel.
74 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Only testbed t27, t28)
75 #. NIC-4: empty, future expansion.
76 #. NIC-5: empty, future expansion.
77 #. NIC-6: empty, future expansion.
78
79 TG servers run T-Rex application and are populated with the following
80 NIC models:
81
82 #. NIC-1: x710-DA4 4p10GE Intel.
83 #. NIC-2: xxv710-DA2 2p25GE Intel.
84 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Only testbed t27, t28)
85 #. NIC-4: empty, future expansion.
86 #. NIC-5: empty, future expansion.
87 #. NIC-6: x710-DA4 4p10GE Intel. (For self-tests.)
88
89 All Intel Xeon Cascadelake servers run with Intel Hyper-Threading enabled,
90 doubling the number of logical cores exposed to Linux.
91
92 2-Node Xeon Skylake (2n-skx)
93 ----------------------------
94
95 Four 2n-skx testbeds are in operation in FD.io labs. Each 2n-skx testbed
96 is built with two SuperMicro SYS-7049GP-TRT servers, each in turn
97 equipped with two Intel Xeon Skylake Platinum 8180 processors (38.5 MB
98 Cache, 2.50 GHz, 28 cores). 2n-skx physical topology is shown below.
99
100 .. only:: latex
101
102     .. raw:: latex
103
104         \begin{figure}[H]
105             \centering
106                 \graphicspath{{../_tmp/src/introduction/}}
107                 \includegraphics[width=0.90\textwidth]{testbed-2n-skx}
108                 \label{fig:testbed-2n-skx}
109         \end{figure}
110
111 .. only:: html
112
113     .. figure:: testbed-2n-skx.svg
114         :alt: testbed-2n-skx
115         :align: center
116
117 SUT servers are populated with the following NIC models:
118
119 #. NIC-1: x710-DA4 4p10GE Intel.
120 #. NIC-2: xxv710-DA2 2p25GE Intel.
121 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Not used yet.)
122 #. NIC-4: empty, future expansion.
123 #. NIC-5: empty, future expansion.
124 #. NIC-6: empty, future expansion.
125
126 TG servers run T-Rex application and are populated with the following
127 NIC models:
128
129 #. NIC-1: x710-DA4 4p10GE Intel.
130 #. NIC-2: xxv710-DA2 2p25GE Intel.
131 #. NIC-3: mcx556a-edat ConnectX5 2p100GE Mellanox. (Not used yet.)
132 #. NIC-4: empty, future expansion.
133 #. NIC-5: empty, future expansion.
134 #. NIC-6: x710-DA4 4p10GE Intel. (For self-tests.)
135
136 All Intel Xeon Skylake servers run with Intel Hyper-Threading enabled,
137 doubling the number of logical cores exposed to Linux, with 56 logical
138 cores and 28 physical cores per processor socket.
139
140 3-Node Xeon Skylake (3n-skx)
141 ----------------------------
142
143 Two 3n-skx testbeds are in operation in FD.io labs. Each 3n-skx testbed
144 is built with three SuperMicro SYS-7049GP-TRT servers, each in turn
145 equipped with two Intel Xeon Skylake Platinum 8180 processors (38.5 MB
146 Cache, 2.50 GHz, 28 cores). 3n-skx physical topology is shown below.
147
148 .. only:: latex
149
150     .. raw:: latex
151
152         \begin{figure}[H]
153             \centering
154                 \graphicspath{{../_tmp/src/introduction/}}
155                 \includegraphics[width=0.90\textwidth]{testbed-3n-skx}
156                 \label{fig:testbed-3n-skx}
157         \end{figure}
158
159 .. only:: html
160
161     .. figure:: testbed-3n-skx.svg
162         :alt: testbed-3n-skx
163         :align: center
164
165 SUT1 and SUT2 servers are populated with the following NIC models:
166
167 #. NIC-1: x710-DA4 4p10GE Intel.
168 #. NIC-2: xxv710-DA2 2p25GE Intel.
169 #. NIC-3: empty, future expansion.
170 #. NIC-4: empty, future expansion.
171 #. NIC-5: empty, future expansion.
172 #. NIC-6: empty, future expansion.
173
174 TG servers run T-Rex application and are populated with the following
175 NIC models:
176
177 #. NIC-1: x710-DA4 4p10GE Intel.
178 #. NIC-2: xxv710-DA2 2p25GE Intel.
179 #. NIC-3: empty, future expansion.
180 #. NIC-4: empty, future expansion.
181 #. NIC-5: empty, future expansion.
182 #. NIC-6: x710-DA4 4p10GE Intel. (For self-tests.)
183
184 All Intel Xeon Skylake servers run with Intel Hyper-Threading enabled,
185 doubling the number of logical cores exposed to Linux, with 56 logical
186 cores and 28 physical cores per processor socket.
187
188 3-Node Xeon Haswell (3n-hsw)
189 ----------------------------
190
191 Three 3n-hsw testbeds are in operation in FD.io labs. Each 3n-hsw
192 testbed is built with three Cisco UCS-c240m3 servers, each in turn
193 equipped with two Intel Xeon Haswell-SP E5-2699v3 processors (45 MB
194 Cache, 2.3 GHz, 18 cores). 3n-hsw physical topology is shown below.
195
196 .. only:: latex
197
198     .. raw:: latex
199
200         \begin{figure}[H]
201             \centering
202                 \graphicspath{{../_tmp/src/introduction/}}
203                 \includegraphics[width=0.90\textwidth]{testbed-3n-hsw}
204                 \label{fig:testbed-3n-hsw}
205         \end{figure}
206
207 .. only:: html
208
209     .. figure:: testbed-3n-hsw.svg
210         :alt: testbed-3n-hsw
211         :align: center
212
213 SUT1 and SUT2 servers are populated with the following NIC models:
214
215 #. NIC-1: VIC 1385 2p40GE Cisco.
216 #. NIC-2: NIC x520 2p10GE Intel.
217 #. NIC-3: empty.
218 #. NIC-4: NIC xl710-QDA2 2p40GE Intel.
219 #. NIC-5: NIC x710-DA2 2p10GE Intel.
220 #. NIC-6: QAT 8950 50G (Walnut Hill) Intel.
221
222 TG servers run T-Rex application and are populated with the following
223 NIC models:
224
225 #. NIC-1: NIC xl710-QDA2 2p40GE Intel.
226 #. NIC-2: NIC x710-DA2 2p10GE Intel.
227 #. NIC-3: empty.
228 #. NIC-4: NIC xl710-QDA2 2p40GE Intel.
229 #. NIC-5: NIC x710-DA2 2p10GE Intel.
230 #. NIC-6: NIC x710-DA2 2p10GE Intel. (For self-tests.)
231
232 All Intel Xeon Haswell servers run with Intel Hyper-Threading disabled,
233 making the number of logical cores exposed to Linux match the number of
234 18 physical cores per processor socket.
235
236 2-Node Atom Denverton (2n-dnv)
237 ------------------------------
238
239 2n-dnv testbed is built with: i) one Intel S2600WFT server acting as TG
240 and equipped with two Intel Xeon Skylake Platinum 8180 processors (38.5
241 MB Cache, 2.50 GHz, 28 cores), and ii) one SuperMicro SYS-E300-9A server
242 acting as SUT and equipped with one Intel Atom C3858 processor (12 MB
243 Cache, 2.00 GHz, 12 cores). 2n-dnv physical topology is shown below.
244
245 .. only:: latex
246
247     .. raw:: latex
248
249         \begin{figure}[H]
250             \centering
251                 \graphicspath{{../_tmp/src/introduction/}}
252                 \includegraphics[width=0.90\textwidth]{testbed-2n-dnv}
253                 \label{fig:testbed-2n-dnv}
254         \end{figure}
255
256 .. only:: html
257
258     .. figure:: testbed-2n-dnv.svg
259         :alt: testbed-2n-dnv
260         :align: center
261
262 SUT server have four internal 10G NIC port:
263
264 #. P-1: x553 copper port.
265 #. P-2: x553 copper port.
266 #. P-3: x553 fiber port.
267 #. P-4: x553 fiber port.
268
269 TG server run T-Rex software traffic generator and are populated with the
270 following NIC models:
271
272 #. NIC-1: x550-T2 2p10GE Intel.
273 #. NIC-2: x550-T2 2p10GE Intel.
274 #. NIC-3: x520-DA2 2p10GE Intel.
275 #. NIC-4: x520-DA2 2p10GE Intel.
276
277 The 2n-dnv testbed is in operation in Intel SH labs.
278
279 3-Node Atom Denverton (3n-dnv)
280 ------------------------------
281
282 One 3n-dnv testbed is built with: i) one SuperMicro SYS-7049GP-TRT
283 server acting as TG and equipped with two Intel Xeon Skylake Platinum
284 8180 processors (38.5 MB Cache, 2.50 GHz, 28 cores), and ii) one
285 SuperMicro SYS-E300-9A server acting as SUT and equipped with one Intel
286 Atom C3858 processor (12 MB Cache, 2.00 GHz, 12 cores). 3n-dnv physical
287 topology is shown below.
288
289 .. only:: latex
290
291     .. raw:: latex
292
293         \begin{figure}[H]
294             \centering
295                 \graphicspath{{../_tmp/src/introduction/}}
296                 \includegraphics[width=0.90\textwidth]{testbed-3n-dnv}
297                 \label{fig:testbed-3n-dnv}
298         \end{figure}
299
300 .. only:: html
301
302     .. figure:: testbed-3n-dnv.svg
303         :alt: testbed-3n-dnv
304         :align: center
305
306 SUT1 and SUT2 servers are populated with the following NIC models:
307
308 #. NIC-1: x553 2p10GE fiber Intel.
309 #. NIC-2: x553 2p10GE copper Intel.
310
311 TG servers run T-Rex application and are populated with the following
312 NIC models:
313
314 #. NIC-1: x710-DA4 4p10GE Intel.
315
316 3-Node ARM TaiShan (3n-tsh)
317 ---------------------------
318
319 One 3n-tsh testbed is built with: i) one SuperMicro SYS-7049GP-TRT
320 server acting as TG and equipped with two Intel Xeon Skylake Platinum
321 8180 processors (38.5 MB Cache, 2.50 GHz, 28 cores), and ii) one Huawei
322 TaiShan 2280 server acting as SUT and equipped with one  hip07-d05
323 processor (64* ARM Cortex-A72). 3n-tsh physical topology is shown below.
324
325 .. only:: latex
326
327     .. raw:: latex
328
329         \begin{figure}[H]
330             \centering
331                 \graphicspath{{../_tmp/src/introduction/}}
332                 \includegraphics[width=0.90\textwidth]{testbed-3n-tsh}
333                 \label{fig:testbed-3n-tsh}
334         \end{figure}
335
336 .. only:: html
337
338     .. figure:: testbed-3n-tsh.svg
339         :alt: testbed-3n-tsh
340         :align: center
341
342 SUT1 and SUT2 servers are populated with the following NIC models:
343
344 #. NIC-1: connectx4 2p25GE Mellanox.
345 #. NIC-2: x520 2p10GE Intel.
346
347 TG servers run T-Rex application and are populated with the following
348 NIC models:
349
350 #. NIC-1: x710-DA4 4p10GE Intel.
351 #. NIC-2: xxv710-DA2 2p25GE Intel.

©2016 FD.io a Linux Foundation Collaborative Project. All Rights Reserved.
Linux Foundation is a registered trademark of The Linux Foundation. Linux is a registered trademark of Linus Torvalds.
Please see our privacy policy and terms of use.