CSIT-557: Performance jobs reorganisation, part 3
[csit.git] / docs / tag_documentation.rst
1 .. |copy| unicode:: 0xA9 .. copyright sign
2
3 | Copyright |copy| 2016 Cisco and/or its affiliates.
4 | Licensed under the Apache License, Version 2.0 (the "License");
5 | you may not use this file except in compliance with the License.
6 | You may obtain a copy of the License at:
7 |
8 |     http://www.apache.org/licenses/LICENSE-2.0
9 |
10 | Unless required by applicable law or agreed to in writing, software
11 | distributed under the License is distributed on an "AS IS" BASIS,
12 | WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13 | See the License for the specific language governing permissions and
14 | limitations under the License.
15
16
17 .. contents:: Table of Contents
18     :depth: 2
19
20
21 TAGs and their descriptions
22 ===========================
23
24 Documentation for tags used to select and identify test cases.
25
26
27 Topology TAGs
28 -------------
29
30 .. topic:: 3_NODE_DOUBLE_LINK_TOPO
31
32     3 nodes connected in a circular topology with two links interconnecting
33     the devices.
34
35 .. topic:: 3_NODE_SINGLE_LINK_TOPO
36
37     3 nodes connected in a circular topology with at least one link
38     interconnecting devices.
39
40 Objective TAGs
41 --------------
42
43 .. topic:: SKIP_PATCH
44
45     Test case(s) marked to not run in case of vpp-csit-verify (i.e. VPP patch)
46     and csit-vpp-verify jobs (i.e. CSIT patch).
47
48
49 Environment TAGs
50 ----------------
51
52 .. topic:: HW_ENV
53
54     DUTs and TGs are running on bare metal.
55
56 .. topic:: VM_ENV
57
58     DUTs and TGs are running in virtual environment.
59
60 .. topic:: VPP_VM_ENV
61
62     DUTs with VPP and capable of running Virtual Machine.
63
64
65 NIC model tags
66 --------------
67
68 .. topic:: NIC_Intel-X520-DA2
69
70     Intel X520-DA2 NIC.
71
72 .. topic:: NIC_Intel-XL710
73
74     Intel XL710 NIC.
75
76 .. topic:: NIC_Intel-X710
77
78     Intel X710 NIC.
79
80 .. topic:: NIC_Cisco-VIC-1227
81
82     VIC-1227 by Cisco.
83
84 .. topic:: NIC_Cisco-VIC-1385
85
86     VIC-1385 by Cisco.
87
88
89 Scaling TAGs
90 ------------
91
92 .. topic:: FIB_20K
93
94     2x10,000 entries in single fib table
95
96 .. topic:: FIB_200K
97
98     2x100,000 entries in single fib table
99
100 .. topic:: FIB_2M
101
102     2x1,000,000 entries in single fib table
103
104
105 Tags marking functional vs. performance of tests
106 ------------------------------------------------
107
108 .. topic:: FUNCTEST
109
110     All functional test cases.
111
112 .. topic:: PERFTEST
113
114     All performance test cases.
115
116
117 Performance testing tags
118 ------------------------
119
120 .. topic:: PDRDISC
121
122     Partial Drop Rate evaluation of single run result, with non-zero packet
123     loss tolerance (LT) expressed in percentage of packets transmitted.
124
125 .. topic:: NDRDISC
126
127     Non Drop Rate evaluation of results. Loss acceptance of dropped packets is
128     set to zero lost packets.
129
130 .. topic:: NDRCHK
131
132     Performance tests where TG verifies DUTs' throughput at ref-NDR (reference
133     Non Drop Rate) with zero packet loss tolerance.
134
135 .. topic:: NDRPDRDISC
136
137     Find performance of DUT based on RFC2544 with linear / binary / combined
138     search. (Previous LONG tests.)
139
140 Ethernet frame size tags for performance tests
141 ----------------------------------------------
142
143 .. topic:: 64B
144
145     64B frames used for test.
146
147 .. topic:: 78B
148
149     78B frames used for test.
150
151 .. topic:: IMIX
152
153     IMIX frame sequence (28x 64B, 16x 570B, 4x 1518B) used for test.
154
155 .. topic:: 1460B
156
157     1460B frames used for test.
158
159 .. topic:: 1480B
160
161     1480B frames used for test.
162
163 .. topic:: 1514B
164
165     1514B frames used for test.
166
167 .. topic:: 1518B
168
169     1518B frames used for test.
170
171 .. topic:: 9000B
172
173     9000B frames used for test.
174
175 Test type tags
176 --------------
177
178 .. topic:: BASE
179
180     Baseline test cases, no encapsulation, no feature(s) configured in tests.
181
182 .. topic:: IP4BASE
183
184     IPv4 baseline test cases, no encapsulation, no feature(s) configured in
185     tests.
186
187 .. topic:: IP6BASE
188
189     IPv6 baseline test cases, no encapsulation, no feature(s) configured in
190     tests.
191
192 .. topic:: L2XCBASE
193
194     L2XC baseline test cases, no encapsulation, no feature(s) configured in
195     tests.
196
197 .. topic:: L2BDBASE
198
199     L2BD baseline test cases, no encapsulation, no feature(s) configured in
200     tests.
201
202 .. topic:: SCALE
203
204     Scale test cases.
205
206 .. topic:: ENCAP
207
208     Test cases where encapsulation is used. Use also encapsulation tag(s).
209
210 .. topic:: FEATURE
211
212     At least one feature is configured in test cases. Use also feature tag(s).
213
214
215 Forwarding mode tags
216 --------------------
217
218 .. topic:: L2BDMACSTAT
219
220     VPP L2 bridge-domain, L2 MAC static.
221
222 .. topic:: L2BDMACLRN
223
224     VPP L2 bridge-domain, L2 MAC learning.
225
226 .. topic:: L2XCFWD
227
228     VPP L2 point-to-point cross-connect.
229
230 .. topic:: IP4FWD
231
232     VPP IPv4 routed forwarding.
233
234 .. topic:: IP6FWD
235
236     VPP IPv6 routed forwarding.
237
238
239 Underlay tags
240 -------------
241
242 .. topic:: IP4UNRLAY
243
244     IPv4 underlay.
245
246 .. topic:: IP6UNRLAY
247
248     IPv6 underlay.
249
250 .. topic:: MPLSUNRLAY
251
252     MPLS underlay.
253
254
255 Overlay tags
256 ------------
257
258 .. topic:: L2OVRLAY
259
260     L2 overlay.
261
262 .. topic:: IP4OVRLAY
263
264     IPv4 overlay (IPv4 payload).
265
266 .. topic:: IP6OVRLAY
267
268     IPv6 overlay (IPv6 payload).
269
270
271 Encapsulation tags
272 ------------------
273
274 .. topic:: ETH
275
276     All test cases with base Ethernet (no encapsulation).
277
278 .. topic:: DOT1Q
279
280     All test cases with dot1q.
281
282 .. topic:: DOT1AD
283
284     All test cases with dot1ad.
285
286 .. topic:: LISP
287
288     All test cases with LISP.
289
290 .. topic:: LISPGPE
291
292     All test cases with LISP-GPE.
293
294 .. topic:: VXLAN
295
296     All test cases with Vxlan.
297
298 .. topic:: VXLANGPE
299
300     All test cases with VXLAN-GPE.
301
302 .. topic:: GRE
303
304     All test cases with GRE.
305
306 .. topic:: IPSEC
307
308     All test cases with IPSEC.
309
310
311 Interface tags
312 --------------
313
314 .. topic:: PHY
315
316     All test cases which use physical interface(s).
317
318 .. topic:: VHOST
319
320     All test cases which uses VHOST.
321
322 .. topic:: TUNTAP
323
324     All test cases which uses TUN and TAP.
325
326 .. topic:: AFPKT
327
328     All test cases which uses AFPKT.
329
330 .. topic:: NETMAP
331
332     All test cases which uses Netmap.
333
334
335 Feature tags
336 ------------
337
338 .. topic:: IACLDST
339
340     iACL destination.
341
342 .. topic:: COPWHLIST
343
344     COP whitelist.
345
346 .. topic:: SNAT
347
348     SNAT configured and tested.
349
350
351 Encryption tags
352 ---------------
353
354 .. topic:: IPSECSW
355
356     Crypto in software.
357
358 .. topic:: IPSECHW
359
360     Crypto in hardware.
361
362 .. topic:: IPSECTRAN
363
364     IPSec in transport mode.
365
366 .. topic:: IPSECTUN
367
368     IPSec in tunnel mode.
369
370
371 Client-workload tags
372 --------------------
373
374 .. topic:: VM
375
376     All test cases which use at least one virtual machine.
377
378 .. topic:: LXC
379
380     All test cases which use Linux container.
381
382 .. topic:: APP
383
384     All test cases with specific APP use.
385
386
387 Multi-threading tags
388 --------------------
389
390 .. topic:: STHREAD
391
392     All test cases using single poll mode thread.
393
394 .. topic:: MTHREAD
395
396     All test cases using more then one poll mode driver thread.
397
398 .. topic:: 1NUMA
399
400     All test cases with packet processing on single socket.
401
402 .. topic:: 2NUMA
403
404     All test cases with packet processing on two sockets.
405
406 .. topic:: SMT
407
408     All test cases with symmetric Multi-Threading (HyperThreading) enabled.
409
410 .. topic:: NOSMT
411
412     All test cases with symmetric Multi-Threading (HyperThreading) disabled.
413
414 .. topic:: 1T1C
415
416     1 worker thread pinned to 1 dedicated physical core. 1 receive queue per
417     interface. Main thread pinned to core 0.
418
419 .. topic:: 2T2C
420
421     2 worker threads pinned to 2 dedicated physical cores. 1 receive queue per
422     interface. Main thread pinned to core 0.
423
424 .. topic:: 4T4C
425
426     4 worker threads pinned to 4 dedicated physical cores. 2 receive queues per
427     interface. Main thread pinned to core 0.
428
429 .. topic:: 6T6C
430
431     6 worker threads pinned to 6 dedicated physical cores. 3 receive queues per
432     interface. Main thread pinned to core 0.
433
434 .. topic:: 8T8C
435
436     8 worker threads pinned to 8 dedicated physical cores. 4 receive queues per
437     interface. Main thread pinned to core 0.