Report: Add data
[csit.git] / resources / tools / presentation / specification.yaml
1 - type: "environment"
2
3   paths:
4     # Top level directories:
5     ## Working directory
6     DIR[WORKING]: "_tmp"
7     ## Build directories
8     DIR[BUILD,HTML]: "_build"
9     DIR[BUILD,LATEX]: "_build_latex"
10
11     # Static .rst files
12     DIR[RST]: "../../../docs/report"
13
14     # Working directories
15     ## Input data files (.zip, .xml)
16     DIR[WORKING,DATA]: "{DIR[WORKING]}/data"
17     ## Static source files from git
18     DIR[WORKING,SRC]: "{DIR[WORKING]}/src"
19     DIR[WORKING,SRC,STATIC]: "{DIR[WORKING,SRC]}/_static"
20
21     # Static html content
22     DIR[STATIC]: "{DIR[BUILD,HTML]}/_static"
23     DIR[STATIC,VPP]: "{DIR[STATIC]}/vpp"
24     DIR[STATIC,DPDK]: "{DIR[STATIC]}/dpdk"
25     DIR[STATIC,ARCH]: "{DIR[STATIC]}/archive"
26
27     # Detailed test results
28     DIR[DTR]: "{DIR[WORKING,SRC]}/detailed_test_results"
29     DIR[DTR,PERF,DPDK,3N,HSW]: "{DIR[DTR]}/dpdk_performance_results_3n_hsw"
30     DIR[DTR,PERF,DPDK,3N,SKX]: "{DIR[DTR]}/dpdk_performance_results_3n_skx"
31     DIR[DTR,PERF,DPDK,2N,SKX]: "{DIR[DTR]}/dpdk_performance_results_2n_skx"
32     DIR[DTR,PERF,DPDK,2N,ZN2]: "{DIR[DTR]}/dpdk_performance_results_2n_zn2"
33     DIR[DTR,PERF,DPDK,2N,CLX]: "{DIR[DTR]}/dpdk_performance_results_2n_clx"
34     DIR[DTR,PERF,DPDK,2N,DNV]: "{DIR[DTR]}/dpdk_performance_results_2n_dnv"
35     DIR[DTR,PERF,DPDK,3N,DNV]: "{DIR[DTR]}/dpdk_performance_results_3n_dnv"
36     DIR[DTR,PERF,DPDK,3N,TSH]: "{DIR[DTR]}/dpdk_performance_results_3n_tsh"
37     DIR[DTR,PERF,DPDK,2N,TX2]: "{DIR[DTR]}/dpdk_performance_results_2n_tx2"
38     DIR[DTR,PERF,VPP,ALL]: "{DIR[DTR]}/vpp_performance_results"
39     DIR[DTR,PERF,VPP,3N,HSW]: "{DIR[DTR]}/vpp_performance_results_3n_hsw"
40     DIR[DTR,PERF,VPP,3N,SKX]: "{DIR[DTR]}/vpp_performance_results_3n_skx"
41     DIR[DTR,PERF,VPP,2N,SKX]: "{DIR[DTR]}/vpp_performance_results_2n_skx"
42     DIR[DTR,PERF,VPP,2N,ZN2]: "{DIR[DTR]}/vpp_performance_results_2n_zn2"
43     DIR[DTR,PERF,VPP,2N,CLX]: "{DIR[DTR]}/vpp_performance_results_2n_clx"
44     DIR[DTR,PERF,VPP,3N,TSH]: "{DIR[DTR]}/vpp_performance_results_3n_tsh"
45     DIR[DTR,PERF,VPP,2N,TX2]: "{DIR[DTR]}/vpp_performance_results_2n_tx2"
46     DIR[DTR,PERF,VPP,3N,DNV]: "{DIR[DTR]}/vpp_performance_results_3n_dnv"
47     DIR[DTR,PERF,VPP,2N,DNV]: "{DIR[DTR]}/vpp_performance_results_2n_dnv"
48     DIR[DTR,MRR,VPP,ALL]: "{DIR[DTR]}/vpp_mrr_results"
49     DIR[DTR,MRR,VPP,3N,HSW]: "{DIR[DTR]}/vpp_mrr_results_3n_hsw"
50     DIR[DTR,MRR,VPP,3N,SKX]: "{DIR[DTR]}/vpp_mrr_results_3n_skx"
51     DIR[DTR,MRR,VPP,2N,SKX]: "{DIR[DTR]}/vpp_mrr_results_2n_skx"
52     DIR[DTR,MRR,VPP,2N,ZN2]: "{DIR[DTR]}/vpp_mrr_results_2n_zn2"
53     DIR[DTR,MRR,VPP,2N,CLX]: "{DIR[DTR]}/vpp_mrr_results_2n_clx"
54     DIR[DTR,MRR,VPP,3N,TSH]: "{DIR[DTR]}/vpp_mrr_results_3n_tsh"
55     DIR[DTR,MRR,VPP,2N,TX2]: "{DIR[DTR]}/vpp_mrr_results_2n_tx2"
56     DIR[DTR,MRR,VPP,3N,DNV]: "{DIR[DTR]}/vpp_mrr_results_3n_dnv"
57     DIR[DTR,MRR,VPP,2N,DNV]: "{DIR[DTR]}/vpp_mrr_results_2n_dnv"
58     DIR[DTR,FUNC,VPP,DEVICE,UBUNTU]: "{DIR[DTR]}/vpp_device_results_ubuntu"
59
60     # Detailed test configurations
61     DIR[DTC]: "{DIR[WORKING,SRC]}/test_configuration"
62     DIR[DTC,PERF,VPP,ALL]: "{DIR[DTC]}/vpp_performance_configuration"
63     DIR[DTC,PERF,VPP,3N,HSW]: "{DIR[DTC]}/vpp_performance_configuration_3n_hsw"
64     DIR[DTC,PERF,VPP,3N,SKX]: "{DIR[DTC]}/vpp_performance_configuration_3n_skx"
65     DIR[DTC,PERF,VPP,2N,SKX]: "{DIR[DTC]}/vpp_performance_configuration_2n_skx"
66     DIR[DTC,PERF,VPP,2N,ZN2]: "{DIR[DTC]}/vpp_performance_configuration_2n_zn2"
67     DIR[DTC,PERF,VPP,2N,CLX]: "{DIR[DTC]}/vpp_performance_configuration_2n_clx"
68     DIR[DTC,PERF,VPP,3N,TSH]: "{DIR[DTC]}/vpp_performance_configuration_3n_tsh"
69     DIR[DTC,PERF,VPP,2N,TX2]: "{DIR[DTC]}/vpp_performance_configuration_2n_tx2"
70     DIR[DTC,PERF,VPP,3N,DNV]: "{DIR[DTC]}/vpp_performance_configuration_3n_dnv"
71     DIR[DTC,PERF,VPP,2N,DNV]: "{DIR[DTC]}/vpp_performance_configuration_2n_dnv"
72     DIR[DTC,MRR,VPP,ALL]: "{DIR[DTC]}/vpp_mrr_configuration"
73     DIR[DTC,MRR,VPP,3N,HSW]: "{DIR[DTC]}/vpp_mrr_configuration_3n_hsw"
74     DIR[DTC,MRR,VPP,3N,SKX]: "{DIR[DTC]}/vpp_mrr_configuration_3n_skx"
75     DIR[DTC,MRR,VPP,2N,SKX]: "{DIR[DTC]}/vpp_mrr_configuration_2n_skx"
76     DIR[DTC,MRR,VPP,2N,ZN2]: "{DIR[DTC]}/vpp_mrr_configuration_2n_zn2"
77     DIR[DTC,MRR,VPP,2N,CLX]: "{DIR[DTC]}/vpp_mrr_configuration_2n_clx"
78     DIR[DTC,MRR,VPP,3N,TSH]: "{DIR[DTC]}/vpp_mrr_configuration_3n_tsh"
79     DIR[DTC,MRR,VPP,2N,TX2]: "{DIR[DTC]}/vpp_mrr_configuration_2n_tx2"
80     DIR[DTC,MRR,VPP,3N,DNV]: "{DIR[DTC]}/vpp_mrr_configuration_3n_dnv"
81     DIR[DTC,MRR,VPP,2N,DNV]: "{DIR[DTC]}/vpp_mrr_configuration_2n_dnv"
82     DIR[DTC,FUNC,VPP,DEVICE,UBUNTU]: "{DIR[DTC]}/vpp_device_configuration_ubuntu"
83
84     # Detailed tests operational data
85     DIR[DTO]: "{DIR[WORKING,SRC]}/test_operational_data"
86     DIR[DTO,PERF,VPP,ALL]: "{DIR[DTO]}/vpp_performance_operational_data"
87     DIR[DTO,PERF,VPP,3N,HSW]: "{DIR[DTO]}/vpp_performance_operational_data_3n_hsw"
88     DIR[DTO,PERF,VPP,3N,SKX]: "{DIR[DTO]}/vpp_performance_operational_data_3n_skx"
89     DIR[DTO,PERF,VPP,2N,SKX]: "{DIR[DTO]}/vpp_performance_operational_data_2n_skx"
90     DIR[DTO,PERF,VPP,2N,ZN2]: "{DIR[DTO]}/vpp_performance_operational_data_2n_zn2"
91     DIR[DTO,PERF,VPP,2N,CLX]: "{DIR[DTO]}/vpp_performance_operational_data_2n_clx"
92     DIR[DTO,PERF,VPP,3N,TSH]: "{DIR[DTO]}/vpp_performance_operational_data_3n_tsh"
93     DIR[DTO,PERF,VPP,2N,TX2]: "{DIR[DTO]}/vpp_performance_operational_data_2n_tx2"
94     DIR[DTO,PERF,VPP,3N,DNV]: "{DIR[DTO]}/vpp_performance_operational_data_3n_dnv"
95     DIR[DTO,PERF,VPP,2N,DNV]: "{DIR[DTO]}/vpp_performance_operational_data_2n_dnv"
96
97     # Latencies:
98     DIR[LAT,VPP]: "{DIR[WORKING,SRC]}/vpp_performance_tests/hdrh_packet_latency_by_percentile_graphs"
99     DIR[LAT,DPDK]: "{DIR[WORKING,SRC]}/dpdk_performance_tests/hdrh_packet_latency_by_percentile_graphs"
100
101     # .css patch file to fix tables generated by Sphinx
102     DIR[CSS_PATCH_FILE]: "{DIR[STATIC]}/theme_overrides.css"
103     DIR[CSS_PATCH_FILE2]: "{DIR[WORKING,SRC,STATIC]}/theme_overrides.css"
104
105   urls:
106     URL[JENKINS,CSIT]: "https://jenkins.fd.io/view/csit/job"
107     URL[JENKINS,HC]: "https://jenkins.fd.io/view/hc2vpp/job"
108     URL[NEXUS,LOG]: "https://logs.fd.io/production/vex-yul-rot-jenkins-1"
109     URL[NEXUS,DOC]: "https://docs.fd.io/csit"
110     DIR[NEXUS,DOC]: "report/_static/archive"
111
112   make-dirs:
113   # List the directories which are created while preparing the environment.
114   # All directories MUST be defined in "paths" section.
115   - "DIR[WORKING,DATA]"
116   - "DIR[STATIC,VPP]"
117   - "DIR[STATIC,DPDK]"
118   - "DIR[STATIC,ARCH]"
119   - "DIR[BUILD,LATEX]"
120   - "DIR[WORKING,SRC]"
121   - "DIR[WORKING,SRC,STATIC]"
122
123   remove-dirs:
124   # List the directories which are deleted while cleaning the environment.
125   # All directories MUST be defined in "paths" section.
126   #- "DIR[BUILD,HTML]"
127   - "DIR[WORKING,DATA]"
128
129   build-dirs:
130   # List the directories where the results (build) is stored.
131   # All directories MUST be defined in "paths" section.
132   - "DIR[BUILD,HTML]"
133   - "DIR[BUILD,LATEX]"
134
135 - type: "configuration"
136
137   mapping-file: "mapping_report.yaml"
138
139   limits:
140     nic:
141       x520: 24460000
142       x553: 29761905
143       x710: 35800000
144       xxv710: 35800000
145       xl710: 35800000
146       cx556a: 148809523.81
147
148     link:
149       10ge: 14880952.38
150       25ge: 37202380.95
151       40ge: 59523809.52
152       100ge: 148809523.81
153
154     pci:
155       pci-g3-x8: 74404761.90
156       pci-g3-x16: 148809523.81
157
158   data-sets:
159
160     ###########################################################################
161     # Plots:
162
163     # 3n-hsw
164
165     plot-vpp-throughput-lat-tsa-3n-hsw:
166       csit-vpp-perf-report-iterative-2101-3n-hsw:
167         - 64  # rls2101.rel NDRPDR iter env 6
168         - 71  # rls2101.rel NDRPDR iter env 6
169         - 73  # rls2101.rel NDRPDR iter env 6
170         - 74  # rls2101.rel NDRPDR iter env 6
171         - 80  # rls2101.rel NDRPDR iter env 6
172         - 81  # rls2101.rel NDRPDR iter env 6
173         - 82  # rls2101.rel NDRPDR iter env 6
174         - 83  # rls2101.rel NDRPDR iter env 6
175         - 88  # rls2101.rel NDRPDR iter env 6
176         - 89  # rls2101.rel NDRPDR iter env 6
177         - 128 # rls2101.rel NDRPDR iter RND env 6
178         - 129 # rls2101.rel NDRPDR iter RND env 6
179         - 130 # rls2101.rel NDRPDR iter RND env 6
180         - 131 # rls2101.rel NDRPDR iter RND env 6
181         - 132 # rls2101.rel NDRPDR iter RND env 6
182         - 133 # rls2101.rel NDRPDR iter RND env 6
183         - 134 # rls2101.rel NDRPDR iter RND env 6
184         - 135 # rls2101.rel NDRPDR iter RND env 6
185         - 136 # rls2101.rel NDRPDR iter RND env 6
186         - 137 # rls2101.rel NDRPDR iter RND env 6
187
188     plot-vpp-hdrh-lat-3n-hsw:
189       csit-vpp-perf-report-iterative-2101-3n-hsw:
190         - 89  # rls2101.rel NDRPDR iter env 6
191
192     plot-vpp-hdrh-lat-3n-hsw-rnd:
193       csit-vpp-perf-report-iterative-2101-3n-hsw:
194         - 128 # rls2101.rel NDRPDR iter RND env 6
195
196     plot-vpp-ipsec-reconf-3n-hsw:
197       csit-vpp-perf-report-iterative-2101-3n-hsw:
198         - 65  # rls2101.rel NDRPDR reconf iter env 6
199         - 68  # rls2101.rel NDRPDR reconf iter env 6
200         - 77  # rls2101.rel NDRPDR reconf iter env 6
201         - 84  # rls2101.rel NDRPDR reconf iter env 6
202         - 90  # rls2101.rel NDRPDR reconf iter env 6
203         - 96  # rls2101.rel NDRPDR reconf iter env 6
204         - 101 # rls2101.rel NDRPDR reconf iter env 6
205         - 104 # rls2101.rel NDRPDR reconf iter env 6
206         - 105 # rls2101.rel NDRPDR reconf iter env 6
207         - 106 # rls2101.rel NDRPDR reconf iter env 6
208         - 107 # rls2101.rel NDRPDR reconf iter env 6
209         - 108 # rls2101.rel NDRPDR reconf iter env 6
210         - 110 # rls2101.rel NDRPDR reconf iter env 6
211         - 111 # rls2101.rel NDRPDR reconf iter env 6
212         - 112 # rls2101.rel NDRPDR reconf iter env 6
213         - 113 # rls2101.rel NDRPDR reconf iter env 6
214         - 114 # rls2101.rel NDRPDR reconf iter env 6
215         - 115 # rls2101.rel NDRPDR reconf iter env 6
216         - 116 # rls2101.rel NDRPDR reconf iter env 6
217         - 117 # rls2101.rel NDRPDR reconf iter env 6
218
219     plot-vpp-hoststack-3n-hsw:
220       csit-vpp-perf-report-iterative-2101-3n-hsw:
221         - 69  # rls2101.rel Hoststack iter env 6
222         - 70  # rls2101.rel Hoststack iter env 6
223         - 75  # rls2101.rel Hoststack iter env 6
224         - 76  # rls2101.rel Hoststack iter env 6
225         - 78  # rls2101.rel Hoststack iter env 6
226         - 79  # rls2101.rel Hoststack iter env 6
227         - 85  # rls2101.rel Hoststack iter env 6
228         - 86  # rls2101.rel Hoststack iter env 6
229         - 87  # rls2101.rel Hoststack iter env 6
230         - 91  # rls2101.rel Hoststack iter env 6
231         - 92  # rls2101.rel Hoststack iter env 6
232         - 93  # rls2101.rel Hoststack iter env 6
233         - 94  # rls2101.rel Hoststack iter env 6
234         - 95  # rls2101.rel Hoststack iter env 6
235         - 97  # rls2101.rel Hoststack iter env 6
236         - 98  # rls2101.rel Hoststack iter env 6
237         - 99  # rls2101.rel Hoststack iter env 6
238         - 100 # rls2101.rel Hoststack iter env 6
239         - 102 # rls2101.rel Hoststack iter env 6
240         - 103 # rls2101.rel Hoststack iter env 6
241
242     plot-dpdk-throughput-latency-3n-hsw:
243       csit-dpdk-perf-report-iterative-2101-3n-hsw:
244         - 11  # rls2101 NDRPDR iter env 6
245         - 12  # rls2101 NDRPDR iter env 6
246         - 13  # rls2101 NDRPDR iter env 6
247         - 14  # rls2101 NDRPDR iter env 6
248         - 16  # rls2101 NDRPDR iter env 6
249         - 17  # rls2101 NDRPDR iter env 6
250         - 18  # rls2101 NDRPDR iter env 6
251         - 19  # rls2101 NDRPDR iter env 6
252         - 20  # rls2101 NDRPDR iter env 6
253         - 21  # rls2101 NDRPDR iter env 6
254
255     plot-dpdk-hdrh-lat-3n-hsw:
256       csit-dpdk-perf-report-iterative-2101-3n-hsw:
257         - 11  # rls2101 NDRPDR iter env 6
258
259     # 3n-skx
260
261     plot-vpp-throughput-lat-tsa-3n-skx:
262       csit-vpp-perf-report-iterative-2101-3n-skx:
263         - 36  # rls2101.rel NDRPDR iter env 6
264         - 37  # rls2101.rel NDRPDR iter env 6
265         - 38  # rls2101.rel NDRPDR iter env 6
266         - 39  # rls2101.rel NDRPDR iter env 6
267         - 40  # rls2101.rel NDRPDR iter env 6
268         - 41  # rls2101.rel NDRPDR iter env 6
269         - 42  # rls2101.rel NDRPDR iter env 6
270         - 47  # rls2101.rel NDRPDR iter env 6
271         - 48  # rls2101.rel NDRPDR iter env 6
272         - 50  # rls2101.rel NDRPDR iter env 6
273
274     plot-vpp-hdrh-lat-3n-skx:
275       csit-vpp-perf-report-iterative-2101-3n-skx:
276         - 36  # rls2101.rel NDRPDR iter env 6
277
278 #    plot-vpp-nfv-3n-skx-ndrpdr:
279 #      # No data
280 #      csit-vpp-perf-report-iterative-2101-3n-skx:
281
282 #    plot-vpp-nfv-3n-skx-mrr:
283 #      # No data
284 #      csit-vpp-perf-report-iterative-2101-3n-skx:
285
286     plot-dpdk-throughput-latency-3n-skx:
287       csit-dpdk-perf-report-iterative-2101-3n-skx:
288         - 12  # rls2101 NDRPDR iter env 6
289         - 14  # rls2101 NDRPDR iter env 6
290         - 15  # rls2101 NDRPDR iter env 6
291         - 17  # rls2101 NDRPDR iter env 6
292         - 19  # rls2101 NDRPDR iter env 6
293         - 20  # rls2101 NDRPDR iter env 6
294         - 21  # rls2101 NDRPDR iter env 6
295         - 22  # rls2101 NDRPDR iter env 6
296         - 25  # rls2101 NDRPDR iter env 6
297         - 26  # rls2101 NDRPDR iter env 6
298
299     plot-dpdk-hdrh-lat-3n-skx:
300       csit-dpdk-perf-report-iterative-2101-3n-skx:
301         - 12  # rls2101 NDRPDR iter env 6
302
303     # 2n-skx
304
305     plot-vpp-throughput-lat-tsa-2n-skx:
306       csit-vpp-perf-report-iterative-2101-2n-skx:
307         - 63  # rls2101.rel NDRPDR iter env 6
308         - 69  # rls2101.rel NDRPDR iter env 6
309         - 70  # rls2101.rel NDRPDR iter env 6
310         - 75  # rls2101.rel NDRPDR iter env 6
311         - 76  # rls2101.rel NDRPDR iter env 6
312         - 77  # rls2101.rel NDRPDR iter env 6
313         - 82  # rls2101.rel NDRPDR iter env 6
314         - 85  # rls2101.rel NDRPDR iter env 6
315         - 86  # rls2101.rel NDRPDR iter env 6
316         - 94  # rls2101.rel NDRPDR iter env 6
317         - 89  # rls2101.rel NDRPDR iter RND env 6
318         - 90  # rls2101.rel NDRPDR iter RND env 6
319         - 91  # rls2101.rel NDRPDR iter RND env 6
320         - 92  # rls2101.rel NDRPDR iter RND env 6
321         - 93  # rls2101.rel NDRPDR iter RND env 6
322         - 96  # rls2101.rel NDRPDR iter RND env 6
323         - 98  # rls2101.rel NDRPDR iter RND env 6
324         - 99  # rls2101.rel NDRPDR iter RND env 6
325         - 101 # rls2101.rel NDRPDR iter RND env 6
326         - 102 # rls2101.rel NDRPDR iter RND env 6
327         - 116 # rls2101.rel NDRPDR iter NAT env 6
328         - 117 # rls2101.rel NDRPDR iter NAT env 6
329         - 118 # rls2101.rel NDRPDR iter NAT env 6
330         - 119 # rls2101.rel NDRPDR iter NAT env 6
331         - 120 # rls2101.rel NDRPDR iter NAT env 6
332         - 121 # rls2101.rel NDRPDR iter NAT env 6
333         - 122 # rls2101.rel NDRPDR iter NAT env 6
334         - 123 # rls2101.rel NDRPDR iter NAT env 6
335         - 124 # rls2101.rel NDRPDR iter NAT env 6
336         - 125 # rls2101.rel NDRPDR iter NAT env 6
337
338     plot-vpp-hdrh-lat-2n-skx:
339       csit-vpp-perf-report-iterative-2101-2n-skx:
340         - 94  # rls2101.rel NDRPDR iter env 6
341
342     plot-vpp-hdrh-lat-2n-skx-rnd:
343       csit-vpp-perf-report-iterative-2101-2n-skx:
344         - 89  # rls2101.rel NDRPDR iter RND env 6
345
346     plot-vpp-hdrh-lat-2n-skx-nat:
347       csit-vpp-perf-report-iterative-2101-2n-skx:
348         - 118 # rls2101.rel NDRPDR iter NAT env 6
349
350     plot-vpp-soak-2n-skx:
351       csit-vpp-perf-report-iterative-2101-2n-skx:
352         - 68  # rls2101.rel soak env 6
353         - 73  # rls2101.rel soak env 6
354
355     plot-vpp-nfv-2n-skx-ndrpdr:
356       csit-vpp-perf-report-iterative-2101-2n-skx:
357         - 67  # rls2101.rel NDRPDR nf-density iter env 6
358         - 72  # rls2101.rel NDRPDR nf-density iter env 6
359         - 79  # rls2101.rel NDRPDR nf-density iter env 6
360         - 83  # rls2101.rel NDRPDR nf-density iter env 6
361         - 88  # rls2101.rel NDRPDR nf-density iter env 6
362         - 97  # rls2101.rel NDRPDR nf-density iter env 6
363         - 103 # rls2101.rel NDRPDR nf-density iter env 6
364         - 108 # rls2101.rel NDRPDR nf-density iter env 6
365         - 109 # rls2101.rel NDRPDR nf-density iter env 6
366         - 110 # rls2101.rel NDRPDR nf-density iter env 6
367
368     plot-vpp-nfv-2n-skx-mrr:
369       csit-vpp-perf-report-iterative-2101-2n-skx:
370         - 65  # rls2101.rel MRR nf-density iter env 6
371
372     plot-vpp-nfv-reconf-2n-skx:
373       csit-vpp-perf-report-iterative-2101-2n-skx:
374         - 64  # rls2101.rel NDRPDR reconf iter env 6
375         - 66  # rls2101.rel NDRPDR reconf iter env 6
376         - 71  # rls2101.rel NDRPDR reconf iter env 6
377         - 74  # rls2101.rel NDRPDR reconf iter env 6
378         - 78  # rls2101.rel NDRPDR reconf iter env 6
379         - 87  # rls2101.rel NDRPDR reconf iter env 6
380         - 95  # rls2101.rel NDRPDR reconf iter env 6
381         - 100 # rls2101.rel NDRPDR reconf iter env 6
382         - 104 # rls2101.rel NDRPDR reconf iter env 6
383         - 106 # rls2101.rel NDRPDR reconf iter env 6
384
385     plot-dpdk-throughput-latency-2n-skx:
386       csit-dpdk-perf-report-iterative-2101-2n-skx:
387         - 11  # rls2101 NDRPDR iter env 6
388         - 12  # rls2101 NDRPDR iter env 6
389         - 13  # rls2101 NDRPDR iter env 6
390         - 14  # rls2101 NDRPDR iter env 6
391         - 15  # rls2101 NDRPDR iter env 6
392         - 17  # rls2101 NDRPDR iter env 6
393         - 18  # rls2101 NDRPDR iter env 6
394         - 19  # rls2101 NDRPDR iter env 6
395         - 20  # rls2101 NDRPDR iter env 6
396         - 21  # rls2101 NDRPDR iter env 6
397
398     plot-dpdk-hdrh-lat-2n-skx:
399       csit-dpdk-perf-report-iterative-2101-2n-skx:
400         - 11  # rls2101 NDRPDR iter env 6
401
402     # 2n-zn2
403
404     plot-vpp-throughput-lat-tsa-2n-zn2:
405       csit-vpp-perf-report-iterative-2101-2n-zn2:
406         - 31  # rls2101.rel NDRPDR iter env 6
407         - 32  # rls2101.rel NDRPDR iter env 6
408         - 33  # rls2101.rel NDRPDR iter env 6
409         - 34  # rls2101.rel NDRPDR iter env 6
410         - 35  # rls2101.rel NDRPDR iter env 6
411         - 36  # rls2101.rel NDRPDR iter env 6
412         - 37  # rls2101.rel NDRPDR iter env 6
413         - 38  # rls2101.rel NDRPDR iter env 6
414         - 44  # rls2101.rel NDRPDR iter env 6
415         - 49  # rls2101.rel NDRPDR iter env 6
416         - 39  # rls2101.rel NDRPDR iter RND env 6
417         - 40  # rls2101.rel NDRPDR iter RND env 6
418         - 41  # rls2101.rel NDRPDR iter RND env 6
419         - 42  # rls2101.rel NDRPDR iter RND env 6
420         - 43  # rls2101.rel NDRPDR iter RND env 6
421         - 45  # rls2101.rel NDRPDR iter RND env 6
422         - 48  # rls2101.rel NDRPDR iter RND env 6
423         - 50  # rls2101.rel NDRPDR iter RND env 6
424         - 51  # rls2101.rel NDRPDR iter RND env 6
425         - 52  # rls2101.rel NDRPDR iter RND env 6
426
427     plot-vpp-hdrh-lat-2n-zn2:
428       csit-vpp-perf-report-iterative-2101-2n-zn2:
429         - 31  # rls2101.rel NDRPDR iter env 6
430
431     plot-vpp-hdrh-lat-2n-zn2-rnd:
432       csit-vpp-perf-report-iterative-2101-2n-zn2:
433         - 40  # rls2101.rel NDRPDR iter RND env 6
434
435     plot-dpdk-throughput-latency-2n-zn2:
436       csit-dpdk-perf-report-iterative-2101-2n-zn2:
437         - 11  # rls2101 NDRPDR iter env 6
438         - 12  # rls2101 NDRPDR iter env 6
439         - 13  # rls2101 NDRPDR iter env 6
440         - 14  # rls2101 NDRPDR iter env 6
441         - 16  # rls2101 NDRPDR iter env 6
442         - 17  # rls2101 NDRPDR iter env 6
443         - 18  # rls2101 NDRPDR iter env 6
444         - 19  # rls2101 NDRPDR iter env 6
445         - 20  # rls2101 NDRPDR iter env 6
446         - 21  # rls2101 NDRPDR iter env 6
447
448     plot-dpdk-hdrh-lat-2n-zn2:
449       csit-dpdk-perf-report-iterative-2101-2n-zn2:
450         - 11  # rls2101 NDRPDR iter env 6
451
452     # 2n-clx
453
454     plot-vpp-throughput-lat-tsa-2n-clx:
455       csit-vpp-perf-report-iterative-2101-2n-clx:
456         - 54  # rls2101.rel NDRPDR iter env 6
457         - 59  # rls2101.rel NDRPDR iter env 6
458         - 60  # rls2101.rel NDRPDR iter env 6
459         - 63  # rls2101.rel NDRPDR iter env 6
460         - 66  # rls2101.rel NDRPDR iter env 6
461         - 68  # rls2101.rel NDRPDR iter env 6
462         - 73  # rls2101.rel NDRPDR iter env 6
463         - 75  # rls2101.rel NDRPDR iter env 6
464         - 86  # rls2101.rel NDRPDR iter env 6
465         - 90  # rls2101.rel NDRPDR iter env 6
466         - 80  # rls2101.rel NDRPDR iter RND env 6
467         - 87  # rls2101.rel NDRPDR iter RND env 6
468         - 91  # rls2101.rel NDRPDR iter RND env 6
469         - 92  # rls2101.rel NDRPDR iter RND env 6
470         - 93  # rls2101.rel NDRPDR iter RND env 6
471         - 94  # rls2101.rel NDRPDR iter RND env 6
472         - 95  # rls2101.rel NDRPDR iter RND env 6
473         - 100 # rls2101.rel NDRPDR iter RND env 6
474         - 106 # rls2101.rel NDRPDR iter RND env 6
475         - 108 # rls2101.rel NDRPDR iter RND env 6
476         - 112 # rls2101.rel NDRPDR iter NAT env 6
477         - 113 # rls2101.rel NDRPDR iter NAT env 6
478         - 114 # rls2101.rel NDRPDR iter NAT env 6
479         - 115 # rls2101.rel NDRPDR iter NAT env 6
480         - 116 # rls2101.rel NDRPDR iter NAT env 6
481         - 117 # rls2101.rel NDRPDR iter NAT env 6
482         - 118 # rls2101.rel NDRPDR iter NAT env 6
483         - 119 # rls2101.rel NDRPDR iter NAT env 6
484         - 120 # rls2101.rel NDRPDR iter NAT env 6
485         - 121 # rls2101.rel NDRPDR iter NAT env 6
486         - 122 # rls2101.rel NDRPDR iter MLX env 6
487         - 123 # rls2101.rel NDRPDR iter MLX env 6
488         - 124 # rls2101.rel NDRPDR iter MLX env 6
489         - 126 # rls2101.rel NDRPDR iter MLX env 6
490         - 127 # rls2101.rel NDRPDR iter MLX env 6
491         - 128 # rls2101.rel NDRPDR iter MLX env 6
492         - 129 # rls2101.rel NDRPDR iter MLX env 6
493         - 130 # rls2101.rel NDRPDR iter MLX env 6
494         - 131 # rls2101.rel NDRPDR iter MLX env 6
495         - 132 # rls2101.rel NDRPDR iter MLX env 6
496
497     plot-vpp-hdrh-lat-2n-clx:
498       csit-vpp-perf-report-iterative-2101-2n-clx:
499         - 75  # rls2101.rel NDRPDR iter env 6
500
501     plot-vpp-hdrh-lat-2n-clx-rnd:
502       csit-vpp-perf-report-iterative-2101-2n-clx:
503         - 87  # rls2101.rel NDRPDR iter RND env 6
504
505     plot-vpp-hdrh-lat-2n-clx-nat:
506       csit-vpp-perf-report-iterative-2101-2n-clx:
507         - 118 # rls2101.rel NDRPDR iter NAT env 6
508
509     plot-vpp-hdrh-lat-2n-clx-mlx:
510       csit-vpp-perf-report-iterative-2101-2n-clx:
511         - 127 # rls2101.rel NDRPDR iter MLX env 6
512
513     plot-vpp-nfv-2n-clx-ndrpdr:
514       csit-vpp-perf-report-iterative-2101-2n-clx:
515         - 57  # rls2101.rel NDRPDR nf-density iter env 6
516         - 62  # rls2101.rel NDRPDR nf-density iter env 6
517         - 70  # rls2101.rel NDRPDR nf-density iter env 6
518         - 71  # rls2101.rel NDRPDR nf-density iter env 6
519         - 82  # rls2101.rel NDRPDR nf-density iter env 6
520         - 88  # rls2101.rel NDRPDR nf-density iter env 6
521         - 89  # rls2101.rel NDRPDR nf-density iter env 6
522         - 96  # rls2101.rel NDRPDR nf-density iter env 6
523         - 97  # rls2101.rel NDRPDR nf-density iter env 6
524         - 98  # rls2101.rel NDRPDR nf-density iter env 6
525
526     plot-vpp-nfv-2n-clx-mrr:
527       csit-vpp-perf-report-iterative-2101-2n-clx:
528         - 72  # rls2101.rel MRR nf-density iter env 6
529
530     plot-vpp-nfv-reconf-2n-clx:
531       csit-vpp-perf-report-iterative-2101-2n-clx:
532         - 55  # rls2101.rel NDRPDR reconf iter env 6
533         - 64  # rls2101.rel NDRPDR reconf iter env 6
534         - 76  # rls2101.rel NDRPDR reconf iter env 6
535         - 83  # rls2101.rel NDRPDR reconf iter env 6
536         - 99  # rls2101.rel NDRPDR reconf iter env 6
537         - 101 # rls2101.rel NDRPDR reconf iter env 6
538         - 102 # rls2101.rel NDRPDR reconf iter env 6
539         - 107 # rls2101.rel NDRPDR reconf iter env 6
540         - 109 # rls2101.rel NDRPDR reconf iter env 6
541         - 110 # rls2101.rel NDRPDR reconf iter env 6
542
543     plot-vpp-soak-2n-clx:
544       csit-vpp-perf-report-iterative-2101-2n-clx:
545         - 58  # rls2101.rel soak env 6
546         - 61  # rls2101.rel soak env 6
547
548     plot-dpdk-throughput-latency-2n-clx:
549       csit-dpdk-perf-report-iterative-2101-2n-clx:
550         - 12  # rls2101 NDRPDR iter env 6
551         - 13  # rls2101 NDRPDR iter env 6
552         - 14  # rls2101 NDRPDR iter env 6
553         - 18  # rls2101 NDRPDR iter env 6
554         - 22  # rls2101 NDRPDR iter env 6
555
556     plot-dpdk-hdrh-lat-2n-clx:
557       csit-dpdk-perf-report-iterative-2101-2n-clx:
558         - 12  # rls2101 NDRPDR iter env 6
559
560     # 3n-tsh
561
562     plot-vpp-throughput-lat-tsa-3n-tsh:
563       csit-vpp-perf-report-iterative-2101-3n-tsh:
564         - 23  # rls2101.rel NDRPDR iter env 6
565         - 24  # rls2101.rel NDRPDR iter env 6
566         - 25  # rls2101.rel NDRPDR iter env 6
567         - 26  # rls2101.rel NDRPDR iter env 6
568         - 27  # rls2101.rel NDRPDR iter env 6
569         - 28  # rls2101.rel NDRPDR iter env 6
570         - 29  # rls2101.rel NDRPDR iter env 6
571         - 30  # rls2101.rel NDRPDR iter env 6
572         - 31  # rls2101.rel NDRPDR iter env 6
573         - 32  # rls2101.rel NDRPDR iter env 6
574
575     plot-vpp-hdrh-lat-3n-tsh:
576       csit-vpp-perf-report-iterative-2101-3n-tsh:
577         - 23  # rls2101.rel NDRPDR iter env 6
578
579     plot-dpdk-throughput-latency-3n-tsh:
580       csit-dpdk-perf-report-iterative-2101-3n-tsh:
581         - 11  # rls2101 NDRPDR iter env 6
582         - 12  # rls2101 NDRPDR iter env 6
583         - 13  # rls2101 NDRPDR iter env 6
584         - 14  # rls2101 NDRPDR iter env 6
585         - 16  # rls2101 NDRPDR iter env 6
586         - 17  # rls2101 NDRPDR iter env 6
587         - 18  # rls2101 NDRPDR iter env 6
588         - 19  # rls2101 NDRPDR iter env 6
589         - 20  # rls2101 NDRPDR iter env 6
590         - 21  # rls2101 NDRPDR iter env 6
591
592     plot-dpdk-hdrh-lat-3n-tsh:
593       csit-dpdk-perf-report-iterative-2101-3n-tsh:
594         - 21  # rls2101 NDRPDR iter env 6
595
596     # 2n-tx2
597
598     plot-vpp-throughput-lat-tsa-2n-tx2:
599       csit-vpp-perf-report-iterative-2101-2n-tx2:
600         - 22  # rls2101.rel NDRPDR iter env 6
601         - 23  # rls2101.rel NDRPDR iter env 6
602         - 24  # rls2101.rel NDRPDR iter env 6
603         - 25  # rls2101.rel NDRPDR iter env 6
604         - 26  # rls2101.rel NDRPDR iter env 6
605         - 27  # rls2101.rel NDRPDR iter env 6
606         - 28  # rls2101.rel NDRPDR iter env 6
607         - 29  # rls2101.rel NDRPDR iter env 6
608         - 30  # rls2101.rel NDRPDR iter env 6
609         - 31  # rls2101.rel NDRPDR iter env 6
610
611     plot-vpp-hdrh-lat-2n-tx2:
612       csit-vpp-perf-report-iterative-2101-2n-tx2:
613         - 29  # rls2101.rel NDRPDR iter env 6
614
615     plot-dpdk-throughput-latency-2n-tx2:
616       csit-dpdk-perf-report-iterative-2101-2n-tx2:
617         - 4   # rls2101 NDRPDR iter env 6
618         - 6   # rls2101 NDRPDR iter env 6
619         - 7   # rls2101 NDRPDR iter env 6
620         - 8   # rls2101 NDRPDR iter env 6
621         - 9   # rls2101 NDRPDR iter env 6
622         - 10  # rls2101 NDRPDR iter env 6
623         - 11  # rls2101 NDRPDR iter env 6
624         - 12  # rls2101 NDRPDR iter env 6
625         - 13  # rls2101 NDRPDR iter env 6
626         - 14  # rls2101 NDRPDR iter env 6
627
628     plot-dpdk-hdrh-lat-2n-tx2:
629       csit-dpdk-perf-report-iterative-2101-2n-tx2:
630         - 4   # rls2101 NDRPDR iter env 6
631
632     # 3n-dnv
633
634     plot-vpp-throughput-lat-tsa-3n-dnv:
635       csit-vpp-perf-report-iterative-2101-3n-dnv:
636         - 33  # rls2101.rel NDRPDR iter env 6
637         - 34  # rls2101.rel NDRPDR iter env 6
638         - 35  # rls2101.rel NDRPDR iter env 6
639         - 36  # rls2101.rel NDRPDR iter env 6
640         - 37  # rls2101.rel NDRPDR iter env 6
641         - 38  # rls2101.rel NDRPDR iter env 6
642         - 39  # rls2101.rel NDRPDR iter env 6
643         - 40  # rls2101.rel NDRPDR iter env 6
644         - 41  # rls2101.rel NDRPDR iter env 6
645         - 42  # rls2101.rel NDRPDR iter env 6
646         - 43  # rls2101.rel NDRPDR iter RND env 6
647         - 44  # rls2101.rel NDRPDR iter RND env 6
648         - 45  # rls2101.rel NDRPDR iter RND env 6
649         - 46  # rls2101.rel NDRPDR iter RND env 6
650         - 47  # rls2101.rel NDRPDR iter RND env 6
651         - 48  # rls2101.rel NDRPDR iter RND env 6
652         - 49  # rls2101.rel NDRPDR iter RND env 6
653         - 50  # rls2101.rel NDRPDR iter RND env 6
654         - 51  # rls2101.rel NDRPDR iter RND env 6
655         - 52  # rls2101.rel NDRPDR iter RND env 6
656
657 #    plot-dpdk-throughput-latency-3n-dnv:
658 #      # No data
659 #      csit-dpdk-perf-report-iterative-2009-3n-dnv:
660
661     # 2n-dnv
662
663     plot-vpp-throughput-lat-tsa-2n-dnv:
664       csit-vpp-perf-report-iterative-2101-2n-dnv:
665         - 32  # rls2101.rel NDRPDR iter env 6
666         - 33  # rls2101.rel NDRPDR iter env 6
667         - 34  # rls2101.rel NDRPDR iter env 6
668         - 35  # rls2101.rel NDRPDR iter env 6
669         - 39  # rls2101.rel NDRPDR iter env 6
670         - 41  # rls2101.rel NDRPDR iter env 6
671         - 42  # rls2101.rel NDRPDR iter env 6
672         - 43  # rls2101.rel NDRPDR iter env 6
673         - 44  # rls2101.rel NDRPDR iter env 6
674         - 45  # rls2101.rel NDRPDR iter env 6
675         - 46  # rls2101.rel NDRPDR iter RND env 6
676         - 47  # rls2101.rel NDRPDR iter RND env 6
677         - 48  # rls2101.rel NDRPDR iter RND env 6
678         - 49  # rls2101.rel NDRPDR iter RND env 6
679         - 50  # rls2101.rel NDRPDR iter RND env 6
680         - 51  # rls2101.rel NDRPDR iter RND env 6
681         - 52  # rls2101.rel NDRPDR iter RND env 6
682         - 53  # rls2101.rel NDRPDR iter RND env 6
683         - 54  # rls2101.rel NDRPDR iter RND env 6
684         - 55  # rls2101.rel NDRPDR iter RND env 6
685
686 #    plot-dpdk-throughput-latency-2n-dnv:
687 #      # No data
688 #      csit-dpdk-perf-report-iterative-2009-2n-dnv:
689
690     ###########################################################################
691     # Simple tables (only one data set):
692
693     # NIC Comparisons
694
695     vpp-nic-comparison-3n-skx:
696       csit-vpp-perf-report-iterative-2101-3n-skx:
697         - 36  # rls2101.rel NDRPDR iter env 6
698         - 37  # rls2101.rel NDRPDR iter env 6
699         - 38  # rls2101.rel NDRPDR iter env 6
700         - 39  # rls2101.rel NDRPDR iter env 6
701         - 40  # rls2101.rel NDRPDR iter env 6
702         - 41  # rls2101.rel NDRPDR iter env 6
703         - 42  # rls2101.rel NDRPDR iter env 6
704         - 47  # rls2101.rel NDRPDR iter env 6
705         - 48  # rls2101.rel NDRPDR iter env 6
706         - 50  # rls2101.rel NDRPDR iter env 6
707
708     vpp-nic-comparison-2n-skx:
709       csit-vpp-perf-report-iterative-2101-2n-skx:
710         - 63  # rls2101.rel NDRPDR iter env 6
711         - 69  # rls2101.rel NDRPDR iter env 6
712         - 70  # rls2101.rel NDRPDR iter env 6
713         - 75  # rls2101.rel NDRPDR iter env 6
714         - 76  # rls2101.rel NDRPDR iter env 6
715         - 77  # rls2101.rel NDRPDR iter env 6
716         - 82  # rls2101.rel NDRPDR iter env 6
717         - 85  # rls2101.rel NDRPDR iter env 6
718         - 86  # rls2101.rel NDRPDR iter env 6
719         - 94  # rls2101.rel NDRPDR iter env 6
720         - 89  # rls2101.rel NDRPDR iter RND env 6
721         - 90  # rls2101.rel NDRPDR iter RND env 6
722         - 91  # rls2101.rel NDRPDR iter RND env 6
723         - 92  # rls2101.rel NDRPDR iter RND env 6
724         - 93  # rls2101.rel NDRPDR iter RND env 6
725         - 96  # rls2101.rel NDRPDR iter RND env 6
726         - 98  # rls2101.rel NDRPDR iter RND env 6
727         - 99  # rls2101.rel NDRPDR iter RND env 6
728         - 101 # rls2101.rel NDRPDR iter RND env 6
729         - 102 # rls2101.rel NDRPDR iter RND env 6
730         - 116 # rls2101.rel NDRPDR iter NAT env 6
731         - 117 # rls2101.rel NDRPDR iter NAT env 6
732         - 118 # rls2101.rel NDRPDR iter NAT env 6
733         - 119 # rls2101.rel NDRPDR iter NAT env 6
734         - 120 # rls2101.rel NDRPDR iter NAT env 6
735         - 121 # rls2101.rel NDRPDR iter NAT env 6
736         - 122 # rls2101.rel NDRPDR iter NAT env 6
737         - 123 # rls2101.rel NDRPDR iter NAT env 6
738         - 124 # rls2101.rel NDRPDR iter NAT env 6
739         - 125 # rls2101.rel NDRPDR iter NAT env 6
740
741     vpp-nic-comparison-3n-skx-mrr:
742       csit-vpp-perf-report-iterative-2101-3n-skx:
743         - 35  # rls2101.rel MRR iter env 6
744
745     vpp-nic-comparison-2n-skx-mrr:
746       csit-vpp-perf-report-iterative-2101-2n-skx:
747         - 62  # rls2101.rel MRR iter env 6
748
749     # Results
750
751     vpp-perf-results-3n-hsw:
752       csit-vpp-perf-report-coverage-2101-3n-hsw:
753         - 1   # rls2101.rel NDRPDR cov env 6 3n-hsw-crypto-00
754         - 2   # rls2101.rel NDRPDR cov env 6 3n-hsw-crypto-01
755         - 3   # rls2101.rel NDRPDR cov env 6 3n-hsw-crypto-02
756         - 4   # rls2101.rel NDRPDR cov env 6 3n-hsw-crypto-03
757         - 5   # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-00
758         - 6   # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-01
759         - 7   # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-02
760         - 8   # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-03
761         - 9   # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-04
762         - 10  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-05
763         - 11  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-06
764         - 12  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4-07
765         - 13  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4tun-00
766         - 14  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4tun-01
767         - 15  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip4tun-02
768         - 16  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip6-00
769         - 18  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip6-01
770         - 19  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-00
771         - 20  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-01
772         - 21  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-02
773         - 22  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-03
774         - 23  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-04
775         - 24  # rls2101.rel NDRPDR cov env 6 3n-hsw-ip6tun-00
776         - 25  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-05
777         - 26  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-06
778         - 27  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-07
779         - 28  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-08
780         - 29  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-09
781         - 30  # rls2101.rel NDRPDR cov env 6 3n-hsw-l2-10
782         - 31  # rls2101.rel NDRPDR cov env 6 3n-hsw-memif-00
783         - 32  # rls2101.rel NDRPDR cov env 6 3n-hsw-srv6-00
784         - 33  # rls2101.rel NDRPDR cov env 6 3n-hsw-srv6-01
785         - 34  # rls2101.rel NDRPDR cov env 6 3n-hsw-vhost-00
786         - 35  # rls2101.rel NDRPDR cov env 6 3n-hsw-vhost-01
787         - 36  # rls2101.rel NDRPDR cov env 6 3n-hsw-vhost-02
788
789     vpp-perf-results-3n-skx:
790       csit-vpp-perf-report-coverage-2101-3n-skx:
791         - 1   # rls2101.rel NDRPDR cov env 6 3n-skx-crypto-00
792         - 2   # rls2101.rel NDRPDR cov env 6 3n-skx-crypto-01
793         - 3   # rls2101.rel NDRPDR cov env 6 3n-skx-crypto-02
794         - 4   # rls2101.rel NDRPDR cov env 6 3n-skx-crypto-03
795         - 5   # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-00
796         - 16  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-01
797         - 7   # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-02
798         - 17  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-03
799         - 18  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-04
800         - 19  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-05
801         - 20  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-06
802         - 12  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4-06
803         - 13  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4tun-00
804         - 26  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4tun-01
805         - 15  # rls2101.rel NDRPDR cov env 6 3n-skx-ip4tun-02
806         - 21  # rls2101.rel NDRPDR cov env 6 3n-skx-ip6-00
807         - 22  # rls2101.rel NDRPDR cov env 6 3n-skx-ip6-01
808         - 23  # rls2101.rel NDRPDR cov env 6 3n-skx-ip6tun-00
809         - 24  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-00
810         - 30  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-01
811         - 27  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-02
812         - 28  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-03
813         - 29  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-04
814         - 31  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-05
815         - 32  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-06
816         - 33  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-07
817         - 34  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-08
818         - 35  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-09
819         - 36  # rls2101.rel NDRPDR cov env 6 3n-skx-l2-10
820         - 37  # rls2101.rel NDRPDR cov env 6 3n-skx-memif-00
821         - 38  # rls2101.rel NDRPDR cov env 6 3n-skx-srv6-00
822         - 39  # rls2101.rel NDRPDR cov env 6 3n-skx-srv6-01
823         - 40  # rls2101.rel NDRPDR cov env 6 3n-skx-vhost-00
824         - 41  # rls2101.rel NDRPDR cov env 6 3n-skx-vhost-01
825         - 42  # rls2101.rel NDRPDR cov env 6 3n-skx-vhost-02
826         - 43  # rls2101.rel NDRPDR cov env 6 3n-skx-vhost-03
827
828     vpp-perf-results-2n-skx:
829       csit-vpp-perf-report-coverage-2101-2n-skx:
830         - 1   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-00
831         - 2   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-01
832         - 3   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-02
833         - 4   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-03
834         - 5   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-04
835         - 6   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-05
836         - 7   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-06
837         - 8   # rls2101.rel NDRPDR cov env 6 2n-skx-ip4-07
838         - 21  # rls2101.rel NDRPDR cov env 6 2n-skx-ip4tun-00
839         - 22  # rls2101.rel NDRPDR cov env 6 2n-skx-ip4tun-00
840         - 10  # rls2101.rel NDRPDR cov env 6 2n-skx-ip6-00
841         - 11  # rls2101.rel NDRPDR cov env 6 2n-skx-ip6-01
842         - 12  # rls2101.rel NDRPDR cov env 6 2n-skx-l2-00
843         - 13  # rls2101.rel NDRPDR cov env 6 2n-skx-l2-01
844         - 14  # rls2101.rel NDRPDR cov env 6 2n-skx-lb-00
845         - 15  # rls2101.rel NDRPDR cov env 6 2n-skx-memif-00
846         - 16  # rls2101.rel NDRPDR cov env 6 2n-skx-vhost-00
847         - 17  # rls2101.rel NDRPDR cov env 6 2n-skx-vhost-01
848         - 19  # rls2101.rel NDRPDR cov env 6 2n-skx-vts-00
849
850     vpp-perf-results-2n-zn2:
851       csit-vpp-perf-report-coverage-2101-2n-zn2:
852         - 1   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4-00
853         - 2   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4-01
854         - 3   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4-02
855         - 4   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4-03
856         - 5   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4-04
857         - 6   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4-05
858         - 17  # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4tun-00
859         - 18  # rls2101.rel NDRPDR cov env 6 2n-zn2-ip4tun-01
860         - 8   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip6-00
861         - 9   # rls2101.rel NDRPDR cov env 6 2n-zn2-ip6-01
862         - 10  # rls2101.rel NDRPDR cov env 6 2n-zn2-l2-00
863         - 11  # rls2101.rel NDRPDR cov env 6 2n-zn2-l2-01
864         - 12  # rls2101.rel NDRPDR cov env 6 2n-zn2-lb-00
865         - 13  # rls2101.rel NDRPDR cov env 6 2n-zn2-memif-00
866         - 14  # rls2101.rel NDRPDR cov env 6 2n-zn2-vhost-00
867         - 15  # rls2101.rel NDRPDR cov env 6 2n-zn2-vhost-00
868         - 16  # rls2101.rel NDRPDR cov env 6 2n-zn2-vts-00
869
870     vpp-perf-results-2n-clx:
871       csit-vpp-perf-report-coverage-2101-2n-clx:
872         - 1   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-00
873         - 2   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-01
874         - 3   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-02
875         - 4   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-03
876         - 5   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-04
877         - 6   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-05
878         - 7   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-06
879         - 8   # rls2101.rel NDRPDR cov env 6 2n-clx-ip4-07
880         - 19  # rls2101.rel NDRPDR cov env 6 2n-clx-ip4tun-00
881         - 20  # rls2101.rel NDRPDR cov env 6 2n-clx-ip4tun-00
882         - 10  # rls2101.rel NDRPDR cov env 6 2n-clx-ip6-00
883         - 11  # rls2101.rel NDRPDR cov env 6 2n-clx-ip6-01
884         - 12  # rls2101.rel NDRPDR cov env 6 2n-clx-l2-00
885         - 13  # rls2101.rel NDRPDR cov env 6 2n-clx-l2-01
886         - 14  # rls2101.rel NDRPDR cov env 6 2n-clx-lb-00
887         - 15  # rls2101.rel NDRPDR cov env 6 2n-clx-memif-00
888         - 16  # rls2101.rel NDRPDR cov env 6 2n-clx-vhost-00
889         - 17  # rls2101.rel NDRPDR cov env 6 2n-clx-vhost-01
890         - 18  # rls2101.rel NDRPDR cov env 6 2n-clx-vts-00
891
892     vpp-perf-results-3n-tsh:
893       csit-vpp-perf-report-coverage-2101-3n-tsh:
894         - 1   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip4-00
895         - 2   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip4-01
896         - 3   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip4-02
897         - 4   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip4-03
898         - 5   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip4tun-00
899         - 6   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip4tun-01
900         - 7   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip6-00
901         - 8   # rls2101.rel NDRPDR cov env 6 3n-tsh-ip6-01
902         - 9   # rls2101.rel NDRPDR cov env 6 3n-tsh-l2-00
903         - 10  # rls2101.rel NDRPDR cov env 6 3n-tsh-l2-01
904         - 11  # rls2101.rel NDRPDR cov env 6 3n-tsh-l2-02
905         - 12  # rls2101.rel NDRPDR cov env 6 3n-tsh-l2-03
906         - 13  # rls2101.rel NDRPDR cov env 6 3n-tsh-l2-04
907         - 19  # rls2101.rel NDRPDR cov env 6 3n-tsh-memif-00
908         - 15  # rls2101.rel NDRPDR cov env 6 3n-tsh-srv6-00
909         - 16  # rls2101.rel NDRPDR cov env 6 3n-tsh-srv6-01
910         - 17  # rls2101.rel NDRPDR cov env 6 3n-tsh-vhost-00
911         - 18  # rls2101.rel NDRPDR cov env 6 3n-tsh-vhost-01
912
913     vpp-perf-results-2n-tx2:
914       csit-vpp-perf-report-coverage-2101-2n-tx2:
915         - 1   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip4-00
916         - 2   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip4-01
917         - 3   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip4-02
918         - 4   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip4-03
919         - 5   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip4-04
920         - 6   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip4-05
921         - 7   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip4-06
922         - 8   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip6-00
923         - 9   # rls2101.rel NDRPDR cov env 6 2n-tx2-ip6-01
924         - 10  # rls2101.rel NDRPDR cov env 6 2n-tx2-l2-00
925         - 11  # rls2101.rel NDRPDR cov env 6 2n-tx2-l2-01
926         - 12  # rls2101.rel NDRPDR cov env 6 2n-tx2-l2-02
927         - 13  # rls2101.rel NDRPDR cov env 6 2n-tx2-l2-03
928         - 15  # rls2101.rel NDRPDR cov env 6 2n-tx2-l2-04
929
930     vpp-perf-results-3n-dnv:
931       csit-vpp-perf-report-coverage-2101-3n-dnv:
932         - 1   # rls2101.rel NDRPDR cov env 6 3n-dnv-crypto-00
933         - 2   # rls2101.rel NDRPDR cov env 6 3n-dnv-crypto-01
934         - 3   # rls2101.rel NDRPDR cov env 6 3n-dnv-ip4-00
935         - 4   # rls2101.rel NDRPDR cov env 6 3n-dnv-ip4-01
936         - 5   # rls2101.rel NDRPDR cov env 6 3n-dnv-ip4tun-00
937         - 6   # rls2101.rel NDRPDR cov env 6 3n-dnv-ip6-00
938         - 7   # rls2101.rel NDRPDR cov env 6 3n-dnv-ip6-01
939         - 8   # rls2101.rel NDRPDR cov env 6 3n-dnv-l2-00
940         - 9   # rls2101.rel NDRPDR cov env 6 3n-dnv-l2-01
941
942     vpp-perf-results-2n-dnv:
943       csit-vpp-perf-report-coverage-2101-2n-dnv:
944         - 1   # rls2101.rel NDRPDR cov env 6 3n-dnv-ip4-00
945         - 2   # rls2101.rel NDRPDR cov env 6 3n-dnv-ip4-01
946         - 3   # rls2101.rel NDRPDR cov env 6 2n-dnv-ip6-00
947         - 4   # rls2101.rel NDRPDR cov env 6 2n-dnv-ip6-01
948         - 5   # rls2101.rel NDRPDR cov env 6 2n-dnv-l2-00
949         - 6   # rls2101.rel NDRPDR cov env 6 2n-dnv-l2-01
950
951     vpp-mrr-results-3n-hsw:
952       csit-vpp-perf-report-iterative-2101-3n-hsw:
953         - 63  # rls2101.rel MRR iter env 6
954
955     vpp-mrr-results-3n-skx:
956       csit-vpp-perf-report-iterative-2101-3n-skx:
957         - 35  # rls2101.rel MRR iter env 6
958
959     vpp-mrr-results-2n-skx:
960       csit-vpp-perf-report-iterative-2101-2n-skx:
961         - 62  # rls2101.rel MRR iter env 6
962
963     vpp-mrr-results-2n-zn2:
964       csit-vpp-perf-report-iterative-2101-2n-zn2:
965         - 30  # rls2101.rel MRR iter env 6
966
967     vpp-mrr-results-2n-clx:
968       csit-vpp-perf-report-iterative-2101-2n-clx:
969         - 53  # rls2101.rel MRR iter env 6
970
971     vpp-mrr-results-3n-tsh:
972       csit-vpp-perf-report-iterative-2101-3n-tsh:
973         - 22  # rls2101.rel MRR iter env 6
974
975     vpp-mrr-results-2n-tx2:
976       csit-vpp-perf-report-iterative-2101-2n-tx2:
977         - 21  # rls2101.rel MRR iter env 6
978
979     vpp-mrr-results-3n-dnv:
980       csit-vpp-perf-report-iterative-2101-3n-dnv:
981         - 32  # rls2101.rel MRR iter env 6
982
983     vpp-mrr-results-2n-dnv:
984       csit-vpp-perf-report-iterative-2101-2n-dnv:
985         - 31  # rls2101.rel MRR iter env 6
986
987     vpp-device-results-ubuntu:
988       csit-vpp-device-2101-ubuntu1804-1n-skx:
989         - 358  # rls2101.rel VPP DEV env 6
990
991     dpdk-perf-results-3n-hsw:
992       csit-dpdk-perf-report-iterative-2101-3n-hsw:
993         - 11  # rls2101 NDRPDR iter env 6
994
995     dpdk-perf-results-3n-skx:
996       csit-dpdk-perf-report-iterative-2101-3n-skx:
997         - 12  # rls2101 NDRPDR iter env 6
998
999     dpdk-perf-results-2n-skx:
1000       csit-dpdk-perf-report-iterative-2101-2n-skx:
1001         - 11  # rls2101 NDRPDR iter env 6
1002
1003     dpdk-perf-results-2n-zn2:
1004       csit-dpdk-perf-report-iterative-2101-2n-zn2:
1005         - 11  # rls2101 NDRPDR iter env 6
1006
1007     dpdk-perf-results-2n-clx:
1008       csit-dpdk-perf-report-iterative-2101-2n-clx:
1009         - 12  # rls2101 NDRPDR iter env 6
1010
1011 #    dpdk-perf-results-2n-dnv:
1012 #      # No data
1013 #      csit-dpdk-perf-report-iterative-2009-2n-dnv:
1014
1015 #    dpdk-perf-results-3n-dnv:
1016 #      # No data
1017 #      csit-dpdk-perf-report-iterative-2009-3n-dnv:
1018
1019     dpdk-perf-results-3n-tsh:
1020       csit-dpdk-perf-report-iterative-2101-3n-tsh:
1021         - 21  # rls2101 NDRPDR iter env 6
1022
1023     dpdk-perf-results-2n-tx2:
1024       csit-dpdk-perf-report-iterative-2101-2n-tx2:
1025         - 4   # rls2101 NDRPDR iter env 6
1026
1027 ###########################################################################
1028     # Tables (more than one data set)
1029
1030     # Performance changes
1031
1032     vpp-performance-changes-3n-hsw-h1:
1033       csit-vpp-perf-report-iterative-2009-3n-hsw:
1034         - 9   # rls2005 NDRPDR iter env 5
1035         - 10  # rls2005 NDRPDR iter env 5
1036         - 11  # rls2005 NDRPDR iter env 5
1037         - 12  # rls2005 NDRPDR iter env 5
1038         - 13  # rls2005 NDRPDR iter env 5
1039         - 14  # rls2005 NDRPDR iter env 5
1040         - 15  # rls2005 NDRPDR iter env 5
1041         - 16  # rls2005 NDRPDR iter env 5
1042         - 17  # rls2005 NDRPDR iter env 5
1043         - 19  # rls2005 NDRPDR iter env 5
1044     vpp-performance-changes-3n-hsw-ref-env-old:
1045       csit-vpp-perf-report-iterative-2009-3n-hsw:
1046         - 21  # rls2009 NDRPDR iter env 5
1047         - 22  # rls2009 NDRPDR iter env 5
1048         - 24  # rls2009 NDRPDR iter env 5
1049         - 25  # rls2009 NDRPDR iter env 5
1050         - 26  # rls2009 NDRPDR iter env 5
1051         - 27  # rls2009 NDRPDR iter env 5
1052         - 28  # rls2009 NDRPDR iter env 5
1053         - 29  # rls2009 NDRPDR iter env 5
1054         - 30  # rls2009 NDRPDR iter env 5
1055         - 31  # rls2009 NDRPDR iter env 5
1056     vpp-performance-changes-3n-hsw-ref-env-new:
1057       csit-vpp-perf-report-iterative-2101-3n-hsw:
1058         - 19  # rls2009 NDRPDR iter env 6
1059         - 20  # rls2009 NDRPDR iter env 6
1060         - 21  # rls2009 NDRPDR iter env 6
1061         - 22  # rls2009 NDRPDR iter env 6
1062         - 23  # rls2009 NDRPDR iter env 6
1063         - 24  # rls2009 NDRPDR iter env 6
1064         - 25  # rls2009 NDRPDR iter env 6
1065         - 26  # rls2009 NDRPDR iter env 6
1066         - 27  # rls2009 NDRPDR iter env 6
1067         - 28  # rls2009 NDRPDR iter env 6
1068     vpp-performance-changes-3n-hsw-cmp:
1069       csit-vpp-perf-report-iterative-2101-3n-hsw:
1070         - 64  # rls2101.rel NDRPDR iter env 6
1071         - 71  # rls2101.rel NDRPDR iter env 6
1072         - 73  # rls2101.rel NDRPDR iter env 6
1073         - 74  # rls2101.rel NDRPDR iter env 6
1074         - 80  # rls2101.rel NDRPDR iter env 6
1075         - 81  # rls2101.rel NDRPDR iter env 6
1076         - 82  # rls2101.rel NDRPDR iter env 6
1077         - 83  # rls2101.rel NDRPDR iter env 6
1078         - 88  # rls2101.rel NDRPDR iter env 6
1079         - 89  # rls2101.rel NDRPDR iter env 6
1080         - 128 # rls2101.rel NDRPDR iter RND env 6
1081         - 129 # rls2101.rel NDRPDR iter RND env 6
1082         - 130 # rls2101.rel NDRPDR iter RND env 6
1083         - 131 # rls2101.rel NDRPDR iter RND env 6
1084         - 132 # rls2101.rel NDRPDR iter RND env 6
1085         - 133 # rls2101.rel NDRPDR iter RND env 6
1086         - 134 # rls2101.rel NDRPDR iter RND env 6
1087         - 135 # rls2101.rel NDRPDR iter RND env 6
1088         - 136 # rls2101.rel NDRPDR iter RND env 6
1089         - 137 # rls2101.rel NDRPDR iter RND env 6
1090
1091     vpp-performance-changes-3n-skx-h1:
1092       csit-vpp-perf-report-iterative-2009-3n-skx:
1093         - 13  # rls2005 NDRPDR iter env 5
1094         - 18  # rls2005 NDRPDR iter env 5
1095         - 19  # rls2005 NDRPDR iter env 5
1096         - 41  # rls2005 NDRPDR iter env 5
1097         - 43  # rls2005 NDRPDR iter env 5
1098         - 44  # rls2005 NDRPDR iter env 5
1099         - 45  # rls2005 NDRPDR iter env 5
1100         - 46  # rls2005 NDRPDR iter env 5
1101         - 48  # rls2005 NDRPDR iter env 5
1102         - 49  # rls2005 NDRPDR iter env 5
1103     vpp-performance-changes-3n-skx-ref-env-old:
1104       csit-vpp-perf-report-iterative-2009-3n-skx:
1105         - 26  # rls2009 NDRPDR iter env 5
1106         - 27  # rls2009 NDRPDR iter env 5
1107         - 28  # rls2009 NDRPDR iter env 5
1108         - 29  # rls2009 NDRPDR iter env 5
1109         - 35  # rls2009 NDRPDR iter env 5
1110         - 36  # rls2009 NDRPDR iter env 5
1111         - 37  # rls2009 NDRPDR iter env 5
1112         - 38  # rls2009 NDRPDR iter env 5
1113         - 39  # rls2009 NDRPDR iter env 5
1114         - 40  # rls2009 NDRPDR iter env 5
1115     vpp-performance-changes-3n-skx-ref-env-new:
1116       csit-vpp-perf-report-iterative-2101-3n-skx:
1117         - 14  # rls2009 NDRPDR iter env 6
1118         - 15  # rls2009 NDRPDR iter env 6
1119         - 16  # rls2009 NDRPDR iter env 6
1120         - 17  # rls2009 NDRPDR iter env 6
1121         - 18  # rls2009 NDRPDR iter env 6
1122         - 25  # rls2009 NDRPDR iter env 6
1123         - 26  # rls2009 NDRPDR iter env 6
1124         - 27  # rls2009 NDRPDR iter env 6
1125         - 29  # rls2009 NDRPDR iter env 6
1126         - 31  # rls2009 NDRPDR iter env 6
1127     vpp-performance-changes-3n-skx-cmp:
1128       csit-vpp-perf-report-iterative-2101-3n-skx:
1129         - 36  # rls2101.rel NDRPDR iter env 6
1130         - 37  # rls2101.rel NDRPDR iter env 6
1131         - 38  # rls2101.rel NDRPDR iter env 6
1132         - 39  # rls2101.rel NDRPDR iter env 6
1133         - 40  # rls2101.rel NDRPDR iter env 6
1134         - 41  # rls2101.rel NDRPDR iter env 6
1135         - 42  # rls2101.rel NDRPDR iter env 6
1136         - 47  # rls2101.rel NDRPDR iter env 6
1137         - 48  # rls2101.rel NDRPDR iter env 6
1138         - 50  # rls2101.rel NDRPDR iter env 6
1139
1140     vpp-performance-changes-2n-skx-h1:
1141       csit-vpp-perf-report-iterative-2009-2n-skx:
1142         - 13  # rls2005 NDRPDR iter env 5
1143         - 16  # rls2005 NDRPDR iter env 5
1144         - 17  # rls2005 NDRPDR iter env 5
1145         - 18  # rls2005 NDRPDR iter env 5
1146         - 19  # rls2005 NDRPDR iter env 5
1147         - 21  # rls2005 NDRPDR iter env 5
1148         - 22  # rls2005 NDRPDR iter env 5
1149         - 23  # rls2005 NDRPDR iter env 5
1150         - 24  # rls2005 NDRPDR iter env 5
1151         - 25  # rls2005 NDRPDR iter env 5
1152     vpp-performance-changes-2n-skx-ref-env-old:
1153       csit-vpp-perf-report-iterative-2009-2n-skx:
1154         - 35  # rls2009 NDRPDR iter env 5
1155         - 36  # rls2009 NDRPDR iter env 5
1156         - 37  # rls2009 NDRPDR iter env 5
1157         - 39  # rls2009 NDRPDR iter env 5
1158         - 40  # rls2009 NDRPDR iter env 5
1159         - 42  # rls2009 NDRPDR iter env 5
1160         - 43  # rls2009 NDRPDR iter env 5
1161         - 44  # rls2009 NDRPDR iter env 5
1162         - 46  # rls2009 NDRPDR iter env 5
1163         - 48  # rls2009 NDRPDR iter env 5
1164         - 110 # rls2009 NDRPDR iter NAT44 env 5
1165         - 111 # rls2009 NDRPDR iter NAT44 env 5
1166         - 112 # rls2009 NDRPDR iter NAT44 env 5
1167         - 113 # rls2009 NDRPDR iter NAT44 env 5
1168         - 114 # rls2009 NDRPDR iter NAT44 env 5
1169         - 115 # rls2009 NDRPDR iter NAT44 env 5
1170         - 116 # rls2009 NDRPDR iter NAT44 env 5
1171         - 118 # rls2009 NDRPDR iter NAT44 env 5
1172         - 119 # rls2009 NDRPDR iter NAT44 env 5
1173         - 121 # rls2009 NDRPDR iter NAT44 env 5
1174     vpp-performance-changes-2n-skx-ref-env-new:
1175       csit-vpp-perf-report-iterative-2101-2n-skx:
1176         - 22  # rls2009 NDRPDR iter env 6
1177         - 23  # rls2009 NDRPDR iter env 6
1178         - 24  # rls2009 NDRPDR iter env 6
1179         - 25  # rls2009 NDRPDR iter env 6
1180         - 26  # rls2009 NDRPDR iter env 6
1181         - 28  # rls2009 NDRPDR iter env 6
1182         - 39  # rls2009 NDRPDR iter env 6
1183         - 40  # rls2009 NDRPDR iter env 6
1184         - 41  # rls2009 NDRPDR iter env 6
1185         - 44  # rls2009 NDRPDR iter env 6
1186     vpp-performance-changes-2n-skx-cmp:
1187       csit-vpp-perf-report-iterative-2101-2n-skx:
1188         - 63  # rls2101.rel NDRPDR iter env 6
1189         - 69  # rls2101.rel NDRPDR iter env 6
1190         - 70  # rls2101.rel NDRPDR iter env 6
1191         - 75  # rls2101.rel NDRPDR iter env 6
1192         - 76  # rls2101.rel NDRPDR iter env 6
1193         - 77  # rls2101.rel NDRPDR iter env 6
1194         - 82  # rls2101.rel NDRPDR iter env 6
1195         - 85  # rls2101.rel NDRPDR iter env 6
1196         - 86  # rls2101.rel NDRPDR iter env 6
1197         - 94  # rls2101.rel NDRPDR iter env 6
1198         - 89  # rls2101.rel NDRPDR iter RND env 6
1199         - 90  # rls2101.rel NDRPDR iter RND env 6
1200         - 91  # rls2101.rel NDRPDR iter RND env 6
1201         - 92  # rls2101.rel NDRPDR iter RND env 6
1202         - 93  # rls2101.rel NDRPDR iter RND env 6
1203         - 96  # rls2101.rel NDRPDR iter RND env 6
1204         - 98  # rls2101.rel NDRPDR iter RND env 6
1205         - 99  # rls2101.rel NDRPDR iter RND env 6
1206         - 101 # rls2101.rel NDRPDR iter RND env 6
1207         - 102 # rls2101.rel NDRPDR iter RND env 6
1208         - 116 # rls2101.rel NDRPDR iter NAT env 6
1209         - 117 # rls2101.rel NDRPDR iter NAT env 6
1210         - 118 # rls2101.rel NDRPDR iter NAT env 6
1211         - 119 # rls2101.rel NDRPDR iter NAT env 6
1212         - 120 # rls2101.rel NDRPDR iter NAT env 6
1213         - 121 # rls2101.rel NDRPDR iter NAT env 6
1214         - 122 # rls2101.rel NDRPDR iter NAT env 6
1215         - 123 # rls2101.rel NDRPDR iter NAT env 6
1216         - 124 # rls2101.rel NDRPDR iter NAT env 6
1217         - 125 # rls2101.rel NDRPDR iter NAT env 6
1218
1219     vpp-performance-changes-2n-clx-h1:
1220       csit-vpp-perf-report-iterative-2009-2n-clx:
1221         - 13  # rls2005 NDRPDR iter env 5
1222         - 15  # rls2005 NDRPDR iter env 5
1223         - 17  # rls2005 NDRPDR iter env 5
1224         - 18  # rls2005 NDRPDR iter env 5
1225         - 19  # rls2005 NDRPDR iter env 5
1226         - 20  # rls2005 NDRPDR iter env 5
1227         - 21  # rls2005 NDRPDR iter env 5
1228         - 22  # rls2005 NDRPDR iter env 5
1229         - 23  # rls2005 NDRPDR iter env 5
1230         - 24  # rls2005 NDRPDR iter env 5
1231     vpp-performance-changes-2n-clx-ref-env-old:
1232       csit-vpp-perf-report-iterative-2009-2n-clx:
1233         - 36  # rls2009 NDRPDR iter env 5
1234         - 39  # rls2009 NDRPDR iter env 5
1235         - 40  # rls2009 NDRPDR iter env 5
1236         - 65  # rls2009 NDRPDR iter env 5
1237         - 66  # rls2009 NDRPDR iter env 5
1238         - 79  # rls2009 NDRPDR iter env 5
1239         - 82  # rls2009 NDRPDR iter env 5
1240         - 88  # rls2009 NDRPDR iter env 5
1241         - 89  # rls2009 NDRPDR iter env 5
1242         - 90  # rls2009 NDRPDR iter env 5
1243         - 114 # rls2009 NDRPDR iter NAT44 env 5
1244         - 115 # rls2009 NDRPDR iter NAT44 env 5
1245         - 116 # rls2009 NDRPDR iter NAT44 env 5
1246         - 117 # rls2009 NDRPDR iter NAT44 env 5
1247         - 118 # rls2009 NDRPDR iter NAT44 env 5
1248         - 119 # rls2009 NDRPDR iter NAT44 env 5
1249         - 121 # rls2009 NDRPDR iter NAT44 env 5
1250         - 122 # rls2009 NDRPDR iter NAT44 env 5
1251         - 123 # rls2009 NDRPDR iter NAT44 env 5
1252         - 126 # rls2009 NDRPDR iter NAT44 env 5
1253     vpp-performance-changes-2n-clx-ref-env-new:
1254       csit-vpp-perf-report-iterative-2101-2n-clx:
1255         - 16  # rls2009 NDRPDR iter env 6
1256         - 17  # rls2009 NDRPDR iter env 6
1257         - 18  # rls2009 NDRPDR iter env 6
1258         - 19  # rls2009 NDRPDR iter env 6
1259         - 20  # rls2009 NDRPDR iter env 6
1260         - 21  # rls2009 NDRPDR iter env 6
1261         - 32  # rls2009 NDRPDR iter env 6
1262         - 33  # rls2009 NDRPDR iter env 6
1263         - 34  # rls2009 NDRPDR iter env 6
1264         - 35  # rls2009 NDRPDR iter env 6
1265         - 146 # rls2009 NDRPDR MLX iter env 6
1266         - 147 # rls2009 NDRPDR MLX iter env 6
1267         - 148 # rls2009 NDRPDR MLX iter env 6
1268         - 149 # rls2009 NDRPDR MLX iter env 6
1269         - 150 # rls2009 NDRPDR MLX iter env 6
1270         - 151 # rls2009 NDRPDR MLX iter env 6
1271         - 152 # rls2009 NDRPDR MLX iter env 6
1272         - 153 # rls2009 NDRPDR MLX iter env 6
1273         - 154 # rls2009 NDRPDR MLX iter env 6
1274         - 155 # rls2009 NDRPDR MLX iter env 6
1275     vpp-performance-changes-2n-clx-cmp:
1276       csit-vpp-perf-report-iterative-2101-2n-clx:
1277         - 54  # rls2101.rel NDRPDR iter env 6
1278         - 59  # rls2101.rel NDRPDR iter env 6
1279         - 60  # rls2101.rel NDRPDR iter env 6
1280         - 63  # rls2101.rel NDRPDR iter env 6
1281         - 66  # rls2101.rel NDRPDR iter env 6
1282         - 68  # rls2101.rel NDRPDR iter env 6
1283         - 73  # rls2101.rel NDRPDR iter env 6
1284         - 75  # rls2101.rel NDRPDR iter env 6
1285         - 86  # rls2101.rel NDRPDR iter env 6
1286         - 90  # rls2101.rel NDRPDR iter env 6
1287         - 80  # rls2101.rel NDRPDR iter RND env 6
1288         - 87  # rls2101.rel NDRPDR iter RND env 6
1289         - 91  # rls2101.rel NDRPDR iter RND env 6
1290         - 92  # rls2101.rel NDRPDR iter RND env 6
1291         - 93  # rls2101.rel NDRPDR iter RND env 6
1292         - 94  # rls2101.rel NDRPDR iter RND env 6
1293         - 95  # rls2101.rel NDRPDR iter RND env 6
1294         - 100 # rls2101.rel NDRPDR iter RND env 6
1295         - 106 # rls2101.rel NDRPDR iter RND env 6
1296         - 108 # rls2101.rel NDRPDR iter RND env 6
1297         - 112 # rls2101.rel NDRPDR iter NAT env 6
1298         - 113 # rls2101.rel NDRPDR iter NAT env 6
1299         - 114 # rls2101.rel NDRPDR iter NAT env 6
1300         - 115 # rls2101.rel NDRPDR iter NAT env 6
1301         - 116 # rls2101.rel NDRPDR iter NAT env 6
1302         - 117 # rls2101.rel NDRPDR iter NAT env 6
1303         - 118 # rls2101.rel NDRPDR iter NAT env 6
1304         - 119 # rls2101.rel NDRPDR iter NAT env 6
1305         - 120 # rls2101.rel NDRPDR iter NAT env 6
1306         - 121 # rls2101.rel NDRPDR iter NAT env 6
1307         - 122 # rls2101.rel NDRPDR iter MLX env 6
1308         - 123 # rls2101.rel NDRPDR iter MLX env 6
1309         - 124 # rls2101.rel NDRPDR iter MLX env 6
1310         - 126 # rls2101.rel NDRPDR iter MLX env 6
1311         - 127 # rls2101.rel NDRPDR iter MLX env 6
1312         - 128 # rls2101.rel NDRPDR iter MLX env 6
1313         - 129 # rls2101.rel NDRPDR iter MLX env 6
1314         - 130 # rls2101.rel NDRPDR iter MLX env 6
1315         - 131 # rls2101.rel NDRPDR iter MLX env 6
1316         - 132 # rls2101.rel NDRPDR iter MLX env 6
1317
1318     vpp-performance-changes-2n-zn2-ref-env-old:
1319       csit-vpp-perf-report-iterative-2009-2n-zn2:
1320         - 17  # rls2009 NDRPDR iter env 5
1321         - 18  # rls2009 NDRPDR iter env 5
1322         - 31  # rls2009 NDRPDR iter env 5
1323         - 33  # rls2009 NDRPDR iter env 5
1324         - 34  # rls2009 NDRPDR iter env 5
1325     vpp-performance-changes-2n-zn2-ref-env-new:
1326       csit-vpp-perf-report-iterative-2101-2n-zn2:
1327         - 9   # rls2009 NDRPDR iter env 6
1328         - 10  # rls2009 NDRPDR iter env 6
1329         - 11  # rls2009 NDRPDR iter env 6
1330         - 12  # rls2009 NDRPDR iter env 6
1331         - 13  # rls2009 NDRPDR iter env 6
1332         - 20  # rls2009 NDRPDR iter env 6
1333         - 21  # rls2009 NDRPDR iter env 6
1334         - 22  # rls2009 NDRPDR iter env 6
1335         - 25  # rls2009 NDRPDR iter env 6
1336         - 26  # rls2009 NDRPDR iter env 6
1337     vpp-performance-changes-2n-zn2-cmp:
1338       csit-vpp-perf-report-iterative-2101-2n-zn2:
1339         - 31  # rls2101.rel NDRPDR iter env 6
1340         - 32  # rls2101.rel NDRPDR iter env 6
1341         - 33  # rls2101.rel NDRPDR iter env 6
1342         - 34  # rls2101.rel NDRPDR iter env 6
1343         - 35  # rls2101.rel NDRPDR iter env 6
1344         - 36  # rls2101.rel NDRPDR iter env 6
1345         - 37  # rls2101.rel NDRPDR iter env 6
1346         - 38  # rls2101.rel NDRPDR iter env 6
1347         - 44  # rls2101.rel NDRPDR iter env 6
1348         - 49  # rls2101.rel NDRPDR iter env 6
1349         - 39  # rls2101.rel NDRPDR iter RND env 6
1350         - 40  # rls2101.rel NDRPDR iter RND env 6
1351         - 41  # rls2101.rel NDRPDR iter RND env 6
1352         - 42  # rls2101.rel NDRPDR iter RND env 6
1353         - 43  # rls2101.rel NDRPDR iter RND env 6
1354         - 45  # rls2101.rel NDRPDR iter RND env 6
1355         - 48  # rls2101.rel NDRPDR iter RND env 6
1356         - 50  # rls2101.rel NDRPDR iter RND env 6
1357         - 51  # rls2101.rel NDRPDR iter RND env 6
1358         - 52  # rls2101.rel NDRPDR iter RND env 6
1359
1360     vpp-performance-changes-2n-dnv-h1:
1361       csit-vpp-perf-report-iterative-2009-2n-dnv:
1362         - 16  # rls2005 NDRPDR iter env 5
1363         - 17  # rls2005 NDRPDR iter env 5
1364         - 18  # rls2005 NDRPDR iter env 5
1365         - 19  # rls2005 NDRPDR iter env 5
1366         - 21  # rls2005 NDRPDR iter env 5
1367         - 24  # rls2005 NDRPDR iter env 5
1368         - 27  # rls2005 NDRPDR iter env 5
1369         - 28  # rls2005 NDRPDR iter env 5
1370         - 29  # rls2005 NDRPDR iter env 5
1371         - 30  # rls2005 NDRPDR iter env 5
1372     vpp-performance-changes-2n-dnv-ref-env-old:
1373       csit-vpp-perf-report-iterative-2009-2n-dnv:
1374         - 3   # rls2009 NDRPDR iter env 5
1375         - 5   # rls2009 NDRPDR iter env 5
1376         - 6   # rls2009 NDRPDR iter env 5
1377         - 7   # rls2009 NDRPDR iter env 5
1378         - 9   # rls2009 NDRPDR iter env 5
1379         - 10  # rls2009 NDRPDR iter env 5
1380         - 11  # rls2009 NDRPDR iter env 5
1381         - 12  # rls2009 NDRPDR iter env 5
1382         - 14  # rls2009 NDRPDR iter env 5
1383         - 15  # rls2009 NDRPDR iter env 5
1384     vpp-performance-changes-2n-dnv-ref-env-new:
1385       # TODO: Re-test in new env
1386       csit-vpp-perf-report-iterative-2009-2n-dnv:
1387         - 3   # rls2009 NDRPDR iter env 5
1388         - 5   # rls2009 NDRPDR iter env 5
1389         - 6   # rls2009 NDRPDR iter env 5
1390         - 7   # rls2009 NDRPDR iter env 5
1391         - 9   # rls2009 NDRPDR iter env 5
1392         - 10  # rls2009 NDRPDR iter env 5
1393         - 11  # rls2009 NDRPDR iter env 5
1394         - 12  # rls2009 NDRPDR iter env 5
1395         - 14  # rls2009 NDRPDR iter env 5
1396         - 15  # rls2009 NDRPDR iter env 5
1397     vpp-performance-changes-2n-dnv-cmp:
1398       csit-vpp-perf-report-iterative-2101-2n-dnv:
1399         - 32  # rls2101.rel NDRPDR iter env 6
1400         - 33  # rls2101.rel NDRPDR iter env 6
1401         - 34  # rls2101.rel NDRPDR iter env 6
1402         - 35  # rls2101.rel NDRPDR iter env 6
1403         - 39  # rls2101.rel NDRPDR iter env 6
1404         - 41  # rls2101.rel NDRPDR iter env 6
1405         - 42  # rls2101.rel NDRPDR iter env 6
1406         - 43  # rls2101.rel NDRPDR iter env 6
1407         - 44  # rls2101.rel NDRPDR iter env 6
1408         - 45  # rls2101.rel NDRPDR iter env 6
1409         - 46  # rls2101.rel NDRPDR iter RND env 6
1410         - 47  # rls2101.rel NDRPDR iter RND env 6
1411         - 48  # rls2101.rel NDRPDR iter RND env 6
1412         - 49  # rls2101.rel NDRPDR iter RND env 6
1413         - 50  # rls2101.rel NDRPDR iter RND env 6
1414         - 51  # rls2101.rel NDRPDR iter RND env 6
1415         - 52  # rls2101.rel NDRPDR iter RND env 6
1416         - 53  # rls2101.rel NDRPDR iter RND env 6
1417         - 54  # rls2101.rel NDRPDR iter RND env 6
1418         - 55  # rls2101.rel NDRPDR iter RND env 6
1419
1420     vpp-performance-changes-3n-dnv-h1:
1421       csit-vpp-perf-report-iterative-2009-3n-dnv:
1422         - 16  # rls2005 NDRPDR iter env 5
1423         - 23  # rls2005 NDRPDR iter env 5
1424         - 25  # rls2005 NDRPDR iter env 5
1425         - 26  # rls2005 NDRPDR iter env 5
1426         - 27  # rls2005 NDRPDR iter env 5
1427         - 28  # rls2005 NDRPDR iter env 5
1428         - 29  # rls2005 NDRPDR iter env 5
1429         - 30  # rls2005 NDRPDR iter env 5
1430         - 31  # rls2005 NDRPDR iter env 5
1431         - 32  # rls2005 NDRPDR iter env 5
1432     vpp-performance-changes-3n-dnv-ref-env-old:
1433       csit-vpp-perf-report-iterative-2009-3n-dnv:
1434         - 3   # rls2009 NDRPDR iter env 5
1435         - 6   # rls2009 NDRPDR iter env 5
1436         - 7   # rls2009 NDRPDR iter env 5
1437         - 8   # rls2009 NDRPDR iter env 5
1438         - 10  # rls2009 NDRPDR iter env 5
1439         - 11  # rls2009 NDRPDR iter env 5
1440         - 12  # rls2009 NDRPDR iter env 5
1441         - 14  # rls2009 NDRPDR iter env 5
1442         - 15  # rls2009 NDRPDR iter env 5
1443         - 24  # rls2009 NDRPDR iter env 5
1444     vpp-performance-changes-3n-dnv-ref-env-new:
1445       # TODO: Re-test in new env
1446       csit-vpp-perf-report-iterative-2009-3n-dnv:
1447         - 3   # rls2009 NDRPDR iter env 5
1448         - 6   # rls2009 NDRPDR iter env 5
1449         - 7   # rls2009 NDRPDR iter env 5
1450         - 8   # rls2009 NDRPDR iter env 5
1451         - 10  # rls2009 NDRPDR iter env 5
1452         - 11  # rls2009 NDRPDR iter env 5
1453         - 12  # rls2009 NDRPDR iter env 5
1454         - 14  # rls2009 NDRPDR iter env 5
1455         - 15  # rls2009 NDRPDR iter env 5
1456         - 24  # rls2009 NDRPDR iter env 5
1457     vpp-performance-changes-3n-dnv-cmp:
1458       csit-vpp-perf-report-iterative-2101-3n-dnv:
1459         - 33  # rls2101.rel NDRPDR iter env 6
1460         - 34  # rls2101.rel NDRPDR iter env 6
1461         - 35  # rls2101.rel NDRPDR iter env 6
1462         - 36  # rls2101.rel NDRPDR iter env 6
1463         - 37  # rls2101.rel NDRPDR iter env 6
1464         - 38  # rls2101.rel NDRPDR iter env 6
1465         - 39  # rls2101.rel NDRPDR iter env 6
1466         - 40  # rls2101.rel NDRPDR iter env 6
1467         - 41  # rls2101.rel NDRPDR iter env 6
1468         - 42  # rls2101.rel NDRPDR iter env 6
1469         - 43  # rls2101.rel NDRPDR iter RND env 6
1470         - 44  # rls2101.rel NDRPDR iter RND env 6
1471         - 45  # rls2101.rel NDRPDR iter RND env 6
1472         - 46  # rls2101.rel NDRPDR iter RND env 6
1473         - 47  # rls2101.rel NDRPDR iter RND env 6
1474         - 48  # rls2101.rel NDRPDR iter RND env 6
1475         - 49  # rls2101.rel NDRPDR iter RND env 6
1476         - 50  # rls2101.rel NDRPDR iter RND env 6
1477         - 51  # rls2101.rel NDRPDR iter RND env 6
1478         - 52  # rls2101.rel NDRPDR iter RND env 6
1479
1480     vpp-performance-changes-3n-tsh-h1:
1481       csit-vpp-perf-report-iterative-2009-3n-tsh:
1482         - 8   # rls2005 NDRPDR iter env 5
1483         - 11  # rls2005 NDRPDR iter env 5
1484         - 12  # rls2005 NDRPDR iter env 5
1485         - 24  # rls2005 NDRPDR iter env 5
1486         - 27  # rls2005 NDRPDR iter env 5
1487         - 29  # rls2005 NDRPDR iter env 5
1488         - 31  # rls2005 NDRPDR iter env 5
1489         - 39  # rls2005 NDRPDR iter env 5
1490         - 40  # rls2005 NDRPDR iter env 5
1491         - 42  # rls2005 NDRPDR iter env 5
1492     vpp-performance-changes-3n-tsh-ref-env-old:
1493       csit-vpp-perf-report-iterative-2009-3n-tsh:
1494         - 14  # rls2009 NDRPDR iter env 5
1495         - 20  # rls2009 NDRPDR iter env 5
1496         - 21  # rls2009 NDRPDR iter env 5
1497         - 22  # rls2009 NDRPDR iter env 5
1498         - 23  # rls2009 NDRPDR iter env 5
1499         - 28  # rls2009 NDRPDR iter env 5
1500         - 30  # rls2009 NDRPDR iter env 5
1501         - 33  # rls2009 NDRPDR iter env 5
1502         - 38  # rls2009 NDRPDR iter env 5
1503         - 41  # rls2009 NDRPDR iter env 5
1504     vpp-performance-changes-3n-tsh-ref-env-new:
1505       csit-vpp-perf-report-iterative-2101-3n-tsh:
1506         - 8   # rls2009 NDRPDR iter env 6
1507         - 13  # rls2009 NDRPDR iter env 6
1508         - 14  # rls2009 NDRPDR iter env 6
1509         - 15  # rls2009 NDRPDR iter env 6
1510         - 16  # rls2009 NDRPDR iter env 6
1511         - 17  # rls2009 NDRPDR iter env 6
1512         - 18  # rls2009 NDRPDR iter env 6
1513         - 19  # rls2009 NDRPDR iter env 6
1514         - 21  # rls2009 NDRPDR iter env 6
1515     vpp-performance-changes-3n-tsh-cmp:
1516       csit-vpp-perf-report-iterative-2101-3n-tsh:
1517         - 23  # rls2101.rel NDRPDR iter env 6
1518         - 24  # rls2101.rel NDRPDR iter env 6
1519         - 25  # rls2101.rel NDRPDR iter env 6
1520         - 26  # rls2101.rel NDRPDR iter env 6
1521         - 27  # rls2101.rel NDRPDR iter env 6
1522         - 28  # rls2101.rel NDRPDR iter env 6
1523         - 29  # rls2101.rel NDRPDR iter env 6
1524         - 30  # rls2101.rel NDRPDR iter env 6
1525         - 31  # rls2101.rel NDRPDR iter env 6
1526         - 32  # rls2101.rel NDRPDR iter env 6
1527
1528 #     vpp-performance-changes-2n-tx2-h1:
1529 #       csit-vpp-perf-report-iterative-2009-2n-tx2:
1530 #         -
1531 #     vpp-performance-changes-2n-tx2-ref-env-old:
1532 #       csit-vpp-perf-report-iterative-2009-2n-tx2:
1533 #         -
1534     vpp-performance-changes-2n-tx2-ref-env-new:
1535       csit-vpp-perf-report-iterative-2101-2n-tx2:
1536         - 6   # rls2009 NDRPDR iter env 6
1537         - 7   # rls2009 NDRPDR iter env 6
1538         - 11  # rls2009 NDRPDR iter env 6
1539         - 12  # rls2009 NDRPDR iter env 6
1540         - 13  # rls2009 NDRPDR iter env 6
1541         - 16  # rls2009 NDRPDR iter env 6
1542         - 17  # rls2009 NDRPDR iter env 6
1543         - 18  # rls2009 NDRPDR iter env 6
1544         - 19  # rls2009 NDRPDR iter env 6
1545         - 20  # rls2009 NDRPDR iter env 6
1546     vpp-performance-changes-2n-tx2-cmp:
1547       csit-vpp-perf-report-iterative-2101-2n-tx2:
1548         - 22  # rls2101.rel NDRPDR iter env 6
1549         - 23  # rls2101.rel NDRPDR iter env 6
1550         - 24  # rls2101.rel NDRPDR iter env 6
1551         - 25  # rls2101.rel NDRPDR iter env 6
1552         - 26  # rls2101.rel NDRPDR iter env 6
1553         - 27  # rls2101.rel NDRPDR iter env 6
1554         - 28  # rls2101.rel NDRPDR iter env 6
1555         - 29  # rls2101.rel NDRPDR iter env 6
1556         - 30  # rls2101.rel NDRPDR iter env 6
1557         - 31  # rls2101.rel NDRPDR iter env 6
1558
1559     vpp-soak-vs-ndr-2n-skx-ref:
1560       csit-vpp-perf-report-iterative-2101-2n-skx:
1561         - 63  # rls2101.rel NDRPDR iter env 6
1562         - 69  # rls2101.rel NDRPDR iter env 6
1563         - 70  # rls2101.rel NDRPDR iter env 6
1564         - 75  # rls2101.rel NDRPDR iter env 6
1565         - 76  # rls2101.rel NDRPDR iter env 6
1566         - 77  # rls2101.rel NDRPDR iter env 6
1567         - 82  # rls2101.rel NDRPDR iter env 6
1568         - 85  # rls2101.rel NDRPDR iter env 6
1569         - 86  # rls2101.rel NDRPDR iter env 6
1570         - 94  # rls2101.rel NDRPDR iter env 6
1571     vpp-soak-vs-ndr-2n-skx-cmp:
1572       csit-vpp-perf-report-iterative-2101-2n-skx:
1573         - 68  # rls2101.rel soak env 6
1574         - 73  # rls2101.rel soak env 6
1575     vpp-soak-vs-ndr-2n-skx:
1576       csit-vpp-perf-report-iterative-2101-2n-skx:
1577         - 63  # rls2101.rel NDRPDR iter env 6
1578         - 69  # rls2101.rel NDRPDR iter env 6
1579         - 70  # rls2101.rel NDRPDR iter env 6
1580         - 75  # rls2101.rel NDRPDR iter env 6
1581         - 76  # rls2101.rel NDRPDR iter env 6
1582         - 77  # rls2101.rel NDRPDR iter env 6
1583         - 82  # rls2101.rel NDRPDR iter env 6
1584         - 85  # rls2101.rel NDRPDR iter env 6
1585         - 86  # rls2101.rel NDRPDR iter env 6
1586         - 94  # rls2101.rel NDRPDR iter env 6
1587         - 68  # rls2101.rel soak env 6
1588         - 73  # rls2101.rel soak env 6
1589
1590     vpp-soak-vs-ndr-2n-clx-ref:
1591       csit-vpp-perf-report-iterative-2101-2n-clx:
1592         - 54  # rls2101.rel NDRPDR iter env 6
1593         - 59  # rls2101.rel NDRPDR iter env 6
1594         - 60  # rls2101.rel NDRPDR iter env 6
1595         - 63  # rls2101.rel NDRPDR iter env 6
1596         - 66  # rls2101.rel NDRPDR iter env 6
1597         - 68  # rls2101.rel NDRPDR iter env 6
1598         - 73  # rls2101.rel NDRPDR iter env 6
1599         - 75  # rls2101.rel NDRPDR iter env 6
1600         - 86  # rls2101.rel NDRPDR iter env 6
1601         - 90  # rls2101.rel NDRPDR iter env 6
1602     vpp-soak-vs-ndr-2n-clx-cmp:
1603       csit-vpp-perf-report-iterative-2101-2n-clx:
1604         - 58  # rls2101.rel soak env 6
1605         - 61  # rls2101.rel soak env 6
1606     vpp-soak-vs-ndr-2n-clx:
1607       csit-vpp-perf-report-iterative-2101-2n-clx:
1608         - 54  # rls2101.rel NDRPDR iter env 6
1609         - 59  # rls2101.rel NDRPDR iter env 6
1610         - 60  # rls2101.rel NDRPDR iter env 6
1611         - 63  # rls2101.rel NDRPDR iter env 6
1612         - 66  # rls2101.rel NDRPDR iter env 6
1613         - 68  # rls2101.rel NDRPDR iter env 6
1614         - 73  # rls2101.rel NDRPDR iter env 6
1615         - 75  # rls2101.rel NDRPDR iter env 6
1616         - 86  # rls2101.rel NDRPDR iter env 6
1617         - 90  # rls2101.rel NDRPDR iter env 6
1618         - 58  # rls2101.rel soak env 6
1619         - 61  # rls2101.rel soak env 6
1620
1621     vpp-performance-changes-3n-hsw-mrr-h1:
1622       csit-vpp-perf-report-iterative-2009-3n-hsw:
1623         - 18  # rls2005 MRR iter env 5
1624     vpp-performance-changes-3n-hsw-mrr-ref-env-old:
1625       csit-vpp-perf-report-iterative-2009-3n-hsw:
1626         - 23  # rls2009 MRR iter env 5
1627     vpp-performance-changes-3n-hsw-mrr-ref-env-new:
1628       csit-vpp-perf-report-iterative-2101-3n-hsw:
1629         - 17  # rls2009 MRR iter env 6
1630     vpp-performance-changes-3n-hsw-mrr-cmp:
1631       csit-vpp-perf-report-iterative-2101-3n-hsw:
1632         - 63  # rls2101.rel MRR iter env 6
1633
1634     vpp-performance-changes-3n-skx-mrr-h1:
1635       csit-vpp-perf-report-iterative-2009-3n-skx:
1636         - 17  # rls2005 MRR iter env 5
1637     vpp-performance-changes-3n-skx-mrr-ref-env-old:
1638       csit-vpp-perf-report-iterative-2009-3n-skx:
1639         - 24  # rls2009 MRR iter env 5
1640     vpp-performance-changes-3n-skx-mrr-ref-env-new:
1641       csit-vpp-perf-report-iterative-2101-3n-skx:
1642         - 34  # rls2009 MRR iter env 6
1643     vpp-performance-changes-3n-skx-mrr-cmp:
1644       csit-vpp-perf-report-iterative-2101-3n-skx:
1645         - 35  # rls2101.rel MRR iter env 6
1646
1647     vpp-performance-changes-2n-skx-mrr-h1:
1648       csit-vpp-perf-report-iterative-2009-2n-skx:
1649         - 20  # rls2005 MRR iter env 5
1650     vpp-performance-changes-2n-skx-mrr-ref-env-old:
1651       csit-vpp-perf-report-iterative-2009-2n-skx:
1652         - 120 # rls2009 MRR iter env 5
1653     vpp-performance-changes-2n-skx-mrr-ref-env-new:
1654       csit-vpp-perf-report-iterative-2101-2n-skx:
1655         - 21  # rls2009 MRR iter env 6
1656     vpp-performance-changes-2n-skx-mrr-cmp:
1657       csit-vpp-perf-report-iterative-2101-2n-skx:
1658         - 62  # rls2101.rel MRR iter env 6
1659
1660     vpp-performance-changes-2n-clx-mrr-h1:
1661       csit-vpp-perf-report-iterative-2009-2n-clx:
1662         - 77  # rls2005 MRR iter env 5
1663     vpp-performance-changes-2n-clx-mrr-ref-env-old:
1664       csit-vpp-perf-report-iterative-2009-2n-clx:
1665         - 125 # rls2009 MRR iter env 5
1666     vpp-performance-changes-2n-clx-mrr-ref-env-new:
1667       csit-vpp-perf-report-iterative-2101-2n-clx:
1668         - 15  # rls2009 MRR iter env 6
1669         - 142 # rls2009 MRR MLX iter env 6
1670     vpp-performance-changes-2n-clx-mrr-cmp:
1671       csit-vpp-perf-report-iterative-2101-2n-clx:
1672         - 53  # rls2101.rel MRR iter env 6
1673         - 133 # rls2101.rel MRR MLX iter env 6
1674
1675     vpp-performance-changes-2n-zn2-mrr-ref-env-old:
1676       csit-vpp-perf-report-iterative-2009-2n-zn2:
1677         - 15  # rls2009 MRR iter env 5
1678     vpp-performance-changes-2n-zn2-mrr-ref-env-new:
1679       csit-vpp-perf-report-iterative-2101-2n-zn2:
1680         - 8   # rls2009 MRR iter env6
1681     vpp-performance-changes-2n-zn2-mrr-cmp:
1682       csit-vpp-perf-report-iterative-2101-2n-zn2:
1683         - 30  # rls2101.rel MRR iter env 6
1684
1685     vpp-performance-changes-2n-dnv-mrr-h1:
1686       csit-vpp-perf-report-iterative-2009-2n-dnv:
1687         - 23  # rls2005 MRR iter env 5
1688     vpp-performance-changes-2n-dnv-mrr-ref-env-old:
1689       csit-vpp-perf-report-iterative-2009-2n-dnv:
1690         - 13  # rls2009 MRR iter env 5
1691     vpp-performance-changes-2n-dnv-mrr-ref-env-new:
1692       # TODO: Re-test in new env
1693       csit-vpp-perf-report-iterative-2009-2n-dnv:
1694         - 13  # rls2009 MRR iter env 5
1695     vpp-performance-changes-2n-dnv-mrr-cmp:
1696       csit-vpp-perf-report-iterative-2101-2n-dnv:
1697         - 31  # rls2101.rel MRR iter env 6
1698
1699     vpp-performance-changes-3n-dnv-mrr-h1:
1700       csit-vpp-perf-report-iterative-2009-3n-dnv:
1701         - 19  # rls2005 MRR iter env 5
1702     vpp-performance-changes-3n-dnv-mrr-ref-env-old:
1703       csit-vpp-perf-report-iterative-2009-3n-dnv:
1704         - 22  # rls2009 MRR iter env 5
1705     vpp-performance-changes-3n-dnv-mrr-ref-env-new:
1706       # TODO: Re-test in new env
1707       csit-vpp-perf-report-iterative-2009-3n-dnv:
1708         - 22  # rls2009 MRR iter env 5
1709     vpp-performance-changes-3n-dnv-mrr-cmp:
1710       csit-vpp-perf-report-iterative-2101-3n-dnv:
1711         - 32  # rls2101.rel MRR iter env 6
1712
1713     vpp-performance-changes-3n-tsh-mrr-h1:
1714       csit-vpp-perf-report-iterative-2009-3n-tsh:
1715         - 13  # rls2005 MRR iter env 5
1716     vpp-performance-changes-3n-tsh-mrr-ref-env-old:
1717       csit-vpp-perf-report-iterative-2009-3n-tsh:
1718         - 15  # rls2009 MRR iter env 5
1719     vpp-performance-changes-3n-tsh-mrr-ref-env-new:
1720       csit-vpp-perf-report-iterative-2101-3n-tsh:
1721         - 7   # rls2009 MRR iter env 6
1722     vpp-performance-changes-3n-tsh-mrr-cmp:
1723       csit-vpp-perf-report-iterative-2101-3n-tsh:
1724         - 22  # rls2101.rel MRR iter env 6
1725
1726 #     vpp-performance-changes-2n-tx2-mrr-h1:
1727 #       csit-vpp-perf-report-iterative-2009-2n-tx2:
1728 #         -
1729 #     vpp-performance-changes-2n-tx2-mrr-ref-env-old:
1730 #       csit-vpp-perf-report-iterative-2009-2n-tx2:
1731 #         -
1732     vpp-performance-changes-2n-tx2-mrr-ref-env-new:
1733       csit-vpp-perf-report-iterative-2101-2n-tx2:
1734         - 5   # rls2009 MRR iter env 6
1735     vpp-performance-changes-2n-tx2-mrr-cmp:
1736       csit-vpp-perf-report-iterative-2101-2n-tx2:
1737         - 21  # rls2101.rel MRR iter env 6
1738
1739     dpdk-performance-changes-3n-hsw-h1:
1740       csit-dpdk-perf-report-iterative-2005-3n-hsw:
1741         - 25  # NDRPDR iter
1742         - 26  # NDRPDR iter
1743         - 27  # NDRPDR iter
1744         - 28  # NDRPDR iter
1745         - 29  # NDRPDR iter
1746         - 30  # NDRPDR iter
1747         - 31  # NDRPDR iter
1748         - 32  # NDRPDR iter
1749         - 33  # NDRPDR iter
1750         - 34  # NDRPDR iter
1751     dpdk-performance-changes-3n-hsw-ref:
1752       csit-dpdk-perf-report-iterative-2009-3n-hsw:
1753         - 6   # NDRPDR iter env5
1754         - 7   # NDRPDR iter env5
1755         - 8   # NDRPDR iter env5
1756         - 9   # NDRPDR iter env5
1757         - 10  # NDRPDR iter env5
1758         - 11  # NDRPDR iter env5
1759         - 12  # NDRPDR iter env5
1760         - 13  # NDRPDR iter env5
1761         - 14  # NDRPDR iter env5
1762         - 15  # NDRPDR iter env5
1763     dpdk-performance-changes-3n-hsw-cmp:
1764       csit-dpdk-perf-report-iterative-2101-3n-hsw:
1765         - 11  # rls2101 NDRPDR iter env 6
1766         - 12  # rls2101 NDRPDR iter env 6
1767         - 13  # rls2101 NDRPDR iter env 6
1768         - 14  # rls2101 NDRPDR iter env 6
1769         - 16  # rls2101 NDRPDR iter env 6
1770         - 17  # rls2101 NDRPDR iter env 6
1771         - 18  # rls2101 NDRPDR iter env 6
1772         - 19  # rls2101 NDRPDR iter env 6
1773         - 20  # rls2101 NDRPDR iter env 6
1774         - 21  # rls2101 NDRPDR iter env 6
1775
1776     dpdk-performance-changes-3n-skx-h1:
1777       csit-dpdk-perf-report-iterative-2005-3n-skx:
1778         - 28  # NDRPDR iter
1779         - 29  # NDRPDR iter
1780         - 30  # NDRPDR iter
1781         - 31  # NDRPDR iter
1782         - 32  # NDRPDR iter
1783         - 33  # NDRPDR iter
1784         - 34  # NDRPDR iter
1785         - 35  # NDRPDR iter
1786         - 36  # NDRPDR iter
1787         - 37  # NDRPDR iter
1788     dpdk-performance-changes-3n-skx-ref:
1789       csit-dpdk-perf-report-iterative-2009-3n-skx:
1790         - 4   # NDRPDR sel env5
1791         - 5   # NDRPDR sel env5
1792         - 6   # NDRPDR sel env5
1793         - 7   # NDRPDR sel env5
1794         - 8   # NDRPDR sel env5
1795         - 9   # NDRPDR sel env5
1796         - 14  # NDRPDR sel env5
1797         - 11  # NDRPDR sel env5
1798         - 12  # NDRPDR sel env5
1799         - 13  # NDRPDR sel env5
1800     dpdk-performance-changes-3n-skx-cmp:
1801       csit-dpdk-perf-report-iterative-2101-3n-skx:
1802         - 12  # rls2101 NDRPDR iter env 6
1803         - 14  # rls2101 NDRPDR iter env 6
1804         - 15  # rls2101 NDRPDR iter env 6
1805         - 17  # rls2101 NDRPDR iter env 6
1806         - 19  # rls2101 NDRPDR iter env 6
1807         - 20  # rls2101 NDRPDR iter env 6
1808         - 21  # rls2101 NDRPDR iter env 6
1809         - 22  # rls2101 NDRPDR iter env 6
1810         - 25  # rls2101 NDRPDR iter env 6
1811         - 26  # rls2101 NDRPDR iter env 6
1812
1813     dpdk-performance-changes-2n-skx-h1:
1814       csit-dpdk-perf-report-iterative-2005-2n-skx:
1815         - 20  # NDRPDR iter
1816         - 21  # NDRPDR iter
1817         - 22  # NDRPDR iter
1818         - 23  # NDRPDR iter
1819         - 24  # NDRPDR iter
1820         - 25  # NDRPDR iter
1821         - 26  # NDRPDR iter
1822         - 27  # NDRPDR iter
1823         - 28  # NDRPDR iter
1824         - 29  # NDRPDR iter
1825     dpdk-performance-changes-2n-skx-ref:
1826       csit-dpdk-perf-report-iterative-2009-2n-skx:
1827         - 4   # NDRPDR iter env5
1828         - 5   # NDRPDR iter env5
1829         - 6   # NDRPDR iter env5
1830         - 7   # NDRPDR iter env5
1831         - 8   # NDRPDR iter env5
1832         - 9   # NDRPDR iter env5
1833         - 10  # NDRPDR iter env5
1834         - 11  # NDRPDR iter env5
1835         - 12  # NDRPDR iter env5
1836         - 13  # NDRPDR iter env5
1837     dpdk-performance-changes-2n-skx-cmp:
1838       csit-dpdk-perf-report-iterative-2101-2n-skx:
1839         - 11  # rls2101 NDRPDR iter env 6
1840         - 12  # rls2101 NDRPDR iter env 6
1841         - 13  # rls2101 NDRPDR iter env 6
1842         - 14  # rls2101 NDRPDR iter env 6
1843         - 15  # rls2101 NDRPDR iter env 6
1844         - 17  # rls2101 NDRPDR iter env 6
1845         - 18  # rls2101 NDRPDR iter env 6
1846         - 19  # rls2101 NDRPDR iter env 6
1847         - 20  # rls2101 NDRPDR iter env 6
1848         - 21  # rls2101 NDRPDR iter env 6
1849
1850     dpdk-performance-changes-2n-clx-h1:
1851       csit-dpdk-perf-report-iterative-2005-2n-clx:
1852         - 20  # NDRPDR iter
1853         - 21  # NDRPDR iter
1854         - 22  # NDRPDR iter
1855         - 23  # NDRPDR iter
1856         - 24  # NDRPDR iter
1857         - 25  # NDRPDR iter
1858         - 26  # NDRPDR iter
1859         - 27  # NDRPDR iter
1860         - 28  # NDRPDR iter
1861         - 29  # NDRPDR iter
1862     dpdk-performance-changes-2n-clx-ref:
1863       csit-dpdk-perf-report-iterative-2009-2n-clx:
1864         - 4   # NDRPDR iter env5
1865         - 5   # NDRPDR iter env5
1866         - 6   # NDRPDR iter env5
1867         - 7   # NDRPDR iter env5
1868         - 8   # NDRPDR iter env5
1869         - 9   # NDRPDR iter env5
1870         - 10  # NDRPDR iter env5
1871         - 11  # NDRPDR iter env5
1872         - 12  # NDRPDR iter env5
1873         - 13  # NDRPDR iter env5
1874     dpdk-performance-changes-2n-clx-cmp:
1875       csit-dpdk-perf-report-iterative-2101-2n-clx:
1876         - 12  # rls2101 NDRPDR iter env 6
1877         - 13  # rls2101 NDRPDR iter env 6
1878         - 14  # rls2101 NDRPDR iter env 6
1879         - 18  # rls2101 NDRPDR iter env 6
1880         - 22  # rls2101 NDRPDR iter env 6
1881
1882     dpdk-performance-changes-2n-zn2-ref:
1883       csit-dpdk-perf-report-iterative-2009-2n-zn2:
1884         - 16  # NDRPDR iter env5
1885         - 21  # NDRPDR iter env5
1886         - 22  # NDRPDR iter env5
1887         - 23  # NDRPDR iter env5
1888         - 24  # NDRPDR iter env5
1889         - 25  # NDRPDR iter env5
1890         - 29  # NDRPDR iter env5
1891     dpdk-performance-changes-2n-zn2-cmp:
1892       csit-dpdk-perf-report-iterative-2101-2n-zn2:
1893         - 11  # rls2101 NDRPDR iter env 6
1894         - 12  # rls2101 NDRPDR iter env 6
1895         - 13  # rls2101 NDRPDR iter env 6
1896         - 14  # rls2101 NDRPDR iter env 6
1897         - 16  # rls2101 NDRPDR iter env 6
1898         - 17  # rls2101 NDRPDR iter env 6
1899         - 18  # rls2101 NDRPDR iter env 6
1900         - 19  # rls2101 NDRPDR iter env 6
1901         - 20  # rls2101 NDRPDR iter env 6
1902         - 21  # rls2101 NDRPDR iter env 6
1903
1904 #    dpdk-performance-changes-2n-dnv-h1:
1905 #      csit-dpdk-perf-verify-2101-2n-dnv:
1906 #        - 9   # NDRPDR sel
1907 #        - 10  # NDRPDR sel
1908 #        - 11  # NDRPDR sel
1909 #        - 12  # NDRPDR sel
1910 #        - 13  # NDRPDR sel
1911 #        - 14  # NDRPDR sel
1912 #        - 15  # NDRPDR sel
1913 #        - 16  # NDRPDR sel
1914 #        - 17  # NDRPDR sel
1915 #        - 18  # NDRPDR sel
1916 #    dpdk-performance-changes-2n-dnv-ref:
1917 #      # No data
1918 #    dpdk-performance-changes-2n-dnv-cmp:
1919 #      # No data
1920 #      csit-dpdk-perf-report-iterative-2009-2n-dnv:
1921
1922 #    dpdk-performance-changes-3n-dnv-h1:
1923 #      csit-dpdk-perf-verify-2101-3n-dnv:
1924 #        - 12  # NDRPDR sel
1925 #        - 13  # NDRPDR sel
1926 #        - 14  # NDRPDR sel
1927 #        - 15  # NDRPDR sel
1928 #        - 16  # NDRPDR sel
1929 #        - 17  # NDRPDR sel
1930 #        - 18  # NDRPDR sel
1931 #        - 19  # NDRPDR sel
1932 #        - 20  # NDRPDR sel
1933 #        - 22  # NDRPDR sel
1934 #    dpdk-performance-changes-3n-dnv-ref:
1935 #      # No data
1936 #    dpdk-performance-changes-3n-dnv-cmp:
1937 #      # No data
1938 #      csit-dpdk-perf-report-iterative-2009-3n-dnv:
1939
1940     dpdk-performance-changes-3n-tsh-h1:
1941       csit-dpdk-perf-report-iterative-2005-3n-tsh:
1942         - 5   # NDRPDR sel
1943     dpdk-performance-changes-3n-tsh-ref:
1944       csit-dpdk-perf-report-iterative-2009-3n-tsh:
1945         - 1   # NDRPDR iter env5
1946         - 2   # NDRPDR iter env5
1947         - 3   # NDRPDR iter env5
1948         - 4   # NDRPDR iter env5
1949         - 5   # NDRPDR iter env5
1950         - 6   # NDRPDR iter env5
1951         - 7   # NDRPDR iter env5
1952         - 9   # NDRPDR iter env5
1953         - 10  # NDRPDR iter env5
1954         - 11  # NDRPDR iter env5
1955     dpdk-performance-changes-3n-tsh-cmp:
1956       csit-dpdk-perf-report-iterative-2101-3n-tsh:
1957         - 11  # rls2101 NDRPDR iter env 6
1958         - 12  # rls2101 NDRPDR iter env 6
1959         - 13  # rls2101 NDRPDR iter env 6
1960         - 14  # rls2101 NDRPDR iter env 6
1961         - 16  # rls2101 NDRPDR iter env 6
1962         - 17  # rls2101 NDRPDR iter env 6
1963         - 18  # rls2101 NDRPDR iter env 6
1964         - 19  # rls2101 NDRPDR iter env 6
1965         - 20  # rls2101 NDRPDR iter env 6
1966         - 21  # rls2101 NDRPDR iter env 6
1967
1968     # Compare testbeds
1969
1970     vpp-compare-testbeds-ref:
1971       csit-vpp-perf-report-iterative-2101-3n-hsw:
1972         - 64  # rls2101.rel NDRPDR iter env 6
1973         - 71  # rls2101.rel NDRPDR iter env 6
1974         - 73  # rls2101.rel NDRPDR iter env 6
1975         - 74  # rls2101.rel NDRPDR iter env 6
1976         - 80  # rls2101.rel NDRPDR iter env 6
1977         - 81  # rls2101.rel NDRPDR iter env 6
1978         - 82  # rls2101.rel NDRPDR iter env 6
1979         - 83  # rls2101.rel NDRPDR iter env 6
1980         - 88  # rls2101.rel NDRPDR iter env 6
1981         - 89  # rls2101.rel NDRPDR iter env 6
1982     vpp-compare-testbeds-cmp:
1983       csit-vpp-perf-report-iterative-2101-3n-skx:
1984         - 36  # rls2101.rel NDRPDR iter env 6
1985         - 37  # rls2101.rel NDRPDR iter env 6
1986         - 38  # rls2101.rel NDRPDR iter env 6
1987         - 39  # rls2101.rel NDRPDR iter env 6
1988         - 40  # rls2101.rel NDRPDR iter env 6
1989         - 41  # rls2101.rel NDRPDR iter env 6
1990         - 42  # rls2101.rel NDRPDR iter env 6
1991         - 47  # rls2101.rel NDRPDR iter env 6
1992         - 48  # rls2101.rel NDRPDR iter env 6
1993         - 50  # rls2101.rel NDRPDR iter env 6
1994
1995     vpp-compare-testbeds-skx-clx-ref:
1996       csit-vpp-perf-report-iterative-2101-2n-skx:
1997         - 63  # rls2101.rel NDRPDR iter env 6
1998         - 69  # rls2101.rel NDRPDR iter env 6
1999         - 70  # rls2101.rel NDRPDR iter env 6
2000         - 75  # rls2101.rel NDRPDR iter env 6
2001         - 76  # rls2101.rel NDRPDR iter env 6
2002         - 77  # rls2101.rel NDRPDR iter env 6
2003         - 82  # rls2101.rel NDRPDR iter env 6
2004         - 85  # rls2101.rel NDRPDR iter env 6
2005         - 86  # rls2101.rel NDRPDR iter env 6
2006         - 94  # rls2101.rel NDRPDR iter env 6
2007         - 89  # rls2101.rel NDRPDR iter RND env 6
2008         - 90  # rls2101.rel NDRPDR iter RND env 6
2009         - 91  # rls2101.rel NDRPDR iter RND env 6
2010         - 92  # rls2101.rel NDRPDR iter RND env 6
2011         - 93  # rls2101.rel NDRPDR iter RND env 6
2012         - 96  # rls2101.rel NDRPDR iter RND env 6
2013         - 98  # rls2101.rel NDRPDR iter RND env 6
2014         - 99  # rls2101.rel NDRPDR iter RND env 6
2015         - 101 # rls2101.rel NDRPDR iter RND env 6
2016         - 102 # rls2101.rel NDRPDR iter RND env 6
2017         - 116 # rls2101.rel NDRPDR iter NAT env 6
2018         - 117 # rls2101.rel NDRPDR iter NAT env 6
2019         - 118 # rls2101.rel NDRPDR iter NAT env 6
2020         - 119 # rls2101.rel NDRPDR iter NAT env 6
2021         - 120 # rls2101.rel NDRPDR iter NAT env 6
2022         - 121 # rls2101.rel NDRPDR iter NAT env 6
2023         - 122 # rls2101.rel NDRPDR iter NAT env 6
2024         - 123 # rls2101.rel NDRPDR iter NAT env 6
2025         - 124 # rls2101.rel NDRPDR iter NAT env 6
2026         - 125 # rls2101.rel NDRPDR iter NAT env 6
2027     vpp-compare-testbeds-skx-clx-cmp:
2028       csit-vpp-perf-report-iterative-2101-2n-clx:
2029         - 54  # rls2101.rel NDRPDR iter env 6
2030         - 59  # rls2101.rel NDRPDR iter env 6
2031         - 60  # rls2101.rel NDRPDR iter env 6
2032         - 63  # rls2101.rel NDRPDR iter env 6
2033         - 66  # rls2101.rel NDRPDR iter env 6
2034         - 68  # rls2101.rel NDRPDR iter env 6
2035         - 73  # rls2101.rel NDRPDR iter env 6
2036         - 75  # rls2101.rel NDRPDR iter env 6
2037         - 86  # rls2101.rel NDRPDR iter env 6
2038         - 90  # rls2101.rel NDRPDR iter env 6
2039         - 80  # rls2101.rel NDRPDR iter RND env 6
2040         - 87  # rls2101.rel NDRPDR iter RND env 6
2041         - 91  # rls2101.rel NDRPDR iter RND env 6
2042         - 92  # rls2101.rel NDRPDR iter RND env 6
2043         - 93  # rls2101.rel NDRPDR iter RND env 6
2044         - 94  # rls2101.rel NDRPDR iter RND env 6
2045         - 95  # rls2101.rel NDRPDR iter RND env 6
2046         - 100 # rls2101.rel NDRPDR iter RND env 6
2047         - 106 # rls2101.rel NDRPDR iter RND env 6
2048         - 108 # rls2101.rel NDRPDR iter RND env 6
2049         - 112 # rls2101.rel NDRPDR iter NAT env 6
2050         - 113 # rls2101.rel NDRPDR iter NAT env 6
2051         - 114 # rls2101.rel NDRPDR iter NAT env 6
2052         - 115 # rls2101.rel NDRPDR iter NAT env 6
2053         - 116 # rls2101.rel NDRPDR iter NAT env 6
2054         - 117 # rls2101.rel NDRPDR iter NAT env 6
2055         - 118 # rls2101.rel NDRPDR iter NAT env 6
2056         - 119 # rls2101.rel NDRPDR iter NAT env 6
2057         - 120 # rls2101.rel NDRPDR iter NAT env 6
2058         - 121 # rls2101.rel NDRPDR iter NAT env 6
2059         - 122 # rls2101.rel NDRPDR iter MLX env 6
2060         - 123 # rls2101.rel NDRPDR iter MLX env 6
2061         - 124 # rls2101.rel NDRPDR iter MLX env 6
2062         - 126 # rls2101.rel NDRPDR iter MLX env 6
2063         - 127 # rls2101.rel NDRPDR iter MLX env 6
2064         - 128 # rls2101.rel NDRPDR iter MLX env 6
2065         - 129 # rls2101.rel NDRPDR iter MLX env 6
2066         - 130 # rls2101.rel NDRPDR iter MLX env 6
2067         - 131 # rls2101.rel NDRPDR iter MLX env 6
2068         - 132 # rls2101.rel NDRPDR iter MLX env 6
2069
2070     vpp-compare-testbeds-hsw-clx-ref:
2071       csit-vpp-perf-report-iterative-2101-3n-hsw:
2072         - 64  # rls2101.rel NDRPDR iter env 6
2073         - 71  # rls2101.rel NDRPDR iter env 6
2074         - 73  # rls2101.rel NDRPDR iter env 6
2075         - 74  # rls2101.rel NDRPDR iter env 6
2076         - 80  # rls2101.rel NDRPDR iter env 6
2077         - 81  # rls2101.rel NDRPDR iter env 6
2078         - 82  # rls2101.rel NDRPDR iter env 6
2079         - 83  # rls2101.rel NDRPDR iter env 6
2080         - 88  # rls2101.rel NDRPDR iter env 6
2081         - 89  # rls2101.rel NDRPDR iter env 6
2082         - 128 # rls2101.rel NDRPDR iter RND env 6
2083         - 129 # rls2101.rel NDRPDR iter RND env 6
2084         - 130 # rls2101.rel NDRPDR iter RND env 6
2085         - 131 # rls2101.rel NDRPDR iter RND env 6
2086         - 132 # rls2101.rel NDRPDR iter RND env 6
2087         - 133 # rls2101.rel NDRPDR iter RND env 6
2088         - 134 # rls2101.rel NDRPDR iter RND env 6
2089         - 135 # rls2101.rel NDRPDR iter RND env 6
2090         - 136 # rls2101.rel NDRPDR iter RND env 6
2091         - 137 # rls2101.rel NDRPDR iter RND env 6
2092     vpp-compare-testbeds-hsw-clx-cmp:
2093       csit-vpp-perf-report-iterative-2101-2n-clx:
2094         - 54  # rls2101.rel NDRPDR iter env 6
2095         - 59  # rls2101.rel NDRPDR iter env 6
2096         - 60  # rls2101.rel NDRPDR iter env 6
2097         - 63  # rls2101.rel NDRPDR iter env 6
2098         - 66  # rls2101.rel NDRPDR iter env 6
2099         - 68  # rls2101.rel NDRPDR iter env 6
2100         - 73  # rls2101.rel NDRPDR iter env 6
2101         - 75  # rls2101.rel NDRPDR iter env 6
2102         - 90  # rls2101.rel NDRPDR iter env 6
2103         - 80  # rls2101.rel NDRPDR iter RND env 6
2104         - 87  # rls2101.rel NDRPDR iter RND env 6
2105         - 91  # rls2101.rel NDRPDR iter RND env 6
2106         - 92  # rls2101.rel NDRPDR iter RND env 6
2107         - 93  # rls2101.rel NDRPDR iter RND env 6
2108         - 94  # rls2101.rel NDRPDR iter RND env 6
2109         - 95  # rls2101.rel NDRPDR iter RND env 6
2110         - 100 # rls2101.rel NDRPDR iter RND env 6
2111         - 106 # rls2101.rel NDRPDR iter RND env 6
2112         - 108 # rls2101.rel NDRPDR iter RND env 6
2113         - 112 # rls2101.rel NDRPDR iter NAT env 6
2114         - 113 # rls2101.rel NDRPDR iter NAT env 6
2115         - 114 # rls2101.rel NDRPDR iter NAT env 6
2116         - 115 # rls2101.rel NDRPDR iter NAT env 6
2117         - 116 # rls2101.rel NDRPDR iter NAT env 6
2118         - 117 # rls2101.rel NDRPDR iter NAT env 6
2119         - 118 # rls2101.rel NDRPDR iter NAT env 6
2120         - 119 # rls2101.rel NDRPDR iter NAT env 6
2121         - 120 # rls2101.rel NDRPDR iter NAT env 6
2122         - 121 # rls2101.rel NDRPDR iter NAT env 6
2123         - 122 # rls2101.rel NDRPDR iter MLX env 6
2124         - 123 # rls2101.rel NDRPDR iter MLX env 6
2125         - 124 # rls2101.rel NDRPDR iter MLX env 6
2126         - 126 # rls2101.rel NDRPDR iter MLX env 6
2127         - 127 # rls2101.rel NDRPDR iter MLX env 6
2128         - 128 # rls2101.rel NDRPDR iter MLX env 6
2129         - 129 # rls2101.rel NDRPDR iter MLX env 6
2130         - 130 # rls2101.rel NDRPDR iter MLX env 6
2131         - 131 # rls2101.rel NDRPDR iter MLX env 6
2132         - 132 # rls2101.rel NDRPDR iter MLX env 6
2133
2134     vpp-compare-testbeds-mrr-ref:
2135       csit-vpp-perf-report-iterative-2101-3n-hsw:
2136         - 63  # rls2101.rel MRR iter env 6
2137     vpp-compare-testbeds-mrr-cmp:
2138       csit-vpp-perf-report-iterative-2101-3n-skx:
2139         - 35  # rls2101.rel MRR iter env 6
2140
2141     vpp-compare-testbeds-mrr-skx-clx-ref:
2142       csit-vpp-perf-report-iterative-2101-2n-skx:
2143         - 62  # rls2101.rel MRR iter env 6
2144     vpp-compare-testbeds-mrr-skx-clx-cmp:
2145       csit-vpp-perf-report-iterative-2101-2n-clx:
2146         - 53  # rls2101.rel MRR iter env 6
2147
2148     vpp-compare-testbeds-mrr-hsw-clx-ref:
2149       csit-vpp-perf-report-iterative-2101-3n-hsw:
2150         - 63  # rls2101.rel MRR iter env 6
2151     vpp-compare-testbeds-mrr-hsw-clx-cmp:
2152       csit-vpp-perf-report-iterative-2101-2n-clx:
2153         - 53  # rls2101.rel MRR iter env 6
2154
2155     dpdk-compare-testbeds-ref:
2156       csit-dpdk-perf-report-iterative-2101-3n-hsw:
2157         - 11  # rls2101 NDRPDR iter env 6
2158         - 12  # rls2101 NDRPDR iter env 6
2159         - 13  # rls2101 NDRPDR iter env 6
2160         - 14  # rls2101 NDRPDR iter env 6
2161         - 16  # rls2101 NDRPDR iter env 6
2162         - 17  # rls2101 NDRPDR iter env 6
2163         - 18  # rls2101 NDRPDR iter env 6
2164         - 19  # rls2101 NDRPDR iter env 6
2165         - 20  # rls2101 NDRPDR iter env 6
2166         - 21  # rls2101 NDRPDR iter env 6
2167     dpdk-compare-testbeds-cmp:
2168       csit-dpdk-perf-report-iterative-2101-3n-skx:
2169         - 12  # rls2101 NDRPDR iter env 6
2170         - 14  # rls2101 NDRPDR iter env 6
2171         - 15  # rls2101 NDRPDR iter env 6
2172         - 17  # rls2101 NDRPDR iter env 6
2173         - 19  # rls2101 NDRPDR iter env 6
2174         - 20  # rls2101 NDRPDR iter env 6
2175         - 21  # rls2101 NDRPDR iter env 6
2176         - 22  # rls2101 NDRPDR iter env 6
2177         - 25  # rls2101 NDRPDR iter env 6
2178         - 26  # rls2101 NDRPDR iter env 6
2179
2180     dpdk-compare-testbeds-skx-clx-ref:
2181       csit-dpdk-perf-report-iterative-2101-2n-skx:
2182         - 11  # rls2101 NDRPDR iter env 6
2183         - 12  # rls2101 NDRPDR iter env 6
2184         - 13  # rls2101 NDRPDR iter env 6
2185         - 14  # rls2101 NDRPDR iter env 6
2186         - 15  # rls2101 NDRPDR iter env 6
2187         - 17  # rls2101 NDRPDR iter env 6
2188         - 18  # rls2101 NDRPDR iter env 6
2189         - 19  # rls2101 NDRPDR iter env 6
2190         - 20  # rls2101 NDRPDR iter env 6
2191         - 21  # rls2101 NDRPDR iter env 6
2192     dpdk-compare-testbeds-skx-clx-cmp:
2193       csit-dpdk-perf-report-iterative-2101-2n-clx:
2194         - 12  # rls2101 NDRPDR iter env 6
2195         - 13  # rls2101 NDRPDR iter env 6
2196         - 14  # rls2101 NDRPDR iter env 6
2197         - 18  # rls2101 NDRPDR iter env 6
2198         - 22  # rls2101 NDRPDR iter env 6
2199
2200     # Compare topologies
2201
2202     vpp-compare-topologies-ref:
2203       csit-vpp-perf-report-iterative-2101-3n-skx:
2204         - 36  # rls2101.rel NDRPDR iter env 6
2205         - 37  # rls2101.rel NDRPDR iter env 6
2206         - 38  # rls2101.rel NDRPDR iter env 6
2207         - 39  # rls2101.rel NDRPDR iter env 6
2208         - 40  # rls2101.rel NDRPDR iter env 6
2209         - 41  # rls2101.rel NDRPDR iter env 6
2210         - 42  # rls2101.rel NDRPDR iter env 6
2211         - 47  # rls2101.rel NDRPDR iter env 6
2212         - 48  # rls2101.rel NDRPDR iter env 6
2213         - 50  # rls2101.rel NDRPDR iter env 6
2214     vpp-compare-topologies-cmp:
2215       csit-vpp-perf-report-iterative-2101-2n-skx:
2216         - 63  # rls2101.rel NDRPDR iter env 6
2217         - 69  # rls2101.rel NDRPDR iter env 6
2218         - 70  # rls2101.rel NDRPDR iter env 6
2219         - 75  # rls2101.rel NDRPDR iter env 6
2220         - 76  # rls2101.rel NDRPDR iter env 6
2221         - 77  # rls2101.rel NDRPDR iter env 6
2222         - 82  # rls2101.rel NDRPDR iter env 6
2223         - 85  # rls2101.rel NDRPDR iter env 6
2224         - 86  # rls2101.rel NDRPDR iter env 6
2225         - 94  # rls2101.rel NDRPDR iter env 6
2226
2227     vpp-compare-topologies-mrr-ref:
2228       csit-vpp-perf-report-iterative-2101-3n-skx:
2229         - 35  # rls2101.rel MRR iter env 6
2230     vpp-compare-topologies-mrr-cmp:
2231       csit-vpp-perf-report-iterative-2101-2n-skx:
2232         - 62  # rls2101.rel MRR iter env 6
2233
2234     dpdk-compare-topologies-ref:
2235       csit-dpdk-perf-report-iterative-2101-3n-skx:
2236         - 12  # rls2101 NDRPDR iter env 6
2237         - 14  # rls2101 NDRPDR iter env 6
2238         - 15  # rls2101 NDRPDR iter env 6
2239         - 17  # rls2101 NDRPDR iter env 6
2240         - 19  # rls2101 NDRPDR iter env 6
2241         - 20  # rls2101 NDRPDR iter env 6
2242         - 21  # rls2101 NDRPDR iter env 6
2243         - 22  # rls2101 NDRPDR iter env 6
2244         - 25  # rls2101 NDRPDR iter env 6
2245         - 26  # rls2101 NDRPDR iter env 6
2246     dpdk-compare-topologies-cmp:
2247       csit-dpdk-perf-report-iterative-2101-2n-skx:
2248         - 11  # rls2101 NDRPDR iter env 6
2249         - 12  # rls2101 NDRPDR iter env 6
2250         - 13  # rls2101 NDRPDR iter env 6
2251         - 14  # rls2101 NDRPDR iter env 6
2252         - 15  # rls2101 NDRPDR iter env 6
2253         - 17  # rls2101 NDRPDR iter env 6
2254         - 18  # rls2101 NDRPDR iter env 6
2255         - 19  # rls2101 NDRPDR iter env 6
2256         - 20  # rls2101 NDRPDR iter env 6
2257         - 21  # rls2101 NDRPDR iter env 6
2258
2259   plot-layouts:
2260
2261     plot-soak-throughput:
2262       titlefont:
2263         size: 16
2264       xaxis:
2265         title: "<b>Test Cases [Index]</b>"
2266         titlefont:
2267           size: 14
2268         autorange: True
2269         fixedrange: False
2270         gridcolor: "rgb(230, 230, 230)"
2271         linecolor: "rgb(220, 220, 220)"
2272         linewidth: 1
2273         showgrid: True
2274         showline: True
2275         showticklabels: True
2276         tickcolor: "rgb(220, 220, 220)"
2277         tickmode: "linear"
2278         tickfont:
2279           size: 14
2280         zeroline: False
2281       yaxis:
2282         title: "<b>Critical Rate Lower Bound [Mpps]</b>"
2283         titlefont:
2284           size: 14
2285         gridcolor: "rgb(230, 230, 230)"
2286         hoverformat: ".4r"
2287         tickformat: ".3r"
2288         linecolor: "rgb(220, 220, 220)"
2289         linewidth: 1
2290         showgrid: True
2291         showline: True
2292         showticklabels: True
2293         tickcolor: "rgb(220, 220, 220)"
2294         tickfont:
2295           size: 14
2296         zeroline: False
2297         range: [0,50]
2298       autosize: False
2299       margin:
2300         t: 50
2301         b: 0
2302         l: 80
2303         r: 20
2304       showlegend: True
2305       legend:
2306         orientation: "h"
2307         font:
2308           size: 14
2309       width: 700
2310       height: 900
2311       paper_bgcolor: "#fff"
2312       plot_bgcolor: "#fff"
2313       hoverlabel:
2314         namelength: -1
2315
2316     plot-service-density:
2317       titlefont:
2318         size: 16
2319       xaxis:
2320         side: "top"
2321         autorange: True
2322         fixedrange: False
2323         showgrid: False
2324         showline: False
2325         showticklabels: False
2326         ticks: ""
2327         ticklen: 0
2328         tickwidth: 0
2329         zeroline: False
2330       yaxis:
2331         autorange: "reversed"
2332         showgrid: False
2333         showline: False
2334         showticklabels: False
2335         ticks: ""
2336         ticklen: 0
2337         tickwidth: 0
2338         zeroline: False
2339       showlegend: False
2340       paper_bgcolor: "#fff"
2341       plot_bgcolor: "#fff"
2342       width: 700
2343       height: 700
2344       hoverlabel:
2345         namelength: -1
2346
2347     plot-hoststack:
2348       titlefont:
2349         size: 16
2350       xaxis:
2351         title: "<b>Test Cases [Index]</b>"
2352         titlefont:
2353           size: 14
2354         autorange: True
2355         fixedrange: False
2356         gridcolor: "rgb(230, 230, 230)"
2357         linecolor: "rgb(220, 220, 220)"
2358         linewidth: 1
2359         showgrid: True
2360         showline: True
2361         showticklabels: True
2362         tickcolor: "rgb(220, 220, 220)"
2363         tickmode: "linear"
2364         tickfont:
2365           size: 14
2366         zeroline: False
2367       yaxis:
2368         title: "<b>Bandwidth [Gbps]</b>"
2369         titlefont:
2370           size: 14
2371         gridcolor: "rgb(230, 230, 230)"
2372         hoverformat: ".4s"
2373         linecolor: "rgb(220, 220, 220)"
2374         linewidth: 1
2375         rangemode: "tozero"
2376         showgrid: True
2377         showline: True
2378         showticklabels: True
2379         tickcolor: "rgb(230, 230, 230)"
2380         tickformat: ".3s"
2381         tickfont:
2382           size: 14
2383         zeroline: False
2384       autosize: False
2385       margin:
2386         t: 50
2387         b: 20
2388         l: 80
2389         r: 20
2390       showlegend: True
2391       legend:
2392         orientation: "h"
2393         font:
2394           size: 14
2395       width: 700
2396       height: 800
2397       paper_bgcolor: "#fff"
2398       plot_bgcolor: "#fff"
2399       hoverlabel:
2400         namelength: -1
2401
2402     plot-throughput:
2403       titlefont:
2404         size: 16
2405       xaxis:
2406         title: "<b>Test Cases [Index]</b>"
2407         titlefont:
2408           size: 14
2409         autorange: True
2410         fixedrange: False
2411         gridcolor: "rgb(230, 230, 230)"
2412         linecolor: "rgb(220, 220, 220)"
2413         linewidth: 1
2414         showgrid: True
2415         showline: True
2416         showticklabels: True
2417         tickcolor: "rgb(220, 220, 220)"
2418         tickmode: "linear"
2419         tickfont:
2420           size: 14
2421         zeroline: False
2422       yaxis:
2423         title: "<b>Packet Throughput [Mpps]</b>"
2424         titlefont:
2425           size: 14
2426         gridcolor: "rgb(230, 230, 230)"
2427         hoverformat: ".4r"
2428         tickformat: ".3r"
2429         linecolor: "rgb(220, 220, 220)"
2430         linewidth: 1
2431         showgrid: True
2432         showline: True
2433         showticklabels: True
2434         tickcolor: "rgb(220, 220, 220)"
2435         tickfont:
2436           size: 14
2437         zeroline: False
2438         range: [0,50]
2439       autosize: False
2440       margin:
2441         t: 50
2442         b: 0
2443         l: 80
2444         r: 20
2445       showlegend: True
2446       legend:
2447         orientation: "h"
2448         font:
2449           size: 14
2450       width: 700
2451       height: 900
2452       paper_bgcolor: "#fff"
2453       plot_bgcolor: "#fff"
2454       hoverlabel:
2455         namelength: -1
2456
2457     plot-throughput-gbps:
2458       titlefont:
2459         size: 16
2460       xaxis:
2461         title: "<b>Test Cases [Index]</b>"
2462         titlefont:
2463           size: 14
2464         autorange: True
2465         fixedrange: False
2466         gridcolor: "rgb(230, 230, 230)"
2467         linecolor: "rgb(220, 220, 220)"
2468         linewidth: 1
2469         showgrid: True
2470         showline: True
2471         showticklabels: True
2472         tickcolor: "rgb(220, 220, 220)"
2473         tickmode: "linear"
2474         tickfont:
2475           size: 14
2476         zeroline: False
2477       yaxis:
2478         title: "<b>Packet Throughput [Gbps]</b>"
2479         titlefont:
2480           size: 14
2481         gridcolor: "rgb(230, 230, 230)"
2482         hoverformat: ".4r"
2483         tickformat: ".3r"
2484         linecolor: "rgb(220, 220, 220)"
2485         linewidth: 1
2486         showgrid: True
2487         showline: True
2488         showticklabels: True
2489         tickcolor: "rgb(220, 220, 220)"
2490         tickfont:
2491           size: 14
2492         zeroline: False
2493         range: [0,10]
2494       autosize: False
2495       margin:
2496         t: 50
2497         b: 0
2498         l: 80
2499         r: 20
2500       showlegend: True
2501       legend:
2502         orientation: "h"
2503         font:
2504           size: 14
2505       width: 700
2506       height: 900
2507       paper_bgcolor: "#fff"
2508       plot_bgcolor: "#fff"
2509       hoverlabel:
2510         namelength: -1
2511
2512     plot-cps:
2513       titlefont:
2514         size: 16
2515       xaxis:
2516         title: "<b>Test Cases [Index]</b>"
2517         titlefont:
2518           size: 14
2519         autorange: True
2520         fixedrange: False
2521         gridcolor: "rgb(230, 230, 230)"
2522         linecolor: "rgb(220, 220, 220)"
2523         linewidth: 1
2524         showgrid: True
2525         showline: True
2526         showticklabels: True
2527         tickcolor: "rgb(220, 220, 220)"
2528         tickmode: "linear"
2529         tickfont:
2530           size: 14
2531         zeroline: False
2532       yaxis:
2533         title: "<b>Connection Rate [Mcps]</b>"
2534         titlefont:
2535           size: 14
2536         gridcolor: "rgb(230, 230, 230)"
2537         hoverformat: ".4r"
2538         tickformat: ".3s"
2539         linecolor: "rgb(220, 220, 220)"
2540         linewidth: 1
2541         showgrid: True
2542         showline: True
2543         showticklabels: True
2544         tickcolor: "rgb(220, 220, 220)"
2545         tickfont:
2546           size: 14
2547         zeroline: False
2548         range: [0,10]
2549       autosize: False
2550       margin:
2551         t: 50
2552         b: 0
2553         l: 80
2554         r: 20
2555       showlegend: True
2556       legend:
2557         orientation: "h"
2558         font:
2559           size: 14
2560       width: 700
2561       height: 900
2562       paper_bgcolor: "#fff"
2563       plot_bgcolor: "#fff"
2564       hoverlabel:
2565         namelength: -1
2566
2567     plot-throughput-speedup-analysis:
2568       titlefont:
2569         size: 16
2570       xaxis:
2571         title: "<b>Number of Cores [Qty]</b>"
2572         titlefont:
2573           size: 14
2574         autorange: True
2575         fixedrange: False
2576         gridcolor: "rgb(230, 230, 230)"
2577         linecolor: "rgb(220, 220, 220)"
2578         linewidth: 1
2579         showgrid: True
2580         showline: True
2581         showticklabels: True
2582         tickcolor: "rgb(238, 238, 238)"
2583         tickmode: "linear"
2584         tickfont:
2585           size: 14
2586         zeroline: False
2587       yaxis:
2588         title: "<b>Packet Throughput [Mpps]</b>"
2589         titlefont:
2590           size: 14
2591         type: "linear"
2592         gridcolor: "rgb(230, 230, 230)"
2593         hoverformat: ".4s"
2594         linecolor: "rgb(220, 220, 220)"
2595         linewidth: 1
2596         showgrid: True
2597         showline: True
2598         showticklabels: True
2599         tickcolor: "rgb(220, 220, 220)"
2600         tickformat: ".4s"
2601         tickfont:
2602           size: 14
2603         zeroline: True
2604         rangemode: "tozero"
2605         range: [0,100]
2606       legend:
2607         orientation: "h"
2608         font:
2609           size: 14
2610         xanchor: "left"
2611         yanchor: "top"
2612         x: 0
2613         y: -0.2
2614         bgcolor: "rgba(255, 255, 255, 0)"
2615         bordercolor: "rgba(255, 255, 255, 0)"
2616         traceorder: "normal"  # "grouped" does not work: bug https://github.com/plotly/plotly.js/issues/1913
2617       autosize: False
2618       margin:
2619           't': 50
2620           'b': 150
2621           'l': 85
2622           'r': 10
2623       showlegend: True
2624       width: 700
2625       height: 700
2626       paper_bgcolor: "#fff"
2627       plot_bgcolor: "#fff"
2628       hoverlabel:
2629         namelength: -1
2630       annotations: [
2631         {
2632           text: "_ _          __          ...",
2633           align: "left",
2634           showarrow: False,
2635           xref: "paper",
2636           yref: "paper",
2637           xanchor: "left",
2638           yanchor: "top",
2639           x: 0,
2640           y: -0.14,
2641           font: {
2642             family: "Consolas, Courier New",
2643             size: 13
2644           },
2645         },
2646         {
2647           text: "    Perfect     Measured     Limit",
2648           align: "left",
2649           showarrow: False,
2650           xref: "paper",
2651           yref: "paper",
2652           xanchor: "left",
2653           yanchor: "top",
2654           x: 0,
2655           y: -0.15,
2656           font: {
2657             family: "Consolas, Courier New",
2658             size: 13
2659           },
2660         },
2661       ]
2662
2663     plot-throughput-speedup-analysis-gbps:
2664       titlefont:
2665         size: 16
2666       xaxis:
2667         title: "<b>Number of Cores [Qty]</b>"
2668         titlefont:
2669           size: 14
2670         autorange: True
2671         fixedrange: False
2672         gridcolor: "rgb(230, 230, 230)"
2673         linecolor: "rgb(220, 220, 220)"
2674         linewidth: 1
2675         showgrid: True
2676         showline: True
2677         showticklabels: True
2678         tickcolor: "rgb(238, 238, 238)"
2679         tickmode: "linear"
2680         tickfont:
2681           size: 14
2682         zeroline: False
2683       yaxis:
2684         title: "<b>Packet Throughput [Gbps]</b>"
2685         titlefont:
2686           size: 14
2687         type: "linear"
2688         gridcolor: "rgb(230, 230, 230)"
2689         hoverformat: ".4s"
2690         linecolor: "rgb(220, 220, 220)"
2691         linewidth: 1
2692         showgrid: True
2693         showline: True
2694         showticklabels: True
2695         tickcolor: "rgb(220, 220, 220)"
2696         tickformat: ".4s"
2697         tickfont:
2698           size: 14
2699         zeroline: True
2700         rangemode: "tozero"
2701         range: [0,100]
2702       legend:
2703         orientation: "h"
2704         font:
2705           size: 14
2706         xanchor: "left"
2707         yanchor: "top"
2708         x: 0
2709         y: -0.2
2710         bgcolor: "rgba(255, 255, 255, 0)"
2711         bordercolor: "rgba(255, 255, 255, 0)"
2712         traceorder: "normal"  # "grouped" does not work: bug https://github.com/plotly/plotly.js/issues/1913
2713       autosize: False
2714       margin:
2715           't': 50
2716           'b': 150
2717           'l': 85
2718           'r': 10
2719       showlegend: True
2720       width: 700
2721       height: 700
2722       paper_bgcolor: "#fff"
2723       plot_bgcolor: "#fff"
2724       hoverlabel:
2725         namelength: -1
2726       annotations: [
2727         {
2728           text: "_ _          __",
2729           align: "left",
2730           showarrow: False,
2731           xref: "paper",
2732           yref: "paper",
2733           xanchor: "left",
2734           yanchor: "top",
2735           x: 0,
2736           y: -0.13,
2737           font: {
2738             family: "Consolas, Courier New",
2739             size: 13
2740           },
2741         },
2742         {
2743           text: "    Perfect     Measured",
2744           align: "left",
2745           showarrow: False,
2746           xref: "paper",
2747           yref: "paper",
2748           xanchor: "left",
2749           yanchor: "top",
2750           x: 0,
2751           y: -0.15,
2752           font: {
2753             family: "Consolas, Courier New",
2754             size: 13
2755           },
2756         },
2757       ]
2758
2759     plot-throughput-speedup-analysis-cps:
2760       titlefont:
2761         size: 16
2762       xaxis:
2763         title: "<b>Number of Cores [Qty]</b>"
2764         titlefont:
2765           size: 14
2766         autorange: True
2767         fixedrange: False
2768         gridcolor: "rgb(230, 230, 230)"
2769         linecolor: "rgb(220, 220, 220)"
2770         linewidth: 1
2771         showgrid: True
2772         showline: True
2773         showticklabels: True
2774         tickcolor: "rgb(238, 238, 238)"
2775         tickmode: "linear"
2776         tickfont:
2777           size: 14
2778         zeroline: False
2779       yaxis:
2780         title: "<b>Connection Rate [Mcps]</b>"
2781         titlefont:
2782           size: 14
2783         type: "linear"
2784         gridcolor: "rgb(230, 230, 230)"
2785         hoverformat: ".4s"
2786         linecolor: "rgb(220, 220, 220)"
2787         linewidth: 1
2788         showgrid: True
2789         showline: True
2790         showticklabels: True
2791         tickcolor: "rgb(220, 220, 220)"
2792         tickformat: ".4s"
2793         tickfont:
2794           size: 14
2795         zeroline: True
2796         rangemode: "tozero"
2797         range: [0,100]
2798       legend:
2799         orientation: "h"
2800         font:
2801           size: 14
2802         xanchor: "left"
2803         yanchor: "top"
2804         x: 0
2805         y: -0.2
2806         bgcolor: "rgba(255, 255, 255, 0)"
2807         bordercolor: "rgba(255, 255, 255, 0)"
2808         traceorder: "normal"  # "grouped" does not work: bug https://github.com/plotly/plotly.js/issues/1913
2809       autosize: False
2810       margin:
2811           't': 50
2812           'b': 150
2813           'l': 85
2814           'r': 10
2815       showlegend: True
2816       width: 700
2817       height: 700
2818       paper_bgcolor: "#fff"
2819       plot_bgcolor: "#fff"
2820       hoverlabel:
2821         namelength: -1
2822       annotations: [
2823         {
2824           text: "_ _          __",
2825           align: "left",
2826           showarrow: False,
2827           xref: "paper",
2828           yref: "paper",
2829           xanchor: "left",
2830           yanchor: "top",
2831           x: 0,
2832           y: -0.13,
2833           font: {
2834             family: "Consolas, Courier New",
2835             size: 13
2836           },
2837         },
2838         {
2839           text: "    Perfect     Measured",
2840           align: "left",
2841           showarrow: False,
2842           xref: "paper",
2843           yref: "paper",
2844           xanchor: "left",
2845           yanchor: "top",
2846           x: 0,
2847           y: -0.15,
2848           font: {
2849             family: "Consolas, Courier New",
2850             size: 13
2851           },
2852         },
2853       ]
2854
2855     plot-latency:
2856       titlefont:
2857         size: 16
2858       xaxis:
2859         title: "<b>Direction</b>"
2860         titlefont:
2861           size: 14
2862         autorange: True
2863         fixedrange: False
2864         gridcolor: "rgb(230, 230, 230)"
2865         linecolor: "rgb(220, 220, 220)"
2866         linewidth: 1
2867         showgrid: True
2868         showline: True
2869         showticklabels: False
2870         tickcolor: "rgb(220, 220, 220)"
2871         tickmode: "linear"
2872         tickfont:
2873           size: 14
2874         zeroline: False
2875       yaxis:
2876         title: "<b>Packet Latency [uSec]</b>"
2877         titlefont:
2878           size: 14
2879         type: "linear"
2880         gridcolor: "rgb(230, 230, 230)"
2881         hoverformat: ".4s"
2882         linecolor: "rgb(220, 220, 220)"
2883         linewidth: 1
2884         showgrid: True
2885         showline: True
2886         showticklabels: True
2887         tickcolor: "rgb(220, 220, 220)"
2888         tickformat: ".4s"
2889         tickfont:
2890           size: 14
2891         zeroline: True
2892         rangemode: "tozero"
2893       legend:
2894         orientation: "h"
2895         font:
2896           size: 14
2897         traceorder: "normal"  # "grouped" does not work: bug https://github.com/plotly/plotly.js/issues/1913
2898       autosize: False
2899       margin:
2900           't': 50
2901           'b': 150
2902           'l': 80
2903           'r': 10
2904       showlegend: True
2905       width: 700
2906       height: 700
2907       paper_bgcolor: "#fff"
2908       plot_bgcolor: "#fff"
2909       hoverlabel:
2910         namelength: -1
2911
2912     plot-hdrh-latency:
2913       title:
2914         text: ""
2915         xanchor: "center"
2916         x: 0.5
2917         font:
2918           size: 16
2919       width: 700
2920       plot_bgcolor: "white"
2921       annotations:
2922         - font:
2923             size: 14
2924           showarrow: False
2925           text: "<b>Packet Latency [uSec]</b>"
2926           x: 1
2927           xanchor: "right"
2928           xref: "paper"
2929           y: -0.045
2930           yanchor: "top"
2931           yref: "paper"
2932         - font:
2933             size: 14
2934           showarrow: False
2935           text: "<b>Probability [%]</b>"
2936           textangle: 270
2937           x: -0.06
2938           xanchor: "center"
2939           xref: "paper"
2940           y: 0.5
2941           yanchor: "middle"
2942           yref: "paper"
2943         - font:
2944             size: 14
2945           showarrow: False
2946           text: "<b>Direction: E-W</b>"
2947           x: 0.24
2948           xanchor: "center"
2949           xref: "paper"
2950           y: 1.05
2951           yanchor: "bottom"
2952           yref: "paper"
2953         - font:
2954             size: 14
2955           showarrow: False
2956           text: "<b>Direction: W-E</b>"
2957           x: 0.74
2958           xanchor: "center"
2959           xref: "paper"
2960           y: 1.05
2961           yanchor: "bottom"
2962           yref: "paper"
2963
2964     plot-hdrh-latency-percentile-x-log:
2965       title:
2966         text: "<b>Latency by Percentile Distribution</b>"
2967         xanchor: "center"
2968         x: 0.5
2969         font:
2970           size: 18
2971       showlegend: True
2972       legend:
2973         traceorder: "normal"
2974         orientation: "h"
2975         font:
2976           size: 16
2977         xanchor: "left"
2978         yanchor: "top"
2979         x: 0
2980         y: -0.2
2981         bgcolor: "rgba(255, 255, 255, 0)"
2982         bordercolor: "rgba(255, 255, 255, 0)"
2983       xaxis:
2984         type: "log"
2985         title: "<b>Percentile [%]</b>"
2986         titlefont:
2987           size: 14
2988         autorange: False
2989         fixedrange: True
2990         gridcolor: "rgb(230, 230, 230)"
2991         linecolor: "rgb(220, 220, 220)"
2992         linewidth: 1
2993         showgrid: True
2994         showline: True
2995         showticklabels: True
2996         tickcolor: "rgb(220, 220, 220)"
2997         tickvals: [1, 2, 1e1, 20, 1e2, 1e3, 1e4, 1e5, 1e6]
2998         ticktext: [0, 50, 90, 95, 99, 99.9, 99.99, 99.999, 99.9999]
2999         tickfont:
3000           size: 14
3001       yaxis:
3002         title: "<b>One-Way Latency per Direction [uSec]</b>"
3003         titlefont:
3004           size: 14
3005         gridcolor: "rgb(230, 230, 230)"
3006         linecolor: "rgb(220, 220, 220)"
3007         linewidth: 1
3008         showgrid: True
3009         showline: True
3010         showticklabels: True
3011         tickcolor: "rgb(220, 220, 220)"
3012         tickfont:
3013           size: 14
3014       autosize: False
3015       width: 700
3016       height: 700
3017       paper_bgcolor: "white"
3018       plot_bgcolor: "white"
3019
3020     plot-hdrh-latency-by-percentile:
3021       title:
3022         text: "<b>Latency by Percentile Distribution</b>"
3023         xanchor: "center"
3024         x: 0.5
3025         font:
3026           size: 18
3027       showlegend: True
3028       legend:
3029         traceorder: "normal"
3030         orientation: "h"
3031         font:
3032           size: 16
3033         xanchor: "left"
3034         yanchor: "top"
3035         x: 0
3036         y: -0.2
3037         bgcolor: "rgba(255, 255, 255, 0)"
3038         bordercolor: "rgba(255, 255, 255, 0)"
3039       xaxis:
3040         type: "linear"
3041         title: "<b>Percentile [%]</b>"
3042         titlefont:
3043           size: 14
3044         autorange: False
3045         fixedrange: False
3046         range: [0, 100]
3047         gridcolor: "rgb(230, 230, 230)"
3048         linecolor: "rgb(220, 220, 220)"
3049         linewidth: 1
3050         showgrid: True
3051         showline: True
3052         showticklabels: True
3053         tickcolor: "rgb(220, 220, 220)"
3054         tickvals: [0, 25, 50, 75, 100]
3055         ticktext: [0, 25, 50, 75, 100]
3056         tickfont:
3057           size: 14
3058       yaxis:
3059         title: "<b>One-Way Latency per Direction [uSec]</b>"
3060         titlefont:
3061           size: 14
3062         gridcolor: "rgb(230, 230, 230)"
3063         linecolor: "rgb(220, 220, 220)"
3064         linewidth: 1
3065         showgrid: True
3066         showline: True
3067         showticklabels: True
3068         tickcolor: "rgb(220, 220, 220)"
3069         tickfont:
3070           size: 14
3071       width: 700
3072       height: 700
3073       paper_bgcolor: "white"
3074       plot_bgcolor: "white"
3075
3076 - type: "static"
3077   src-path: "{DIR[RST]}"
3078   dst-path: "{DIR[WORKING,SRC]}"
3079
3080 - type: "input"
3081   general:
3082     file-name: "output_info.xml.gz"
3083     file-format: ".gz"
3084     arch-file-format:
3085       - ".gz"
3086       - ".zip"
3087     download-path: "{job}/{build}/archives/{filename}"
3088     extract: "output.xml"
3089
3090     zip-file-name: "robot-plugin.zip"
3091     zip-file-format: ".zip"
3092     zip-download-path: "{job}/{build}/robot/report/*zip*/{filename}"
3093     zip-extract: "robot-plugin/output.xml"
3094
3095   builds:
3096
3097     csit-vpp-perf-report-iterative-2009-3n-hsw:
3098       - 18  # rls2005 MRR iter env 5
3099       - 9   # rls2005 NDRPDR iter env 5
3100       - 10  # rls2005 NDRPDR iter env 5
3101       - 11  # rls2005 NDRPDR iter env 5
3102       - 12  # rls2005 NDRPDR iter env 5
3103       - 13  # rls2005 NDRPDR iter env 5
3104       - 14  # rls2005 NDRPDR iter env 5
3105       - 15  # rls2005 NDRPDR iter env 5
3106       - 16  # rls2005 NDRPDR iter env 5
3107       - 17  # rls2005 NDRPDR iter env 5
3108       - 19  # rls2005 NDRPDR iter env 5
3109       - 23  # rls2009 MRR iter env 5
3110       - 21  # rls2009 NDRPDR iter env 5
3111       - 22  # rls2009 NDRPDR iter env 5
3112       - 24  # rls2009 NDRPDR iter env 5
3113       - 25  # rls2009 NDRPDR iter env 5
3114       - 26  # rls2009 NDRPDR iter env 5
3115       - 27  # rls2009 NDRPDR iter env 5
3116       - 28  # rls2009 NDRPDR iter env 5
3117       - 29  # rls2009 NDRPDR iter env 5
3118       - 30  # rls2009 NDRPDR iter env 5
3119       - 31  # rls2009 NDRPDR iter env 5
3120     csit-vpp-perf-report-iterative-2101-3n-hsw:
3121       - 17  # rls2009 MRR iter env 6
3122       - 19  # rls2009 NDRPDR iter env 6
3123       - 20  # rls2009 NDRPDR iter env 6
3124       - 21  # rls2009 NDRPDR iter env 6
3125       - 22  # rls2009 NDRPDR iter env 6