8a17a6ab7bb36af60068dd06cfa58415ef1c9a92
[csit.git] / resources / libraries / robot / performance / performance_setup.robot
1 # Copyright (c) 2018 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Library | resources.libraries.python.DUTSetup
16 | Library | resources.tools.wrk.wrk
17 | Resource | resources/libraries/robot/performance/performance_configuration.robot
18 | Resource | resources/libraries/robot/performance/performance_utils.robot
19 | Documentation | Performance suite keywords - Suite and test setups and
20 | ... | teardowns.
21
22 *** Keywords ***
23
24 # Keywords used in setups and teardowns
25
26 | Set variables in 2-node circular topology
27 | | [Documentation]
28 | | ... | Compute path for testing on two given nodes in circular
29 | | ... | topology and set corresponding suite variables.
30 | | ...
31 | | ... | _NOTE:_ This KW sets following suite variables:
32 | | ... | - tg - TG node
33 | | ... | - tg_if1 - 1st TG interface towards DUT.
34 | | ... | - tg_if2 - 2nd TG interface towards DUT.
35 | | ... | - dut1 - DUT1 node
36 | | ... | - dut1_if1 - 1st DUT interface towards TG.
37 | | ... | - dut1_if2 - 2nd DUT interface towards TG.
38 | | ...
39 | | Append Nodes | ${nodes['TG']} | ${nodes['DUT1']} | ${nodes['TG']}
40 | | Compute Path | always_same_link=${FALSE}
41 | | ${tg_if1} | ${tg}= | First Interface
42 | | ${dut1_if1} | ${dut1}= | First Ingress Interface
43 | | ${dut1_if2} | ${dut1}= | Last Egress Interface
44 | | ${tg_if2} | ${tg}= | Last Interface
45 | | Set Suite Variable | ${tg}
46 | | Set Suite Variable | ${tg_if1}
47 | | Set Suite Variable | ${tg_if2}
48 | | Set Suite Variable | ${dut1}
49 | | Set Suite Variable | ${dut1_if1}
50 | | Set Suite Variable | ${dut1_if2}
51
52 | Set variables in 3-node circular topology
53 | | [Documentation]
54 | | ... | Compute path for testing on three given nodes in circular
55 | | ... | topology and set corresponding suite variables.
56 | | ...
57 | | ... | _NOTE:_ This KW sets following suite variables:
58 | | ... | - tg - TG node
59 | | ... | - tg_if1 - TG interface towards DUT1.
60 | | ... | - tg_if2 - TG interface towards DUT2.
61 | | ... | - dut1 - DUT1 node
62 | | ... | - dut1_if1 - DUT1 interface towards TG.
63 | | ... | - dut1_if2 - DUT1 interface towards DUT2.
64 | | ... | - dut2 - DUT2 node
65 | | ... | - dut2_if1 - DUT2 interface towards DUT1.
66 | | ... | - dut2_if2 - DUT2 interface towards TG.
67 | | ...
68 | | Append Nodes | ${nodes['TG']} | ${nodes['DUT1']} | ${nodes['DUT2']}
69 | | ... | ${nodes['TG']}
70 | | Compute Path
71 | | ${tg_if1} | ${tg}= | Next Interface
72 | | ${dut1_if1} | ${dut1}= | Next Interface
73 | | ${dut1_if2} | ${dut1}= | Next Interface
74 | | ${dut2_if1} | ${dut2}= | Next Interface
75 | | ${dut2_if2} | ${dut2}= | Next Interface
76 | | ${tg_if2} | ${tg}= | Next Interface
77 | | Set Suite Variable | ${tg}
78 | | Set Suite Variable | ${tg_if1}
79 | | Set Suite Variable | ${tg_if2}
80 | | Set Suite Variable | ${dut1}
81 | | Set Suite Variable | ${dut1_if1}
82 | | Set Suite Variable | ${dut1_if2}
83 | | Set Suite Variable | ${dut2}
84 | | Set Suite Variable | ${dut2_if1}
85 | | Set Suite Variable | ${dut2_if2}
86
87 | Set variables in 2-node circular topology with DUT interface model
88 | | [Documentation]
89 | | ... | Compute path for testing on two given nodes in circular topology
90 | | ... | based on interface model provided as an argument and set
91 | | ... | corresponding suite variables.
92 | | ...
93 | | ... | *Arguments:*
94 | | ... | - iface_model - Interface model. Type: string
95 | | ...
96 | | ... | _NOTE:_ This KW sets following suite variables:
97 | | ... | - tg - TG node
98 | | ... | - tg_if1 - 1st TG interface towards DUT.
99 | | ... | - tg_if2 - 2nd TG interface towards DUT.
100 | | ... | - dut1 - DUT1 node
101 | | ... | - dut1_if1 - 1st DUT interface towards TG.
102 | | ... | - dut1_if2 - 2nd DUT interface towards TG.
103 | | ...
104 | | ... | *Example:*
105 | | ...
106 | | ... | \| Set variables in 2-node circular topology with DUT interface model\
107 | | ... | \| Intel-X520-DA2 \|
108 | | ...
109 | | [Arguments] | ${iface_model}
110 | | ...
111 | | ${iface_model_list}= | Create list | ${iface_model}
112 | | Append Node | ${nodes['TG']}
113 | | Append Node | ${nodes['DUT1']} | filter_list=${iface_model_list}
114 | | Append Node | ${nodes['TG']}
115 | | Compute Path | always_same_link=${FALSE}
116 | | ${tg_if1} | ${tg}= | First Interface
117 | | ${dut1_if1} | ${dut1}= | First Ingress Interface
118 | | ${dut1_if2} | ${dut1}= | Last Egress Interface
119 | | ${tg_if2} | ${tg}= | Last Interface
120 | | Set Suite Variable | ${tg}
121 | | Set Suite Variable | ${tg_if1}
122 | | Set Suite Variable | ${tg_if2}
123 | | Set Suite Variable | ${dut1}
124 | | Set Suite Variable | ${dut1_if1}
125 | | Set Suite Variable | ${dut1_if2}
126
127 | Set variables in 3-node circular topology with DUT interface model
128 | | [Documentation]
129 | | ... | Compute path for testing on three given nodes in circular topology
130 | | ... | based on interface model provided as an argument and set
131 | | ... | corresponding suite variables.
132 | | ...
133 | | ... | *Arguments:*
134 | | ... | - iface_model - Interface model. Type: string
135 | | ...
136 | | ... | _NOTE:_ This KW sets following suite variables:
137 | | ... | - tg - TG node
138 | | ... | - tg_if1 - TG interface towards DUT1.
139 | | ... | - tg_if2 - TG interface towards DUT2.
140 | | ... | - dut1 - DUT1 node
141 | | ... | - dut1_if1 - DUT1 interface towards TG.
142 | | ... | - dut1_if2 - DUT1 interface towards DUT2.
143 | | ... | - dut2 - DUT2 node
144 | | ... | - dut2_if1 - DUT2 interface towards TG.
145 | | ... | - dut2_if2 - DUT2 interface towards DUT1.
146 | | ...
147 | | ... | *Example:*
148 | | ...
149 | | ... | \| Set variables in 3-node circular topology with DUT interface model\
150 | | ... | \| Intel-X520-DA2 \|
151 | | ...
152 | | [Arguments] | ${iface_model}
153 | | ...
154 | | ${iface_model_list}= | Create list | ${iface_model}
155 | | Append Node | ${nodes['TG']}
156 | | Append Node | ${nodes['DUT1']} | filter_list=${iface_model_list}
157 | | Append Node | ${nodes['DUT2']} | filter_list=${iface_model_list}
158 | | Append Node | ${nodes['TG']}
159 | | Compute Path
160 | | ${tg_if1} | ${tg}= | Next Interface
161 | | ${dut1_if1} | ${dut1}= | Next Interface
162 | | ${dut1_if2} | ${dut1}= | Next Interface
163 | | ${dut2_if1} | ${dut2}= | Next Interface
164 | | ${dut2_if2} | ${dut2}= | Next Interface
165 | | ${tg_if2} | ${tg}= | Next Interface
166 | | Set Suite Variable | ${tg}
167 | | Set Suite Variable | ${tg_if1}
168 | | Set Suite Variable | ${tg_if2}
169 | | Set Suite Variable | ${dut1}
170 | | Set Suite Variable | ${dut1_if1}
171 | | Set Suite Variable | ${dut1_if2}
172 | | Set Suite Variable | ${dut2}
173 | | Set Suite Variable | ${dut2_if1}
174 | | Set Suite Variable | ${dut2_if2}
175
176 | Tear down guest VM with dpdk-testpmd
177 | | [Documentation]
178 | | ... | Stop all qemu processes with dpdk-testpmd running on ${dut_node}.
179 | | ... | Argument is dictionary of all qemu nodes running with its names.
180 | | ... | Dpdk-testpmd is stopped gracefully with printing stats.
181 | | ...
182 | | ... | *Arguments:*
183 | | ... | - dut_node - Node where to clean qemu. Type: dictionary
184 | | ... | - dut_vm_refs - VM references on node. Type: dictionary
185 | | ...
186 | | ... | *Example:*
187 | | ...
188 | | ... | \| Tear down guest VM with dpdk-testpmd \| ${node['DUT1']} \
189 | | ... | \| ${dut_vm_refs} \|
190 | | ...
191 | | [Arguments] | ${dut_node} | ${dut_vm_refs}
192 | | ${vms_number}= | Get Length | ${dut_vm_refs}
193 | | ${index}= | Set Variable | ${0}
194 | | :FOR | ${vm_name} | IN | @{dut_vm_refs}
195 | | | ${vm}= | Get From Dictionary | ${dut_vm_refs} | ${vm_name}
196 | | | ${index}= | Evaluate | ${index} + 1
197 | | | Dpdk Testpmd Stop | ${vm}
198 | | | Run Keyword | ${vm_name}.Qemu Set Node | ${dut_node}
199 | | | Run Keyword | ${vm_name}.Qemu Clear Socks
200 | | | Run Keyword If | '${index}' == '${vms_number}' | ${vm_name}.Qemu Kill All
201
202 | Tear down guest VM
203 | | [Documentation]
204 | | ... | Stop all qemu processes running on ${dut_node}.
205 | | ... | Argument is dictionary of all qemu nodes running with its names.
206 | | ...
207 | | ... | *Arguments:*
208 | | ... | - dut_node - Node where to clean qemu. Type: dictionary
209 | | ... | - dut_vm_refs - VM references on node. Type: dictionary
210 | | ...
211 | | ... | *Example:*
212 | | ...
213 | | ... | \| Tear down guest VM \| ${node['DUT1']} \
214 | | ... | \| ${dut_vm_refs} \|
215 | | ...
216 | | [Arguments] | ${dut_node} | ${dut_vm_refs}
217 | | ${vms_number}= | Get Length | ${dut_vm_refs}
218 | | ${index}= | Set Variable | ${0}
219 | | :FOR | ${vm_name} | IN | @{dut_vm_refs}
220 | | | ${vm}= | Get From Dictionary | ${dut_vm_refs} | ${vm_name}
221 | | | ${index}= | Evaluate | ${index} + 1
222 | | | Run Keyword | ${vm_name}.Qemu Set Node | ${dut_node}
223 | | | Run Keyword | ${vm_name}.Qemu Clear Socks
224 | | | Run Keyword If | '${index}' == '${vms_number}' | ${vm_name}.Qemu Kill All
225
226 # Suite setups
227
228 | Set up 2-node performance topology with DUT's NIC model
229 | | [Documentation]
230 | | ... | Suite preparation phase that setup default startup configuration of
231 | | ... | VPP on all DUTs. Updates interfaces on all nodes and setup global
232 | | ... | variables used in test cases based on interface model provided as an
233 | | ... | argument. Initializes traffic generator.
234 | | ...
235 | | ... | *Arguments:*
236 | | ... | - topology_type - Topology type. Type: string
237 | | ... | - nic_model - Interface model. Type: string
238 | | ...
239 | | ... | *Example:*
240 | | ...
241 | | ... | \| 2-node Performance Suite Setup \| L2 \| Intel-X520-DA2 \|
242 | | ...
243 | | [Arguments] | ${topology_type} | ${nic_model}
244 | | ...
245 | | Set variables in 2-node circular topology with DUT interface model
246 | | ... | ${nic_model}
247 | | Initialize traffic generator | ${tg} | ${tg_if1} | ${tg_if2}
248 | | ... | ${dut1} | ${dut1_if1} | ${dut1} | ${dut1_if2} | ${topology_type}
249
250 | Set up 2-node-switched performance topology with DUT's NIC model
251 | | [Documentation]
252 | | ... | Suite preparation phase that setup default startup configuration of
253 | | ... | VPP on all DUTs. Updates interfaces on all nodes and setup global
254 | | ... | variables used in test cases based on interface model provided as an
255 | | ... | argument. Initializes traffic generator.
256 | | ...
257 | | ... | *Arguments:*
258 | | ... | - topology_type - Topology type. Type: string
259 | | ... | - nic_model - Interface model. Type: string
260 | | ... | - tg_if1_dest_mac - Interface 1 destination MAC address. Type: string
261 | | ... | - tg_if2_dest_mac - Interface 2 destination MAC address. Type: string
262 | | ...
263 | | ... | *Example:*
264 | | ...
265 | | ... | \| 2-node Performance Suite Setup \| L2 \| Intel-X520-DA2 \
266 | | ... | \| 22:22:33:44:55:66 \| 22:22:33:44:55:55 \|
267 | | ...
268 | | [Arguments] | ${topology_type} | ${nic_model} | ${tg_if1_dest_mac}
269 | | ... | ${tg_if2_dest_mac}
270 | | ...
271 | | Set variables in 2-node circular topology with DUT interface model
272 | | ... | ${nic_model}
273 | | Initialize traffic generator | ${tg} | ${tg_if1} | ${tg_if2}
274 | | ... | ${dut1} | ${dut1_if1} | ${dut1} | ${dut1_if2} | ${topology_type}
275 | | ... | ${tg_if1_dest_mac} | ${tg_if2_dest_mac}
276
277 | Set up 3-node performance topology with DUT's NIC model
278 | | [Documentation]
279 | | ... | Suite preparation phase that setup default startup configuration of
280 | | ... | VPP on all DUTs. Updates interfaces on all nodes and setup global
281 | | ... | variables used in test cases based on interface model provided as an
282 | | ... | argument. Initializes traffic generator.
283 | | ...
284 | | ... | *Arguments:*
285 | | ... | - topology_type - Topology type. Type: string
286 | | ... | - nic_model - Interface model. Type: string
287 | | ...
288 | | ... | *Example:*
289 | | ...
290 | | ... | \| Set up 3-node performance topology with DUT's NIC model \| L2 \
291 | | ... | \| Intel-X520-DA2 \|
292 | | ...
293 | | [Arguments] | ${topology_type} | ${nic_model}
294 | | ...
295 | | Set variables in 3-node circular topology with DUT interface model
296 | | ... | ${nic_model}
297 | | Initialize traffic generator | ${tg} | ${tg_if1} | ${tg_if2}
298 | | ... | ${dut1} | ${dut1_if1} | ${dut2} | ${dut2_if2} | ${topology_type}
299
300 | Set up DPDK 2-node performance topology with DUT's NIC model
301 | | [Documentation]
302 | | ... | Updates interfaces on all nodes and setup global
303 | | ... | variables used in test cases based on interface model provided as an
304 | | ... | argument. Initializes traffic generator. Initializes DPDK test
305 | | ... | environment.
306 | | ...
307 | | ... | *Arguments:*
308 | | ... | - topology_type - Topology type. Type: string
309 | | ... | - nic_model - Interface model. Type: string
310 | | ...
311 | | ... | *Example:*
312 | | ...
313 | | ... | \| Set up DPDK 2-node performance topology with DUT's NIC model \
314 | | ... | \| L2 \| Intel-X520-DA2 \|
315 | | ...
316 | | [Arguments] | ${topology_type} | ${nic_model}
317 | | ...
318 | | Set variables in 2-node circular topology with DUT interface model
319 | | ... | ${nic_model}
320 | | Initialize traffic generator | ${tg} | ${tg_if1} | ${tg_if2}
321 | | ... | ${dut1} | ${dut1_if1} | ${dut1} | ${dut1_if2} | ${topology_type}
322 | | Initialize DPDK Environment | ${dut1} | ${dut1_if1} | ${dut1_if2}
323
324 | Set up DPDK 3-node performance topology with DUT's NIC model
325 | | [Documentation]
326 | | ... | Updates interfaces on all nodes and setup global
327 | | ... | variables used in test cases based on interface model provided as an
328 | | ... | argument. Initializes traffic generator. Initializes DPDK test
329 | | ... | environment.
330 | | ...
331 | | ... | *Arguments:*
332 | | ... | - topology_type - Topology type. Type: string
333 | | ... | - nic_model - Interface model. Type: string
334 | | ...
335 | | ... | *Example:*
336 | | ...
337 | | ... | \| 3-node Performance Suite Setup \| L2 \| Intel-X520-DA2 \|
338 | | ...
339 | | [Arguments] | ${topology_type} | ${nic_model}
340 | | ...
341 | | Set variables in 3-node circular topology with DUT interface model
342 | | ... | ${nic_model}
343 | | Initialize traffic generator | ${tg} | ${tg_if1} | ${tg_if2}
344 | | ... | ${dut1} | ${dut1_if1} | ${dut2} | ${dut2_if2} | ${topology_type}
345 | | Initialize DPDK Environment | ${dut1} | ${dut1_if1} | ${dut1_if2}
346 | | Initialize DPDK Environment | ${dut2} | ${dut2_if1} | ${dut2_if2}
347
348 | Set up IPSec performance test suite
349 | | [Documentation]
350 | | ... | Suite preparation phase that sets default startup configuration of
351 | | ... | VPP on all DUTs. Updates interfaces on all nodes and sets global
352 | | ... | variables used in test cases based on interface model provided as an
353 | | ... | argument. Initializes traffic generator.
354 | | ... | Then it configures crypto device and kernel module on all DUTs.
355 | | ...
356 | | ... | *Arguments:*
357 | | ... | - topology_type - Topology type. Type: string
358 | | ... | - nic_model - Interface model. Type: string
359 | | ... | - crypto_type - Crypto device type - HW_cryptodev or SW_cryptodev
360 | | ... | (Optional). Type: string, default value: HW_cryptodev
361 | | ...
362 | | ... | *Example:*
363 | | ...
364 | | ... | \| Set up IPSec performance test suite \| L2 \
365 | | ... | \| Intel-X520-DA2 \|
366 | | ...
367 | | [Arguments] | ${topology_type} | ${nic_model} | ${crypto_type}=HW_cryptodev
368 | | ...
369 | | Set up 3-node performance topology with DUT's NIC model
370 | | ... | ${topology_type} | ${nic_model}
371 | | ${numvfs}= | Set Variable If
372 | | ... | '${crypto_type}' == 'HW_cryptodev' | ${32}
373 | | ... | '${crypto_type}' == 'SW_cryptodev' | ${0}
374 | | Configure crypto device on all DUTs | force_init=${True} | numvfs=${numvfs}
375 | | Run Keyword If | '${crypto_type}' == 'HW_cryptodev'
376 | | ... | Configure kernel module on all DUTs | igb_uio | force_load=${True}
377
378 | Set up performance topology with containers
379 | | [Documentation]
380 | | ... | Suite preparation phase that starts containers
381 | | ...
382 | | Set Suite Variable | @{container_groups} | @{EMPTY}
383 | | Construct VNF containers on all DUTs
384 | | Acquire all 'VNF' containers
385 | | Create all 'VNF' containers
386 | | Configure VPP in all 'VNF' containers
387 | | Install VPP in all 'VNF' containers
388
389 | Set up performance test suite with MEMIF
390 | | [Documentation]
391 | | ... | Append memif_plugin.so to the list of enabled plugins.
392 | | ...
393 | | Set Suite Variable | @{plugins_to_enable}
394 | | Append To List | ${plugins_to_enable} | memif_plugin.so
395
396 | Set up performance test suite with NAT
397 | | [Documentation]
398 | | ... | Append nat_plugin.so to the list of enabled plugins.
399 | | ...
400 | | Set Suite Variable | @{plugins_to_enable}
401 | | Append To List | ${plugins_to_enable} | nat_plugin.so
402
403 | Set up performance test suite with ACL
404 | | [Documentation]
405 | | ... | Append acl_plugin.so to the list of enabled plugins.
406 | | ...
407 | | Set Suite Variable | @{plugins_to_enable}
408 | | Append To List | ${plugins_to_enable} | acl_plugin.so
409
410 | Set up performance test suite with Static SRv6 proxy
411 | | [Documentation]
412 | | ... | Append srv6as_plugin.so to the list of enabled plugins.
413 | | ...
414 | | Set Suite Variable | @{plugins_to_enable}
415 | | Append To List | ${plugins_to_enable} | srv6as_plugin.so
416
417 | Set up performance test suite with Dynamic SRv6 proxy
418 | | [Documentation]
419 | | ... | Append srv6ad_plugin.so to the list of enabled plugins.
420 | | ...
421 | | Set Suite Variable | @{plugins_to_enable}
422 | | Append To List | ${plugins_to_enable} | srv6ad_plugin.so
423
424 | Set up performance test suite with Masquerading SRv6 proxy
425 | | [Documentation]
426 | | ... | Append srv6am_plugin.so to the list of enabled plugins.
427 | | ...
428 | | Set Suite Variable | @{plugins_to_enable}
429 | | Append To List | ${plugins_to_enable} | srv6am_plugin.so
430
431 | Set up 3-node performance topology with wrk and DUT's NIC model
432 | | [Documentation]
433 | | ... | Suite preparation phase that setup default startup configuration of
434 | | ... | VPP on all DUTs. Updates interfaces on all nodes and setup global
435 | | ... | variables used in test cases based on interface model provided as an
436 | | ... | argument. Installs the traffic generator.
437 | | ...
438 | | ... | *Arguments:*
439 | | ... | - iface_model - Interface model. Type: string
440 | | ...
441 | | ... | *Example:*
442 | | ...
443 | | ... | \| Set up 3-node performance topology with wrk and DUT's NIC model\
444 | | ... | \| Intel-X520-DA2 \|
445 | | ...
446 | | [Arguments] | ${iface_model}
447 | | ...
448 | | Set variables in 3-node circular topology with DUT interface model
449 | | ... | ${iface_model}
450 | | Iface update numa node | ${tg}
451 # Make sure TRex is stopped
452 | | ${running}= | Is TRex running | ${tg}
453 | | Run keyword if | ${running}==${True} | Teardown traffic generator | ${tg}
454 | | ${curr_driver}= | Get PCI dev driver | ${tg}
455 | | ... | ${tg['interfaces']['${tg_if1}']['pci_address']}
456 | | Run keyword if | '${curr_driver}'!='${None}'
457 | | ... | PCI Driver Unbind | ${tg} |
458 | | ... | ${tg['interfaces']['${tg_if1}']['pci_address']}
459 # Bind tg_if1 to driver specified in the topology
460 | | ${driver}= | Get Variable Value | ${tg['interfaces']['${tg_if1}']['driver']}
461 | | PCI Driver Bind | ${tg}
462 | | ... | ${tg['interfaces']['${tg_if1}']['pci_address']} | ${driver}
463 # Set IP on tg_if1
464 | | ${intf_name}= | Get Linux interface name | ${tg}
465 | | ... | ${tg['interfaces']['${tg_if1}']['pci_address']}
466 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.10.1 | 24
467 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.20.1 | 24
468 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.30.1 | 24
469 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.40.1 | 24
470 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.50.1 | 24
471 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.60.1 | 24
472 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.70.1 | 24
473 | | Set Linux interface IP | ${tg} | ${intf_name} | 192.168.80.1 | 24
474 | | Set Linux interface up | ${tg} | ${intf_name}
475 | | Install wrk | ${tg}
476
477 # Suite teardowns
478
479 | Tear down 3-node performance topology
480 | | [Documentation]
481 | | ... | Suite teardown phase with traffic generator teardown.
482 | | ...
483 | | Teardown traffic generator | ${tg}
484
485 | Tear down 3-node performance topology with container
486 | | [Documentation]
487 | | ... | Suite teardown phase with traffic generator teardown and container
488 | | ... | destroy.
489 | | ...
490 | | Teardown traffic generator | ${tg}
491 | | :FOR | ${group} | IN | @{container_groups}
492 | | | Destroy all '${group}' containers
493
494 | Tear down 2-node performance topology
495 | | [Documentation]
496 | | ... | Suite teardown phase with traffic generator teardown.
497 | | ...
498 | | Teardown traffic generator | ${tg}
499
500 | Tear down 2-node performance topology with container
501 | | [Documentation]
502 | | ... | Suite teardown phase with traffic generator teardown and container
503 | | ... | destroy.
504 | | ...
505 | | Teardown traffic generator | ${tg}
506 | | :FOR | ${group} | IN | @{container_groups}
507 | | | Destroy all '${group}' containers
508
509 # Tests setups
510
511 | Set up performance test
512 | | [Documentation] | Common test setup for performance tests.
513 | | ...
514 | | Reset VAT History On All DUTs | ${nodes}
515 | | Create base startup configuration of VPP on all DUTs
516
517 | Set up performance test with Ligato Kubernetes
518 | | [Documentation] | Common test setup for performance tests with Ligato \
519 | | ... | Kubernetes.
520 | | ...
521 | | Apply Kubernetes resource on all duts | ${nodes} | namespaces/csit.yaml
522 | | Apply Kubernetes resource on all duts | ${nodes} | pods/kafka.yaml
523 | | Apply Kubernetes resource on all duts | ${nodes} | pods/etcdv3.yaml
524 | | Apply Kubernetes resource on all duts | ${nodes}
525 | | ... | configmaps/vswitch-agent-cfg.yaml
526 | | Apply Kubernetes resource on all duts | ${nodes}
527 | | ... | configmaps/vnf-agent-cfg.yaml
528 | | Apply Kubernetes resource on all duts | ${nodes}
529 | | ... | pods/contiv-sfc-controller.yaml
530 | | Apply Kubernetes resource on all duts | ${nodes}
531 | | ... | pods/contiv-vswitch.yaml
532
533 # Tests teardowns
534
535 | Tear down performance discovery test
536 | | [Documentation] | Common test teardown for ndrdisc and pdrdisc performance \
537 | | ... | tests.
538 | | ...
539 | | ... | *Arguments:*
540 | | ... | - rate - Rate for sending packets. Type: string
541 | | ... | - framesize - L2 Frame Size [B]. Type: integer
542 | | ... | - topology_type - Topology type. Type: string
543 | | ...
544 | | ... | *Example:*
545 | | ...
546 | | ... | \| Tear down performance discovery test \| 4.0mpps \| 64 \
547 | | ... | \| 3-node-IPv4 \|
548 | | ...
549 | | [Arguments] | ${rate} | ${framesize} | ${topology_type}
550 | | ...
551 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
552 | | Show VAT History On All DUTs | ${nodes}
553 | | Run Keyword If Test Failed
554 | | ... | Set Test Variable | ${pkt_trace} | ${True}
555 | | Run Keyword If Test Failed
556 | | ... | Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
557 | | ... | ${framesize} | ${topology_type} | fail_on_loss=${False}
558
559 | Tear down performance ndrchk test
560 | | [Documentation] | Common test teardown for ndrchk performance tests.
561 | | ...
562 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
563 | | Show VAT History On All DUTs | ${nodes}
564
565 | Tear down performance pdrchk test
566 | | [Documentation] | Common test teardown for pdrchk performance tests.
567 | | ...
568 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
569 | | Show VAT History On All DUTs | ${nodes}
570
571 | Tear down performance mrr test
572 | | [Documentation] | Common test teardown for max-received-rate performance
573 | | ... | tests.
574 | | ...
575 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
576 | | Show VAT History On All DUTs | ${nodes}
577
578 | Tear down performance test with wrk
579 | | [Documentation] | Common test teardown for ndrdisc and pdrdisc performance \
580 | | ... | tests.
581 | | ...
582 | | ... | *Example:*
583 | | ...
584 | | ... | \| Tear down performance test with wrk \|
585 | | ...
586 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
587 | | Show VAT History On All DUTs | ${nodes}
588 | | Show statistics on all DUTs | ${nodes}
589
590 | Tear down performance test with vhost and VM with dpdk-testpmd
591 | | [Documentation] | Common test teardown for performance tests which use
592 | | ... | vhost(s) and VM(s) with dpdk-testpmd.
593 | | ...
594 | | ... | *Arguments:*
595 | | ... | - rate - Rate for sending packets. Type: string
596 | | ... | - framesize - L2 Frame Size [B]. Type: integer
597 | | ... | - topology_type - Topology type. Type: string
598 | | ... | - dut1_node - Node where to clean qemu. Type: dictionary
599 | | ... | - dut1_vm_refs - VM references on node. Type: dictionary
600 | | ... | - dut2_node - Node where to clean qemu. Type: dictionary
601 | | ... | - dut2_vm_refs - VM references on node. Type: dictionary
602 | | ...
603 | | ... | *Example:*
604 | | ...
605 | | ... | \| Tear down performance test with vhost and VM with dpdk-testpmd \
606 | | ... | \| 4.0mpps \| 64 \| 3-node-IPv4 \| ${node['DUT1']} \| ${dut_vm_refs} \
607 | | ... | \| ${node['DUT2']} \| ${dut_vm_refs} \|
608 | | ...
609 | | [Arguments] | ${rate} | ${framesize} | ${topology_type}
610 | | ... | ${dut1_node}=${None} | ${dut1_vm_refs}=${None}
611 | | ... | ${dut2_node}=${None} | ${dut2_vm_refs}=${None}
612 | | ...
613 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
614 | | Show VAT History On All DUTs | ${nodes}
615 | | Show VPP vhost on all DUTs | ${nodes}
616 | | Show statistics on all DUTs | ${nodes}
617 | | Run Keyword If Test Failed
618 | | ... | Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
619 | | ... | ${framesize} | ${topology_type} | fail_on_loss=${False}
620 | | Run keyword unless | ${dut1_node}==${None}
621 | | ... | Tear down guest VM with dpdk-testpmd | ${dut1} | ${dut1_vm_refs}
622 | | Run keyword unless | ${dut2_node}==${None}
623 | | ... | Tear down guest VM with dpdk-testpmd | ${dut2} | ${dut2_vm_refs}
624
625 | Tear down performance pdrchk test with vhost and VM with dpdk-testpmd
626 | | [Documentation] | Common test teardown for performance pdrchk tests which \
627 | | ... | use vhost(s) and VM(s) with dpdk-testpmd.
628 | | ...
629 | | ... | *Arguments:*
630 | | ... | - rate - Rate for sending packets. Type: string
631 | | ... | - framesize - L2 Frame Size [B]. Type: integer
632 | | ... | - topology_type - Topology type. Type: string
633 | | ... | - dut1_node - Node where to clean qemu. Type: dictionary
634 | | ... | - dut1_vm_refs - VM references on node. Type: dictionary
635 | | ... | - dut2_node - Node where to clean qemu. Type: dictionary
636 | | ... | - dut2_vm_refs - VM references on node. Type: dictionary
637 | | ...
638 | | ... | *Example:*
639 | | ...
640 | | ... | \| Tear down performance pdrchk test with vhost and VM with \
641 | | ... | dpdk-testpmd \| 4.0mpps \| 64 \| 3-node-IPv4 \| ${node['DUT1']} \
642 | | ... | \| ${dut_vm_refs} \| ${node['DUT2']} \| ${dut_vm_refs} \|
643 | | ...
644 | | [Arguments] | ${rate} | ${framesize} | ${topology_type}
645 | | ... | ${dut1_node}=${None} | ${dut1_vm_refs}=${None}
646 | | ... | ${dut2_node}=${None} | ${dut2_vm_refs}=${None}
647 | | ...
648 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
649 | | Show VAT History On All DUTs | ${nodes}
650 | | Show VPP vhost on all DUTs | ${nodes}
651 | | Show statistics on all DUTs | ${nodes}
652 | | Run keyword unless | ${dut1_node}==${None}
653 | | ... | Tear down guest VM with dpdk-testpmd | ${dut1} | ${dut1_vm_refs}
654 | | Run keyword unless | ${dut2_node}==${None}
655 | | ... | Tear down guest VM with dpdk-testpmd | ${dut2} | ${dut2_vm_refs}
656
657 | Tear down performance mrr test with vhost and VM with dpdk-testpmd
658 | | [Documentation] | Common test teardown for performance mrr tests which \
659 | | ... | use vhost(s) and VM(s) with dpdk-testpmd.
660 | | ...
661 | | ... | *Arguments:*
662 | | ... | - dut1_node - Node where to clean qemu. Type: dictionary
663 | | ... | - dut1_vm_refs - VM references on node. Type: dictionary
664 | | ... | - dut2_node - Node where to clean qemu. Type: dictionary
665 | | ... | - dut2_vm_refs - VM references on node. Type: dictionary
666 | | ...
667 | | ... | *Example:*
668 | | ...
669 | | ... | \| Tear down performance mrr test with vhost and VM with \
670 | | ... | dpdk-testpmd \| ${node['DUT1']} \| ${dut_vm_refs} \| ${node['DUT2']} \
671 | | ... | \| ${dut_vm_refs} \|
672 | | ...
673 | | [Arguments] | ${dut1_node}=${None} | ${dut1_vm_refs}=${None}
674 | | ... | ${dut2_node}=${None} | ${dut2_vm_refs}=${None}
675 | | ...
676 | | Remove All Added Ports On All DUTs From Topology | ${nodes}
677 | | Show VAT History On All DUTs | ${nodes}
678 | | Show VPP vhost on all DUTs | ${nodes}
679 | | Run keyword unless | ${dut1_node}==${None}
680 | | ... | Tear down guest VM with dpdk-testpmd | ${dut1} | ${dut1_vm_refs}
681 | | Run keyword unless | ${dut2_node}==${None}
682 | | ... | Tear down guest VM with dpdk-testpmd | ${dut2} | ${dut2_vm_refs}
683
684 | Tear down DPDK 3-node performance topology
685 | | [Documentation]
686 | | ... | Suite teardown phase with traffic generator teardown.
687 | | ... | Cleanup DPDK test environment.
688 | | ...
689 | | Teardown traffic generator | ${tg}
690 | | Cleanup DPDK Environment | ${dut1} | ${dut1_if1} | ${dut1_if2}
691 | | Cleanup DPDK Environment | ${dut2} | ${dut2_if1} | ${dut2_if2}
692
693 | Tear down DPDK 2-node performance topology
694 | | [Documentation]
695 | | ... | Suite teardown phase with traffic generator teardown.
696 | | ... | Cleanup DPDK test environment.
697 | | ...
698 | | Teardown traffic generator | ${tg}
699 | | Cleanup DPDK Environment | ${dut1} | ${dut1_if1} | ${dut1_if2}
700
701 | Tear down performance discovery test with NAT
702 | | [Documentation] | Common test teardown for ndrdisc and pdrdisc performance \
703 | | ... | tests with NAT feature used.
704 | | ...
705 | | ... | *Arguments:*
706 | | ... | - rate - Rate for sending packets. Type: string
707 | | ... | - framesize - L2 Frame Size [B]. Type: integer
708 | | ... | - traffic_profile - Traffic profile. Type: string
709 | | ...
710 | | ... | *Example:*
711 | | ...
712 | | ... | \| Tear down performance discovery test with NAT \| 100000pps \| 64 \
713 | | ... | \| ${traffic_profile} \|
714 | | ...
715 | | [Arguments] | ${rate} | ${framesize} | ${traffic_profile}
716 | | ...
717 | | Tear down performance discovery test | ${rate} | ${framesize}
718 | | ... | ${traffic_profile}
719 | | Show NAT verbose | ${dut1}
720 | | Show NAT verbose | ${dut2}
721
722 | Tear down performance test with ACL
723 | | [Documentation] | Common test teardown for ndrdisc and pdrdisc performance \
724 | | ... | tests with ACL feature used.
725 | | ...
726 | | ... | *Arguments:*
727 | | ... | - rate - Rate for sending packets. Type: string
728 | | ... | - framesize - L2 Frame Size [B]. Type: integer
729 | | ... | - traffic_profile - Traffic profile. Type: string
730 | | ...
731 | | ... | *Example:*
732 | | ...
733 | | ... | \| Tear down performance test with ACL \| 100000pps \| 64 \
734 | | ... | \| ${traffic_profile} \|
735 | | ...
736 | | [Arguments] | ${rate} | ${framesize} | ${traffic_profile}
737 | | ...
738 | | Tear down performance discovery test | ${rate} | ${framesize}
739 | | ... | ${traffic_profile}
740 | | Vpp Log Plugin Acl Settings | ${dut1}
741 | | Run Keyword If Test Failed | Run Keyword And Ignore Error
742 | | ... | Vpp Log Plugin Acl Interface Assignment | ${dut1}
743
744 | Tear down performance test with MACIP ACL
745 | | [Documentation] | Common test teardown for ndrdisc and pdrdisc performance \
746 | | ... | tests with MACIP ACL feature used.
747 | | ...
748 | | ... | *Arguments:*
749 | | ... | - rate - Rate for sending packets. Type: string
750 | | ... | - framesize - L2 Frame Size [B]. Type: integer
751 | | ... | - traffic_profile - Traffic profile. Type: string
752 | | ...
753 | | ... | *Example:*
754 | | ...
755 | | ... | \| Tear down performance test with MACIP ACL \| 100000pps \| 64 \
756 | | ... | \| ${traffic_profile} \|
757 | | ...
758 | | [Arguments] | ${rate} | ${framesize} | ${traffic_profile}
759 | | ...
760 | | Tear down performance discovery test | ${rate} | ${framesize}
761 | | ... | ${traffic_profile}
762 | | Run Keyword If Test Failed | Run Keyword And Ignore Error
763 | | ... | Vpp Log Macip Acl Settings | ${dut1}
764 | | Run Keyword And Ignore Error
765 | | ... | Vpp Log Macip Acl Interface Assignment | ${dut1}
766
767 | Tear down performance test with Ligato Kubernetes
768 | | [Documentation] | Common test teardown for ndrdisc and pdrdisc performance \
769 | | ... | tests with Ligato Kubernetes.
770 | | ...
771 | | Run Keyword If Test Failed
772 | | ... | Get Kubernetes logs on all DUTs | ${nodes} | csit
773 | | Run Keyword If Test Failed
774 | | ... | Describe Kubernetes resource on all DUTs | ${nodes} | csit
775 | | Delete Kubernetes resource on all DUTs | ${nodes} | csit
776
777 | Tear down performance test with SRv6 with encapsulation
778 | | [Documentation] | Common test teardown for ndrdisc and pdrdisc performance \
779 | | ... | tests with SRv6 with encapsulation feature used.
780 | | ...
781 | | ... | *Arguments:*
782 | | ... | - rate - Rate for sending packets. Type: string
783 | | ... | - framesize - L2 Frame Size [B]. Type: integer
784 | | ... | - traffic_profile - Traffic profile. Type: string
785 | | ...
786 | | ... | *Example:*
787 | | ...
788 | | ... | \| Tear down performance test with MACIP ACL \| 100000pps \| 64 \
789 | | ... | \| ${traffic_profile} \|
790 | | ...
791 | | [Arguments] | ${rate} | ${framesize} | ${traffic_profile}
792 | | ...
793 | | Tear down performance discovery test | ${rate} | ${framesize}
794 | | ... | ${traffic_profile}
795 | | Run Keyword If Test Failed | Show SR Policies on all DUTs | ${nodes}
796 | | Run Keyword If Test Failed
797 | | ... | Show SR Steering Policies on all DUTs | ${nodes}
798 | | Run Keyword If Test Failed | Show SR LocalSIDs on all DUTs | ${nodes}