6f6ec3a79d043a1bd5e9c2c2b689783fd9844f36
[csit.git] / tests / suites / performance / Short_IPv4_iAcl_Intel-X520-DA2.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.Classify.Classify
17 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT1']} | WITH NAME | dut1_v4
18 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT2']} | WITH NAME | dut2_v4
19 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | PERFTEST_SHORT
20 | ...        | NIC_Intel-X520-DA2
21 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
22 | ... | L3 | Intel-X520-DA2
23 | Suite Teardown | 3-node Performance Suite Teardown
24 | Test Setup | Setup all DUTs before test
25 | Test Teardown | Run Keywords | Remove startup configuration of VPP from all DUTs
26 | ...           | AND          | Show vpp trace dump on all DUTs
27 | Documentation | *Reference NDR throughput IPv4 whitelist verify test cases*
28 | ...
29 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology
30 | ... | with single links between nodes.
31 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4-ICMPv4 for IPv4 routing.
32 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with IPv4
33 | ... | routing, two static IPv4 /24 routes and IPv4 iAcl security whitelist
34 | ... | ingress /24 filter entries applied on links TG - DUT1 and DUT2 - TG.
35 | ... | DUT1 and DUT2 tested with 2p10GE NIC X520 Niantic by Intel.
36 | ... | *[Ver] TG verification:* In short performance tests, TG verifies
37 | ... | DUTs' throughput at ref-NDR (reference Non Drop Rate) with zero packet
38 | ... | loss tolerance. Ref-NDR value is periodically updated acording to
39 | ... | formula: ref-NDR = 0.9x NDR, where NDR is found in RFC2544 long
40 | ... | performance tests for the same DUT confiiguration. Test packets are
41 | ... | generated by TG on links to DUTs. TG traffic profile contains two L3
42 | ... | flow-groups (flow-group per direction, 253 flows per flow-group) with
43 | ... | all packets containing Ethernet header, IPv4 header with IP protocol=61
44 | ... | and generated payload.
45 | ... | *[Ref] Applicable standard specifications:* RFC2544.
46
47 *** Test Cases ***
48 | TC01: Verify 64B ref-NDR at 2x 3.1Mpps - DUT IPv4 iAcl whitelist - 1thread 1core 1rxq
49 | | [Documentation]
50 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
51 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port. [Ver] Verify
52 | | ... | ref-NDR for 64 Byte frames using single trial throughput test.
53 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
54 | | ${framesize}= | Set Variable | 64
55 | | ${duration}= | Set Variable | 10
56 | | ${rate}= | Set Variable | 3.1mpps
57 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
58 | | And   Add all PCI devices to all DUTs
59 | | And   Add No Multi Seg to all DUTs
60 | | And   Apply startup configuration on all VPP DUTs
61 | | When  IPv4 forwarding initialized in a 3-node circular topology
62 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
63 | | ... | ${dut1} | ip4 | dst
64 | | And Vpp Configures Classify Session L3
65 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
66 | | ... | ip4 | dst | 20.20.20.2
67 | | And Vpp Enable Input Acl Interface
68 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
69 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
70 | | ... | ${dut2} | ip4 | dst
71 | | And Vpp Configures Classify Session L3
72 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
73 | | ... | ip4 | dst | 10.10.10.2
74 | | And Vpp Enable Input Acl Interface
75 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
76 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
77 | | ...                                    | ${framesize} | 3-node-IPv4
78
79 | TC02: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 iAcl whitelist - 1thread 1core 1rxq
80 | | [Documentation]
81 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
82 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port. [Ver] Verify
83 | | ... | ref-NDR for 1518 Byte frames using single trial throughput test.
84 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
85 | | ${framesize}= | Set Variable | 1518
86 | | ${duration}= | Set Variable | 10
87 | | ${rate}= | Set Variable | 812743pps
88 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
89 | | And   Add all PCI devices to all DUTs
90 | | And   Add No Multi Seg to all DUTs
91 | | And   Apply startup configuration on all VPP DUTs
92 | | When  IPv4 forwarding initialized in a 3-node circular topology
93 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
94 | | ... | ${dut1} | ip4 | dst
95 | | And Vpp Configures Classify Session L3
96 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
97 | | ... | ip4 | dst | 20.20.20.2
98 | | And Vpp Enable Input Acl Interface
99 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
100 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
101 | | ... | ${dut2} | ip4 | dst
102 | | And Vpp Configures Classify Session L3
103 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
104 | | ... | ip4 | dst | 10.10.10.2
105 | | And Vpp Enable Input Acl Interface
106 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
107 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
108 | | ...                                    | ${framesize} | 3-node-IPv4
109
110 | TC03: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 iAcl whitelist - 1thread 1core 1rxq
111 | | [Documentation]
112 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
113 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port. [Ver] Verify
114 | | ... | ref-NDR for 9000 Byte frames using single trial throughput test.
115 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
116 | | ${framesize}= | Set Variable | 9000
117 | | ${duration}= | Set Variable | 10
118 | | ${rate}= | Set Variable | 138580pps
119 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
120 | | And   Add all PCI devices to all DUTs
121 | | And   Apply startup configuration on all VPP DUTs
122 | | When  IPv4 forwarding initialized in a 3-node circular topology
123 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
124 | | ... | ${dut1} | ip4 | dst
125 | | And Vpp Configures Classify Session L3
126 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
127 | | ... | ip4 | dst | 20.20.20.2
128 | | And Vpp Enable Input Acl Interface
129 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
130 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
131 | | ... | ${dut2} | ip4 | dst
132 | | And Vpp Configures Classify Session L3
133 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
134 | | ... | ip4 | dst | 10.10.10.2
135 | | And Vpp Enable Input Acl Interface
136 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
137 | | Then Traffic should pass with no loss | ${duration} | ${rate}
138 | | ...                                   | ${framesize} | 3-node-IPv4
139
140 | TC04: Verify 64B ref-NDR at 2x 5.8Mpps - DUT IPv4 iAcl whitelist - 2thread 2core 1rxq
141 | | [Documentation]
142 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
143 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port. [Ver] Verify
144 | | ... | ref-NDR for 64 Byte frames using single trial throughput test.
145 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
146 | | ${framesize}= | Set Variable | 64
147 | | ${duration}= | Set Variable | 10
148 | | ${rate}= | Set Variable | 5.8mpps
149 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
150 | | And   Add all PCI devices to all DUTs
151 | | And   Add No Multi Seg to all DUTs
152 | | And   Apply startup configuration on all VPP DUTs
153 | | When  IPv4 forwarding initialized in a 3-node circular topology
154 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
155 | | ... | ${dut1} | ip4 | dst
156 | | And Vpp Configures Classify Session L3
157 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
158 | | ... | ip4 | dst | 20.20.20.2
159 | | And Vpp Enable Input Acl Interface
160 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
161 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
162 | | ... | ${dut2} | ip4 | dst
163 | | And Vpp Configures Classify Session L3
164 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
165 | | ... | ip4 | dst | 10.10.10.2
166 | | And Vpp Enable Input Acl Interface
167 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
168 | | Then Traffic should pass with no loss | ${duration} | ${rate}
169 | | ...                                   | ${framesize} | 3-node-IPv4
170
171 | TC05: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 iAcl whitelist - 2thread 2core 1rxq
172 | | [Documentation]
173 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
174 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port. [Ver] Verify
175 | | ... | ref-NDR for 1518 Byte frames using single trial throughput test.
176 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
177 | | ${framesize}= | Set Variable | 1518
178 | | ${duration}= | Set Variable | 10
179 | | ${rate}= | Set Variable | 812743pps
180 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
181 | | And   Add all PCI devices to all DUTs
182 | | And   Add No Multi Seg to all DUTs
183 | | And   Apply startup configuration on all VPP DUTs
184 | | When  IPv4 forwarding initialized in a 3-node circular topology
185 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
186 | | ... | ${dut1} | ip4 | dst
187 | | And Vpp Configures Classify Session L3
188 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
189 | | ... | ip4 | dst | 20.20.20.2
190 | | And Vpp Enable Input Acl Interface
191 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
192 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
193 | | ... | ${dut2} | ip4 | dst
194 | | And Vpp Configures Classify Session L3
195 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
196 | | ... | ip4 | dst | 10.10.10.2
197 | | And Vpp Enable Input Acl Interface
198 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
199 | | Then Traffic should pass with no loss | ${duration} | ${rate}
200 | | ...                                   | ${framesize} | 3-node-IPv4
201
202 | TC06: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 iAcl whitelist - 2thread 2core 1rxq
203 | | [Documentation]
204 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
205 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port. [Ver] Verify
206 | | ... | ref-NDR for 9000 Byte frames using single trial throughput test.
207 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
208 | | ${framesize}= | Set Variable | 9000
209 | | ${duration}= | Set Variable | 10
210 | | ${rate}= | Set Variable | 138580pps
211 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
212 | | And   Add all PCI devices to all DUTs
213 | | And   Apply startup configuration on all VPP DUTs
214 | | When  IPv4 forwarding initialized in a 3-node circular topology
215 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
216 | | ... | ${dut1} | ip4 | dst
217 | | And Vpp Configures Classify Session L3
218 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
219 | | ... | ip4 | dst | 20.20.20.2
220 | | And Vpp Enable Input Acl Interface
221 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
222 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
223 | | ... | ${dut2} | ip4 | dst
224 | | And Vpp Configures Classify Session L3
225 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
226 | | ... | ip4 | dst | 10.10.10.2
227 | | And Vpp Enable Input Acl Interface
228 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
229 | | Then Traffic should pass with no loss | ${duration} | ${rate}
230 | | ...                                   | ${framesize} | 3-node-IPv4
231
232 | TC07: Verify 64B ref-NDR at 2x 7.8Mpps - DUT IPv4 iAcl whitelist - 4threads 4cores 2rxq
233 | | [Documentation]
234 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
235 | | ... | 4 thread, 4 phy core, 2 receive queue per NIC port. [Ver] Verify
236 | | ... | ref-NDR for 64 Byte frames using single trial throughput test.
237 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
238 | | ${framesize}= | Set Variable | 64
239 | | ${duration}= | Set Variable | 10
240 | | ${rate}= | Set Variable | 7.8mpps
241 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
242 | | And   Add all PCI devices to all DUTs
243 | | And   Add No Multi Seg to all DUTs
244 | | And   Apply startup configuration on all VPP DUTs
245 | | And   IPv4 forwarding initialized in a 3-node circular topology
246 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
247 | | ... | ${dut1} | ip4 | dst
248 | | And Vpp Configures Classify Session L3
249 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
250 | | ... | ip4 | dst | 20.20.20.2
251 | | And Vpp Enable Input Acl Interface
252 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
253 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
254 | | ... | ${dut2} | ip4 | dst
255 | | And Vpp Configures Classify Session L3
256 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
257 | | ... | ip4 | dst | 10.10.10.2
258 | | And Vpp Enable Input Acl Interface
259 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
260 | | Then Traffic should pass with no loss | ${duration} | ${rate}
261 | | ...                                   | ${framesize} | 3-node-IPv4
262
263 | TC08: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 iAcl whitelist - 4threads 4cores 2rxq
264 | | [Documentation]
265 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
266 | | ... | 4 thread, 4 phy core, 2 receive queue per NIC port. [Ver] Verify
267 | | ... | ref-NDR for 1518 Byte frames using single trial throughput test.
268 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
269 | | ${framesize}= | Set Variable | 1518
270 | | ${duration}= | Set Variable | 10
271 | | ${rate}= | Set Variable | 812743pps
272 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
273 | | And   Add all PCI devices to all DUTs
274 | | And   Add No Multi Seg to all DUTs
275 | | And   Apply startup configuration on all VPP DUTs
276 | | When  IPv4 forwarding initialized in a 3-node circular topology
277 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
278 | | ... | ${dut1} | ip4 | dst
279 | | And Vpp Configures Classify Session L3
280 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
281 | | ... | ip4 | dst | 20.20.20.2
282 | | And Vpp Enable Input Acl Interface
283 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
284 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
285 | | ... | ${dut2} | ip4 | dst
286 | | And Vpp Configures Classify Session L3
287 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
288 | | ... | ip4 | dst | 10.10.10.2
289 | | And Vpp Enable Input Acl Interface
290 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
291 | | Then Traffic should pass with no loss | ${duration} | ${rate}
292 | | ...                                   | ${framesize} | 3-node-IPv4
293
294 | TC09: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 iAcl whitelist - 4threads 4cores 2rxq
295 | | [Documentation]
296 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
297 | | ... | 4 thread, 4 phy core, 2 receive queue per NIC port. [Ver] Verify
298 | | ... | ref-NDR for 9000 Byte frames using single trial throughput test.
299 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
300 | | ${framesize}= | Set Variable | 9000
301 | | ${duration}= | Set Variable | 10
302 | | ${rate}= | Set Variable | 138580pps
303 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
304 | | And   Add all PCI devices to all DUTs
305 | | And   Apply startup configuration on all VPP DUTs
306 | | When  IPv4 forwarding initialized in a 3-node circular topology
307 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
308 | | ... | ${dut1} | ip4 | dst
309 | | And Vpp Configures Classify Session L3
310 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
311 | | ... | ip4 | dst | 20.20.20.2
312 | | And Vpp Enable Input Acl Interface
313 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
314 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
315 | | ... | ${dut2} | ip4 | dst
316 | | And Vpp Configures Classify Session L3
317 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
318 | | ... | ip4 | dst | 10.10.10.2
319 | | And Vpp Enable Input Acl Interface
320 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
321 | | Then Traffic should pass with no loss | ${duration} | ${rate}
322 | | ...                                   | ${framesize} | 3-node-IPv4