Update: NDRCHK rate values and typos
[csit.git] / tests / perf / 10ge2p1x520-ethip4-ip4base-iacldstbase-ndrchk.robot
1 # Copyright (c) 2017 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.Classify.Classify
17 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT1']}
18 | ... | WITH NAME | dut1_v4
19 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT2']}
20 | ... | WITH NAME | dut2_v4
21 | ...
22 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | NDRCHK
23 | ... | NIC_Intel-X520-DA2 | ETH | IP4FWD | FEATURE | IACLDST
24 | ...
25 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
26 | ... | L3 | Intel-X520-DA2
27 | Suite Teardown | 3-node Performance Suite Teardown
28 | ...
29 | Test Setup | Performance test setup
30 | Test Teardown | Performance ndrchk test teardown
31 | ...
32 | Documentation | *Reference NDR throughput IPv4 whitelist verify test cases*
33 | ...
34 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology
35 | ... | with single links between nodes.
36 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4 for IPv4 routing.
37 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with IPv4
38 | ... | routing, two static IPv4 /24 routes and IPv4 iAcl security whitelist
39 | ... | ingress /24 filter entries applied on links TG - DUT1 and DUT2 - TG.
40 | ... | DUT1 and DUT2 tested with 2p10GE NIC X520 Niantic by Intel.
41 | ... | *[Ver] TG verification:* In short performance tests, TG verifies
42 | ... | DUTs' throughput at ref-NDR (reference Non Drop Rate) with zero packet
43 | ... | loss tolerance. Ref-NDR value is periodically updated acording to
44 | ... | formula: ref-NDR = 0.9x NDR, where NDR is found in RFC2544 long
45 | ... | performance tests for the same DUT configuration. Test packets are
46 | ... | generated by TG on links to DUTs. TG traffic profile contains two L3
47 | ... | flow-groups (flow-group per direction, 253 flows per flow-group) with
48 | ... | all packets containing Ethernet header, IPv4 header with IP protocol=61
49 | ... | and static payload. MAC addresses are matching MAC addresses of the
50 | ... | TG node interfaces.
51 | ... | *[Ref] Applicable standard specifications:* RFC2544.
52
53 *** Test Cases ***
54 | tc01-64B-1t1c-ethip4-ip4base-iacldstbase-ndrchk
55 | | [Documentation]
56 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
57 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port. [Ver] Verify
58 | | ... | ref-NDR for 64 Byte frames using single trial throughput test
59 | | ... | at 2x 3.6mpps.
60 | | [Tags] | 1T1C | STHREAD
61 | | ${framesize}= | Set Variable | ${64}
62 | | ${rate}= | Set Variable | 3.6mpps
63 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
64 | | And Add PCI devices to DUTs from 3-node single link topology
65 | | And Add No Multi Seg to all DUTs
66 | | And Apply startup configuration on all VPP DUTs
67 | | When IPv4 forwarding initialized in a 3-node circular topology
68 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
69 | | ... | ${dut1} | ip4 | dst
70 | | And Vpp Configures Classify Session L3
71 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
72 | | ... | ip4 | dst | 20.20.20.2
73 | | And Vpp Enable Input Acl Interface
74 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
75 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
76 | | ... | ${dut2} | ip4 | dst
77 | | And Vpp Configures Classify Session L3
78 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
79 | | ... | ip4 | dst | 10.10.10.2
80 | | And Vpp Enable Input Acl Interface
81 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
82 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
83 | | ... | ${framesize} | 3-node-IPv4
84
85 | tc02-1518B-1t1c-ethip4-ip4base-iacldstbase-ndrchk
86 | | [Documentation]
87 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
88 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port. [Ver] Verify
89 | | ... | ref-NDR for 1518 Byte frames using single trial throughput test
90 | | ... | at 2x 812743pps.
91 | | [Tags] | 1T1C | STHREAD
92 | | ${framesize}= | Set Variable | ${1518}
93 | | ${rate}= | Set Variable | 812743pps
94 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
95 | | And Add PCI devices to DUTs from 3-node single link topology
96 | | And Add No Multi Seg to all DUTs
97 | | And Apply startup configuration on all VPP DUTs
98 | | When IPv4 forwarding initialized in a 3-node circular topology
99 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
100 | | ... | ${dut1} | ip4 | dst
101 | | And Vpp Configures Classify Session L3
102 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
103 | | ... | ip4 | dst | 20.20.20.2
104 | | And Vpp Enable Input Acl Interface
105 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
106 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
107 | | ... | ${dut2} | ip4 | dst
108 | | And Vpp Configures Classify Session L3
109 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
110 | | ... | ip4 | dst | 10.10.10.2
111 | | And Vpp Enable Input Acl Interface
112 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
113 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
114 | | ... | ${framesize} | 3-node-IPv4
115
116 | tc03-9000B-1t1c-ethip4-ip4base-iacldstbase-ndrchk
117 | | [Documentation]
118 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
119 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port. [Ver] Verify
120 | | ... | ref-NDR for 9000 Byte frames using single trial throughput test
121 | | ... | at 2x 138580pps.
122 | | [Tags] | 1T1C | STHREAD
123 | | ${framesize}= | Set Variable | ${9000}
124 | | ${rate}= | Set Variable | 138580pps
125 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
126 | | And Add PCI devices to DUTs from 3-node single link topology
127 | | And Apply startup configuration on all VPP DUTs
128 | | When IPv4 forwarding initialized in a 3-node circular topology
129 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
130 | | ... | ${dut1} | ip4 | dst
131 | | And Vpp Configures Classify Session L3
132 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
133 | | ... | ip4 | dst | 20.20.20.2
134 | | And Vpp Enable Input Acl Interface
135 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
136 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
137 | | ... | ${dut2} | ip4 | dst
138 | | And Vpp Configures Classify Session L3
139 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
140 | | ... | ip4 | dst | 10.10.10.2
141 | | And Vpp Enable Input Acl Interface
142 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
143 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
144 | | ... | ${framesize} | 3-node-IPv4
145
146 | tc04-64B-2t2c-ethip4-ip4base-iacldstbase-ndrchk
147 | | [Documentation]
148 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
149 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port. [Ver] Verify
150 | | ... | ref-NDR for 64 Byte frames using single trial throughput test
151 | | ... | at 2x 6.3mpps.
152 | | [Tags] | 2T2C | MTHREAD
153 | | ${framesize}= | Set Variable | ${64}
154 | | ${rate}= | Set Variable | 6.3mpps
155 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
156 | | And Add PCI devices to DUTs from 3-node single link topology
157 | | And Add No Multi Seg to all DUTs
158 | | And Apply startup configuration on all VPP DUTs
159 | | When IPv4 forwarding initialized in a 3-node circular topology
160 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
161 | | ... | ${dut1} | ip4 | dst
162 | | And Vpp Configures Classify Session L3
163 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
164 | | ... | ip4 | dst | 20.20.20.2
165 | | And Vpp Enable Input Acl Interface
166 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
167 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
168 | | ... | ${dut2} | ip4 | dst
169 | | And Vpp Configures Classify Session L3
170 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
171 | | ... | ip4 | dst | 10.10.10.2
172 | | And Vpp Enable Input Acl Interface
173 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
174 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
175 | | ... | ${framesize} | 3-node-IPv4
176
177 | tc05-1518B-2t2c-ethip4-ip4base-iacldstbase-ndrchk
178 | | [Documentation]
179 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
180 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port. [Ver] Verify
181 | | ... | ref-NDR for 1518 Byte frames using single trial throughput test
182 | | ... | at 2x 812743pps.
183 | | [Tags] | 2T2C | MTHREAD
184 | | ${framesize}= | Set Variable | ${1518}
185 | | ${rate}= | Set Variable | 812743pps
186 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
187 | | And Add PCI devices to DUTs from 3-node single link topology
188 | | And Add No Multi Seg to all DUTs
189 | | And Apply startup configuration on all VPP DUTs
190 | | When IPv4 forwarding initialized in a 3-node circular topology
191 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
192 | | ... | ${dut1} | ip4 | dst
193 | | And Vpp Configures Classify Session L3
194 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
195 | | ... | ip4 | dst | 20.20.20.2
196 | | And Vpp Enable Input Acl Interface
197 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
198 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
199 | | ... | ${dut2} | ip4 | dst
200 | | And Vpp Configures Classify Session L3
201 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
202 | | ... | ip4 | dst | 10.10.10.2
203 | | And Vpp Enable Input Acl Interface
204 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
205 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
206 | | ... | ${framesize} | 3-node-IPv4
207
208 | tc06-9000B-2t2c-ethip4-ip4base-iacldstbase-ndrchk
209 | | [Documentation]
210 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
211 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port. [Ver] Verify
212 | | ... | ref-NDR for 9000 Byte frames using single trial throughput test
213 | | ... | at 2x 138580pps.
214 | | [Tags] | 2T2C | MTHREAD
215 | | ${framesize}= | Set Variable | ${9000}
216 | | ${rate}= | Set Variable | 138580pps
217 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
218 | | And Add PCI devices to DUTs from 3-node single link topology
219 | | And Apply startup configuration on all VPP DUTs
220 | | When IPv4 forwarding initialized in a 3-node circular topology
221 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
222 | | ... | ${dut1} | ip4 | dst
223 | | And Vpp Configures Classify Session L3
224 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
225 | | ... | ip4 | dst | 20.20.20.2
226 | | And Vpp Enable Input Acl Interface
227 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
228 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
229 | | ... | ${dut2} | ip4 | dst
230 | | And Vpp Configures Classify Session L3
231 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
232 | | ... | ip4 | dst | 10.10.10.2
233 | | And Vpp Enable Input Acl Interface
234 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
235 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
236 | | ... | ${framesize} | 3-node-IPv4
237
238 | tc07-64B-4t4c-ethip4-ip4base-iacldstbase-ndrchk
239 | | [Documentation]
240 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
241 | | ... | 4 thread, 4 phy core, 2 receive queue per NIC port. [Ver] Verify
242 | | ... | ref-NDR for 64 Byte frames using single trial throughput test
243 | | ... | at 2x 9.7mpps.
244 | | [Tags] | 4T4C | MTHREAD
245 | | ${framesize}= | Set Variable | ${64}
246 | | ${rate}= | Set Variable | 9.7mpps
247 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
248 | | And Add PCI devices to DUTs from 3-node single link topology
249 | | And Add No Multi Seg to all DUTs
250 | | And Apply startup configuration on all VPP DUTs
251 | | And IPv4 forwarding initialized in a 3-node circular topology
252 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
253 | | ... | ${dut1} | ip4 | dst
254 | | And Vpp Configures Classify Session L3
255 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
256 | | ... | ip4 | dst | 20.20.20.2
257 | | And Vpp Enable Input Acl Interface
258 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
259 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
260 | | ... | ${dut2} | ip4 | dst
261 | | And Vpp Configures Classify Session L3
262 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
263 | | ... | ip4 | dst | 10.10.10.2
264 | | And Vpp Enable Input Acl Interface
265 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
266 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
267 | | ... | ${framesize} | 3-node-IPv4
268
269 | tc08-1518B-4t4c-ethip4-ip4base-iacldstbase-ndrchk
270 | | [Documentation]
271 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
272 | | ... | 4 thread, 4 phy core, 2 receive queue per NIC port. [Ver] Verify
273 | | ... | ref-NDR for 1518 Byte frames using single trial throughput test
274 | | ... | at 2x 812743pps.
275 | | [Tags] | 4T4C | MTHREAD
276 | | ${framesize}= | Set Variable | ${1518}
277 | | ${rate}= | Set Variable | 812743pps
278 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
279 | | And Add PCI devices to DUTs from 3-node single link topology
280 | | And Add No Multi Seg to all DUTs
281 | | And Apply startup configuration on all VPP DUTs
282 | | When IPv4 forwarding initialized in a 3-node circular topology
283 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
284 | | ... | ${dut1} | ip4 | dst
285 | | And Vpp Configures Classify Session L3
286 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
287 | | ... | ip4 | dst | 20.20.20.2
288 | | And Vpp Enable Input Acl Interface
289 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
290 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
291 | | ... | ${dut2} | ip4 | dst
292 | | And Vpp Configures Classify Session L3
293 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
294 | | ... | ip4 | dst | 10.10.10.2
295 | | And Vpp Enable Input Acl Interface
296 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
297 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
298 | | ... | ${framesize} | 3-node-IPv4
299
300 | tc09-9000B-4t4c-ethip4-ip4base-iacldstbase-ndrchk
301 | | [Documentation]
302 | | ... | [Cfg] DUT runs IPv4 routing and whitelist filters config with \
303 | | ... | 4 thread, 4 phy core, 2 receive queue per NIC port. [Ver] Verify
304 | | ... | ref-NDR for 9000 Byte frames using single trial throughput test
305 | | ... | at 2x 138580pps.
306 | | [Tags] | 4T4C | MTHREAD
307 | | ${framesize}= | Set Variable | ${9000}
308 | | ${rate}= | Set Variable | 138580pps
309 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
310 | | And Add PCI devices to DUTs from 3-node single link topology
311 | | And Apply startup configuration on all VPP DUTs
312 | | When IPv4 forwarding initialized in a 3-node circular topology
313 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
314 | | ... | ${dut1} | ip4 | dst
315 | | And Vpp Configures Classify Session L3
316 | | ... | ${dut1} | permit | ${table_idx} | ${skip_n} | ${match_n}
317 | | ... | ip4 | dst | 20.20.20.2
318 | | And Vpp Enable Input Acl Interface
319 | | ... | ${dut1} | ${dut1_if1} | ip4 | ${table_idx}
320 | | ${table_idx} | ${skip_n} | ${match_n}= | And Vpp Creates Classify Table L3
321 | | ... | ${dut2} | ip4 | dst
322 | | And Vpp Configures Classify Session L3
323 | | ... | ${dut2} | permit | ${table_idx} | ${skip_n} | ${match_n}
324 | | ... | ip4 | dst | 10.10.10.2
325 | | And Vpp Enable Input Acl Interface
326 | | ... | ${dut2} | ${dut2_if2} | ip4 | ${table_idx}
327 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
328 | | ... | ${framesize} | 3-node-IPv4