CSIT-469 Rename performance suites
[csit.git] / tests / perf / 10ge2p1x520-ethip4lispip4-ip4base-ndrchk.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Resource | resources/libraries/robot/lisp/lisp_static_adjacency.robot
17 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT1']}
18 | ...     | WITH NAME | dut1_v4
19 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT2']}
20 | ...     | WITH NAME | dut2_v4
21 # import additional Lisp settings from resource file
22 | Variables | resources/test_data/lisp/performance/lisp_static_adjacency.py
23 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | PERFTEST_SHORT
24 | ...        | NIC_Intel-X520-DA2 | PERFTEST_ENCAP | LISP
25 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
26 | ... | L3 | Intel-X520-DA2
27 | Suite Teardown | 3-node Performance Suite Teardown
28 | Test Setup | Setup all DUTs before test
29 | Test Teardown | Run Keyword | Remove startup configuration of VPP from all DUTs
30 | Documentation | *Reference NDR throughput Lisp tunnel verify test cases*
31 | ...
32 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology\
33 | ... | with single links between nodes.
34 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4-LISP-IPv4 on DUT1-DUT2\
35 | ... | Eth-IPv4 on TG-DUTn for IPv4 routing over LISPoIPv4 tunnel.
36 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with IPv4\
37 | ... | routing and static routes. LISPoIPv4 tunnel is configured between\
38 | ... | DUT1 and DUT2. DUT1 and DUT2 tested with 2p10GE NIC X520\
39 | ... | Niantic by Intel.
40 | ... | *[Ver] TG verification:* In short performance tests, TG verifies\
41 | ... | DUTs' throughput at ref-NDR (reference Non Drop Rate) with zero packet\
42 | ... | loss tolerance. Ref-NDR value is periodically updated acording to\
43 | ... | formula: ref-NDR = 0.9x NDR, where NDR is found in RFC2544 long\
44 | ... | performance tests for the same DUT confiiguration. Test packets are\
45 | ... | generated by TG on links to DUTs. TG traffic profile contains two L3\
46 | ... | flow-groups (flow-group per direction, 253 flows per flow-group) with\
47 | ... | all packets containing Ethernet header, IPv4 header with\
48 | ... | IP protocol=61 and generated payload.
49 | ... | *[Ref] Applicable standard specifications:* RFC2544.
50
51 *** Test Cases ***
52 | TC01: Verify 64B ref-NDR at 2x 1.9Mpps - DUT IPv4 - 1thread 1core 1rxq
53 | | [Documentation]
54 | | ... | [Cfg] DUT runs LISP tunnel config with 1 thread, 1 phy core,\
55 | | ... | 1 receive queue per NIC port.
56 | | ... | [Ver] Verify ref-NDR for 64 Byte frames using single trial throughput\
57 | | ... | test.
58 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR | LISP_IPv4
59 | | ${framesize}= | Set Variable | 64
60 | | ${duration}= | Set Variable | 10
61 | | ${rate}= | Set Variable | 1.9mpps
62 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
63 | | And   Add PCI devices to DUTs from 3-node single link topology
64 | | And   Add No Multi Seg to all DUTs
65 | | And   Apply startup configuration on all VPP DUTs
66 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
67 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
68 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
69 | | And  Set up Lisp topology
70 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
71 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
72 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
73 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
74 | | Then Traffic should pass with no loss | ${duration} | ${rate}
75 | | ...                                   | ${framesize} | 3-node-IPv4
76
77 | TC02: Verify 1480B ref-NDR at 2x 740kpps - DUT IPv4 - 1thread 1core 1rxq
78 | | [Documentation]
79 | | ... | [Cfg] DUT runs LISP tunnel config with 1 thread, 1 phy core,\
80 | | ... | 1 receive queue per NIC port.
81 | | ... | [Ver] Verify ref-NDR for 1480 Byte frames using single trial\
82 | | ... | throughput test.
83 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR | LISP_IPv4
84 | | ${framesize}= | Set Variable | 1480
85 | | ${duration}= | Set Variable | 10
86 | | ${rate}= | Set Variable | 740000pps
87 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
88 | | And   Add PCI devices to DUTs from 3-node single link topology
89 | | And   Add No Multi Seg to all DUTs
90 | | And   Apply startup configuration on all VPP DUTs
91 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
92 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
93 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
94 | | And  Set up Lisp topology
95 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
96 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
97 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
98 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
99 | | Then Traffic should pass with no loss | ${duration} | ${rate}
100 | | ...                                   | ${framesize} | 3-node-IPv4
101
102 | TC03: Verify 9000B ref-NDR at 2x 120kpps - DUT IPv4 - 1thread 1core 1rxq
103 | | [Documentation]
104 | | ... | [Cfg] DUT runs LISP tunnel config with 1 thread, 1 phy core,\
105 | | ... | 1 receive queue per NIC port.
106 | | ... | [Ver] Verify ref-NDR for 9000 Byte frames using single trial\
107 | | ... | throughput test.
108 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR | LISP_IPv4
109 | | ${framesize}= | Set Variable | 9000
110 | | ${duration}= | Set Variable | 10
111 | | ${rate}= | Set Variable | 120000pps
112 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
113 | | And   Add PCI devices to DUTs from 3-node single link topology
114 | | And   Apply startup configuration on all VPP DUTs
115 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
116 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
117 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
118 | | And  Set up Lisp topology
119 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
120 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
121 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
122 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
123 | | Then Traffic should pass with no loss | ${duration} | ${rate}
124 | | ...                                   | ${framesize} | 3-node-IPv4
125
126 | TC04: Verify 64B ref-NDR at 2x 3.6Mpps - DUT IPv4 - 2thread 2core 1rxq
127 | | [Documentation]
128 | | ... | [Cfg] DUT runs LISP tunnel config with 2 threads, 2 phy cores,\
129 | | ... | 1 receive queue per NIC port.
130 | | ... | [Ver] Verify ref-NDR for 64 Byte frames using single trial\
131 | | ... | throughput test.
132 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR | LISP_IPv4
133 | | ${framesize}= | Set Variable | 64
134 | | ${duration}= | Set Variable | 10
135 | | ${rate}= | Set Variable | 3.6mpps
136 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
137 | | And   Add PCI devices to DUTs from 3-node single link topology
138 | | And   Add No Multi Seg to all DUTs
139 | | And   Apply startup configuration on all VPP DUTs
140 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
141 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
142 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
143 | | And  Set up Lisp topology
144 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
145 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
146 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
147 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
148 | | Then Traffic should pass with no loss | ${duration} | ${rate}
149 | | ...                                   | ${framesize} | 3-node-IPv4
150
151 | TC05: Verify 1480B ref-NDR at 2x 740kpps - DUT IPv4 - 2thread 2core 1rxq
152 | | [Documentation]
153 | | ... | [Cfg] DUT runs LISP tunnel config with 2 threads, 2 phy cores,\
154 | | ... | 1 receive queue per NIC port.
155 | | ... | [Ver] Verify ref-NDR for 1480 Byte frames using single trial\
156 | | ... | throughput test.
157 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR | LISP_IPv4
158 | | ${framesize}= | Set Variable | 1480
159 | | ${duration}= | Set Variable | 10
160 | | ${rate}= | Set Variable | 740000pps
161 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
162 | | And   Add PCI devices to DUTs from 3-node single link topology
163 | | And   Add No Multi Seg to all DUTs
164 | | And   Apply startup configuration on all VPP DUTs
165 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
166 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
167 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
168 | | And  Set up Lisp topology
169 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
170 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
171 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
172 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
173 | | Then Traffic should pass with no loss | ${duration} | ${rate}
174 | | ...                                   | ${framesize} | 3-node-IPv4
175
176 | TC06: Verify 9000B ref-NDR at 2x 120kpps - DUT IPv4 - 2thread 2core 1rxq
177 | | [Documentation]
178 | | ... | [Cfg] DUT runs LISP tunnel config with 2 threads, 2 phy cores,\
179 | | ... | 1 receive queue per NIC port.
180 | | ... | [Ver] Verify ref-NDR for 9000 Byte frames using single trial\
181 | | ... | throughput test.
182 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR | LISP_IPv4
183 | | ${framesize}= | Set Variable | 9000
184 | | ${duration}= | Set Variable | 10
185 | | ${rate}= | Set Variable | 120000pps
186 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
187 | | And   Add PCI devices to DUTs from 3-node single link topology
188 | | And   Apply startup configuration on all VPP DUTs
189 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
190 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
191 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
192 | | And  Set up Lisp topology
193 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
194 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
195 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
196 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
197 | | Then Traffic should pass with no loss | ${duration} | ${rate}
198 | | ...                                   | ${framesize} | 3-node-IPv4
199
200 | TC07: Verify 64B ref-NDR at 2x 3.5Mpps - DUT IPv4 - 4thread 4core 2rxq
201 | | [Documentation]
202 | | ... | [Cfg] DUT runs LISP tunnel config with 4 threads, 4 phy cores,\
203 | | ... | 2 receive queues per NIC port.
204 | | ... | [Ver] Verify ref-NDR for 64 Byte frames using single trial\
205 | | ... | throughput test.
206 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR | LISP_IPv4
207 | | ${framesize}= | Set Variable | 64
208 | | ${duration}= | Set Variable | 10
209 | | ${rate}= | Set Variable | 3.5mpps
210 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
211 | | And   Add PCI devices to DUTs from 3-node single link topology
212 | | And   Add No Multi Seg to all DUTs
213 | | And   Apply startup configuration on all VPP DUTs
214 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
215 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
216 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
217 | | And  Set up Lisp topology
218 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
219 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
220 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
221 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
222 | | Then Traffic should pass with no loss | ${duration} | ${rate}
223 | | ...                                   | ${framesize} | 3-node-IPv4
224
225 | TC08: Verify 1480B ref-NDR at 2x 740kpps - DUT IPv4 - 4thread 4core 2rxq
226 | | [Documentation]
227 | | ... | [Cfg] DUT runs LISP tunnel config with 4 threads, 4 phy cores,\
228 | | ... | 2 receive queues per NIC port.
229 | | ... | [Ver] Verify ref-NDR for 1480 Byte frames using single trial\
230 | | ... | throughput test.
231 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR | LISP_IPv4
232 | | ${framesize}= | Set Variable | 1480
233 | | ${duration}= | Set Variable | 10
234 | | ${rate}= | Set Variable | 740000pps
235 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
236 | | And   Add PCI devices to DUTs from 3-node single link topology
237 | | And   Add No Multi Seg to all DUTs
238 | | And   Apply startup configuration on all VPP DUTs
239 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
240 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
241 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
242 | | And  Set up Lisp topology
243 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
244 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
245 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
246 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
247 | | Then Traffic should pass with no loss | ${duration} | ${rate}
248 | | ...                                   | ${framesize} | 3-node-IPv4
249
250 | TC09: Verify 9000B ref-NDR at 2x 120kpps - DUT IPv4 - 4thread 4core 2rxq
251 | | [Documentation]
252 | | ... | [Cfg] DUT runs LISP tunnel config with 4 threads, 4 phy cores,\
253 | | ... | 2 receive queues per NIC port.
254 | | ... | [Ver] Verify ref-NDR for 9000 Byte frames using single trial\
255 | | ... | throughput test.
256 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR | LISP_IPv4
257 | | ${framesize}= | Set Variable | 9000
258 | | ${duration}= | Set Variable | 10
259 | | ${rate}= | Set Variable | 120000pps
260 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
261 | | And   Add PCI devices to DUTs from 3-node single link topology
262 | | And   Apply startup configuration on all VPP DUTs
263 | | When Lisp IPv4 forwarding initialized in a 3-node circular topology
264 | | ...  | ${dut1_to_dut2_ip4} | ${dut1_to_tg_ip4} | ${dut2_to_dut1_ip4}
265 | | ...  | ${dut2_to_tg_ip4} | ${prefix4}
266 | | And  Set up Lisp topology
267 | | ...  | ${dut1} | ${dut1_if2} | ${NONE}
268 | | ...  | ${dut2} | ${dut2_if1} | ${NONE}
269 | | ...  | ${duts_locator_set} | ${dut1_ip4_eid} | ${dut2_ip4_eid}
270 | | ...  | ${dut1_ip4_static_adjacency} | ${dut2_ip4_static_adjacency}
271 | | Then Traffic should pass with no loss | ${duration} | ${rate}
272 | | ...                                   | ${framesize} | 3-node-IPv4
273