Replace linear search with binary search
[csit.git] / tests / suites / performance / Long_Xconnect_Dot1q_Intel-X520-DA2.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Resource | resources/libraries/robot/tagging.robot
17 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | PERFTEST_LONG
18 | ...        | NIC_Intel-X520-DA2
19 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
20 | ... | L2 | Intel-X520-DA2
21 | Suite Teardown | 3-node Performance Suite Teardown
22 | Test Setup | Setup all DUTs before test
23 | Test Teardown | Run Keywords | Show statistics on all DUTs
24 | ...                          | Remove startup configuration of VPP from all DUTs
25 | Documentation | *Throughput search suite (based on RFC2544).*
26 | ...
27 | ... | Test suite uses 3-node topology TG - DUT1 - DUT2 - TG, with one link
28 | ... | between nodes. Traffic profile contain 2 L2 streams (1 stream per
29 | ... | direction). Packets contain Ethernet header, IPv4 header,
30 | ... | IP protocol=61 and random payload. Ethernet header MAC addresses are
31 | ... | matching MAC addresses of the TG node. DUT nodes are interconnected
32 | ... | with VLAN dot1q configured interfaces with VLAN 10.
33
34 *** Variables ***
35 | ${subid}= | 10
36 | ${tag_rewrite}= | pop-1
37
38 *** Test Cases ***
39 | Find NDR by using RFC2544 binary search and 64B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
40 | | [Documentation]
41 | | ... | Find throughput with non drop rate by using binary search with
42 | | ... | threshold 0.1Mpps. Frames from and to TG are 64B long. Tagging is
43 | | ... | applied between DUTs inserting 4B VLAN ID into a packet header.
44 | | [Tags] | 1_THREAD_NOHTT_RSS_1 | SINGLE_THREAD
45 | | ${framesize}= | Set Variable | 64
46 | | ${min_rate}= | Set Variable | 100000
47 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_68B}
48 | | ${binary_min}= | Set Variable | ${min_rate}
49 | | ${binary_max}= | Set Variable | ${max_rate}
50 | | ${threshold}= | Set Variable | ${min_rate}
51 | | Given Add '1' worker threads and rss '1' without HTT to all DUTs
52 | | And   Add all PCI devices to all DUTs
53 | | And   Add No Multi Seg to all DUTs
54 | | And   Apply startup configuration on all VPP DUTs
55 | | And   VPP interfaces in path are up
56 | | When VLAN dot1q subinterfaces initialized on 3-node topology
57 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
58 | | And L2 tag rewrite method setup on interfaces
59 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
60 | | ... | ${tag_rewrite}
61 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
62 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
63 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
64 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
65 | | ...                                       | ${binary_max} | 3-node-xconnect
66 | | ...                                       | ${min_rate} | ${max_rate}
67 | | ...                                       | ${threshold}
68
69 | Find NDR by using RFC2544 binary search and 1518B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
70 | | [Documentation]
71 | | ... | Find throughput with non drop rate by using binary search with
72 | | ... | threshold 10,000pps. Frames from and to TG are 1518B long. Tagging is
73 | | ... | applied between DUTs inserting 4B VLAN ID into a packet header.
74 | | [Tags] | 1_THREAD_NOHTT_RSS_1 | SINGLE_THREAD
75 | | ${framesize}= | Set Variable | 1518
76 | | ${min_rate}= | Set Variable | 10000
77 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_1522B}
78 | | ${binary_min}= | Set Variable | ${min_rate}
79 | | ${binary_max}= | Set Variable | ${max_rate}
80 | | ${threshold}= | Set Variable | ${min_rate}
81 | | Given Add '1' worker threads and rss '1' without HTT to all DUTs
82 | | And   Add all PCI devices to all DUTs
83 | | And   Add No Multi Seg to all DUTs
84 | | And   Apply startup configuration on all VPP DUTs
85 | | And   VPP interfaces in path are up
86 | | When VLAN dot1q subinterfaces initialized on 3-node topology
87 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
88 | | And L2 tag rewrite method setup on interfaces
89 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
90 | | ... | ${tag_rewrite}
91 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
92 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
93 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
94 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
95 | | ...                                       | ${binary_max} | 3-node-xconnect
96 | | ...                                       | ${min_rate} | ${max_rate}
97 | | ...                                       | ${threshold}
98
99 | Find NDR by using RFC2544 binary search and 9000B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
100 | | [Documentation]
101 | | ... | Find throughput with non drop rate by using binary searchwith
102 | | ... | threshold 5,000pps. Frames from and to TG are 9000B long. Tagging is
103 | | ... | applied between DUTs inserting 4B VLAN ID into a packet header.
104 | | [Tags] | 1_THREAD_NOHTT_RSS_1 | SINGLE_THREAD
105 | | ${framesize}= | Set Variable | 9000
106 | | ${min_rate}= | Set Variable | 5000
107 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_9004B}
108 | | ${binary_min}= | Set Variable | ${min_rate}
109 | | ${binary_max}= | Set Variable | ${max_rate}
110 | | ${threshold}= | Set Variable | ${min_rate}
111 | | Given Add '1' worker threads and rss '1' without HTT to all DUTs
112 | | And   Add all PCI devices to all DUTs
113 | | And   Apply startup configuration on all VPP DUTs
114 | | And   VPP interfaces in path are up
115 | | When VLAN dot1q subinterfaces initialized on 3-node topology
116 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
117 | | And L2 tag rewrite method setup on interfaces
118 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
119 | | ... | ${tag_rewrite}
120 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
121 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
122 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
123 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
124 | | ...                                       | ${binary_max} | 3-node-xconnect
125 | | ...                                       | ${min_rate} | ${max_rate}
126 | | ...                                       | ${threshold}
127
128 | Find NDR with 2 cores and rss 1 by using RFC2544 binary search and 64B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
129 | | [Documentation]
130 | | ... | Find throughput on 2 cores with non drop rate by using binary search
131 | | ... | with threshold 0.1Mpps. Frames from and to TG are 64B long. Tagging
132 | | ... | is applied between DUTs inserting 4B VLAN ID into a packet header.
133 | | [Tags] | 2_THREAD_NOHTT_RSS_1 | MULTI_THREAD
134 | | ${framesize}= | Set Variable | 64
135 | | ${min_rate}= | Set Variable | 100000
136 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_68B}
137 | | ${binary_min}= | Set Variable | ${min_rate}
138 | | ${binary_max}= | Set Variable | ${max_rate}
139 | | ${threshold}= | Set Variable | ${min_rate}
140 | | Given Add '2' worker threads and rss '1' without HTT to all DUTs
141 | | And   Add all PCI devices to all DUTs
142 | | And   Add No Multi Seg to all DUTs
143 | | And   Apply startup configuration on all VPP DUTs
144 | | And   VPP interfaces in path are up
145 | | When VLAN dot1q subinterfaces initialized on 3-node topology
146 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
147 | | And L2 tag rewrite method setup on interfaces
148 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
149 | | ... | ${tag_rewrite}
150 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
151 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
152 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
153 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
154 | | ...                                       | ${binary_max} | 3-node-xconnect
155 | | ...                                       | ${min_rate} | ${max_rate}
156 | | ...                                       | ${threshold}
157
158 | Find NDR with 2 cores and rss 1 by using RFC2544 binary search and 1518B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
159 | | [Documentation]
160 | | ... | Find throughput on 2 cores with non drop rate by using binary search
161 | | ... | with threshold 10,000pps. Frames from and to TG are 1518B long.
162 | | ... | Tagging is applied between DUTs inserting 4B VLAN ID into a packet
163 | | ... | header.
164 | | [Tags] | 2_THREAD_NOHTT_RSS_1 | MULTI_THREAD
165 | | ${framesize}= | Set Variable | 1518
166 | | ${min_rate}= | Set Variable | 10000
167 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_1522B}
168 | | ${binary_min}= | Set Variable | ${min_rate}
169 | | ${binary_max}= | Set Variable | ${max_rate}
170 | | ${threshold}= | Set Variable | ${min_rate}
171 | | Given Add '2' worker threads and rss '1' without HTT to all DUTs
172 | | And   Add all PCI devices to all DUTs
173 | | And   Add No Multi Seg to all DUTs
174 | | And   Apply startup configuration on all VPP DUTs
175 | | And   VPP interfaces in path are up
176 | | When VLAN dot1q subinterfaces initialized on 3-node topology
177 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
178 | | And L2 tag rewrite method setup on interfaces
179 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
180 | | ... | ${tag_rewrite}
181 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
182 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
183 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
184 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
185 | | ...                                       | ${binary_max} | 3-node-xconnect
186 | | ...                                       | ${min_rate} | ${max_rate}
187 | | ...                                       | ${threshold}
188
189 | Find NDR with 2 cores and rss 1 by using RFC2544 binary search and 9000B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
190 | | [Documentation]
191 | | ... | Find throughput on 2 cores with non drop rate by using binary search
192 | | ... | with threshold 5,000pps. Frames from and to TG are 9000B long.
193 | | ... | Tagging is applied between DUTs inserting 4B VLAN ID into a packet
194 | | ... | header.
195 | | [Tags] | 2_THREAD_NOHTT_RSS_1 | MULTI_THREAD
196 | | ${framesize}= | Set Variable | 9000
197 | | ${min_rate}= | Set Variable | 5000
198 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_9004B}
199 | | ${binary_min}= | Set Variable | ${min_rate}
200 | | ${binary_max}= | Set Variable | ${max_rate}
201 | | ${threshold}= | Set Variable | ${min_rate}
202 | | Given Add '2' worker threads and rss '1' without HTT to all DUTs
203 | | And   Add all PCI devices to all DUTs
204 | | And   Apply startup configuration on all VPP DUTs
205 | | And   VPP interfaces in path are up
206 | | When VLAN dot1q subinterfaces initialized on 3-node topology
207 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
208 | | And L2 tag rewrite method setup on interfaces
209 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
210 | | ... | ${tag_rewrite}
211 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
212 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
213 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
214 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
215 | | ...                                       | ${binary_max} | 3-node-xconnect
216 | | ...                                       | ${min_rate} | ${max_rate}
217 | | ...                                       | ${threshold}
218
219 | Find NDR with 4 cores and rss 2 by using RFC2544 binary search and 64B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
220 | | [Documentation]
221 | | ... | Find throughput on 4 cores and rss 2 with non drop rate by using
222 | | ... | binary search with threshold 0.1Mpps. Frames from and to TG are 64B
223 | | ... | long. Tagging is applied between DUTs inserting 4B VLAN ID into a
224 | | ... | packet header.
225 | | [Tags] | 4_THREAD_NOHTT_RSS_2 | MULTI_THREAD
226 | | ${framesize}= | Set Variable | 64
227 | | ${min_rate}= | Set Variable | 100000
228 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_68B}
229 | | ${binary_min}= | Set Variable | ${min_rate}
230 | | ${binary_max}= | Set Variable | ${max_rate}
231 | | ${threshold}= | Set Variable | ${min_rate}
232 | | Given Add '4' worker threads and rss '2' without HTT to all DUTs
233 | | And   Add all PCI devices to all DUTs
234 | | And   Add No Multi Seg to all DUTs
235 | | And   Apply startup configuration on all VPP DUTs
236 | | And   VPP interfaces in path are up
237 | | When VLAN dot1q subinterfaces initialized on 3-node topology
238 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
239 | | And L2 tag rewrite method setup on interfaces
240 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
241 | | ... | ${tag_rewrite}
242 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
243 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
244 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
245 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
246 | | ...                                       | ${binary_max} | 3-node-xconnect
247 | | ...                                       | ${min_rate} | ${max_rate}
248 | | ...                                       | ${threshold}
249
250 | Find NDR with 4 cores and rss 2 by using RFC2544 binary search and 1518B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
251 | | [Documentation]
252 | | ... | Find throughput on 4 cores and rss 2 with non drop rate by using
253 | | ... | binary search with threshold 10,000pps. Frames from and to TG are
254 | | ... | 1518B long. Tagging is applied between DUTs inserting 4B VLAN ID into
255 | | ... | a packet header.
256 | | [Tags] | 4_THREAD_NOHTT_RSS_2 | MULTI_THREAD
257 | | ${framesize}= | Set Variable | 1518
258 | | ${min_rate}= | Set Variable | 10000
259 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_1522B}
260 | | ${binary_min}= | Set Variable | ${min_rate}
261 | | ${binary_max}= | Set Variable | ${max_rate}
262 | | ${threshold}= | Set Variable | ${min_rate}
263 | | Given Add '4' worker threads and rss '2' without HTT to all DUTs
264 | | And   Add all PCI devices to all DUTs
265 | | And   Add No Multi Seg to all DUTs
266 | | And   Apply startup configuration on all VPP DUTs
267 | | And   VPP interfaces in path are up
268 | | When VLAN dot1q subinterfaces initialized on 3-node topology
269 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
270 | | And L2 tag rewrite method setup on interfaces
271 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
272 | | ... | ${tag_rewrite}
273 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
274 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
275 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
276 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
277 | | ...                                       | ${binary_max} | 3-node-xconnect
278 | | ...                                       | ${min_rate} | ${max_rate}
279 | | ...                                       | ${threshold}
280
281 | Find NDR with 4 cores and rss 2 by using RFC2544 binary search and 9000B frames through VLAN dot1q sub-interfaces inter-connected using L2 cross connect in 3-node topology
282 | | [Documentation]
283 | | ... | Find throughput on 4 cores and rss 2 with non drop rate by using
284 | | ... | binary search with threshold 5,000pps. Frames from and to TG are
285 | | ... | 9000B long. Tagging is applied between DUTs inserting 4B VLAN ID into
286 | | ... | a packet header.
287 | | [Tags] | 4_THREAD_NOHTT_RSS_2 | MULTI_THREAD
288 | | ${framesize}= | Set Variable | 9000
289 | | ${min_rate}= | Set Variable | 5000
290 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_9004B}
291 | | ${binary_min}= | Set Variable | ${min_rate}
292 | | ${binary_max}= | Set Variable | ${max_rate}
293 | | ${threshold}= | Set Variable | ${min_rate}
294 | | Given Add '4' worker threads and rss '2' without HTT to all DUTs
295 | | And   Add all PCI devices to all DUTs
296 | | And   Apply startup configuration on all VPP DUTs
297 | | And   VPP interfaces in path are up
298 | | When VLAN dot1q subinterfaces initialized on 3-node topology
299 | | ... | ${dut1} | ${dut1_if2} | ${dut2} | ${dut2_if1} | ${subid}
300 | | And L2 tag rewrite method setup on interfaces
301 | | ... | ${dut1} | ${subif_index_1} | ${dut2} | ${subif_index_2}
302 | | ... | ${tag_rewrite}
303 | | And Interfaces and VLAN sub-interfaces inter-connected using L2-xconnect
304 | | ... | ${dut1} | ${dut1_if1} | ${subif_index_1}
305 | | ... | ${dut2} | ${dut2_if2} | ${subif_index_2}
306 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
307 | | ...                                       | ${binary_max} | 3-node-xconnect
308 | | ...                                       | ${min_rate} | ${max_rate}
309 | | ...                                       | ${threshold}