Patch: Remove show stats keyword from teardown phase
[csit.git] / tests / suites / performance / Long_IPv4_Intel-X520-DA2.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.topology.Topology
17 | Library | resources.libraries.python.NodePath
18 | Library | resources.libraries.python.InterfaceUtil
19 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT1']} | WITH NAME | dut1_v4
20 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT2']} | WITH NAME | dut2_v4
21 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | PERFTEST_LONG
22 | ...        | NIC_Intel-X520-DA2
23 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
24 | ... | L3 | Intel-X520-DA2
25 | Suite Teardown | 3-node Performance Suite Teardown
26 | Test Setup | Setup all DUTs before test
27 | Test Teardown | Run Keyword | Remove startup configuration of VPP from all DUTs
28 | Documentation | *Throughput search suite (based on RFC2544).*
29 | ...
30 | ... | Test suite uses 3-node topology TG - DUT1 - DUT2 - TG, with one link
31 | ... | between nodes. Traffic profile contain 2 L3 streams (1 stream per
32 | ... | direction). Packets contain Ethernet header, IPv4 header,
33 | ... | IP protocol=61 and random payload. Ethernet header MAC addresses are
34 | ... | matching MAC addresses of the TG node.
35
36 *** Test Cases ***
37 | Find NDR by using RFC2544 binary search and 64B frames through IPv4 forwarding in 3-node topology
38 | | [Documentation]
39 | | ... | Find throughput with non drop rate for 64B frames by using
40 | | ... | binary search with threshold 0.1Mpps.
41 | | [Tags] | 1_THREAD_NOHTT_RSS_1 | SINGLE_THREAD
42 | | ${framesize}= | Set Variable | 64
43 | | ${min_rate}= | Set Variable | 100000
44 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_64B}
45 | | ${binary_min}= | Set Variable | ${min_rate}
46 | | ${binary_max}= | Set Variable | ${max_rate}
47 | | ${threshold}= | Set Variable | ${min_rate}
48 | | Given Add '1' worker threads and rss '1' without HTT to all DUTs
49 | | And   Add all PCI devices to all DUTs
50 | | And   Add No Multi Seg to all DUTs
51 | | And   Apply startup configuration on all VPP DUTs
52 | | And   IPv4 forwarding initialized in a 3-node circular topology
53 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
54 | | ...                                       | ${binary_max} | 3-node-IPv4
55 | | ...                                       | ${min_rate} | ${max_rate}
56 | | ...                                       | ${threshold}
57
58 | Find NDR by using RFC2544 binary search and 1518B frames through IPv4 forwarding in 3-node topology
59 | | [Documentation]
60 | | ... | Find throughput with non drop rate for 1518B frames by using
61 | | ... | binary search with threshold 10,000pps.
62 | | [Tags] | 1_THREAD_NOHTT_RSS_1 | SINGLE_THREAD
63 | | ${framesize}= | Set Variable | 1518
64 | | ${min_rate}= | Set Variable | 10000
65 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_1518B}
66 | | ${binary_min}= | Set Variable | ${min_rate}
67 | | ${binary_max}= | Set Variable | ${max_rate}
68 | | ${threshold}= | Set Variable | ${min_rate}
69 | | Given Add '1' worker threads and rss '1' without HTT to all DUTs
70 | | And   Add all PCI devices to all DUTs
71 | | And   Add No Multi Seg to all DUTs
72 | | And   Apply startup configuration on all VPP DUTs
73 | | And   IPv4 forwarding initialized in a 3-node circular topology
74 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
75 | | ...                                       | ${binary_max} | 3-node-IPv4
76 | | ...                                       | ${min_rate} | ${max_rate}
77 | | ...                                       | ${threshold}
78
79 | Find NDR by using RFC2544 binary search and 9000B frames through IPv4 forwarding in 3-node topology
80 | | [Documentation]
81 | | ... | Find throughput with non drop rate for 9000B frames by using
82 | | ... | binary search with threshold 5,000pps.
83 | | [Tags] | 1_THREAD_NOHTT_RSS_1 | SINGLE_THREAD
84 | | ${framesize}= | Set Variable | 9000
85 | | ${min_rate}= | Set Variable | 5000
86 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_9000B}
87 | | ${binary_min}= | Set Variable | ${min_rate}
88 | | ${binary_max}= | Set Variable | ${max_rate}
89 | | ${threshold}= | Set Variable | ${min_rate}
90 | | Given Add '1' worker threads and rss '1' without HTT to all DUTs
91 | | And   Add all PCI devices to all DUTs
92 | | And   Apply startup configuration on all VPP DUTs
93 | | And   IPv4 forwarding initialized in a 3-node circular topology
94 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
95 | | ...                                       | ${binary_max} | 3-node-IPv4
96 | | ...                                       | ${min_rate} | ${max_rate}
97 | | ...                                       | ${threshold}
98
99 | Find NDR with 2 cores and rss 1 by using RFC2544 binary search and 64B frames through IPv4 forwarding in 3-node topology
100 | | [Documentation]
101 | | ... | Find throughput on 2 cores with non drop rate for 64B frames by using
102 | | ... | binary search with threshold 0.1Mpps.
103 | | [Tags] | 2_THREAD_NOHTT_RSS_1 | MULTI_THREAD
104 | | ${framesize}= | Set Variable | 64
105 | | ${min_rate}= | Set Variable | 100000
106 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_64B}
107 | | ${binary_min}= | Set Variable | ${min_rate}
108 | | ${binary_max}= | Set Variable | ${max_rate}
109 | | ${threshold}= | Set Variable | ${min_rate}
110 | | Given Add '2' worker threads and rss '1' without HTT to all DUTs
111 | | And   Add all PCI devices to all DUTs
112 | | And   Add No Multi Seg to all DUTs
113 | | And   Apply startup configuration on all VPP DUTs
114 | | And   IPv4 forwarding initialized in a 3-node circular topology
115 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
116 | | ...                                       | ${binary_max} | 3-node-IPv4
117 | | ...                                       | ${min_rate} | ${max_rate}
118 | | ...                                       | ${threshold}
119
120 | Find NDR with 2 cores and rss 1 by using RFC2544 binary search and 1518B frames through IPv4 forwarding in 3-node topology
121 | | [Documentation]
122 | | ... | Find throughput on 2 cores with non drop rate for 1518B frames by
123 | | ... | using binary search with threshold 10,000pps.
124 | | [Tags] | 2_THREAD_NOHTT_RSS_1 | MULTI_THREAD
125 | | ${framesize}= | Set Variable | 1518
126 | | ${min_rate}= | Set Variable | 10000
127 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_1518B}
128 | | ${binary_min}= | Set Variable | ${min_rate}
129 | | ${binary_max}= | Set Variable | ${max_rate}
130 | | ${threshold}= | Set Variable | ${min_rate}
131 | | Given Add '2' worker threads and rss '1' without HTT to all DUTs
132 | | And   Add all PCI devices to all DUTs
133 | | And   Add No Multi Seg to all DUTs
134 | | And   Apply startup configuration on all VPP DUTs
135 | | And   IPv4 forwarding initialized in a 3-node circular topology
136 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
137 | | ...                                       | ${binary_max} | 3-node-IPv4
138 | | ...                                       | ${min_rate} | ${max_rate}
139 | | ...                                       | ${threshold}
140
141 | Find NDR with 2 cores and rss 1 by using RFC2544 binary search and 9000B frames through IPv4 forwarding in 3-node topology
142 | | [Documentation]
143 | | ... | Find throughput on 2 cores with non drop rate for 9000B frames by
144 | | ... | using binary search with threshold 5,000pps.
145 | | [Tags] | 2_THREAD_NOHTT_RSS_1 | MULTI_THREAD
146 | | ${framesize}= | Set Variable | 9000
147 | | ${min_rate}= | Set Variable | 5000
148 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_9000B}
149 | | ${binary_min}= | Set Variable | ${min_rate}
150 | | ${binary_max}= | Set Variable | ${max_rate}
151 | | ${threshold}= | Set Variable | ${min_rate}
152 | | Given Add '2' worker threads and rss '1' without HTT to all DUTs
153 | | And   Add all PCI devices to all DUTs
154 | | And   Apply startup configuration on all VPP DUTs
155 | | And   IPv4 forwarding initialized in a 3-node circular topology
156 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
157 | | ...                                       | ${binary_max} | 3-node-IPv4
158 | | ...                                       | ${min_rate} | ${max_rate}
159 | | ...                                       | ${threshold}
160
161 | Find NDR with 4 cores and rss 2 by using RFC2544 binary search and 64B frames through IPv4 forwarding in 3-node topology
162 | | [Documentation]
163 | | ... | Find throughput on 4 cores and rss 2 with non drop rate for 64B
164 | | ... | frames by using binary search with threshold 0.1Mpps.
165 | | [Tags] | 4_THREAD_NOHTT_RSS_2 | MULTI_THREAD
166 | | ${framesize}= | Set Variable | 64
167 | | ${min_rate}= | Set Variable | 100000
168 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_64B}
169 | | ${binary_min}= | Set Variable | ${min_rate}
170 | | ${binary_max}= | Set Variable | ${max_rate}
171 | | ${threshold}= | Set Variable | ${min_rate}
172 | | Given Add '4' worker threads and rss '2' without HTT to all DUTs
173 | | And   Add all PCI devices to all DUTs
174 | | And   Add No Multi Seg to all DUTs
175 | | And   Apply startup configuration on all VPP DUTs
176 | | And   IPv4 forwarding initialized in a 3-node circular topology
177 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
178 | | ...                                       | ${binary_max} | 3-node-IPv4
179 | | ...                                       | ${min_rate} | ${max_rate}
180 | | ...                                       | ${threshold}
181
182 | Find NDR with 4 cores and rss 2 by using RFC2544 binary search and 1518B frames through IPv4 forwarding in 3-node topology
183 | | [Documentation]
184 | | ... | Find throughput on 4 cores and rss 2 with non drop rate for 1518B
185 | | ... | frames by using binary search with threshold 10,000pps.
186 | | [Tags] | 4_THREAD_NOHTT_RSS_2 | MULTI_THREAD
187 | | ${framesize}= | Set Variable | 1518
188 | | ${min_rate}= | Set Variable | 10000
189 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_1518B}
190 | | ${binary_min}= | Set Variable | ${min_rate}
191 | | ${binary_max}= | Set Variable | ${max_rate}
192 | | ${threshold}= | Set Variable | ${min_rate}
193 | | Given Add '4' worker threads and rss '2' without HTT to all DUTs
194 | | And   Add all PCI devices to all DUTs
195 | | And   Add No Multi Seg to all DUTs
196 | | And   Apply startup configuration on all VPP DUTs
197 | | And   IPv4 forwarding initialized in a 3-node circular topology
198 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
199 | | ...                                       | ${binary_max} | 3-node-IPv4
200 | | ...                                       | ${min_rate} | ${max_rate}
201 | | ...                                       | ${threshold}
202
203 | Find NDR with 4 cores and rss 2 by using RFC2544 linear search and 9000B frames through IPv4 forwarding in 3-node topology
204 | | [Documentation]
205 | | ... | Find throughput on 4 cores and rss 2 with non drop rate for 9000B
206 | | ... | frames by using binary search with threshold 5,000pps.
207 | | [Tags] | 4_THREAD_NOHTT_RSS_2 | MULTI_THREAD
208 | | ${framesize}= | Set Variable | 9000
209 | | ${min_rate}= | Set Variable | 5000
210 | | ${max_rate}= | Set Variable | ${10Ge_linerate_pps_9000B}
211 | | ${binary_min}= | Set Variable | ${min_rate}
212 | | ${binary_max}= | Set Variable | ${max_rate}
213 | | ${threshold}= | Set Variable | ${min_rate}
214 | | Given Add '4' worker threads and rss '2' without HTT to all DUTs
215 | | And   Add all PCI devices to all DUTs
216 | | And   Apply startup configuration on all VPP DUTs
217 | | And   IPv4 forwarding initialized in a 3-node circular topology
218 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
219 | | ...                                       | ${binary_max} | 3-node-IPv4
220 | | ...                                       | ${min_rate} | ${max_rate}
221 | | ...                                       | ${threshold}
222