Adjust short test treshold based on latest results
[csit.git] / tests / suites / performance / Short_IPv6_Cop_Intel-X520-DA2.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.Cop
17 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | PERFTEST_SHORT
18 | ...        | NIC_Intel-X520-DA2
19 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
20 | ... | L3 | Intel-X520-DA2
21 | Suite Teardown | 3-node Performance Suite Teardown
22 | Test Setup | Setup all DUTs before test
23 | Test Teardown | Run Keyword | Remove startup configuration of VPP from all DUTs
24 | Documentation | Minimal throughput acceptance test cases
25
26 *** Test Cases ***
27 | 1core VPP passes 78B frames through IPv6 forwarding with COP at 2x 2.8Mpps in 3-node topology
28 | | [Documentation]
29 | | ... | VPP with 1 core should pass 78B frames through IPv6 forwarding
30 | | ... | at 2x 2.8Mpps in 3-node topology with COP.
31 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
32 | | ${framesize}= | Set Variable | 78
33 | | ${duration}= | Set Variable | 10
34 | | ${rate}= | Set Variable | 2.8mpps
35 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
36 | | And   Add all PCI devices to all DUTs
37 | | And   Add No Multi Seg to all DUTs
38 | | And   Apply startup configuration on all VPP DUTs
39 | | When  IPv6 forwarding initialized in a 3-node circular topology
40 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
41 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
42 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
43 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
44 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
45 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
46 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
47 | | ...                                    | ${framesize} | 3-node-IPv6
48
49 | 1core VPP passes 1518B frames through IPv6 forwarding with COP at 2x 812,743pps in 3-node topology
50 | | [Documentation]
51 | | ... | VPP with 1 core should pass 1518B frames through IPv6 forwarding
52 | | ... | at 2x 812,743pps (2x 10Gbps) in 3-node topology with COP.
53 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
54 | | ${framesize}= | Set Variable | 1518
55 | | ${duration}= | Set Variable | 10
56 | | ${rate}= | Set Variable | 812743pps
57 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
58 | | And   Add all PCI devices to all DUTs
59 | | And   Add No Multi Seg to all DUTs
60 | | And   Apply startup configuration on all VPP DUTs
61 | | When  IPv6 forwarding initialized in a 3-node circular topology
62 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
63 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
64 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
65 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
66 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
67 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
68 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
69 | | ...                                    | ${framesize} | 3-node-IPv6
70
71 | 1core VPP passes 9000B frames through IPv6 forwarding with COP at 2x 138,580pps in 3-node topology
72 | | [Documentation]
73 | | ... | VPP with 1 core should pass 9000B frames through IPv6 forwarding
74 | | ... | at 2x138,580pps (2x 10Gbps) in 3-node topology with COP.
75 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
76 | | ${framesize}= | Set Variable | 9000
77 | | ${duration}= | Set Variable | 10
78 | | ${rate}= | Set Variable | 138580pps
79 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
80 | | And   Add all PCI devices to all DUTs
81 | | And   Apply startup configuration on all VPP DUTs
82 | | When  IPv6 forwarding initialized in a 3-node circular topology
83 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
84 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
85 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
86 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
87 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
88 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
89 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
90 | | ...                                    | ${framesize} | 3-node-IPv6
91
92 | 2core VPP with rxqueues 1 passes 78B frames through IPv6 forwarding with COP at 2x 4.9Mpps in 3-node topology
93 | | [Documentation]
94 | | ... | VPP with 2 cores should pass 78B frames through IPv6 forwarding
95 | | ... | at 2x 4.9Mpps in 3-node topology with COP.
96 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
97 | | ${framesize}= | Set Variable | 78
98 | | ${duration}= | Set Variable | 10
99 | | ${rate}= | Set Variable | 4.9mpps
100 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
101 | | And   Add all PCI devices to all DUTs
102 | | And   Add No Multi Seg to all DUTs
103 | | And   Apply startup configuration on all VPP DUTs
104 | | When  IPv6 forwarding initialized in a 3-node circular topology
105 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
106 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
107 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
108 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
109 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
110 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
111 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
112 | | ...                                    | ${framesize} | 3-node-IPv6
113
114 | 2core VPP with rxqueues 1 passes 1518B frames through IPv6 forwarding with COP at 2x 812,743pps in 3-node topology
115 | | [Documentation]
116 | | ... | VPP with 2 cores should pass 1518B frames through IPv6 forwarding
117 | | ... | at 2x 812,743pps (2x 10Gbps) in 3-node topology with COP.
118 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
119 | | ${framesize}= | Set Variable | 1518
120 | | ${duration}= | Set Variable | 10
121 | | ${rate}= | Set Variable | 812743pps
122 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
123 | | And   Add all PCI devices to all DUTs
124 | | And   Add No Multi Seg to all DUTs
125 | | And   Apply startup configuration on all VPP DUTs
126 | | When  IPv6 forwarding initialized in a 3-node circular topology
127 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
128 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
129 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
130 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
131 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
132 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
133 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
134 | | ...                                    | ${framesize} | 3-node-IPv6
135
136 | 2core VPP with rxqueues 1 passes 9000B frames through IPv6 forwarding with COP at 2x 138,580pps in 3-node topology
137 | | [Documentation]
138 | | ... | VPP with 2 cores should pass 9000B frames through IPv6 forwarding
139 | | ... | at 2x 138,580pps (2x 10Gbps) in 3-node topology with COP.
140 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
141 | | ${framesize}= | Set Variable | 9000
142 | | ${duration}= | Set Variable | 10
143 | | ${rate}= | Set Variable | 138580pps
144 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
145 | | And   Add all PCI devices to all DUTs
146 | | And   Apply startup configuration on all VPP DUTs
147 | | When  IPv6 forwarding initialized in a 3-node circular topology
148 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
149 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
150 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
151 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
152 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
153 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
154 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
155 | | ...                                    | ${framesize} | 3-node-IPv6
156
157 | 4core VPP with rxqueues 2 passes 78B frames through IPv6 forwarding with COP at 2x 10.1Mpps in 3-node topology
158 | | [Documentation]
159 | | ... | VPP with 4 cores and rxqueues 2 should pass 78B frames through IPv6
160 | | ... | forwarding at 2x 10.1Mpps in 3-node topology with COP.
161 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
162 | | ${framesize}= | Set Variable | 78
163 | | ${duration}= | Set Variable | 10
164 | | ${rate}= | Set Variable | 10.1mpps
165 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
166 | | And   Add all PCI devices to all DUTs
167 | | And   Add No Multi Seg to all DUTs
168 | | And   Apply startup configuration on all VPP DUTs
169 | | When  IPv6 forwarding initialized in a 3-node circular topology
170 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
171 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
172 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
173 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
174 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
175 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
176 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
177 | | ...                                    | ${framesize} | 3-node-IPv6
178
179 | 4core VPP with rxqueues 2 passes 1518B frames through IPv6 forwarding with COP at 2x 812,743pps in 3-node topology
180 | | [Documentation]
181 | | ... | VPP with 4 cores and rxqueues 2 should pass 1518B frames through IPv6
182 | | ... | forwarding at 2x 812,743pps (2x 10Gbps) in 3-node topology with COP.
183 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
184 | | ${framesize}= | Set Variable | 1518
185 | | ${duration}= | Set Variable | 10
186 | | ${rate}= | Set Variable | 812743pps
187 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
188 | | And   Add all PCI devices to all DUTs
189 | | And   Add No Multi Seg to all DUTs
190 | | And   Apply startup configuration on all VPP DUTs
191 | | When  IPv6 forwarding initialized in a 3-node circular topology
192 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
193 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
194 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
195 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
196 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
197 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
198 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
199 | | ...                                    | ${framesize} | 3-node-IPv6
200
201 | 4core VPP with rxqueues 2 passes 9000B frames through IPv6 forwarding with COP at 2x 138,580pps in 3-node topology
202 | | [Documentation]
203 | | ... | VPP with 4 cores and rxqueues 2 should pass 9000B frames through IPv6
204 | | ... | forwarding at 2x 138,580pps (2x 10Gbps) in 3-node topology with COP.
205 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
206 | | ${framesize}= | Set Variable | 9000
207 | | ${duration}= | Set Variable | 10
208 | | ${rate}= | Set Variable | 138580pps
209 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
210 | | And   Add all PCI devices to all DUTs
211 | | And   Apply startup configuration on all VPP DUTs
212 | | When  IPv6 forwarding initialized in a 3-node circular topology
213 | | And   Add fib table | ${dut1} | 2001:1:: | 64 | 1 | local
214 | | And   Add fib table | ${dut2} | 2001:2:: | 64 | 1 | local
215 | | And   COP Add whitelist Entry | ${dut1} | ${dut1_if1} | ip6 | 1
216 | | And   COP Add whitelist Entry | ${dut2} | ${dut2_if2} | ip6 | 1
217 | | And   COP interface enable or disable | ${dut1} | ${dut1_if1} | enable
218 | | And   COP interface enable or disable | ${dut2} | ${dut2_if2} | enable
219 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
220 | | ...                                    | ${framesize} | 3-node-IPv6