HC Test: Fix log archiving in honeycomb tests
[csit.git] / tests / perf / Short_IPv4_Policer_Intel-X520-DA2.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.Policer
17 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT1']} | WITH NAME | dut1_v4
18 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT2']} | WITH NAME | dut2_v4
19 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | PERFTEST_SHORT
20 | ...        | NIC_Intel-X520-DA2
21 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
22 | ... | L3 | Intel-X520-DA2
23 | Suite Teardown | 3-node Performance Suite Teardown
24 | Test Setup | Setup all DUTs before test
25 | Test Teardown | Run Keywords | Remove startup configuration of VPP from all DUTs
26 | ...           | AND          | Show vpp trace dump on all DUTs
27 | Documentation | *Reference NDR throughput IPv4 policer verify test cases*
28 | ...
29 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology
30 | ... | with single links between nodes.
31 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4 for IPv4 routing.
32 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with IPv4
33 | ... | routing and two static IPv4 /24 route entries and policer with 2R3C
34 | ... | color-aware configuration. Policer is applied on links TG - DUT1 and
35 | ... | DUT2 - TG. DUT1 and DUT2 tested with 2p10GE NIC X520 Niantic by Intel.
36 | ... | *[Ver] TG verification:* In short performance tests, TG verifies
37 | ... | DUTs' throughput at ref-NDR (reference Non Drop Rate) with zero packet
38 | ... | loss tolerance. Ref-NDR value is periodically updated acording to
39 | ... | formula: ref-NDR = 0.9x NDR, where NDR is found in RFC2544 long
40 | ... | performance tests for the same DUT configuration. Test packets are
41 | ... | generated by TG on links to DUTs. TG traffic profile contains two L3
42 | ... | flow-groups (flow-group per direction, 253 flows per flow-group) with
43 | ... | all packets containing Ethernet header, IPv4 header with IP protocol=61
44 | ... | and static payload. MAC addresses are matching MAC addresses of the
45 | ... | TG node interfaces.
46 | ... | *[Ref] Applicable standard specifications:* RFC2544, RFC2698.
47
48 *** Variables ***
49 | ${cir}= | ${100}
50 | ${eir}= | ${150}
51
52 *** Test Cases ***
53 | TC01: Verify 64B ref-NDR at 2x 3.1Mpps - DUT IPv4 2r3c-ca policer - 1thread 1core 1rxq
54 | | [Documentation]
55 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 1 thread, 1 phy \
56 | | ... | core, 1 receive queue per NIC port. [Ver] Verify ref-NDR for 64 \
57 | | ... | Byte frames using single trial throughput test.
58 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
59 | | ${framesize}= | Set Variable | 64
60 | | ${duration}= | Set Variable | 10
61 | | ${rate}= | Set Variable | 3.1mpps
62 | | Set Test Variable | ${cb} | ${framesize}
63 | | Set Test Variable | ${eb} | ${framesize}
64 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
65 | | And   Add PCI devices to DUTs from 3-node single link topology
66 | | And   Add No Multi Seg to all DUTs
67 | | And   Apply startup configuration on all VPP DUTs
68 | | And   IPv4 forwarding initialized in a 3-node circular topology
69 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
70 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
71 | | ...                                    | ${framesize} | 3-node-IPv4
72
73 | TC02: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 2r3c-ca policer - 1thread 1core 1rxq
74 | | [Documentation]
75 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 1 thread, 1 phy \
76 | | ... | core, 1 receive queue per NIC port. [Ver] Verify ref-NDR for 1518 \
77 | | ... | Byte frames using single trial throughput test.
78 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
79 | | ${framesize}= | Set Variable | 1518
80 | | ${duration}= | Set Variable | 10
81 | | ${rate}= | Set Variable | 812743pps
82 | | Set Test Variable | ${cb} | ${framesize}
83 | | Set Test Variable | ${eb} | ${framesize}
84 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
85 | | And   Add PCI devices to DUTs from 3-node single link topology
86 | | And   Add No Multi Seg to all DUTs
87 | | And   Apply startup configuration on all VPP DUTs
88 | | When  IPv4 forwarding initialized in a 3-node circular topology
89 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
90 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
91 | | ...                                    | ${framesize} | 3-node-IPv4
92
93 | TC03: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 2r3c-ca policer - 1thread 1core 1rxq
94 | | [Documentation]
95 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 1 thread, 1 phy \
96 | | ... | core, 1 receive queue per NIC port. [Ver] Verify ref-NDR for 9000 \
97 | | ... | Byte frames using single trial throughput test.
98 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
99 | | ${framesize}= | Set Variable | 9000
100 | | ${duration}= | Set Variable | 10
101 | | ${rate}= | Set Variable | 138580pps
102 | | Set Test Variable | ${cb} | ${framesize}
103 | | Set Test Variable | ${eb} | ${framesize}
104 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
105 | | And   Add PCI devices to DUTs from 3-node single link topology
106 | | And   Apply startup configuration on all VPP DUTs
107 | | And   IPv4 forwarding initialized in a 3-node circular topology
108 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
109 | | Then Traffic should pass with no loss | ${duration} | ${rate}
110 | | ...                                   | ${framesize} | 3-node-IPv4
111
112 | TC04: Verify 64B ref-NDR at 2x 5.6Mpps - DUT IPv4 2r3c-ca policer - 2thread 2core 1rxq
113 | | [Documentation]
114 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 2 threads, 2 \
115 | | ... | phy cores, 1 receive queue per NIC port. [Ver] Verify ref-NDR for \
116 | | ... | 64 Byte frames using single trial throughput test.
117 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
118 | | ${framesize}= | Set Variable | 64
119 | | ${duration}= | Set Variable | 10
120 | | ${rate}= | Set Variable | 5.6mpps
121 | | Set Test Variable | ${cb} | ${framesize}
122 | | Set Test Variable | ${eb} | ${framesize}
123 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
124 | | And   Add PCI devices to DUTs from 3-node single link topology
125 | | And   Add No Multi Seg to all DUTs
126 | | And   Apply startup configuration on all VPP DUTs
127 | | And   IPv4 forwarding initialized in a 3-node circular topology
128 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
129 | | Then Traffic should pass with no loss | ${duration} | ${rate}
130 | | ...                                   | ${framesize} | 3-node-IPv4
131
132 | TC05: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 2r3c-ca policer - 2thread 2core 1rxq
133 | | [Documentation]
134 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 2 threads, 2 \
135 | | ... | phy cores, 1 receive queue per NIC port. [Ver] Verify ref-NDR for \
136 | | ... | 1518 Byte frames using single trial throughput test.
137 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
138 | | ${framesize}= | Set Variable | 1518
139 | | ${duration}= | Set Variable | 10
140 | | ${rate}= | Set Variable | 812743pps
141 | | Set Test Variable | ${cb} | ${framesize}
142 | | Set Test Variable | ${eb} | ${framesize}
143 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
144 | | And   Add PCI devices to DUTs from 3-node single link topology
145 | | And   Add No Multi Seg to all DUTs
146 | | And   Apply startup configuration on all VPP DUTs
147 | | And   IPv4 forwarding initialized in a 3-node circular topology
148 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
149 | | Then Traffic should pass with no loss | ${duration} | ${rate}
150 | | ...                                   | ${framesize} | 3-node-IPv4
151
152 | TC06: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 2r3c-ca policer - 2thread 2core 1rxq
153 | | [Documentation]
154 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 2 threads, 2 \
155 | | ... | phy cores, 1 receive queue per NIC port. [Ver] Verify ref-NDR for \
156 | | ... | 9000 Byte frames using single trial throughput test.
157 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
158 | | ${framesize}= | Set Variable | 9000
159 | | ${duration}= | Set Variable | 10
160 | | ${rate}= | Set Variable | 138580pps
161 | | Set Test Variable | ${cb} | ${framesize}
162 | | Set Test Variable | ${eb} | ${framesize}
163 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
164 | | And   Add PCI devices to DUTs from 3-node single link topology
165 | | And   Apply startup configuration on all VPP DUTs
166 | | And   IPv4 forwarding initialized in a 3-node circular topology
167 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
168 | | Then Traffic should pass with no loss | ${duration} | ${rate}
169 | | ...                                   | ${framesize} | 3-node-IPv4
170
171 | TC07: Verify 64B ref-NDR at 2x 8.9Mpps - DUT IPv4 2r3c-ca policer - 4threads 4cores 2rxq
172 | | [Documentation]
173 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 4 thread, 4 \
174 | | ... | phy core, 2 receive queue per NIC port. [Ver] Verify ref-NDR for 64 \
175 | | ... | Byte frames using single trial throughput test.
176 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
177 | | ${framesize}= | Set Variable | 64
178 | | ${duration}= | Set Variable | 10
179 | | ${rate}= | Set Variable | 8.9mpps
180 | | Set Test Variable | ${cb} | ${framesize}
181 | | Set Test Variable | ${eb} | ${framesize}
182 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
183 | | And   Add PCI devices to DUTs from 3-node single link topology
184 | | And   Add No Multi Seg to all DUTs
185 | | And   Apply startup configuration on all VPP DUTs
186 | | And   IPv4 forwarding initialized in a 3-node circular topology
187 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
188 | | Then Traffic should pass with no loss | ${duration} | ${rate}
189 | | ...                                   | ${framesize} | 3-node-IPv4
190
191 | TC08: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 2r3c-ca policer - 4threads 4cores 2rxq
192 | | [Documentation]
193 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 4 thread, 4 \
194 | | ... | phy core, 2 receive queue per NIC port. [Ver] Verify ref-NDR for \
195 | | ... | 1518 Byte frames using single trial throughput test.
196 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
197 | | ${framesize}= | Set Variable | 1518
198 | | ${duration}= | Set Variable | 10
199 | | ${rate}= | Set Variable | 812743pps
200 | | Set Test Variable | ${cb} | ${framesize}
201 | | Set Test Variable | ${eb} | ${framesize}
202 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
203 | | And   Add PCI devices to DUTs from 3-node single link topology
204 | | And   Add No Multi Seg to all DUTs
205 | | And   Apply startup configuration on all VPP DUTs
206 | | And   IPv4 forwarding initialized in a 3-node circular topology
207 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
208 | | Then Traffic should pass with no loss | ${duration} | ${rate}
209 | | ...                                   | ${framesize} | 3-node-IPv4
210
211 | TC09: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 2r3c-ca policer - 4threads 4cores 2rxq
212 | | [Documentation]
213 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 4 thread, 4 \
214 | | ... | phy core, 2 receive queue per NIC port. [Ver] Verify ref-NDR for \
215 | | ... | 9000 Byte frames using single trial throughput test.
216 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
217 | | ${framesize}= | Set Variable | 9000
218 | | ${duration}= | Set Variable | 10
219 | | ${rate}= | Set Variable | 138580pps
220 | | Set Test Variable | ${cb} | ${framesize}
221 | | Set Test Variable | ${eb} | ${framesize}
222 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
223 | | And   Add PCI devices to DUTs from 3-node single link topology
224 | | And   Apply startup configuration on all VPP DUTs
225 | | And   IPv4 forwarding initialized in a 3-node circular topology
226 | | And   IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
227 | | Then Traffic should pass with no loss | ${duration} | ${rate}
228 | | ...                                   | ${framesize} | 3-node-IPv4