CSIT-501: Perf tests re-tagging
[csit.git] / tests / perf / 10ge2p1x520-eth-l2xcbase-ndrchk.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.InterfaceUtil
17 | Library | resources.libraries.python.NodePath
18 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | NDRCHK
19 | ...        | NIC_Intel-X520-DA2 | ETH | L2XCFWD | BASE
20 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
21 | ... | L2 | Intel-X520-DA2
22 | Suite Teardown | 3-node Performance Suite Teardown
23 | Test Setup | Setup all DUTs before test
24 | Test Teardown | Run Keywords | Remove startup configuration of VPP from all DUTs
25 | ...           | AND          | Show vpp trace dump on all DUTs
26 | Documentation | *Reference NDR throughput L2XC verify test cases*
27 | ...
28 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology
29 | ... | with single links between nodes.
30 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4 for L2 cross connect.
31 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with L2 cross-
32 | ... | connect. DUT1 and DUT2 tested with 2p10GE NIC X520 Niantic by Intel.
33 | ... | *[Ver] TG verification:* In short performance tests, TG verifies
34 | ... | DUTs' throughput at ref-NDR (reference Non Drop Rate) with zero packet
35 | ... | loss tolerance. Ref-NDR value is periodically updated acording to
36 | ... | formula: ref-NDR = 0.9x NDR, where NDR is found in RFC2544 long
37 | ... | performance tests for the same DUT configuration. Test packets are
38 | ... | generated by TG on links to DUTs. TG traffic profile contains two L3
39 | ... | flow-groups (flow-group per direction, 253 flows per flow-group) with
40 | ... | all packets containing Ethernet header, IPv4 header with IP protocol=61
41 | ... | and static payload. MAC addresses are matching MAC addresses of the
42 | ... | TG node interfaces.
43 | ... | *[Ref] Applicable standard specifications:* RFC2544.
44
45 *** Test Cases ***
46 | TC01: Verify 64B ref-NDR at 2x 3.6Mpps - DUT L2XC - 1thread 1core 1rxq
47 | | [Documentation]
48 | | ... | [Cfg] DUT runs L2XC config with 1 thread, 1 phy core, \
49 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 64 Byte
50 | | ... | frames using single trial throughput test.
51 | | [Tags] | 1T1C | STHREAD
52 | | ${framesize}= | Set Variable | 64
53 | | ${duration}= | Set Variable | 10
54 | | ${rate}= | Set Variable | 3.6mpps
55 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
56 | | And   Add PCI devices to DUTs from 3-node single link topology
57 | | And   Add No Multi Seg to all DUTs
58 | | And   Apply startup configuration on all VPP DUTs
59 | | And   L2 xconnect initialized in a 3-node circular topology
60 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
61 | | ...                                    | ${framesize} | 3-node-xconnect
62
63 | TC02: Verify 1518B ref-NDR at 2x 812.74kpps - DUT L2XC - 1thread 1core 1rxq
64 | | [Documentation]
65 | | ... | [Cfg] DUT runs L2XC config with 1 thread, 1 phy core, \
66 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 1518 Byte
67 | | ... | frames using single trial throughput test.
68 | | [Tags] | 1T1C | STHREAD
69 | | ${framesize}= | Set Variable | 1518
70 | | ${duration}= | Set Variable | 10
71 | | ${rate}= | Set Variable | 812743pps
72 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
73 | | And   Add PCI devices to DUTs from 3-node single link topology
74 | | And   Add No Multi Seg to all DUTs
75 | | And   Apply startup configuration on all VPP DUTs
76 | | And   L2 xconnect initialized in a 3-node circular topology
77 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
78 | | ...                                    | ${framesize} | 3-node-xconnect
79
80 | TC03: Verify 9000B ref-NDR at 2x 138.58kpps - DUT L2XC - 1thread 1core 1rxq
81 | | [Documentation]
82 | | ... | [Cfg] DUT runs L2XC config with 1 thread, 1 phy core, \
83 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 9000 Byte
84 | | ... | frames using single trial throughput test.
85 | | [Tags] | 1T1C | STHREAD
86 | | ${framesize}= | Set Variable | 9000
87 | | ${duration}= | Set Variable | 10
88 | | ${rate}= | Set Variable | 138580pps
89 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
90 | | And   Add PCI devices to DUTs from 3-node single link topology
91 | | And   Apply startup configuration on all VPP DUTs
92 | | And   L2 xconnect initialized in a 3-node circular topology
93 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
94 | | ...                                    | ${framesize} | 3-node-xconnect
95
96 | TC04: Verify 64B ref-NDR at 2x 8.3Mpps - DUT L2XC - 2thread 2core 1rxq
97 | | [Documentation]
98 | | ... | [Cfg] DUT runs L2XC config with 2 threads, 2 phy cores, \
99 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 64 Byte
100 | | ... | frames using single trial throughput test.
101 | | [Tags] | 2T2C | MTHREAD
102 | | ${framesize}= | Set Variable | 64
103 | | ${duration}= | Set Variable | 10
104 | | ${rate}= | Set Variable | 8.3mpps
105 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
106 | | And   Add PCI devices to DUTs from 3-node single link topology
107 | | And   Add No Multi Seg to all DUTs
108 | | And   Apply startup configuration on all VPP DUTs
109 | | And   L2 xconnect initialized in a 3-node circular topology
110 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
111 | | ...                                    | ${framesize} | 3-node-xconnect
112
113 | TC05: Verify 1518B ref-NDR at 2x 812.43kpps - DUT L2XC - 2thread 2core 1rxq
114 | | [Documentation]
115 | | ... | [Cfg] DUT runs L2XC config with 2 threads, 2 phy cores, \
116 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 1518 Byte
117 | | ... | frames using single trial throughput test.
118 | | [Tags] | 2T2C | MTHREAD
119 | | ${framesize}= | Set Variable | 1518
120 | | ${duration}= | Set Variable | 10
121 | | ${rate}= | Set Variable | 812743pps
122 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
123 | | And   Add PCI devices to DUTs from 3-node single link topology
124 | | And   Add No Multi Seg to all DUTs
125 | | And   Apply startup configuration on all VPP DUTs
126 | | And   L2 xconnect initialized in a 3-node circular topology
127 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
128 | | ...                                    | ${framesize} | 3-node-xconnect
129
130 | TC06: Verify 9000B ref-NDR at 2x 138.58kpps - DUT L2XC - 2thread 2core 1rxq
131 | | [Documentation]
132 | | ... | [Cfg] DUT runs L2XC config with 2 threads, 2 phy cores, \
133 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 9000 Byte
134 | | ... | frames using single trial throughput test.
135 | | [Tags] | 2T2C | MTHREAD
136 | | ${framesize}= | Set Variable | 9000
137 | | ${duration}= | Set Variable | 10
138 | | ${rate}= | Set Variable | 138580pps
139 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
140 | | And   Add PCI devices to DUTs from 3-node single link topology
141 | | And   Apply startup configuration on all VPP DUTs
142 | | And   L2 xconnect initialized in a 3-node circular topology
143 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
144 | | ...                                    | ${framesize} | 3-node-xconnect
145
146 | TC07: Verify 64B ref-NDR at 2x 9.3Mpps - DUT L2XC - 4thread 4core 2rxq
147 | | [Documentation]
148 | | ... | [Cfg] DUT runs L2XC config with 4 threads, 4 phy cores, \
149 | | ... | 2 receive queues per NIC port. [Ver] Verify ref-NDR for 64 Byte
150 | | ... | frames using single trial throughput test.
151 | | [Tags] | 4T4C | MTHREAD
152 | | ${framesize}= | Set Variable | 64
153 | | ${duration}= | Set Variable | 10
154 | | ${rate}= | Set Variable | 9.3mpps
155 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
156 | | And   Add PCI devices to DUTs from 3-node single link topology
157 | | And   Add No Multi Seg to all DUTs
158 | | And   Apply startup configuration on all VPP DUTs
159 | | And   L2 xconnect initialized in a 3-node circular topology
160 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
161 | | ...                                    | ${framesize} | 3-node-xconnect
162
163 | TC08: Verify 1518B ref-NDR at 2x 812.74kpps - DUT L2XC - 4thread 4core 2rxq
164 | | [Documentation]
165 | | ... | [Cfg] DUT runs L2XC config with 4 threads, 4 phy cores, \
166 | | ... | 2 receive queues per NIC port. [Ver] Verify ref-NDR for 1518 Byte
167 | | ... | frames using single trial throughput test.
168 | | [Tags] | 4T4C | MTHREAD
169 | | ${framesize}= | Set Variable | 1518
170 | | ${duration}= | Set Variable | 10
171 | | ${rate}= | Set Variable | 812743pps
172 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
173 | | And   Add PCI devices to DUTs from 3-node single link topology
174 | | And   Add No Multi Seg to all DUTs
175 | | And   Apply startup configuration on all VPP DUTs
176 | | And   L2 xconnect initialized in a 3-node circular topology
177 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
178 | | ...                                    | ${framesize} | 3-node-xconnect
179
180 | TC09: Verify 9000B ref-NDR at 2x 138.58kpps - DUT L2XC - 4thread 4core 2rxq
181 | | [Documentation]
182 | | ... | [Cfg] DUT runs L2XC config with 4 threads, 4 phy cores, \
183 | | ... | 2 receive queues per NIC port. [Ver] Verify ref-NDR for 9000 Byte
184 | | ... | frames using single trial throughput test.
185 | | [Tags] | 4T4C | MTHREAD
186 | | ${framesize}= | Set Variable | 9000
187 | | ${duration}= | Set Variable | 10
188 | | ${rate}= | Set Variable | 138580pps
189 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
190 | | And   Add PCI devices to DUTs from 3-node single link topology
191 | | And   Apply startup configuration on all VPP DUTs
192 | | And   L2 xconnect initialized in a 3-node circular topology
193 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
194 | | ...                                    | ${framesize} | 3-node-xconnect