698197fef0fdf04bc8bddf935459ac0d94575a79
[csit.git] / tests / suites / performance / Short_IPv4_Intel-X520-DA2.robot
1 # Copyright (c) 2016 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.topology.Topology
17 | Library | resources.libraries.python.NodePath
18 | Library | resources.libraries.python.InterfaceUtil
19 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT1']} | WITH NAME | dut1_v4
20 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT2']} | WITH NAME | dut2_v4
21 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | PERFTEST_SHORT
22 | ...        | NIC_Intel-X520-DA2
23 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
24 | ... | L3 | Intel-X520-DA2
25 | Suite Teardown | 3-node Performance Suite Teardown
26 | Test Setup | Setup all DUTs before test
27 | Test Teardown | Run Keywords | Remove startup configuration of VPP from all DUTs
28 | ...           | AND          | Show vpp trace dump on all DUTs
29 | Documentation | *Reference NDR throughput IPv4 routing verify test cases*
30 | ...
31 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology
32 | ... | with single links between nodes.
33 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4 for IPv4 routing.
34 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with IPv4
35 | ... | routing and two static IPv4 /24 route entries. DUT1 and DUT2 tested with
36 | ... | 2p10GE NIC X520 Niantic by Intel.
37 | ... | *[Ver] TG verification:* In short performance tests, TG verifies
38 | ... | DUTs' throughput at ref-NDR (reference Non Drop Rate) with zero packet
39 | ... | loss tolerance. Ref-NDR value is periodically updated acording to
40 | ... | formula: ref-NDR = 0.9x NDR, where NDR is found in RFC2544 long
41 | ... | performance tests for the same DUT confiiguration. Test packets are
42 | ... | generated by TG on links to DUTs. TG traffic profile contains two L3
43 | ... | flow-groups (flow-group per direction, 253 flows per flow-group) with
44 | ... | all packets containing Ethernet header, IPv4 header with IP protocol=61
45 | ... | and generated payload.
46 | ... | *[Ref] Applicable standard specifications:* RFC2544.
47
48 *** Test Cases ***
49 | TC01: Verify 64B ref-NDR at 2x 3.5Mpps - DUT IPv4 - 1thread 1core 1rxq
50 | | [Documentation]
51 | | ... | [Cfg] DUT runs IPv4 routing config with 1 thread, 1 phy core, \
52 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 64 Byte
53 | | ... | frames using single trial throughput test.
54 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
55 | | ${framesize}= | Set Variable | 64
56 | | ${duration}= | Set Variable | 10
57 | | ${rate}= | Set Variable | 3.5mpps
58 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
59 | | And   Add all PCI devices to all DUTs
60 | | And   Add No Multi Seg to all DUTs
61 | | And   Apply startup configuration on all VPP DUTs
62 | | And   IPv4 forwarding initialized in a 3-node circular topology
63 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
64 | | ...                                    | ${framesize} | 3-node-IPv4
65
66 | TC02: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 - 1thread 1core 1rxq
67 | | [Documentation]
68 | | ... | [Cfg] DUT runs IPv4 routing config with 1 thread, 1 phy core, \
69 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 1518 Byte
70 | | ... | frames using single trial throughput test.
71 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
72 | | ${framesize}= | Set Variable | 1518
73 | | ${duration}= | Set Variable | 10
74 | | ${rate}= | Set Variable | 812743pps
75 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
76 | | And   Add all PCI devices to all DUTs
77 | | And   Add No Multi Seg to all DUTs
78 | | And   Apply startup configuration on all VPP DUTs
79 | | And   IPv4 forwarding initialized in a 3-node circular topology
80 | | Then  Traffic should pass with no loss | ${duration} | ${rate}
81 | | ...                                    | ${framesize} | 3-node-IPv4
82
83 | TC03: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 - 1thread 1core 1rxq
84 | | [Documentation]
85 | | ... | [Cfg] DUT runs IPv4 routing config with 1 thread, 1 phy core, \
86 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 9000 Byte
87 | | ... | frames using single trial throughput test.
88 | | [Tags] | 1_THREAD_NOHTT_RXQUEUES_1 | SINGLE_THREAD | NDR
89 | | ${framesize}= | Set Variable | 9000
90 | | ${duration}= | Set Variable | 10
91 | | ${rate}= | Set Variable | 138580pps
92 | | Given Add '1' worker threads and rxqueues '1' without HTT to all DUTs
93 | | And   Add all PCI devices to all DUTs
94 | | And   Apply startup configuration on all VPP DUTs
95 | | And   IPv4 forwarding initialized in a 3-node circular topology
96 | | Then Traffic should pass with no loss | ${duration} | ${rate}
97 | | ...                                   | ${framesize} | 3-node-IPv4
98
99 | TC04: Verify 64B ref-NDR at 2x 7.5Mpps - DUT IPv4 - 2threads, 2cores, 1rxq
100 | | [Documentation]
101 | | ... | [Cfg] DUT runs IPv4 routing config with 2 threads, 2 phy cores, \
102 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 64 Byte
103 | | ... | frames using single trial throughput test.
104 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
105 | | ${framesize}= | Set Variable | 64
106 | | ${duration}= | Set Variable | 10
107 | | ${rate}= | Set Variable | 7.5mpps
108 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
109 | | And   Add all PCI devices to all DUTs
110 | | And   Add No Multi Seg to all DUTs
111 | | And   Apply startup configuration on all VPP DUTs
112 | | And   IPv4 forwarding initialized in a 3-node circular topology
113 | | Then Traffic should pass with no loss | ${duration} | ${rate}
114 | | ...                                   | ${framesize} | 3-node-IPv4
115
116 | TC05: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 - 2threads, 2cores, 1rxq
117 | | [Documentation]
118 | | ... | [Cfg] DUT runs IPv4 routing config with 2 threads, 2 phy cores, \
119 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 1518 Byte
120 | | ... | frames using single trial throughput test.
121 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
122 | | ${framesize}= | Set Variable | 1518
123 | | ${duration}= | Set Variable | 10
124 | | ${rate}= | Set Variable | 812743pps
125 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
126 | | And   Add all PCI devices to all DUTs
127 | | And   Add No Multi Seg to all DUTs
128 | | And   Apply startup configuration on all VPP DUTs
129 | | And   IPv4 forwarding initialized in a 3-node circular topology
130 | | Then Traffic should pass with no loss | ${duration} | ${rate}
131 | | ...                                   | ${framesize} | 3-node-IPv4
132
133 | TC06: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 - 2threads, 2cores, 1rxq
134 | | [Documentation]
135 | | ... | [Cfg] DUT runs IPv4 routing config with 2 threads, 2 phy cores, \
136 | | ... | 1 receive queue per NIC port. [Ver] Verify ref-NDR for 9000 Byte
137 | | ... | frames using single trial throughput test.
138 | | [Tags] | 2_THREAD_NOHTT_RXQUEUES_1 | MULTI_THREAD | NDR
139 | | ${framesize}= | Set Variable | 9000
140 | | ${duration}= | Set Variable | 10
141 | | ${rate}= | Set Variable | 138580pps
142 | | Given Add '2' worker threads and rxqueues '1' without HTT to all DUTs
143 | | And   Add all PCI devices to all DUTs
144 | | And   Apply startup configuration on all VPP DUTs
145 | | And   IPv4 forwarding initialized in a 3-node circular topology
146 | | Then Traffic should pass with no loss | ${duration} | ${rate}
147 | | ...                                   | ${framesize} | 3-node-IPv4
148
149 | TC07: Verify 64B ref-NDR at 2x 10.0Mpps - DUT IPv4 - 4threads, 4cores, 2rxq
150 | | [Documentation]
151 | | ... | [Cfg] DUT runs IPv4 routing config with 4 threads, 4 phy cores, \
152 | | ... | 2 receive queues per NIC port. [Ver] Verify ref-NDR for 64 Byte
153 | | ... | frames using single trial throughput test.
154 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
155 | | ${framesize}= | Set Variable | 64
156 | | ${duration}= | Set Variable | 10
157 | | ${rate}= | Set Variable | 10.0mpps
158 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
159 | | And   Add all PCI devices to all DUTs
160 | | And   Add No Multi Seg to all DUTs
161 | | And   Apply startup configuration on all VPP DUTs
162 | | And   IPv4 forwarding initialized in a 3-node circular topology
163 | | Then Traffic should pass with no loss | ${duration} | ${rate}
164 | | ...                                   | ${framesize} | 3-node-IPv4
165
166 | TC08: Verify 1518B ref-NDR at 2x 812.74kpps - DUT IPv4 - 4threads, 4cores, 2rxq
167 | | [Documentation]
168 | | ... | [Cfg] DUT runs IPv4 routing config with 4 threads, 4 phy cores, \
169 | | ... | 2 receive queues per NIC port. [Ver] Verify ref-NDR for 1518 Byte
170 | | ... | frames using single trial throughput test.
171 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
172 | | ${framesize}= | Set Variable | 1518
173 | | ${duration}= | Set Variable | 10
174 | | ${rate}= | Set Variable | 812743pps
175 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
176 | | And   Add all PCI devices to all DUTs
177 | | And   Add No Multi Seg to all DUTs
178 | | And   Apply startup configuration on all VPP DUTs
179 | | And   IPv4 forwarding initialized in a 3-node circular topology
180 | | Then Traffic should pass with no loss | ${duration} | ${rate}
181 | | ...                                   | ${framesize} | 3-node-IPv4
182
183 | TC09: Verify 9000B ref-NDR at 2x 138.58kpps - DUT IPv4 - 4threads, 4cores, 2rxq
184 | | [Documentation]
185 | | ... | [Cfg] DUT runs IPv4 routing config with 4 threads, 4 phy cores, \
186 | | ... | 2 receive queues per NIC port. [Ver] Verify ref-NDR for 9000 Byte
187 | | ... | frames using single trial throughput test.
188 | | [Tags] | 4_THREAD_NOHTT_RXQUEUES_2 | MULTI_THREAD | NDR
189 | | ${framesize}= | Set Variable | 9000
190 | | ${duration}= | Set Variable | 10
191 | | ${rate}= | Set Variable | 138580pps
192 | | Given Add '4' worker threads and rxqueues '2' without HTT to all DUTs
193 | | And   Add all PCI devices to all DUTs
194 | | And   Apply startup configuration on all VPP DUTs
195 | | And   IPv4 forwarding initialized in a 3-node circular topology
196 | | Then Traffic should pass with no loss | ${duration} | ${rate}
197 | | ...                                   | ${framesize} | 3-node-IPv4