CSIT-530: Add common setup and teardown to perf tests
[csit.git] / tests / perf / 40ge2p1xl710-ethip6-ip6base-ndrdisc.robot
1 # Copyright (c) 2017 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | ...
17 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | NDRPDRDISC
18 | ... | NIC_Intel-XL710 | ETH | IP6FWD | BASE
19 | ...
20 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
21 | ... | L3 | Intel-XL710
22 | Suite Teardown | 3-node Performance Suite Teardown
23 | ...
24 | Test Setup | Performance test setup
25 | Test Teardown | Performance test teardown | ${min_rate}pps | ${framesize}
26 | ... | 3-node-IPv6
27 | ...
28 | Documentation | *RFC2544: Pkt throughput IPv6 routing test cases*
29 | ...
30 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology
31 | ... | with single links between nodes.
32 | ... | *[Enc] Packet Encapsulations:* Eth-IPv6 for IPv6 routing.
33 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with IPv6
34 | ... | routing and two static IPv6 /64 route entries. DUT1 and DUT2 tested with
35 | ... | 2p40GE NIC XL710 by Intel.
36 | ... | *[Ver] TG verification:* TG finds and reports throughput NDR (Non Drop
37 | ... | Rate) with zero packet loss tolerance or throughput PDR (Partial Drop
38 | ... | Rate) with non-zero packet loss tolerance (LT) expressed in percentage
39 | ... | of packets transmitted. NDR and PDR are discovered for different
40 | ... | Ethernet L2 frame sizes using either binary search or linear search
41 | ... | algorithms with configured starting rate and final step that determines
42 | ... | throughput measurement resolution. Test packets are generated by TG on
43 | ... | links to DUTs. TG traffic profile contains two L3 flow-groups
44 | ... | (flow-group per direction, 253 flows per flow-group) with all packets
45 | ... | containing Ethernet header, IPv6 header and static payload.
46 | ... | MAC addresses are matching MAC addresses of the TG node interfaces.
47 | ... | *[Ref] Applicable standard specifications:* RFC2544.
48
49 *** Variables ***
50 # XL710-DA2 bandwidth limit ~49Gbps/2=24.5Gbps
51 | ${s_24.5G} | ${24500000000}
52 # XL710-DA2 Mpps limit 37.5Mpps/2=18.75Mpps
53 | ${s_18.75Mpps} | ${18750000}
54
55 *** Test Cases ***
56 | tc01-78B-1t1c-ethip6-ip6base-ndrdisc
57 | | [Documentation]
58 | | ... | [Cfg] DUT runs IPv6 routing config with 1 thread, 1 phy core, \
59 | | ... | 1 receive queue per NIC port. [Ver] Find NDR for 78 Byte frames
60 | | ... | using binary search start at 18.75Mpps rate, step 100kpps.
61 | | [Tags] | 1T1C | STHREAD | NDRDISC
62 | | ${framesize}= | Set Variable | ${78}
63 | | ${min_rate}= | Set Variable | ${100000}
64 | | ${max_rate}= | Set Variable | ${s_18.75Mpps}
65 | | ${binary_min}= | Set Variable | ${min_rate}
66 | | ${binary_max}= | Set Variable | ${max_rate}
67 | | ${threshold}= | Set Variable | ${min_rate}
68 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
69 | | And   Add PCI devices to DUTs from 3-node single link topology
70 | | And   Add No Multi Seg to all DUTs
71 | | And   Apply startup configuration on all VPP DUTs
72 | | And   IPv6 forwarding initialized in a 3-node circular topology
73 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
74 | | ...                                       | ${binary_max} | 3-node-IPv6
75 | | ...                                       | ${min_rate} | ${max_rate}
76 | | ...                                       | ${threshold}
77
78 | tc03-1518B-1t1c-ethip6-ip6base-ndrdisc
79 | | [Documentation]
80 | | ... | [Cfg] DUT runs IPv6 routing config with 1 thread, 1 phy core, \
81 | | ... | 1 receive queue per NIC port. [Ver] Find NDR for 1518 Byte frames
82 | | ... | using binary search start at 24.5G rate, step 10kpps.
83 | | [Tags] | 1T1C | STHREAD | NDRDISC
84 | | ${framesize}= | Set Variable | ${1518}
85 | | ${min_rate}= | Set Variable | ${10000}
86 | | ${max_rate}= | Calculate pps | ${s_24.5G} | ${framesize}
87 | | ${binary_min}= | Set Variable | ${min_rate}
88 | | ${binary_max}= | Set Variable | ${max_rate}
89 | | ${threshold}= | Set Variable | ${min_rate}
90 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
91 | | And   Add PCI devices to DUTs from 3-node single link topology
92 | | And   Add No Multi Seg to all DUTs
93 | | And   Apply startup configuration on all VPP DUTs
94 | | And   IPv6 forwarding initialized in a 3-node circular topology
95 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
96 | | ...                                       | ${binary_max} | 3-node-IPv6
97 | | ...                                       | ${min_rate} | ${max_rate}
98 | | ...                                       | ${threshold}
99
100 | tc07-78B-2t2c-ethip6-ip6base-ndrdisc
101 | | [Documentation]
102 | | ... | [Cfg] DUT runs IPv6 routing config with 2 threads, 2 phy cores, \
103 | | ... | 1 receive queue per NIC port. [Ver] Find NDR for 78 Byte frames
104 | | ... | using binary search start at 18.75Mpps rate, step 100kpps.
105 | | [Tags] | 2T2C | MTHREAD | NDRDISC
106 | | ${framesize}= | Set Variable | ${78}
107 | | ${min_rate}= | Set Variable | ${100000}
108 | | ${max_rate}= | Set Variable | ${s_18.75Mpps}
109 | | ${binary_min}= | Set Variable | ${min_rate}
110 | | ${binary_max}= | Set Variable | ${max_rate}
111 | | ${threshold}= | Set Variable | ${min_rate}
112 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
113 | | And   Add PCI devices to DUTs from 3-node single link topology
114 | | And   Add No Multi Seg to all DUTs
115 | | And   Apply startup configuration on all VPP DUTs
116 | | And   IPv6 forwarding initialized in a 3-node circular topology
117 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
118 | | ...                                       | ${binary_max} | 3-node-IPv6
119 | | ...                                       | ${min_rate} | ${max_rate}
120 | | ...                                       | ${threshold}
121
122 | tc09-1518B-2t2c-ethip6-ip6base-ndrdisc
123 | | [Documentation]
124 | | ... | [Cfg] DUT runs IPv6 routing config with 2 threads, 2 phy cores, \
125 | | ... | 1 receive queue per NIC port. [Ver] Find NDR for 1518 Byte frames
126 | | ... | using binary search start at 24.5G rate, step 10kpps.
127 | | [Tags] | 2T2C | MTHREAD | NDRDISC | SKIP_PATCH
128 | | ${framesize}= | Set Variable | ${1518}
129 | | ${min_rate}= | Set Variable | ${10000}
130 | | ${max_rate}= | Calculate pps | ${s_24.5G} | ${framesize}
131 | | ${binary_min}= | Set Variable | ${min_rate}
132 | | ${binary_max}= | Set Variable | ${max_rate}
133 | | ${threshold}= | Set Variable | ${min_rate}
134 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
135 | | And   Add PCI devices to DUTs from 3-node single link topology
136 | | And   Add No Multi Seg to all DUTs
137 | | And   Apply startup configuration on all VPP DUTs
138 | | And   IPv6 forwarding initialized in a 3-node circular topology
139 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
140 | | ...                                       | ${binary_max} | 3-node-IPv6
141 | | ...                                       | ${min_rate} | ${max_rate}
142 | | ...                                       | ${threshold}
143
144 | tc13-78B-4t4c-ethip6-ip6base-ndrdisc
145 | | [Documentation]
146 | | ... | [Cfg] DUT runs IPv6 routing config with 4 threads, 4 phy cores, \
147 | | ... | 2 receive queues per NIC port. [Ver] Find NDR for 78 Byte frames
148 | | ... | using binary search start at 18.75Mpps rate, step 100kpps.
149 | | [Tags] | 4T4C | MTHREAD | NDRDISC
150 | | ${framesize}= | Set Variable | ${78}
151 | | ${min_rate}= | Set Variable | ${100000}
152 | | ${max_rate}= | Set Variable | ${s_18.75Mpps}
153 | | ${binary_min}= | Set Variable | ${min_rate}
154 | | ${binary_max}= | Set Variable | ${max_rate}
155 | | ${threshold}= | Set Variable | ${min_rate}
156 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
157 | | And   Add PCI devices to DUTs from 3-node single link topology
158 | | And   Add No Multi Seg to all DUTs
159 | | And   Apply startup configuration on all VPP DUTs
160 | | And   IPv6 forwarding initialized in a 3-node circular topology
161 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
162 | | ...                                       | ${binary_max} | 3-node-IPv6
163 | | ...                                       | ${min_rate} | ${max_rate}
164 | | ...                                       | ${threshold}
165
166 | tc15-1518B-4t4c-ethip6-ip6base-ndrdisc
167 | | [Documentation]
168 | | ... | [Cfg] DUT runs IPv6 routing config with 4 threads, 4 phy cores, \
169 | | ... | 2 receive queues per NIC port. [Ver] Find NDR for 1518 Byte frames
170 | | ... | using binary search start at 24.5G rate, step 10kpps.
171 | | [Tags] | 4T4C | MTHREAD | NDRDISC | SKIP_PATCH
172 | | ${framesize}= | Set Variable | ${1518}
173 | | ${min_rate}= | Set Variable | ${10000}
174 | | ${max_rate}= | Calculate pps | ${s_24.5G} | ${framesize}
175 | | ${binary_min}= | Set Variable | ${min_rate}
176 | | ${binary_max}= | Set Variable | ${max_rate}
177 | | ${threshold}= | Set Variable | ${min_rate}
178 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
179 | | And   Add PCI devices to DUTs from 3-node single link topology
180 | | And   Add No Multi Seg to all DUTs
181 | | And   Apply startup configuration on all VPP DUTs
182 | | And   IPv6 forwarding initialized in a 3-node circular topology
183 | | Then Find NDR using binary search and pps | ${framesize} | ${binary_min}
184 | | ...                                       | ${binary_max} | 3-node-IPv6
185 | | ...                                       | ${min_rate} | ${max_rate}
186 | | ...                                       | ${threshold}