Improve doc in data driven perf tests
[csit.git] / tests / perf / 40ge2p1xl710-eth-l2bdbasemaclrn-ndrpdrdisc.robot
1 # Copyright (c) 2017 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.NodePath
17 | ...
18 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | NDRPDRDISC
19 | ... | NIC_Intel-XL710 | ETH | L2BDMACLRN | BASE
20 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
21 | ... | L2 | Intel-XL710
22 | Suite Teardown | 3-node Performance Suite Teardown
23 | ...
24 | Test Setup | Performance test setup
25 | Test Teardown | Performance test teardown | ${min_rate}pps | ${framesize}
26 | ... | 3-node-bridge
27 | ...
28 | Documentation | *RFC2544: Pkt throughput L2BD test cases*
29 | ...
30 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology\
31 | ... | with single links between nodes.
32 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4 for L2 switching of IPv4.
33 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with L2 bridge-\
34 | ... | domain and MAC learning enabled. DUT1 and DUT2 tested with 2p40GE NIC\
35 | ... | XL710-DA2 by Intel.
36 | ... | *[Ver] TG verification:* TG finds and reports throughput NDR (Non Drop\
37 | ... | Rate) with zero packet loss tolerance or throughput PDR (Partial Drop\
38 | ... | Rate) with non-zero packet loss tolerance (LT) expressed in percentage\
39 | ... | of packets transmitted. NDR and PDR are discovered for different\
40 | ... | Ethernet L2 frame sizes using either binary search or linear search\
41 | ... | algorithms with configured starting rate and final step that determines\
42 | ... | throughput measurement resolution. Test packets are generated by TG on\
43 | ... | links to DUTs. TG traffic profile contains two L3 flow-groups\
44 | ... | (flow-group per direction, 253 flows per flow-group) with all packets\
45 | ... | containing Ethernet header, IPv4 header with IP protocol=61 and static\
46 | ... | payload. MAC addresses are matching MAC addresses of the TG node\
47 | ... | interfaces.
48 | ... | *[Ref] Applicable standard specifications:* RFC2544.
49
50 *** Variables ***
51 # XL710-DA2 bandwidth limit ~49Gbps/2=24.5Gbps
52 | ${s_24.5G} | ${24500000000}
53 # XL710-DA2 Mpps limit 37.5Mpps/2=18.75Mpps
54 | ${s_18.75Mpps} | ${18750000}
55
56 *** Keywords ***
57 | L2 Bridge Domain NDR Binary Search BW limit
58 | | [Arguments] | ${framesize} | ${min_rate} | ${wt} | ${rxq} | ${s_limit}
59 | | Set Test Variable | ${framesize}
60 | | Set Test Variable | ${min_rate}
61 | | ${max_rate}= | Calculate pps | ${s_limit} | ${framesize}
62 | | ${binary_min}= | Set Variable | ${min_rate}
63 | | ${binary_max}= | Set Variable | ${max_rate}
64 | | ${threshold}= | Set Variable | ${min_rate}
65 | | Add '${wt}' worker threads and rxqueues '${rxq}' in 3-node single-link topo
66 | | Add PCI devices to DUTs from 3-node single link topology
67 | | ${get_framesize}= | Get Frame Size | ${framesize}
68 | | Run Keyword If | ${get_framesize} < ${1522} | Add No Multi Seg to all DUTs
69 | | Apply startup configuration on all VPP DUTs
70 | | L2 bridge domain initialized in a 3-node circular topology
71 | | Find NDR using binary search and pps
72 | | ... | ${framesize} | ${binary_min} | ${binary_max} | 3-node-bridge
73 | | ... | ${min_rate} | ${max_rate} | ${threshold}
74
75 | L2 Bridge Domain NDR Binary Search
76 | | [Arguments] | ${framesize} | ${min_rate} | ${wt} | ${rxq} | ${s_limit}
77 | | Set Test Variable | ${framesize}
78 | | Set Test Variable | ${min_rate}
79 | | ${max_rate}= | Set Variable | ${s_limit}
80 | | ${binary_min}= | Set Variable | ${min_rate}
81 | | ${binary_max}= | Set Variable | ${max_rate}
82 | | ${threshold}= | Set Variable | ${min_rate}
83 | | Add '${wt}' worker threads and rxqueues '${rxq}' in 3-node single-link topo
84 | | Add PCI devices to DUTs from 3-node single link topology
85 | | ${get_framesize}= | Get Frame Size | ${framesize}
86 | | Run Keyword If | ${get_framesize} < ${1522} | Add No Multi Seg to all DUTs
87 | | Apply startup configuration on all VPP DUTs
88 | | L2 bridge domain initialized in a 3-node circular topology
89 | | Find NDR using binary search and pps
90 | | ... | ${framesize} | ${binary_min} | ${binary_max} | 3-node-bridge
91 | | ... | ${min_rate} | ${max_rate} | ${threshold}
92
93 | L2 Bridge Domain PDR Binary Search BW limit
94 | | [Arguments] | ${framesize} | ${min_rate} | ${wt} | ${rxq} | ${s_limit}
95 | | Set Test Variable | ${framesize}
96 | | Set Test Variable | ${min_rate}
97 | | ${max_rate}= | Calculate pps | ${s_limit} | ${framesize}
98 | | ${binary_min}= | Set Variable | ${min_rate}
99 | | ${binary_max}= | Set Variable | ${max_rate}
100 | | ${threshold}= | Set Variable | ${min_rate}
101 | | Add '${wt}' worker threads and rxqueues '${rxq}' in 3-node single-link topo
102 | | Add PCI devices to DUTs from 3-node single link topology
103 | | ${get_framesize}= | Get Frame Size | ${framesize}
104 | | Run Keyword If | ${get_framesize} < ${1522} | Add No Multi Seg to all DUTs
105 | | Apply startup configuration on all VPP DUTs
106 | | L2 bridge domain initialized in a 3-node circular topology
107 | | Find PDR using binary search and pps
108 | | ... | ${framesize} | ${binary_min} | ${binary_max} | 3-node-bridge
109 | | ... | ${min_rate} | ${max_rate} | ${threshold}
110 | | ... | ${perf_pdr_loss_acceptance} | ${perf_pdr_loss_acceptance_type}
111
112 | L2 Bridge Domain PDR Binary Search
113 | | [Arguments] | ${framesize} | ${min_rate} | ${wt} | ${rxq} | ${s_limit}
114 | | Set Test Variable | ${framesize}
115 | | Set Test Variable | ${min_rate}
116 | | ${max_rate}= | Calculate pps | ${s_limit} | ${framesize}
117 | | ${binary_min}= | Set Variable | ${min_rate}
118 | | ${binary_max}= | Set Variable | ${max_rate}
119 | | ${threshold}= | Set Variable | ${min_rate}
120 | | Add '${wt}' worker threads and rxqueues '${rxq}' in 3-node single-link topo
121 | | Add PCI devices to DUTs from 3-node single link topology
122 | | ${get_framesize}= | Get Frame Size | ${framesize}
123 | | Run Keyword If | ${get_framesize} < ${1522} | Add No Multi Seg to all DUTs
124 | | Apply startup configuration on all VPP DUTs
125 | | L2 bridge domain initialized in a 3-node circular topology
126 | | Find PDR using binary search and pps
127 | | ... | ${framesize} | ${binary_min} | ${binary_max} | 3-node-bridge
128 | | ... | ${min_rate} | ${max_rate} | ${threshold}
129 | | ... | ${perf_pdr_loss_acceptance} | ${perf_pdr_loss_acceptance_type}
130
131 *** Test Cases ***
132 | tc01-64B-1t1c-eth-l2bdbasemaclrn-ndrdisc
133 | | ... | framesize=${64} | min_rate=${100000} | wt=1 | rxq=1
134 | | ... | s_limit=${s_18.75Mpps}
135 | | [Tags] | 64B | 1T1C | STHREAD | NDRDISC
136 | | [Documentation]
137 | | ... | [Cfg] DUT runs L2BD switching config with with\
138 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port.
139 | | ... | [Ver] Find NDR for 64 Byte frames using binary search start at\
140 | | ... | 18.75Mpps rate, step 100kpps.
141 | | [Template] | L2 Bridge Domain NDR Binary Search
142
143 | tc03-1518B-1t1c-eth-l2bdbasemaclrn-ndrdisc
144 | | ... | framesize=${1518} | min_rate=${10000} | wt=1 | rxq=1
145 | | ... | s_limit=${s_24.5G}
146 | | [Tags] | 1518B | 1T1C | STHREAD | NDRDISC
147 | | [Documentation]
148 | | ... | [Cfg] DUT runs L2BD switching config with with\
149 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port.
150 | | ... | [Ver] Find NDR for 1518 Byte frames using binary search start at\
151 | | ... | 24.5G rate, step 10kpps.
152 | | [Template] | L2 Bridge Domain NDR Binary Search BW limit
153
154 | tc07-64B-2t2c-eth-l2bdbasemaclrn-ndrdisc
155 | | ... | framesize=${64} | min_rate=${100000} | wt=2 | rxq=1
156 | | ... | s_limit=${s_18.75Mpps}
157 | | [Tags] | 64B | 2T2C | MTHREAD | NDRDISC
158 | | [Documentation]
159 | | ... | [Cfg] DUT runs L2BD switching config with with\
160 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port.
161 | | ... | [Ver] Find NDR for 64 Byte frames using binary search start at\
162 | | ... | 18.75Mpps rate, step 100kpps.
163 | | [Template] | L2 Bridge Domain NDR Binary Search
164
165 | tc09-1518B-2t2c-eth-l2bdbasemaclrn-ndrdisc
166 | | ... | framesize=${1518} | min_rate=${10000} | wt=2 | rxq=1
167 | | ... | s_limit=${s_24.5G}
168 | | [Tags] | 1518B | 2T2C | MTHREAD | NDRDISC | SKIP_PATCH
169 | | [Documentation]
170 | | ... | [Cfg] DUT runs L2BD switching config with with\
171 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port.
172 | | ... | [Ver] Find NDR for 64 Byte frames using binary search start at\
173 | | ... | 24.5G rate, step 10kpps.
174 | | [Template] | L2 Bridge Domain NDR Binary Search BW limit
175
176 | tc13-64B-4t4c-eth-l2bdbasemaclrn-ndrdisc
177 | | ... | framesize=${64} | min_rate=${100000} | wt=4 | rxq=2
178 | | ... | s_limit=${s_18.75Mpps}
179 | | [Tags] | 64B | 4T4C | MTHREAD | NDRDISC
180 | | [Documentation]
181 | | ... | [Cfg] DUT runs L2BD switching config with with\
182 | | ... | 4 threads, 4 phy cores, 2 receive queues per NIC port.
183 | | ... | [Ver] Find NDR for 64 Byte frames using binary search start at\
184 | | ... | 18.75Mpps rate, step 100kpps.
185 | | [Template] | L2 Bridge Domain NDR Binary Search
186
187 | tc15-1518B-4t4c-eth-l2bdbasemaclrn-ndrdisc
188 | | ... | framesize=${1518} | min_rate=${10000} | wt=4 | rxq=2
189 | | ... | s_limit=${s_24.5G}
190 | | [Tags] | 1518B | 4T4C | MTHREAD | NDRDISC | SKIP_PATCH
191 | | [Documentation]
192 | | ... | [Cfg] DUT runs L2BD switching config with with\
193 | | ... | 4 threads, 4 phy cores, 2 receive queues per NIC port.
194 | | ... | [Ver] Find NDR for 1518 Byte frames using binary search start at\
195 | | ... | 24.5G rate, step 10kpps.
196 | | [Template] | L2 Bridge Domain NDR Binary Search BW limit
197
198 | tc19-IMIX-1t1c-eth-l2bdbasemaclrn-ndrdisc
199 | | ... | framesize=IMIX_v4_1 | min_rate=${100000} | wt=1 | rxq=1
200 | | ... | s_limit=${s_24.5G}
201 | | [Tags] | IMIX | 1T1C | STHREAD | NDRDISC
202 | | [Documentation]
203 | | ... | [Cfg] DUT runs L2BD switching config with with\
204 | | ... | 1 thread, 1 phy core, 1 receive queue per NIC port.
205 | | ... | [Ver] Find NDR for IMIX_v4_1 frames using binary search start at\
206 | | ... | 24.5G rate, step 100kpps.
207 | | [Template] | L2 Bridge Domain NDR Binary Search BW limit
208
209 | tc20-IMIX-2t2c-eth-l2bdbasemaclrn-ndrdisc
210 | | ... | framesize=IMIX_v4_1 | min_rate=${100000} | wt=2 | rxq=1
211 | | ... | s_limit=${s_24.5G}
212 | | [Tags] | IMIX | 2T2C | MTHREAD | NDRDISC | SKIP_PATCH
213 | | [Documentation]
214 | | ... | [Cfg] DUT runs L2BD switching config with with\
215 | | ... | 2 threads, 2 phy cores, 1 receive queue per NIC port.
216 | | ... | [Ver] Find NDR for IMIX_v4_1 frames using binary search start at\
217 | | ... | 24.5G rate, step 100kpps.
218 | | [Template] | L2 Bridge Domain NDR Binary Search BW limit
219
220 | tc21-IMIX-4t4c-eth-l2bdbasemaclrn-ndrdisc
221 | | ... | framesize=IMIX_v4_1 | min_rate=${100000} | wt=4 | rxq=2
222 | | ... | s_limit=${s_24.5G}
223 | | [Tags] | IMIX | 4T4C | MTHREAD | NDRDISC | SKIP_PATCH
224 | | [Documentation]
225 | | ... | [Cfg] DUT runs L2BD switching config with with\
226 | | ... | 4 threads, 4 phy cores, 2 receive queues per NIC port.
227 | | ... | [Ver] Find NDR for IMIX_v4_1 frames using binary search start at\
228 | | ... | 24.5G rate, step 100kpps.
229 | | [Template] | L2 Bridge Domain NDR Binary Search BW limit

©2016 FD.io a Linux Foundation Collaborative Project. All Rights Reserved.
Linux Foundation is a registered trademark of The Linux Foundation. Linux is a registered trademark of Linus Torvalds.
Please see our privacy policy and terms of use.