Update: NDRCHK rate values and typos
[csit.git] / tests / perf / 10ge2p1x520-ethip4-ip4base-ipolicemarkbase-ndrchk.robot
1 # Copyright (c) 2017 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 *** Settings ***
15 | Resource | resources/libraries/robot/performance.robot
16 | Library | resources.libraries.python.Policer
17 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT1']}
18 | ... | WITH NAME | dut1_v4
19 | Library | resources.libraries.python.IPv4Setup.Dut | ${nodes['DUT2']}
20 | ... | WITH NAME | dut2_v4
21 | ...
22 | Force Tags | 3_NODE_SINGLE_LINK_TOPO | PERFTEST | HW_ENV | NDRCHK
23 | ... | NIC_Intel-X520-DA2 | IP4FWD | BASE | DOT1Q
24 | ...
25 | Suite Setup | 3-node Performance Suite Setup with DUT's NIC model
26 | ... | L3 | Intel-X520-DA2
27 | Suite Teardown | 3-node Performance Suite Teardown
28 | ...
29 | Test Setup | Performance test setup
30 | Test Teardown | Performance ndrchk test teardown
31 | ...
32 | Documentation | *Reference NDR throughput IPv4 policer verify test cases*
33 | ...
34 | ... | *[Top] Network Topologies:* TG-DUT1-DUT2-TG 3-node circular topology
35 | ... | with single links between nodes.
36 | ... | *[Enc] Packet Encapsulations:* Eth-IPv4 for IPv4 routing.
37 | ... | *[Cfg] DUT configuration:* DUT1 and DUT2 are configured with IPv4
38 | ... | routing and two static IPv4 /24 route entries and policer with 2R3C
39 | ... | color-aware configuration. Policer is applied on links TG - DUT1 and
40 | ... | DUT2 - TG. DUT1 and DUT2 tested with 2p10GE NIC X520 Niantic by Intel.
41 | ... | *[Ver] TG verification:* In short performance tests, TG verifies
42 | ... | DUTs' throughput at ref-NDR (reference Non Drop Rate) with zero packet
43 | ... | loss tolerance. Ref-NDR value is periodically updated acording to
44 | ... | formula: ref-NDR = 0.9x NDR, where NDR is found in RFC2544 long
45 | ... | performance tests for the same DUT configuration. Test packets are
46 | ... | generated by TG on links to DUTs. TG traffic profile contains two L3
47 | ... | flow-groups (flow-group per direction, 253 flows per flow-group) with
48 | ... | all packets containing Ethernet header, IPv4 header with IP protocol=61
49 | ... | and static payload. MAC addresses are matching MAC addresses of the
50 | ... | TG node interfaces.
51 | ... | *[Ref] Applicable standard specifications:* RFC2544, RFC2698.
52
53 *** Variables ***
54 | ${cir}= | ${100}
55 | ${eir}= | ${150}
56
57 *** Test Cases ***
58 | tc01-64B-1t1c-ethip4-ip4base-ipolicemarkbase-ndrchk
59 | | [Documentation]
60 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 1 thread, 1 phy \
61 | | ... | core, 1 receive queue per NIC port. [Ver] Verify ref-NDR for 64 \
62 | | ... | Byte frames using single trial throughput test at 2x 3.6mpps.
63 | | [Tags] | 1T1C | STHREAD
64 | | ${framesize}= | Set Variable | ${64}
65 | | ${rate}= | Set Variable | 3.6mpps
66 | | Set Test Variable | ${cb} | ${framesize}
67 | | Set Test Variable | ${eb} | ${framesize}
68 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
69 | | And Add PCI devices to DUTs from 3-node single link topology
70 | | And Add No Multi Seg to all DUTs
71 | | And Apply startup configuration on all VPP DUTs
72 | | And IPv4 forwarding initialized in a 3-node circular topology
73 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
74 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
75 | | ... | ${framesize} | 3-node-IPv4
76
77 | tc02-1518B-1t1c-ethip4-ip4base-ipolicemarkbase-ndrchk
78 | | [Documentation]
79 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 1 thread, 1 phy \
80 | | ... | core, 1 receive queue per NIC port. [Ver] Verify ref-NDR for 1518 \
81 | | ... | Byte frames using single trial throughput test at 2x 812743pps.
82 | | [Tags] | 1T1C | STHREAD
83 | | ${framesize}= | Set Variable | ${1518}
84 | | ${rate}= | Set Variable | 812743pps
85 | | Set Test Variable | ${cb} | ${framesize}
86 | | Set Test Variable | ${eb} | ${framesize}
87 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
88 | | And Add PCI devices to DUTs from 3-node single link topology
89 | | And Add No Multi Seg to all DUTs
90 | | And Apply startup configuration on all VPP DUTs
91 | | When IPv4 forwarding initialized in a 3-node circular topology
92 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
93 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
94 | | ... | ${framesize} | 3-node-IPv4
95
96 | tc03-9000B-1t1c-ethip4-ip4base-ipolicemarkbase-ndrchk
97 | | [Documentation]
98 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 1 thread, 1 phy \
99 | | ... | core, 1 receive queue per NIC port. [Ver] Verify ref-NDR for 9000 \
100 | | ... | Byte frames using single trial throughput test at 2x 138580pps.
101 | | [Tags] | 1T1C | STHREAD
102 | | ${framesize}= | Set Variable | ${9000}
103 | | ${rate}= | Set Variable | 138580pps
104 | | Set Test Variable | ${cb} | ${framesize}
105 | | Set Test Variable | ${eb} | ${framesize}
106 | | Given Add '1' worker threads and rxqueues '1' in 3-node single-link topo
107 | | And Add PCI devices to DUTs from 3-node single link topology
108 | | And Apply startup configuration on all VPP DUTs
109 | | And IPv4 forwarding initialized in a 3-node circular topology
110 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
111 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
112 | | ... | ${framesize} | 3-node-IPv4
113
114 | tc04-64B-2t2c-ethip4-ip4base-ipolicemarkbase-ndrchk
115 | | [Documentation]
116 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 2 threads, 2 \
117 | | ... | phy cores, 1 receive queue per NIC port. [Ver] Verify ref-NDR for \
118 | | ... | 64 Byte frames using single trial throughput test at 2x 6.2mpps.
119 | | [Tags] | 2T2C | MTHREAD
120 | | ${framesize}= | Set Variable | ${64}
121 | | ${rate}= | Set Variable | 6.2mpps
122 | | Set Test Variable | ${cb} | ${framesize}
123 | | Set Test Variable | ${eb} | ${framesize}
124 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
125 | | And Add PCI devices to DUTs from 3-node single link topology
126 | | And Add No Multi Seg to all DUTs
127 | | And Apply startup configuration on all VPP DUTs
128 | | And IPv4 forwarding initialized in a 3-node circular topology
129 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
130 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
131 | | ... | ${framesize} | 3-node-IPv4
132
133 | tc05-1518B-2t2c-ethip4-ip4base-ipolicemarkbase-ndrchk
134 | | [Documentation]
135 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 2 threads, 2 \
136 | | ... | phy cores, 1 receive queue per NIC port. [Ver] Verify ref-NDR for \
137 | | ... | 1518 Byte frames using single trial throughput test at 2x 812743pps.
138 | | [Tags] | 2T2C | MTHREAD
139 | | ${framesize}= | Set Variable | ${1518}
140 | | ${rate}= | Set Variable | 812743pps
141 | | Set Test Variable | ${cb} | ${framesize}
142 | | Set Test Variable | ${eb} | ${framesize}
143 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
144 | | And Add PCI devices to DUTs from 3-node single link topology
145 | | And Add No Multi Seg to all DUTs
146 | | And Apply startup configuration on all VPP DUTs
147 | | And IPv4 forwarding initialized in a 3-node circular topology
148 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
149 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
150 | | ... | ${framesize} | 3-node-IPv4
151
152 | tc06-9000B-2t2c-ethip4-ip4base-ipolicemarkbase-ndrchk
153 | | [Documentation]
154 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 2 threads, 2 \
155 | | ... | phy cores, 1 receive queue per NIC port. [Ver] Verify ref-NDR for \
156 | | ... | 9000 Byte frames using single trial throughput test at 2x 138580pps.
157 | | [Tags] | 2T2C | MTHREAD
158 | | ${framesize}= | Set Variable | ${9000}
159 | | ${rate}= | Set Variable | 138580pps
160 | | Set Test Variable | ${cb} | ${framesize}
161 | | Set Test Variable | ${eb} | ${framesize}
162 | | Given Add '2' worker threads and rxqueues '1' in 3-node single-link topo
163 | | And Add PCI devices to DUTs from 3-node single link topology
164 | | And Apply startup configuration on all VPP DUTs
165 | | And IPv4 forwarding initialized in a 3-node circular topology
166 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
167 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
168 | | ... | ${framesize} | 3-node-IPv4
169
170 | tc07-64B-4t4c-ethip4-ip4base-ipolicemarkbase-ndrchk
171 | | [Documentation]
172 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 4 thread, 4 \
173 | | ... | phy core, 2 receive queue per NIC port. [Ver] Verify ref-NDR for 64 \
174 | | ... | Byte frames using single trial throughput test at 2x 10.4mpps.
175 | | [Tags] | 4T4C | MTHREAD
176 | | ${framesize}= | Set Variable | ${64}
177 | | ${rate}= | Set Variable | 10.4mpps
178 | | Set Test Variable | ${cb} | ${framesize}
179 | | Set Test Variable | ${eb} | ${framesize}
180 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
181 | | And Add PCI devices to DUTs from 3-node single link topology
182 | | And Add No Multi Seg to all DUTs
183 | | And Apply startup configuration on all VPP DUTs
184 | | And IPv4 forwarding initialized in a 3-node circular topology
185 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
186 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
187 | | ... | ${framesize} | 3-node-IPv4
188
189 | tc08-1518B-4t4c-ethip4-ip4base-ipolicemarkbase-ndrchk
190 | | [Documentation]
191 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 4 thread, 4 \
192 | | ... | phy core, 2 receive queue per NIC port. [Ver] Verify ref-NDR for \
193 | | ... | 1518 Byte frames using single trial throughput test at 2x 812743pps.
194 | | [Tags] | 4T4C | MTHREAD
195 | | ${framesize}= | Set Variable | ${1518}
196 | | ${rate}= | Set Variable | 812743pps
197 | | Set Test Variable | ${cb} | ${framesize}
198 | | Set Test Variable | ${eb} | ${framesize}
199 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
200 | | And Add PCI devices to DUTs from 3-node single link topology
201 | | And Add No Multi Seg to all DUTs
202 | | And Apply startup configuration on all VPP DUTs
203 | | And IPv4 forwarding initialized in a 3-node circular topology
204 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
205 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
206 | | ... | ${framesize} | 3-node-IPv4
207
208 | tc09-9000B-4t4c-ethip4-ip4base-ipolicemarkbase-ndrchk
209 | | [Documentation]
210 | | ... | [Cfg] DUT runs IPv4 routing and policer config with 4 thread, 4 \
211 | | ... | phy core, 2 receive queue per NIC port. [Ver] Verify ref-NDR for \
212 | | ... | 9000 Byte frames using single trial throughput test at 2x 138580pps.
213 | | [Tags] | 4T4C | MTHREAD
214 | | ${framesize}= | Set Variable | ${9000}
215 | | ${rate}= | Set Variable | 138580pps
216 | | Set Test Variable | ${cb} | ${framesize}
217 | | Set Test Variable | ${eb} | ${framesize}
218 | | Given Add '4' worker threads and rxqueues '2' in 3-node single-link topo
219 | | And Add PCI devices to DUTs from 3-node single link topology
220 | | And Apply startup configuration on all VPP DUTs
221 | | And IPv4 forwarding initialized in a 3-node circular topology
222 | | And IPv4 policer 2r3c-'ca' initialized in a 3-node circular topology
223 | | Then Traffic should pass with no loss | ${perf_trial_duration} | ${rate}
224 | | ... | ${framesize} | 3-node-IPv4