csit rls1704 report: final update to csit_release_notes.rst, packet_*_graphs.rst...
[csit.git] / docs / report / vpp_performance_tests / packet_throughput_graphs / ipv4.rst
1 IPv4 Routed-Forwarding
2 ======================
3
4 Following sections include summary graphs of VPP Phy-to-Phy performance
5 with IPv4 Routed-Forwarding, including NDR throughput (zero packet loss)
6 and PDR throughput (<0.5% packet loss). Performance is reported for VPP
7 running in multiple configurations of VPP worker thread(s), a.k.a. VPP
8 data plane thread(s), and their physical CPU core(s) placement.
9
10 Results are generated by multiple executions of the same CSIT
11 performance tests across three physical testbeds within LF FD.io labs.
12 To provide a descriptive summary view, Box-and-Whisker plots are used to
13 display variation in measured throughput values, without making any
14 assumptions of the underlying statistical distribution. For each plotted
15 test case, Box-and-Whisker plots show the quartiles (Min, 1st quartile
16 / 25th percentile, 2nd quartile / 50th percentile / mean, 3rd quartile /
17 75th percentile, Max) across collected data set (data set size stated in
18 the note below). Outliers are plotted as individual points.
19
20 *Title of each graph* is a regex (regular expression) matching all
21 throughput test cases plotted on this graph, *X-axis labels* are indices
22 of individual test suites executed by csit-vpp-perf-1704-all jobs that
23 created result output files used as data sources for the graph, *Y-axis
24 labels* are measured Packets Per Second [pps] values, and the *Graph
25 legend* lists the plotted test suites and their indices.
26
27 .. note::
28
29     Test results have been generated by FD.io test executor jobs
30     `csit-vpp-perf-1704-all
31     <https://jenkins.fd.io/view/csit/job/csit-vpp-perf-1704-all/>`_,
32     with Robot Framework result files csit-vpp-perf-1704-all-<id>.zip
33     `archived here <../../_static/archive/>`_. Plotted data set size per
34     test case is equal to the number of job executions presented in this
35     report version: **5**.
36
37 NDR Throughput
38 ~~~~~~~~~~~~~~
39
40 VPP NDR 64B packet throughput in 1t1c setup (1thread, 1core) is presented
41 in the graph below.
42
43 .. raw:: html
44
45     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-1t1c-ethip4-ip4-ndrdisc.html"></iframe>
46
47 *Figure 1. VPP 1thread 1core - NDR Throughput for Phy-to-Phy IPv4 Routed-Forwarding.*
48
49 CSIT source code for the test cases used for above plots can be found in CSIT
50 git repository:
51
52 .. code-block:: bash
53
54     $ cd $CSIT/tests/perf
55     $ grep -P '64B-1t1c-ethip4-ip4(base|scale)[a-z0-9]*(?!-eth-[0-9]vhost).*-ndrdisc' *
56
57     10ge2p1x520-ethip4-ip4base-copwhtlistbase-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-copwhtlistbase-ndrdisc
58     10ge2p1x520-ethip4-ip4base-iacldstbase-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-iacldstbase-ndrdisc
59     10ge2p1x520-ethip4-ip4base-ipolicemarkbase-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-ipolicemarkbase-ndrdisc
60     10ge2p1x520-ethip4-ip4base-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-ndrdisc
61     10ge2p1x520-ethip4-ip4base-snat-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-snat-1u-1p-ndrdisc
62     10ge2p1x520-ethip4-ip4scale200k-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4scale200k-ndrdisc
63     10ge2p1x520-ethip4-ip4scale20k-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4scale20k-ndrdisc
64     10ge2p1x520-ethip4-ip4scale2m-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4scale2m-ndrdisc
65     10ge2p1x520-ethip4-ip4scale-snat-ndrpdrdisc.robot:| tc11-64B-1t1c-ethip4-ip4base-snat-4000u-15p-ndrdisc
66     40ge2p1xl710-ethip4-ip4base-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-ndrdisc
67
68 VPP NDR 64B packet throughput in 2t2c setup (2thread, 2core) is presented
69 in the graph below.
70
71 .. raw:: html
72
73     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-2t2c-ethip4-ip4-ndrdisc.html"></iframe>
74
75 *Figure 2. VPP 2threads 2cores - NDR Throughput for Phy-to-Phy IPv4
76 Routed-Forwarding.*
77
78 CSIT source code for the test cases used for above plots can be found in CSIT
79 git repository:
80
81 .. code-block:: bash
82
83     $ cd $CSIT/tests/perf
84     $ grep -P '64B-2t2c-ethip4-ip4(base|scale)[a-z0-9]*(?!-eth-[0-9]vhost).*-ndrdisc' *
85
86     10ge2p1x520-ethip4-ip4base-copwhtlistbase-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-copwhtlistbase-ndrdisc
87     10ge2p1x520-ethip4-ip4base-iacldstbase-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-iacldstbase-ndrdisc
88     10ge2p1x520-ethip4-ip4base-ipolicemarkbase-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-ipolicemarkbase-ndrdisc
89     10ge2p1x520-ethip4-ip4base-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-ndrdisc
90     10ge2p1x520-ethip4-ip4scale200k-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4scale200k-ndrdisc
91     10ge2p1x520-ethip4-ip4scale20k-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4scale20k-ndrdisc
92     10ge2p1x520-ethip4-ip4scale2m-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4scale2m-ndrdisc
93     40ge2p1xl710-ethip4-ip4base-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-ndrdisc
94
95 PDR Throughput
96 ~~~~~~~~~~~~~~
97
98 VPP PDR 64B packet throughput in 1t1c setup (1thread, 1core) is presented
99 in the graph below. PDR measured for 0.5% packet loss ratio.
100
101 .. raw:: html
102
103     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-1t1c-ethip4-ip4-pdrdisc.html"></iframe>
104
105 *Figure 3. VPP 1thread 1core - PDR Throughput for Phy-to-Phy IPv4
106 Routed-Forwarding.*
107
108 CSIT source code for the test cases used for above plots can be found in CSIT
109 git repository:
110
111 .. code-block:: bash
112
113     $ cd $CSIT/tests/perf
114     $ grep -P '64B-1t1c-ethip4-ip4(base|scale)[a-z0-9]*(?!-eth-[0-9]vhost).*-pdrdisc' *
115
116     10ge2p1x520-ethip4-ip4base-copwhtlistbase-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-copwhtlistbase-pdrdisc
117     10ge2p1x520-ethip4-ip4base-iacldstbase-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-iacldstbase-pdrdisc
118     10ge2p1x520-ethip4-ip4base-ipolicemarkbase-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-ipolicemarkbase-pdrdisc
119     10ge2p1x520-ethip4-ip4base-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-pdrdisc
120     10ge2p1x520-ethip4-ip4base-snat-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-snat-1u-1p-pdrdisc
121     10ge2p1x520-ethip4-ip4scale200k-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4scale200k-pdrdisc
122     10ge2p1x520-ethip4-ip4scale20k-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4scale20k-pdrdisc
123     10ge2p1x520-ethip4-ip4scale2m-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4scale2m-pdrdisc
124     10ge2p1x520-ethip4-ip4scale-snat-ndrpdrdisc.robot:| tc11-64B-1t1c-ethip4-ip4base-snat-4000u-15p-pdrdisc
125     40ge2p1xl710-ethip4-ip4base-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4-ip4base-pdrdisc
126
127 VPP PDR 64B packet throughput in 2t2c setup (2thread, 2core) is presented
128 in the graph below. PDR measured for 0.5% packet loss ratio.
129
130 .. raw:: html
131
132     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-2t2c-ethip4-ip4-pdrdisc.html"></iframe>
133
134 *Figure 4. VPP 2thread 2core - PDR Throughput for Phy-to-Phy IPv4
135 Routed-Forwarding.*
136
137 CSIT source code for the test cases used for above plots can be found in CSIT
138 git repository:
139
140 .. code-block:: bash
141
142     $ cd $CSIT/tests/perf
143     $ grep -P '64B-2t2c-ethip4-ip4(base|scale)[a-z0-9]*(?!-eth-[0-9]vhost).*-pdrdisc' *
144
145     10ge2p1x520-ethip4-ip4base-copwhtlistbase-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-copwhtlistbase-pdrdisc
146     10ge2p1x520-ethip4-ip4base-iacldstbase-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-iacldstbase-pdrdisc
147     10ge2p1x520-ethip4-ip4base-ipolicemarkbase-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-ipolicemarkbase-pdrdisc
148     10ge2p1x520-ethip4-ip4base-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-pdrdisc
149     10ge2p1x520-ethip4-ip4scale200k-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4scale200k-pdrdisc
150     10ge2p1x520-ethip4-ip4scale20k-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4scale20k-pdrdisc
151     10ge2p1x520-ethip4-ip4scale2m-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4scale2m-pdrdisc
152     40ge2p1xl710-ethip4-ip4base-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4-ip4base-pdrdisc
153