csit rls1704 report: final update to csit_release_notes.rst, packet_*_graphs.rst...
[csit.git] / docs / report / vpp_performance_tests / packet_throughput_graphs / ipv4_tunnels.rst
1 IPv4 Overlay Tunnels
2 ====================
3
4 Following sections include summary graphs of VPP Phy-to-Phy performance
5 with IPv4 Overlay Tunnels, including NDR throughput (zero packet loss)
6 and PDR throughput (<0.5% packet loss).  Performance is reported for VPP
7 running in multiple configurations of VPP worker thread(s), a.k.a. VPP
8 data plane thread(s), and their physical CPU core(s) placement.
9
10 Results are generated by multiple executions of the same CSIT
11 performance tests across three physical testbeds within LF FD.io labs.
12 To provide a descriptive summary view, Box-and-Whisker plots are used to
13 display variation in measured throughput values, without making any
14 assumptions of the underlying statistical distribution. For each plotted
15 test case, Box-and-Whisker plots show the quartiles (Min, 1st quartile
16 / 25th percentile, 2nd quartile / 50th percentile / mean, 3rd quartile /
17 75th percentile, Max) across collected data set (data set size stated in
18 the note below). Outliers are plotted as individual points.
19
20 *Title of each graph* is a regex (regular expression) matching all
21 throughput test cases plotted on this graph, *X-axis labels* are indices
22 of individual test suites executed by csit-vpp-perf-1704-all jobs that
23 created result output files used as data sources for the graph, *Y-axis
24 labels* are measured Packets Per Second [pps] values, and the *Graph
25 legend* lists the plotted test suites and their indices.
26
27 .. note::
28
29     Test results have been generated by FD.io test executor jobs
30     `csit-vpp-perf-1704-all
31     <https://jenkins.fd.io/view/csit/job/csit-vpp-perf-1704-all/>`_,
32     with Robot Framework result files csit-vpp-perf-1704-all-<id>.zip
33     `archived here <../../_static/archive/>`_. Plotted data set size per
34     test case is equal to the number of job executions presented in this
35     report version: **5**.
36
37 NDR Throughput
38 ~~~~~~~~~~~~~~
39
40 VPP NDR 64B packet throughput in 1t1c setup (1thread, 1core) is presented
41 in the graph below.
42
43 .. raw:: html
44
45     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-1t1c-ethip4-ndrdisc.html"></iframe>
46
47 *Figure 1. VPP 1thread 1core - NDR Throughput for Phy-to-Phy IPv4 Overlay
48 Tunnels.*
49
50 CSIT source code for the test cases used for above plots can be found in CSIT
51 git repository:
52
53 .. code-block:: bash
54
55     $ cd $CSIT/tests/perf
56     $ grep -E "64B-1t1c-ethip4[a-z0-9]+-[a-z0-9]*-ndrdisc" *
57
58     10ge2p1x520-ethip4lispip4-ip4base-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4lispip4-ip4base-ndrdisc
59     10ge2p1x520-ethip4lispip6-ip4base-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4lispip6-ip4base-ndrdisc
60     10ge2p1x520-ethip4vxlan-l2bdbasemaclrn-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4vxlan-l2bdbasemaclrn-ndrdisc
61     10ge2p1x520-ethip4vxlan-l2xcbase-ndrpdrdisc.robot:| tc01-64B-1t1c-ethip4vxlan-l2xcbase-ndrdisc
62
63 VPP NDR 64B packet throughput in 2t2c setup (2thread, 2core) is presented
64 in the graph below.
65
66 .. raw:: html
67
68     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-2t2c-ethip4-ndrdisc.html"></iframe>
69
70 *Figure 2. VPP 2threads 2cores - NDR Throughput for Phy-to-Phy IPv4 Overlay Tunnels.*
71
72 CSIT source code for the test cases used for above plots can be found in CSIT
73 git repository:
74
75 .. code-block:: bash
76
77     $ cd $CSIT/tests/perf
78     $ grep -E "64B-2t2c-ethip4[a-z0-9]+-[a-z0-9]*-ndrdisc" *
79
80     10ge2p1x520-ethip4lispip4-ip4base-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4lispip4-ip4base-ndrdisc
81     10ge2p1x520-ethip4lispip6-ip4base-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4lispip6-ip4base-ndrdisc
82     10ge2p1x520-ethip4vxlan-l2bdbasemaclrn-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4vxlan-l2bdbasemaclrn-ndrdisc
83     10ge2p1x520-ethip4vxlan-l2xcbase-ndrpdrdisc.robot:| tc07-64B-2t2c-ethip4vxlan-l2xcbase-ndrdisc
84
85 PDR Throughput
86 ~~~~~~~~~~~~~~
87
88 VPP PDR 64B packet throughput in 1t1c setup (1thread, 1core) is presented
89 in the graph below. PDR measured for 0.5% packet loss ratio.
90
91 .. raw:: html
92
93     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-1t1c-ethip4-pdrdisc.html"></iframe>
94
95 *Figure 3. VPP 1thread 1core - PDR Throughput for Phy-to-Phy IPv4 Overlay
96 Tunnels.*
97
98 CSIT source code for the test cases used for above plots can be found in CSIT
99 git repository:
100
101 .. code-block:: bash
102
103     $ cd $CSIT/tests/perf
104     $ grep -E "64B-1t1c-ethip4[a-z0-9]+-[a-z0-9]*-pdrdisc" *
105
106     10ge2p1x520-ethip4lispip4-ip4base-ndrpdrdisc.robot:| tc02-64B-1t1c-ethip4lispip4-ip4base-pdrdisc
107     10ge2p1x520-ethip4lispip6-ip4base-ndrpdrdisc.robot:| tc02-64B-1t1c-ethip4lispip6-ip4base-pdrdisc
108     10ge2p1x520-ethip4vxlan-l2bdbasemaclrn-ndrpdrdisc.robot:| tc02-64B-1t1c-ethip4vxlan-l2bdbasemaclrn-pdrdisc
109     10ge2p1x520-ethip4vxlan-l2xcbase-ndrpdrdisc.robot:| tc02-64B-1t1c-ethip4vxlan-l2xcbase-pdrdisc
110
111 VPP PDR 64B packet throughput in 2t2c setup (2thread, 2core) is presented
112 in the graph below. PDR measured for 0.5% packet loss ratio.
113
114 .. raw:: html
115
116     <iframe width="700" height="1000" frameborder="0" scrolling="no" src="../../_static/vpp/64B-2t2c-ethip4-pdrdisc.html"></iframe>
117
118 *Figure 4. VPP 2thread 2core - PDR Throughput for Phy-to-Phy IPv4 Overlay Tunnels.*
119
120 CSIT source code for the test cases used for above plots can be found in CSIT
121 git repository:
122
123 .. code-block:: bash
124
125     $ cd $CSIT/tests/perf
126     $ grep -E "64B-2t2c-ethip4[a-z0-9]+-[a-z0-9]*-pdrdisc" *
127
128     10ge2p1x520-ethip4lispip4-ip4base-ndrpdrdisc.robot:| tc08-64B-2t2c-ethip4lispip4-ip4base-pdrdisc
129     10ge2p1x520-ethip4lispip6-ip4base-ndrpdrdisc.robot:| tc08-64B-2t2c-ethip4lispip6-ip4base-pdrdisc
130     10ge2p1x520-ethip4vxlan-l2bdbasemaclrn-ndrpdrdisc.robot:| tc08-64B-2t2c-ethip4vxlan-l2bdbasemaclrn-pdrdisc
131     10ge2p1x520-ethip4vxlan-l2xcbase-ndrpdrdisc.robot:| tc08-64B-2t2c-ethip4vxlan-l2xcbase-pdrdisc
132