d744ef09e5e8f08940c800084213b076789413a2
[csit.git] / docs / report / vpp_performance_tests / packet_throughput_graphs / index.rst
1 Packet Throughput Graphs
2 ========================
3
4 Plotted results are generated by multiple executions of the same CSIT
5 performance tests across three physical testbeds within LF FD.io labs.
6 To provide a descriptive summary view, Box-and-Whisker plots are used to
7 display variation in measured throughput values, without making any
8 assumptions of the underlying statistical distribution.
9
10 For each plotted test case, Box-and-Whisker plots show the quartiles
11 (Min, 1st quartile / 25th percentile, 2nd quartile / 50th percentile /
12 mean, 3rd quartile / 75th percentile, Max) across collected data set
13 (data set size stated in the note below). Outliers are plotted as
14 individual points. Min and max values are plotted as bottom and top
15 Whiskers respectively. 2nd and 3rd quartiles are plotted as bottom and
16 top edge of the box. If multiple samples match only two values, and all
17 samples fall between them, then no whiskers are plotted. If all samples
18 have the same value, only a horizontal line is plotted.
19
20 *Title of each graph* is a regex (regular expression) matching all
21 throughput test cases plotted on this graph, *X-axis labels* are indices
22 of individual test suites executed by csit-vpp-perf-1704-all jobs that
23 created result output files used as data sources for the graph, *Y-axis
24 labels* are measured Packets Per Second [pps] values, and the *Graph
25 legend* lists the plotted test suites and their indices.
26
27 .. note::
28
29     Test results have been generated by FD.io test executor jobs
30     `csit-vpp-perf-1704-all
31     <https://jenkins.fd.io/view/csit/job/csit-vpp-perf-1704-all/>`_,
32     with Robot Framework result files csit-vpp-perf-1704-all-<id>.zip
33     `archived here <../../_static/archive/>`_. Plotted data set size per
34     test case is equal to the number of job executions presented in this
35     report version: **10**.
36
37 .. toctree::
38
39     l2
40     ipv4
41     ipv6
42     ipv4_tunnels
43     ipv6_tunnels
44     vm_vhost
45     ipsec