Report: Data sources
[csit.git] / docs / report / vpp_performance_tests / csit_release_notes.rst
index e6ce573..377bd30 100644 (file)
@@ -6,34 +6,34 @@ Changes in CSIT |release|
 \r
 #. **VPP performance tests**\r
 \r
-  - *MRR tests* - New Maximum Receive Rate tests measure the packet\r
-    forwarding rate under the maximum load offered by traffic\r
-    generator over a set trial duration, regardless of packet loss.\r
-    MRR tests are used for continuous performance trending and for\r
-    comparison between releases.\r
+   - *MRR tests* - New Maximum Receive Rate tests measure the packet\r
+     forwarding rate under the maximum load offered by traffic\r
+     generator over a set trial duration, regardless of packet loss.\r
+     MRR tests are used for continuous performance trending and for\r
+     comparison between releases.\r
 \r
-  - *Service Chaining with SRv6* - New SRv6 (Segment Routing IPv6) proxy\r
-    tests measure performance of SRv6 Endpoint fronting SR-unaware\r
-    appliance via masquerading (End.AM), dynamic proxy (End.AD) or\r
-    static proxy (End.AS) SR functions.\r
+   - *Service Chaining with SRv6* - New SRv6 (Segment Routing IPv6) proxy\r
+     tests measure performance of SRv6 Endpoint fronting SR-unaware\r
+     appliance via masquerading (End.AM), dynamic proxy (End.AD) or\r
+     static proxy (End.AS) SR functions.\r
 \r
 #. **Presentation and Analytics Layer**\r
 \r
-  - *Performance trending* - Added continuous performance trending and\r
-    analysis. New Performance Trending and Performance Analysis jobs\r
-    executed regular throughput tests, with results being subsequently\r
-    analysed and trend and anomalies summarized and presented in VPP\r
-    Performance Dashboard and trendline graphs.\r
+   - *Performance trending* - Added continuous performance trending and\r
+     analysis. New Performance Trending and Performance Analysis jobs\r
+     executed regular throughput tests, with results being subsequently\r
+     analysed and trend and anomalies summarized and presented in VPP\r
+     Performance Dashboard and trendline graphs.\r
 \r
 #. **Test Framework Optimizations**\r
 \r
-  - *Performance tests efficiency* - Qemu build/install optimizations,\r
-    warmup phase handling, vpp restart handling. Resulted in improved\r
-    stability and reduced total execution time by 30% for single pkt\r
-    size e.g. 64B/78B.\r
+   - *Performance tests efficiency* - Qemu build/install optimizations,\r
+     warmup phase handling, vpp restart handling. Resulted in improved\r
+     stability and reduced total execution time by 30% for single pkt\r
+     size e.g. 64B/78B.\r
 \r
-  - *General code housekeeping* - ongoing RF keywords optimizations,\r
-    removal of redundant RF keywords.\r
+   - *General code housekeeping* - ongoing RF keywords optimizations,\r
+     removal of redundant RF keywords.\r
 \r
 Performance Changes\r
 -------------------\r
@@ -60,6 +60,12 @@ CSV and pretty ASCII formats:
   - `pretty ASCII format for 1t1c <../_static/vpp/performance-changes-ndr-1t1c-full.txt>`_,\r
   - `pretty ASCII format for 2t2c <../_static/vpp/performance-changes-ndr-2t2c-full.txt>`_.\r
 \r
+.. note::\r
+\r
+    Test results have been generated by\r
+    `FD.io test executor vpp performance jobs`_ with Robot Framework result\r
+    files csit-vpp-perf-|srelease|-\*.zip `archived here <../_static/archive/>`_.\r
+\r
 PDR Changes\r
 ~~~~~~~~~~~\r
 \r
@@ -71,6 +77,12 @@ CSV and pretty ASCII formats:
   - `pretty ASCII format for 1t1c <../_static/vpp/performance-changes-pdr-1t1c-full.txt>`_,\r
   - `pretty ASCII format for 2t2c <../_static/vpp/performance-changes-pdr-2t2c-full.txt>`_.\r
 \r
+.. note::\r
+\r
+    Test results have been generated by\r
+    `FD.io test executor vpp performance jobs`_ with Robot Framework result\r
+    files csit-vpp-perf-|srelease|-\*.zip `archived here <../_static/archive/>`_.\r
+\r
 MRR Changes\r
 ~~~~~~~~~~~\r
 \r
@@ -84,6 +96,13 @@ CSV and pretty ASCII formats:
   - `pretty ASCII format for 2t2c <../_static/vpp/performance-changes-mrr-2t2c-full.txt>`_,\r
   - `pretty ASCII format for 4t4c <../_static/vpp/performance-changes-mrr-4t4c-full.txt>`_.\r
 \r
+.. note::\r
+\r
+    Test results have been generated by\r
+    `FD.io test executor vpp mrr jobs <https://jenkins.fd.io/view/csit/job/csit-vpp-perf-mrr-daily-master/>`_\r
+    with Robot Framework result files csit-vpp-perf-mrr-daily-master__*__output.xml.gz\r
+    `archived here <https://docs.fd.io/csit/master/trending/_static/archive/>`_.\r
+\r
 Throughput Trending\r
 -------------------\r
 \r
@@ -125,7 +144,7 @@ List of known issues in CSIT |release| for VPP performance tests:
 | 4 | IPSec (software, no QAT HW) throughput          | CSIT-1064  | IPSec throughput regression: NDR -3%..-8%, PDR -2%..-8%, MRR    |\r
 |   | regression.                                     |            | -3%..-7%. Affects IPSec SW tests, QAT HW tests not affected.    |\r
 +---+-------------------------------------------------+------------+-----------------------------------------------------------------+\r
-| 5 | High failure rate of creating working container | CSIT-1065  | Orchestrated container topology tests failing data plane        |\r
-|   | topologies with K8s/Ligato orchestration.       |            | verification indicating configuration issue. Suspected issue    |\r
-|   |                                                 |            | with Ligato vpp-agent.                                          |\r
+| 5 | High failure rate of creating working container | CSIT-1065  | About 20% of orchestrated container topology tests failing data |\r
+|   | topologies with K8s/Ligato orchestration.       |            | plane verification indicating configuration issue. Suspected    |\r
+|   |                                                 |            | issue with Ligato vpp-agent.                                    |\r
 +---+-------------------------------------------------+------------+-----------------------------------------------------------------+\r