Report: Small fixes
[csit.git] / docs / report / vpp_performance_tests / csit_release_notes.rst
index 7392d1e..c279f10 100644 (file)
@@ -9,12 +9,9 @@ Changes in |csit-release|
    - CSIT test environment is versioned, see
      :ref:`test_environment_versioning`.
 
-   - To identify performance changes due to VPP code changes from
-     v20.05.0 to v20.09.0, both have been tested in CSIT environment
-     ver. 5 and compared against each other. All substantial
-     progressions has been marked up with RCA analysis. See
-     :ref:`vpp_compare_current_vs_previous_release` and
-     :ref:`vpp_known_issues`.
+   - **GENEVE tests**: Added VPP performance tests for GENEVE tunnels.
+
+     - See :ref:`geneve_methodology` for more details.
 
    - **NAT44 tests**: Adapted existing and added new tests.
 
@@ -28,33 +25,38 @@ Changes in |csit-release|
 
      - Added new NAT44 endpoint-dependent mode CPS tests that measure
        connections per second with usage of TRex in stateful mode.
-       NOTE: CPS measurement data will be added in two weeks.
+       UPD packet size is 64 bytes. Size of TCP control packets
+       is not configurable, please ignore the -64b- part of test names.
+
+     - Added new NAT44 endpoint-dependent mode PPS tests that measure
+       packets per second (control and data together) with usage of TRex
+       in stateful mode. UPD packet size is 64 bytes. Size of TCP
+       data packets is governed by the default MSS value, so most data packets
+       are 1460 bytes long, please ignore the -64b- part of test names.
+
+     - See :ref:`nat44_methodology` for more details.
 
    - **IPSec async mode tests**: Added VPP performance tests for async crypto
      engine.
 
-   - **AMD 2n-zn2 testbed**: New physical testbed type installed in FD.io CSIT,
-     VPP performance data will be added in upcoming weeks.
+   - **AMD 2n-tx2 testbed**: New physical testbed type installed in
+     FD.io CSIT, with VPP and DPDK performance data added to CSIT
+     trending and this report.
 
 #. TEST FRAMEWORK
 
-   - **TRex ASTF**: Added capability to run TRex in advanced stateful mode.
+   - **TRex ASTF**: Improved capability to run TRex in advanced stateful mode.
 
    - **CSIT PAPI support**: Due to issues with PAPI performance, VAT is
      still used in CSIT for all VPP scale tests. See known issues below.
 
-   - **General Code Housekeeping**: Ongoing RF keywords optimizations,
-     removal of redundant RF keywords and aligning of suite/test
-     setup/teardowns.
-
-   - **Intel E810CQ 100G NIC**: Added configuration for Intel E810CQ 100G NIC.
-     No tests run for this NIC as it is not present in FD.io CSIT lab yet.
+   - **General Code Housekeeping**: Ongoing code optimizations,
+     speed ups and bug fixes.
 
 #. PRESENTATION AND ANALYTICS LAYER
 
-   - **Graphs improvements**: Added possibility to use Gbps on Y-axis in
-     Packet Throughput and Speedup Multi-Core graphs, added unidirectional
-     mode to the Latency graphs.
+   - **Graphs improvements**: Updated Packet Latency graphs,
+     see :ref:`latency_methodology`.
 
 .. raw:: latex
 
@@ -85,8 +87,8 @@ List of known issues in |csit-release| for VPP performance tests:
 |    | `VPP-1763                               | commands in flight over socket), the VPP configuration for large scale tests (millions of messages) takes |
 |    | <https://jira.fd.io/browse/VPP-1763>`_  | too long.                                                                                                 |
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
-|  5 | `VPP-1675                               | IPv4 IPSEC 9000B packet tests are failing as no packet is forwarded.                                      |
-|    | <https://jira.fd.io/browse/VPP-1675>`_  | Reason: chained buffers are not supported.                                                                |
+|  5 | `CSIT-1771                              | IPv4 IPSEC 9000B packet tests had been failing when chained buffers were not supported.                   |
+|    | <https://jira.fd.io/browse/CSIT-1771>`_ | This has been fixed on VPP side, but CSIT still needs to re-enable jumbo tests.                           |
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
 |  6 | `VPP-1934                               | [i40e] Interfaces are not brought up from carrier-down.                                                   |
 |    | <https://jira.fd.io/browse/VPP-1934>`_  | In case of i40e -based interface (e.g Intel x700 series NIC) is bound to kernel driver (i40e) and is in   |
@@ -95,9 +97,6 @@ List of known issues in |csit-release| for VPP performance tests:
 |    |                                         | interface link via i40e driver to up.                                                                     |
 |    |                                         | CSIT implemented `workaround for AVF interface <https://gerrit.fd.io/r/c/csit/+/29086>`_ until fixed.     |
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
-|  7 | `CSIT-1760                              | All Mellanox / rdma driver tests are failing on LF testbed28 while successfully run on other LF testbeds. |
-|    | <https://jira.fd.io/browse/CSIT-1760>`_ |                                                                                                           |
-+----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
 
 Root Cause Analysis for Performance Changes
 -------------------------------------------