report: add 2n-icx and 3n-icx testbed documentation
[csit.git] / docs / report / vpp_performance_tests / csit_release_notes.rst
index b9986dd..a077791 100644 (file)
@@ -1,3 +1,5 @@
+.. _vpp_performance_tests_release_notes:
+
 Release Notes
 =============
 
@@ -9,33 +11,26 @@ Changes in |csit-release|
    - CSIT test environment is versioned, see
      :ref:`test_environment_versioning`.
 
-   - **GENEVE tests**: Added VPP performance tests for GENEVE tunnels.
-
-     - See :ref:`geneve_methodology` for more details.
-
-   - **NAT44 tests**: Added new test type, pure throughput tests.
-     They are similar to PPS tests, but they employ ramp-up trials
-     to ensure all sessions are created (and not timing out)
-     for performance trials.
+   - **Upgrade to Ubuntu 20.04 LTS**: Reinstall base operating system to
+     Ubuntu 20.04.2 LTS. Upgrade includes also baseline Docker
+     containers used for spawning topology.
 
-   - **Jumbo for ipsec**: Test cases with 9000 byte frames are re-enabled
-     in ipsec suites.
+   - Initial test data for Intel Xeon Ice Lake platforms. Current
+     CSIT-2106 report data for Intel Xeon Ice Lake comes from an
+     external source (Intel labs running CSIT code on 8360Y D Stepping
+     and 6338N processors). For detail about the physical setup
+     see :ref:`tested_physical_topologies`. Tested VPP and CSIT
+     versions are pre-release, VPP 21.06-rc0~779-gd640ae52f.
 
-   - **Randomized profiles**: Improved repeatability and cycle length.
-     For details, see :ref:`packet_flow_ordering`.
+   - **AF_XDP**: Added af_xdp driver testing for all testcases.
 
-   - **Arm 2n-tx2 testbed**: New physical testbed type installed in
-     FD.io CSIT, with VPP and DPDK performance data added to CSIT
-     trending and this report.
+   - **GTPU tunnel**: Added GTPU HW Offload IPv4 routing tests.
 
-   - **Framework speedup**: Shortened overall test job duration
-     by using a different test selection mechanism (using --test
-     instead of --include) and by avoiding unnecessary PAPI reconnects.
+   - **Telemetry retouch**: Redesign telemetry retrieval from DUT.
+     Include VPP perfmon plugin telemetry.
 
 #. TEST FRAMEWORK
 
-   - **TRex ASTF**: Improved capability to run TRex in advanced stateful mode.
-
    - **CSIT PAPI support**: Due to issues with PAPI performance, VAT is
      still used in CSIT for all VPP scale tests. See known issues below.
 
@@ -61,28 +56,18 @@ List of known issues in |csit-release| for VPP performance tests:
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
 | #  | JiraID                                  | Issue Description                                                                                         |
 +====+=========================================+===========================================================================================================+
-|  1 | `CSIT-570                               | Sporadic (1 in 200) NDR discovery test failures on x520. DPDK reporting rx-errors, indicating L1 issue.   |
-|    | <https://jira.fd.io/browse/CSIT-570>`_  | Suspected issue with HW combination of X710-X520 in LF testbeds. Not observed outside of LF testbeds.     |
-+----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
-|  2 | `VPP-662                                | 9000B packets not supported by NICs VIC1227 and VIC1387.                                                  |
-|    | <https://jira.fd.io/browse/VPP-662>`_   |                                                                                                           |
+|  1 | `CSIT-1782                              | Multicore AVF tests are failing when trying to create interface.                                          |
+|    | <https://jira.fd.io/browse/CSIT-1782>`_ |                                                                                                           |
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
-|  3 | `CSIT-1763                              | Adapt ramp-up phase of nat44 tests for different frame sizes.                                             |
+|  2 | `CSIT-1763                              | Adapt ramp-up phase of nat44 tests for different frame sizes.                                             |
 |    | <https://jira.fd.io/browse/CSIT-1763>`_ | Currently ramp-up phase rate and duration values are correctly set for tests with 64B frame size.         |
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
-|  4 | `CSIT-1671                              | All CSIT scale tests can not use PAPI due to much slower performance compared to VAT/CLI (it takes much   |
+|  3 | `CSIT-1671                              | All CSIT scale tests can not use PAPI due to much slower performance compared to VAT/CLI (it takes much   |
 |    | <https://jira.fd.io/browse/CSIT-1671>`_ | longer to program VPP). This needs to be addressed on the PAPI side.                                      |
 |    +-----------------------------------------+ The usual PAPI library spends too much time parsing arguments, so even with async processing (hundreds of |
 |    | `VPP-1763                               | commands in flight over socket), the VPP configuration for large scale tests (millions of messages) takes |
 |    | <https://jira.fd.io/browse/VPP-1763>`_  | too long.                                                                                                 |
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
-|  5 | `VPP-1934                               | [i40e] Interfaces are not brought up from carrier-down.                                                   |
-|    | <https://jira.fd.io/browse/VPP-1934>`_  | In case of i40e -based interface (e.g Intel x700 series NIC) is bound to kernel driver (i40e) and is in   |
-|    |                                         | state "no-carrier" (<NO-CARRIER,BROADCAST,MULTICAST,UP>) because previously it was disabled via           |
-|    |                                         | "I40E_AQ_PHY_LINK_ENABLED" call, then VPP during initialization of AVF interface is not re-enabling       |
-|    |                                         | interface link via i40e driver to up.                                                                     |
-|    |                                         | CSIT implemented `workaround for AVF interface <https://gerrit.fd.io/r/c/csit/+/29086>`_ until fixed.     |
-+----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+
 
 Root Cause Analysis for Performance Changes
 -------------------------------------------
@@ -93,5 +78,5 @@ List of RCAs in |csit-release| for VPP performance changes:
 | #  | JiraID                                  | Issue Description                                                                                         |
 +====+=========================================+===========================================================================================================+
 |  1 | `VPP-1972                               | One VPP change has decreased performance of NAT44ed processing, both slow path and fast path.             |
-|    | <https://jira.fd.io/browse/VPP-1972>`   |                                                                                                           |
+|    | <https://jira.fd.io/browse/VPP-1972>`_  |                                                                                                           |
 +----+-----------------------------------------+-----------------------------------------------------------------------------------------------------------+