rls1710: rls_notes update.
[csit.git] / docs / report / vpp_performance_tests / csit_release_notes.rst
index 1c1bce1..3ee4ff3 100644 (file)
@@ -4,63 +4,43 @@ CSIT Release Notes
 Changes in CSIT |release|\r
 -------------------------\r
 \r
-#. Test environment changes in VPP data plane performance tests:\r
-\r
-   - Further characterization and optimizations of VPP vhost-user and VM test\r
-     methodology and test environment;\r
-\r
-     - Tests with varying Qemu virtio queue (a.k.a. vring) sizes:\r
-       [vr256] default 256 descriptors, [vr1024] 1024 descriptors to\r
-       optimize for packet throughput;\r
-\r
-     - Tests with varying Linux :abbr:`CFS (Completely Fair Scheduler)`\r
-       settings: [cfs] default settings, [cfsrr1] :abbr:`CFS (Completely Fair\r
-       Scheduler)` RoundRobin(1) policy applied to all data plane threads\r
-       handling test packet path including all VPP worker threads and all Qemu\r
-       testpmd poll-mode threads;\r
-\r
-     - Resulting test cases are all combinations with [vr256,vr1024] and\r
-       [cfs,cfsrr1] settings;\r
-\r
-     - For more detail see performance results observations section in\r
-       this report;\r
-\r
-#. Code updates and optimizations in CSIT performance framework:\r
+#. Added VPP performance tests\r
 \r
-   - Complete CSIT framework code revision and optimizations as descried\r
-     on CSIT wiki page `Design_Optimizations\r
-     <https://wiki.fd.io/view/CSIT/Design_Optimizations>`_.\r
+   - **L2BD MAC scale tests**\r
 \r
-   - For more detail see the :ref:`CSIT Framework Design <csit-design>` section\r
-     in this report;\r
+     - VPP L2 Bridge-Domain with MAC learning and large size L2FIB (10k,\r
+       100k, 1M MACs), tested in NIC-to-NIC and VM vhost topologies.\r
 \r
-#. Changes to CSIT driver for TRex Traffic Generator:\r
+   - **Linux Container VPP memif tests**\r
 \r
-   - Complete refactor of TRex CSIT driver;\r
+     - Tests with VPP in L2 Bridge-Domain configuration connecting over\r
+       memif virtual interfaces to VPPs running in LXCs;\r
 \r
-   - Introduction of packet traffic profiles to improve usability and\r
-     manageability of traffic profiles for a growing number of test\r
-     scenarios.\r
+   - **Docker Container VPP memif tests**\r
 \r
-   - Support for packet traffic profiles to test IPv4/IPv6 stateful and\r
-     stateless DUT data plane features;\r
+     - Tests with VPP in L2 Cross-Connect configuration connecting over\r
+       memif virtual interfaces VPPs running in Docker containers;\r
 \r
-#. Added VPP performance tests\r
+   - **Container Topologies Orchestrated by K8s with VPP memif tests**\r
 \r
-   - **Linux Container VPP memif virtual interface tests**\r
-\r
-     - New VPP Memif virtual interface (shared memory interface) tests\r
-       with L2 Bridge-Domain switched-forwarding;\r
+     - Tests with VPP in L2 Cross-Connect and Bridge-Domain configurations\r
+       connecting over memif virtual interfaces VPPs running in Docker\r
+       containers, with service chain topologies orchestrated by Kubernetes;\r
 \r
    - **Stateful Security Groups**\r
 \r
-     - New m-thread m-core VPP stateful security-groups tests;\r
+     - m-thread m-core VPP stateful and stateless security-groups tests;\r
 \r
    - **MAC-IP binding**\r
 \r
-     - New MACIP iACL single-thread single-core and m-thread m-core tests;\r
+     - MACIP input access-lists, single-thread single-core and m-thread\r
+       m-core tests;\r
+\r
+#. Presentation and Analytics Layer\r
 \r
-     - Statistical analysis of repeatibility of results;\r
+     - New Presentation and Analytics Layer (PAL) for automated CSIT test\r
+       results analysis and presentation, including statistical analysis\r
+       of results repeatibility and test report auto-generation;\r
 \r
 Performance Improvements\r
 ------------------------\r
@@ -71,8 +51,8 @@ double-digit percentage points. Relative improvements for this release are
 calculated against the test results listed in CSIT |release-1| report. The\r
 comparison is calculated between the mean values based on collected and\r
 archived test results' samples for involved VPP releases. Standard deviation\r
-has been also listed for CSIT |release|. VPP-16.09 and VPP-17.01 numbers are\r
-provided for reference.\r
+has been also listed for CSIT |release|. Performance numbers since release\r
+VPP-16.09 are provided for reference.\r
 \r
 NDR Throughput\r
 ~~~~~~~~~~~~~~\r
@@ -232,7 +212,7 @@ Here is the list of known issues in CSIT |release| for VPP performance tests:
 |   | of discovered NDR throughput values across      |            | throughput. Applies to XL710 and X710 NICs, x520 NICs are fine. |\r
 |   | multiple test runs with xl710 and x710 NICs.    |            |                                                                 |\r
 +---+-------------------------------------------------+------------+-----------------------------------------------------------------+\r
-| 4 | Lower than expected NDR and PDR throughput with | CSIT-569   | Suspected NIC firmware or DPDK driver issue affecting NDR and   |\r
+| 4 | Lower than expected NDR throughput with         | CSIT-569   | Suspected NIC firmware or DPDK driver issue affecting NDR and   |\r
 |   | xl710 and x710 NICs, compared to x520 NICs.     |            | PDR throughput. Applies to XL710 and X710 NICs.                 |\r
 +---+-------------------------------------------------+------------+-----------------------------------------------------------------+\r
 \r