Report 2005: Add data, improve comp tables desc 69/27669/1
authorTibor Frank <tifrank@cisco.com>
Thu, 25 Jun 2020 06:04:49 +0000 (08:04 +0200)
committerTibor Frank <tifrank@cisco.com>
Thu, 25 Jun 2020 06:04:49 +0000 (08:04 +0200)
Change-Id: I7d3afd5c3f6322cb76668b7ecfa288e9b64c6cc3
Signed-off-by: Tibor Frank <tifrank@cisco.com>
resources/tools/presentation/specification.yaml

index a044f8b..d670800 100644 (file)
         - 19  # NDRPDR sel
     vpp-performance-changes-3n-hsw-cmp-2:
       csit-vpp-perf-report-iterative-2005-3n-hsw:
-        - 20  # NDRPDR sel env 2
-        - 21  # NDRPDR sel env 2
-        - 22  # NDRPDR sel env 2
+        - 20  # NDRPDR sel env 4
+        - 21  # NDRPDR sel env 4
+        - 22  # NDRPDR sel env 4
+        - 23  # NDRPDR sel env 4
+        - 24  # NDRPDR sel env 4
+        - 25  # NDRPDR sel env 4
 
     vpp-performance-changes-3n-skx-h1:
       csit-vpp-perf-verify-1908_1-3n-skx:
         - 41  # NDRPDR sel
     vpp-performance-changes-3n-skx-cmp-2:
       csit-vpp-perf-report-iterative-2005-3n-skx:
-        # TODO: Replace
-        - 4   # NDRPDR sel
-        - 5   # NDRPDR sel ??? all x710 failed
-        - 33  # NDRPDR sel
-        - 28  # NDRPDR sel
-        - 34  # NDRPDR sel
-        - 36  # NDRPDR sel
-        - 37  # NDRPDR sel
-        - 38  # NDRPDR sel
-        - 39  # NDRPDR sel
-        - 41  # NDRPDR sel
+        # TODO: Add data
+        - 43  # NDRPDR sel env 4
 
     vpp-performance-changes-2n-skx-h1:
       csit-vpp-perf-verify-1908_1-2n-skx:
     vpp-performance-changes-2n-skx-cmp-2:
       csit-vpp-perf-report-iterative-2005-2n-skx:
         # TODO: Add data
-        - 88  # NDRPDR sel env 2
+        - 88  # NDRPDR sel env 4
+        - 89  # NDRPDR sel env 4
 
 #    vpp-performance-changes-nfv-2n-skx-ref:
 #      csit-vpp-perf-verify-2001-2n-skx:
         - 51  # NDRPDR sel
     vpp-performance-changes-2n-clx-cmp-2:
       csit-vpp-perf-report-iterative-2005-2n-clx:
-        - 62  # NDRPDR sel env 2
-        - 63  # NDRPDR sel env 2
+        - 62  # NDRPDR sel env 4
+        - 63  # NDRPDR sel env 4
 
     vpp-performance-changes-2n-dnv-h1:
       csit-vpp-perf-verify-1908-2n-dnv:
         - 20  # NDRPDR sel
         - 14  # NDRPDR sel
     vpp-performance-changes-3n-tsh-cmp-2:
-      # TODO: replace:
+      # TODO: Add data:
       csit-vpp-perf-report-iterative-2005-3n-tsh:
-        - 9   # NDRPDR sel
-        - 11  # NDRPDR sel
-        - 12  # NDRPDR sel
-        - 20  # NDRPDR sel
-        - 14  # NDRPDR sel
+        - 23  # NDRPDR sel env 4
 
     vpp-soak-vs-ndr-2n-skx-ref:
       csit-vpp-perf-report-iterative-2005-2n-skx:
       - 16  # NDRPDR sel
       - 18  # NDRPDR sel
       - 19  # NDRPDR sel
-      - 20  # NDRPDR sel env 2
-      - 21  # NDRPDR sel env 2
-      - 22  # NDRPDR sel env 2
+      - 20  # NDRPDR sel env 4
+      - 21  # NDRPDR sel env 4
+      - 22  # NDRPDR sel env 4
+      - 23  # NDRPDR sel env 4
+      - 24  # NDRPDR sel env 4
+      - 25  # NDRPDR sel env 4
       - 13  # MRR
     csit-vpp-perf-verify-2005-3n-hsw:
       - 3   # hoststack
       - 38  # NDRPDR sel
       - 39  # NDRPDR sel
       - 41  # NDRPDR sel
+      - 43  # NDRPDR sel env 4
       - 6   # MRR sel
     csit-vpp-perf-report-coverage-2005-3n-skx:
       - 10  # perf-full-3n-skx-crypto_I
       - 75  # NDRPDR sel
       - 76  # NDRPDR sel
       - 73  # NDRPDR sel
-      - 88  # NDRPDR sel env 2
+      - 88  # NDRPDR sel env 4
+      - 89  # NDRPDR sel env 4
       - 42  # MRR sel
       - 48  # Reconf
       - 50  # Reconf
       - 43  # NDRPDR sel
       - 50  # NDRPDR sel
       - 51  # NDRPDR sel
-      - 62  # NDRPDR sel env 2
-      - 63  # NDRPDR sel env 2
+      - 62  # NDRPDR sel env 4
+      - 63  # NDRPDR sel env 4
       - 12  # MRR
       - 42  # Reconf
       - 45  # Reconf
       - 12  # NDRPDR sel
       - 20  # NDRPDR sel
       - 14  # NDRPDR sel
+      - 23  # NDRPDR sel env 4
       - 10  # MRR sel
 
     csit-vpp-perf-verify-1908-3n-dnv:
       data-set: "vpp-performance-changes-3n-hsw-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-3n-hsw-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-3n-hsw-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-3n-hsw-1t1c-pdr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
       data-set: "vpp-performance-changes-3n-hsw-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-3n-hsw-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-3n-hsw-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-3n-hsw-2t2c-pdr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
       data-set: "vpp-performance-changes-3n-hsw-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-3n-hsw-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-3n-hsw-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-3n-hsw-1t1c-ndr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
       data-set: "vpp-performance-changes-3n-hsw-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-3n-hsw-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-3n-hsw-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-3n-hsw-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-3n-hsw-2t2c-ndr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
 #      data-set: "vpp-performance-changes-3n-skx-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-skx-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-skx-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-skx-2t1c-pdr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 #
 #      data-set: "vpp-performance-changes-3n-skx-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-skx-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-skx-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-skx-4t2c-pdr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 #
 #      data-set: "vpp-performance-changes-3n-skx-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-skx-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-skx-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-skx-2t1c-ndr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 #
 #      data-set: "vpp-performance-changes-3n-skx-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-skx-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-skx-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-skx-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-skx-4t2c-ndr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 
       data-set: "vpp-performance-changes-2n-skx-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-skx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-skx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-skx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-skx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-skx-2t1c-pdr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
       data-set: "vpp-performance-changes-2n-skx-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-skx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-skx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-skx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-skx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-skx-4t2c-pdr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
       data-set: "vpp-performance-changes-2n-skx-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-skx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-skx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-skx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-skx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-skx-2t1c-ndr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
       data-set: "vpp-performance-changes-2n-skx-h1"
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-skx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-skx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-skx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-skx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-skx-4t2c-ndr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-clx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-clx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-clx-2t1c-pdr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-clx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-clx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-clx-4t2c-pdr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-clx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-clx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-clx-2t1c-ndr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-2"
-      data-set: "vpp-performance-changes-2n-clx-cmp-2"
     - title: "2005.0-3"
+      data-set: "vpp-performance-changes-2n-clx-cmp-2"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff1"
 #      data: "rca/rca-2005-2n-clx-4t2c-ndr-rca2.yaml"
   legend:
     - "Legend to Table"
-    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 #    - 'RCA1 - root cause analysis reference for Diff1.'
 #    - 'RCA2 - root cause analysis reference for Diff2.'
 
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-3"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff"
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-3"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff"
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-3"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff"
   columns:
     - title: "2001.0-2"
       data-set: "vpp-performance-changes-2n-clx-ref"
-    - title: "2005.0-3"
+    - title: "2005.0-4"
       data-set: "vpp-performance-changes-2n-clx-cmp"
   comparisons:
     - title: "Diff"
 #      data-set: "vpp-performance-changes-3n-tsh-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-tsh-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-tsh-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-tsh-1t1c-pdr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 #
 #      data-set: "vpp-performance-changes-3n-tsh-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-tsh-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-tsh-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-tsh-2t2c-pdr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 #
 #      data-set: "vpp-performance-changes-3n-tsh-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-tsh-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-tsh-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-tsh-1t1c-ndr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 #
 #      data-set: "vpp-performance-changes-3n-tsh-h1"
 #    - title: "2001.0-2"
 #      data-set: "vpp-performance-changes-3n-tsh-ref"
-#    - title: "2005.0-2"
-#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
 #    - title: "2005.0-3"
+#      data-set: "vpp-performance-changes-3n-tsh-cmp-2"
+#    - title: "2005.0-4"
 #      data-set: "vpp-performance-changes-3n-tsh-cmp"
 #  comparisons:
 #    - title: "Diff1"
 ##      data: "rca/rca-2005-3n-tsh-2t2c-ndr-rca2.yaml"
 #  legend:
 #    - "Legend to Table"
-#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-XX-XX).'
-#    - 'Diff1 - difference between environment versions "2" and "3" for the same VPP version, 2005.0-2 vs. 2005.0-3.'
-#    - 'Diff2 - difference between the current and the previous VPP version in the current environment version "2", 2005.0-2 vs. 2001.0-2.'
+#    - 'YYMM.V-E - tested VPP version (YY year, MM month, V minor version) and CSIT test environment version (E environment version, "2" for 2020-03-27, "3" for 2020-06-11, "4" for 2020-06-24).'
+#    - 'Diff1 - difference between environment versions "3" and "4" for the same VPP version, 2005.0-3 relative to 2005.0-4. Version "3" was found to be incompatible with "2" due to different number of TRex workers used.'
+#    - 'Diff2 - difference between the current and the previous VPP version in the compatible environment versions "2" and "4", 2005.0-4 relative to 2001.0-2.'
 ##    - 'RCA1 - root cause analysis reference for Diff1.'
 ##    - 'RCA2 - root cause analysis reference for Diff2.'
 

©2016 FD.io a Linux Foundation Collaborative Project. All Rights Reserved.
Linux Foundation is a registered trademark of The Linux Foundation. Linux is a registered trademark of Linus Torvalds.
Please see our privacy policy and terms of use.