Code Review / csit.git / blobdiff
? search:
summary | shortlog | log | commit | commitdiff | review | tree
raw | inline | side by side
Report: Add historical data to performance changes table
[csit.git] / resources / tools / presentation / specification.yaml
diff --git a/resources/tools/presentation/specification.yaml b/resources/tools/presentation/specification.yaml
index cdd5b74..cdc9dc1 100644 (file)
--- a/resources/tools/presentation/specification.yaml
+++ b/resources/tools/presentation/specification.yaml
@@ -89,14 +89,20 @@
 -
   type: "configuration"
   data-sets:
-# TODO: Add the data sources
     plot-vpp-http-server-performance:
+# TODO: Add the data sources
       csit-vpp-perf-1801-all:
       - 157
       - 158
       - 159
       - 160
       - 161
+      - 164
+      - 165
+      - 166
+      - 168
+      - 169
+      - 170
 # TODO: Add the data sources
 #    vpp-meltdown-impact:
 #      csit-vpp-perf-1707-all:
@@ -129,7 +135,6 @@
       - 18
       - 19
       - 20
-# TODO: Add the data sources
       csit-vpp-perf-1801-all:
       - 124  # sel
       - 127  # sel
@@ -139,17 +144,44 @@
       - 143  # sel
       - 145  # sel
       - 146  # sel
-# TODO: Add the data sources
+      - 162  # sel
+      - 163  # sel
+      - 167  # sel
+      - 172  # sel acl only
+      csit-vpp-perf-1804-all:
+      - 1   # sel
+      - 13  # sel
+      - 14  # sel
+      - 16  # full
+      - 17  # sel
+      - 18  # full
+    vpp-performance-changes-mrr:
+      csit-vpp-perf-check-1801:
+      - 1
+      - 2
+      - 3
+      - 4
+      - 5
+      - 6
+      - 7
+      - 8
+      - 9
+      - 11
+      - 12
+      - 13
+      csit-vpp-perf-check-1804:
+      - 1   # mrr
+      - 2   # mrr
+      - 3   # mrr
+      - 4   # mrr
     plot-throughput-speedup-analysis:
-      csit-vpp-perf-1801-all:
-      - 124  # sel
-      - 127  # sel
-      - 128  # sel
-      - 141  # sel
-      - 142  # sel
-      - 143  # sel
-      - 145  # sel
-      - 146  # sel
+      csit-vpp-perf-1804-all:
+      - 1   # sel
+      - 13  # sel
+      - 14  # sel
+      - 16  # full
+      - 17  # sel
+      - 18  # full
 #    performance-improvements:
 #      csit-vpp-perf-1707-all:
 #      - 9
@@ -195,52 +227,50 @@
 #      - 19  # sel
 #      - 20  # sel
 #      - 21  # sel
-# TODO: Add the data sources
+#      - 22  # sel
+#      - 23  # sel
+#      - 24  # sel
     vpp-perf-results:
-      csit-vpp-perf-1801-all:
-      - 122
-      - 126
-      - 129
-      - 140
+      csit-vpp-perf-1804-all:
+      - 16  # full
+      - 18  # full
     vpp-func-results:
-      csit-vpp-functional-1801-ubuntu1604-virl:
+      csit-vpp-functional-1804-ubuntu1604-virl:
       - "lastSuccessfulBuild"
-# TODO: Add the data sources
     ligato-perf-results:
       csit-ligato-perf-1801-all:
-      - 19
+      - 25  # full
     dpdk-perf-results:
-      csit-dpdk-perf-1801-all:
-      - 12
+      csit-dpdk-perf-1804-all:
+      - 15
     hc-func-results:
-      csit-hc2vpp-verify-func-1801-ubuntu1604:
+      csit-hc2vpp-verify-func-1804-ubuntu1604:
       - "lastSuccessfulBuild"
     nsh-func-results:
-      csit-nsh_sfc-verify-func-1801-ubuntu1604-virl:
-      - 1
-# TODO: Add the data sources
+      csit-nsh_sfc-verify-func-1804-ubuntu1604-virl:
+      - "lastSuccessfulBuild"
     plot-vpp-throughput-latency:
-      csit-vpp-perf-1801-all:
-      - 124  # sel
-      - 127  # sel
-      - 128  # sel
-      - 141  # sel
-      - 142  # sel
-      - 143  # sel
-      - 145  # sel
-      - 146  # sel
+      csit-vpp-perf-1804-all:
+      - 1   # sel
+      - 13  # sel
+      - 14  # sel
+      - 16  # full
+      - 17  # sel
+      - 18  # full
     plot-dpdk-throughput-latency:
-      csit-dpdk-perf-1801-all:
-      - 1
-      - 3
+      csit-dpdk-perf-1804-all:
       - 4
       - 5
       - 6
       - 7
       - 8
+      - 9
       - 10
+      - 11
       - 12
-# TODO: Add the data sources
+      - 13
+      - 14
+      - 15
     plot-ligato-throughput-latency:
       csit-ligato-perf-1801-all:
       - 16  # sel
@@ -249,6 +279,9 @@
       - 19  # sel
       - 20  # sel
       - 21  # sel
+      - 22  # sel
+      - 23  # sel
+      - 24  # sel
 
   plot-layouts:
 
@@ -522,7 +555,6 @@
     - 18
     - 19
     - 20
-# TODO:
     csit-vpp-perf-1801-all:
     - 122  # full
     - 126  # full
@@ -541,28 +573,52 @@
     - 159  # wrk
     - 160  # wrk
     - 161  # wrk
-    csit-ligato-perf-1710-all:
-    - 5
-    - 7
-    - 8
-    - 9
-    - 10
-    - 11
-    - 12
-    - 13
-    - 16
-    - 17
-    csit-dpdk-perf-1801-all:
-    - 1
-    - 4
-    - 5
-    - 7
-    - 8
-    - 10
-    - 12
-    - 16
-    - 17
-# TODO:
+    - 162  # sel
+    - 163  # sel
+    - 164  # wrk
+    - 165  # wrk
+    - 166  # wrk
+    - 167  # sel
+    - 168  # wrk
+    - 169  # wrk
+    - 170  # wrk
+    - 172  # sel acl only
+    csit-vpp-perf-1804-all:
+    - 1   # sel
+    - 13  # sel
+    - 14  # sel
+    - 16  # full
+    - 17  # sel
+    - 18  # full
+    csit-vpp-perf-check-1801:
+    - 1   # mrr
+    - 2   # mrr
+    - 3   # mrr
+    - 4   # mrr
+    - 5   # mrr
+    - 6   # mrr
+    - 7   # mrr
+    - 8   # mrr
+    - 9   # mrr
+    - 11  # mrr
+    - 12  # mrr
+    - 13  # mrr
+    csit-vpp-perf-check-1804:
+    - 1   # mrr
+    - 2   # mrr
+    - 3   # mrr
+    - 4   # mrr
+#    csit-ligato-perf-1710-all:
+#    - 5
+#    - 7
+#    - 8
+#    - 9
+#    - 10
+#    - 11
+#    - 12
+#    - 13
+#    - 16
+#    - 17
     csit-ligato-perf-1801-all:
     - 16  # sel
     - 17  # sel
@@ -570,9 +626,11 @@
     - 19  # sel
     - 20  # sel
     - 21  # sel
-    csit-dpdk-perf-1801-all:
-    - 1
-    - 3
+    - 22  # sel
+    - 23  # sel
+    - 24  # sel
+    - 25  # full
+    csit-dpdk-perf-1804-all:
     - 4
     - 5
     - 6
@@ -580,16 +638,21 @@
     - 8
     - 9
     - 10
+    - 11
     - 12
-    csit-vpp-functional-1801-ubuntu1604-virl:
-    - lastSuccessfulBuild
-    csit-nsh_sfc-verify-func-1801-ubuntu1604-virl:
-    - 1
-    csit-hc2vpp-verify-func-1801-ubuntu1604:
-    - lastSuccessfulBuild
+    - 13
+    - 14
+    - 15
+    csit-vpp-functional-1804-ubuntu1604-virl:
+    - "lastSuccessfulBuild"
+    csit-nsh_sfc-verify-func-1804-ubuntu1604-virl:
+    - "lastSuccessfulBuild"
+    csit-hc2vpp-verify-func-1804-ubuntu1604:
+    - "lastSuccessfulBuild"
 
 -
   type: "output"
+  output: "report"
   format:
     html:
     - full
@@ -673,26 +736,24 @@
   title: "VPP Performance Changes"
   algorithm: "table_performance_comparison"
   output-file-ext: ".csv"
-# TODO: specify dir
   output-file: "{DIR[STATIC,VPP]}/performance-changes"
+  history:
+    -
+      title: "rls1710"
+      data:
+        csit-vpp-perf-1710-all:
+        - 11
+        - 12
+        - 13
+        - 14
+        - 15
+        - 16
+        - 17
+        - 18
+        - 19
+        - 20
   reference:
-    title: "Release 1710"
-# TODO: specify data sources
-    data:
-      csit-vpp-perf-1710-all:
-      - 11
-      - 12
-      - 13
-      - 14
-      - 15
-      - 16
-      - 17
-      - 18
-      - 19
-      - 20
-  compare:
-    title: "Release 1801"
-# TODO: specify data sources
+    title: "rls1801"
     data:
       csit-vpp-perf-1801-all:
       - 124  # sel
@@ -703,6 +764,15 @@
       - 143  # sel
       - 145  # sel
       - 146  # sel
+      - 162  # sel
+      - 163  # sel
+      - 167  # sel
+      - 172  # sel acl only
+  compare:
+    title: "rls1804"
+    data:
+      csit-vpp-perf-1804-all:
+      - 1
   data: "vpp-performance-changes"
   filter: "all"
   parameters:
@@ -714,6 +784,44 @@
   nr-of-tests-shown: 20
   outlier-const: 1.5
 
+-
+  type: "table"
+  title: "VPP Performance Changes - MRR"
+  algorithm: "table_performance_comparison_mrr"
+  output-file-ext: ".csv"
+  output-file: "{DIR[STATIC,VPP]}/performance-changes-mrr"
+  reference:
+    title: "Release 1801"
+    data:
+      csit-vpp-perf-check-1801:
+      - 1
+      - 2
+      - 3
+      - 4
+      - 5
+      - 6
+      - 7
+      - 8
+      - 9
+      - 11
+      - 12
+      - 13
+  compare:
+    title: "Release 1804"
+    data:
+      csit-vpp-perf-check-1804:
+      - 1
+  data: "vpp-performance-changes-mrr"
+  filter: "all"
+  parameters:
+  - "name"
+  - "parent"
+  - "result"
+  # Number of the best and the worst tests presented in the table. Use 0 (zero)
+  # to present all tests.
+  nr-of-tests-shown: 20
+  outlier-const: 1.5
+
 #-
 #  type: "table"
 #  title: "Performance improvements"
@@ -1558,7 +1666,7 @@
   output-file: "{DIR[STATIC,VPP]}/64B-1t1c-ethip4-ip4-ndrdisc"
   data:
     "plot-vpp-throughput-latency"
-  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '1T1C' and 'IP4FWD' and not 'IPSEC' and not 'VHOST'"
+  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '1T1C' and 'IP4FWD' and not 'ACL1' and not 'ACL10' and not '100_FLOWS' and not '100k_FLOWS' and not 'IPSEC' and not 'VHOST'"
   parameters:
   - "throughput"
   - "parent"
@@ -1579,7 +1687,7 @@
   output-file: "{DIR[STATIC,VPP]}/64B-2t2c-ethip4-ip4-ndrdisc"
   data:
     "plot-vpp-throughput-latency"
-  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '2T2C' and 'IP4FWD' and not 'IPSEC' and not 'VHOST'"
+  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '2T2C' and 'IP4FWD' and not 'ACL1' and not 'ACL10' and not '100_FLOWS' and not '100k_FLOWS' and not 'IPSEC' and not 'VHOST'"
   parameters:
   - "throughput"
   - "parent"
@@ -1600,7 +1708,7 @@
   output-file: "{DIR[STATIC,VPP]}/64B-1t1c-ethip4-ip4-pdrdisc"
   data:
     "plot-vpp-throughput-latency"
-  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'PDRDISC' and not 'NDRDISC' and '1T1C' and 'IP4FWD' and not 'IPSEC' and not 'VHOST'"
+  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'PDRDISC' and not 'NDRDISC' and '1T1C' and 'IP4FWD' and not 'ACL1' and not 'ACL10' and not '100_FLOWS' and not '100k_FLOWS' and not 'IPSEC' and not 'VHOST'"
   parameters:
   - "throughput"
   - "parent"
@@ -1621,7 +1729,7 @@
   output-file: "{DIR[STATIC,VPP]}/64B-2t2c-ethip4-ip4-pdrdisc"
   data:
     "plot-vpp-throughput-latency"
-  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'PDRDISC' and not 'NDRDISC' and '2T2C' and 'IP4FWD' and not 'IPSEC' and not 'VHOST'"
+  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'PDRDISC' and not 'NDRDISC' and '2T2C' and 'IP4FWD' and not 'ACL1' and not 'ACL10' and not '100_FLOWS' and not '100k_FLOWS' and not 'IPSEC' and not 'VHOST'"
   parameters:
   - "throughput"
   - "parent"
@@ -2661,7 +2769,7 @@
   output-file: "{DIR[STATIC,VPP]}/64B-1t1c-ethip4-ip4-ndrdisc-lat50"
   data:
     "plot-vpp-throughput-latency"
-  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '1T1C' and 'IP4FWD' and not 'IPSEC' and not 'VHOST'"
+  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '1T1C' and 'IP4FWD' and not 'ACL1' and not 'ACL10' and not '100_FLOWS' and not '100k_FLOWS' and not 'IPSEC' and not 'VHOST'"
   parameters:
   - "latency"
   - "parent"
@@ -2680,7 +2788,7 @@
   output-file: "{DIR[STATIC,VPP]}/64B-2t2c-ethip4-ip4-ndrdisc-lat50"
   data:
     "plot-vpp-throughput-latency"
-  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '2T2C' and 'IP4FWD' and not 'IPSEC' and not 'VHOST'"
+  filter: "'64B' and ('BASE' or 'SCALE' or 'FEATURE') and 'NDRDISC' and '2T2C' and 'IP4FWD' and not 'ACL1' and not 'ACL10' and not '100_FLOWS' and not '100k_FLOWS' and not 'IPSEC' and not 'VHOST'"
   parameters:
   - "latency"
   - "parent"
Integration tests