2274748d7871e07cf6b3170d46d9751607538d1c
[csit.git] / resources / tools / presentation / rca / rca-2n-skx-2t1c-ndr-rca1.yaml
1 # CSIT progressions.
2 64b-2t1c-avf-dot1q-l2bdbasemaclrn-eth-2vhostvr1024-1vm: 7
3 64b-2t1c-avf-dot1q-l2bdbasemaclrn-eth-2vhostvr1024-1vm-vppl2xc: 5
4 64b-2t1c-avf-dot1q-l2xcbase-eth-2vhostvr1024-1vm: 7
5 64b-2t1c-avf-dot1q-l2xcbase-eth-2vhostvr1024-1vm-vppl2xc: 5
6 64b-2t1c-avf-eth-l2bdbasemaclrn-eth-2vhostvr1024-1vm-vppl2xc: 5
7 64b-2t1c-avf-eth-l2patch: 7
8 64b-2t1c-avf-eth-l2xcbase: 7
9 64b-2t1c-avf-eth-l2xcbase-eth-2vhostvr1024-1vm-vppl2xc: 5
10 64b-2t1c-dot1q-l2bdbasemaclrn-eth-2vhostvr1024-1vm-vppl2xc: 5
11 64b-2t1c-eth-l2bdbasemaclrn-eth-2vhostvr1024-1vm-vppl2xc: 5
12 64b-2t1c-eth-l2xcbase: 7
13 64b-2t1c-eth-l2xcbase-eth-2vhostvr1024-1vm-vppl2xc: 5
14 # CSIT regressions.
15 64b-2t1c-avf-dot1q-ip4base: 7
16 64b-2t1c-avf-dot1q-l2xcbase: 7
17 64b-2t1c-avf-eth-l2bdscale1mmaclrn: 7
18 64b-2t1c-avf-ethip4-ip4scale200k: 7
19 64b-2t1c-avf-ethip4-ip4scale200k-rnd: 2
20 64b-2t1c-avf-ethip4-ip4scale20k-rnd: 2
21 64b-2t1c-avf-ethip4-ip4scale2m: 7
22 64b-2t1c-avf-ethip4-ip4scale2m-rnd: 2
23 64b-2t1c-avf-ethip4udp-ip4base-iacl50sf-10kflows: 1
24 64b-2t1c-avf-ethip4udp-ip4base-iacl50sl-10kflows: 1
25 64b-2t1c-avf-ethip4udp-ip4base-nat44: 7
26 64b-2t1c-avf-ethip4udp-ip4base-oacl50sf-10kflows: 1
27 64b-2t1c-avf-ethip4udp-ip4base-oacl50sl-10kflows: 1
28 64b-2t1c-ethip4-ip4scale200k-rnd: 2
29 64b-2t1c-ethip4-ip4scale2m: 7
30 64b-2t1c-ethip4-ip4scale2m-rnd: 2
31 78b-2t1c-avf-ethip6-ip6scale20k: 7
32 78b-2t1c-avf-ethip6-ip6base: 7
33
34 # Multiline string, empty lines (or \n) are required,
35 # see https://yaml-multiline.info/
36
37 footnote: "
38     [1] DONE Regression in ACL tests due to Gerrit 26112. With CSIT
39     using changed VPP API, instead of failing, misconfigured VPP passes
40     the test, albeit with reduced performance. [CSIT-1739]
41
42     [2] DONE Regression in tests using random flow sequencing due to
43     Gerrit 26456. Unpinned random seed to make TRex workers generate
44     different sequences of packets. [CSIT-1731]
45
46     [5] DONE Progression in tests with VPP (l2xc) inside a VM due to
47     Gerrit 25309. Make VPP in VM worker placement deterministic.
48     [CSIT-1738]
49
50     [7] POSTPONED Possible anomaly, but stdev of results is high.
51     Performance differences considered to probably be just noise.
52
53     [8] DONE Regressions in some tests with VPP in VM due to Gerrit
54     26744. Switch to clang-9 compiler identified as cause. Tests using
55     l2xcbase as vswitch with small stdev used for bisect. [CSIT-1741]
56
57     [9] OPEN Progression in all ip6 scale tests. Changes to vppinfra
58     bihash may have improved code efficiency. [CSIT-1735]
59
60     [11] OPEN Progression in memif tests, mainly in
61     avf-eth-l2xcbase-eth-2memif-1dcr. [CSIT-1744]
62
63     [12] OPEN Progression in some l2bdscale tests. [CSIT-1745]
64
65     [13] DONE Stateless ACL test have the same performance in 2005.0-4
66     as in 2001.0-2. The difference shown here is inflated by an API
67     change, see [1]. [CSIT-1739]
68
69     [14] DONE Stateful ACL test have better performance in 2005.0-4 as
70     in 2001.0-2. The VPP part of API change, Gerrit 26184, made VPP
71     faster. The difference shown here is further inflated by the API
72     change, see [1]. [CSIT-1739]
73
74     [15] OPEN Progression in nat44 test (not scale ones). [CSIT-1747]
75
76     [17] OPEN Progression in some vhost tests (dpdk in VM). [CSIT-1749]
77 "