deae8b0bd3db73eb1e7c67fd28f7414b2c823ae4
[csit.git] / resources / libraries / bash / entry / per_patch_perf.sh
1 #!/usr/bin/env bash
2
3 # Copyright (c) 2018 Cisco and/or its affiliates.
4 # Licensed under the Apache License, Version 2.0 (the "License");
5 # you may not use this file except in compliance with the License.
6 # You may obtain a copy of the License at:
7 #
8 #     http://www.apache.org/licenses/LICENSE-2.0
9 #
10 # Unless required by applicable law or agreed to in writing, software
11 # distributed under the License is distributed on an "AS IS" BASIS,
12 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13 # See the License for the specific language governing permissions and
14 # limitations under the License.
15
16 set -exuo pipefail
17
18 # This entry script does not change CSIT branch,
19 # use "with_oper_for_vpp.sh" wrapper for that.
20 #
21 # Assumptions:
22 # + There is a directory holding VPP repo with patch under test checked out.
23 # + It contains csit subdirectory with CSIT code to use (this script is there).
24 # + Everything needed to build VPP is already installed locally.
25 # Consequences:
26 # + At the end, VPP repo has parent commit checked out and built.
27 # + Directories build_root, build and csit are reset during the run.
28 # + The following directories (relative to VPP repo) are (re)created:
29 # ++ csit_new, csit_parent, build_new, build_parent,
30 # ++ archive, csit/archive, csit_download_dir.
31
32 # TODO: Implement some kind of VPP build caching.
33
34 # "set -eu" handles failures from the following two lines.
35 BASH_ENTRY_DIR="$(dirname $(readlink -e "${BASH_SOURCE[0]}"))"
36 BASH_FUNCTION_DIR="$(readlink -e "${BASH_ENTRY_DIR}/../function")"
37 source "${BASH_FUNCTION_DIR}/common.sh" || {
38     echo "Source failed." >&2
39     exit 1
40 }
41 source "${BASH_FUNCTION_DIR}/per_patch.sh" || die "Source failed."
42 # Cleanup needs ansible.
43 source "${BASH_FUNCTION_DIR}/ansible.sh" || die "Source failed."
44 common_dirs || die
45 check_prerequisites || die
46 set_perpatch_vpp_dir || die
47 build_vpp_ubuntu_amd64 "CURRENT" || die
48 set_aside_commit_build_artifacts || die
49 build_vpp_ubuntu_amd64 "PARENT" || die
50 set_aside_parent_build_artifacts || die
51 ## Replace previous 4 lines with this to speed up testing.
52 #download_builds "REPLACE_WITH_URL" || die
53 initialize_csit_dirs || die
54 get_test_code "${1-}" || die
55 get_test_tag_string || die
56 set_perpatch_dut || die
57 select_topology || die
58 select_arch_os || die
59 activate_virtualenv "${VPP_DIR}" || die
60 generate_tests || die
61 archive_tests || die
62 reserve_and_cleanup_testbed || die
63 select_tags || die
64 compose_pybot_arguments || die
65 # Support for interleaved measurements is kept for future.
66 iterations=1 # 8
67 for ((iter=0; iter<iterations; iter++)); do
68     if ((iter)); then
69         # Function reserve_and_cleanup_testbed has already cleaned it once,
70         # but we need to clean it explicitly on subsequent iterations.
71         ansible_playbook "cleanup" || die
72     fi
73     # Testing current first. Good for early failures or for API changes.
74     select_build "build_current" || die
75     check_download_dir || die
76     run_pybot || die
77     copy_archives || die
78     archive_parse_test_results "csit_current/${iter}" || die
79     die_on_pybot_error || die
80     # TODO: Use less heavy way to avoid apt remove failures.
81     ansible_playbook "cleanup" || die
82     select_build "build_parent" || die
83     check_download_dir || die
84     run_pybot || die
85     copy_archives || die
86     archive_parse_test_results "csit_parent/${iter}" || die
87     die_on_pybot_error || die
88 done
89 untrap_and_unreserve_testbed || die
90 compare_test_results  # The error code becomes this script's error code.