Bootstrap to test perf of proposed patch vpp-csit-hw-perf 31/631/4
authorpmikus <pmikus@cisco.com>
Tue, 29 Mar 2016 10:56:12 +0000 (12:56 +0200)
committerGerrit Code Review <gerrit@fd.io>
Fri, 1 Apr 2016 13:31:31 +0000 (13:31 +0000)
- Based on #570 Lab reservation tool
- Get the latest build of VPP
- Make reservation on testbed by using existing topology files
- Copy and install VPP image on all DUTs
- Run performance tests

Change-Id: I8034fd9c284cbe9a68e0c9116d0826965464b5f9
Signed-off-by: pmikus <pmikus@cisco.com>
bootstrap-verify-perf.sh [new file with mode: 0755]
resources/tools/topo_installation.py [new file with mode: 0755]

diff --git a/bootstrap-verify-perf.sh b/bootstrap-verify-perf.sh
new file mode 100755 (executable)
index 0000000..746d1a0
--- /dev/null
@@ -0,0 +1,82 @@
+#!/bin/bash
+# Copyright (c) 2016 Cisco and/or its affiliates.
+# Licensed under the Apache License, Version 2.0 (the "License");
+# you may not use this file except in compliance with the License.
+# You may obtain a copy of the License at:
+#
+#     http://www.apache.org/licenses/LICENSE-2.0
+#
+# Unless required by applicable law or agreed to in writing, software
+# distributed under the License is distributed on an "AS IS" BASIS,
+# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
+# See the License for the specific language governing permissions and
+# limitations under the License.
+
+set -x
+
+# Space separated list of available testbeds, described by topology files
+TOPOLOGIES="topologies/available/lf_testbed2-710-520.yaml"
+
+# Reservation dir
+RESERVATION_DIR="/tmp/reservation_dir"
+
+# Jenkins VPP deb paths (convert to full path)
+VPP_DEBS="$( readlink -f $@ | tr '\n' ' ' )"
+
+CUR_DIR="$( cd "$( dirname "${BASH_SOURCE[0]}" )" && pwd )"
+WORKING_TOPOLOGY=""
+export PYTHONPATH=${CUR_DIR}
+
+sudo apt-get -y update
+sudo apt-get -y install libpython2.7-dev python-virtualenv
+
+virtualenv env
+. env/bin/activate
+
+echo pip install
+pip install -r requirements.txt
+
+# We iterate over available topologies and wait until we reserve topology
+while :; do
+    for TOPOLOGY in ${TOPOLOGIES};
+    do
+        python ${CUR_DIR}/resources/tools/topo_reservation.py -t ${TOPOLOGY}
+        if [ $? -eq 0 ]; then
+            WORKING_TOPOLOGY=${TOPOLOGY}
+            echo "Reserved: ${WORKING_TOPOLOGY}"
+            break
+        fi
+    done
+
+    if [ ! -z "${WORKING_TOPOLOGY}" ]; then
+        # Exit the infinite while loop if we made a reservation
+        break
+    fi
+
+    # Wait 10 - 30 sec. before next try
+    SLEEP_TIME=$[ ( $RANDOM % 20 ) + 10 ]s
+    echo "Sleeping ${SLEEP_TIME}"
+    sleep ${SLEEP_TIME}
+done
+
+python ${CUR_DIR}/resources/tools/topo_installation.py -t ${WORKING_TOPOLOGY} \
+                                                       -d ${RESERVATION_DIR} \
+                                                       -p ${VPP_DEBS}
+if [ $? -eq 0 ]; then
+    echo "VPP Installed on hosts from: ${WORKING_TOPOLOGY}"
+else
+    echo "Failed to copy vpp deb files to DUTs"
+    exit $?
+fi
+
+function cancel_reservation {
+    python ${CUR_DIR}/resources/tools/topo_reservation.py -c -t $1
+}
+
+# On script exit we cancel the reservation and delete all vpp packages
+trap "cancel_reservation ${WORKING_TOPOLOGY}" EXIT
+
+# run performance test suite
+pybot -L TRACE \
+    -v TOPOLOGY_PATH:${WORKING_TOPOLOGY} \
+    -s performance tests/
diff --git a/resources/tools/topo_installation.py b/resources/tools/topo_installation.py
new file mode 100755 (executable)
index 0000000..7fb60ac
--- /dev/null
@@ -0,0 +1,57 @@
+#!/usr/bin/env python
+
+# Copyright (c) 2016 Cisco and/or its affiliates.
+# Licensed under the Apache License, Version 2.0 (the "License");
+# you may not use this file except in compliance with the License.
+# You may obtain a copy of the License at:
+#
+#     http://www.apache.org/licenses/LICENSE-2.0
+#
+# Unless required by applicable law or agreed to in writing, software
+# distributed under the License is distributed on an "AS IS" BASIS,
+# WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
+# See the License for the specific language governing permissions and
+# limitations under the License.
+
+"""This script provides copy and installation of VPP build deb packages.
+   As destinations are used all DUT nodes from the topology file."""
+
+import sys
+import argparse
+from yaml import load
+
+from resources.libraries.python.ssh import SSH
+
+def main():
+    parser = argparse.ArgumentParser()
+    parser.add_argument("-t", "--topo", required=True,
+                        help="Topology file")
+    parser.add_argument("-d", "--directory", required=True,
+                        help="Installation directory")
+    parser.add_argument("-p", "--packages", required=True, nargs='+',
+                        help="Packages paths to copy")
+    args = parser.parse_args()
+    topology_file = args.topo
+    packages = args.packages
+    install_dir = args.directory
+
+    work_file = open(topology_file)
+    topology = load(work_file.read())['nodes']
+
+    for node in topology:
+        if topology[node]['type'] == "DUT":
+            ssh = SSH()
+            ssh.connect(topology[node])
+
+            # Copy packages from local path to installation dir
+            for deb in packages:
+                ssh.scp(local_path=deb,remote_path=install_dir)
+
+            # Installation of VPP deb packages
+            ret, _, err = ssh.exec_command("dpkg -i {}*.deb".format(install_dir))
+            if ret != 0:
+                print("Installation unsuccessful:\n{}".format(err))
+                return ret
+
+if __name__ == "__main__":
+    sys.exit(main())