CSIT-618 CSIT rls1707 Report - Update II 95/7595/3
authorPeter Mikus <pmikus@cisco.com>
Mon, 17 Jul 2017 12:14:23 +0000 (14:14 +0200)
committerPeter Mikus <pmikus@cisco.com>
Tue, 18 Jul 2017 08:08:39 +0000 (08:08 +0000)
Change-Id: I50a210930c0571ca910ead1724de7848c0911646
Signed-off-by: Peter Mikus <pmikus@cisco.com>
docs/report/detailed_test_results/index.rst
docs/report/detailed_test_results/nshsfc_functional_results/index.rst [new file with mode: 0644]
docs/report/introduction/overview.rst
resources/tools/report_gen/run_report.sh

index a609ef4..9a986bc 100644 (file)
@@ -7,4 +7,5 @@ Detailed Test Results
     dpdk_performance_results/index
     vpp_functional_results/index
     honeycomb_functional_results/index
+    nshsfc_functional_results/index
     vpp_unittest_results/index
diff --git a/docs/report/detailed_test_results/nshsfc_functional_results/index.rst b/docs/report/detailed_test_results/nshsfc_functional_results/index.rst
new file mode 100644 (file)
index 0000000..11c168a
--- /dev/null
@@ -0,0 +1,14 @@
+NSH SFC Functional Results
+==========================
+
+.. note::
+
+    Data sources for reported test results: i) FD.io test executor jobs
+    `###JOB###
+    <###LINK###>`_
+    , ii) archived FD.io jobs test result `output files
+    <../../_static/archive/>`_.
+
+.. toctree::
+
+    nshsfc_functional_results
index 7954686..4aac352 100644 (file)
@@ -1,82 +1,82 @@
-Overview\r
-========\r
-\r
-This is the **F**\ast **D**\ata **I**/**O** Project (**FD.io**) **C**\ontinuous\r
-**S**\ystem **I**\ntegration and **T**\esting (**CSIT**) project report for CSIT\r
-|release| system testing of |vpp-release|.\r
-\r
-The report describes CSIT functional and performance tests and their\r
-continuous execution delivered in CSIT |release|. A high-level overview is\r
-provided for each CSIT test environment running in Linux Foundation (LF) FD.io\r
-Continuous Performance Labs. This is followed by summary of all executed tests\r
-against the |vpp-release| and associated FD.io projects and sub-systems\r
-(HoneyComb, DPDK), CSIT |release| release notes, result highlights and known\r
-issues discovered in CSIT. More detailed description of each environment,\r
-pointers to CSIT test code documentation and detailed test resuls with links to\r
-the source data files are also provided.\r
-\r
-CSIT |release| report contains following main sections and sub-sections:\r
-\r
-#. **Introduction** - general introduction to CSIT project; *Overview* -\r
-   this section; *CSIT Test Naming* - CSIT general naming convention for test\r
-   suites and test cases, important to recognize the high-level test content\r
-   and interpret reported results; *General Notes* - general notes related to\r
-   this report.\r
-\r
-#. **VPP Performance Tests** - VPP performance tests executed in physical\r
-   FD.io testbeds; *Overview* - tested topologies, test coverage and naming\r
-   specifics, methodology for multi-core, packet throughput and latency, and\r
-   KVM VM vhost tests; *CSIT Release Notes* - changes in CSIT |release|, added\r
-   tests, performance changes, environment or methodology changes, known CSIT\r
-   issues; *Packet Throughput Graphs* and *Packet Latency\r
-   Graphs* - plotted NDR, PDR throughput and latency results from multiple\r
-   test job executions; *Test Environment* - environment description;\r
-   *Documentation* - CSIT source code documentation for VPP performance tests.\r
-\r
-#. **DPDK Performance Tests** - DPDK performance tests executed in\r
-   physical FD.io testbeds; *Overview* - tested topologies, test coverage;\r
-   *CSIT Release Notes* - changes in CSIT |release|, any known CSIT issues;\r
-   *Packet Throughput Graphs* and *Packet Latency Graphs*\r
-   - plotted NDR, PDR throughput and latency results from multiple test job\r
-   executions; *Test Environment* - environment description; *Documentation* -\r
-   CSIT source code documentation for DPDK performance tests.\r
-\r
-#. **VPP Functional Tests** - VPP functional tests executed in virtual\r
-   FD.io testbeds; *Overview* - tested virtual topologies, test coverage and\r
-   naming specifics; *CSIT Release Notes* - changes in CSIT |release|, added\r
-   tests, environment or methodology changes, known CSIT issues, tests to be\r
-   added; *Test Environment* - environment description ; *Documentation* -\r
-   source code documentation for VPP functional tests.\r
-\r
-#. **HoneyComb Functional Tests** - HoneyComb functional tests executed in\r
-   virtual FD.io testbeds; *Overview* - tested virtual topologies, test\r
-   coverage and naming specifics; *CSIT Release Notes* - changes in CSIT\r
-   |release|, added tests, environment or methodology changes, known CSIT issues;\r
-   *Test Environment* - environment description ;\r
-   *Documentation* - source code documentation for Honeycomb functional tests.\r
-\r
-#. **VPP Unit Tests** - refers to VPP functional unit tests executed as\r
-   part of vpp make test verify option within the FD.io VPP project; listed in\r
-   this report to give a more complete view about executed VPP functional tests;\r
-   *Overview* - short overview of unit test framework and executed tests;\r
-   *Documentation* - source code documentation of VPP unit tests.\r
-\r
-#. **NSH_SFC Functional Tests** - NSH_SFC functional tests executed in\r
-   virtual FD.io testbeds; *Overview* - tested virtual topologies, test\r
-   coverage and naming specifics; *CSIT Release Notes* - changes in CSIT\r
-   |release|, added tests, environment or methodology changes, known CSIT issues;\r
-   *Test Environment* - environment description ;\r
-   *Documentation* - source code documentation for NSH_SFC functional tests.\r
-\r
-#. **Detailed Test Results** - auto-generated results from CSIT jobs\r
-   executions using CSIT Robot Framework output files as source data; *VPP\r
-   Performance Results*, *DPDK Performance Results*, *VPP Functional\r
-   Results*, *HoneyComb Functional Results*, *VPPtest Functional Results*.\r
-\r
-#. **Test Configuration** - auto-generated DUT configuration data from CSIT jobs\r
-   executions using CSIT Robot Framework output files as source data; *VPP\r
-   Performance Test Configs*, *VPP Functional Test Configs*.\r
-\r
-#. **Test Operational Data** - auto-generated DUT operational data from CSIT jobs\r
-   executions using CSIT Robot Framework output files as source data; *VPP\r
-   Performance Operational Data*.\r
+Overview
+========
+
+This is the **F**\ast **D**\ata **I**/**O** Project (**FD.io**) **C**\ontinuous
+**S**\ystem **I**\ntegration and **T**\esting (**CSIT**) project report for CSIT
+|release| system testing of |vpp-release|.
+
+The report describes CSIT functional and performance tests and their
+continuous execution delivered in CSIT |release|. A high-level overview is
+provided for each CSIT test environment running in Linux Foundation (LF) FD.io
+Continuous Performance Labs. This is followed by summary of all executed tests
+against the |vpp-release| and associated FD.io projects and sub-systems
+(HoneyComb, DPDK, NSH_SFC), CSIT |release| release notes, result highlights and
+known issues discovered in CSIT. More detailed description of each environment,
+pointers to CSIT test code documentation and detailed test resuls with links to
+the source data files are also provided.
+
+CSIT |release| report contains following main sections and sub-sections:
+
+#. **Introduction** - general introduction to CSIT project; *Overview* -
+   this section; *CSIT Test Naming* - CSIT general naming convention for test
+   suites and test cases, important to recognize the high-level test content
+   and interpret reported results; *General Notes* - general notes related to
+   this report.
+
+#. **VPP Performance Tests** - VPP performance tests executed in physical
+   FD.io testbeds; *Overview* - tested topologies, test coverage and naming
+   specifics, methodology for multi-core, packet throughput and latency, and
+   KVM VM vhost tests; *CSIT Release Notes* - changes in CSIT |release|, added
+   tests, performance changes, environment or methodology changes, known CSIT
+   issues; *Packet Throughput Graphs* and *Packet Latency
+   Graphs* - plotted NDR, PDR throughput and latency results from multiple
+   test job executions; *Test Environment* - environment description;
+   *Documentation* - CSIT source code documentation for VPP performance tests.
+
+#. **DPDK Performance Tests** - DPDK performance tests executed in
+   physical FD.io testbeds; *Overview* - tested topologies, test coverage;
+   *CSIT Release Notes* - changes in CSIT |release|, any known CSIT issues;
+   *Packet Throughput Graphs* and *Packet Latency Graphs*
+   - plotted NDR, PDR throughput and latency results from multiple test job
+   executions; *Test Environment* - environment description; *Documentation* -
+   CSIT source code documentation for DPDK performance tests.
+
+#. **VPP Functional Tests** - VPP functional tests executed in virtual
+   FD.io testbeds; *Overview* - tested virtual topologies, test coverage and
+   naming specifics; *CSIT Release Notes* - changes in CSIT |release|, added
+   tests, environment or methodology changes, known CSIT issues, tests to be
+   added; *Test Environment* - environment description ; *Documentation* -
+   source code documentation for VPP functional tests.
+
+#. **HoneyComb Functional Tests** - HoneyComb functional tests executed in
+   virtual FD.io testbeds; *Overview* - tested virtual topologies, test
+   coverage and naming specifics; *CSIT Release Notes* - changes in CSIT
+   |release|, added tests, environment or methodology changes, known CSIT issues;
+   *Test Environment* - environment description ;
+   *Documentation* - source code documentation for Honeycomb functional tests.
+
+#. **VPP Unit Tests** - refers to VPP functional unit tests executed as
+   part of vpp make test verify option within the FD.io VPP project; listed in
+   this report to give a more complete view about executed VPP functional tests;
+   *Overview* - short overview of unit test framework and executed tests;
+   *Documentation* - source code documentation of VPP unit tests.
+
+#. **NSH_SFC Functional Tests** - NSH_SFC functional tests executed in
+   virtual FD.io testbeds; *Overview* - tested virtual topologies, test
+   coverage and naming specifics; *CSIT Release Notes* - changes in CSIT
+   |release|, added tests, environment or methodology changes, known CSIT issues;
+   *Test Environment* - environment description ;
+   *Documentation* - source code documentation for NSH_SFC functional tests.
+
+#. **Detailed Test Results** - auto-generated results from CSIT jobs
+   executions using CSIT Robot Framework output files as source data; *VPP
+   Performance Results*, *DPDK Performance Results*, *VPP Functional
+   Results*, *HoneyComb Functional Results*, *VPPtest Functional Results*.
+
+#. **Test Configuration** - auto-generated DUT configuration data from CSIT jobs
+   executions using CSIT Robot Framework output files as source data; *VPP
+   Performance Test Configs*, *VPP Functional Test Configs*.
+
+#. **Test Operational Data** - auto-generated DUT operational data from CSIT jobs
+   executions using CSIT Robot Framework output files as source data; *VPP
+   Performance Operational Data*.
index 494ec56..ece6036 100755 (executable)
@@ -21,17 +21,19 @@ PLOT_VPP_SOURCE_DIR=${WORKING_DIR}/vpp_plot
 PLOT_DPDK_SOURCE_DIR=${WORKING_DIR}/dpdk_plot
 
 DTR_SOURCE_DIR=${SOURCE_DIR}/detailed_test_results
-DTR_PERF_SOURCE_DIR=${DTR_SOURCE_DIR}/vpp_performance_results
 DTR_DPDK_SOURCE_DIR=${DTR_SOURCE_DIR}/dpdk_performance_results
-DTR_FUNC_SOURCE_DIR=${DTR_SOURCE_DIR}/vpp_functional_results
-DTR_HONEYCOMB_SOURCE_DIR=${DTR_SOURCE_DIR}/honeycomb_functional_results
+DTR_VPP_PERF_SOURCE_DIR=${DTR_SOURCE_DIR}/vpp_performance_results
+DTR_VPP_FUNC_SOURCE_DIR=${DTR_SOURCE_DIR}/vpp_functional_results
+DTR_HC_PERF_SOURCE_DIR=${DTR_SOURCE_DIR}/honeycomb_performance_results
+DTR_HC_FUNC_SOURCE_DIR=${DTR_SOURCE_DIR}/honeycomb_functional_results
+DTR_NSHSFC_FUNC_SOURCE_DIR=${DTR_SOURCE_DIR}/nshsfc_functional_results
 
 DTC_SOURCE_DIR=${SOURCE_DIR}/test_configuration
-DTC_PERF_SOURCE_DIR=${DTC_SOURCE_DIR}/vpp_performance_configuration
-DTC_FUNC_SOURCE_DIR=${DTC_SOURCE_DIR}/vpp_functional_configuration
+DTC_VPP_PERF_SOURCE_DIR=${DTC_SOURCE_DIR}/vpp_performance_configuration
+DTC_VPP_FUNC_SOURCE_DIR=${DTC_SOURCE_DIR}/vpp_functional_configuration
 
 DTO_SOURCE_DIR=${SOURCE_DIR}/test_operational_data
-DTO_PERF_SOURCE_OPER_DIR=${DTO_SOURCE_DIR}/vpp_performance_operational_data
+DTO_VPP_PERF_SOURCE_OPER_DIR=${DTO_SOURCE_DIR}/vpp_performance_operational_data
 
 # Jenkins links
 CSIT_JEN_URL='https://jenkins.fd.io/view/csit/job'
@@ -90,34 +92,34 @@ done
 
 unzip -o ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_FBUILD}.zip -d ${WORKING_DIR}/
 python run_robot_data.py -i ${WORKING_DIR}/robot-plugin/output.xml \
-    --output ${DTR_PERF_SOURCE_DIR}/vpp_performance_results.rst \
+    --output ${DTR_VPP_PERF_SOURCE_DIR}/vpp_performance_results.rst \
     --formatting rst --start 4 --level 2
 python run_robot_teardown_data.py -i ${WORKING_DIR}/robot-plugin/output.xml \
-    --output ${DTC_PERF_SOURCE_DIR}/vpp_performance_configuration.rst \
+    --output ${DTC_VPP_PERF_SOURCE_DIR}/vpp_performance_configuration.rst \
     --data "VAT_H" -f "rst" --start 4 --level 2
 python run_robot_teardown_data.py -i ${WORKING_DIR}/robot-plugin/output.xml \
-    -o ${DTO_PERF_SOURCE_OPER_DIR}/vpp_performance_operational_data.rst \
+    -o ${DTO_VPP_PERF_SOURCE_OPER_DIR}/vpp_performance_operational_data.rst \
     --data "SH_RUN" -f "rst" --start 4 --level 2
 if [[ ${DEBUG} -eq 0 ]] ;
 then
     sed -i -e "s@###JOB###@${JEN_JOB}\/${JEN_FBUILD}@g" \
-        ${DTR_PERF_SOURCE_DIR}/index.rst
+        ${DTR_VPP_PERF_SOURCE_DIR}/index.rst
     sed -i -e "s@###LINK###@${CSIT_JEN_URL}\/${JEN_JOB}\/${JEN_FBUILD}@g" \
-        ${DTR_PERF_SOURCE_DIR}/index.rst
+        ${DTR_VPP_PERF_SOURCE_DIR}/index.rst
     sed -i -e "s@###JOB###@${JEN_JOB}\/${JEN_FBUILD}@g" \
-        ${DTC_PERF_SOURCE_DIR}/index.rst
+        ${DTC_VPP_PERF_SOURCE_DIR}/index.rst
     sed -i -e "s@###LINK###@${CSIT_JEN_URL}\/${JEN_JOB}\/${JEN_FBUILD}@g" \
-        ${DTC_PERF_SOURCE_DIR}/index.rst
+        ${DTC_VPP_PERF_SOURCE_DIR}/index.rst
     sed -i -e "s@###JOB###@${JEN_JOB}\/${JEN_FBUILD}@g" \
-        ${DTO_PERF_SOURCE_OPER_DIR}/index.rst
+        ${DTO_VPP_PERF_SOURCE_OPER_DIR}/index.rst
     sed -i -e "s@###LINK###@${CSIT_JEN_URL}\/${JEN_JOB}\/${JEN_FBUILD}@g" \
-        ${DTO_PERF_SOURCE_OPER_DIR}/index.rst
+        ${DTO_VPP_PERF_SOURCE_OPER_DIR}/index.rst
 fi
 
 ### DPDK PERFORMANCE SOURCE DATA
 
 JEN_JOB='csit-dpdk-perf-1707-all'
-JEN_BUILD=(1 2 3 4)
+JEN_BUILD=(1 2 3 4 5 6 7 8 9 10)
 
 for i in "${JEN_BUILD[@]}"; do
     curl --fail -fs ${CSIT_JEN_URL}/${JEN_JOB}/${i}/robot/report/output_perf_data.xml \
@@ -154,21 +156,21 @@ else
         -o ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_BUILD}.zip
 
     sed -i -e "s@###JOB###@${JEN_JOB}\/${JEN_BUILD}@g" \
-        ${DTR_FUNC_SOURCE_DIR}/index.rst
+        ${DTR_VPP_FUNC_SOURCE_DIR}/index.rst
     sed -i -e "s@###LINK###@${CSIT_JEN_URL}\/${JEN_JOB}\/${JEN_BUILD}@g" \
-        ${DTR_FUNC_SOURCE_DIR}/index.rst
+        ${DTR_VPP_FUNC_SOURCE_DIR}/index.rst
     sed -i -e "s@###JOB###@${JEN_JOB}\/${JEN_BUILD}@g" \
-        ${DTC_FUNC_SOURCE_DIR}/index.rst
+        ${DTC_VPP_FUNC_SOURCE_DIR}/index.rst
     sed -i -e "s@###LINK###@${CSIT_JEN_URL}\/${JEN_JOB}\/${JEN_BUILD}@g" \
-        ${DTC_FUNC_SOURCE_DIR}/index.rst
+        ${DTC_VPP_FUNC_SOURCE_DIR}/index.rst
 fi
 
 unzip -o ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_BUILD}.zip -d ${WORKING_DIR}/
 python run_robot_data.py -i ${WORKING_DIR}/robot-plugin/output.xml \
-    --output ${DTR_FUNC_SOURCE_DIR}/vpp_functional_results.rst \
+    --output ${DTR_VPP_FUNC_SOURCE_DIR}/vpp_functional_results.rst \
     --formatting rst --start 5 --level 2
 python run_robot_teardown_data.py -i ${WORKING_DIR}/robot-plugin/output.xml \
-    --output ${DTC_FUNC_SOURCE_DIR}/vpp_functional_configuration.rst \
+    --output ${DTC_VPP_FUNC_SOURCE_DIR}/vpp_functional_configuration.rst \
     --data "VAT_H" -f "rst" --start 5 --level 2
 
 ### HONEYCOMB SOURCE DATA
@@ -184,16 +186,41 @@ else
         -o ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_BUILD}.zip
 
     sed -i -e "s@###JOB###@${JEN_JOB}\/${JEN_BUILD}@g" \
-        ${DTR_HONEYCOMB_SOURCE_DIR}/index.rst
+        ${DTR_HC_FUNC_SOURCE_DIR}/index.rst
     sed -i -e "s@###LINK###@${HC_JEN_URL}\/${JEN_JOB}\/${JEN_BUILD}@g" \
-        ${DTR_HONEYCOMB_SOURCE_DIR}/index.rst
+        ${DTR_HC_FUNC_SOURCE_DIR}/index.rst
 fi
 
 unzip -o ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_BUILD}.zip -d ${WORKING_DIR}/
 python run_robot_data.py -i ${WORKING_DIR}/robot-plugin/output.xml \
-    --output ${DTR_HONEYCOMB_SOURCE_DIR}/honeycomb_functional_results.rst \
+    --output ${DTR_HC_FUNC_SOURCE_DIR}/honeycomb_functional_results.rst \
     --formatting rst --start 5 --level 2
 
+### NSH_SFC SOURCE DATA
+
+JEN_JOB='csit-nsh_sfc-verify-func-1707-ubuntu1604-virl'
+JEN_BUILD='lastSuccessfulBuild'
+
+if [[ ${DEBUG} -eq 1 ]] ;
+then
+    cp ./${JEN_JOB}-${JEN_BUILD}.zip ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_BUILD}.zip
+else
+    curl -fs ${CSIT_JEN_URL}/${JEN_JOB}/${JEN_BUILD}/robot/report/\*zip\*/robot-plugin.zip \
+        -o ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_BUILD}.zip
+
+    sed -i -e "s@###JOB###@${JEN_JOB}\/${JEN_BUILD}@g" \
+        ${DTR_NSHSFC_FUNC_SOURCE_DIR}/index.rst
+    sed -i -e "s@###LINK###@${HC_JEN_URL}\/${JEN_JOB}\/${JEN_BUILD}@g" \
+        ${DTR_NSHSFC_FUNC_SOURCE_DIR}/index.rst
+fi
+
+unzip -o ${STATIC_DIR_ARCH}/${JEN_JOB}-${JEN_BUILD}.zip -d ${WORKING_DIR}/
+python run_robot_data.py -i ${WORKING_DIR}/robot-plugin/output.xml \
+    --output ${DTR_NSHSFC_FUNC_SOURCE_DIR}/nshsfc_functional_results.rst \
+    --formatting rst --start 5 --level 2
+
+
+
 # Delete temporary json files
 find ${SOURCE_DIR} -name "*.json" -type f -delete
 

©2016 FD.io a Linux Foundation Collaborative Project. All Rights Reserved.
Linux Foundation is a registered trademark of The Linux Foundation. Linux is a registered trademark of Linus Torvalds.
Please see our privacy policy and terms of use.