Report: Disable archiving the report in Jenkins
[csit.git] / resources / tools / presentation / generator_report.py
1 # Copyright (c) 2018 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 """Report generation.
15 """
16
17 import logging
18 import datetime
19
20 from shutil import make_archive
21
22 from utils import get_files, execute_command, archive_input_data
23
24
25 # .css file for the html format of the report
26 THEME_OVERRIDES = """/* override table width restrictions */
27 @media screen and (min-width: 767px) {
28     .wy-table-responsive table td, .wy-table-responsive table th {
29         white-space: normal !important;
30     }
31
32     .wy-table-responsive {
33         font-size: small;
34         margin-bottom: 24px;
35         max-width: 100%;
36         overflow: visible !important;
37     }
38 }
39 .rst-content blockquote {
40     margin-left: 0px;
41     line-height: 18px;
42     margin-bottom: 0px;
43 }
44 .wy-menu-vertical a {
45     display: inline-block;
46     line-height: 18px;
47     padding: 0 2em;
48     display: block;
49     position: relative;
50     font-size: 90%;
51     color: #d9d9d9
52 }
53 .wy-menu-vertical li.current a {
54     color: gray;
55     border-right: solid 1px #c9c9c9;
56     padding: 0 3em;
57 }
58 .wy-menu-vertical li.toctree-l2.current > a {
59     background: #c9c9c9;
60     padding: 0 3em;
61 }
62 .wy-menu-vertical li.toctree-l2.current li.toctree-l3 > a {
63     display: block;
64     background: #c9c9c9;
65     padding: 0 4em;
66 }
67 .wy-menu-vertical li.toctree-l3.current li.toctree-l4 > a {
68     display: block;
69     background: #bdbdbd;
70     padding: 0 5em;
71 }
72 .wy-menu-vertical li.on a, .wy-menu-vertical li.current > a {
73     color: #404040;
74     padding: 0 2em;
75     font-weight: bold;
76     position: relative;
77     background: #fcfcfc;
78     border: none;
79         border-top-width: medium;
80         border-bottom-width: medium;
81         border-top-style: none;
82         border-bottom-style: none;
83         border-top-color: currentcolor;
84         border-bottom-color: currentcolor;
85     padding-left: 2em -4px;
86 }
87 """
88
89 # Command to build the html format of the report
90 HTML_BUILDER = 'sphinx-build -v -c . -a ' \
91                '-b html -E ' \
92                '-t html ' \
93                '-D release={release} ' \
94                '-D version="Test Report {date}" ' \
95                '{working_dir} ' \
96                '{build_dir}/'
97
98 # Command to build the pdf format of the report
99 PDF_BUILDER = 'sphinx-build -v -c . -a ' \
100               '-b latex -E ' \
101               '-t latex ' \
102               '-D release={release} ' \
103               '-D version="Test Report {date}" ' \
104               '{working_dir} ' \
105               '{build_dir}'
106
107
108 def generate_report(release, spec, report_version):
109     """Generate all formats and versions of the report.
110
111     :param release: Release string of the product.
112     :param spec: Specification read from the specification file.
113     :param report_version: Version of the report.
114     :type release: str
115     :type spec: Specification
116     :type report_version: str
117     """
118
119     logging.info("Generating the report ...")
120
121     report = {
122         "html": generate_html_report,
123         "pdf": generate_pdf_report
124     }
125
126     for report_format, versions in spec.output["format"].items():
127         report[report_format](release, spec, versions, report_version)
128
129     archive_input_data(spec)
130
131     logging.info("Done.")
132
133
134 def generate_html_report(release, spec, versions, report_version):
135     """Generate html format of the report.
136
137     :param release: Release string of the product.
138     :param spec: Specification read from the specification file.
139     :param versions: List of versions to generate.
140     :param report_version: Version of the report.
141     :type release: str
142     :type spec: Specification
143     :type versions: list
144     :type report_version: str
145     """
146
147     logging.info("  Generating the html report, give me a few minutes, please "
148                  "...")
149
150     working_dir = spec.environment["paths"]["DIR[WORKING,SRC]"]
151
152     cmd = 'cd {working_dir} && mv -f index.html.template index.rst'.\
153         format(working_dir=working_dir)
154     execute_command(cmd)
155
156     cmd = HTML_BUILDER.format(
157         release=release,
158         report_version=report_version,
159         date=datetime.datetime.utcnow().strftime('%Y-%m-%d %H:%M UTC'),
160         working_dir=working_dir,
161         build_dir=spec.environment["paths"]["DIR[BUILD,HTML]"])
162     execute_command(cmd)
163
164     with open(spec.environment["paths"]["DIR[CSS_PATCH_FILE]"], "w") as \
165             css_file:
166         css_file.write(THEME_OVERRIDES)
167
168     with open(spec.environment["paths"]["DIR[CSS_PATCH_FILE2]"], "w") as \
169             css_file:
170         css_file.write(THEME_OVERRIDES)
171
172     logging.info("  Done.")
173
174
175 def generate_pdf_report(release, spec, versions, report_version):
176     """Generate html format of the report.
177
178     :param release: Release string of the product.
179     :param spec: Specification read from the specification file.
180     :param versions: List of versions to generate. Not implemented yet.
181     :param report_version: Version of the report.
182     :type release: str
183     :type spec: Specification
184     :type versions: list
185     :type report_version: str
186     """
187
188     logging.info("  Generating the pdf report, give me a few minutes, please "
189                  "...")
190
191     working_dir = spec.environment["paths"]["DIR[WORKING,SRC]"]
192
193     cmd = 'cd {working_dir} && mv -f index.pdf.template index.rst'.\
194         format(working_dir=working_dir)
195     execute_command(cmd)
196
197     _convert_all_svg_to_pdf(spec.environment["paths"]["DIR[WORKING,SRC]"])
198
199     # Convert PyPLOT graphs in HTML format to PDF.
200     convert_plots = "xvfb-run -a wkhtmltopdf {html} {pdf}"
201     plots = get_files(spec.environment["paths"]["DIR[STATIC,VPP]"], "html")
202     plots.extend(get_files(spec.environment["paths"]["DIR[STATIC,DPDK]"],
203                            "html"))
204     for plot in plots:
205         file_name = "{0}.pdf".format(plot.rsplit(".", 1)[0])
206         logging.info("Converting '{0}' to '{1}'".format(plot, file_name))
207         execute_command(convert_plots.format(html=plot, pdf=file_name))
208
209     # Generate the LaTeX documentation
210     build_dir = spec.environment["paths"]["DIR[BUILD,LATEX]"]
211     cmd = PDF_BUILDER.format(
212         release=release,
213         report_version=report_version,
214         date=datetime.datetime.utcnow().strftime('%Y-%m-%d %H:%M UTC'),
215         working_dir=working_dir,
216         build_dir=build_dir)
217     execute_command(cmd)
218
219     # Build pdf documentation
220     archive_dir = spec.environment["paths"]["DIR[STATIC,ARCH]"]
221     cmds = [
222         'cd {build_dir} && '
223         'pdflatex -shell-escape -interaction nonstopmode csit.tex || true'.
224         format(build_dir=build_dir),
225         'cd {build_dir} && '
226         'pdflatex -interaction nonstopmode csit.tex || true'.
227         format(build_dir=build_dir),
228         'cd {build_dir} && '
229         'cp csit.pdf ../{archive_dir}/csit_{release}_{report_version}.pdf &&'
230         'cp csit.pdf ../{archive_dir}/csit_{release}.pdf'.
231         format(build_dir=build_dir,
232                archive_dir=archive_dir,
233                release=release,
234                report_version=report_version)
235     ]
236
237     for cmd in cmds:
238         execute_command(cmd)
239
240     logging.info("  Done.")
241
242
243 def archive_report(spec):
244     """Archive the report.
245
246     :param spec: Specification read from the specification file.
247     :type spec: Specification
248     """
249
250     logging.info("  Archiving the report ...")
251
252     make_archive("csit.report",
253                  "gztar",
254                  base_dir=spec.environment["paths"]["DIR[BUILD,HTML]"])
255
256     logging.info("  Done.")
257
258
259 def _convert_all_svg_to_pdf(path):
260     """Convert all svg files on path "path" to pdf.
261
262     :param path: Path to the root directory with svg files to convert.
263     :type path: str
264     """
265
266     cmd = "inkscape -D -z --file={svg} --export-pdf={pdf}"
267
268     svg_files = get_files(path, "svg", full_path=True)
269     for svg_file in svg_files:
270         pdf_file = "{0}.pdf".format(svg_file.rsplit('.', 1)[0])
271         logging.info("Converting '{0}' to '{1}'".format(svg_file, pdf_file))
272         execute_command(cmd.format(svg=svg_file, pdf=pdf_file))