Report: versioning
[csit.git] / resources / tools / presentation / generator_report.py
1 # Copyright (c) 2018 Cisco and/or its affiliates.
2 # Licensed under the Apache License, Version 2.0 (the "License");
3 # you may not use this file except in compliance with the License.
4 # You may obtain a copy of the License at:
5 #
6 #     http://www.apache.org/licenses/LICENSE-2.0
7 #
8 # Unless required by applicable law or agreed to in writing, software
9 # distributed under the License is distributed on an "AS IS" BASIS,
10 # WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
11 # See the License for the specific language governing permissions and
12 # limitations under the License.
13
14 """Report generation.
15 """
16
17 import logging
18 import datetime
19
20 from shutil import make_archive
21
22 from utils import get_files, execute_command, archive_input_data
23
24
25 # .css file for the html format of the report
26 THEME_OVERRIDES = """/* override table width restrictions */
27 @media screen and (min-width: 767px) {
28     .wy-table-responsive table td, .wy-table-responsive table th {
29         white-space: normal !important;
30     }
31
32     .wy-table-responsive {
33         font-size: small;
34         margin-bottom: 24px;
35         max-width: 100%;
36         overflow: visible !important;
37     }
38 }
39 .rst-content blockquote {
40     margin-left: 0px;
41     line-height: 18px;
42     margin-bottom: 0px;
43 }
44 .wy-menu-vertical a {
45     display: inline-block;
46     line-height: 18px;
47     padding: 0 2em;
48     display: block;
49     position: relative;
50     font-size: 90%;
51     color: #d9d9d9
52 }
53 .wy-menu-vertical li.current a {
54     color: gray;
55     border-right: solid 1px #c9c9c9;
56     padding: 0 3em;
57 }
58 .wy-menu-vertical li.toctree-l2.current > a {
59     background: #c9c9c9;
60     padding: 0 3em;
61 }
62 .wy-menu-vertical li.toctree-l2.current li.toctree-l3 > a {
63     display: block;
64     background: #c9c9c9;
65     padding: 0 4em;
66 }
67 .wy-menu-vertical li.toctree-l3.current li.toctree-l4 > a {
68     display: block;
69     background: #bdbdbd;
70     padding: 0 5em;
71 }
72 .wy-menu-vertical li.on a, .wy-menu-vertical li.current > a {
73     color: #404040;
74     padding: 0 2em;
75     font-weight: bold;
76     position: relative;
77     background: #fcfcfc;
78     border: none;
79         border-top-width: medium;
80         border-bottom-width: medium;
81         border-top-style: none;
82         border-bottom-style: none;
83         border-top-color: currentcolor;
84         border-bottom-color: currentcolor;
85     padding-left: 2em -4px;
86 }
87 """
88
89 # Command to build the html format of the report
90 HTML_BUILDER = 'sphinx-build -v -c . -a ' \
91                '-b html -E ' \
92                '-t html ' \
93                '-D release={release} ' \
94                '-D version="Test Report {date}" ' \
95                '{working_dir} ' \
96                '{build_dir}/'
97
98 # Command to build the pdf format of the report
99 PDF_BUILDER = 'sphinx-build -v -c . -a ' \
100               '-b latex -E ' \
101               '-t latex ' \
102               '-D release={release} ' \
103               '-D version="Test Report {date}" ' \
104               '{working_dir} ' \
105               '{build_dir}'
106
107
108 def generate_report(release, spec, report_week):
109     """Generate all formats and versions of the report.
110
111     :param release: Release string of the product.
112     :param spec: Specification read from the specification file.
113     :param report_week: Calendar week when the report is published.
114     :type release: str
115     :type spec: Specification
116     :type report_week: str
117     """
118
119     logging.info("Generating the report ...")
120
121     report = {
122         "html": generate_html_report,
123         "pdf": generate_pdf_report
124     }
125
126     for report_format, versions in spec.output["format"].items():
127         report[report_format](release, spec, versions, report_week)
128
129     archive_input_data(spec)
130
131     logging.info("Done.")
132
133
134 def generate_html_report(release, spec, versions, report_version):
135     """Generate html format of the report.
136
137     :param release: Release string of the product.
138     :param spec: Specification read from the specification file.
139     :param versions: List of versions to generate.
140     :param report_version: Version of the report.
141     :type release: str
142     :type spec: Specification
143     :type versions: list
144     :type report_version: str
145     """
146
147     logging.info("  Generating the html report, give me a few minutes, please "
148                  "...")
149
150     working_dir = spec.environment["paths"]["DIR[WORKING,SRC]"]
151
152     cmd = 'cd {working_dir} && mv -f index.html.template index.rst'.\
153         format(working_dir=working_dir)
154     execute_command(cmd)
155
156     cmd = HTML_BUILDER.format(
157         release=release,
158         date=datetime.datetime.utcnow().strftime('%Y-%m-%d %H:%M UTC'),
159         working_dir=working_dir,
160         build_dir=spec.environment["paths"]["DIR[BUILD,HTML]"])
161     execute_command(cmd)
162
163     with open(spec.environment["paths"]["DIR[CSS_PATCH_FILE]"], "w") as \
164             css_file:
165         css_file.write(THEME_OVERRIDES)
166
167     with open(spec.environment["paths"]["DIR[CSS_PATCH_FILE2]"], "w") as \
168             css_file:
169         css_file.write(THEME_OVERRIDES)
170
171     logging.info("  Done.")
172
173
174 def generate_pdf_report(release, spec, versions, report_week):
175     """Generate html format of the report.
176
177     :param release: Release string of the product.
178     :param spec: Specification read from the specification file.
179     :param versions: List of versions to generate. Not implemented yet.
180     :param report_week: Calendar week when the report is published.
181     :type release: str
182     :type spec: Specification
183     :type versions: list
184     :type report_week: str
185     """
186
187     logging.info("  Generating the pdf report, give me a few minutes, please "
188                  "...")
189
190     working_dir = spec.environment["paths"]["DIR[WORKING,SRC]"]
191
192     cmd = 'cd {working_dir} && mv -f index.pdf.template index.rst'.\
193         format(working_dir=working_dir)
194     execute_command(cmd)
195
196     _convert_all_svg_to_pdf(spec.environment["paths"]["DIR[WORKING,SRC]"])
197
198     # Convert PyPLOT graphs in HTML format to PDF.
199     convert_plots = "xvfb-run -a wkhtmltopdf {html} {pdf}"
200     plots = get_files(spec.environment["paths"]["DIR[STATIC,VPP]"], "html")
201     plots.extend(get_files(spec.environment["paths"]["DIR[STATIC,DPDK]"],
202                            "html"))
203     for plot in plots:
204         file_name = "{0}.pdf".format(plot.rsplit(".", 1)[0])
205         logging.info("Converting '{0}' to '{1}'".format(plot, file_name))
206         execute_command(convert_plots.format(html=plot, pdf=file_name))
207
208     # Generate the LaTeX documentation
209     build_dir = spec.environment["paths"]["DIR[BUILD,LATEX]"]
210     cmd = PDF_BUILDER.format(
211         release=release,
212         date=datetime.datetime.utcnow().strftime('%Y-%m-%d %H:%M UTC'),
213         working_dir=working_dir,
214         build_dir=build_dir)
215     execute_command(cmd)
216
217     # Build pdf documentation
218     archive_dir = spec.environment["paths"]["DIR[STATIC,ARCH]"]
219     cmds = [
220         'cd {build_dir} && '
221         'pdflatex -shell-escape -interaction nonstopmode csit.tex || true'.
222         format(build_dir=build_dir),
223         'cd {build_dir} && '
224         'pdflatex -interaction nonstopmode csit.tex || true'.
225         format(build_dir=build_dir),
226         'cd {build_dir} && '
227         'cp csit.pdf ../{archive_dir}/csit_{release}.{week}.pdf &&'
228         'cp csit.pdf ../{archive_dir}/csit_{release}.pdf'.
229         format(build_dir=build_dir,
230                archive_dir=archive_dir,
231                release=release,
232                week=report_week)
233     ]
234
235     for cmd in cmds:
236         execute_command(cmd)
237
238     logging.info("  Done.")
239
240
241 def archive_report(spec):
242     """Archive the report.
243
244     :param spec: Specification read from the specification file.
245     :type spec: Specification
246     """
247
248     logging.info("  Archiving the report ...")
249
250     make_archive("csit.report",
251                  "gztar",
252                  base_dir=spec.environment["paths"]["DIR[BUILD,HTML]"])
253
254     logging.info("  Done.")
255
256
257 def _convert_all_svg_to_pdf(path):
258     """Convert all svg files on path "path" to pdf.
259
260     :param path: Path to the root directory with svg files to convert.
261     :type path: str
262     """
263
264     cmd = "inkscape -D -z --file={svg} --export-pdf={pdf}"
265
266     svg_files = get_files(path, "svg", full_path=True)
267     for svg_file in svg_files:
268         pdf_file = "{0}.pdf".format(svg_file.rsplit('.', 1)[0])
269         logging.info("Converting '{0}' to '{1}'".format(svg_file, pdf_file))
270         execute_command(cmd.format(svg=svg_file, pdf=pdf_file))