tls: allow engines to customize close
[vpp.git] / src / plugins / tlsopenssl / tls_openssl.c
1 /*
2  * Copyright (c) 2018 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this file except in compliance with the License.
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15
16 #include <openssl/ssl.h>
17 #include <openssl/conf.h>
18 #include <openssl/err.h>
19 #ifdef HAVE_OPENSSL_ASYNC
20 #include <openssl/async.h>
21 #endif
22 #include <dlfcn.h>
23 #include <vnet/plugin/plugin.h>
24 #include <vpp/app/version.h>
25 #include <vnet/tls/tls.h>
26 #include <ctype.h>
27 #include <tlsopenssl/tls_openssl.h>
28
29 #define MAX_CRYPTO_LEN 16
30
31 static openssl_main_t openssl_main;
32 static u32
33 openssl_ctx_alloc (void)
34 {
35   u8 thread_index = vlib_get_thread_index ();
36   openssl_main_t *tm = &openssl_main;
37   openssl_ctx_t **ctx;
38
39   pool_get (tm->ctx_pool[thread_index], ctx);
40   if (!(*ctx))
41     *ctx = clib_mem_alloc (sizeof (openssl_ctx_t));
42
43   clib_memset (*ctx, 0, sizeof (openssl_ctx_t));
44   (*ctx)->ctx.c_thread_index = thread_index;
45   (*ctx)->ctx.tls_ctx_engine = TLS_ENGINE_OPENSSL;
46   (*ctx)->ctx.app_session_handle = SESSION_INVALID_HANDLE;
47   (*ctx)->openssl_ctx_index = ctx - tm->ctx_pool[thread_index];
48   return ((*ctx)->openssl_ctx_index);
49 }
50
51 static void
52 openssl_ctx_free (tls_ctx_t * ctx)
53 {
54   openssl_ctx_t *oc = (openssl_ctx_t *) ctx;
55
56   if (SSL_is_init_finished (oc->ssl) && !ctx->is_passive_close)
57     SSL_shutdown (oc->ssl);
58
59   SSL_free (oc->ssl);
60
61   vec_free (ctx->srv_hostname);
62   pool_put_index (openssl_main.ctx_pool[ctx->c_thread_index],
63                   oc->openssl_ctx_index);
64 }
65
66 tls_ctx_t *
67 openssl_ctx_get (u32 ctx_index)
68 {
69   openssl_ctx_t **ctx;
70   ctx = pool_elt_at_index (openssl_main.ctx_pool[vlib_get_thread_index ()],
71                            ctx_index);
72   return &(*ctx)->ctx;
73 }
74
75 tls_ctx_t *
76 openssl_ctx_get_w_thread (u32 ctx_index, u8 thread_index)
77 {
78   openssl_ctx_t **ctx;
79   ctx = pool_elt_at_index (openssl_main.ctx_pool[thread_index], ctx_index);
80   return &(*ctx)->ctx;
81 }
82
83 static u32
84 openssl_listen_ctx_alloc (void)
85 {
86   openssl_main_t *om = &openssl_main;
87   openssl_listen_ctx_t *lctx;
88
89   pool_get (om->lctx_pool, lctx);
90
91   clib_memset (lctx, 0, sizeof (openssl_listen_ctx_t));
92   lctx->openssl_lctx_index = lctx - om->lctx_pool;
93   return lctx->openssl_lctx_index;
94 }
95
96 static void
97 openssl_listen_ctx_free (openssl_listen_ctx_t * lctx)
98 {
99   pool_put_index (openssl_main.lctx_pool, lctx->openssl_lctx_index);
100 }
101
102 openssl_listen_ctx_t *
103 openssl_lctx_get (u32 lctx_index)
104 {
105   return pool_elt_at_index (openssl_main.lctx_pool, lctx_index);
106 }
107
108 static int
109 openssl_try_handshake_read (openssl_ctx_t * oc, session_t * tls_session)
110 {
111   u32 deq_max, deq_now;
112   svm_fifo_t *f;
113   int wrote, rv;
114
115   f = tls_session->rx_fifo;
116   deq_max = svm_fifo_max_dequeue_cons (f);
117   if (!deq_max)
118     return 0;
119
120   deq_now = clib_min (svm_fifo_max_read_chunk (f), deq_max);
121   wrote = BIO_write (oc->wbio, svm_fifo_head (f), deq_now);
122   if (wrote <= 0)
123     return 0;
124
125   svm_fifo_dequeue_drop (f, wrote);
126   if (wrote < deq_max)
127     {
128       deq_now = clib_min (svm_fifo_max_read_chunk (f), deq_max - wrote);
129       rv = BIO_write (oc->wbio, svm_fifo_head (f), deq_now);
130       if (rv > 0)
131         {
132           svm_fifo_dequeue_drop (f, rv);
133           wrote += rv;
134         }
135     }
136   return wrote;
137 }
138
139 static int
140 openssl_try_handshake_write (openssl_ctx_t * oc, session_t * tls_session)
141 {
142   u32 enq_max, deq_now;
143   svm_fifo_t *f;
144   int read, rv;
145
146   if (BIO_ctrl_pending (oc->rbio) <= 0)
147     return 0;
148
149   f = tls_session->tx_fifo;
150   enq_max = svm_fifo_max_enqueue_prod (f);
151   if (!enq_max)
152     return 0;
153
154   deq_now = clib_min (svm_fifo_max_write_chunk (f), enq_max);
155   read = BIO_read (oc->rbio, svm_fifo_tail (f), deq_now);
156   if (read <= 0)
157     return 0;
158
159   svm_fifo_enqueue_nocopy (f, read);
160   tls_add_vpp_q_tx_evt (tls_session);
161
162   if (read < enq_max)
163     {
164       deq_now = clib_min (svm_fifo_max_write_chunk (f), enq_max - read);
165       rv = BIO_read (oc->rbio, svm_fifo_tail (f), deq_now);
166       if (rv > 0)
167         {
168           svm_fifo_enqueue_nocopy (f, rv);
169           read += rv;
170         }
171     }
172
173   return read;
174 }
175
176 #ifdef HAVE_OPENSSL_ASYNC
177 static int
178 vpp_ssl_async_process_event (tls_ctx_t * ctx,
179                              openssl_resume_handler * handler)
180 {
181   openssl_ctx_t *oc = (openssl_ctx_t *) ctx;
182   openssl_tls_callback_t *engine_cb;
183
184   engine_cb = vpp_add_async_pending_event (ctx, handler);
185   if (engine_cb)
186     {
187       SSL_set_async_callback_arg (oc->ssl, (void *) engine_cb->arg);
188       TLS_DBG (2, "set callback to engine %p\n", engine_cb->callback);
189     }
190   return 0;
191
192 }
193
194 /* Due to engine busy stat, VPP need to retry later */
195 static int
196 vpp_ssl_async_retry_func (tls_ctx_t * ctx, openssl_resume_handler * handler)
197 {
198
199   if (vpp_add_async_run_event (ctx, handler))
200     return 1;
201
202   return 0;
203
204 }
205
206 #endif
207
208 int
209 openssl_ctx_handshake_rx (tls_ctx_t * ctx, session_t * tls_session)
210 {
211   openssl_ctx_t *oc = (openssl_ctx_t *) ctx;
212   int rv = 0, err;
213 #ifdef HAVE_OPENSSL_ASYNC
214   int estatus;
215   openssl_resume_handler *myself;
216 #endif
217
218   while (SSL_in_init (oc->ssl))
219     {
220       if (ctx->resume)
221         {
222           ctx->resume = 0;
223         }
224       else if (!openssl_try_handshake_read (oc, tls_session))
225         {
226           break;
227         }
228
229 #ifdef HAVE_OPENSSL_ASYNC
230       myself = openssl_ctx_handshake_rx;
231       vpp_ssl_async_process_event (ctx, myself);
232 #endif
233
234       rv = SSL_do_handshake (oc->ssl);
235       err = SSL_get_error (oc->ssl, rv);
236       openssl_try_handshake_write (oc, tls_session);
237 #ifdef HAVE_OPENSSL_ASYNC
238       if (err == SSL_ERROR_WANT_ASYNC)
239         {
240           SSL_get_async_status (oc->ssl, &estatus);
241
242           if (estatus == ASYNC_STATUS_EAGAIN)
243             {
244               vpp_ssl_async_retry_func (ctx, myself);
245             }
246         }
247 #endif
248
249       if (err != SSL_ERROR_WANT_WRITE)
250         {
251           if (err == SSL_ERROR_SSL)
252             {
253               char buf[512];
254               ERR_error_string (ERR_get_error (), buf);
255               clib_warning ("Err: %s", buf);
256             }
257           break;
258         }
259     }
260   TLS_DBG (2, "tls state for %u is %s", oc->openssl_ctx_index,
261            SSL_state_string_long (oc->ssl));
262
263   if (SSL_in_init (oc->ssl))
264     return 0;
265
266   /*
267    * Handshake complete
268    */
269   if (!SSL_is_server (oc->ssl))
270     {
271       /*
272        * Verify server certificate
273        */
274       if ((rv = SSL_get_verify_result (oc->ssl)) != X509_V_OK)
275         {
276           TLS_DBG (1, " failed verify: %s\n",
277                    X509_verify_cert_error_string (rv));
278
279           /*
280            * Presence of hostname enforces strict certificate verification
281            */
282           if (ctx->srv_hostname)
283             {
284               tls_notify_app_connected (ctx, /* is failed */ 0);
285               return -1;
286             }
287         }
288       tls_notify_app_connected (ctx, /* is failed */ 0);
289     }
290   else
291     {
292       tls_notify_app_accept (ctx);
293     }
294
295   TLS_DBG (1, "Handshake for %u complete. TLS cipher is %s",
296            oc->openssl_ctx_index, SSL_get_cipher (oc->ssl));
297   return rv;
298 }
299
300 static inline int
301 openssl_ctx_write (tls_ctx_t * ctx, session_t * app_session)
302 {
303   openssl_ctx_t *oc = (openssl_ctx_t *) ctx;
304   int wrote = 0, rv, read, max_buf = 100 * TLS_CHUNK_SIZE, max_space;
305   u32 enq_max, deq_max, deq_now, to_write;
306   session_t *tls_session;
307   svm_fifo_t *f;
308
309   f = app_session->tx_fifo;
310   deq_max = svm_fifo_max_dequeue_cons (f);
311   if (!deq_max)
312     goto check_tls_fifo;
313
314   max_space = max_buf - BIO_ctrl_pending (oc->rbio);
315   max_space = (max_space < 0) ? 0 : max_space;
316   deq_now = clib_min (deq_max, (u32) max_space);
317   to_write = clib_min (svm_fifo_max_read_chunk (f), deq_now);
318   wrote = SSL_write (oc->ssl, svm_fifo_head (f), to_write);
319   if (wrote <= 0)
320     {
321       tls_add_vpp_q_builtin_tx_evt (app_session);
322       goto check_tls_fifo;
323     }
324   svm_fifo_dequeue_drop (app_session->tx_fifo, wrote);
325   if (wrote < deq_now)
326     {
327       to_write = clib_min (svm_fifo_max_read_chunk (f), deq_now - wrote);
328       rv = SSL_write (oc->ssl, svm_fifo_head (f), to_write);
329       if (rv > 0)
330         {
331           svm_fifo_dequeue_drop (app_session->tx_fifo, rv);
332           wrote += rv;
333         }
334     }
335
336   if (wrote < deq_max)
337     tls_add_vpp_q_builtin_tx_evt (app_session);
338
339 check_tls_fifo:
340
341   if (BIO_ctrl_pending (oc->rbio) <= 0)
342     return wrote;
343
344   tls_session = session_get_from_handle (ctx->tls_session_handle);
345   f = tls_session->tx_fifo;
346   enq_max = svm_fifo_max_enqueue_prod (f);
347   if (!enq_max)
348     {
349       tls_add_vpp_q_builtin_tx_evt (app_session);
350       return wrote;
351     }
352
353   deq_now = clib_min (svm_fifo_max_write_chunk (f), enq_max);
354   read = BIO_read (oc->rbio, svm_fifo_tail (f), deq_now);
355   if (read <= 0)
356     {
357       tls_add_vpp_q_builtin_tx_evt (app_session);
358       return wrote;
359     }
360
361   svm_fifo_enqueue_nocopy (f, read);
362   tls_add_vpp_q_tx_evt (tls_session);
363
364   if (read < enq_max && BIO_ctrl_pending (oc->rbio) > 0)
365     {
366       deq_now = clib_min (svm_fifo_max_write_chunk (f), enq_max - read);
367       read = BIO_read (oc->rbio, svm_fifo_tail (f), deq_now);
368       if (read > 0)
369         svm_fifo_enqueue_nocopy (f, read);
370     }
371
372   if (BIO_ctrl_pending (oc->rbio) > 0)
373     tls_add_vpp_q_builtin_tx_evt (app_session);
374
375   return wrote;
376 }
377
378 static inline int
379 openssl_ctx_read (tls_ctx_t * ctx, session_t * tls_session)
380 {
381   int read, wrote = 0, max_space, max_buf = 100 * TLS_CHUNK_SIZE, rv;
382   openssl_ctx_t *oc = (openssl_ctx_t *) ctx;
383   u32 deq_max, enq_max, deq_now, to_read;
384   session_t *app_session;
385   svm_fifo_t *f;
386
387   if (PREDICT_FALSE (SSL_in_init (oc->ssl)))
388     {
389       openssl_ctx_handshake_rx (ctx, tls_session);
390       return 0;
391     }
392
393   f = tls_session->rx_fifo;
394   deq_max = svm_fifo_max_dequeue_cons (f);
395   max_space = max_buf - BIO_ctrl_pending (oc->wbio);
396   max_space = max_space < 0 ? 0 : max_space;
397   deq_now = clib_min (deq_max, max_space);
398   if (!deq_now)
399     goto check_app_fifo;
400
401   to_read = clib_min (svm_fifo_max_read_chunk (f), deq_now);
402   wrote = BIO_write (oc->wbio, svm_fifo_head (f), to_read);
403   if (wrote <= 0)
404     {
405       tls_add_vpp_q_builtin_rx_evt (tls_session);
406       goto check_app_fifo;
407     }
408   svm_fifo_dequeue_drop (f, wrote);
409   if (wrote < deq_now)
410     {
411       to_read = clib_min (svm_fifo_max_read_chunk (f), deq_now - wrote);
412       rv = BIO_write (oc->wbio, svm_fifo_head (f), to_read);
413       if (rv > 0)
414         {
415           svm_fifo_dequeue_drop (f, rv);
416           wrote += rv;
417         }
418     }
419   if (svm_fifo_max_dequeue_cons (f))
420     tls_add_vpp_q_builtin_rx_evt (tls_session);
421
422 check_app_fifo:
423
424   if (BIO_ctrl_pending (oc->wbio) <= 0)
425     return wrote;
426
427   app_session = session_get_from_handle (ctx->app_session_handle);
428   f = app_session->rx_fifo;
429   enq_max = svm_fifo_max_enqueue_prod (f);
430   if (!enq_max)
431     {
432       tls_add_vpp_q_builtin_rx_evt (tls_session);
433       return wrote;
434     }
435
436   deq_now = clib_min (svm_fifo_max_write_chunk (f), enq_max);
437   read = SSL_read (oc->ssl, svm_fifo_tail (f), deq_now);
438   if (read <= 0)
439     {
440       tls_add_vpp_q_builtin_rx_evt (tls_session);
441       return wrote;
442     }
443   svm_fifo_enqueue_nocopy (f, read);
444   if (read < enq_max && BIO_ctrl_pending (oc->wbio) > 0)
445     {
446       deq_now = clib_min (svm_fifo_max_write_chunk (f), enq_max - read);
447       read = SSL_read (oc->ssl, svm_fifo_tail (f), deq_now);
448       if (read > 0)
449         svm_fifo_enqueue_nocopy (f, read);
450     }
451
452   tls_notify_app_enqueue (ctx, app_session);
453   if (BIO_ctrl_pending (oc->wbio) > 0)
454     tls_add_vpp_q_builtin_rx_evt (tls_session);
455
456   return wrote;
457 }
458
459 static int
460 openssl_ctx_init_client (tls_ctx_t * ctx)
461 {
462   long flags = SSL_OP_NO_SSLv2 | SSL_OP_NO_SSLv3 | SSL_OP_NO_COMPRESSION;
463   openssl_ctx_t *oc = (openssl_ctx_t *) ctx;
464   openssl_main_t *om = &openssl_main;
465   session_t *tls_session;
466   const SSL_METHOD *method;
467   int rv, err;
468 #ifdef HAVE_OPENSSL_ASYNC
469   openssl_resume_handler *handler;
470 #endif
471
472   method = SSLv23_client_method ();
473   if (method == NULL)
474     {
475       TLS_DBG (1, "SSLv23_method returned null");
476       return -1;
477     }
478
479   oc->ssl_ctx = SSL_CTX_new (method);
480   if (oc->ssl_ctx == NULL)
481     {
482       TLS_DBG (1, "SSL_CTX_new returned null");
483       return -1;
484     }
485
486   SSL_CTX_set_ecdh_auto (oc->ssl_ctx, 1);
487   SSL_CTX_set_mode (oc->ssl_ctx, SSL_MODE_ENABLE_PARTIAL_WRITE);
488 #ifdef HAVE_OPENSSL_ASYNC
489   if (om->async)
490     SSL_CTX_set_mode (oc->ssl_ctx, SSL_MODE_ASYNC);
491 #endif
492   rv = SSL_CTX_set_cipher_list (oc->ssl_ctx, (const char *) om->ciphers);
493   if (rv != 1)
494     {
495       TLS_DBG (1, "Couldn't set cipher");
496       return -1;
497     }
498
499   SSL_CTX_set_options (oc->ssl_ctx, flags);
500   SSL_CTX_set_cert_store (oc->ssl_ctx, om->cert_store);
501
502   oc->ssl = SSL_new (oc->ssl_ctx);
503   if (oc->ssl == NULL)
504     {
505       TLS_DBG (1, "Couldn't initialize ssl struct");
506       return -1;
507     }
508
509   oc->rbio = BIO_new (BIO_s_mem ());
510   oc->wbio = BIO_new (BIO_s_mem ());
511
512   BIO_set_mem_eof_return (oc->rbio, -1);
513   BIO_set_mem_eof_return (oc->wbio, -1);
514
515   SSL_set_bio (oc->ssl, oc->wbio, oc->rbio);
516   SSL_set_connect_state (oc->ssl);
517
518   rv = SSL_set_tlsext_host_name (oc->ssl, ctx->srv_hostname);
519   if (rv != 1)
520     {
521       TLS_DBG (1, "Couldn't set hostname");
522       return -1;
523     }
524
525   /*
526    * 2. Do the first steps in the handshake.
527    */
528   TLS_DBG (1, "Initiating handshake for [%u]%u", ctx->c_thread_index,
529            oc->openssl_ctx_index);
530
531   tls_session = session_get_from_handle (ctx->tls_session_handle);
532   while (1)
533     {
534       rv = SSL_do_handshake (oc->ssl);
535       err = SSL_get_error (oc->ssl, rv);
536       openssl_try_handshake_write (oc, tls_session);
537 #ifdef HAVE_OPENSSL_ASYNC
538       if (err == SSL_ERROR_WANT_ASYNC)
539         {
540           handler = (openssl_resume_handler *) openssl_ctx_handshake_rx;
541           vpp_ssl_async_process_event (ctx, handler);
542           break;
543         }
544 #endif
545       if (err != SSL_ERROR_WANT_WRITE)
546         break;
547     }
548
549   TLS_DBG (2, "tls state for [%u]%u is su", ctx->c_thread_index,
550            oc->openssl_ctx_index, SSL_state_string_long (oc->ssl));
551   return 0;
552 }
553
554 static int
555 openssl_start_listen (tls_ctx_t * lctx)
556 {
557   application_t *app;
558   const SSL_METHOD *method;
559   SSL_CTX *ssl_ctx;
560   int rv;
561   BIO *cert_bio;
562   X509 *srvcert;
563   EVP_PKEY *pkey;
564   u32 olc_index;
565   openssl_listen_ctx_t *olc;
566   app_worker_t *app_wrk;
567
568   long flags = SSL_OP_NO_SSLv2 | SSL_OP_NO_SSLv3 | SSL_OP_NO_COMPRESSION;
569   openssl_main_t *om = &openssl_main;
570
571   app_wrk = app_worker_get (lctx->parent_app_wrk_index);
572   if (!app_wrk)
573     return -1;
574
575   app = application_get (app_wrk->app_index);
576   if (!app->tls_cert || !app->tls_key)
577     {
578       TLS_DBG (1, "tls cert and/or key not configured %d",
579                lctx->parent_app_wrk_index);
580       return -1;
581     }
582
583   method = SSLv23_method ();
584   ssl_ctx = SSL_CTX_new (method);
585   if (!ssl_ctx)
586     {
587       clib_warning ("Unable to create SSL context");
588       return -1;
589     }
590
591   SSL_CTX_set_mode (ssl_ctx, SSL_MODE_ENABLE_PARTIAL_WRITE);
592 #ifdef HAVE_OPENSSL_ASYNC
593   if (om->async)
594     SSL_CTX_set_mode (ssl_ctx, SSL_MODE_ASYNC);
595   SSL_CTX_set_async_callback (ssl_ctx, tls_async_openssl_callback);
596 #endif
597   SSL_CTX_set_options (ssl_ctx, flags);
598   SSL_CTX_set_ecdh_auto (ssl_ctx, 1);
599
600   rv = SSL_CTX_set_cipher_list (ssl_ctx, (const char *) om->ciphers);
601   if (rv != 1)
602     {
603       TLS_DBG (1, "Couldn't set cipher");
604       return -1;
605     }
606
607   /*
608    * Set the key and cert
609    */
610   cert_bio = BIO_new (BIO_s_mem ());
611   BIO_write (cert_bio, app->tls_cert, vec_len (app->tls_cert));
612   srvcert = PEM_read_bio_X509 (cert_bio, NULL, NULL, NULL);
613   if (!srvcert)
614     {
615       clib_warning ("unable to parse certificate");
616       return -1;
617     }
618   SSL_CTX_use_certificate (ssl_ctx, srvcert);
619   BIO_free (cert_bio);
620
621   cert_bio = BIO_new (BIO_s_mem ());
622   BIO_write (cert_bio, app->tls_key, vec_len (app->tls_key));
623   pkey = PEM_read_bio_PrivateKey (cert_bio, NULL, NULL, NULL);
624   if (!pkey)
625     {
626       clib_warning ("unable to parse pkey");
627       return -1;
628     }
629   SSL_CTX_use_PrivateKey (ssl_ctx, pkey);
630   BIO_free (cert_bio);
631
632   olc_index = openssl_listen_ctx_alloc ();
633   olc = openssl_lctx_get (olc_index);
634   olc->ssl_ctx = ssl_ctx;
635   olc->srvcert = srvcert;
636   olc->pkey = pkey;
637
638   /* store SSL_CTX into TLS level structure */
639   lctx->tls_ssl_ctx = olc_index;
640
641   return 0;
642
643 }
644
645 static int
646 openssl_stop_listen (tls_ctx_t * lctx)
647 {
648   u32 olc_index;
649   openssl_listen_ctx_t *olc;
650
651   olc_index = lctx->tls_ssl_ctx;
652   olc = openssl_lctx_get (olc_index);
653
654   X509_free (olc->srvcert);
655   EVP_PKEY_free (olc->pkey);
656
657   SSL_CTX_free (olc->ssl_ctx);
658   openssl_listen_ctx_free (olc);
659
660   return 0;
661 }
662
663 static int
664 openssl_ctx_init_server (tls_ctx_t * ctx)
665 {
666   openssl_ctx_t *oc = (openssl_ctx_t *) ctx;
667   u32 olc_index = ctx->tls_ssl_ctx;
668   openssl_listen_ctx_t *olc;
669   session_t *tls_session;
670   int rv, err;
671 #ifdef HAVE_OPENSSL_ASYNC
672   openssl_resume_handler *handler;
673 #endif
674
675   /* Start a new connection */
676
677   olc = openssl_lctx_get (olc_index);
678   oc->ssl = SSL_new (olc->ssl_ctx);
679   if (oc->ssl == NULL)
680     {
681       TLS_DBG (1, "Couldn't initialize ssl struct");
682       return -1;
683     }
684
685   oc->rbio = BIO_new (BIO_s_mem ());
686   oc->wbio = BIO_new (BIO_s_mem ());
687
688   BIO_set_mem_eof_return (oc->rbio, -1);
689   BIO_set_mem_eof_return (oc->wbio, -1);
690
691   SSL_set_bio (oc->ssl, oc->wbio, oc->rbio);
692   SSL_set_accept_state (oc->ssl);
693
694   TLS_DBG (1, "Initiating handshake for [%u]%u", ctx->c_thread_index,
695            oc->openssl_ctx_index);
696
697   tls_session = session_get_from_handle (ctx->tls_session_handle);
698   while (1)
699     {
700       rv = SSL_do_handshake (oc->ssl);
701       err = SSL_get_error (oc->ssl, rv);
702       openssl_try_handshake_write (oc, tls_session);
703 #ifdef HAVE_OPENSSL_ASYNC
704       if (err == SSL_ERROR_WANT_ASYNC)
705         {
706           handler = (openssl_resume_handler *) openssl_ctx_handshake_rx;
707           vpp_ssl_async_process_event (ctx, handler);
708           break;
709         }
710 #endif
711       if (err != SSL_ERROR_WANT_WRITE)
712         break;
713     }
714
715   TLS_DBG (2, "tls state for [%u]%u is su", ctx->c_thread_index,
716            oc->openssl_ctx_index, SSL_state_string_long (oc->ssl));
717   return 0;
718 }
719
720 static u8
721 openssl_handshake_is_over (tls_ctx_t * ctx)
722 {
723   openssl_ctx_t *mc = (openssl_ctx_t *) ctx;
724   if (!mc->ssl)
725     return 0;
726   return SSL_is_init_finished (mc->ssl);
727 }
728
729 static int
730 openssl_transport_close (tls_ctx_t * ctx)
731 {
732   if (!openssl_handshake_is_over (ctx))
733     {
734       session_close (session_get_from_handle (ctx->tls_session_handle));
735       return 0;
736     }
737   session_transport_closing_notify (&ctx->connection);
738   return 0;
739 }
740
741 static int
742 openssl_app_close (tls_ctx_t * ctx)
743 {
744   tls_disconnect_transport (ctx);
745   session_transport_delete_notify (&ctx->connection);
746   openssl_ctx_free (ctx);
747   return 0;
748 }
749
750 const static tls_engine_vft_t openssl_engine = {
751   .ctx_alloc = openssl_ctx_alloc,
752   .ctx_free = openssl_ctx_free,
753   .ctx_get = openssl_ctx_get,
754   .ctx_get_w_thread = openssl_ctx_get_w_thread,
755   .ctx_init_server = openssl_ctx_init_server,
756   .ctx_init_client = openssl_ctx_init_client,
757   .ctx_write = openssl_ctx_write,
758   .ctx_read = openssl_ctx_read,
759   .ctx_handshake_is_over = openssl_handshake_is_over,
760   .ctx_start_listen = openssl_start_listen,
761   .ctx_stop_listen = openssl_stop_listen,
762   .ctx_transport_close = openssl_transport_close,
763   .ctx_app_close = openssl_app_close,
764 };
765
766 int
767 tls_init_ca_chain (void)
768 {
769   openssl_main_t *om = &openssl_main;
770   tls_main_t *tm = vnet_tls_get_main ();
771   BIO *cert_bio;
772   X509 *testcert;
773   int rv;
774
775   if (access (tm->ca_cert_path, F_OK | R_OK) == -1)
776     {
777       clib_warning ("Could not initialize TLS CA certificates");
778       return -1;
779     }
780
781   if (!(om->cert_store = X509_STORE_new ()))
782     {
783       clib_warning ("failed to create cert store");
784       return -1;
785     }
786
787   rv = X509_STORE_load_locations (om->cert_store, tm->ca_cert_path, 0);
788   if (rv < 0)
789     {
790       clib_warning ("failed to load ca certificate");
791     }
792
793   if (tm->use_test_cert_in_ca)
794     {
795       cert_bio = BIO_new (BIO_s_mem ());
796       BIO_write (cert_bio, test_srv_crt_rsa, test_srv_crt_rsa_len);
797       testcert = PEM_read_bio_X509 (cert_bio, NULL, NULL, NULL);
798       if (!testcert)
799         {
800           clib_warning ("unable to parse certificate");
801           return -1;
802         }
803       X509_STORE_add_cert (om->cert_store, testcert);
804       rv = 0;
805     }
806   return (rv < 0 ? -1 : 0);
807 }
808
809 static int
810 tls_openssl_set_ciphers (char *ciphers)
811 {
812   openssl_main_t *om = &openssl_main;
813   int i;
814
815   if (!ciphers)
816     {
817       return -1;
818     }
819
820   vec_validate (om->ciphers, strlen (ciphers) - 1);
821   for (i = 0; i < vec_len (om->ciphers); i++)
822     {
823       om->ciphers[i] = toupper (ciphers[i]);
824     }
825
826   return 0;
827
828 }
829
830 static clib_error_t *
831 tls_openssl_init (vlib_main_t * vm)
832 {
833   vlib_thread_main_t *vtm = vlib_get_thread_main ();
834   openssl_main_t *om = &openssl_main;
835   clib_error_t *error;
836   u32 num_threads;
837
838   num_threads = 1 /* main thread */  + vtm->n_threads;
839
840   if ((error = vlib_call_init_function (vm, tls_init)))
841     return error;
842
843   SSL_library_init ();
844   SSL_load_error_strings ();
845
846   if (tls_init_ca_chain ())
847     {
848       clib_warning ("failed to initialize TLS CA chain");
849       return 0;
850     }
851
852   vec_validate (om->ctx_pool, num_threads - 1);
853
854   tls_register_engine (&openssl_engine, TLS_ENGINE_OPENSSL);
855
856   om->engine_init = 0;
857
858   /* default ciphers */
859   tls_openssl_set_ciphers
860     ("ALL:!ADH:!LOW:!EXP:!MD5:!RC4-SHA:!DES-CBC3-SHA:@STRENGTH");
861
862   return 0;
863 }
864
865 #ifdef HAVE_OPENSSL_ASYNC
866 static clib_error_t *
867 tls_openssl_set_command_fn (vlib_main_t * vm, unformat_input_t * input,
868                             vlib_cli_command_t * cmd)
869 {
870   openssl_main_t *om = &openssl_main;
871   char *engine_name = NULL;
872   char *engine_alg = NULL;
873   char *ciphers = NULL;
874   u8 engine_name_set = 0;
875   int i;
876
877   /* By present, it is not allowed to configure engine again after running */
878   if (om->engine_init)
879     {
880       clib_warning ("engine has started!\n");
881       return clib_error_return
882         (0, "engine has started, and no config is accepted");
883     }
884
885   while (unformat_check_input (input) != UNFORMAT_END_OF_INPUT)
886     {
887       if (unformat (input, "engine %s", &engine_name))
888         {
889           engine_name_set = 1;
890         }
891       else if (unformat (input, "async"))
892         {
893           om->async = 1;
894           openssl_async_node_enable_disable (1);
895         }
896       else if (unformat (input, "alg %s", &engine_alg))
897         {
898           for (i = 0; i < strnlen (engine_alg, MAX_CRYPTO_LEN); i++)
899             engine_alg[i] = toupper (engine_alg[i]);
900         }
901       else if (unformat (input, "ciphers %s", &ciphers))
902         {
903           tls_openssl_set_ciphers (ciphers);
904         }
905       else
906         return clib_error_return (0, "failed: unknown input `%U'",
907                                   format_unformat_error, input);
908     }
909
910   /* reset parameters if engine is not configured */
911   if (!engine_name_set)
912     {
913       clib_warning ("No engine provided! \n");
914       om->async = 0;
915     }
916   else
917     {
918       if (!openssl_engine_register (engine_name, engine_alg))
919         {
920           return clib_error_return (0, "failed to register %s polling",
921                                     engine_name);
922         }
923     }
924
925   return 0;
926 }
927
928 /* *INDENT-OFF* */
929 VLIB_CLI_COMMAND (tls_openssl_set_command, static) =
930 {
931   .path = "tls openssl set",
932   .short_help = "tls openssl set [engine <engine name>] [alg [algorithm] [async]",
933   .function = tls_openssl_set_command_fn,
934 };
935 /* *INDENT-ON* */
936 #endif
937
938
939 VLIB_INIT_FUNCTION (tls_openssl_init);
940
941 /* *INDENT-OFF* */
942 VLIB_PLUGIN_REGISTER () = {
943     .version = VPP_BUILD_VER,
944     .description = "openssl based TLS Engine",
945 };
946 /* *INDENT-ON* */
947
948 /*
949  * fd.io coding-style-patch-verification: ON
950  *
951  * Local Variables:
952  * eval: (c-set-style "gnu")
953  * End:
954  */