vcl: cleanup bapi and wrk registration
[vpp.git] / src / vcl / vcl_bapi.c
1 /*
2  * Copyright (c) 2018-2019 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15
16 #include <vcl/vcl_private.h>
17 #include <vlibmemory/api.h>
18 #include <vpp/api/vpe_msg_enum.h>
19
20 #define vl_typedefs             /* define message structures */
21 #include <vpp/api/vpe_all_api_h.h>
22 #undef vl_typedefs
23
24 /* declare message handlers for each api */
25
26 #define vl_endianfun            /* define message structures */
27 #include <vpp/api/vpe_all_api_h.h>
28 #undef vl_endianfun
29
30 /* instantiate all the print functions we know about */
31 #define vl_print(handle, ...)
32 #define vl_printfun
33 #include <vpp/api/vpe_all_api_h.h>
34 #undef vl_printfun
35
36 static u8 *
37 format_api_error (u8 * s, va_list * args)
38 {
39   i32 error = va_arg (*args, u32);
40   uword *p;
41
42   p = hash_get (vcm->error_string_by_error_number, -error);
43
44   if (p)
45     s = format (s, "%s (%d)", p[0], error);
46   else
47     s = format (s, "%d", error);
48   return s;
49 }
50
51 static void
52   vl_api_session_enable_disable_reply_t_handler
53   (vl_api_session_enable_disable_reply_t * mp)
54 {
55   if (mp->retval)
56     {
57       clib_warning ("VCL<%d>: session_enable_disable failed: %U", getpid (),
58                     format_api_error, ntohl (mp->retval));
59     }
60   else
61     vcm->bapi_app_state = STATE_APP_ENABLED;
62 }
63
64 static u64
65 vcl_vpp_worker_segment_handle (u32 wrk_index)
66 {
67   return (VCL_INVALID_SEGMENT_HANDLE - wrk_index - 1);
68 }
69
70 static void
71 vl_api_app_attach_reply_t_handler (vl_api_app_attach_reply_t * mp)
72 {
73   vcl_worker_t *wrk = vcl_worker_get (0);
74   svm_msg_q_t *ctrl_mq;
75   u64 segment_handle;
76   int *fds = 0, i, rv;
77   u32 n_fds = 0;
78   char *segment_name = 0;
79
80   if (mp->retval)
81     {
82       VERR ("attach failed: %U", format_api_error, ntohl (mp->retval));
83       goto failed;
84     }
85
86   wrk->app_event_queue = uword_to_pointer (mp->app_mq, svm_msg_q_t *);
87   ctrl_mq = uword_to_pointer (mp->vpp_ctrl_mq, svm_msg_q_t *);
88   vec_validate (wrk->vpp_event_queues, mp->vpp_ctrl_mq_thread);
89   wrk->vpp_event_queues[mp->vpp_ctrl_mq_thread] = ctrl_mq;
90   vcm->ctrl_mq = wrk->ctrl_mq = ctrl_mq;
91   segment_handle = clib_net_to_host_u64 (mp->segment_handle);
92   if (segment_handle == VCL_INVALID_SEGMENT_HANDLE)
93     {
94       VERR ("invalid segment handle");
95       goto failed;
96     }
97
98   if (mp->n_fds)
99     {
100       vec_validate (fds, mp->n_fds);
101       if (vl_socket_client_recv_fd_msg2 (&wrk->bapi_sock_ctx, fds, mp->n_fds,
102                                          5))
103         goto failed;
104
105       if (mp->fd_flags & SESSION_FD_F_VPP_MQ_SEGMENT)
106         if (vcl_segment_attach (vcl_vpp_worker_segment_handle (0),
107                                 "vpp-mq-seg", SSVM_SEGMENT_MEMFD,
108                                 fds[n_fds++]))
109           goto failed;
110
111       if (mp->fd_flags & SESSION_FD_F_MEMFD_SEGMENT)
112         {
113           segment_name = vl_api_from_api_to_new_c_string (&mp->segment_name);
114           rv =
115             vcl_segment_attach (segment_handle, segment_name,
116                                 SSVM_SEGMENT_MEMFD, fds[n_fds++]);
117           vec_free (segment_name);
118           if (rv != 0)
119             goto failed;
120         }
121
122
123       if (mp->fd_flags & SESSION_FD_F_MQ_EVENTFD)
124         {
125           svm_msg_q_set_consumer_eventfd (wrk->app_event_queue, fds[n_fds]);
126           vcl_mq_epoll_add_evfd (wrk, wrk->app_event_queue);
127           n_fds++;
128         }
129
130       vec_free (fds);
131     }
132   else
133     {
134       segment_name = vl_api_from_api_to_new_c_string (&mp->segment_name);
135       rv =
136         vcl_segment_attach (segment_handle, segment_name, SSVM_SEGMENT_SHM,
137                             -1);
138       vec_free (segment_name);
139       if (rv != 0)
140         goto failed;
141     }
142
143   vcm->app_index = clib_net_to_host_u32 (mp->app_index);
144   vcm->bapi_app_state = STATE_APP_ATTACHED;
145   return;
146
147 failed:
148   vcm->bapi_app_state = STATE_APP_FAILED;
149   for (i = clib_max (n_fds - 1, 0); i < vec_len (fds); i++)
150     close (fds[i]);
151   vec_free (fds);
152 }
153
154 static void
155 vl_api_app_worker_add_del_reply_t_handler (vl_api_app_worker_add_del_reply_t *
156                                            mp)
157 {
158   int n_fds = 0, *fds = 0, i, rv;
159   u64 segment_handle;
160   vcl_worker_t *wrk;
161   u32 wrk_index;
162   char *segment_name = 0;
163
164   if (mp->retval)
165     {
166       clib_warning ("VCL<%d>: add/del worker failed: %U", getpid (),
167                     format_api_error, ntohl (mp->retval));
168       goto failed;
169     }
170
171   if (!mp->is_add)
172     return;
173
174   wrk_index = mp->context;
175   wrk = vcl_worker_get_if_valid (wrk_index);
176   if (!wrk)
177     return;
178
179   wrk->vpp_wrk_index = clib_net_to_host_u32 (mp->wrk_index);
180   wrk->app_event_queue = uword_to_pointer (mp->app_event_queue_address,
181                                            svm_msg_q_t *);
182   wrk->ctrl_mq = vcm->ctrl_mq;
183
184   segment_handle = clib_net_to_host_u64 (mp->segment_handle);
185   if (segment_handle == VCL_INVALID_SEGMENT_HANDLE)
186     {
187       clib_warning ("invalid segment handle");
188       goto failed;
189     }
190
191   if (mp->n_fds)
192     {
193       vec_validate (fds, mp->n_fds);
194       if (vl_socket_client_recv_fd_msg2 (&wrk->bapi_sock_ctx, fds, mp->n_fds,
195                                          5))
196         goto failed;
197
198       if (mp->fd_flags & SESSION_FD_F_VPP_MQ_SEGMENT)
199         if (vcl_segment_attach (vcl_vpp_worker_segment_handle (wrk_index),
200                                 "vpp-worker-seg", SSVM_SEGMENT_MEMFD,
201                                 fds[n_fds++]))
202           goto failed;
203
204       if (mp->fd_flags & SESSION_FD_F_MEMFD_SEGMENT)
205         {
206           segment_name = vl_api_from_api_to_new_c_string (&mp->segment_name);
207           rv =
208             vcl_segment_attach (segment_handle, segment_name,
209                                 SSVM_SEGMENT_MEMFD, fds[n_fds++]);
210           vec_free (segment_name);
211           if (rv != 0)
212             goto failed;
213         }
214
215       if (mp->fd_flags & SESSION_FD_F_MQ_EVENTFD)
216         {
217           svm_msg_q_set_consumer_eventfd (wrk->app_event_queue, fds[n_fds]);
218           vcl_mq_epoll_add_evfd (wrk, wrk->app_event_queue);
219           n_fds++;
220         }
221
222       vec_free (fds);
223     }
224   else
225     {
226       segment_name = vl_api_from_api_to_new_c_string (&mp->segment_name);
227       rv =
228         vcl_segment_attach (segment_handle, segment_name, SSVM_SEGMENT_SHM,
229                             -1);
230       vec_free (segment_name);
231       if (rv != 0)
232         goto failed;
233     }
234   vcm->bapi_app_state = STATE_APP_READY;
235   VDBG (0, "worker %u vpp-worker %u added", wrk_index, wrk->vpp_wrk_index);
236   return;
237
238 failed:
239   vcm->bapi_app_state = STATE_APP_FAILED;
240   for (i = clib_max (n_fds - 1, 0); i < vec_len (fds); i++)
241     close (fds[i]);
242   vec_free (fds);
243 }
244
245 static void
246   vl_api_application_tls_cert_add_reply_t_handler
247   (vl_api_application_tls_cert_add_reply_t * mp)
248 {
249   if (mp->retval)
250     VDBG (0, "add cert failed: %U", format_api_error, ntohl (mp->retval));
251   vcm->bapi_app_state = STATE_APP_READY;
252 }
253
254 static void
255   vl_api_application_tls_key_add_reply_t_handler
256   (vl_api_application_tls_key_add_reply_t * mp)
257 {
258   if (mp->retval)
259     VDBG (0, "add key failed: %U", format_api_error, ntohl (mp->retval));
260   vcm->bapi_app_state = STATE_APP_READY;
261 }
262
263 #define foreach_sock_msg                                                \
264 _(SESSION_ENABLE_DISABLE_REPLY, session_enable_disable_reply)           \
265 _(APP_ATTACH_REPLY, app_attach_reply)                                   \
266 _(APPLICATION_TLS_CERT_ADD_REPLY, application_tls_cert_add_reply)       \
267 _(APPLICATION_TLS_KEY_ADD_REPLY, application_tls_key_add_reply)         \
268 _(APP_WORKER_ADD_DEL_REPLY, app_worker_add_del_reply)                   \
269
270 static void
271 vcl_bapi_hookup (void)
272 {
273 #define _(N, n)                                                 \
274     vl_msg_api_set_handlers(VL_API_##N, #n,                     \
275                            vl_api_##n##_t_handler,              \
276                            vl_noop_handler,                     \
277                            vl_api_##n##_t_endian,               \
278                            vl_api_##n##_t_print,                \
279                            sizeof(vl_api_##n##_t), 1);
280   foreach_sock_msg;
281 #undef _
282 }
283
284 /*
285  * VPP-API message functions
286  */
287 static void
288 vcl_bapi_send_session_enable_disable (u8 is_enable)
289 {
290   vcl_worker_t *wrk = vcl_worker_get_current ();
291   vl_api_session_enable_disable_t *bmp;
292   bmp = vl_msg_api_alloc (sizeof (*bmp));
293   memset (bmp, 0, sizeof (*bmp));
294
295   bmp->_vl_msg_id = ntohs (VL_API_SESSION_ENABLE_DISABLE);
296   bmp->client_index = wrk->bapi_client_index;
297   bmp->context = htonl (0xfeedface);
298   bmp->is_enable = is_enable;
299   vl_msg_api_send_shmem (wrk->vl_input_queue, (u8 *) & bmp);
300 }
301
302 void
303 vcl_bapi_send_attach (void)
304 {
305   vcl_worker_t *wrk = vcl_worker_get_current ();
306   u8 tls_engine = CRYPTO_ENGINE_OPENSSL;
307   vl_api_app_attach_t *bmp;
308   u8 nsid_len = vec_len (vcm->cfg.namespace_id);
309   u8 app_is_proxy = (vcm->cfg.app_proxy_transport_tcp ||
310                      vcm->cfg.app_proxy_transport_udp);
311
312   tls_engine = vcm->cfg.tls_engine ? vcm->cfg.tls_engine : tls_engine;
313
314   bmp = vl_msg_api_alloc (sizeof (*bmp));
315   memset (bmp, 0, sizeof (*bmp));
316
317   bmp->_vl_msg_id = ntohs (VL_API_APP_ATTACH);
318   bmp->client_index = wrk->bapi_client_index;
319   bmp->context = htonl (0xfeedface);
320   bmp->options[APP_OPTIONS_FLAGS] =
321     APP_OPTIONS_FLAGS_ACCEPT_REDIRECT | APP_OPTIONS_FLAGS_ADD_SEGMENT |
322     (vcm->cfg.app_scope_local ? APP_OPTIONS_FLAGS_USE_LOCAL_SCOPE : 0) |
323     (vcm->cfg.app_scope_global ? APP_OPTIONS_FLAGS_USE_GLOBAL_SCOPE : 0) |
324     (app_is_proxy ? APP_OPTIONS_FLAGS_IS_PROXY : 0) |
325     (vcm->cfg.use_mq_eventfd ? APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD : 0);
326   bmp->options[APP_OPTIONS_PROXY_TRANSPORT] =
327     (u64) ((vcm->cfg.app_proxy_transport_tcp ? 1 << TRANSPORT_PROTO_TCP : 0) |
328            (vcm->cfg.app_proxy_transport_udp ? 1 << TRANSPORT_PROTO_UDP : 0));
329   bmp->options[APP_OPTIONS_SEGMENT_SIZE] = vcm->cfg.segment_size;
330   bmp->options[APP_OPTIONS_ADD_SEGMENT_SIZE] = vcm->cfg.add_segment_size;
331   bmp->options[APP_OPTIONS_RX_FIFO_SIZE] = vcm->cfg.rx_fifo_size;
332   bmp->options[APP_OPTIONS_TX_FIFO_SIZE] = vcm->cfg.tx_fifo_size;
333   bmp->options[APP_OPTIONS_PREALLOC_FIFO_PAIRS] =
334     vcm->cfg.preallocated_fifo_pairs;
335   bmp->options[APP_OPTIONS_EVT_QUEUE_SIZE] = vcm->cfg.event_queue_size;
336   bmp->options[APP_OPTIONS_TLS_ENGINE] = tls_engine;
337   if (nsid_len)
338     {
339       vl_api_vec_to_api_string (vcm->cfg.namespace_id, &bmp->namespace_id);
340       bmp->options[APP_OPTIONS_NAMESPACE_SECRET] = vcm->cfg.namespace_secret;
341     }
342   vl_msg_api_send_shmem (wrk->vl_input_queue, (u8 *) & bmp);
343 }
344
345 void
346 vcl_bapi_send_detach (void)
347 {
348   vcl_worker_t *wrk = vcl_worker_get_current ();
349   vl_api_application_detach_t *bmp;
350   bmp = vl_msg_api_alloc (sizeof (*bmp));
351   memset (bmp, 0, sizeof (*bmp));
352
353   bmp->_vl_msg_id = ntohs (VL_API_APPLICATION_DETACH);
354   bmp->client_index = wrk->bapi_client_index;
355   bmp->context = htonl (0xfeedface);
356   vl_msg_api_send_shmem (wrk->vl_input_queue, (u8 *) & bmp);
357 }
358
359 static void
360 vcl_bapi_send_app_worker_add_del (u8 is_add)
361 {
362   vcl_worker_t *wrk = vcl_worker_get_current ();
363   vl_api_app_worker_add_del_t *mp;
364
365   mp = vl_msg_api_alloc (sizeof (*mp));
366   memset (mp, 0, sizeof (*mp));
367
368   mp->_vl_msg_id = ntohs (VL_API_APP_WORKER_ADD_DEL);
369   mp->client_index = wrk->bapi_client_index;
370   mp->app_index = clib_host_to_net_u32 (vcm->app_index);
371   mp->context = wrk->wrk_index;
372   mp->is_add = is_add;
373   if (!is_add)
374     mp->wrk_index = clib_host_to_net_u32 (wrk->vpp_wrk_index);
375
376   vl_msg_api_send_shmem (wrk->vl_input_queue, (u8 *) & mp);
377 }
378
379 static void
380 vcl_bapi_send_child_worker_del (vcl_worker_t * child_wrk)
381 {
382   vcl_worker_t *wrk = vcl_worker_get_current ();
383   vl_api_app_worker_add_del_t *mp;
384
385   mp = vl_msg_api_alloc (sizeof (*mp));
386   memset (mp, 0, sizeof (*mp));
387
388   mp->_vl_msg_id = ntohs (VL_API_APP_WORKER_ADD_DEL);
389   mp->client_index = wrk->bapi_client_index;
390   mp->app_index = clib_host_to_net_u32 (vcm->app_index);
391   mp->context = wrk->wrk_index;
392   mp->is_add = 0;
393   mp->wrk_index = clib_host_to_net_u32 (child_wrk->vpp_wrk_index);
394
395   vl_msg_api_send_shmem (wrk->vl_input_queue, (u8 *) & mp);
396 }
397
398 void
399 vcl_bapi_send_application_tls_cert_add (vcl_session_t * session, char *cert,
400                                         u32 cert_len)
401 {
402   vcl_worker_t *wrk = vcl_worker_get_current ();
403   vl_api_application_tls_cert_add_t *cert_mp;
404
405   cert_mp = vl_msg_api_alloc (sizeof (*cert_mp) + cert_len);
406   clib_memset (cert_mp, 0, sizeof (*cert_mp));
407   cert_mp->_vl_msg_id = ntohs (VL_API_APPLICATION_TLS_CERT_ADD);
408   cert_mp->client_index = wrk->bapi_client_index;
409   cert_mp->context = session->session_index;
410   cert_mp->cert_len = clib_host_to_net_u16 (cert_len);
411   clib_memcpy_fast (cert_mp->cert, cert, cert_len);
412   vl_msg_api_send_shmem (wrk->vl_input_queue, (u8 *) & cert_mp);
413 }
414
415 void
416 vcl_bapi_send_application_tls_key_add (vcl_session_t * session, char *key,
417                                        u32 key_len)
418 {
419   vcl_worker_t *wrk = vcl_worker_get_current ();
420   vl_api_application_tls_key_add_t *key_mp;
421
422   key_mp = vl_msg_api_alloc (sizeof (*key_mp) + key_len);
423   clib_memset (key_mp, 0, sizeof (*key_mp));
424   key_mp->_vl_msg_id = ntohs (VL_API_APPLICATION_TLS_KEY_ADD);
425   key_mp->client_index = wrk->bapi_client_index;
426   key_mp->context = session->session_index;
427   key_mp->key_len = clib_host_to_net_u16 (key_len);
428   clib_memcpy_fast (key_mp->key, key, key_len);
429   vl_msg_api_send_shmem (wrk->vl_input_queue, (u8 *) & key_mp);
430 }
431
432 u32
433 vcl_bapi_max_nsid_len (void)
434 {
435   vl_api_app_attach_t *mp;
436   return (sizeof (mp->namespace_id) - 1);
437 }
438
439 static void
440 vcl_bapi_init_error_string_table (void)
441 {
442   vcm->error_string_by_error_number = hash_create (0, sizeof (uword));
443
444 #define _(n, v, s) hash_set (vcm->error_string_by_error_number, -v, s);
445   foreach_vnet_api_error;
446 #undef _
447
448   hash_set (vcm->error_string_by_error_number, 99, "Misc");
449 }
450
451 static void
452 vcl_bapi_cleanup (void)
453 {
454   socket_client_main_t *scm = &socket_client_main;
455   api_main_t *am = vlibapi_get_main ();
456
457   am->my_client_index = ~0;
458   am->my_registration = 0;
459   am->vl_input_queue = 0;
460   am->msg_index_by_name_and_crc = 0;
461   scm->socket_fd = 0;
462
463   vl_client_api_unmap ();
464 }
465
466 static int
467 vcl_bapi_connect_to_vpp (void)
468 {
469   vcl_worker_t *wrk = vcl_worker_get_current ();
470   vppcom_cfg_t *vcl_cfg = &vcm->cfg;
471   int rv = VPPCOM_OK;
472   api_main_t *am;
473   u8 *wrk_name;
474
475   wrk_name = format (0, "%s-wrk-%u%c", vcm->app_name, wrk->wrk_index, 0);
476
477   /* Make sure api is cleaned up in case this is a connect from a
478    * forked worker */
479   vcl_bapi_cleanup ();
480
481   vlibapi_set_main (&wrk->bapi_api_ctx);
482   vlibapi_set_memory_client_main (&wrk->bapi_shm_ctx);
483   vcl_bapi_hookup ();
484
485   if (vcl_cfg->vpp_bapi_socket_name)
486     {
487       if (vl_socket_client_connect2 (&wrk->bapi_sock_ctx,
488                                      (char *) vcl_cfg->vpp_bapi_socket_name,
489                                      (char *) wrk_name,
490                                      0 /* default rx/tx buffer */ ))
491         {
492           VERR ("app (%s) socket connect failed!", wrk_name);
493           rv = VPPCOM_ECONNREFUSED;
494           goto error;
495         }
496
497       if (vl_socket_client_init_shm2 (&wrk->bapi_sock_ctx, 0,
498                                       1 /* want_pthread */ ))
499         {
500           VERR ("app (%s) init shm failed!", wrk_name);
501           rv = VPPCOM_ECONNREFUSED;
502           goto error;
503         }
504     }
505   else
506     {
507       if (!vcl_cfg->vpp_bapi_filename)
508         vcl_cfg->vpp_bapi_filename = format (0, "/vpe-api%c", 0);
509
510       vl_set_memory_root_path ((char *) vcl_cfg->vpp_bapi_chroot);
511
512       VDBG (0, "app (%s) connecting to VPP api (%s)...",
513             wrk_name, vcl_cfg->vpp_bapi_filename);
514
515       if (vl_client_connect_to_vlib ((char *) vcl_cfg->vpp_bapi_filename,
516                                      (char *) wrk_name,
517                                      vcm->cfg.vpp_api_q_length) < 0)
518         {
519           VERR ("app (%s) connect failed!", wrk_name);
520           rv = VPPCOM_ECONNREFUSED;
521           goto error;
522         }
523     }
524
525   am = vlibapi_get_main ();
526   wrk->vl_input_queue = am->shmem_hdr->vl_input_queue;
527   wrk->bapi_client_index = (u32) am->my_client_index;
528
529   VDBG (0, "app (%s) is connected to VPP!", wrk_name);
530   vcl_evt (VCL_EVT_INIT, vcm);
531
532 error:
533   vec_free (wrk_name);
534   return rv;
535 }
536
537 void
538 vcl_bapi_disconnect_from_vpp (void)
539 {
540   vcl_worker_t *wrk = vcl_worker_get_current ();
541   vppcom_cfg_t *vcl_cfg = &vcm->cfg;
542
543   if (vcl_cfg->vpp_bapi_socket_name)
544     vl_socket_client_disconnect2 (&wrk->bapi_sock_ctx);
545   else
546     vl_client_disconnect_from_vlib ();
547 }
548
549 static const char *
550 vcl_bapi_app_state_str (vcl_bapi_app_state_t state)
551 {
552   char *st;
553
554   switch (state)
555     {
556     case STATE_APP_START:
557       st = "STATE_APP_START";
558       break;
559
560     case STATE_APP_CONN_VPP:
561       st = "STATE_APP_CONN_VPP";
562       break;
563
564     case STATE_APP_ENABLED:
565       st = "STATE_APP_ENABLED";
566       break;
567
568     case STATE_APP_ATTACHED:
569       st = "STATE_APP_ATTACHED";
570       break;
571
572     default:
573       st = "UNKNOWN_APP_STATE";
574       break;
575     }
576
577   return st;
578 }
579
580 static int
581 vcl_bapi_wait_for_app_state_change (vcl_bapi_app_state_t app_state)
582 {
583   vcl_worker_t *wrk = vcl_worker_get_current ();
584   f64 timeout = clib_time_now (&wrk->clib_time) + vcm->cfg.app_timeout;
585
586   while (clib_time_now (&wrk->clib_time) < timeout)
587     {
588       if (vcm->bapi_app_state == app_state)
589         return VPPCOM_OK;
590       if (vcm->bapi_app_state == STATE_APP_FAILED)
591         return VPPCOM_ECONNABORTED;
592     }
593   VDBG (0, "timeout waiting for state %s (%d)",
594         vcl_bapi_app_state_str (app_state), app_state);
595   vcl_evt (VCL_EVT_SESSION_TIMEOUT, vcm, bapi_app_state);
596
597   return VPPCOM_ETIMEDOUT;
598 }
599
600 static int
601 vcl_bapi_session_enable (void)
602 {
603   int rv;
604
605   if (vcm->bapi_app_state != STATE_APP_ENABLED)
606     {
607       vcl_bapi_send_session_enable_disable (1 /* is_enabled == TRUE */ );
608       rv = vcl_bapi_wait_for_app_state_change (STATE_APP_ENABLED);
609       if (PREDICT_FALSE (rv))
610         {
611           VDBG (0, "application session enable timed out! returning %d (%s)",
612                 rv, vppcom_retval_str (rv));
613           return rv;
614         }
615     }
616   return VPPCOM_OK;
617 }
618
619 static int
620 vcl_bapi_init (void)
621 {
622   int rv;
623
624   vcm->bapi_app_state = STATE_APP_START;
625   vcl_bapi_init_error_string_table ();
626   rv = vcl_bapi_connect_to_vpp ();
627   if (rv)
628     {
629       VERR ("couldn't connect to VPP!");
630       return rv;
631     }
632   VDBG (0, "sending session enable");
633   rv = vcl_bapi_session_enable ();
634   if (rv)
635     {
636       VERR ("vppcom_app_session_enable() failed!");
637       return rv;
638     }
639
640   return 0;
641 }
642
643 int
644 vcl_bapi_attach (void)
645 {
646   int rv;
647
648   /* API hookup and connect to VPP */
649   if ((rv = vcl_bapi_init ()))
650     return rv;
651
652   vcl_bapi_send_attach ();
653   rv = vcl_bapi_wait_for_app_state_change (STATE_APP_ATTACHED);
654   if (PREDICT_FALSE (rv))
655     {
656       VDBG (0, "application attach timed out! returning %d (%s)", rv,
657             vppcom_retval_str (rv));
658       return rv;
659     }
660
661   return 0;
662 }
663
664 int
665 vcl_bapi_app_worker_add (void)
666 {
667   if (vcl_bapi_connect_to_vpp ())
668     return -1;
669
670   vcm->bapi_app_state = STATE_APP_ADDING_WORKER;
671   vcl_bapi_send_app_worker_add_del (1 /* is_add */ );
672   if (vcl_bapi_wait_for_app_state_change (STATE_APP_READY))
673     return -1;
674   return 0;
675 }
676
677 void
678 vcl_bapi_app_worker_del (vcl_worker_t * wrk)
679 {
680   /* Notify vpp that the worker is going away */
681   if (wrk->wrk_index == vcl_get_worker_index ())
682     vcl_bapi_send_app_worker_add_del (0 /* is_add */ );
683   else
684     vcl_bapi_send_child_worker_del (wrk);
685
686   /* Disconnect the binary api */
687   if (vec_len (vcm->workers) == 1)
688     vcl_bapi_disconnect_from_vpp ();
689   else
690     vl_client_send_disconnect (1 /* vpp should cleanup */ );
691 }
692
693 int
694 vppcom_session_tls_add_cert (uint32_t session_handle, char *cert,
695                              uint32_t cert_len)
696 {
697
698   vcl_worker_t *wrk = vcl_worker_get_current ();
699   vcl_session_t *session = 0;
700
701   session = vcl_session_get_w_handle (wrk, session_handle);
702   if (!session)
703     return VPPCOM_EBADFD;
704
705   if (cert_len == 0 || cert_len == ~0)
706     return VPPCOM_EBADFD;
707
708   /*
709    * Send listen request to vpp and wait for reply
710    */
711   vcl_bapi_send_application_tls_cert_add (session, cert, cert_len);
712   vcm->bapi_app_state = STATE_APP_ADDING_TLS_DATA;
713   vcl_bapi_wait_for_app_state_change (STATE_APP_READY);
714   return VPPCOM_OK;
715 }
716
717 int
718 vppcom_session_tls_add_key (uint32_t session_handle, char *key,
719                             uint32_t key_len)
720 {
721
722   vcl_worker_t *wrk = vcl_worker_get_current ();
723   vcl_session_t *session = 0;
724
725   session = vcl_session_get_w_handle (wrk, session_handle);
726   if (!session)
727     return VPPCOM_EBADFD;
728
729   if (key_len == 0 || key_len == ~0)
730     return VPPCOM_EBADFD;
731
732   vcl_bapi_send_application_tls_key_add (session, key, key_len);
733   vcm->bapi_app_state = STATE_APP_ADDING_TLS_DATA;
734   vcl_bapi_wait_for_app_state_change (STATE_APP_READY);
735   return VPPCOM_OK;
736 }
737
738 int
739 vcl_bapi_worker_set (void)
740 {
741   vcl_worker_t *wrk = vcl_worker_get_current ();
742   int i;
743
744   /* Find the first worker with the same pid */
745   for (i = 0; i < vec_len (vcm->workers); i++)
746     {
747       if (i == wrk->wrk_index)
748         continue;
749       if (vcm->workers[i].current_pid == wrk->current_pid)
750         {
751           wrk->vl_input_queue = vcm->workers[i].vl_input_queue;
752           wrk->bapi_client_index = vcm->workers[i].bapi_client_index;
753           return 0;
754         }
755     }
756   return -1;
757 }
758
759 /*
760  * fd.io coding-style-patch-verification: ON
761  *
762  * Local Variables:
763  * eval: (c-set-style "gnu")
764  * End:
765  */