session: Add sock_name option to add_ns
[vpp.git] / src / vnet / session / session_api.c
1 /*
2  * Copyright (c) 2015-2019 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this file except in compliance with the License.
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15
16 #include <vnet/vnet.h>
17 #include <vlibmemory/api.h>
18 #include <vnet/session/application.h>
19 #include <vnet/session/application_interface.h>
20 #include <vnet/session/application_local.h>
21 #include <vnet/session/session_rules_table.h>
22 #include <vnet/session/session_table.h>
23 #include <vnet/session/session.h>
24 #include <vnet/ip/ip_types_api.h>
25
26 #include <vnet/format_fns.h>
27 #include <vnet/session/session.api_enum.h>
28 #include <vnet/session/session.api_types.h>
29
30 #define REPLY_MSG_ID_BASE session_main.msg_id_base
31 #include <vlibapi/api_helper_macros.h>
32
33 static transport_proto_t
34 api_session_transport_proto_decode (const vl_api_transport_proto_t * api_tp)
35 {
36   switch (*api_tp)
37     {
38     case TRANSPORT_PROTO_API_TCP:
39       return TRANSPORT_PROTO_TCP;
40     case TRANSPORT_PROTO_API_UDP:
41       return TRANSPORT_PROTO_UDP;
42     case TRANSPORT_PROTO_API_TLS:
43       return TRANSPORT_PROTO_TLS;
44     case TRANSPORT_PROTO_API_QUIC:
45       return TRANSPORT_PROTO_QUIC;
46     default:
47       return TRANSPORT_PROTO_NONE;
48     }
49 }
50
51 static vl_api_transport_proto_t
52 api_session_transport_proto_encode (const transport_proto_t tp)
53 {
54   switch (tp)
55     {
56     case TRANSPORT_PROTO_TCP:
57       return TRANSPORT_PROTO_API_TCP;
58     case TRANSPORT_PROTO_UDP:
59       return TRANSPORT_PROTO_API_UDP;
60     case TRANSPORT_PROTO_TLS:
61       return TRANSPORT_PROTO_API_TLS;
62     case TRANSPORT_PROTO_QUIC:
63       return TRANSPORT_PROTO_API_QUIC;
64     default:
65       return TRANSPORT_PROTO_API_NONE;
66     }
67 }
68
69 static int
70 session_send_fds (vl_api_registration_t * reg, int fds[], int n_fds)
71 {
72   clib_error_t *error;
73   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
74     return SESSION_E_BAPI_NO_FD;
75   error = vl_api_send_fd_msg (reg, fds, n_fds);
76   if (error)
77     {
78       clib_error_report (error);
79       return SESSION_E_BAPI_SEND_FD;
80     }
81   return 0;
82 }
83
84 static int
85 mq_try_lock_and_alloc_msg (svm_msg_q_t * app_mq, svm_msg_q_msg_t * msg)
86 {
87   int rv;
88   u8 try = 0;
89   while (try < 100)
90     {
91       rv = svm_msg_q_lock_and_alloc_msg_w_ring (app_mq,
92                                                 SESSION_MQ_CTRL_EVT_RING,
93                                                 SVM_Q_NOWAIT, msg);
94       if (!rv)
95         return 0;
96       /*
97        * Break the loop if mq is full, usually this is because the
98        * app has crashed or is hanging on somewhere.
99        */
100       if (rv != -1)
101         break;
102       try++;
103       usleep (1);
104     }
105   clib_warning ("failed to alloc msg");
106   return -1;
107 }
108
109 static int
110 mq_send_session_accepted_cb (session_t * s)
111 {
112   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
113   svm_msg_q_msg_t _msg, *msg = &_msg;
114   session_accepted_msg_t m = { 0 };
115   svm_msg_q_t *app_mq;
116   fifo_segment_t *eq_seg;
117   session_t *listener;
118   session_event_t *evt;
119   application_t *app;
120
121   app = application_get (app_wrk->app_index);
122
123   m.context = app->app_index;
124   m.server_rx_fifo = fifo_segment_fifo_offset (s->rx_fifo);
125   m.server_tx_fifo = fifo_segment_fifo_offset (s->tx_fifo);
126   m.segment_handle = session_segment_handle (s);
127   m.flags = s->flags;
128
129   eq_seg = application_get_rx_mqs_segment (app);
130
131   if (session_has_transport (s))
132     {
133       listener = listen_session_get_from_handle (s->listener_handle);
134       m.listener_handle = app_listen_session_handle (listener);
135       if (application_is_proxy (app))
136         {
137           listener =
138             app_worker_first_listener (app_wrk, session_get_fib_proto (s),
139                                        session_get_transport_proto (s));
140           if (listener)
141             m.listener_handle = listen_session_get_handle (listener);
142         }
143       m.vpp_event_queue_address =
144         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
145       m.mq_index = s->thread_index;
146       m.handle = session_handle (s);
147
148       session_get_endpoint (s, &m.rmt, 0 /* is_lcl */);
149       session_get_endpoint (s, &m.lcl, 1 /* is_lcl */);
150     }
151   else
152     {
153       ct_connection_t *ct;
154
155       ct = (ct_connection_t *) session_get_transport (s);
156       listener = listen_session_get_from_handle (s->listener_handle);
157       m.listener_handle = app_listen_session_handle (listener);
158       m.rmt.is_ip4 = session_type_is_ip4 (listener->session_type);
159       m.rmt.port = ct->c_rmt_port;
160       m.lcl.port = ct->c_lcl_port;
161       m.handle = session_handle (s);
162       m.vpp_event_queue_address =
163         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
164       m.mq_index = s->thread_index;
165     }
166
167   app_mq = app_wrk->event_queue;
168   if (mq_try_lock_and_alloc_msg (app_mq, msg))
169     return SESSION_E_MQ_MSG_ALLOC;
170
171   evt = svm_msg_q_msg_data (app_mq, msg);
172   clib_memset (evt, 0, sizeof (*evt));
173   evt->event_type = SESSION_CTRL_EVT_ACCEPTED;
174   clib_memcpy_fast (evt->data, &m, sizeof (m));
175   svm_msg_q_add_and_unlock (app_mq, msg);
176
177   return 0;
178 }
179
180 static inline void
181 mq_send_session_close_evt (app_worker_t * app_wrk, session_handle_t sh,
182                            session_evt_type_t evt_type)
183 {
184   svm_msg_q_msg_t _msg, *msg = &_msg;
185   session_disconnected_msg_t *mp;
186   svm_msg_q_t *app_mq;
187   session_event_t *evt;
188
189   app_mq = app_wrk->event_queue;
190   if (mq_try_lock_and_alloc_msg (app_mq, msg))
191     return;
192   evt = svm_msg_q_msg_data (app_mq, msg);
193   clib_memset (evt, 0, sizeof (*evt));
194   evt->event_type = evt_type;
195   mp = (session_disconnected_msg_t *) evt->data;
196   mp->handle = sh;
197   mp->context = app_wrk->api_client_index;
198   svm_msg_q_add_and_unlock (app_mq, msg);
199 }
200
201 static inline void
202 mq_notify_close_subscribers (u32 app_index, session_handle_t sh,
203                              svm_fifo_t * f, session_evt_type_t evt_type)
204 {
205   app_worker_t *app_wrk;
206   application_t *app;
207   int i;
208
209   app = application_get (app_index);
210   if (!app)
211     return;
212
213   for (i = 0; i < f->shr->n_subscribers; i++)
214     {
215       if (!(app_wrk = application_get_worker (app, f->shr->subscribers[i])))
216         continue;
217       mq_send_session_close_evt (app_wrk, sh, SESSION_CTRL_EVT_DISCONNECTED);
218     }
219 }
220
221 static void
222 mq_send_session_disconnected_cb (session_t * s)
223 {
224   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
225   session_handle_t sh = session_handle (s);
226
227   mq_send_session_close_evt (app_wrk, session_handle (s),
228                              SESSION_CTRL_EVT_DISCONNECTED);
229
230   if (svm_fifo_n_subscribers (s->rx_fifo))
231     mq_notify_close_subscribers (app_wrk->app_index, sh, s->rx_fifo,
232                                  SESSION_CTRL_EVT_DISCONNECTED);
233 }
234
235 static void
236 mq_send_session_reset_cb (session_t * s)
237 {
238   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
239   session_handle_t sh = session_handle (s);
240
241   mq_send_session_close_evt (app_wrk, sh, SESSION_CTRL_EVT_RESET);
242
243   if (svm_fifo_n_subscribers (s->rx_fifo))
244     mq_notify_close_subscribers (app_wrk->app_index, sh, s->rx_fifo,
245                                  SESSION_CTRL_EVT_RESET);
246 }
247
248 int
249 mq_send_session_connected_cb (u32 app_wrk_index, u32 api_context,
250                               session_t * s, session_error_t err)
251 {
252   svm_msg_q_msg_t _msg, *msg = &_msg;
253   session_connected_msg_t m = { 0 };
254   svm_msg_q_t *app_mq;
255   transport_connection_t *tc;
256   fifo_segment_t *eq_seg;
257   app_worker_t *app_wrk;
258   session_event_t *evt;
259   application_t *app;
260
261   app_wrk = app_worker_get (app_wrk_index);
262
263   m.context = api_context;
264   m.retval = err;
265
266   if (err)
267     goto snd_msg;
268
269   app = application_get (app_wrk->app_index);
270   eq_seg = application_get_rx_mqs_segment (app);
271
272   if (session_has_transport (s))
273     {
274       tc = session_get_transport (s);
275       if (!tc)
276         {
277           clib_warning ("failed to retrieve transport!");
278           m.retval = SESSION_E_REFUSED;
279           goto snd_msg;
280         }
281
282       m.handle = session_handle (s);
283       m.vpp_event_queue_address =
284         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
285
286       session_get_endpoint (s, &m.lcl, 1 /* is_lcl */);
287
288       m.server_rx_fifo = fifo_segment_fifo_offset (s->rx_fifo);
289       m.server_tx_fifo = fifo_segment_fifo_offset (s->tx_fifo);
290       m.segment_handle = session_segment_handle (s);
291       m.mq_index = s->thread_index;
292     }
293   else
294     {
295       ct_connection_t *cct;
296       session_t *ss;
297
298       cct = (ct_connection_t *) session_get_transport (s);
299       m.handle = session_handle (s);
300       m.lcl.port = cct->c_lcl_port;
301       m.lcl.is_ip4 = cct->c_is_ip4;
302       m.vpp_event_queue_address =
303         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
304       m.server_rx_fifo = fifo_segment_fifo_offset (s->rx_fifo);
305       m.server_tx_fifo = fifo_segment_fifo_offset (s->tx_fifo);
306       m.segment_handle = session_segment_handle (s);
307       ss = ct_session_get_peer (s);
308       m.ct_rx_fifo = fifo_segment_fifo_offset (ss->tx_fifo);
309       m.ct_tx_fifo = fifo_segment_fifo_offset (ss->rx_fifo);
310       m.ct_segment_handle = session_segment_handle (ss);
311       m.mq_index = s->thread_index;
312     }
313
314   /* Setup client session index in advance, in case data arrives
315    * before the app processes message and updates it */
316   s->rx_fifo->shr->client_session_index = api_context;
317   s->tx_fifo->shr->client_session_index = api_context;
318
319 snd_msg:
320
321   app_mq = app_wrk->event_queue;
322
323   if (mq_try_lock_and_alloc_msg (app_mq, msg))
324     return SESSION_E_MQ_MSG_ALLOC;
325
326   evt = svm_msg_q_msg_data (app_mq, msg);
327   clib_memset (evt, 0, sizeof (*evt));
328   evt->event_type = SESSION_CTRL_EVT_CONNECTED;
329   clib_memcpy_fast (evt->data, &m, sizeof (m));
330
331   svm_msg_q_add_and_unlock (app_mq, msg);
332   return 0;
333 }
334
335 int
336 mq_send_session_bound_cb (u32 app_wrk_index, u32 api_context,
337                           session_handle_t handle, int rv)
338 {
339   svm_msg_q_msg_t _msg, *msg = &_msg;
340   session_bound_msg_t m = { 0 };
341   svm_msg_q_t *app_mq;
342   transport_endpoint_t tep;
343   fifo_segment_t *eq_seg;
344   app_worker_t *app_wrk;
345   session_event_t *evt;
346   application_t *app;
347   app_listener_t *al;
348   session_t *ls = 0;
349
350   app_wrk = app_worker_get (app_wrk_index);
351
352   m.context = api_context;
353   m.retval = rv;
354
355   if (rv)
356     goto snd_msg;
357
358   m.handle = handle;
359   al = app_listener_get_w_handle (handle);
360   if (al->session_index != SESSION_INVALID_INDEX)
361     ls = app_listener_get_session (al);
362   else
363     ls = app_listener_get_local_session (al);
364
365   session_get_endpoint (ls, &tep, 1 /* is_lcl */);
366   m.lcl_port = tep.port;
367   m.lcl_is_ip4 = tep.is_ip4;
368   clib_memcpy_fast (m.lcl_ip, &tep.ip, sizeof (tep.ip));
369   app = application_get (app_wrk->app_index);
370   eq_seg = application_get_rx_mqs_segment (app);
371   m.vpp_evt_q = fifo_segment_msg_q_offset (eq_seg, ls->thread_index);
372   m.mq_index = ls->thread_index;
373
374   if (session_transport_service_type (ls) == TRANSPORT_SERVICE_CL &&
375       ls->rx_fifo)
376     {
377       m.rx_fifo = fifo_segment_fifo_offset (ls->rx_fifo);
378       m.tx_fifo = fifo_segment_fifo_offset (ls->tx_fifo);
379       m.segment_handle = session_segment_handle (ls);
380     }
381
382 snd_msg:
383
384   app_mq = app_wrk->event_queue;
385
386   if (mq_try_lock_and_alloc_msg (app_mq, msg))
387     return SESSION_E_MQ_MSG_ALLOC;
388
389   evt = svm_msg_q_msg_data (app_mq, msg);
390   clib_memset (evt, 0, sizeof (*evt));
391   evt->event_type = SESSION_CTRL_EVT_BOUND;
392   clib_memcpy_fast (evt->data, &m, sizeof (m));
393
394   svm_msg_q_add_and_unlock (app_mq, msg);
395   return 0;
396 }
397
398 void
399 mq_send_unlisten_reply (app_worker_t * app_wrk, session_handle_t sh,
400                         u32 context, int rv)
401 {
402   svm_msg_q_msg_t _msg, *msg = &_msg;
403   session_unlisten_reply_msg_t *ump;
404   svm_msg_q_t *app_mq;
405   session_event_t *evt;
406
407   app_mq = app_wrk->event_queue;
408   if (mq_try_lock_and_alloc_msg (app_mq, msg))
409     return;
410
411   evt = svm_msg_q_msg_data (app_mq, msg);
412   clib_memset (evt, 0, sizeof (*evt));
413   evt->event_type = SESSION_CTRL_EVT_UNLISTEN_REPLY;
414   ump = (session_unlisten_reply_msg_t *) evt->data;
415   ump->context = context;
416   ump->handle = sh;
417   ump->retval = rv;
418   svm_msg_q_add_and_unlock (app_mq, msg);
419 }
420
421 static void
422 mq_send_session_migrate_cb (session_t * s, session_handle_t new_sh)
423 {
424   svm_msg_q_msg_t _msg, *msg = &_msg;
425   session_migrated_msg_t m = { 0 };
426   fifo_segment_t *eq_seg;
427   app_worker_t *app_wrk;
428   session_event_t *evt;
429   svm_msg_q_t *app_mq;
430   application_t *app;
431   u32 thread_index;
432
433   thread_index = session_thread_from_handle (new_sh);
434   app_wrk = app_worker_get (s->app_wrk_index);
435   app_mq = app_wrk->event_queue;
436   app = application_get (app_wrk->app_index);
437   eq_seg = application_get_rx_mqs_segment (app);
438
439   m.handle = session_handle (s);
440   m.new_handle = new_sh;
441   m.vpp_thread_index = thread_index;
442   m.vpp_evt_q = fifo_segment_msg_q_offset (eq_seg, thread_index);
443   m.segment_handle = SESSION_INVALID_HANDLE;
444
445   if (mq_try_lock_and_alloc_msg (app_mq, msg))
446     return;
447
448   evt = svm_msg_q_msg_data (app_mq, msg);
449   clib_memset (evt, 0, sizeof (*evt));
450   evt->event_type = SESSION_CTRL_EVT_MIGRATED;
451   clib_memcpy_fast (evt->data, &m, sizeof (m));
452
453   svm_msg_q_add_and_unlock (app_mq, msg);
454 }
455
456 static int
457 mq_send_add_segment_cb (u32 app_wrk_index, u64 segment_handle)
458 {
459   int fds[SESSION_N_FD_TYPE], n_fds = 0;
460   svm_msg_q_msg_t _msg, *msg = &_msg;
461   session_app_add_segment_msg_t *mp;
462   vl_api_registration_t *reg;
463   app_worker_t *app_wrk;
464   session_event_t *evt;
465   svm_msg_q_t *app_mq;
466   fifo_segment_t *fs;
467   ssvm_private_t *sp;
468   u8 fd_flags = 0;
469
470   app_wrk = app_worker_get (app_wrk_index);
471
472   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
473   if (!reg)
474     {
475       clib_warning ("no api registration for client: %u",
476                     app_wrk->api_client_index);
477       return -1;
478     }
479
480   fs = segment_manager_get_segment_w_handle (segment_handle);
481   sp = &fs->ssvm;
482   if (ssvm_type (sp) == SSVM_SEGMENT_MEMFD)
483     {
484       if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
485         {
486           clib_warning ("can't send memfd fd");
487           return -1;
488         }
489
490       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
491       fds[n_fds] = sp->fd;
492       n_fds += 1;
493     }
494
495   app_mq = app_wrk->event_queue;
496   if (mq_try_lock_and_alloc_msg (app_mq, msg))
497     return -1;
498
499   if (n_fds)
500     session_send_fds (reg, fds, n_fds);
501
502   evt = svm_msg_q_msg_data (app_mq, msg);
503   clib_memset (evt, 0, sizeof (*evt));
504   evt->event_type = SESSION_CTRL_EVT_APP_ADD_SEGMENT;
505   mp = (session_app_add_segment_msg_t *) evt->data;
506   clib_memset (mp, 0, sizeof (*mp));
507   mp->segment_size = sp->ssvm_size;
508   mp->fd_flags = fd_flags;
509   mp->segment_handle = segment_handle;
510   strncpy ((char *) mp->segment_name, (char *) sp->name,
511            sizeof (mp->segment_name) - 1);
512
513   svm_msg_q_add_and_unlock (app_mq, msg);
514
515   return 0;
516 }
517
518 static int
519 mq_send_del_segment_cb (u32 app_wrk_index, u64 segment_handle)
520 {
521   svm_msg_q_msg_t _msg, *msg = &_msg;
522   session_app_del_segment_msg_t *mp;
523   vl_api_registration_t *reg;
524   app_worker_t *app_wrk;
525   session_event_t *evt;
526   svm_msg_q_t *app_mq;
527
528   app_wrk = app_worker_get (app_wrk_index);
529   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
530   if (!reg)
531     {
532       clib_warning ("no registration: %u", app_wrk->api_client_index);
533       return -1;
534     }
535
536   app_mq = app_wrk->event_queue;
537   if (mq_try_lock_and_alloc_msg (app_mq, msg))
538     return -1;
539
540   evt = svm_msg_q_msg_data (app_mq, msg);
541   clib_memset (evt, 0, sizeof (*evt));
542   evt->event_type = SESSION_CTRL_EVT_APP_DEL_SEGMENT;
543   mp = (session_app_del_segment_msg_t *) evt->data;
544   clib_memset (mp, 0, sizeof (*mp));
545   mp->segment_handle = segment_handle;
546   svm_msg_q_add_and_unlock (app_mq, msg);
547
548   return 0;
549 }
550
551 static void
552 mq_send_session_cleanup_cb (session_t * s, session_cleanup_ntf_t ntf)
553 {
554   svm_msg_q_msg_t _msg, *msg = &_msg;
555   session_cleanup_msg_t *mp;
556   svm_msg_q_t *app_mq;
557   session_event_t *evt;
558   app_worker_t *app_wrk;
559
560   /* Propagate transport cleanup notifications only if app didn't close */
561   if (ntf == SESSION_CLEANUP_TRANSPORT
562       && s->session_state != SESSION_STATE_TRANSPORT_DELETED)
563     return;
564
565   app_wrk = app_worker_get_if_valid (s->app_wrk_index);
566   if (!app_wrk)
567     return;
568
569   app_mq = app_wrk->event_queue;
570   if (mq_try_lock_and_alloc_msg (app_mq, msg))
571     return;
572
573   evt = svm_msg_q_msg_data (app_mq, msg);
574   clib_memset (evt, 0, sizeof (*evt));
575   evt->event_type = SESSION_CTRL_EVT_CLEANUP;
576   mp = (session_cleanup_msg_t *) evt->data;
577   mp->handle = session_handle (s);
578   mp->type = ntf;
579   svm_msg_q_add_and_unlock (app_mq, msg);
580 }
581
582 static session_cb_vft_t session_mq_cb_vft = {
583   .session_accept_callback = mq_send_session_accepted_cb,
584   .session_disconnect_callback = mq_send_session_disconnected_cb,
585   .session_connected_callback = mq_send_session_connected_cb,
586   .session_reset_callback = mq_send_session_reset_cb,
587   .session_migrate_callback = mq_send_session_migrate_cb,
588   .session_cleanup_callback = mq_send_session_cleanup_cb,
589   .add_segment_callback = mq_send_add_segment_cb,
590   .del_segment_callback = mq_send_del_segment_cb,
591 };
592
593 static void
594 vl_api_session_enable_disable_t_handler (vl_api_session_enable_disable_t * mp)
595 {
596   vl_api_session_enable_disable_reply_t *rmp;
597   vlib_main_t *vm = vlib_get_main ();
598   int rv = 0;
599
600   vnet_session_enable_disable (vm, mp->is_enable);
601   REPLY_MACRO (VL_API_SESSION_ENABLE_DISABLE_REPLY);
602 }
603
604 static void
605 vl_api_app_attach_t_handler (vl_api_app_attach_t * mp)
606 {
607   int rv = 0, *fds = 0, n_fds = 0, n_workers, i;
608   fifo_segment_t *segp, *rx_mqs_seg = 0;
609   vnet_app_attach_args_t _a, *a = &_a;
610   vl_api_app_attach_reply_t *rmp;
611   u8 fd_flags = 0, ctrl_thread;
612   vl_api_registration_t *reg;
613   svm_msg_q_t *rx_mq;
614   application_t *app;
615
616   reg = vl_api_client_index_to_registration (mp->client_index);
617   if (!reg)
618     return;
619
620   n_workers = vlib_num_workers ();
621   if (!session_main_is_enabled () || appns_sapi_enabled ())
622     {
623       rv = VNET_API_ERROR_FEATURE_DISABLED;
624       goto done;
625     }
626   /* Only support binary api with socket transport */
627   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
628     {
629       rv = VNET_API_ERROR_APP_UNSUPPORTED_CFG;
630       goto done;
631     }
632
633   STATIC_ASSERT (sizeof (u64) * APP_OPTIONS_N_OPTIONS <=
634                  sizeof (mp->options),
635                  "Out of options, fix api message definition");
636
637   clib_memset (a, 0, sizeof (*a));
638   a->api_client_index = mp->client_index;
639   a->options = mp->options;
640   a->session_cb_vft = &session_mq_cb_vft;
641   a->namespace_id = vl_api_from_api_to_new_vec (mp, &mp->namespace_id);
642
643   if ((rv = vnet_application_attach (a)))
644     {
645       clib_warning ("attach returned: %d", rv);
646       vec_free (a->namespace_id);
647       goto done;
648     }
649   vec_free (a->namespace_id);
650
651   vec_validate (fds, 3 /* segs + tx evtfd */ + n_workers);
652
653   /* Send rx mqs segment */
654   app = application_get (a->app_index);
655   rx_mqs_seg = application_get_rx_mqs_segment (app);
656
657   fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
658   fds[n_fds] = rx_mqs_seg->ssvm.fd;
659   n_fds += 1;
660
661   /* Send fifo segment fd if needed */
662   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
663     {
664       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
665       fds[n_fds] = a->segment->fd;
666       n_fds += 1;
667     }
668   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
669     {
670       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
671       fds[n_fds] = svm_msg_q_get_eventfd (a->app_evt_q);
672       n_fds += 1;
673     }
674
675   if (application_use_private_rx_mqs ())
676     {
677       fd_flags |= SESSION_FD_F_VPP_MQ_EVENTFD;
678       for (i = 0; i < n_workers + 1; i++)
679         {
680           rx_mq = application_rx_mq_get (app, i);
681           fds[n_fds] = svm_msg_q_get_eventfd (rx_mq);
682           n_fds += 1;
683         }
684     }
685
686 done:
687   /* *INDENT-OFF* */
688   REPLY_MACRO2 (VL_API_APP_ATTACH_REPLY, ({
689     if (!rv)
690       {
691         ctrl_thread = n_workers ? 1 : 0;
692         segp = (fifo_segment_t *) a->segment;
693         rmp->app_index = clib_host_to_net_u32 (a->app_index);
694         rmp->app_mq = fifo_segment_msg_q_offset (segp, 0);
695         rmp->vpp_ctrl_mq = fifo_segment_msg_q_offset (rx_mqs_seg, ctrl_thread);
696         rmp->vpp_ctrl_mq_thread = ctrl_thread;
697         rmp->n_fds = n_fds;
698         rmp->fd_flags = fd_flags;
699         if (vec_len (segp->ssvm.name))
700           {
701             vl_api_vec_to_api_string (segp->ssvm.name, &rmp->segment_name);
702           }
703         rmp->segment_size = segp->ssvm.ssvm_size;
704         rmp->segment_handle = clib_host_to_net_u64 (a->segment_handle);
705       }
706   }));
707   /* *INDENT-ON* */
708
709   if (n_fds)
710     session_send_fds (reg, fds, n_fds);
711   vec_free (fds);
712 }
713
714 static void
715 vl_api_app_worker_add_del_t_handler (vl_api_app_worker_add_del_t * mp)
716 {
717   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
718   vl_api_app_worker_add_del_reply_t *rmp;
719   vl_api_registration_t *reg;
720   application_t *app;
721   u8 fd_flags = 0;
722
723   if (!session_main_is_enabled () || appns_sapi_enabled ())
724     {
725       rv = VNET_API_ERROR_FEATURE_DISABLED;
726       goto done;
727     }
728
729   reg = vl_api_client_index_to_registration (mp->client_index);
730   if (!reg)
731     return;
732
733   app = application_get_if_valid (clib_net_to_host_u32 (mp->app_index));
734   if (!app)
735     {
736       rv = VNET_API_ERROR_INVALID_VALUE;
737       goto done;
738     }
739
740   vnet_app_worker_add_del_args_t args = {
741     .app_index = app->app_index,
742     .wrk_map_index = clib_net_to_host_u32 (mp->wrk_index),
743     .api_client_index = mp->client_index,
744     .is_add = mp->is_add
745   };
746   rv = vnet_app_worker_add_del (&args);
747   if (rv)
748     {
749       clib_warning ("app worker add/del returned: %d", rv);
750       goto done;
751     }
752
753   if (!mp->is_add)
754     goto done;
755
756   /* Send fifo segment fd if needed */
757   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
758     {
759       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
760       fds[n_fds] = args.segment->fd;
761       n_fds += 1;
762     }
763   if (application_segment_manager_properties (app)->use_mq_eventfd)
764     {
765       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
766       fds[n_fds] = svm_msg_q_get_eventfd (args.evt_q);
767       n_fds += 1;
768     }
769
770   /* *INDENT-OFF* */
771 done:
772   REPLY_MACRO2 (VL_API_APP_WORKER_ADD_DEL_REPLY, ({
773     rmp->is_add = mp->is_add;
774     rmp->wrk_index = clib_host_to_net_u32 (args.wrk_map_index);
775     rmp->segment_handle = clib_host_to_net_u64 (args.segment_handle);
776     if (!rv && mp->is_add)
777       {
778         rmp->app_event_queue_address =
779           fifo_segment_msg_q_offset ((fifo_segment_t *) args.segment, 0);
780         rmp->n_fds = n_fds;
781         rmp->fd_flags = fd_flags;
782         if (vec_len (args.segment->name))
783           {
784             vl_api_vec_to_api_string (args.segment->name, &rmp->segment_name);
785           }
786       }
787   }));
788   /* *INDENT-ON* */
789
790   if (n_fds)
791     session_send_fds (reg, fds, n_fds);
792 }
793
794 static void
795 vl_api_application_detach_t_handler (vl_api_application_detach_t * mp)
796 {
797   vl_api_application_detach_reply_t *rmp;
798   int rv = VNET_API_ERROR_INVALID_VALUE_2;
799   vnet_app_detach_args_t _a, *a = &_a;
800   application_t *app;
801
802   if (!session_main_is_enabled () || appns_sapi_enabled ())
803     {
804       rv = VNET_API_ERROR_FEATURE_DISABLED;
805       goto done;
806     }
807
808   app = application_lookup (mp->client_index);
809   if (app)
810     {
811       a->app_index = app->app_index;
812       a->api_client_index = mp->client_index;
813       rv = vnet_application_detach (a);
814     }
815
816 done:
817   REPLY_MACRO (VL_API_APPLICATION_DETACH_REPLY);
818 }
819
820 static void
821 vl_api_app_namespace_add_del_t_handler (vl_api_app_namespace_add_del_t * mp)
822 {
823   vl_api_app_namespace_add_del_reply_t *rmp;
824   u32 appns_index = 0;
825   u8 *ns_id = 0;
826   int rv = 0;
827   if (session_main_is_enabled () == 0)
828     {
829       rv = VNET_API_ERROR_FEATURE_DISABLED;
830       goto done;
831     }
832
833   ns_id = vl_api_from_api_to_new_vec (mp, &mp->namespace_id);
834
835   vnet_app_namespace_add_del_args_t args = {
836     .ns_id = ns_id,
837     .netns = 0,
838     .sock_name = 0,
839     .secret = clib_net_to_host_u64 (mp->secret),
840     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
841     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
842     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
843     .is_add = 1
844   };
845   rv = vnet_app_namespace_add_del (&args);
846   if (!rv)
847     {
848       appns_index = app_namespace_index_from_id (ns_id);
849       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
850         {
851           clib_warning ("app ns lookup failed");
852           rv = VNET_API_ERROR_UNSPECIFIED;
853         }
854     }
855   vec_free (ns_id);
856
857   /* *INDENT-OFF* */
858 done:
859   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_REPLY, ({
860     if (!rv)
861       rmp->appns_index = clib_host_to_net_u32 (appns_index);
862   }));
863   /* *INDENT-ON* */
864 }
865
866 static void
867 vl_api_app_namespace_add_del_v2_t_handler (
868   vl_api_app_namespace_add_del_v2_t *mp)
869 {
870   vl_api_app_namespace_add_del_v2_reply_t *rmp;
871   u8 *ns_id = 0, *netns = 0;
872   u32 appns_index = 0;
873   int rv = 0;
874
875   if (session_main_is_enabled () == 0)
876     {
877       rv = VNET_API_ERROR_FEATURE_DISABLED;
878       goto done;
879     }
880
881   mp->namespace_id[sizeof (mp->namespace_id) - 1] = 0;
882   mp->netns[sizeof (mp->netns) - 1] = 0;
883   ns_id = format (0, "%s", &mp->namespace_id);
884   netns = format (0, "%s", &mp->netns);
885
886   vnet_app_namespace_add_del_args_t args = {
887     .ns_id = ns_id,
888     .netns = netns,
889     .sock_name = 0,
890     .secret = clib_net_to_host_u64 (mp->secret),
891     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
892     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
893     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
894     .is_add = 1
895   };
896   rv = vnet_app_namespace_add_del (&args);
897   if (!rv)
898     {
899       appns_index = app_namespace_index_from_id (ns_id);
900       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
901         {
902           clib_warning ("app ns lookup failed id:%s", ns_id);
903           rv = VNET_API_ERROR_UNSPECIFIED;
904         }
905     }
906   vec_free (ns_id);
907   vec_free (netns);
908
909 done:
910   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_V2_REPLY, ({
911                   if (!rv)
912                     rmp->appns_index = clib_host_to_net_u32 (appns_index);
913                 }));
914 }
915
916 static void
917 vl_api_app_namespace_add_del_v3_t_handler (
918   vl_api_app_namespace_add_del_v3_t *mp)
919 {
920   vl_api_app_namespace_add_del_v3_reply_t *rmp;
921   u8 *ns_id = 0, *netns = 0, *sock_name = 0;
922   u32 appns_index = 0;
923   int rv = 0;
924   if (session_main_is_enabled () == 0)
925     {
926       rv = VNET_API_ERROR_FEATURE_DISABLED;
927       goto done;
928     }
929   mp->namespace_id[sizeof (mp->namespace_id) - 1] = 0;
930   mp->netns[sizeof (mp->netns) - 1] = 0;
931   ns_id = format (0, "%s", &mp->namespace_id);
932   netns = format (0, "%s", &mp->netns);
933   sock_name = format (0, "%s", &mp->sock_name);
934   vnet_app_namespace_add_del_args_t args = {
935     .ns_id = ns_id,
936     .netns = netns,
937     .sock_name = sock_name,
938     .secret = clib_net_to_host_u64 (mp->secret),
939     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
940     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
941     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
942     .is_add = mp->is_add,
943   };
944   rv = vnet_app_namespace_add_del (&args);
945   if (!rv && mp->is_add)
946     {
947       appns_index = app_namespace_index_from_id (ns_id);
948       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
949         {
950           clib_warning ("app ns lookup failed id:%s", ns_id);
951           rv = VNET_API_ERROR_UNSPECIFIED;
952         }
953     }
954   vec_free (ns_id);
955   vec_free (netns);
956   vec_free (sock_name);
957 done:
958   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_V3_REPLY, ({
959                   if (!rv)
960                     rmp->appns_index = clib_host_to_net_u32 (appns_index);
961                 }));
962 }
963
964 static void
965 vl_api_session_rule_add_del_t_handler (vl_api_session_rule_add_del_t * mp)
966 {
967   vl_api_session_rule_add_del_reply_t *rmp;
968   session_rule_add_del_args_t args;
969   session_rule_table_add_del_args_t *table_args = &args.table_args;
970   int rv = 0;
971
972   clib_memset (&args, 0, sizeof (args));
973
974   ip_prefix_decode (&mp->lcl, &table_args->lcl);
975   ip_prefix_decode (&mp->rmt, &table_args->rmt);
976
977   table_args->lcl_port = mp->lcl_port;
978   table_args->rmt_port = mp->rmt_port;
979   table_args->action_index = clib_net_to_host_u32 (mp->action_index);
980   table_args->is_add = mp->is_add;
981   mp->tag[sizeof (mp->tag) - 1] = 0;
982   table_args->tag = format (0, "%s", mp->tag);
983   args.appns_index = clib_net_to_host_u32 (mp->appns_index);
984   args.scope = mp->scope;
985   args.transport_proto =
986     api_session_transport_proto_decode (&mp->transport_proto) ==
987     TRANSPORT_PROTO_UDP ? 1 : 0;
988
989   rv = vnet_session_rule_add_del (&args);
990   if (rv)
991     clib_warning ("rule add del returned: %d", rv);
992   vec_free (table_args->tag);
993   REPLY_MACRO (VL_API_SESSION_RULE_ADD_DEL_REPLY);
994 }
995
996 static void
997 send_session_rule_details4 (mma_rule_16_t * rule, u8 is_local,
998                             u8 transport_proto, u32 appns_index, u8 * tag,
999                             vl_api_registration_t * reg, u32 context)
1000 {
1001   vl_api_session_rules_details_t *rmp = 0;
1002   session_mask_or_match_4_t *match =
1003     (session_mask_or_match_4_t *) & rule->match;
1004   session_mask_or_match_4_t *mask =
1005     (session_mask_or_match_4_t *) & rule->mask;
1006   fib_prefix_t lcl, rmt;
1007
1008   rmp = vl_msg_api_alloc (sizeof (*rmp));
1009   clib_memset (rmp, 0, sizeof (*rmp));
1010   rmp->_vl_msg_id = ntohs (REPLY_MSG_ID_BASE + VL_API_SESSION_RULES_DETAILS);
1011   rmp->context = context;
1012
1013   clib_memset (&lcl, 0, sizeof (lcl));
1014   clib_memset (&rmt, 0, sizeof (rmt));
1015   ip_set (&lcl.fp_addr, &match->lcl_ip, 1);
1016   ip_set (&rmt.fp_addr, &match->rmt_ip, 1);
1017   lcl.fp_len = ip4_mask_to_preflen (&mask->lcl_ip);
1018   rmt.fp_len = ip4_mask_to_preflen (&mask->rmt_ip);
1019
1020   ip_prefix_encode (&lcl, &rmp->lcl);
1021   ip_prefix_encode (&rmt, &rmp->rmt);
1022   rmp->lcl_port = match->lcl_port;
1023   rmp->rmt_port = match->rmt_port;
1024   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1025   rmp->scope =
1026     is_local ? SESSION_RULE_SCOPE_API_LOCAL : SESSION_RULE_SCOPE_API_GLOBAL;
1027   rmp->transport_proto = api_session_transport_proto_encode (transport_proto);
1028   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1029   if (tag)
1030     {
1031       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1032       rmp->tag[vec_len (tag)] = 0;
1033     }
1034
1035   vl_api_send_msg (reg, (u8 *) rmp);
1036 }
1037
1038 static void
1039 send_session_rule_details6 (mma_rule_40_t * rule, u8 is_local,
1040                             u8 transport_proto, u32 appns_index, u8 * tag,
1041                             vl_api_registration_t * reg, u32 context)
1042 {
1043   vl_api_session_rules_details_t *rmp = 0;
1044   session_mask_or_match_6_t *match =
1045     (session_mask_or_match_6_t *) & rule->match;
1046   session_mask_or_match_6_t *mask =
1047     (session_mask_or_match_6_t *) & rule->mask;
1048   fib_prefix_t lcl, rmt;
1049
1050   rmp = vl_msg_api_alloc (sizeof (*rmp));
1051   clib_memset (rmp, 0, sizeof (*rmp));
1052   rmp->_vl_msg_id = ntohs (REPLY_MSG_ID_BASE + VL_API_SESSION_RULES_DETAILS);
1053   rmp->context = context;
1054
1055   clib_memset (&lcl, 0, sizeof (lcl));
1056   clib_memset (&rmt, 0, sizeof (rmt));
1057   ip_set (&lcl.fp_addr, &match->lcl_ip, 0);
1058   ip_set (&rmt.fp_addr, &match->rmt_ip, 0);
1059   lcl.fp_len = ip6_mask_to_preflen (&mask->lcl_ip);
1060   rmt.fp_len = ip6_mask_to_preflen (&mask->rmt_ip);
1061
1062   ip_prefix_encode (&lcl, &rmp->lcl);
1063   ip_prefix_encode (&rmt, &rmp->rmt);
1064   rmp->lcl_port = match->lcl_port;
1065   rmp->rmt_port = match->rmt_port;
1066   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1067   rmp->scope =
1068     is_local ? SESSION_RULE_SCOPE_API_LOCAL : SESSION_RULE_SCOPE_API_GLOBAL;
1069   rmp->transport_proto = api_session_transport_proto_encode (transport_proto);
1070   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1071   if (tag)
1072     {
1073       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1074       rmp->tag[vec_len (tag)] = 0;
1075     }
1076
1077   vl_api_send_msg (reg, (u8 *) rmp);
1078 }
1079
1080 static void
1081 send_session_rules_table_details (session_rules_table_t * srt, u8 fib_proto,
1082                                   u8 tp, u8 is_local, u32 appns_index,
1083                                   vl_api_registration_t * reg, u32 context)
1084 {
1085   mma_rule_16_t *rule16;
1086   mma_rule_40_t *rule40;
1087   mma_rules_table_16_t *srt16;
1088   mma_rules_table_40_t *srt40;
1089   u32 ri;
1090
1091   if (is_local || fib_proto == FIB_PROTOCOL_IP4)
1092     {
1093       u8 *tag = 0;
1094       /* *INDENT-OFF* */
1095       srt16 = &srt->session_rules_tables_16;
1096       pool_foreach (rule16, srt16->rules)  {
1097         ri = mma_rules_table_rule_index_16 (srt16, rule16);
1098         tag = session_rules_table_rule_tag (srt, ri, 1);
1099         send_session_rule_details4 (rule16, is_local, tp, appns_index, tag,
1100                                     reg, context);
1101       }
1102       /* *INDENT-ON* */
1103     }
1104   if (is_local || fib_proto == FIB_PROTOCOL_IP6)
1105     {
1106       u8 *tag = 0;
1107       /* *INDENT-OFF* */
1108       srt40 = &srt->session_rules_tables_40;
1109       pool_foreach (rule40, srt40->rules)  {
1110         ri = mma_rules_table_rule_index_40 (srt40, rule40);
1111         tag = session_rules_table_rule_tag (srt, ri, 1);
1112         send_session_rule_details6 (rule40, is_local, tp, appns_index, tag,
1113                                     reg, context);
1114       }
1115       /* *INDENT-ON* */
1116     }
1117 }
1118
1119 static void
1120 vl_api_session_rules_dump_t_handler (vl_api_session_rules_dump_t * mp)
1121 {
1122   vl_api_registration_t *reg;
1123   session_table_t *st;
1124   u8 tp;
1125
1126   reg = vl_api_client_index_to_registration (mp->client_index);
1127   if (!reg)
1128     return;
1129
1130   /* *INDENT-OFF* */
1131   session_table_foreach (st, ({
1132     for (tp = 0; tp < TRANSPORT_N_PROTOS; tp++)
1133       {
1134         send_session_rules_table_details (&st->session_rules[tp],
1135                                           st->active_fib_proto, tp,
1136                                           st->is_local, st->appns_index, reg,
1137                                           mp->context);
1138       }
1139   }));
1140   /* *INDENT-ON* */
1141 }
1142
1143 static void
1144 vl_api_app_add_cert_key_pair_t_handler (vl_api_app_add_cert_key_pair_t * mp)
1145 {
1146   vl_api_app_add_cert_key_pair_reply_t *rmp;
1147   vnet_app_add_cert_key_pair_args_t _a, *a = &_a;
1148   u32 certkey_len, key_len, cert_len;
1149   int rv = 0;
1150   if (session_main_is_enabled () == 0)
1151     {
1152       rv = VNET_API_ERROR_FEATURE_DISABLED;
1153       goto done;
1154     }
1155
1156   cert_len = clib_net_to_host_u16 (mp->cert_len);
1157   if (cert_len > 10000)
1158     {
1159       rv = VNET_API_ERROR_INVALID_VALUE;
1160       goto done;
1161     }
1162
1163   certkey_len = clib_net_to_host_u16 (mp->certkey_len);
1164   if (certkey_len < cert_len)
1165     {
1166       rv = VNET_API_ERROR_INVALID_VALUE;
1167       goto done;
1168     }
1169
1170   key_len = certkey_len - cert_len;
1171   if (key_len > 10000)
1172     {
1173       rv = VNET_API_ERROR_INVALID_VALUE;
1174       goto done;
1175     }
1176
1177   clib_memset (a, 0, sizeof (*a));
1178   a->cert = mp->certkey;
1179   a->key = mp->certkey + cert_len;
1180   a->cert_len = cert_len;
1181   a->key_len = key_len;
1182   rv = vnet_app_add_cert_key_pair (a);
1183
1184 done:
1185   /* *INDENT-OFF* */
1186   REPLY_MACRO2 (VL_API_APP_ADD_CERT_KEY_PAIR_REPLY, ({
1187     if (!rv)
1188       rmp->index = clib_host_to_net_u32 (a->index);
1189   }));
1190   /* *INDENT-ON* */
1191 }
1192
1193 static void
1194 vl_api_app_del_cert_key_pair_t_handler (vl_api_app_del_cert_key_pair_t * mp)
1195 {
1196   vl_api_app_del_cert_key_pair_reply_t *rmp;
1197   u32 ckpair_index;
1198   int rv = 0;
1199   if (session_main_is_enabled () == 0)
1200     {
1201       rv = VNET_API_ERROR_FEATURE_DISABLED;
1202       goto done;
1203     }
1204   ckpair_index = clib_net_to_host_u32 (mp->index);
1205   rv = vnet_app_del_cert_key_pair (ckpair_index);
1206
1207 done:
1208   REPLY_MACRO (VL_API_APP_DEL_CERT_KEY_PAIR_REPLY);
1209 }
1210
1211 static clib_error_t *
1212 application_reaper_cb (u32 client_index)
1213 {
1214   application_t *app = application_lookup (client_index);
1215   vnet_app_detach_args_t _a, *a = &_a;
1216   if (app)
1217     {
1218       a->app_index = app->app_index;
1219       a->api_client_index = client_index;
1220       vnet_application_detach (a);
1221     }
1222   return 0;
1223 }
1224
1225 VL_MSG_API_REAPER_FUNCTION (application_reaper_cb);
1226
1227 /*
1228  * Socket api functions
1229  */
1230
1231 static void
1232 sapi_send_fds (app_worker_t * app_wrk, int *fds, int n_fds)
1233 {
1234   app_sapi_msg_t smsg = { 0 };
1235   app_namespace_t *app_ns;
1236   application_t *app;
1237   clib_socket_t *cs;
1238   u32 cs_index;
1239
1240   app = application_get (app_wrk->app_index);
1241   app_ns = app_namespace_get (app->ns_index);
1242   cs_index = appns_sapi_handle_sock_index (app_wrk->api_client_index);
1243   cs = appns_sapi_get_socket (app_ns, cs_index);
1244   if (PREDICT_FALSE (!cs))
1245     return;
1246
1247   /* There's no payload for the message only the type */
1248   smsg.type = APP_SAPI_MSG_TYPE_SEND_FDS;
1249   clib_socket_sendmsg (cs, &smsg, sizeof (smsg), fds, n_fds);
1250 }
1251
1252 static int
1253 mq_send_add_segment_sapi_cb (u32 app_wrk_index, u64 segment_handle)
1254 {
1255   int fds[SESSION_N_FD_TYPE], n_fds = 0;
1256   svm_msg_q_msg_t _msg, *msg = &_msg;
1257   session_app_add_segment_msg_t *mp;
1258   app_worker_t *app_wrk;
1259   session_event_t *evt;
1260   svm_msg_q_t *app_mq;
1261   fifo_segment_t *fs;
1262   ssvm_private_t *sp;
1263   u8 fd_flags = 0;
1264
1265   app_wrk = app_worker_get (app_wrk_index);
1266
1267   fs = segment_manager_get_segment_w_handle (segment_handle);
1268   sp = &fs->ssvm;
1269   ASSERT (ssvm_type (sp) == SSVM_SEGMENT_MEMFD);
1270
1271   fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1272   fds[n_fds] = sp->fd;
1273   n_fds += 1;
1274
1275   app_mq = app_wrk->event_queue;
1276   if (mq_try_lock_and_alloc_msg (app_mq, msg))
1277     return -1;
1278
1279   /*
1280    * Send the fd over api socket
1281    */
1282   sapi_send_fds (app_wrk, fds, n_fds);
1283
1284   /*
1285    * Send the actual message over mq
1286    */
1287   evt = svm_msg_q_msg_data (app_mq, msg);
1288   clib_memset (evt, 0, sizeof (*evt));
1289   evt->event_type = SESSION_CTRL_EVT_APP_ADD_SEGMENT;
1290   mp = (session_app_add_segment_msg_t *) evt->data;
1291   clib_memset (mp, 0, sizeof (*mp));
1292   mp->segment_size = sp->ssvm_size;
1293   mp->fd_flags = fd_flags;
1294   mp->segment_handle = segment_handle;
1295   strncpy ((char *) mp->segment_name, (char *) sp->name,
1296            sizeof (mp->segment_name) - 1);
1297
1298   svm_msg_q_add_and_unlock (app_mq, msg);
1299
1300   return 0;
1301 }
1302
1303 static int
1304 mq_send_del_segment_sapi_cb (u32 app_wrk_index, u64 segment_handle)
1305 {
1306   svm_msg_q_msg_t _msg, *msg = &_msg;
1307   session_app_del_segment_msg_t *mp;
1308   app_worker_t *app_wrk;
1309   session_event_t *evt;
1310   svm_msg_q_t *app_mq;
1311
1312   app_wrk = app_worker_get (app_wrk_index);
1313
1314   app_mq = app_wrk->event_queue;
1315   if (mq_try_lock_and_alloc_msg (app_mq, msg))
1316     return -1;
1317
1318   evt = svm_msg_q_msg_data (app_mq, msg);
1319   clib_memset (evt, 0, sizeof (*evt));
1320   evt->event_type = SESSION_CTRL_EVT_APP_DEL_SEGMENT;
1321   mp = (session_app_del_segment_msg_t *) evt->data;
1322   clib_memset (mp, 0, sizeof (*mp));
1323   mp->segment_handle = segment_handle;
1324   svm_msg_q_add_and_unlock (app_mq, msg);
1325
1326   return 0;
1327 }
1328
1329 static session_cb_vft_t session_mq_sapi_cb_vft = {
1330   .session_accept_callback = mq_send_session_accepted_cb,
1331   .session_disconnect_callback = mq_send_session_disconnected_cb,
1332   .session_connected_callback = mq_send_session_connected_cb,
1333   .session_reset_callback = mq_send_session_reset_cb,
1334   .session_migrate_callback = mq_send_session_migrate_cb,
1335   .session_cleanup_callback = mq_send_session_cleanup_cb,
1336   .add_segment_callback = mq_send_add_segment_sapi_cb,
1337   .del_segment_callback = mq_send_del_segment_sapi_cb,
1338 };
1339
1340 static void
1341 session_api_attach_handler (app_namespace_t * app_ns, clib_socket_t * cs,
1342                             app_sapi_attach_msg_t * mp)
1343 {
1344   int rv = 0, *fds = 0, n_fds = 0, i, n_workers;
1345   vnet_app_attach_args_t _a, *a = &_a;
1346   app_sapi_attach_reply_msg_t *rmp;
1347   u8 fd_flags = 0, ctrl_thread;
1348   app_ns_api_handle_t *handle;
1349   fifo_segment_t *rx_mqs_seg;
1350   app_sapi_msg_t msg = { 0 };
1351   app_worker_t *app_wrk;
1352   application_t *app;
1353   svm_msg_q_t *rx_mq;
1354
1355   /* Make sure name is null terminated */
1356   mp->name[63] = 0;
1357
1358   clib_memset (a, 0, sizeof (*a));
1359   a->api_client_index = appns_sapi_socket_handle (app_ns, cs);
1360   a->name = format (0, "%s", (char *) mp->name);
1361   a->options = mp->options;
1362   a->session_cb_vft = &session_mq_sapi_cb_vft;
1363   a->use_sock_api = 1;
1364   a->options[APP_OPTIONS_NAMESPACE] = app_namespace_index (app_ns);
1365
1366   if ((rv = vnet_application_attach (a)))
1367     {
1368       clib_warning ("attach returned: %d", rv);
1369       goto done;
1370     }
1371
1372   n_workers = vlib_num_workers ();
1373   vec_validate (fds, 3 /* segs + tx evtfd */ + n_workers);
1374
1375   /* Send event queues segment */
1376   app = application_get (a->app_index);
1377   rx_mqs_seg = application_get_rx_mqs_segment (app);
1378
1379   fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
1380   fds[n_fds] = rx_mqs_seg->ssvm.fd;
1381   n_fds += 1;
1382
1383   /* Send fifo segment fd if needed */
1384   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
1385     {
1386       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1387       fds[n_fds] = a->segment->fd;
1388       n_fds += 1;
1389     }
1390   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
1391     {
1392       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1393       fds[n_fds] = svm_msg_q_get_eventfd (a->app_evt_q);
1394       n_fds += 1;
1395     }
1396
1397   if (application_use_private_rx_mqs ())
1398     {
1399       fd_flags |= SESSION_FD_F_VPP_MQ_EVENTFD;
1400       for (i = 0; i < n_workers + 1; i++)
1401         {
1402           rx_mq = application_rx_mq_get (app, i);
1403           fds[n_fds] = svm_msg_q_get_eventfd (rx_mq);
1404           n_fds += 1;
1405         }
1406     }
1407
1408 done:
1409
1410   msg.type = APP_SAPI_MSG_TYPE_ATTACH_REPLY;
1411   rmp = &msg.attach_reply;
1412   rmp->retval = rv;
1413   if (!rv)
1414     {
1415       ctrl_thread = n_workers ? 1 : 0;
1416       rmp->app_index = a->app_index;
1417       rmp->app_mq =
1418         fifo_segment_msg_q_offset ((fifo_segment_t *) a->segment, 0);
1419       rmp->vpp_ctrl_mq = fifo_segment_msg_q_offset (rx_mqs_seg, ctrl_thread);
1420       rmp->vpp_ctrl_mq_thread = ctrl_thread;
1421       rmp->n_fds = n_fds;
1422       rmp->fd_flags = fd_flags;
1423       /* No segment name and size since we only support memfds
1424        * in this configuration */
1425       rmp->segment_handle = a->segment_handle;
1426       rmp->api_client_handle = a->api_client_index;
1427
1428       /* Update app index for socket */
1429       handle = (app_ns_api_handle_t *) & cs->private_data;
1430       app_wrk = application_get_worker (app, 0);
1431       handle->aah_app_wrk_index = app_wrk->wrk_index;
1432     }
1433
1434   clib_socket_sendmsg (cs, &msg, sizeof (msg), fds, n_fds);
1435   vec_free (a->name);
1436   vec_free (fds);
1437 }
1438
1439 void
1440 sapi_socket_close_w_handle (u32 api_handle)
1441 {
1442   app_namespace_t *app_ns = app_namespace_get (api_handle >> 16);
1443   u16 sock_index = api_handle & 0xffff;
1444   app_ns_api_handle_t *handle;
1445   clib_socket_t *cs;
1446   clib_file_t *cf;
1447
1448   cs = appns_sapi_get_socket (app_ns, sock_index);
1449   if (!cs)
1450     return;
1451
1452   handle = (app_ns_api_handle_t *) & cs->private_data;
1453   cf = clib_file_get (&file_main, handle->aah_file_index);
1454   clib_file_del (&file_main, cf);
1455
1456   clib_socket_close (cs);
1457   appns_sapi_free_socket (app_ns, cs);
1458 }
1459
1460 static void
1461 sapi_add_del_worker_handler (app_namespace_t * app_ns,
1462                              clib_socket_t * cs,
1463                              app_sapi_worker_add_del_msg_t * mp)
1464 {
1465   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
1466   app_sapi_worker_add_del_reply_msg_t *rmp;
1467   app_ns_api_handle_t *handle;
1468   app_sapi_msg_t msg = { 0 };
1469   app_worker_t *app_wrk;
1470   u32 sapi_handle = -1;
1471   application_t *app;
1472   u8 fd_flags = 0;
1473
1474   app = application_get_if_valid (mp->app_index);
1475   if (!app)
1476     {
1477       rv = VNET_API_ERROR_INVALID_VALUE;
1478       goto done;
1479     }
1480
1481   sapi_handle = appns_sapi_socket_handle (app_ns, cs);
1482
1483   vnet_app_worker_add_del_args_t args = {
1484     .app_index = app->app_index,
1485     .wrk_map_index = mp->wrk_index,
1486     .api_client_index = sapi_handle,
1487     .is_add = mp->is_add
1488   };
1489   rv = vnet_app_worker_add_del (&args);
1490   if (rv)
1491     {
1492       clib_warning ("app worker add/del returned: %d", rv);
1493       goto done;
1494     }
1495
1496   if (!mp->is_add)
1497     goto done;
1498
1499   /* Send fifo segment fd if needed */
1500   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
1501     {
1502       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1503       fds[n_fds] = args.segment->fd;
1504       n_fds += 1;
1505     }
1506   if (application_segment_manager_properties (app)->use_mq_eventfd)
1507     {
1508       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1509       fds[n_fds] = svm_msg_q_get_eventfd (args.evt_q);
1510       n_fds += 1;
1511     }
1512
1513 done:
1514
1515   msg.type = APP_SAPI_MSG_TYPE_ADD_DEL_WORKER_REPLY;
1516   rmp = &msg.worker_add_del_reply;
1517   rmp->retval = rv;
1518   rmp->is_add = mp->is_add;
1519   rmp->api_client_handle = sapi_handle;
1520   rmp->wrk_index = args.wrk_map_index;
1521   rmp->segment_handle = args.segment_handle;
1522   if (!rv && mp->is_add)
1523     {
1524       /* No segment name and size. This supports only memfds */
1525       rmp->app_event_queue_address =
1526         fifo_segment_msg_q_offset ((fifo_segment_t *) args.segment, 0);
1527       rmp->n_fds = n_fds;
1528       rmp->fd_flags = fd_flags;
1529
1530       /* Update app index for socket */
1531       handle = (app_ns_api_handle_t *) & cs->private_data;
1532       app_wrk = application_get_worker (app, args.wrk_map_index);
1533       handle->aah_app_wrk_index = app_wrk->wrk_index;
1534     }
1535
1536   clib_socket_sendmsg (cs, &msg, sizeof (msg), fds, n_fds);
1537 }
1538
1539 static void
1540 sapi_add_del_cert_key_handler (app_namespace_t *app_ns, clib_socket_t *cs,
1541                                app_sapi_cert_key_add_del_msg_t *mp)
1542 {
1543   vnet_app_add_cert_key_pair_args_t _a, *a = &_a;
1544   app_sapi_cert_key_add_del_reply_msg_t *rmp;
1545   app_sapi_msg_t msg = { 0 };
1546   int rv = 0;
1547
1548   if (mp->is_add)
1549     {
1550       const u32 max_certkey_len = 2e4, max_cert_len = 1e4, max_key_len = 1e4;
1551       clib_error_t *err;
1552       u8 *certkey = 0;
1553       u32 key_len;
1554
1555       if (mp->certkey_len > max_certkey_len)
1556         {
1557           rv = SESSION_E_INVALID;
1558           goto send_reply;
1559         }
1560
1561       vec_validate (certkey, mp->certkey_len - 1);
1562       err = clib_socket_recvmsg (cs, certkey, mp->certkey_len, 0, 0);
1563       if (err)
1564         {
1565           clib_error_report (err);
1566           clib_error_free (err);
1567           rv = SESSION_E_INVALID;
1568           goto send_reply;
1569         }
1570
1571       if (mp->cert_len > max_cert_len)
1572         {
1573           rv = SESSION_E_INVALID;
1574           goto send_reply;
1575         }
1576
1577       if (mp->certkey_len < mp->cert_len)
1578         {
1579           rv = SESSION_E_INVALID;
1580           goto send_reply;
1581         }
1582
1583       key_len = mp->certkey_len - mp->cert_len;
1584       if (key_len > max_key_len)
1585         {
1586           rv = SESSION_E_INVALID;
1587           goto send_reply;
1588         }
1589
1590       clib_memset (a, 0, sizeof (*a));
1591       a->cert = certkey;
1592       a->key = certkey + mp->cert_len;
1593       a->cert_len = mp->cert_len;
1594       a->key_len = key_len;
1595       rv = vnet_app_add_cert_key_pair (a);
1596
1597       vec_free (certkey);
1598     }
1599   else
1600     {
1601       rv = vnet_app_del_cert_key_pair (mp->index);
1602     }
1603
1604 send_reply:
1605
1606   msg.type = APP_SAPI_MSG_TYPE_ADD_DEL_CERT_KEY_REPLY;
1607   rmp = &msg.cert_key_add_del_reply;
1608   rmp->retval = rv;
1609   rmp->context = mp->context;
1610   if (!rv && mp->is_add)
1611     rmp->index = a->index;
1612
1613   clib_socket_sendmsg (cs, &msg, sizeof (msg), 0, 0);
1614 }
1615
1616 static void
1617 sapi_socket_detach (app_namespace_t * app_ns, clib_socket_t * cs)
1618 {
1619   app_ns_api_handle_t *handle;
1620   app_worker_t *app_wrk;
1621   u32 api_client_handle;
1622
1623   api_client_handle = appns_sapi_socket_handle (app_ns, cs);
1624
1625   /* Cleanup everything because app worker closed socket or crashed */
1626   handle = (app_ns_api_handle_t *) & cs->private_data;
1627   app_wrk = app_worker_get (handle->aah_app_wrk_index);
1628
1629   vnet_app_worker_add_del_args_t args = {
1630     .app_index = app_wrk->app_index,
1631     .wrk_map_index = app_wrk->wrk_map_index,
1632     .api_client_index = api_client_handle,
1633     .is_add = 0
1634   };
1635   /* Send rpc to main thread for worker barrier */
1636   vlib_rpc_call_main_thread (vnet_app_worker_add_del, (u8 *) & args,
1637                              sizeof (args));
1638 }
1639
1640 static clib_error_t *
1641 sapi_sock_read_ready (clib_file_t * cf)
1642 {
1643   app_ns_api_handle_t *handle = (app_ns_api_handle_t *) & cf->private_data;
1644   vlib_main_t *vm = vlib_get_main ();
1645   app_sapi_msg_t msg = { 0 };
1646   app_namespace_t *app_ns;
1647   clib_error_t *err = 0;
1648   clib_socket_t *cs;
1649
1650   app_ns = app_namespace_get (handle->aah_app_ns_index);
1651   cs = appns_sapi_get_socket (app_ns, handle->aah_sock_index);
1652   if (!cs)
1653     goto error;
1654
1655   err = clib_socket_recvmsg (cs, &msg, sizeof (msg), 0, 0);
1656   if (err)
1657     {
1658       clib_error_free (err);
1659       sapi_socket_detach (app_ns, cs);
1660       goto error;
1661     }
1662
1663   handle = (app_ns_api_handle_t *) & cs->private_data;
1664
1665   vlib_worker_thread_barrier_sync (vm);
1666
1667   switch (msg.type)
1668     {
1669     case APP_SAPI_MSG_TYPE_ATTACH:
1670       session_api_attach_handler (app_ns, cs, &msg.attach);
1671       break;
1672     case APP_SAPI_MSG_TYPE_ADD_DEL_WORKER:
1673       sapi_add_del_worker_handler (app_ns, cs, &msg.worker_add_del);
1674       break;
1675     case APP_SAPI_MSG_TYPE_ADD_DEL_CERT_KEY:
1676       sapi_add_del_cert_key_handler (app_ns, cs, &msg.cert_key_add_del);
1677       break;
1678     default:
1679       clib_warning ("app wrk %u unknown message type: %u",
1680                     handle->aah_app_wrk_index, msg.type);
1681       break;
1682     }
1683
1684   vlib_worker_thread_barrier_release (vm);
1685
1686 error:
1687   return 0;
1688 }
1689
1690 static clib_error_t *
1691 sapi_sock_write_ready (clib_file_t * cf)
1692 {
1693   app_ns_api_handle_t *handle = (app_ns_api_handle_t *) & cf->private_data;
1694   clib_warning ("called for app ns %u", handle->aah_app_ns_index);
1695   return 0;
1696 }
1697
1698 static clib_error_t *
1699 sapi_sock_error (clib_file_t * cf)
1700 {
1701   app_ns_api_handle_t *handle = (app_ns_api_handle_t *) & cf->private_data;
1702   app_namespace_t *app_ns;
1703   clib_socket_t *cs;
1704
1705   app_ns = app_namespace_get (handle->aah_app_ns_index);
1706   cs = appns_sapi_get_socket (app_ns, handle->aah_sock_index);
1707   if (!cs)
1708     return 0;
1709
1710   sapi_socket_detach (app_ns, cs);
1711   return 0;
1712 }
1713
1714 static clib_error_t *
1715 sapi_sock_accept_ready (clib_file_t * scf)
1716 {
1717   app_ns_api_handle_t handle = *(app_ns_api_handle_t *) & scf->private_data;
1718   app_namespace_t *app_ns;
1719   clib_file_t cf = { 0 };
1720   clib_error_t *err = 0;
1721   clib_socket_t *ccs, *scs;
1722
1723   /* Listener files point to namespace */
1724   app_ns = app_namespace_get (handle.aah_app_ns_index);
1725
1726   /*
1727    * Initialize client socket
1728    */
1729   ccs = appns_sapi_alloc_socket (app_ns);
1730
1731   /* Grab server socket after client is initialized  */
1732   scs = appns_sapi_get_socket (app_ns, handle.aah_sock_index);
1733   if (!scs)
1734     goto error;
1735
1736   err = clib_socket_accept (scs, ccs);
1737   if (err)
1738     {
1739       clib_error_report (err);
1740       goto error;
1741     }
1742
1743   cf.read_function = sapi_sock_read_ready;
1744   cf.write_function = sapi_sock_write_ready;
1745   cf.error_function = sapi_sock_error;
1746   cf.file_descriptor = ccs->fd;
1747   /* File points to app namespace and socket */
1748   handle.aah_sock_index = appns_sapi_socket_index (app_ns, ccs);
1749   cf.private_data = handle.as_u64;
1750   cf.description = format (0, "app sock conn fd: %d", ccs->fd);
1751
1752   /* Poll until we get an attach message. Socket points to file and
1753    * application that owns the socket */
1754   handle.aah_app_wrk_index = APP_INVALID_INDEX;
1755   handle.aah_file_index = clib_file_add (&file_main, &cf);
1756   ccs->private_data = handle.as_u64;
1757
1758   return err;
1759
1760 error:
1761   appns_sapi_free_socket (app_ns, ccs);
1762   return err;
1763 }
1764
1765 int
1766 appns_sapi_add_ns_socket (app_namespace_t * app_ns)
1767 {
1768   char *subdir = "/app_ns_sockets/";
1769   app_ns_api_handle_t *handle;
1770   clib_file_t cf = { 0 };
1771   struct stat file_stat;
1772   clib_error_t *err;
1773   clib_socket_t *cs;
1774   char dir[4096];
1775
1776   if (app_ns->netns)
1777     {
1778       if (!app_ns->sock_name)
1779         app_ns->sock_name = format (0, "@vpp/session/%v%c", app_ns->ns_id, 0);
1780       if (app_ns->sock_name[0] != '@')
1781         return VNET_API_ERROR_INVALID_VALUE;
1782     }
1783   else
1784     {
1785       snprintf (dir, sizeof (dir), "%s%s", vlib_unix_get_runtime_dir (),
1786                 subdir);
1787       err = vlib_unix_recursive_mkdir ((char *) dir);
1788       if (err)
1789         {
1790           clib_error_report (err);
1791           return VNET_API_ERROR_SYSCALL_ERROR_1;
1792         }
1793
1794       if (!app_ns->sock_name)
1795         app_ns->sock_name = format (0, "%s%v%c", dir, app_ns->ns_id, 0);
1796     }
1797
1798   /*
1799    * Create and initialize socket to listen on
1800    */
1801   cs = appns_sapi_alloc_socket (app_ns);
1802   cs->config = (char *) app_ns->sock_name;
1803   cs->flags = CLIB_SOCKET_F_IS_SERVER |
1804     CLIB_SOCKET_F_ALLOW_GROUP_WRITE |
1805     CLIB_SOCKET_F_SEQPACKET | CLIB_SOCKET_F_PASSCRED;
1806
1807   if ((err = clib_socket_init_netns (cs, app_ns->netns)))
1808     {
1809       clib_error_report (err);
1810       return -1;
1811     }
1812
1813   if (!app_ns->netns && stat ((char *) app_ns->sock_name, &file_stat) == -1)
1814     return -1;
1815
1816   /*
1817    * Start polling it
1818    */
1819   cf.read_function = sapi_sock_accept_ready;
1820   cf.file_descriptor = cs->fd;
1821   /* File points to namespace */
1822   handle = (app_ns_api_handle_t *) & cf.private_data;
1823   handle->aah_app_ns_index = app_namespace_index (app_ns);
1824   handle->aah_sock_index = appns_sapi_socket_index (app_ns, cs);
1825   cf.description = format (0, "app sock listener: %s", app_ns->sock_name);
1826
1827   /* Socket points to clib file index */
1828   handle = (app_ns_api_handle_t *) & cs->private_data;
1829   handle->aah_file_index = clib_file_add (&file_main, &cf);
1830   handle->aah_app_wrk_index = APP_INVALID_INDEX;
1831
1832   return 0;
1833 }
1834
1835 static void
1836 vl_api_application_tls_cert_add_t_handler (
1837   vl_api_application_tls_cert_add_t *mp)
1838 {
1839   /* deprecated */
1840 }
1841
1842 static void
1843 vl_api_application_tls_key_add_t_handler (vl_api_application_tls_key_add_t *mp)
1844 {
1845   /* deprecated */
1846 }
1847
1848 #include <vnet/session/session.api.c>
1849 static clib_error_t *
1850 session_api_hookup (vlib_main_t *vm)
1851 {
1852   /*
1853    * Set up the (msg_name, crc, message-id) table
1854    */
1855   REPLY_MSG_ID_BASE = setup_message_id_table ();
1856
1857   return 0;
1858 }
1859
1860 VLIB_API_INIT_FUNCTION (session_api_hookup);
1861
1862 /*
1863  * fd.io coding-style-patch-verification: ON
1864  *
1865  * Local Variables:
1866  * eval: (c-set-style "gnu")
1867  * End:
1868  */