src/vnet/session/session_api.c

   1 /*
   2  * Copyright (c) 2015-2019 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15
  16 #include <vnet/vnet.h>
  17 #include <vlibmemory/api.h>
  18 #include <vnet/session/application.h>
  19 #include <vnet/session/application_interface.h>
  20 #include <vnet/session/application_local.h>
  21 #include <vnet/session/session_rules_table.h>
  22 #include <vnet/session/session_table.h>
  23 #include <vnet/session/session.h>
  24 #include <vnet/ip/ip_types_api.h>
  25
  26 #include <vnet/format_fns.h>
  27 #include <vnet/session/session.api_enum.h>
  28 #include <vnet/session/session.api_types.h>
  29
  30 #define REPLY_MSG_ID_BASE session_main.msg_id_base
  31 #include <vlibapi/api_helper_macros.h>
  32
  33 static transport_proto_t
  34 api_session_transport_proto_decode (const vl_api_transport_proto_t * api_tp)
  35 {
  36   switch (*api_tp)
  37     {
  38     case TRANSPORT_PROTO_API_TCP:
  39       return TRANSPORT_PROTO_TCP;
  40     case TRANSPORT_PROTO_API_UDP:
  41       return TRANSPORT_PROTO_UDP;
  42     case TRANSPORT_PROTO_API_TLS:
  43       return TRANSPORT_PROTO_TLS;
  44     case TRANSPORT_PROTO_API_QUIC:
  45       return TRANSPORT_PROTO_QUIC;
  46     default:
  47       return TRANSPORT_PROTO_NONE;
  48     }
  49 }
  50
  51 static vl_api_transport_proto_t
  52 api_session_transport_proto_encode (const transport_proto_t tp)
  53 {
  54   switch (tp)
  55     {
  56     case TRANSPORT_PROTO_TCP:
  57       return TRANSPORT_PROTO_API_TCP;
  58     case TRANSPORT_PROTO_UDP:
  59       return TRANSPORT_PROTO_API_UDP;
  60     case TRANSPORT_PROTO_TLS:
  61       return TRANSPORT_PROTO_API_TLS;
  62     case TRANSPORT_PROTO_QUIC:
  63       return TRANSPORT_PROTO_API_QUIC;
  64     default:
  65       return TRANSPORT_PROTO_API_NONE;
  66     }
  67 }
  68
  69 static int
  70 session_send_fds (vl_api_registration_t * reg, int fds[], int n_fds)
  71 {
  72   clib_error_t *error;
  73   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
  74     return SESSION_E_BAPI_NO_FD;
  75   error = vl_api_send_fd_msg (reg, fds, n_fds);
  76   if (error)
  77     {
  78       clib_error_report (error);
  79       return SESSION_E_BAPI_SEND_FD;
  80     }
  81   return 0;
  82 }
  83
  84 static int
  85 mq_send_session_accepted_cb (session_t * s)
  86 {
  87   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
  88   session_accepted_msg_t m = { 0 };
  89   fifo_segment_t *eq_seg;
  90   session_t *listener;
  91   application_t *app;
  92
  93   app = application_get (app_wrk->app_index);
  94
  95   m.context = app->app_index;
  96   m.server_rx_fifo = fifo_segment_fifo_offset (s->rx_fifo);
  97   m.server_tx_fifo = fifo_segment_fifo_offset (s->tx_fifo);
  98   m.segment_handle = session_segment_handle (s);
  99   m.flags = s->flags;
 100
 101   eq_seg = application_get_rx_mqs_segment (app);
 102
 103   if (session_has_transport (s))
 104     {
 105       listener = listen_session_get_from_handle (s->listener_handle);
 106       m.listener_handle = app_listen_session_handle (listener);
 107       if (application_is_proxy (app))
 108         {
 109           listener =
 110             app_worker_first_listener (app_wrk, session_get_fib_proto (s),
 111                                        session_get_transport_proto (s));
 112           if (listener)
 113             m.listener_handle = listen_session_get_handle (listener);
 114         }
 115       m.vpp_event_queue_address =
 116         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
 117       m.mq_index = s->thread_index;
 118       m.handle = session_handle (s);
 119
 120       session_get_endpoint (s, &m.rmt, 0 /* is_lcl */);
 121       session_get_endpoint (s, &m.lcl, 1 /* is_lcl */);
 122     }
 123   else
 124     {
 125       ct_connection_t *ct;
 126
 127       ct = (ct_connection_t *) session_get_transport (s);
 128       listener = listen_session_get_from_handle (s->listener_handle);
 129       m.listener_handle = app_listen_session_handle (listener);
 130       m.rmt.is_ip4 = session_type_is_ip4 (listener->session_type);
 131       m.rmt.port = ct->c_rmt_port;
 132       m.lcl.port = ct->c_lcl_port;
 133       m.handle = session_handle (s);
 134       m.vpp_event_queue_address =
 135         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
 136       m.mq_index = s->thread_index;
 137     }
 138
 139   if (application_original_dst_is_enabled (app))
 140     {
 141       session_get_original_dst (&m.lcl, &m.rmt,
 142                                 session_get_transport_proto (s),
 143                                 &m.original_dst_ip4, &m.original_dst_port);
 144     }
 145
 146   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_ACCEPTED, &m, sizeof (m));
 147
 148   return 0;
 149 }
 150
 151 static inline void
 152 mq_send_session_close_evt (app_worker_t * app_wrk, session_handle_t sh,
 153                            session_evt_type_t evt_type)
 154 {
 155   session_disconnected_msg_t m = { 0 };
 156
 157   m.handle = sh;
 158   m.context = app_wrk->api_client_index;
 159
 160   app_wrk_send_ctrl_evt (app_wrk, evt_type, &m, sizeof (m));
 161 }
 162
 163 static inline void
 164 mq_notify_close_subscribers (u32 app_index, session_handle_t sh,
 165                              svm_fifo_t * f, session_evt_type_t evt_type)
 166 {
 167   app_worker_t *app_wrk;
 168   application_t *app;
 169   int i;
 170
 171   app = application_get (app_index);
 172   if (!app)
 173     return;
 174
 175   for (i = 0; i < f->shr->n_subscribers; i++)
 176     {
 177       if (!(app_wrk = application_get_worker (app, f->shr->subscribers[i])))
 178         continue;
 179       mq_send_session_close_evt (app_wrk, sh, SESSION_CTRL_EVT_DISCONNECTED);
 180     }
 181 }
 182
 183 static void
 184 mq_send_session_disconnected_cb (session_t * s)
 185 {
 186   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 187   session_handle_t sh = session_handle (s);
 188
 189   mq_send_session_close_evt (app_wrk, session_handle (s),
 190                              SESSION_CTRL_EVT_DISCONNECTED);
 191
 192   if (svm_fifo_n_subscribers (s->rx_fifo))
 193     mq_notify_close_subscribers (app_wrk->app_index, sh, s->rx_fifo,
 194                                  SESSION_CTRL_EVT_DISCONNECTED);
 195 }
 196
 197 static void
 198 mq_send_session_reset_cb (session_t * s)
 199 {
 200   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 201   session_handle_t sh = session_handle (s);
 202
 203   mq_send_session_close_evt (app_wrk, sh, SESSION_CTRL_EVT_RESET);
 204
 205   if (svm_fifo_n_subscribers (s->rx_fifo))
 206     mq_notify_close_subscribers (app_wrk->app_index, sh, s->rx_fifo,
 207                                  SESSION_CTRL_EVT_RESET);
 208 }
 209
 210 int
 211 mq_send_session_connected_cb (u32 app_wrk_index, u32 api_context,
 212                               session_t * s, session_error_t err)
 213 {
 214   session_connected_msg_t m = { 0 };
 215   transport_connection_t *tc;
 216   fifo_segment_t *eq_seg;
 217   app_worker_t *app_wrk;
 218   application_t *app;
 219
 220   app_wrk = app_worker_get (app_wrk_index);
 221
 222   m.context = api_context;
 223   m.retval = err;
 224
 225   if (err)
 226     goto snd_msg;
 227
 228   app = application_get (app_wrk->app_index);
 229   eq_seg = application_get_rx_mqs_segment (app);
 230
 231   if (session_has_transport (s))
 232     {
 233       tc = session_get_transport (s);
 234       if (!tc)
 235         {
 236           clib_warning ("failed to retrieve transport!");
 237           m.retval = SESSION_E_REFUSED;
 238           goto snd_msg;
 239         }
 240
 241       m.handle = session_handle (s);
 242       m.vpp_event_queue_address =
 243         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
 244
 245       session_get_endpoint (s, &m.lcl, 1 /* is_lcl */);
 246
 247       m.server_rx_fifo = fifo_segment_fifo_offset (s->rx_fifo);
 248       m.server_tx_fifo = fifo_segment_fifo_offset (s->tx_fifo);
 249       m.segment_handle = session_segment_handle (s);
 250       m.mq_index = s->thread_index;
 251     }
 252   else
 253     {
 254       ct_connection_t *cct;
 255       session_t *ss;
 256
 257       cct = (ct_connection_t *) session_get_transport (s);
 258       m.handle = session_handle (s);
 259       m.lcl.port = cct->c_lcl_port;
 260       m.lcl.is_ip4 = cct->c_is_ip4;
 261       m.vpp_event_queue_address =
 262         fifo_segment_msg_q_offset (eq_seg, s->thread_index);
 263       m.server_rx_fifo = fifo_segment_fifo_offset (s->rx_fifo);
 264       m.server_tx_fifo = fifo_segment_fifo_offset (s->tx_fifo);
 265       m.segment_handle = session_segment_handle (s);
 266       ss = ct_session_get_peer (s);
 267       m.ct_rx_fifo = fifo_segment_fifo_offset (ss->tx_fifo);
 268       m.ct_tx_fifo = fifo_segment_fifo_offset (ss->rx_fifo);
 269       m.ct_segment_handle = session_segment_handle (ss);
 270       m.mq_index = s->thread_index;
 271     }
 272
 273   /* Setup client session index in advance, in case data arrives
 274    * before the app processes message and updates it */
 275   s->rx_fifo->shr->client_session_index = api_context;
 276   s->tx_fifo->shr->client_session_index = api_context;
 277
 278 snd_msg:
 279
 280   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_CONNECTED, &m, sizeof (m));
 281
 282   return 0;
 283 }
 284
 285 int
 286 mq_send_session_bound_cb (u32 app_wrk_index, u32 api_context,
 287                           session_handle_t handle, int rv)
 288 {
 289   session_bound_msg_t m = { 0 };
 290   transport_endpoint_t tep;
 291   fifo_segment_t *eq_seg;
 292   app_worker_t *app_wrk;
 293   application_t *app;
 294   app_listener_t *al;
 295   session_t *ls = 0;
 296
 297   app_wrk = app_worker_get (app_wrk_index);
 298
 299   m.context = api_context;
 300   m.retval = rv;
 301
 302   if (rv)
 303     goto snd_msg;
 304
 305   m.handle = handle;
 306   al = app_listener_get_w_handle (handle);
 307   if (al->session_index != SESSION_INVALID_INDEX)
 308     ls = app_listener_get_session (al);
 309   else
 310     ls = app_listener_get_local_session (al);
 311
 312   session_get_endpoint (ls, &tep, 1 /* is_lcl */);
 313   m.lcl_port = tep.port;
 314   m.lcl_is_ip4 = tep.is_ip4;
 315   clib_memcpy_fast (m.lcl_ip, &tep.ip, sizeof (tep.ip));
 316   app = application_get (app_wrk->app_index);
 317   eq_seg = application_get_rx_mqs_segment (app);
 318   m.vpp_evt_q = fifo_segment_msg_q_offset (eq_seg, ls->thread_index);
 319   m.mq_index = ls->thread_index;
 320
 321   if (session_transport_service_type (ls) == TRANSPORT_SERVICE_CL &&
 322       ls->rx_fifo)
 323     {
 324       m.mq_index = transport_cl_thread ();
 325       m.vpp_evt_q = fifo_segment_msg_q_offset (eq_seg, m.mq_index);
 326       m.rx_fifo = fifo_segment_fifo_offset (ls->rx_fifo);
 327       m.tx_fifo = fifo_segment_fifo_offset (ls->tx_fifo);
 328       m.segment_handle = session_segment_handle (ls);
 329     }
 330
 331 snd_msg:
 332
 333   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_BOUND, &m, sizeof (m));
 334
 335   return 0;
 336 }
 337
 338 void
 339 mq_send_unlisten_reply (app_worker_t * app_wrk, session_handle_t sh,
 340                         u32 context, int rv)
 341 {
 342   session_unlisten_reply_msg_t m = { 0 };
 343
 344   m.context = context;
 345   m.handle = sh;
 346   m.retval = rv;
 347   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_UNLISTEN_REPLY, &m,
 348                          sizeof (m));
 349 }
 350
 351 static void
 352 mq_send_session_migrate_cb (session_t * s, session_handle_t new_sh)
 353 {
 354   session_migrated_msg_t m = { 0 };
 355   fifo_segment_t *eq_seg;
 356   app_worker_t *app_wrk;
 357   application_t *app;
 358   u32 thread_index;
 359
 360   thread_index = session_thread_from_handle (new_sh);
 361   app_wrk = app_worker_get (s->app_wrk_index);
 362   app = application_get (app_wrk->app_index);
 363   eq_seg = application_get_rx_mqs_segment (app);
 364
 365   m.handle = session_handle (s);
 366   m.new_handle = new_sh;
 367   m.vpp_thread_index = thread_index;
 368   m.vpp_evt_q = fifo_segment_msg_q_offset (eq_seg, thread_index);
 369   m.segment_handle = SESSION_INVALID_HANDLE;
 370
 371   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_MIGRATED, &m, sizeof (m));
 372 }
 373
 374 static int
 375 mq_send_add_segment_cb (u32 app_wrk_index, u64 segment_handle)
 376 {
 377   session_app_add_segment_msg_t m = { 0 };
 378   vl_api_registration_t *reg;
 379   app_worker_t *app_wrk;
 380   fifo_segment_t *fs;
 381   ssvm_private_t *sp;
 382   u8 fd_flags = 0;
 383
 384   app_wrk = app_worker_get (app_wrk_index);
 385
 386   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 387   if (!reg)
 388     {
 389       clib_warning ("no api registration for client: %u",
 390                     app_wrk->api_client_index);
 391       return -1;
 392     }
 393
 394   fs = segment_manager_get_segment_w_handle (segment_handle);
 395   sp = &fs->ssvm;
 396   if (ssvm_type (sp) == SSVM_SEGMENT_MEMFD)
 397     {
 398       if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
 399         {
 400           clib_warning ("can't send memfd fd");
 401           return -1;
 402         }
 403
 404       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 405     }
 406
 407   m.segment_size = sp->ssvm_size;
 408   m.fd_flags = fd_flags;
 409   m.segment_handle = segment_handle;
 410   strncpy ((char *) m.segment_name, (char *) sp->name,
 411            sizeof (m.segment_name) - 1);
 412
 413   app_wrk_send_ctrl_evt_fd (app_wrk, SESSION_CTRL_EVT_APP_ADD_SEGMENT, &m,
 414                             sizeof (m), sp->fd);
 415
 416   return 0;
 417 }
 418
 419 static int
 420 mq_send_del_segment_cb (u32 app_wrk_index, u64 segment_handle)
 421 {
 422   session_app_del_segment_msg_t m = { 0 };
 423   vl_api_registration_t *reg;
 424   app_worker_t *app_wrk;
 425
 426   app_wrk = app_worker_get (app_wrk_index);
 427   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 428   if (!reg)
 429     {
 430       clib_warning ("no registration: %u", app_wrk->api_client_index);
 431       return -1;
 432     }
 433
 434   m.segment_handle = segment_handle;
 435
 436   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_APP_DEL_SEGMENT, &m,
 437                          sizeof (m));
 438
 439   return 0;
 440 }
 441
 442 static void
 443 mq_send_session_cleanup_cb (session_t * s, session_cleanup_ntf_t ntf)
 444 {
 445   session_cleanup_msg_t m = { 0 };
 446   app_worker_t *app_wrk;
 447
 448   /* Propagate transport cleanup notifications only if app didn't close */
 449   if (ntf == SESSION_CLEANUP_TRANSPORT
 450       && s->session_state != SESSION_STATE_TRANSPORT_DELETED)
 451     return;
 452
 453   app_wrk = app_worker_get_if_valid (s->app_wrk_index);
 454   if (!app_wrk)
 455     return;
 456
 457   m.handle = session_handle (s);
 458   m.type = ntf;
 459
 460   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_CLEANUP, &m, sizeof (m));
 461 }
 462
 463 static session_cb_vft_t session_mq_cb_vft = {
 464   .session_accept_callback = mq_send_session_accepted_cb,
 465   .session_disconnect_callback = mq_send_session_disconnected_cb,
 466   .session_connected_callback = mq_send_session_connected_cb,
 467   .session_reset_callback = mq_send_session_reset_cb,
 468   .session_migrate_callback = mq_send_session_migrate_cb,
 469   .session_cleanup_callback = mq_send_session_cleanup_cb,
 470   .add_segment_callback = mq_send_add_segment_cb,
 471   .del_segment_callback = mq_send_del_segment_cb,
 472 };
 473
 474 static void
 475 vl_api_session_enable_disable_t_handler (vl_api_session_enable_disable_t * mp)
 476 {
 477   vl_api_session_enable_disable_reply_t *rmp;
 478   vlib_main_t *vm = vlib_get_main ();
 479   int rv = 0;
 480
 481   vnet_session_enable_disable (vm, mp->is_enable);
 482   REPLY_MACRO (VL_API_SESSION_ENABLE_DISABLE_REPLY);
 483 }
 484
 485 static void
 486 vl_api_session_sapi_enable_disable_t_handler (
 487   vl_api_session_sapi_enable_disable_t *mp)
 488 {
 489   vl_api_session_sapi_enable_disable_reply_t *rmp;
 490   int rv = 0;
 491
 492   rv = appns_sapi_enable_disable (mp->is_enable);
 493   REPLY_MACRO (VL_API_SESSION_SAPI_ENABLE_DISABLE_REPLY);
 494 }
 495
 496 static void
 497 vl_api_app_attach_t_handler (vl_api_app_attach_t * mp)
 498 {
 499   int rv = 0, *fds = 0, n_fds = 0, n_workers, i;
 500   fifo_segment_t *segp, *rx_mqs_seg = 0;
 501   vnet_app_attach_args_t _a, *a = &_a;
 502   vl_api_app_attach_reply_t *rmp;
 503   u8 fd_flags = 0, ctrl_thread;
 504   vl_api_registration_t *reg;
 505   svm_msg_q_t *rx_mq;
 506   application_t *app;
 507
 508   reg = vl_api_client_index_to_registration (mp->client_index);
 509   if (!reg)
 510     return;
 511
 512   n_workers = vlib_num_workers ();
 513   if (!session_main_is_enabled () || appns_sapi_enabled ())
 514     {
 515       rv = VNET_API_ERROR_FEATURE_DISABLED;
 516       goto done;
 517     }
 518   /* Only support binary api with socket transport */
 519   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
 520     {
 521       rv = VNET_API_ERROR_APP_UNSUPPORTED_CFG;
 522       goto done;
 523     }
 524
 525   STATIC_ASSERT (sizeof (u64) * APP_OPTIONS_N_OPTIONS <=
 526                  sizeof (mp->options),
 527                  "Out of options, fix api message definition");
 528
 529   clib_memset (a, 0, sizeof (*a));
 530   a->api_client_index = mp->client_index;
 531   a->options = mp->options;
 532   a->session_cb_vft = &session_mq_cb_vft;
 533   a->namespace_id = vl_api_from_api_to_new_vec (mp, &mp->namespace_id);
 534
 535   if ((rv = vnet_application_attach (a)))
 536     {
 537       clib_warning ("attach returned: %U", format_session_error, rv);
 538       rv = VNET_API_ERROR_UNSPECIFIED;
 539       vec_free (a->namespace_id);
 540       goto done;
 541     }
 542   vec_free (a->namespace_id);
 543
 544   vec_validate (fds, 3 /* segs + tx evtfd */ + n_workers);
 545
 546   /* Send rx mqs segment */
 547   app = application_get (a->app_index);
 548   rx_mqs_seg = application_get_rx_mqs_segment (app);
 549
 550   fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
 551   fds[n_fds] = rx_mqs_seg->ssvm.fd;
 552   n_fds += 1;
 553
 554   /* Send fifo segment fd if needed */
 555   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
 556     {
 557       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 558       fds[n_fds] = a->segment->fd;
 559       n_fds += 1;
 560     }
 561   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
 562     {
 563       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 564       fds[n_fds] = svm_msg_q_get_eventfd (a->app_evt_q);
 565       n_fds += 1;
 566     }
 567
 568   if (application_use_private_rx_mqs ())
 569     {
 570       fd_flags |= SESSION_FD_F_VPP_MQ_EVENTFD;
 571       for (i = 0; i < n_workers + 1; i++)
 572         {
 573           rx_mq = application_rx_mq_get (app, i);
 574           fds[n_fds] = svm_msg_q_get_eventfd (rx_mq);
 575           n_fds += 1;
 576         }
 577     }
 578
 579 done:
 580   /* *INDENT-OFF* */
 581   REPLY_MACRO3 (
 582     VL_API_APP_ATTACH_REPLY,
 583     ((!rv) ? vec_len (((fifo_segment_t *) a->segment)->ssvm.name) : 0), ({
 584       if (!rv)
 585         {
 586           ctrl_thread = n_workers ? 1 : 0;
 587           segp = (fifo_segment_t *) a->segment;
 588           rmp->app_index = clib_host_to_net_u32 (a->app_index);
 589           rmp->app_mq = fifo_segment_msg_q_offset (segp, 0);
 590           rmp->vpp_ctrl_mq =
 591             fifo_segment_msg_q_offset (rx_mqs_seg, ctrl_thread);
 592           rmp->vpp_ctrl_mq_thread = ctrl_thread;
 593           rmp->n_fds = n_fds;
 594           rmp->fd_flags = fd_flags;
 595           if (vec_len (segp->ssvm.name))
 596             {
 597               vl_api_vec_to_api_string (segp->ssvm.name, &rmp->segment_name);
 598             }
 599           rmp->segment_size = segp->ssvm.ssvm_size;
 600           rmp->segment_handle = clib_host_to_net_u64 (a->segment_handle);
 601         }
 602     }));
 603   /* *INDENT-ON* */
 604
 605   if (n_fds)
 606     session_send_fds (reg, fds, n_fds);
 607   vec_free (fds);
 608 }
 609
 610 static void
 611 vl_api_app_worker_add_del_t_handler (vl_api_app_worker_add_del_t * mp)
 612 {
 613   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
 614   vl_api_app_worker_add_del_reply_t *rmp;
 615   vl_api_registration_t *reg;
 616   application_t *app;
 617   u8 fd_flags = 0;
 618
 619   if (!session_main_is_enabled () || appns_sapi_enabled ())
 620     {
 621       rv = VNET_API_ERROR_FEATURE_DISABLED;
 622       goto done;
 623     }
 624
 625   reg = vl_api_client_index_to_registration (mp->client_index);
 626   if (!reg)
 627     return;
 628
 629   app = application_get_if_valid (clib_net_to_host_u32 (mp->app_index));
 630   if (!app)
 631     {
 632       rv = VNET_API_ERROR_INVALID_VALUE;
 633       goto done;
 634     }
 635
 636   vnet_app_worker_add_del_args_t args = {
 637     .app_index = app->app_index,
 638     .wrk_map_index = clib_net_to_host_u32 (mp->wrk_index),
 639     .api_client_index = mp->client_index,
 640     .is_add = mp->is_add
 641   };
 642   rv = vnet_app_worker_add_del (&args);
 643   if (rv)
 644     {
 645       clib_warning ("app worker add/del returned: %U", format_session_error,
 646                     rv);
 647       rv = VNET_API_ERROR_UNSPECIFIED;
 648       goto done;
 649     }
 650
 651   if (!mp->is_add)
 652     goto done;
 653
 654   /* Send fifo segment fd if needed */
 655   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
 656     {
 657       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 658       fds[n_fds] = args.segment->fd;
 659       n_fds += 1;
 660     }
 661   if (application_segment_manager_properties (app)->use_mq_eventfd)
 662     {
 663       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 664       fds[n_fds] = svm_msg_q_get_eventfd (args.evt_q);
 665       n_fds += 1;
 666     }
 667
 668   /* *INDENT-OFF* */
 669 done:
 670   REPLY_MACRO3 (
 671     VL_API_APP_WORKER_ADD_DEL_REPLY,
 672     ((!rv && mp->is_add) ? vec_len (args.segment->name) : 0), ({
 673       rmp->is_add = mp->is_add;
 674       rmp->wrk_index = clib_host_to_net_u32 (args.wrk_map_index);
 675       rmp->segment_handle = clib_host_to_net_u64 (args.segment_handle);
 676       if (!rv && mp->is_add)
 677         {
 678           rmp->app_event_queue_address =
 679             fifo_segment_msg_q_offset ((fifo_segment_t *) args.segment, 0);
 680           rmp->n_fds = n_fds;
 681           rmp->fd_flags = fd_flags;
 682           if (vec_len (args.segment->name))
 683             {
 684               vl_api_vec_to_api_string (args.segment->name,
 685                                         &rmp->segment_name);
 686             }
 687         }
 688     }));
 689   /* *INDENT-ON* */
 690
 691   if (n_fds)
 692     session_send_fds (reg, fds, n_fds);
 693 }
 694
 695 static void
 696 vl_api_application_detach_t_handler (vl_api_application_detach_t * mp)
 697 {
 698   vl_api_application_detach_reply_t *rmp;
 699   int rv = VNET_API_ERROR_INVALID_VALUE_2;
 700   vnet_app_detach_args_t _a, *a = &_a;
 701   application_t *app;
 702
 703   if (!session_main_is_enabled () || appns_sapi_enabled ())
 704     {
 705       rv = VNET_API_ERROR_FEATURE_DISABLED;
 706       goto done;
 707     }
 708
 709   app = application_lookup (mp->client_index);
 710   if (app)
 711     {
 712       a->app_index = app->app_index;
 713       a->api_client_index = mp->client_index;
 714       rv = vnet_application_detach (a);
 715       if (rv)
 716         {
 717           clib_warning ("vnet_application_detach: %U", format_session_error,
 718                         rv);
 719           rv = VNET_API_ERROR_UNSPECIFIED;
 720         }
 721     }
 722
 723 done:
 724   REPLY_MACRO (VL_API_APPLICATION_DETACH_REPLY);
 725 }
 726
 727 static void
 728 vl_api_app_namespace_add_del_t_handler (vl_api_app_namespace_add_del_t * mp)
 729 {
 730   vl_api_app_namespace_add_del_reply_t *rmp;
 731   u32 appns_index = 0;
 732   u8 *ns_id = 0;
 733   int rv = 0;
 734   if (session_main_is_enabled () == 0)
 735     {
 736       rv = VNET_API_ERROR_FEATURE_DISABLED;
 737       goto done;
 738     }
 739
 740   ns_id = vl_api_from_api_to_new_vec (mp, &mp->namespace_id);
 741
 742   vnet_app_namespace_add_del_args_t args = {
 743     .ns_id = ns_id,
 744     .sock_name = 0,
 745     .secret = clib_net_to_host_u64 (mp->secret),
 746     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
 747     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
 748     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
 749     .is_add = 1
 750   };
 751   rv = vnet_app_namespace_add_del (&args);
 752   if (!rv)
 753     {
 754       appns_index = app_namespace_index_from_id (ns_id);
 755       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
 756         {
 757           clib_warning ("app ns lookup failed");
 758           rv = VNET_API_ERROR_UNSPECIFIED;
 759         }
 760     }
 761   vec_free (ns_id);
 762
 763   /* *INDENT-OFF* */
 764 done:
 765   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_REPLY, ({
 766     if (!rv)
 767       rmp->appns_index = clib_host_to_net_u32 (appns_index);
 768   }));
 769   /* *INDENT-ON* */
 770 }
 771
 772 static void
 773 vl_api_app_namespace_add_del_v2_t_handler (
 774   vl_api_app_namespace_add_del_v2_t *mp)
 775 {
 776   vl_api_app_namespace_add_del_v2_reply_t *rmp;
 777   u8 *ns_id = 0;
 778   u32 appns_index = 0;
 779   int rv = 0;
 780
 781   if (session_main_is_enabled () == 0)
 782     {
 783       rv = VNET_API_ERROR_FEATURE_DISABLED;
 784       goto done;
 785     }
 786
 787   mp->namespace_id[sizeof (mp->namespace_id) - 1] = 0;
 788   ns_id = format (0, "%s", &mp->namespace_id);
 789
 790   vnet_app_namespace_add_del_args_t args = {
 791     .ns_id = ns_id,
 792     .sock_name = 0,
 793     .secret = clib_net_to_host_u64 (mp->secret),
 794     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
 795     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
 796     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
 797     .is_add = 1
 798   };
 799   rv = vnet_app_namespace_add_del (&args);
 800   if (!rv)
 801     {
 802       appns_index = app_namespace_index_from_id (ns_id);
 803       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
 804         {
 805           clib_warning ("app ns lookup failed id:%s", ns_id);
 806           rv = VNET_API_ERROR_UNSPECIFIED;
 807         }
 808     }
 809   vec_free (ns_id);
 810
 811 done:
 812   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_V2_REPLY, ({
 813                   if (!rv)
 814                     rmp->appns_index = clib_host_to_net_u32 (appns_index);
 815                 }));
 816 }
 817
 818 static void
 819 vl_api_app_namespace_add_del_v4_t_handler (
 820   vl_api_app_namespace_add_del_v4_t *mp)
 821 {
 822   vl_api_app_namespace_add_del_v4_reply_t *rmp;
 823   u8 *ns_id = 0, *sock_name = 0;
 824   u32 appns_index = 0;
 825   int rv = 0;
 826   if (session_main_is_enabled () == 0)
 827     {
 828       rv = VNET_API_ERROR_FEATURE_DISABLED;
 829       goto done;
 830     }
 831   mp->namespace_id[sizeof (mp->namespace_id) - 1] = 0;
 832   ns_id = format (0, "%s", &mp->namespace_id);
 833   sock_name = vl_api_from_api_to_new_vec (mp, &mp->sock_name);
 834   vnet_app_namespace_add_del_args_t args = {
 835     .ns_id = ns_id,
 836     .sock_name = sock_name,
 837     .secret = clib_net_to_host_u64 (mp->secret),
 838     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
 839     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
 840     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
 841     .is_add = mp->is_add,
 842   };
 843   rv = vnet_app_namespace_add_del (&args);
 844   if (!rv && mp->is_add)
 845     {
 846       appns_index = app_namespace_index_from_id (ns_id);
 847       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
 848         {
 849           clib_warning ("app ns lookup failed id:%s", ns_id);
 850           rv = VNET_API_ERROR_UNSPECIFIED;
 851         }
 852     }
 853   vec_free (ns_id);
 854   vec_free (sock_name);
 855 done:
 856   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_V4_REPLY, ({
 857                   if (!rv)
 858                     rmp->appns_index = clib_host_to_net_u32 (appns_index);
 859                 }));
 860 }
 861
 862 static void
 863 vl_api_app_namespace_add_del_v3_t_handler (
 864   vl_api_app_namespace_add_del_v3_t *mp)
 865 {
 866   vl_api_app_namespace_add_del_v3_reply_t *rmp;
 867   u8 *ns_id = 0, *sock_name = 0, *api_sock_name = 0;
 868   u32 appns_index = 0;
 869   int rv = 0;
 870   if (session_main_is_enabled () == 0)
 871     {
 872       rv = VNET_API_ERROR_FEATURE_DISABLED;
 873       goto done;
 874     }
 875   mp->namespace_id[sizeof (mp->namespace_id) - 1] = 0;
 876   ns_id = format (0, "%s", &mp->namespace_id);
 877   api_sock_name = vl_api_from_api_to_new_vec (mp, &mp->sock_name);
 878   mp->netns[sizeof (mp->netns) - 1] = 0;
 879   if (strlen ((char *) mp->netns) != 0)
 880     {
 881       sock_name =
 882         format (0, "abstract:%v,netns_name=%s", api_sock_name, &mp->netns);
 883     }
 884   else
 885     {
 886       sock_name = api_sock_name;
 887       api_sock_name = 0; // for vec_free
 888     }
 889
 890   vnet_app_namespace_add_del_args_t args = {
 891     .ns_id = ns_id,
 892     .sock_name = sock_name,
 893     .secret = clib_net_to_host_u64 (mp->secret),
 894     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
 895     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
 896     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
 897     .is_add = mp->is_add,
 898   };
 899   rv = vnet_app_namespace_add_del (&args);
 900   if (!rv && mp->is_add)
 901     {
 902       appns_index = app_namespace_index_from_id (ns_id);
 903       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
 904         {
 905           clib_warning ("app ns lookup failed id:%s", ns_id);
 906           rv = VNET_API_ERROR_UNSPECIFIED;
 907         }
 908     }
 909   vec_free (ns_id);
 910   vec_free (sock_name);
 911   vec_free (api_sock_name);
 912 done:
 913   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_V3_REPLY, ({
 914                   if (!rv)
 915                     rmp->appns_index = clib_host_to_net_u32 (appns_index);
 916                 }));
 917 }
 918
 919 static void
 920 vl_api_session_rule_add_del_t_handler (vl_api_session_rule_add_del_t * mp)
 921 {
 922   vl_api_session_rule_add_del_reply_t *rmp;
 923   session_rule_add_del_args_t args;
 924   session_rule_table_add_del_args_t *table_args = &args.table_args;
 925   int rv = 0;
 926
 927   clib_memset (&args, 0, sizeof (args));
 928
 929   ip_prefix_decode (&mp->lcl, &table_args->lcl);
 930   ip_prefix_decode (&mp->rmt, &table_args->rmt);
 931
 932   table_args->lcl_port = mp->lcl_port;
 933   table_args->rmt_port = mp->rmt_port;
 934   table_args->action_index = clib_net_to_host_u32 (mp->action_index);
 935   table_args->is_add = mp->is_add;
 936   mp->tag[sizeof (mp->tag) - 1] = 0;
 937   table_args->tag = format (0, "%s", mp->tag);
 938   args.appns_index = clib_net_to_host_u32 (mp->appns_index);
 939   args.scope = mp->scope;
 940   args.transport_proto =
 941     api_session_transport_proto_decode (&mp->transport_proto) ==
 942     TRANSPORT_PROTO_UDP ? 1 : 0;
 943
 944   rv = vnet_session_rule_add_del (&args);
 945   if (rv)
 946     {
 947       clib_warning ("rule add del returned: %U", format_session_error, rv);
 948       rv = VNET_API_ERROR_UNSPECIFIED;
 949     }
 950   vec_free (table_args->tag);
 951   REPLY_MACRO (VL_API_SESSION_RULE_ADD_DEL_REPLY);
 952 }
 953
 954 static void
 955 send_session_rule_details4 (mma_rule_16_t * rule, u8 is_local,
 956                             u8 transport_proto, u32 appns_index, u8 * tag,
 957                             vl_api_registration_t * reg, u32 context)
 958 {
 959   vl_api_session_rules_details_t *rmp = 0;
 960   session_mask_or_match_4_t *match =
 961     (session_mask_or_match_4_t *) & rule->match;
 962   session_mask_or_match_4_t *mask =
 963     (session_mask_or_match_4_t *) & rule->mask;
 964   fib_prefix_t lcl, rmt;
 965
 966   rmp = vl_msg_api_alloc (sizeof (*rmp));
 967   clib_memset (rmp, 0, sizeof (*rmp));
 968   rmp->_vl_msg_id = ntohs (REPLY_MSG_ID_BASE + VL_API_SESSION_RULES_DETAILS);
 969   rmp->context = context;
 970
 971   clib_memset (&lcl, 0, sizeof (lcl));
 972   clib_memset (&rmt, 0, sizeof (rmt));
 973   ip_set (&lcl.fp_addr, &match->lcl_ip, 1);
 974   ip_set (&rmt.fp_addr, &match->rmt_ip, 1);
 975   lcl.fp_len = ip4_mask_to_preflen (&mask->lcl_ip);
 976   rmt.fp_len = ip4_mask_to_preflen (&mask->rmt_ip);
 977
 978   ip_prefix_encode (&lcl, &rmp->lcl);
 979   ip_prefix_encode (&rmt, &rmp->rmt);
 980   rmp->lcl_port = match->lcl_port;
 981   rmp->rmt_port = match->rmt_port;
 982   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
 983   rmp->scope =
 984     is_local ? SESSION_RULE_SCOPE_API_LOCAL : SESSION_RULE_SCOPE_API_GLOBAL;
 985   rmp->transport_proto = api_session_transport_proto_encode (transport_proto);
 986   rmp->appns_index = clib_host_to_net_u32 (appns_index);
 987   if (tag)
 988     {
 989       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
 990       rmp->tag[vec_len (tag)] = 0;
 991     }
 992
 993   vl_api_send_msg (reg, (u8 *) rmp);
 994 }
 995
 996 static void
 997 send_session_rule_details6 (mma_rule_40_t * rule, u8 is_local,
 998                             u8 transport_proto, u32 appns_index, u8 * tag,
 999                             vl_api_registration_t * reg, u32 context)
1000 {
1001   vl_api_session_rules_details_t *rmp = 0;
1002   session_mask_or_match_6_t *match =
1003     (session_mask_or_match_6_t *) & rule->match;
1004   session_mask_or_match_6_t *mask =
1005     (session_mask_or_match_6_t *) & rule->mask;
1006   fib_prefix_t lcl, rmt;
1007
1008   rmp = vl_msg_api_alloc (sizeof (*rmp));
1009   clib_memset (rmp, 0, sizeof (*rmp));
1010   rmp->_vl_msg_id = ntohs (REPLY_MSG_ID_BASE + VL_API_SESSION_RULES_DETAILS);
1011   rmp->context = context;
1012
1013   clib_memset (&lcl, 0, sizeof (lcl));
1014   clib_memset (&rmt, 0, sizeof (rmt));
1015   ip_set (&lcl.fp_addr, &match->lcl_ip, 0);
1016   ip_set (&rmt.fp_addr, &match->rmt_ip, 0);
1017   lcl.fp_len = ip6_mask_to_preflen (&mask->lcl_ip);
1018   rmt.fp_len = ip6_mask_to_preflen (&mask->rmt_ip);
1019
1020   ip_prefix_encode (&lcl, &rmp->lcl);
1021   ip_prefix_encode (&rmt, &rmp->rmt);
1022   rmp->lcl_port = match->lcl_port;
1023   rmp->rmt_port = match->rmt_port;
1024   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1025   rmp->scope =
1026     is_local ? SESSION_RULE_SCOPE_API_LOCAL : SESSION_RULE_SCOPE_API_GLOBAL;
1027   rmp->transport_proto = api_session_transport_proto_encode (transport_proto);
1028   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1029   if (tag)
1030     {
1031       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1032       rmp->tag[vec_len (tag)] = 0;
1033     }
1034
1035   vl_api_send_msg (reg, (u8 *) rmp);
1036 }
1037
1038 static void
1039 send_session_rules_table_details (session_rules_table_t * srt, u8 fib_proto,
1040                                   u8 tp, u8 is_local, u32 appns_index,
1041                                   vl_api_registration_t * reg, u32 context)
1042 {
1043   mma_rule_16_t *rule16;
1044   mma_rule_40_t *rule40;
1045   mma_rules_table_16_t *srt16;
1046   mma_rules_table_40_t *srt40;
1047   u32 ri;
1048
1049   if (is_local || fib_proto == FIB_PROTOCOL_IP4)
1050     {
1051       u8 *tag = 0;
1052       /* *INDENT-OFF* */
1053       srt16 = &srt->session_rules_tables_16;
1054       pool_foreach (rule16, srt16->rules)  {
1055         ri = mma_rules_table_rule_index_16 (srt16, rule16);
1056         tag = session_rules_table_rule_tag (srt, ri, 1);
1057         send_session_rule_details4 (rule16, is_local, tp, appns_index, tag,
1058                                     reg, context);
1059       }
1060       /* *INDENT-ON* */
1061     }
1062   if (is_local || fib_proto == FIB_PROTOCOL_IP6)
1063     {
1064       u8 *tag = 0;
1065       /* *INDENT-OFF* */
1066       srt40 = &srt->session_rules_tables_40;
1067       pool_foreach (rule40, srt40->rules)  {
1068         ri = mma_rules_table_rule_index_40 (srt40, rule40);
1069         tag = session_rules_table_rule_tag (srt, ri, 1);
1070         send_session_rule_details6 (rule40, is_local, tp, appns_index, tag,
1071                                     reg, context);
1072       }
1073       /* *INDENT-ON* */
1074     }
1075 }
1076
1077 static void
1078 vl_api_session_rules_dump_t_handler (vl_api_session_rules_dump_t * mp)
1079 {
1080   vl_api_registration_t *reg;
1081   session_table_t *st;
1082   u8 tp;
1083
1084   reg = vl_api_client_index_to_registration (mp->client_index);
1085   if (!reg)
1086     return;
1087
1088   /* *INDENT-OFF* */
1089   session_table_foreach (st, ({
1090     for (tp = 0; tp < TRANSPORT_N_PROTOS; tp++)
1091       {
1092         send_session_rules_table_details (&st->session_rules[tp],
1093                                           st->active_fib_proto, tp,
1094                                           st->is_local, st->appns_index, reg,
1095                                           mp->context);
1096       }
1097   }));
1098   /* *INDENT-ON* */
1099 }
1100
1101 static void
1102 vl_api_app_add_cert_key_pair_t_handler (vl_api_app_add_cert_key_pair_t * mp)
1103 {
1104   vl_api_app_add_cert_key_pair_reply_t *rmp;
1105   vnet_app_add_cert_key_pair_args_t _a, *a = &_a;
1106   u32 certkey_len, key_len, cert_len;
1107   int rv = 0;
1108   if (session_main_is_enabled () == 0)
1109     {
1110       rv = VNET_API_ERROR_FEATURE_DISABLED;
1111       goto done;
1112     }
1113
1114   cert_len = clib_net_to_host_u16 (mp->cert_len);
1115   if (cert_len > 10000)
1116     {
1117       rv = VNET_API_ERROR_INVALID_VALUE;
1118       goto done;
1119     }
1120
1121   certkey_len = clib_net_to_host_u16 (mp->certkey_len);
1122   if (certkey_len < cert_len)
1123     {
1124       rv = VNET_API_ERROR_INVALID_VALUE;
1125       goto done;
1126     }
1127
1128   key_len = certkey_len - cert_len;
1129   if (key_len > 10000)
1130     {
1131       rv = VNET_API_ERROR_INVALID_VALUE;
1132       goto done;
1133     }
1134
1135   clib_memset (a, 0, sizeof (*a));
1136   a->cert = mp->certkey;
1137   a->key = mp->certkey + cert_len;
1138   a->cert_len = cert_len;
1139   a->key_len = key_len;
1140   rv = vnet_app_add_cert_key_pair (a);
1141
1142 done:
1143   /* *INDENT-OFF* */
1144   REPLY_MACRO2 (VL_API_APP_ADD_CERT_KEY_PAIR_REPLY, ({
1145     if (!rv)
1146       rmp->index = clib_host_to_net_u32 (a->index);
1147   }));
1148   /* *INDENT-ON* */
1149 }
1150
1151 static void
1152 vl_api_app_del_cert_key_pair_t_handler (vl_api_app_del_cert_key_pair_t * mp)
1153 {
1154   vl_api_app_del_cert_key_pair_reply_t *rmp;
1155   u32 ckpair_index;
1156   int rv = 0;
1157   if (session_main_is_enabled () == 0)
1158     {
1159       rv = VNET_API_ERROR_FEATURE_DISABLED;
1160       goto done;
1161     }
1162   ckpair_index = clib_net_to_host_u32 (mp->index);
1163   rv = vnet_app_del_cert_key_pair (ckpair_index);
1164   if (rv)
1165     {
1166       clib_warning ("vnet_app_del_cert_key_pair: %U", format_session_error,
1167                     rv);
1168       rv = VNET_API_ERROR_UNSPECIFIED;
1169     }
1170
1171 done:
1172   REPLY_MACRO (VL_API_APP_DEL_CERT_KEY_PAIR_REPLY);
1173 }
1174
1175 static clib_error_t *
1176 application_reaper_cb (u32 client_index)
1177 {
1178   application_t *app = application_lookup (client_index);
1179   vnet_app_detach_args_t _a, *a = &_a;
1180   if (app)
1181     {
1182       a->app_index = app->app_index;
1183       a->api_client_index = client_index;
1184       vnet_application_detach (a);
1185     }
1186   return 0;
1187 }
1188
1189 VL_MSG_API_REAPER_FUNCTION (application_reaper_cb);
1190
1191 /*
1192  * Socket api functions
1193  */
1194
1195 static int
1196 mq_send_add_segment_sapi_cb (u32 app_wrk_index, u64 segment_handle)
1197 {
1198   session_app_add_segment_msg_t m = { 0 };
1199   app_worker_t *app_wrk;
1200   fifo_segment_t *fs;
1201   ssvm_private_t *sp;
1202   u8 fd_flags = 0;
1203
1204   app_wrk = app_worker_get (app_wrk_index);
1205
1206   fs = segment_manager_get_segment_w_handle (segment_handle);
1207   sp = &fs->ssvm;
1208   ASSERT (ssvm_type (sp) == SSVM_SEGMENT_MEMFD);
1209
1210   fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1211
1212   m.segment_size = sp->ssvm_size;
1213   m.fd_flags = fd_flags;
1214   m.segment_handle = segment_handle;
1215   strncpy ((char *) m.segment_name, (char *) sp->name,
1216            sizeof (m.segment_name) - 1);
1217
1218   app_wrk_send_ctrl_evt_fd (app_wrk, SESSION_CTRL_EVT_APP_ADD_SEGMENT, &m,
1219                             sizeof (m), sp->fd);
1220
1221   return 0;
1222 }
1223
1224 static int
1225 mq_send_del_segment_sapi_cb (u32 app_wrk_index, u64 segment_handle)
1226 {
1227   session_app_del_segment_msg_t m = { 0 };
1228   app_worker_t *app_wrk;
1229
1230   app_wrk = app_worker_get (app_wrk_index);
1231
1232   m.segment_handle = segment_handle;
1233
1234   app_wrk_send_ctrl_evt (app_wrk, SESSION_CTRL_EVT_APP_DEL_SEGMENT, &m,
1235                          sizeof (m));
1236
1237   return 0;
1238 }
1239
1240 static session_cb_vft_t session_mq_sapi_cb_vft = {
1241   .session_accept_callback = mq_send_session_accepted_cb,
1242   .session_disconnect_callback = mq_send_session_disconnected_cb,
1243   .session_connected_callback = mq_send_session_connected_cb,
1244   .session_reset_callback = mq_send_session_reset_cb,
1245   .session_migrate_callback = mq_send_session_migrate_cb,
1246   .session_cleanup_callback = mq_send_session_cleanup_cb,
1247   .add_segment_callback = mq_send_add_segment_sapi_cb,
1248   .del_segment_callback = mq_send_del_segment_sapi_cb,
1249 };
1250
1251 static void
1252 session_api_attach_handler (app_namespace_t * app_ns, clib_socket_t * cs,
1253                             app_sapi_attach_msg_t * mp)
1254 {
1255   int rv = 0, *fds = 0, n_fds = 0, i, n_workers;
1256   vnet_app_attach_args_t _a, *a = &_a;
1257   app_sapi_attach_reply_msg_t *rmp;
1258   u8 fd_flags = 0, ctrl_thread;
1259   app_ns_api_handle_t *handle;
1260   fifo_segment_t *rx_mqs_seg;
1261   app_sapi_msg_t msg = { 0 };
1262   app_worker_t *app_wrk;
1263   application_t *app;
1264   svm_msg_q_t *rx_mq;
1265
1266   /* Make sure name is null terminated */
1267   mp->name[63] = 0;
1268
1269   clib_memset (a, 0, sizeof (*a));
1270   a->api_client_index = appns_sapi_socket_handle (app_ns, cs);
1271   a->name = format (0, "%s", (char *) mp->name);
1272   a->options = mp->options;
1273   a->session_cb_vft = &session_mq_sapi_cb_vft;
1274   a->use_sock_api = 1;
1275   a->options[APP_OPTIONS_NAMESPACE] = app_namespace_index (app_ns);
1276
1277   if ((rv = vnet_application_attach (a)))
1278     {
1279       clib_warning ("attach returned: %d", rv);
1280       goto done;
1281     }
1282
1283   n_workers = vlib_num_workers ();
1284   vec_validate (fds, 3 /* segs + tx evtfd */ + n_workers);
1285
1286   /* Send event queues segment */
1287   app = application_get (a->app_index);
1288   rx_mqs_seg = application_get_rx_mqs_segment (app);
1289
1290   fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
1291   fds[n_fds] = rx_mqs_seg->ssvm.fd;
1292   n_fds += 1;
1293
1294   /* Send fifo segment fd if needed */
1295   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
1296     {
1297       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1298       fds[n_fds] = a->segment->fd;
1299       n_fds += 1;
1300     }
1301   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
1302     {
1303       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1304       fds[n_fds] = svm_msg_q_get_eventfd (a->app_evt_q);
1305       n_fds += 1;
1306     }
1307
1308   if (application_use_private_rx_mqs ())
1309     {
1310       fd_flags |= SESSION_FD_F_VPP_MQ_EVENTFD;
1311       for (i = 0; i < n_workers + 1; i++)
1312         {
1313           rx_mq = application_rx_mq_get (app, i);
1314           fds[n_fds] = svm_msg_q_get_eventfd (rx_mq);
1315           n_fds += 1;
1316         }
1317     }
1318
1319 done:
1320
1321   msg.type = APP_SAPI_MSG_TYPE_ATTACH_REPLY;
1322   rmp = &msg.attach_reply;
1323   rmp->retval = rv;
1324   if (!rv)
1325     {
1326       ctrl_thread = n_workers ? 1 : 0;
1327       rmp->app_index = a->app_index;
1328       rmp->app_mq =
1329         fifo_segment_msg_q_offset ((fifo_segment_t *) a->segment, 0);
1330       rmp->vpp_ctrl_mq = fifo_segment_msg_q_offset (rx_mqs_seg, ctrl_thread);
1331       rmp->vpp_ctrl_mq_thread = ctrl_thread;
1332       rmp->n_fds = n_fds;
1333       rmp->fd_flags = fd_flags;
1334       /* No segment name and size since we only support memfds
1335        * in this configuration */
1336       rmp->segment_handle = a->segment_handle;
1337       rmp->api_client_handle = a->api_client_index;
1338
1339       /* Update app index for socket */
1340       handle = (app_ns_api_handle_t *) & cs->private_data;
1341       app_wrk = application_get_worker (app, 0);
1342       handle->aah_app_wrk_index = app_wrk->wrk_index;
1343     }
1344
1345   clib_socket_sendmsg (cs, &msg, sizeof (msg), fds, n_fds);
1346   vec_free (a->name);
1347   vec_free (fds);
1348 }
1349
1350 void
1351 sapi_socket_close_w_handle (u32 api_handle)
1352 {
1353   app_namespace_t *app_ns = app_namespace_get (api_handle >> 16);
1354   u16 sock_index = api_handle & 0xffff;
1355   app_ns_api_handle_t *handle;
1356   clib_socket_t *cs;
1357   clib_file_t *cf;
1358
1359   cs = appns_sapi_get_socket (app_ns, sock_index);
1360   if (!cs)
1361     return;
1362
1363   handle = (app_ns_api_handle_t *) & cs->private_data;
1364   cf = clib_file_get (&file_main, handle->aah_file_index);
1365   clib_file_del (&file_main, cf);
1366
1367   clib_socket_close (cs);
1368   appns_sapi_free_socket (app_ns, cs);
1369 }
1370
1371 static void
1372 sapi_add_del_worker_handler (app_namespace_t * app_ns,
1373                              clib_socket_t * cs,
1374                              app_sapi_worker_add_del_msg_t * mp)
1375 {
1376   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
1377   app_sapi_worker_add_del_reply_msg_t *rmp;
1378   app_ns_api_handle_t *handle;
1379   app_sapi_msg_t msg = { 0 };
1380   app_worker_t *app_wrk;
1381   u32 sapi_handle = -1;
1382   application_t *app;
1383   u8 fd_flags = 0;
1384
1385   app = application_get_if_valid (mp->app_index);
1386   if (!app)
1387     {
1388       rv = SESSION_E_INVALID;
1389       goto done;
1390     }
1391
1392   sapi_handle = appns_sapi_socket_handle (app_ns, cs);
1393
1394   vnet_app_worker_add_del_args_t args = {
1395     .app_index = app->app_index,
1396     .wrk_map_index = mp->wrk_index,
1397     .api_client_index = sapi_handle,
1398     .is_add = mp->is_add
1399   };
1400   rv = vnet_app_worker_add_del (&args);
1401   if (rv)
1402     {
1403       clib_warning ("app worker add/del returned: %U", format_session_error,
1404                     rv);
1405       goto done;
1406     }
1407
1408   if (!mp->is_add)
1409     goto done;
1410
1411   /* Send fifo segment fd if needed */
1412   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
1413     {
1414       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1415       fds[n_fds] = args.segment->fd;
1416       n_fds += 1;
1417     }
1418   if (application_segment_manager_properties (app)->use_mq_eventfd)
1419     {
1420       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1421       fds[n_fds] = svm_msg_q_get_eventfd (args.evt_q);
1422       n_fds += 1;
1423     }
1424
1425 done:
1426
1427   msg.type = APP_SAPI_MSG_TYPE_ADD_DEL_WORKER_REPLY;
1428   rmp = &msg.worker_add_del_reply;
1429   rmp->retval = rv;
1430   rmp->is_add = mp->is_add;
1431   rmp->api_client_handle = sapi_handle;
1432   rmp->wrk_index = args.wrk_map_index;
1433   rmp->segment_handle = args.segment_handle;
1434   if (!rv && mp->is_add)
1435     {
1436       /* No segment name and size. This supports only memfds */
1437       rmp->app_event_queue_address =
1438         fifo_segment_msg_q_offset ((fifo_segment_t *) args.segment, 0);
1439       rmp->n_fds = n_fds;
1440       rmp->fd_flags = fd_flags;
1441
1442       /* Update app index for socket */
1443       handle = (app_ns_api_handle_t *) & cs->private_data;
1444       app_wrk = application_get_worker (app, args.wrk_map_index);
1445       handle->aah_app_wrk_index = app_wrk->wrk_index;
1446     }
1447
1448   clib_socket_sendmsg (cs, &msg, sizeof (msg), fds, n_fds);
1449 }
1450
1451 /* This is a workaround for the case when session layer starts reading
1452  * the socket before the client actualy sends the data
1453  */
1454 static clib_error_t *
1455 sapi_socket_receive_wait (clib_socket_t *cs, u8 *msg, u32 msg_len)
1456 {
1457   clib_error_t *err;
1458   int n_tries = 5;
1459
1460   while (1)
1461     {
1462       err = clib_socket_recvmsg (cs, msg, msg_len, 0, 0);
1463       if (!err)
1464         break;
1465
1466       if (!n_tries)
1467         return err;
1468
1469       n_tries--;
1470       usleep (1);
1471     }
1472
1473   return err;
1474 }
1475
1476 static void
1477 sapi_add_del_cert_key_handler (app_namespace_t *app_ns, clib_socket_t *cs,
1478                                app_sapi_cert_key_add_del_msg_t *mp)
1479 {
1480   vnet_app_add_cert_key_pair_args_t _a, *a = &_a;
1481   app_sapi_cert_key_add_del_reply_msg_t *rmp;
1482   app_sapi_msg_t msg = { 0 };
1483   int rv = 0;
1484
1485   if (mp->is_add)
1486     {
1487       const u32 max_certkey_len = 2e4, max_cert_len = 1e4, max_key_len = 1e4;
1488       clib_error_t *err;
1489       u8 *certkey = 0;
1490       u32 key_len;
1491
1492       if (mp->certkey_len > max_certkey_len)
1493         {
1494           rv = SESSION_E_INVALID;
1495           goto send_reply;
1496         }
1497
1498       vec_validate (certkey, mp->certkey_len - 1);
1499
1500       err = sapi_socket_receive_wait (cs, certkey, mp->certkey_len);
1501       if (err)
1502         {
1503           clib_error_report (err);
1504           rv = SESSION_E_INVALID;
1505           goto send_reply;
1506         }
1507
1508       if (mp->cert_len > max_cert_len)
1509         {
1510           rv = SESSION_E_INVALID;
1511           goto send_reply;
1512         }
1513
1514       if (mp->certkey_len < mp->cert_len)
1515         {
1516           rv = SESSION_E_INVALID;
1517           goto send_reply;
1518         }
1519
1520       key_len = mp->certkey_len - mp->cert_len;
1521       if (key_len > max_key_len)
1522         {
1523           rv = SESSION_E_INVALID;
1524           goto send_reply;
1525         }
1526
1527       clib_memset (a, 0, sizeof (*a));
1528       a->cert = certkey;
1529       a->key = certkey + mp->cert_len;
1530       a->cert_len = mp->cert_len;
1531       a->key_len = key_len;
1532       rv = vnet_app_add_cert_key_pair (a);
1533
1534       vec_free (certkey);
1535     }
1536   else
1537     {
1538       rv = vnet_app_del_cert_key_pair (mp->index);
1539     }
1540
1541 send_reply:
1542
1543   msg.type = APP_SAPI_MSG_TYPE_ADD_DEL_CERT_KEY_REPLY;
1544   rmp = &msg.cert_key_add_del_reply;
1545   rmp->retval = rv;
1546   rmp->context = mp->context;
1547   if (!rv && mp->is_add)
1548     rmp->index = a->index;
1549
1550   clib_socket_sendmsg (cs, &msg, sizeof (msg), 0, 0);
1551 }
1552
1553 static void
1554 sapi_socket_detach (app_namespace_t * app_ns, clib_socket_t * cs)
1555 {
1556   app_ns_api_handle_t *handle;
1557   app_worker_t *app_wrk;
1558   u32 api_client_handle;
1559
1560   api_client_handle = appns_sapi_socket_handle (app_ns, cs);
1561
1562   /* Cleanup everything because app worker closed socket or crashed */
1563   handle = (app_ns_api_handle_t *) & cs->private_data;
1564   app_wrk = app_worker_get_if_valid (handle->aah_app_wrk_index);
1565   if (!app_wrk)
1566     return;
1567
1568   vnet_app_worker_add_del_args_t args = {
1569     .app_index = app_wrk->app_index,
1570     .wrk_map_index = app_wrk->wrk_map_index,
1571     .api_client_index = api_client_handle,
1572     .is_add = 0
1573   };
1574   /* Send rpc to main thread for worker barrier */
1575   vlib_rpc_call_main_thread (vnet_app_worker_add_del, (u8 *) & args,
1576                              sizeof (args));
1577 }
1578
1579 static clib_error_t *
1580 sapi_sock_read_ready (clib_file_t * cf)
1581 {
1582   app_ns_api_handle_t *handle = (app_ns_api_handle_t *) & cf->private_data;
1583   vlib_main_t *vm = vlib_get_main ();
1584   app_sapi_msg_t msg = { 0 };
1585   app_namespace_t *app_ns;
1586   clib_error_t *err = 0;
1587   clib_socket_t *cs;
1588
1589   app_ns = app_namespace_get (handle->aah_app_ns_index);
1590   cs = appns_sapi_get_socket (app_ns, handle->aah_sock_index);
1591   if (!cs)
1592     goto error;
1593
1594   err = clib_socket_recvmsg (cs, &msg, sizeof (msg), 0, 0);
1595   if (err)
1596     {
1597       clib_error_free (err);
1598       sapi_socket_detach (app_ns, cs);
1599       goto error;
1600     }
1601
1602   handle = (app_ns_api_handle_t *) & cs->private_data;
1603
1604   vlib_worker_thread_barrier_sync (vm);
1605
1606   switch (msg.type)
1607     {
1608     case APP_SAPI_MSG_TYPE_ATTACH:
1609       session_api_attach_handler (app_ns, cs, &msg.attach);
1610       break;
1611     case APP_SAPI_MSG_TYPE_ADD_DEL_WORKER:
1612       sapi_add_del_worker_handler (app_ns, cs, &msg.worker_add_del);
1613       break;
1614     case APP_SAPI_MSG_TYPE_ADD_DEL_CERT_KEY:
1615       sapi_add_del_cert_key_handler (app_ns, cs, &msg.cert_key_add_del);
1616       break;
1617     default:
1618       clib_warning ("app wrk %u unknown message type: %u",
1619                     handle->aah_app_wrk_index, msg.type);
1620       break;
1621     }
1622
1623   vlib_worker_thread_barrier_release (vm);
1624
1625 error:
1626   return 0;
1627 }
1628
1629 static clib_error_t *
1630 sapi_sock_write_ready (clib_file_t * cf)
1631 {
1632   app_ns_api_handle_t *handle = (app_ns_api_handle_t *) & cf->private_data;
1633   clib_warning ("called for app ns %u", handle->aah_app_ns_index);
1634   return 0;
1635 }
1636
1637 static clib_error_t *
1638 sapi_sock_error (clib_file_t * cf)
1639 {
1640   app_ns_api_handle_t *handle = (app_ns_api_handle_t *) & cf->private_data;
1641   app_namespace_t *app_ns;
1642   clib_socket_t *cs;
1643
1644   app_ns = app_namespace_get (handle->aah_app_ns_index);
1645   cs = appns_sapi_get_socket (app_ns, handle->aah_sock_index);
1646   if (!cs)
1647     return 0;
1648
1649   sapi_socket_detach (app_ns, cs);
1650   return 0;
1651 }
1652
1653 static clib_error_t *
1654 sapi_sock_accept_ready (clib_file_t * scf)
1655 {
1656   app_ns_api_handle_t handle = *(app_ns_api_handle_t *) & scf->private_data;
1657   app_namespace_t *app_ns;
1658   clib_file_t cf = { 0 };
1659   clib_error_t *err = 0;
1660   clib_socket_t *ccs, *scs;
1661
1662   /* Listener files point to namespace */
1663   app_ns = app_namespace_get (handle.aah_app_ns_index);
1664
1665   /*
1666    * Initialize client socket
1667    */
1668   ccs = appns_sapi_alloc_socket (app_ns);
1669
1670   /* Grab server socket after client is initialized  */
1671   scs = appns_sapi_get_socket (app_ns, handle.aah_sock_index);
1672   if (!scs)
1673     goto error;
1674
1675   err = clib_socket_accept (scs, ccs);
1676   if (err)
1677     {
1678       clib_error_report (err);
1679       goto error;
1680     }
1681
1682   cf.read_function = sapi_sock_read_ready;
1683   cf.write_function = sapi_sock_write_ready;
1684   cf.error_function = sapi_sock_error;
1685   cf.file_descriptor = ccs->fd;
1686   /* File points to app namespace and socket */
1687   handle.aah_sock_index = appns_sapi_socket_index (app_ns, ccs);
1688   cf.private_data = handle.as_u64;
1689   cf.description = format (0, "app sock conn fd: %d", ccs->fd);
1690
1691   /* Poll until we get an attach message. Socket points to file and
1692    * application that owns the socket */
1693   handle.aah_app_wrk_index = APP_INVALID_INDEX;
1694   handle.aah_file_index = clib_file_add (&file_main, &cf);
1695   ccs->private_data = handle.as_u64;
1696
1697   return err;
1698
1699 error:
1700   appns_sapi_free_socket (app_ns, ccs);
1701   return err;
1702 }
1703
1704 void
1705 appns_sapi_del_ns_socket (app_namespace_t *app_ns)
1706 {
1707   app_ns_api_handle_t *handle;
1708   clib_socket_t *cs;
1709
1710   pool_foreach (cs, app_ns->app_sockets)
1711     {
1712       handle = (app_ns_api_handle_t *) &cs->private_data;
1713       clib_file_del_by_index (&file_main, handle->aah_file_index);
1714
1715       clib_socket_close (cs);
1716       clib_socket_free (cs);
1717     }
1718   pool_free (app_ns->app_sockets);
1719 }
1720
1721 int
1722 appns_sapi_add_ns_socket (app_namespace_t * app_ns)
1723 {
1724   char *subdir = "/app_ns_sockets/";
1725   app_ns_api_handle_t *handle;
1726   clib_file_t cf = { 0 };
1727   struct stat file_stat;
1728   clib_error_t *err;
1729   clib_socket_t *cs;
1730   char dir[4096];
1731
1732   snprintf (dir, sizeof (dir), "%s%s", vlib_unix_get_runtime_dir (), subdir);
1733
1734   if (!app_ns->sock_name)
1735     app_ns->sock_name = format (0, "%s%v%c", dir, app_ns->ns_id, 0);
1736
1737   /*
1738    * Create and initialize socket to listen on
1739    */
1740   cs = appns_sapi_alloc_socket (app_ns);
1741   cs->config = (char *) vec_dup (app_ns->sock_name);
1742   cs->flags = CLIB_SOCKET_F_IS_SERVER |
1743     CLIB_SOCKET_F_ALLOW_GROUP_WRITE |
1744     CLIB_SOCKET_F_SEQPACKET | CLIB_SOCKET_F_PASSCRED;
1745
1746   if (clib_socket_prefix_get_type (cs->config) == CLIB_SOCKET_TYPE_UNIX)
1747     {
1748       err = vlib_unix_recursive_mkdir ((char *) dir);
1749       if (err)
1750         {
1751           clib_error_report (err);
1752           return SESSION_E_SYSCALL;
1753         }
1754     }
1755
1756   if ((err = clib_socket_init (cs)))
1757     {
1758       clib_error_report (err);
1759       return -1;
1760     }
1761
1762   if (clib_socket_prefix_get_type (cs->config) == CLIB_SOCKET_TYPE_UNIX &&
1763       stat ((char *) app_ns->sock_name, &file_stat) == -1)
1764     return -1;
1765
1766   /*
1767    * Start polling it
1768    */
1769   cf.read_function = sapi_sock_accept_ready;
1770   cf.file_descriptor = cs->fd;
1771   /* File points to namespace */
1772   handle = (app_ns_api_handle_t *) & cf.private_data;
1773   handle->aah_app_ns_index = app_namespace_index (app_ns);
1774   handle->aah_sock_index = appns_sapi_socket_index (app_ns, cs);
1775   cf.description = format (0, "app sock listener: %s", app_ns->sock_name);
1776
1777   /* Socket points to clib file index */
1778   handle = (app_ns_api_handle_t *) & cs->private_data;
1779   handle->aah_file_index = clib_file_add (&file_main, &cf);
1780   handle->aah_app_wrk_index = APP_INVALID_INDEX;
1781
1782   return 0;
1783 }
1784
1785 #include <vnet/session/session.api.c>
1786 static clib_error_t *
1787 session_api_hookup (vlib_main_t *vm)
1788 {
1789   /*
1790    * Set up the (msg_name, crc, message-id) table
1791    */
1792   REPLY_MSG_ID_BASE = setup_message_id_table ();
1793
1794   return 0;
1795 }
1796
1797 VLIB_API_INIT_FUNCTION (session_api_hookup);
1798
1799 /*
1800  * fd.io coding-style-patch-verification: ON
1801  *
1802  * Local Variables:
1803  * eval: (c-set-style "gnu")
1804  * End:
1805  */