src/vnet/session/session_api.c

   1 /*
   2  * Copyright (c) 2015-2019 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15
  16 #include <vnet/vnet.h>
  17 #include <vlibmemory/api.h>
  18 #include <vnet/session/application.h>
  19 #include <vnet/session/application_interface.h>
  20 #include <vnet/session/application_local.h>
  21 #include <vnet/session/session_rules_table.h>
  22 #include <vnet/session/session_table.h>
  23 #include <vnet/session/session.h>
  24
  25 #include <vnet/vnet_msg_enum.h>
  26
  27 #define vl_typedefs             /* define message structures */
  28 #include <vnet/vnet_all_api_h.h>
  29 #undef vl_typedefs
  30
  31 #define vl_endianfun            /* define message structures */
  32 #include <vnet/vnet_all_api_h.h>
  33 #undef vl_endianfun
  34
  35 /* instantiate all the print functions we know about */
  36 #define vl_print(handle, ...) vlib_cli_output (handle, __VA_ARGS__)
  37 #define vl_printfun
  38 #include <vnet/vnet_all_api_h.h>
  39 #undef vl_printfun
  40
  41 #include <vlibapi/api_helper_macros.h>
  42
  43 #define foreach_session_api_msg                                         \
  44 _(MAP_ANOTHER_SEGMENT_REPLY, map_another_segment_reply)                 \
  45 _(APPLICATION_ATTACH, application_attach)                               \
  46 _(APP_ATTACH, app_attach)                                               \
  47 _(APPLICATION_DETACH, application_detach)                               \
  48 _(BIND_URI, bind_uri)                                                   \
  49 _(UNBIND_URI, unbind_uri)                                               \
  50 _(CONNECT_URI, connect_uri)                                             \
  51 _(DISCONNECT_SESSION, disconnect_session)                               \
  52 _(DISCONNECT_SESSION_REPLY, disconnect_session_reply)                   \
  53 _(BIND_SOCK, bind_sock)                                                 \
  54 _(UNBIND_SOCK, unbind_sock)                                             \
  55 _(CONNECT_SOCK, connect_sock)                                           \
  56 _(SESSION_ENABLE_DISABLE, session_enable_disable)                       \
  57 _(APP_NAMESPACE_ADD_DEL, app_namespace_add_del)                         \
  58 _(SESSION_RULE_ADD_DEL, session_rule_add_del)                           \
  59 _(SESSION_RULES_DUMP, session_rules_dump)                               \
  60 _(APPLICATION_TLS_CERT_ADD, application_tls_cert_add)                   \
  61 _(APPLICATION_TLS_KEY_ADD, application_tls_key_add)                     \
  62 _(APP_ADD_CERT_KEY_PAIR, app_add_cert_key_pair)                         \
  63 _(APP_DEL_CERT_KEY_PAIR, app_del_cert_key_pair)                         \
  64 _(APP_WORKER_ADD_DEL, app_worker_add_del)                               \
  65
  66 static int
  67 session_send_fds (vl_api_registration_t * reg, int fds[], int n_fds)
  68 {
  69   clib_error_t *error;
  70   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
  71     {
  72       clib_warning ("can't send memfd fd");
  73       return -1;
  74     }
  75   error = vl_api_send_fd_msg (reg, fds, n_fds);
  76   if (error)
  77     {
  78       clib_error_report (error);
  79       return -1;
  80     }
  81   return 0;
  82 }
  83
  84 /* ### WILL BE DEPRECATED POST 20.01 ### */
  85 static int
  86 send_add_segment_callback (u32 api_client_index, u64 segment_handle)
  87 {
  88   int fds[SESSION_N_FD_TYPE], n_fds = 0;
  89   vl_api_map_another_segment_t *mp;
  90   vl_api_registration_t *reg;
  91   fifo_segment_t *fs;
  92   ssvm_private_t *sp;
  93   u8 fd_flags = 0;
  94
  95   reg = vl_mem_api_client_index_to_registration (api_client_index);
  96   if (!reg)
  97     {
  98       clib_warning ("no api registration for client: %u", api_client_index);
  99       return -1;
 100     }
 101
 102   fs = segment_manager_get_segment_w_handle (segment_handle);
 103   sp = &fs->ssvm;
 104   if (ssvm_type (sp) == SSVM_SEGMENT_MEMFD)
 105     {
 106       if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
 107         {
 108           clib_warning ("can't send memfd fd");
 109           return -1;
 110         }
 111
 112       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 113       fds[n_fds] = sp->fd;
 114       n_fds += 1;
 115     }
 116
 117   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 118   clib_memset (mp, 0, sizeof (*mp));
 119   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_MAP_ANOTHER_SEGMENT);
 120   mp->segment_size = sp->ssvm_size;
 121   mp->fd_flags = fd_flags;
 122   mp->segment_handle = clib_host_to_net_u64 (segment_handle);
 123   strncpy ((char *) mp->segment_name, (char *) sp->name,
 124            sizeof (mp->segment_name) - 1);
 125
 126   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 127
 128   if (n_fds)
 129     return session_send_fds (reg, fds, n_fds);
 130
 131   return 0;
 132 }
 133
 134 /* ### WILL BE DEPRECATED POST 20.01 ### */
 135 static int
 136 send_del_segment_callback (u32 api_client_index, u64 segment_handle)
 137 {
 138   vl_api_unmap_segment_t *mp;
 139   vl_api_registration_t *reg;
 140
 141   reg = vl_mem_api_client_index_to_registration (api_client_index);
 142   if (!reg)
 143     {
 144       clib_warning ("no registration: %u", api_client_index);
 145       return -1;
 146     }
 147
 148   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 149   clib_memset (mp, 0, sizeof (*mp));
 150   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_UNMAP_SEGMENT);
 151   mp->segment_handle = clib_host_to_net_u64 (segment_handle);
 152   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 153
 154   return 0;
 155 }
 156
 157 static int
 158 mq_try_lock_and_alloc_msg (svm_msg_q_t * app_mq, svm_msg_q_msg_t * msg)
 159 {
 160   int rv;
 161   u8 try = 0;
 162   while (try < 100)
 163     {
 164       rv = svm_msg_q_lock_and_alloc_msg_w_ring (app_mq,
 165                                                 SESSION_MQ_CTRL_EVT_RING,
 166                                                 SVM_Q_NOWAIT, msg);
 167       if (!rv)
 168         return 0;
 169       try++;
 170       usleep (1);
 171     }
 172   clib_warning ("failed to alloc msg");
 173   return -1;
 174 }
 175
 176 static int
 177 mq_send_session_accepted_cb (session_t * s)
 178 {
 179   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 180   svm_msg_q_msg_t _msg, *msg = &_msg;
 181   svm_msg_q_t *vpp_queue, *app_mq;
 182   session_t *listener;
 183   session_accepted_msg_t *mp;
 184   session_event_t *evt;
 185   application_t *app;
 186
 187   app = application_get (app_wrk->app_index);
 188   app_mq = app_wrk->event_queue;
 189   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 190     return -1;
 191
 192   evt = svm_msg_q_msg_data (app_mq, msg);
 193   clib_memset (evt, 0, sizeof (*evt));
 194   evt->event_type = SESSION_CTRL_EVT_ACCEPTED;
 195   mp = (session_accepted_msg_t *) evt->data;
 196   clib_memset (mp, 0, sizeof (*mp));
 197   mp->context = app->app_index;
 198   mp->server_rx_fifo = pointer_to_uword (s->rx_fifo);
 199   mp->server_tx_fifo = pointer_to_uword (s->tx_fifo);
 200   mp->segment_handle = session_segment_handle (s);
 201   mp->flags = s->flags;
 202
 203   if (session_has_transport (s))
 204     {
 205       listener = listen_session_get_from_handle (s->listener_handle);
 206       mp->listener_handle = app_listen_session_handle (listener);
 207       if (application_is_proxy (app))
 208         {
 209           listener =
 210             app_worker_first_listener (app_wrk, session_get_fib_proto (s),
 211                                        session_get_transport_proto (s));
 212           if (listener)
 213             mp->listener_handle = listen_session_get_handle (listener);
 214         }
 215       vpp_queue = session_main_get_vpp_event_queue (s->thread_index);
 216       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 217       mp->handle = session_handle (s);
 218
 219       session_get_endpoint (s, &mp->rmt, 0 /* is_lcl */ );
 220     }
 221   else
 222     {
 223       ct_connection_t *ct;
 224
 225       ct = (ct_connection_t *) session_get_transport (s);
 226       listener = listen_session_get_from_handle (s->listener_handle);
 227       mp->listener_handle = app_listen_session_handle (listener);
 228       mp->rmt.is_ip4 = session_type_is_ip4 (listener->session_type);
 229       mp->rmt.port = ct->c_rmt_port;
 230       mp->handle = session_handle (s);
 231       vpp_queue = session_main_get_vpp_event_queue (0);
 232       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 233     }
 234   svm_msg_q_add_and_unlock (app_mq, msg);
 235
 236   return 0;
 237 }
 238
 239 static inline void
 240 mq_send_session_close_evt (app_worker_t * app_wrk, session_handle_t sh,
 241                            session_evt_type_t evt_type)
 242 {
 243   svm_msg_q_msg_t _msg, *msg = &_msg;
 244   session_disconnected_msg_t *mp;
 245   svm_msg_q_t *app_mq;
 246   session_event_t *evt;
 247
 248   app_mq = app_wrk->event_queue;
 249   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 250     return;
 251   evt = svm_msg_q_msg_data (app_mq, msg);
 252   clib_memset (evt, 0, sizeof (*evt));
 253   evt->event_type = evt_type;
 254   mp = (session_disconnected_msg_t *) evt->data;
 255   mp->handle = sh;
 256   mp->context = app_wrk->api_client_index;
 257   svm_msg_q_add_and_unlock (app_mq, msg);
 258 }
 259
 260 static inline void
 261 mq_notify_close_subscribers (u32 app_index, session_handle_t sh,
 262                              svm_fifo_t * f, session_evt_type_t evt_type)
 263 {
 264   app_worker_t *app_wrk;
 265   application_t *app;
 266   int i;
 267
 268   app = application_get (app_index);
 269   if (!app)
 270     return;
 271
 272   for (i = 0; i < f->n_subscribers; i++)
 273     {
 274       if (!(app_wrk = application_get_worker (app, f->subscribers[i])))
 275         continue;
 276       mq_send_session_close_evt (app_wrk, sh, SESSION_CTRL_EVT_DISCONNECTED);
 277     }
 278 }
 279
 280 static void
 281 mq_send_session_disconnected_cb (session_t * s)
 282 {
 283   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 284   session_handle_t sh = session_handle (s);
 285
 286   mq_send_session_close_evt (app_wrk, session_handle (s),
 287                              SESSION_CTRL_EVT_DISCONNECTED);
 288
 289   if (svm_fifo_n_subscribers (s->rx_fifo))
 290     mq_notify_close_subscribers (app_wrk->app_index, sh, s->rx_fifo,
 291                                  SESSION_CTRL_EVT_DISCONNECTED);
 292 }
 293
 294 static void
 295 mq_send_session_reset_cb (session_t * s)
 296 {
 297   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 298   session_handle_t sh = session_handle (s);
 299
 300   mq_send_session_close_evt (app_wrk, sh, SESSION_CTRL_EVT_RESET);
 301
 302   if (svm_fifo_n_subscribers (s->rx_fifo))
 303     mq_notify_close_subscribers (app_wrk->app_index, sh, s->rx_fifo,
 304                                  SESSION_CTRL_EVT_RESET);
 305 }
 306
 307 int
 308 mq_send_session_connected_cb (u32 app_wrk_index, u32 api_context,
 309                               session_t * s, u8 is_fail)
 310 {
 311   svm_msg_q_msg_t _msg, *msg = &_msg;
 312   session_connected_msg_t *mp;
 313   svm_msg_q_t *vpp_mq, *app_mq;
 314   transport_connection_t *tc;
 315   app_worker_t *app_wrk;
 316   session_event_t *evt;
 317
 318   app_wrk = app_worker_get (app_wrk_index);
 319   app_mq = app_wrk->event_queue;
 320   if (!app_mq)
 321     {
 322       clib_warning ("app %u with api index: %u not attached",
 323                     app_wrk->app_index, app_wrk->api_client_index);
 324       return -1;
 325     }
 326
 327   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 328     return -1;
 329
 330   evt = svm_msg_q_msg_data (app_mq, msg);
 331   clib_memset (evt, 0, sizeof (*evt));
 332   evt->event_type = SESSION_CTRL_EVT_CONNECTED;
 333   mp = (session_connected_msg_t *) evt->data;
 334   clib_memset (mp, 0, sizeof (*mp));
 335   mp->context = api_context;
 336
 337   if (is_fail)
 338     goto done;
 339
 340   if (session_has_transport (s))
 341     {
 342       tc = session_get_transport (s);
 343       if (!tc)
 344         {
 345           is_fail = 1;
 346           goto done;
 347         }
 348
 349       vpp_mq = session_main_get_vpp_event_queue (s->thread_index);
 350       mp->handle = session_handle (s);
 351       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 352
 353       session_get_endpoint (s, &mp->lcl, 1 /* is_lcl */ );
 354
 355       mp->server_rx_fifo = pointer_to_uword (s->rx_fifo);
 356       mp->server_tx_fifo = pointer_to_uword (s->tx_fifo);
 357       mp->segment_handle = session_segment_handle (s);
 358     }
 359   else
 360     {
 361       ct_connection_t *cct;
 362       session_t *ss;
 363
 364       cct = (ct_connection_t *) session_get_transport (s);
 365       mp->handle = session_handle (s);
 366       mp->lcl.port = cct->c_lcl_port;
 367       mp->lcl.is_ip4 = cct->c_is_ip4;
 368       vpp_mq = session_main_get_vpp_event_queue (0);
 369       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 370       mp->server_rx_fifo = pointer_to_uword (s->rx_fifo);
 371       mp->server_tx_fifo = pointer_to_uword (s->tx_fifo);
 372       mp->segment_handle = session_segment_handle (s);
 373       ss = ct_session_get_peer (s);
 374       mp->ct_rx_fifo = pointer_to_uword (ss->tx_fifo);
 375       mp->ct_tx_fifo = pointer_to_uword (ss->rx_fifo);
 376       mp->ct_segment_handle = session_segment_handle (ss);
 377     }
 378
 379 done:
 380   mp->retval = is_fail ?
 381     clib_host_to_net_u32 (VNET_API_ERROR_SESSION_CONNECT) : 0;
 382
 383   svm_msg_q_add_and_unlock (app_mq, msg);
 384   return 0;
 385 }
 386
 387 int
 388 mq_send_session_bound_cb (u32 app_wrk_index, u32 api_context,
 389                           session_handle_t handle, int rv)
 390 {
 391   svm_msg_q_msg_t _msg, *msg = &_msg;
 392   svm_msg_q_t *app_mq, *vpp_evt_q;
 393   transport_endpoint_t tep;
 394   session_bound_msg_t *mp;
 395   app_worker_t *app_wrk;
 396   session_event_t *evt;
 397   app_listener_t *al;
 398   session_t *ls = 0;
 399   app_wrk = app_worker_get (app_wrk_index);
 400   app_mq = app_wrk->event_queue;
 401   if (!app_mq)
 402     {
 403       clib_warning ("app %u with api index: %u not attached",
 404                     app_wrk->app_index, app_wrk->api_client_index);
 405       return -1;
 406     }
 407
 408   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 409     return -1;
 410
 411   evt = svm_msg_q_msg_data (app_mq, msg);
 412   clib_memset (evt, 0, sizeof (*evt));
 413   evt->event_type = SESSION_CTRL_EVT_BOUND;
 414   mp = (session_bound_msg_t *) evt->data;
 415   mp->context = api_context;
 416
 417   if (rv)
 418     goto done;
 419
 420   mp->handle = handle;
 421   al = app_listener_get_w_handle (handle);
 422   if (al->session_index != SESSION_INVALID_INDEX)
 423     ls = app_listener_get_session (al);
 424   else
 425     ls = app_listener_get_local_session (al);
 426
 427   session_get_endpoint (ls, &tep, 1 /* is_lcl */ );
 428   mp->lcl_port = tep.port;
 429   mp->lcl_is_ip4 = tep.is_ip4;
 430   clib_memcpy_fast (mp->lcl_ip, &tep.ip, sizeof (tep.ip));
 431
 432   vpp_evt_q = session_main_get_vpp_event_queue (0);
 433   mp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 434
 435   if (session_transport_service_type (ls) == TRANSPORT_SERVICE_CL)
 436     {
 437       mp->rx_fifo = pointer_to_uword (ls->rx_fifo);
 438       mp->tx_fifo = pointer_to_uword (ls->tx_fifo);
 439     }
 440
 441 done:
 442   mp->retval = rv;
 443   svm_msg_q_add_and_unlock (app_mq, msg);
 444   return 0;
 445 }
 446
 447 void
 448 mq_send_unlisten_reply (app_worker_t * app_wrk, session_handle_t sh,
 449                         u32 context, int rv)
 450 {
 451   svm_msg_q_msg_t _msg, *msg = &_msg;
 452   session_unlisten_reply_msg_t *ump;
 453   svm_msg_q_t *app_mq;
 454   session_event_t *evt;
 455
 456   app_mq = app_wrk->event_queue;
 457   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 458     return;
 459
 460   evt = svm_msg_q_msg_data (app_mq, msg);
 461   clib_memset (evt, 0, sizeof (*evt));
 462   evt->event_type = SESSION_CTRL_EVT_UNLISTEN_REPLY;
 463   ump = (session_unlisten_reply_msg_t *) evt->data;
 464   ump->context = context;
 465   ump->handle = sh;
 466   ump->retval = rv;
 467   svm_msg_q_add_and_unlock (app_mq, msg);
 468 }
 469
 470 static void
 471 mq_send_session_migrate_cb (session_t * s, session_handle_t new_sh)
 472 {
 473   svm_msg_q_msg_t _msg, *msg = &_msg;
 474   session_migrated_msg_t *mp;
 475   svm_msg_q_t *vpp_evt_q;
 476   app_worker_t *app_wrk;
 477   session_event_t *evt;
 478   svm_msg_q_t *app_mq;
 479
 480   app_wrk = app_worker_get (s->app_wrk_index);
 481   app_mq = app_wrk->event_queue;
 482   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 483     return;
 484
 485   evt = svm_msg_q_msg_data (app_mq, msg);
 486   clib_memset (evt, 0, sizeof (*evt));
 487   evt->event_type = SESSION_CTRL_EVT_MIGRATED;
 488   mp = (session_migrated_msg_t *) evt->data;
 489   mp->handle = session_handle (s);
 490   mp->new_handle = new_sh;
 491   mp->vpp_thread_index = session_thread_from_handle (new_sh);
 492   vpp_evt_q = session_main_get_vpp_event_queue (mp->vpp_thread_index);
 493   mp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 494   svm_msg_q_add_and_unlock (app_mq, msg);
 495 }
 496
 497 static int
 498 mq_send_add_segment_cb (u32 app_wrk_index, u64 segment_handle)
 499 {
 500   int fds[SESSION_N_FD_TYPE], n_fds = 0;
 501   svm_msg_q_msg_t _msg, *msg = &_msg;
 502   session_app_add_segment_msg_t *mp;
 503   vl_api_registration_t *reg;
 504   app_worker_t *app_wrk;
 505   session_event_t *evt;
 506   svm_msg_q_t *app_mq;
 507   fifo_segment_t *fs;
 508   ssvm_private_t *sp;
 509   u8 fd_flags = 0;
 510
 511   app_wrk = app_worker_get (app_wrk_index);
 512
 513   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 514   if (!reg)
 515     {
 516       clib_warning ("no api registration for client: %u",
 517                     app_wrk->api_client_index);
 518       return -1;
 519     }
 520
 521   fs = segment_manager_get_segment_w_handle (segment_handle);
 522   sp = &fs->ssvm;
 523   if (ssvm_type (sp) == SSVM_SEGMENT_MEMFD)
 524     {
 525       if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
 526         {
 527           clib_warning ("can't send memfd fd");
 528           return -1;
 529         }
 530
 531       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 532       fds[n_fds] = sp->fd;
 533       n_fds += 1;
 534     }
 535
 536   app_mq = app_wrk->event_queue;
 537   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 538     return -1;
 539
 540   if (n_fds)
 541     session_send_fds (reg, fds, n_fds);
 542
 543   evt = svm_msg_q_msg_data (app_mq, msg);
 544   clib_memset (evt, 0, sizeof (*evt));
 545   evt->event_type = SESSION_CTRL_EVT_APP_ADD_SEGMENT;
 546   mp = (session_app_add_segment_msg_t *) evt->data;
 547   clib_memset (mp, 0, sizeof (*mp));
 548   mp->segment_size = sp->ssvm_size;
 549   mp->fd_flags = fd_flags;
 550   mp->segment_handle = segment_handle;
 551   strncpy ((char *) mp->segment_name, (char *) sp->name,
 552            sizeof (mp->segment_name) - 1);
 553
 554   svm_msg_q_add_and_unlock (app_mq, msg);
 555
 556   return 0;
 557 }
 558
 559 static int
 560 mq_send_del_segment_cb (u32 app_wrk_index, u64 segment_handle)
 561 {
 562   svm_msg_q_msg_t _msg, *msg = &_msg;
 563   session_app_del_segment_msg_t *mp;
 564   vl_api_registration_t *reg;
 565   app_worker_t *app_wrk;
 566   session_event_t *evt;
 567   svm_msg_q_t *app_mq;
 568
 569   app_wrk = app_worker_get (app_wrk_index);
 570   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 571   if (!reg)
 572     {
 573       clib_warning ("no registration: %u", app_wrk->api_client_index);
 574       return -1;
 575     }
 576
 577   app_mq = app_wrk->event_queue;
 578   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 579     return -1;
 580
 581   evt = svm_msg_q_msg_data (app_mq, msg);
 582   clib_memset (evt, 0, sizeof (*evt));
 583   evt->event_type = SESSION_CTRL_EVT_APP_DEL_SEGMENT;
 584   mp = (session_app_del_segment_msg_t *) evt->data;
 585   clib_memset (mp, 0, sizeof (*mp));
 586   mp->segment_handle = segment_handle;
 587   svm_msg_q_add_and_unlock (app_mq, msg);
 588
 589   return 0;
 590 }
 591
 592 static void
 593 mq_send_session_cleanup_cb (session_t * s, session_cleanup_ntf_t ntf)
 594 {
 595   svm_msg_q_msg_t _msg, *msg = &_msg;
 596   session_cleanup_msg_t *mp;
 597   svm_msg_q_t *app_mq;
 598   session_event_t *evt;
 599   app_worker_t *app_wrk;
 600
 601   /* Only propagate session cleanup notification */
 602   if (ntf == SESSION_CLEANUP_TRANSPORT)
 603     return;
 604
 605   app_wrk = app_worker_get_if_valid (s->app_wrk_index);
 606   if (!app_wrk)
 607     return;
 608
 609   app_mq = app_wrk->event_queue;
 610   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 611     return;
 612
 613   evt = svm_msg_q_msg_data (app_mq, msg);
 614   clib_memset (evt, 0, sizeof (*evt));
 615   evt->event_type = SESSION_CTRL_EVT_CLEANUP;
 616   mp = (session_cleanup_msg_t *) evt->data;
 617   mp->handle = session_handle (s);
 618   svm_msg_q_add_and_unlock (app_mq, msg);
 619 }
 620
 621 /* ### WILL BE DEPRECATED POST 20.01 ### */
 622 static session_cb_vft_t session_mq_cb_vft_old = {
 623   .session_accept_callback = mq_send_session_accepted_cb,
 624   .session_disconnect_callback = mq_send_session_disconnected_cb,
 625   .session_connected_callback = mq_send_session_connected_cb,
 626   .session_reset_callback = mq_send_session_reset_cb,
 627   .session_migrate_callback = mq_send_session_migrate_cb,
 628   .add_segment_callback = send_add_segment_callback,
 629   .del_segment_callback = send_del_segment_callback,
 630 };
 631
 632 static session_cb_vft_t session_mq_cb_vft = {
 633   .session_accept_callback = mq_send_session_accepted_cb,
 634   .session_disconnect_callback = mq_send_session_disconnected_cb,
 635   .session_connected_callback = mq_send_session_connected_cb,
 636   .session_reset_callback = mq_send_session_reset_cb,
 637   .session_migrate_callback = mq_send_session_migrate_cb,
 638   .session_cleanup_callback = mq_send_session_cleanup_cb,
 639   .add_segment_callback = mq_send_add_segment_cb,
 640   .del_segment_callback = mq_send_del_segment_cb,
 641 };
 642
 643 static void
 644 vl_api_session_enable_disable_t_handler (vl_api_session_enable_disable_t * mp)
 645 {
 646   vl_api_session_enable_disable_reply_t *rmp;
 647   vlib_main_t *vm = vlib_get_main ();
 648   int rv = 0;
 649
 650   vnet_session_enable_disable (vm, mp->is_enable);
 651   REPLY_MACRO (VL_API_SESSION_ENABLE_DISABLE_REPLY);
 652 }
 653
 654 /* ### WILL BE DEPRECATED POST 20.01 ### */
 655 static void
 656 vl_api_application_attach_t_handler (vl_api_application_attach_t * mp)
 657 {
 658   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
 659   vl_api_application_attach_reply_t *rmp;
 660   ssvm_private_t *segp, *evt_q_segment;
 661   vnet_app_attach_args_t _a, *a = &_a;
 662   vl_api_registration_t *reg;
 663   u8 fd_flags = 0;
 664
 665   reg = vl_api_client_index_to_registration (mp->client_index);
 666   if (!reg)
 667     return;
 668
 669   if (session_main_is_enabled () == 0)
 670     {
 671       rv = VNET_API_ERROR_FEATURE_DISABLED;
 672       goto done;
 673     }
 674
 675   STATIC_ASSERT (sizeof (u64) * APP_OPTIONS_N_OPTIONS <=
 676                  sizeof (mp->options),
 677                  "Out of options, fix api message definition");
 678
 679   clib_memset (a, 0, sizeof (*a));
 680   a->api_client_index = mp->client_index;
 681   a->options = mp->options;
 682   a->session_cb_vft = &session_mq_cb_vft_old;
 683   if (mp->namespace_id_len > 64)
 684     {
 685       rv = VNET_API_ERROR_INVALID_VALUE;
 686       goto done;
 687     }
 688
 689   if (mp->namespace_id_len)
 690     {
 691       vec_validate (a->namespace_id, mp->namespace_id_len - 1);
 692       clib_memcpy_fast (a->namespace_id, mp->namespace_id,
 693                         mp->namespace_id_len);
 694     }
 695
 696   if ((rv = vnet_application_attach (a)))
 697     {
 698       clib_warning ("attach returned: %d", rv);
 699       vec_free (a->namespace_id);
 700       goto done;
 701     }
 702   vec_free (a->namespace_id);
 703
 704   /* Send event queues segment */
 705   if ((evt_q_segment = session_main_get_evt_q_segment ()))
 706     {
 707       fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
 708       fds[n_fds] = evt_q_segment->fd;
 709       n_fds += 1;
 710     }
 711   /* Send fifo segment fd if needed */
 712   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
 713     {
 714       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 715       fds[n_fds] = a->segment->fd;
 716       n_fds += 1;
 717     }
 718   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
 719     {
 720       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 721       fds[n_fds] = svm_msg_q_get_producer_eventfd (a->app_evt_q);
 722       n_fds += 1;
 723     }
 724
 725 done:
 726
 727   /* *INDENT-OFF* */
 728   REPLY_MACRO2 (VL_API_APPLICATION_ATTACH_REPLY, ({
 729     if (!rv)
 730       {
 731         segp = a->segment;
 732         rmp->app_index = clib_host_to_net_u32 (a->app_index);
 733         rmp->segment_name_length = 0;
 734         rmp->segment_size = segp->ssvm_size;
 735         if (vec_len (segp->name))
 736           {
 737             memcpy (rmp->segment_name, segp->name, vec_len (segp->name));
 738             rmp->segment_name_length = vec_len (segp->name);
 739           }
 740         rmp->app_event_queue_address = pointer_to_uword (a->app_evt_q);
 741         rmp->n_fds = n_fds;
 742         rmp->fd_flags = fd_flags;
 743         rmp->segment_handle = clib_host_to_net_u64 (a->segment_handle);
 744       }
 745   }));
 746   /* *INDENT-ON* */
 747
 748   if (n_fds)
 749     session_send_fds (reg, fds, n_fds);
 750 }
 751
 752 static void
 753 vl_api_app_attach_t_handler (vl_api_app_attach_t * mp)
 754 {
 755   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
 756   vl_api_app_attach_reply_t *rmp;
 757   ssvm_private_t *segp, *evt_q_segment;
 758   vnet_app_attach_args_t _a, *a = &_a;
 759   u8 fd_flags = 0, ctrl_thread;
 760   vl_api_registration_t *reg;
 761   svm_msg_q_t *ctrl_mq;
 762
 763   reg = vl_api_client_index_to_registration (mp->client_index);
 764   if (!reg)
 765     return;
 766
 767   if (session_main_is_enabled () == 0)
 768     {
 769       rv = VNET_API_ERROR_FEATURE_DISABLED;
 770       goto done;
 771     }
 772
 773   STATIC_ASSERT (sizeof (u64) * APP_OPTIONS_N_OPTIONS <=
 774                  sizeof (mp->options),
 775                  "Out of options, fix api message definition");
 776
 777   clib_memset (a, 0, sizeof (*a));
 778   a->api_client_index = mp->client_index;
 779   a->options = mp->options;
 780   a->session_cb_vft = &session_mq_cb_vft;
 781   if (mp->namespace_id_len > 64)
 782     {
 783       rv = VNET_API_ERROR_INVALID_VALUE;
 784       goto done;
 785     }
 786
 787   if (mp->namespace_id_len)
 788     {
 789       vec_validate (a->namespace_id, mp->namespace_id_len - 1);
 790       clib_memcpy_fast (a->namespace_id, mp->namespace_id,
 791                         mp->namespace_id_len);
 792     }
 793
 794   if ((rv = vnet_application_attach (a)))
 795     {
 796       clib_warning ("attach returned: %d", rv);
 797       vec_free (a->namespace_id);
 798       goto done;
 799     }
 800   vec_free (a->namespace_id);
 801
 802   /* Send event queues segment */
 803   if ((evt_q_segment = session_main_get_evt_q_segment ()))
 804     {
 805       fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
 806       fds[n_fds] = evt_q_segment->fd;
 807       n_fds += 1;
 808     }
 809   /* Send fifo segment fd if needed */
 810   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
 811     {
 812       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 813       fds[n_fds] = a->segment->fd;
 814       n_fds += 1;
 815     }
 816   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
 817     {
 818       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 819       fds[n_fds] = svm_msg_q_get_producer_eventfd (a->app_evt_q);
 820       n_fds += 1;
 821     }
 822
 823 done:
 824   /* *INDENT-OFF* */
 825   REPLY_MACRO2 (VL_API_APP_ATTACH_REPLY, ({
 826     if (!rv)
 827       {
 828         ctrl_thread = vlib_num_workers () ? 1 : 0;
 829         ctrl_mq = session_main_get_vpp_event_queue (ctrl_thread);
 830         segp = a->segment;
 831         rmp->app_index = clib_host_to_net_u32 (a->app_index);
 832         rmp->app_mq = pointer_to_uword (a->app_evt_q);
 833         rmp->vpp_ctrl_mq = pointer_to_uword (ctrl_mq);
 834         rmp->vpp_ctrl_mq_thread = ctrl_thread;
 835         rmp->n_fds = n_fds;
 836         rmp->fd_flags = fd_flags;
 837         if (vec_len (segp->name))
 838           {
 839             memcpy (rmp->segment_name, segp->name, vec_len (segp->name));
 840             rmp->segment_name_length = vec_len (segp->name);
 841           }
 842         rmp->segment_size = segp->ssvm_size;
 843         rmp->segment_handle = clib_host_to_net_u64 (a->segment_handle);
 844       }
 845   }));
 846   /* *INDENT-ON* */
 847
 848   if (n_fds)
 849     session_send_fds (reg, fds, n_fds);
 850 }
 851
 852 /* ### WILL BE DEPRECATED POST 20.01 ### */
 853 static void
 854 vl_api_application_detach_t_handler (vl_api_application_detach_t * mp)
 855 {
 856   vl_api_application_detach_reply_t *rmp;
 857   int rv = VNET_API_ERROR_INVALID_VALUE_2;
 858   vnet_app_detach_args_t _a, *a = &_a;
 859   application_t *app;
 860
 861   if (session_main_is_enabled () == 0)
 862     {
 863       rv = VNET_API_ERROR_FEATURE_DISABLED;
 864       goto done;
 865     }
 866
 867   app = application_lookup (mp->client_index);
 868   if (app)
 869     {
 870       a->app_index = app->app_index;
 871       a->api_client_index = mp->client_index;
 872       rv = vnet_application_detach (a);
 873     }
 874
 875 done:
 876   REPLY_MACRO (VL_API_APPLICATION_DETACH_REPLY);
 877 }
 878
 879 /* ### WILL BE DEPRECATED POST 20.01 ### */
 880 static void
 881 vl_api_bind_uri_t_handler (vl_api_bind_uri_t * mp)
 882 {
 883   vl_api_bind_uri_reply_t *rmp;
 884   vnet_listen_args_t _a, *a = &_a;
 885   application_t *app = 0;
 886   app_worker_t *app_wrk;
 887   int rv;
 888
 889   if (session_main_is_enabled () == 0)
 890     {
 891       rv = VNET_API_ERROR_FEATURE_DISABLED;
 892       goto done;
 893     }
 894
 895   app = application_lookup (mp->client_index);
 896   if (app)
 897     {
 898       clib_memset (a, 0, sizeof (*a));
 899       a->uri = (char *) mp->uri;
 900       a->app_index = app->app_index;
 901       rv = vnet_bind_uri (a);
 902     }
 903   else
 904     {
 905       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 906     }
 907
 908 done:
 909
 910   REPLY_MACRO (VL_API_BIND_URI_REPLY);
 911
 912   if (app)
 913     {
 914       app_wrk = application_get_worker (app, 0);
 915       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
 916                                 rv);
 917     }
 918 }
 919
 920 /* ### WILL BE DEPRECATED POST 20.01 ### */
 921 static void
 922 vl_api_unbind_uri_t_handler (vl_api_unbind_uri_t * mp)
 923 {
 924   vl_api_unbind_uri_reply_t *rmp;
 925   application_t *app;
 926   vnet_unlisten_args_t _a, *a = &_a;
 927   int rv;
 928
 929   if (session_main_is_enabled () == 0)
 930     {
 931       rv = VNET_API_ERROR_FEATURE_DISABLED;
 932       goto done;
 933     }
 934
 935   app = application_lookup (mp->client_index);
 936   if (app)
 937     {
 938       a->uri = (char *) mp->uri;
 939       a->app_index = app->app_index;
 940       a->wrk_map_index = 0;
 941       rv = vnet_unbind_uri (a);
 942     }
 943   else
 944     {
 945       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 946     }
 947
 948 done:
 949   REPLY_MACRO (VL_API_UNBIND_URI_REPLY);
 950 }
 951
 952 /* ### WILL BE DEPRECATED POST 20.01 ### */
 953 static void
 954 vl_api_connect_uri_t_handler (vl_api_connect_uri_t * mp)
 955 {
 956   vl_api_connect_uri_reply_t *rmp;
 957   vnet_connect_args_t _a, *a = &_a;
 958   application_t *app;
 959   int rv = 0;
 960
 961   if (session_main_is_enabled () == 0)
 962     {
 963       rv = VNET_API_ERROR_FEATURE_DISABLED;
 964       goto done;
 965     }
 966
 967   app = application_lookup (mp->client_index);
 968   if (app)
 969     {
 970       clib_memset (a, 0, sizeof (*a));
 971       a->uri = (char *) mp->uri;
 972       a->api_context = mp->context;
 973       a->app_index = app->app_index;
 974       if ((rv = vnet_connect_uri (a)))
 975         clib_warning ("connect_uri returned: %d", rv);
 976     }
 977   else
 978     {
 979       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 980     }
 981
 982   /*
 983    * Don't reply to stream (tcp) connects. The reply will come once
 984    * the connection is established. In case of the redirects, the reply
 985    * will come from the server app.
 986    */
 987   if (rv == 0)
 988     return;
 989
 990 done:
 991   REPLY_MACRO (VL_API_CONNECT_URI_REPLY);
 992 }
 993
 994 /* ### WILL BE DEPRECATED POST 20.01 ### */
 995 static void
 996 vl_api_disconnect_session_t_handler (vl_api_disconnect_session_t * mp)
 997 {
 998   vl_api_disconnect_session_reply_t *rmp;
 999   vnet_disconnect_args_t _a, *a = &_a;
1000   application_t *app;
1001   int rv = 0;
1002
1003   if (session_main_is_enabled () == 0)
1004     {
1005       rv = VNET_API_ERROR_FEATURE_DISABLED;
1006       goto done;
1007     }
1008
1009   app = application_lookup (mp->client_index);
1010   if (app)
1011     {
1012       a->handle = mp->handle;
1013       a->app_index = app->app_index;
1014       rv = vnet_disconnect_session (a);
1015     }
1016   else
1017     {
1018       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1019     }
1020
1021 done:
1022   REPLY_MACRO2 (VL_API_DISCONNECT_SESSION_REPLY, rmp->handle = mp->handle);
1023 }
1024
1025 /* ### WILL BE DEPRECATED POST 20.01 ### */
1026 static void
1027 vl_api_disconnect_session_reply_t_handler (vl_api_disconnect_session_reply_t *
1028                                            mp)
1029 {
1030   vnet_disconnect_args_t _a, *a = &_a;
1031   application_t *app;
1032
1033   /* Client objected to disconnecting the session, log and continue */
1034   if (mp->retval)
1035     {
1036       clib_warning ("client retval %d", mp->retval);
1037       return;
1038     }
1039
1040   /* Disconnect has been confirmed. Confirm close to transport */
1041   app = application_lookup (mp->context);
1042   if (app)
1043     {
1044       a->handle = mp->handle;
1045       a->app_index = app->app_index;
1046       vnet_disconnect_session (a);
1047     }
1048 }
1049
1050 /* ### WILL BE DEPRECATED POST 20.01 ### */
1051 static void
1052 vl_api_map_another_segment_reply_t_handler (vl_api_map_another_segment_reply_t
1053                                             * mp)
1054 {
1055   clib_warning ("not implemented");
1056 }
1057
1058 /* ### WILL BE DEPRECATED POST 20.01 ### */
1059 static void
1060 vl_api_bind_sock_t_handler (vl_api_bind_sock_t * mp)
1061 {
1062   vnet_listen_args_t _a, *a = &_a;
1063   vl_api_bind_sock_reply_t *rmp;
1064   application_t *app = 0;
1065   app_worker_t *app_wrk;
1066   ip46_address_t *ip46;
1067   int rv = 0;
1068
1069   if (session_main_is_enabled () == 0)
1070     {
1071       rv = VNET_API_ERROR_FEATURE_DISABLED;
1072       goto done;
1073     }
1074
1075   app = application_lookup (mp->client_index);
1076   if (!app)
1077     {
1078       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1079       goto done;
1080     }
1081
1082   ip46 = (ip46_address_t *) mp->ip;
1083   clib_memset (a, 0, sizeof (*a));
1084   a->sep.is_ip4 = mp->is_ip4;
1085   a->sep.ip = *ip46;
1086   a->sep.port = mp->port;
1087   a->sep.fib_index = mp->vrf;
1088   a->sep.sw_if_index = ENDPOINT_INVALID_INDEX;
1089   a->sep.transport_proto = mp->proto;
1090   a->app_index = app->app_index;
1091   a->wrk_map_index = mp->wrk_index;
1092
1093   if ((rv = vnet_listen (a)))
1094     clib_warning ("listen returned: %d", rv);
1095
1096 done:
1097   /* Actual reply sent only over mq */
1098   REPLY_MACRO (VL_API_BIND_SOCK_REPLY);
1099
1100   if (app)
1101     {
1102       app_wrk = application_get_worker (app, mp->wrk_index);
1103       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
1104                                 rv);
1105     }
1106 }
1107
1108 /* ### WILL BE DEPRECATED POST 20.01 ### */
1109 static void
1110 vl_api_unbind_sock_t_handler (vl_api_unbind_sock_t * mp)
1111 {
1112   vl_api_unbind_sock_reply_t *rmp;
1113   vnet_unlisten_args_t _a, *a = &_a;
1114   app_worker_t *app_wrk;
1115   application_t *app = 0;
1116   int rv = 0;
1117
1118   if (session_main_is_enabled () == 0)
1119     {
1120       rv = VNET_API_ERROR_FEATURE_DISABLED;
1121       goto done;
1122     }
1123
1124   app = application_lookup (mp->client_index);
1125   if (app)
1126     {
1127       a->app_index = app->app_index;
1128       a->handle = mp->handle;
1129       a->wrk_map_index = mp->wrk_index;
1130       if ((rv = vnet_unlisten (a)))
1131         clib_warning ("unlisten returned: %d", rv);
1132     }
1133   else
1134     {
1135       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1136     }
1137
1138 done:
1139   REPLY_MACRO (VL_API_UNBIND_SOCK_REPLY);
1140
1141   if (!app)
1142     return;
1143
1144   app_wrk = application_get_worker (app, a->wrk_map_index);
1145   if (!app_wrk)
1146     return;
1147
1148   mq_send_unlisten_reply (app_wrk, mp->handle, mp->context, rv);
1149 }
1150
1151 /* ### WILL BE DEPRECATED POST 20.01 ### */
1152 static void
1153 vl_api_connect_sock_t_handler (vl_api_connect_sock_t * mp)
1154 {
1155   vl_api_connect_sock_reply_t *rmp;
1156   vnet_connect_args_t _a, *a = &_a;
1157   application_t *app = 0;
1158   int rv = 0;
1159
1160   if (session_main_is_enabled () == 0)
1161     {
1162       rv = VNET_API_ERROR_FEATURE_DISABLED;
1163       goto done;
1164     }
1165
1166   app = application_lookup (mp->client_index);
1167   if (app)
1168     {
1169       svm_queue_t *client_q;
1170       ip46_address_t *ip46 = (ip46_address_t *) mp->ip;
1171
1172       clib_memset (a, 0, sizeof (*a));
1173       client_q = vl_api_client_index_to_input_queue (mp->client_index);
1174       mp->client_queue_address = pointer_to_uword (client_q);
1175       a->sep.is_ip4 = mp->is_ip4;
1176       a->sep.ip = *ip46;
1177       a->sep.port = mp->port;
1178       a->sep.transport_proto = mp->proto;
1179       a->sep.peer.fib_index = mp->vrf;
1180       a->sep.peer.sw_if_index = ENDPOINT_INVALID_INDEX;
1181       a->sep_ext.parent_handle = mp->parent_handle;
1182       if (mp->hostname_len)
1183         {
1184           vec_validate (a->sep_ext.hostname, mp->hostname_len - 1);
1185           clib_memcpy_fast (a->sep_ext.hostname, mp->hostname,
1186                             mp->hostname_len);
1187         }
1188       a->api_context = mp->context;
1189       a->app_index = app->app_index;
1190       a->wrk_map_index = mp->wrk_index;
1191       if ((rv = vnet_connect (a)))
1192         clib_warning ("connect returned: %U", format_vnet_api_errno, rv);
1193       vec_free (a->sep_ext.hostname);
1194     }
1195   else
1196     {
1197       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1198     }
1199
1200   if (rv == 0)
1201     return;
1202
1203   /* Got some error, relay it */
1204
1205 done:
1206   REPLY_MACRO (VL_API_CONNECT_SOCK_REPLY);
1207
1208   if (app)
1209     {
1210       app_worker_t *app_wrk = application_get_worker (app, mp->wrk_index);
1211       mq_send_session_connected_cb (app_wrk->wrk_index, mp->context, 0, 1);
1212     }
1213 }
1214
1215 static void
1216 vl_api_app_worker_add_del_t_handler (vl_api_app_worker_add_del_t * mp)
1217 {
1218   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
1219   vl_api_app_worker_add_del_reply_t *rmp;
1220   vl_api_registration_t *reg;
1221   application_t *app;
1222   u8 fd_flags = 0;
1223
1224   if (session_main_is_enabled () == 0)
1225     {
1226       rv = VNET_API_ERROR_FEATURE_DISABLED;
1227       goto done;
1228     }
1229
1230   reg = vl_api_client_index_to_registration (mp->client_index);
1231   if (!reg)
1232     return;
1233
1234   app = application_get_if_valid (clib_net_to_host_u32 (mp->app_index));
1235   if (!app)
1236     {
1237       rv = VNET_API_ERROR_INVALID_VALUE;
1238       goto done;
1239     }
1240
1241   vnet_app_worker_add_del_args_t args = {
1242     .app_index = app->app_index,
1243     .wrk_map_index = clib_net_to_host_u32 (mp->wrk_index),
1244     .api_client_index = mp->client_index,
1245     .is_add = mp->is_add
1246   };
1247   rv = vnet_app_worker_add_del (&args);
1248   if (rv)
1249     {
1250       clib_warning ("app worker add/del returned: %d", rv);
1251       goto done;
1252     }
1253
1254   if (!mp->is_add)
1255     goto done;
1256
1257   /* Send fifo segment fd if needed */
1258   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
1259     {
1260       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1261       fds[n_fds] = args.segment->fd;
1262       n_fds += 1;
1263     }
1264   if (application_segment_manager_properties (app)->use_mq_eventfd)
1265     {
1266       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1267       fds[n_fds] = svm_msg_q_get_producer_eventfd (args.evt_q);
1268       n_fds += 1;
1269     }
1270
1271   /* *INDENT-OFF* */
1272 done:
1273   REPLY_MACRO2 (VL_API_APP_WORKER_ADD_DEL_REPLY, ({
1274     rmp->is_add = mp->is_add;
1275     rmp->wrk_index = clib_host_to_net_u32 (args.wrk_map_index);
1276     rmp->segment_handle = clib_host_to_net_u64 (args.segment_handle);
1277     if (!rv && mp->is_add)
1278       {
1279         if (vec_len (args.segment->name))
1280           {
1281             memcpy (rmp->segment_name, args.segment->name,
1282                     vec_len (args.segment->name));
1283             rmp->segment_name_length = vec_len (args.segment->name);
1284           }
1285         rmp->app_event_queue_address = pointer_to_uword (args.evt_q);
1286         rmp->n_fds = n_fds;
1287         rmp->fd_flags = fd_flags;
1288       }
1289   }));
1290   /* *INDENT-ON* */
1291
1292   if (n_fds)
1293     session_send_fds (reg, fds, n_fds);
1294 }
1295
1296 static void
1297 vl_api_app_namespace_add_del_t_handler (vl_api_app_namespace_add_del_t * mp)
1298 {
1299   vl_api_app_namespace_add_del_reply_t *rmp;
1300   u32 appns_index = 0;
1301   u8 *ns_id = 0;
1302   int rv = 0;
1303   if (session_main_is_enabled () == 0)
1304     {
1305       rv = VNET_API_ERROR_FEATURE_DISABLED;
1306       goto done;
1307     }
1308
1309   if (mp->namespace_id_len > ARRAY_LEN (mp->namespace_id))
1310     {
1311       rv = VNET_API_ERROR_INVALID_VALUE;
1312       goto done;
1313     }
1314
1315   vec_validate (ns_id, mp->namespace_id_len - 1);
1316   clib_memcpy_fast (ns_id, mp->namespace_id, mp->namespace_id_len);
1317   vnet_app_namespace_add_del_args_t args = {
1318     .ns_id = ns_id,
1319     .secret = clib_net_to_host_u64 (mp->secret),
1320     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
1321     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
1322     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
1323     .is_add = 1
1324   };
1325   rv = vnet_app_namespace_add_del (&args);
1326   if (!rv)
1327     {
1328       appns_index = app_namespace_index_from_id (ns_id);
1329       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
1330         {
1331           clib_warning ("app ns lookup failed");
1332           rv = VNET_API_ERROR_UNSPECIFIED;
1333         }
1334     }
1335   vec_free (ns_id);
1336
1337   /* *INDENT-OFF* */
1338 done:
1339   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_REPLY, ({
1340     if (!rv)
1341       rmp->appns_index = clib_host_to_net_u32 (appns_index);
1342   }));
1343   /* *INDENT-ON* */
1344 }
1345
1346 static void
1347 vl_api_session_rule_add_del_t_handler (vl_api_session_rule_add_del_t * mp)
1348 {
1349   vl_api_session_rule_add_del_reply_t *rmp;
1350   session_rule_add_del_args_t args;
1351   session_rule_table_add_del_args_t *table_args = &args.table_args;
1352   u8 fib_proto;
1353   int rv = 0;
1354
1355   clib_memset (&args, 0, sizeof (args));
1356   fib_proto = mp->is_ip4 ? FIB_PROTOCOL_IP4 : FIB_PROTOCOL_IP6;
1357
1358   table_args->lcl.fp_len = mp->lcl_plen;
1359   table_args->lcl.fp_proto = fib_proto;
1360   table_args->rmt.fp_len = mp->rmt_plen;
1361   table_args->rmt.fp_proto = fib_proto;
1362   table_args->lcl_port = mp->lcl_port;
1363   table_args->rmt_port = mp->rmt_port;
1364   table_args->action_index = clib_net_to_host_u32 (mp->action_index);
1365   table_args->is_add = mp->is_add;
1366   mp->tag[sizeof (mp->tag) - 1] = 0;
1367   table_args->tag = format (0, "%s", mp->tag);
1368   args.appns_index = clib_net_to_host_u32 (mp->appns_index);
1369   args.scope = mp->scope;
1370   args.transport_proto = mp->transport_proto;
1371
1372   clib_memset (&table_args->lcl.fp_addr, 0, sizeof (table_args->lcl.fp_addr));
1373   clib_memset (&table_args->rmt.fp_addr, 0, sizeof (table_args->rmt.fp_addr));
1374   ip_set (&table_args->lcl.fp_addr, mp->lcl_ip, mp->is_ip4);
1375   ip_set (&table_args->rmt.fp_addr, mp->rmt_ip, mp->is_ip4);
1376   rv = vnet_session_rule_add_del (&args);
1377   if (rv)
1378     clib_warning ("rule add del returned: %d", rv);
1379   vec_free (table_args->tag);
1380   REPLY_MACRO (VL_API_SESSION_RULE_ADD_DEL_REPLY);
1381 }
1382
1383 static void
1384 send_session_rule_details4 (mma_rule_16_t * rule, u8 is_local,
1385                             u8 transport_proto, u32 appns_index, u8 * tag,
1386                             vl_api_registration_t * reg, u32 context)
1387 {
1388   vl_api_session_rules_details_t *rmp = 0;
1389   session_mask_or_match_4_t *match =
1390     (session_mask_or_match_4_t *) & rule->match;
1391   session_mask_or_match_4_t *mask =
1392     (session_mask_or_match_4_t *) & rule->mask;
1393
1394   rmp = vl_msg_api_alloc (sizeof (*rmp));
1395   clib_memset (rmp, 0, sizeof (*rmp));
1396   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1397   rmp->context = context;
1398
1399   rmp->is_ip4 = 1;
1400   clib_memcpy_fast (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1401   clib_memcpy_fast (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1402   rmp->lcl_plen = ip4_mask_to_preflen (&mask->lcl_ip);
1403   rmp->rmt_plen = ip4_mask_to_preflen (&mask->rmt_ip);
1404   rmp->lcl_port = match->lcl_port;
1405   rmp->rmt_port = match->rmt_port;
1406   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1407   rmp->scope =
1408     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1409   rmp->transport_proto = transport_proto;
1410   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1411   if (tag)
1412     {
1413       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1414       rmp->tag[vec_len (tag)] = 0;
1415     }
1416
1417   vl_api_send_msg (reg, (u8 *) rmp);
1418 }
1419
1420 static void
1421 send_session_rule_details6 (mma_rule_40_t * rule, u8 is_local,
1422                             u8 transport_proto, u32 appns_index, u8 * tag,
1423                             vl_api_registration_t * reg, u32 context)
1424 {
1425   vl_api_session_rules_details_t *rmp = 0;
1426   session_mask_or_match_6_t *match =
1427     (session_mask_or_match_6_t *) & rule->match;
1428   session_mask_or_match_6_t *mask =
1429     (session_mask_or_match_6_t *) & rule->mask;
1430
1431   rmp = vl_msg_api_alloc (sizeof (*rmp));
1432   clib_memset (rmp, 0, sizeof (*rmp));
1433   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1434   rmp->context = context;
1435
1436   rmp->is_ip4 = 0;
1437   clib_memcpy_fast (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1438   clib_memcpy_fast (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1439   rmp->lcl_plen = ip6_mask_to_preflen (&mask->lcl_ip);
1440   rmp->rmt_plen = ip6_mask_to_preflen (&mask->rmt_ip);
1441   rmp->lcl_port = match->lcl_port;
1442   rmp->rmt_port = match->rmt_port;
1443   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1444   rmp->scope =
1445     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1446   rmp->transport_proto = transport_proto;
1447   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1448   if (tag)
1449     {
1450       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1451       rmp->tag[vec_len (tag)] = 0;
1452     }
1453
1454   vl_api_send_msg (reg, (u8 *) rmp);
1455 }
1456
1457 static void
1458 send_session_rules_table_details (session_rules_table_t * srt, u8 fib_proto,
1459                                   u8 tp, u8 is_local, u32 appns_index,
1460                                   vl_api_registration_t * reg, u32 context)
1461 {
1462   mma_rule_16_t *rule16;
1463   mma_rule_40_t *rule40;
1464   mma_rules_table_16_t *srt16;
1465   mma_rules_table_40_t *srt40;
1466   u32 ri;
1467
1468   if (is_local || fib_proto == FIB_PROTOCOL_IP4)
1469     {
1470       u8 *tag = 0;
1471       /* *INDENT-OFF* */
1472       srt16 = &srt->session_rules_tables_16;
1473       pool_foreach (rule16, srt16->rules, ({
1474         ri = mma_rules_table_rule_index_16 (srt16, rule16);
1475         tag = session_rules_table_rule_tag (srt, ri, 1);
1476         send_session_rule_details4 (rule16, is_local, tp, appns_index, tag,
1477                                     reg, context);
1478       }));
1479       /* *INDENT-ON* */
1480     }
1481   if (is_local || fib_proto == FIB_PROTOCOL_IP6)
1482     {
1483       u8 *tag = 0;
1484       /* *INDENT-OFF* */
1485       srt40 = &srt->session_rules_tables_40;
1486       pool_foreach (rule40, srt40->rules, ({
1487         ri = mma_rules_table_rule_index_40 (srt40, rule40);
1488         tag = session_rules_table_rule_tag (srt, ri, 1);
1489         send_session_rule_details6 (rule40, is_local, tp, appns_index, tag,
1490                                     reg, context);
1491       }));
1492       /* *INDENT-ON* */
1493     }
1494 }
1495
1496 static void
1497 vl_api_session_rules_dump_t_handler (vl_api_one_map_server_dump_t * mp)
1498 {
1499   vl_api_registration_t *reg;
1500   session_table_t *st;
1501   u8 tp;
1502
1503   reg = vl_api_client_index_to_registration (mp->client_index);
1504   if (!reg)
1505     return;
1506
1507   /* *INDENT-OFF* */
1508   session_table_foreach (st, ({
1509     for (tp = 0; tp < TRANSPORT_N_PROTO; tp++)
1510       {
1511         send_session_rules_table_details (&st->session_rules[tp],
1512                                           st->active_fib_proto, tp,
1513                                           st->is_local, st->appns_index, reg,
1514                                           mp->context);
1515       }
1516   }));
1517   /* *INDENT-ON* */
1518 }
1519
1520 static void
1521 vl_api_app_add_cert_key_pair_t_handler (vl_api_app_add_cert_key_pair_t * mp)
1522 {
1523   vl_api_app_add_cert_key_pair_reply_t *rmp;
1524   vnet_app_add_cert_key_pair_args_t _a, *a = &_a;
1525   u32 certkey_len, key_len, cert_len;
1526   int rv = 0;
1527   if (session_main_is_enabled () == 0)
1528     {
1529       rv = VNET_API_ERROR_FEATURE_DISABLED;
1530       goto done;
1531     }
1532
1533   cert_len = clib_net_to_host_u16 (mp->cert_len);
1534   if (cert_len > 10000)
1535     {
1536       rv = VNET_API_ERROR_INVALID_VALUE;
1537       goto done;
1538     }
1539
1540   certkey_len = clib_net_to_host_u16 (mp->certkey_len);
1541   if (certkey_len < cert_len)
1542     {
1543       rv = VNET_API_ERROR_INVALID_VALUE;
1544       goto done;
1545     }
1546
1547   key_len = certkey_len - cert_len;
1548   if (key_len > 10000)
1549     {
1550       rv = VNET_API_ERROR_INVALID_VALUE;
1551       goto done;
1552     }
1553
1554   clib_memset (a, 0, sizeof (*a));
1555   vec_validate (a->cert, cert_len);
1556   vec_validate (a->key, key_len);
1557   clib_memcpy_fast (a->cert, mp->certkey, cert_len);
1558   clib_memcpy_fast (a->key, mp->certkey + cert_len, key_len);
1559   rv = vnet_app_add_cert_key_pair (a);
1560   vec_free (a->cert);
1561   vec_free (a->key);
1562
1563 done:
1564   /* *INDENT-OFF* */
1565   REPLY_MACRO2 (VL_API_APP_ADD_CERT_KEY_PAIR_REPLY, ({
1566     if (!rv)
1567       rmp->index = clib_host_to_net_u32 (a->index);
1568   }));
1569   /* *INDENT-ON* */
1570 }
1571
1572 static void
1573 vl_api_app_del_cert_key_pair_t_handler (vl_api_app_del_cert_key_pair_t * mp)
1574 {
1575   vl_api_app_del_cert_key_pair_reply_t *rmp;
1576   u32 ckpair_index;
1577   int rv = 0;
1578   if (session_main_is_enabled () == 0)
1579     {
1580       rv = VNET_API_ERROR_FEATURE_DISABLED;
1581       goto done;
1582     }
1583   ckpair_index = clib_net_to_host_u32 (mp->index);
1584   rv = vnet_app_del_cert_key_pair (ckpair_index);
1585
1586 done:
1587   REPLY_MACRO (VL_API_APP_DEL_CERT_KEY_PAIR_REPLY);
1588 }
1589
1590 /* ### WILL BE DEPRECATED POST 20.01 ### */
1591 static void
1592 vl_api_application_tls_cert_add_t_handler (vl_api_application_tls_cert_add_t *
1593                                            mp)
1594 {
1595   vl_api_application_tls_cert_add_reply_t *rmp;
1596   app_cert_key_pair_t *ckpair;
1597   application_t *app;
1598   u32 cert_len;
1599   int rv = 0;
1600   if (session_main_is_enabled () == 0)
1601     {
1602       rv = VNET_API_ERROR_FEATURE_DISABLED;
1603       goto done;
1604     }
1605   if (!(app = application_lookup (mp->client_index)))
1606     {
1607       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1608       goto done;
1609     }
1610   cert_len = clib_net_to_host_u16 (mp->cert_len);
1611   if (cert_len > 10000)
1612     {
1613       rv = VNET_API_ERROR_INVALID_VALUE;
1614       goto done;
1615     }
1616   ckpair = app_cert_key_pair_get_default ();
1617   vec_validate (ckpair->cert, cert_len);
1618   clib_memcpy_fast (ckpair->cert, mp->cert, cert_len);
1619
1620 done:
1621   REPLY_MACRO (VL_API_APPLICATION_TLS_CERT_ADD_REPLY);
1622 }
1623
1624 /* ### WILL BE DEPRECATED POST 20.01 ### */
1625 static void
1626 vl_api_application_tls_key_add_t_handler (vl_api_application_tls_key_add_t *
1627                                           mp)
1628 {
1629   vl_api_application_tls_key_add_reply_t *rmp;
1630   app_cert_key_pair_t *ckpair;
1631   application_t *app;
1632   u32 key_len;
1633   int rv = 0;
1634   if (session_main_is_enabled () == 0)
1635     {
1636       rv = VNET_API_ERROR_FEATURE_DISABLED;
1637       goto done;
1638     }
1639   if (!(app = application_lookup (mp->client_index)))
1640     {
1641       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1642       goto done;
1643     }
1644   key_len = clib_net_to_host_u16 (mp->key_len);
1645   if (key_len > 10000)
1646     {
1647       rv = VNET_API_ERROR_INVALID_VALUE;
1648       goto done;
1649     }
1650   ckpair = app_cert_key_pair_get_default ();
1651   vec_validate (ckpair->key, key_len);
1652   clib_memcpy_fast (ckpair->key, mp->key, key_len);
1653 done:
1654   REPLY_MACRO (VL_API_APPLICATION_TLS_KEY_ADD_REPLY);
1655 }
1656
1657 static clib_error_t *
1658 application_reaper_cb (u32 client_index)
1659 {
1660   application_t *app = application_lookup (client_index);
1661   vnet_app_detach_args_t _a, *a = &_a;
1662   if (app)
1663     {
1664       a->app_index = app->app_index;
1665       a->api_client_index = client_index;
1666       vnet_application_detach (a);
1667     }
1668   return 0;
1669 }
1670
1671 VL_MSG_API_REAPER_FUNCTION (application_reaper_cb);
1672
1673 #define vl_msg_name_crc_list
1674 #include <vnet/vnet_all_api_h.h>
1675 #undef vl_msg_name_crc_list
1676
1677 static void
1678 setup_message_id_table (api_main_t * am)
1679 {
1680 #define _(id,n,crc) vl_msg_api_add_msg_name_crc (am, #n "_" #crc, id);
1681   foreach_vl_msg_name_crc_session;
1682 #undef _
1683 }
1684
1685 /*
1686  * session_api_hookup
1687  * Add uri's API message handlers to the table.
1688  * vlib has already mapped shared memory and
1689  * added the client registration handlers.
1690  * See .../open-repo/vlib/memclnt_vlib.c:memclnt_process()
1691  */
1692 static clib_error_t *
1693 session_api_hookup (vlib_main_t * vm)
1694 {
1695   api_main_t *am = vlibapi_get_main ();
1696
1697 #define _(N,n)                                                  \
1698     vl_msg_api_set_handlers(VL_API_##N, #n,                     \
1699                            vl_api_##n##_t_handler,              \
1700                            vl_noop_handler,                     \
1701                            vl_api_##n##_t_endian,               \
1702                            vl_api_##n##_t_print,                \
1703                            sizeof(vl_api_##n##_t), 1);
1704   foreach_session_api_msg;
1705 #undef _
1706
1707   /*
1708    * Messages which bounce off the data-plane to
1709    * an API client. Simply tells the message handling infra not
1710    * to free the message.
1711    *
1712    * Bounced message handlers MUST NOT block the data plane
1713    */
1714   am->message_bounce[VL_API_CONNECT_URI] = 1;
1715   am->message_bounce[VL_API_CONNECT_SOCK] = 1;
1716
1717   /*
1718    * Set up the (msg_name, crc, message-id) table
1719    */
1720   setup_message_id_table (am);
1721
1722   return 0;
1723 }
1724
1725 VLIB_API_INIT_FUNCTION (session_api_hookup);
1726
1727 /*
1728  * fd.io coding-style-patch-verification: ON
1729  *
1730  * Local Variables:
1731  * eval: (c-set-style "gnu")
1732  * End:
1733  */