src/vnet/session/session_api.c

   1 /*
   2  * Copyright (c) 2015-2016 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15
  16 #include <vnet/vnet.h>
  17 #include <vlibmemory/api.h>
  18 #include <vnet/session/application.h>
  19 #include <vnet/session/application_interface.h>
  20 #include <vnet/session/session_rules_table.h>
  21 #include <vnet/session/session_table.h>
  22
  23 #include <vnet/vnet_msg_enum.h>
  24
  25 #define vl_typedefs             /* define message structures */
  26 #include <vnet/vnet_all_api_h.h>
  27 #undef vl_typedefs
  28
  29 #define vl_endianfun            /* define message structures */
  30 #include <vnet/vnet_all_api_h.h>
  31 #undef vl_endianfun
  32
  33 /* instantiate all the print functions we know about */
  34 #define vl_print(handle, ...) vlib_cli_output (handle, __VA_ARGS__)
  35 #define vl_printfun
  36 #include <vnet/vnet_all_api_h.h>
  37 #undef vl_printfun
  38
  39 #include <vlibapi/api_helper_macros.h>
  40
  41 #define foreach_session_api_msg                                         \
  42 _(MAP_ANOTHER_SEGMENT_REPLY, map_another_segment_reply)                 \
  43 _(APPLICATION_ATTACH, application_attach)                               \
  44 _(APPLICATION_DETACH, application_detach)                               \
  45 _(BIND_URI, bind_uri)                                                   \
  46 _(UNBIND_URI, unbind_uri)                                               \
  47 _(CONNECT_URI, connect_uri)                                             \
  48 _(DISCONNECT_SESSION, disconnect_session)                               \
  49 _(DISCONNECT_SESSION_REPLY, disconnect_session_reply)                   \
  50 _(ACCEPT_SESSION_REPLY, accept_session_reply)                           \
  51 _(RESET_SESSION_REPLY, reset_session_reply)                             \
  52 _(BIND_SOCK, bind_sock)                                                 \
  53 _(UNBIND_SOCK, unbind_sock)                                             \
  54 _(CONNECT_SOCK, connect_sock)                                           \
  55 _(SESSION_ENABLE_DISABLE, session_enable_disable)                       \
  56 _(APP_NAMESPACE_ADD_DEL, app_namespace_add_del)                         \
  57 _(SESSION_RULE_ADD_DEL, session_rule_add_del)                           \
  58 _(SESSION_RULES_DUMP, session_rules_dump)                               \
  59 _(APPLICATION_TLS_CERT_ADD, application_tls_cert_add)                   \
  60 _(APPLICATION_TLS_KEY_ADD, application_tls_key_add)                     \
  61 _(APP_WORKER_ADD_DEL, app_worker_add_del)                               \
  62
  63 static int
  64 session_send_fds (vl_api_registration_t * reg, int fds[], int n_fds)
  65 {
  66   clib_error_t *error;
  67   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
  68     {
  69       clib_warning ("can't send memfd fd");
  70       return -1;
  71     }
  72   error = vl_api_send_fd_msg (reg, fds, n_fds);
  73   if (error)
  74     {
  75       clib_error_report (error);
  76       return -1;
  77     }
  78   return 0;
  79 }
  80
  81 static int
  82 send_add_segment_callback (u32 api_client_index, u64 segment_handle)
  83 {
  84   int fds[SESSION_N_FD_TYPE], n_fds = 0;
  85   vl_api_map_another_segment_t *mp;
  86   svm_fifo_segment_private_t *fs;
  87   vl_api_registration_t *reg;
  88   ssvm_private_t *sp;
  89   u8 fd_flags = 0;
  90
  91   reg = vl_mem_api_client_index_to_registration (api_client_index);
  92   if (!reg)
  93     {
  94       clib_warning ("no api registration for client: %u", api_client_index);
  95       return -1;
  96     }
  97
  98   fs = segment_manager_get_segment_w_handle (segment_handle);
  99   sp = &fs->ssvm;
 100   if (ssvm_type (sp) == SSVM_SEGMENT_MEMFD)
 101     {
 102       if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
 103         {
 104           clib_warning ("can't send memfd fd");
 105           return -1;
 106         }
 107
 108       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 109       fds[n_fds] = sp->fd;
 110       n_fds += 1;
 111     }
 112
 113   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 114   clib_memset (mp, 0, sizeof (*mp));
 115   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_MAP_ANOTHER_SEGMENT);
 116   mp->segment_size = sp->ssvm_size;
 117   mp->fd_flags = fd_flags;
 118   mp->segment_handle = clib_host_to_net_u64 (segment_handle);
 119   strncpy ((char *) mp->segment_name, (char *) sp->name,
 120            sizeof (mp->segment_name) - 1);
 121
 122   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 123
 124   if (n_fds)
 125     return session_send_fds (reg, fds, n_fds);
 126
 127   return 0;
 128 }
 129
 130 static int
 131 send_del_segment_callback (u32 api_client_index, u64 segment_handle)
 132 {
 133   vl_api_unmap_segment_t *mp;
 134   vl_api_registration_t *reg;
 135
 136   reg = vl_mem_api_client_index_to_registration (api_client_index);
 137   if (!reg)
 138     {
 139       clib_warning ("no registration: %u", api_client_index);
 140       return -1;
 141     }
 142
 143   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 144   clib_memset (mp, 0, sizeof (*mp));
 145   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_UNMAP_SEGMENT);
 146   mp->segment_handle = clib_host_to_net_u64 (segment_handle);
 147   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 148
 149   return 0;
 150 }
 151
 152 static int
 153 send_app_cut_through_registration_add (u32 api_client_index,
 154                                        u32 wrk_map_index, u64 mq_addr,
 155                                        u64 peer_mq_addr)
 156 {
 157   vl_api_app_cut_through_registration_add_t *mp;
 158   vl_api_registration_t *reg;
 159   svm_msg_q_t *mq, *peer_mq;
 160   int fds[2];
 161
 162   reg = vl_mem_api_client_index_to_registration (api_client_index);
 163   if (!reg)
 164     {
 165       clib_warning ("no registration: %u", api_client_index);
 166       return -1;
 167     }
 168
 169   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 170   clib_memset (mp, 0, sizeof (*mp));
 171   mp->_vl_msg_id =
 172     clib_host_to_net_u16 (VL_API_APP_CUT_THROUGH_REGISTRATION_ADD);
 173
 174   mp->evt_q_address = mq_addr;
 175   mp->peer_evt_q_address = peer_mq_addr;
 176   mp->wrk_index = wrk_map_index;
 177
 178   mq = uword_to_pointer (mq_addr, svm_msg_q_t *);
 179   peer_mq = uword_to_pointer (peer_mq_addr, svm_msg_q_t *);
 180
 181   if (svm_msg_q_get_producer_eventfd (mq) != -1)
 182     {
 183       mp->fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 184       mp->n_fds = 2;
 185       /* app will overwrite exactly the fds we pass here. So
 186        * when we swap mq with peer_mq (accept vs connect) the
 187        * fds will still be valid */
 188       fds[0] = svm_msg_q_get_consumer_eventfd (mq);
 189       fds[1] = svm_msg_q_get_producer_eventfd (peer_mq);
 190     }
 191
 192   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 193
 194   if (mp->n_fds != 0)
 195     session_send_fds (reg, fds, mp->n_fds);
 196
 197   return 0;
 198 }
 199
 200 static int
 201 send_session_accept_callback (stream_session_t * s)
 202 {
 203   app_worker_t *server_wrk = app_worker_get (s->app_wrk_index);
 204   transport_proto_vft_t *tp_vft;
 205   vl_api_accept_session_t *mp;
 206   vl_api_registration_t *reg;
 207   transport_connection_t *tc;
 208   stream_session_t *listener;
 209   svm_msg_q_t *vpp_queue;
 210   application_t *server;
 211
 212   server = application_get (server_wrk->app_index);
 213   reg =
 214     vl_mem_api_client_index_to_registration (server_wrk->api_client_index);
 215   if (!reg)
 216     {
 217       clib_warning ("no registration: %u", server_wrk->api_client_index);
 218       return -1;
 219     }
 220
 221   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 222   clib_memset (mp, 0, sizeof (*mp));
 223
 224   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_ACCEPT_SESSION);
 225   mp->context = server_wrk->wrk_index;
 226   mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 227   mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 228
 229   if (session_has_transport (s))
 230     {
 231       listener = listen_session_get (s->listener_index);
 232       mp->listener_handle = listen_session_get_handle (listener);
 233       if (application_is_proxy (server))
 234         {
 235           listener =
 236             app_worker_first_listener (server_wrk, session_get_fib_proto (s),
 237                                        session_get_transport_proto (s));
 238           if (listener)
 239             mp->listener_handle = listen_session_get_handle (listener);
 240         }
 241       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 242       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 243       mp->handle = session_handle (s);
 244       tp_vft = transport_protocol_get_vft (session_get_transport_proto (s));
 245       tc = tp_vft->get_connection (s->connection_index, s->thread_index);
 246       mp->port = tc->rmt_port;
 247       mp->is_ip4 = tc->is_ip4;
 248       clib_memcpy_fast (&mp->ip, &tc->rmt_ip, sizeof (tc->rmt_ip));
 249     }
 250   else
 251     {
 252       local_session_t *ls = (local_session_t *) s;
 253       local_session_t *ll;
 254       if (application_local_session_listener_has_transport (ls))
 255         {
 256           listener = listen_session_get (ls->listener_index);
 257           mp->listener_handle = listen_session_get_handle (listener);
 258           mp->is_ip4 = session_type_is_ip4 (listener->session_type);
 259         }
 260       else
 261         {
 262           ll = application_get_local_listen_session (server,
 263                                                      ls->listener_index);
 264           if (ll->transport_listener_index != ~0)
 265             {
 266               listener = listen_session_get (ll->transport_listener_index);
 267               mp->listener_handle = listen_session_get_handle (listener);
 268             }
 269           else
 270             {
 271               mp->listener_handle = application_local_session_handle (ll);
 272             }
 273           mp->is_ip4 = session_type_is_ip4 (ll->listener_session_type);
 274         }
 275       mp->handle = application_local_session_handle (ls);
 276       mp->port = ls->port;
 277       mp->vpp_event_queue_address = ls->client_evt_q;
 278       mp->server_event_queue_address = ls->server_evt_q;
 279     }
 280   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 281
 282   return 0;
 283 }
 284
 285 static void
 286 send_session_disconnect_callback (stream_session_t * s)
 287 {
 288   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 289   vl_api_disconnect_session_t *mp;
 290   vl_api_registration_t *reg;
 291
 292   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 293   if (!reg)
 294     {
 295       clib_warning ("no registration: %u", app_wrk->api_client_index);
 296       return;
 297     }
 298
 299   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 300   clib_memset (mp, 0, sizeof (*mp));
 301   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_DISCONNECT_SESSION);
 302   mp->handle = session_handle (s);
 303   mp->context = app_wrk->api_client_index;
 304   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 305 }
 306
 307 static void
 308 send_session_reset_callback (stream_session_t * s)
 309 {
 310   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 311   vl_api_registration_t *reg;
 312   vl_api_reset_session_t *mp;
 313
 314   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 315   if (!reg)
 316     {
 317       clib_warning ("no registration: %u", app_wrk->api_client_index);
 318       return;
 319     }
 320
 321   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 322   clib_memset (mp, 0, sizeof (*mp));
 323   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_RESET_SESSION);
 324   mp->handle = session_handle (s);
 325   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 326 }
 327
 328 int
 329 send_session_connected_callback (u32 app_wrk_index, u32 api_context,
 330                                  stream_session_t * s, u8 is_fail)
 331 {
 332   vl_api_connect_session_reply_t *mp;
 333   transport_connection_t *tc;
 334   vl_api_registration_t *reg;
 335   svm_msg_q_t *vpp_queue;
 336   app_worker_t *app_wrk;
 337
 338   app_wrk = app_worker_get (app_wrk_index);
 339   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 340   if (!reg)
 341     {
 342       clib_warning ("no registration: %u", app_wrk->api_client_index);
 343       return -1;
 344     }
 345
 346   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 347   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_CONNECT_SESSION_REPLY);
 348   mp->context = api_context;
 349
 350   if (is_fail)
 351     goto done;
 352
 353   if (session_has_transport (s))
 354     {
 355       tc = session_get_transport (s);
 356       if (!tc)
 357         {
 358           is_fail = 1;
 359           goto done;
 360         }
 361
 362       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 363       mp->handle = session_handle (s);
 364       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 365       clib_memcpy_fast (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 366       mp->is_ip4 = tc->is_ip4;
 367       mp->lcl_port = tc->lcl_port;
 368       mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 369       mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 370     }
 371   else
 372     {
 373       local_session_t *ls = (local_session_t *) s;
 374       mp->handle = application_local_session_handle (ls);
 375       mp->lcl_port = ls->port;
 376       mp->vpp_event_queue_address = ls->server_evt_q;
 377       mp->client_event_queue_address = ls->client_evt_q;
 378       mp->server_rx_fifo = pointer_to_uword (s->server_tx_fifo);
 379       mp->server_tx_fifo = pointer_to_uword (s->server_rx_fifo);
 380     }
 381
 382 done:
 383   mp->retval = is_fail ?
 384     clib_host_to_net_u32 (VNET_API_ERROR_SESSION_CONNECT) : 0;
 385   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 386   return 0;
 387 }
 388
 389 static session_cb_vft_t session_cb_vft = {
 390   .session_accept_callback = send_session_accept_callback,
 391   .session_disconnect_callback = send_session_disconnect_callback,
 392   .session_connected_callback = send_session_connected_callback,
 393   .session_reset_callback = send_session_reset_callback,
 394   .add_segment_callback = send_add_segment_callback,
 395   .del_segment_callback = send_del_segment_callback,
 396 };
 397
 398 static int
 399 mq_try_lock_and_alloc_msg (svm_msg_q_t * app_mq, svm_msg_q_msg_t * msg)
 400 {
 401   int rv;
 402   u8 try = 0;
 403   while (try < 100)
 404     {
 405       rv = svm_msg_q_lock_and_alloc_msg_w_ring (app_mq,
 406                                                 SESSION_MQ_CTRL_EVT_RING,
 407                                                 SVM_Q_NOWAIT, msg);
 408       if (!rv)
 409         return 0;
 410       try++;
 411     }
 412   return -1;
 413 }
 414
 415 static int
 416 mq_send_session_accepted_cb (stream_session_t * s)
 417 {
 418   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 419   svm_msg_q_msg_t _msg, *msg = &_msg;
 420   svm_msg_q_t *vpp_queue, *app_mq;
 421   transport_proto_vft_t *tp_vft;
 422   transport_connection_t *tc;
 423   stream_session_t *listener;
 424   session_accepted_msg_t *mp;
 425   session_event_t *evt;
 426   application_t *app;
 427
 428   app = application_get (app_wrk->app_index);
 429   app_mq = app_wrk->event_queue;
 430   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 431     return -1;
 432
 433   evt = svm_msg_q_msg_data (app_mq, msg);
 434   clib_memset (evt, 0, sizeof (*evt));
 435   evt->event_type = SESSION_CTRL_EVT_ACCEPTED;
 436   mp = (session_accepted_msg_t *) evt->data;
 437   mp->context = app->app_index;
 438   mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 439   mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 440   mp->segment_handle = session_segment_handle (s);
 441
 442   if (session_has_transport (s))
 443     {
 444       listener = listen_session_get (s->listener_index);
 445       mp->listener_handle = listen_session_get_handle (listener);
 446       if (application_is_proxy (app))
 447         {
 448           listener =
 449             app_worker_first_listener (app_wrk, session_get_fib_proto (s),
 450                                        session_get_transport_proto (s));
 451           if (listener)
 452             mp->listener_handle = listen_session_get_handle (listener);
 453         }
 454       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 455       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 456       mp->handle = session_handle (s);
 457       tp_vft = transport_protocol_get_vft (session_get_transport_proto (s));
 458       tc = tp_vft->get_connection (s->connection_index, s->thread_index);
 459       mp->port = tc->rmt_port;
 460       mp->is_ip4 = tc->is_ip4;
 461       clib_memcpy_fast (&mp->ip, &tc->rmt_ip, sizeof (tc->rmt_ip));
 462     }
 463   else
 464     {
 465       local_session_t *ls = (local_session_t *) s;
 466       local_session_t *ll;
 467       u8 main_thread = vlib_num_workers ()? 1 : 0;
 468
 469       send_app_cut_through_registration_add (app_wrk->api_client_index,
 470                                              app_wrk->wrk_map_index,
 471                                              ls->server_evt_q,
 472                                              ls->client_evt_q);
 473
 474       if (application_local_session_listener_has_transport (ls))
 475         {
 476           listener = listen_session_get (ls->listener_index);
 477           mp->listener_handle = listen_session_get_handle (listener);
 478           mp->is_ip4 = session_type_is_ip4 (listener->session_type);
 479         }
 480       else
 481         {
 482           ll = application_get_local_listen_session (app, ls->listener_index);
 483           if (ll->transport_listener_index != ~0)
 484             {
 485               listener = listen_session_get (ll->transport_listener_index);
 486               mp->listener_handle = listen_session_get_handle (listener);
 487             }
 488           else
 489             {
 490               mp->listener_handle = application_local_session_handle (ll);
 491             }
 492           mp->is_ip4 = session_type_is_ip4 (ll->listener_session_type);
 493         }
 494       mp->handle = application_local_session_handle (ls);
 495       mp->port = ls->port;
 496       vpp_queue = session_manager_get_vpp_event_queue (main_thread);
 497       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 498       mp->client_event_queue_address = ls->client_evt_q;
 499       mp->server_event_queue_address = ls->server_evt_q;
 500     }
 501   svm_msg_q_add_and_unlock (app_mq, msg);
 502
 503   return 0;
 504 }
 505
 506 static void
 507 mq_send_session_disconnected_cb (stream_session_t * s)
 508 {
 509   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 510   svm_msg_q_msg_t _msg, *msg = &_msg;
 511   session_disconnected_msg_t *mp;
 512   svm_msg_q_t *app_mq;
 513   session_event_t *evt;
 514
 515   app_mq = app_wrk->event_queue;
 516   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 517     return;
 518   evt = svm_msg_q_msg_data (app_mq, msg);
 519   clib_memset (evt, 0, sizeof (*evt));
 520   evt->event_type = SESSION_CTRL_EVT_DISCONNECTED;
 521   mp = (session_disconnected_msg_t *) evt->data;
 522   mp->handle = session_handle (s);
 523   mp->context = app_wrk->api_client_index;
 524   svm_msg_q_add_and_unlock (app_mq, msg);
 525 }
 526
 527 void
 528 mq_send_local_session_disconnected_cb (u32 app_wrk_index,
 529                                        local_session_t * ls)
 530 {
 531   app_worker_t *app_wrk = app_worker_get (app_wrk_index);
 532   svm_msg_q_msg_t _msg, *msg = &_msg;
 533   session_disconnected_msg_t *mp;
 534   svm_msg_q_t *app_mq;
 535   session_event_t *evt;
 536
 537   app_mq = app_wrk->event_queue;
 538   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 539     return;
 540   evt = svm_msg_q_msg_data (app_mq, msg);
 541   clib_memset (evt, 0, sizeof (*evt));
 542   evt->event_type = SESSION_CTRL_EVT_DISCONNECTED;
 543   mp = (session_disconnected_msg_t *) evt->data;
 544   mp->handle = application_local_session_handle (ls);
 545   mp->context = app_wrk->api_client_index;
 546   svm_msg_q_add_and_unlock (app_mq, msg);
 547 }
 548
 549 static void
 550 mq_send_session_reset_cb (stream_session_t * s)
 551 {
 552   app_worker_t *app = app_worker_get (s->app_wrk_index);
 553   svm_msg_q_msg_t _msg, *msg = &_msg;
 554   session_reset_msg_t *mp;
 555   svm_msg_q_t *app_mq;
 556   session_event_t *evt;
 557
 558   app_mq = app->event_queue;
 559   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 560     return;
 561   evt = svm_msg_q_msg_data (app_mq, msg);
 562   clib_memset (evt, 0, sizeof (*evt));
 563   evt->event_type = SESSION_CTRL_EVT_RESET;
 564   mp = (session_reset_msg_t *) evt->data;
 565   mp->handle = session_handle (s);
 566   svm_msg_q_add_and_unlock (app_mq, msg);
 567 }
 568
 569 static int
 570 mq_send_session_connected_cb (u32 app_wrk_index, u32 api_context,
 571                               stream_session_t * s, u8 is_fail)
 572 {
 573   svm_msg_q_msg_t _msg, *msg = &_msg;
 574   session_connected_msg_t *mp;
 575   svm_msg_q_t *vpp_mq, *app_mq;
 576   transport_connection_t *tc;
 577   app_worker_t *app_wrk;
 578   session_event_t *evt;
 579
 580   app_wrk = app_worker_get (app_wrk_index);
 581   app_mq = app_wrk->event_queue;
 582   if (!app_mq)
 583     {
 584       clib_warning ("app %u with api index: %u not attached",
 585                     app_wrk->app_index, app_wrk->api_client_index);
 586       return -1;
 587     }
 588
 589   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 590     return -1;
 591   evt = svm_msg_q_msg_data (app_mq, msg);
 592   clib_memset (evt, 0, sizeof (*evt));
 593   evt->event_type = SESSION_CTRL_EVT_CONNECTED;
 594   mp = (session_connected_msg_t *) evt->data;
 595   mp->context = api_context;
 596   mp->segment_handle = session_segment_handle (s);
 597
 598   if (is_fail)
 599     goto done;
 600
 601   if (session_has_transport (s))
 602     {
 603       tc = session_get_transport (s);
 604       if (!tc)
 605         {
 606           is_fail = 1;
 607           goto done;
 608         }
 609
 610       vpp_mq = session_manager_get_vpp_event_queue (s->thread_index);
 611       mp->handle = session_handle (s);
 612       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 613       clib_memcpy_fast (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 614       mp->is_ip4 = tc->is_ip4;
 615       mp->lcl_port = tc->lcl_port;
 616       mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 617       mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 618     }
 619   else
 620     {
 621       local_session_t *ls = (local_session_t *) s;
 622       u8 main_thread = vlib_num_workers ()? 1 : 0;
 623
 624       send_app_cut_through_registration_add (app_wrk->api_client_index,
 625                                              app_wrk->wrk_map_index,
 626                                              ls->client_evt_q,
 627                                              ls->server_evt_q);
 628
 629       mp->handle = application_local_session_handle (ls);
 630       mp->lcl_port = ls->port;
 631       vpp_mq = session_manager_get_vpp_event_queue (main_thread);
 632       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 633       mp->client_event_queue_address = ls->client_evt_q;
 634       mp->server_event_queue_address = ls->server_evt_q;
 635       mp->server_rx_fifo = pointer_to_uword (s->server_tx_fifo);
 636       mp->server_tx_fifo = pointer_to_uword (s->server_rx_fifo);
 637     }
 638
 639 done:
 640   mp->retval = is_fail ?
 641     clib_host_to_net_u32 (VNET_API_ERROR_SESSION_CONNECT) : 0;
 642
 643   svm_msg_q_add_and_unlock (app_mq, msg);
 644   return 0;
 645 }
 646
 647 static int
 648 mq_send_session_bound_cb (u32 app_wrk_index, u32 api_context,
 649                           session_handle_t handle, int rv)
 650 {
 651   svm_msg_q_msg_t _msg, *msg = &_msg;
 652   svm_msg_q_t *app_mq, *vpp_evt_q;
 653   transport_connection_t *tc;
 654   stream_session_t *ls = 0;
 655   session_bound_msg_t *mp;
 656   app_worker_t *app_wrk;
 657   session_event_t *evt;
 658   application_t *app;
 659
 660   app_wrk = app_worker_get (app_wrk_index);
 661   app = application_get (app_wrk->app_index);
 662   app_mq = app_wrk->event_queue;
 663   if (!app_mq)
 664     {
 665       clib_warning ("app %u with api index: %u not attached",
 666                     app_wrk->app_index, app_wrk->api_client_index);
 667       return -1;
 668     }
 669
 670   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 671     return -1;
 672
 673   evt = svm_msg_q_msg_data (app_mq, msg);
 674   clib_memset (evt, 0, sizeof (*evt));
 675   evt->event_type = SESSION_CTRL_EVT_BOUND;
 676   mp = (session_bound_msg_t *) evt->data;
 677   mp->context = api_context;
 678
 679   if (rv)
 680     goto done;
 681
 682   mp->handle = handle;
 683   if (application_has_global_scope (app))
 684     {
 685       ls = listen_session_get_from_handle (handle);
 686       tc = listen_session_get_transport (ls);
 687       mp->lcl_port = tc->lcl_port;
 688       mp->lcl_is_ip4 = tc->is_ip4;
 689       clib_memcpy_fast (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 690     }
 691   else
 692     {
 693       local_session_t *local;
 694       local = application_get_local_listener_w_handle (handle);
 695       mp->lcl_port = local->port;
 696       mp->lcl_is_ip4 = session_type_is_ip4 (local->session_type);
 697     }
 698
 699   if (ls && session_transport_service_type (ls) == TRANSPORT_SERVICE_CL)
 700     {
 701       mp->rx_fifo = pointer_to_uword (ls->server_rx_fifo);
 702       mp->tx_fifo = pointer_to_uword (ls->server_tx_fifo);
 703       vpp_evt_q = session_manager_get_vpp_event_queue (0);
 704       mp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 705     }
 706
 707 done:
 708   mp->retval = rv;
 709   svm_msg_q_add_and_unlock (app_mq, msg);
 710   return 0;
 711 }
 712
 713 static session_cb_vft_t session_mq_cb_vft = {
 714   .session_accept_callback = mq_send_session_accepted_cb,
 715   .session_disconnect_callback = mq_send_session_disconnected_cb,
 716   .session_connected_callback = mq_send_session_connected_cb,
 717   .session_reset_callback = mq_send_session_reset_cb,
 718   .add_segment_callback = send_add_segment_callback,
 719   .del_segment_callback = send_del_segment_callback,
 720 };
 721
 722 static void
 723 vl_api_session_enable_disable_t_handler (vl_api_session_enable_disable_t * mp)
 724 {
 725   vl_api_session_enable_disable_reply_t *rmp;
 726   vlib_main_t *vm = vlib_get_main ();
 727   int rv = 0;
 728
 729   vnet_session_enable_disable (vm, mp->is_enable);
 730   REPLY_MACRO (VL_API_SESSION_ENABLE_DISABLE_REPLY);
 731 }
 732
 733 static void
 734 vl_api_application_attach_t_handler (vl_api_application_attach_t * mp)
 735 {
 736   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
 737   vl_api_application_attach_reply_t *rmp;
 738   ssvm_private_t *segp, *evt_q_segment;
 739   vnet_app_attach_args_t _a, *a = &_a;
 740   vl_api_registration_t *reg;
 741   clib_error_t *error = 0;
 742   u8 fd_flags = 0;
 743
 744   reg = vl_api_client_index_to_registration (mp->client_index);
 745   if (!reg)
 746     return;
 747
 748   if (session_manager_is_enabled () == 0)
 749     {
 750       rv = VNET_API_ERROR_FEATURE_DISABLED;
 751       goto done;
 752     }
 753
 754   STATIC_ASSERT (sizeof (u64) * APP_OPTIONS_N_OPTIONS <=
 755                  sizeof (mp->options),
 756                  "Out of options, fix api message definition");
 757
 758   clib_memset (a, 0, sizeof (*a));
 759   a->api_client_index = mp->client_index;
 760   a->options = mp->options;
 761
 762   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_USE_MQ_FOR_CTRL_MSGS)
 763     a->session_cb_vft = &session_mq_cb_vft;
 764   else
 765     a->session_cb_vft = &session_cb_vft;
 766
 767   if (mp->namespace_id_len > 64)
 768     {
 769       rv = VNET_API_ERROR_INVALID_VALUE;
 770       goto done;
 771     }
 772
 773   if (mp->namespace_id_len)
 774     {
 775       vec_validate (a->namespace_id, mp->namespace_id_len - 1);
 776       clib_memcpy_fast (a->namespace_id, mp->namespace_id,
 777                         mp->namespace_id_len);
 778     }
 779
 780   if ((error = vnet_application_attach (a)))
 781     {
 782       rv = clib_error_get_code (error);
 783       clib_error_report (error);
 784       vec_free (a->namespace_id);
 785       goto done;
 786     }
 787   vec_free (a->namespace_id);
 788
 789   /* Send event queues segment */
 790   if ((evt_q_segment = session_manager_get_evt_q_segment ()))
 791     {
 792       fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
 793       fds[n_fds] = evt_q_segment->fd;
 794       n_fds += 1;
 795     }
 796   /* Send fifo segment fd if needed */
 797   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
 798     {
 799       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 800       fds[n_fds] = a->segment->fd;
 801       n_fds += 1;
 802     }
 803   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
 804     {
 805       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 806       fds[n_fds] = svm_msg_q_get_producer_eventfd (a->app_evt_q);
 807       n_fds += 1;
 808     }
 809
 810 done:
 811
 812   /* *INDENT-OFF* */
 813   REPLY_MACRO2 (VL_API_APPLICATION_ATTACH_REPLY, ({
 814     if (!rv)
 815       {
 816         segp = a->segment;
 817         rmp->app_index = clib_host_to_net_u32 (a->app_index);
 818         rmp->segment_name_length = 0;
 819         rmp->segment_size = segp->ssvm_size;
 820         if (vec_len (segp->name))
 821           {
 822             memcpy (rmp->segment_name, segp->name, vec_len (segp->name));
 823             rmp->segment_name_length = vec_len (segp->name);
 824           }
 825         rmp->app_event_queue_address = pointer_to_uword (a->app_evt_q);
 826         rmp->n_fds = n_fds;
 827         rmp->fd_flags = fd_flags;
 828         rmp->segment_handle = clib_host_to_net_u64 (a->segment_handle);
 829       }
 830   }));
 831   /* *INDENT-ON* */
 832
 833   if (n_fds)
 834     session_send_fds (reg, fds, n_fds);
 835 }
 836
 837 static void
 838 vl_api_application_detach_t_handler (vl_api_application_detach_t * mp)
 839 {
 840   vl_api_application_detach_reply_t *rmp;
 841   int rv = VNET_API_ERROR_INVALID_VALUE_2;
 842   vnet_app_detach_args_t _a, *a = &_a;
 843   application_t *app;
 844
 845   if (session_manager_is_enabled () == 0)
 846     {
 847       rv = VNET_API_ERROR_FEATURE_DISABLED;
 848       goto done;
 849     }
 850
 851   app = application_lookup (mp->client_index);
 852   if (app)
 853     {
 854       a->app_index = app->app_index;
 855       a->api_client_index = mp->client_index;
 856       rv = vnet_application_detach (a);
 857     }
 858
 859 done:
 860   REPLY_MACRO (VL_API_APPLICATION_DETACH_REPLY);
 861 }
 862
 863 static void
 864 vl_api_bind_uri_t_handler (vl_api_bind_uri_t * mp)
 865 {
 866   transport_connection_t *tc = 0;
 867   vnet_bind_args_t _a, *a = &_a;
 868   vl_api_bind_uri_reply_t *rmp;
 869   stream_session_t *s;
 870   application_t *app = 0;
 871   svm_msg_q_t *vpp_evt_q;
 872   app_worker_t *app_wrk;
 873   int rv;
 874
 875   if (session_manager_is_enabled () == 0)
 876     {
 877       rv = VNET_API_ERROR_FEATURE_DISABLED;
 878       goto done;
 879     }
 880
 881   app = application_lookup (mp->client_index);
 882   if (app)
 883     {
 884       clib_memset (a, 0, sizeof (*a));
 885       a->uri = (char *) mp->uri;
 886       a->app_index = app->app_index;
 887       rv = vnet_bind_uri (a);
 888     }
 889   else
 890     {
 891       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 892     }
 893
 894 done:
 895
 896   /* *INDENT-OFF* */
 897   REPLY_MACRO2 (VL_API_BIND_URI_REPLY, ({
 898     if (!rv)
 899       {
 900         rmp->handle = a->handle;
 901         if (app && application_has_global_scope (app))
 902             {
 903               s = listen_session_get_from_handle (a->handle);
 904               tc = listen_session_get_transport (s);
 905               rmp->lcl_is_ip4 = tc->is_ip4;
 906               rmp->lcl_port = tc->lcl_port;
 907               clib_memcpy_fast (rmp->lcl_ip, &tc->lcl_ip, sizeof(tc->lcl_ip));
 908               if (session_transport_service_type (s) == TRANSPORT_SERVICE_CL)
 909                 {
 910                   rmp->rx_fifo = pointer_to_uword (s->server_rx_fifo);
 911                   rmp->tx_fifo = pointer_to_uword (s->server_tx_fifo);
 912                   vpp_evt_q = session_manager_get_vpp_event_queue (0);
 913                   rmp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 914                 }
 915             }
 916       }
 917   }));
 918   /* *INDENT-ON* */
 919
 920   /* If app uses mq for control messages, send an mq message as well */
 921   if (app && application_use_mq_for_ctrl (app))
 922     {
 923       app_wrk = application_get_worker (app, 0);
 924       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
 925                                 rv);
 926     }
 927 }
 928
 929 static void
 930 vl_api_unbind_uri_t_handler (vl_api_unbind_uri_t * mp)
 931 {
 932   vl_api_unbind_uri_reply_t *rmp;
 933   application_t *app;
 934   vnet_unbind_args_t _a, *a = &_a;
 935   int rv;
 936
 937   if (session_manager_is_enabled () == 0)
 938     {
 939       rv = VNET_API_ERROR_FEATURE_DISABLED;
 940       goto done;
 941     }
 942
 943   app = application_lookup (mp->client_index);
 944   if (app)
 945     {
 946       a->uri = (char *) mp->uri;
 947       a->app_index = app->app_index;
 948       rv = vnet_unbind_uri (a);
 949     }
 950   else
 951     {
 952       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 953     }
 954
 955 done:
 956   REPLY_MACRO (VL_API_UNBIND_URI_REPLY);
 957 }
 958
 959 static void
 960 vl_api_connect_uri_t_handler (vl_api_connect_uri_t * mp)
 961 {
 962   vl_api_connect_session_reply_t *rmp;
 963   vnet_connect_args_t _a, *a = &_a;
 964   application_t *app;
 965   clib_error_t *error = 0;
 966   int rv = 0;
 967
 968   if (session_manager_is_enabled () == 0)
 969     {
 970       rv = VNET_API_ERROR_FEATURE_DISABLED;
 971       goto done;
 972     }
 973
 974   app = application_lookup (mp->client_index);
 975   if (app)
 976     {
 977       clib_memset (a, 0, sizeof (*a));
 978       a->uri = (char *) mp->uri;
 979       a->api_context = mp->context;
 980       a->app_index = app->app_index;
 981       if ((error = vnet_connect_uri (a)))
 982         {
 983           rv = clib_error_get_code (error);
 984           clib_error_report (error);
 985         }
 986     }
 987   else
 988     {
 989       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 990     }
 991
 992   /*
 993    * Don't reply to stream (tcp) connects. The reply will come once
 994    * the connection is established. In case of the redirects, the reply
 995    * will come from the server app.
 996    */
 997   if (rv == 0)
 998     return;
 999
1000 done:
1001   /* *INDENT-OFF* */
1002   REPLY_MACRO (VL_API_CONNECT_SESSION_REPLY);
1003   /* *INDENT-ON* */
1004 }
1005
1006 static void
1007 vl_api_disconnect_session_t_handler (vl_api_disconnect_session_t * mp)
1008 {
1009   vl_api_disconnect_session_reply_t *rmp;
1010   vnet_disconnect_args_t _a, *a = &_a;
1011   application_t *app;
1012   int rv = 0;
1013
1014   if (session_manager_is_enabled () == 0)
1015     {
1016       rv = VNET_API_ERROR_FEATURE_DISABLED;
1017       goto done;
1018     }
1019
1020   app = application_lookup (mp->client_index);
1021   if (app)
1022     {
1023       a->handle = mp->handle;
1024       a->app_index = app->app_index;
1025       rv = vnet_disconnect_session (a);
1026     }
1027   else
1028     {
1029       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1030     }
1031
1032 done:
1033   REPLY_MACRO2 (VL_API_DISCONNECT_SESSION_REPLY, rmp->handle = mp->handle);
1034 }
1035
1036 static void
1037 vl_api_disconnect_session_reply_t_handler (vl_api_disconnect_session_reply_t *
1038                                            mp)
1039 {
1040   vnet_disconnect_args_t _a, *a = &_a;
1041   application_t *app;
1042
1043   /* Client objected to disconnecting the session, log and continue */
1044   if (mp->retval)
1045     {
1046       clib_warning ("client retval %d", mp->retval);
1047       return;
1048     }
1049
1050   /* Disconnect has been confirmed. Confirm close to transport */
1051   app = application_lookup (mp->context);
1052   if (app)
1053     {
1054       a->handle = mp->handle;
1055       a->app_index = app->app_index;
1056       vnet_disconnect_session (a);
1057     }
1058 }
1059
1060 static void
1061 vl_api_reset_session_reply_t_handler (vl_api_reset_session_reply_t * mp)
1062 {
1063   app_worker_t *app_wrk;
1064   application_t *app;
1065   stream_session_t *s;
1066   u32 index, thread_index;
1067
1068   app = application_lookup (mp->context);
1069   if (!app)
1070     return;
1071
1072   session_parse_handle (mp->handle, &index, &thread_index);
1073   s = session_get_if_valid (index, thread_index);
1074   if (!s)
1075     {
1076       clib_warning ("Invalid session!");
1077       return;
1078     }
1079
1080   app_wrk = app_worker_get (s->app_wrk_index);
1081   if (app_wrk->app_index != app->app_index)
1082     {
1083       clib_warning ("app %u does not own handle 0x%lx", app->app_index,
1084                     mp->handle);
1085       return;
1086     }
1087
1088   /* Client objected to resetting the session, log and continue */
1089   if (mp->retval)
1090     {
1091       clib_warning ("client retval %d", mp->retval);
1092       return;
1093     }
1094
1095   /* This comes as a response to a reset, transport only waiting for
1096    * confirmation to remove connection state, no need to disconnect */
1097   stream_session_cleanup (s);
1098 }
1099
1100 static void
1101 vl_api_accept_session_reply_t_handler (vl_api_accept_session_reply_t * mp)
1102 {
1103   vnet_disconnect_args_t _a = { 0 }, *a = &_a;
1104   local_session_t *ls;
1105   stream_session_t *s;
1106
1107   /* Server isn't interested, kill the session */
1108   if (mp->retval)
1109     {
1110       a->app_index = mp->context;
1111       a->handle = mp->handle;
1112       vnet_disconnect_session (a);
1113       return;
1114     }
1115
1116   if (session_handle_is_local (mp->handle))
1117     {
1118       ls = application_get_local_session_from_handle (mp->handle);
1119       if (!ls || ls->app_wrk_index != mp->context)
1120         {
1121           clib_warning ("server %u doesn't own local handle %llu",
1122                         mp->context, mp->handle);
1123           return;
1124         }
1125       if (application_local_session_connect_notify (ls))
1126         return;
1127       ls->session_state = SESSION_STATE_READY;
1128     }
1129   else
1130     {
1131       s = session_get_from_handle_if_valid (mp->handle);
1132       if (!s)
1133         {
1134           clib_warning ("session doesn't exist");
1135           return;
1136         }
1137       if (s->app_wrk_index != mp->context)
1138         {
1139           clib_warning ("app doesn't own session");
1140           return;
1141         }
1142       s->session_state = SESSION_STATE_READY;
1143     }
1144 }
1145
1146 static void
1147 vl_api_map_another_segment_reply_t_handler (vl_api_map_another_segment_reply_t
1148                                             * mp)
1149 {
1150   clib_warning ("not implemented");
1151 }
1152
1153 static void
1154 vl_api_bind_sock_t_handler (vl_api_bind_sock_t * mp)
1155 {
1156   vl_api_bind_sock_reply_t *rmp;
1157   vnet_bind_args_t _a, *a = &_a;
1158   int rv = 0;
1159   clib_error_t *error;
1160   application_t *app = 0;
1161   app_worker_t *app_wrk;
1162   stream_session_t *s;
1163   transport_connection_t *tc = 0;
1164   ip46_address_t *ip46;
1165   svm_msg_q_t *vpp_evt_q;
1166
1167   if (session_manager_is_enabled () == 0)
1168     {
1169       rv = VNET_API_ERROR_FEATURE_DISABLED;
1170       goto done;
1171     }
1172
1173   app = application_lookup (mp->client_index);
1174   if (!app)
1175     {
1176       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1177       goto done;
1178     }
1179
1180   ip46 = (ip46_address_t *) mp->ip;
1181   clib_memset (a, 0, sizeof (*a));
1182   a->sep.is_ip4 = mp->is_ip4;
1183   a->sep.ip = *ip46;
1184   a->sep.port = mp->port;
1185   a->sep.fib_index = mp->vrf;
1186   a->sep.sw_if_index = ENDPOINT_INVALID_INDEX;
1187   a->sep.transport_proto = mp->proto;
1188   a->app_index = app->app_index;
1189   a->wrk_map_index = mp->wrk_index;
1190
1191   if ((error = vnet_bind (a)))
1192     {
1193       rv = clib_error_get_code (error);
1194       clib_error_report (error);
1195     }
1196
1197 done:
1198   /* *INDENT-OFF* */
1199   REPLY_MACRO2 (VL_API_BIND_SOCK_REPLY,({
1200     if (!rv)
1201       {
1202         rmp->handle = a->handle;
1203         rmp->lcl_port = mp->port;
1204         rmp->lcl_is_ip4 = mp->is_ip4;
1205         if (app && application_has_global_scope (app))
1206           {
1207             s = listen_session_get_from_handle (a->handle);
1208             tc = listen_session_get_transport (s);
1209             clib_memcpy_fast (rmp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
1210             if (session_transport_service_type (s) == TRANSPORT_SERVICE_CL)
1211               {
1212                 rmp->rx_fifo = pointer_to_uword (s->server_rx_fifo);
1213                 rmp->tx_fifo = pointer_to_uword (s->server_tx_fifo);
1214                 vpp_evt_q = session_manager_get_vpp_event_queue (0);
1215                 rmp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
1216               }
1217           }
1218       }
1219   }));
1220   /* *INDENT-ON* */
1221
1222   /* If app uses mq for control messages, send an mq message as well */
1223   if (app && application_use_mq_for_ctrl (app))
1224     {
1225       app_wrk = application_get_worker (app, mp->wrk_index);
1226       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
1227                                 rv);
1228     }
1229 }
1230
1231 static void
1232 vl_api_unbind_sock_t_handler (vl_api_unbind_sock_t * mp)
1233 {
1234   vl_api_unbind_sock_reply_t *rmp;
1235   vnet_unbind_args_t _a, *a = &_a;
1236   application_t *app;
1237   clib_error_t *error;
1238   int rv = 0;
1239
1240   if (session_manager_is_enabled () == 0)
1241     {
1242       rv = VNET_API_ERROR_FEATURE_DISABLED;
1243       goto done;
1244     }
1245
1246   app = application_lookup (mp->client_index);
1247   if (app)
1248     {
1249       a->app_index = app->app_index;
1250       a->handle = mp->handle;
1251       a->wrk_map_index = mp->wrk_index;
1252       if ((error = vnet_unbind (a)))
1253         {
1254           rv = clib_error_get_code (error);
1255           clib_error_report (error);
1256         }
1257     }
1258
1259 done:
1260   REPLY_MACRO (VL_API_UNBIND_SOCK_REPLY);
1261 }
1262
1263 static void
1264 vl_api_connect_sock_t_handler (vl_api_connect_sock_t * mp)
1265 {
1266   vl_api_connect_session_reply_t *rmp;
1267   vnet_connect_args_t _a, *a = &_a;
1268   application_t *app = 0;
1269   clib_error_t *error = 0;
1270   int rv = 0;
1271
1272   if (session_manager_is_enabled () == 0)
1273     {
1274       rv = VNET_API_ERROR_FEATURE_DISABLED;
1275       goto done;
1276     }
1277
1278   app = application_lookup (mp->client_index);
1279   if (app)
1280     {
1281       svm_queue_t *client_q;
1282       ip46_address_t *ip46 = (ip46_address_t *) mp->ip;
1283
1284       clib_memset (a, 0, sizeof (*a));
1285       client_q = vl_api_client_index_to_input_queue (mp->client_index);
1286       mp->client_queue_address = pointer_to_uword (client_q);
1287       a->sep.is_ip4 = mp->is_ip4;
1288       a->sep.ip = *ip46;
1289       a->sep.port = mp->port;
1290       a->sep.transport_proto = mp->proto;
1291       a->sep.peer.fib_index = mp->vrf;
1292       a->sep.peer.sw_if_index = ENDPOINT_INVALID_INDEX;
1293       if (mp->hostname_len)
1294         {
1295           vec_validate (a->sep_ext.hostname, mp->hostname_len - 1);
1296           clib_memcpy_fast (a->sep_ext.hostname, mp->hostname,
1297                             mp->hostname_len);
1298         }
1299       a->api_context = mp->context;
1300       a->app_index = app->app_index;
1301       a->wrk_map_index = mp->wrk_index;
1302       if ((error = vnet_connect (a)))
1303         {
1304           rv = clib_error_get_code (error);
1305           clib_error_report (error);
1306         }
1307       vec_free (a->sep_ext.hostname);
1308     }
1309   else
1310     {
1311       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1312     }
1313
1314   if (rv == 0)
1315     return;
1316
1317   /* Got some error, relay it */
1318
1319 done:
1320   REPLY_MACRO (VL_API_CONNECT_SESSION_REPLY);
1321
1322   if (app && application_use_mq_for_ctrl (app))
1323     {
1324       app_worker_t *app_wrk = application_get_worker (app, mp->wrk_index);
1325       mq_send_session_connected_cb (app_wrk->wrk_index, mp->context, 0, 1);
1326     }
1327 }
1328
1329 static void
1330 vl_api_app_worker_add_del_t_handler (vl_api_app_worker_add_del_t * mp)
1331 {
1332   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
1333   vl_api_app_worker_add_del_reply_t *rmp;
1334   vl_api_registration_t *reg;
1335   clib_error_t *error = 0;
1336   application_t *app;
1337   u8 fd_flags = 0;
1338
1339   if (!session_manager_is_enabled ())
1340     {
1341       rv = VNET_API_ERROR_FEATURE_DISABLED;
1342       goto done;
1343     }
1344
1345   reg = vl_api_client_index_to_registration (mp->client_index);
1346   if (!reg)
1347     return;
1348
1349   app = application_get_if_valid (clib_net_to_host_u32 (mp->app_index));
1350   if (!app)
1351     {
1352       rv = VNET_API_ERROR_INVALID_VALUE;
1353       goto done;
1354     }
1355
1356   vnet_app_worker_add_del_args_t args = {
1357     .app_index = app->app_index,
1358     .wrk_map_index = clib_net_to_host_u32 (mp->wrk_index),
1359     .api_client_index = mp->client_index,
1360     .is_add = mp->is_add
1361   };
1362   error = vnet_app_worker_add_del (&args);
1363   if (error)
1364     {
1365       rv = clib_error_get_code (error);
1366       clib_error_report (error);
1367       goto done;
1368     }
1369
1370   if (!mp->is_add)
1371     goto done;
1372
1373   /* Send fifo segment fd if needed */
1374   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
1375     {
1376       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1377       fds[n_fds] = args.segment->fd;
1378       n_fds += 1;
1379     }
1380   if (application_segment_manager_properties (app)->use_mq_eventfd)
1381     {
1382       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1383       fds[n_fds] = svm_msg_q_get_producer_eventfd (args.evt_q);
1384       n_fds += 1;
1385     }
1386
1387   /* *INDENT-OFF* */
1388 done:
1389   REPLY_MACRO2 (VL_API_APP_WORKER_ADD_DEL_REPLY, ({
1390     rmp->is_add = mp->is_add;
1391     rmp->wrk_index = clib_host_to_net_u32 (args.wrk_map_index);
1392     rmp->segment_handle = clib_host_to_net_u64 (args.segment_handle);
1393     if (!rv && mp->is_add)
1394       {
1395         if (vec_len (args.segment->name))
1396           {
1397             memcpy (rmp->segment_name, args.segment->name,
1398                     vec_len (args.segment->name));
1399             rmp->segment_name_length = vec_len (args.segment->name);
1400           }
1401         rmp->app_event_queue_address = pointer_to_uword (args.evt_q);
1402         rmp->n_fds = n_fds;
1403         rmp->fd_flags = fd_flags;
1404       }
1405   }));
1406   /* *INDENT-ON* */
1407
1408   if (n_fds)
1409     session_send_fds (reg, fds, n_fds);
1410 }
1411
1412 static void
1413 vl_api_app_namespace_add_del_t_handler (vl_api_app_namespace_add_del_t * mp)
1414 {
1415   vl_api_app_namespace_add_del_reply_t *rmp;
1416   clib_error_t *error = 0;
1417   u32 appns_index = 0;
1418   u8 *ns_id = 0;
1419   int rv = 0;
1420   if (!session_manager_is_enabled ())
1421     {
1422       rv = VNET_API_ERROR_FEATURE_DISABLED;
1423       goto done;
1424     }
1425
1426   if (mp->namespace_id_len > ARRAY_LEN (mp->namespace_id))
1427     {
1428       rv = VNET_API_ERROR_INVALID_VALUE;
1429       goto done;
1430     }
1431
1432   vec_validate (ns_id, mp->namespace_id_len - 1);
1433   clib_memcpy_fast (ns_id, mp->namespace_id, mp->namespace_id_len);
1434   vnet_app_namespace_add_del_args_t args = {
1435     .ns_id = ns_id,
1436     .secret = clib_net_to_host_u64 (mp->secret),
1437     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
1438     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
1439     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
1440     .is_add = 1
1441   };
1442   error = vnet_app_namespace_add_del (&args);
1443   if (error)
1444     {
1445       rv = clib_error_get_code (error);
1446       clib_error_report (error);
1447     }
1448   else
1449     {
1450       appns_index = app_namespace_index_from_id (ns_id);
1451       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
1452         {
1453           clib_warning ("app ns lookup failed");
1454           rv = VNET_API_ERROR_UNSPECIFIED;
1455         }
1456     }
1457   vec_free (ns_id);
1458
1459   /* *INDENT-OFF* */
1460 done:
1461   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_REPLY, ({
1462     if (!rv)
1463       rmp->appns_index = clib_host_to_net_u32 (appns_index);
1464   }));
1465   /* *INDENT-ON* */
1466 }
1467
1468 static void
1469 vl_api_session_rule_add_del_t_handler (vl_api_session_rule_add_del_t * mp)
1470 {
1471   vl_api_session_rule_add_del_reply_t *rmp;
1472   session_rule_add_del_args_t args;
1473   session_rule_table_add_del_args_t *table_args = &args.table_args;
1474   clib_error_t *error;
1475   u8 fib_proto;
1476   int rv = 0;
1477
1478   clib_memset (&args, 0, sizeof (args));
1479   fib_proto = mp->is_ip4 ? FIB_PROTOCOL_IP4 : FIB_PROTOCOL_IP6;
1480
1481   table_args->lcl.fp_len = mp->lcl_plen;
1482   table_args->lcl.fp_proto = fib_proto;
1483   table_args->rmt.fp_len = mp->rmt_plen;
1484   table_args->rmt.fp_proto = fib_proto;
1485   table_args->lcl_port = mp->lcl_port;
1486   table_args->rmt_port = mp->rmt_port;
1487   table_args->action_index = clib_net_to_host_u32 (mp->action_index);
1488   table_args->is_add = mp->is_add;
1489   mp->tag[sizeof (mp->tag) - 1] = 0;
1490   table_args->tag = format (0, "%s", mp->tag);
1491   args.appns_index = clib_net_to_host_u32 (mp->appns_index);
1492   args.scope = mp->scope;
1493   args.transport_proto = mp->transport_proto;
1494
1495   clib_memset (&table_args->lcl.fp_addr, 0, sizeof (table_args->lcl.fp_addr));
1496   clib_memset (&table_args->rmt.fp_addr, 0, sizeof (table_args->rmt.fp_addr));
1497   ip_set (&table_args->lcl.fp_addr, mp->lcl_ip, mp->is_ip4);
1498   ip_set (&table_args->rmt.fp_addr, mp->rmt_ip, mp->is_ip4);
1499   error = vnet_session_rule_add_del (&args);
1500   if (error)
1501     {
1502       rv = clib_error_get_code (error);
1503       clib_error_report (error);
1504     }
1505   vec_free (table_args->tag);
1506   REPLY_MACRO (VL_API_SESSION_RULE_ADD_DEL_REPLY);
1507 }
1508
1509 static void
1510 send_session_rule_details4 (mma_rule_16_t * rule, u8 is_local,
1511                             u8 transport_proto, u32 appns_index, u8 * tag,
1512                             vl_api_registration_t * reg, u32 context)
1513 {
1514   vl_api_session_rules_details_t *rmp = 0;
1515   session_mask_or_match_4_t *match =
1516     (session_mask_or_match_4_t *) & rule->match;
1517   session_mask_or_match_4_t *mask =
1518     (session_mask_or_match_4_t *) & rule->mask;
1519
1520   rmp = vl_msg_api_alloc (sizeof (*rmp));
1521   clib_memset (rmp, 0, sizeof (*rmp));
1522   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1523   rmp->context = context;
1524
1525   rmp->is_ip4 = 1;
1526   clib_memcpy_fast (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1527   clib_memcpy_fast (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1528   rmp->lcl_plen = ip4_mask_to_preflen (&mask->lcl_ip);
1529   rmp->rmt_plen = ip4_mask_to_preflen (&mask->rmt_ip);
1530   rmp->lcl_port = match->lcl_port;
1531   rmp->rmt_port = match->rmt_port;
1532   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1533   rmp->scope =
1534     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1535   rmp->transport_proto = transport_proto;
1536   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1537   if (tag)
1538     {
1539       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1540       rmp->tag[vec_len (tag)] = 0;
1541     }
1542
1543   vl_api_send_msg (reg, (u8 *) rmp);
1544 }
1545
1546 static void
1547 send_session_rule_details6 (mma_rule_40_t * rule, u8 is_local,
1548                             u8 transport_proto, u32 appns_index, u8 * tag,
1549                             vl_api_registration_t * reg, u32 context)
1550 {
1551   vl_api_session_rules_details_t *rmp = 0;
1552   session_mask_or_match_6_t *match =
1553     (session_mask_or_match_6_t *) & rule->match;
1554   session_mask_or_match_6_t *mask =
1555     (session_mask_or_match_6_t *) & rule->mask;
1556
1557   rmp = vl_msg_api_alloc (sizeof (*rmp));
1558   clib_memset (rmp, 0, sizeof (*rmp));
1559   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1560   rmp->context = context;
1561
1562   rmp->is_ip4 = 0;
1563   clib_memcpy_fast (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1564   clib_memcpy_fast (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1565   rmp->lcl_plen = ip6_mask_to_preflen (&mask->lcl_ip);
1566   rmp->rmt_plen = ip6_mask_to_preflen (&mask->rmt_ip);
1567   rmp->lcl_port = match->lcl_port;
1568   rmp->rmt_port = match->rmt_port;
1569   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1570   rmp->scope =
1571     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1572   rmp->transport_proto = transport_proto;
1573   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1574   if (tag)
1575     {
1576       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1577       rmp->tag[vec_len (tag)] = 0;
1578     }
1579
1580   vl_api_send_msg (reg, (u8 *) rmp);
1581 }
1582
1583 static void
1584 send_session_rules_table_details (session_rules_table_t * srt, u8 fib_proto,
1585                                   u8 tp, u8 is_local, u32 appns_index,
1586                                   vl_api_registration_t * reg, u32 context)
1587 {
1588   mma_rule_16_t *rule16;
1589   mma_rule_40_t *rule40;
1590   mma_rules_table_16_t *srt16;
1591   mma_rules_table_40_t *srt40;
1592   u32 ri;
1593
1594   if (is_local || fib_proto == FIB_PROTOCOL_IP4)
1595     {
1596       u8 *tag = 0;
1597       /* *INDENT-OFF* */
1598       srt16 = &srt->session_rules_tables_16;
1599       pool_foreach (rule16, srt16->rules, ({
1600         ri = mma_rules_table_rule_index_16 (srt16, rule16);
1601         tag = session_rules_table_rule_tag (srt, ri, 1);
1602         send_session_rule_details4 (rule16, is_local, tp, appns_index, tag,
1603                                     reg, context);
1604       }));
1605       /* *INDENT-ON* */
1606     }
1607   if (is_local || fib_proto == FIB_PROTOCOL_IP6)
1608     {
1609       u8 *tag = 0;
1610       /* *INDENT-OFF* */
1611       srt40 = &srt->session_rules_tables_40;
1612       pool_foreach (rule40, srt40->rules, ({
1613         ri = mma_rules_table_rule_index_40 (srt40, rule40);
1614         tag = session_rules_table_rule_tag (srt, ri, 1);
1615         send_session_rule_details6 (rule40, is_local, tp, appns_index, tag,
1616                                     reg, context);
1617       }));
1618       /* *INDENT-ON* */
1619     }
1620 }
1621
1622 static void
1623 vl_api_session_rules_dump_t_handler (vl_api_one_map_server_dump_t * mp)
1624 {
1625   vl_api_registration_t *reg;
1626   session_table_t *st;
1627   u8 tp;
1628
1629   reg = vl_api_client_index_to_registration (mp->client_index);
1630   if (!reg)
1631     return;
1632
1633   /* *INDENT-OFF* */
1634   session_table_foreach (st, ({
1635     for (tp = 0; tp < TRANSPORT_N_PROTO; tp++)
1636       {
1637         send_session_rules_table_details (&st->session_rules[tp],
1638                                           st->active_fib_proto, tp,
1639                                           st->is_local, st->appns_index, reg,
1640                                           mp->context);
1641       }
1642   }));
1643   /* *INDENT-ON* */
1644 }
1645
1646 static void
1647 vl_api_application_tls_cert_add_t_handler (vl_api_application_tls_cert_add_t *
1648                                            mp)
1649 {
1650   vl_api_app_namespace_add_del_reply_t *rmp;
1651   vnet_app_add_tls_cert_args_t _a, *a = &_a;
1652   clib_error_t *error;
1653   application_t *app;
1654   u32 cert_len;
1655   int rv = 0;
1656   if (!session_manager_is_enabled ())
1657     {
1658       rv = VNET_API_ERROR_FEATURE_DISABLED;
1659       goto done;
1660     }
1661   if (!(app = application_lookup (mp->client_index)))
1662     {
1663       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1664       goto done;
1665     }
1666   clib_memset (a, 0, sizeof (*a));
1667   a->app_index = app->app_index;
1668   cert_len = clib_net_to_host_u16 (mp->cert_len);
1669   if (cert_len > 10000)
1670     {
1671       rv = VNET_API_ERROR_INVALID_VALUE;
1672       goto done;
1673     }
1674   vec_validate (a->cert, cert_len);
1675   clib_memcpy_fast (a->cert, mp->cert, cert_len);
1676   if ((error = vnet_app_add_tls_cert (a)))
1677     {
1678       rv = clib_error_get_code (error);
1679       clib_error_report (error);
1680     }
1681   vec_free (a->cert);
1682 done:
1683   REPLY_MACRO (VL_API_APPLICATION_TLS_CERT_ADD_REPLY);
1684 }
1685
1686 static void
1687 vl_api_application_tls_key_add_t_handler (vl_api_application_tls_key_add_t *
1688                                           mp)
1689 {
1690   vl_api_app_namespace_add_del_reply_t *rmp;
1691   vnet_app_add_tls_key_args_t _a, *a = &_a;
1692   clib_error_t *error;
1693   application_t *app;
1694   u32 key_len;
1695   int rv = 0;
1696   if (!session_manager_is_enabled ())
1697     {
1698       rv = VNET_API_ERROR_FEATURE_DISABLED;
1699       goto done;
1700     }
1701   if (!(app = application_lookup (mp->client_index)))
1702     {
1703       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1704       goto done;
1705     }
1706   clib_memset (a, 0, sizeof (*a));
1707   a->app_index = app->app_index;
1708   key_len = clib_net_to_host_u16 (mp->key_len);
1709   if (key_len > 10000)
1710     {
1711       rv = VNET_API_ERROR_INVALID_VALUE;
1712       goto done;
1713     }
1714   vec_validate (a->key, key_len);
1715   clib_memcpy_fast (a->key, mp->key, key_len);
1716   if ((error = vnet_app_add_tls_key (a)))
1717     {
1718       rv = clib_error_get_code (error);
1719       clib_error_report (error);
1720     }
1721   vec_free (a->key);
1722 done:
1723   REPLY_MACRO (VL_API_APPLICATION_TLS_KEY_ADD_REPLY);
1724 }
1725
1726 static clib_error_t *
1727 application_reaper_cb (u32 client_index)
1728 {
1729   application_t *app = application_lookup (client_index);
1730   vnet_app_detach_args_t _a, *a = &_a;
1731   if (app)
1732     {
1733       a->app_index = app->app_index;
1734       a->api_client_index = client_index;
1735       vnet_application_detach (a);
1736     }
1737   return 0;
1738 }
1739
1740 VL_MSG_API_REAPER_FUNCTION (application_reaper_cb);
1741
1742 #define vl_msg_name_crc_list
1743 #include <vnet/vnet_all_api_h.h>
1744 #undef vl_msg_name_crc_list
1745
1746 static void
1747 setup_message_id_table (api_main_t * am)
1748 {
1749 #define _(id,n,crc) vl_msg_api_add_msg_name_crc (am, #n "_" #crc, id);
1750   foreach_vl_msg_name_crc_session;
1751 #undef _
1752 }
1753
1754 /*
1755  * session_api_hookup
1756  * Add uri's API message handlers to the table.
1757  * vlib has alread mapped shared memory and
1758  * added the client registration handlers.
1759  * See .../open-repo/vlib/memclnt_vlib.c:memclnt_process()
1760  */
1761 static clib_error_t *
1762 session_api_hookup (vlib_main_t * vm)
1763 {
1764   api_main_t *am = &api_main;
1765
1766 #define _(N,n)                                                  \
1767     vl_msg_api_set_handlers(VL_API_##N, #n,                     \
1768                            vl_api_##n##_t_handler,              \
1769                            vl_noop_handler,                     \
1770                            vl_api_##n##_t_endian,               \
1771                            vl_api_##n##_t_print,                \
1772                            sizeof(vl_api_##n##_t), 1);
1773   foreach_session_api_msg;
1774 #undef _
1775
1776   /*
1777    * Messages which bounce off the data-plane to
1778    * an API client. Simply tells the message handling infra not
1779    * to free the message.
1780    *
1781    * Bounced message handlers MUST NOT block the data plane
1782    */
1783   am->message_bounce[VL_API_CONNECT_URI] = 1;
1784   am->message_bounce[VL_API_CONNECT_SOCK] = 1;
1785
1786   /*
1787    * Set up the (msg_name, crc, message-id) table
1788    */
1789   setup_message_id_table (am);
1790
1791   return 0;
1792 }
1793
1794 VLIB_API_INIT_FUNCTION (session_api_hookup);
1795
1796 /*
1797  * fd.io coding-style-patch-verification: ON
1798  *
1799  * Local Variables:
1800  * eval: (c-set-style "gnu")
1801  * End:
1802  */