src/vnet/session/session_api.c

   1 /*
   2  * Copyright (c) 2015-2016 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15
  16 #include <vnet/vnet.h>
  17 #include <vlibmemory/api.h>
  18 #include <vnet/session/application.h>
  19 #include <vnet/session/application_interface.h>
  20 #include <vnet/session/session_rules_table.h>
  21 #include <vnet/session/session_table.h>
  22
  23 #include <vnet/vnet_msg_enum.h>
  24
  25 #define vl_typedefs             /* define message structures */
  26 #include <vnet/vnet_all_api_h.h>
  27 #undef vl_typedefs
  28
  29 #define vl_endianfun            /* define message structures */
  30 #include <vnet/vnet_all_api_h.h>
  31 #undef vl_endianfun
  32
  33 /* instantiate all the print functions we know about */
  34 #define vl_print(handle, ...) vlib_cli_output (handle, __VA_ARGS__)
  35 #define vl_printfun
  36 #include <vnet/vnet_all_api_h.h>
  37 #undef vl_printfun
  38
  39 #include <vlibapi/api_helper_macros.h>
  40
  41 #define foreach_session_api_msg                                         \
  42 _(MAP_ANOTHER_SEGMENT_REPLY, map_another_segment_reply)                 \
  43 _(APPLICATION_ATTACH, application_attach)                               \
  44 _(APPLICATION_DETACH, application_detach)                               \
  45 _(BIND_URI, bind_uri)                                                   \
  46 _(UNBIND_URI, unbind_uri)                                               \
  47 _(CONNECT_URI, connect_uri)                                             \
  48 _(DISCONNECT_SESSION, disconnect_session)                               \
  49 _(DISCONNECT_SESSION_REPLY, disconnect_session_reply)                   \
  50 _(ACCEPT_SESSION_REPLY, accept_session_reply)                           \
  51 _(RESET_SESSION_REPLY, reset_session_reply)                             \
  52 _(BIND_SOCK, bind_sock)                                                 \
  53 _(UNBIND_SOCK, unbind_sock)                                             \
  54 _(CONNECT_SOCK, connect_sock)                                           \
  55 _(SESSION_ENABLE_DISABLE, session_enable_disable)                       \
  56 _(APP_NAMESPACE_ADD_DEL, app_namespace_add_del)                         \
  57 _(SESSION_RULE_ADD_DEL, session_rule_add_del)                           \
  58 _(SESSION_RULES_DUMP, session_rules_dump)                               \
  59 _(APPLICATION_TLS_CERT_ADD, application_tls_cert_add)                   \
  60 _(APPLICATION_TLS_KEY_ADD, application_tls_key_add)                     \
  61 _(APP_WORKER_ADD_DEL, app_worker_add_del)                               \
  62
  63 static int
  64 session_send_fds (vl_api_registration_t * reg, int fds[], int n_fds)
  65 {
  66   clib_error_t *error;
  67   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
  68     {
  69       clib_warning ("can't send memfd fd");
  70       return -1;
  71     }
  72   error = vl_api_send_fd_msg (reg, fds, n_fds);
  73   if (error)
  74     {
  75       clib_error_report (error);
  76       return -1;
  77     }
  78   return 0;
  79 }
  80
  81 static int
  82 send_add_segment_callback (u32 api_client_index, const ssvm_private_t * sp)
  83 {
  84   int fds[SESSION_N_FD_TYPE], n_fds = 0;
  85   vl_api_map_another_segment_t *mp;
  86   vl_api_registration_t *reg;
  87   u8 fd_flags = 0;
  88
  89   reg = vl_mem_api_client_index_to_registration (api_client_index);
  90   if (!reg)
  91     {
  92       clib_warning ("no registration: %u", api_client_index);
  93       return -1;
  94     }
  95
  96   if (ssvm_type (sp) == SSVM_SEGMENT_MEMFD)
  97     {
  98       if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
  99         {
 100           clib_warning ("can't send memfd fd");
 101           return -1;
 102         }
 103
 104       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 105       fds[n_fds] = sp->fd;
 106       n_fds += 1;
 107     }
 108
 109   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 110   memset (mp, 0, sizeof (*mp));
 111   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_MAP_ANOTHER_SEGMENT);
 112   mp->segment_size = sp->ssvm_size;
 113   mp->fd_flags = fd_flags;
 114   strncpy ((char *) mp->segment_name, (char *) sp->name,
 115            sizeof (mp->segment_name) - 1);
 116
 117   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 118
 119   if (n_fds)
 120     return session_send_fds (reg, fds, n_fds);
 121
 122   return 0;
 123 }
 124
 125 static int
 126 send_del_segment_callback (u32 api_client_index, const ssvm_private_t * fs)
 127 {
 128   vl_api_unmap_segment_t *mp;
 129   vl_api_registration_t *reg;
 130
 131   reg = vl_mem_api_client_index_to_registration (api_client_index);
 132   if (!reg)
 133     {
 134       clib_warning ("no registration: %u", api_client_index);
 135       return -1;
 136     }
 137
 138   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 139   memset (mp, 0, sizeof (*mp));
 140   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_UNMAP_SEGMENT);
 141   strncpy ((char *) mp->segment_name, (char *) fs->name,
 142            sizeof (mp->segment_name) - 1);
 143
 144   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 145
 146   return 0;
 147 }
 148
 149 static int
 150 send_app_cut_through_registration_add (u32 api_client_index,
 151                                        u32 wrk_map_index, u64 mq_addr,
 152                                        u64 peer_mq_addr)
 153 {
 154   vl_api_app_cut_through_registration_add_t *mp;
 155   vl_api_registration_t *reg;
 156   svm_msg_q_t *mq, *peer_mq;
 157   int fds[2];
 158
 159   reg = vl_mem_api_client_index_to_registration (api_client_index);
 160   if (!reg)
 161     {
 162       clib_warning ("no registration: %u", api_client_index);
 163       return -1;
 164     }
 165
 166   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 167   memset (mp, 0, sizeof (*mp));
 168   mp->_vl_msg_id =
 169     clib_host_to_net_u16 (VL_API_APP_CUT_THROUGH_REGISTRATION_ADD);
 170
 171   mp->evt_q_address = mq_addr;
 172   mp->peer_evt_q_address = peer_mq_addr;
 173   mp->wrk_index = wrk_map_index;
 174
 175   mq = uword_to_pointer (mq_addr, svm_msg_q_t *);
 176   peer_mq = uword_to_pointer (peer_mq_addr, svm_msg_q_t *);
 177
 178   if (svm_msg_q_get_producer_eventfd (mq) != -1)
 179     {
 180       mp->fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 181       mp->n_fds = 2;
 182       /* app will overwrite exactly the fds we pass here. So
 183        * when we swap mq with peer_mq (accept vs connect) the
 184        * fds will still be valid */
 185       fds[0] = svm_msg_q_get_consumer_eventfd (mq);
 186       fds[1] = svm_msg_q_get_producer_eventfd (peer_mq);
 187     }
 188
 189   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 190
 191   if (mp->n_fds != 0)
 192     session_send_fds (reg, fds, mp->n_fds);
 193
 194   return 0;
 195 }
 196
 197 static int
 198 send_session_accept_callback (stream_session_t * s)
 199 {
 200   app_worker_t *server_wrk = app_worker_get (s->app_wrk_index);
 201   transport_proto_vft_t *tp_vft;
 202   vl_api_accept_session_t *mp;
 203   vl_api_registration_t *reg;
 204   transport_connection_t *tc;
 205   stream_session_t *listener;
 206   svm_msg_q_t *vpp_queue;
 207   application_t *server;
 208
 209   server = application_get (server_wrk->app_index);
 210   reg = vl_mem_api_client_index_to_registration (server->api_client_index);
 211   if (!reg)
 212     {
 213       clib_warning ("no registration: %u", server->api_client_index);
 214       return -1;
 215     }
 216
 217   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 218   memset (mp, 0, sizeof (*mp));
 219
 220   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_ACCEPT_SESSION);
 221   mp->context = server_wrk->wrk_index;
 222   mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 223   mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 224
 225   if (session_has_transport (s))
 226     {
 227       listener = listen_session_get (s->listener_index);
 228       mp->listener_handle = listen_session_get_handle (listener);
 229       if (application_is_proxy (server))
 230         {
 231           listener =
 232             app_worker_first_listener (server_wrk, session_get_fib_proto (s),
 233                                        session_get_transport_proto (s));
 234           if (listener)
 235             mp->listener_handle = listen_session_get_handle (listener);
 236         }
 237       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 238       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 239       mp->handle = session_handle (s);
 240       tp_vft = transport_protocol_get_vft (session_get_transport_proto (s));
 241       tc = tp_vft->get_connection (s->connection_index, s->thread_index);
 242       mp->port = tc->rmt_port;
 243       mp->is_ip4 = tc->is_ip4;
 244       clib_memcpy (&mp->ip, &tc->rmt_ip, sizeof (tc->rmt_ip));
 245     }
 246   else
 247     {
 248       local_session_t *ls = (local_session_t *) s;
 249       local_session_t *ll;
 250       if (application_local_session_listener_has_transport (ls))
 251         {
 252           listener = listen_session_get (ls->listener_index);
 253           mp->listener_handle = listen_session_get_handle (listener);
 254           mp->is_ip4 = session_type_is_ip4 (listener->session_type);
 255         }
 256       else
 257         {
 258           ll = application_get_local_listen_session (server,
 259                                                      ls->listener_index);
 260           if (ll->transport_listener_index != ~0)
 261             {
 262               listener = listen_session_get (ll->transport_listener_index);
 263               mp->listener_handle = listen_session_get_handle (listener);
 264             }
 265           else
 266             {
 267               mp->listener_handle = application_local_session_handle (ll);
 268             }
 269           mp->is_ip4 = session_type_is_ip4 (ll->listener_session_type);
 270         }
 271       mp->handle = application_local_session_handle (ls);
 272       mp->port = ls->port;
 273       mp->vpp_event_queue_address = ls->client_evt_q;
 274       mp->server_event_queue_address = ls->server_evt_q;
 275     }
 276   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 277
 278   return 0;
 279 }
 280
 281 void
 282 mq_send_local_session_disconnected_cb (u32 app_wrk_index,
 283                                        local_session_t * ls)
 284 {
 285   app_worker_t *app_wrk = app_worker_get (app_wrk_index);
 286   svm_msg_q_msg_t _msg, *msg = &_msg;
 287   session_disconnected_msg_t *mp;
 288   svm_msg_q_t *app_mq;
 289   session_event_t *evt;
 290   application_t *app;
 291
 292   app = application_get (app_wrk->app_index);
 293   app_mq = app_wrk->event_queue;
 294   svm_msg_q_lock_and_alloc_msg_w_ring (app_mq, SESSION_MQ_CTRL_EVT_RING,
 295                                        SVM_Q_WAIT, msg);
 296   evt = svm_msg_q_msg_data (app_mq, msg);
 297   memset (evt, 0, sizeof (*evt));
 298   evt->event_type = SESSION_CTRL_EVT_DISCONNECTED;
 299   mp = (session_disconnected_msg_t *) evt->data;
 300   mp->handle = application_local_session_handle (ls);
 301   mp->context = app->api_client_index;
 302   svm_msg_q_add_and_unlock (app_mq, msg);
 303 }
 304
 305 static void
 306 send_session_disconnect_callback (stream_session_t * s)
 307 {
 308   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 309   vl_api_disconnect_session_t *mp;
 310   vl_api_registration_t *reg;
 311   application_t *app;
 312
 313   app = application_get (app_wrk->app_index);
 314   reg = vl_mem_api_client_index_to_registration (app->api_client_index);
 315   if (!reg)
 316     {
 317       clib_warning ("no registration: %u", app->api_client_index);
 318       return;
 319     }
 320
 321   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 322   memset (mp, 0, sizeof (*mp));
 323   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_DISCONNECT_SESSION);
 324   mp->handle = session_handle (s);
 325   mp->context = app->api_client_index;
 326   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 327 }
 328
 329 static void
 330 send_session_reset_callback (stream_session_t * s)
 331 {
 332   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 333   vl_api_registration_t *reg;
 334   vl_api_reset_session_t *mp;
 335   application_t *app;
 336
 337   app = application_get (app_wrk->app_index);
 338   reg = vl_mem_api_client_index_to_registration (app->api_client_index);
 339   if (!reg)
 340     {
 341       clib_warning ("no registration: %u", app->api_client_index);
 342       return;
 343     }
 344
 345   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 346   memset (mp, 0, sizeof (*mp));
 347   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_RESET_SESSION);
 348   mp->handle = session_handle (s);
 349   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 350 }
 351
 352 int
 353 send_session_connected_callback (u32 app_wrk_index, u32 api_context,
 354                                  stream_session_t * s, u8 is_fail)
 355 {
 356   vl_api_connect_session_reply_t *mp;
 357   transport_connection_t *tc;
 358   vl_api_registration_t *reg;
 359   svm_msg_q_t *vpp_queue;
 360   app_worker_t *app_wrk;
 361   application_t *app;
 362
 363   app_wrk = app_worker_get (app_wrk_index);
 364   app = application_get (app_wrk->app_index);
 365   reg = vl_mem_api_client_index_to_registration (app->api_client_index);
 366   if (!reg)
 367     {
 368       clib_warning ("no registration: %u", app->api_client_index);
 369       return -1;
 370     }
 371
 372   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 373   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_CONNECT_SESSION_REPLY);
 374   mp->context = api_context;
 375
 376   if (is_fail)
 377     goto done;
 378
 379   if (session_has_transport (s))
 380     {
 381       tc = session_get_transport (s);
 382       if (!tc)
 383         {
 384           is_fail = 1;
 385           goto done;
 386         }
 387
 388       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 389       mp->handle = session_handle (s);
 390       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 391       clib_memcpy (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 392       mp->is_ip4 = tc->is_ip4;
 393       mp->lcl_port = tc->lcl_port;
 394       mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 395       mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 396     }
 397   else
 398     {
 399       local_session_t *ls = (local_session_t *) s;
 400       mp->handle = application_local_session_handle (ls);
 401       mp->lcl_port = ls->port;
 402       mp->vpp_event_queue_address = ls->server_evt_q;
 403       mp->client_event_queue_address = ls->client_evt_q;
 404       mp->server_rx_fifo = pointer_to_uword (s->server_tx_fifo);
 405       mp->server_tx_fifo = pointer_to_uword (s->server_rx_fifo);
 406     }
 407
 408 done:
 409   mp->retval = is_fail ?
 410     clib_host_to_net_u32 (VNET_API_ERROR_SESSION_CONNECT) : 0;
 411   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 412   return 0;
 413 }
 414
 415 static session_cb_vft_t session_cb_vft = {
 416   .session_accept_callback = send_session_accept_callback,
 417   .session_disconnect_callback = send_session_disconnect_callback,
 418   .session_connected_callback = send_session_connected_callback,
 419   .session_reset_callback = send_session_reset_callback,
 420   .add_segment_callback = send_add_segment_callback,
 421   .del_segment_callback = send_del_segment_callback,
 422 };
 423
 424 static int
 425 mq_send_session_accepted_cb (stream_session_t * s)
 426 {
 427   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 428   svm_msg_q_msg_t _msg, *msg = &_msg;
 429   svm_msg_q_t *vpp_queue, *app_mq;
 430   transport_proto_vft_t *tp_vft;
 431   transport_connection_t *tc;
 432   stream_session_t *listener;
 433   session_accepted_msg_t *mp;
 434   session_event_t *evt;
 435   application_t *app;
 436
 437   app = application_get (app_wrk->app_index);
 438   app_mq = app_wrk->event_queue;
 439   svm_msg_q_lock_and_alloc_msg_w_ring (app_mq, SESSION_MQ_CTRL_EVT_RING,
 440                                        SVM_Q_WAIT, msg);
 441
 442   evt = svm_msg_q_msg_data (app_mq, msg);
 443   memset (evt, 0, sizeof (*evt));
 444   evt->event_type = SESSION_CTRL_EVT_ACCEPTED;
 445   mp = (session_accepted_msg_t *) evt->data;
 446   mp->context = app->app_index;
 447   mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 448   mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 449
 450   if (session_has_transport (s))
 451     {
 452       listener = listen_session_get (s->listener_index);
 453       mp->listener_handle = listen_session_get_handle (listener);
 454       if (application_is_proxy (app))
 455         {
 456           listener =
 457             app_worker_first_listener (app_wrk, session_get_fib_proto (s),
 458                                        session_get_transport_proto (s));
 459           if (listener)
 460             mp->listener_handle = listen_session_get_handle (listener);
 461         }
 462       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 463       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 464       mp->handle = session_handle (s);
 465       tp_vft = transport_protocol_get_vft (session_get_transport_proto (s));
 466       tc = tp_vft->get_connection (s->connection_index, s->thread_index);
 467       mp->port = tc->rmt_port;
 468       mp->is_ip4 = tc->is_ip4;
 469       clib_memcpy (&mp->ip, &tc->rmt_ip, sizeof (tc->rmt_ip));
 470     }
 471   else
 472     {
 473       local_session_t *ls = (local_session_t *) s;
 474       local_session_t *ll;
 475       u8 main_thread = vlib_num_workers ()? 1 : 0;
 476
 477       send_app_cut_through_registration_add (app->api_client_index,
 478                                              app_wrk->wrk_map_index,
 479                                              ls->server_evt_q,
 480                                              ls->client_evt_q);
 481
 482       if (application_local_session_listener_has_transport (ls))
 483         {
 484           listener = listen_session_get (ls->listener_index);
 485           mp->listener_handle = listen_session_get_handle (listener);
 486           mp->is_ip4 = session_type_is_ip4 (listener->session_type);
 487         }
 488       else
 489         {
 490           ll = application_get_local_listen_session (app, ls->listener_index);
 491           if (ll->transport_listener_index != ~0)
 492             {
 493               listener = listen_session_get (ll->transport_listener_index);
 494               mp->listener_handle = listen_session_get_handle (listener);
 495             }
 496           else
 497             {
 498               mp->listener_handle = application_local_session_handle (ll);
 499             }
 500           mp->is_ip4 = session_type_is_ip4 (ll->listener_session_type);
 501         }
 502       mp->handle = application_local_session_handle (ls);
 503       mp->port = ls->port;
 504       vpp_queue = session_manager_get_vpp_event_queue (main_thread);
 505       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 506       mp->client_event_queue_address = ls->client_evt_q;
 507       mp->server_event_queue_address = ls->server_evt_q;
 508     }
 509   svm_msg_q_add_and_unlock (app_mq, msg);
 510
 511   return 0;
 512 }
 513
 514 static void
 515 mq_send_session_disconnected_cb (stream_session_t * s)
 516 {
 517   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 518   svm_msg_q_msg_t _msg, *msg = &_msg;
 519   session_disconnected_msg_t *mp;
 520   svm_msg_q_t *app_mq;
 521   session_event_t *evt;
 522   application_t *app;
 523
 524   app = application_get (app_wrk->app_index);
 525   app_mq = app_wrk->event_queue;
 526   svm_msg_q_lock_and_alloc_msg_w_ring (app_mq, SESSION_MQ_CTRL_EVT_RING,
 527                                        SVM_Q_WAIT, msg);
 528   evt = svm_msg_q_msg_data (app_mq, msg);
 529   memset (evt, 0, sizeof (*evt));
 530   evt->event_type = SESSION_CTRL_EVT_DISCONNECTED;
 531   mp = (session_disconnected_msg_t *) evt->data;
 532   mp->handle = session_handle (s);
 533   mp->context = app->api_client_index;
 534   svm_msg_q_add_and_unlock (app_mq, msg);
 535 }
 536
 537 static void
 538 mq_send_session_reset_cb (stream_session_t * s)
 539 {
 540   app_worker_t *app = app_worker_get (s->app_wrk_index);
 541   svm_msg_q_msg_t _msg, *msg = &_msg;
 542   session_reset_msg_t *mp;
 543   svm_msg_q_t *app_mq;
 544   session_event_t *evt;
 545
 546   app_mq = app->event_queue;
 547   svm_msg_q_lock_and_alloc_msg_w_ring (app_mq, SESSION_MQ_CTRL_EVT_RING,
 548                                        SVM_Q_WAIT, msg);
 549   evt = svm_msg_q_msg_data (app_mq, msg);
 550   memset (evt, 0, sizeof (*evt));
 551   evt->event_type = SESSION_CTRL_EVT_RESET;
 552   mp = (session_reset_msg_t *) evt->data;
 553   mp->handle = session_handle (s);
 554   svm_msg_q_add_and_unlock (app_mq, msg);
 555 }
 556
 557 static int
 558 mq_send_session_connected_cb (u32 app_wrk_index, u32 api_context,
 559                               stream_session_t * s, u8 is_fail)
 560 {
 561   svm_msg_q_msg_t _msg, *msg = &_msg;
 562   session_connected_msg_t *mp;
 563   svm_msg_q_t *vpp_mq, *app_mq;
 564   transport_connection_t *tc;
 565   app_worker_t *app_wrk;
 566   session_event_t *evt;
 567   application_t *app;
 568
 569   app_wrk = app_worker_get (app_wrk_index);
 570   app = application_get (app_wrk->app_index);
 571   app_mq = app_wrk->event_queue;
 572   if (!app_mq)
 573     {
 574       clib_warning ("app %u with api index: %u not attached", app->app_index,
 575                     app->api_client_index);
 576       return -1;
 577     }
 578
 579   svm_msg_q_lock_and_alloc_msg_w_ring (app_mq, SESSION_MQ_CTRL_EVT_RING,
 580                                        SVM_Q_WAIT, msg);
 581   evt = svm_msg_q_msg_data (app_mq, msg);
 582   memset (evt, 0, sizeof (*evt));
 583   evt->event_type = SESSION_CTRL_EVT_CONNECTED;
 584   mp = (session_connected_msg_t *) evt->data;
 585   mp->context = api_context;
 586
 587   if (is_fail)
 588     goto done;
 589
 590   if (session_has_transport (s))
 591     {
 592       tc = session_get_transport (s);
 593       if (!tc)
 594         {
 595           is_fail = 1;
 596           goto done;
 597         }
 598
 599       vpp_mq = session_manager_get_vpp_event_queue (s->thread_index);
 600       mp->handle = session_handle (s);
 601       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 602       clib_memcpy (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 603       mp->is_ip4 = tc->is_ip4;
 604       mp->lcl_port = tc->lcl_port;
 605       mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 606       mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 607     }
 608   else
 609     {
 610       local_session_t *ls = (local_session_t *) s;
 611       u8 main_thread = vlib_num_workers ()? 1 : 0;
 612
 613       send_app_cut_through_registration_add (app->api_client_index,
 614                                              app_wrk->wrk_map_index,
 615                                              ls->client_evt_q,
 616                                              ls->server_evt_q);
 617
 618       mp->handle = application_local_session_handle (ls);
 619       mp->lcl_port = ls->port;
 620       vpp_mq = session_manager_get_vpp_event_queue (main_thread);
 621       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 622       mp->client_event_queue_address = ls->client_evt_q;
 623       mp->server_event_queue_address = ls->server_evt_q;
 624       mp->server_rx_fifo = pointer_to_uword (s->server_tx_fifo);
 625       mp->server_tx_fifo = pointer_to_uword (s->server_rx_fifo);
 626     }
 627
 628 done:
 629   mp->retval = is_fail ?
 630     clib_host_to_net_u32 (VNET_API_ERROR_SESSION_CONNECT) : 0;
 631
 632   svm_msg_q_add_and_unlock (app_mq, msg);
 633   return 0;
 634 }
 635
 636 static int
 637 mq_send_session_bound_cb (u32 app_wrk_index, u32 api_context,
 638                           session_handle_t handle, int rv)
 639 {
 640   svm_msg_q_msg_t _msg, *msg = &_msg;
 641   svm_msg_q_t *app_mq, *vpp_evt_q;
 642   transport_connection_t *tc;
 643   stream_session_t *ls = 0;
 644   session_bound_msg_t *mp;
 645   app_worker_t *app_wrk;
 646   session_event_t *evt;
 647   application_t *app;
 648
 649   app_wrk = app_worker_get (app_wrk_index);
 650   app = application_get (app_wrk->app_index);
 651   app_mq = app_wrk->event_queue;
 652   if (!app_mq)
 653     {
 654       clib_warning ("app %u with api index: %u not attached", app->app_index,
 655                     app->api_client_index);
 656       return -1;
 657     }
 658
 659   svm_msg_q_lock_and_alloc_msg_w_ring (app_mq, SESSION_MQ_CTRL_EVT_RING,
 660                                        SVM_Q_WAIT, msg);
 661   evt = svm_msg_q_msg_data (app_mq, msg);
 662   memset (evt, 0, sizeof (*evt));
 663   evt->event_type = SESSION_CTRL_EVT_BOUND;
 664   mp = (session_bound_msg_t *) evt->data;
 665   mp->context = api_context;
 666
 667   if (rv)
 668     goto done;
 669
 670   mp->handle = handle;
 671   if (application_has_global_scope (app))
 672     {
 673       ls = listen_session_get_from_handle (handle);
 674       tc = listen_session_get_transport (ls);
 675       mp->lcl_port = tc->lcl_port;
 676       mp->lcl_is_ip4 = tc->is_ip4;
 677       clib_memcpy (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 678     }
 679   else
 680     {
 681       local_session_t *local;
 682       local = application_get_local_listener_w_handle (handle);
 683       mp->lcl_port = local->port;
 684       mp->lcl_is_ip4 = session_type_is_ip4 (local->session_type);
 685     }
 686
 687   if (ls && session_transport_service_type (ls) == TRANSPORT_SERVICE_CL)
 688     {
 689       mp->rx_fifo = pointer_to_uword (ls->server_rx_fifo);
 690       mp->tx_fifo = pointer_to_uword (ls->server_tx_fifo);
 691       vpp_evt_q = session_manager_get_vpp_event_queue (0);
 692       mp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 693     }
 694
 695 done:
 696   mp->retval = rv;
 697   svm_msg_q_add_and_unlock (app_mq, msg);
 698   return 0;
 699 }
 700
 701 static session_cb_vft_t session_mq_cb_vft = {
 702   .session_accept_callback = mq_send_session_accepted_cb,
 703   .session_disconnect_callback = mq_send_session_disconnected_cb,
 704   .session_connected_callback = mq_send_session_connected_cb,
 705   .session_reset_callback = mq_send_session_reset_cb,
 706   .add_segment_callback = send_add_segment_callback,
 707   .del_segment_callback = send_del_segment_callback,
 708 };
 709
 710 static void
 711 vl_api_session_enable_disable_t_handler (vl_api_session_enable_disable_t * mp)
 712 {
 713   vl_api_session_enable_disable_reply_t *rmp;
 714   vlib_main_t *vm = vlib_get_main ();
 715   int rv = 0;
 716
 717   vnet_session_enable_disable (vm, mp->is_enable);
 718   REPLY_MACRO (VL_API_SESSION_ENABLE_DISABLE_REPLY);
 719 }
 720
 721 static void
 722 vl_api_application_attach_t_handler (vl_api_application_attach_t * mp)
 723 {
 724   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
 725   vl_api_application_attach_reply_t *rmp;
 726   ssvm_private_t *segp, *evt_q_segment;
 727   vnet_app_attach_args_t _a, *a = &_a;
 728   vl_api_registration_t *reg;
 729   clib_error_t *error = 0;
 730   u8 fd_flags = 0;
 731
 732   reg = vl_api_client_index_to_registration (mp->client_index);
 733   if (!reg)
 734     return;
 735
 736   if (session_manager_is_enabled () == 0)
 737     {
 738       rv = VNET_API_ERROR_FEATURE_DISABLED;
 739       goto done;
 740     }
 741
 742   STATIC_ASSERT (sizeof (u64) * APP_OPTIONS_N_OPTIONS <=
 743                  sizeof (mp->options),
 744                  "Out of options, fix api message definition");
 745
 746   memset (a, 0, sizeof (*a));
 747   a->api_client_index = mp->client_index;
 748   a->options = mp->options;
 749
 750   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_USE_MQ_FOR_CTRL_MSGS)
 751     a->session_cb_vft = &session_mq_cb_vft;
 752   else
 753     a->session_cb_vft = &session_cb_vft;
 754
 755   if (mp->namespace_id_len > 64)
 756     {
 757       rv = VNET_API_ERROR_INVALID_VALUE;
 758       goto done;
 759     }
 760
 761   if (mp->namespace_id_len)
 762     {
 763       vec_validate (a->namespace_id, mp->namespace_id_len - 1);
 764       clib_memcpy (a->namespace_id, mp->namespace_id, mp->namespace_id_len);
 765     }
 766
 767   if ((error = vnet_application_attach (a)))
 768     {
 769       rv = clib_error_get_code (error);
 770       clib_error_report (error);
 771       vec_free (a->namespace_id);
 772       goto done;
 773     }
 774   vec_free (a->namespace_id);
 775
 776   /* Send event queues segment */
 777   if ((evt_q_segment = session_manager_get_evt_q_segment ()))
 778     {
 779       fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
 780       fds[n_fds] = evt_q_segment->fd;
 781       n_fds += 1;
 782     }
 783   /* Send fifo segment fd if needed */
 784   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
 785     {
 786       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 787       fds[n_fds] = a->segment->fd;
 788       n_fds += 1;
 789     }
 790   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
 791     {
 792       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 793       fds[n_fds] = svm_msg_q_get_producer_eventfd (a->app_evt_q);
 794       n_fds += 1;
 795     }
 796
 797 done:
 798
 799   /* *INDENT-OFF* */
 800   REPLY_MACRO2 (VL_API_APPLICATION_ATTACH_REPLY, ({
 801     if (!rv)
 802       {
 803         segp = a->segment;
 804         rmp->segment_name_length = 0;
 805         rmp->segment_size = segp->ssvm_size;
 806         if (vec_len (segp->name))
 807           {
 808             memcpy (rmp->segment_name, segp->name, vec_len (segp->name));
 809             rmp->segment_name_length = vec_len (segp->name);
 810           }
 811         rmp->app_event_queue_address = pointer_to_uword (a->app_evt_q);
 812         rmp->n_fds = n_fds;
 813         rmp->fd_flags = fd_flags;
 814       }
 815   }));
 816   /* *INDENT-ON* */
 817
 818   if (n_fds)
 819     session_send_fds (reg, fds, n_fds);
 820 }
 821
 822 static void
 823 vl_api_application_detach_t_handler (vl_api_application_detach_t * mp)
 824 {
 825   vl_api_application_detach_reply_t *rmp;
 826   int rv = VNET_API_ERROR_INVALID_VALUE_2;
 827   vnet_app_detach_args_t _a, *a = &_a;
 828   application_t *app;
 829
 830   if (session_manager_is_enabled () == 0)
 831     {
 832       rv = VNET_API_ERROR_FEATURE_DISABLED;
 833       goto done;
 834     }
 835
 836   app = application_lookup (mp->client_index);
 837   if (app)
 838     {
 839       a->app_index = app->app_index;
 840       rv = vnet_application_detach (a);
 841     }
 842
 843 done:
 844   REPLY_MACRO (VL_API_APPLICATION_DETACH_REPLY);
 845 }
 846
 847 static void
 848 vl_api_bind_uri_t_handler (vl_api_bind_uri_t * mp)
 849 {
 850   transport_connection_t *tc = 0;
 851   vnet_bind_args_t _a, *a = &_a;
 852   vl_api_bind_uri_reply_t *rmp;
 853   stream_session_t *s;
 854   application_t *app = 0;
 855   svm_msg_q_t *vpp_evt_q;
 856   app_worker_t *app_wrk;
 857   int rv;
 858
 859   if (session_manager_is_enabled () == 0)
 860     {
 861       rv = VNET_API_ERROR_FEATURE_DISABLED;
 862       goto done;
 863     }
 864
 865   app = application_lookup (mp->client_index);
 866   if (app)
 867     {
 868       memset (a, 0, sizeof (*a));
 869       a->uri = (char *) mp->uri;
 870       a->app_index = app->app_index;
 871       rv = vnet_bind_uri (a);
 872     }
 873   else
 874     {
 875       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 876     }
 877
 878 done:
 879
 880   /* *INDENT-OFF* */
 881   REPLY_MACRO2 (VL_API_BIND_URI_REPLY, ({
 882     if (!rv)
 883       {
 884         rmp->handle = a->handle;
 885         if (app && application_has_global_scope (app))
 886             {
 887               s = listen_session_get_from_handle (a->handle);
 888               tc = listen_session_get_transport (s);
 889               rmp->lcl_is_ip4 = tc->is_ip4;
 890               rmp->lcl_port = tc->lcl_port;
 891               clib_memcpy (rmp->lcl_ip, &tc->lcl_ip, sizeof(tc->lcl_ip));
 892               if (session_transport_service_type (s) == TRANSPORT_SERVICE_CL)
 893                 {
 894                   rmp->rx_fifo = pointer_to_uword (s->server_rx_fifo);
 895                   rmp->tx_fifo = pointer_to_uword (s->server_tx_fifo);
 896                   vpp_evt_q = session_manager_get_vpp_event_queue (0);
 897                   rmp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 898                 }
 899             }
 900       }
 901   }));
 902   /* *INDENT-ON* */
 903
 904   /* If app uses mq for control messages, send an mq message as well */
 905   if (app && application_use_mq_for_ctrl (app))
 906     {
 907       app_wrk = application_get_worker (app, 0);
 908       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
 909                                 rv);
 910     }
 911 }
 912
 913 static void
 914 vl_api_unbind_uri_t_handler (vl_api_unbind_uri_t * mp)
 915 {
 916   vl_api_unbind_uri_reply_t *rmp;
 917   application_t *app;
 918   vnet_unbind_args_t _a, *a = &_a;
 919   int rv;
 920
 921   if (session_manager_is_enabled () == 0)
 922     {
 923       rv = VNET_API_ERROR_FEATURE_DISABLED;
 924       goto done;
 925     }
 926
 927   app = application_lookup (mp->client_index);
 928   if (app)
 929     {
 930       a->uri = (char *) mp->uri;
 931       a->app_index = app->app_index;
 932       rv = vnet_unbind_uri (a);
 933     }
 934   else
 935     {
 936       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 937     }
 938
 939 done:
 940   REPLY_MACRO (VL_API_UNBIND_URI_REPLY);
 941 }
 942
 943 static void
 944 vl_api_connect_uri_t_handler (vl_api_connect_uri_t * mp)
 945 {
 946   vl_api_connect_session_reply_t *rmp;
 947   vnet_connect_args_t _a, *a = &_a;
 948   application_t *app;
 949   clib_error_t *error = 0;
 950   int rv = 0;
 951
 952   if (session_manager_is_enabled () == 0)
 953     {
 954       rv = VNET_API_ERROR_FEATURE_DISABLED;
 955       goto done;
 956     }
 957
 958   app = application_lookup (mp->client_index);
 959   if (app)
 960     {
 961       memset (a, 0, sizeof (*a));
 962       a->uri = (char *) mp->uri;
 963       a->api_context = mp->context;
 964       a->app_index = app->app_index;
 965       if ((error = vnet_connect_uri (a)))
 966         {
 967           rv = clib_error_get_code (error);
 968           clib_error_report (error);
 969         }
 970     }
 971   else
 972     {
 973       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 974     }
 975
 976   /*
 977    * Don't reply to stream (tcp) connects. The reply will come once
 978    * the connection is established. In case of the redirects, the reply
 979    * will come from the server app.
 980    */
 981   if (rv == 0)
 982     return;
 983
 984 done:
 985   /* *INDENT-OFF* */
 986   REPLY_MACRO (VL_API_CONNECT_SESSION_REPLY);
 987   /* *INDENT-ON* */
 988 }
 989
 990 static void
 991 vl_api_disconnect_session_t_handler (vl_api_disconnect_session_t * mp)
 992 {
 993   vl_api_disconnect_session_reply_t *rmp;
 994   vnet_disconnect_args_t _a, *a = &_a;
 995   application_t *app;
 996   int rv = 0;
 997
 998   if (session_manager_is_enabled () == 0)
 999     {
1000       rv = VNET_API_ERROR_FEATURE_DISABLED;
1001       goto done;
1002     }
1003
1004   app = application_lookup (mp->client_index);
1005   if (app)
1006     {
1007       a->handle = mp->handle;
1008       a->app_index = app->app_index;
1009       rv = vnet_disconnect_session (a);
1010     }
1011   else
1012     {
1013       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1014     }
1015
1016 done:
1017   REPLY_MACRO2 (VL_API_DISCONNECT_SESSION_REPLY, rmp->handle = mp->handle);
1018 }
1019
1020 static void
1021 vl_api_disconnect_session_reply_t_handler (vl_api_disconnect_session_reply_t *
1022                                            mp)
1023 {
1024   vnet_disconnect_args_t _a, *a = &_a;
1025   application_t *app;
1026
1027   /* Client objected to disconnecting the session, log and continue */
1028   if (mp->retval)
1029     {
1030       clib_warning ("client retval %d", mp->retval);
1031       return;
1032     }
1033
1034   /* Disconnect has been confirmed. Confirm close to transport */
1035   app = application_lookup (mp->context);
1036   if (app)
1037     {
1038       a->handle = mp->handle;
1039       a->app_index = app->app_index;
1040       vnet_disconnect_session (a);
1041     }
1042 }
1043
1044 static void
1045 vl_api_reset_session_reply_t_handler (vl_api_reset_session_reply_t * mp)
1046 {
1047   app_worker_t *app_wrk;
1048   application_t *app;
1049   stream_session_t *s;
1050   u32 index, thread_index;
1051
1052   app = application_lookup (mp->context);
1053   if (!app)
1054     return;
1055
1056   session_parse_handle (mp->handle, &index, &thread_index);
1057   s = session_get_if_valid (index, thread_index);
1058   if (!s)
1059     {
1060       clib_warning ("Invalid session!");
1061       return;
1062     }
1063
1064   app_wrk = app_worker_get (s->app_wrk_index);
1065   if (app_wrk->app_index != app->app_index)
1066     {
1067       clib_warning ("app %u does not own handle 0x%lx", app->app_index,
1068                     mp->handle);
1069       return;
1070     }
1071
1072   /* Client objected to resetting the session, log and continue */
1073   if (mp->retval)
1074     {
1075       clib_warning ("client retval %d", mp->retval);
1076       return;
1077     }
1078
1079   /* This comes as a response to a reset, transport only waiting for
1080    * confirmation to remove connection state, no need to disconnect */
1081   stream_session_cleanup (s);
1082 }
1083
1084 static void
1085 vl_api_accept_session_reply_t_handler (vl_api_accept_session_reply_t * mp)
1086 {
1087   vnet_disconnect_args_t _a = { 0 }, *a = &_a;
1088   local_session_t *ls;
1089   stream_session_t *s;
1090
1091   /* Server isn't interested, kill the session */
1092   if (mp->retval)
1093     {
1094       a->app_index = mp->context;
1095       a->handle = mp->handle;
1096       vnet_disconnect_session (a);
1097       return;
1098     }
1099
1100   if (session_handle_is_local (mp->handle))
1101     {
1102       ls = application_get_local_session_from_handle (mp->handle);
1103       if (!ls || ls->app_wrk_index != mp->context)
1104         {
1105           clib_warning ("server %u doesn't own local handle %llu",
1106                         mp->context, mp->handle);
1107           return;
1108         }
1109       if (application_local_session_connect_notify (ls))
1110         return;
1111       ls->session_state = SESSION_STATE_READY;
1112     }
1113   else
1114     {
1115       s = session_get_from_handle_if_valid (mp->handle);
1116       if (!s)
1117         {
1118           clib_warning ("session doesn't exist");
1119           return;
1120         }
1121       if (s->app_wrk_index != mp->context)
1122         {
1123           clib_warning ("app doesn't own session");
1124           return;
1125         }
1126       s->session_state = SESSION_STATE_READY;
1127     }
1128 }
1129
1130 static void
1131 vl_api_map_another_segment_reply_t_handler (vl_api_map_another_segment_reply_t
1132                                             * mp)
1133 {
1134   clib_warning ("not implemented");
1135 }
1136
1137 static void
1138 vl_api_bind_sock_t_handler (vl_api_bind_sock_t * mp)
1139 {
1140   vl_api_bind_sock_reply_t *rmp;
1141   vnet_bind_args_t _a, *a = &_a;
1142   int rv = 0;
1143   clib_error_t *error;
1144   application_t *app = 0;
1145   app_worker_t *app_wrk;
1146   stream_session_t *s;
1147   transport_connection_t *tc = 0;
1148   ip46_address_t *ip46;
1149   svm_msg_q_t *vpp_evt_q;
1150
1151   if (session_manager_is_enabled () == 0)
1152     {
1153       rv = VNET_API_ERROR_FEATURE_DISABLED;
1154       goto done;
1155     }
1156
1157   app = application_lookup (mp->client_index);
1158   if (!app)
1159     {
1160       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1161       goto done;
1162     }
1163
1164   ip46 = (ip46_address_t *) mp->ip;
1165   memset (a, 0, sizeof (*a));
1166   a->sep.is_ip4 = mp->is_ip4;
1167   a->sep.ip = *ip46;
1168   a->sep.port = mp->port;
1169   a->sep.fib_index = mp->vrf;
1170   a->sep.sw_if_index = ENDPOINT_INVALID_INDEX;
1171   a->sep.transport_proto = mp->proto;
1172   a->app_index = app->app_index;
1173   a->wrk_map_index = mp->wrk_index;
1174
1175   if ((error = vnet_bind (a)))
1176     {
1177       rv = clib_error_get_code (error);
1178       clib_error_report (error);
1179     }
1180
1181 done:
1182   /* *INDENT-OFF* */
1183   REPLY_MACRO2 (VL_API_BIND_SOCK_REPLY,({
1184     if (!rv)
1185       {
1186         rmp->handle = a->handle;
1187         rmp->lcl_port = mp->port;
1188         rmp->lcl_is_ip4 = mp->is_ip4;
1189         if (app && application_has_global_scope (app))
1190           {
1191             s = listen_session_get_from_handle (a->handle);
1192             tc = listen_session_get_transport (s);
1193             clib_memcpy (rmp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
1194             if (session_transport_service_type (s) == TRANSPORT_SERVICE_CL)
1195               {
1196                 rmp->rx_fifo = pointer_to_uword (s->server_rx_fifo);
1197                 rmp->tx_fifo = pointer_to_uword (s->server_tx_fifo);
1198                 vpp_evt_q = session_manager_get_vpp_event_queue (0);
1199                 rmp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
1200               }
1201           }
1202       }
1203   }));
1204   /* *INDENT-ON* */
1205
1206   /* If app uses mq for control messages, send an mq message as well */
1207   if (app && application_use_mq_for_ctrl (app))
1208     {
1209       app_wrk = application_get_worker (app, mp->wrk_index);
1210       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
1211                                 rv);
1212     }
1213 }
1214
1215 static void
1216 vl_api_unbind_sock_t_handler (vl_api_unbind_sock_t * mp)
1217 {
1218   vl_api_unbind_sock_reply_t *rmp;
1219   vnet_unbind_args_t _a, *a = &_a;
1220   application_t *app;
1221   clib_error_t *error;
1222   int rv = 0;
1223
1224   if (session_manager_is_enabled () == 0)
1225     {
1226       rv = VNET_API_ERROR_FEATURE_DISABLED;
1227       goto done;
1228     }
1229
1230   app = application_lookup (mp->client_index);
1231   if (app)
1232     {
1233       a->app_index = app->app_index;
1234       a->handle = mp->handle;
1235       a->wrk_map_index = mp->wrk_index;
1236       if ((error = vnet_unbind (a)))
1237         {
1238           rv = clib_error_get_code (error);
1239           clib_error_report (error);
1240         }
1241     }
1242
1243 done:
1244   REPLY_MACRO (VL_API_UNBIND_SOCK_REPLY);
1245 }
1246
1247 static void
1248 vl_api_connect_sock_t_handler (vl_api_connect_sock_t * mp)
1249 {
1250   vl_api_connect_session_reply_t *rmp;
1251   vnet_connect_args_t _a, *a = &_a;
1252   application_t *app = 0;
1253   clib_error_t *error = 0;
1254   int rv = 0;
1255
1256   if (session_manager_is_enabled () == 0)
1257     {
1258       rv = VNET_API_ERROR_FEATURE_DISABLED;
1259       goto done;
1260     }
1261
1262   app = application_lookup (mp->client_index);
1263   if (app)
1264     {
1265       svm_queue_t *client_q;
1266       ip46_address_t *ip46 = (ip46_address_t *) mp->ip;
1267
1268       memset (a, 0, sizeof (*a));
1269       client_q = vl_api_client_index_to_input_queue (mp->client_index);
1270       mp->client_queue_address = pointer_to_uword (client_q);
1271       a->sep.is_ip4 = mp->is_ip4;
1272       a->sep.ip = *ip46;
1273       a->sep.port = mp->port;
1274       a->sep.transport_proto = mp->proto;
1275       a->sep.fib_index = mp->vrf;
1276       a->sep.sw_if_index = ENDPOINT_INVALID_INDEX;
1277       if (mp->hostname_len)
1278         {
1279           vec_validate (a->sep_ext.hostname, mp->hostname_len - 1);
1280           clib_memcpy (a->sep_ext.hostname, mp->hostname, mp->hostname_len);
1281         }
1282       a->api_context = mp->context;
1283       a->app_index = app->app_index;
1284       a->wrk_map_index = mp->wrk_index;
1285       if ((error = vnet_connect (a)))
1286         {
1287           rv = clib_error_get_code (error);
1288           clib_error_report (error);
1289         }
1290       vec_free (a->sep_ext.hostname);
1291     }
1292   else
1293     {
1294       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1295     }
1296
1297   if (rv == 0)
1298     return;
1299
1300   /* Got some error, relay it */
1301
1302 done:
1303   REPLY_MACRO (VL_API_CONNECT_SESSION_REPLY);
1304
1305   if (app && application_use_mq_for_ctrl (app))
1306     {
1307       app_worker_t *app_wrk = application_get_worker (app, mp->wrk_index);
1308       mq_send_session_connected_cb (app_wrk->wrk_index, mp->context, 0, 1);
1309     }
1310 }
1311
1312 static void
1313 vl_api_app_worker_add_del_t_handler (vl_api_app_worker_add_del_t * mp)
1314 {
1315   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
1316   vl_api_app_worker_add_del_reply_t *rmp;
1317   vl_api_registration_t *reg;
1318   clib_error_t *error = 0;
1319   application_t *app;
1320   u8 fd_flags = 0;
1321
1322   if (!session_manager_is_enabled ())
1323     {
1324       rv = VNET_API_ERROR_FEATURE_DISABLED;
1325       goto done;
1326     }
1327
1328   reg = vl_api_client_index_to_registration (mp->client_index);
1329   if (!reg)
1330     return;
1331
1332   app = application_lookup (clib_net_to_host_u32 (mp->app_api_index));
1333   if (!app)
1334     {
1335       rv = VNET_API_ERROR_INVALID_VALUE;
1336       goto done;
1337     }
1338
1339   vnet_app_worker_add_del_args_t args = {
1340     .app_index = app->app_index,
1341     .wrk_index = clib_net_to_host_u32 (mp->wrk_index),
1342     .is_add = mp->is_add
1343   };
1344   error = vnet_app_worker_add_del (&args);
1345   if (error)
1346     {
1347       rv = clib_error_get_code (error);
1348       clib_error_report (error);
1349       goto done;
1350     }
1351
1352   if (!mp->is_add)
1353     goto done;
1354
1355   /* Send fifo segment fd if needed */
1356   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
1357     {
1358       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1359       fds[n_fds] = args.segment->fd;
1360       n_fds += 1;
1361     }
1362   if (application_segment_manager_properties (app)->use_mq_eventfd)
1363     {
1364       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1365       fds[n_fds] = svm_msg_q_get_producer_eventfd (args.evt_q);
1366       n_fds += 1;
1367     }
1368
1369   /* *INDENT-OFF* */
1370 done:
1371   REPLY_MACRO2 (VL_API_APP_WORKER_ADD_DEL_REPLY, ({
1372     rmp->is_add = mp->is_add;
1373     rmp->wrk_index = clib_host_to_net_u32 (args.wrk_index);
1374     if (!rv && mp->is_add)
1375       {
1376         if (vec_len (args.segment->name))
1377           {
1378             memcpy (rmp->segment_name, args.segment->name,
1379                     vec_len (args.segment->name));
1380             rmp->segment_name_length = vec_len (args.segment->name);
1381           }
1382         rmp->app_event_queue_address = pointer_to_uword (args.evt_q);
1383         rmp->n_fds = n_fds;
1384         rmp->fd_flags = fd_flags;
1385       }
1386   }));
1387   /* *INDENT-ON* */
1388
1389   if (n_fds)
1390     session_send_fds (reg, fds, n_fds);
1391 }
1392
1393 static void
1394 vl_api_app_namespace_add_del_t_handler (vl_api_app_namespace_add_del_t * mp)
1395 {
1396   vl_api_app_namespace_add_del_reply_t *rmp;
1397   clib_error_t *error = 0;
1398   u32 appns_index = 0;
1399   u8 *ns_id = 0;
1400   int rv = 0;
1401   if (!session_manager_is_enabled ())
1402     {
1403       rv = VNET_API_ERROR_FEATURE_DISABLED;
1404       goto done;
1405     }
1406
1407   if (mp->namespace_id_len > ARRAY_LEN (mp->namespace_id))
1408     {
1409       rv = VNET_API_ERROR_INVALID_VALUE;
1410       goto done;
1411     }
1412
1413   vec_validate (ns_id, mp->namespace_id_len - 1);
1414   clib_memcpy (ns_id, mp->namespace_id, mp->namespace_id_len);
1415   vnet_app_namespace_add_del_args_t args = {
1416     .ns_id = ns_id,
1417     .secret = clib_net_to_host_u64 (mp->secret),
1418     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
1419     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
1420     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
1421     .is_add = 1
1422   };
1423   error = vnet_app_namespace_add_del (&args);
1424   if (error)
1425     {
1426       rv = clib_error_get_code (error);
1427       clib_error_report (error);
1428     }
1429   else
1430     {
1431       appns_index = app_namespace_index_from_id (ns_id);
1432       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
1433         {
1434           clib_warning ("app ns lookup failed");
1435           rv = VNET_API_ERROR_UNSPECIFIED;
1436         }
1437     }
1438   vec_free (ns_id);
1439
1440   /* *INDENT-OFF* */
1441 done:
1442   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_REPLY, ({
1443     if (!rv)
1444       rmp->appns_index = clib_host_to_net_u32 (appns_index);
1445   }));
1446   /* *INDENT-ON* */
1447 }
1448
1449 static void
1450 vl_api_session_rule_add_del_t_handler (vl_api_session_rule_add_del_t * mp)
1451 {
1452   vl_api_session_rule_add_del_reply_t *rmp;
1453   session_rule_add_del_args_t args;
1454   session_rule_table_add_del_args_t *table_args = &args.table_args;
1455   clib_error_t *error;
1456   u8 fib_proto;
1457   int rv = 0;
1458
1459   memset (&args, 0, sizeof (args));
1460   fib_proto = mp->is_ip4 ? FIB_PROTOCOL_IP4 : FIB_PROTOCOL_IP6;
1461
1462   table_args->lcl.fp_len = mp->lcl_plen;
1463   table_args->lcl.fp_proto = fib_proto;
1464   table_args->rmt.fp_len = mp->rmt_plen;
1465   table_args->rmt.fp_proto = fib_proto;
1466   table_args->lcl_port = mp->lcl_port;
1467   table_args->rmt_port = mp->rmt_port;
1468   table_args->action_index = clib_net_to_host_u32 (mp->action_index);
1469   table_args->is_add = mp->is_add;
1470   mp->tag[sizeof (mp->tag) - 1] = 0;
1471   table_args->tag = format (0, "%s", mp->tag);
1472   args.appns_index = clib_net_to_host_u32 (mp->appns_index);
1473   args.scope = mp->scope;
1474   args.transport_proto = mp->transport_proto;
1475
1476   memset (&table_args->lcl.fp_addr, 0, sizeof (table_args->lcl.fp_addr));
1477   memset (&table_args->rmt.fp_addr, 0, sizeof (table_args->rmt.fp_addr));
1478   ip_set (&table_args->lcl.fp_addr, mp->lcl_ip, mp->is_ip4);
1479   ip_set (&table_args->rmt.fp_addr, mp->rmt_ip, mp->is_ip4);
1480   error = vnet_session_rule_add_del (&args);
1481   if (error)
1482     {
1483       rv = clib_error_get_code (error);
1484       clib_error_report (error);
1485     }
1486   vec_free (table_args->tag);
1487   REPLY_MACRO (VL_API_SESSION_RULE_ADD_DEL_REPLY);
1488 }
1489
1490 static void
1491 send_session_rule_details4 (mma_rule_16_t * rule, u8 is_local,
1492                             u8 transport_proto, u32 appns_index, u8 * tag,
1493                             vl_api_registration_t * reg, u32 context)
1494 {
1495   vl_api_session_rules_details_t *rmp = 0;
1496   session_mask_or_match_4_t *match =
1497     (session_mask_or_match_4_t *) & rule->match;
1498   session_mask_or_match_4_t *mask =
1499     (session_mask_or_match_4_t *) & rule->mask;
1500
1501   rmp = vl_msg_api_alloc (sizeof (*rmp));
1502   memset (rmp, 0, sizeof (*rmp));
1503   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1504   rmp->context = context;
1505
1506   rmp->is_ip4 = 1;
1507   clib_memcpy (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1508   clib_memcpy (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1509   rmp->lcl_plen = ip4_mask_to_preflen (&mask->lcl_ip);
1510   rmp->rmt_plen = ip4_mask_to_preflen (&mask->rmt_ip);
1511   rmp->lcl_port = match->lcl_port;
1512   rmp->rmt_port = match->rmt_port;
1513   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1514   rmp->scope =
1515     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1516   rmp->transport_proto = transport_proto;
1517   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1518   if (tag)
1519     {
1520       clib_memcpy (rmp->tag, tag, vec_len (tag));
1521       rmp->tag[vec_len (tag)] = 0;
1522     }
1523
1524   vl_api_send_msg (reg, (u8 *) rmp);
1525 }
1526
1527 static void
1528 send_session_rule_details6 (mma_rule_40_t * rule, u8 is_local,
1529                             u8 transport_proto, u32 appns_index, u8 * tag,
1530                             vl_api_registration_t * reg, u32 context)
1531 {
1532   vl_api_session_rules_details_t *rmp = 0;
1533   session_mask_or_match_6_t *match =
1534     (session_mask_or_match_6_t *) & rule->match;
1535   session_mask_or_match_6_t *mask =
1536     (session_mask_or_match_6_t *) & rule->mask;
1537
1538   rmp = vl_msg_api_alloc (sizeof (*rmp));
1539   memset (rmp, 0, sizeof (*rmp));
1540   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1541   rmp->context = context;
1542
1543   rmp->is_ip4 = 0;
1544   clib_memcpy (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1545   clib_memcpy (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1546   rmp->lcl_plen = ip6_mask_to_preflen (&mask->lcl_ip);
1547   rmp->rmt_plen = ip6_mask_to_preflen (&mask->rmt_ip);
1548   rmp->lcl_port = match->lcl_port;
1549   rmp->rmt_port = match->rmt_port;
1550   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1551   rmp->scope =
1552     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1553   rmp->transport_proto = transport_proto;
1554   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1555   if (tag)
1556     {
1557       clib_memcpy (rmp->tag, tag, vec_len (tag));
1558       rmp->tag[vec_len (tag)] = 0;
1559     }
1560
1561   vl_api_send_msg (reg, (u8 *) rmp);
1562 }
1563
1564 static void
1565 send_session_rules_table_details (session_rules_table_t * srt, u8 fib_proto,
1566                                   u8 tp, u8 is_local, u32 appns_index,
1567                                   vl_api_registration_t * reg, u32 context)
1568 {
1569   mma_rule_16_t *rule16;
1570   mma_rule_40_t *rule40;
1571   mma_rules_table_16_t *srt16;
1572   mma_rules_table_40_t *srt40;
1573   u32 ri;
1574
1575   if (is_local || fib_proto == FIB_PROTOCOL_IP4)
1576     {
1577       u8 *tag = 0;
1578       /* *INDENT-OFF* */
1579       srt16 = &srt->session_rules_tables_16;
1580       pool_foreach (rule16, srt16->rules, ({
1581         ri = mma_rules_table_rule_index_16 (srt16, rule16);
1582         tag = session_rules_table_rule_tag (srt, ri, 1);
1583         send_session_rule_details4 (rule16, is_local, tp, appns_index, tag,
1584                                     reg, context);
1585       }));
1586       /* *INDENT-ON* */
1587     }
1588   if (is_local || fib_proto == FIB_PROTOCOL_IP6)
1589     {
1590       u8 *tag = 0;
1591       /* *INDENT-OFF* */
1592       srt40 = &srt->session_rules_tables_40;
1593       pool_foreach (rule40, srt40->rules, ({
1594         ri = mma_rules_table_rule_index_40 (srt40, rule40);
1595         tag = session_rules_table_rule_tag (srt, ri, 1);
1596         send_session_rule_details6 (rule40, is_local, tp, appns_index, tag,
1597                                     reg, context);
1598       }));
1599       /* *INDENT-ON* */
1600     }
1601 }
1602
1603 static void
1604 vl_api_session_rules_dump_t_handler (vl_api_one_map_server_dump_t * mp)
1605 {
1606   vl_api_registration_t *reg;
1607   session_table_t *st;
1608   u8 tp;
1609
1610   reg = vl_api_client_index_to_registration (mp->client_index);
1611   if (!reg)
1612     return;
1613
1614   /* *INDENT-OFF* */
1615   session_table_foreach (st, ({
1616     for (tp = 0; tp < TRANSPORT_N_PROTO; tp++)
1617       {
1618         send_session_rules_table_details (&st->session_rules[tp],
1619                                           st->active_fib_proto, tp,
1620                                           st->is_local, st->appns_index, reg,
1621                                           mp->context);
1622       }
1623   }));
1624   /* *INDENT-ON* */
1625 }
1626
1627 static void
1628 vl_api_application_tls_cert_add_t_handler (vl_api_application_tls_cert_add_t *
1629                                            mp)
1630 {
1631   vl_api_app_namespace_add_del_reply_t *rmp;
1632   vnet_app_add_tls_cert_args_t _a, *a = &_a;
1633   clib_error_t *error;
1634   application_t *app;
1635   u32 cert_len;
1636   int rv = 0;
1637   if (!session_manager_is_enabled ())
1638     {
1639       rv = VNET_API_ERROR_FEATURE_DISABLED;
1640       goto done;
1641     }
1642   if (!(app = application_lookup (mp->client_index)))
1643     {
1644       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1645       goto done;
1646     }
1647   memset (a, 0, sizeof (*a));
1648   a->app_index = app->app_index;
1649   cert_len = clib_net_to_host_u16 (mp->cert_len);
1650   if (cert_len > 10000)
1651     {
1652       rv = VNET_API_ERROR_INVALID_VALUE;
1653       goto done;
1654     }
1655   vec_validate (a->cert, cert_len);
1656   clib_memcpy (a->cert, mp->cert, cert_len);
1657   if ((error = vnet_app_add_tls_cert (a)))
1658     {
1659       rv = clib_error_get_code (error);
1660       clib_error_report (error);
1661     }
1662   vec_free (a->cert);
1663 done:
1664   REPLY_MACRO (VL_API_APPLICATION_TLS_CERT_ADD_REPLY);
1665 }
1666
1667 static void
1668 vl_api_application_tls_key_add_t_handler (vl_api_application_tls_key_add_t *
1669                                           mp)
1670 {
1671   vl_api_app_namespace_add_del_reply_t *rmp;
1672   vnet_app_add_tls_key_args_t _a, *a = &_a;
1673   clib_error_t *error;
1674   application_t *app;
1675   u32 key_len;
1676   int rv = 0;
1677   if (!session_manager_is_enabled ())
1678     {
1679       rv = VNET_API_ERROR_FEATURE_DISABLED;
1680       goto done;
1681     }
1682   if (!(app = application_lookup (mp->client_index)))
1683     {
1684       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1685       goto done;
1686     }
1687   memset (a, 0, sizeof (*a));
1688   a->app_index = app->app_index;
1689   key_len = clib_net_to_host_u16 (mp->key_len);
1690   if (key_len > 10000)
1691     {
1692       rv = VNET_API_ERROR_INVALID_VALUE;
1693       goto done;
1694     }
1695   vec_validate (a->key, key_len);
1696   clib_memcpy (a->key, mp->key, key_len);
1697   if ((error = vnet_app_add_tls_key (a)))
1698     {
1699       rv = clib_error_get_code (error);
1700       clib_error_report (error);
1701     }
1702   vec_free (a->key);
1703 done:
1704   REPLY_MACRO (VL_API_APPLICATION_TLS_KEY_ADD_REPLY);
1705 }
1706
1707 static clib_error_t *
1708 application_reaper_cb (u32 client_index)
1709 {
1710   application_t *app = application_lookup (client_index);
1711   vnet_app_detach_args_t _a, *a = &_a;
1712   if (app)
1713     {
1714       a->app_index = app->app_index;
1715       vnet_application_detach (a);
1716     }
1717   return 0;
1718 }
1719
1720 VL_MSG_API_REAPER_FUNCTION (application_reaper_cb);
1721
1722 #define vl_msg_name_crc_list
1723 #include <vnet/vnet_all_api_h.h>
1724 #undef vl_msg_name_crc_list
1725
1726 static void
1727 setup_message_id_table (api_main_t * am)
1728 {
1729 #define _(id,n,crc) vl_msg_api_add_msg_name_crc (am, #n "_" #crc, id);
1730   foreach_vl_msg_name_crc_session;
1731 #undef _
1732 }
1733
1734 /*
1735  * session_api_hookup
1736  * Add uri's API message handlers to the table.
1737  * vlib has alread mapped shared memory and
1738  * added the client registration handlers.
1739  * See .../open-repo/vlib/memclnt_vlib.c:memclnt_process()
1740  */
1741 static clib_error_t *
1742 session_api_hookup (vlib_main_t * vm)
1743 {
1744   api_main_t *am = &api_main;
1745
1746 #define _(N,n)                                                  \
1747     vl_msg_api_set_handlers(VL_API_##N, #n,                     \
1748                            vl_api_##n##_t_handler,              \
1749                            vl_noop_handler,                     \
1750                            vl_api_##n##_t_endian,               \
1751                            vl_api_##n##_t_print,                \
1752                            sizeof(vl_api_##n##_t), 1);
1753   foreach_session_api_msg;
1754 #undef _
1755
1756   /*
1757    * Messages which bounce off the data-plane to
1758    * an API client. Simply tells the message handling infra not
1759    * to free the message.
1760    *
1761    * Bounced message handlers MUST NOT block the data plane
1762    */
1763   am->message_bounce[VL_API_CONNECT_URI] = 1;
1764   am->message_bounce[VL_API_CONNECT_SOCK] = 1;
1765
1766   /*
1767    * Set up the (msg_name, crc, message-id) table
1768    */
1769   setup_message_id_table (am);
1770
1771   return 0;
1772 }
1773
1774 VLIB_API_INIT_FUNCTION (session_api_hookup);
1775
1776 /*
1777  * fd.io coding-style-patch-verification: ON
1778  *
1779  * Local Variables:
1780  * eval: (c-set-style "gnu")
1781  * End:
1782  */