src/vnet/session/session_api.c

   1 /*
   2  * Copyright (c) 2015-2016 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15
  16 #include <vnet/vnet.h>
  17 #include <vlibmemory/api.h>
  18 #include <vnet/session/application.h>
  19 #include <vnet/session/application_interface.h>
  20 #include <vnet/session/session_rules_table.h>
  21 #include <vnet/session/session_table.h>
  22
  23 #include <vnet/vnet_msg_enum.h>
  24
  25 #define vl_typedefs             /* define message structures */
  26 #include <vnet/vnet_all_api_h.h>
  27 #undef vl_typedefs
  28
  29 #define vl_endianfun            /* define message structures */
  30 #include <vnet/vnet_all_api_h.h>
  31 #undef vl_endianfun
  32
  33 /* instantiate all the print functions we know about */
  34 #define vl_print(handle, ...) vlib_cli_output (handle, __VA_ARGS__)
  35 #define vl_printfun
  36 #include <vnet/vnet_all_api_h.h>
  37 #undef vl_printfun
  38
  39 #include <vlibapi/api_helper_macros.h>
  40
  41 #define foreach_session_api_msg                                         \
  42 _(MAP_ANOTHER_SEGMENT_REPLY, map_another_segment_reply)                 \
  43 _(APPLICATION_ATTACH, application_attach)                               \
  44 _(APPLICATION_DETACH, application_detach)                               \
  45 _(BIND_URI, bind_uri)                                                   \
  46 _(UNBIND_URI, unbind_uri)                                               \
  47 _(CONNECT_URI, connect_uri)                                             \
  48 _(DISCONNECT_SESSION, disconnect_session)                               \
  49 _(DISCONNECT_SESSION_REPLY, disconnect_session_reply)                   \
  50 _(ACCEPT_SESSION_REPLY, accept_session_reply)                           \
  51 _(RESET_SESSION_REPLY, reset_session_reply)                             \
  52 _(BIND_SOCK, bind_sock)                                                 \
  53 _(UNBIND_SOCK, unbind_sock)                                             \
  54 _(CONNECT_SOCK, connect_sock)                                           \
  55 _(SESSION_ENABLE_DISABLE, session_enable_disable)                       \
  56 _(APP_NAMESPACE_ADD_DEL, app_namespace_add_del)                         \
  57 _(SESSION_RULE_ADD_DEL, session_rule_add_del)                           \
  58 _(SESSION_RULES_DUMP, session_rules_dump)                               \
  59 _(APPLICATION_TLS_CERT_ADD, application_tls_cert_add)                   \
  60 _(APPLICATION_TLS_KEY_ADD, application_tls_key_add)                     \
  61 _(APP_WORKER_ADD_DEL, app_worker_add_del)                               \
  62
  63 static int
  64 session_send_fds (vl_api_registration_t * reg, int fds[], int n_fds)
  65 {
  66   clib_error_t *error;
  67   if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
  68     {
  69       clib_warning ("can't send memfd fd");
  70       return -1;
  71     }
  72   error = vl_api_send_fd_msg (reg, fds, n_fds);
  73   if (error)
  74     {
  75       clib_error_report (error);
  76       return -1;
  77     }
  78   return 0;
  79 }
  80
  81 static int
  82 send_add_segment_callback (u32 api_client_index, const ssvm_private_t * sp)
  83 {
  84   int fds[SESSION_N_FD_TYPE], n_fds = 0;
  85   vl_api_map_another_segment_t *mp;
  86   vl_api_registration_t *reg;
  87   u8 fd_flags = 0;
  88
  89   reg = vl_mem_api_client_index_to_registration (api_client_index);
  90   if (!reg)
  91     {
  92       clib_warning ("no registration: %u", api_client_index);
  93       return -1;
  94     }
  95
  96   if (ssvm_type (sp) == SSVM_SEGMENT_MEMFD)
  97     {
  98       if (vl_api_registration_file_index (reg) == VL_API_INVALID_FI)
  99         {
 100           clib_warning ("can't send memfd fd");
 101           return -1;
 102         }
 103
 104       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 105       fds[n_fds] = sp->fd;
 106       n_fds += 1;
 107     }
 108
 109   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 110   clib_memset (mp, 0, sizeof (*mp));
 111   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_MAP_ANOTHER_SEGMENT);
 112   mp->segment_size = sp->ssvm_size;
 113   mp->fd_flags = fd_flags;
 114   strncpy ((char *) mp->segment_name, (char *) sp->name,
 115            sizeof (mp->segment_name) - 1);
 116
 117   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 118
 119   if (n_fds)
 120     return session_send_fds (reg, fds, n_fds);
 121
 122   return 0;
 123 }
 124
 125 static int
 126 send_del_segment_callback (u32 api_client_index, const ssvm_private_t * fs)
 127 {
 128   vl_api_unmap_segment_t *mp;
 129   vl_api_registration_t *reg;
 130
 131   reg = vl_mem_api_client_index_to_registration (api_client_index);
 132   if (!reg)
 133     {
 134       clib_warning ("no registration: %u", api_client_index);
 135       return -1;
 136     }
 137
 138   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 139   clib_memset (mp, 0, sizeof (*mp));
 140   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_UNMAP_SEGMENT);
 141   strncpy ((char *) mp->segment_name, (char *) fs->name,
 142            sizeof (mp->segment_name) - 1);
 143
 144   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 145
 146   return 0;
 147 }
 148
 149 static int
 150 send_app_cut_through_registration_add (u32 api_client_index,
 151                                        u32 wrk_map_index, u64 mq_addr,
 152                                        u64 peer_mq_addr)
 153 {
 154   vl_api_app_cut_through_registration_add_t *mp;
 155   vl_api_registration_t *reg;
 156   svm_msg_q_t *mq, *peer_mq;
 157   int fds[2];
 158
 159   reg = vl_mem_api_client_index_to_registration (api_client_index);
 160   if (!reg)
 161     {
 162       clib_warning ("no registration: %u", api_client_index);
 163       return -1;
 164     }
 165
 166   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 167   clib_memset (mp, 0, sizeof (*mp));
 168   mp->_vl_msg_id =
 169     clib_host_to_net_u16 (VL_API_APP_CUT_THROUGH_REGISTRATION_ADD);
 170
 171   mp->evt_q_address = mq_addr;
 172   mp->peer_evt_q_address = peer_mq_addr;
 173   mp->wrk_index = wrk_map_index;
 174
 175   mq = uword_to_pointer (mq_addr, svm_msg_q_t *);
 176   peer_mq = uword_to_pointer (peer_mq_addr, svm_msg_q_t *);
 177
 178   if (svm_msg_q_get_producer_eventfd (mq) != -1)
 179     {
 180       mp->fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 181       mp->n_fds = 2;
 182       /* app will overwrite exactly the fds we pass here. So
 183        * when we swap mq with peer_mq (accept vs connect) the
 184        * fds will still be valid */
 185       fds[0] = svm_msg_q_get_consumer_eventfd (mq);
 186       fds[1] = svm_msg_q_get_producer_eventfd (peer_mq);
 187     }
 188
 189   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 190
 191   if (mp->n_fds != 0)
 192     session_send_fds (reg, fds, mp->n_fds);
 193
 194   return 0;
 195 }
 196
 197 static int
 198 send_session_accept_callback (stream_session_t * s)
 199 {
 200   app_worker_t *server_wrk = app_worker_get (s->app_wrk_index);
 201   transport_proto_vft_t *tp_vft;
 202   vl_api_accept_session_t *mp;
 203   vl_api_registration_t *reg;
 204   transport_connection_t *tc;
 205   stream_session_t *listener;
 206   svm_msg_q_t *vpp_queue;
 207   application_t *server;
 208
 209   server = application_get (server_wrk->app_index);
 210   reg =
 211     vl_mem_api_client_index_to_registration (server_wrk->api_client_index);
 212   if (!reg)
 213     {
 214       clib_warning ("no registration: %u", server_wrk->api_client_index);
 215       return -1;
 216     }
 217
 218   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 219   clib_memset (mp, 0, sizeof (*mp));
 220
 221   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_ACCEPT_SESSION);
 222   mp->context = server_wrk->wrk_index;
 223   mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 224   mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 225
 226   if (session_has_transport (s))
 227     {
 228       listener = listen_session_get (s->listener_index);
 229       mp->listener_handle = listen_session_get_handle (listener);
 230       if (application_is_proxy (server))
 231         {
 232           listener =
 233             app_worker_first_listener (server_wrk, session_get_fib_proto (s),
 234                                        session_get_transport_proto (s));
 235           if (listener)
 236             mp->listener_handle = listen_session_get_handle (listener);
 237         }
 238       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 239       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 240       mp->handle = session_handle (s);
 241       tp_vft = transport_protocol_get_vft (session_get_transport_proto (s));
 242       tc = tp_vft->get_connection (s->connection_index, s->thread_index);
 243       mp->port = tc->rmt_port;
 244       mp->is_ip4 = tc->is_ip4;
 245       clib_memcpy_fast (&mp->ip, &tc->rmt_ip, sizeof (tc->rmt_ip));
 246     }
 247   else
 248     {
 249       local_session_t *ls = (local_session_t *) s;
 250       local_session_t *ll;
 251       if (application_local_session_listener_has_transport (ls))
 252         {
 253           listener = listen_session_get (ls->listener_index);
 254           mp->listener_handle = listen_session_get_handle (listener);
 255           mp->is_ip4 = session_type_is_ip4 (listener->session_type);
 256         }
 257       else
 258         {
 259           ll = application_get_local_listen_session (server,
 260                                                      ls->listener_index);
 261           if (ll->transport_listener_index != ~0)
 262             {
 263               listener = listen_session_get (ll->transport_listener_index);
 264               mp->listener_handle = listen_session_get_handle (listener);
 265             }
 266           else
 267             {
 268               mp->listener_handle = application_local_session_handle (ll);
 269             }
 270           mp->is_ip4 = session_type_is_ip4 (ll->listener_session_type);
 271         }
 272       mp->handle = application_local_session_handle (ls);
 273       mp->port = ls->port;
 274       mp->vpp_event_queue_address = ls->client_evt_q;
 275       mp->server_event_queue_address = ls->server_evt_q;
 276     }
 277   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 278
 279   return 0;
 280 }
 281
 282 static void
 283 send_session_disconnect_callback (stream_session_t * s)
 284 {
 285   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 286   vl_api_disconnect_session_t *mp;
 287   vl_api_registration_t *reg;
 288
 289   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 290   if (!reg)
 291     {
 292       clib_warning ("no registration: %u", app_wrk->api_client_index);
 293       return;
 294     }
 295
 296   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 297   clib_memset (mp, 0, sizeof (*mp));
 298   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_DISCONNECT_SESSION);
 299   mp->handle = session_handle (s);
 300   mp->context = app_wrk->api_client_index;
 301   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 302 }
 303
 304 static void
 305 send_session_reset_callback (stream_session_t * s)
 306 {
 307   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 308   vl_api_registration_t *reg;
 309   vl_api_reset_session_t *mp;
 310
 311   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 312   if (!reg)
 313     {
 314       clib_warning ("no registration: %u", app_wrk->api_client_index);
 315       return;
 316     }
 317
 318   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 319   clib_memset (mp, 0, sizeof (*mp));
 320   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_RESET_SESSION);
 321   mp->handle = session_handle (s);
 322   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 323 }
 324
 325 int
 326 send_session_connected_callback (u32 app_wrk_index, u32 api_context,
 327                                  stream_session_t * s, u8 is_fail)
 328 {
 329   vl_api_connect_session_reply_t *mp;
 330   transport_connection_t *tc;
 331   vl_api_registration_t *reg;
 332   svm_msg_q_t *vpp_queue;
 333   app_worker_t *app_wrk;
 334
 335   app_wrk = app_worker_get (app_wrk_index);
 336   reg = vl_mem_api_client_index_to_registration (app_wrk->api_client_index);
 337   if (!reg)
 338     {
 339       clib_warning ("no registration: %u", app_wrk->api_client_index);
 340       return -1;
 341     }
 342
 343   mp = vl_mem_api_alloc_as_if_client_w_reg (reg, sizeof (*mp));
 344   mp->_vl_msg_id = clib_host_to_net_u16 (VL_API_CONNECT_SESSION_REPLY);
 345   mp->context = api_context;
 346
 347   if (is_fail)
 348     goto done;
 349
 350   if (session_has_transport (s))
 351     {
 352       tc = session_get_transport (s);
 353       if (!tc)
 354         {
 355           is_fail = 1;
 356           goto done;
 357         }
 358
 359       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 360       mp->handle = session_handle (s);
 361       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 362       clib_memcpy_fast (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 363       mp->is_ip4 = tc->is_ip4;
 364       mp->lcl_port = tc->lcl_port;
 365       mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 366       mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 367     }
 368   else
 369     {
 370       local_session_t *ls = (local_session_t *) s;
 371       mp->handle = application_local_session_handle (ls);
 372       mp->lcl_port = ls->port;
 373       mp->vpp_event_queue_address = ls->server_evt_q;
 374       mp->client_event_queue_address = ls->client_evt_q;
 375       mp->server_rx_fifo = pointer_to_uword (s->server_tx_fifo);
 376       mp->server_tx_fifo = pointer_to_uword (s->server_rx_fifo);
 377     }
 378
 379 done:
 380   mp->retval = is_fail ?
 381     clib_host_to_net_u32 (VNET_API_ERROR_SESSION_CONNECT) : 0;
 382   vl_msg_api_send_shmem (reg->vl_input_queue, (u8 *) & mp);
 383   return 0;
 384 }
 385
 386 static session_cb_vft_t session_cb_vft = {
 387   .session_accept_callback = send_session_accept_callback,
 388   .session_disconnect_callback = send_session_disconnect_callback,
 389   .session_connected_callback = send_session_connected_callback,
 390   .session_reset_callback = send_session_reset_callback,
 391   .add_segment_callback = send_add_segment_callback,
 392   .del_segment_callback = send_del_segment_callback,
 393 };
 394
 395 static int
 396 mq_try_lock_and_alloc_msg (svm_msg_q_t * app_mq, svm_msg_q_msg_t * msg)
 397 {
 398   int rv;
 399   u8 try = 0;
 400   while (try < 100)
 401     {
 402       rv = svm_msg_q_lock_and_alloc_msg_w_ring (app_mq,
 403                                                 SESSION_MQ_CTRL_EVT_RING,
 404                                                 SVM_Q_NOWAIT, msg);
 405       if (!rv)
 406         return 0;
 407       try++;
 408     }
 409   return -1;
 410 }
 411
 412 static int
 413 mq_send_session_accepted_cb (stream_session_t * s)
 414 {
 415   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 416   svm_msg_q_msg_t _msg, *msg = &_msg;
 417   svm_msg_q_t *vpp_queue, *app_mq;
 418   transport_proto_vft_t *tp_vft;
 419   transport_connection_t *tc;
 420   stream_session_t *listener;
 421   session_accepted_msg_t *mp;
 422   session_event_t *evt;
 423   application_t *app;
 424
 425   app = application_get (app_wrk->app_index);
 426   app_mq = app_wrk->event_queue;
 427   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 428     return -1;
 429
 430   evt = svm_msg_q_msg_data (app_mq, msg);
 431   clib_memset (evt, 0, sizeof (*evt));
 432   evt->event_type = SESSION_CTRL_EVT_ACCEPTED;
 433   mp = (session_accepted_msg_t *) evt->data;
 434   mp->context = app->app_index;
 435   mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 436   mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 437
 438   if (session_has_transport (s))
 439     {
 440       listener = listen_session_get (s->listener_index);
 441       mp->listener_handle = listen_session_get_handle (listener);
 442       if (application_is_proxy (app))
 443         {
 444           listener =
 445             app_worker_first_listener (app_wrk, session_get_fib_proto (s),
 446                                        session_get_transport_proto (s));
 447           if (listener)
 448             mp->listener_handle = listen_session_get_handle (listener);
 449         }
 450       vpp_queue = session_manager_get_vpp_event_queue (s->thread_index);
 451       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 452       mp->handle = session_handle (s);
 453       tp_vft = transport_protocol_get_vft (session_get_transport_proto (s));
 454       tc = tp_vft->get_connection (s->connection_index, s->thread_index);
 455       mp->port = tc->rmt_port;
 456       mp->is_ip4 = tc->is_ip4;
 457       clib_memcpy_fast (&mp->ip, &tc->rmt_ip, sizeof (tc->rmt_ip));
 458     }
 459   else
 460     {
 461       local_session_t *ls = (local_session_t *) s;
 462       local_session_t *ll;
 463       u8 main_thread = vlib_num_workers ()? 1 : 0;
 464
 465       send_app_cut_through_registration_add (app_wrk->api_client_index,
 466                                              app_wrk->wrk_map_index,
 467                                              ls->server_evt_q,
 468                                              ls->client_evt_q);
 469
 470       if (application_local_session_listener_has_transport (ls))
 471         {
 472           listener = listen_session_get (ls->listener_index);
 473           mp->listener_handle = listen_session_get_handle (listener);
 474           mp->is_ip4 = session_type_is_ip4 (listener->session_type);
 475         }
 476       else
 477         {
 478           ll = application_get_local_listen_session (app, ls->listener_index);
 479           if (ll->transport_listener_index != ~0)
 480             {
 481               listener = listen_session_get (ll->transport_listener_index);
 482               mp->listener_handle = listen_session_get_handle (listener);
 483             }
 484           else
 485             {
 486               mp->listener_handle = application_local_session_handle (ll);
 487             }
 488           mp->is_ip4 = session_type_is_ip4 (ll->listener_session_type);
 489         }
 490       mp->handle = application_local_session_handle (ls);
 491       mp->port = ls->port;
 492       vpp_queue = session_manager_get_vpp_event_queue (main_thread);
 493       mp->vpp_event_queue_address = pointer_to_uword (vpp_queue);
 494       mp->client_event_queue_address = ls->client_evt_q;
 495       mp->server_event_queue_address = ls->server_evt_q;
 496     }
 497   svm_msg_q_add_and_unlock (app_mq, msg);
 498
 499   return 0;
 500 }
 501
 502 static void
 503 mq_send_session_disconnected_cb (stream_session_t * s)
 504 {
 505   app_worker_t *app_wrk = app_worker_get (s->app_wrk_index);
 506   svm_msg_q_msg_t _msg, *msg = &_msg;
 507   session_disconnected_msg_t *mp;
 508   svm_msg_q_t *app_mq;
 509   session_event_t *evt;
 510
 511   app_mq = app_wrk->event_queue;
 512   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 513     return;
 514   evt = svm_msg_q_msg_data (app_mq, msg);
 515   clib_memset (evt, 0, sizeof (*evt));
 516   evt->event_type = SESSION_CTRL_EVT_DISCONNECTED;
 517   mp = (session_disconnected_msg_t *) evt->data;
 518   mp->handle = session_handle (s);
 519   mp->context = app_wrk->api_client_index;
 520   svm_msg_q_add_and_unlock (app_mq, msg);
 521 }
 522
 523 void
 524 mq_send_local_session_disconnected_cb (u32 app_wrk_index,
 525                                        local_session_t * ls)
 526 {
 527   app_worker_t *app_wrk = app_worker_get (app_wrk_index);
 528   svm_msg_q_msg_t _msg, *msg = &_msg;
 529   session_disconnected_msg_t *mp;
 530   svm_msg_q_t *app_mq;
 531   session_event_t *evt;
 532
 533   app_mq = app_wrk->event_queue;
 534   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 535     return;
 536   evt = svm_msg_q_msg_data (app_mq, msg);
 537   clib_memset (evt, 0, sizeof (*evt));
 538   evt->event_type = SESSION_CTRL_EVT_DISCONNECTED;
 539   mp = (session_disconnected_msg_t *) evt->data;
 540   mp->handle = application_local_session_handle (ls);
 541   mp->context = app_wrk->api_client_index;
 542   svm_msg_q_add_and_unlock (app_mq, msg);
 543 }
 544
 545 static void
 546 mq_send_session_reset_cb (stream_session_t * s)
 547 {
 548   app_worker_t *app = app_worker_get (s->app_wrk_index);
 549   svm_msg_q_msg_t _msg, *msg = &_msg;
 550   session_reset_msg_t *mp;
 551   svm_msg_q_t *app_mq;
 552   session_event_t *evt;
 553
 554   app_mq = app->event_queue;
 555   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 556     return;
 557   evt = svm_msg_q_msg_data (app_mq, msg);
 558   clib_memset (evt, 0, sizeof (*evt));
 559   evt->event_type = SESSION_CTRL_EVT_RESET;
 560   mp = (session_reset_msg_t *) evt->data;
 561   mp->handle = session_handle (s);
 562   svm_msg_q_add_and_unlock (app_mq, msg);
 563 }
 564
 565 static int
 566 mq_send_session_connected_cb (u32 app_wrk_index, u32 api_context,
 567                               stream_session_t * s, u8 is_fail)
 568 {
 569   svm_msg_q_msg_t _msg, *msg = &_msg;
 570   session_connected_msg_t *mp;
 571   svm_msg_q_t *vpp_mq, *app_mq;
 572   transport_connection_t *tc;
 573   app_worker_t *app_wrk;
 574   session_event_t *evt;
 575
 576   app_wrk = app_worker_get (app_wrk_index);
 577   app_mq = app_wrk->event_queue;
 578   if (!app_mq)
 579     {
 580       clib_warning ("app %u with api index: %u not attached",
 581                     app_wrk->app_index, app_wrk->api_client_index);
 582       return -1;
 583     }
 584
 585   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 586     return -1;
 587   evt = svm_msg_q_msg_data (app_mq, msg);
 588   clib_memset (evt, 0, sizeof (*evt));
 589   evt->event_type = SESSION_CTRL_EVT_CONNECTED;
 590   mp = (session_connected_msg_t *) evt->data;
 591   mp->context = api_context;
 592
 593   if (is_fail)
 594     goto done;
 595
 596   if (session_has_transport (s))
 597     {
 598       tc = session_get_transport (s);
 599       if (!tc)
 600         {
 601           is_fail = 1;
 602           goto done;
 603         }
 604
 605       vpp_mq = session_manager_get_vpp_event_queue (s->thread_index);
 606       mp->handle = session_handle (s);
 607       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 608       clib_memcpy_fast (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 609       mp->is_ip4 = tc->is_ip4;
 610       mp->lcl_port = tc->lcl_port;
 611       mp->server_rx_fifo = pointer_to_uword (s->server_rx_fifo);
 612       mp->server_tx_fifo = pointer_to_uword (s->server_tx_fifo);
 613     }
 614   else
 615     {
 616       local_session_t *ls = (local_session_t *) s;
 617       u8 main_thread = vlib_num_workers ()? 1 : 0;
 618
 619       send_app_cut_through_registration_add (app_wrk->api_client_index,
 620                                              app_wrk->wrk_map_index,
 621                                              ls->client_evt_q,
 622                                              ls->server_evt_q);
 623
 624       mp->handle = application_local_session_handle (ls);
 625       mp->lcl_port = ls->port;
 626       vpp_mq = session_manager_get_vpp_event_queue (main_thread);
 627       mp->vpp_event_queue_address = pointer_to_uword (vpp_mq);
 628       mp->client_event_queue_address = ls->client_evt_q;
 629       mp->server_event_queue_address = ls->server_evt_q;
 630       mp->server_rx_fifo = pointer_to_uword (s->server_tx_fifo);
 631       mp->server_tx_fifo = pointer_to_uword (s->server_rx_fifo);
 632     }
 633
 634 done:
 635   mp->retval = is_fail ?
 636     clib_host_to_net_u32 (VNET_API_ERROR_SESSION_CONNECT) : 0;
 637
 638   svm_msg_q_add_and_unlock (app_mq, msg);
 639   return 0;
 640 }
 641
 642 static int
 643 mq_send_session_bound_cb (u32 app_wrk_index, u32 api_context,
 644                           session_handle_t handle, int rv)
 645 {
 646   svm_msg_q_msg_t _msg, *msg = &_msg;
 647   svm_msg_q_t *app_mq, *vpp_evt_q;
 648   transport_connection_t *tc;
 649   stream_session_t *ls = 0;
 650   session_bound_msg_t *mp;
 651   app_worker_t *app_wrk;
 652   session_event_t *evt;
 653   application_t *app;
 654
 655   app_wrk = app_worker_get (app_wrk_index);
 656   app = application_get (app_wrk->app_index);
 657   app_mq = app_wrk->event_queue;
 658   if (!app_mq)
 659     {
 660       clib_warning ("app %u with api index: %u not attached",
 661                     app_wrk->app_index, app_wrk->api_client_index);
 662       return -1;
 663     }
 664
 665   if (mq_try_lock_and_alloc_msg (app_mq, msg))
 666     return -1;
 667
 668   evt = svm_msg_q_msg_data (app_mq, msg);
 669   clib_memset (evt, 0, sizeof (*evt));
 670   evt->event_type = SESSION_CTRL_EVT_BOUND;
 671   mp = (session_bound_msg_t *) evt->data;
 672   mp->context = api_context;
 673
 674   if (rv)
 675     goto done;
 676
 677   mp->handle = handle;
 678   if (application_has_global_scope (app))
 679     {
 680       ls = listen_session_get_from_handle (handle);
 681       tc = listen_session_get_transport (ls);
 682       mp->lcl_port = tc->lcl_port;
 683       mp->lcl_is_ip4 = tc->is_ip4;
 684       clib_memcpy_fast (mp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
 685     }
 686   else
 687     {
 688       local_session_t *local;
 689       local = application_get_local_listener_w_handle (handle);
 690       mp->lcl_port = local->port;
 691       mp->lcl_is_ip4 = session_type_is_ip4 (local->session_type);
 692     }
 693
 694   if (ls && session_transport_service_type (ls) == TRANSPORT_SERVICE_CL)
 695     {
 696       mp->rx_fifo = pointer_to_uword (ls->server_rx_fifo);
 697       mp->tx_fifo = pointer_to_uword (ls->server_tx_fifo);
 698       vpp_evt_q = session_manager_get_vpp_event_queue (0);
 699       mp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 700     }
 701
 702 done:
 703   mp->retval = rv;
 704   svm_msg_q_add_and_unlock (app_mq, msg);
 705   return 0;
 706 }
 707
 708 static session_cb_vft_t session_mq_cb_vft = {
 709   .session_accept_callback = mq_send_session_accepted_cb,
 710   .session_disconnect_callback = mq_send_session_disconnected_cb,
 711   .session_connected_callback = mq_send_session_connected_cb,
 712   .session_reset_callback = mq_send_session_reset_cb,
 713   .add_segment_callback = send_add_segment_callback,
 714   .del_segment_callback = send_del_segment_callback,
 715 };
 716
 717 static void
 718 vl_api_session_enable_disable_t_handler (vl_api_session_enable_disable_t * mp)
 719 {
 720   vl_api_session_enable_disable_reply_t *rmp;
 721   vlib_main_t *vm = vlib_get_main ();
 722   int rv = 0;
 723
 724   vnet_session_enable_disable (vm, mp->is_enable);
 725   REPLY_MACRO (VL_API_SESSION_ENABLE_DISABLE_REPLY);
 726 }
 727
 728 static void
 729 vl_api_application_attach_t_handler (vl_api_application_attach_t * mp)
 730 {
 731   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
 732   vl_api_application_attach_reply_t *rmp;
 733   ssvm_private_t *segp, *evt_q_segment;
 734   vnet_app_attach_args_t _a, *a = &_a;
 735   vl_api_registration_t *reg;
 736   clib_error_t *error = 0;
 737   u8 fd_flags = 0;
 738
 739   reg = vl_api_client_index_to_registration (mp->client_index);
 740   if (!reg)
 741     return;
 742
 743   if (session_manager_is_enabled () == 0)
 744     {
 745       rv = VNET_API_ERROR_FEATURE_DISABLED;
 746       goto done;
 747     }
 748
 749   STATIC_ASSERT (sizeof (u64) * APP_OPTIONS_N_OPTIONS <=
 750                  sizeof (mp->options),
 751                  "Out of options, fix api message definition");
 752
 753   clib_memset (a, 0, sizeof (*a));
 754   a->api_client_index = mp->client_index;
 755   a->options = mp->options;
 756
 757   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_USE_MQ_FOR_CTRL_MSGS)
 758     a->session_cb_vft = &session_mq_cb_vft;
 759   else
 760     a->session_cb_vft = &session_cb_vft;
 761
 762   if (mp->namespace_id_len > 64)
 763     {
 764       rv = VNET_API_ERROR_INVALID_VALUE;
 765       goto done;
 766     }
 767
 768   if (mp->namespace_id_len)
 769     {
 770       vec_validate (a->namespace_id, mp->namespace_id_len - 1);
 771       clib_memcpy_fast (a->namespace_id, mp->namespace_id,
 772                         mp->namespace_id_len);
 773     }
 774
 775   if ((error = vnet_application_attach (a)))
 776     {
 777       rv = clib_error_get_code (error);
 778       clib_error_report (error);
 779       vec_free (a->namespace_id);
 780       goto done;
 781     }
 782   vec_free (a->namespace_id);
 783
 784   /* Send event queues segment */
 785   if ((evt_q_segment = session_manager_get_evt_q_segment ()))
 786     {
 787       fd_flags |= SESSION_FD_F_VPP_MQ_SEGMENT;
 788       fds[n_fds] = evt_q_segment->fd;
 789       n_fds += 1;
 790     }
 791   /* Send fifo segment fd if needed */
 792   if (ssvm_type (a->segment) == SSVM_SEGMENT_MEMFD)
 793     {
 794       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
 795       fds[n_fds] = a->segment->fd;
 796       n_fds += 1;
 797     }
 798   if (a->options[APP_OPTIONS_FLAGS] & APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD)
 799     {
 800       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
 801       fds[n_fds] = svm_msg_q_get_producer_eventfd (a->app_evt_q);
 802       n_fds += 1;
 803     }
 804
 805 done:
 806
 807   /* *INDENT-OFF* */
 808   REPLY_MACRO2 (VL_API_APPLICATION_ATTACH_REPLY, ({
 809     if (!rv)
 810       {
 811         segp = a->segment;
 812         rmp->app_index = clib_host_to_net_u32 (a->app_index);
 813         rmp->segment_name_length = 0;
 814         rmp->segment_size = segp->ssvm_size;
 815         if (vec_len (segp->name))
 816           {
 817             memcpy (rmp->segment_name, segp->name, vec_len (segp->name));
 818             rmp->segment_name_length = vec_len (segp->name);
 819           }
 820         rmp->app_event_queue_address = pointer_to_uword (a->app_evt_q);
 821         rmp->n_fds = n_fds;
 822         rmp->fd_flags = fd_flags;
 823       }
 824   }));
 825   /* *INDENT-ON* */
 826
 827   if (n_fds)
 828     session_send_fds (reg, fds, n_fds);
 829 }
 830
 831 static void
 832 vl_api_application_detach_t_handler (vl_api_application_detach_t * mp)
 833 {
 834   vl_api_application_detach_reply_t *rmp;
 835   int rv = VNET_API_ERROR_INVALID_VALUE_2;
 836   vnet_app_detach_args_t _a, *a = &_a;
 837   application_t *app;
 838
 839   if (session_manager_is_enabled () == 0)
 840     {
 841       rv = VNET_API_ERROR_FEATURE_DISABLED;
 842       goto done;
 843     }
 844
 845   app = application_lookup (mp->client_index);
 846   if (app)
 847     {
 848       a->app_index = app->app_index;
 849       a->api_client_index = mp->client_index;
 850       rv = vnet_application_detach (a);
 851     }
 852
 853 done:
 854   REPLY_MACRO (VL_API_APPLICATION_DETACH_REPLY);
 855 }
 856
 857 static void
 858 vl_api_bind_uri_t_handler (vl_api_bind_uri_t * mp)
 859 {
 860   transport_connection_t *tc = 0;
 861   vnet_bind_args_t _a, *a = &_a;
 862   vl_api_bind_uri_reply_t *rmp;
 863   stream_session_t *s;
 864   application_t *app = 0;
 865   svm_msg_q_t *vpp_evt_q;
 866   app_worker_t *app_wrk;
 867   int rv;
 868
 869   if (session_manager_is_enabled () == 0)
 870     {
 871       rv = VNET_API_ERROR_FEATURE_DISABLED;
 872       goto done;
 873     }
 874
 875   app = application_lookup (mp->client_index);
 876   if (app)
 877     {
 878       clib_memset (a, 0, sizeof (*a));
 879       a->uri = (char *) mp->uri;
 880       a->app_index = app->app_index;
 881       rv = vnet_bind_uri (a);
 882     }
 883   else
 884     {
 885       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 886     }
 887
 888 done:
 889
 890   /* *INDENT-OFF* */
 891   REPLY_MACRO2 (VL_API_BIND_URI_REPLY, ({
 892     if (!rv)
 893       {
 894         rmp->handle = a->handle;
 895         if (app && application_has_global_scope (app))
 896             {
 897               s = listen_session_get_from_handle (a->handle);
 898               tc = listen_session_get_transport (s);
 899               rmp->lcl_is_ip4 = tc->is_ip4;
 900               rmp->lcl_port = tc->lcl_port;
 901               clib_memcpy_fast (rmp->lcl_ip, &tc->lcl_ip, sizeof(tc->lcl_ip));
 902               if (session_transport_service_type (s) == TRANSPORT_SERVICE_CL)
 903                 {
 904                   rmp->rx_fifo = pointer_to_uword (s->server_rx_fifo);
 905                   rmp->tx_fifo = pointer_to_uword (s->server_tx_fifo);
 906                   vpp_evt_q = session_manager_get_vpp_event_queue (0);
 907                   rmp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
 908                 }
 909             }
 910       }
 911   }));
 912   /* *INDENT-ON* */
 913
 914   /* If app uses mq for control messages, send an mq message as well */
 915   if (app && application_use_mq_for_ctrl (app))
 916     {
 917       app_wrk = application_get_worker (app, 0);
 918       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
 919                                 rv);
 920     }
 921 }
 922
 923 static void
 924 vl_api_unbind_uri_t_handler (vl_api_unbind_uri_t * mp)
 925 {
 926   vl_api_unbind_uri_reply_t *rmp;
 927   application_t *app;
 928   vnet_unbind_args_t _a, *a = &_a;
 929   int rv;
 930
 931   if (session_manager_is_enabled () == 0)
 932     {
 933       rv = VNET_API_ERROR_FEATURE_DISABLED;
 934       goto done;
 935     }
 936
 937   app = application_lookup (mp->client_index);
 938   if (app)
 939     {
 940       a->uri = (char *) mp->uri;
 941       a->app_index = app->app_index;
 942       rv = vnet_unbind_uri (a);
 943     }
 944   else
 945     {
 946       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 947     }
 948
 949 done:
 950   REPLY_MACRO (VL_API_UNBIND_URI_REPLY);
 951 }
 952
 953 static void
 954 vl_api_connect_uri_t_handler (vl_api_connect_uri_t * mp)
 955 {
 956   vl_api_connect_session_reply_t *rmp;
 957   vnet_connect_args_t _a, *a = &_a;
 958   application_t *app;
 959   clib_error_t *error = 0;
 960   int rv = 0;
 961
 962   if (session_manager_is_enabled () == 0)
 963     {
 964       rv = VNET_API_ERROR_FEATURE_DISABLED;
 965       goto done;
 966     }
 967
 968   app = application_lookup (mp->client_index);
 969   if (app)
 970     {
 971       clib_memset (a, 0, sizeof (*a));
 972       a->uri = (char *) mp->uri;
 973       a->api_context = mp->context;
 974       a->app_index = app->app_index;
 975       if ((error = vnet_connect_uri (a)))
 976         {
 977           rv = clib_error_get_code (error);
 978           clib_error_report (error);
 979         }
 980     }
 981   else
 982     {
 983       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
 984     }
 985
 986   /*
 987    * Don't reply to stream (tcp) connects. The reply will come once
 988    * the connection is established. In case of the redirects, the reply
 989    * will come from the server app.
 990    */
 991   if (rv == 0)
 992     return;
 993
 994 done:
 995   /* *INDENT-OFF* */
 996   REPLY_MACRO (VL_API_CONNECT_SESSION_REPLY);
 997   /* *INDENT-ON* */
 998 }
 999
1000 static void
1001 vl_api_disconnect_session_t_handler (vl_api_disconnect_session_t * mp)
1002 {
1003   vl_api_disconnect_session_reply_t *rmp;
1004   vnet_disconnect_args_t _a, *a = &_a;
1005   application_t *app;
1006   int rv = 0;
1007
1008   if (session_manager_is_enabled () == 0)
1009     {
1010       rv = VNET_API_ERROR_FEATURE_DISABLED;
1011       goto done;
1012     }
1013
1014   app = application_lookup (mp->client_index);
1015   if (app)
1016     {
1017       a->handle = mp->handle;
1018       a->app_index = app->app_index;
1019       rv = vnet_disconnect_session (a);
1020     }
1021   else
1022     {
1023       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1024     }
1025
1026 done:
1027   REPLY_MACRO2 (VL_API_DISCONNECT_SESSION_REPLY, rmp->handle = mp->handle);
1028 }
1029
1030 static void
1031 vl_api_disconnect_session_reply_t_handler (vl_api_disconnect_session_reply_t *
1032                                            mp)
1033 {
1034   vnet_disconnect_args_t _a, *a = &_a;
1035   application_t *app;
1036
1037   /* Client objected to disconnecting the session, log and continue */
1038   if (mp->retval)
1039     {
1040       clib_warning ("client retval %d", mp->retval);
1041       return;
1042     }
1043
1044   /* Disconnect has been confirmed. Confirm close to transport */
1045   app = application_lookup (mp->context);
1046   if (app)
1047     {
1048       a->handle = mp->handle;
1049       a->app_index = app->app_index;
1050       vnet_disconnect_session (a);
1051     }
1052 }
1053
1054 static void
1055 vl_api_reset_session_reply_t_handler (vl_api_reset_session_reply_t * mp)
1056 {
1057   app_worker_t *app_wrk;
1058   application_t *app;
1059   stream_session_t *s;
1060   u32 index, thread_index;
1061
1062   app = application_lookup (mp->context);
1063   if (!app)
1064     return;
1065
1066   session_parse_handle (mp->handle, &index, &thread_index);
1067   s = session_get_if_valid (index, thread_index);
1068   if (!s)
1069     {
1070       clib_warning ("Invalid session!");
1071       return;
1072     }
1073
1074   app_wrk = app_worker_get (s->app_wrk_index);
1075   if (app_wrk->app_index != app->app_index)
1076     {
1077       clib_warning ("app %u does not own handle 0x%lx", app->app_index,
1078                     mp->handle);
1079       return;
1080     }
1081
1082   /* Client objected to resetting the session, log and continue */
1083   if (mp->retval)
1084     {
1085       clib_warning ("client retval %d", mp->retval);
1086       return;
1087     }
1088
1089   /* This comes as a response to a reset, transport only waiting for
1090    * confirmation to remove connection state, no need to disconnect */
1091   stream_session_cleanup (s);
1092 }
1093
1094 static void
1095 vl_api_accept_session_reply_t_handler (vl_api_accept_session_reply_t * mp)
1096 {
1097   vnet_disconnect_args_t _a = { 0 }, *a = &_a;
1098   local_session_t *ls;
1099   stream_session_t *s;
1100
1101   /* Server isn't interested, kill the session */
1102   if (mp->retval)
1103     {
1104       a->app_index = mp->context;
1105       a->handle = mp->handle;
1106       vnet_disconnect_session (a);
1107       return;
1108     }
1109
1110   if (session_handle_is_local (mp->handle))
1111     {
1112       ls = application_get_local_session_from_handle (mp->handle);
1113       if (!ls || ls->app_wrk_index != mp->context)
1114         {
1115           clib_warning ("server %u doesn't own local handle %llu",
1116                         mp->context, mp->handle);
1117           return;
1118         }
1119       if (application_local_session_connect_notify (ls))
1120         return;
1121       ls->session_state = SESSION_STATE_READY;
1122     }
1123   else
1124     {
1125       s = session_get_from_handle_if_valid (mp->handle);
1126       if (!s)
1127         {
1128           clib_warning ("session doesn't exist");
1129           return;
1130         }
1131       if (s->app_wrk_index != mp->context)
1132         {
1133           clib_warning ("app doesn't own session");
1134           return;
1135         }
1136       s->session_state = SESSION_STATE_READY;
1137     }
1138 }
1139
1140 static void
1141 vl_api_map_another_segment_reply_t_handler (vl_api_map_another_segment_reply_t
1142                                             * mp)
1143 {
1144   clib_warning ("not implemented");
1145 }
1146
1147 static void
1148 vl_api_bind_sock_t_handler (vl_api_bind_sock_t * mp)
1149 {
1150   vl_api_bind_sock_reply_t *rmp;
1151   vnet_bind_args_t _a, *a = &_a;
1152   int rv = 0;
1153   clib_error_t *error;
1154   application_t *app = 0;
1155   app_worker_t *app_wrk;
1156   stream_session_t *s;
1157   transport_connection_t *tc = 0;
1158   ip46_address_t *ip46;
1159   svm_msg_q_t *vpp_evt_q;
1160
1161   if (session_manager_is_enabled () == 0)
1162     {
1163       rv = VNET_API_ERROR_FEATURE_DISABLED;
1164       goto done;
1165     }
1166
1167   app = application_lookup (mp->client_index);
1168   if (!app)
1169     {
1170       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1171       goto done;
1172     }
1173
1174   ip46 = (ip46_address_t *) mp->ip;
1175   clib_memset (a, 0, sizeof (*a));
1176   a->sep.is_ip4 = mp->is_ip4;
1177   a->sep.ip = *ip46;
1178   a->sep.port = mp->port;
1179   a->sep.fib_index = mp->vrf;
1180   a->sep.sw_if_index = ENDPOINT_INVALID_INDEX;
1181   a->sep.transport_proto = mp->proto;
1182   a->app_index = app->app_index;
1183   a->wrk_map_index = mp->wrk_index;
1184
1185   if ((error = vnet_bind (a)))
1186     {
1187       rv = clib_error_get_code (error);
1188       clib_error_report (error);
1189     }
1190
1191 done:
1192   /* *INDENT-OFF* */
1193   REPLY_MACRO2 (VL_API_BIND_SOCK_REPLY,({
1194     if (!rv)
1195       {
1196         rmp->handle = a->handle;
1197         rmp->lcl_port = mp->port;
1198         rmp->lcl_is_ip4 = mp->is_ip4;
1199         if (app && application_has_global_scope (app))
1200           {
1201             s = listen_session_get_from_handle (a->handle);
1202             tc = listen_session_get_transport (s);
1203             clib_memcpy_fast (rmp->lcl_ip, &tc->lcl_ip, sizeof (tc->lcl_ip));
1204             if (session_transport_service_type (s) == TRANSPORT_SERVICE_CL)
1205               {
1206                 rmp->rx_fifo = pointer_to_uword (s->server_rx_fifo);
1207                 rmp->tx_fifo = pointer_to_uword (s->server_tx_fifo);
1208                 vpp_evt_q = session_manager_get_vpp_event_queue (0);
1209                 rmp->vpp_evt_q = pointer_to_uword (vpp_evt_q);
1210               }
1211           }
1212       }
1213   }));
1214   /* *INDENT-ON* */
1215
1216   /* If app uses mq for control messages, send an mq message as well */
1217   if (app && application_use_mq_for_ctrl (app))
1218     {
1219       app_wrk = application_get_worker (app, mp->wrk_index);
1220       mq_send_session_bound_cb (app_wrk->wrk_index, mp->context, a->handle,
1221                                 rv);
1222     }
1223 }
1224
1225 static void
1226 vl_api_unbind_sock_t_handler (vl_api_unbind_sock_t * mp)
1227 {
1228   vl_api_unbind_sock_reply_t *rmp;
1229   vnet_unbind_args_t _a, *a = &_a;
1230   application_t *app;
1231   clib_error_t *error;
1232   int rv = 0;
1233
1234   if (session_manager_is_enabled () == 0)
1235     {
1236       rv = VNET_API_ERROR_FEATURE_DISABLED;
1237       goto done;
1238     }
1239
1240   app = application_lookup (mp->client_index);
1241   if (app)
1242     {
1243       a->app_index = app->app_index;
1244       a->handle = mp->handle;
1245       a->wrk_map_index = mp->wrk_index;
1246       if ((error = vnet_unbind (a)))
1247         {
1248           rv = clib_error_get_code (error);
1249           clib_error_report (error);
1250         }
1251     }
1252
1253 done:
1254   REPLY_MACRO (VL_API_UNBIND_SOCK_REPLY);
1255 }
1256
1257 static void
1258 vl_api_connect_sock_t_handler (vl_api_connect_sock_t * mp)
1259 {
1260   vl_api_connect_session_reply_t *rmp;
1261   vnet_connect_args_t _a, *a = &_a;
1262   application_t *app = 0;
1263   clib_error_t *error = 0;
1264   int rv = 0;
1265
1266   if (session_manager_is_enabled () == 0)
1267     {
1268       rv = VNET_API_ERROR_FEATURE_DISABLED;
1269       goto done;
1270     }
1271
1272   app = application_lookup (mp->client_index);
1273   if (app)
1274     {
1275       svm_queue_t *client_q;
1276       ip46_address_t *ip46 = (ip46_address_t *) mp->ip;
1277
1278       clib_memset (a, 0, sizeof (*a));
1279       client_q = vl_api_client_index_to_input_queue (mp->client_index);
1280       mp->client_queue_address = pointer_to_uword (client_q);
1281       a->sep.is_ip4 = mp->is_ip4;
1282       a->sep.ip = *ip46;
1283       a->sep.port = mp->port;
1284       a->sep.transport_proto = mp->proto;
1285       a->sep.peer.fib_index = mp->vrf;
1286       a->sep.peer.sw_if_index = ENDPOINT_INVALID_INDEX;
1287       if (mp->hostname_len)
1288         {
1289           vec_validate (a->sep_ext.hostname, mp->hostname_len - 1);
1290           clib_memcpy_fast (a->sep_ext.hostname, mp->hostname,
1291                             mp->hostname_len);
1292         }
1293       a->api_context = mp->context;
1294       a->app_index = app->app_index;
1295       a->wrk_map_index = mp->wrk_index;
1296       if ((error = vnet_connect (a)))
1297         {
1298           rv = clib_error_get_code (error);
1299           clib_error_report (error);
1300         }
1301       vec_free (a->sep_ext.hostname);
1302     }
1303   else
1304     {
1305       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1306     }
1307
1308   if (rv == 0)
1309     return;
1310
1311   /* Got some error, relay it */
1312
1313 done:
1314   REPLY_MACRO (VL_API_CONNECT_SESSION_REPLY);
1315
1316   if (app && application_use_mq_for_ctrl (app))
1317     {
1318       app_worker_t *app_wrk = application_get_worker (app, mp->wrk_index);
1319       mq_send_session_connected_cb (app_wrk->wrk_index, mp->context, 0, 1);
1320     }
1321 }
1322
1323 static void
1324 vl_api_app_worker_add_del_t_handler (vl_api_app_worker_add_del_t * mp)
1325 {
1326   int rv = 0, fds[SESSION_N_FD_TYPE], n_fds = 0;
1327   vl_api_app_worker_add_del_reply_t *rmp;
1328   vl_api_registration_t *reg;
1329   clib_error_t *error = 0;
1330   application_t *app;
1331   u8 fd_flags = 0;
1332
1333   if (!session_manager_is_enabled ())
1334     {
1335       rv = VNET_API_ERROR_FEATURE_DISABLED;
1336       goto done;
1337     }
1338
1339   reg = vl_api_client_index_to_registration (mp->client_index);
1340   if (!reg)
1341     return;
1342
1343   app = application_get_if_valid (clib_net_to_host_u32 (mp->app_index));
1344   if (!app)
1345     {
1346       rv = VNET_API_ERROR_INVALID_VALUE;
1347       goto done;
1348     }
1349
1350   vnet_app_worker_add_del_args_t args = {
1351     .app_index = app->app_index,
1352     .wrk_index = clib_net_to_host_u32 (mp->wrk_index),
1353     .api_client_index = mp->client_index,
1354     .is_add = mp->is_add
1355   };
1356   error = vnet_app_worker_add_del (&args);
1357   if (error)
1358     {
1359       rv = clib_error_get_code (error);
1360       clib_error_report (error);
1361       goto done;
1362     }
1363
1364   if (!mp->is_add)
1365     goto done;
1366
1367   /* Send fifo segment fd if needed */
1368   if (ssvm_type (args.segment) == SSVM_SEGMENT_MEMFD)
1369     {
1370       fd_flags |= SESSION_FD_F_MEMFD_SEGMENT;
1371       fds[n_fds] = args.segment->fd;
1372       n_fds += 1;
1373     }
1374   if (application_segment_manager_properties (app)->use_mq_eventfd)
1375     {
1376       fd_flags |= SESSION_FD_F_MQ_EVENTFD;
1377       fds[n_fds] = svm_msg_q_get_producer_eventfd (args.evt_q);
1378       n_fds += 1;
1379     }
1380
1381   /* *INDENT-OFF* */
1382 done:
1383   REPLY_MACRO2 (VL_API_APP_WORKER_ADD_DEL_REPLY, ({
1384     rmp->is_add = mp->is_add;
1385     rmp->wrk_index = clib_host_to_net_u32 (args.wrk_index);
1386     if (!rv && mp->is_add)
1387       {
1388         if (vec_len (args.segment->name))
1389           {
1390             memcpy (rmp->segment_name, args.segment->name,
1391                     vec_len (args.segment->name));
1392             rmp->segment_name_length = vec_len (args.segment->name);
1393           }
1394         rmp->app_event_queue_address = pointer_to_uword (args.evt_q);
1395         rmp->n_fds = n_fds;
1396         rmp->fd_flags = fd_flags;
1397       }
1398   }));
1399   /* *INDENT-ON* */
1400
1401   if (n_fds)
1402     session_send_fds (reg, fds, n_fds);
1403 }
1404
1405 static void
1406 vl_api_app_namespace_add_del_t_handler (vl_api_app_namespace_add_del_t * mp)
1407 {
1408   vl_api_app_namespace_add_del_reply_t *rmp;
1409   clib_error_t *error = 0;
1410   u32 appns_index = 0;
1411   u8 *ns_id = 0;
1412   int rv = 0;
1413   if (!session_manager_is_enabled ())
1414     {
1415       rv = VNET_API_ERROR_FEATURE_DISABLED;
1416       goto done;
1417     }
1418
1419   if (mp->namespace_id_len > ARRAY_LEN (mp->namespace_id))
1420     {
1421       rv = VNET_API_ERROR_INVALID_VALUE;
1422       goto done;
1423     }
1424
1425   vec_validate (ns_id, mp->namespace_id_len - 1);
1426   clib_memcpy_fast (ns_id, mp->namespace_id, mp->namespace_id_len);
1427   vnet_app_namespace_add_del_args_t args = {
1428     .ns_id = ns_id,
1429     .secret = clib_net_to_host_u64 (mp->secret),
1430     .sw_if_index = clib_net_to_host_u32 (mp->sw_if_index),
1431     .ip4_fib_id = clib_net_to_host_u32 (mp->ip4_fib_id),
1432     .ip6_fib_id = clib_net_to_host_u32 (mp->ip6_fib_id),
1433     .is_add = 1
1434   };
1435   error = vnet_app_namespace_add_del (&args);
1436   if (error)
1437     {
1438       rv = clib_error_get_code (error);
1439       clib_error_report (error);
1440     }
1441   else
1442     {
1443       appns_index = app_namespace_index_from_id (ns_id);
1444       if (appns_index == APP_NAMESPACE_INVALID_INDEX)
1445         {
1446           clib_warning ("app ns lookup failed");
1447           rv = VNET_API_ERROR_UNSPECIFIED;
1448         }
1449     }
1450   vec_free (ns_id);
1451
1452   /* *INDENT-OFF* */
1453 done:
1454   REPLY_MACRO2 (VL_API_APP_NAMESPACE_ADD_DEL_REPLY, ({
1455     if (!rv)
1456       rmp->appns_index = clib_host_to_net_u32 (appns_index);
1457   }));
1458   /* *INDENT-ON* */
1459 }
1460
1461 static void
1462 vl_api_session_rule_add_del_t_handler (vl_api_session_rule_add_del_t * mp)
1463 {
1464   vl_api_session_rule_add_del_reply_t *rmp;
1465   session_rule_add_del_args_t args;
1466   session_rule_table_add_del_args_t *table_args = &args.table_args;
1467   clib_error_t *error;
1468   u8 fib_proto;
1469   int rv = 0;
1470
1471   clib_memset (&args, 0, sizeof (args));
1472   fib_proto = mp->is_ip4 ? FIB_PROTOCOL_IP4 : FIB_PROTOCOL_IP6;
1473
1474   table_args->lcl.fp_len = mp->lcl_plen;
1475   table_args->lcl.fp_proto = fib_proto;
1476   table_args->rmt.fp_len = mp->rmt_plen;
1477   table_args->rmt.fp_proto = fib_proto;
1478   table_args->lcl_port = mp->lcl_port;
1479   table_args->rmt_port = mp->rmt_port;
1480   table_args->action_index = clib_net_to_host_u32 (mp->action_index);
1481   table_args->is_add = mp->is_add;
1482   mp->tag[sizeof (mp->tag) - 1] = 0;
1483   table_args->tag = format (0, "%s", mp->tag);
1484   args.appns_index = clib_net_to_host_u32 (mp->appns_index);
1485   args.scope = mp->scope;
1486   args.transport_proto = mp->transport_proto;
1487
1488   clib_memset (&table_args->lcl.fp_addr, 0, sizeof (table_args->lcl.fp_addr));
1489   clib_memset (&table_args->rmt.fp_addr, 0, sizeof (table_args->rmt.fp_addr));
1490   ip_set (&table_args->lcl.fp_addr, mp->lcl_ip, mp->is_ip4);
1491   ip_set (&table_args->rmt.fp_addr, mp->rmt_ip, mp->is_ip4);
1492   error = vnet_session_rule_add_del (&args);
1493   if (error)
1494     {
1495       rv = clib_error_get_code (error);
1496       clib_error_report (error);
1497     }
1498   vec_free (table_args->tag);
1499   REPLY_MACRO (VL_API_SESSION_RULE_ADD_DEL_REPLY);
1500 }
1501
1502 static void
1503 send_session_rule_details4 (mma_rule_16_t * rule, u8 is_local,
1504                             u8 transport_proto, u32 appns_index, u8 * tag,
1505                             vl_api_registration_t * reg, u32 context)
1506 {
1507   vl_api_session_rules_details_t *rmp = 0;
1508   session_mask_or_match_4_t *match =
1509     (session_mask_or_match_4_t *) & rule->match;
1510   session_mask_or_match_4_t *mask =
1511     (session_mask_or_match_4_t *) & rule->mask;
1512
1513   rmp = vl_msg_api_alloc (sizeof (*rmp));
1514   clib_memset (rmp, 0, sizeof (*rmp));
1515   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1516   rmp->context = context;
1517
1518   rmp->is_ip4 = 1;
1519   clib_memcpy_fast (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1520   clib_memcpy_fast (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1521   rmp->lcl_plen = ip4_mask_to_preflen (&mask->lcl_ip);
1522   rmp->rmt_plen = ip4_mask_to_preflen (&mask->rmt_ip);
1523   rmp->lcl_port = match->lcl_port;
1524   rmp->rmt_port = match->rmt_port;
1525   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1526   rmp->scope =
1527     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1528   rmp->transport_proto = transport_proto;
1529   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1530   if (tag)
1531     {
1532       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1533       rmp->tag[vec_len (tag)] = 0;
1534     }
1535
1536   vl_api_send_msg (reg, (u8 *) rmp);
1537 }
1538
1539 static void
1540 send_session_rule_details6 (mma_rule_40_t * rule, u8 is_local,
1541                             u8 transport_proto, u32 appns_index, u8 * tag,
1542                             vl_api_registration_t * reg, u32 context)
1543 {
1544   vl_api_session_rules_details_t *rmp = 0;
1545   session_mask_or_match_6_t *match =
1546     (session_mask_or_match_6_t *) & rule->match;
1547   session_mask_or_match_6_t *mask =
1548     (session_mask_or_match_6_t *) & rule->mask;
1549
1550   rmp = vl_msg_api_alloc (sizeof (*rmp));
1551   clib_memset (rmp, 0, sizeof (*rmp));
1552   rmp->_vl_msg_id = ntohs (VL_API_SESSION_RULES_DETAILS);
1553   rmp->context = context;
1554
1555   rmp->is_ip4 = 0;
1556   clib_memcpy_fast (rmp->lcl_ip, &match->lcl_ip, sizeof (match->lcl_ip));
1557   clib_memcpy_fast (rmp->rmt_ip, &match->rmt_ip, sizeof (match->rmt_ip));
1558   rmp->lcl_plen = ip6_mask_to_preflen (&mask->lcl_ip);
1559   rmp->rmt_plen = ip6_mask_to_preflen (&mask->rmt_ip);
1560   rmp->lcl_port = match->lcl_port;
1561   rmp->rmt_port = match->rmt_port;
1562   rmp->action_index = clib_host_to_net_u32 (rule->action_index);
1563   rmp->scope =
1564     is_local ? SESSION_RULE_SCOPE_LOCAL : SESSION_RULE_SCOPE_GLOBAL;
1565   rmp->transport_proto = transport_proto;
1566   rmp->appns_index = clib_host_to_net_u32 (appns_index);
1567   if (tag)
1568     {
1569       clib_memcpy_fast (rmp->tag, tag, vec_len (tag));
1570       rmp->tag[vec_len (tag)] = 0;
1571     }
1572
1573   vl_api_send_msg (reg, (u8 *) rmp);
1574 }
1575
1576 static void
1577 send_session_rules_table_details (session_rules_table_t * srt, u8 fib_proto,
1578                                   u8 tp, u8 is_local, u32 appns_index,
1579                                   vl_api_registration_t * reg, u32 context)
1580 {
1581   mma_rule_16_t *rule16;
1582   mma_rule_40_t *rule40;
1583   mma_rules_table_16_t *srt16;
1584   mma_rules_table_40_t *srt40;
1585   u32 ri;
1586
1587   if (is_local || fib_proto == FIB_PROTOCOL_IP4)
1588     {
1589       u8 *tag = 0;
1590       /* *INDENT-OFF* */
1591       srt16 = &srt->session_rules_tables_16;
1592       pool_foreach (rule16, srt16->rules, ({
1593         ri = mma_rules_table_rule_index_16 (srt16, rule16);
1594         tag = session_rules_table_rule_tag (srt, ri, 1);
1595         send_session_rule_details4 (rule16, is_local, tp, appns_index, tag,
1596                                     reg, context);
1597       }));
1598       /* *INDENT-ON* */
1599     }
1600   if (is_local || fib_proto == FIB_PROTOCOL_IP6)
1601     {
1602       u8 *tag = 0;
1603       /* *INDENT-OFF* */
1604       srt40 = &srt->session_rules_tables_40;
1605       pool_foreach (rule40, srt40->rules, ({
1606         ri = mma_rules_table_rule_index_40 (srt40, rule40);
1607         tag = session_rules_table_rule_tag (srt, ri, 1);
1608         send_session_rule_details6 (rule40, is_local, tp, appns_index, tag,
1609                                     reg, context);
1610       }));
1611       /* *INDENT-ON* */
1612     }
1613 }
1614
1615 static void
1616 vl_api_session_rules_dump_t_handler (vl_api_one_map_server_dump_t * mp)
1617 {
1618   vl_api_registration_t *reg;
1619   session_table_t *st;
1620   u8 tp;
1621
1622   reg = vl_api_client_index_to_registration (mp->client_index);
1623   if (!reg)
1624     return;
1625
1626   /* *INDENT-OFF* */
1627   session_table_foreach (st, ({
1628     for (tp = 0; tp < TRANSPORT_N_PROTO; tp++)
1629       {
1630         send_session_rules_table_details (&st->session_rules[tp],
1631                                           st->active_fib_proto, tp,
1632                                           st->is_local, st->appns_index, reg,
1633                                           mp->context);
1634       }
1635   }));
1636   /* *INDENT-ON* */
1637 }
1638
1639 static void
1640 vl_api_application_tls_cert_add_t_handler (vl_api_application_tls_cert_add_t *
1641                                            mp)
1642 {
1643   vl_api_app_namespace_add_del_reply_t *rmp;
1644   vnet_app_add_tls_cert_args_t _a, *a = &_a;
1645   clib_error_t *error;
1646   application_t *app;
1647   u32 cert_len;
1648   int rv = 0;
1649   if (!session_manager_is_enabled ())
1650     {
1651       rv = VNET_API_ERROR_FEATURE_DISABLED;
1652       goto done;
1653     }
1654   if (!(app = application_lookup (mp->client_index)))
1655     {
1656       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1657       goto done;
1658     }
1659   clib_memset (a, 0, sizeof (*a));
1660   a->app_index = app->app_index;
1661   cert_len = clib_net_to_host_u16 (mp->cert_len);
1662   if (cert_len > 10000)
1663     {
1664       rv = VNET_API_ERROR_INVALID_VALUE;
1665       goto done;
1666     }
1667   vec_validate (a->cert, cert_len);
1668   clib_memcpy_fast (a->cert, mp->cert, cert_len);
1669   if ((error = vnet_app_add_tls_cert (a)))
1670     {
1671       rv = clib_error_get_code (error);
1672       clib_error_report (error);
1673     }
1674   vec_free (a->cert);
1675 done:
1676   REPLY_MACRO (VL_API_APPLICATION_TLS_CERT_ADD_REPLY);
1677 }
1678
1679 static void
1680 vl_api_application_tls_key_add_t_handler (vl_api_application_tls_key_add_t *
1681                                           mp)
1682 {
1683   vl_api_app_namespace_add_del_reply_t *rmp;
1684   vnet_app_add_tls_key_args_t _a, *a = &_a;
1685   clib_error_t *error;
1686   application_t *app;
1687   u32 key_len;
1688   int rv = 0;
1689   if (!session_manager_is_enabled ())
1690     {
1691       rv = VNET_API_ERROR_FEATURE_DISABLED;
1692       goto done;
1693     }
1694   if (!(app = application_lookup (mp->client_index)))
1695     {
1696       rv = VNET_API_ERROR_APPLICATION_NOT_ATTACHED;
1697       goto done;
1698     }
1699   clib_memset (a, 0, sizeof (*a));
1700   a->app_index = app->app_index;
1701   key_len = clib_net_to_host_u16 (mp->key_len);
1702   if (key_len > 10000)
1703     {
1704       rv = VNET_API_ERROR_INVALID_VALUE;
1705       goto done;
1706     }
1707   vec_validate (a->key, key_len);
1708   clib_memcpy_fast (a->key, mp->key, key_len);
1709   if ((error = vnet_app_add_tls_key (a)))
1710     {
1711       rv = clib_error_get_code (error);
1712       clib_error_report (error);
1713     }
1714   vec_free (a->key);
1715 done:
1716   REPLY_MACRO (VL_API_APPLICATION_TLS_KEY_ADD_REPLY);
1717 }
1718
1719 static clib_error_t *
1720 application_reaper_cb (u32 client_index)
1721 {
1722   application_t *app = application_lookup (client_index);
1723   vnet_app_detach_args_t _a, *a = &_a;
1724   if (app)
1725     {
1726       a->app_index = app->app_index;
1727       a->api_client_index = client_index;
1728       vnet_application_detach (a);
1729     }
1730   return 0;
1731 }
1732
1733 VL_MSG_API_REAPER_FUNCTION (application_reaper_cb);
1734
1735 #define vl_msg_name_crc_list
1736 #include <vnet/vnet_all_api_h.h>
1737 #undef vl_msg_name_crc_list
1738
1739 static void
1740 setup_message_id_table (api_main_t * am)
1741 {
1742 #define _(id,n,crc) vl_msg_api_add_msg_name_crc (am, #n "_" #crc, id);
1743   foreach_vl_msg_name_crc_session;
1744 #undef _
1745 }
1746
1747 /*
1748  * session_api_hookup
1749  * Add uri's API message handlers to the table.
1750  * vlib has alread mapped shared memory and
1751  * added the client registration handlers.
1752  * See .../open-repo/vlib/memclnt_vlib.c:memclnt_process()
1753  */
1754 static clib_error_t *
1755 session_api_hookup (vlib_main_t * vm)
1756 {
1757   api_main_t *am = &api_main;
1758
1759 #define _(N,n)                                                  \
1760     vl_msg_api_set_handlers(VL_API_##N, #n,                     \
1761                            vl_api_##n##_t_handler,              \
1762                            vl_noop_handler,                     \
1763                            vl_api_##n##_t_endian,               \
1764                            vl_api_##n##_t_print,                \
1765                            sizeof(vl_api_##n##_t), 1);
1766   foreach_session_api_msg;
1767 #undef _
1768
1769   /*
1770    * Messages which bounce off the data-plane to
1771    * an API client. Simply tells the message handling infra not
1772    * to free the message.
1773    *
1774    * Bounced message handlers MUST NOT block the data plane
1775    */
1776   am->message_bounce[VL_API_CONNECT_URI] = 1;
1777   am->message_bounce[VL_API_CONNECT_SOCK] = 1;
1778
1779   /*
1780    * Set up the (msg_name, crc, message-id) table
1781    */
1782   setup_message_id_table (am);
1783
1784   return 0;
1785 }
1786
1787 VLIB_API_INIT_FUNCTION (session_api_hookup);
1788
1789 /*
1790  * fd.io coding-style-patch-verification: ON
1791  *
1792  * Local Variables:
1793  * eval: (c-set-style "gnu")
1794  * End:
1795  */