vcl/session: apps with process workers
[vpp.git] / src / vcl / vcl_bapi.c
1 /*
2  * Copyright (c) 2018 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15
16 #include <vcl/vcl_private.h>
17 #include <vlibmemory/api.h>
18 #include <vpp/api/vpe_msg_enum.h>
19
20 #define vl_typedefs             /* define message structures */
21 #include <vpp/api/vpe_all_api_h.h>
22 #undef vl_typedefs
23
24 /* declare message handlers for each api */
25
26 #define vl_endianfun            /* define message structures */
27 #include <vpp/api/vpe_all_api_h.h>
28 #undef vl_endianfun
29
30 /* instantiate all the print functions we know about */
31 #define vl_print(handle, ...)
32 #define vl_printfun
33 #include <vpp/api/vpe_all_api_h.h>
34 #undef vl_printfun
35
36 u8 *
37 format_api_error (u8 * s, va_list * args)
38 {
39   i32 error = va_arg (*args, u32);
40   uword *p;
41
42   p = hash_get (vcm->error_string_by_error_number, -error);
43
44   if (p)
45     s = format (s, "%s (%d)", p[0], error);
46   else
47     s = format (s, "%d", error);
48   return s;
49 }
50
51 static void
52   vl_api_session_enable_disable_reply_t_handler
53   (vl_api_session_enable_disable_reply_t * mp)
54 {
55   if (mp->retval)
56     {
57       clib_warning ("VCL<%d>: session_enable_disable failed: %U", getpid (),
58                     format_api_error, ntohl (mp->retval));
59     }
60   else
61     vcm->app_state = STATE_APP_ENABLED;
62 }
63
64 static int
65 ssvm_segment_attach (char *name, ssvm_segment_type_t type, int fd)
66 {
67   svm_fifo_segment_create_args_t _a, *a = &_a;
68   int rv;
69
70   memset (a, 0, sizeof (*a));
71   a->segment_name = (char *) name;
72   a->segment_type = type;
73
74   if (type == SSVM_SEGMENT_MEMFD)
75     a->memfd_fd = fd;
76
77   if ((rv = svm_fifo_segment_attach (a)))
78     {
79       clib_warning ("svm_fifo_segment_attach ('%s') failed", name);
80       return rv;
81     }
82   vec_reset_length (a->new_segment_indices);
83   return 0;
84 }
85
86 static void
87 vl_api_application_attach_reply_t_handler (vl_api_application_attach_reply_t *
88                                            mp)
89 {
90   vcl_worker_t *wrk = vcl_worker_get (0);
91   u32 n_fds = 0;
92   int *fds = 0;
93
94   if (mp->retval)
95     {
96       clib_warning ("VCL<%d>: attach failed: %U", getpid (),
97                     format_api_error, ntohl (mp->retval));
98       return;
99     }
100
101   wrk->app_event_queue = uword_to_pointer (mp->app_event_queue_address,
102                                            svm_msg_q_t *);
103   if (mp->n_fds)
104     {
105       vec_validate (fds, mp->n_fds);
106       vl_socket_client_recv_fd_msg (fds, mp->n_fds, 5);
107
108       if (mp->fd_flags & SESSION_FD_F_VPP_MQ_SEGMENT)
109         if (ssvm_segment_attach ("vpp-mq-seg", SSVM_SEGMENT_MEMFD,
110                                  fds[n_fds++]))
111           return;
112
113       if (mp->fd_flags & SESSION_FD_F_MEMFD_SEGMENT)
114         if (ssvm_segment_attach ((char *) mp->segment_name,
115                                  SSVM_SEGMENT_MEMFD, fds[n_fds++]))
116           return;
117
118       if (mp->fd_flags & SESSION_FD_F_MQ_EVENTFD)
119         {
120           svm_msg_q_set_consumer_eventfd (wrk->app_event_queue, fds[n_fds]);
121           vcl_mq_epoll_add_evfd (wrk, wrk->app_event_queue);
122           n_fds++;
123         }
124
125       vec_free (fds);
126     }
127   else
128     {
129       if (ssvm_segment_attach ((char *) mp->segment_name, SSVM_SEGMENT_SHM,
130                                -1))
131         return;
132     }
133
134   vcm->app_state = STATE_APP_ATTACHED;
135 }
136
137 static void
138 vl_api_app_worker_add_del_reply_t_handler (vl_api_app_worker_add_del_reply_t *
139                                            mp)
140 {
141   int n_fds = 0, *fds = 0;
142   vcl_worker_t *wrk;
143   u32 wrk_index;
144
145   if (mp->retval)
146     {
147       clib_warning ("VCL<%d>: add/del worker failed: %U", getpid (),
148                     format_api_error, ntohl (mp->retval));
149       goto failed;
150     }
151   wrk_index = mp->context;
152   wrk = vcl_worker_get (wrk_index);
153   wrk->vpp_wrk_index = clib_net_to_host_u32 (mp->wrk_index);
154
155   if (!mp->is_add)
156     return;
157
158   wrk->app_event_queue = uword_to_pointer (mp->app_event_queue_address,
159                                            svm_msg_q_t *);
160
161   if (mp->n_fds)
162     {
163       vec_validate (fds, mp->n_fds);
164       vl_socket_client_recv_fd_msg (fds, mp->n_fds, 5);
165
166       if (mp->fd_flags & SESSION_FD_F_VPP_MQ_SEGMENT)
167         if (ssvm_segment_attach ("vpp-worker-seg", SSVM_SEGMENT_MEMFD,
168                                  fds[n_fds++]))
169           goto failed;
170
171       if (mp->fd_flags & SESSION_FD_F_MEMFD_SEGMENT)
172         if (ssvm_segment_attach ((char *) mp->segment_name,
173                                  SSVM_SEGMENT_MEMFD, fds[n_fds++]))
174           goto failed;
175
176       if (mp->fd_flags & SESSION_FD_F_MQ_EVENTFD)
177         {
178           svm_msg_q_set_consumer_eventfd (wrk->app_event_queue, fds[n_fds]);
179           vcl_mq_epoll_add_evfd (wrk, wrk->app_event_queue);
180           n_fds++;
181         }
182
183       vec_free (fds);
184     }
185   else
186     {
187       if (ssvm_segment_attach ((char *) mp->segment_name, SSVM_SEGMENT_SHM,
188                                -1))
189         goto failed;
190     }
191   vcm->app_state = STATE_APP_READY;
192   VDBG (0, "worker %u vpp-worker %u added", wrk_index, wrk->vpp_wrk_index);
193   return;
194
195 failed:
196   vcm->app_state = STATE_APP_FAILED;
197 }
198
199 static void
200 vl_api_application_detach_reply_t_handler (vl_api_application_detach_reply_t *
201                                            mp)
202 {
203   if (mp->retval)
204     clib_warning ("VCL<%d>: detach failed: %U", getpid (), format_api_error,
205                   ntohl (mp->retval));
206
207   vcm->app_state = STATE_APP_ENABLED;
208 }
209
210 static void
211 vl_api_map_another_segment_t_handler (vl_api_map_another_segment_t * mp)
212 {
213   ssvm_segment_type_t seg_type = SSVM_SEGMENT_SHM;
214   int fd = -1;
215
216   vcm->mounting_segment = 1;
217
218   if (mp->fd_flags)
219     {
220       vl_socket_client_recv_fd_msg (&fd, 1, 5);
221       seg_type = SSVM_SEGMENT_MEMFD;
222     }
223
224   if (PREDICT_FALSE (ssvm_segment_attach ((char *) mp->segment_name,
225                                           seg_type, fd)))
226     {
227       clib_warning ("VCL<%d>: svm_fifo_segment_attach ('%s') failed",
228                     getpid (), mp->segment_name);
229       return;
230     }
231
232   VDBG (1, "VCL<%d>: mapped new segment '%s' size %d", getpid (),
233         mp->segment_name, mp->segment_size);
234   vcm->mounting_segment = 0;
235 }
236
237 static void
238 vl_api_unmap_segment_t_handler (vl_api_unmap_segment_t * mp)
239 {
240
241 /*
242  * XXX Need segment_name to session_id hash,
243  * XXX - have sessionID by handle hash currently
244  */
245
246   VDBG (1, "Unmapped segment '%s'", mp->segment_name);
247 }
248
249 static void
250   vl_api_app_cut_through_registration_add_t_handler
251   (vl_api_app_cut_through_registration_add_t * mp)
252 {
253   vcl_cut_through_registration_t *ctr;
254   u32 mqc_index = ~0;
255   vcl_worker_t *wrk;
256   int *fds = 0;
257
258   if (mp->n_fds)
259     {
260       ASSERT (mp->n_fds == 2);
261       vec_validate (fds, mp->n_fds);
262       vl_socket_client_recv_fd_msg (fds, mp->n_fds, 5);
263     }
264
265   wrk = vcl_worker_get (mp->wrk_index);
266   ctr = vcl_ct_registration_lock_and_alloc (wrk);
267   ctr->mq = uword_to_pointer (mp->evt_q_address, svm_msg_q_t *);
268   ctr->peer_mq = uword_to_pointer (mp->peer_evt_q_address, svm_msg_q_t *);
269   VDBG (0, "Adding ct registration %u", vcl_ct_registration_index (wrk, ctr));
270
271   if (mp->n_fds && (mp->fd_flags & SESSION_FD_F_MQ_EVENTFD))
272     {
273       svm_msg_q_set_consumer_eventfd (ctr->mq, fds[0]);
274       svm_msg_q_set_producer_eventfd (ctr->peer_mq, fds[1]);
275       mqc_index = vcl_mq_epoll_add_evfd (wrk, ctr->mq);
276       ctr->epoll_evt_conn_index = mqc_index;
277       vec_free (fds);
278     }
279   vcl_ct_registration_lookup_add (wrk, mp->evt_q_address,
280                                   vcl_ct_registration_index (wrk, ctr));
281   vcl_ct_registration_unlock (wrk);
282 }
283
284 static void
285 vl_api_bind_sock_reply_t_handler (vl_api_bind_sock_reply_t * mp)
286 {
287   /* Expecting a similar message on mq. So ignore this */
288   VDBG (1, "VCL<%d>: bapi msg vpp handle 0x%llx, sid %u: bind retval: %u!",
289         getpid (), mp->handle, mp->context, mp->retval);
290 }
291
292 static void
293 vl_api_unbind_sock_reply_t_handler (vl_api_unbind_sock_reply_t * mp)
294 {
295   if (mp->retval)
296     clib_warning ("VCL<%d>: ERROR: sid %u: unbind failed: %U",
297                   getpid (), mp->context, format_api_error,
298                   ntohl (mp->retval));
299
300   else
301     VDBG (1, "VCL<%d>: sid %u: unbind succeeded!", getpid (), mp->context);
302 }
303
304 static void
305 vl_api_disconnect_session_reply_t_handler (vl_api_disconnect_session_reply_t *
306                                            mp)
307 {
308   if (mp->retval)
309     clib_warning ("VCL<%d>: ERROR: sid %u: disconnect failed: %U",
310                   getpid (), mp->context, format_api_error,
311                   ntohl (mp->retval));
312 }
313
314 static void
315 vl_api_connect_session_reply_t_handler (vl_api_connect_sock_reply_t * mp)
316 {
317   if (mp->retval)
318     clib_warning ("VCL<%d>: ERROR: sid %u: connect failed: %U",
319                   getpid (), mp->context, format_api_error,
320                   ntohl (mp->retval));
321 }
322
323 #define foreach_sock_msg                                                \
324 _(SESSION_ENABLE_DISABLE_REPLY, session_enable_disable_reply)           \
325 _(BIND_SOCK_REPLY, bind_sock_reply)                                     \
326 _(UNBIND_SOCK_REPLY, unbind_sock_reply)                                 \
327 _(CONNECT_SESSION_REPLY, connect_session_reply)                         \
328 _(DISCONNECT_SESSION_REPLY, disconnect_session_reply)                   \
329 _(APPLICATION_ATTACH_REPLY, application_attach_reply)                   \
330 _(APPLICATION_DETACH_REPLY, application_detach_reply)                   \
331 _(MAP_ANOTHER_SEGMENT, map_another_segment)                             \
332 _(UNMAP_SEGMENT, unmap_segment)                                         \
333 _(APP_CUT_THROUGH_REGISTRATION_ADD, app_cut_through_registration_add)   \
334 _(APP_WORKER_ADD_DEL_REPLY, app_worker_add_del_reply)                   \
335
336 void
337 vppcom_api_hookup (void)
338 {
339 #define _(N, n)                                                 \
340     vl_msg_api_set_handlers(VL_API_##N, #n,                     \
341                            vl_api_##n##_t_handler,              \
342                            vl_noop_handler,                     \
343                            vl_api_##n##_t_endian,               \
344                            vl_api_##n##_t_print,                \
345                            sizeof(vl_api_##n##_t), 1);
346   foreach_sock_msg;
347 #undef _
348 }
349
350 /*
351  * VPP-API message functions
352  */
353 void
354 vppcom_send_session_enable_disable (u8 is_enable)
355 {
356   vl_api_session_enable_disable_t *bmp;
357   bmp = vl_msg_api_alloc (sizeof (*bmp));
358   memset (bmp, 0, sizeof (*bmp));
359
360   bmp->_vl_msg_id = ntohs (VL_API_SESSION_ENABLE_DISABLE);
361   bmp->client_index = vcm->my_client_index;
362   bmp->context = htonl (0xfeedface);
363   bmp->is_enable = is_enable;
364   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & bmp);
365 }
366
367 void
368 vppcom_app_send_attach (void)
369 {
370   vl_api_application_attach_t *bmp;
371   u8 nsid_len = vec_len (vcm->cfg.namespace_id);
372   u8 app_is_proxy = (vcm->cfg.app_proxy_transport_tcp ||
373                      vcm->cfg.app_proxy_transport_udp);
374
375   bmp = vl_msg_api_alloc (sizeof (*bmp));
376   memset (bmp, 0, sizeof (*bmp));
377
378   bmp->_vl_msg_id = ntohs (VL_API_APPLICATION_ATTACH);
379   bmp->client_index = vcm->my_client_index;
380   bmp->context = htonl (0xfeedface);
381   bmp->options[APP_OPTIONS_FLAGS] =
382     APP_OPTIONS_FLAGS_ACCEPT_REDIRECT | APP_OPTIONS_FLAGS_ADD_SEGMENT |
383     (vcm->cfg.app_scope_local ? APP_OPTIONS_FLAGS_USE_LOCAL_SCOPE : 0) |
384     (vcm->cfg.app_scope_global ? APP_OPTIONS_FLAGS_USE_GLOBAL_SCOPE : 0) |
385     (app_is_proxy ? APP_OPTIONS_FLAGS_IS_PROXY : 0) |
386     APP_OPTIONS_FLAGS_USE_MQ_FOR_CTRL_MSGS |
387     (vcm->cfg.use_mq_eventfd ? APP_OPTIONS_FLAGS_EVT_MQ_USE_EVENTFD : 0);
388   bmp->options[APP_OPTIONS_PROXY_TRANSPORT] =
389     (u64) ((vcm->cfg.app_proxy_transport_tcp ? 1 << TRANSPORT_PROTO_TCP : 0) |
390            (vcm->cfg.app_proxy_transport_udp ? 1 << TRANSPORT_PROTO_UDP : 0));
391   bmp->options[APP_OPTIONS_SEGMENT_SIZE] = vcm->cfg.segment_size;
392   bmp->options[APP_OPTIONS_ADD_SEGMENT_SIZE] = vcm->cfg.add_segment_size;
393   bmp->options[APP_OPTIONS_RX_FIFO_SIZE] = vcm->cfg.rx_fifo_size;
394   bmp->options[APP_OPTIONS_TX_FIFO_SIZE] = vcm->cfg.tx_fifo_size;
395   bmp->options[APP_OPTIONS_PREALLOC_FIFO_PAIRS] =
396     vcm->cfg.preallocated_fifo_pairs;
397   bmp->options[APP_OPTIONS_EVT_QUEUE_SIZE] = vcm->cfg.event_queue_size;
398   if (nsid_len)
399     {
400       bmp->namespace_id_len = nsid_len;
401       clib_memcpy_fast (bmp->namespace_id, vcm->cfg.namespace_id, nsid_len);
402       bmp->options[APP_OPTIONS_NAMESPACE_SECRET] = vcm->cfg.namespace_secret;
403     }
404   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & bmp);
405 }
406
407 void
408 vppcom_app_send_detach (void)
409 {
410   vl_api_application_detach_t *bmp;
411   bmp = vl_msg_api_alloc (sizeof (*bmp));
412   memset (bmp, 0, sizeof (*bmp));
413
414   bmp->_vl_msg_id = ntohs (VL_API_APPLICATION_DETACH);
415   bmp->client_index = vcm->my_client_index;
416   bmp->context = htonl (0xfeedface);
417   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & bmp);
418 }
419
420 void
421 vcl_send_app_worker_add_del (u8 is_add)
422 {
423   vcl_worker_t *wrk = vcl_worker_get_current ();
424   vl_api_app_worker_add_del_t *mp;
425   u32 wrk_index = wrk->wrk_index;
426
427   mp = vl_msg_api_alloc (sizeof (*mp));
428   memset (mp, 0, sizeof (*mp));
429
430   mp->_vl_msg_id = ntohs (VL_API_APP_WORKER_ADD_DEL);
431   mp->client_index = vcm->my_client_index;
432   mp->app_api_index = clib_host_to_net_u32 (vcm->main_api_client_index);
433   mp->context = wrk_index;
434   mp->is_add = is_add;
435   if (!is_add)
436     mp->wrk_index = clib_host_to_net_u32 (wrk_index);
437
438   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & mp);
439 }
440
441 void
442 vppcom_send_connect_sock (vcl_session_t * session)
443 {
444   vcl_worker_t *wrk = vcl_worker_get_current ();
445   vl_api_connect_sock_t *cmp;
446
447   cmp = vl_msg_api_alloc (sizeof (*cmp));
448   memset (cmp, 0, sizeof (*cmp));
449   cmp->_vl_msg_id = ntohs (VL_API_CONNECT_SOCK);
450   cmp->client_index = vcm->my_client_index;
451   cmp->context = session->session_index;
452   cmp->wrk_index = wrk->vpp_wrk_index;
453   cmp->is_ip4 = session->transport.is_ip4;
454   clib_memcpy_fast (cmp->ip, &session->transport.rmt_ip, sizeof (cmp->ip));
455   cmp->port = session->transport.rmt_port;
456   cmp->proto = session->session_type;
457   clib_memcpy_fast (cmp->options, session->options, sizeof (cmp->options));
458   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & cmp);
459 }
460
461 void
462 vppcom_send_disconnect_session (u64 vpp_handle)
463 {
464   vl_api_disconnect_session_t *dmp;
465
466   dmp = vl_msg_api_alloc (sizeof (*dmp));
467   memset (dmp, 0, sizeof (*dmp));
468   dmp->_vl_msg_id = ntohs (VL_API_DISCONNECT_SESSION);
469   dmp->client_index = vcm->my_client_index;
470   dmp->handle = vpp_handle;
471   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & dmp);
472 }
473
474 /* VPP combines bind and listen as one operation. VCL manages the separation
475  * of bind and listen locally via vppcom_session_bind() and
476  * vppcom_session_listen() */
477 void
478 vppcom_send_bind_sock (vcl_session_t * session)
479 {
480   vcl_worker_t *wrk = vcl_worker_get_current ();
481   vl_api_bind_sock_t *bmp;
482
483   /* Assumes caller has acquired spinlock: vcm->sessions_lockp */
484   bmp = vl_msg_api_alloc (sizeof (*bmp));
485   memset (bmp, 0, sizeof (*bmp));
486
487   bmp->_vl_msg_id = ntohs (VL_API_BIND_SOCK);
488   bmp->client_index = vcm->my_client_index;
489   bmp->context = session->session_index;
490   bmp->wrk_index = wrk->vpp_wrk_index;
491   bmp->is_ip4 = session->transport.is_ip4;
492   clib_memcpy_fast (bmp->ip, &session->transport.lcl_ip, sizeof (bmp->ip));
493   bmp->port = session->transport.lcl_port;
494   bmp->proto = session->session_type;
495   clib_memcpy_fast (bmp->options, session->options, sizeof (bmp->options));
496   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & bmp);
497 }
498
499 void
500 vppcom_send_unbind_sock (u64 vpp_handle)
501 {
502   vcl_worker_t *wrk = vcl_worker_get_current ();
503   vl_api_unbind_sock_t *ump;
504
505   ump = vl_msg_api_alloc (sizeof (*ump));
506   memset (ump, 0, sizeof (*ump));
507
508   ump->_vl_msg_id = ntohs (VL_API_UNBIND_SOCK);
509   ump->client_index = vcm->my_client_index;
510   ump->wrk_index = wrk->vpp_wrk_index;
511   ump->handle = vpp_handle;
512   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & ump);
513 }
514
515 void
516 vppcom_send_accept_session_reply (u64 handle, u32 context, int retval)
517 {
518   vl_api_accept_session_reply_t *rmp;
519
520   rmp = vl_msg_api_alloc (sizeof (*rmp));
521   memset (rmp, 0, sizeof (*rmp));
522   rmp->_vl_msg_id = ntohs (VL_API_ACCEPT_SESSION_REPLY);
523   rmp->retval = htonl (retval);
524   rmp->context = context;
525   rmp->handle = handle;
526   vl_msg_api_send_shmem (vcm->vl_input_queue, (u8 *) & rmp);
527 }
528
529 u32
530 vcl_max_nsid_len (void)
531 {
532   vl_api_application_attach_t *mp;
533   return (sizeof (mp->namespace_id) - 1);
534 }
535
536 void
537 vppcom_init_error_string_table (void)
538 {
539   vcm->error_string_by_error_number = hash_create (0, sizeof (uword));
540
541 #define _(n, v, s) hash_set (vcm->error_string_by_error_number, -v, s);
542   foreach_vnet_api_error;
543 #undef _
544
545   hash_set (vcm->error_string_by_error_number, 99, "Misc");
546 }
547
548 int
549 vppcom_connect_to_vpp (char *app_name)
550 {
551   api_main_t *am = &api_main;
552   vppcom_cfg_t *vcl_cfg = &vcm->cfg;
553
554   if (vcl_cfg->vpp_api_socket_name)
555     {
556       if (vl_socket_client_connect ((char *) vcl_cfg->vpp_api_socket_name,
557                                     app_name, 0 /* default rx/tx buffer */ ))
558         {
559           VERR ("app (%s) socket connect failed!", app_name);
560           return VPPCOM_ECONNREFUSED;
561         }
562
563       if (vl_socket_client_init_shm (0))
564         {
565           VERR ("app (%s) init shm failed!", app_name);
566           return VPPCOM_ECONNREFUSED;
567         }
568     }
569   else
570     {
571       if (!vcl_cfg->vpp_api_filename)
572         vcl_cfg->vpp_api_filename = format (0, "/vpe-api%c", 0);
573
574       VDBG (0, "app (%s) connecting to VPP api (%s)...",
575             app_name, vcl_cfg->vpp_api_filename);
576
577       if (vl_client_connect_to_vlib ((char *) vcl_cfg->vpp_api_filename,
578                                      app_name, vcm->cfg.vpp_api_q_length) < 0)
579         {
580           VERR ("app (%s) connect failed!", app_name);
581           return VPPCOM_ECONNREFUSED;
582         }
583
584     }
585
586   vcm->vl_input_queue = am->shmem_hdr->vl_input_queue;
587   vcm->my_client_index = (u32) am->my_client_index;
588   vcm->app_state = STATE_APP_CONN_VPP;
589
590   VDBG (0, "app (%s) is connected to VPP!", app_name);
591   vcl_evt (VCL_EVT_INIT, vcm);
592   return VPPCOM_OK;
593 }
594
595 /*
596  * fd.io coding-style-patch-verification: ON
597  *
598  * Local Variables:
599  * eval: (c-set-style "gnu")
600  * End:
601  */