memif: fix max number of rings
[vpp.git] / extras / libmemif / src / socket.c
1 /*
2  *------------------------------------------------------------------
3  * Copyright (c) 2017 Cisco and/or its affiliates.
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at:
7  *
8  *     http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  *------------------------------------------------------------------
16  */
17
18 #define _GNU_SOURCE
19 #include <sys/socket.h>
20 #include <sys/types.h>
21 #include <sys/un.h>
22 #include <string.h>
23 #include <stdio.h>
24 #include <stdlib.h>
25 #include <net/if.h>
26 #include <sys/ioctl.h>
27 #include <sys/uio.h>
28 #include <sys/mman.h>
29 #include <sys/prctl.h>
30 #include <fcntl.h>
31 #include <errno.h>
32
33 #include <socket.h>
34 #include <memif.h>
35 #include <memif_private.h>
36
37 /* sends msg to socket */
38 static_fn int
39 memif_msg_send (int fd, memif_msg_t * msg, int afd)
40 {
41   struct msghdr mh = { 0 };
42   struct iovec iov[1];
43   char ctl[CMSG_SPACE (sizeof (int))];
44   int rv, err = MEMIF_ERR_SUCCESS;      /* 0 */
45
46   iov[0].iov_base = (void *) msg;
47   iov[0].iov_len = sizeof (memif_msg_t);
48   mh.msg_iov = iov;
49   mh.msg_iovlen = 1;
50
51   if (afd > 0)
52     {
53       struct cmsghdr *cmsg;
54       memset (&ctl, 0, sizeof (ctl));
55       mh.msg_control = ctl;
56       mh.msg_controllen = sizeof (ctl);
57       cmsg = CMSG_FIRSTHDR (&mh);
58       cmsg->cmsg_len = CMSG_LEN (sizeof (int));
59       cmsg->cmsg_level = SOL_SOCKET;
60       cmsg->cmsg_type = SCM_RIGHTS;
61       memcpy (CMSG_DATA (cmsg), &afd, sizeof (int));
62     }
63   rv = sendmsg (fd, &mh, 0);
64   if (rv < 0)
65     err = memif_syscall_error_handler (errno);
66   DBG ("Message type %u sent", msg->type);
67   return err;
68 }
69
70 /* response from memif master - master is ready to handle next message */
71 static_fn int
72 memif_msg_enq_ack (memif_connection_t * c)
73 {
74   libmemif_main_t *lm = &libmemif_main;
75   memif_msg_queue_elt_t *e =
76     (memif_msg_queue_elt_t *) lm->alloc (sizeof (memif_msg_queue_elt_t));
77   if (e == NULL)
78     return memif_syscall_error_handler (errno);
79
80   memset (&e->msg, 0, sizeof (e->msg));
81   e->msg.type = MEMIF_MSG_TYPE_ACK;
82   e->fd = -1;
83
84   e->next = NULL;
85   if (c->msg_queue == NULL)
86     {
87       c->msg_queue = e;
88       return MEMIF_ERR_SUCCESS; /* 0 */
89     }
90
91   memif_msg_queue_elt_t *cur = c->msg_queue;
92   while (cur->next != NULL)
93     {
94       cur = cur->next;
95     }
96   cur->next = e;
97
98   return MEMIF_ERR_SUCCESS;     /* 0 */
99 }
100
101 static_fn int
102 memif_msg_send_hello (int fd)
103 {
104   libmemif_main_t *lm = &libmemif_main;
105   memif_msg_t msg = { 0 };
106   memif_msg_hello_t *h = &msg.hello;
107   msg.type = MEMIF_MSG_TYPE_HELLO;
108   h->min_version = MEMIF_VERSION;
109   h->max_version = MEMIF_VERSION;
110   h->max_s2m_ring = MEMIF_MAX_S2M_RING;
111   h->max_m2s_ring = MEMIF_MAX_M2S_RING;
112   h->max_region = MEMIF_MAX_REGION;
113   h->max_log2_ring_size = MEMIF_MAX_LOG2_RING_SIZE;
114
115   strncpy ((char *) h->name, (char *) lm->app_name, strlen ((char *) lm->app_name));
116
117   /* msg hello is not enqueued but sent directly,
118      because it is the first msg to be sent */
119   return memif_msg_send (fd, &msg, -1);
120 }
121
122 /* send id and secret (optional) for interface identification */
123 static_fn int
124 memif_msg_enq_init (memif_connection_t * c)
125 {
126   libmemif_main_t *lm = &libmemif_main;
127   memif_msg_queue_elt_t *e =
128     (memif_msg_queue_elt_t *) lm->alloc (sizeof (memif_msg_queue_elt_t));
129   if (e == NULL)
130     return memif_syscall_error_handler (errno);
131   memset (e, 0, sizeof (memif_msg_queue_elt_t));
132
133   memset (&e->msg, 0, sizeof (e->msg));
134   memif_msg_init_t *i = &e->msg.init;
135
136   e->msg.type = MEMIF_MSG_TYPE_INIT;
137   e->fd = -1;
138   i->version = MEMIF_VERSION;
139   i->id = c->args.interface_id;
140   i->mode = c->args.mode;
141
142   strncpy ((char *) i->name, (char *) lm->app_name,
143            strlen ((char *) lm->app_name));
144   if (strlen((char *) c->args.secret) > 0)
145     strncpy ((char *) i->secret, (char *) c->args.secret, sizeof (i->secret));
146
147   e->next = NULL;
148   if (c->msg_queue == NULL)
149     {
150       c->msg_queue = e;
151       return MEMIF_ERR_SUCCESS; /* 0 */
152     }
153
154   memif_msg_queue_elt_t *cur = c->msg_queue;
155   while (cur->next != NULL)
156     {
157       cur = cur->next;
158     }
159   cur->next = e;
160
161   return MEMIF_ERR_SUCCESS;     /* 0 */
162 }
163
164 /* send information about region specified by region_index */
165 static_fn int
166 memif_msg_enq_add_region (memif_connection_t * c, uint8_t region_index)
167 {
168   libmemif_main_t *lm = &libmemif_main;
169   /* maybe check if region is valid? */
170   memif_region_t *mr = &c->regions[region_index];
171
172   memif_msg_queue_elt_t *e =
173     (memif_msg_queue_elt_t *) lm->alloc (sizeof (memif_msg_queue_elt_t));
174   if (e == NULL)
175     return memif_syscall_error_handler (errno);
176
177   memset (&e->msg, 0, sizeof (e->msg));
178   memif_msg_add_region_t *ar = &e->msg.add_region;
179
180   e->msg.type = MEMIF_MSG_TYPE_ADD_REGION;
181   e->fd = mr->fd;
182   ar->index = region_index;
183   ar->size = mr->region_size;
184
185   e->next = NULL;
186   if (c->msg_queue == NULL)
187     {
188       c->msg_queue = e;
189       return MEMIF_ERR_SUCCESS; /* 0 */
190     }
191
192   memif_msg_queue_elt_t *cur = c->msg_queue;
193   while (cur->next != NULL)
194     {
195       cur = cur->next;
196     }
197   cur->next = e;
198
199   return MEMIF_ERR_SUCCESS;     /* 0 */
200 }
201
202 /* send information about ring specified by direction (S2M | M2S) and index */
203 static_fn int
204 memif_msg_enq_add_ring (memif_connection_t * c, uint8_t index, uint8_t dir)
205 {
206   libmemif_main_t *lm = &libmemif_main;
207   memif_msg_queue_elt_t *e =
208     (memif_msg_queue_elt_t *) lm->alloc (sizeof (memif_msg_queue_elt_t));
209   if (e == NULL)
210     return memif_syscall_error_handler (errno);
211
212   memset (&e->msg, 0, sizeof (e->msg));
213   memif_msg_add_ring_t *ar = &e->msg.add_ring;
214
215   e->msg.type = MEMIF_MSG_TYPE_ADD_RING;
216
217   /* TODO: support multiple rings */
218   memif_queue_t *mq;
219   if (dir == MEMIF_RING_M2S)
220     mq = &c->rx_queues[index];
221   else
222     mq = &c->tx_queues[index];
223
224   e->fd = mq->int_fd;
225   ar->index = index;
226   ar->offset = mq->offset;
227   ar->region = mq->region;
228   ar->log2_ring_size = mq->log2_ring_size;
229   ar->flags = (dir == MEMIF_RING_S2M) ? MEMIF_MSG_ADD_RING_FLAG_S2M : 0;
230   ar->private_hdr_size = 0;
231
232   e->next = NULL;
233   if (c->msg_queue == NULL)
234     {
235       c->msg_queue = e;
236       return MEMIF_ERR_SUCCESS; /* 0 */
237     }
238
239   memif_msg_queue_elt_t *cur = c->msg_queue;
240   while (cur->next != NULL)
241     {
242       cur = cur->next;
243     }
244   cur->next = e;
245
246   return MEMIF_ERR_SUCCESS;     /* 0 */
247 }
248
249 /* used as connection request from slave */
250 static_fn int
251 memif_msg_enq_connect (memif_connection_t * c)
252 {
253   libmemif_main_t *lm = &libmemif_main;
254   memif_msg_queue_elt_t *e =
255     (memif_msg_queue_elt_t *) lm->alloc (sizeof (memif_msg_queue_elt_t));
256   if (e == NULL)
257     return memif_syscall_error_handler (errno);
258
259   memset (&e->msg, 0, sizeof (e->msg));
260   memif_msg_connect_t *cm = &e->msg.connect;
261
262   e->msg.type = MEMIF_MSG_TYPE_CONNECT;
263   e->fd = -1;
264   strncpy ((char *) cm->if_name, (char *) c->args.interface_name,
265            strlen ((char *) c->args.interface_name));
266
267   e->next = NULL;
268   if (c->msg_queue == NULL)
269     {
270       c->msg_queue = e;
271       return MEMIF_ERR_SUCCESS; /* 0 */
272     }
273
274   memif_msg_queue_elt_t *cur = c->msg_queue;
275   while (cur->next != NULL)
276     {
277       cur = cur->next;
278     }
279   cur->next = e;
280
281   return MEMIF_ERR_SUCCESS;     /* 0 */
282 }
283
284 /* used as confirmation of connection by master */
285 static_fn int
286 memif_msg_enq_connected (memif_connection_t * c)
287 {
288   libmemif_main_t *lm = &libmemif_main;
289   memif_msg_queue_elt_t *e =
290     (memif_msg_queue_elt_t *) lm->alloc (sizeof (memif_msg_queue_elt_t));
291   if (e == NULL)
292     return memif_syscall_error_handler (errno);
293
294   memset (&e->msg, 0, sizeof (e->msg));
295   memif_msg_connected_t *cm = &e->msg.connected;
296
297   e->msg.type = MEMIF_MSG_TYPE_CONNECTED;
298   e->fd = -1;
299   strncpy ((char *) cm->if_name, (char *) c->args.interface_name,
300            strlen ((char *) c->args.interface_name));
301
302   e->next = NULL;
303   if (c->msg_queue == NULL)
304     {
305       c->msg_queue = e;
306       return MEMIF_ERR_SUCCESS; /* 0 */
307     }
308
309   memif_msg_queue_elt_t *cur = c->msg_queue;
310   while (cur->next != NULL)
311     {
312       cur = cur->next;
313     }
314   cur->next = e;
315
316   return MEMIF_ERR_SUCCESS;     /* 0 */
317 }
318
319 /* immediately send disconnect msg */
320     /* specifie protocol for disconnect msg err_code
321        so that it will be compatible with VPP? (header/doc) */
322 int
323 memif_msg_send_disconnect (int fd, uint8_t * err_string, uint32_t err_code)
324 {
325   memif_msg_t msg = { 0 };
326   memif_msg_disconnect_t *d = &msg.disconnect;
327
328   msg.type = MEMIF_MSG_TYPE_DISCONNECT;
329   d->code = err_code;
330   uint16_t l = strlen ((char *) err_string);
331   if (l > 96)
332     {
333       DBG ("Disconnect string too long. Sending first 96 characters.");
334       l = 96;
335     }
336   strncpy ((char *) d->string, (char *) err_string, l);
337
338   return memif_msg_send (fd, &msg, -1);
339 }
340
341 static_fn int
342 memif_msg_receive_hello (memif_connection_t * c, memif_msg_t * msg)
343 {
344   memif_msg_hello_t *h = &msg->hello;
345
346   if (msg->hello.min_version > MEMIF_VERSION ||
347       msg->hello.max_version < MEMIF_VERSION)
348     {
349       DBG ("incompatible protocol version");
350       return MEMIF_ERR_PROTO;
351     }
352
353   c->run_args.num_s2m_rings = memif_min (h->max_s2m_ring + 1,
354                                          c->args.num_s2m_rings);
355   c->run_args.num_m2s_rings = memif_min (h->max_m2s_ring + 1,
356                                          c->args.num_m2s_rings);
357   c->run_args.log2_ring_size = memif_min (h->max_log2_ring_size,
358                                           c->args.log2_ring_size);
359   c->run_args.buffer_size = c->args.buffer_size;
360   strncpy ((char *) c->remote_name, (char *) h->name,
361            strlen ((char *) h->name));
362
363   return MEMIF_ERR_SUCCESS;     /* 0 */
364 }
365
366 /* handle interface identification (id, secret (optional)) */
367 static_fn int
368 memif_msg_receive_init (memif_socket_t * ms, int fd, memif_msg_t * msg)
369 {
370   memif_msg_init_t *i = &msg->init;
371   memif_list_elt_t *elt = NULL;
372   memif_list_elt_t elt2;
373   memif_connection_t *c = NULL;
374   libmemif_main_t *lm = &libmemif_main;
375   uint8_t err_string[96];
376   memset (err_string, 0, sizeof (char) * 96);
377   int err = MEMIF_ERR_SUCCESS;  /* 0 */
378   int err_disc;
379   if (i->version != MEMIF_VERSION)
380     {
381       DBG ("MEMIF_VER_ERR");
382       strncpy ((char *) err_string, MEMIF_VER_ERR, strlen (MEMIF_VER_ERR));
383       err = MEMIF_ERR_PROTO;
384       goto error;
385     }
386
387   get_list_elt (&elt, ms->interface_list, ms->interface_list_len, i->id);
388   if (elt == NULL)
389     {
390       DBG ("MEMIF_ID_ERR");
391       strncpy ((char *) err_string, MEMIF_ID_ERR, strlen (MEMIF_ID_ERR));
392       err = MEMIF_ERR_ID;
393       goto error;
394     }
395
396   c = (memif_connection_t *) elt->data_struct;
397
398   if (!(c->args.is_master))
399     {
400       DBG ("MEMIF_SLAVE_ERR");
401       strncpy ((char *) err_string, MEMIF_SLAVE_ERR,
402                strlen (MEMIF_SLAVE_ERR));
403       err = MEMIF_ERR_ACCSLAVE;
404       goto error;
405     }
406   if (c->fd != -1)
407     {
408       DBG ("MEMIF_CONN_ERR");
409       strncpy ((char *) err_string, MEMIF_CONN_ERR, strlen (MEMIF_CONN_ERR));
410       err = MEMIF_ERR_ALRCONN;
411       goto error;
412     }
413
414   c->fd = fd;
415
416   if (i->mode != c->args.mode)
417     {
418       DBG ("MEMIF_MODE_ERR");
419       strncpy ((char *) err_string, MEMIF_MODE_ERR, strlen (MEMIF_MODE_ERR));
420       err = MEMIF_ERR_MODE;
421       goto error;
422     }
423
424   strncpy ((char *) c->remote_name, (char *) i->name,
425            strlen ((char *) i->name));
426
427   if (strlen((char *) c->args.secret) > 0)
428     {
429       int r;
430       if (strlen((char *) i->secret) > 0)
431         {
432           if (strlen ((char *) c->args.secret) != strlen ((char *) i->secret))
433             {
434               DBG ("MEMIF_SECRET_ERR");
435               strncpy ((char *) err_string,
436                        MEMIF_SECRET_ERR, strlen (MEMIF_SECRET_ERR));
437               err = MEMIF_ERR_SECRET;
438               goto error;
439             }
440           r = strncmp ((char *) i->secret, (char *) c->args.secret,
441                        strlen ((char *) c->args.secret));
442           if (r != 0)
443             {
444               DBG ("MEMIF_SECRET_ERR");
445               strncpy ((char *) err_string,
446                        MEMIF_SECRET_ERR, strlen (MEMIF_SECRET_ERR));
447               err = MEMIF_ERR_SECRET;
448               goto error;
449             }
450         }
451       else
452         {
453           DBG ("MEMIF_NOSECRET_ERR");
454           strncpy ((char *) err_string,
455                    MEMIF_NOSECRET_ERR, strlen (MEMIF_NOSECRET_ERR));
456           err = MEMIF_ERR_NOSECRET;
457           goto error;
458         }
459     }
460
461   c->read_fn = memif_conn_fd_read_ready;
462   c->write_fn = memif_conn_fd_write_ready;
463   c->error_fn = memif_conn_fd_error;
464
465   elt2.key = c->fd;
466   elt2.data_struct = c;
467
468   add_list_elt (&elt2, &lm->control_list, &lm->control_list_len);
469   free_list_elt (lm->pending_list, lm->pending_list_len, fd);
470
471   return err;
472
473 error:
474   memif_msg_send_disconnect (fd, err_string, 0);
475   lm->control_fd_update (fd, MEMIF_FD_EVENT_DEL);
476   free_list_elt (lm->pending_list, lm->pending_list_len, fd);
477   close (fd);
478   fd = -1;
479   return err;
480 }
481
482 /* receive region information and add new region to connection (if possible) */
483 static_fn int
484 memif_msg_receive_add_region (memif_connection_t * c, memif_msg_t * msg,
485                               int fd)
486 {
487   memif_msg_add_region_t *ar = &msg->add_region;
488   memif_region_t *mr;
489   if (fd < 0)
490     return MEMIF_ERR_NO_SHMFD;
491
492   if (ar->index > MEMIF_MAX_REGION)
493     return MEMIF_ERR_MAXREG;
494
495   mr =
496     (memif_region_t *) realloc (c->regions,
497                                 sizeof (memif_region_t) * (ar->index + 1));
498   if (mr == NULL)
499     return memif_syscall_error_handler (errno);
500   c->regions = mr;
501   c->regions[ar->index].fd = fd;
502   c->regions[ar->index].region_size = ar->size;
503   c->regions[ar->index].shm = NULL;
504
505   return MEMIF_ERR_SUCCESS;     /* 0 */
506 }
507
508 /* receive ring information and add new ring to connection queue
509    (based on direction S2M | M2S) */
510 static_fn int
511 memif_msg_receive_add_ring (memif_connection_t * c, memif_msg_t * msg, int fd)
512 {
513   memif_msg_add_ring_t *ar = &msg->add_ring;
514
515   memif_queue_t *mq;
516
517   if (fd < 0)
518     return MEMIF_ERR_NO_INTFD;
519
520   if (ar->private_hdr_size != 0)
521     return MEMIF_ERR_PRIVHDR;
522
523   if (ar->flags & MEMIF_MSG_ADD_RING_FLAG_S2M)
524     {
525       if (ar->index > MEMIF_MAX_S2M_RING)
526         return MEMIF_ERR_MAXRING;
527       if (ar->index >= c->args.num_s2m_rings)
528         return MEMIF_ERR_MAXRING;
529
530       mq =
531         (memif_queue_t *) realloc (c->rx_queues,
532                                    sizeof (memif_queue_t) * (ar->index + 1));
533       memset (mq + ar->index, 0, sizeof (memif_queue_t));
534       if (mq == NULL)
535         return memif_syscall_error_handler (errno);
536       c->rx_queues = mq;
537       c->rx_queues[ar->index].int_fd = fd;
538       c->rx_queues[ar->index].log2_ring_size = ar->log2_ring_size;
539       c->rx_queues[ar->index].region = ar->region;
540       c->rx_queues[ar->index].offset = ar->offset;
541       c->run_args.num_s2m_rings++;
542     }
543   else
544     {
545       if (ar->index > MEMIF_MAX_M2S_RING)
546         return MEMIF_ERR_MAXRING;
547       if (ar->index >= c->args.num_m2s_rings)
548         return MEMIF_ERR_MAXRING;
549
550       mq =
551         (memif_queue_t *) realloc (c->tx_queues,
552                                    sizeof (memif_queue_t) * (ar->index + 1));
553       memset (mq + ar->index, 0, sizeof (memif_queue_t));
554       if (mq == NULL)
555         return memif_syscall_error_handler (errno);
556       c->tx_queues = mq;
557       c->tx_queues[ar->index].int_fd = fd;
558       c->tx_queues[ar->index].log2_ring_size = ar->log2_ring_size;
559       c->tx_queues[ar->index].region = ar->region;
560       c->tx_queues[ar->index].offset = ar->offset;
561       c->run_args.num_m2s_rings++;
562     }
563
564   return MEMIF_ERR_SUCCESS;     /* 0 */
565 }
566
567 /* slave -> master */
568 static_fn int
569 memif_msg_receive_connect (memif_connection_t * c, memif_msg_t * msg)
570 {
571   memif_msg_connect_t *cm = &msg->connect;
572   libmemif_main_t *lm = &libmemif_main;
573   memif_list_elt_t elt;
574
575   int err;
576   err = memif_connect1 (c);
577   if (err != MEMIF_ERR_SUCCESS)
578     return err;
579
580   strncpy ((char *) c->remote_if_name, (char *) cm->if_name,
581            strlen ((char *) cm->if_name));
582
583   int i;
584   if (c->on_interrupt != NULL)
585     {
586       for (i = 0; i < c->run_args.num_m2s_rings; i++)
587         {
588           elt.key = c->rx_queues[i].int_fd;
589           elt.data_struct = c;
590           add_list_elt (&elt, &lm->interrupt_list, &lm->interrupt_list_len);
591
592           lm->control_fd_update (c->rx_queues[i].int_fd, MEMIF_FD_EVENT_READ);
593         }
594
595     }
596
597   c->on_connect ((void *) c, c->private_ctx);
598
599   return err;
600 }
601
602 /* master -> slave */
603 static_fn int
604 memif_msg_receive_connected (memif_connection_t * c, memif_msg_t * msg)
605 {
606   memif_msg_connect_t *cm = &msg->connect;
607   libmemif_main_t *lm = &libmemif_main;
608
609   int err;
610   err = memif_connect1 (c);
611   if (err != MEMIF_ERR_SUCCESS)
612     return err;
613
614   strncpy ((char *) c->remote_if_name, (char *) cm->if_name,
615            strlen ((char *) cm->if_name));
616
617   int i;
618   if (c->on_interrupt != NULL)
619     {
620       for (i = 0; i < c->run_args.num_s2m_rings; i++)
621         {
622           lm->control_fd_update (c->rx_queues[i].int_fd, MEMIF_FD_EVENT_READ);
623         }
624     }
625
626   c->on_connect ((void *) c, c->private_ctx);
627
628   return err;
629 }
630
631 static_fn int
632 memif_msg_receive_disconnect (memif_connection_t * c, memif_msg_t * msg)
633 {
634   memif_msg_disconnect_t *d = &msg->disconnect;
635
636   memset (c->remote_disconnect_string, 0,
637           sizeof (c->remote_disconnect_string));
638   strncpy ((char *) c->remote_disconnect_string, (char *) d->string,
639            strlen ((char *) d->string));
640
641   /* on returning error, handle function will call memif_disconnect () */
642   DBG ("disconnect received: %s, mode: %d",
643        c->remote_disconnect_string, c->args.mode);
644   return MEMIF_ERR_DISCONNECT;
645 }
646
647 static_fn int
648 memif_msg_receive (int ifd)
649 {
650   char ctl[CMSG_SPACE (sizeof (int)) +
651            CMSG_SPACE (sizeof (struct ucred))] = { 0 };
652   struct msghdr mh = { 0 };
653   struct iovec iov[1];
654   memif_msg_t msg = { 0 };
655   ssize_t size;
656   int err = MEMIF_ERR_SUCCESS;  /* 0 */
657   int fd = -1;
658   int i;
659   libmemif_main_t *lm = &libmemif_main;
660   memif_connection_t *c = NULL;
661   memif_socket_t *ms = NULL;
662   memif_list_elt_t *elt = NULL;
663
664   iov[0].iov_base = (void *) &msg;
665   iov[0].iov_len = sizeof (memif_msg_t);
666   mh.msg_iov = iov;
667   mh.msg_iovlen = 1;
668   mh.msg_control = ctl;
669   mh.msg_controllen = sizeof (ctl);
670
671   DBG ("recvmsg fd %d", ifd);
672   size = recvmsg (ifd, &mh, 0);
673   DBG ("done");
674   if (size != sizeof (memif_msg_t))
675     {
676       if (size == 0)
677         return MEMIF_ERR_DISCONNECTED;
678       else
679         return MEMIF_ERR_MFMSG;
680     }
681
682   struct ucred *cr = 0;
683   struct cmsghdr *cmsg;
684
685   cmsg = CMSG_FIRSTHDR (&mh);
686   while (cmsg)
687     {
688       if (cmsg->cmsg_level == SOL_SOCKET)
689         {
690           if (cmsg->cmsg_type == SCM_CREDENTIALS)
691             {
692               cr = (struct ucred *) CMSG_DATA (cmsg);
693             }
694           else if (cmsg->cmsg_type == SCM_RIGHTS)
695             {
696               int *fdp = (int *) CMSG_DATA (cmsg);
697               fd = *fdp;
698             }
699         }
700       cmsg = CMSG_NXTHDR (&mh, cmsg);
701     }
702
703   DBG ("Message type %u received", msg.type);
704
705   get_list_elt (&elt, lm->control_list, lm->control_list_len, ifd);
706   if (elt != NULL)
707     c = (memif_connection_t *) elt->data_struct;
708
709   switch (msg.type)
710     {
711     case MEMIF_MSG_TYPE_ACK:
712       break;
713
714     case MEMIF_MSG_TYPE_HELLO:
715       if ((err = memif_msg_receive_hello (c, &msg)) != MEMIF_ERR_SUCCESS)
716         return err;
717       if ((err = memif_init_regions_and_queues (c)) != MEMIF_ERR_SUCCESS)
718         return err;
719       if ((err = memif_msg_enq_init (c)) != MEMIF_ERR_SUCCESS)
720         return err;
721       if ((err = memif_msg_enq_add_region (c, 0)) != MEMIF_ERR_SUCCESS)
722         return err;
723       for (i = 0; i < c->run_args.num_s2m_rings; i++)
724         {
725           if ((err =
726                memif_msg_enq_add_ring (c, i,
727                                        MEMIF_RING_S2M)) != MEMIF_ERR_SUCCESS)
728             return err;
729         }
730       for (i = 0; i < c->run_args.num_m2s_rings; i++)
731         {
732           if ((err =
733                memif_msg_enq_add_ring (c, i,
734                                        MEMIF_RING_M2S)) != MEMIF_ERR_SUCCESS)
735             return err;
736         }
737       if ((err = memif_msg_enq_connect (c)) != MEMIF_ERR_SUCCESS)
738         return err;
739       break;
740
741     case MEMIF_MSG_TYPE_INIT:
742       get_list_elt (&elt, lm->pending_list, lm->pending_list_len, ifd);
743       if (elt == NULL)
744         return -1;
745       ms = (memif_socket_t *) elt->data_struct;
746       if ((err = memif_msg_receive_init (ms, ifd, &msg)) != MEMIF_ERR_SUCCESS)
747         return err;
748       /* c->remote_pid = cr->pid */
749       /* c->remote_uid = cr->uid */
750       /* c->remote_gid = cr->gid */
751       get_list_elt (&elt, lm->control_list, lm->control_list_len, ifd);
752       if (elt == NULL)
753         return -1;
754       c = (memif_connection_t *) elt->data_struct;
755       if ((err = memif_msg_enq_ack (c)) != MEMIF_ERR_SUCCESS)
756         return err;
757       break;
758
759     case MEMIF_MSG_TYPE_ADD_REGION:
760       if ((err =
761            memif_msg_receive_add_region (c, &msg, fd)) != MEMIF_ERR_SUCCESS)
762         return err;
763       if ((err = memif_msg_enq_ack (c)) != MEMIF_ERR_SUCCESS)
764         return err;
765       break;
766
767     case MEMIF_MSG_TYPE_ADD_RING:
768       if ((err =
769            memif_msg_receive_add_ring (c, &msg, fd)) != MEMIF_ERR_SUCCESS)
770         return err;
771       if ((err = memif_msg_enq_ack (c)) != MEMIF_ERR_SUCCESS)
772         return err;
773       break;
774
775     case MEMIF_MSG_TYPE_CONNECT:
776       if ((err = memif_msg_receive_connect (c, &msg)) != MEMIF_ERR_SUCCESS)
777         return err;
778       if ((err = memif_msg_enq_connected (c)) != MEMIF_ERR_SUCCESS)
779         return err;
780       break;
781
782     case MEMIF_MSG_TYPE_CONNECTED:
783       if ((err = memif_msg_receive_connected (c, &msg)) != MEMIF_ERR_SUCCESS)
784         return err;
785       break;
786
787     case MEMIF_MSG_TYPE_DISCONNECT:
788       if ((err = memif_msg_receive_disconnect (c, &msg)) != MEMIF_ERR_SUCCESS)
789         return err;
790       break;
791
792     default:
793       return MEMIF_ERR_UNKNOWN_MSG;;
794       break;
795     }
796
797   if (c != NULL)
798     c->flags |= MEMIF_CONNECTION_FLAG_WRITE;
799 /*    libmemif_main_t *lm = &libmemif_main;
800     lm->control_fd_update (c->fd, MEMIF_FD_EVENT_READ | MEMIF_FD_EVENT_MOD); */
801   return MEMIF_ERR_SUCCESS;     /* 0 */
802 }
803
804 int
805 memif_conn_fd_error (memif_connection_t * c)
806 {
807   DBG ("connection fd error");
808   strncpy ((char *) c->remote_disconnect_string, "connection fd error", 19);
809   int err = memif_disconnect_internal (c);
810   return err;
811 }
812
813 /* calls memif_msg_receive to handle pending messages on socket */
814 int
815 memif_conn_fd_read_ready (memif_connection_t * c)
816 {
817   int err;
818   err = memif_msg_receive (c->fd);
819   if (err != 0)
820     {
821       err = memif_disconnect_internal (c);
822     }
823   return err;
824 }
825
826 /* get msg from msg queue buffer and send it to socket */
827 int
828 memif_conn_fd_write_ready (memif_connection_t * c)
829 {
830   libmemif_main_t *lm = &libmemif_main;
831   int err = MEMIF_ERR_SUCCESS;  /* 0 */
832
833
834   if ((c->flags & MEMIF_CONNECTION_FLAG_WRITE) == 0)
835     goto done;
836
837   memif_msg_queue_elt_t *e = c->msg_queue;
838   if (e == NULL)
839     goto done;
840
841   c->msg_queue = c->msg_queue->next;
842
843   c->flags &= ~MEMIF_CONNECTION_FLAG_WRITE;
844 /*
845     libmemif_main_t *lm = &libmemif_main;
846
847     lm->control_fd_update (c->fd,
848         MEMIF_FD_EVENT_READ | MEMIF_FD_EVENT_WRITE | MEMIF_FD_EVENT_MOD);
849 */
850   err = memif_msg_send (c->fd, &e->msg, e->fd);
851   lm->free (e);
852   goto done;
853
854 done:
855   return err;
856 }
857
858 int
859 memif_conn_fd_accept_ready (memif_socket_t * ms)
860 {
861   int addr_len;
862   struct sockaddr_un client;
863   int conn_fd;
864   libmemif_main_t *lm = &libmemif_main;
865
866   DBG ("accept called");
867
868   addr_len = sizeof (client);
869   conn_fd =
870     accept (ms->fd, (struct sockaddr *) &client, (socklen_t *) & addr_len);
871
872   if (conn_fd < 0)
873     {
874       return memif_syscall_error_handler (errno);
875     }
876   DBG ("accept fd %d", ms->fd);
877   DBG ("conn fd %d", conn_fd);
878
879   memif_list_elt_t elt;
880   elt.key = conn_fd;
881   elt.data_struct = ms;
882
883   add_list_elt (&elt, &lm->pending_list, &lm->pending_list_len);
884   lm->control_fd_update (conn_fd, MEMIF_FD_EVENT_READ | MEMIF_FD_EVENT_WRITE);
885
886   return memif_msg_send_hello (conn_fd);
887 }
888
889 int
890 memif_read_ready (int fd)
891 {
892   int err;
893   DBG ("call recv");
894   err = memif_msg_receive (fd);
895   DBG ("recv finished");
896   return err;
897 }