967c0aca4ac902567feb5966b89a4ad160612428
[vpp.git] / vnet / vnet / unix / tuntap.c
1 /* 
2  *------------------------------------------------------------------
3  * tuntap.c - kernel stack (reverse) punt/inject path
4  *
5  * Copyright (c) 2009 Cisco and/or its affiliates.
6  * Licensed under the Apache License, Version 2.0 (the "License");
7  * you may not use this file except in compliance with the License.
8  * You may obtain a copy of the License at:
9  *
10  *     http://www.apache.org/licenses/LICENSE-2.0
11  *
12  * Unless required by applicable law or agreed to in writing, software
13  * distributed under the License is distributed on an "AS IS" BASIS,
14  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
15  * See the License for the specific language governing permissions and
16  * limitations under the License.
17  *------------------------------------------------------------------
18  */
19
20 #include <fcntl.h>              /* for open */
21 #include <sys/ioctl.h>
22 #include <sys/socket.h>
23 #include <sys/stat.h>
24 #include <sys/types.h> 
25 #include <sys/uio.h>            /* for iovec */
26 #include <netinet/in.h>
27
28 #include <linux/if_arp.h>
29 #include <linux/if_tun.h>
30
31 #include <vlib/vlib.h>
32 #include <vlib/unix/unix.h>
33
34 #include <vnet/ip/ip.h>
35
36 #include <vnet/ethernet/ethernet.h>
37
38 #if DPDK == 1
39 #include <vnet/devices/dpdk/dpdk.h>
40 #endif
41
42 static vnet_device_class_t tuntap_dev_class;
43 static vnet_hw_interface_class_t tuntap_interface_class;
44
45 static void tuntap_punt_frame (vlib_main_t * vm,
46                                vlib_node_runtime_t * node,
47                                vlib_frame_t * frame);
48 static void tuntap_nopunt_frame (vlib_main_t * vm,
49                                  vlib_node_runtime_t * node,
50                                  vlib_frame_t * frame);
51
52 /* 
53  * This driver runs in one of two distinct modes:
54  * "punt/inject" mode, where we send pkts not otherwise processed
55  * by the forwarding to the Linux kernel stack, and
56  * "normal interface" mode, where we treat the Linux kernel stack
57  * as a peer.
58  *
59  * By default, we select punt/inject mode.
60  */
61
62 typedef struct {
63   u32 sw_if_index;
64   u8 is_v6;
65   u8 addr[16];
66 } subif_address_t;
67
68 typedef struct {
69   /* Vector of iovecs for readv/writev calls. */
70   struct iovec * iovecs;
71
72   /* Vector of VLIB rx buffers to use.  We allocate them in blocks
73      of VLIB_FRAME_SIZE (256). */
74   u32 * rx_buffers;
75
76   /* File descriptors for /dev/net/tun and provisioning socket. */
77   int dev_net_tun_fd, dev_tap_fd;
78
79   /* Create a "tap" [ethernet] encaps device */
80   int is_ether;
81
82   /* 1 if a "normal" routed intfc, 0 if a punt/inject interface */
83
84   int have_normal_interface;
85
86   /* tap device destination MAC address. Required, or Linux drops pkts */
87   u8 ether_dst_mac[6];
88
89   /* Interface MTU in bytes and # of default sized buffers. */
90   u32 mtu_bytes, mtu_buffers;
91
92   /* Linux interface name for tun device. */
93   char * tun_name;
94
95   /* Pool of subinterface addresses */
96   subif_address_t *subifs;
97
98   /* Hash for subif addresses */
99   mhash_t subif_mhash;
100
101   u32 unix_file_index;
102
103   /* For the "normal" interface, if configured */
104   u32 hw_if_index, sw_if_index;
105
106 } tuntap_main_t;
107
108 static tuntap_main_t tuntap_main = {
109   .tun_name = "vnet",
110
111   /* Suitable defaults for an Ethernet-like tun/tap device */
112   .mtu_bytes = 4096 + 256,
113 };
114
115 /*
116  * tuntap_tx
117  * Output node, writes the buffers comprising the incoming frame 
118  * to the tun/tap device, aka hands them to the Linux kernel stack.
119  * 
120  */
121 static uword
122 tuntap_tx (vlib_main_t * vm,
123            vlib_node_runtime_t * node,
124            vlib_frame_t * frame)
125 {
126   u32 * buffers = vlib_frame_args (frame);
127   uword n_packets = frame->n_vectors;
128   tuntap_main_t * tm = &tuntap_main;
129   int i;
130
131   for (i = 0; i < n_packets; i++)
132     {
133       struct iovec * iov;
134       vlib_buffer_t * b;
135       uword l;
136
137       b = vlib_get_buffer (vm, buffers[i]);
138
139       if (tm->is_ether && (!tm->have_normal_interface))
140         {
141           vlib_buffer_reset(b);
142           clib_memcpy (vlib_buffer_get_current (b), tm->ether_dst_mac, 6);
143         }
144
145       /* Re-set iovecs if present. */
146       if (tm->iovecs)
147         _vec_len (tm->iovecs) = 0;
148
149       /* VLIB buffer chain -> Unix iovec(s). */
150       vec_add2 (tm->iovecs, iov, 1);
151       iov->iov_base = b->data + b->current_data;
152       iov->iov_len = l = b->current_length;
153
154       if (PREDICT_FALSE (b->flags & VLIB_BUFFER_NEXT_PRESENT))
155         {
156           do {
157             b = vlib_get_buffer (vm, b->next_buffer);
158
159             vec_add2 (tm->iovecs, iov, 1);
160
161             iov->iov_base = b->data + b->current_data;
162             iov->iov_len = b->current_length;
163             l += b->current_length;
164           } while (b->flags & VLIB_BUFFER_NEXT_PRESENT);
165         }
166
167       if (writev (tm->dev_net_tun_fd, tm->iovecs, vec_len (tm->iovecs)) < l)
168         clib_unix_warning ("writev");
169     }
170     
171   /* The normal interface path flattens the buffer chain */
172   if (tm->have_normal_interface)
173     vlib_buffer_free_no_next (vm, buffers, n_packets);
174   else
175     vlib_buffer_free (vm, buffers, n_packets);
176     
177   return n_packets;
178 }
179
180 VLIB_REGISTER_NODE (tuntap_tx_node,static) = {
181   .function = tuntap_tx,
182   .name = "tuntap-tx",
183   .type = VLIB_NODE_TYPE_INTERNAL,
184   .vector_size = 4,
185 };
186
187 enum {
188   TUNTAP_RX_NEXT_IP4_INPUT, 
189   TUNTAP_RX_NEXT_IP6_INPUT, 
190   TUNTAP_RX_NEXT_ETHERNET_INPUT,
191   TUNTAP_RX_NEXT_DROP,
192   TUNTAP_RX_N_NEXT,
193 };
194
195 static uword
196 tuntap_rx (vlib_main_t * vm,
197            vlib_node_runtime_t * node,
198            vlib_frame_t * frame)
199 {
200   tuntap_main_t * tm = &tuntap_main;
201   vlib_buffer_t * b;
202   u32 bi;
203   const uword buffer_size = VLIB_BUFFER_DATA_SIZE;
204 #if DPDK == 0
205   u32 free_list_index = VLIB_BUFFER_DEFAULT_FREE_LIST_INDEX;
206 #else
207   dpdk_main_t * dm = &dpdk_main;
208   u32 free_list_index = dm->vlib_buffer_free_list_index;
209 #endif
210
211   /* Make sure we have some RX buffers. */
212   {
213     uword n_left = vec_len (tm->rx_buffers);
214     uword n_alloc;
215
216     if (n_left < VLIB_FRAME_SIZE / 2)
217       {
218         if (! tm->rx_buffers)
219           vec_alloc (tm->rx_buffers, VLIB_FRAME_SIZE);
220
221         n_alloc = vlib_buffer_alloc_from_free_list 
222             (vm, tm->rx_buffers + n_left, VLIB_FRAME_SIZE - n_left, 
223              free_list_index);
224         _vec_len (tm->rx_buffers) = n_left + n_alloc;
225       }
226   }
227
228   /* Allocate RX buffers from end of rx_buffers.
229      Turn them into iovecs to pass to readv. */
230   {
231     uword i_rx = vec_len (tm->rx_buffers) - 1;
232     vlib_buffer_t * b;
233     word i, n_bytes_left, n_bytes_in_packet;
234
235     /* We should have enough buffers left for an MTU sized packet. */
236     ASSERT (vec_len (tm->rx_buffers) >= tm->mtu_buffers);
237
238     vec_validate (tm->iovecs, tm->mtu_buffers - 1);
239     for (i = 0; i < tm->mtu_buffers; i++)
240       {
241         b = vlib_get_buffer (vm, tm->rx_buffers[i_rx - i]);
242         tm->iovecs[i].iov_base = b->data;
243         tm->iovecs[i].iov_len = buffer_size;
244       }
245
246     n_bytes_left = readv (tm->dev_net_tun_fd, tm->iovecs, tm->mtu_buffers);
247     n_bytes_in_packet = n_bytes_left;
248     if (n_bytes_left <= 0)
249       {
250         if (errno != EAGAIN)
251           clib_unix_warning ("readv %d", n_bytes_left);
252         return 0;
253       }
254
255     bi = tm->rx_buffers[i_rx];
256
257     while (1)
258       {
259 #if DPDK == 1
260         struct rte_mbuf * mb;
261 #endif
262         b = vlib_get_buffer (vm, tm->rx_buffers[i_rx]);
263 #if DPDK == 1
264         mb = rte_mbuf_from_vlib_buffer(b);
265 #endif
266         b->flags = 0;
267         b->current_data = 0;
268         b->current_length = n_bytes_left < buffer_size ? n_bytes_left : buffer_size;
269
270         n_bytes_left -= buffer_size;
271 #if DPDK == 1
272         rte_pktmbuf_data_len (mb) = b->current_length;
273 #endif
274
275         if (n_bytes_left <= 0)
276           {
277 #if DPDK == 1
278             rte_pktmbuf_pkt_len (mb) = n_bytes_in_packet;
279 #endif
280             break;
281           }
282
283         i_rx--;
284         b->flags |= VLIB_BUFFER_NEXT_PRESENT;
285         b->next_buffer = tm->rx_buffers[i_rx];
286 #if DPDK == 1
287         ASSERT(0);
288         // ((struct rte_pktmbuf *)(b->mb))->next = 
289         // vlib_get_buffer (vm, tm->rx_buffers[i_rx])->mb;
290 #endif
291       }
292
293     /* Interface counters for tuntap interface. */
294     vlib_increment_combined_counter 
295         (vnet_main.interface_main.combined_sw_if_counters
296          + VNET_INTERFACE_COUNTER_RX,
297          os_get_cpu_number(),
298          tm->sw_if_index,
299          1, n_bytes_in_packet);
300     
301     _vec_len (tm->rx_buffers) = i_rx;
302   }
303
304   b = vlib_get_buffer (vm, bi);
305
306   {
307     u32 next_index;
308     uword n_trace = vlib_get_trace_count (vm, node);
309
310     vnet_buffer (b)->sw_if_index[VLIB_RX] = tm->sw_if_index;
311     vnet_buffer (b)->sw_if_index[VLIB_TX] = (u32)~0;
312
313     /*
314      * Turn this on if you run into
315      * "bad monkey" contexts, and you want to know exactly
316      * which nodes they've visited...
317      */
318     if (VLIB_BUFFER_TRACE_TRAJECTORY)
319         b->pre_data[0] = 0;
320
321     b->error = node->errors[0];
322
323     if (tm->is_ether)
324       {
325         next_index = TUNTAP_RX_NEXT_ETHERNET_INPUT;
326       }
327     else
328       switch (b->data[0] & 0xf0)
329         {
330         case 0x40:
331           next_index = TUNTAP_RX_NEXT_IP4_INPUT;
332           break;
333         case 0x60:
334           next_index = TUNTAP_RX_NEXT_IP6_INPUT;
335           break;
336         default:
337           next_index = TUNTAP_RX_NEXT_DROP;
338           break;
339         }
340
341     /* The linux kernel couldn't care less if our interface is up */
342     if (tm->have_normal_interface)
343       {
344         vnet_main_t *vnm = vnet_get_main();
345         vnet_sw_interface_t * si;
346         si = vnet_get_sw_interface (vnm, tm->sw_if_index);
347         if (!(si->flags & VNET_SW_INTERFACE_FLAG_ADMIN_UP))
348           next_index = TUNTAP_RX_NEXT_DROP;
349       }
350
351     vlib_set_next_frame_buffer (vm, node, next_index, bi);
352
353     if (n_trace > 0)
354       {
355         vlib_trace_buffer (vm, node, next_index,
356                            b, /* follow_chain */ 1);
357         vlib_set_trace_count (vm, node, n_trace - 1);
358       }
359   }
360
361   return 1;
362 }
363
364 static char * tuntap_rx_error_strings[] = {
365   "unknown packet type",
366 };
367
368 VLIB_REGISTER_NODE (tuntap_rx_node,static) = {
369   .function = tuntap_rx,
370   .name = "tuntap-rx",
371   .type = VLIB_NODE_TYPE_INPUT,
372   .state = VLIB_NODE_STATE_INTERRUPT,
373   .vector_size = 4,
374   .n_errors = 1,
375   .error_strings = tuntap_rx_error_strings,
376
377   .n_next_nodes = TUNTAP_RX_N_NEXT,
378   .next_nodes = {
379     [TUNTAP_RX_NEXT_IP4_INPUT] = "ip4-input-no-checksum",
380     [TUNTAP_RX_NEXT_IP6_INPUT] = "ip6-input",
381     [TUNTAP_RX_NEXT_DROP] = "error-drop",
382     [TUNTAP_RX_NEXT_ETHERNET_INPUT] = "ethernet-input",
383   },
384 };
385
386 /* Gets called when file descriptor is ready from epoll. */
387 static clib_error_t * tuntap_read_ready (unix_file_t * uf)
388 {
389   vlib_main_t * vm = vlib_get_main();
390   vlib_node_set_interrupt_pending (vm, tuntap_rx_node.index);
391   return 0;
392 }
393
394 /*
395  * tuntap_exit
396  * Clean up the tun/tap device
397  */
398
399 static clib_error_t *
400 tuntap_exit (vlib_main_t * vm)
401 {
402   tuntap_main_t *tm = &tuntap_main;
403   struct ifreq ifr;
404   int sfd;
405
406   /* Not present. */
407   if (! tm->dev_net_tun_fd || tm->dev_net_tun_fd < 0)
408     return 0;
409
410   sfd = socket (AF_INET, SOCK_STREAM, 0);
411   if (sfd < 0)
412     clib_unix_warning("provisioning socket");
413
414   memset(&ifr, 0, sizeof (ifr));
415   strncpy (ifr.ifr_name, tm->tun_name, sizeof (ifr.ifr_name)-1);
416
417   /* get flags, modify to bring down interface... */
418   if (ioctl (sfd, SIOCGIFFLAGS, &ifr) < 0)
419     clib_unix_warning ("SIOCGIFFLAGS");
420
421   ifr.ifr_flags &= ~(IFF_UP | IFF_RUNNING);
422
423   if (ioctl (sfd, SIOCSIFFLAGS, &ifr) < 0)
424     clib_unix_warning ("SIOCSIFFLAGS");
425
426   /* Turn off persistence */
427   if (ioctl (tm->dev_net_tun_fd, TUNSETPERSIST, 0) < 0)
428     clib_unix_warning ("TUNSETPERSIST");
429   close(tm->dev_tap_fd);
430   if (tm->dev_net_tun_fd >= 0)
431     close(tm->dev_net_tun_fd);
432   if (sfd >= 0)
433     close (sfd);
434
435   return 0;
436 }
437
438 VLIB_MAIN_LOOP_EXIT_FUNCTION (tuntap_exit);
439
440 static clib_error_t *
441 tuntap_config (vlib_main_t * vm, unformat_input_t * input)
442 {
443   tuntap_main_t *tm = &tuntap_main;
444   clib_error_t * error = 0;
445   struct ifreq ifr;
446   u8 * name;
447   int flags = IFF_TUN | IFF_NO_PI;
448   int is_enabled = 0, is_ether = 0, have_normal_interface = 0;
449   const uword buffer_size = VLIB_BUFFER_DATA_SIZE;
450
451   while (unformat_check_input (input) != UNFORMAT_END_OF_INPUT)
452     {
453       if (unformat (input, "mtu %d", &tm->mtu_bytes))
454         ;
455       else if (unformat (input, "enable"))
456         is_enabled = 1;
457       else if (unformat (input, "disable"))
458         is_enabled = 0;
459       else if (unformat (input, "ethernet") ||
460                unformat (input, "ether"))
461         is_ether = 1;
462       else if (unformat (input, "have-normal-interface") ||
463                unformat (input, "have-normal"))
464         have_normal_interface = 1;
465       else if (unformat (input, "name %s", &name))
466         tm->tun_name = (char *) name;
467       else
468         return clib_error_return (0, "unknown input `%U'",
469                                   format_unformat_error, input);
470     }
471
472   tm->dev_net_tun_fd = -1;
473   tm->dev_tap_fd = -1;
474
475   if (is_enabled == 0)
476     return 0;
477
478   if (geteuid()) 
479     {
480       clib_warning ("tuntap disabled: must be superuser");
481       return 0;
482     }    
483
484   tm->is_ether = is_ether;
485   tm->have_normal_interface = have_normal_interface;
486
487   if (is_ether)
488     flags = IFF_TAP | IFF_NO_PI;
489
490   if ((tm->dev_net_tun_fd = open ("/dev/net/tun", O_RDWR)) < 0)
491     {
492       error = clib_error_return_unix (0, "open /dev/net/tun");
493       goto done;
494     }
495
496   memset (&ifr, 0, sizeof (ifr));
497   strncpy(ifr.ifr_name, tm->tun_name, sizeof(ifr.ifr_name)-1);
498   ifr.ifr_flags = flags;
499   if (ioctl (tm->dev_net_tun_fd, TUNSETIFF, (void *)&ifr) < 0)
500     {
501       error = clib_error_return_unix (0, "ioctl TUNSETIFF");
502       goto done;
503     }
504     
505   /* Make it persistent, at least until we split. */
506   if (ioctl (tm->dev_net_tun_fd, TUNSETPERSIST, 1) < 0)
507     {
508       error = clib_error_return_unix (0, "TUNSETPERSIST");
509       goto done;
510     }
511
512   /* Open a provisioning socket */
513   if ((tm->dev_tap_fd = socket(PF_PACKET, SOCK_RAW,
514                                htons(ETH_P_ALL))) < 0 )
515     {
516       error = clib_error_return_unix (0, "socket");
517       goto done;
518     }
519
520   /* Find the interface index. */
521   {
522     struct ifreq ifr;
523     struct sockaddr_ll sll;
524
525     memset (&ifr, 0, sizeof(ifr));
526     strncpy (ifr.ifr_name, tm->tun_name, sizeof(ifr.ifr_name)-1);
527     if (ioctl (tm->dev_tap_fd, SIOCGIFINDEX, &ifr) < 0 )
528       {
529         error = clib_error_return_unix (0, "ioctl SIOCGIFINDEX");
530         goto done;
531       }
532
533     /* Bind the provisioning socket to the interface. */
534     memset(&sll, 0, sizeof(sll));
535     sll.sll_family   = AF_PACKET;
536     sll.sll_ifindex  = ifr.ifr_ifindex;
537     sll.sll_protocol = htons(ETH_P_ALL);
538
539     if (bind(tm->dev_tap_fd, (struct sockaddr*) &sll, sizeof(sll)) < 0)
540       {
541         error = clib_error_return_unix (0, "bind");
542         goto done;
543       }
544   }
545
546   /* non-blocking I/O on /dev/tapX */
547   {
548     int one = 1;
549     if (ioctl (tm->dev_net_tun_fd, FIONBIO, &one) < 0)
550       {
551         error = clib_error_return_unix (0, "ioctl FIONBIO");
552         goto done;
553       }
554   }
555
556   tm->mtu_buffers = (tm->mtu_bytes + (buffer_size - 1)) / buffer_size;
557
558   ifr.ifr_mtu = tm->mtu_bytes;
559   if (ioctl (tm->dev_tap_fd, SIOCSIFMTU, &ifr) < 0)
560     {
561       error = clib_error_return_unix (0, "ioctl SIOCSIFMTU");
562       goto done;
563     }
564
565   /* get flags, modify to bring up interface... */
566   if (ioctl (tm->dev_tap_fd, SIOCGIFFLAGS, &ifr) < 0)
567     {
568       error = clib_error_return_unix (0, "ioctl SIOCGIFFLAGS");
569       goto done;
570     }
571
572   ifr.ifr_flags |= (IFF_UP | IFF_RUNNING);
573
574   if (ioctl (tm->dev_tap_fd, SIOCSIFFLAGS, &ifr) < 0)
575     {
576       error = clib_error_return_unix (0, "ioctl SIOCSIFFLAGS");
577       goto done;
578     }
579
580   if (is_ether)
581     {
582       if (ioctl (tm->dev_tap_fd, SIOCGIFHWADDR, &ifr) < 0)
583         {
584           error = clib_error_return_unix (0, "ioctl SIOCGIFHWADDR");
585           goto done;
586         }
587       else
588         clib_memcpy (tm->ether_dst_mac, ifr.ifr_hwaddr.sa_data, 6);
589     }
590
591   if (have_normal_interface)
592     {
593       vnet_main_t *vnm = vnet_get_main();
594       error = ethernet_register_interface
595         (vnm,
596          tuntap_dev_class.index,
597          0 /* device instance */,
598          tm->ether_dst_mac /* ethernet address */,
599          &tm->hw_if_index, 
600          0 /* flag change */);
601       if (error)
602         clib_error_report (error);
603       tm->sw_if_index = tm->hw_if_index;
604       vm->os_punt_frame = tuntap_nopunt_frame;
605     }
606   else
607     {
608       vnet_main_t *vnm = vnet_get_main();
609       vnet_hw_interface_t * hi;
610       
611       vm->os_punt_frame = tuntap_punt_frame;
612       
613       tm->hw_if_index = vnet_register_interface
614         (vnm,
615          tuntap_dev_class.index, 0 /* device instance */,
616          tuntap_interface_class.index, 0);
617       hi = vnet_get_hw_interface (vnm, tm->hw_if_index);
618       tm->sw_if_index = hi->sw_if_index;
619       
620       /* Interface is always up. */
621       vnet_hw_interface_set_flags (vnm, tm->hw_if_index, 
622                                    VNET_HW_INTERFACE_FLAG_LINK_UP);
623       vnet_sw_interface_set_flags (vnm, tm->sw_if_index, 
624                                    VNET_SW_INTERFACE_FLAG_ADMIN_UP);
625     }
626
627   {
628     unix_file_t template = {0};
629     template.read_function = tuntap_read_ready;
630     template.file_descriptor = tm->dev_net_tun_fd;
631     tm->unix_file_index = unix_file_add (&unix_main, &template);
632   }
633
634  done:
635   if (error)
636     {
637       if (tm->dev_net_tun_fd >= 0)
638         close (tm->dev_net_tun_fd);
639       if (tm->dev_tap_fd >= 0)
640         close (tm->dev_tap_fd);
641     }
642
643   return error;
644 }
645
646 VLIB_CONFIG_FUNCTION (tuntap_config, "tuntap");
647
648 void
649 tuntap_ip4_add_del_interface_address (ip4_main_t * im,
650                                       uword opaque,
651                                       u32 sw_if_index,
652                                       ip4_address_t * address,
653                                       u32 address_length,
654                                       u32 if_address_index,
655                                       u32 is_delete)
656 {
657   tuntap_main_t * tm = &tuntap_main;
658   struct ifreq ifr;
659   subif_address_t subif_addr, * ap;
660   uword * p;
661
662   /* Tuntap disabled, or using a "normal" interface. */
663   if (tm->have_normal_interface ||  tm->dev_tap_fd < 0)
664     return;
665
666   /* See if we already know about this subif */
667   memset (&subif_addr, 0, sizeof (subif_addr));
668   subif_addr.sw_if_index = sw_if_index;
669   clib_memcpy (&subif_addr.addr, address, sizeof (*address));
670   
671   p = mhash_get (&tm->subif_mhash, &subif_addr);
672
673   if (p)
674     ap = pool_elt_at_index (tm->subifs, p[0]);
675   else
676     {
677       pool_get (tm->subifs, ap);
678       *ap = subif_addr;
679       mhash_set (&tm->subif_mhash, ap, ap - tm->subifs, 0);
680     }
681
682   /* Use subif pool index to select alias device. */
683   memset (&ifr, 0, sizeof (ifr));
684   snprintf (ifr.ifr_name, sizeof(ifr.ifr_name), 
685             "%s:%d", tm->tun_name, (int)(ap - tm->subifs));
686
687   if (! is_delete)
688     {
689       struct sockaddr_in * sin;
690
691       sin = (struct sockaddr_in *)&ifr.ifr_addr;
692
693       /* Set ipv4 address, netmask. */
694       sin->sin_family = AF_INET;
695       clib_memcpy (&sin->sin_addr.s_addr, address, 4);
696       if (ioctl (tm->dev_tap_fd, SIOCSIFADDR, &ifr) < 0)
697         clib_unix_warning ("ioctl SIOCSIFADDR");
698     
699       sin->sin_addr.s_addr = im->fib_masks[address_length];
700       if (ioctl (tm->dev_tap_fd, SIOCSIFNETMASK, &ifr) < 0)
701         clib_unix_warning ("ioctl SIOCSIFNETMASK");
702     }
703   else
704     {
705       mhash_unset (&tm->subif_mhash, &subif_addr, 0 /* old value ptr */);
706       pool_put (tm->subifs, ap);
707     }
708
709   /* get flags, modify to bring up interface... */
710   if (ioctl (tm->dev_tap_fd, SIOCGIFFLAGS, &ifr) < 0)
711     clib_unix_warning ("ioctl SIOCGIFFLAGS");
712
713   if (is_delete)
714     ifr.ifr_flags &= ~(IFF_UP | IFF_RUNNING);
715   else
716     ifr.ifr_flags |= (IFF_UP | IFF_RUNNING);
717
718   if (ioctl (tm->dev_tap_fd, SIOCSIFFLAGS, &ifr) < 0)
719     clib_unix_warning ("ioctl SIOCSIFFLAGS");
720 }
721
722 /*
723  * $$$$ gross workaround for a known #include bug 
724  * #include <linux/ipv6.h> causes multiple definitions if
725  * netinet/in.h is also included.
726  */
727 struct in6_ifreq {
728         struct in6_addr ifr6_addr;
729         u32             ifr6_prefixlen;
730         int             ifr6_ifindex; 
731 };
732
733 /* 
734  * Both the v6 interface address API and the way ifconfig
735  * displays subinterfaces differ from their v4 couterparts.
736  * The code given here seems to work but YMMV.
737  */
738 void
739 tuntap_ip6_add_del_interface_address (ip6_main_t * im,
740                                       uword opaque,
741                                       u32 sw_if_index,
742                                       ip6_address_t * address,
743                                       u32 address_length,
744                                       u32 if_address_index,
745                                       u32 is_delete)
746 {
747   tuntap_main_t * tm = &tuntap_main;
748   struct ifreq ifr;
749   struct in6_ifreq ifr6;
750   subif_address_t subif_addr, * ap;
751   uword * p;
752
753   /* Tuntap disabled, or using a "normal" interface. */
754   if (tm->have_normal_interface ||  tm->dev_tap_fd < 0)
755     return;
756
757   /* See if we already know about this subif */
758   memset (&subif_addr, 0, sizeof (subif_addr));
759   subif_addr.sw_if_index = sw_if_index;
760   subif_addr.is_v6 = 1;
761   clib_memcpy (&subif_addr.addr, address, sizeof (*address));
762   
763   p = mhash_get (&tm->subif_mhash, &subif_addr);
764
765   if (p)
766     ap = pool_elt_at_index (tm->subifs, p[0]);
767   else
768     {
769       pool_get (tm->subifs, ap);
770       *ap = subif_addr;
771       mhash_set (&tm->subif_mhash, ap, ap - tm->subifs, 0);
772     }
773
774   /* Use subif pool index to select alias device. */
775   memset (&ifr, 0, sizeof (ifr));
776   memset (&ifr6, 0, sizeof (ifr6));
777   snprintf (ifr.ifr_name, sizeof(ifr.ifr_name), 
778             "%s:%d", tm->tun_name, (int)(ap - tm->subifs));
779
780   if (! is_delete)
781     {
782       int sockfd = socket (AF_INET6, SOCK_STREAM, 0);
783       if (sockfd < 0)
784         clib_unix_warning ("get ifindex socket");
785
786       if (ioctl (sockfd, SIOGIFINDEX, &ifr) < 0)
787         clib_unix_warning ("get ifindex");
788
789       ifr6.ifr6_ifindex = ifr.ifr_ifindex;
790       ifr6.ifr6_prefixlen = address_length;
791       clib_memcpy (&ifr6.ifr6_addr, address, 16);
792
793       if (ioctl (sockfd, SIOCSIFADDR, &ifr6) < 0)
794         clib_unix_warning ("set address");
795
796       if (sockfd >= 0)
797         close (sockfd);
798     }
799   else
800     {
801       int sockfd = socket (AF_INET6, SOCK_STREAM, 0);
802       if (sockfd < 0)
803         clib_unix_warning ("get ifindex socket");
804
805       if (ioctl (sockfd, SIOGIFINDEX, &ifr) < 0)
806         clib_unix_warning ("get ifindex");
807
808       ifr6.ifr6_ifindex = ifr.ifr_ifindex;
809       ifr6.ifr6_prefixlen = address_length;
810       clib_memcpy (&ifr6.ifr6_addr, address, 16);
811
812       if (ioctl (sockfd, SIOCDIFADDR, &ifr6) < 0)
813         clib_unix_warning ("del address");
814
815       if (sockfd >= 0)
816         close (sockfd);
817
818       mhash_unset (&tm->subif_mhash, &subif_addr, 0 /* old value ptr */);
819       pool_put (tm->subifs, ap);
820     }
821 }
822
823 static void
824 tuntap_punt_frame (vlib_main_t * vm,
825                    vlib_node_runtime_t * node,
826                    vlib_frame_t * frame)
827 {
828   tuntap_tx (vm, node, frame);
829   vlib_frame_free (vm, node, frame);
830 }
831
832 static void
833 tuntap_nopunt_frame (vlib_main_t * vm,
834                    vlib_node_runtime_t * node,
835                    vlib_frame_t * frame)
836 {
837   u32 * buffers = vlib_frame_args (frame);
838   uword n_packets = frame->n_vectors;
839   vlib_buffer_free (vm, buffers, n_packets);
840   vlib_frame_free (vm, node, frame);
841 }
842
843 VNET_HW_INTERFACE_CLASS (tuntap_interface_class,static) = {
844   .name = "tuntap",
845 };
846
847 static u8 * format_tuntap_interface_name (u8 * s, va_list * args)
848 {
849   u32 i = va_arg (*args, u32);
850
851   s = format (s, "tuntap-%d", i);
852   return s;
853 }
854
855 static uword
856 tuntap_intfc_tx (vlib_main_t * vm,
857                  vlib_node_runtime_t * node,
858                  vlib_frame_t * frame)
859 {
860   tuntap_main_t * tm = &tuntap_main;
861   u32 * buffers = vlib_frame_args (frame);
862   uword n_buffers = frame->n_vectors;
863
864   /* Normal interface transmit happens only on the normal interface... */
865   if (tm->have_normal_interface)
866     return tuntap_tx (vm, node, frame);
867
868   vlib_buffer_free (vm, buffers, n_buffers);
869   return n_buffers;
870 }
871
872 VNET_DEVICE_CLASS (tuntap_dev_class,static) = {
873   .name = "tuntap",
874   .tx_function = tuntap_intfc_tx,
875   .format_device_name = format_tuntap_interface_name,
876 };
877
878 static clib_error_t *
879 tuntap_init (vlib_main_t * vm)
880 {
881   clib_error_t * error;
882   ip4_main_t * im4 = &ip4_main;
883   ip6_main_t * im6 = &ip6_main;
884   ip4_add_del_interface_address_callback_t cb4;
885   ip6_add_del_interface_address_callback_t cb6;
886   tuntap_main_t * tm = &tuntap_main;
887
888   error = vlib_call_init_function (vm, ip4_init);
889   if (error)
890     return error;
891
892   mhash_init (&tm->subif_mhash, sizeof (u32), sizeof(subif_address_t));
893
894   cb4.function = tuntap_ip4_add_del_interface_address;
895   cb4.function_opaque = 0;
896   vec_add1 (im4->add_del_interface_address_callbacks, cb4);
897
898   cb6.function = tuntap_ip6_add_del_interface_address;
899   cb6.function_opaque = 0;
900   vec_add1 (im6->add_del_interface_address_callbacks, cb6);
901
902   return 0;
903 }
904
905 VLIB_INIT_FUNCTION (tuntap_init);