dpdk: Add support for Mellanox ConnectX-4 devices
[vpp.git] / src / vnet / vxlan / vxlan.c
1 /*
2  * Copyright (c) 2015 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this file except in compliance with the License.
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15 #include <vnet/vxlan/vxlan.h>
16 #include <vnet/ip/format.h>
17 #include <vnet/fib/fib_entry.h>
18 #include <vnet/fib/fib_table.h>
19 #include <vnet/dpo/receive_dpo.h>
20 #include <vlib/vlib.h>
21
22 /**
23  * @file
24  * @brief VXLAN.
25  *
26  * VXLAN provides the features needed to allow L2 bridge domains (BDs)
27  * to span multiple servers. This is done by building an L2 overlay on
28  * top of an L3 network underlay using VXLAN tunnels.
29  *
30  * This makes it possible for servers to be co-located in the same data
31  * center or be separated geographically as long as they are reachable
32  * through the underlay L3 network.
33  *
34  * You can refer to this kind of L2 overlay bridge domain as a VXLAN
35  * (Virtual eXtensible VLAN) segment.
36  */
37
38
39 vxlan_main_t vxlan_main;
40
41 static u8 * format_decap_next (u8 * s, va_list * args)
42 {
43   u32 next_index = va_arg (*args, u32);
44
45   switch (next_index)
46     {
47     case VXLAN_INPUT_NEXT_DROP:
48       return format (s, "drop");
49     case VXLAN_INPUT_NEXT_L2_INPUT:
50       return format (s, "l2");
51     default:
52       return format (s, "index %d", next_index);
53     }
54   return s;
55 }
56
57 u8 * format_vxlan_tunnel (u8 * s, va_list * args)
58 {
59   vxlan_tunnel_t * t = va_arg (*args, vxlan_tunnel_t *);
60   vxlan_main_t * ngm = &vxlan_main;
61
62   s = format (s, "[%d] src %U dst %U vni %d sw_if_index %d ",
63               t - ngm->tunnels,
64               format_ip46_address, &t->src, IP46_TYPE_ANY,
65               format_ip46_address, &t->dst, IP46_TYPE_ANY,
66               t->vni, t->sw_if_index);
67
68   if (ip46_address_is_multicast (&t->dst))
69     s = format (s, "mcast_sw_if_index %d ", t->mcast_sw_if_index);
70
71   s = format (s, "encap_fib_index %d fib_entry_index %d decap_next %U\n", 
72               t->encap_fib_index, t->fib_entry_index,
73               format_decap_next, t->decap_next_index);
74   return s;
75 }
76
77 static u8 * format_vxlan_name (u8 * s, va_list * args)
78 {
79   u32 dev_instance = va_arg (*args, u32);
80   return format (s, "vxlan_tunnel%d", dev_instance);
81 }
82
83 static uword dummy_interface_tx (vlib_main_t * vm,
84                                  vlib_node_runtime_t * node,
85                                  vlib_frame_t * frame)
86 {
87   clib_warning ("you shouldn't be here, leaking buffers...");
88   return frame->n_vectors;
89 }
90
91 static clib_error_t *
92 vxlan_interface_admin_up_down (vnet_main_t * vnm, u32 hw_if_index, u32 flags)
93 {
94   if (flags & VNET_SW_INTERFACE_FLAG_ADMIN_UP)
95     vnet_hw_interface_set_flags (vnm, hw_if_index, VNET_HW_INTERFACE_FLAG_LINK_UP);
96   else
97     vnet_hw_interface_set_flags (vnm, hw_if_index, 0);
98
99   return /* no error */ 0;
100 }
101
102 VNET_DEVICE_CLASS (vxlan_device_class,static) = {
103   .name = "VXLAN",
104   .format_device_name = format_vxlan_name,
105   .format_tx_trace = format_vxlan_encap_trace,
106   .tx_function = dummy_interface_tx,
107   .admin_up_down_function = vxlan_interface_admin_up_down,
108 };
109
110 static u8 * format_vxlan_header_with_length (u8 * s, va_list * args)
111 {
112   u32 dev_instance = va_arg (*args, u32);
113   s = format (s, "unimplemented dev %u", dev_instance);
114   return s;
115 }
116
117 VNET_HW_INTERFACE_CLASS (vxlan_hw_class) = {
118   .name = "VXLAN",
119   .format_header = format_vxlan_header_with_length,
120   .build_rewrite = default_build_rewrite,
121 };
122
123 static void
124 vxlan_tunnel_restack_dpo(vxlan_tunnel_t * t)
125 {
126     dpo_id_t dpo = DPO_INVALID;
127     u32 encap_index = ip46_address_is_ip4(&t->dst) ?
128         vxlan4_encap_node.index : vxlan6_encap_node.index;
129     fib_forward_chain_type_t forw_type = ip46_address_is_ip4(&t->dst) ?
130         FIB_FORW_CHAIN_TYPE_UNICAST_IP4 : FIB_FORW_CHAIN_TYPE_UNICAST_IP6;
131
132     fib_entry_contribute_forwarding (t->fib_entry_index, forw_type, &dpo);
133     dpo_stack_from_node (encap_index, &t->next_dpo, &dpo);
134     dpo_reset(&dpo);
135 }
136
137 static vxlan_tunnel_t *
138 vxlan_tunnel_from_fib_node (fib_node_t *node)
139 {
140 #if (CLIB_DEBUG > 0)
141     ASSERT(FIB_NODE_TYPE_VXLAN_TUNNEL == node->fn_type);
142 #endif
143     return ((vxlan_tunnel_t*) (((char*)node) -
144                                STRUCT_OFFSET_OF(vxlan_tunnel_t, node)));
145 }
146
147 /**
148  * Function definition to backwalk a FIB node -
149  * Here we will restack the new dpo of VXLAN DIP to encap node.
150  */
151 static fib_node_back_walk_rc_t
152 vxlan_tunnel_back_walk (fib_node_t *node,
153                         fib_node_back_walk_ctx_t *ctx)
154 {
155     vxlan_tunnel_restack_dpo(vxlan_tunnel_from_fib_node(node));
156     return (FIB_NODE_BACK_WALK_CONTINUE);
157 }
158
159 /**
160  * Function definition to get a FIB node from its index
161  */
162 static fib_node_t*
163 vxlan_tunnel_fib_node_get (fib_node_index_t index)
164 {
165     vxlan_tunnel_t * t;
166     vxlan_main_t * vxm = &vxlan_main;
167
168     t = pool_elt_at_index(vxm->tunnels, index);
169
170     return (&t->node);
171 }
172
173 /**
174  * Function definition to inform the FIB node that its last lock has gone.
175  */
176 static void
177 vxlan_tunnel_last_lock_gone (fib_node_t *node)
178 {
179     /*
180      * The VXLAN tunnel is a root of the graph. As such
181      * it never has children and thus is never locked.
182      */
183     ASSERT(0);
184 }
185
186 /*
187  * Virtual function table registered by VXLAN tunnels
188  * for participation in the FIB object graph.
189  */
190 const static fib_node_vft_t vxlan_vft = {
191     .fnv_get = vxlan_tunnel_fib_node_get,
192     .fnv_last_lock = vxlan_tunnel_last_lock_gone,
193     .fnv_back_walk = vxlan_tunnel_back_walk,
194 };
195
196
197 #define foreach_copy_field                      \
198 _(vni)                                          \
199 _(mcast_sw_if_index)                            \
200 _(encap_fib_index)                              \
201 _(decap_next_index)                             \
202 _(src)                                          \
203 _(dst)
204
205 static int vxlan4_rewrite (vxlan_tunnel_t * t)
206 {
207   u8 *rw = 0;
208   ip4_header_t * ip0;
209   ip4_vxlan_header_t * h0;
210   int len = sizeof (*h0);
211
212   vec_validate_aligned (rw, len-1, CLIB_CACHE_LINE_BYTES);
213
214   h0 = (ip4_vxlan_header_t *) rw;
215
216   /* Fixed portion of the (outer) ip4 header */
217   ip0 = &h0->ip4;
218   ip0->ip_version_and_header_length = 0x45;
219   ip0->ttl = 254;
220   ip0->protocol = IP_PROTOCOL_UDP;
221
222   /* we fix up the ip4 header length and checksum after-the-fact */
223   ip0->src_address.as_u32 = t->src.ip4.as_u32;
224   ip0->dst_address.as_u32 = t->dst.ip4.as_u32;
225   ip0->checksum = ip4_header_checksum (ip0);
226
227   /* UDP header, randomize src port on something, maybe? */
228   h0->udp.src_port = clib_host_to_net_u16 (4789);
229   h0->udp.dst_port = clib_host_to_net_u16 (UDP_DST_PORT_vxlan);
230
231   /* VXLAN header */
232   vnet_set_vni_and_flags(&h0->vxlan, t->vni);
233
234   t->rewrite = rw;
235   return (0);
236 }
237
238 static int vxlan6_rewrite (vxlan_tunnel_t * t)
239 {
240   u8 *rw = 0;
241   ip6_header_t * ip0;
242   ip6_vxlan_header_t * h0;
243   int len = sizeof (*h0);
244
245   vec_validate_aligned (rw, len-1, CLIB_CACHE_LINE_BYTES);
246
247   h0 = (ip6_vxlan_header_t *) rw;
248
249   /* Fixed portion of the (outer) ip6 header */
250   ip0 = &h0->ip6;
251   ip0->ip_version_traffic_class_and_flow_label = clib_host_to_net_u32(6 << 28);
252   ip0->hop_limit = 255;
253   ip0->protocol = IP_PROTOCOL_UDP;
254
255   ip0->src_address.as_u64[0] = t->src.ip6.as_u64[0];
256   ip0->src_address.as_u64[1] = t->src.ip6.as_u64[1];
257   ip0->dst_address.as_u64[0] = t->dst.ip6.as_u64[0];
258   ip0->dst_address.as_u64[1] = t->dst.ip6.as_u64[1];
259
260   /* UDP header, randomize src port on something, maybe? */
261   h0->udp.src_port = clib_host_to_net_u16 (4789);
262   h0->udp.dst_port = clib_host_to_net_u16 (UDP_DST_PORT_vxlan);
263
264   /* VXLAN header */
265   vnet_set_vni_and_flags(&h0->vxlan, t->vni);
266
267   t->rewrite = rw;
268   return (0);
269 }
270
271 static int vxlan_check_decap_next(vxlan_main_t * vxm, u32 is_ip6, u32 decap_next_index)
272 {
273   vlib_main_t * vm = vxm->vlib_main;
274   vlib_node_runtime_t *r;
275
276   if(!is_ip6)
277     {
278       r = vlib_node_get_runtime (vm, vxlan4_input_node.index);
279       if(decap_next_index >= r->n_next_nodes)
280         return 1;
281     }
282   else
283     {
284       r = vlib_node_get_runtime (vm, vxlan6_input_node.index);
285       if(decap_next_index >= r->n_next_nodes)
286         return 1;
287     }
288
289   return 0;
290 }
291
292 static uword
293 vtep_addr_ref(ip46_address_t *ip)
294 {
295         if (!ip46_address_is_ip4(ip))
296                 return 1; /* always create */
297         uword *pvtep = hash_get (vxlan_main.vtep4, ip->ip4.as_u32);
298         if (pvtep) 
299                 return ++pvtep[0];
300         hash_set (vxlan_main.vtep4, ip->ip4.as_u32, 1);
301         return 1;
302 }
303
304 static uword
305 vtep_addr_unref(ip46_address_t *ip)
306 {
307         if (!ip46_address_is_ip4(ip))
308                 return 0; /* alwways destroy */
309         uword *pvtep = hash_get (vxlan_main.vtep4, ip->ip4.as_u32);
310         ASSERT(pvtep);
311         if (!(--pvtep[0]))
312                 hash_unset (vxlan_main.vtep4, ip->ip4.as_u32);
313         return pvtep[0];
314 }
315
316 static
317 mcast_remote_t *
318 mcast_ep_get(ip46_address_t * ip)
319 {
320         ASSERT(ip46_address_is_multicast(ip));
321         uword * ep_idx = hash_get_mem (vxlan_main.mcast_ep_by_ip, ip);
322         ASSERT(ep_idx);
323         return pool_elt_at_index(vxlan_main.mcast_eps, *ep_idx);
324 }
325
326 static void
327 mcast_ep_add(mcast_remote_t * new_ep)
328 {
329         mcast_remote_t * ep;
330
331         pool_get_aligned (vxlan_main.mcast_eps, ep, CLIB_CACHE_LINE_BYTES);
332         *ep = *new_ep;
333         hash_set_mem (vxlan_main.mcast_ep_by_ip, &ep->ip, ep - vxlan_main.mcast_eps);
334 }
335
336 static void
337 mcast_ep_remove(mcast_remote_t * ep)
338 {
339         hash_unset_mem (vxlan_main.mcast_ep_by_ip, &ep->ip);
340         pool_put (vxlan_main.mcast_eps, ep);
341 }
342
343 static void
344 ip46_multicast_ethernet_address(u8 * ethernet_address, ip46_address_t * ip) {
345           if (ip46_address_is_ip4(ip))
346               ip4_multicast_ethernet_address(ethernet_address, &ip->ip4);
347           else
348               ip6_multicast_ethernet_address(ethernet_address, ip->ip6.as_u32[0]);
349 }
350
351 int vnet_vxlan_add_del_tunnel 
352 (vnet_vxlan_add_del_tunnel_args_t *a, u32 * sw_if_indexp)
353 {
354   vxlan_main_t * vxm = &vxlan_main;
355   vxlan_tunnel_t *t = 0;
356   vnet_main_t * vnm = vxm->vnet_main;
357   uword * p;
358   u32 hw_if_index = ~0;
359   u32 sw_if_index = ~0;
360   int rv;
361   vxlan4_tunnel_key_t key4;
362   vxlan6_tunnel_key_t key6;
363   u32 is_ip6 = a->is_ip6;
364
365   if (!is_ip6)
366     {
367       key4.src = a->dst.ip4.as_u32; /* decap src in key is encap dst in config */
368       key4.vni = clib_host_to_net_u32 (a->vni << 8);
369       p = hash_get (vxm->vxlan4_tunnel_by_key, key4.as_u64);
370     } 
371   else 
372     {
373       key6.src.as_u64[0] = a->dst.ip6.as_u64[0];
374       key6.src.as_u64[1] = a->dst.ip6.as_u64[1];
375       key6.vni = clib_host_to_net_u32 (a->vni << 8);
376       p = hash_get_mem (vxm->vxlan6_tunnel_by_key, &key6);
377     }
378   
379   if (a->is_add)
380     {
381       l2input_main_t * l2im = &l2input_main;
382
383       /* adding a tunnel: tunnel must not already exist */
384       if (p)
385         return VNET_API_ERROR_TUNNEL_EXIST;
386
387       /*if not set explicitly, default to l2 */
388       if(a->decap_next_index == ~0)
389         a->decap_next_index = VXLAN_INPUT_NEXT_L2_INPUT;
390       if (vxlan_check_decap_next(vxm, is_ip6, a->decap_next_index))
391           return VNET_API_ERROR_INVALID_DECAP_NEXT;
392
393       pool_get_aligned (vxm->tunnels, t, CLIB_CACHE_LINE_BYTES);
394       memset (t, 0, sizeof (*t));
395       
396       /* copy from arg structure */
397 #define _(x) t->x = a->x;
398       foreach_copy_field;
399 #undef _
400       
401       /* copy the key */
402       if (is_ip6)
403         {
404           t->key6 = clib_mem_alloc (sizeof(vxlan6_tunnel_key_t));
405           clib_memcpy (t->key6, &key6, sizeof(key6));
406         }
407       else
408         {
409           t->key4 = 0; /* not yet used */
410         }
411
412       if (!is_ip6) 
413         rv = vxlan4_rewrite (t);
414       else
415         rv = vxlan6_rewrite (t);
416
417       if (rv)
418         {
419           pool_put (vxm->tunnels, t);
420           return rv;
421         }
422
423       if (!is_ip6)
424         hash_set (vxm->vxlan4_tunnel_by_key, key4.as_u64, t - vxm->tunnels);
425       else
426         hash_set_mem (vxm->vxlan6_tunnel_by_key, t->key6, t - vxm->tunnels);
427
428       vnet_hw_interface_t * hi;
429       if (vec_len (vxm->free_vxlan_tunnel_hw_if_indices) > 0)
430         {
431           vnet_interface_main_t * im = &vnm->interface_main;
432           hw_if_index = vxm->free_vxlan_tunnel_hw_if_indices
433             [vec_len (vxm->free_vxlan_tunnel_hw_if_indices)-1];
434           _vec_len (vxm->free_vxlan_tunnel_hw_if_indices) -= 1;
435           
436           hi = vnet_get_hw_interface (vnm, hw_if_index);
437           hi->dev_instance = t - vxm->tunnels;
438           hi->hw_instance = hi->dev_instance;
439
440           /* clear old stats of freed tunnel before reuse */
441           sw_if_index = hi->sw_if_index;
442           vnet_interface_counter_lock(im);
443           vlib_zero_combined_counter 
444             (&im->combined_sw_if_counters[VNET_INTERFACE_COUNTER_TX], sw_if_index);
445           vlib_zero_combined_counter 
446             (&im->combined_sw_if_counters[VNET_INTERFACE_COUNTER_RX], sw_if_index);
447           vlib_zero_simple_counter 
448             (&im->sw_if_counters[VNET_INTERFACE_COUNTER_DROP], sw_if_index);
449           vnet_interface_counter_unlock(im);
450         }
451       else 
452         {
453           hw_if_index = vnet_register_interface
454             (vnm, vxlan_device_class.index, t - vxm->tunnels,
455              vxlan_hw_class.index, t - vxm->tunnels);
456           hi = vnet_get_hw_interface (vnm, hw_if_index);
457         }
458       
459       t->hw_if_index = hw_if_index;
460       t->sw_if_index = sw_if_index = hi->sw_if_index;
461       
462       vec_validate_init_empty (vxm->tunnel_index_by_sw_if_index, sw_if_index, ~0);
463       vxm->tunnel_index_by_sw_if_index[sw_if_index] = t - vxm->tunnels;
464
465       /* setup l2 input config with l2 feature and bd 0 to drop packet */
466       vec_validate (l2im->configs, sw_if_index);
467       l2im->configs[sw_if_index].feature_bitmap = L2INPUT_FEAT_DROP;
468       l2im->configs[sw_if_index].bd_index = 0;
469       
470       vnet_sw_interface_set_flags (vnm, sw_if_index, 
471                                    VNET_SW_INTERFACE_FLAG_ADMIN_UP);
472       fib_node_init(&t->node, FIB_NODE_TYPE_VXLAN_TUNNEL);
473       fib_prefix_t tun_dst_pfx;
474       u32 encap_index = !is_ip6 ?
475           vxlan4_encap_node.index : vxlan6_encap_node.index;
476       vnet_flood_class_t flood_class = VNET_FLOOD_CLASS_TUNNEL_NORMAL;
477
478       fib_prefix_from_ip46_addr(&t->dst, &tun_dst_pfx);
479       if (!ip46_address_is_multicast(&t->dst))
480         {
481           /* Unicast tunnel -
482            * source the FIB entry for the tunnel's destination
483            * and become a child thereof. The tunnel will then get poked
484            * when the forwarding for the entry updates, and the tunnel can
485            * re-stack accordingly
486            */
487           vtep_addr_ref(&t->src);
488           t->fib_entry_index = fib_table_entry_special_add
489             (t->encap_fib_index, &tun_dst_pfx, FIB_SOURCE_RR,
490              FIB_ENTRY_FLAG_NONE, ADJ_INDEX_INVALID);
491           t->sibling_index = fib_entry_child_add
492             (t->fib_entry_index, FIB_NODE_TYPE_VXLAN_TUNNEL, t - vxm->tunnels);
493           vxlan_tunnel_restack_dpo(t);
494         } 
495       else
496         {
497           /* Multicast tunnel -
498            * as the same mcast group can be used for mutiple mcast tunnels
499            * with different VNIs, create the output fib adjecency only if
500            * it does not already exist
501            */
502           fib_protocol_t fp = (is_ip6) ? FIB_PROTOCOL_IP6 : FIB_PROTOCOL_IP4;
503           dpo_id_t dpo = DPO_INVALID;
504           dpo_proto_t dproto = fib_proto_to_dpo(fp);
505
506           if (vtep_addr_ref(&t->dst) == 1)
507             {
508                u8 mcast_mac[6];
509
510                ip46_multicast_ethernet_address(mcast_mac, &t->dst);
511                receive_dpo_add_or_lock(dproto, ~0, NULL, &dpo);
512                mcast_remote_t new_ep = {
513                  .ip = t->dst,
514                  .mcast_adj_index = adj_rewrite_add_and_lock
515                    (fp, fib_proto_to_link(fp), a->mcast_sw_if_index, mcast_mac),
516                  /* Add VRF local mcast adj. */
517                  .fib_entry_index = fib_table_entry_special_dpo_add
518                    (t->encap_fib_index, &tun_dst_pfx,
519                     FIB_SOURCE_SPECIAL, FIB_ENTRY_FLAG_NONE, &dpo)
520                    };
521                mcast_ep_add(&new_ep);
522                dpo_reset(&dpo);
523             }
524           /* Stack shared mcast dst mac addr rewrite on encap */
525           dpo_set (&dpo, DPO_ADJACENCY, dproto,
526             mcast_ep_get(&t->dst)->mcast_adj_index);
527           dpo_stack_from_node (encap_index, &t->next_dpo, &dpo);
528           dpo_reset (&dpo);
529           flood_class = VNET_FLOOD_CLASS_TUNNEL_MASTER;
530         }
531
532       /* Set vxlan tunnel output node */
533       hi->output_node_index = encap_index;
534
535       vnet_get_sw_interface (vnet_get_main(), sw_if_index)->flood_class = flood_class;
536     }
537   else
538     {
539       /* deleting a tunnel: tunnel must exist */
540       if (!p)
541         return VNET_API_ERROR_NO_SUCH_ENTRY;
542
543       t = pool_elt_at_index (vxm->tunnels, p[0]);
544
545       vnet_sw_interface_set_flags (vnm, t->sw_if_index, 0 /* down */);
546       /* make sure tunnel is removed from l2 bd or xconnect */
547       set_int_l2_mode(vxm->vlib_main, vnm, MODE_L3, t->sw_if_index, 0, 0, 0, 0);
548       vec_add1 (vxm->free_vxlan_tunnel_hw_if_indices, t->hw_if_index);
549
550       vxm->tunnel_index_by_sw_if_index[t->sw_if_index] = ~0;
551
552       if (!is_ip6)
553         hash_unset (vxm->vxlan4_tunnel_by_key, key4.as_u64);
554       else
555         {
556           hash_unset_mem (vxm->vxlan6_tunnel_by_key, t->key6);
557           clib_mem_free (t->key6);
558         }
559
560       if (!ip46_address_is_multicast(&t->dst))
561         {
562           vtep_addr_unref(&a->src);
563           fib_entry_child_remove(t->fib_entry_index, t->sibling_index);
564           fib_table_entry_delete_index(t->fib_entry_index, FIB_SOURCE_RR);
565         }
566       else if (vtep_addr_unref(&t->dst) == 0)
567         {
568           mcast_remote_t* ep = mcast_ep_get(&t->dst);
569           adj_unlock(ep->mcast_adj_index);
570           fib_table_entry_delete_index(ep->fib_entry_index, FIB_SOURCE_SPECIAL);
571           mcast_ep_remove(ep);
572         }
573
574       fib_node_deinit(&t->node);
575       vec_free (t->rewrite);
576       pool_put (vxm->tunnels, t);
577     }
578
579   if (sw_if_indexp)
580       *sw_if_indexp = sw_if_index;
581
582   return 0;
583 }
584
585 static u32 fib4_index_from_fib_id (u32 fib_id)
586 {
587   ip4_main_t * im = &ip4_main;
588   uword * p;
589
590   p = hash_get (im->fib_index_by_table_id, fib_id);
591   if (!p)
592     return ~0;
593
594   return p[0];
595 }
596
597 static u32 fib6_index_from_fib_id (u32 fib_id)
598 {
599   ip6_main_t * im = &ip6_main;
600   uword * p;
601
602   p = hash_get (im->fib_index_by_table_id, fib_id);
603   if (!p)
604     return ~0;
605
606   return p[0];
607 }
608
609 static uword get_decap_next_for_node(u32 node_index, u32 ipv4_set)
610 {
611   vxlan_main_t * vxm = &vxlan_main;
612   vlib_main_t * vm = vxm->vlib_main;
613   uword next_index = ~0;
614
615   if (ipv4_set)
616     {
617       next_index = vlib_node_add_next (vm, vxlan4_input_node.index, node_index);
618     }
619   else
620     {
621       next_index = vlib_node_add_next (vm, vxlan6_input_node.index, node_index);
622     }
623
624   return next_index;
625 }
626
627 static uword unformat_decap_next (unformat_input_t * input, va_list * args)
628 {
629   u32 * result = va_arg (*args, u32 *);
630   u32 ipv4_set = va_arg (*args, int);
631   vxlan_main_t * vxm = &vxlan_main;
632   vlib_main_t * vm = vxm->vlib_main;
633   u32 node_index;
634   u32 tmp;
635
636   if (unformat (input, "l2"))
637     *result = VXLAN_INPUT_NEXT_L2_INPUT;
638   else if (unformat (input, "node %U", unformat_vlib_node, vm, &node_index))
639     *result = get_decap_next_for_node(node_index, ipv4_set);
640   else if (unformat (input, "%d", &tmp))
641     *result = tmp;
642   else
643     return 0;
644   return 1;
645 }
646
647 static clib_error_t *
648 vxlan_add_del_tunnel_command_fn (vlib_main_t * vm,
649                                    unformat_input_t * input,
650                                    vlib_cli_command_t * cmd)
651 {
652   unformat_input_t _line_input, * line_input = &_line_input;
653   ip46_address_t src , dst;
654   u8 is_add = 1;
655   u8 src_set = 0;
656   u8 dst_set = 0;
657   u8 grp_set = 0;
658   u8 ipv4_set = 0;
659   u8 ipv6_set = 0;
660   u32 encap_fib_index = 0;
661   u32 mcast_sw_if_index = ~0;
662   u32 decap_next_index = VXLAN_INPUT_NEXT_L2_INPUT;
663   u32 vni = 0;
664   u32 tmp;
665   int rv;
666   vnet_vxlan_add_del_tunnel_args_t _a, * a = &_a;
667   u32 tunnel_sw_if_index;
668
669   /* Cant "universally zero init" (={0}) due to GCC bug 53119 */
670   memset(&src, 0, sizeof src);
671   memset(&dst, 0, sizeof dst);
672
673   /* Get a line of input. */
674   if (! unformat_user (input, unformat_line_input, line_input))
675     return 0;
676
677   while (unformat_check_input (line_input) != UNFORMAT_END_OF_INPUT) {
678     if (unformat (line_input, "del"))
679       {
680         is_add = 0;
681       }
682     else if (unformat (line_input, "src %U",
683                        unformat_ip4_address, &src.ip4))
684       {
685         src_set = 1;
686         ipv4_set = 1;
687       }
688     else if (unformat (line_input, "dst %U",
689                        unformat_ip4_address, &dst.ip4))
690       {
691         dst_set = 1;
692         ipv4_set = 1;
693       }
694     else if (unformat (line_input, "src %U", 
695                        unformat_ip6_address, &src.ip6))
696       {
697         src_set = 1;
698         ipv6_set = 1;
699       }
700     else if (unformat (line_input, "dst %U",
701                        unformat_ip6_address, &dst.ip6))
702       {
703         dst_set = 1;
704         ipv6_set = 1;
705       }
706     else if (unformat (line_input, "group %U %U",
707                        unformat_ip4_address, &dst.ip4,
708                        unformat_vnet_sw_interface,
709                        vnet_get_main(), &mcast_sw_if_index))
710       {
711         grp_set = dst_set = 1;
712         ipv4_set = 1;
713       }
714     else if (unformat (line_input, "group %U %U",
715                        unformat_ip6_address, &dst.ip6,
716                        unformat_vnet_sw_interface,
717                        vnet_get_main(), &mcast_sw_if_index))
718       {
719         grp_set = dst_set = 1;
720         ipv6_set = 1;
721       }
722     else if (unformat (line_input, "encap-vrf-id %d", &tmp))
723       {
724         if (ipv6_set)
725           encap_fib_index = fib6_index_from_fib_id (tmp);
726         else
727           encap_fib_index = fib4_index_from_fib_id (tmp);
728         if (encap_fib_index == ~0)
729           return clib_error_return (0, "nonexistent encap-vrf-id %d", tmp);
730       }
731     else if (unformat (line_input, "decap-next %U", unformat_decap_next, 
732                        &decap_next_index, ipv4_set))
733       ;
734     else if (unformat (line_input, "vni %d", &vni))
735       {
736         if (vni >> 24)  
737           return clib_error_return (0, "vni %d out of range", vni);
738       }
739     else 
740       return clib_error_return (0, "parse error: '%U'", 
741                                 format_unformat_error, line_input);
742   }
743
744   unformat_free (line_input);
745
746   if (src_set == 0)
747     return clib_error_return (0, "tunnel src address not specified");
748
749   if (dst_set == 0)
750     return clib_error_return (0, "tunnel dst address not specified");
751
752   if (grp_set && !ip46_address_is_multicast(&dst))
753     return clib_error_return (0, "tunnel group address not multicast");
754
755   if (grp_set == 0 && ip46_address_is_multicast(&dst))
756     return clib_error_return (0, "dst address must be unicast");
757
758   if (grp_set && mcast_sw_if_index == ~0)
759     return clib_error_return (0, "tunnel nonexistent multicast device");
760
761   if (ipv4_set && ipv6_set)
762     return clib_error_return (0, "both IPv4 and IPv6 addresses specified");
763
764   if (ip46_address_cmp(&src, &dst) == 0)
765     return clib_error_return (0, "src and dst addresses are identical");
766
767   if (decap_next_index == ~0)
768     return clib_error_return (0, "next node not found");
769
770   if (vni == 0)
771     return clib_error_return (0, "vni not specified");
772
773   memset (a, 0, sizeof (*a));
774
775   a->is_add = is_add;
776   a->is_ip6 = ipv6_set;
777
778 #define _(x) a->x = x;
779   foreach_copy_field;
780 #undef _
781   
782   rv = vnet_vxlan_add_del_tunnel (a, &tunnel_sw_if_index);
783
784   switch(rv)
785     {
786     case 0:
787       if (is_add)
788         vlib_cli_output(vm, "%U\n", format_vnet_sw_if_index_name, 
789                         vnet_get_main(), tunnel_sw_if_index);
790       break;
791
792     case VNET_API_ERROR_TUNNEL_EXIST:
793       return clib_error_return (0, "tunnel already exists...");
794
795     case VNET_API_ERROR_NO_SUCH_ENTRY:
796       return clib_error_return (0, "tunnel does not exist...");
797
798     default:
799       return clib_error_return 
800         (0, "vnet_vxlan_add_del_tunnel returned %d", rv);
801     }
802
803   return 0;
804 }
805
806 /*?
807  * Add or delete a VXLAN Tunnel.
808  *
809  * VXLAN provides the features needed to allow L2 bridge domains (BDs)
810  * to span multiple servers. This is done by building an L2 overlay on
811  * top of an L3 network underlay using VXLAN tunnels.
812  *
813  * This makes it possible for servers to be co-located in the same data
814  * center or be separated geographically as long as they are reachable
815  * through the underlay L3 network.
816  *
817  * You can refer to this kind of L2 overlay bridge domain as a VXLAN
818  * (Virtual eXtensible VLAN) segment.
819  *
820  * @cliexpar
821  * Example of how to create a VXLAN Tunnel:
822  * @cliexcmd{create vxlan tunnel src 10.0.3.1 dst 10.0.3.3 vni 13 encap-vrf-id 7}
823  * Example of how to delete a VXLAN Tunnel:
824  * @cliexcmd{create vxlan tunnel src 10.0.3.1 dst 10.0.3.3 vni 13 del}
825  ?*/
826 /* *INDENT-OFF* */
827 VLIB_CLI_COMMAND (create_vxlan_tunnel_command, static) = {
828   .path = "create vxlan tunnel",
829   .short_help = 
830   "create vxlan tunnel src <local-vtep-addr>"
831   " {dst <remote-vtep-addr>|group <mcast-vtep-addr> <intf-name>} vni <nn>"
832   " [encap-vrf-id <nn>] [decap-next [l2|node <name>]] [del]",
833   .function = vxlan_add_del_tunnel_command_fn,
834 };
835 /* *INDENT-ON* */
836
837 static clib_error_t *
838 show_vxlan_tunnel_command_fn (vlib_main_t * vm,
839                                 unformat_input_t * input,
840                                 vlib_cli_command_t * cmd)
841 {
842   vxlan_main_t * vxm = &vxlan_main;
843   vxlan_tunnel_t * t;
844   
845   if (pool_elts (vxm->tunnels) == 0)
846     vlib_cli_output (vm, "No vxlan tunnels configured...");
847
848   pool_foreach (t, vxm->tunnels,
849   ({
850     vlib_cli_output (vm, "%U", format_vxlan_tunnel, t);
851   }));
852   
853   return 0;
854 }
855
856 /*?
857  * Display all the VXLAN Tunnel entries.
858  *
859  * @cliexpar
860  * Example of how to display the VXLAN Tunnel entries:
861  * @cliexstart{show vxlan tunnel}
862  * [0] src 10.0.3.1 dst 10.0.3.3 vni 13 encap_fib_index 0 sw_if_index 5 decap_next l2
863  * @cliexend
864  ?*/
865 /* *INDENT-OFF* */
866 VLIB_CLI_COMMAND (show_vxlan_tunnel_command, static) = {
867     .path = "show vxlan tunnel",
868     .short_help = "show vxlan tunnel",
869     .function = show_vxlan_tunnel_command_fn,
870 };
871 /* *INDENT-ON* */
872
873
874 clib_error_t *vxlan_init (vlib_main_t *vm)
875 {
876   vxlan_main_t * vxm = &vxlan_main;
877   
878   vxm->vnet_main = vnet_get_main();
879   vxm->vlib_main = vm;
880
881   /* initialize the ip6 hash */
882   vxm->vxlan6_tunnel_by_key = hash_create_mem(0,
883         sizeof(vxlan6_tunnel_key_t),
884         sizeof(uword));
885   vxm->mcast_ep_by_ip = hash_create_mem(0,
886         sizeof(ip46_address_t),
887         sizeof(uword));
888
889   udp_register_dst_port (vm, UDP_DST_PORT_vxlan, 
890                          vxlan4_input_node.index, /* is_ip4 */ 1);
891   udp_register_dst_port (vm, UDP_DST_PORT_vxlan6,
892                          vxlan6_input_node.index, /* is_ip4 */ 0);
893
894   fib_node_register_type(FIB_NODE_TYPE_VXLAN_TUNNEL, &vxlan_vft);
895
896   return 0;
897 }
898
899 VLIB_INIT_FUNCTION(vxlan_init);