src/plugins/gbp/gbp_endpoint.c

   1 /*
   2  * gbp.h : Group Based Policy
   3  *
   4  * Copyright (c) 2018 Cisco and/or its affiliates.
   5  * Licensed under the Apache License, Version 2.0 (the "License");
   6  * you may not use this file except in compliance with the License.
   7  * You may obtain a copy of the License at:
   8  *
   9  *     http://www.apache.org/licenses/LICENSE-2.0
  10  *
  11  * Unless required by applicable law or agreed to in writing, software
  12  * distributed under the License is distributed on an "AS IS" BASIS,
  13  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  14  * See the License for the specific language governing permissions and
  15  * limitations under the License.
  16  */
  17
  18 #include <plugins/gbp/gbp_endpoint.h>
  19 #include <plugins/gbp/gbp_endpoint_group.h>
  20 #include <plugins/gbp/gbp_itf.h>
  21 #include <plugins/gbp/gbp_scanner.h>
  22 #include <plugins/gbp/gbp_bridge_domain.h>
  23 #include <plugins/gbp/gbp_route_domain.h>
  24 #include <plugins/gbp/gbp_policy_dpo.h>
  25 #include <plugins/gbp/gbp_vxlan.h>
  26
  27 #include <vnet/ethernet/arp.h>
  28 #include <vnet/l2/l2_input.h>
  29 #include <vnet/l2/l2_output.h>
  30 #include <vnet/l2/feat_bitmap.h>
  31 #include <vnet/l2/l2_fib.h>
  32 #include <vnet/fib/fib_table.h>
  33 #include <vnet/ip/ip_neighbor.h>
  34 #include <vnet/fib/fib_walk.h>
  35 #include <vnet/vxlan-gbp/vxlan_gbp.h>
  36
  37 static const char *gbp_endpoint_attr_names[] = GBP_ENDPOINT_ATTR_NAMES;
  38
  39 /**
  40  * EP DBs
  41  */
  42 gbp_ep_db_t gbp_ep_db;
  43
  44 fib_node_type_t gbp_endpoint_fib_type;
  45
  46 vlib_log_class_t gbp_ep_logger;
  47
  48 #define GBP_ENDPOINT_DBG(...)                           \
  49     vlib_log_debug (gbp_ep_logger, __VA_ARGS__);
  50
  51 #define GBP_ENDPOINT_INFO(...)                          \
  52     vlib_log_notice (gbp_ep_logger, __VA_ARGS__);
  53
  54 /**
  55  * Pool of GBP endpoints
  56  */
  57 gbp_endpoint_t *gbp_endpoint_pool;
  58
  59 /**
  60  * A count of the number of dynamic entries
  61  */
  62 static u32 gbp_n_learnt_endpoints;
  63
  64 #define FOR_EACH_GBP_ENDPOINT_ATTR(_item)               \
  65     for (_item = GBP_ENDPOINT_ATTR_FIRST;               \
  66          _item < GBP_ENDPOINT_ATTR_LAST;                \
  67          _item++)
  68
  69 u8 *
  70 format_gbp_endpoint_flags (u8 * s, va_list * args)
  71 {
  72   gbp_endpoint_attr_t attr;
  73   gbp_endpoint_flags_t flags = va_arg (*args, gbp_endpoint_flags_t);
  74
  75   FOR_EACH_GBP_ENDPOINT_ATTR (attr)
  76   {
  77     if ((1 << attr) & flags)
  78       {
  79         s = format (s, "%s,", gbp_endpoint_attr_names[attr]);
  80       }
  81   }
  82
  83   return (s);
  84 }
  85
  86 int
  87 gbp_endpoint_is_remote (const gbp_endpoint_t * ge)
  88 {
  89   return (! !(ge->ge_fwd.gef_flags & GBP_ENDPOINT_FLAG_REMOTE));
  90 }
  91
  92 int
  93 gbp_endpoint_is_local (const gbp_endpoint_t * ge)
  94 {
  95   return (!(ge->ge_fwd.gef_flags & GBP_ENDPOINT_FLAG_REMOTE));
  96 }
  97
  98 int
  99 gbp_endpoint_is_external (const gbp_endpoint_t * ge)
 100 {
 101   return (! !(ge->ge_fwd.gef_flags & GBP_ENDPOINT_FLAG_EXTERNAL));
 102 }
 103
 104 static void
 105 gbp_endpoint_extract_key_mac_itf (const clib_bihash_kv_16_8_t * key,
 106                                   mac_address_t * mac, u32 * sw_if_index)
 107 {
 108   mac_address_from_u64 (mac, key->key[0]);
 109   *sw_if_index = key->key[1];
 110 }
 111
 112 static void
 113 gbp_endpoint_extract_key_ip_itf (const clib_bihash_kv_24_8_t * key,
 114                                  ip46_address_t * ip, u32 * sw_if_index)
 115 {
 116   ip->as_u64[0] = key->key[0];
 117   ip->as_u64[1] = key->key[1];
 118   *sw_if_index = key->key[2];
 119 }
 120
 121 gbp_endpoint_t *
 122 gbp_endpoint_find_ip (const ip46_address_t * ip, u32 fib_index)
 123 {
 124   clib_bihash_kv_24_8_t key, value;
 125   int rv;
 126
 127   gbp_endpoint_mk_key_ip (ip, fib_index, &key);
 128
 129   rv = clib_bihash_search_24_8 (&gbp_ep_db.ged_by_ip_rd, &key, &value);
 130
 131   if (0 != rv)
 132     return NULL;
 133
 134   return (gbp_endpoint_get (value.value));
 135 }
 136
 137 static void
 138 gbp_endpoint_add_itf (u32 sw_if_index, index_t gei)
 139 {
 140   vec_validate_init_empty (gbp_ep_db.ged_by_sw_if_index, sw_if_index, ~0);
 141
 142   gbp_ep_db.ged_by_sw_if_index[sw_if_index] = gei;
 143 }
 144
 145 static bool
 146 gbp_endpoint_add_mac (const mac_address_t * mac, u32 bd_index, index_t gei)
 147 {
 148   clib_bihash_kv_16_8_t key;
 149   int rv;
 150
 151   gbp_endpoint_mk_key_mac (mac->bytes, bd_index, &key);
 152   key.value = gei;
 153
 154   rv = clib_bihash_add_del_16_8 (&gbp_ep_db.ged_by_mac_bd, &key, 1);
 155
 156
 157   return (0 == rv);
 158 }
 159
 160 static bool
 161 gbp_endpoint_add_ip (const ip46_address_t * ip, u32 fib_index, index_t gei)
 162 {
 163   clib_bihash_kv_24_8_t key;
 164   int rv;
 165
 166   gbp_endpoint_mk_key_ip (ip, fib_index, &key);
 167   key.value = gei;
 168
 169   rv = clib_bihash_add_del_24_8 (&gbp_ep_db.ged_by_ip_rd, &key, 1);
 170
 171   return (0 == rv);
 172 }
 173
 174 static void
 175 gbp_endpoint_del_mac (const mac_address_t * mac, u32 bd_index)
 176 {
 177   clib_bihash_kv_16_8_t key;
 178
 179   gbp_endpoint_mk_key_mac (mac->bytes, bd_index, &key);
 180
 181   clib_bihash_add_del_16_8 (&gbp_ep_db.ged_by_mac_bd, &key, 0);
 182 }
 183
 184 static void
 185 gbp_endpoint_del_ip (const ip46_address_t * ip, u32 fib_index)
 186 {
 187   clib_bihash_kv_24_8_t key;
 188
 189   gbp_endpoint_mk_key_ip (ip, fib_index, &key);
 190
 191   clib_bihash_add_del_24_8 (&gbp_ep_db.ged_by_ip_rd, &key, 0);
 192 }
 193
 194 static index_t
 195 gbp_endpoint_index (const gbp_endpoint_t * ge)
 196 {
 197   return (ge - gbp_endpoint_pool);
 198 }
 199
 200 static ip46_type_t
 201 ip46_address_get_type (const ip46_address_t * a)
 202 {
 203   return (ip46_address_is_ip4 (a) ? IP46_TYPE_IP4 : IP46_TYPE_IP6);
 204 }
 205
 206 static int
 207 gbp_endpoint_ip_is_equal (const fib_prefix_t * fp, const ip46_address_t * ip)
 208 {
 209   return (ip46_address_is_equal (ip, &fp->fp_addr));
 210 }
 211
 212 static void
 213 gbp_endpoint_ips_update (gbp_endpoint_t * ge,
 214                          const ip46_address_t * ips,
 215                          const gbp_route_domain_t * grd)
 216 {
 217   const ip46_address_t *ip;
 218   index_t gei, grdi;
 219
 220   gei = gbp_endpoint_index (ge);
 221   grdi = gbp_route_domain_index (grd);
 222
 223   ASSERT ((ge->ge_key.gek_grd == INDEX_INVALID) ||
 224           (ge->ge_key.gek_grd == grdi));
 225
 226   vec_foreach (ip, ips)
 227   {
 228     if (~0 == vec_search_with_function (ge->ge_key.gek_ips, ip,
 229                                         gbp_endpoint_ip_is_equal))
 230       {
 231         fib_prefix_t *pfx;
 232
 233         vec_add2 (ge->ge_key.gek_ips, pfx, 1);
 234         fib_prefix_from_ip46_addr (ip, pfx);
 235
 236         gbp_endpoint_add_ip (&pfx->fp_addr,
 237                              grd->grd_fib_index[pfx->fp_proto], gei);
 238       }
 239     ge->ge_key.gek_grd = grdi;
 240   }
 241 }
 242
 243 static gbp_endpoint_t *
 244 gbp_endpoint_alloc (const ip46_address_t * ips,
 245                     const gbp_route_domain_t * grd,
 246                     const mac_address_t * mac,
 247                     const gbp_bridge_domain_t * gbd)
 248 {
 249   gbp_endpoint_t *ge;
 250   index_t gei;
 251
 252   pool_get_zero (gbp_endpoint_pool, ge);
 253
 254   fib_node_init (&ge->ge_node, gbp_endpoint_fib_type);
 255   gei = gbp_endpoint_index (ge);
 256   ge->ge_key.gek_gbd =
 257     ge->ge_key.gek_grd = ge->ge_fwd.gef_itf = INDEX_INVALID;
 258   ge->ge_last_time = vlib_time_now (vlib_get_main ());
 259   ge->ge_key.gek_gbd = gbp_bridge_domain_index (gbd);
 260
 261   if (NULL != mac)
 262     {
 263       mac_address_copy (&ge->ge_key.gek_mac, mac);
 264       gbp_endpoint_add_mac (mac, gbd->gb_bd_index, gei);
 265     }
 266   gbp_endpoint_ips_update (ge, ips, grd);
 267
 268   return (ge);
 269 }
 270
 271 static int
 272 gbp_endpoint_loc_is_equal (gbp_endpoint_loc_t * a, gbp_endpoint_loc_t * b)
 273 {
 274   return (a->gel_src == b->gel_src);
 275 }
 276
 277 static int
 278 gbp_endpoint_loc_cmp_for_sort (gbp_endpoint_loc_t * a, gbp_endpoint_loc_t * b)
 279 {
 280   return (a->gel_src - b->gel_src);
 281 }
 282
 283 static gbp_endpoint_loc_t *
 284 gbp_endpoint_loc_find (gbp_endpoint_t * ge, gbp_endpoint_src_t src)
 285 {
 286   gbp_endpoint_loc_t gel = {
 287     .gel_src = src,
 288   };
 289   u32 pos;
 290
 291   pos = vec_search_with_function (ge->ge_locs, &gel,
 292                                   gbp_endpoint_loc_is_equal);
 293
 294   if (~0 != pos)
 295     return (&ge->ge_locs[pos]);
 296
 297   return NULL;
 298 }
 299
 300 static int
 301 gbp_endpoint_loc_unlock (gbp_endpoint_t * ge, gbp_endpoint_loc_t * gel)
 302 {
 303   u32 pos;
 304
 305   gel->gel_locks--;
 306
 307   if (0 == gel->gel_locks)
 308     {
 309       pos = gel - ge->ge_locs;
 310
 311       vec_del1 (ge->ge_locs, pos);
 312       if (vec_len (ge->ge_locs) > 1)
 313         vec_sort_with_function (ge->ge_locs, gbp_endpoint_loc_cmp_for_sort);
 314
 315       /* This could be the last lock, so don't access the EP from
 316        * this point on */
 317       fib_node_unlock (&ge->ge_node);
 318
 319       return (1);
 320     }
 321   return (0);
 322 }
 323
 324 static void
 325 gbp_endpoint_loc_destroy (gbp_endpoint_loc_t * gel)
 326 {
 327   gbp_endpoint_group_unlock (gel->gel_epg);
 328
 329   if (gel->gel_flags & GBP_ENDPOINT_FLAG_REMOTE)
 330     {
 331       vxlan_gbp_tunnel_unlock (gel->gel_sw_if_index);
 332     }
 333 }
 334
 335 static gbp_endpoint_loc_t *
 336 gbp_endpoint_loc_find_or_add (gbp_endpoint_t * ge, gbp_endpoint_src_t src)
 337 {
 338   gbp_endpoint_loc_t gel = {
 339     .gel_src = src,
 340     .gel_epg = INDEX_INVALID,
 341     .gel_sw_if_index = INDEX_INVALID,
 342     .gel_locks = 0,
 343   };
 344   u32 pos;
 345
 346   pos = vec_search_with_function (ge->ge_locs, &gel,
 347                                   gbp_endpoint_loc_is_equal);
 348
 349   if (~0 == pos)
 350     {
 351       vec_add1 (ge->ge_locs, gel);
 352
 353       if (vec_len (ge->ge_locs) > 1)
 354         {
 355           vec_sort_with_function (ge->ge_locs, gbp_endpoint_loc_cmp_for_sort);
 356
 357           pos = vec_search_with_function (ge->ge_locs, &gel,
 358                                           gbp_endpoint_loc_is_equal);
 359         }
 360       else
 361         pos = 0;
 362
 363       /*
 364        * it's the sources and children that lock the endpoints
 365        */
 366       fib_node_lock (&ge->ge_node);
 367     }
 368
 369   return (&ge->ge_locs[pos]);
 370 }
 371
 372 /**
 373  * Find an EP inthe DBs and check that if we find it in the L2 DB
 374  * it has the same IPs as this update
 375  */
 376 static int
 377 gbp_endpoint_find_for_update (const ip46_address_t * ips,
 378                               const gbp_route_domain_t * grd,
 379                               const mac_address_t * mac,
 380                               const gbp_bridge_domain_t * gbd,
 381                               gbp_endpoint_t ** ge)
 382 {
 383   gbp_endpoint_t *l2_ge, *l3_ge, *tmp;
 384
 385   l2_ge = l3_ge = NULL;
 386
 387   if (NULL != mac && !mac_address_is_zero (mac))
 388     {
 389       ASSERT (gbd);
 390       l2_ge = gbp_endpoint_find_mac (mac->bytes, gbd->gb_bd_index);
 391     }
 392   if (NULL != ips && !ip46_address_is_zero (ips))
 393     {
 394       const ip46_address_t *ip;
 395       fib_protocol_t fproto;
 396
 397       ASSERT (grd);
 398       vec_foreach (ip, ips)
 399       {
 400         fproto = fib_proto_from_ip46 (ip46_address_get_type (ip));
 401
 402         tmp = gbp_endpoint_find_ip (ip, grd->grd_fib_index[fproto]);
 403
 404         if (NULL == tmp)
 405           /* not found */
 406           continue;
 407         else if (NULL == l3_ge)
 408           /* first match against an IP address */
 409           l3_ge = tmp;
 410         else if (tmp == l3_ge)
 411           /* another match against IP address that is the same endpoint */
 412           continue;
 413         else
 414           {
 415             /*
 416              *  a match agains a different endpoint.
 417              * this means the KEY of the EP is changing which is not allowed
 418              */
 419             return (-1);
 420           }
 421       }
 422     }
 423
 424   if (NULL == l2_ge && NULL == l3_ge)
 425     /* not found */
 426     *ge = NULL;
 427   else if (NULL == l2_ge)
 428     /* found at L3 */
 429     *ge = l3_ge;
 430   else if (NULL == l3_ge)
 431     /* found at L2 */
 432     *ge = l2_ge;
 433   else
 434     {
 435       /* found both L3 and L2 - they must be the same else the KEY
 436        * is changing
 437        */
 438       if (l2_ge == l3_ge)
 439         *ge = l2_ge;
 440       else
 441         return (-1);
 442     }
 443
 444   return (0);
 445 }
 446
 447 static gbp_endpoint_src_t
 448 gbp_endpoint_get_best_src (const gbp_endpoint_t * ge)
 449 {
 450   if (0 == vec_len (ge->ge_locs))
 451     return (GBP_ENDPOINT_SRC_MAX);
 452
 453   return (ge->ge_locs[0].gel_src);
 454 }
 455
 456 static void
 457 gbp_endpoint_n_learned (int n)
 458 {
 459   gbp_n_learnt_endpoints += n;
 460
 461   if (n > 0 && 1 == gbp_n_learnt_endpoints)
 462     {
 463       vlib_process_signal_event (vlib_get_main (),
 464                                  gbp_scanner_node.index,
 465                                  GBP_ENDPOINT_SCAN_START, 0);
 466     }
 467   if (n < 0 && 0 == gbp_n_learnt_endpoints)
 468     {
 469       vlib_process_signal_event (vlib_get_main (),
 470                                  gbp_scanner_node.index,
 471                                  GBP_ENDPOINT_SCAN_STOP, 0);
 472     }
 473 }
 474
 475 static void
 476 gbp_endpoint_loc_update (gbp_endpoint_loc_t * gel,
 477                          const gbp_bridge_domain_t * gb,
 478                          u32 sw_if_index,
 479                          index_t ggi,
 480                          gbp_endpoint_flags_t flags,
 481                          const ip46_address_t * tun_src,
 482                          const ip46_address_t * tun_dst)
 483 {
 484   int was_learnt, is_learnt;
 485
 486   gel->gel_locks++;
 487   was_learnt = ! !(gel->gel_flags & GBP_ENDPOINT_FLAG_REMOTE);
 488   gel->gel_flags = flags;
 489   is_learnt = ! !(gel->gel_flags & GBP_ENDPOINT_FLAG_REMOTE);
 490
 491   gbp_endpoint_n_learned (is_learnt - was_learnt);
 492
 493   if (INDEX_INVALID == gel->gel_epg)
 494     {
 495       gel->gel_epg = ggi;
 496       if (INDEX_INVALID != gel->gel_epg)
 497         {
 498           gbp_endpoint_group_lock (gel->gel_epg);
 499         }
 500     }
 501   else
 502     {
 503       ASSERT (gel->gel_epg == ggi);
 504     }
 505
 506   if (gel->gel_flags & GBP_ENDPOINT_FLAG_REMOTE)
 507     {
 508       if (NULL != tun_src)
 509         ip46_address_copy (&gel->tun.gel_src, tun_src);
 510       if (NULL != tun_dst)
 511         ip46_address_copy (&gel->tun.gel_dst, tun_dst);
 512
 513       if (ip46_address_is_multicast (&gel->tun.gel_src))
 514         {
 515           /*
 516            * we learnt the EP from the multicast tunnel.
 517            * Create a unicast TEP from the packet's source
 518            * and the fixed address of the BD's parent tunnel
 519            */
 520           const gbp_vxlan_tunnel_t *gt;
 521
 522           gt = gbp_vxlan_tunnel_get (gb->gb_vni);
 523
 524           if (NULL != gt)
 525             {
 526               ip46_address_copy (&gel->tun.gel_src, &gt->gt_src);
 527               sw_if_index = gt->gt_sw_if_index;
 528             }
 529         }
 530
 531       /*
 532        * the input interface may be the parent GBP-vxlan interface,
 533        * create a child vlxan-gbp tunnel and use that as the endpoint's
 534        * interface.
 535        */
 536       if (~0 != gel->gel_sw_if_index)
 537         vxlan_gbp_tunnel_unlock (gel->gel_sw_if_index);
 538
 539       switch (gbp_vxlan_tunnel_get_type (sw_if_index))
 540         {
 541         case GBP_VXLAN_TEMPLATE_TUNNEL:
 542           gel->tun.gel_parent_sw_if_index = sw_if_index;
 543           gel->gel_sw_if_index =
 544             gbp_vxlan_tunnel_clone_and_lock (sw_if_index,
 545                                              &gel->tun.gel_src,
 546                                              &gel->tun.gel_dst);
 547           break;
 548         case VXLAN_GBP_TUNNEL:
 549           gel->tun.gel_parent_sw_if_index =
 550             vxlan_gbp_tunnel_get_parent (sw_if_index);
 551           gel->gel_sw_if_index = sw_if_index;
 552           vxlan_gbp_tunnel_lock (gel->gel_sw_if_index);
 553           break;
 554         }
 555     }
 556   else
 557     {
 558       gel->gel_sw_if_index = sw_if_index;
 559     }
 560 }
 561
 562 static void
 563 gbb_endpoint_fwd_reset (gbp_endpoint_t * ge)
 564 {
 565   const gbp_route_domain_t *grd;
 566   const gbp_bridge_domain_t *gbd;
 567   gbp_endpoint_fwd_t *gef;
 568   const fib_prefix_t *pfx;
 569   index_t *ai;
 570   index_t gei;
 571
 572   gei = gbp_endpoint_index (ge);
 573   gbd = gbp_bridge_domain_get (ge->ge_key.gek_gbd);
 574   gef = &ge->ge_fwd;
 575
 576   vec_foreach (pfx, ge->ge_key.gek_ips)
 577   {
 578     u32 fib_index;
 579
 580     grd = gbp_route_domain_get (ge->ge_key.gek_grd);
 581     fib_index = grd->grd_fib_index[pfx->fp_proto];
 582
 583     bd_add_del_ip_mac (gbd->gb_bd_index, fib_proto_to_ip46 (pfx->fp_proto),
 584                        &pfx->fp_addr, &ge->ge_key.gek_mac, 0);
 585
 586     /*
 587      * remove a host route
 588      */
 589     if (gbp_endpoint_is_remote (ge))
 590       {
 591         fib_table_entry_special_remove (fib_index, pfx, FIB_SOURCE_PLUGIN_HI);
 592       }
 593
 594     fib_table_entry_delete (fib_index, pfx, FIB_SOURCE_PLUGIN_LOW);
 595   }
 596   vec_foreach (ai, gef->gef_adjs)
 597   {
 598     adj_unlock (*ai);
 599   }
 600
 601   if (INDEX_INVALID != gef->gef_itf)
 602     {
 603       l2fib_del_entry (ge->ge_key.gek_mac.bytes,
 604                        gbd->gb_bd_index, gef->gef_itf);
 605       gbp_itf_set_l2_input_feature (gef->gef_itf, gei, (L2INPUT_FEAT_NONE));
 606       gbp_itf_set_l2_output_feature (gef->gef_itf, gei, L2OUTPUT_FEAT_NONE);
 607
 608       gbp_itf_unlock (gef->gef_itf);
 609       gef->gef_itf = INDEX_INVALID;
 610     }
 611
 612   vec_free (gef->gef_adjs);
 613 }
 614
 615 static void
 616 gbb_endpoint_fwd_recalc (gbp_endpoint_t * ge)
 617 {
 618   const gbp_route_domain_t *grd;
 619   const gbp_bridge_domain_t *gbd;
 620   const gbp_endpoint_group_t *gg;
 621   gbp_endpoint_loc_t *gel;
 622   gbp_endpoint_fwd_t *gef;
 623   const fib_prefix_t *pfx;
 624   index_t gei;
 625
 626   /*
 627    * locations are sort in source priority order
 628    */
 629   gei = gbp_endpoint_index (ge);
 630   gel = &ge->ge_locs[0];
 631   gef = &ge->ge_fwd;
 632   gbd = gbp_bridge_domain_get (ge->ge_key.gek_gbd);
 633
 634   gef->gef_flags = gel->gel_flags;
 635
 636   if (INDEX_INVALID != gel->gel_epg)
 637     {
 638       gg = gbp_endpoint_group_get (gel->gel_epg);
 639       gef->gef_sclass = gg->gg_sclass;
 640     }
 641   else
 642     {
 643       gg = NULL;
 644     }
 645
 646   gef->gef_itf = gbp_itf_add_and_lock (gel->gel_sw_if_index,
 647                                        gbd->gb_bd_index);
 648
 649   if (!mac_address_is_zero (&ge->ge_key.gek_mac))
 650     {
 651       gbp_itf_set_l2_input_feature (gef->gef_itf, gei, L2INPUT_FEAT_GBP_FWD);
 652
 653       if (gbp_endpoint_is_remote (ge) || gbp_endpoint_is_external (ge))
 654         {
 655           /*
 656            * bridged packets to external endpoints should be classifed
 657            * based on the EP's/BD's EPG
 658            */
 659           gbp_itf_set_l2_output_feature (gef->gef_itf, gei,
 660                                          L2OUTPUT_FEAT_GBP_POLICY_MAC);
 661         }
 662       else
 663         {
 664           gbp_endpoint_add_itf (gef->gef_itf, gei);
 665           gbp_itf_set_l2_output_feature (gef->gef_itf, gei,
 666                                          L2OUTPUT_FEAT_GBP_POLICY_PORT);
 667         }
 668       l2fib_add_entry (ge->ge_key.gek_mac.bytes,
 669                        gbd->gb_bd_index,
 670                        gef->gef_itf, L2FIB_ENTRY_RESULT_FLAG_STATIC);
 671     }
 672
 673   vec_foreach (pfx, ge->ge_key.gek_ips)
 674   {
 675     ethernet_header_t *eth;
 676     u32 ip_sw_if_index;
 677     u32 fib_index;
 678     u8 *rewrite;
 679     index_t ai;
 680
 681     rewrite = NULL;
 682     grd = gbp_route_domain_get (ge->ge_key.gek_grd);
 683     fib_index = grd->grd_fib_index[pfx->fp_proto];
 684
 685     bd_add_del_ip_mac (gbd->gb_bd_index, fib_proto_to_ip46 (pfx->fp_proto),
 686                        &pfx->fp_addr, &ge->ge_key.gek_mac, 1);
 687
 688     /*
 689      * add a host route via the EPG's BVI we need this because the
 690      * adj fib does not install, due to cover refinement check, since
 691      * the BVI's prefix is /32
 692      */
 693     vec_validate (rewrite, sizeof (*eth) - 1);
 694     eth = (ethernet_header_t *) rewrite;
 695
 696     eth->type = clib_host_to_net_u16 ((pfx->fp_proto == FIB_PROTOCOL_IP4 ?
 697                                        ETHERNET_TYPE_IP4 :
 698                                        ETHERNET_TYPE_IP6));
 699
 700     if (gbp_endpoint_is_remote (ge))
 701       {
 702         /*
 703          * for dynamic EPs we must add the IP adjacency via the learned
 704          * tunnel since the BD will not contain the EP's MAC since it was
 705          * L3 learned. The dst MAC address used is the 'BD's MAC'.
 706          */
 707         ip_sw_if_index = gef->gef_itf;
 708
 709         mac_address_to_bytes (gbp_route_domain_get_local_mac (),
 710                               eth->src_address);
 711         mac_address_to_bytes (gbp_route_domain_get_remote_mac (),
 712                               eth->dst_address);
 713       }
 714     else
 715       {
 716         /*
 717          * for the static EPs we add the IP adjacency via the BVI
 718          * knowing that the BD has the MAC address to route to and
 719          * that policy will be applied on egress to the EP's port
 720          */
 721         ip_sw_if_index = gbd->gb_bvi_sw_if_index;
 722
 723         clib_memcpy (eth->src_address,
 724                      vnet_sw_interface_get_hw_address (vnet_get_main (),
 725                                                        ip_sw_if_index),
 726                      sizeof (eth->src_address));
 727         mac_address_to_bytes (&ge->ge_key.gek_mac, eth->dst_address);
 728       }
 729
 730     fib_table_entry_path_add (fib_index, pfx,
 731                               FIB_SOURCE_PLUGIN_LOW,
 732                               FIB_ENTRY_FLAG_NONE,
 733                               fib_proto_to_dpo (pfx->fp_proto),
 734                               &pfx->fp_addr, ip_sw_if_index,
 735                               ~0, 1, NULL, FIB_ROUTE_PATH_FLAG_NONE);
 736
 737     ai = adj_nbr_add_or_lock_w_rewrite (pfx->fp_proto,
 738                                         fib_proto_to_link (pfx->fp_proto),
 739                                         &pfx->fp_addr,
 740                                         ip_sw_if_index, rewrite);
 741     vec_add1 (gef->gef_adjs, ai);
 742
 743     /*
 744      * if the endpoint is external then routed packet to it must be
 745      * classifed to the BD's EPG. but this will happen anyway with
 746      * the GBP_MAC classification.
 747      */
 748
 749     if (NULL != gg)
 750       {
 751         if (gbp_endpoint_is_remote (ge))
 752           {
 753             dpo_id_t policy_dpo = DPO_INVALID;
 754
 755             /*
 756              * interpose a policy DPO from the endpoint so that policy
 757              * is applied
 758              */
 759             gbp_policy_dpo_add_or_lock (fib_proto_to_dpo (pfx->fp_proto),
 760                                         gg->gg_sclass, ~0, &policy_dpo);
 761
 762             fib_table_entry_special_dpo_add (fib_index, pfx,
 763                                              FIB_SOURCE_PLUGIN_HI,
 764                                              FIB_ENTRY_FLAG_INTERPOSE,
 765                                              &policy_dpo);
 766             dpo_reset (&policy_dpo);
 767           }
 768
 769         /*
 770          * send a gratuitous ARP on the EPG's uplink. this is done so
 771          * that if this EP has moved from some other place in the
 772          * 'fabric', upstream devices are informed
 773          */
 774         if (gbp_endpoint_is_local (ge) && ~0 != gg->gg_uplink_sw_if_index)
 775           {
 776             gbp_endpoint_add_itf (gef->gef_itf, gei);
 777             if (FIB_PROTOCOL_IP4 == pfx->fp_proto)
 778               send_ip4_garp_w_addr (vlib_get_main (),
 779                                     &pfx->fp_addr.ip4,
 780                                     gg->gg_uplink_sw_if_index);
 781             else
 782               send_ip6_na_w_addr (vlib_get_main (),
 783                                   &pfx->fp_addr.ip6,
 784                                   gg->gg_uplink_sw_if_index);
 785           }
 786       }
 787   }
 788
 789   if (gbp_endpoint_is_local (ge) && !gbp_endpoint_is_external (ge))
 790     {
 791       /*
 792        * non-remote endpoints (i.e. those not arriving on iVXLAN
 793        * tunnels) need to be classifed based on the the input interface.
 794        * We enable the GBP-FWD feature only if the group has an uplink
 795        * interface (on which the GBP-FWD feature would send UU traffic).
 796        * External endpoints get classified based on an LPM match
 797        */
 798       l2input_feat_masks_t feats = L2INPUT_FEAT_GBP_SRC_CLASSIFY;
 799
 800       if (NULL != gg && ~0 != gg->gg_uplink_sw_if_index)
 801         feats |= L2INPUT_FEAT_GBP_FWD;
 802       gbp_itf_set_l2_input_feature (gef->gef_itf, gei, feats);
 803     }
 804
 805   /*
 806    * update children with the new forwarding info
 807    */
 808   fib_node_back_walk_ctx_t bw_ctx = {
 809     .fnbw_reason = FIB_NODE_BW_REASON_FLAG_EVALUATE,
 810     .fnbw_flags = FIB_NODE_BW_FLAG_FORCE_SYNC,
 811   };
 812
 813   fib_walk_sync (gbp_endpoint_fib_type, gei, &bw_ctx);
 814 }
 815
 816 int
 817 gbp_endpoint_update_and_lock (gbp_endpoint_src_t src,
 818                               u32 sw_if_index,
 819                               const ip46_address_t * ips,
 820                               const mac_address_t * mac,
 821                               index_t gbdi, index_t grdi,
 822                               sclass_t sclass,
 823                               gbp_endpoint_flags_t flags,
 824                               const ip46_address_t * tun_src,
 825                               const ip46_address_t * tun_dst, u32 * handle)
 826 {
 827   gbp_bridge_domain_t *gbd;
 828   gbp_endpoint_group_t *gg;
 829   gbp_endpoint_src_t best;
 830   gbp_route_domain_t *grd;
 831   gbp_endpoint_loc_t *gel;
 832   gbp_endpoint_t *ge;
 833   index_t ggi, gei;
 834   int rv;
 835
 836   if (~0 == sw_if_index)
 837     return (VNET_API_ERROR_INVALID_SW_IF_INDEX);
 838
 839   ge = NULL;
 840   gg = NULL;
 841
 842   /*
 843    * we need to determine the bridge-domain, either from the EPG or
 844    * the BD passed
 845    */
 846   if (SCLASS_INVALID != sclass)
 847     {
 848       ggi = gbp_endpoint_group_find (sclass);
 849
 850       if (INDEX_INVALID == ggi)
 851         return (VNET_API_ERROR_NO_SUCH_ENTRY);
 852
 853       gg = gbp_endpoint_group_get (ggi);
 854       gbdi = gg->gg_gbd;
 855       grdi = gg->gg_rd;
 856     }
 857   else
 858     {
 859       if (INDEX_INVALID == gbdi)
 860         return (VNET_API_ERROR_NO_SUCH_ENTRY);
 861       if (INDEX_INVALID == grdi)
 862         return (VNET_API_ERROR_NO_SUCH_FIB);
 863       ggi = INDEX_INVALID;
 864     }
 865
 866   gbd = gbp_bridge_domain_get (gbdi);
 867   grd = gbp_route_domain_get (grdi);
 868   rv = gbp_endpoint_find_for_update (ips, grd, mac, gbd, &ge);
 869
 870   if (0 != rv)
 871     return (rv);
 872
 873   if (NULL == ge)
 874     {
 875       ge = gbp_endpoint_alloc (ips, grd, mac, gbd);
 876     }
 877   else
 878     {
 879       gbp_endpoint_ips_update (ge, ips, grd);
 880     }
 881
 882   best = gbp_endpoint_get_best_src (ge);
 883   gei = gbp_endpoint_index (ge);
 884   gel = gbp_endpoint_loc_find_or_add (ge, src);
 885
 886   gbp_endpoint_loc_update (gel, gbd, sw_if_index, ggi, flags, tun_src,
 887                            tun_dst);
 888
 889   if (src <= best)
 890     {
 891       /*
 892        * either the best source has been updated or we have a new best source
 893        */
 894       gbb_endpoint_fwd_reset (ge);
 895       gbb_endpoint_fwd_recalc (ge);
 896     }
 897   else
 898     {
 899       /*
 900        * an update to a lower priority source, so we need do nothing
 901        */
 902     }
 903
 904   if (handle)
 905     *handle = gei;
 906
 907   GBP_ENDPOINT_INFO ("update: %U", format_gbp_endpoint, gei);
 908
 909   return (0);
 910 }
 911
 912 void
 913 gbp_endpoint_unlock (gbp_endpoint_src_t src, index_t gei)
 914 {
 915   gbp_endpoint_loc_t *gel, gel_copy;
 916   gbp_endpoint_src_t best;
 917   gbp_endpoint_t *ge;
 918   int removed;
 919
 920   if (pool_is_free_index (gbp_endpoint_pool, gei))
 921     return;
 922
 923   GBP_ENDPOINT_INFO ("delete: %U", format_gbp_endpoint, gei);
 924
 925   ge = gbp_endpoint_get (gei);
 926
 927   gel = gbp_endpoint_loc_find (ge, src);
 928
 929   if (NULL == gel)
 930     return;
 931
 932   /*
 933    * lock the EP so we can control when it is deleted
 934    */
 935   fib_node_lock (&ge->ge_node);
 936   best = gbp_endpoint_get_best_src (ge);
 937
 938   /*
 939    * copy the location info since we'll lose it when it's removed from
 940    * the vector
 941    */
 942   clib_memcpy (&gel_copy, gel, sizeof (gel_copy));
 943
 944   /*
 945    * remove the source we no longer need
 946    */
 947   removed = gbp_endpoint_loc_unlock (ge, gel);
 948
 949   if (src == best)
 950     {
 951       /*
 952        * we have removed the old best source => recalculate fwding
 953        */
 954       if (0 == vec_len (ge->ge_locs))
 955         {
 956           /*
 957            * if there are no more sources left, then we need only release
 958            * the fwding resources held and then this EP is gawn.
 959            */
 960           gbb_endpoint_fwd_reset (ge);
 961         }
 962       else
 963         {
 964           /*
 965            * else there are more sources. release the old and get new
 966            * fwding objects
 967            */
 968           gbb_endpoint_fwd_reset (ge);
 969           gbb_endpoint_fwd_recalc (ge);
 970         }
 971     }
 972   /*
 973    * else
 974    *  we removed a lower priority source so we need to do nothing
 975    */
 976
 977   /*
 978    * clear up any resources held by the source
 979    */
 980   if (removed)
 981     gbp_endpoint_loc_destroy (&gel_copy);
 982
 983   /*
 984    * remove the lock taken above
 985    */
 986   fib_node_unlock (&ge->ge_node);
 987   /*
 988    *  We may have removed the last source and so this EP is now TOAST
 989    *  DO NOTHING BELOW HERE
 990    */
 991 }
 992
 993 u32
 994 gbp_endpoint_child_add (index_t gei,
 995                         fib_node_type_t type, fib_node_index_t index)
 996 {
 997   return (fib_node_child_add (gbp_endpoint_fib_type, gei, type, index));
 998 }
 999
1000 void
1001 gbp_endpoint_child_remove (index_t gei, u32 sibling)
1002 {
1003   return (fib_node_child_remove (gbp_endpoint_fib_type, gei, sibling));
1004 }
1005
1006 typedef struct gbp_endpoint_flush_ctx_t_
1007 {
1008   u32 sw_if_index;
1009   gbp_endpoint_src_t src;
1010   index_t *geis;
1011 } gbp_endpoint_flush_ctx_t;
1012
1013 static walk_rc_t
1014 gbp_endpoint_flush_cb (index_t gei, void *args)
1015 {
1016   gbp_endpoint_flush_ctx_t *ctx = args;
1017   gbp_endpoint_loc_t *gel;
1018   gbp_endpoint_t *ge;
1019
1020   ge = gbp_endpoint_get (gei);
1021   gel = gbp_endpoint_loc_find (ge, ctx->src);
1022
1023   if ((NULL != gel) && ctx->sw_if_index == gel->tun.gel_parent_sw_if_index)
1024     {
1025       vec_add1 (ctx->geis, gei);
1026     }
1027
1028   return (WALK_CONTINUE);
1029 }
1030
1031 /**
1032  * remove all learnt endpoints using the interface
1033  */
1034 void
1035 gbp_endpoint_flush (gbp_endpoint_src_t src, u32 sw_if_index)
1036 {
1037   gbp_endpoint_flush_ctx_t ctx = {
1038     .sw_if_index = sw_if_index,
1039     .src = src,
1040   };
1041   index_t *gei;
1042
1043   GBP_ENDPOINT_INFO ("flush: %U %U",
1044                      format_gbp_endpoint_src, src,
1045                      format_vnet_sw_if_index_name, vnet_get_main (),
1046                      sw_if_index);
1047   gbp_endpoint_walk (gbp_endpoint_flush_cb, &ctx);
1048
1049   vec_foreach (gei, ctx.geis)
1050   {
1051     gbp_endpoint_unlock (src, *gei);
1052   }
1053
1054   vec_free (ctx.geis);
1055 }
1056
1057 void
1058 gbp_endpoint_walk (gbp_endpoint_cb_t cb, void *ctx)
1059 {
1060   u32 index;
1061
1062   /* *INDENT-OFF* */
1063   pool_foreach_index(index, gbp_endpoint_pool,
1064   {
1065     if (!cb(index, ctx))
1066       break;
1067   });
1068   /* *INDENT-ON* */
1069 }
1070
1071 static clib_error_t *
1072 gbp_endpoint_cli (vlib_main_t * vm,
1073                   unformat_input_t * input, vlib_cli_command_t * cmd)
1074 {
1075   ip46_address_t ip = ip46_address_initializer, *ips = NULL;
1076   mac_address_t mac = ZERO_MAC_ADDRESS;
1077   vnet_main_t *vnm = vnet_get_main ();
1078   u32 sclass = SCLASS_INVALID;
1079   u32 handle = INDEX_INVALID;
1080   u32 sw_if_index = ~0;
1081   u8 add = 1;
1082   int rv;
1083
1084   while (unformat_check_input (input) != UNFORMAT_END_OF_INPUT)
1085     {
1086       ip46_address_reset (&ip);
1087
1088       if (unformat (input, "%U", unformat_vnet_sw_interface,
1089                     vnm, &sw_if_index))
1090         ;
1091       else if (unformat (input, "add"))
1092         add = 1;
1093       else if (unformat (input, "del"))
1094         add = 0;
1095       else if (unformat (input, "sclass %d", &sclass))
1096         ;
1097       else if (unformat (input, "handle %d", &handle))
1098         ;
1099       else if (unformat (input, "ip %U", unformat_ip4_address, &ip.ip4))
1100         vec_add1 (ips, ip);
1101       else if (unformat (input, "ip %U", unformat_ip6_address, &ip.ip6))
1102         vec_add1 (ips, ip);
1103       else if (unformat (input, "mac %U", unformat_mac_address, &mac))
1104         ;
1105       else
1106         break;
1107     }
1108
1109   if (add)
1110     {
1111       if (~0 == sw_if_index)
1112         return clib_error_return (0, "interface must be specified");
1113       if (SCLASS_INVALID == sclass)
1114         return clib_error_return (0, "SCLASS must be specified");
1115
1116       rv =
1117         gbp_endpoint_update_and_lock (GBP_ENDPOINT_SRC_CP,
1118                                       sw_if_index, ips, &mac,
1119                                       INDEX_INVALID, INDEX_INVALID,
1120                                       sclass,
1121                                       GBP_ENDPOINT_FLAG_NONE,
1122                                       NULL, NULL, &handle);
1123
1124       if (rv)
1125         return clib_error_return (0, "GBP Endpoint update returned %d", rv);
1126       else
1127         vlib_cli_output (vm, "handle %d\n", handle);
1128     }
1129   else
1130     {
1131       if (INDEX_INVALID == handle)
1132         return clib_error_return (0, "handle must be specified");
1133
1134       gbp_endpoint_unlock (GBP_ENDPOINT_SRC_CP, handle);
1135     }
1136
1137   vec_free (ips);
1138
1139   return (NULL);
1140 }
1141
1142 /*?
1143  * Configure a GBP Endpoint
1144  *
1145  * @cliexpar
1146  * @cliexstart{set gbp endpoint [del] <interface> epg <ID> ip <IP>}
1147  * @cliexend
1148  ?*/
1149 /* *INDENT-OFF* */
1150 VLIB_CLI_COMMAND (gbp_endpoint_cli_node, static) = {
1151   .path = "gbp endpoint",
1152   .short_help = "gbp endpoint [del] <interface> epg <ID> ip <IP> mac <MAC>",
1153   .function = gbp_endpoint_cli,
1154 };
1155 /* *INDENT-ON* */
1156
1157 u8 *
1158 format_gbp_endpoint_src (u8 * s, va_list * args)
1159 {
1160   gbp_endpoint_src_t action = va_arg (*args, gbp_endpoint_src_t);
1161
1162   switch (action)
1163     {
1164 #define _(v,a) case GBP_ENDPOINT_SRC_##v: return (format (s, "%s", a));
1165       foreach_gbp_endpoint_src
1166 #undef _
1167     }
1168
1169   return (format (s, "unknown"));
1170 }
1171
1172 static u8 *
1173 format_gbp_endpoint_fwd (u8 * s, va_list * args)
1174 {
1175   gbp_endpoint_fwd_t *gef = va_arg (*args, gbp_endpoint_fwd_t *);
1176
1177   s = format (s, "fwd:");
1178   s = format (s, "\n   itf:[%U]", format_gbp_itf, gef->gef_itf);
1179   if (GBP_ENDPOINT_FLAG_NONE != gef->gef_flags)
1180     {
1181       s = format (s, " flags:%U", format_gbp_endpoint_flags, gef->gef_flags);
1182     }
1183
1184   return (s);
1185 }
1186
1187 static u8 *
1188 format_gbp_endpoint_key (u8 * s, va_list * args)
1189 {
1190   gbp_endpoint_key_t *gek = va_arg (*args, gbp_endpoint_key_t *);
1191   const fib_prefix_t *pfx;
1192
1193   s = format (s, "ips:[");
1194
1195   vec_foreach (pfx, gek->gek_ips)
1196   {
1197     s = format (s, "%U, ", format_fib_prefix, pfx);
1198   }
1199   s = format (s, "]");
1200
1201   s = format (s, " mac:%U", format_mac_address_t, &gek->gek_mac);
1202
1203   return (s);
1204 }
1205
1206 static u8 *
1207 format_gbp_endpoint_loc (u8 * s, va_list * args)
1208 {
1209   gbp_endpoint_loc_t *gel = va_arg (*args, gbp_endpoint_loc_t *);
1210
1211   s = format (s, "%U", format_gbp_endpoint_src, gel->gel_src);
1212   s =
1213     format (s, "\n    %U", format_vnet_sw_if_index_name, vnet_get_main (),
1214             gel->gel_sw_if_index);
1215   s = format (s, " EPG:%d", gel->gel_epg);
1216
1217   if (GBP_ENDPOINT_FLAG_NONE != gel->gel_flags)
1218     {
1219       s = format (s, " flags:%U", format_gbp_endpoint_flags, gel->gel_flags);
1220     }
1221   if (GBP_ENDPOINT_FLAG_REMOTE & gel->gel_flags)
1222     {
1223       s = format (s, " tun:[");
1224       s = format (s, "parent:%U", format_vnet_sw_if_index_name,
1225                   vnet_get_main (), gel->tun.gel_parent_sw_if_index);
1226       s = format (s, " {%U,%U}]",
1227                   format_ip46_address, &gel->tun.gel_src, IP46_TYPE_ANY,
1228                   format_ip46_address, &gel->tun.gel_dst, IP46_TYPE_ANY);
1229     }
1230
1231   return (s);
1232 }
1233
1234 u8 *
1235 format_gbp_endpoint (u8 * s, va_list * args)
1236 {
1237   index_t gei = va_arg (*args, index_t);
1238   gbp_endpoint_loc_t *gel;
1239   gbp_endpoint_t *ge;
1240
1241   ge = gbp_endpoint_get (gei);
1242
1243   s = format (s, "[@%d] %U", gei, format_gbp_endpoint_key, &ge->ge_key);
1244   s = format (s, " last-time:[%f]", ge->ge_last_time);
1245
1246   vec_foreach (gel, ge->ge_locs)
1247   {
1248     s = format (s, "\n  %U", format_gbp_endpoint_loc, gel);
1249   }
1250   s = format (s, "\n  %U", format_gbp_endpoint_fwd, &ge->ge_fwd);
1251
1252   return s;
1253 }
1254
1255 static walk_rc_t
1256 gbp_endpoint_show_one (index_t gei, void *ctx)
1257 {
1258   vlib_main_t *vm;
1259
1260   vm = ctx;
1261   vlib_cli_output (vm, " %U", format_gbp_endpoint, gei);
1262
1263   return (WALK_CONTINUE);
1264 }
1265
1266 static void
1267 gbp_endpoint_walk_ip_itf (const clib_bihash_kv_24_8_t * kvp, void *arg)
1268 {
1269   ip46_address_t ip;
1270   vlib_main_t *vm;
1271   u32 sw_if_index;
1272
1273   vm = arg;
1274
1275   gbp_endpoint_extract_key_ip_itf (kvp, &ip, &sw_if_index);
1276
1277   vlib_cli_output (vm, " {%U, %U} -> %d",
1278                    format_ip46_address, &ip, IP46_TYPE_ANY,
1279                    format_vnet_sw_if_index_name, vnet_get_main (),
1280                    sw_if_index, kvp->value);
1281 }
1282
1283 static void
1284 gbp_endpoint_walk_mac_itf (const clib_bihash_kv_16_8_t * kvp, void *arg)
1285 {
1286   mac_address_t mac;
1287   vlib_main_t *vm;
1288   u32 sw_if_index;
1289
1290   vm = arg;
1291
1292   gbp_endpoint_extract_key_mac_itf (kvp, &mac, &sw_if_index);
1293
1294   vlib_cli_output (vm, " {%U, %U} -> %d",
1295                    format_mac_address_t, &mac,
1296                    format_vnet_sw_if_index_name, vnet_get_main (),
1297                    sw_if_index, kvp->value);
1298 }
1299
1300 static clib_error_t *
1301 gbp_endpoint_show (vlib_main_t * vm,
1302                    unformat_input_t * input, vlib_cli_command_t * cmd)
1303 {
1304   u32 show_dbs, handle;
1305
1306   handle = INDEX_INVALID;
1307   show_dbs = 0;
1308
1309   while (unformat_check_input (input) != UNFORMAT_END_OF_INPUT)
1310     {
1311       if (unformat (input, "%d", &handle))
1312         ;
1313       else if (unformat (input, "db"))
1314         show_dbs = 1;
1315       else
1316         break;
1317     }
1318
1319   if (INDEX_INVALID != handle)
1320     {
1321       vlib_cli_output (vm, "%U", format_gbp_endpoint, handle);
1322     }
1323   else if (show_dbs)
1324     {
1325       vlib_cli_output (vm, "\nDatabases:");
1326       clib_bihash_foreach_key_value_pair_24_8 (&gbp_ep_db.ged_by_ip_rd,
1327                                                gbp_endpoint_walk_ip_itf, vm);
1328       clib_bihash_foreach_key_value_pair_16_8
1329         (&gbp_ep_db.ged_by_mac_bd, gbp_endpoint_walk_mac_itf, vm);
1330     }
1331   else
1332     {
1333       vlib_cli_output (vm, "Endpoints:");
1334       gbp_endpoint_walk (gbp_endpoint_show_one, vm);
1335     }
1336
1337   return (NULL);
1338 }
1339
1340 /*?
1341  * Show Group Based Policy Endpoints and derived information
1342  *
1343  * @cliexpar
1344  * @cliexstart{show gbp endpoint}
1345  * @cliexend
1346  ?*/
1347 /* *INDENT-OFF* */
1348 VLIB_CLI_COMMAND (gbp_endpoint_show_node, static) = {
1349   .path = "show gbp endpoint",
1350   .short_help = "show gbp endpoint\n",
1351   .function = gbp_endpoint_show,
1352 };
1353 /* *INDENT-ON* */
1354
1355 static void
1356 gbp_endpoint_check (index_t gei, f64 start_time)
1357 {
1358   gbp_endpoint_group_t *gg;
1359   gbp_endpoint_loc_t *gel;
1360   gbp_endpoint_t *ge;
1361
1362   ge = gbp_endpoint_get (gei);
1363   gel = gbp_endpoint_loc_find (ge, GBP_ENDPOINT_SRC_DP);
1364
1365   if (NULL != gel)
1366     {
1367       gg = gbp_endpoint_group_get (gel->gel_epg);
1368
1369       if ((start_time - ge->ge_last_time) >
1370           gg->gg_retention.remote_ep_timeout)
1371         {
1372           gbp_endpoint_unlock (GBP_ENDPOINT_SRC_DP, gei);
1373         }
1374     }
1375 }
1376
1377 static void
1378 gbp_endpoint_scan_l2 (vlib_main_t * vm)
1379 {
1380   clib_bihash_16_8_t *gte_table = &gbp_ep_db.ged_by_mac_bd;
1381   f64 last_start, start_time, delta_t;
1382   int i, j, k;
1383
1384   delta_t = 0;
1385   last_start = start_time = vlib_time_now (vm);
1386
1387   for (i = 0; i < gte_table->nbuckets; i++)
1388     {
1389       clib_bihash_bucket_16_8_t *b;
1390       clib_bihash_value_16_8_t *v;
1391
1392       /* allow no more than 20us without a pause */
1393       delta_t = vlib_time_now (vm) - last_start;
1394       if (delta_t > 20e-6)
1395         {
1396           /* suspend for 100 us */
1397           vlib_process_suspend (vm, 100e-6);
1398           last_start = vlib_time_now (vm);
1399         }
1400
1401       b = &gte_table->buckets[i];
1402       if (b->offset == 0)
1403         continue;
1404       v = clib_bihash_get_value_16_8 (gte_table, b->offset);
1405
1406       for (j = 0; j < (1 << b->log2_pages); j++)
1407         {
1408           for (k = 0; k < BIHASH_KVP_PER_PAGE; k++)
1409             {
1410               if (clib_bihash_is_free_16_8 (&v->kvp[k]))
1411                 continue;
1412
1413               gbp_endpoint_check (v->kvp[k].value, start_time);
1414
1415               /*
1416                * Note: we may have just freed the bucket's backing
1417                * storage, so check right here...
1418                */
1419               if (b->offset == 0)
1420                 goto doublebreak;
1421             }
1422           v++;
1423         }
1424     doublebreak:
1425       ;
1426     }
1427 }
1428
1429 static void
1430 gbp_endpoint_scan_l3 (vlib_main_t * vm)
1431 {
1432   clib_bihash_24_8_t *gte_table = &gbp_ep_db.ged_by_ip_rd;
1433   f64 last_start, start_time, delta_t;
1434   int i, j, k;
1435
1436   delta_t = 0;
1437   last_start = start_time = vlib_time_now (vm);
1438
1439   for (i = 0; i < gte_table->nbuckets; i++)
1440     {
1441       clib_bihash_bucket_24_8_t *b;
1442       clib_bihash_value_24_8_t *v;
1443
1444       /* allow no more than 20us without a pause */
1445       delta_t = vlib_time_now (vm) - last_start;
1446       if (delta_t > 20e-6)
1447         {
1448           /* suspend for 100 us */
1449           vlib_process_suspend (vm, 100e-6);
1450           last_start = vlib_time_now (vm);
1451         }
1452
1453       b = &gte_table->buckets[i];
1454       if (b->offset == 0)
1455         continue;
1456       v = clib_bihash_get_value_24_8 (gte_table, b->offset);
1457
1458       for (j = 0; j < (1 << b->log2_pages); j++)
1459         {
1460           for (k = 0; k < BIHASH_KVP_PER_PAGE; k++)
1461             {
1462               if (clib_bihash_is_free_24_8 (&v->kvp[k]))
1463                 continue;
1464
1465               gbp_endpoint_check (v->kvp[k].value, start_time);
1466
1467               /*
1468                * Note: we may have just freed the bucket's backing
1469                * storage, so check right here...
1470                */
1471               if (b->offset == 0)
1472                 goto doublebreak;
1473             }
1474           v++;
1475         }
1476     doublebreak:
1477       ;
1478     }
1479 }
1480
1481 void
1482 gbp_endpoint_scan (vlib_main_t * vm)
1483 {
1484   gbp_endpoint_scan_l2 (vm);
1485   gbp_endpoint_scan_l3 (vm);
1486 }
1487
1488 static fib_node_t *
1489 gbp_endpoint_get_node (fib_node_index_t index)
1490 {
1491   gbp_endpoint_t *ge;
1492
1493   ge = gbp_endpoint_get (index);
1494
1495   return (&ge->ge_node);
1496 }
1497
1498 static gbp_endpoint_t *
1499 gbp_endpoint_from_fib_node (fib_node_t * node)
1500 {
1501   ASSERT (gbp_endpoint_fib_type == node->fn_type);
1502   return ((gbp_endpoint_t *) node);
1503 }
1504
1505 static void
1506 gbp_endpoint_last_lock_gone (fib_node_t * node)
1507 {
1508   const gbp_bridge_domain_t *gbd;
1509   const gbp_route_domain_t *grd;
1510   const fib_prefix_t *pfx;
1511   gbp_endpoint_t *ge;
1512
1513   ge = gbp_endpoint_from_fib_node (node);
1514
1515   ASSERT (0 == vec_len (ge->ge_locs));
1516
1517   gbd = gbp_bridge_domain_get (ge->ge_key.gek_gbd);
1518
1519   /*
1520    * we have removed the last source. this EP is toast
1521    */
1522   if (INDEX_INVALID != ge->ge_key.gek_gbd)
1523     {
1524       gbp_endpoint_del_mac (&ge->ge_key.gek_mac, gbd->gb_bd_index);
1525     }
1526   vec_foreach (pfx, ge->ge_key.gek_ips)
1527   {
1528     grd = gbp_route_domain_get (ge->ge_key.gek_grd);
1529     gbp_endpoint_del_ip (&pfx->fp_addr, grd->grd_fib_index[pfx->fp_proto]);
1530   }
1531   pool_put (gbp_endpoint_pool, ge);
1532 }
1533
1534 static fib_node_back_walk_rc_t
1535 gbp_endpoint_back_walk_notify (fib_node_t * node,
1536                                fib_node_back_walk_ctx_t * ctx)
1537 {
1538   ASSERT (0);
1539
1540   return (FIB_NODE_BACK_WALK_CONTINUE);
1541 }
1542
1543 /*
1544  * The FIB path's graph node virtual function table
1545  */
1546 static const fib_node_vft_t gbp_endpoint_vft = {
1547   .fnv_get = gbp_endpoint_get_node,
1548   .fnv_last_lock = gbp_endpoint_last_lock_gone,
1549   .fnv_back_walk = gbp_endpoint_back_walk_notify,
1550   // .fnv_mem_show = fib_path_memory_show,
1551 };
1552
1553 static clib_error_t *
1554 gbp_endpoint_init (vlib_main_t * vm)
1555 {
1556 #define GBP_EP_HASH_NUM_BUCKETS (2 * 1024)
1557 #define GBP_EP_HASH_MEMORY_SIZE (1 << 20)
1558
1559   clib_bihash_init_24_8 (&gbp_ep_db.ged_by_ip_rd,
1560                          "GBP Endpoints - IP/RD",
1561                          GBP_EP_HASH_NUM_BUCKETS, GBP_EP_HASH_MEMORY_SIZE);
1562
1563   clib_bihash_init_16_8 (&gbp_ep_db.ged_by_mac_bd,
1564                          "GBP Endpoints - MAC/BD",
1565                          GBP_EP_HASH_NUM_BUCKETS, GBP_EP_HASH_MEMORY_SIZE);
1566
1567   gbp_ep_logger = vlib_log_register_class ("gbp", "ep");
1568   gbp_endpoint_fib_type = fib_node_register_new_type (&gbp_endpoint_vft);
1569
1570   return (NULL);
1571 }
1572
1573 VLIB_INIT_FUNCTION (gbp_endpoint_init);
1574
1575 /*
1576  * fd.io coding-style-patch-verification: ON
1577  *
1578  * Local Variables:
1579  * eval: (c-set-style "gnu")
1580  * End:
1581  */