src/vnet/vxlan-gbp/encap.c

   1 /*
   2  * Copyright (c) 2018 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15 #include <vppinfra/error.h>
  16 #include <vppinfra/hash.h>
  17 #include <vnet/vnet.h>
  18 #include <vnet/ip/ip.h>
  19 #include <vnet/ethernet/ethernet.h>
  20 #include <vnet/interface_output.h>
  21 #include <vnet/vxlan-gbp/vxlan_gbp.h>
  22 #include <vnet/qos/qos_types.h>
  23 #include <vnet/adj/rewrite.h>
  24
  25 /* Statistics (not all errors) */
  26 #define foreach_vxlan_gbp_encap_error    \
  27 _(ENCAPSULATED, "good packets encapsulated")
  28
  29 static char *vxlan_gbp_encap_error_strings[] = {
  30 #define _(sym,string) string,
  31   foreach_vxlan_gbp_encap_error
  32 #undef _
  33 };
  34
  35 typedef enum
  36 {
  37 #define _(sym,str) VXLAN_GBP_ENCAP_ERROR_##sym,
  38   foreach_vxlan_gbp_encap_error
  39 #undef _
  40     VXLAN_GBP_ENCAP_N_ERROR,
  41 } vxlan_gbp_encap_error_t;
  42
  43 typedef enum
  44 {
  45   VXLAN_GBP_ENCAP_NEXT_DROP,
  46   VXLAN_GBP_ENCAP_N_NEXT,
  47 } vxlan_gbp_encap_next_t;
  48
  49 typedef struct
  50 {
  51   u32 tunnel_index;
  52   u32 vni;
  53   u16 sclass;
  54   u8 flags;
  55 } vxlan_gbp_encap_trace_t;
  56
  57 #ifndef CLIB_MARCH_VARIANT
  58 u8 *
  59 format_vxlan_gbp_encap_trace (u8 * s, va_list * args)
  60 {
  61   CLIB_UNUSED (vlib_main_t * vm) = va_arg (*args, vlib_main_t *);
  62   CLIB_UNUSED (vlib_node_t * node) = va_arg (*args, vlib_node_t *);
  63   vxlan_gbp_encap_trace_t *t = va_arg (*args, vxlan_gbp_encap_trace_t *);
  64
  65   s =
  66     format (s,
  67             "VXLAN_GBP encap to vxlan_gbp_tunnel%d vni %d sclass %d flags %U",
  68             t->tunnel_index, t->vni, t->sclass,
  69             format_vxlan_gbp_header_gpflags, t->flags);
  70   return s;
  71 }
  72 #endif /* CLIB_MARCH_VARIANT */
  73
  74 always_inline uword
  75 vxlan_gbp_encap_inline (vlib_main_t * vm,
  76                         vlib_node_runtime_t * node,
  77                         vlib_frame_t * from_frame, u8 is_ip4, u8 csum_offload)
  78 {
  79   u32 n_left_from, next_index, *from, *to_next;
  80   vxlan_gbp_main_t *vxm = &vxlan_gbp_main;
  81   vnet_main_t *vnm = vxm->vnet_main;
  82   vnet_interface_main_t *im = &vnm->interface_main;
  83   vlib_combined_counter_main_t *tx_counter =
  84     im->combined_sw_if_counters + VNET_INTERFACE_COUNTER_TX;
  85   u32 pkts_encapsulated = 0;
  86   u32 thread_index = vlib_get_thread_index ();
  87   u32 sw_if_index0 = 0, sw_if_index1 = 0;
  88   u32 next0 = 0, next1 = 0;
  89   vxlan_gbp_tunnel_t *t0 = NULL, *t1 = NULL;
  90   index_t dpoi_idx0 = INDEX_INVALID, dpoi_idx1 = INDEX_INVALID;
  91   vlib_buffer_t *bufs[VLIB_FRAME_SIZE], **b = bufs;
  92
  93   from = vlib_frame_vector_args (from_frame);
  94   n_left_from = from_frame->n_vectors;
  95   vlib_get_buffers (vm, from, bufs, n_left_from);
  96
  97   next_index = node->cached_next_index;
  98
  99   STATIC_ASSERT_SIZEOF (ip6_vxlan_gbp_header_t, 56);
 100   STATIC_ASSERT_SIZEOF (ip4_vxlan_gbp_header_t, 36);
 101
 102   u8 const underlay_hdr_len = is_ip4 ?
 103     sizeof (ip4_vxlan_gbp_header_t) : sizeof (ip6_vxlan_gbp_header_t);
 104   u16 const l3_len = is_ip4 ? sizeof (ip4_header_t) : sizeof (ip6_header_t);
 105   u32 const csum_flags =
 106     is_ip4 ? VNET_BUFFER_F_IS_IP4 | VNET_BUFFER_F_L3_HDR_OFFSET_VALID |
 107                VNET_BUFFER_F_L4_HDR_OFFSET_VALID :
 108              VNET_BUFFER_F_IS_IP6 | VNET_BUFFER_F_L3_HDR_OFFSET_VALID |
 109                VNET_BUFFER_F_L4_HDR_OFFSET_VALID;
 110   u32 const outer_packet_csum_offload_flags =
 111     is_ip4 ? VNET_BUFFER_OFFLOAD_F_IP_CKSUM | VNET_BUFFER_OFFLOAD_F_UDP_CKSUM :
 112              VNET_BUFFER_OFFLOAD_F_UDP_CKSUM;
 113   u32 const inner_packet_removed_flags =
 114     VNET_BUFFER_F_IS_IP4 | VNET_BUFFER_F_IS_IP6 |
 115     VNET_BUFFER_F_L2_HDR_OFFSET_VALID | VNET_BUFFER_F_L3_HDR_OFFSET_VALID |
 116     VNET_BUFFER_F_L4_HDR_OFFSET_VALID;
 117
 118   while (n_left_from > 0)
 119     {
 120       u32 n_left_to_next;
 121
 122       vlib_get_next_frame (vm, node, next_index, to_next, n_left_to_next);
 123
 124       while (n_left_from >= 4 && n_left_to_next >= 2)
 125         {
 126           /* Prefetch next iteration. */
 127           {
 128             vlib_buffer_t *p2, *p3;
 129
 130             p2 = vlib_get_buffer (vm, from[2]);
 131             p3 = vlib_get_buffer (vm, from[3]);
 132
 133             vlib_prefetch_buffer_header (p2, LOAD);
 134             vlib_prefetch_buffer_header (p3, LOAD);
 135
 136             CLIB_PREFETCH (b[2]->data - CLIB_CACHE_LINE_BYTES,
 137                            2 * CLIB_CACHE_LINE_BYTES, LOAD);
 138             CLIB_PREFETCH (b[3]->data - CLIB_CACHE_LINE_BYTES,
 139                            2 * CLIB_CACHE_LINE_BYTES, LOAD);
 140           }
 141
 142           u32 bi0 = to_next[0] = from[0];
 143           u32 bi1 = to_next[1] = from[1];
 144           from += 2;
 145           to_next += 2;
 146           n_left_to_next -= 2;
 147           n_left_from -= 2;
 148
 149           u32 or_flags = b[0]->flags | b[1]->flags;
 150           if (csum_offload && (or_flags & VNET_BUFFER_F_OFFLOAD))
 151             {
 152               /* Only calculate the non-GSO packet csum offload */
 153               if ((b[0]->flags & VNET_BUFFER_F_GSO) == 0)
 154                 {
 155                   vnet_calc_checksums_inline (vm, b[0],
 156                                               b[0]->flags &
 157                                               VNET_BUFFER_F_IS_IP4,
 158                                               b[0]->flags &
 159                                               VNET_BUFFER_F_IS_IP6);
 160                   b[0]->flags &= ~inner_packet_removed_flags;
 161                 }
 162               if ((b[1]->flags & VNET_BUFFER_F_GSO) == 0)
 163                 {
 164                   vnet_calc_checksums_inline (vm, b[1],
 165                                               b[1]->flags &
 166                                               VNET_BUFFER_F_IS_IP4,
 167                                               b[1]->flags &
 168                                               VNET_BUFFER_F_IS_IP6);
 169                   b[1]->flags &= ~inner_packet_removed_flags;
 170                 }
 171             }
 172
 173           u32 flow_hash0 = vnet_l2_compute_flow_hash (b[0]);
 174           u32 flow_hash1 = vnet_l2_compute_flow_hash (b[1]);
 175
 176           /* Get next node index and adj index from tunnel next_dpo */
 177           if (sw_if_index0 != vnet_buffer (b[0])->sw_if_index[VLIB_TX])
 178             {
 179               sw_if_index0 = vnet_buffer (b[0])->sw_if_index[VLIB_TX];
 180               vnet_hw_interface_t *hi0 =
 181                 vnet_get_sup_hw_interface (vnm, sw_if_index0);
 182               t0 = &vxm->tunnels[hi0->dev_instance];
 183               /* Note: change to always set next0 if it may set to drop */
 184               next0 = t0->next_dpo.dpoi_next_node;
 185               dpoi_idx0 = t0->next_dpo.dpoi_index;
 186             }
 187
 188           /* Get next node index and adj index from tunnel next_dpo */
 189           if (sw_if_index1 != vnet_buffer (b[1])->sw_if_index[VLIB_TX])
 190             {
 191               if (sw_if_index0 == vnet_buffer (b[1])->sw_if_index[VLIB_TX])
 192                 {
 193                   sw_if_index1 = sw_if_index0;
 194                   t1 = t0;
 195                   next1 = next0;
 196                   dpoi_idx1 = dpoi_idx0;
 197                 }
 198               else
 199                 {
 200                   sw_if_index1 = vnet_buffer (b[1])->sw_if_index[VLIB_TX];
 201                   vnet_hw_interface_t *hi1 =
 202                     vnet_get_sup_hw_interface (vnm, sw_if_index1);
 203                   t1 = &vxm->tunnels[hi1->dev_instance];
 204                   /* Note: change to always set next1 if it may set to drop */
 205                   next1 = t1->next_dpo.dpoi_next_node;
 206                   dpoi_idx1 = t1->next_dpo.dpoi_index;
 207                 }
 208             }
 209
 210           vnet_buffer (b[0])->ip.adj_index[VLIB_TX] = dpoi_idx0;
 211           vnet_buffer (b[1])->ip.adj_index[VLIB_TX] = dpoi_idx1;
 212
 213           ASSERT (t0->rewrite_header.data_bytes == underlay_hdr_len);
 214           ASSERT (t1->rewrite_header.data_bytes == underlay_hdr_len);
 215           vnet_rewrite_two_headers (*t0, *t1, vlib_buffer_get_current (b[0]),
 216                                     vlib_buffer_get_current (b[1]),
 217                                     underlay_hdr_len);
 218
 219           vlib_buffer_advance (b[0], -underlay_hdr_len);
 220           vlib_buffer_advance (b[1], -underlay_hdr_len);
 221
 222           u32 len0 = vlib_buffer_length_in_chain (vm, b[0]);
 223           u32 len1 = vlib_buffer_length_in_chain (vm, b[1]);
 224           u16 payload_l0 = clib_host_to_net_u16 (len0 - l3_len);
 225           u16 payload_l1 = clib_host_to_net_u16 (len1 - l3_len);
 226
 227           void *underlay0 = vlib_buffer_get_current (b[0]);
 228           void *underlay1 = vlib_buffer_get_current (b[1]);
 229
 230           ip4_header_t *ip4_0, *ip4_1;
 231           qos_bits_t ip4_0_tos = 0, ip4_1_tos = 0;
 232           ip6_header_t *ip6_0, *ip6_1;
 233           udp_header_t *udp0, *udp1;
 234           vxlan_gbp_header_t *vxlan_gbp0, *vxlan_gbp1;
 235           u8 *l3_0, *l3_1;
 236           if (is_ip4)
 237             {
 238               ip4_vxlan_gbp_header_t *hdr0 = underlay0;
 239               ip4_vxlan_gbp_header_t *hdr1 = underlay1;
 240
 241               /* Fix the IP4 checksum and length */
 242               ip4_0 = &hdr0->ip4;
 243               ip4_1 = &hdr1->ip4;
 244               ip4_0->length = clib_host_to_net_u16 (len0);
 245               ip4_1->length = clib_host_to_net_u16 (len1);
 246
 247               if (PREDICT_FALSE (b[0]->flags & VNET_BUFFER_F_QOS_DATA_VALID))
 248                 {
 249                   ip4_0_tos = vnet_buffer2 (b[0])->qos.bits;
 250                   ip4_0->tos = ip4_0_tos;
 251                 }
 252               if (PREDICT_FALSE (b[1]->flags & VNET_BUFFER_F_QOS_DATA_VALID))
 253                 {
 254                   ip4_1_tos = vnet_buffer2 (b[1])->qos.bits;
 255                   ip4_1->tos = ip4_1_tos;
 256                 }
 257
 258               l3_0 = (u8 *) ip4_0;
 259               l3_1 = (u8 *) ip4_1;
 260               udp0 = &hdr0->udp;
 261               udp1 = &hdr1->udp;
 262               vxlan_gbp0 = &hdr0->vxlan_gbp;
 263               vxlan_gbp1 = &hdr1->vxlan_gbp;
 264             }
 265           else                  /* ipv6 */
 266             {
 267               ip6_vxlan_gbp_header_t *hdr0 = underlay0;
 268               ip6_vxlan_gbp_header_t *hdr1 = underlay1;
 269
 270               /* Fix IP6 payload length */
 271               ip6_0 = &hdr0->ip6;
 272               ip6_1 = &hdr1->ip6;
 273               ip6_0->payload_length = payload_l0;
 274               ip6_1->payload_length = payload_l1;
 275
 276               l3_0 = (u8 *) ip6_0;
 277               l3_1 = (u8 *) ip6_1;
 278               udp0 = &hdr0->udp;
 279               udp1 = &hdr1->udp;
 280               vxlan_gbp0 = &hdr0->vxlan_gbp;
 281               vxlan_gbp1 = &hdr1->vxlan_gbp;
 282             }
 283
 284           /* Fix UDP length  and set source port */
 285           udp0->length = payload_l0;
 286           udp0->src_port = flow_hash0;
 287           udp1->length = payload_l1;
 288           udp1->src_port = flow_hash1;
 289
 290           /* set source class and gpflags */
 291           vxlan_gbp0->gpflags = vnet_buffer2 (b[0])->gbp.flags;
 292           vxlan_gbp1->gpflags = vnet_buffer2 (b[1])->gbp.flags;
 293           vxlan_gbp0->sclass =
 294             clib_host_to_net_u16 (vnet_buffer2 (b[0])->gbp.sclass);
 295           vxlan_gbp1->sclass =
 296             clib_host_to_net_u16 (vnet_buffer2 (b[1])->gbp.sclass);
 297
 298           if (csum_offload)
 299             {
 300               b[0]->flags |= csum_flags;
 301               vnet_buffer (b[0])->l3_hdr_offset = l3_0 - b[0]->data;
 302               vnet_buffer (b[0])->l4_hdr_offset = (u8 *) udp0 - b[0]->data;
 303               vnet_buffer_offload_flags_set (b[0],
 304                                              outer_packet_csum_offload_flags);
 305               b[1]->flags |= csum_flags;
 306               vnet_buffer (b[1])->l3_hdr_offset = l3_1 - b[1]->data;
 307               vnet_buffer (b[1])->l4_hdr_offset = (u8 *) udp1 - b[1]->data;
 308               vnet_buffer_offload_flags_set (b[1],
 309                                              outer_packet_csum_offload_flags);
 310             }
 311           /* IPv4 UDP checksum only if checksum offload is used */
 312           else if (is_ip4)
 313             {
 314               ip_csum_t sum0 = ip4_0->checksum;
 315               sum0 = ip_csum_update (sum0, 0, ip4_0->length, ip4_header_t,
 316                                      length /* changed member */ );
 317               if (PREDICT_FALSE (ip4_0_tos))
 318                 {
 319                   sum0 = ip_csum_update (sum0, 0, ip4_0_tos, ip4_header_t,
 320                                          tos /* changed member */ );
 321                 }
 322               ip4_0->checksum = ip_csum_fold (sum0);
 323               ip_csum_t sum1 = ip4_1->checksum;
 324               sum1 = ip_csum_update (sum1, 0, ip4_1->length, ip4_header_t,
 325                                      length /* changed member */ );
 326               if (PREDICT_FALSE (ip4_1_tos))
 327                 {
 328                   sum1 = ip_csum_update (sum1, 0, ip4_1_tos, ip4_header_t,
 329                                          tos /* changed member */ );
 330                 }
 331               ip4_1->checksum = ip_csum_fold (sum1);
 332             }
 333           /* IPv6 UDP checksum is mandatory */
 334           else
 335             {
 336               int bogus = 0;
 337
 338               udp0->checksum = ip6_tcp_udp_icmp_compute_checksum
 339                 (vm, b[0], ip6_0, &bogus);
 340               ASSERT (bogus == 0);
 341               if (udp0->checksum == 0)
 342                 udp0->checksum = 0xffff;
 343               udp1->checksum = ip6_tcp_udp_icmp_compute_checksum
 344                 (vm, b[1], ip6_1, &bogus);
 345               ASSERT (bogus == 0);
 346               if (udp1->checksum == 0)
 347                 udp1->checksum = 0xffff;
 348             }
 349
 350           /* save inner packet flow_hash for load-balance node */
 351           vnet_buffer (b[0])->ip.flow_hash = flow_hash0;
 352           vnet_buffer (b[1])->ip.flow_hash = flow_hash1;
 353
 354           vlib_increment_combined_counter (tx_counter, thread_index,
 355                                            sw_if_index0, 1, len0);
 356           vlib_increment_combined_counter (tx_counter, thread_index,
 357                                            sw_if_index1, 1, len1);
 358           pkts_encapsulated += 2;
 359
 360           if (PREDICT_FALSE (b[0]->flags & VLIB_BUFFER_IS_TRACED))
 361             {
 362               vxlan_gbp_encap_trace_t *tr =
 363                 vlib_add_trace (vm, node, b[0], sizeof (*tr));
 364               tr->tunnel_index = t0 - vxm->tunnels;
 365               tr->vni = t0->vni;
 366               tr->sclass = vnet_buffer2 (b[0])->gbp.sclass;
 367               tr->flags = vnet_buffer2 (b[0])->gbp.flags;
 368             }
 369
 370           if (PREDICT_FALSE (b[1]->flags & VLIB_BUFFER_IS_TRACED))
 371             {
 372               vxlan_gbp_encap_trace_t *tr =
 373                 vlib_add_trace (vm, node, b[1], sizeof (*tr));
 374               tr->tunnel_index = t1 - vxm->tunnels;
 375               tr->vni = t1->vni;
 376               tr->sclass = vnet_buffer2 (b[1])->gbp.sclass;
 377               tr->flags = vnet_buffer2 (b[1])->gbp.flags;
 378             }
 379           b += 2;
 380
 381           vlib_validate_buffer_enqueue_x2 (vm, node, next_index,
 382                                            to_next, n_left_to_next,
 383                                            bi0, bi1, next0, next1);
 384         }
 385
 386       while (n_left_from > 0 && n_left_to_next > 0)
 387         {
 388           u32 bi0 = to_next[0] = from[0];
 389           from += 1;
 390           to_next += 1;
 391           n_left_from -= 1;
 392           n_left_to_next -= 1;
 393
 394           if (csum_offload && (b[0]->flags & VNET_BUFFER_F_OFFLOAD))
 395             {
 396               /* Only calculate the non-GSO packet csum offload */
 397               if ((b[0]->flags & VNET_BUFFER_F_GSO) == 0)
 398                 {
 399                   vnet_calc_checksums_inline (vm, b[0],
 400                                               b[0]->flags &
 401                                               VNET_BUFFER_F_IS_IP4,
 402                                               b[0]->flags &
 403                                               VNET_BUFFER_F_IS_IP6);
 404                   b[0]->flags &= ~inner_packet_removed_flags;
 405                 }
 406             }
 407
 408           u32 flow_hash0 = vnet_l2_compute_flow_hash (b[0]);
 409
 410           /* Get next node index and adj index from tunnel next_dpo */
 411           if (sw_if_index0 != vnet_buffer (b[0])->sw_if_index[VLIB_TX])
 412             {
 413               sw_if_index0 = vnet_buffer (b[0])->sw_if_index[VLIB_TX];
 414               vnet_hw_interface_t *hi0 =
 415                 vnet_get_sup_hw_interface (vnm, sw_if_index0);
 416               t0 = &vxm->tunnels[hi0->dev_instance];
 417               /* Note: change to always set next0 if it may be set to drop */
 418               next0 = t0->next_dpo.dpoi_next_node;
 419               dpoi_idx0 = t0->next_dpo.dpoi_index;
 420             }
 421           vnet_buffer (b[0])->ip.adj_index[VLIB_TX] = dpoi_idx0;
 422
 423           ASSERT (t0->rewrite_header.data_bytes == underlay_hdr_len);
 424           vnet_rewrite_one_header (*t0, vlib_buffer_get_current (b[0]),
 425                                    underlay_hdr_len);
 426
 427           vlib_buffer_advance (b[0], -underlay_hdr_len);
 428           void *underlay0 = vlib_buffer_get_current (b[0]);
 429
 430           u32 len0 = vlib_buffer_length_in_chain (vm, b[0]);
 431           u16 payload_l0 = clib_host_to_net_u16 (len0 - l3_len);
 432
 433           vxlan_gbp_header_t *vxlan_gbp0;
 434           udp_header_t *udp0;
 435           ip4_header_t *ip4_0;
 436           qos_bits_t ip4_0_tos = 0;
 437           ip6_header_t *ip6_0;
 438           u8 *l3_0;
 439           if (is_ip4)
 440             {
 441               ip4_vxlan_gbp_header_t *hdr = underlay0;
 442
 443               /* Fix the IP4 checksum and length */
 444               ip4_0 = &hdr->ip4;
 445               ip4_0->length = clib_host_to_net_u16 (len0);
 446
 447               if (PREDICT_FALSE (b[0]->flags & VNET_BUFFER_F_QOS_DATA_VALID))
 448                 {
 449                   ip4_0_tos = vnet_buffer2 (b[0])->qos.bits;
 450                   ip4_0->tos = ip4_0_tos;
 451                 }
 452
 453               l3_0 = (u8 *) ip4_0;
 454               udp0 = &hdr->udp;
 455               vxlan_gbp0 = &hdr->vxlan_gbp;
 456             }
 457           else                  /* ip6 path */
 458             {
 459               ip6_vxlan_gbp_header_t *hdr = underlay0;
 460
 461               /* Fix IP6 payload length */
 462               ip6_0 = &hdr->ip6;
 463               ip6_0->payload_length = payload_l0;
 464
 465               l3_0 = (u8 *) ip6_0;
 466               udp0 = &hdr->udp;
 467               vxlan_gbp0 = &hdr->vxlan_gbp;
 468             }
 469
 470           /* Fix UDP length  and set source port */
 471           udp0->length = payload_l0;
 472           udp0->src_port = flow_hash0;
 473
 474           /* set source class and gpflags */
 475           vxlan_gbp0->gpflags = vnet_buffer2 (b[0])->gbp.flags;
 476           vxlan_gbp0->sclass =
 477             clib_host_to_net_u16 (vnet_buffer2 (b[0])->gbp.sclass);
 478
 479           if (csum_offload)
 480             {
 481               b[0]->flags |= csum_flags;
 482               vnet_buffer (b[0])->l3_hdr_offset = l3_0 - b[0]->data;
 483               vnet_buffer (b[0])->l4_hdr_offset = (u8 *) udp0 - b[0]->data;
 484               vnet_buffer_offload_flags_set (b[0],
 485                                              outer_packet_csum_offload_flags);
 486             }
 487           /* IPv4 UDP checksum only if checksum offload is used */
 488           else if (is_ip4)
 489             {
 490               ip_csum_t sum0 = ip4_0->checksum;
 491               sum0 = ip_csum_update (sum0, 0, ip4_0->length, ip4_header_t,
 492                                      length /* changed member */ );
 493               if (PREDICT_FALSE (ip4_0_tos))
 494                 {
 495                   sum0 = ip_csum_update (sum0, 0, ip4_0_tos, ip4_header_t,
 496                                          tos /* changed member */ );
 497                 }
 498               ip4_0->checksum = ip_csum_fold (sum0);
 499             }
 500           /* IPv6 UDP checksum is mandatory */
 501           else
 502             {
 503               int bogus = 0;
 504
 505               udp0->checksum = ip6_tcp_udp_icmp_compute_checksum
 506                 (vm, b[0], ip6_0, &bogus);
 507               ASSERT (bogus == 0);
 508               if (udp0->checksum == 0)
 509                 udp0->checksum = 0xffff;
 510             }
 511
 512           /* save inner packet flow_hash for load-balance node */
 513           vnet_buffer (b[0])->ip.flow_hash = flow_hash0;
 514
 515           vlib_increment_combined_counter (tx_counter, thread_index,
 516                                            sw_if_index0, 1, len0);
 517           pkts_encapsulated++;
 518
 519           if (PREDICT_FALSE (b[0]->flags & VLIB_BUFFER_IS_TRACED))
 520             {
 521               vxlan_gbp_encap_trace_t *tr =
 522                 vlib_add_trace (vm, node, b[0], sizeof (*tr));
 523               tr->tunnel_index = t0 - vxm->tunnels;
 524               tr->vni = t0->vni;
 525               tr->sclass = vnet_buffer2 (b[0])->gbp.sclass;
 526               tr->flags = vnet_buffer2 (b[0])->gbp.flags;
 527             }
 528           b += 1;
 529
 530           vlib_validate_buffer_enqueue_x1 (vm, node, next_index,
 531                                            to_next, n_left_to_next,
 532                                            bi0, next0);
 533         }
 534
 535       vlib_put_next_frame (vm, node, next_index, n_left_to_next);
 536     }
 537
 538   /* Do we still need this now that tunnel tx stats is kept? */
 539   vlib_node_increment_counter (vm, node->node_index,
 540                                VXLAN_GBP_ENCAP_ERROR_ENCAPSULATED,
 541                                pkts_encapsulated);
 542
 543   return from_frame->n_vectors;
 544 }
 545
 546 VLIB_NODE_FN (vxlan4_gbp_encap_node) (vlib_main_t * vm,
 547                                       vlib_node_runtime_t * node,
 548                                       vlib_frame_t * from_frame)
 549 {
 550   /* Disable chksum offload as setup overhead in tx node is not worthwhile
 551      for ip4 header checksum only, unless udp checksum is also required */
 552   return vxlan_gbp_encap_inline (vm, node, from_frame, /* is_ip4 */ 1,
 553                                  /* csum_offload */ 0);
 554 }
 555
 556 VLIB_NODE_FN (vxlan6_gbp_encap_node) (vlib_main_t * vm,
 557                                       vlib_node_runtime_t * node,
 558                                       vlib_frame_t * from_frame)
 559 {
 560   /* Enable checksum offload for ip6 as udp checksum is mandatory, */
 561   return vxlan_gbp_encap_inline (vm, node, from_frame, /* is_ip4 */ 0,
 562                                  /* csum_offload */ 1);
 563 }
 564
 565 /* *INDENT-OFF* */
 566 VLIB_REGISTER_NODE (vxlan4_gbp_encap_node) =
 567 {
 568   .name = "vxlan4-gbp-encap",
 569   .vector_size = sizeof (u32),
 570   .format_trace = format_vxlan_gbp_encap_trace,
 571   .type = VLIB_NODE_TYPE_INTERNAL,
 572   .n_errors = ARRAY_LEN (vxlan_gbp_encap_error_strings),
 573   .error_strings = vxlan_gbp_encap_error_strings,
 574   .n_next_nodes = VXLAN_GBP_ENCAP_N_NEXT,
 575   .next_nodes = {
 576     [VXLAN_GBP_ENCAP_NEXT_DROP] = "error-drop",
 577   },
 578 };
 579
 580 VLIB_REGISTER_NODE (vxlan6_gbp_encap_node) =
 581 {
 582   .name = "vxlan6-gbp-encap",
 583   .vector_size = sizeof (u32),
 584   .format_trace = format_vxlan_gbp_encap_trace,
 585   .type = VLIB_NODE_TYPE_INTERNAL,
 586   .n_errors = ARRAY_LEN (vxlan_gbp_encap_error_strings),
 587   .error_strings = vxlan_gbp_encap_error_strings,
 588   .n_next_nodes = VXLAN_GBP_ENCAP_N_NEXT,
 589   .next_nodes = {
 590     [VXLAN_GBP_ENCAP_NEXT_DROP] = "error-drop",
 591   },
 592 };
 593 /* *INDENT-ON* */
 594
 595 /*
 596  * fd.io coding-style-patch-verification: ON
 597  *
 598  * Local Variables:
 599  * eval: (c-set-style "gnu")
 600  * End:
 601  */