src/vnet/mpls/node.c

   1 /*
   2  * node.c: MPLS input
   3  *
   4  * Copyright (c) 2012-2014 Cisco and/or its affiliates.
   5  * Licensed under the Apache License, Version 2.0 (the "License");
   6  * you may not use this file except in compliance with the License.
   7  * You may obtain a copy of the License at:
   8  *
   9  *     http://www.apache.org/licenses/LICENSE-2.0
  10  *
  11  * Unless required by applicable law or agreed to in writing, software
  12  * distributed under the License is distributed on an "AS IS" BASIS,
  13  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  14  * See the License for the specific language governing permissions and
  15  * limitations under the License.
  16  */
  17
  18 #include <vlib/vlib.h>
  19 #include <vnet/pg/pg.h>
  20 #include <vnet/mpls/mpls.h>
  21 #include <vnet/feature/feature.h>
  22
  23 typedef struct {
  24   u32 next_index;
  25   u32 label_host_byte_order;
  26 } mpls_input_trace_t;
  27
  28 static u8 *
  29 format_mpls_input_trace (u8 * s, va_list * args)
  30 {
  31   CLIB_UNUSED (vlib_main_t * vm) = va_arg (*args, vlib_main_t *);
  32   CLIB_UNUSED (vlib_node_t * node) = va_arg (*args, vlib_node_t *);
  33   mpls_input_trace_t * t = va_arg (*args, mpls_input_trace_t *);
  34   char * next_name;
  35
  36   next_name = "BUG!";
  37
  38 #define _(a,b) if (t->next_index == MPLS_INPUT_NEXT_##a) next_name = b;
  39   foreach_mpls_input_next;
  40 #undef _
  41
  42   s = format (s, "MPLS: next %s[%d]  label %d ttl %d",
  43               next_name, t->next_index,
  44               vnet_mpls_uc_get_label(t->label_host_byte_order),
  45               vnet_mpls_uc_get_ttl(t->label_host_byte_order));
  46
  47   return s;
  48 }
  49
  50 vlib_node_registration_t mpls_input_node;
  51
  52 typedef struct {
  53   u32 last_label;
  54   u32 last_inner_fib_index;
  55   u32 last_outer_fib_index;
  56   mpls_main_t * mpls_main;
  57 } mpls_input_runtime_t;
  58
  59 static inline uword
  60 mpls_input_inline (vlib_main_t * vm,
  61                    vlib_node_runtime_t * node,
  62                    vlib_frame_t * from_frame)
  63 {
  64   u32 n_left_from, next_index, * from, * to_next;
  65   mpls_input_runtime_t * rt;
  66   mpls_main_t * mm;
  67   u32 cpu_index = os_get_cpu_number();
  68   vlib_simple_counter_main_t * cm;
  69   vnet_main_t * vnm = vnet_get_main();
  70
  71   from = vlib_frame_vector_args (from_frame);
  72   n_left_from = from_frame->n_vectors;
  73   rt = vlib_node_get_runtime_data (vm, mpls_input_node.index);
  74   mm = rt->mpls_main;
  75   /*
  76    * Force an initial lookup every time, in case the control-plane
  77    * changed the label->FIB mapping.
  78    */
  79   rt->last_label = ~0;
  80
  81   next_index = node->cached_next_index;
  82
  83   cm = vec_elt_at_index (vnm->interface_main.sw_if_counters,
  84                          VNET_INTERFACE_COUNTER_MPLS);
  85
  86   while (n_left_from > 0)
  87     {
  88       u32 n_left_to_next;
  89
  90       vlib_get_next_frame (vm, node, next_index,
  91                            to_next, n_left_to_next);
  92
  93       while (n_left_from >= 4 && n_left_to_next >= 2)
  94         {
  95           u32 label0, bi0, next0, sw_if_index0;
  96           u32 label1, bi1, next1, sw_if_index1;
  97           mpls_unicast_header_t *h0, *h1;
  98           vlib_buffer_t *b0, *b1;
  99
 100           /* Prefetch next iteration. */
 101           {
 102             vlib_buffer_t * p2, * p3;
 103
 104             p2 = vlib_get_buffer (vm, from[2]);
 105             p3 = vlib_get_buffer (vm, from[3]);
 106
 107             vlib_prefetch_buffer_header (p2, STORE);
 108             vlib_prefetch_buffer_header (p3, STORE);
 109
 110             CLIB_PREFETCH (p2->data, sizeof (h0[0]), STORE);
 111             CLIB_PREFETCH (p3->data, sizeof (h1[0]), STORE);
 112           }
 113
 114
 115           bi0 = to_next[0] = from[0];
 116           bi1 = to_next[1] = from[1];
 117
 118           from += 2;
 119           to_next += 2;
 120           n_left_from -= 2;
 121           n_left_to_next -= 2;
 122
 123           b0 = vlib_get_buffer (vm, bi0);
 124           b1 = vlib_get_buffer (vm, bi1);
 125
 126           h0 = vlib_buffer_get_current (b0);
 127           h1 = vlib_buffer_get_current (b1);
 128
 129           sw_if_index0 = vnet_buffer (b0)->sw_if_index[VLIB_RX];
 130           sw_if_index1 = vnet_buffer (b1)->sw_if_index[VLIB_RX];
 131
 132           label0 = clib_net_to_host_u32 (h0->label_exp_s_ttl);
 133           label1 = clib_net_to_host_u32 (h1->label_exp_s_ttl);
 134
 135           /* TTL expired? */
 136           if (PREDICT_FALSE(vnet_mpls_uc_get_ttl (label0) == 0))
 137            {
 138               next0 = MPLS_INPUT_NEXT_DROP;
 139               b0->error = node->errors[MPLS_ERROR_TTL_EXPIRED];
 140             }
 141           else
 142             {
 143               next0 = MPLS_INPUT_NEXT_LOOKUP;
 144               vnet_feature_arc_start(mm->input_feature_arc_index, sw_if_index0, &next0, b0);
 145               vlib_increment_simple_counter (cm, cpu_index, sw_if_index0, 1);
 146             }
 147
 148           if (PREDICT_FALSE(vnet_mpls_uc_get_ttl (label1) == 0))
 149            {
 150               next1 = MPLS_INPUT_NEXT_DROP;
 151               b1->error = node->errors[MPLS_ERROR_TTL_EXPIRED];
 152             }
 153           else
 154             {
 155               next1 = MPLS_INPUT_NEXT_LOOKUP;
 156               vnet_feature_arc_start(mm->input_feature_arc_index, sw_if_index1, &next1, b1);
 157               vlib_increment_simple_counter (cm, cpu_index, sw_if_index1, 1);
 158             }
 159
 160           if (PREDICT_FALSE(b0->flags & VLIB_BUFFER_IS_TRACED))
 161             {
 162               mpls_input_trace_t *tr = vlib_add_trace (vm, node,
 163                                                        b0, sizeof (*tr));
 164               tr->next_index = next0;
 165               tr->label_host_byte_order = label0;
 166             }
 167           if (PREDICT_FALSE(b1->flags & VLIB_BUFFER_IS_TRACED))
 168             {
 169               mpls_input_trace_t *tr = vlib_add_trace (vm, node,
 170                                                        b1, sizeof (*tr));
 171               tr->next_index = next1;
 172               tr->label_host_byte_order = label1;
 173             }
 174
 175           vlib_validate_buffer_enqueue_x2 (vm, node, next_index,
 176                                            to_next, n_left_to_next,
 177                                            bi0, bi1, next0, next1);
 178         }
 179
 180       while (n_left_from > 0 && n_left_to_next > 0)
 181         {
 182           u32 bi0;
 183           vlib_buffer_t * b0;
 184           mpls_unicast_header_t * h0;
 185           u32 label0;
 186           u32 next0 = 0;
 187           u32 sw_if_index0;
 188
 189           bi0 = from[0];
 190           to_next[0] = bi0;
 191           from += 1;
 192           to_next += 1;
 193           n_left_from -= 1;
 194           n_left_to_next -= 1;
 195
 196           b0 = vlib_get_buffer (vm, bi0);
 197           h0 = vlib_buffer_get_current (b0);
 198           sw_if_index0 = vnet_buffer (b0)->sw_if_index[VLIB_RX];
 199
 200           label0 = clib_net_to_host_u32 (h0->label_exp_s_ttl);
 201           /* TTL expired? */
 202           if (PREDICT_FALSE(vnet_mpls_uc_get_ttl (label0) == 0))
 203            {
 204               next0 = MPLS_INPUT_NEXT_DROP;
 205               b0->error = node->errors[MPLS_ERROR_TTL_EXPIRED];
 206             }
 207           else
 208             {
 209               next0 = MPLS_INPUT_NEXT_LOOKUP;
 210               vnet_feature_arc_start(mm->input_feature_arc_index, sw_if_index0, &next0, b0);
 211               vlib_increment_simple_counter (cm, cpu_index, sw_if_index0, 1);
 212             }
 213
 214           if (PREDICT_FALSE(b0->flags & VLIB_BUFFER_IS_TRACED))
 215             {
 216               mpls_input_trace_t *tr = vlib_add_trace (vm, node,
 217                                                        b0, sizeof (*tr));
 218               tr->next_index = next0;
 219               tr->label_host_byte_order = label0;
 220             }
 221
 222           vlib_validate_buffer_enqueue_x1 (vm, node, next_index,
 223                                            to_next, n_left_to_next,
 224                                            bi0, next0);
 225         }
 226
 227       vlib_put_next_frame (vm, node, next_index, n_left_to_next);
 228     }
 229   vlib_node_increment_counter (vm, mpls_input_node.index,
 230                                MPLS_ERROR_PKTS_DECAP, from_frame->n_vectors);
 231   return from_frame->n_vectors;
 232 }
 233
 234 static uword
 235 mpls_input (vlib_main_t * vm,
 236             vlib_node_runtime_t * node,
 237             vlib_frame_t * from_frame)
 238 {
 239   return mpls_input_inline (vm, node, from_frame);
 240 }
 241
 242 static char * mpls_error_strings[] = {
 243 #define mpls_error(n,s) s,
 244 #include "error.def"
 245 #undef mpls_error
 246 };
 247
 248 VLIB_REGISTER_NODE (mpls_input_node) = {
 249   .function = mpls_input,
 250   .name = "mpls-input",
 251   /* Takes a vector of packets. */
 252   .vector_size = sizeof (u32),
 253
 254   .runtime_data_bytes = sizeof(mpls_input_runtime_t),
 255
 256   .n_errors = MPLS_N_ERROR,
 257   .error_strings = mpls_error_strings,
 258
 259   .n_next_nodes = MPLS_INPUT_N_NEXT,
 260   .next_nodes = {
 261 #define _(s,n) [MPLS_INPUT_NEXT_##s] = n,
 262     foreach_mpls_input_next
 263 #undef _
 264   },
 265
 266   .format_buffer = format_mpls_unicast_header_net_byte_order,
 267   .format_trace = format_mpls_input_trace,
 268 };
 269
 270 VLIB_NODE_FUNCTION_MULTIARCH (mpls_input_node, mpls_input)
 271
 272 static void
 273 mpls_setup_nodes (vlib_main_t * vm)
 274 {
 275   mpls_input_runtime_t * rt;
 276   pg_node_t * pn;
 277
 278   pn = pg_get_node (mpls_input_node.index);
 279   pn->unformat_edit = unformat_pg_mpls_header;
 280
 281   rt = vlib_node_get_runtime_data (vm, mpls_input_node.index);
 282   rt->last_label = (u32) ~0;
 283   rt->last_inner_fib_index = 0;
 284   rt->last_outer_fib_index = 0;
 285   rt->mpls_main = &mpls_main;
 286
 287   ethernet_register_input_type (vm, ETHERNET_TYPE_MPLS_UNICAST,
 288                                 mpls_input_node.index);
 289 }
 290
 291 static clib_error_t * mpls_input_init (vlib_main_t * vm)
 292 {
 293   clib_error_t * error;
 294
 295   error = vlib_call_init_function (vm, mpls_init);
 296   if (error)
 297     clib_error_report (error);
 298
 299   mpls_setup_nodes (vm);
 300
 301   return 0;
 302 }
 303
 304 VLIB_INIT_FUNCTION (mpls_input_init);
 305
 306 static clib_error_t * mpls_input_worker_init (vlib_main_t * vm)
 307 {
 308   mpls_input_runtime_t * rt;
 309   rt = vlib_node_get_runtime_data (vm, mpls_input_node.index);
 310   rt->last_label = (u32) ~0;
 311   rt->last_inner_fib_index = 0;
 312   rt->last_outer_fib_index = 0;
 313   rt->mpls_main = &mpls_main;
 314   return 0;
 315 }
 316
 317 VLIB_WORKER_INIT_FUNCTION (mpls_input_worker_init);