dpdk: Add support for Mellanox ConnectX-4 devices
[vpp.git] / vnet / vnet / ip / icmp6.c
1 /*
2  * Copyright (c) 2015 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this file except in compliance with the License.
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15 /*
16  * ip/icmp6.c: ip6 icmp
17  *
18  * Copyright (c) 2008 Eliot Dresselhaus
19  *
20  * Permission is hereby granted, free of charge, to any person obtaining
21  * a copy of this software and associated documentation files (the
22  * "Software"), to deal in the Software without restriction, including
23  * without limitation the rights to use, copy, modify, merge, publish,
24  * distribute, sublicense, and/or sell copies of the Software, and to
25  * permit persons to whom the Software is furnished to do so, subject to
26  * the following conditions:
27  *
28  * The above copyright notice and this permission notice shall be
29  * included in all copies or substantial portions of the Software.
30  *
31  *  THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND,
32  *  EXPRESS OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
33  *  MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND
34  *  NONINFRINGEMENT. IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE
35  *  LIABLE FOR ANY CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION
36  *  OF CONTRACT, TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION
37  *  WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
38  */
39
40 #include <vlib/vlib.h>
41 #include <vnet/ip/ip.h>
42 #include <vnet/pg/pg.h>
43
44 static u8 *
45 format_ip6_icmp_type_and_code (u8 * s, va_list * args)
46 {
47   icmp6_type_t type = va_arg (*args, int);
48   u8 code = va_arg (*args, int);
49   char *t = 0;
50
51 #define _(n,f) case n: t = #f; break;
52
53   switch (type)
54     {
55       foreach_icmp6_type;
56
57     default:
58       break;
59     }
60
61 #undef _
62
63   if (!t)
64     return format (s, "unknown 0x%x", type);
65
66   s = format (s, "%s", t);
67
68   t = 0;
69   switch ((type << 8) | code)
70     {
71 #define _(a,n,f) case (ICMP6_##a << 8) | (n): t = #f; break;
72
73       foreach_icmp6_code;
74
75 #undef _
76     }
77
78   if (t)
79     s = format (s, " %s", t);
80
81   return s;
82 }
83
84 static u8 *
85 format_icmp6_header (u8 * s, va_list * args)
86 {
87   icmp46_header_t *icmp = va_arg (*args, icmp46_header_t *);
88   u32 max_header_bytes = va_arg (*args, u32);
89
90   /* Nothing to do. */
91   if (max_header_bytes < sizeof (icmp[0]))
92     return format (s, "ICMP header truncated");
93
94   s = format (s, "ICMP %U checksum 0x%x",
95               format_ip6_icmp_type_and_code, icmp->type, icmp->code,
96               clib_net_to_host_u16 (icmp->checksum));
97
98   if (max_header_bytes >=
99       sizeof (icmp6_neighbor_solicitation_or_advertisement_header_t) &&
100       (icmp->type == ICMP6_neighbor_solicitation ||
101        icmp->type == ICMP6_neighbor_advertisement))
102     {
103       icmp6_neighbor_solicitation_or_advertisement_header_t *icmp6_nd =
104         (icmp6_neighbor_solicitation_or_advertisement_header_t *) icmp;
105       s = format (s, "\n    target address %U",
106                   format_ip6_address, &icmp6_nd->target_address);
107     }
108
109   return s;
110 }
111
112 u8 *
113 format_icmp6_input_trace (u8 * s, va_list * va)
114 {
115   CLIB_UNUSED (vlib_main_t * vm) = va_arg (*va, vlib_main_t *);
116   CLIB_UNUSED (vlib_node_t * node) = va_arg (*va, vlib_node_t *);
117   icmp6_input_trace_t *t = va_arg (*va, icmp6_input_trace_t *);
118
119   s = format (s, "%U",
120               format_ip6_header, t->packet_data, sizeof (t->packet_data));
121
122   return s;
123 }
124
125 static char *icmp_error_strings[] = {
126 #define _(f,s) s,
127   foreach_icmp6_error
128 #undef _
129 };
130
131 typedef enum
132 {
133   ICMP_INPUT_NEXT_DROP,
134   ICMP_INPUT_N_NEXT,
135 } icmp_input_next_t;
136
137 typedef struct
138 {
139   uword *type_and_code_by_name;
140
141   uword *type_by_name;
142
143   /* Vector dispatch table indexed by [icmp type]. */
144   u8 input_next_index_by_type[256];
145
146   /* Max valid code indexed by icmp type. */
147   u8 max_valid_code_by_type[256];
148
149   /* hop_limit must be >= this value for this icmp type. */
150   u8 min_valid_hop_limit_by_type[256];
151
152   u8 min_valid_length_by_type[256];
153 } icmp6_main_t;
154
155 icmp6_main_t icmp6_main;
156
157 static uword
158 ip6_icmp_input (vlib_main_t * vm,
159                 vlib_node_runtime_t * node, vlib_frame_t * frame)
160 {
161   icmp6_main_t *im = &icmp6_main;
162   u32 *from, *to_next;
163   u32 n_left_from, n_left_to_next, next_index;
164
165   from = vlib_frame_vector_args (frame);
166   n_left_from = frame->n_vectors;
167   next_index = node->cached_next_index;
168
169   if (node->flags & VLIB_NODE_FLAG_TRACE)
170     vlib_trace_frame_buffers_only (vm, node, from, frame->n_vectors,
171                                    /* stride */ 1,
172                                    sizeof (icmp6_input_trace_t));
173
174   while (n_left_from > 0)
175     {
176       vlib_get_next_frame (vm, node, next_index, to_next, n_left_to_next);
177
178       while (n_left_from > 0 && n_left_to_next > 0)
179         {
180           vlib_buffer_t *b0;
181           ip6_header_t *ip0;
182           icmp46_header_t *icmp0;
183           icmp6_type_t type0;
184           u32 bi0, next0, error0, len0;
185
186           bi0 = to_next[0] = from[0];
187
188           from += 1;
189           n_left_from -= 1;
190           to_next += 1;
191           n_left_to_next -= 1;
192
193           b0 = vlib_get_buffer (vm, bi0);
194           ip0 = vlib_buffer_get_current (b0);
195           icmp0 = ip6_next_header (ip0);
196           type0 = icmp0->type;
197
198           error0 = ICMP6_ERROR_NONE;
199
200           next0 = im->input_next_index_by_type[type0];
201           error0 =
202             next0 == ICMP_INPUT_NEXT_DROP ? ICMP6_ERROR_UNKNOWN_TYPE : error0;
203
204           /* Check code is valid for type. */
205           error0 =
206             icmp0->code >
207             im->max_valid_code_by_type[type0] ?
208             ICMP6_ERROR_INVALID_CODE_FOR_TYPE : error0;
209
210           /* Checksum is already validated by ip6_local node so we don't need to check that. */
211
212           /* Check that hop limit == 255 for certain types. */
213           error0 =
214             ip0->hop_limit <
215             im->min_valid_hop_limit_by_type[type0] ?
216             ICMP6_ERROR_INVALID_HOP_LIMIT_FOR_TYPE : error0;
217
218           len0 = clib_net_to_host_u16 (ip0->payload_length);
219           error0 =
220             len0 <
221             im->min_valid_length_by_type[type0] ?
222             ICMP6_ERROR_LENGTH_TOO_SMALL_FOR_TYPE : error0;
223
224           b0->error = node->errors[error0];
225
226           next0 = error0 != ICMP6_ERROR_NONE ? ICMP_INPUT_NEXT_DROP : next0;
227
228           vlib_validate_buffer_enqueue_x1 (vm, node, next_index,
229                                            to_next, n_left_to_next,
230                                            bi0, next0);
231         }
232
233       vlib_put_next_frame (vm, node, next_index, n_left_to_next);
234     }
235
236   return frame->n_vectors;
237 }
238
239 /* *INDENT-OFF* */
240 VLIB_REGISTER_NODE (ip6_icmp_input_node) = {
241   .function = ip6_icmp_input,
242   .name = "ip6-icmp-input",
243
244   .vector_size = sizeof (u32),
245
246   .format_trace = format_icmp6_input_trace,
247
248   .n_errors = ARRAY_LEN (icmp_error_strings),
249   .error_strings = icmp_error_strings,
250
251   .n_next_nodes = 1,
252   .next_nodes = {
253     [ICMP_INPUT_NEXT_DROP] = "error-drop",
254   },
255 };
256 /* *INDENT-ON* */
257
258 typedef enum
259 {
260   ICMP6_ECHO_REQUEST_NEXT_LOOKUP,
261   ICMP6_ECHO_REQUEST_NEXT_OUTPUT,
262   ICMP6_ECHO_REQUEST_N_NEXT,
263 } icmp6_echo_request_next_t;
264
265 static uword
266 ip6_icmp_echo_request (vlib_main_t * vm,
267                        vlib_node_runtime_t * node, vlib_frame_t * frame)
268 {
269   u32 *from, *to_next;
270   u32 n_left_from, n_left_to_next, next_index;
271   ip6_main_t *im = &ip6_main;
272
273   from = vlib_frame_vector_args (frame);
274   n_left_from = frame->n_vectors;
275   next_index = node->cached_next_index;
276
277   if (node->flags & VLIB_NODE_FLAG_TRACE)
278     vlib_trace_frame_buffers_only (vm, node, from, frame->n_vectors,
279                                    /* stride */ 1,
280                                    sizeof (icmp6_input_trace_t));
281
282   while (n_left_from > 0)
283     {
284       vlib_get_next_frame (vm, node, next_index, to_next, n_left_to_next);
285
286       while (n_left_from > 2 && n_left_to_next > 2)
287         {
288           vlib_buffer_t *p0, *p1;
289           ip6_header_t *ip0, *ip1;
290           icmp46_header_t *icmp0, *icmp1;
291           ip6_address_t tmp0, tmp1;
292           ip_csum_t sum0, sum1;
293           u32 bi0, bi1;
294           u32 fib_index0, fib_index1;
295           u32 next0 = ICMP6_ECHO_REQUEST_NEXT_LOOKUP;
296           u32 next1 = ICMP6_ECHO_REQUEST_NEXT_LOOKUP;
297
298           bi0 = to_next[0] = from[0];
299           bi1 = to_next[1] = from[1];
300
301           from += 2;
302           n_left_from -= 2;
303           to_next += 2;
304           n_left_to_next -= 2;
305
306           p0 = vlib_get_buffer (vm, bi0);
307           p1 = vlib_get_buffer (vm, bi1);
308           ip0 = vlib_buffer_get_current (p0);
309           ip1 = vlib_buffer_get_current (p1);
310           icmp0 = ip6_next_header (ip0);
311           icmp1 = ip6_next_header (ip1);
312
313           /* Check icmp type to echo reply and update icmp checksum. */
314           sum0 = icmp0->checksum;
315           sum1 = icmp1->checksum;
316
317           ASSERT (icmp0->type == ICMP6_echo_request);
318           ASSERT (icmp1->type == ICMP6_echo_request);
319           sum0 = ip_csum_update (sum0, ICMP6_echo_request, ICMP6_echo_reply,
320                                  icmp46_header_t, type);
321           sum1 = ip_csum_update (sum1, ICMP6_echo_request, ICMP6_echo_reply,
322                                  icmp46_header_t, type);
323
324           icmp0->checksum = ip_csum_fold (sum0);
325           icmp1->checksum = ip_csum_fold (sum1);
326
327           icmp0->type = ICMP6_echo_reply;
328           icmp1->type = ICMP6_echo_reply;
329
330           /* Swap source and destination address. */
331           tmp0 = ip0->src_address;
332           tmp1 = ip1->src_address;
333
334           ip0->src_address = ip0->dst_address;
335           ip1->src_address = ip1->dst_address;
336
337           ip0->dst_address = tmp0;
338           ip1->dst_address = tmp1;
339
340           /* New hop count. */
341           ip0->hop_limit = im->host_config.ttl;
342           ip1->hop_limit = im->host_config.ttl;
343
344           if (ip6_address_is_link_local_unicast (&ip0->dst_address))
345             {
346               ethernet_header_t *eth0;
347               u8 tmp_mac[6];
348               /* For link local, reuse current MAC header by sawpping
349                *  SMAC to DMAC instead of IP6 lookup since link local
350                *  is not in the IP6 FIB */
351               vlib_buffer_reset (p0);
352               eth0 = vlib_buffer_get_current (p0);
353               clib_memcpy (tmp_mac, eth0->dst_address, 6);
354               clib_memcpy (eth0->dst_address, eth0->src_address, 6);
355               clib_memcpy (eth0->src_address, tmp_mac, 6);
356               vnet_buffer (p0)->sw_if_index[VLIB_TX] =
357                 vnet_buffer (p0)->sw_if_index[VLIB_RX];
358               next0 = ICMP6_ECHO_REQUEST_NEXT_OUTPUT;
359             }
360           else
361             {
362               /* Determine the correct lookup fib indices... */
363               fib_index0 = vec_elt (im->fib_index_by_sw_if_index,
364                                     vnet_buffer (p0)->sw_if_index[VLIB_RX]);
365               vnet_buffer (p0)->sw_if_index[VLIB_TX] = fib_index0;
366             }
367
368           if (ip6_address_is_link_local_unicast (&ip1->dst_address))
369             {
370               ethernet_header_t *eth1;
371               u8 tmp_mac[6];
372               /* For link local, reuse current MAC header by sawpping
373                *  SMAC to DMAC instead of IP6 lookup since link local
374                *  is not in the IP6 FIB */
375               vlib_buffer_reset (p1);
376               eth1 = vlib_buffer_get_current (p1);
377               clib_memcpy (tmp_mac, eth1->dst_address, 6);
378               clib_memcpy (eth1->dst_address, eth1->src_address, 6);
379               clib_memcpy (eth1->src_address, tmp_mac, 6);
380               vnet_buffer (p1)->sw_if_index[VLIB_TX] =
381                 vnet_buffer (p1)->sw_if_index[VLIB_RX];
382               next1 = ICMP6_ECHO_REQUEST_NEXT_OUTPUT;
383             }
384           else
385             {
386               /* Determine the correct lookup fib indices... */
387               fib_index1 = vec_elt (im->fib_index_by_sw_if_index,
388                                     vnet_buffer (p1)->sw_if_index[VLIB_RX]);
389               vnet_buffer (p1)->sw_if_index[VLIB_TX] = fib_index1;
390             }
391
392           vnet_buffer (p0)->sw_if_index[VLIB_RX]
393             = vnet_main.local_interface_sw_if_index;
394           vnet_buffer (p1)->sw_if_index[VLIB_RX]
395             = vnet_main.local_interface_sw_if_index;
396
397           /* verify speculative enqueues, maybe switch current next frame */
398           /* if next0==next1==next_index then nothing special needs to be done */
399           vlib_validate_buffer_enqueue_x2 (vm, node, next_index,
400                                            to_next, n_left_to_next,
401                                            bi0, bi1, next0, next1);
402         }
403
404       while (n_left_from > 0 && n_left_to_next > 0)
405         {
406           vlib_buffer_t *p0;
407           ip6_header_t *ip0;
408           icmp46_header_t *icmp0;
409           u32 bi0;
410           ip6_address_t tmp0;
411           ip_csum_t sum0;
412           u32 fib_index0;
413           u32 next0 = ICMP6_ECHO_REQUEST_NEXT_LOOKUP;
414
415           bi0 = to_next[0] = from[0];
416
417           from += 1;
418           n_left_from -= 1;
419           to_next += 1;
420           n_left_to_next -= 1;
421
422           p0 = vlib_get_buffer (vm, bi0);
423           ip0 = vlib_buffer_get_current (p0);
424           icmp0 = ip6_next_header (ip0);
425
426           /* Check icmp type to echo reply and update icmp checksum. */
427           sum0 = icmp0->checksum;
428
429           ASSERT (icmp0->type == ICMP6_echo_request);
430           sum0 = ip_csum_update (sum0, ICMP6_echo_request, ICMP6_echo_reply,
431                                  icmp46_header_t, type);
432
433           icmp0->checksum = ip_csum_fold (sum0);
434
435           icmp0->type = ICMP6_echo_reply;
436
437           /* Swap source and destination address. */
438           tmp0 = ip0->src_address;
439           ip0->src_address = ip0->dst_address;
440           ip0->dst_address = tmp0;
441
442           ip0->hop_limit = im->host_config.ttl;
443
444           if (ip6_address_is_link_local_unicast (&ip0->dst_address))
445             {
446               ethernet_header_t *eth0;
447               u8 tmp_mac[6];
448               /* For link local, reuse current MAC header by sawpping
449                *  SMAC to DMAC instead of IP6 lookup since link local
450                *  is not in the IP6 FIB */
451               vlib_buffer_reset (p0);
452               eth0 = vlib_buffer_get_current (p0);
453               clib_memcpy (tmp_mac, eth0->dst_address, 6);
454               clib_memcpy (eth0->dst_address, eth0->src_address, 6);
455               clib_memcpy (eth0->src_address, tmp_mac, 6);
456               vnet_buffer (p0)->sw_if_index[VLIB_TX] =
457                 vnet_buffer (p0)->sw_if_index[VLIB_RX];
458               next0 = ICMP6_ECHO_REQUEST_NEXT_OUTPUT;
459             }
460           else
461             {
462               fib_index0 = vec_elt (im->fib_index_by_sw_if_index,
463                                     vnet_buffer (p0)->sw_if_index[VLIB_RX]);
464               vnet_buffer (p0)->sw_if_index[VLIB_TX] = fib_index0;
465             }
466           vnet_buffer (p0)->sw_if_index[VLIB_RX]
467             = vnet_main.local_interface_sw_if_index;
468
469           /* Verify speculative enqueue, maybe switch current next frame */
470           vlib_validate_buffer_enqueue_x1 (vm, node, next_index,
471                                            to_next, n_left_to_next,
472                                            bi0, next0);
473         }
474
475       vlib_put_next_frame (vm, node, next_index, n_left_to_next);
476     }
477
478   vlib_error_count (vm, ip6_icmp_input_node.index,
479                     ICMP6_ERROR_ECHO_REPLIES_SENT, frame->n_vectors);
480
481   return frame->n_vectors;
482 }
483
484 /* *INDENT-OFF* */
485 VLIB_REGISTER_NODE (ip6_icmp_echo_request_node,static) = {
486   .function = ip6_icmp_echo_request,
487   .name = "ip6-icmp-echo-request",
488
489   .vector_size = sizeof (u32),
490
491   .format_trace = format_icmp6_input_trace,
492
493   .n_next_nodes = ICMP6_ECHO_REQUEST_N_NEXT,
494   .next_nodes = {
495     [ICMP6_ECHO_REQUEST_NEXT_LOOKUP] = "ip6-lookup",
496     [ICMP6_ECHO_REQUEST_NEXT_OUTPUT] = "interface-output",
497   },
498 };
499 /* *INDENT-ON* */
500
501 typedef enum
502 {
503   IP6_ICMP_ERROR_NEXT_DROP,
504   IP6_ICMP_ERROR_NEXT_LOOKUP,
505   IP6_ICMP_ERROR_N_NEXT,
506 } ip6_icmp_error_next_t;
507
508 void
509 icmp6_error_set_vnet_buffer (vlib_buffer_t * b, u8 type, u8 code, u32 data)
510 {
511   vnet_buffer (b)->ip.icmp.type = type;
512   vnet_buffer (b)->ip.icmp.code = code;
513   vnet_buffer (b)->ip.icmp.data = data;
514 }
515
516 static u8
517 icmp6_icmp_type_to_error (u8 type)
518 {
519   switch (type)
520     {
521     case ICMP6_destination_unreachable:
522       return ICMP6_ERROR_DEST_UNREACH_SENT;
523     case ICMP6_packet_too_big:
524       return ICMP6_ERROR_PACKET_TOO_BIG_SENT;
525     case ICMP6_time_exceeded:
526       return ICMP6_ERROR_TTL_EXPIRE_SENT;
527     case ICMP6_parameter_problem:
528       return ICMP6_ERROR_PARAM_PROBLEM_SENT;
529     default:
530       return ICMP6_ERROR_DROP;
531     }
532 }
533
534 static uword
535 ip6_icmp_error (vlib_main_t * vm,
536                 vlib_node_runtime_t * node, vlib_frame_t * frame)
537 {
538   u32 *from, *to_next;
539   uword n_left_from, n_left_to_next;
540   ip6_icmp_error_next_t next_index;
541   ip6_main_t *im = &ip6_main;
542   ip_lookup_main_t *lm = &im->lookup_main;
543
544   from = vlib_frame_vector_args (frame);
545   n_left_from = frame->n_vectors;
546   next_index = node->cached_next_index;
547
548   if (node->flags & VLIB_NODE_FLAG_TRACE)
549     vlib_trace_frame_buffers_only (vm, node, from, frame->n_vectors,
550                                    /* stride */ 1,
551                                    sizeof (icmp6_input_trace_t));
552
553   while (n_left_from > 0)
554     {
555       vlib_get_next_frame (vm, node, next_index, to_next, n_left_to_next);
556
557       while (n_left_from > 0 && n_left_to_next > 0)
558         {
559           u32 pi0 = from[0];
560           u32 next0 = IP6_ICMP_ERROR_NEXT_LOOKUP;
561           u8 error0 = ICMP6_ERROR_NONE;
562           vlib_buffer_t *p0;
563           ip6_header_t *ip0, *out_ip0;
564           icmp46_header_t *icmp0;
565           u32 sw_if_index0, if_add_index0;
566           int bogus_length;
567
568           /* Speculatively enqueue p0 to the current next frame */
569           to_next[0] = pi0;
570           from += 1;
571           to_next += 1;
572           n_left_from -= 1;
573           n_left_to_next -= 1;
574
575           p0 = vlib_get_buffer (vm, pi0);
576           ip0 = vlib_buffer_get_current (p0);
577           sw_if_index0 = vnet_buffer (p0)->sw_if_index[VLIB_RX];
578
579           /* RFC4443 says to keep as much of the original packet as possible
580            * within the minimum MTU. We cheat "a little" here by keeping whatever fits
581            * in the first buffer, to be more efficient */
582           if (PREDICT_FALSE (p0->total_length_not_including_first_buffer))
583             {                   /* clear current_length of all other buffers in chain */
584               vlib_buffer_t *b = p0;
585               p0->total_length_not_including_first_buffer = 0;
586               while (b->flags & VLIB_BUFFER_NEXT_PRESENT)
587                 {
588                   b = vlib_get_buffer (vm, b->next_buffer);
589                   b->current_length = 0;
590                 }
591             }
592           p0->current_length =
593             p0->current_length > 1280 ? 1280 : p0->current_length;
594
595           /* Add IP header and ICMPv6 header including a 4 byte data field */
596           vlib_buffer_advance (p0,
597                                -sizeof (ip6_header_t) -
598                                sizeof (icmp46_header_t) - 4);
599           out_ip0 = vlib_buffer_get_current (p0);
600           icmp0 = (icmp46_header_t *) & out_ip0[1];
601
602           /* Fill ip header fields */
603           out_ip0->ip_version_traffic_class_and_flow_label =
604             clib_host_to_net_u32 (0x6 << 28);
605
606           out_ip0->payload_length =
607             clib_host_to_net_u16 (p0->current_length - sizeof (ip6_header_t));
608           out_ip0->protocol = IP_PROTOCOL_ICMP6;
609           out_ip0->hop_limit = 0xff;
610           out_ip0->dst_address = ip0->src_address;
611           if_add_index0 =
612             lm->if_address_pool_index_by_sw_if_index[sw_if_index0];
613           if (PREDICT_TRUE (if_add_index0 != ~0))
614             {
615               ip_interface_address_t *if_add =
616                 pool_elt_at_index (lm->if_address_pool, if_add_index0);
617               ip6_address_t *if_ip =
618                 ip_interface_address_get_address (lm, if_add);
619               out_ip0->src_address = *if_ip;
620             }
621           else                  /* interface has no IP6 address - should not happen */
622             {
623               next0 = IP6_ICMP_ERROR_NEXT_DROP;
624               error0 = ICMP6_ERROR_DROP;
625             }
626
627           /* Fill icmp header fields */
628           icmp0->type = vnet_buffer (p0)->ip.icmp.type;
629           icmp0->code = vnet_buffer (p0)->ip.icmp.code;
630           *((u32 *) (icmp0 + 1)) =
631             clib_host_to_net_u32 (vnet_buffer (p0)->ip.icmp.data);
632           icmp0->checksum = 0;
633           icmp0->checksum =
634             ip6_tcp_udp_icmp_compute_checksum (vm, p0, out_ip0,
635                                                &bogus_length);
636
637
638
639           /* Update error status */
640           if (error0 == ICMP6_ERROR_NONE)
641             error0 = icmp6_icmp_type_to_error (icmp0->type);
642           vlib_error_count (vm, node->node_index, error0, 1);
643
644           /* Verify speculative enqueue, maybe switch current next frame */
645           vlib_validate_buffer_enqueue_x1 (vm, node, next_index,
646                                            to_next, n_left_to_next,
647                                            pi0, next0);
648         }
649       vlib_put_next_frame (vm, node, next_index, n_left_to_next);
650     }
651
652   return frame->n_vectors;
653 }
654
655 /* *INDENT-OFF* */
656 VLIB_REGISTER_NODE (ip6_icmp_error_node) = {
657   .function = ip6_icmp_error,
658   .name = "ip6-icmp-error",
659   .vector_size = sizeof (u32),
660
661   .n_errors = ARRAY_LEN (icmp_error_strings),
662   .error_strings = icmp_error_strings,
663
664   .n_next_nodes = IP6_ICMP_ERROR_N_NEXT,
665   .next_nodes = {
666     [IP6_ICMP_ERROR_NEXT_DROP] = "error-drop",
667     [IP6_ICMP_ERROR_NEXT_LOOKUP] = "ip6-lookup",
668   },
669
670   .format_trace = format_icmp6_input_trace,
671 };
672 /* *INDENT-ON* */
673
674
675 static uword
676 unformat_icmp_type_and_code (unformat_input_t * input, va_list * args)
677 {
678   icmp46_header_t *h = va_arg (*args, icmp46_header_t *);
679   icmp6_main_t *cm = &icmp6_main;
680   u32 i;
681
682   if (unformat_user (input, unformat_vlib_number_by_name,
683                      cm->type_and_code_by_name, &i))
684     {
685       h->type = (i >> 8) & 0xff;
686       h->code = (i >> 0) & 0xff;
687     }
688   else if (unformat_user (input, unformat_vlib_number_by_name,
689                           cm->type_by_name, &i))
690     {
691       h->type = i;
692       h->code = 0;
693     }
694   else
695     return 0;
696
697   return 1;
698 }
699
700 static void
701 icmp6_pg_edit_function (pg_main_t * pg,
702                         pg_stream_t * s,
703                         pg_edit_group_t * g, u32 * packets, u32 n_packets)
704 {
705   vlib_main_t *vm = vlib_get_main ();
706   u32 ip_offset, icmp_offset;
707   int bogus_length;
708
709   icmp_offset = g->start_byte_offset;
710   ip_offset = (g - 1)->start_byte_offset;
711
712   while (n_packets >= 1)
713     {
714       vlib_buffer_t *p0;
715       ip6_header_t *ip0;
716       icmp46_header_t *icmp0;
717
718       p0 = vlib_get_buffer (vm, packets[0]);
719       n_packets -= 1;
720       packets += 1;
721
722       ASSERT (p0->current_data == 0);
723       ip0 = (void *) (p0->data + ip_offset);
724       icmp0 = (void *) (p0->data + icmp_offset);
725
726       icmp0->checksum = ip6_tcp_udp_icmp_compute_checksum (vm, p0, ip0,
727                                                            &bogus_length);
728       ASSERT (bogus_length == 0);
729     }
730 }
731
732 typedef struct
733 {
734   pg_edit_t type, code;
735   pg_edit_t checksum;
736 } pg_icmp46_header_t;
737
738 always_inline void
739 pg_icmp_header_init (pg_icmp46_header_t * p)
740 {
741   /* Initialize fields that are not bit fields in the IP header. */
742 #define _(f) pg_edit_init (&p->f, icmp46_header_t, f);
743   _(type);
744   _(code);
745   _(checksum);
746 #undef _
747 }
748
749 static uword
750 unformat_pg_icmp_header (unformat_input_t * input, va_list * args)
751 {
752   pg_stream_t *s = va_arg (*args, pg_stream_t *);
753   pg_icmp46_header_t *p;
754   u32 group_index;
755
756   p = pg_create_edit_group (s, sizeof (p[0]), sizeof (icmp46_header_t),
757                             &group_index);
758   pg_icmp_header_init (p);
759
760   p->checksum.type = PG_EDIT_UNSPECIFIED;
761
762   {
763     icmp46_header_t tmp;
764
765     if (!unformat (input, "ICMP %U", unformat_icmp_type_and_code, &tmp))
766       goto error;
767
768     pg_edit_set_fixed (&p->type, tmp.type);
769     pg_edit_set_fixed (&p->code, tmp.code);
770   }
771
772   /* Parse options. */
773   while (1)
774     {
775       if (unformat (input, "checksum %U",
776                     unformat_pg_edit, unformat_pg_number, &p->checksum))
777         ;
778
779       /* Can't parse input: try next protocol level. */
780       else
781         break;
782     }
783
784   if (!unformat_user (input, unformat_pg_payload, s))
785     goto error;
786
787   if (p->checksum.type == PG_EDIT_UNSPECIFIED)
788     {
789       pg_edit_group_t *g = pg_stream_get_group (s, group_index);
790       g->edit_function = icmp6_pg_edit_function;
791       g->edit_function_opaque = 0;
792     }
793
794   return 1;
795
796 error:
797   /* Free up any edits we may have added. */
798   pg_free_edit_group (s);
799   return 0;
800 }
801
802 void
803 icmp6_register_type (vlib_main_t * vm, icmp6_type_t type, u32 node_index)
804 {
805   icmp6_main_t *im = &icmp6_main;
806
807   ASSERT ((int) type < ARRAY_LEN (im->input_next_index_by_type));
808   im->input_next_index_by_type[type]
809     = vlib_node_add_next (vm, ip6_icmp_input_node.index, node_index);
810 }
811
812 static clib_error_t *
813 icmp6_init (vlib_main_t * vm)
814 {
815   ip_main_t *im = &ip_main;
816   ip_protocol_info_t *pi;
817   icmp6_main_t *cm = &icmp6_main;
818   clib_error_t *error;
819
820   error = vlib_call_init_function (vm, ip_main_init);
821
822   if (error)
823     return error;
824
825   pi = ip_get_protocol_info (im, IP_PROTOCOL_ICMP6);
826   pi->format_header = format_icmp6_header;
827   pi->unformat_pg_edit = unformat_pg_icmp_header;
828
829   cm->type_by_name = hash_create_string (0, sizeof (uword));
830 #define _(n,t) hash_set_mem (cm->type_by_name, #t, (n));
831   foreach_icmp6_type;
832 #undef _
833
834   cm->type_and_code_by_name = hash_create_string (0, sizeof (uword));
835 #define _(a,n,t) hash_set_mem (cm->type_by_name, #t, (n) | (ICMP6_##a << 8));
836   foreach_icmp6_code;
837 #undef _
838
839   memset (cm->input_next_index_by_type,
840           ICMP_INPUT_NEXT_DROP, sizeof (cm->input_next_index_by_type));
841   memset (cm->max_valid_code_by_type, 0, sizeof (cm->max_valid_code_by_type));
842
843 #define _(a,n,t) cm->max_valid_code_by_type[ICMP6_##a] = clib_max (cm->max_valid_code_by_type[ICMP6_##a], n);
844   foreach_icmp6_code;
845 #undef _
846
847   memset (cm->min_valid_hop_limit_by_type, 0,
848           sizeof (cm->min_valid_hop_limit_by_type));
849   cm->min_valid_hop_limit_by_type[ICMP6_router_solicitation] = 255;
850   cm->min_valid_hop_limit_by_type[ICMP6_router_advertisement] = 255;
851   cm->min_valid_hop_limit_by_type[ICMP6_neighbor_solicitation] = 255;
852   cm->min_valid_hop_limit_by_type[ICMP6_neighbor_advertisement] = 255;
853   cm->min_valid_hop_limit_by_type[ICMP6_redirect] = 255;
854
855   memset (cm->min_valid_length_by_type, sizeof (icmp46_header_t),
856           sizeof (cm->min_valid_length_by_type));
857   cm->min_valid_length_by_type[ICMP6_router_solicitation] =
858     sizeof (icmp6_neighbor_discovery_header_t);
859   cm->min_valid_length_by_type[ICMP6_router_advertisement] =
860     sizeof (icmp6_router_advertisement_header_t);
861   cm->min_valid_length_by_type[ICMP6_neighbor_solicitation] =
862     sizeof (icmp6_neighbor_solicitation_or_advertisement_header_t);
863   cm->min_valid_length_by_type[ICMP6_neighbor_advertisement] =
864     sizeof (icmp6_neighbor_solicitation_or_advertisement_header_t);
865   cm->min_valid_length_by_type[ICMP6_redirect] =
866     sizeof (icmp6_redirect_header_t);
867
868   icmp6_register_type (vm, ICMP6_echo_request,
869                        ip6_icmp_echo_request_node.index);
870
871   return vlib_call_init_function (vm, ip6_neighbor_init);
872 }
873
874 VLIB_INIT_FUNCTION (icmp6_init);
875
876 /*
877  * fd.io coding-style-patch-verification: ON
878  *
879  * Local Variables:
880  * eval: (c-set-style "gnu")
881  * End:
882  */