SCTP: missing spinlock init when multiple threads
[vpp.git] / src / vnet / sctp / sctp.c
1 /*
2  * Copyright (c) 2017 SUSE LLC.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this file except in compliance with the License.
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15 #include <vnet/sctp/sctp.h>
16 #include <vnet/sctp/sctp_debug.h>
17
18 sctp_main_t sctp_main;
19
20 static u32
21 sctp_connection_bind (u32 session_index, transport_endpoint_t * tep)
22 {
23   sctp_main_t *tm = &sctp_main;
24   sctp_connection_t *listener;
25   void *iface_ip;
26
27   pool_get (tm->listener_pool, listener);
28   memset (listener, 0, sizeof (*listener));
29
30   listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].parent = listener;
31   listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].c_c_index =
32     listener - tm->listener_pool;
33   listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.lcl_port = tep->port;
34
35   /* If we are provided a sw_if_index, bind using one of its IPs */
36   if (ip_is_zero (&tep->ip, 1) && tep->sw_if_index != ENDPOINT_INVALID_INDEX)
37     {
38       if ((iface_ip = ip_interface_get_first_ip (tep->sw_if_index,
39                                                  tep->is_ip4)))
40         ip_set (&tep->ip, iface_ip, tep->is_ip4);
41     }
42   ip_copy (&listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.lcl_ip,
43            &tep->ip, tep->is_ip4);
44
45   listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.is_ip4 = tep->is_ip4;
46   listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.proto =
47     TRANSPORT_PROTO_SCTP;
48   listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].c_s_index = session_index;
49   listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.fib_index =
50     tep->fib_index;
51   listener->state = SCTP_STATE_CLOSED;
52
53   sctp_connection_timers_init (listener);
54
55   return listener->sub_conn[MAIN_SCTP_SUB_CONN_IDX].c_c_index;
56 }
57
58 u32
59 sctp_session_bind (u32 session_index, transport_endpoint_t * tep)
60 {
61   return sctp_connection_bind (session_index, tep);
62 }
63
64 static void
65 sctp_connection_unbind (u32 listener_index)
66 {
67   sctp_main_t *tm = vnet_get_sctp_main ();
68   sctp_connection_t *sctp_conn;
69
70   sctp_conn = pool_elt_at_index (tm->listener_pool, listener_index);
71
72   /* Poison the entry */
73   if (CLIB_DEBUG > 0)
74     memset (sctp_conn, 0xFA, sizeof (*sctp_conn));
75
76   pool_put_index (tm->listener_pool, listener_index);
77 }
78
79 u32
80 sctp_session_unbind (u32 listener_index)
81 {
82   sctp_connection_unbind (listener_index);
83   return 0;
84 }
85
86 void
87 sctp_punt_unknown (vlib_main_t * vm, u8 is_ip4, u8 is_add)
88 {
89   sctp_main_t *tm = &sctp_main;
90   if (is_ip4)
91     tm->punt_unknown4 = is_add;
92   else
93     tm->punt_unknown6 = is_add;
94 }
95
96 static int
97 sctp_alloc_custom_local_endpoint (sctp_main_t * tm, ip46_address_t * lcl_addr,
98                                   u16 * lcl_port, u8 is_ip4)
99 {
100   int index, port;
101   if (is_ip4)
102     {
103       index = tm->last_v4_address_rotor++;
104       if (tm->last_v4_address_rotor >= vec_len (tm->ip4_src_addresses))
105         tm->last_v4_address_rotor = 0;
106       lcl_addr->ip4.as_u32 = tm->ip4_src_addresses[index].as_u32;
107     }
108   else
109     {
110       index = tm->last_v6_address_rotor++;
111       if (tm->last_v6_address_rotor >= vec_len (tm->ip6_src_addresses))
112         tm->last_v6_address_rotor = 0;
113       clib_memcpy (&lcl_addr->ip6, &tm->ip6_src_addresses[index],
114                    sizeof (ip6_address_t));
115     }
116   port = transport_alloc_local_port (TRANSPORT_PROTO_SCTP, lcl_addr);
117   if (port < 1)
118     {
119       clib_warning ("Failed to allocate src port");
120       return -1;
121     }
122   *lcl_port = port;
123   return 0;
124 }
125
126 /**
127  * Initialize all connection timers as invalid
128  */
129 void
130 sctp_connection_timers_init (sctp_connection_t * sctp_conn)
131 {
132   int i, j;
133
134   /* Set all to invalid */
135   for (i = 0; i < MAX_SCTP_CONNECTIONS; i++)
136     {
137       sctp_conn->sub_conn[i].RTO = SCTP_RTO_INIT;
138
139       for (j = 0; j < SCTP_N_TIMERS; j++)
140         {
141           sctp_conn->sub_conn[i].timers[j] = SCTP_TIMER_HANDLE_INVALID;
142         }
143     }
144 }
145
146 /**
147  * Stop all connection timers
148  */
149 void
150 sctp_connection_timers_reset (sctp_connection_t * sctp_conn)
151 {
152   int i, j;
153   for (i = 0; i < MAX_SCTP_CONNECTIONS; i++)
154     {
155       for (j = 0; j < SCTP_N_TIMERS; j++)
156         sctp_timer_reset (sctp_conn, i, j);
157     }
158 }
159
160 const char *sctp_fsm_states[] = {
161 #define _(sym, str) str,
162   foreach_sctp_fsm_state
163 #undef _
164 };
165
166 u8 *
167 format_sctp_state (u8 * s, va_list * args)
168 {
169   u32 state = va_arg (*args, u32);
170
171   if (state < SCTP_N_STATES)
172     s = format (s, "%s", sctp_fsm_states[state]);
173   else
174     s = format (s, "UNKNOWN (%d (0x%x))", state, state);
175   return s;
176 }
177
178 u8 *
179 format_sctp_connection_id (u8 * s, va_list * args)
180 {
181   /*
182      sctp_connection_t *sctp_conn = va_arg (*args, sctp_connection_t *);
183      if (!sctp_conn)
184      return s;
185      if (sctp_conn->c_is_ip4)
186      {
187      s = format (s, "[#%d][%s] %U:%d->%U:%d", sctp_conn->c_thread_index, "T",
188      format_ip4_address, &sctp_conn->c_lcl_ip4,
189      clib_net_to_host_u16 (sctp_conn->c_lcl_port), format_ip4_address,
190      &sctp_conn->c_rmt_ip4, clib_net_to_host_u16 (sctp_conn->c_rmt_port));
191      }
192      else
193      {
194      s = format (s, "[#%d][%s] %U:%d->%U:%d", sctp_conn->c_thread_index, "T",
195      format_ip6_address, &sctp_conn->c_lcl_ip6,
196      clib_net_to_host_u16 (sctp_conn->c_lcl_port), format_ip6_address,
197      &sctp_conn->c_rmt_ip6, clib_net_to_host_u16 (sctp_conn->c_rmt_port));
198      }
199    */
200   return s;
201 }
202
203 u8 *
204 format_sctp_connection (u8 * s, va_list * args)
205 {
206   sctp_connection_t *sctp_conn = va_arg (*args, sctp_connection_t *);
207   u32 verbose = va_arg (*args, u32);
208
209   if (!sctp_conn)
210     return s;
211   s = format (s, "%-50U", format_sctp_connection_id, sctp_conn);
212   if (verbose)
213     {
214       s = format (s, "%-15U", format_sctp_state, sctp_conn->state);
215     }
216
217   return s;
218 }
219
220 /**
221  * Initialize connection send variables.
222  */
223 void
224 sctp_init_snd_vars (sctp_connection_t * sctp_conn)
225 {
226   u32 time_now;
227   /*
228    * We use the time to randomize iss and for setting up the initial
229    * timestamp. Make sure it's updated otherwise syn and ack in the
230    * handshake may make it look as if time has flown in the opposite
231    * direction for us.
232    */
233
234   sctp_set_time_now (vlib_get_thread_index ());
235   time_now = sctp_time_now ();
236
237   sctp_conn->local_initial_tsn = random_u32 (&time_now);
238   sctp_conn->remote_initial_tsn = 0x0;
239   sctp_conn->last_rcvd_tsn = sctp_conn->remote_initial_tsn;
240   sctp_conn->next_tsn = sctp_conn->local_initial_tsn + 1;
241 }
242
243 /**
244  * Update max segment size we're able to process.
245  *
246  * The value is constrained by our interface's MTU and IP options. It is
247  * also what we advertise to our peer.
248  */
249 void
250 sctp_update_rcv_mss (sctp_connection_t * sctp_conn)
251 {
252   sctp_conn->smallest_PMTU = DEFAULT_A_RWND;    /* TODO find our iface MTU */
253   sctp_conn->a_rwnd = DEFAULT_A_RWND - sizeof (sctp_full_hdr_t);
254   sctp_conn->rcv_opts.a_rwnd = sctp_conn->a_rwnd;
255   sctp_conn->rcv_a_rwnd = sctp_conn->a_rwnd;    /* This will be updated by our congestion algos */
256 }
257
258 void
259 sctp_init_mss (sctp_connection_t * sctp_conn)
260 {
261   SCTP_DBG ("CONN_INDEX = %u",
262             sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.c_index);
263
264   u16 default_a_rwnd = 536;
265   sctp_update_rcv_mss (sctp_conn);
266
267   /* TODO cache mss and consider PMTU discovery */
268   sctp_conn->snd_a_rwnd =
269     clib_min (sctp_conn->rcv_opts.a_rwnd, sctp_conn->a_rwnd);
270
271   if (sctp_conn->snd_a_rwnd < sizeof (sctp_full_hdr_t))
272     {
273       SCTP_ADV_DBG ("sctp_conn->snd_a_rwnd < sizeof(sctp_full_hdr_t)");
274       /* Assume that at least the min default mss works */
275       sctp_conn->snd_a_rwnd = default_a_rwnd;
276       sctp_conn->rcv_opts.a_rwnd = default_a_rwnd;
277     }
278
279   ASSERT (sctp_conn->snd_a_rwnd > sizeof (sctp_full_hdr_t));
280 }
281
282 always_inline sctp_connection_t *
283 sctp_sub_connection_add (u8 thread_index)
284 {
285   sctp_main_t *tm = vnet_get_sctp_main ();
286   sctp_connection_t *sctp_conn = tm->connections[thread_index];
287
288   sctp_conn->sub_conn[sctp_conn->next_avail_sub_conn].connection.c_index =
289     sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.c_index;
290   sctp_conn->sub_conn[sctp_conn->next_avail_sub_conn].
291     connection.thread_index = thread_index;
292   sctp_conn->sub_conn[sctp_conn->next_avail_sub_conn].parent = sctp_conn;
293
294   sctp_conn->next_avail_sub_conn += 1;
295
296   return sctp_conn;
297 }
298
299 void
300 sctp_sub_connection_add_ip4 (u8 thread_index,
301                              sctp_ipv4_addr_param_t * ipv4_addr)
302 {
303   sctp_connection_t *sctp_conn = sctp_sub_connection_add (thread_index);
304
305   clib_memcpy (&sctp_conn->
306                sub_conn[sctp_conn->next_avail_sub_conn].connection.lcl_ip.ip4,
307                &ipv4_addr->address, sizeof (ipv4_addr->address));
308 }
309
310 void
311 sctp_sub_connection_add_ip6 (u8 thread_index,
312                              sctp_ipv6_addr_param_t * ipv6_addr)
313 {
314   sctp_connection_t *sctp_conn = sctp_sub_connection_add (thread_index);
315
316   clib_memcpy (&sctp_conn->
317                sub_conn[sctp_conn->next_avail_sub_conn].connection.lcl_ip.ip6,
318                &ipv6_addr->address, sizeof (ipv6_addr->address));
319 }
320
321 sctp_connection_t *
322 sctp_connection_new (u8 thread_index)
323 {
324   sctp_main_t *tm = vnet_get_sctp_main ();
325   sctp_connection_t *sctp_conn;
326
327   pool_get (tm->connections[thread_index], sctp_conn);
328   memset (sctp_conn, 0, sizeof (*sctp_conn));
329   sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].parent = sctp_conn;
330   sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].c_c_index =
331     sctp_conn - tm->connections[thread_index];
332   sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].c_thread_index = thread_index;
333   sctp_conn->local_tag = 0;
334   sctp_conn->next_avail_sub_conn = 1;
335
336   return sctp_conn;
337 }
338
339 sctp_connection_t *
340 sctp_half_open_connection_new (u8 thread_index)
341 {
342   sctp_main_t *tm = vnet_get_sctp_main ();
343   sctp_connection_t *sctp_conn = 0;
344   ASSERT (vlib_get_thread_index () == 0);
345   pool_get (tm->half_open_connections, sctp_conn);
346   memset (sctp_conn, 0, sizeof (*sctp_conn));
347   sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].c_c_index =
348     sctp_conn - tm->half_open_connections;
349   sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].parent = sctp_conn;
350   return sctp_conn;
351 }
352
353 static inline int
354 sctp_connection_open (transport_endpoint_t * rmt)
355 {
356   sctp_main_t *tm = vnet_get_sctp_main ();
357   sctp_connection_t *sctp_conn;
358   ip46_address_t lcl_addr;
359   u16 lcl_port;
360   uword thread_id;
361   int rv;
362
363   u8 idx = sctp_pick_conn_idx_on_state (SCTP_STATE_CLOSED);
364
365   /*
366    * Allocate local endpoint
367    */
368   if ((rmt->is_ip4 && vec_len (tm->ip4_src_addresses))
369       || (!rmt->is_ip4 && vec_len (tm->ip6_src_addresses)))
370     rv = sctp_alloc_custom_local_endpoint (tm, &lcl_addr, &lcl_port,
371                                            rmt->is_ip4);
372   else
373     rv = transport_alloc_local_endpoint (TRANSPORT_PROTO_SCTP,
374                                          rmt, &lcl_addr, &lcl_port);
375
376   if (rv)
377     return -1;
378
379   /*
380    * Create connection and send INIT CHUNK
381    */
382   thread_id = vlib_get_thread_index ();
383   ASSERT (thread_id == 0);
384
385   clib_spinlock_lock_if_init (&tm->half_open_lock);
386   sctp_conn = sctp_half_open_connection_new (thread_id);
387
388   transport_connection_t *trans_conn = &sctp_conn->sub_conn[idx].connection;
389   ip_copy (&trans_conn->rmt_ip, &rmt->ip, rmt->is_ip4);
390   ip_copy (&trans_conn->lcl_ip, &lcl_addr, rmt->is_ip4);
391   sctp_conn->sub_conn[idx].parent = sctp_conn;
392   trans_conn->rmt_port = rmt->port;
393   trans_conn->lcl_port = clib_host_to_net_u16 (lcl_port);
394   trans_conn->is_ip4 = rmt->is_ip4;
395   trans_conn->proto = TRANSPORT_PROTO_SCTP;
396   trans_conn->fib_index = rmt->fib_index;
397
398   sctp_connection_timers_init (sctp_conn);
399   /* The other connection vars will be initialized after INIT_ACK chunk received */
400   sctp_init_snd_vars (sctp_conn);
401
402   sctp_send_init (sctp_conn);
403
404   clib_spinlock_unlock_if_init (&tm->half_open_lock);
405
406   return sctp_conn->sub_conn[idx].connection.c_index;
407 }
408
409 /**
410  * Cleans up connection state.
411  *
412  * No notifications.
413  */
414 void
415 sctp_connection_cleanup (sctp_connection_t * sctp_conn)
416 {
417   sctp_main_t *tm = &sctp_main;
418   u8 i;
419
420   /* Cleanup local endpoint if this was an active connect */
421   for (i = 0; i < MAX_SCTP_CONNECTIONS; i++)
422     transport_endpoint_cleanup (TRANSPORT_PROTO_SCTP,
423                                 &sctp_conn->sub_conn[i].connection.lcl_ip,
424                                 sctp_conn->sub_conn[i].connection.lcl_port);
425
426   /* Check if connection is not yet fully established */
427   if (sctp_conn->state == SCTP_STATE_COOKIE_WAIT)
428     {
429
430     }
431   else
432     {
433       int thread_index =
434         sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.thread_index;
435
436       /* Make sure all timers are cleared */
437       sctp_connection_timers_reset (sctp_conn);
438
439       /* Poison the entry */
440       if (CLIB_DEBUG > 0)
441         memset (sctp_conn, 0xFA, sizeof (*sctp_conn));
442       pool_put (tm->connections[thread_index], sctp_conn);
443     }
444 }
445
446 int
447 sctp_session_open (transport_endpoint_t * tep)
448 {
449   return sctp_connection_open (tep);
450 }
451
452 u16
453 sctp_check_outstanding_data_chunks (sctp_connection_t * sctp_conn)
454 {
455   return 0;                     /* Indicates no more data to be read/sent */
456 }
457
458 void
459 sctp_connection_close (sctp_connection_t * sctp_conn)
460 {
461   SCTP_DBG ("Closing connection %u...",
462             sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection.c_index);
463
464   sctp_conn->state = SCTP_STATE_SHUTDOWN_PENDING;
465
466   sctp_send_shutdown (sctp_conn);
467 }
468
469 void
470 sctp_session_close (u32 conn_index, u32 thread_index)
471 {
472   ASSERT (thread_index == 0);
473
474   sctp_connection_t *sctp_conn;
475   sctp_conn = sctp_connection_get (conn_index, thread_index);
476   sctp_connection_close (sctp_conn);
477 }
478
479 void
480 sctp_session_cleanup (u32 conn_index, u32 thread_index)
481 {
482   sctp_connection_t *sctp_conn;
483   sctp_conn = sctp_connection_get (conn_index, thread_index);
484   sctp_connection_timers_reset (sctp_conn);
485
486   /* Wait for the session tx events to clear */
487   sctp_conn->state = SCTP_STATE_CLOSED;
488 }
489
490 /**
491  * Update snd_mss to reflect the effective segment size that we can send
492  */
493 void
494 sctp_update_snd_mss (sctp_connection_t * sctp_conn)
495 {
496   /* The overhead for the sctp_header_t and sctp_chunks_common_hdr_t
497    * (the sum equals to sctp_full_hdr_t) is already taken into account
498    * for the sctp_conn->a_rwnd computation.
499    * So let's not account it again here.
500    */
501   sctp_conn->snd_hdr_length =
502     sizeof (sctp_payload_data_chunk_t) - sizeof (sctp_full_hdr_t);
503   sctp_conn->snd_a_rwnd =
504     clib_min (sctp_conn->a_rwnd,
505               sctp_conn->rcv_opts.a_rwnd) - sctp_conn->snd_hdr_length;
506
507   SCTP_DBG ("sctp_conn->snd_a_rwnd = %u, sctp_conn->snd_hdr_length = %u ",
508             sctp_conn->snd_a_rwnd, sctp_conn->snd_hdr_length);
509
510   ASSERT (sctp_conn->snd_a_rwnd > 0);
511 }
512
513 u16
514 sctp_session_send_mss (transport_connection_t * trans_conn)
515 {
516   SCTP_DBG ("CONN_INDEX: %u", trans_conn->c_index);
517
518   sctp_connection_t *sctp_conn =
519     sctp_get_connection_from_transport (trans_conn);
520
521   if (trans_conn == NULL)
522     {
523       SCTP_DBG ("trans_conn == NULL");
524       return 0;
525     }
526
527   if (sctp_conn == NULL)
528     {
529       SCTP_DBG ("sctp_conn == NULL");
530       return 0;
531     }
532   /* Ensure snd_mss does accurately reflect the amount of data we can push
533    * in a segment. This also makes sure that options are updated according to
534    * the current state of the connection. */
535   sctp_update_snd_mss (sctp_conn);
536
537   return sctp_conn->snd_a_rwnd;
538 }
539
540 u16
541 sctp_snd_space (sctp_connection_t * sctp_conn)
542 {
543   /* TODO: This requires a real implementation */
544   if (sctp_conn == NULL)
545     {
546       SCTP_DBG ("sctp_conn == NULL");
547       return 0;
548     }
549
550   if (sctp_conn->state != SCTP_STATE_ESTABLISHED)
551     {
552       SCTP_DBG_STATE_MACHINE
553         ("Trying to send DATA while not in SCTP_STATE_ESTABLISHED");
554       return 0;
555     }
556
557   return sctp_conn->snd_a_rwnd;
558 }
559
560 u32
561 sctp_session_send_space (transport_connection_t * trans_conn)
562 {
563   SCTP_DBG ("CONN_INDEX: %u", trans_conn->c_index);
564
565   sctp_connection_t *sctp_conn =
566     sctp_get_connection_from_transport (trans_conn);
567
568   return sctp_snd_space (sctp_conn);
569 }
570
571 transport_connection_t *
572 sctp_session_get_transport (u32 conn_index, u32 thread_index)
573 {
574   sctp_connection_t *sctp_conn =
575     sctp_connection_get (conn_index, thread_index);
576   return &sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection;
577 }
578
579 transport_connection_t *
580 sctp_session_get_listener (u32 listener_index)
581 {
582   sctp_main_t *tm = vnet_get_sctp_main ();
583   sctp_connection_t *sctp_conn;
584   sctp_conn = pool_elt_at_index (tm->listener_pool, listener_index);
585   return &sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection;
586 }
587
588 u8 *
589 format_sctp_session (u8 * s, va_list * args)
590 {
591   return NULL;
592 }
593
594 u8 *
595 format_sctp_listener_session (u8 * s, va_list * args)
596 {
597   return NULL;
598 }
599
600 void
601 sctp_expired_timers_cb (u32 conn_index, u32 timer_id)
602 {
603   sctp_connection_t *sctp_conn;
604
605   sctp_conn = sctp_connection_get (conn_index, vlib_get_thread_index ());
606   /* note: the connection may have already disappeared */
607   if (PREDICT_FALSE (sctp_conn == 0))
608     return;
609   ASSERT (sctp_conn->state == SCTP_STATE_COOKIE_ECHOED);
610
611   switch (timer_id)
612     {
613     case SCTP_TIMER_T4_HEARTBEAT:
614       {
615         clib_warning ("Heartbeat timeout");
616         break;
617       }
618     }
619   /* Start cleanup. App wasn't notified yet so use delete notify as
620    * opposed to delete to cleanup session layer state. */
621   stream_session_delete_notify (&sctp_conn->
622                                 sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection);
623
624   sctp_connection_timers_reset (sctp_conn);
625
626   sctp_connection_cleanup (sctp_conn);
627 }
628
629 /* *INDENT OFF* */
630 static sctp_timer_expiration_handler
631   * sctp_timer_expiration_handlers[SCTP_N_TIMERS] = {
632   sctp_expired_timers_cb
633 };
634
635 /* *INDENT ON* */
636
637 static void
638 sctp_expired_timers_dispatch (u32 * expired_timers)
639 {
640   int i;
641   u32 connection_index, timer_id;
642
643   for (i = 0; i < vec_len (expired_timers); i++)
644     {
645       /* Get session index and timer id */
646       connection_index = expired_timers[i] & 0x0FFFFFFF;
647       timer_id = expired_timers[i] >> 28;
648
649       SCTP_DBG ("Expired timer ID: %u", timer_id);
650
651       /* Handle expiration */
652       (*sctp_timer_expiration_handlers[timer_id]) (connection_index,
653                                                    timer_id);
654     }
655 }
656
657 void
658 sctp_initialize_timer_wheels (sctp_main_t * tm)
659 {
660   tw_timer_wheel_16t_2w_512sl_t *tw;
661   /* *INDENT-OFF* */
662   foreach_vlib_main (({
663     tw = &tm->timer_wheels[ii];
664     tw_timer_wheel_init_16t_2w_512sl (tw, sctp_expired_timers_dispatch,
665                                       100e-3 /* timer period 100ms */ , ~0);
666     tw->last_run_time = vlib_time_now (this_vlib_main);
667   }));
668   /* *INDENT-ON* */
669 }
670
671 clib_error_t *
672 sctp_main_enable (vlib_main_t * vm)
673 {
674   sctp_main_t *tm = vnet_get_sctp_main ();
675   vlib_thread_main_t *vtm = vlib_get_thread_main ();
676   clib_error_t *error = 0;
677   u32 num_threads;
678   int thread;
679   sctp_connection_t *sctp_conn __attribute__ ((unused));
680   u32 preallocated_connections_per_thread;
681
682   if ((error = vlib_call_init_function (vm, ip_main_init)))
683     return error;
684   if ((error = vlib_call_init_function (vm, ip4_lookup_init)))
685     return error;
686   if ((error = vlib_call_init_function (vm, ip6_lookup_init)))
687     return error;
688
689   /*
690    * Registrations
691    */
692
693   ip4_register_protocol (IP_PROTOCOL_SCTP, sctp4_input_node.index);
694   ip6_register_protocol (IP_PROTOCOL_SCTP, sctp6_input_node.index);
695
696   /*
697    * Initialize data structures
698    */
699
700   num_threads = 1 /* main thread */  + vtm->n_threads;
701   vec_validate (tm->connections, num_threads - 1);
702
703   /*
704    * Preallocate connections. Assume that thread 0 won't
705    * use preallocated threads when running multi-core
706    */
707   if (num_threads == 1)
708     {
709       thread = 0;
710       preallocated_connections_per_thread = tm->preallocated_connections;
711     }
712   else
713     {
714       thread = 1;
715       preallocated_connections_per_thread =
716         tm->preallocated_connections / (num_threads - 1);
717     }
718   for (; thread < num_threads; thread++)
719     {
720       if (preallocated_connections_per_thread)
721         pool_init_fixed (tm->connections[thread],
722                          preallocated_connections_per_thread);
723     }
724
725   /* Initialize per worker thread tx buffers (used for control messages) */
726   vec_validate (tm->tx_buffers, num_threads - 1);
727
728   /* Initialize timer wheels */
729   vec_validate (tm->timer_wheels, num_threads - 1);
730   sctp_initialize_timer_wheels (tm);
731
732   /* Initialize clocks per tick for SCTP timestamp. Used to compute
733    * monotonically increasing timestamps. */
734   tm->tstamp_ticks_per_clock = vm->clib_time.seconds_per_clock
735     / SCTP_TSTAMP_RESOLUTION;
736
737   if (num_threads > 1)
738     {
739       clib_spinlock_init (&tm->half_open_lock);
740     }
741
742   vec_validate (tm->tx_frames[0], num_threads - 1);
743   vec_validate (tm->tx_frames[1], num_threads - 1);
744   vec_validate (tm->ip_lookup_tx_frames[0], num_threads - 1);
745   vec_validate (tm->ip_lookup_tx_frames[1], num_threads - 1);
746
747   tm->bytes_per_buffer = vlib_buffer_free_list_buffer_size
748     (vm, VLIB_BUFFER_DEFAULT_FREE_LIST_INDEX);
749
750   vec_validate (tm->time_now, num_threads - 1);
751   return error;
752 }
753
754 clib_error_t *
755 sctp_enable_disable (vlib_main_t * vm, u8 is_en)
756 {
757   if (is_en)
758     {
759       if (sctp_main.is_enabled)
760         return 0;
761
762       return sctp_main_enable (vm);
763     }
764   else
765     {
766       sctp_main.is_enabled = 0;
767     }
768
769   return 0;
770 }
771
772 transport_connection_t *
773 sctp_half_open_session_get_transport (u32 conn_index)
774 {
775   sctp_connection_t *sctp_conn = sctp_half_open_connection_get (conn_index);
776   return &sctp_conn->sub_conn[MAIN_SCTP_SUB_CONN_IDX].connection;
777 }
778
779 u8 *
780 format_sctp_half_open (u8 * s, va_list * args)
781 {
782   u32 tci = va_arg (*args, u32);
783   sctp_connection_t *sctp_conn = sctp_half_open_connection_get (tci);
784   return format (s, "%U", format_sctp_connection_id, sctp_conn);
785 }
786
787 void
788 sctp_update_time (f64 now, u8 thread_index)
789 {
790   sctp_set_time_now (thread_index);
791   tw_timer_expire_timers_16t_2w_512sl (&sctp_main.timer_wheels[thread_index],
792                                        now);
793   sctp_flush_frames_to_output (thread_index);
794 }
795
796 /* *INDENT OFF* */
797 const static transport_proto_vft_t sctp_proto = {
798   .enable = sctp_enable_disable,
799   .bind = sctp_session_bind,
800   .unbind = sctp_session_unbind,
801   .open = sctp_session_open,
802   .close = sctp_session_close,
803   .cleanup = sctp_session_cleanup,
804   .push_header = sctp_push_header,
805   .send_mss = sctp_session_send_mss,
806   .send_space = sctp_session_send_space,
807   .tx_fifo_offset = NULL,       //sctp_session_tx_fifo_offset,
808   .update_time = sctp_update_time,
809   .get_connection = sctp_session_get_transport,
810   .get_listener = sctp_session_get_listener,
811   .get_half_open = sctp_half_open_session_get_transport,
812   .format_connection = format_sctp_session,
813   .format_listener = format_sctp_listener_session,
814   .format_half_open = format_sctp_half_open,
815 };
816
817 /* *INDENT ON* */
818
819 clib_error_t *
820 sctp_init (vlib_main_t * vm)
821 {
822   sctp_main_t *tm = vnet_get_sctp_main ();
823   ip_main_t *im = &ip_main;
824   ip_protocol_info_t *pi;
825   /* Session layer, and by implication SCTP, are disabled by default */
826   tm->is_enabled = 0;
827
828   /* Register with IP for header parsing */
829   pi = ip_get_protocol_info (im, IP_PROTOCOL_SCTP);
830   if (pi == 0)
831     return clib_error_return (0, "SCTP protocol info AWOL");
832   pi->format_header = format_sctp_header;
833   pi->unformat_pg_edit = unformat_pg_sctp_header;
834
835   /* Register as transport with session layer */
836   transport_register_protocol (TRANSPORT_PROTO_SCTP, &sctp_proto,
837                                FIB_PROTOCOL_IP4, sctp4_output_node.index);
838   transport_register_protocol (TRANSPORT_PROTO_SCTP, &sctp_proto,
839                                FIB_PROTOCOL_IP6, sctp6_output_node.index);
840
841   return 0;
842 }
843
844 VLIB_INIT_FUNCTION (sctp_init);
845
846 /*
847  * fd.io coding-style-patch-verification: ON
848  *
849  * Local Variables:
850  * eval: (c-set-style "gnu")
851  * End:
852  */