hsa: dealloc proxy fifos on right thread
[vpp.git] / src / plugins / wireguard / wireguard_if.c
1 /*
2  * Copyright (c) 2020 Cisco and/or its affiliates.
3  * Copyright (c) 2020 Doc.ai and/or its affiliates.
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at:
7  *
8  *     http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #include <vnet/adj/adj_midchain.h>
18 #include <vnet/udp/udp.h>
19
20 #include <wireguard/wireguard_messages.h>
21 #include <wireguard/wireguard_if.h>
22 #include <wireguard/wireguard.h>
23 #include <wireguard/wireguard_peer.h>
24
25 /* pool of interfaces */
26 wg_if_t *wg_if_pool;
27
28 /* bitmap of Allocated WG_ITF instances */
29 static uword *wg_if_instances;
30
31 /* vector of interfaces key'd on their sw_if_index */
32 static index_t *wg_if_index_by_sw_if_index;
33
34 /* vector of interfaces key'd on their UDP port (in network order) */
35 index_t **wg_if_indexes_by_port;
36
37 static u8 *
38 format_wg_if_name (u8 * s, va_list * args)
39 {
40   u32 dev_instance = va_arg (*args, u32);
41   wg_if_t *wgi = wg_if_get (dev_instance);
42   return format (s, "wg%d", wgi->user_instance);
43 }
44
45 u8 *
46 format_wg_if (u8 * s, va_list * args)
47 {
48   index_t wgii = va_arg (*args, u32);
49   wg_if_t *wgi = wg_if_get (wgii);
50   noise_local_t *local = noise_local_get (wgi->local_idx);
51   u8 key[NOISE_KEY_LEN_BASE64];
52
53   s = format (s, "[%d] %U src:%U port:%d",
54               wgii,
55               format_vnet_sw_if_index_name, vnet_get_main (),
56               wgi->sw_if_index, format_ip_address, &wgi->src_ip, wgi->port);
57
58   key_to_base64 (local->l_private, NOISE_PUBLIC_KEY_LEN, key);
59
60   s = format (s, " private-key:%s", key);
61   s =
62     format (s, " %U", format_hex_bytes, local->l_private,
63             NOISE_PUBLIC_KEY_LEN);
64
65   key_to_base64 (local->l_public, NOISE_PUBLIC_KEY_LEN, key);
66
67   s = format (s, " public-key:%s", key);
68
69   s =
70     format (s, " %U", format_hex_bytes, local->l_public,
71             NOISE_PUBLIC_KEY_LEN);
72
73   s = format (s, " mac-key: %U", format_hex_bytes,
74               &wgi->cookie_checker.cc_mac1_key, NOISE_PUBLIC_KEY_LEN);
75
76   return (s);
77 }
78
79 index_t
80 wg_if_find_by_sw_if_index (u32 sw_if_index)
81 {
82   if (vec_len (wg_if_index_by_sw_if_index) <= sw_if_index)
83     return INDEX_INVALID;
84   u32 ti = wg_if_index_by_sw_if_index[sw_if_index];
85   if (ti == ~0)
86     return INDEX_INVALID;
87
88   return (ti);
89 }
90
91 static walk_rc_t
92 wg_if_find_peer_by_public_key (index_t peeri, void *data)
93 {
94   uint8_t *public = data;
95   wg_peer_t *peer = wg_peer_get (peeri);
96
97   if (!memcmp (peer->remote.r_public, public, NOISE_PUBLIC_KEY_LEN))
98     return (WALK_STOP);
99   return (WALK_CONTINUE);
100 }
101
102 static noise_remote_t *
103 wg_remote_get (const uint8_t public[NOISE_PUBLIC_KEY_LEN])
104 {
105   index_t peeri;
106
107   peeri = wg_peer_walk (wg_if_find_peer_by_public_key, (void *) public);
108
109   if (INDEX_INVALID != peeri)
110     return &wg_peer_get (peeri)->remote;
111
112   return NULL;
113 }
114
115 static uint32_t
116 wg_index_set (noise_remote_t * remote)
117 {
118   wg_main_t *wmp = &wg_main;
119   u32 rnd_seed = (u32) (vlib_time_now (wmp->vlib_main) * 1e6);
120   u32 ret =
121     wg_index_table_add (&wmp->index_table, remote->r_peer_idx, rnd_seed);
122   return ret;
123 }
124
125 static void
126 wg_index_drop (uint32_t key)
127 {
128   wg_main_t *wmp = &wg_main;
129   wg_index_table_del (&wmp->index_table, key);
130 }
131
132 static clib_error_t *
133 wg_if_admin_up_down (vnet_main_t * vnm, u32 hw_if_index, u32 flags)
134 {
135   vnet_hw_interface_t *hi;
136   index_t wgii;
137   u32 hw_flags;
138
139   hi = vnet_get_hw_interface (vnm, hw_if_index);
140   hw_flags = (flags & VNET_SW_INTERFACE_FLAG_ADMIN_UP ?
141               VNET_HW_INTERFACE_FLAG_LINK_UP : 0);
142   vnet_hw_interface_set_flags (vnm, hw_if_index, hw_flags);
143
144   wgii = wg_if_find_by_sw_if_index (hi->sw_if_index);
145
146   wg_if_peer_walk (wg_if_get (wgii), wg_peer_if_admin_state_change, NULL);
147
148   return (NULL);
149 }
150
151 void
152 wg_if_update_adj (vnet_main_t * vnm, u32 sw_if_index, adj_index_t ai)
153 {
154   index_t wgii;
155
156   wgii = wg_if_find_by_sw_if_index (sw_if_index);
157   wg_if_peer_walk (wg_if_get (wgii), wg_peer_if_adj_change, &ai);
158 }
159
160
161 /* *INDENT-OFF* */
162 VNET_DEVICE_CLASS (wg_if_device_class) = {
163   .name = "Wireguard Tunnel",
164   .format_device_name = format_wg_if_name,
165   .admin_up_down_function = wg_if_admin_up_down,
166 };
167
168 VNET_HW_INTERFACE_CLASS(wg_hw_interface_class) = {
169   .name = "Wireguard",
170   .update_adjacency = wg_if_update_adj,
171   .flags = VNET_HW_INTERFACE_CLASS_FLAG_NBMA,
172 };
173 /* *INDENT-ON* */
174
175 /*
176  * Maintain a bitmap of allocated wg_if instance numbers.
177  */
178 #define WG_ITF_MAX_INSTANCE             (16 * 1024)
179
180 static u32
181 wg_if_instance_alloc (u32 want)
182 {
183   /*
184    * Check for dynamically allocated instance number.
185    */
186   if (~0 == want)
187     {
188       u32 bit;
189
190       bit = clib_bitmap_first_clear (wg_if_instances);
191       if (bit >= WG_ITF_MAX_INSTANCE)
192         {
193           return ~0;
194         }
195       wg_if_instances = clib_bitmap_set (wg_if_instances, bit, 1);
196       return bit;
197     }
198
199   /*
200    * In range?
201    */
202   if (want >= WG_ITF_MAX_INSTANCE)
203     {
204       return ~0;
205     }
206
207   /*
208    * Already in use?
209    */
210   if (clib_bitmap_get (wg_if_instances, want))
211     {
212       return ~0;
213     }
214
215   /*
216    * Grant allocation request.
217    */
218   wg_if_instances = clib_bitmap_set (wg_if_instances, want, 1);
219
220   return want;
221 }
222
223 static int
224 wg_if_instance_free (u32 instance)
225 {
226   if (instance >= WG_ITF_MAX_INSTANCE)
227     {
228       return -1;
229     }
230
231   if (clib_bitmap_get (wg_if_instances, instance) == 0)
232     {
233       return -1;
234     }
235
236   wg_if_instances = clib_bitmap_set (wg_if_instances, instance, 0);
237   return 0;
238 }
239
240
241 int
242 wg_if_create (u32 user_instance,
243               const u8 private_key[NOISE_PUBLIC_KEY_LEN],
244               u16 port, const ip_address_t * src_ip, u32 * sw_if_indexp)
245 {
246   vnet_main_t *vnm = vnet_get_main ();
247   u32 instance, hw_if_index;
248   vnet_hw_interface_t *hi;
249   wg_if_t *wg_if;
250   noise_local_t *local;
251
252   ASSERT (sw_if_indexp);
253
254   *sw_if_indexp = (u32) ~ 0;
255
256   /*
257    * Allocate a wg_if instance. Either select on dynamically
258    * or try to use the desired user_instance number.
259    */
260   instance = wg_if_instance_alloc (user_instance);
261   if (instance == ~0)
262     return VNET_API_ERROR_INVALID_REGISTRATION;
263
264   /* *INDENT-OFF* */
265   struct noise_upcall upcall =  {
266     .u_remote_get = wg_remote_get,
267     .u_index_set = wg_index_set,
268     .u_index_drop = wg_index_drop,
269   };
270   /* *INDENT-ON* */
271
272   pool_get (noise_local_pool, local);
273
274   noise_local_init (local, &upcall);
275   if (!noise_local_set_private (local, private_key))
276     {
277       pool_put (noise_local_pool, local);
278       wg_if_instance_free (instance);
279       return VNET_API_ERROR_INVALID_REGISTRATION;
280     }
281
282   pool_get (wg_if_pool, wg_if);
283
284   /* tunnel index (or instance) */
285   u32 t_idx = wg_if - wg_if_pool;
286
287   wg_if->user_instance = instance;
288   if (~0 == wg_if->user_instance)
289     wg_if->user_instance = t_idx;
290
291   vec_validate_init_empty (wg_if_indexes_by_port, port, NULL);
292   if (vec_len (wg_if_indexes_by_port[port]) == 0)
293     {
294       udp_register_dst_port (vlib_get_main (), port, wg4_input_node.index,
295                              UDP_IP4);
296       udp_register_dst_port (vlib_get_main (), port, wg6_input_node.index,
297                              UDP_IP6);
298     }
299
300   vec_add1 (wg_if_indexes_by_port[port], t_idx);
301
302   wg_if->port = port;
303   wg_if->local_idx = local - noise_local_pool;
304   cookie_checker_update (&wg_if->cookie_checker, local->l_public);
305
306   hw_if_index = vnet_register_interface (vnm,
307                                          wg_if_device_class.index,
308                                          t_idx,
309                                          wg_hw_interface_class.index, t_idx);
310
311   hi = vnet_get_hw_interface (vnm, hw_if_index);
312
313   vec_validate_init_empty (wg_if_index_by_sw_if_index, hi->sw_if_index,
314                            INDEX_INVALID);
315   wg_if_index_by_sw_if_index[hi->sw_if_index] = t_idx;
316
317   ip_address_copy (&wg_if->src_ip, src_ip);
318   wg_if->sw_if_index = *sw_if_indexp = hi->sw_if_index;
319   vnet_set_interface_l3_output_node (vnm->vlib_main, hi->sw_if_index,
320                                      (u8 *) "tunnel-output");
321
322   return 0;
323 }
324
325 int
326 wg_if_delete (u32 sw_if_index)
327 {
328   vnet_main_t *vnm = vnet_get_main ();
329
330   if (pool_is_free_index (vnm->interface_main.sw_interfaces, sw_if_index))
331     return VNET_API_ERROR_INVALID_SW_IF_INDEX;
332
333   vnet_hw_interface_t *hw = vnet_get_sup_hw_interface (vnm, sw_if_index);
334   if (hw == 0 || hw->dev_class_index != wg_if_device_class.index)
335     return VNET_API_ERROR_INVALID_VALUE;
336
337   wg_if_t *wg_if;
338   index_t wgii = wg_if_find_by_sw_if_index (sw_if_index);
339   wg_if = wg_if_get (wgii);
340   if (NULL == wg_if)
341     return VNET_API_ERROR_INVALID_SW_IF_INDEX_2;
342
343   if (wg_if_instance_free (wg_if->user_instance) < 0)
344     return VNET_API_ERROR_INVALID_VALUE_2;
345
346   // Remove peers before interface deletion
347   wg_if_peer_walk (wg_if, wg_peer_if_delete, NULL);
348
349   index_t *ii;
350   index_t *ifs = wg_if_indexes_get_by_port (wg_if->port);
351   vec_foreach (ii, ifs)
352     {
353       if (*ii == wgii)
354         {
355           vec_del1 (ifs, ifs - ii);
356           break;
357         }
358     }
359   if (vec_len (ifs) == 0)
360     {
361       udp_unregister_dst_port (vlib_get_main (), wg_if->port, 1);
362       udp_unregister_dst_port (vlib_get_main (), wg_if->port, 0);
363     }
364
365   vnet_reset_interface_l3_output_node (vnm->vlib_main, sw_if_index);
366   vnet_delete_hw_interface (vnm, hw->hw_if_index);
367   pool_put_index (noise_local_pool, wg_if->local_idx);
368   pool_put (wg_if_pool, wg_if);
369
370   return 0;
371 }
372
373 void
374 wg_if_peer_add (wg_if_t * wgi, index_t peeri)
375 {
376   hash_set (wgi->peers, peeri, peeri);
377
378   if (1 == hash_elts (wgi->peers))
379     {
380       vnet_feature_enable_disable ("ip4-output", "wg4-output-tun",
381                                    wgi->sw_if_index, 1, 0, 0);
382       vnet_feature_enable_disable ("ip6-output", "wg6-output-tun",
383                                    wgi->sw_if_index, 1, 0, 0);
384     }
385 }
386
387 void
388 wg_if_peer_remove (wg_if_t * wgi, index_t peeri)
389 {
390   hash_unset (wgi->peers, peeri);
391
392   if (0 == hash_elts (wgi->peers))
393     {
394       vnet_feature_enable_disable ("ip4-output", "wg4-output-tun",
395                                    wgi->sw_if_index, 0, 0, 0);
396       vnet_feature_enable_disable ("ip6-output", "wg6-output-tun",
397                                    wgi->sw_if_index, 0, 0, 0);
398     }
399 }
400
401 void
402 wg_if_walk (wg_if_walk_cb_t fn, void *data)
403 {
404   index_t wgii;
405
406   /* *INDENT-OFF* */
407   pool_foreach_index (wgii, wg_if_pool)
408   {
409     if (WALK_STOP == fn(wgii, data))
410       break;
411   }
412   /* *INDENT-ON* */
413 }
414
415 index_t
416 wg_if_peer_walk (wg_if_t * wgi, wg_if_peer_walk_cb_t fn, void *data)
417 {
418   index_t peeri, val;
419
420   /* *INDENT-OFF* */
421   hash_foreach (peeri, val, wgi->peers, {
422     if (WALK_STOP == fn (peeri, data))
423       return peeri;
424   });
425   /* *INDENT-ON* */
426
427   return INDEX_INVALID;
428 }
429
430 /*
431  * fd.io coding-style-patch-verification: ON
432  *
433  * Local Variables:
434  * eval: (c-set-style "gnu")
435  * End:
436  */