src/vnet/crypto/crypto.c

   1 /*
   2  * Copyright (c) 2018 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15
  16 #include <stdbool.h>
  17 #include <vlib/vlib.h>
  18 #include <vnet/crypto/crypto.h>
  19
  20 vnet_crypto_main_t crypto_main;
  21
  22 static_always_inline u32
  23 vnet_crypto_process_ops_call_handler (vlib_main_t * vm,
  24                                       vnet_crypto_main_t * cm,
  25                                       vnet_crypto_op_id_t opt,
  26                                       vnet_crypto_op_t * ops[], u32 n_ops)
  27 {
  28   if (n_ops == 0)
  29     return 0;
  30
  31   if (cm->ops_handlers[opt] == 0)
  32     {
  33       while (n_ops--)
  34         {
  35           ops[0]->status = VNET_CRYPTO_OP_STATUS_FAIL_NO_HANDLER;
  36           ops++;
  37         }
  38       return 0;
  39     }
  40
  41   return (cm->ops_handlers[opt]) (vm, ops, n_ops);
  42 }
  43
  44
  45 u32
  46 vnet_crypto_process_ops (vlib_main_t * vm, vnet_crypto_op_t ops[], u32 n_ops)
  47 {
  48   vnet_crypto_main_t *cm = &crypto_main;
  49   const int op_q_size = VLIB_FRAME_SIZE;
  50   vnet_crypto_op_t *op_queue[op_q_size];
  51   vnet_crypto_op_id_t opt, current_op_type = ~0;
  52   u32 n_op_queue = 0;
  53   u32 rv = 0, i;
  54
  55   ASSERT (n_ops >= 1);
  56
  57   for (i = 0; i < n_ops; i++)
  58     {
  59       opt = ops[i].op;
  60
  61       if (current_op_type != opt || n_op_queue >= op_q_size)
  62         {
  63           rv += vnet_crypto_process_ops_call_handler (vm, cm, current_op_type,
  64                                                       op_queue, n_op_queue);
  65           n_op_queue = 0;
  66           current_op_type = opt;
  67         }
  68
  69       op_queue[n_op_queue++] = &ops[i];
  70     }
  71
  72   rv += vnet_crypto_process_ops_call_handler (vm, cm, current_op_type,
  73                                               op_queue, n_op_queue);
  74   return rv;
  75 }
  76
  77 u32
  78 vnet_crypto_register_engine (vlib_main_t * vm, char *name, int prio,
  79                              char *desc)
  80 {
  81   vnet_crypto_main_t *cm = &crypto_main;
  82   vnet_crypto_engine_t *p;
  83
  84   vec_add2 (cm->engines, p, 1);
  85   p->name = name;
  86   p->desc = desc;
  87   p->priority = prio;
  88
  89   hash_set_mem (cm->engine_index_by_name, p->name, p - cm->engines);
  90
  91   return p - cm->engines;
  92 }
  93
  94 int
  95 vnet_crypto_set_handler (char *alg_name, char *engine)
  96 {
  97   uword *p;
  98   vnet_crypto_main_t *cm = &crypto_main;
  99   vnet_crypto_alg_data_t *ad;
 100   vnet_crypto_engine_t *ce;
 101   int i;
 102
 103   p = hash_get_mem (cm->alg_index_by_name, alg_name);
 104   if (!p)
 105     return -1;
 106
 107   ad = vec_elt_at_index (cm->algs, p[0]);
 108
 109   p = hash_get_mem (cm->engine_index_by_name, engine);
 110   if (!p)
 111     return -1;
 112
 113   ce = vec_elt_at_index (cm->engines, p[0]);
 114
 115   for (i = 0; i < VNET_CRYPTO_OP_N_TYPES; i++)
 116     {
 117       vnet_crypto_op_data_t *od;
 118       vnet_crypto_op_id_t id = ad->op_by_type[i];
 119       if (id == 0)
 120         continue;
 121       od = vec_elt_at_index (cm->opt_data, id);
 122       if (ce->ops_handlers[id])
 123         {
 124           od->active_engine_index = p[0];
 125           cm->ops_handlers[id] = ce->ops_handlers[id];
 126         }
 127     }
 128
 129   return 0;
 130 }
 131
 132 void
 133 vnet_crypto_register_ops_handler (vlib_main_t * vm, u32 engine_index,
 134                                   vnet_crypto_op_id_t opt,
 135                                   vnet_crypto_ops_handler_t * fn)
 136 {
 137   vnet_crypto_main_t *cm = &crypto_main;
 138   vnet_crypto_engine_t *ae, *e = vec_elt_at_index (cm->engines, engine_index);
 139   vnet_crypto_op_data_t *otd = cm->opt_data + opt;
 140   vec_validate_aligned (cm->ops_handlers, VNET_CRYPTO_N_OP_IDS - 1,
 141                         CLIB_CACHE_LINE_BYTES);
 142   e->ops_handlers[opt] = fn;
 143
 144   if (otd->active_engine_index == ~0)
 145     {
 146       otd->active_engine_index = engine_index;
 147       cm->ops_handlers[opt] = fn;
 148       return;
 149     }
 150   ae = vec_elt_at_index (cm->engines, otd->active_engine_index);
 151   if (ae->priority < e->priority)
 152     {
 153       otd->active_engine_index = engine_index;
 154       cm->ops_handlers[opt] = fn;
 155     }
 156
 157   return;
 158 }
 159
 160 void
 161 vnet_crypto_register_key_handler (vlib_main_t * vm, u32 engine_index,
 162                                   vnet_crypto_key_handler_t * key_handler)
 163 {
 164   vnet_crypto_main_t *cm = &crypto_main;
 165   vnet_crypto_engine_t *e = vec_elt_at_index (cm->engines, engine_index);
 166   e->key_op_handler = key_handler;
 167   return;
 168 }
 169
 170 u32
 171 vnet_crypto_key_add (vlib_main_t * vm, vnet_crypto_alg_t alg, u8 * data,
 172                      u16 length)
 173 {
 174   u32 index;
 175   vnet_crypto_main_t *cm = &crypto_main;
 176   vnet_crypto_engine_t *engine;
 177   vnet_crypto_key_t *key;
 178   pool_get_zero (cm->keys, key);
 179   index = key - cm->keys;
 180   key->alg = alg;
 181   vec_validate_aligned (key->data, length - 1, CLIB_CACHE_LINE_BYTES);
 182   clib_memcpy (key->data, data, length);
 183
 184   /* *INDENT-OFF* */
 185   vec_foreach (engine, cm->engines)
 186     if (engine->key_op_handler)
 187       engine->key_op_handler (vm, VNET_CRYPTO_KEY_OP_ADD, index);
 188   /* *INDENT-ON* */
 189   return index;
 190 }
 191
 192 void
 193 vnet_crypto_key_del (vlib_main_t * vm, vnet_crypto_key_index_t index)
 194 {
 195   vnet_crypto_main_t *cm = &crypto_main;
 196   vnet_crypto_engine_t *engine;
 197   vnet_crypto_key_t *key = pool_elt_at_index (cm->keys, index);
 198
 199   /* *INDENT-OFF* */
 200   vec_foreach (engine, cm->engines)
 201     if (engine->key_op_handler)
 202       engine->key_op_handler (vm, VNET_CRYPTO_KEY_OP_DEL, index);
 203   /* *INDENT-ON* */
 204
 205   clib_memset (key->data, 0, vec_len (key->data));
 206   vec_free (key->data);
 207   pool_put (cm->keys, key);
 208 }
 209
 210 void
 211 vnet_crypto_key_modify (vlib_main_t * vm, vnet_crypto_key_index_t index,
 212                         vnet_crypto_alg_t alg, u8 * data, u16 length)
 213 {
 214   vnet_crypto_main_t *cm = &crypto_main;
 215   vnet_crypto_engine_t *engine;
 216   vnet_crypto_key_t *key = pool_elt_at_index (cm->keys, index);
 217
 218   if (vec_len (key->data))
 219     clib_memset (key->data, 0, vec_len (key->data));
 220   vec_free (key->data);
 221   vec_validate_aligned (key->data, length - 1, CLIB_CACHE_LINE_BYTES);
 222   clib_memcpy (key->data, data, length);
 223   key->alg = alg;
 224
 225   /* *INDENT-OFF* */
 226   vec_foreach (engine, cm->engines)
 227     if (engine->key_op_handler)
 228       engine->key_op_handler (vm, VNET_CRYPTO_KEY_OP_MODIFY, index);
 229   /* *INDENT-ON* */
 230 }
 231
 232 static void
 233 vnet_crypto_init_cipher_data (vnet_crypto_alg_t alg, vnet_crypto_op_id_t eid,
 234                               vnet_crypto_op_id_t did, char *name, u8 is_aead)
 235 {
 236   vnet_crypto_op_type_t eopt, dopt;
 237   vnet_crypto_main_t *cm = &crypto_main;
 238   cm->algs[alg].name = name;
 239   cm->opt_data[eid].alg = cm->opt_data[did].alg = alg;
 240   cm->opt_data[eid].active_engine_index = ~0;
 241   cm->opt_data[did].active_engine_index = ~0;
 242   if (is_aead)
 243     {
 244       eopt = VNET_CRYPTO_OP_TYPE_AEAD_ENCRYPT;
 245       dopt = VNET_CRYPTO_OP_TYPE_AEAD_DECRYPT;
 246     }
 247   else
 248     {
 249       eopt = VNET_CRYPTO_OP_TYPE_ENCRYPT;
 250       dopt = VNET_CRYPTO_OP_TYPE_DECRYPT;
 251     }
 252   cm->opt_data[eid].type = eopt;
 253   cm->opt_data[did].type = dopt;
 254   cm->algs[alg].op_by_type[eopt] = eid;
 255   cm->algs[alg].op_by_type[dopt] = did;
 256   hash_set_mem (cm->alg_index_by_name, name, alg);
 257 }
 258
 259 static void
 260 vnet_crypto_init_hmac_data (vnet_crypto_alg_t alg,
 261                             vnet_crypto_op_id_t id, char *name)
 262 {
 263   vnet_crypto_main_t *cm = &crypto_main;
 264   cm->algs[alg].name = name;
 265   cm->algs[alg].op_by_type[VNET_CRYPTO_OP_TYPE_HMAC] = id;
 266   cm->opt_data[id].alg = alg;
 267   cm->opt_data[id].active_engine_index = ~0;
 268   cm->opt_data[id].type = VNET_CRYPTO_OP_TYPE_HMAC;
 269   hash_set_mem (cm->alg_index_by_name, name, alg);
 270 }
 271
 272 clib_error_t *
 273 vnet_crypto_init (vlib_main_t * vm)
 274 {
 275   vnet_crypto_main_t *cm = &crypto_main;
 276   vlib_thread_main_t *tm = vlib_get_thread_main ();
 277   cm->engine_index_by_name = hash_create_string ( /* size */ 0,
 278                                                  sizeof (uword));
 279   cm->alg_index_by_name = hash_create_string (0, sizeof (uword));
 280   vec_validate_aligned (cm->threads, tm->n_vlib_mains, CLIB_CACHE_LINE_BYTES);
 281   vec_validate (cm->algs, VNET_CRYPTO_N_ALGS);
 282 #define _(n, s) \
 283   vnet_crypto_init_cipher_data (VNET_CRYPTO_ALG_##n, \
 284                                 VNET_CRYPTO_OP_##n##_ENC, \
 285                                 VNET_CRYPTO_OP_##n##_DEC, s, 0);
 286   foreach_crypto_cipher_alg;
 287 #undef _
 288 #define _(n, s) \
 289   vnet_crypto_init_cipher_data (VNET_CRYPTO_ALG_##n, \
 290                                 VNET_CRYPTO_OP_##n##_ENC, \
 291                                 VNET_CRYPTO_OP_##n##_DEC, s, 1);
 292   foreach_crypto_aead_alg;
 293 #undef _
 294 #define _(n, s) \
 295   vnet_crypto_init_hmac_data (VNET_CRYPTO_ALG_HMAC_##n, \
 296                               VNET_CRYPTO_OP_##n##_HMAC, "hmac-" s);
 297   foreach_crypto_hmac_alg;
 298 #undef _
 299   return 0;
 300 }
 301
 302 VLIB_INIT_FUNCTION (vnet_crypto_init);
 303
 304 /*
 305  * fd.io coding-style-patch-verification: ON
 306  *
 307  * Local Variables:
 308  * eval: (c-set-style "gnu")
 309  * End:
 310  */