src/plugins/crypto_native/main.c

   1 /*
   2  *------------------------------------------------------------------
   3  * Copyright (c) 2019 Cisco and/or its affiliates.
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at:
   7  *
   8  *     http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  *------------------------------------------------------------------
  16  */
  17
  18 #include <vlib/vlib.h>
  19 #include <vnet/plugin/plugin.h>
  20 #include <vnet/crypto/crypto.h>
  21 #include <crypto_native/crypto_native.h>
  22
  23 crypto_native_main_t crypto_native_main;
  24
  25 static void
  26 crypto_native_key_handler (vlib_main_t * vm, vnet_crypto_key_op_t kop,
  27                            vnet_crypto_key_index_t idx)
  28 {
  29   vnet_crypto_key_t *key = vnet_crypto_get_key (idx);
  30   crypto_native_main_t *cm = &crypto_native_main;
  31
  32   if (cm->key_fn[key->alg] == 0)
  33     return;
  34
  35   if (kop == VNET_CRYPTO_KEY_OP_DEL)
  36     {
  37       if (idx >= vec_len (cm->key_data))
  38         return;
  39
  40       if (cm->key_data[idx] == 0)
  41         return;
  42
  43       clib_mem_free_s (cm->key_data[idx]);
  44       cm->key_data[idx] = 0;
  45       return;
  46     }
  47
  48   vec_validate_aligned (cm->key_data, idx, CLIB_CACHE_LINE_BYTES);
  49
  50   if (kop == VNET_CRYPTO_KEY_OP_MODIFY && cm->key_data[idx])
  51     {
  52       clib_mem_free_s (cm->key_data[idx]);
  53     }
  54
  55   cm->key_data[idx] = cm->key_fn[key->alg] (key);
  56 }
  57
  58 clib_error_t *
  59 crypto_native_init (vlib_main_t * vm)
  60 {
  61   crypto_native_main_t *cm = &crypto_native_main;
  62   vlib_thread_main_t *tm = vlib_get_thread_main ();
  63   clib_error_t *error = 0;
  64
  65   if (clib_cpu_supports_x86_aes () == 0 &&
  66       clib_cpu_supports_aarch64_aes () == 0)
  67     return 0;
  68
  69   vec_validate_aligned (cm->per_thread_data, tm->n_vlib_mains - 1,
  70                         CLIB_CACHE_LINE_BYTES);
  71
  72   cm->crypto_engine_index =
  73     vnet_crypto_register_engine (vm, "native", 100,
  74                                  "Native ISA Optimized Crypto");
  75
  76 #if __x86_64__
  77   if (clib_cpu_supports_vaes ())
  78     error = crypto_native_aes_cbc_init_vaes (vm);
  79   else if (clib_cpu_supports_avx512f ())
  80     error = crypto_native_aes_cbc_init_avx512 (vm);
  81   else if (clib_cpu_supports_avx2 ())
  82     error = crypto_native_aes_cbc_init_avx2 (vm);
  83   else
  84     error = crypto_native_aes_cbc_init_sse42 (vm);
  85
  86   if (error)
  87     goto error;
  88
  89   if (clib_cpu_supports_pclmulqdq ())
  90     {
  91       if (clib_cpu_supports_vaes ())
  92         error = crypto_native_aes_gcm_init_vaes (vm);
  93       else if (clib_cpu_supports_avx512f ())
  94         error = crypto_native_aes_gcm_init_avx512 (vm);
  95       else if (clib_cpu_supports_avx2 ())
  96         error = crypto_native_aes_gcm_init_avx2 (vm);
  97       else
  98         error = crypto_native_aes_gcm_init_sse42 (vm);
  99
 100       if (error)
 101         goto error;
 102     }
 103 #endif
 104 #if __aarch64__
 105   error = crypto_native_aes_cbc_init_neon (vm);
 106
 107   if (error)
 108     goto error;
 109 #endif
 110
 111   vnet_crypto_register_key_handler (vm, cm->crypto_engine_index,
 112                                     crypto_native_key_handler);
 113
 114
 115 error:
 116   if (error)
 117     vec_free (cm->per_thread_data);
 118
 119   return error;
 120 }
 121
 122 /* *INDENT-OFF* */
 123 VLIB_INIT_FUNCTION (crypto_native_init) =
 124 {
 125   .runs_after = VLIB_INITS ("vnet_crypto_init"),
 126 };
 127 /* *INDENT-ON* */
 128
 129 #include <vpp/app/version.h>
 130
 131 /* *INDENT-OFF* */
 132 VLIB_PLUGIN_REGISTER () = {
 133   .version = VPP_BUILD_VER,
 134   .description = "Intel IA32 Software Crypto Engine",
 135 };
 136 /* *INDENT-ON* */
 137
 138 /*
 139  * fd.io coding-style-patch-verification: ON
 140  *
 141  * Local Variables:
 142  * eval: (c-set-style "gnu")
 143  * End:
 144  */