crypto-native: refactor CBC code

[vpp.git] / src / vppinfra / vector_avx512.h

diff --git a/src/vppinfra/vector_avx512.h b/src/vppinfra/vector_avx512.h
index 6fd27a3..e27c7c0 100644 (file)
--- a/src/vppinfra/vector_avx512.h
+++ b/src/vppinfra/vector_avx512.h
@@ -57,6 +57,14 @@ t##s##x##c##_is_all_equal (t##s##x##c v, t##s x)                     \
 static_always_inline u##c                                              \
 t##s##x##c##_is_zero_mask (t##s##x##c v)                               \
 { return _mm512_test_##i##_mask ((__m512i) v, (__m512i) v); }          \
+\
+static_always_inline t##s##x##c                                         \
+t##s##x##c##_interleave_lo (t##s##x##c a, t##s##x##c b)                 \
+{ return (t##s##x##c) _mm512_unpacklo_##i ((__m512i) a, (__m512i) b); } \
+\
+static_always_inline t##s##x##c                                         \
+t##s##x##c##_interleave_hi (t##s##x##c a, t##s##x##c b)                 \
+{ return (t##s##x##c) _mm512_unpackhi_##i ((__m512i) a, (__m512i) b); } \
 
 
 foreach_avx512_vec512i foreach_avx512_vec512u
@@ -112,10 +120,42 @@ u32x16_min_scalar (u32x16 v)
                                      u32x16_extract_hi (v)));
 }
 
+static_always_inline u32x16
+u32x16_insert_lo (u32x16 r, u32x8 v)
+{
+  return (u32x16) _mm512_inserti64x4 ((__m512i) r, (__m256i) v, 0);
+}
+
+static_always_inline u32x16
+u32x16_insert_hi (u32x16 r, u32x8 v)
+{
+  return (u32x16) _mm512_inserti64x4 ((__m512i) r, (__m256i) v, 1);
+}
+
+static_always_inline u64x8
+u64x8_permute (u64x8 a, u64x8 b, u64x8 mask)
+{
+  return (u64x8) _mm512_permutex2var_epi64 ((__m512i) a, (__m512i) mask,
+                                           (__m512i) b);
+}
+
 
 #define u32x16_ternary_logic(a, b, c, d) \
   (u32x16) _mm512_ternarylogic_epi32 ((__m512i) a, (__m512i) b, (__m512i) c, d)
 
+#define u8x64_insert_u8x16(a, b, n) \
+  (u8x64) _mm512_inserti64x2 ((__m512i) (a), (__m128i) (b), n)
+
+#define u8x64_extract_u8x16(a, n) \
+  (u8x16) _mm512_extracti64x2_epi64 ((__m512i) (a), n)
+
+static_always_inline u8x64
+u8x64_xor3 (u8x64 a, u8x64 b, u8x64 c)
+{
+  return (u8x64) _mm512_ternarylogic_epi32 ((__m512i) a, (__m512i) b,
+                                           (__m512i) c, 0x96);
+}
+
 static_always_inline void
 u32x16_transpose (u32x16 m[16])
 {