src/vppinfra/cpu.h

   1 /*
   2  * Copyright (c) 2016 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15
  16 #ifndef included_clib_cpu_h
  17 #define included_clib_cpu_h
  18
  19 #include <sys/syscall.h>
  20 #include <vppinfra/format.h>
  21
  22 /*
  23  * multiarchitecture support. Adding new entry will produce
  24  * new graph node function variant optimized for specific cpu
  25  * microarchitecture.
  26  * Order is important for runtime selection, as 1st match wins...
  27  */
  28
  29 #if __x86_64__ && CLIB_DEBUG == 0
  30 #define foreach_march_variant(macro, x) \
  31   macro(avx2,  x, "arch=core-avx2")
  32 #else
  33 #define foreach_march_variant(macro, x)
  34 #endif
  35
  36
  37 #if __GNUC__ > 4  && !__clang__ && CLIB_DEBUG == 0
  38 #define CLIB_CPU_OPTIMIZED __attribute__ ((optimize ("O3")))
  39 #else
  40 #define CLIB_CPU_OPTIMIZED
  41 #endif
  42
  43
  44 #define CLIB_MULTIARCH_ARCH_CHECK(arch, fn, tgt)                        \
  45   if (clib_cpu_supports_ ## arch())                                     \
  46     return & fn ## _ ##arch;
  47
  48 /* FIXME to be removed */
  49 #define CLIB_MULTIARCH_SELECT_FN(fn,...)
  50
  51 #ifdef CLIB_MARCH_VARIANT
  52 #define __CLIB_MULTIARCH_FN(a,b) a##_##b
  53 #define _CLIB_MULTIARCH_FN(a,b) __CLIB_MULTIARCH_FN(a,b)
  54 #define CLIB_MULTIARCH_FN(fn) _CLIB_MULTIARCH_FN(fn,CLIB_MARCH_VARIANT)
  55 #else
  56 #define CLIB_MULTIARCH_FN(fn) fn
  57 #endif
  58
  59 #define CLIB_MARCH_SFX CLIB_MULTIARCH_FN
  60
  61 typedef struct _clib_march_fn_registration
  62 {
  63   void *function;
  64   int priority;
  65   struct _clib_march_fn_registration *next;
  66   char *name;
  67 } clib_march_fn_registration;
  68
  69 static_always_inline void *
  70 clib_march_select_fn_ptr (clib_march_fn_registration * r)
  71 {
  72   void *rv = 0;
  73   int last_prio = -1;
  74
  75   while (r)
  76     {
  77       if (last_prio < r->priority)
  78         {
  79           last_prio = r->priority;
  80           rv = r->function;
  81         }
  82       r = r->next;
  83     }
  84   return rv;
  85 }
  86
  87 #define CLIB_MARCH_FN_POINTER(fn) \
  88   clib_march_select_fn_ptr (fn##_march_fn_registrations);
  89
  90 #define _CLIB_MARCH_FN_REGISTRATION(fn) \
  91 static clib_march_fn_registration \
  92 CLIB_MARCH_SFX(fn##_march_fn_registration) = \
  93 { \
  94   .name = CLIB_MARCH_VARIANT_STR \
  95 }; \
  96 \
  97 static void __clib_constructor \
  98 fn##_march_register () \
  99 { \
 100   clib_march_fn_registration *r; \
 101   r = & CLIB_MARCH_SFX (fn##_march_fn_registration); \
 102   r->priority = CLIB_MARCH_FN_PRIORITY(); \
 103   r->next = fn##_march_fn_registrations; \
 104   r->function = CLIB_MARCH_SFX (fn); \
 105   fn##_march_fn_registrations = r; \
 106 }
 107
 108 #ifdef CLIB_MARCH_VARIANT
 109 #define CLIB_MARCH_FN_REGISTRATION(fn) \
 110 extern clib_march_fn_registration *fn##_march_fn_registrations; \
 111 _CLIB_MARCH_FN_REGISTRATION(fn)
 112 #else
 113 #define CLIB_MARCH_FN_REGISTRATION(fn) \
 114 clib_march_fn_registration *fn##_march_fn_registrations = 0; \
 115 _CLIB_MARCH_FN_REGISTRATION(fn)
 116 #endif
 117 #define foreach_x86_64_flags \
 118 _ (sse3,     1, ecx, 0)   \
 119 _ (pclmulqdq, 1, ecx, 1)  \
 120 _ (ssse3,    1, ecx, 9)   \
 121 _ (sse41,    1, ecx, 19)  \
 122 _ (sse42,    1, ecx, 20)  \
 123 _ (avx,      1, ecx, 28)  \
 124 _ (rdrand,   1, ecx, 30)  \
 125 _ (avx2,     7, ebx, 5)   \
 126 _ (rtm,      7, ebx, 11)  \
 127 _ (pqm,      7, ebx, 12)  \
 128 _ (pqe,      7, ebx, 15)  \
 129 _ (avx512f,  7, ebx, 16)  \
 130 _ (rdseed,   7, ebx, 18)  \
 131 _ (x86_aes,  1, ecx, 25)  \
 132 _ (sha,      7, ebx, 29)  \
 133 _ (vaes,     7, ecx, 9)   \
 134 _ (vpclmulqdq, 7, ecx, 10)   \
 135 _ (avx512_vnni, 7, ecx, 11)   \
 136 _ (avx512_bitalg, 7, ecx, 12)   \
 137 _ (avx512_vpopcntdq, 7, ecx, 14)   \
 138 _ (invariant_tsc, 0x80000007, edx, 8)
 139
 140
 141 #define foreach_aarch64_flags \
 142 _ (fp,          0) \
 143 _ (asimd,       1) \
 144 _ (evtstrm,     2) \
 145 _ (aarch64_aes, 3) \
 146 _ (pmull,       4) \
 147 _ (sha1,        5) \
 148 _ (sha2,        6) \
 149 _ (crc32,       7) \
 150 _ (atomics,     8) \
 151 _ (fphp,        9) \
 152 _ (asimdhp,    10) \
 153 _ (cpuid,      11) \
 154 _ (asimdrdm,   12) \
 155 _ (jscvt,      13) \
 156 _ (fcma,       14) \
 157 _ (lrcpc,      15) \
 158 _ (dcpop,      16) \
 159 _ (sha3,       17) \
 160 _ (sm3,        18) \
 161 _ (sm4,        19) \
 162 _ (asimddp,    20) \
 163 _ (sha512,     21) \
 164 _ (sve,        22)
 165
 166 static inline u32
 167 clib_get_current_cpu_id ()
 168 {
 169   unsigned cpu, node;
 170   syscall (__NR_getcpu, &cpu, &node, 0);
 171   return cpu;
 172 }
 173
 174 static inline u32
 175 clib_get_current_numa_node ()
 176 {
 177   unsigned cpu, node;
 178   syscall (__NR_getcpu, &cpu, &node, 0);
 179   return node;
 180 }
 181
 182 #if defined(__x86_64__)
 183 #include "cpuid.h"
 184
 185 static inline int
 186 clib_get_cpuid (const u32 lev, u32 * eax, u32 * ebx, u32 * ecx, u32 * edx)
 187 {
 188   if ((u32) __get_cpuid_max (0x80000000 & lev, 0) < lev)
 189     return 0;
 190   if (lev == 7)
 191     __cpuid_count (lev, 0, *eax, *ebx, *ecx, *edx);
 192   else
 193     __cpuid (lev, *eax, *ebx, *ecx, *edx);
 194   return 1;
 195 }
 196
 197
 198 #define _(flag, func, reg, bit) \
 199 static inline int                                                       \
 200 clib_cpu_supports_ ## flag()                                            \
 201 {                                                                       \
 202   u32 __attribute__((unused)) eax, ebx = 0, ecx = 0, edx  = 0;          \
 203   clib_get_cpuid (func, &eax, &ebx, &ecx, &edx);                        \
 204                                                                         \
 205   return ((reg & (1 << bit)) != 0);                                     \
 206 }
 207 foreach_x86_64_flags
 208 #undef _
 209 #else /* __x86_64__ */
 210
 211 #define _(flag, func, reg, bit) \
 212 static inline int clib_cpu_supports_ ## flag() { return 0; }
 213 foreach_x86_64_flags
 214 #undef _
 215 #endif /* __x86_64__ */
 216 #if defined(__aarch64__)
 217 #include <sys/auxv.h>
 218 #define _(flag, bit) \
 219 static inline int                                                       \
 220 clib_cpu_supports_ ## flag()                                            \
 221 {                                                                       \
 222   unsigned long hwcap = getauxval(AT_HWCAP);                            \
 223   return (hwcap & (1 << bit));                                          \
 224 }
 225   foreach_aarch64_flags
 226 #undef _
 227 #else /* ! __x86_64__ && !__aarch64__ */
 228 #define _(flag, bit) \
 229 static inline int clib_cpu_supports_ ## flag() { return 0; }
 230   foreach_aarch64_flags
 231 #undef _
 232 #endif /* __x86_64__, __aarch64__ */
 233 /*
 234  * aes is the only feature with the same name in both flag lists
 235  * handle this by prefixing it with the arch name, and handling it
 236  * with the custom function below
 237  */
 238   static inline int
 239 clib_cpu_supports_aes ()
 240 {
 241 #if defined(__x86_64__)
 242   return clib_cpu_supports_x86_aes ();
 243 #elif defined (__aarch64__)
 244   return clib_cpu_supports_aarch64_aes ();
 245 #else
 246   return 0;
 247 #endif
 248 }
 249
 250 static inline int
 251 clib_cpu_march_priority_icl ()
 252 {
 253   if (clib_cpu_supports_avx512_bitalg ())
 254     return 200;
 255   return -1;
 256 }
 257
 258 static inline int
 259 clib_cpu_march_priority_skx ()
 260 {
 261   if (clib_cpu_supports_avx512f ())
 262     return 100;
 263   return -1;
 264 }
 265
 266 static inline int
 267 clib_cpu_march_priority_hsw ()
 268 {
 269   if (clib_cpu_supports_avx2 ())
 270     return 50;
 271   return -1;
 272 }
 273
 274 static inline u32
 275 clib_cpu_implementer ()
 276 {
 277   char buf[128];
 278   static u32 implementer = -1;
 279
 280   if (-1 != implementer)
 281     return implementer;
 282
 283   FILE *fp = fopen ("/proc/cpuinfo", "r");
 284   if (!fp)
 285     return implementer;
 286
 287   while (!feof (fp))
 288     {
 289       if (!fgets (buf, sizeof (buf), fp))
 290         break;
 291       buf[127] = '\0';
 292       if (strstr (buf, "CPU implementer"))
 293         implementer = (u32) strtol (memchr (buf, ':', 128) + 2, NULL, 0);
 294       if (-1 != implementer)
 295         break;
 296     }
 297   fclose (fp);
 298
 299   return implementer;
 300 }
 301
 302 static inline u32
 303 clib_cpu_part ()
 304 {
 305   char buf[128];
 306   static u32 part = -1;
 307
 308   if (-1 != part)
 309     return part;
 310
 311   FILE *fp = fopen ("/proc/cpuinfo", "r");
 312   if (!fp)
 313     return part;
 314
 315   while (!feof (fp))
 316     {
 317       if (!fgets (buf, sizeof (buf), fp))
 318         break;
 319       buf[127] = '\0';
 320       if (strstr (buf, "CPU part"))
 321         part = (u32) strtol (memchr (buf, ':', 128) + 2, NULL, 0);
 322       if (-1 != part)
 323         break;
 324     }
 325   fclose (fp);
 326
 327   return part;
 328 }
 329
 330 #define AARCH64_CPU_IMPLEMENTER_THUNERDERX2 0x43
 331 #define AARCH64_CPU_PART_THUNERDERX2        0x0af
 332 #define AARCH64_CPU_IMPLEMENTER_QDF24XX     0x51
 333 #define AARCH64_CPU_PART_QDF24XX            0xc00
 334 #define AARCH64_CPU_IMPLEMENTER_CORTEXA72   0x41
 335 #define AARCH64_CPU_PART_CORTEXA72          0xd08
 336 #define AARCH64_CPU_IMPLEMENTER_NEOVERSEN1  0x41
 337 #define AARCH64_CPU_PART_NEOVERSEN1         0xd0c
 338
 339 static inline int
 340 clib_cpu_march_priority_thunderx2t99 ()
 341 {
 342   if ((AARCH64_CPU_IMPLEMENTER_THUNERDERX2 == clib_cpu_implementer ()) &&
 343       (AARCH64_CPU_PART_THUNERDERX2 == clib_cpu_part ()))
 344     return 20;
 345   return -1;
 346 }
 347
 348 static inline int
 349 clib_cpu_march_priority_qdf24xx ()
 350 {
 351   if ((AARCH64_CPU_IMPLEMENTER_QDF24XX == clib_cpu_implementer ()) &&
 352       (AARCH64_CPU_PART_QDF24XX == clib_cpu_part ()))
 353     return 20;
 354   return -1;
 355 }
 356
 357 static inline int
 358 clib_cpu_march_priority_cortexa72 ()
 359 {
 360   if ((AARCH64_CPU_IMPLEMENTER_CORTEXA72 == clib_cpu_implementer ()) &&
 361       (AARCH64_CPU_PART_CORTEXA72 == clib_cpu_part ()))
 362     return 10;
 363   return -1;
 364 }
 365
 366 static inline int
 367 clib_cpu_march_priority_neoversen1 ()
 368 {
 369   if ((AARCH64_CPU_IMPLEMENTER_NEOVERSEN1 == clib_cpu_implementer ()) &&
 370       (AARCH64_CPU_PART_NEOVERSEN1 == clib_cpu_part ()))
 371     return 10;
 372   return -1;
 373 }
 374
 375 #ifdef CLIB_MARCH_VARIANT
 376 #define CLIB_MARCH_FN_PRIORITY() CLIB_MARCH_SFX(clib_cpu_march_priority)()
 377 #else
 378 #define CLIB_MARCH_FN_PRIORITY() 0
 379 #endif
 380 #endif /* included_clib_cpu_h */
 381
 382 #define CLIB_MARCH_FN_CONSTRUCTOR(fn)                                   \
 383 static void __clib_constructor                                          \
 384 CLIB_MARCH_SFX(fn ## _march_constructor) (void)                         \
 385 {                                                                       \
 386   if (CLIB_MARCH_FN_PRIORITY() > fn ## _selected_priority)              \
 387     {                                                                   \
 388       fn ## _selected = & CLIB_MARCH_SFX (fn ## _ma);                   \
 389       fn ## _selected_priority = CLIB_MARCH_FN_PRIORITY();              \
 390     }                                                                   \
 391 }                                                                       \
 392
 393 #ifndef CLIB_MARCH_VARIANT
 394 #define CLIB_MARCH_FN(fn, rtype, _args...)                              \
 395   static rtype CLIB_CPU_OPTIMIZED CLIB_MARCH_SFX (fn ## _ma)(_args);    \
 396   rtype (*fn ## _selected) (_args) = & CLIB_MARCH_SFX (fn ## _ma);      \
 397   int fn ## _selected_priority = 0;                                     \
 398   static inline rtype CLIB_CPU_OPTIMIZED                                \
 399   CLIB_MARCH_SFX (fn ## _ma)(_args)
 400 #else
 401 #define CLIB_MARCH_FN(fn, rtype, _args...)                              \
 402   static rtype CLIB_CPU_OPTIMIZED CLIB_MARCH_SFX (fn ## _ma)(_args);    \
 403   extern rtype (*fn ## _selected) (_args);                              \
 404   extern int fn ## _selected_priority;                                  \
 405   CLIB_MARCH_FN_CONSTRUCTOR (fn)                                        \
 406   static rtype CLIB_CPU_OPTIMIZED CLIB_MARCH_SFX (fn ## _ma)(_args)
 407 #endif
 408
 409 #define CLIB_MARCH_FN_SELECT(fn) (* fn ## _selected)
 410
 411 format_function_t format_cpu_uarch;
 412 format_function_t format_cpu_model_name;
 413 format_function_t format_cpu_flags;
 414
 415 /*
 416  * fd.io coding-style-patch-verification: ON
 417  *
 418  * Local Variables:
 419  * eval: (c-set-style "gnu")
 420  * End:
 421  */