src/svm/ssvm.h

   1 /*
   2  * Copyright (c) 2015 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15 #ifndef __included_ssvm_h__
  16 #define __included_ssvm_h__
  17
  18 #include <stdio.h>
  19 #include <stdlib.h>
  20 #include <sys/types.h>
  21 #include <sys/mman.h>
  22 #include <sys/stat.h>
  23 #include <netinet/in.h>
  24 #include <signal.h>
  25 #include <pthread.h>
  26 #include <unistd.h>
  27 #include <time.h>
  28 #include <fcntl.h>
  29 #include <string.h>
  30 #include <vppinfra/clib.h>
  31 #include <vppinfra/vec.h>
  32 #include <vppinfra/hash.h>
  33 #include <vppinfra/bitmap.h>
  34 #include <vppinfra/fifo.h>
  35 #include <vppinfra/time.h>
  36 #include <vppinfra/mheap.h>
  37 #include <vppinfra/heap.h>
  38 #include <vppinfra/pool.h>
  39 #include <vppinfra/format.h>
  40 #include <vppinfra/linux/syscall.h>
  41
  42 #ifndef MMAP_PAGESIZE
  43 #define MMAP_PAGESIZE (clib_mem_get_page_size())
  44 #endif
  45
  46 #define SSVM_N_OPAQUE 7
  47
  48 typedef enum ssvm_segment_type_
  49 {
  50   SSVM_SEGMENT_SHM = 0,
  51   SSVM_SEGMENT_MEMFD,
  52   SSVM_SEGMENT_PRIVATE,
  53   SSVM_N_SEGMENT_TYPES          /**< Private segments */
  54 } ssvm_segment_type_t;
  55
  56 typedef struct
  57 {
  58   /* Spin-lock */
  59   volatile u32 lock;
  60   volatile u32 owner_pid;
  61   int recursion_count;
  62   u32 tag;                      /* for debugging */
  63
  64   /* The allocation arena */
  65   void *heap;
  66
  67   /* Segment must be mapped at this address, or no supper */
  68   u64 ssvm_va;
  69   /* The actual mmap size */
  70   u64 ssvm_size;
  71   u32 master_pid;
  72   u32 slave_pid;
  73   u8 *name;
  74   void *opaque[SSVM_N_OPAQUE];
  75
  76   /* Set when the master application thinks it's time to make the donuts */
  77   volatile u32 ready;
  78
  79   ssvm_segment_type_t type;
  80 } ssvm_shared_header_t;
  81
  82 typedef struct
  83 {
  84   ssvm_shared_header_t *sh;
  85   u64 ssvm_size;
  86   u32 my_pid;
  87   u8 *name;
  88   uword requested_va;
  89   int i_am_master;
  90
  91   union
  92   {
  93     int fd;                     /**< memfd segments */
  94     int attach_timeout;         /**< shm segments attach timeout (sec) */
  95   };
  96 } ssvm_private_t;
  97
  98 always_inline void
  99 ssvm_lock (ssvm_shared_header_t * h, u32 my_pid, u32 tag)
 100 {
 101   if (h->owner_pid == my_pid)
 102     {
 103       h->recursion_count++;
 104       return;
 105     }
 106
 107   while (__sync_lock_test_and_set (&h->lock, 1))
 108     ;
 109
 110   h->owner_pid = my_pid;
 111   h->recursion_count = 1;
 112   h->tag = tag;
 113 }
 114
 115 always_inline void
 116 ssvm_lock_non_recursive (ssvm_shared_header_t * h, u32 tag)
 117 {
 118   while (__sync_lock_test_and_set (&h->lock, 1))
 119     ;
 120
 121   h->tag = tag;
 122 }
 123
 124 always_inline void
 125 ssvm_unlock (ssvm_shared_header_t * h)
 126 {
 127   if (--h->recursion_count == 0)
 128     {
 129       h->owner_pid = 0;
 130       h->tag = 0;
 131       CLIB_MEMORY_BARRIER ();
 132       h->lock = 0;
 133     }
 134 }
 135
 136 always_inline void
 137 ssvm_unlock_non_recursive (ssvm_shared_header_t * h)
 138 {
 139   h->tag = 0;
 140   CLIB_MEMORY_BARRIER ();
 141   h->lock = 0;
 142 }
 143
 144 static inline void *
 145 ssvm_push_heap (ssvm_shared_header_t * sh)
 146 {
 147   u8 *oldheap;
 148   oldheap = clib_mem_set_heap (sh->heap);
 149   return ((void *) oldheap);
 150 }
 151
 152 static inline void
 153 ssvm_pop_heap (void *oldheap)
 154 {
 155   clib_mem_set_heap (oldheap);
 156 }
 157
 158 static inline void *
 159 ssvm_mem_alloc (ssvm_private_t * ssvm, uword size)
 160 {
 161   u8 *oldheap;
 162   void *rv;
 163
 164   oldheap = clib_mem_set_heap (ssvm->sh->heap);
 165   rv = clib_mem_alloc (size);
 166   clib_mem_set_heap (oldheap);
 167   return (rv);
 168 }
 169
 170 #define foreach_ssvm_api_error                  \
 171 _(NO_NAME, "No shared segment name", -100)      \
 172 _(NO_SIZE, "Size not set (master)", -101)       \
 173 _(CREATE_FAILURE, "Create failed", -102)        \
 174 _(SET_SIZE, "Set size failed", -103)            \
 175 _(MMAP, "mmap failed", -104)                    \
 176 _(SLAVE_TIMEOUT, "Slave map timeout", -105)
 177
 178 typedef enum
 179 {
 180 #define _(n,s,c) SSVM_API_ERROR_##n = c,
 181   foreach_ssvm_api_error
 182 #undef _
 183 } ssvm_api_error_enum_t;
 184
 185 #define SSVM_API_ERROR_NO_NAME  (-10)
 186
 187 int ssvm_master_init (ssvm_private_t * ssvm, ssvm_segment_type_t type);
 188 int ssvm_slave_init (ssvm_private_t * ssvm, ssvm_segment_type_t type);
 189 void ssvm_delete (ssvm_private_t * ssvm);
 190
 191 int ssvm_master_init_shm (ssvm_private_t * ssvm);
 192 int ssvm_slave_init_shm (ssvm_private_t * ssvm);
 193 void ssvm_delete_shm (ssvm_private_t * ssvm);
 194
 195 int ssvm_master_init_memfd (ssvm_private_t * memfd);
 196 int ssvm_slave_init_memfd (ssvm_private_t * memfd);
 197 void ssvm_delete_memfd (ssvm_private_t * memfd);
 198
 199 int ssvm_master_init_private (ssvm_private_t * ssvm);
 200 int ssvm_slave_init_private (ssvm_private_t * ssvm);
 201 void ssvm_delete_private (ssvm_private_t * ssvm);
 202
 203 ssvm_segment_type_t ssvm_type (const ssvm_private_t * ssvm);
 204 u8 *ssvm_name (const ssvm_private_t * ssvm);
 205
 206 #endif /* __included_ssvm_h__ */
 207
 208 /*
 209  * fd.io coding-style-patch-verification: ON
 210  *
 211  * Local Variables:
 212  * eval: (c-set-style "gnu")
 213  * End:
 214  */