src/svm/fifo_segment.h

   1 /*
   2  * Copyright (c) 2016-2019 Cisco and/or its affiliates.
   3  * Licensed under the Apache License, Version 2.0 (the "License");
   4  * you may not use this file except in compliance with the License.
   5  * You may obtain a copy of the License at:
   6  *
   7  *     http://www.apache.org/licenses/LICENSE-2.0
   8  *
   9  * Unless required by applicable law or agreed to in writing, software
  10  * distributed under the License is distributed on an "AS IS" BASIS,
  11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  12  * See the License for the specific language governing permissions and
  13  * limitations under the License.
  14  */
  15 #ifndef __included_fifo_segment_h__
  16 #define __included_fifo_segment_h__
  17
  18 #include <svm/ssvm.h>
  19 #include <svm/fifo_types.h>
  20 #include <svm/svm_fifo.h>
  21
  22 typedef enum
  23 {
  24   FIFO_SEGMENT_FTYPE_NONE = -1,
  25   FIFO_SEGMENT_RX_FIFO = 0,
  26   FIFO_SEGMENT_TX_FIFO,
  27   FIFO_SEGMENT_N_FTYPES
  28 } fifo_segment_ftype_t;
  29
  30 #define FIFO_SEGMENT_MIN_LOG2_FIFO_SIZE 12      /**< 4kB min fifo size */
  31 #define FIFO_SEGMENT_MIN_FIFO_SIZE 4096         /**< 4kB min fifo size */
  32 #define FIFO_SEGMENT_MAX_FIFO_SIZE (2ULL << 30) /**< 2GB max fifo size */
  33 #define FIFO_SEGMENT_ALLOC_BATCH_SIZE 32        /* Allocation quantum */
  34
  35 typedef enum fifo_segment_flags_
  36 {
  37   FIFO_SEGMENT_F_IS_PREALLOCATED = 1 << 0,
  38   FIFO_SEGMENT_F_WILL_DELETE = 1 << 1,
  39   FIFO_SEGMENT_F_MEM_LIMIT = 1 << 2,
  40 } fifo_segment_flags_t;
  41
  42 #define foreach_segment_mem_status      \
  43 _(NO_PRESSURE, "No pressure")           \
  44 _(LOW_PRESSURE, "Low pressure")         \
  45 _(HIGH_PRESSURE, "High pressure")       \
  46 _(NO_MEMORY, "No memory")
  47
  48 typedef enum
  49 {
  50 #define _(sym,str)  MEMORY_PRESSURE_##sym,
  51   foreach_segment_mem_status
  52 #undef _
  53     MEMORY_N_PRESSURE,
  54 } fifo_segment_mem_status_t;
  55
  56 #if 0
  57 typedef enum fifo_segment_mem_status_
  58 {
  59   MEMORY_PRESSURE_NO_PRESSURE,
  60   MEMORY_PRESSURE_LOW_PRESSURE,
  61   MEMORY_PRESSURE_HIGH_PRESSURE,
  62   MEMORY_PRESSURE_NO_MEMORY,
  63 } fifo_segment_mem_status_t;
  64 #endif
  65
  66 typedef struct
  67 {
  68   ssvm_private_t ssvm;          /**< ssvm segment data */
  69   fifo_segment_header_t *h;     /**< fifo segment data */
  70   uword max_byte_index;
  71   u8 n_slices;                  /**< number of fifo segment slices */
  72 } fifo_segment_t;
  73
  74 typedef struct
  75 {
  76   fifo_segment_t *segments;     /**< pool of fifo segments */
  77   uword next_baseva;            /**< Where to put the next one */
  78   u32 timeout_in_seconds;       /**< Time to wait during attach */
  79 } fifo_segment_main_t;
  80
  81 typedef struct
  82 {
  83   ssvm_segment_type_t segment_type;     /**< type of segment requested */
  84   u32 segment_size;                     /**< size of the segment */
  85   int memfd_fd;                         /**< fd for memfd segments */
  86   char *segment_name;                   /**< segment name */
  87   u32 *new_segment_indices;             /**< return vec of new seg indices */
  88 } fifo_segment_create_args_t;
  89
  90 #define fifo_segment_flags(_fs) _fs->h->flags
  91
  92 int fifo_segment_init (fifo_segment_t * fs);
  93 int fifo_segment_create (fifo_segment_main_t * sm,
  94                          fifo_segment_create_args_t * a);
  95 int fifo_segment_attach (fifo_segment_main_t * sm,
  96                          fifo_segment_create_args_t * a);
  97 void fifo_segment_delete (fifo_segment_main_t * sm, fifo_segment_t * fs);
  98 fifo_segment_t *fifo_segment_get_segment (fifo_segment_main_t * sm,
  99                                           u32 fs_index);
 100 u32 fifo_segment_index (fifo_segment_main_t * sm, fifo_segment_t * fs);
 101 void fifo_segment_info (fifo_segment_t * seg, char **address, size_t * size);
 102
 103 /**
 104  * Allocate fifo in fifo segment
 105  *
 106  * @param fs            fifo segment for fifo
 107  * @param data_bytes    size of default fifo chunk in bytes
 108  * @param ftype         fifo type @ref fifo_segment_ftype_t
 109  * @return              new fifo or 0 if alloc failed
 110  */
 111 svm_fifo_t *fifo_segment_alloc_fifo_w_slice (fifo_segment_t * fs,
 112                                              u32 slice_index,
 113                                              u32 data_bytes,
 114                                              fifo_segment_ftype_t ftype);
 115
 116 /**
 117  * Free fifo allocated in fifo segment
 118  *
 119  * @param fs            fifo segment for fifo
 120  * @param f             fifo to be freed
 121  */
 122 void fifo_segment_free_fifo (fifo_segment_t * fs, svm_fifo_t * f);
 123
 124 void fifo_segment_detach_fifo (fifo_segment_t * fs, svm_fifo_t * f);
 125 void fifo_segment_attach_fifo (fifo_segment_t * fs, svm_fifo_t * f,
 126                                u32 slice_index);
 127
 128 /**
 129  * Try to preallocate fifo headers
 130  *
 131  * Tries to preallocate fifo headers and adds them to freelist.
 132  *
 133  * @param fs            fifo segment
 134  * @param batch_size    number of chunks to be allocated
 135  * @return              0 on success, negative number otherwise
 136  */
 137 int fifo_segment_prealloc_fifo_hdrs (fifo_segment_t * fs, u32 slice_index,
 138                                      u32 batch_size);
 139
 140 /**
 141  * Try to preallocate fifo chunks on segment
 142  *
 143  * Tries to preallocate chunks of requested size on segment and adds them
 144  * to chunk freelist.
 145  *
 146  * @param fs            fifo segment
 147  * @param chunk_size    size of chunks to be allocated in bytes
 148  * @param batch_size    number of chunks to be allocated
 149  * @return              0 on success, negative number otherwise
 150  */
 151 int fifo_segment_prealloc_fifo_chunks (fifo_segment_t * fs, u32 slice_index,
 152                                        u32 chunk_size, u32 batch_size);
 153 /**
 154  * Pre-allocates fifo pairs in fifo segment
 155  *
 156  * The number of fifos pre-allocated is the minimum of the requested number
 157  * of pairs and the maximum number that fit within the segment. If the maximum
 158  * is hit, the number of fifo pairs requested is updated by subtracting the
 159  * number of fifos that have been successfully allocated.
 160  *
 161  * @param fs            fifo segment for fifo
 162  * @param rx_fifo_size  data size of rx fifos
 163  * @param tx_fifo_size  data size of tx fifos
 164  * @param n_fifo_pairs  number of pairs requested. Prior to returning, this
 165  *                      is decremented by the the number of pairs allocated.
 166  */
 167 void fifo_segment_preallocate_fifo_pairs (fifo_segment_t * fs,
 168                                           u32 rx_fifo_size,
 169                                           u32 tx_fifo_size,
 170                                           u32 * n_fifo_pairs);
 171
 172 /**
 173  * Allocate chunks in fifo segment
 174  *
 175  * @param fsh           fifo segment header
 176  * @param slice_index   slice where chunks should be alocated
 177  * @param chunk_size    chunk size needed
 178  * @return              chunk (or chunks) that cover at least chunk_size bytes
 179  *                      on success, 0 on failure.
 180  */
 181 svm_fifo_chunk_t *fsh_alloc_chunk (fifo_segment_header_t * fsh,
 182                                    u32 slice_index, u32 chunk_size);
 183
 184 /**
 185  * Return chunks to fifo segment
 186  *
 187  * @param fsh           fifo segment header
 188  * @param slice_index   slice where chunks should be returned
 189  * @param c             pointer to first chunk in 0 terminated linked list
 190  */
 191 void fsh_collect_chunks (fifo_segment_header_t * fsh, u32 slice_index,
 192                          svm_fifo_chunk_t * c);
 193
 194 /**
 195  * Fifo segment has reached mem limit
 196  *
 197  * @param fsh           fifo segment header
 198  * @return              1 (if reached) or 0 (otherwise)
 199  */
 200 u8 fsh_has_reached_mem_limit (fifo_segment_header_t * fsh);
 201
 202 /**
 203  * Fifo segment reset mem limit flag
 204  *
 205  * @param fs            fifo segment
 206  */
 207 void fsh_reset_mem_limit (fifo_segment_header_t * fsh);
 208
 209 /**
 210  * Fifo segment reset mem limit flag
 211  *
 212  * @param fs            fifo segment
 213  * @param size          size requested
 214  * @return              pointer to memory allocated or 0
 215  */
 216 void *fifo_segment_alloc (fifo_segment_t *fs, uword size);
 217 /**
 218  * Fifo segment allocated size
 219  *
 220  * Returns fifo segment's allocated size
 221  *
 222  * @param fs            fifo segment
 223  * @return              allocated size in bytes
 224  */
 225 uword fifo_segment_size (fifo_segment_t * fs);
 226
 227 /**
 228  * Fifo segment estimate of number of free bytes
 229  *
 230  * Returns fifo segment's internal estimate of the number of free bytes.
 231  * To force a synchronization between the segment and the underlying
 232  * memory allocator, call @ref fifo_segment_update_free_bytes
 233  *
 234  * @param fs            fifo segment
 235  * @return              free bytes estimate
 236  */
 237 uword fifo_segment_free_bytes (fifo_segment_t * fs);
 238
 239 /**
 240  * Fifo segment number of cached bytes
 241  *
 242  * Returns fifo segment's number of cached bytes.
 243  *
 244  * @param fs            fifo segment
 245  * @return              cached bytes
 246  */
 247 uword fifo_segment_cached_bytes (fifo_segment_t * fs);
 248
 249 uword fifo_segment_available_bytes (fifo_segment_t * fs);
 250
 251 /**
 252  * Number of bytes on chunk free lists
 253  *
 254  * @param fs            fifo segment
 255  * @return              free bytes on chunk free lists
 256  */
 257 uword fifo_segment_fl_chunk_bytes (fifo_segment_t * fs);
 258 u8 fifo_segment_has_fifos (fifo_segment_t * fs);
 259 svm_fifo_t *fifo_segment_get_slice_fifo_list (fifo_segment_t * fs,
 260                                               u32 slice_index);
 261 u32 fifo_segment_num_fifos (fifo_segment_t * fs);
 262 u32 fifo_segment_num_free_fifos (fifo_segment_t * fs);
 263 /**
 264  * Find number of free chunks of given size
 265  *
 266  * @param fs    fifo segment
 267  * @param size  chunk size of interest or ~0 if all should be counted
 268  * @return      number of chunks of given size
 269  */
 270 u32 fifo_segment_num_free_chunks (fifo_segment_t * fs, u32 size);
 271
 272 u8 fifo_segment_get_mem_usage (fifo_segment_t * fs);
 273 fifo_segment_mem_status_t fifo_segment_determine_status
 274   (fifo_segment_header_t * fsh, u8 usage);
 275 fifo_segment_mem_status_t fifo_segment_get_mem_status (fifo_segment_t * fs);
 276
 277 void fifo_segment_main_init (fifo_segment_main_t * sm, u64 baseva,
 278                              u32 timeout_in_seconds);
 279
 280 format_function_t format_fifo_segment;
 281 format_function_t format_fifo_segment_type;
 282
 283 #endif /* __included_fifo_segment_h__ */
 284
 285 /*
 286  * fd.io coding-style-patch-verification: ON
 287  *
 288  * Local Variables:
 289  * eval: (c-set-style "gnu")
 290  * End:
 291  */