vcl: allow more rx events on peek
[vpp.git] / src / plugins / nsim / node.c
1 /*
2  * node.c - skeleton vpp engine plug-in dual-loop node skeleton
3  *
4  * Copyright (c) <current-year> <your-organization>
5  * Licensed under the Apache License, Version 2.0 (the "License");
6  * you may not use this file except in compliance with the License.
7  * You may obtain a copy of the License at:
8  *
9  *     http://www.apache.org/licenses/LICENSE-2.0
10  *
11  * Unless required by applicable law or agreed to in writing, software
12  * distributed under the License is distributed on an "AS IS" BASIS,
13  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
14  * See the License for the specific language governing permissions and
15  * limitations under the License.
16  */
17 #include <vlib/vlib.h>
18 #include <vnet/vnet.h>
19 #include <vppinfra/error.h>
20 #include <nsim/nsim.h>
21
22 typedef struct
23 {
24   f64 expires;
25   u32 tx_sw_if_index;
26   int is_drop;
27   int is_lost;
28 } nsim_trace_t;
29
30 #ifndef CLIB_MARCH_VARIANT
31
32 /* packet trace format function */
33 static u8 *
34 format_nsim_trace (u8 * s, va_list * args)
35 {
36   CLIB_UNUSED (vlib_main_t * vm) = va_arg (*args, vlib_main_t *);
37   CLIB_UNUSED (vlib_node_t * node) = va_arg (*args, vlib_node_t *);
38   nsim_trace_t *t = va_arg (*args, nsim_trace_t *);
39
40   if (t->is_drop)
41     s = format (s, "NSIM: dropped, %s", t->is_lost ?
42                 "simulated network loss" : "no space in ring");
43   else
44     s = format (s, "NSIM: tx time %.6f sw_if_index %d",
45                 t->expires, t->tx_sw_if_index);
46
47   return s;
48 }
49
50 vlib_node_registration_t nsim_node;
51 #endif /* CLIB_MARCH_VARIANT */
52
53 #define foreach_nsim_error                              \
54 _(BUFFERED, "Packets buffered")                         \
55 _(DROPPED, "Packets dropped due to lack of space")      \
56 _(LOSS, "Network loss simulation drop packets")         \
57 _(REORDERED, "Packets reordered")
58
59 typedef enum
60 {
61 #define _(sym,str) NSIM_ERROR_##sym,
62   foreach_nsim_error
63 #undef _
64     NSIM_N_ERROR,
65 } nsim_error_t;
66
67 #ifndef CLIB_MARCH_VARIANT
68 static char *nsim_error_strings[] = {
69 #define _(sym,string) string,
70   foreach_nsim_error
71 #undef _
72 };
73 #endif /* CLIB_MARCH_VARIANT */
74
75 typedef enum
76 {
77   NSIM_NEXT_DROP,
78   NSIM_N_NEXT,
79 } nsim_next_t;
80
81 static void
82 nsim_set_actions (nsim_main_t * nsm, vlib_buffer_t ** b,
83                   nsim_node_ctx_t * ctx, u32 n_actions)
84 {
85   int i;
86
87   memset (ctx->action, 0, n_actions * sizeof (ctx->action[0]));
88
89   if (PREDICT_FALSE (nsm->drop_fraction != 0.0))
90     {
91       for (i = 0; i < n_actions; i++)
92         if (random_f64 (&nsm->seed) <= nsm->drop_fraction)
93           ctx->action[i] |= NSIM_ACTION_DROP;
94     }
95
96   if (PREDICT_FALSE (nsm->reorder_fraction != 0.0))
97     {
98       for (i = 0; i < n_actions; i++)
99         if (random_f64 (&nsm->seed) <= nsm->reorder_fraction)
100           ctx->action[i] |= NSIM_ACTION_REORDER;
101     }
102 }
103
104 static void
105 nsim_trace_buffer (vlib_main_t * vm, vlib_node_runtime_t * node,
106                    vlib_buffer_t * b, nsim_node_ctx_t * ctx, u32 is_drop)
107 {
108   if (b->flags & VLIB_BUFFER_IS_TRACED)
109     {
110       nsim_trace_t *t = vlib_add_trace (vm, node, b, sizeof (*t));
111       t->expires = ctx->expires;
112       t->is_drop = is_drop;
113       t->is_lost = ctx->action[0] & NSIM_ACTION_DROP;
114       t->tx_sw_if_index = vnet_buffer (b)->sw_if_index[VLIB_TX];
115     }
116 }
117
118 always_inline void
119 nsim_buffer_fwd_lookup (nsim_main_t * nsm, vlib_buffer_t * b,
120                         u32 * next, u8 is_cross_connect)
121 {
122   if (is_cross_connect)
123     {
124       vnet_buffer (b)->sw_if_index[VLIB_TX] =
125         (vnet_buffer (b)->sw_if_index[VLIB_RX] == nsm->sw_if_index0) ?
126         nsm->sw_if_index1 : nsm->sw_if_index0;
127       *next =
128         (vnet_buffer (b)->sw_if_index[VLIB_TX] == nsm->sw_if_index0) ?
129         nsm->output_next_index0 : nsm->output_next_index1;
130     }
131   else                          /* output feature, even easier... */
132     {
133       u32 sw_if_index = vnet_buffer (b)->sw_if_index[VLIB_TX];
134       *next = nsm->output_next_index_by_sw_if_index[sw_if_index];
135     }
136 }
137
138 always_inline void
139 nsim_dispatch_buffer (vlib_main_t * vm, vlib_node_runtime_t * node,
140                       nsim_main_t * nsm, nsim_wheel_t * wp, vlib_buffer_t * b,
141                       u32 bi, nsim_node_ctx_t * ctx, u8 is_cross_connect,
142                       u8 is_trace)
143 {
144   if (PREDICT_TRUE (!(ctx->action[0] & NSIM_ACTION_DROP)))
145     {
146       if (PREDICT_FALSE (ctx->action[0] & NSIM_ACTION_REORDER))
147         {
148           u32 next;
149           ctx->reord[0] = bi;
150           vnet_get_config_data (&ctx->fcm->config_main,
151                                 &b->current_config_index, &next, 0);
152           ctx->reord_nexts[0] = next;
153           ctx->reord += 1;
154           ctx->reord_nexts += 1;
155           goto trace;
156         }
157
158       nsim_wheel_entry_t *ep = wp->entries + wp->tail;
159       wp->tail++;
160       if (wp->tail == wp->wheel_size)
161         wp->tail = 0;
162       wp->cursize++;
163
164       ep->tx_time = ctx->expires;
165       ep->rx_sw_if_index = vnet_buffer (b)->sw_if_index[VLIB_RX];
166       nsim_buffer_fwd_lookup (nsm, b, &ep->output_next_index,
167                               is_cross_connect);
168       ep->tx_sw_if_index = vnet_buffer (b)->sw_if_index[VLIB_TX];
169       ep->buffer_index = bi;
170       ctx->n_buffered += 1;
171     }
172   else
173     {
174       ctx->n_loss += 1;
175       ctx->drop[0] = bi;
176       ctx->drop += 1;
177     }
178
179 trace:
180
181   if (PREDICT_FALSE (is_trace))
182     nsim_trace_buffer (vm, node, b, ctx, 0);
183
184   ctx->action += 1;
185 }
186
187 always_inline uword
188 nsim_inline (vlib_main_t * vm,
189              vlib_node_runtime_t * node, vlib_frame_t * frame, int is_trace,
190              int is_cross_connect)
191 {
192   nsim_main_t *nsm = &nsim_main;
193   u32 n_left_from, *from, drops[VLIB_FRAME_SIZE], reorders[VLIB_FRAME_SIZE];
194   nsim_wheel_t *wp = nsm->wheel_by_thread[vm->thread_index];
195   vlib_buffer_t *bufs[VLIB_FRAME_SIZE], **b;
196   u16 reorders_nexts[VLIB_FRAME_SIZE];
197   u8 actions[VLIB_FRAME_SIZE];
198   nsim_node_ctx_t ctx;
199
200   ASSERT (wp);
201
202   from = vlib_frame_vector_args (frame);
203   n_left_from = frame->n_vectors;
204
205   vlib_get_buffers (vm, from, bufs, n_left_from);
206   b = bufs;
207
208   ctx.fcm = vnet_feature_get_config_main (nsm->arc_index);
209   ctx.n_loss = 0;
210   ctx.n_buffered = 0;
211   ctx.drop = drops;
212   ctx.reord = reorders;
213   ctx.reord_nexts = reorders_nexts;
214   ctx.action = actions;
215   ctx.expires = vlib_time_now (vm) + nsm->delay;
216
217   nsim_set_actions (nsm, b, &ctx, n_left_from);
218
219   while (n_left_from >= 8)
220     {
221       vlib_prefetch_buffer_header (b[4], STORE);
222       vlib_prefetch_buffer_header (b[5], STORE);
223       vlib_prefetch_buffer_header (b[6], STORE);
224       vlib_prefetch_buffer_header (b[7], STORE);
225
226       if (PREDICT_FALSE (wp->cursize + 4 >= wp->wheel_size))
227         goto slow_path;
228
229       nsim_dispatch_buffer (vm, node, nsm, wp, b[0], from[0], &ctx,
230                             is_cross_connect, is_trace);
231       nsim_dispatch_buffer (vm, node, nsm, wp, b[1], from[1], &ctx,
232                             is_cross_connect, is_trace);
233       nsim_dispatch_buffer (vm, node, nsm, wp, b[2], from[2], &ctx,
234                             is_cross_connect, is_trace);
235       nsim_dispatch_buffer (vm, node, nsm, wp, b[3], from[3], &ctx,
236                             is_cross_connect, is_trace);
237
238       b += 4;
239       from += 4;
240       n_left_from -= 4;
241     }
242
243 slow_path:
244
245   while (n_left_from > 0)
246     {
247       /* Drop if out of wheel space and not drop or reorder */
248       if (PREDICT_TRUE (wp->cursize < wp->wheel_size
249                         || (ctx.action[0] & NSIM_ACTION_DROP)
250                         || (ctx.action[0] & NSIM_ACTION_REORDER)))
251         {
252           nsim_dispatch_buffer (vm, node, nsm, wp, b[0], from[0], &ctx,
253                                 is_cross_connect, is_trace);
254         }
255       else
256         {
257           ctx.drop[0] = from[0];
258           ctx.drop += 1;
259           if (PREDICT_FALSE (is_trace))
260             nsim_trace_buffer (vm, node, b[0], &ctx, 1);
261           ctx.action += 1;
262         }
263
264       b += 1;
265       from += 1;
266       n_left_from -= 1;
267     }
268
269   if (PREDICT_FALSE (ctx.drop > drops))
270     {
271       u32 n_left_to_drop = ctx.drop - drops;
272       vlib_buffer_free (vm, drops, n_left_to_drop);
273       vlib_node_increment_counter (vm, node->node_index, NSIM_ERROR_LOSS,
274                                    ctx.n_loss);
275       vlib_node_increment_counter (vm, node->node_index, NSIM_ERROR_DROPPED,
276                                    n_left_to_drop - ctx.n_loss);
277     }
278   if (PREDICT_FALSE (ctx.reord > reorders))
279     {
280       u32 n_reordered = ctx.reord - reorders;
281       vlib_buffer_enqueue_to_next (vm, node, reorders, reorders_nexts,
282                                    n_reordered);
283       vlib_node_increment_counter (vm, node->node_index, NSIM_ERROR_REORDERED,
284                                    n_reordered);
285     }
286   vlib_node_increment_counter (vm, node->node_index,
287                                NSIM_ERROR_BUFFERED, ctx.n_buffered);
288   return frame->n_vectors;
289 }
290
291 VLIB_NODE_FN (nsim_node) (vlib_main_t * vm, vlib_node_runtime_t * node,
292                           vlib_frame_t * frame)
293 {
294   if (PREDICT_FALSE (node->flags & VLIB_NODE_FLAG_TRACE))
295     return nsim_inline (vm, node, frame,
296                         1 /* is_trace */ , 1 /* is_cross_connect */ );
297   else
298     return nsim_inline (vm, node, frame,
299                         0 /* is_trace */ , 1 /* is_cross_connect */ );
300 }
301
302 #ifndef CLIB_MARCH_VARIANT
303 VLIB_REGISTER_NODE (nsim_node) =
304 {
305   .name = "nsim",
306   .vector_size = sizeof (u32),
307   .format_trace = format_nsim_trace,
308   .type = VLIB_NODE_TYPE_INTERNAL,
309
310   .n_errors = ARRAY_LEN(nsim_error_strings),
311   .error_strings = nsim_error_strings,
312
313   .n_next_nodes = NSIM_N_NEXT,
314
315   /* edit / add dispositions here */
316   .next_nodes = {
317         [NSIM_NEXT_DROP] = "error-drop",
318   },
319 };
320 #endif /* CLIB_MARCH_VARIANT */
321
322 VLIB_NODE_FN (nsim_feature_node) (vlib_main_t * vm,
323                                   vlib_node_runtime_t * node,
324                                   vlib_frame_t * frame)
325 {
326   if (PREDICT_FALSE (node->flags & VLIB_NODE_FLAG_TRACE))
327     return nsim_inline (vm, node, frame,
328                         1 /* is_trace */ , 0 /* is_cross_connect */ );
329   else
330     return nsim_inline (vm, node, frame,
331                         0 /* is_trace */ , 0 /* is_cross_connect */ );
332 }
333
334 #ifndef CLIB_MARCH_VARIANT
335 VLIB_REGISTER_NODE (nsim_feature_node) =
336 {
337   .name = "nsim-output-feature",
338   .vector_size = sizeof (u32),
339   .format_trace = format_nsim_trace,
340   .type = VLIB_NODE_TYPE_INTERNAL,
341
342   .n_errors = ARRAY_LEN(nsim_error_strings),
343   .error_strings = nsim_error_strings,
344
345   .n_next_nodes = NSIM_N_NEXT,
346
347   /* edit / add dispositions here */
348   .next_nodes = {
349         [NSIM_NEXT_DROP] = "error-drop",
350   },
351 };
352 #endif /* CLIB_MARCH_VARIANT */
353
354 /*
355  * fd.io coding-style-patch-verification: ON
356  *
357  * Local Variables:
358  * eval: (c-set-style "gnu")
359  * End:
360  */