427dd82ae853fe961ff64a62fd6a7c9fbbb72694
[vpp.git] / src / plugins / hs_apps / vcl / vcl_test_client.c
1 /*
2  * Copyright (c) 2017-2021 Cisco and/or its affiliates.
3  * Licensed under the Apache License, Version 2.0 (the "License");
4  * you may not use this file except in compliance with the License.
5  * You may obtain a copy of the License at:
6  *
7  *     http://www.apache.org/licenses/LICENSE-2.0
8  *
9  * Unless required by applicable law or agreed to in writing, software
10  * distributed under the License is distributed on an "AS IS" BASIS,
11  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
12  * See the License for the specific language governing permissions and
13  * limitations under the License.
14  */
15
16 #include <unistd.h>
17 #include <errno.h>
18 #include <stdlib.h>
19 #include <ctype.h>
20 #include <sys/types.h>
21 #include <sys/socket.h>
22 #include <stdio.h>
23 #include <time.h>
24 #include <arpa/inet.h>
25 #include <hs_apps/vcl/vcl_test.h>
26 #include <pthread.h>
27 #include <signal.h>
28
29 typedef struct vtc_worker_ vcl_test_client_worker_t;
30 typedef int (vtc_worker_run_fn) (vcl_test_client_worker_t *wrk);
31
32 struct vtc_worker_
33 {
34   vcl_test_session_t *sessions;
35   vcl_test_session_t *qsessions;
36   uint32_t n_sessions;
37   uint32_t wrk_index;
38   union
39   {
40     struct
41     {
42       fd_set wr_fdset;
43       fd_set rd_fdset;
44       int max_fd_index;
45     };
46     struct
47     {
48       uint32_t epoll_sh;
49       struct epoll_event ep_evts[VCL_TEST_CFG_MAX_EPOLL_EVENTS];
50       vcl_test_session_t *next_to_send;
51     };
52   };
53   pthread_t thread_handle;
54   vtc_worker_run_fn *wrk_run_fn;
55   vcl_test_cfg_t cfg;
56 };
57
58 typedef struct
59 {
60   vcl_test_client_worker_t *workers;
61   vcl_test_session_t ctrl_session;
62   vppcom_endpt_t server_endpt;
63   uint32_t cfg_seq_num;
64   uint8_t dump_cfg;
65   vcl_test_t post_test;
66   uint8_t proto;
67   uint8_t incremental_stats;
68   uint32_t n_workers;
69   volatile int active_workers;
70   volatile int test_running;
71   union
72   {
73     struct in_addr v4;
74     struct in6_addr v6;
75   } server_addr;
76 } vcl_test_client_main_t;
77
78 vcl_test_client_main_t vcl_client_main;
79
80 #define vtc_min(a, b) (a < b ? a : b)
81 #define vtc_max(a, b) (a > b ? a : b)
82
83 vcl_test_main_t vcl_test_main;
84
85 static int
86 vtc_cfg_sync (vcl_test_session_t * ts)
87 {
88   vcl_test_cfg_t *rx_cfg = (vcl_test_cfg_t *) ts->rxbuf;
89   int rx_bytes, tx_bytes;
90
91   vt_atomic_add (&ts->cfg.seq_num, 1);
92   if (ts->cfg.verbose)
93     {
94       vtinf ("(fd %d): Sending config to server.", ts->fd);
95       vcl_test_cfg_dump (&ts->cfg, 1 /* is_client */ );
96     }
97   tx_bytes = ts->write (ts, &ts->cfg, sizeof (ts->cfg));
98   if (tx_bytes < 0)
99     {
100       vtwrn ("(fd %d): write test cfg failed (%d)!", ts->fd, tx_bytes);
101       return tx_bytes;
102     }
103
104   rx_bytes = ts->read (ts, ts->rxbuf, sizeof (vcl_test_cfg_t));
105   if (rx_bytes < 0)
106     return rx_bytes;
107
108   if (rx_cfg->magic != VCL_TEST_CFG_CTRL_MAGIC)
109     {
110       vtwrn ("(fd %d): Bad server reply cfg -- aborting!", ts->fd);
111       return -1;
112     }
113   if ((rx_bytes != sizeof (vcl_test_cfg_t))
114       || !vcl_test_cfg_verify (rx_cfg, &ts->cfg))
115     {
116       vtwrn ("(fd %d): Invalid config received from server!", ts->fd);
117       if (rx_bytes != sizeof (vcl_test_cfg_t))
118         {
119           vtinf ("\tRx bytes %d != cfg size %lu", rx_bytes,
120                  sizeof (vcl_test_cfg_t));
121         }
122       else
123         {
124           vcl_test_cfg_dump (rx_cfg, 1 /* is_client */ );
125           vtinf ("(fd %d): Valid config sent to server.", ts->fd);
126           vcl_test_cfg_dump (&ts->cfg, 1 /* is_client */ );
127         }
128       return -1;
129     }
130   if (ts->cfg.verbose)
131     {
132       vtinf ("(fd %d): Got config back from server.", ts->fd);
133       vcl_test_cfg_dump (rx_cfg, 1 /* is_client */ );
134     }
135
136   return 0;
137 }
138
139 static int
140 vtc_worker_alloc_sessions (vcl_test_client_worker_t *wrk)
141 {
142   vcl_test_session_t *ts;
143   uint32_t n_test_sessions;
144   struct timespec now;
145   int i, j;
146
147   n_test_sessions = wrk->cfg.num_test_sessions;
148   if (n_test_sessions < 1)
149     {
150       errno = EINVAL;
151       return -1;
152     }
153
154   if (wrk->n_sessions >= n_test_sessions)
155     goto done;
156
157   if (wrk->n_sessions)
158     wrk->sessions = realloc (wrk->sessions,
159                              n_test_sessions * sizeof (vcl_test_session_t));
160   else
161     wrk->sessions = calloc (n_test_sessions, sizeof (vcl_test_session_t));
162
163   if (!wrk->sessions)
164     {
165       vterr ("failed to alloc sessions", -errno);
166       return errno;
167     }
168
169   clock_gettime (CLOCK_REALTIME, &now);
170
171   for (i = 0; i < n_test_sessions; i++)
172     {
173       ts = &wrk->sessions[i];
174       memset (ts, 0, sizeof (*ts));
175       ts->session_index = i;
176       ts->old_stats.stop = now;
177       ts->cfg = wrk->cfg;
178       vcl_test_session_buf_alloc (ts);
179
180       switch (ts->cfg.test)
181         {
182         case VCL_TEST_TYPE_UNI:
183         case VCL_TEST_TYPE_BI:
184           for (j = 0; j < ts->txbuf_size; j++)
185             ts->txbuf[j] = j & 0xff;
186           break;
187         default:
188           break;
189         }
190     }
191   wrk->n_sessions = n_test_sessions;
192
193 done:
194
195   vtinf ("All test sessions (%d) initialized!", n_test_sessions);
196
197   return 0;
198 }
199
200 static int
201 vtc_worker_init (vcl_test_client_worker_t * wrk)
202 {
203   vcl_test_client_main_t *vcm = &vcl_client_main;
204   int rv;
205
206   __wrk_index = wrk->wrk_index;
207
208   vtinf ("Initializing worker %u ...", wrk->wrk_index);
209
210   if (wrk->wrk_index)
211     {
212       if (vppcom_worker_register ())
213         {
214           vtwrn ("failed to register worker");
215           return -1;
216         }
217       vt_atomic_add (&vcm->active_workers, 1);
218     }
219   rv = vtc_worker_alloc_sessions (wrk);
220   if (rv)
221     {
222       vterr ("vtc_worker_alloc_sessions ()", rv);
223       return rv;
224     }
225
226   return 0;
227 }
228
229 static int stats_lock = 0;
230
231 static void
232 vtc_accumulate_stats (vcl_test_client_worker_t * wrk,
233                       vcl_test_session_t * ctrl)
234 {
235   vcl_test_session_t *ts;
236   static char buf[64];
237   int i, show_rx = 0;
238
239   while (__sync_lock_test_and_set (&stats_lock, 1))
240     ;
241
242   if (ctrl->cfg.test == VCL_TEST_TYPE_BI
243       || ctrl->cfg.test == VCL_TEST_TYPE_ECHO)
244     show_rx = 1;
245
246   for (i = 0; i < wrk->cfg.num_test_sessions; i++)
247     {
248       ts = &wrk->sessions[i];
249       ts->stats.start = ctrl->stats.start;
250
251       if (ctrl->cfg.verbose > 1)
252         {
253           snprintf (buf, sizeof (buf), "CLIENT (fd %d) RESULTS", ts->fd);
254           vcl_test_stats_dump (buf, &ts->stats, show_rx, 1 /* show tx */ ,
255                                ctrl->cfg.verbose);
256         }
257
258       vcl_test_stats_accumulate (&ctrl->stats, &ts->stats);
259       if (vcl_comp_tspec (&ctrl->stats.stop, &ts->stats.stop) < 0)
260         ctrl->stats.stop = ts->stats.stop;
261     }
262
263   __sync_lock_release (&stats_lock);
264 }
265
266 static void
267 vtc_worker_sessions_exit (vcl_test_client_worker_t * wrk)
268 {
269   vcl_test_session_t *ts;
270   int i;
271
272   for (i = 0; i < wrk->cfg.num_test_sessions; i++)
273     {
274       ts = &wrk->sessions[i];
275       vppcom_session_close (ts->fd);
276       vcl_test_session_buf_free (ts);
277     }
278
279   wrk->n_sessions = 0;
280 }
281
282 static void
283 vtc_inc_stats_check (vcl_test_session_t *ts)
284 {
285   /* Avoid checking time too often because of syscall cost */
286   if (ts->stats.tx_bytes - ts->old_stats.tx_bytes < 1 << 20)
287     return;
288
289   clock_gettime (CLOCK_REALTIME, &ts->stats.stop);
290   if (vcl_test_time_diff (&ts->old_stats.stop, &ts->stats.stop) > 1)
291     {
292       vcl_test_stats_dump_inc (ts, 0 /* is_rx */);
293       ts->old_stats = ts->stats;
294     }
295 }
296
297 static void
298 vtc_worker_start_transfer (vcl_test_client_worker_t *wrk)
299 {
300   vtinf ("Worker %u starting transfer ...", wrk->wrk_index);
301
302   if (wrk->wrk_index == 0)
303     {
304       vcl_test_client_main_t *vcm = &vcl_client_main;
305       vcl_test_session_t *ctrl = &vcm->ctrl_session;
306
307       clock_gettime (CLOCK_REALTIME, &ctrl->stats.start);
308     }
309 }
310
311 static int
312 vtc_session_check_is_done (vcl_test_session_t *ts, uint8_t check_rx)
313 {
314   if ((!check_rx && ts->stats.tx_bytes >= ts->cfg.total_bytes) ||
315       (check_rx && ts->stats.rx_bytes >= ts->cfg.total_bytes))
316     {
317       clock_gettime (CLOCK_REALTIME, &ts->stats.stop);
318       ts->is_done = 1;
319       return 1;
320     }
321   return 0;
322 }
323
324 static int
325 vtc_worker_connect_sessions_select (vcl_test_client_worker_t *wrk)
326 {
327   vcl_test_client_main_t *vcm = &vcl_client_main;
328   vcl_test_main_t *vt = &vcl_test_main;
329   const vcl_test_proto_vft_t *tp;
330   vcl_test_session_t *ts;
331   uint32_t sidx;
332   int i, rv;
333
334   tp = vt->protos[vcm->proto];
335
336   FD_ZERO (&wrk->wr_fdset);
337   FD_ZERO (&wrk->rd_fdset);
338
339   for (i = 0; i < wrk->cfg.num_test_sessions; i++)
340     {
341       ts = &wrk->sessions[i];
342
343       rv = tp->open (&wrk->sessions[i], &vcm->server_endpt);
344       if (rv < 0)
345         return rv;
346
347       FD_SET (vppcom_session_index (ts->fd), &wrk->wr_fdset);
348       FD_SET (vppcom_session_index (ts->fd), &wrk->rd_fdset);
349       sidx = vppcom_session_index (ts->fd);
350       wrk->max_fd_index = vtc_max (sidx, wrk->max_fd_index);
351     }
352   wrk->max_fd_index += 1;
353
354   vtinf ("All test sessions (%d) connected!", wrk->cfg.num_test_sessions);
355
356   return 0;
357 }
358
359 static int
360 vtc_worker_run_select (vcl_test_client_worker_t *wrk)
361 {
362   vcl_test_client_main_t *vcm = &vcl_client_main;
363   fd_set _wfdset, *wfdset = &_wfdset;
364   fd_set _rfdset, *rfdset = &_rfdset;
365   uint32_t n_active_sessions;
366   vcl_test_session_t *ts;
367   int i, rv, check_rx = 0;
368
369   rv = vtc_worker_connect_sessions_select (wrk);
370   if (rv)
371     {
372       vterr ("vtc_worker_connect_sessions()", rv);
373       return rv;
374     }
375
376   check_rx = wrk->cfg.test != VCL_TEST_TYPE_UNI;
377   n_active_sessions = wrk->cfg.num_test_sessions;
378
379   vtc_worker_start_transfer (wrk);
380
381   while (n_active_sessions && vcm->test_running)
382     {
383       _wfdset = wrk->wr_fdset;
384       _rfdset = wrk->rd_fdset;
385
386       rv = vppcom_select (wrk->max_fd_index, (unsigned long *) rfdset,
387                           (unsigned long *) wfdset, NULL, 0);
388       if (rv < 0)
389         {
390           vterr ("vppcom_select()", rv);
391           break;
392         }
393       else if (rv == 0)
394         continue;
395
396       for (i = 0; i < wrk->cfg.num_test_sessions; i++)
397         {
398           ts = &wrk->sessions[i];
399           if (ts->is_done)
400             continue;
401
402           if (FD_ISSET (vppcom_session_index (ts->fd), rfdset) &&
403               ts->stats.rx_bytes < ts->cfg.total_bytes)
404             {
405               rv = ts->read (ts, ts->rxbuf, ts->rxbuf_size);
406               if (rv < 0)
407                 break;
408             }
409
410           if (FD_ISSET (vppcom_session_index (ts->fd), wfdset) &&
411               ts->stats.tx_bytes < ts->cfg.total_bytes)
412             {
413               rv = ts->write (ts, ts->txbuf, ts->cfg.txbuf_size);
414               if (rv < 0)
415                 {
416                   vtwrn ("vppcom_test_write (%d) failed -- aborting test",
417                          ts->fd);
418                   break;
419                 }
420               if (vcm->incremental_stats)
421                 vtc_inc_stats_check (ts);
422             }
423           if ((!check_rx && ts->stats.tx_bytes >= ts->cfg.total_bytes) ||
424               (check_rx && ts->stats.rx_bytes >= ts->cfg.total_bytes))
425             {
426               clock_gettime (CLOCK_REALTIME, &ts->stats.stop);
427               ts->is_done = 1;
428               n_active_sessions--;
429             }
430         }
431     }
432
433   return 0;
434 }
435
436 static void
437 vtc_worker_epoll_send_add (vcl_test_client_worker_t *wrk,
438                            vcl_test_session_t *ts)
439 {
440   if (!wrk->next_to_send)
441     {
442       wrk->next_to_send = ts;
443     }
444   else
445     {
446       ts->next = wrk->next_to_send;
447       wrk->next_to_send = ts->next;
448     }
449 }
450
451 static void
452 vtc_worker_epoll_send_del (vcl_test_client_worker_t *wrk,
453                            vcl_test_session_t *ts, vcl_test_session_t *prev)
454 {
455   if (!prev)
456     {
457       wrk->next_to_send = ts->next;
458     }
459   else
460     {
461       prev->next = ts->next;
462     }
463 }
464
465 static int
466 vtc_worker_connect_sessions_epoll (vcl_test_client_worker_t *wrk)
467 {
468   vcl_test_client_main_t *vcm = &vcl_client_main;
469   vcl_test_main_t *vt = &vcl_test_main;
470   const vcl_test_proto_vft_t *tp;
471   struct timespec start, end;
472   uint32_t n_connected = 0;
473   vcl_test_session_t *ts;
474   struct epoll_event ev;
475   int i, ci = 0, rv, n_ev;
476   double diff;
477
478   tp = vt->protos[vcm->proto];
479   wrk->epoll_sh = vppcom_epoll_create ();
480
481   ev.events = EPOLLET | EPOLLOUT;
482
483   clock_gettime (CLOCK_REALTIME, &start);
484
485   while (n_connected < wrk->cfg.num_test_sessions)
486     {
487       /*
488        * Try to connect more sessions if under pending threshold
489        */
490       while ((ci - n_connected) < 16 && ci < wrk->cfg.num_test_sessions)
491         {
492           ts = &wrk->sessions[ci];
493           ts->noblk_connect = 1;
494           rv = tp->open (&wrk->sessions[ci], &vcm->server_endpt);
495           if (rv < 0)
496             {
497               vtwrn ("open: %d", rv);
498               return rv;
499             }
500
501           ev.data.u64 = ci;
502           rv = vppcom_epoll_ctl (wrk->epoll_sh, EPOLL_CTL_ADD, ts->fd, &ev);
503           if (rv < 0)
504             {
505               vtwrn ("vppcom_epoll_ctl: %d", rv);
506               return rv;
507             }
508           ci += 1;
509         }
510
511       /*
512        * Handle connected events
513        */
514       n_ev =
515         vppcom_epoll_wait (wrk->epoll_sh, wrk->ep_evts,
516                            VCL_TEST_CFG_MAX_EPOLL_EVENTS, 0 /* timeout */);
517       if (n_ev < 0)
518         {
519           vterr ("vppcom_epoll_wait() returned", n_ev);
520           return -1;
521         }
522       else if (n_ev == 0)
523         {
524           continue;
525         }
526
527       for (i = 0; i < n_ev; i++)
528         {
529           ts = &wrk->sessions[wrk->ep_evts[i].data.u32];
530           if (!(wrk->ep_evts[i].events & EPOLLOUT))
531             {
532               vtwrn ("connect failed");
533               return -1;
534             }
535           if (ts->is_open)
536             {
537               vtwrn ("connection already open?");
538               return -1;
539             }
540           ts->is_open = 1;
541           n_connected += 1;
542         }
543     }
544
545   clock_gettime (CLOCK_REALTIME, &end);
546
547   diff = vcl_test_time_diff (&start, &end);
548   vtinf ("Connected (%u) connected in %.2f seconds (%u CPS)!",
549          wrk->cfg.num_test_sessions, diff,
550          (uint32_t) ((double) wrk->cfg.num_test_sessions / diff));
551
552   ev.events = EPOLLET | EPOLLIN | EPOLLOUT;
553
554   for (i = 0; i < wrk->cfg.num_test_sessions; i++)
555     {
556       ts = &wrk->sessions[i];
557
558       /* No data to be sent */
559       if (ts->cfg.total_bytes == 0)
560         {
561           n_connected -= 1;
562           clock_gettime (CLOCK_REALTIME, &ts->stats.stop);
563           ts->is_done = 1;
564           continue;
565         }
566
567       ev.data.u64 = i;
568       rv = vppcom_epoll_ctl (wrk->epoll_sh, EPOLL_CTL_MOD, ts->fd, &ev);
569       if (rv < 0)
570         {
571           vtwrn ("vppcom_epoll_ctl: %d", rv);
572           return rv;
573         }
574       vtc_worker_epoll_send_add (wrk, ts);
575     }
576
577   return n_connected;
578 }
579
580 static int
581 vtc_worker_run_epoll (vcl_test_client_worker_t *wrk)
582 {
583   vcl_test_client_main_t *vcm = &vcl_client_main;
584   uint32_t n_active_sessions, max_writes = 16, n_writes = 0;
585   vcl_test_session_t *ts, *prev = 0;
586   int i, rv, check_rx = 0, n_ev;
587
588   rv = vtc_worker_connect_sessions_epoll (wrk);
589   if (rv < 0)
590     {
591       vterr ("vtc_worker_connect_sessions()", rv);
592       return rv;
593     }
594
595   n_active_sessions = rv;
596   check_rx = wrk->cfg.test != VCL_TEST_TYPE_UNI;
597
598   vtc_worker_start_transfer (wrk);
599   ts = wrk->next_to_send;
600
601   while (n_active_sessions && vcm->test_running)
602     {
603       /*
604        * Try to write
605        */
606       if (!ts)
607         {
608           ts = wrk->next_to_send;
609           if (!ts)
610             goto get_epoll_evts;
611         }
612
613       rv = ts->write (ts, ts->txbuf, ts->cfg.txbuf_size);
614       if (rv > 0)
615         {
616           if (vcm->incremental_stats)
617             vtc_inc_stats_check (ts);
618           if (vtc_session_check_is_done (ts, check_rx))
619             n_active_sessions -= 1;
620         }
621       else if (rv == 0)
622         {
623           vtc_worker_epoll_send_del (wrk, ts, prev);
624         }
625       else
626         {
627           vtwrn ("vppcom_test_write (%d) failed -- aborting test", ts->fd);
628           return -1;
629         }
630       prev = ts;
631       ts = ts->next;
632       n_writes += 1;
633
634       if (rv > 0 && n_writes < max_writes)
635         continue;
636
637     get_epoll_evts:
638
639       /*
640        * Grab new events
641        */
642
643       n_ev =
644         vppcom_epoll_wait (wrk->epoll_sh, wrk->ep_evts,
645                            VCL_TEST_CFG_MAX_EPOLL_EVENTS, 0 /* timeout */);
646       if (n_ev < 0)
647         {
648           vterr ("vppcom_epoll_wait()", n_ev);
649           break;
650         }
651       else if (n_ev == 0)
652         {
653           continue;
654         }
655
656       for (i = 0; i < n_ev; i++)
657         {
658           ts = &wrk->sessions[wrk->ep_evts[i].data.u32];
659
660           if (ts->is_done)
661             continue;
662
663           if (wrk->ep_evts[i].events & (EPOLLERR | EPOLLHUP | EPOLLRDHUP))
664             {
665               vtinf ("%u finished before reading all data?", ts->fd);
666               break;
667             }
668           if ((wrk->ep_evts[i].events & EPOLLIN) &&
669               ts->stats.rx_bytes < ts->cfg.total_bytes)
670             {
671               rv = ts->read (ts, ts->rxbuf, ts->rxbuf_size);
672               if (rv < 0)
673                 break;
674               if (vtc_session_check_is_done (ts, check_rx))
675                 n_active_sessions -= 1;
676             }
677           if ((wrk->ep_evts[i].events & EPOLLOUT) &&
678               ts->stats.tx_bytes < ts->cfg.total_bytes)
679             {
680               vtc_worker_epoll_send_add (wrk, ts);
681             }
682         }
683
684       n_writes = 0;
685     }
686
687   return 0;
688 }
689
690 static inline int
691 vtc_worker_run (vcl_test_client_worker_t *wrk)
692 {
693   int rv;
694
695   vtinf ("Worker %u starting test ...", wrk->wrk_index);
696
697   rv = wrk->wrk_run_fn (wrk);
698
699   vtinf ("Worker %d done ...", wrk->wrk_index);
700
701   return rv;
702 }
703
704 static void *
705 vtc_worker_loop (void *arg)
706 {
707   vcl_test_client_main_t *vcm = &vcl_client_main;
708   vcl_test_session_t *ctrl = &vcm->ctrl_session;
709   vcl_test_client_worker_t *wrk = arg;
710
711   if (vtc_worker_init (wrk))
712     goto done;
713
714   if (vtc_worker_run (wrk))
715     goto done;
716
717   vtc_accumulate_stats (wrk, ctrl);
718   sleep (VCL_TEST_DELAY_DISCONNECT);
719   vtc_worker_sessions_exit (wrk);
720
721 done:
722
723   if (wrk->wrk_index)
724     vt_atomic_add (&vcm->active_workers, -1);
725
726   return 0;
727 }
728
729 static void
730 vtc_print_stats (vcl_test_session_t * ctrl)
731 {
732   int is_echo = ctrl->cfg.test == VCL_TEST_TYPE_ECHO;
733   int show_rx = 0;
734   char buf[64];
735
736   if (ctrl->cfg.test == VCL_TEST_TYPE_BI
737       || ctrl->cfg.test == VCL_TEST_TYPE_ECHO)
738     show_rx = 1;
739
740   vcl_test_stats_dump ("CLIENT RESULTS", &ctrl->stats,
741                        show_rx, 1 /* show tx */ ,
742                        ctrl->cfg.verbose);
743   vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */ );
744
745   if (ctrl->cfg.verbose)
746     {
747       vtinf ("  ctrl session info\n"
748              VCL_TEST_SEPARATOR_STRING
749              "          fd:  %d (0x%08x)\n"
750              "       rxbuf:  %p\n"
751              "  rxbuf size:  %u (0x%08x)\n"
752              "       txbuf:  %p\n"
753              "  txbuf size:  %u (0x%08x)\n"
754              VCL_TEST_SEPARATOR_STRING,
755              ctrl->fd, (uint32_t) ctrl->fd,
756              ctrl->rxbuf, ctrl->rxbuf_size, ctrl->rxbuf_size,
757              ctrl->txbuf, ctrl->txbuf_size, ctrl->txbuf_size);
758     }
759
760   if (is_echo)
761     snprintf (buf, sizeof (buf), "Echo");
762   else
763     snprintf (buf, sizeof (buf), "%s-directional Stream",
764               ctrl->cfg.test == VCL_TEST_TYPE_BI ? "Bi" : "Uni");
765 }
766
767 static void
768 vtc_echo_client (vcl_test_client_main_t * vcm)
769 {
770   vcl_test_session_t *ctrl = &vcm->ctrl_session;
771   vcl_test_cfg_t *cfg = &ctrl->cfg;
772   int rv;
773
774   cfg->total_bytes = strlen (ctrl->txbuf) + 1;
775   memset (&ctrl->stats, 0, sizeof (ctrl->stats));
776
777   rv = ctrl->write (ctrl, ctrl->txbuf, cfg->total_bytes);
778   if (rv < 0)
779     {
780       vtwrn ("vppcom_test_write (%d) failed ", ctrl->fd);
781       return;
782     }
783
784   (void) ctrl->read (ctrl, ctrl->rxbuf, ctrl->rxbuf_size);
785 }
786
787 static void
788 vtc_stream_client (vcl_test_client_main_t * vcm)
789 {
790   vcl_test_session_t *ctrl = &vcm->ctrl_session;
791   vcl_test_cfg_t *cfg = &ctrl->cfg;
792   vcl_test_client_worker_t *wrk;
793   uint32_t i, n_conn, n_conn_per_wrk;
794
795   vtinf ("%s-directional Stream Test Starting!",
796          ctrl->cfg.test == VCL_TEST_TYPE_BI ? "Bi" : "Uni");
797
798   memset (&ctrl->stats, 0, sizeof (vcl_test_stats_t));
799   cfg->total_bytes = cfg->num_writes * cfg->txbuf_size;
800   cfg->ctrl_handle = ctrl->fd;
801
802   n_conn = cfg->num_test_sessions;
803   n_conn_per_wrk = n_conn / vcm->n_workers;
804   for (i = 0; i < vcm->n_workers; i++)
805     {
806       wrk = &vcm->workers[i];
807       wrk->wrk_index = i;
808       wrk->cfg = ctrl->cfg;
809       wrk->cfg.num_test_sessions = vtc_min (n_conn_per_wrk, n_conn);
810       n_conn -= wrk->cfg.num_test_sessions;
811     }
812
813   vcm->test_running = 1;
814   ctrl->cfg.cmd = VCL_TEST_CMD_START;
815   if (vtc_cfg_sync (ctrl))
816     {
817       vtwrn ("test cfg sync failed -- aborting!");
818       return;
819     }
820
821   for (i = 1; i < vcm->n_workers; i++)
822     {
823       wrk = &vcm->workers[i];
824       pthread_create (&wrk->thread_handle, NULL, vtc_worker_loop,
825                       (void *) wrk);
826     }
827   vtc_worker_loop (&vcm->workers[0]);
828
829   while (vcm->active_workers > 0)
830     ;
831
832   vtinf ("Sending config on ctrl session (fd %d) for stats...", ctrl->fd);
833   ctrl->cfg.cmd = VCL_TEST_CMD_STOP;
834   if (vtc_cfg_sync (ctrl))
835     {
836       vtwrn ("test cfg sync failed -- aborting!");
837       return;
838     }
839
840   vtc_print_stats (ctrl);
841
842   ctrl->cfg.cmd = VCL_TEST_CMD_SYNC;
843   ctrl->cfg.test = VCL_TEST_TYPE_ECHO;
844   ctrl->cfg.total_bytes = 0;
845   if (vtc_cfg_sync (ctrl))
846     vtwrn ("post-test cfg sync failed!");
847 }
848
849 static void
850 cfg_txbuf_size_set (void)
851 {
852   vcl_test_client_main_t *vcm = &vcl_client_main;
853   vcl_test_session_t *ctrl = &vcm->ctrl_session;
854   char *p = ctrl->txbuf + strlen (VCL_TEST_TOKEN_TXBUF_SIZE);
855   uint64_t txbuf_size = strtoull ((const char *) p, NULL, 10);
856
857   if (txbuf_size >= VCL_TEST_CFG_BUF_SIZE_MIN)
858     {
859       ctrl->cfg.txbuf_size = txbuf_size;
860       ctrl->cfg.total_bytes = ctrl->cfg.num_writes * ctrl->cfg.txbuf_size;
861       vcl_test_buf_alloc (&ctrl->cfg, 0 /* is_rxbuf */ ,
862                           (uint8_t **) & ctrl->txbuf, &ctrl->txbuf_size);
863       vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */ );
864     }
865   else
866     vtwrn ("Invalid txbuf size (%lu) < minimum buf size (%u)!",
867            txbuf_size, VCL_TEST_CFG_BUF_SIZE_MIN);
868 }
869
870 static void
871 cfg_num_writes_set (void)
872 {
873   vcl_test_client_main_t *vcm = &vcl_client_main;
874   vcl_test_session_t *ctrl = &vcm->ctrl_session;
875   char *p = ctrl->txbuf + strlen (VCL_TEST_TOKEN_NUM_WRITES);
876   uint32_t num_writes = strtoul ((const char *) p, NULL, 10);
877
878   if (num_writes > 0)
879     {
880       ctrl->cfg.num_writes = num_writes;
881       ctrl->cfg.total_bytes = ctrl->cfg.num_writes * ctrl->cfg.txbuf_size;
882       vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */ );
883     }
884   else
885     {
886       vtwrn ("invalid num writes: %u", num_writes);
887     }
888 }
889
890 static void
891 cfg_num_test_sessions_set (void)
892 {
893   vcl_test_client_main_t *vcm = &vcl_client_main;
894   vcl_test_session_t *ctrl = &vcm->ctrl_session;
895   char *p = ctrl->txbuf + strlen (VCL_TEST_TOKEN_NUM_TEST_SESS);
896   uint32_t num_test_sessions = strtoul ((const char *) p, NULL, 10);
897
898   if ((num_test_sessions > 0) &&
899       (num_test_sessions <= VCL_TEST_CFG_MAX_TEST_SESS))
900     {
901       ctrl->cfg.num_test_sessions = num_test_sessions;
902       vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */ );
903     }
904   else
905     {
906       vtwrn ("invalid num test sessions: %u, (%d max)",
907              num_test_sessions, VCL_TEST_CFG_MAX_TEST_SESS);
908     }
909 }
910
911 static void
912 cfg_rxbuf_size_set (void)
913 {
914   vcl_test_client_main_t *vcm = &vcl_client_main;
915   vcl_test_session_t *ctrl = &vcm->ctrl_session;
916   char *p = ctrl->txbuf + strlen (VCL_TEST_TOKEN_RXBUF_SIZE);
917   uint64_t rxbuf_size = strtoull ((const char *) p, NULL, 10);
918
919   if (rxbuf_size >= VCL_TEST_CFG_BUF_SIZE_MIN)
920     {
921       ctrl->cfg.rxbuf_size = rxbuf_size;
922       vcl_test_buf_alloc (&ctrl->cfg, 1 /* is_rxbuf */ ,
923                           (uint8_t **) & ctrl->rxbuf, &ctrl->rxbuf_size);
924       vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */ );
925     }
926   else
927     vtwrn ("Invalid rxbuf size (%lu) < minimum buf size (%u)!",
928            rxbuf_size, VCL_TEST_CFG_BUF_SIZE_MIN);
929 }
930
931 static void
932 cfg_verbose_toggle (void)
933 {
934   vcl_test_client_main_t *vcm = &vcl_client_main;
935   vcl_test_session_t *ctrl = &vcm->ctrl_session;
936
937   ctrl->cfg.verbose = ctrl->cfg.verbose ? 0 : 1;
938   vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */ );
939
940 }
941
942 static vcl_test_t
943 parse_input ()
944 {
945   vcl_test_client_main_t *vcm = &vcl_client_main;
946   vcl_test_session_t *ctrl = &vcm->ctrl_session;
947   vcl_test_t rv = VCL_TEST_TYPE_NONE;
948
949   if (!strncmp (VCL_TEST_TOKEN_EXIT, ctrl->txbuf,
950                 strlen (VCL_TEST_TOKEN_EXIT)))
951     rv = VCL_TEST_TYPE_EXIT;
952
953   else if (!strncmp (VCL_TEST_TOKEN_HELP, ctrl->txbuf,
954                      strlen (VCL_TEST_TOKEN_HELP)))
955     dump_help ();
956
957   else if (!strncmp (VCL_TEST_TOKEN_SHOW_CFG, ctrl->txbuf,
958                      strlen (VCL_TEST_TOKEN_SHOW_CFG)))
959     vcm->dump_cfg = 1;
960
961   else if (!strncmp (VCL_TEST_TOKEN_VERBOSE, ctrl->txbuf,
962                      strlen (VCL_TEST_TOKEN_VERBOSE)))
963     cfg_verbose_toggle ();
964
965   else if (!strncmp (VCL_TEST_TOKEN_TXBUF_SIZE, ctrl->txbuf,
966                      strlen (VCL_TEST_TOKEN_TXBUF_SIZE)))
967     cfg_txbuf_size_set ();
968
969   else if (!strncmp (VCL_TEST_TOKEN_NUM_TEST_SESS, ctrl->txbuf,
970                      strlen (VCL_TEST_TOKEN_NUM_TEST_SESS)))
971     cfg_num_test_sessions_set ();
972
973   else if (!strncmp (VCL_TEST_TOKEN_NUM_WRITES, ctrl->txbuf,
974                      strlen (VCL_TEST_TOKEN_NUM_WRITES)))
975     cfg_num_writes_set ();
976
977   else if (!strncmp (VCL_TEST_TOKEN_RXBUF_SIZE, ctrl->txbuf,
978                      strlen (VCL_TEST_TOKEN_RXBUF_SIZE)))
979     cfg_rxbuf_size_set ();
980
981   else if (!strncmp (VCL_TEST_TOKEN_RUN_UNI, ctrl->txbuf,
982                      strlen (VCL_TEST_TOKEN_RUN_UNI)))
983     rv = ctrl->cfg.test = VCL_TEST_TYPE_UNI;
984
985   else if (!strncmp (VCL_TEST_TOKEN_RUN_BI, ctrl->txbuf,
986                      strlen (VCL_TEST_TOKEN_RUN_BI)))
987     rv = ctrl->cfg.test = VCL_TEST_TYPE_BI;
988
989   else
990     rv = VCL_TEST_TYPE_ECHO;
991
992   return rv;
993 }
994
995 void
996 print_usage_and_exit (void)
997 {
998   fprintf (
999     stderr,
1000     "vcl_test_client [OPTIONS] <ipaddr> <port>\n"
1001     "  OPTIONS\n"
1002     "  -h               Print this message and exit.\n"
1003     "  -6               Use IPv6\n"
1004     "  -c               Print test config before test.\n"
1005     "  -w <dir>         Write test results to <dir>.\n"
1006     "  -X               Exit after running test.\n"
1007     "  -p <proto>       Use <proto> transport layer\n"
1008     "  -D               Use UDP transport layer\n"
1009     "  -L               Use TLS transport layer\n"
1010     "  -E               Run Echo test.\n"
1011     "  -N <num-writes>  Test Cfg: number of writes.\n"
1012     "  -R <rxbuf-size>  Test Cfg: rx buffer size.\n"
1013     "  -T <txbuf-size>  Test Cfg: tx buffer size.\n"
1014     "  -U               Run Uni-directional test.\n"
1015     "  -B               Run Bi-directional test.\n"
1016     "  -V               Verbose mode.\n"
1017     "  -I <N>           Use N sessions.\n"
1018     "  -s <N>           Use N sessions.\n"
1019     "  -S               Print incremental stats per session.\n"
1020     "  -q <n>           QUIC : use N Ssessions on top of n Qsessions\n");
1021   exit (1);
1022 }
1023
1024 static void
1025 vtc_process_opts (vcl_test_client_main_t * vcm, int argc, char **argv)
1026 {
1027   vcl_test_session_t *ctrl = &vcm->ctrl_session;
1028   int c, v;
1029
1030   opterr = 0;
1031   while ((c = getopt (argc, argv, "chnp:w:xXE:I:N:R:T:UBV6DLs:q:S")) != -1)
1032     switch (c)
1033       {
1034       case 'c':
1035         vcm->dump_cfg = 1;
1036         break;
1037
1038       case 'I':         /* deprecated */
1039       case 's':
1040         if (sscanf (optarg, "0x%x", &ctrl->cfg.num_test_sessions) != 1)
1041           if (sscanf (optarg, "%u", &ctrl->cfg.num_test_sessions) != 1)
1042             {
1043               vtwrn ("Invalid value for option -%c!", c);
1044               print_usage_and_exit ();
1045             }
1046         if (!ctrl->cfg.num_test_sessions ||
1047             (ctrl->cfg.num_test_sessions > VCL_TEST_CFG_MAX_TEST_SESS))
1048           {
1049             vtwrn ("Invalid number of sessions (%d) specified for option -%c!"
1050                    "\n       Valid range is 1 - %d",
1051                    ctrl->cfg.num_test_sessions, c,
1052                    VCL_TEST_CFG_MAX_TEST_SESS);
1053             print_usage_and_exit ();
1054           }
1055         break;
1056
1057       case 'q':
1058         if (sscanf (optarg, "0x%x", &ctrl->cfg.num_test_sessions_perq) != 1)
1059           if (sscanf (optarg, "%u", &ctrl->cfg.num_test_sessions_perq) != 1)
1060             {
1061               vtwrn ("Invalid value for option -%c!", c);
1062               print_usage_and_exit ();
1063             }
1064         if (!ctrl->cfg.num_test_sessions_perq ||
1065             (ctrl->cfg.num_test_sessions_perq > VCL_TEST_CFG_MAX_TEST_SESS))
1066           {
1067             vtwrn ("Invalid number of Stream sessions (%d) per Qsession"
1068                    "for option -%c!\nValid range is 1 - %d",
1069                    ctrl->cfg.num_test_sessions_perq, c,
1070                    VCL_TEST_CFG_MAX_TEST_SESS);
1071             print_usage_and_exit ();
1072           }
1073         break;
1074
1075       case 'w':
1076         if (sscanf (optarg, "%d", &v) != 1)
1077           {
1078             vtwrn ("Invalid value for option -%c!", c);
1079             print_usage_and_exit ();
1080           }
1081         if (v > 1)
1082           vcm->n_workers = v;
1083         break;
1084
1085       case 'X':
1086         vcm->post_test = VCL_TEST_TYPE_EXIT;
1087         break;
1088
1089       case 'x':
1090         vcm->post_test = VCL_TEST_TYPE_NONE;
1091         break;
1092
1093       case 'E':
1094         if (strlen (optarg) > ctrl->txbuf_size)
1095           {
1096             vtwrn ("Option -%c value larger than txbuf size (%d)!",
1097                    optopt, ctrl->txbuf_size);
1098             print_usage_and_exit ();
1099           }
1100         strncpy (ctrl->txbuf, optarg, ctrl->txbuf_size);
1101         ctrl->cfg.test = VCL_TEST_TYPE_ECHO;
1102         break;
1103
1104       case 'N':
1105         if (sscanf (optarg, "0x%lx", &ctrl->cfg.num_writes) != 1)
1106           if (sscanf (optarg, "%ld", &ctrl->cfg.num_writes) != 1)
1107             {
1108               vtwrn ("Invalid value for option -%c!", c);
1109               print_usage_and_exit ();
1110             }
1111         ctrl->cfg.total_bytes = ctrl->cfg.num_writes * ctrl->cfg.txbuf_size;
1112         break;
1113
1114       case 'R':
1115         if (sscanf (optarg, "0x%lx", &ctrl->cfg.rxbuf_size) != 1)
1116           if (sscanf (optarg, "%ld", &ctrl->cfg.rxbuf_size) != 1)
1117             {
1118               vtwrn ("Invalid value for option -%c!", c);
1119               print_usage_and_exit ();
1120             }
1121         if (ctrl->cfg.rxbuf_size >= VCL_TEST_CFG_BUF_SIZE_MIN)
1122           {
1123             ctrl->rxbuf_size = ctrl->cfg.rxbuf_size;
1124             vcl_test_buf_alloc (&ctrl->cfg, 1 /* is_rxbuf */ ,
1125                                 (uint8_t **) & ctrl->rxbuf,
1126                                 &ctrl->rxbuf_size);
1127           }
1128         else
1129           {
1130             vtwrn ("rxbuf size (%lu) less than minumum (%u)",
1131                    ctrl->cfg.rxbuf_size, VCL_TEST_CFG_BUF_SIZE_MIN);
1132             print_usage_and_exit ();
1133           }
1134
1135         break;
1136
1137       case 'T':
1138         if (sscanf (optarg, "0x%lx", &ctrl->cfg.txbuf_size) != 1)
1139           if (sscanf (optarg, "%ld", &ctrl->cfg.txbuf_size) != 1)
1140             {
1141               vtwrn ("Invalid value for option -%c!", c);
1142               print_usage_and_exit ();
1143             }
1144         if (ctrl->cfg.txbuf_size >= VCL_TEST_CFG_BUF_SIZE_MIN)
1145           {
1146             ctrl->txbuf_size = ctrl->cfg.txbuf_size;
1147             vcl_test_buf_alloc (&ctrl->cfg, 0 /* is_rxbuf */ ,
1148                                 (uint8_t **) & ctrl->txbuf,
1149                                 &ctrl->txbuf_size);
1150             ctrl->cfg.total_bytes =
1151               ctrl->cfg.num_writes * ctrl->cfg.txbuf_size;
1152           }
1153         else
1154           {
1155             vtwrn ("txbuf size (%lu) less than minumum (%u)!",
1156                    ctrl->cfg.txbuf_size, VCL_TEST_CFG_BUF_SIZE_MIN);
1157             print_usage_and_exit ();
1158           }
1159         break;
1160
1161       case 'U':
1162         ctrl->cfg.test = VCL_TEST_TYPE_UNI;
1163         break;
1164
1165       case 'B':
1166         ctrl->cfg.test = VCL_TEST_TYPE_BI;
1167         break;
1168
1169       case 'V':
1170         ctrl->cfg.verbose = 1;
1171         break;
1172
1173       case '6':
1174         ctrl->cfg.address_ip6 = 1;
1175         break;
1176
1177       case 'p':
1178         if (vppcom_unformat_proto (&vcm->proto, optarg))
1179           vtwrn ("Invalid vppcom protocol %s, defaulting to TCP", optarg);
1180         break;
1181
1182       case 'D':         /* deprecated */
1183         vcm->proto = VPPCOM_PROTO_UDP;
1184         break;
1185
1186       case 'L':         /* deprecated */
1187         vcm->proto = VPPCOM_PROTO_TLS;
1188         break;
1189
1190       case 'S':
1191         vcm->incremental_stats = 1;
1192         break;
1193
1194       case '?':
1195         switch (optopt)
1196           {
1197           case 'E':
1198           case 'I':             /* deprecated */
1199           case 'N':
1200           case 'R':
1201           case 'T':
1202           case 'w':
1203           case 'p':
1204           case 'q':
1205             vtwrn ("Option -%c requires an argument.", optopt);
1206             break;
1207
1208           default:
1209             if (isprint (optopt))
1210               vtwrn ("Unknown option `-%c'.", optopt);
1211             else
1212               vtwrn ("Unknown option character `\\x%x'.", optopt);
1213           }
1214         /* fall thru */
1215       case 'h':
1216       default:
1217         print_usage_and_exit ();
1218       }
1219
1220   if (argc > (optind + 2))
1221     {
1222       vtwrn ("Invalid number of arguments!");
1223       print_usage_and_exit ();
1224     }
1225
1226   ctrl->cfg.num_test_qsessions = vcm->proto != VPPCOM_PROTO_QUIC ? 0 :
1227     (ctrl->cfg.num_test_sessions + ctrl->cfg.num_test_sessions_perq - 1) /
1228     ctrl->cfg.num_test_sessions_perq;
1229
1230   memset (&vcm->server_addr, 0, sizeof (vcm->server_addr));
1231   if (ctrl->cfg.address_ip6)
1232     {
1233       struct in6_addr *in6 = &vcm->server_addr.v6;
1234       inet_pton (AF_INET6, argv[optind++], in6);
1235
1236       vcm->server_endpt.is_ip4 = 0;
1237       vcm->server_endpt.ip = (uint8_t *) in6;
1238     }
1239   else
1240     {
1241       struct in_addr *in4 = &vcm->server_addr.v4;
1242       inet_pton (AF_INET, argv[optind++], in4);
1243
1244       vcm->server_endpt.is_ip4 = 1;
1245       vcm->server_endpt.ip = (uint8_t *) in4;
1246     }
1247
1248   if (argc == optind + 1)
1249     vcm->server_endpt.port = htons (atoi (argv[optind]));
1250   else
1251     vcm->server_endpt.port = htons (VCL_TEST_SERVER_PORT);
1252 }
1253
1254 static void
1255 vtc_read_user_input (vcl_test_session_t * ctrl)
1256 {
1257   printf ("\nType some characters and hit <return>\n"
1258           "('" VCL_TEST_TOKEN_HELP "' for help): ");
1259
1260   if (fgets (ctrl->txbuf, ctrl->txbuf_size, stdin) != NULL)
1261     {
1262       if (strlen (ctrl->txbuf) == 1)
1263         {
1264           printf ("\nNothing to send!  Please try again...\n");
1265           return;
1266         }
1267       ctrl->txbuf[strlen (ctrl->txbuf) - 1] = 0;        // chomp the newline.
1268
1269       /* Parse input for keywords */
1270       ctrl->cfg.test = parse_input ();
1271     }
1272 }
1273
1274 static void
1275 vtc_ctrl_session_exit (void)
1276 {
1277   vcl_test_client_main_t *vcm = &vcl_client_main;
1278   vcl_test_session_t *ctrl = &vcm->ctrl_session;
1279   int verbose = ctrl->cfg.verbose;
1280
1281   /* Only clients exits, server can accept new connections */
1282   if (vcm->post_test == VCL_TEST_TYPE_EXIT_CLIENT)
1283     return;
1284
1285   ctrl->cfg.test = VCL_TEST_TYPE_EXIT;
1286   vtinf ("(fd %d): Sending exit cfg to server...", ctrl->fd);
1287   if (verbose)
1288     vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */);
1289   (void) vcl_test_write (ctrl, (uint8_t *) &ctrl->cfg, sizeof (ctrl->cfg));
1290   sleep (1);
1291 }
1292
1293 static int
1294 vtc_ctrl_session_init (vcl_test_client_main_t *vcm, vcl_test_session_t *ctrl)
1295 {
1296   int rv;
1297
1298   ctrl->fd = vppcom_session_create (VPPCOM_PROTO_TCP, 0 /* is_nonblocking */);
1299   if (ctrl->fd < 0)
1300     {
1301       vterr ("vppcom_session_create()", ctrl->fd);
1302       return ctrl->fd;
1303     }
1304
1305   vtinf ("Connecting to server...");
1306   rv = vppcom_session_connect (ctrl->fd, &vcm->server_endpt);
1307   if (rv)
1308     {
1309       vterr ("vppcom_session_connect()", rv);
1310       return rv;
1311     }
1312   vtinf ("Control session (fd %d) connected.", ctrl->fd);
1313
1314   ctrl->read = vcl_test_read;
1315   ctrl->write = vcl_test_write;
1316
1317   ctrl->cfg.cmd = VCL_TEST_CMD_SYNC;
1318   rv = vtc_cfg_sync (ctrl);
1319   if (rv)
1320     {
1321       vterr ("vtc_cfg_sync()", rv);
1322       return rv;
1323     }
1324
1325   ctrl->cfg.ctrl_handle = ((vcl_test_cfg_t *) ctrl->rxbuf)->ctrl_handle;
1326   memset (&ctrl->stats, 0, sizeof (ctrl->stats));
1327
1328   return 0;
1329 }
1330
1331 static void
1332 vt_sigs_handler (int signum, siginfo_t *si, void *uc)
1333 {
1334   vcl_test_client_main_t *vcm = &vcl_client_main;
1335   vcl_test_session_t *ctrl = &vcm->ctrl_session;
1336
1337   vcm->test_running = 0;
1338   clock_gettime (CLOCK_REALTIME, &ctrl->stats.stop);
1339 }
1340
1341 static void
1342 vt_incercept_sigs (void)
1343 {
1344   struct sigaction sa;
1345
1346   memset (&sa, 0, sizeof (sa));
1347   sa.sa_sigaction = vt_sigs_handler;
1348   sa.sa_flags = SA_SIGINFO;
1349   if (sigaction (SIGINT, &sa, 0))
1350     {
1351       vtwrn ("couldn't intercept sigint");
1352       exit (-1);
1353     }
1354 }
1355
1356 static void
1357 vtc_alloc_workers (vcl_test_client_main_t *vcm)
1358 {
1359   vcl_test_main_t *vt = &vcl_test_main;
1360   vtc_worker_run_fn *run_fn;
1361
1362   vcm->workers = calloc (vcm->n_workers, sizeof (vcl_test_client_worker_t));
1363   vt->wrk = calloc (vcm->n_workers, sizeof (vcl_test_wrk_t));
1364
1365   if (vcm->ctrl_session.cfg.num_test_sessions > VCL_TEST_CFG_MAX_SELECT_SESS)
1366     run_fn = vtc_worker_run_epoll;
1367   else
1368     run_fn = vtc_worker_run_select;
1369
1370   for (int i = 0; i < vcm->n_workers; i++)
1371     vcm->workers[i].wrk_run_fn = run_fn;
1372 }
1373
1374 int
1375 main (int argc, char **argv)
1376 {
1377   vcl_test_client_main_t *vcm = &vcl_client_main;
1378   vcl_test_session_t *ctrl = &vcm->ctrl_session;
1379   vcl_test_main_t *vt = &vcl_test_main;
1380   int rv;
1381
1382   vcm->n_workers = 1;
1383   vcm->post_test = VCL_TEST_TYPE_EXIT_CLIENT;
1384
1385   vcl_test_cfg_init (&ctrl->cfg);
1386   vt_incercept_sigs ();
1387   vcl_test_session_buf_alloc (ctrl);
1388   vtc_process_opts (vcm, argc, argv);
1389
1390   vtc_alloc_workers (vcm);
1391
1392   rv = vppcom_app_create ("vcl_test_client");
1393   if (rv < 0)
1394     vtfail ("vppcom_app_create()", rv);
1395
1396   /* Protos like tls/dtls/quic need init */
1397   if (vt->protos[vcm->proto]->init)
1398     {
1399       rv = vt->protos[vcm->proto]->init (&ctrl->cfg);
1400       if (rv)
1401         vtfail ("client init failed", rv);
1402     }
1403
1404   if ((rv = vtc_ctrl_session_init (vcm, ctrl)))
1405     vtfail ("vppcom_session_create() ctrl session", rv);
1406
1407   /* Update ctrl port to data port */
1408   vcm->server_endpt.port += 1;
1409
1410   while (ctrl->cfg.test != VCL_TEST_TYPE_EXIT)
1411     {
1412       if (vcm->dump_cfg)
1413         {
1414           vcl_test_cfg_dump (&ctrl->cfg, 1 /* is_client */ );
1415           vcm->dump_cfg = 0;
1416         }
1417
1418       switch (ctrl->cfg.test)
1419         {
1420         case VCL_TEST_TYPE_ECHO:
1421           vtc_echo_client (vcm);
1422           break;
1423
1424         case VCL_TEST_TYPE_UNI:
1425         case VCL_TEST_TYPE_BI:
1426           vtc_stream_client (vcm);
1427           break;
1428
1429         case VCL_TEST_TYPE_EXIT:
1430           continue;
1431
1432         case VCL_TEST_TYPE_NONE:
1433         default:
1434           break;
1435         }
1436       switch (vcm->post_test)
1437         {
1438         case VCL_TEST_TYPE_EXIT:
1439         case VCL_TEST_TYPE_EXIT_CLIENT:
1440           switch (ctrl->cfg.test)
1441             {
1442             case VCL_TEST_TYPE_EXIT:
1443             case VCL_TEST_TYPE_UNI:
1444             case VCL_TEST_TYPE_BI:
1445             case VCL_TEST_TYPE_ECHO:
1446               ctrl->cfg.test = VCL_TEST_TYPE_EXIT;
1447               continue;
1448
1449             case VCL_TEST_TYPE_NONE:
1450             default:
1451               break;
1452             }
1453           break;
1454
1455         case VCL_TEST_TYPE_NONE:
1456         case VCL_TEST_TYPE_ECHO:
1457         case VCL_TEST_TYPE_UNI:
1458         case VCL_TEST_TYPE_BI:
1459         default:
1460           break;
1461         }
1462
1463       memset (ctrl->txbuf, 0, ctrl->txbuf_size);
1464       memset (ctrl->rxbuf, 0, ctrl->rxbuf_size);
1465
1466       vtc_read_user_input (ctrl);
1467     }
1468
1469   vtc_ctrl_session_exit ();
1470   vppcom_app_destroy ();
1471   free (vcm->workers);
1472   return 0;
1473 }
1474
1475 /*
1476  * fd.io coding-style-patch-verification: ON
1477  *
1478  * Local Variables:
1479  * eval: (c-set-style "gnu")
1480  * End:
1481  */