Fix the path error inside vcl socket_test.sh
[vpp.git] / test / scripts / socket_test.sh
1 #! /bin/bash
2 #
3 # socket_test.sh -- script to run socket tests.
4 #
5 script_dir="$( cd "$( dirname "${BASH_SOURCE[0]}" )" && pwd )"
6 vpp_dir="$WS_ROOT/build-root/build-vpp-native/vpp/bin/"
7 vpp_debug_dir="$WS_ROOT/build-root/build-vpp_debug-native/vpp/bin/"
8 vpp_shm_dir="/dev/shm/"
9 vpp_run_dir="/run/vpp"
10 lib_dir="$WS_ROOT/build-root/install-vpp-native/vpp/lib/"
11 lib_debug_dir="$WS_ROOT/build-root/install-vpp_debug-native/vpp/lib/"
12 dpdk_devbind="/usr/share/dpdk/usertools/dpdk-devbind.py"
13 docker_vpp_dir="/vpp/"
14 docker_app_dir="/vpp/"
15 docker_lib_dir="/vpp-lib/"
16 docker_os="ubuntu"
17 vcl_ldpreload_lib="libvcl_ldpreload.so"
18 user_gid="$(id -g)"
19 vpp_app="vpp"
20 sock_srvr_app="sock_test_server"
21 sock_clnt_app="sock_test_client"
22 sock_srvr_addr="127.0.0.1"
23 sock_srvr_port="22000"
24 iperf_srvr_app="iperf3 -V4d -s"
25 iperf_clnt_app="iperf3 -V4d -c \$srvr_addr"
26 gdb_in_emacs="gdb_in_emacs"
27 vcl_config="vcl.conf"
28 vcl_config_dir="$WS_ROOT/src/vcl/"
29 docker_vcl_config_dir="/etc/vpp/"
30 xterm_geom="100x60"
31 bash_header="#! /bin/bash"
32 tmp_cmdfile_prefix="/tmp/socket_test_cmd"
33 cmd1_file="${tmp_cmdfile_prefix}1.$$"
34 cmd2_file="${tmp_cmdfile_prefix}2.$$"
35 cmd3_file="${tmp_cmdfile_prefix}3.$$"
36 vpp_eth_name="enp0s8"
37 tmp_vpp_exec_file="/tmp/vpp_config.$$"
38 tmp_gdb_cmdfile_prefix="/tmp/gdb_cmdfile"
39 def_gdb_cmdfile_prefix="$WS_ROOT/extras/gdb/gdb_cmdfile"
40 tmp_gdb_cmdfile_vpp="${tmp_gdb_cmdfile_prefix}_vpp.$$"
41 tmp_gdb_cmdfile_client="${tmp_gdb_cmdfile_prefix}_vcl_client.$$"
42 tmp_gdb_cmdfile_server="${tmp_gdb_cmdfile_prefix}_vcl_server.$$"
43 get_docker_server_ip4addr='srvr_addr=$(docker network inspect bridge | grep IPv4Address | awk -e '\''{print $2}'\'' | sed -e '\''s,/16,,'\'' -e '\''s,",,g'\'' -e '\''s/,//'\'')'
44 #' single quote to fix the confused emacs colorizer.
45 trap_signals="SIGINT SIGTERM EXIT"
46
47 # Set default values for imported environment variables if they don't exist.
48 #
49 VPP_GDB_CMDFILE="${VPP_GDB_CMDFILE:-${def_gdb_cmdfile_prefix}.vpp}"
50 VPPCOM_CLIENT_GDB_CMDFILE="${VPPCOM_CLIENT_GDB_CMDFILE:-${def_gdb_cmdfile_prefix}.vppcom_client}"
51 VPPCOM_SERVER_GDB_CMDFILE="${VPPCOM_SERVER_GDB_CMDFILE:-${def_gdb_cmdfile_prefix}.vppcom_server}"
52
53 usage() {
54     cat <<EOF
55 Usage: socket_test.sh OPTIONS TEST
56 TESTS:
57   nk, native-kernel   Run server & client on host using kernel.
58   nv, native-vcl      Run vpp, server & client on host using VppComLib.
59   np, native-preload  Run vpp, server & client on host using LD_PRELOAD.
60   dk, docker-kernel   Run server & client in docker using kernel stack.
61   dv, docker-vcl      Run vpp on host, server & client in docker using VppComLib.
62   dp, docker-preload  Run vpp on host, server & client in docker using LD_PRELOAD.
63
64 OPTIONS:
65   -h                  Print this usage text.
66   -l                  Leave ${tmp_cmdfile_prefix}* files after test run.
67   -b                  Run bash after application exit.
68   -d                  Run the vpp_debug version of all apps.
69   -c                  Set VCL_CONFIG to use the vcl_test.conf file.
70   -i                  Run iperf3 for client/server app in native tests.
71   -n                  Name of ethernet for VPP to use in multi-host cfg.
72   -f                  Full thru host stack vpp configuration. 
73   -m c[lient]         Run client in multi-host cfg (server on remote host)
74      s[erver]         Run server in multi-host cfg (client on remote host)
75   -e a[ll]            Run all in emacs+gdb.
76      c[lient]         Run client in emacs+gdb.
77      s[erver]         Run server in emacs+gdb.
78      v[pp]            Run vpp in emacs+gdb.
79   -g a[ll]            Run all in gdb.
80      c[lient]         Run client in gdb.
81      s[erver]         Run server in gdb.
82      v[pp]            Run vpp in gdb.
83   -t                  Use tabs in one xterm if available (e.g. xfce4-terminal).
84
85 OPTIONS passed to client/server:
86   -6                  Use IPv6.
87   -D                  Use UDP as the transport.
88   -S <ip address>     Server IP address.
89   -P <server port>    Server Port number.
90   -E <data>           Run Echo test.
91   -N <num-writes>     Test Cfg: number of writes.
92   -R <rxbuf-size>     Test Cfg: rx buffer size.
93   -T <txbuf-size>     Test Cfg: tx buffer size.
94   -U                  Run Uni-directional test.
95   -B                  Run Bi-directional test.
96   -I <num-tst-socks>  Send data over multiple test sockets in parallel.
97   -V                  Test Cfg: Verbose mode.
98   -X                  Exit client/server after running test.
99
100 Environment variables:
101   VCL_CONFIG                Pathname of vppcom configuration file.
102   VPP_GDB_CMDFILE            Pathname of gdb command file for vpp.
103   VPPCOM_CLIENT_GDB_CMDFILE  Pathname of gdb command file for client.
104   VPPCOM_SERVER_GDB_CMDFILE  Pathname of gdb command file for server.
105 EOF
106     exit 1
107 }
108
109 declare -i emacs_vpp=0
110 declare -i emacs_client=0
111 declare -i emacs_server=0
112 declare -i gdb_vpp=0
113 declare -i gdb_client=0
114 declare -i gdb_server=0
115 declare -i perf_vpp=0
116 declare -i perf_client=0
117 declare -i perf_server=0
118 declare -i leave_tmp_files=0
119 declare -i bash_after_exit=0
120 declare -i iperf3=0
121 declare -i use_ipv6=0
122 declare -i transport_udp=0
123
124 while getopts ":hitlbcd6fn:m:e:g:p:E:I:N:P:R:S:T:UBVXD" opt; do
125     case $opt in
126         h) usage ;;
127         l) leave_tmp_files=1
128            ;;
129         b) bash_after_exit=1
130            ;;
131         i) iperf3=1
132            ;;
133         6) use_ipv6=1
134            sock_srvr_addr="::1"
135            sock_clnt_options="$sock_clnt_options -$opt"
136            sock_srvr_options="$sock_srvr_options -$opt"
137            ;;
138         f) full_thru_host_stack_vpp_cfg=1
139            ;;
140         t) xterm_geom="180x40"
141            use_tabs="true"
142            ;;
143         c) VCL_CONFIG="${vcl_config_dir}vcl_test.conf"
144            ;;
145         d) title_dbg="-DEBUG"
146            vpp_dir=$vpp_debug_dir
147            lib_dir=$lib_debug_dir
148            ;;
149         e) if [ $OPTARG = "a" ] || [ $OPTARG = "all" ] ; then
150                emacs_client=1
151                emacs_server=1
152                emacs_vpp=1
153            elif [ $OPTARG = "c" ] || [ $OPTARG = "client" ] ; then
154                emacs_client=1
155            elif [ $OPTARG = "s" ] || [ $OPTARG = "server" ] ; then
156                emacs_server=1
157            elif [ $OPTARG = "v" ] || [ $OPTARG = "vpp" ] ; then
158                emacs_vpp=1
159            else
160                echo "ERROR: Option -e unknown argument \'$OPTARG\'" >&2
161                usage
162            fi
163            title_dbg="-DEBUG"
164            vpp_dir=$vpp_debug_dir
165            lib_dir=$lib_debug_dir
166            ;;
167         n) vpp_eth_name="$OPTARG"
168            ;;
169         m) if [ $OPTARG = "c" ] || [ $OPTARG = "client" ] ; then
170                multi_host="client"
171            elif [ $OPTARG = "s" ] || [ $OPTARG = "server" ] ; then
172                multi_host="server"
173            else
174                echo "ERROR: Option -e unknown argument \'$OPTARG\'" >&2
175                usage
176            fi
177            ;;
178         g) if [ $OPTARG = "a" ] || [ $OPTARG = "all" ] ; then
179                gdb_client=1
180                gdb_server=1
181                gdb_vpp=1
182            elif [ $OPTARG = "c" ] || [ $OPTARG = "client" ] ; then
183                gdb_client=1
184            elif [ $OPTARG = "s" ] || [ $OPTARG = "server" ] ; then
185                gdb_server=1
186            elif [ $OPTARG = "v" ] || [ $OPTARG = "vpp" ] ; then
187                gdb_vpp=1
188            else
189                echo "ERROR: Option -g unknown argument \'$OPTARG\'" >&2
190                usage
191            fi
192            ;;
193         p) if [ $OPTARG = "a" ] || [ $OPTARG = "all" ] ; then
194                perf_client=1
195                perf_server=1
196                perf_vpp=1
197            elif [ $OPTARG = "c" ] || [ $OPTARG = "client" ] ; then
198                perf_client=1
199            elif [ $OPTARG = "s" ] || [ $OPTARG = "server" ] ; then
200                perf_server=1
201            elif [ $OPTARG = "v" ] || [ $OPTARG = "vpp" ] ; then
202                perf_vpp=1
203            else
204                echo "ERROR: Option -p unknown argument \'$OPTARG\'" >&2
205                usage
206            fi
207            echo "WARNING: -p options TBD"
208            ;;
209         S) sock_srvr_addr="$OPTARG"
210            ;;
211         P) sock_srvr_port="$OPTARG"
212            ;;
213         D) sock_clnt_options="$sock_clnt_options -$opt"
214            sock_srvr_options="$sock_srvr_options -$opt"
215            ;;
216 E|I|N|R|T) sock_clnt_options="$sock_clnt_options -$opt \"$OPTARG\""
217            ;;
218   U|B|V|X) sock_clnt_options="$sock_clnt_options -$opt"
219            ;;
220        \?)
221            echo "ERROR: Invalid option: -$OPTARG" >&2
222            usage
223            ;;
224         :)
225            echo "ERROR: Option -$OPTARG requires an argument." >&2
226            usage
227            ;;
228     esac
229 done
230
231 shift $(( $OPTIND-1 ))
232 while ! [[ $run_test ]] && (( $# > 0 )) ; do
233     case $1 in
234         "nk" | "native-kernel")
235             run_test="native_kernel" ;;
236         "np" | "native-preload")
237             run_test="native_preload" ;;
238         "nv" | "native-vcl")
239             sock_srvr_app="vcl_test_server"
240             sock_clnt_app="vcl_test_client"
241             run_test="native_vcl" ;;
242         "dk" | "docker-kernel")
243             run_test="docker_kernel" ;;
244         "dp" | "docker-preload")
245             run_test="docker_preload" ;;
246         "dv" | "docker-vcl")
247             sock_srvr_app="vcl_test_server"
248             sock_clnt_app="vcl_test_client"
249             run_test="docker_vcl" ;;
250         *)
251             echo "ERROR: Unknown option '$1'!" >&2
252             usage ;;
253     esac
254     shift
255 done
256
257 if [ -z "$VCL_DEBUG" ] ; then
258     if [ "$title_dbg" = "-DEBUG" ] ; then
259         VCL_DEBUG=1
260     else
261         VCL_DEBUG=0
262     fi
263 fi
264
265 VCL_LDPRELOAD_LIB_DIR="${VCL_LDPRELOAD_LIB_DIR:-$lib_dir}"
266
267 if [ -z "$WS_ROOT" ] ; then
268     echo "ERROR: WS_ROOT environment variable not set!" >&2
269     echo "       Please set WS_ROOT to VPP workspace root directory." >&2
270     exit 1
271 fi
272
273 if [[ "$(grep bin_PROGRAMS $WS_ROOT/src/vcl.am)" = "" ]] ; then
274     $WS_ROOT/extras/vagrant/vcl_test.sh $WS_ROOT $USER
275     (cd $WS_ROOT; make build)
276 fi
277
278 if [ ! -d $vpp_dir ] ; then
279     echo "ERROR: Missing VPP$title_dbg bin directory!" >&2
280     echo "       $vpp_dir" >&2
281     env_test_failed="true"
282 fi
283
284 if [[ $run_test =~ .*"_preload" ]] ; then
285    if [ ! -d $lib_dir ] ; then
286        echo "ERROR: Missing VPP$title_dbg lib directory!" >&2
287        echo "       $lib_dir" >&2
288    elif [ ! -d $VCL_LDPRELOAD_LIB_DIR ] ; then
289        echo "ERROR: Missing VCL LD_PRELOAD Library directory!" >&2
290        echo "       $VCL_LDPRELOAD_LIB_DIR" >&2
291        env_test_failed="true"
292    elif [ ! -f $VCL_LDPRELOAD_LIB_DIR/$vcl_ldpreload_lib ] ; then
293        echo "ERROR: Missing VCL LD_PRELOAD library!" >&2
294        echo "       $VCL_LDPRELOAD_LIB_DIR/$vcl_ldpreload_lib" >&2
295        env_test_failed="true"
296    fi
297 fi
298
299 if [ ! -f $vpp_dir$vpp_app ] ; then
300     echo "ERROR: Missing VPP$title_dbg Application!" >&2
301     echo "       $vpp_dir$vpp_app" >&2
302     env_test_failed="true"
303 fi
304
305 if [ ! -f $vpp_dir$sock_srvr_app ] && [ ! $iperf3 -eq 1 ] ; then
306     echo "ERROR: Missing SERVER$title_dbg Socket Server Application!" >&2
307     echo "       $vpp_dir$sock_srvr_app" >&2
308     env_test_failed="true"
309 fi
310
311 if [ ! -f $vpp_dir$sock_clnt_app ] && [ ! $iperf3 -eq 1 ] ; then
312     echo "ERROR: Missing CLIENT$title_dbg Socket Client Application!" >&2
313     echo "       $vpp_dir$sock_clnt_app" >&2
314     env_test_failed="true"
315 fi
316
317 if [[ $run_test =~ "docker_".* ]] ; then
318     if [ $emacs_client -eq 1 ] || [ $emacs_server -eq 1 ] || [ $gdb_client -eq 1 ] || [ $gdb_server -eq 1 ] ; then
319         
320         echo "WARNING: gdb is not currently supported in docker."
321         echo "         Ignoring client/server gdb options."
322         emacs_client=0
323         emacs_server=0
324         gdb_client=0
325         gdb_server=0
326     fi
327 fi
328
329 if [[ $run_test =~ .*"_vcl" ]] && [ $iperf3 -eq 1 ] ; then
330     echo "ERROR: Invalid option 'i' for test $run_test!"
331     echo "       iperf3 is not compiled with the VCL library."
332     env_test_failed="true"
333 fi
334
335 if [ -n "$multi_host"] && [ ! -f "$dpdk_devbind" ] ; then
336     echo "ERROR: Can't find dpdk-devbind.py!"
337     echo "       Run \"cd \$WS_ROOT; make install-ext-deps\" to install it."
338     echo
339     env_test_failed="true"
340 fi
341
342 if [ -n "$full_thru_host_stack_vpp_cfg" ] && [ -n "$multi_host" ] ; then
343     echo "ERROR: Invalid options, cannot specify both \"-f\" and \"-m $multi_host\"!"
344     echo
345     env_test_failed="true"
346 fi
347
348 if [ -n "$env_test_failed" ] ; then
349     exit 1
350 fi
351
352 if [ -f "$VCL_CONFIG" ] ; then
353     vcl_config="$(basename $VCL_CONFIG)"
354     vcl_config_dir="$(dirname $VCL_CONFIG)/"
355     api_prefix="$(egrep -s '^\s*api-prefix \w+' $VCL_CONFIG | tail -1 | awk -e '{print $2}')"
356     if [ -n "$api_prefix" ] ; then
357         api_segment=" api-segment { gid $user_gid prefix $api_prefix }"
358     fi
359 fi
360 if [ -n "$VCL_APP_NAMESPACE_ID" ] && [ -n "$VCL_APP_NAMESPACE_SECRET" ] ; then
361     namespace_id="$VCL_APP_NAMESPACE_ID"
362     namespace_secret="$VCL_APP_NAMESPACE_SECRET"
363 fi
364     
365 if [ -z "$api_segment" ] ; then
366     api_segment=" api-segment { gid $user_gid }"
367 fi
368 vpp_args="unix { interactive full-coredump coredump-size unlimited exec $tmp_vpp_exec_file}${api_segment}"
369
370 if [ $iperf3 -eq 1 ] ; then
371     app_dir="$(dirname $(which iperf3))/"
372     srvr_app=$iperf_srvr_app
373     clnt_app=$iperf_clnt_app
374     if [[ $run_test =~ "docker_".* ]] ; then
375         unset -v app_dir
376         sock_srvr_port=5201
377         docker_app_dir="networkstatic/"
378         unset -v docker_os
379     fi
380 else
381     app_dir="$vpp_dir"
382     srvr_app="$sock_srvr_app${sock_srvr_options} $sock_srvr_port"
383     clnt_app="$sock_clnt_app${sock_clnt_options} \$srvr_addr $sock_srvr_port"
384 fi
385
386
387 verify_no_vpp() {
388     local grep_for_vpp="ps -eaf|grep -v grep|grep \"bin/vpp\""
389     
390     if [ -n "$api_prefix" ] ; then
391         grep_for_vpp="$grep_for_vpp|grep \"prefix $api_prefix\""
392     fi
393     local running_vpp="$(eval $grep_for_vpp)"
394     if [ -n "$running_vpp" ] ; then
395         echo "ERROR: Please kill the following vpp instance(s):"
396         echo
397         echo $running_vpp
398         echo
399         exit 1
400     fi
401     clean_devshm="$vpp_shm_dir*db $vpp_shm_dir*global_vm $vpp_shm_dir*vpe-api $vpp_shm_dir[0-9]*-[0-9]* $vpp_shm_dir*:segment[0-9]*"
402     sudo rm -f $clean_devshm
403     devshm_files="$(ls -l $clean_devshm 2>/dev/null | grep $(whoami))"
404     if [ "$devshm_files" != "" ] ; then
405         echo "ERROR: Please remove the following $vpp_shm_dir files:"
406         for file in "$devshm_files" ; do
407             echo "  $file"
408         done
409         exit 1
410     fi
411     if [ ! -d "$vpp_run_dir" ] ; then
412         sudo mkdir $vpp_run_dir
413         sudo chown root:$USER $vpp_run_dir
414     fi
415     if [ $use_ipv6 -eq 0 ] && [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
416         sock_srvr_table=0
417         sock_srvr_addr=172.16.1.1
418         sock_client_table=1
419         sock_client_addr=172.16.2.1
420         client_namespace_id="1"
421         client_namespace_secret="5678"
422         server_namespace_id="0"
423         server_namespace_secret="1234"
424         cat <<EOF >> $tmp_vpp_exec_file
425 session enable
426 create loop inter
427 create loop inter
428 set inter state loop0 up 
429 set inter ip table loop0 $sock_srvr_table
430 set inter ip address loop0 $sock_srvr_addr/24
431 set inter state loop1 up
432 set inter ip table loop1 $sock_client_table
433 set inter ip address loop1 $sock_client_addr/24
434 app ns add id 0 secret 1234 sw_if_index 1
435 app ns add id 1 secret 5678 sw_if_index 2
436 ip route add $sock_srvr_addr/32 table $sock_client_table via lookup in table $sock_srvr_table
437 ip route add $sock_client_addr/32 table $sock_srvr_table via lookup in table $sock_client_table
438 EOF
439     elif [ $use_ipv6 -eq 1 ] && [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
440         sock_srvr_table=1
441         sock_srvr_addr=fd01:1::1
442         sock_client_table=2
443         sock_client_addr=fd01:2::1
444         client_namespace_id="1"
445         client_namespace_secret="5678"
446         server_namespace_id="0"
447         server_namespace_secret="1234"
448         cat <<EOF >> $tmp_vpp_exec_file
449 session enable
450 create loop inter
451 create loop inter
452 set inter state loop0 up 
453 set inter ip6 table loop0 $sock_srvr_table
454 set inter ip address loop0 $sock_srvr_addr/64
455 set inter state loop1 up
456 set inter ip6 table loop1 $sock_client_table
457 set inter ip address loop1 $sock_client_addr/64
458 app ns add id 0 secret 1234 sw_if_index 1
459 app ns add id 1 secret 5678 sw_if_index 2
460 ip route add $sock_srvr_addr/128 table $sock_client_table via lookup in table $sock_srvr_table
461 ip route add $sock_client_addr/128 table $sock_srvr_table via lookup in table $sock_client_table
462 EOF
463     elif [ -n "$multi_host" ] ; then
464         vpp_eth_pci_id="$(ls -ld /sys/class/net/$vpp_eth_name/device | awk '{print $11}' | cut -d/ -f4)"
465         if [ -z "$vpp_eth_pci_id" ] ; then
466             echo "ERROR: Missing ethernet interface $vpp_eth_name!"
467             usage
468         fi
469         printf -v bus "%x" "0x$(echo $vpp_eth_pci_id | cut -d: -f2)"
470         printf -v slot "%x" "0x$(echo $vpp_eth_pci_id | cut -d: -f3 | cut -d. -f1)"
471         printf -v func "%x" "0x$(echo $vpp_eth_pci_id | cut -d. -f2)"
472
473         vpp_eth_kernel_driver="$(basename $(ls -l /sys/bus/pci/devices/$vpp_eth_pci_id/driver | awk '{print $11}'))"
474         if [ -z "$vpp_eth_kernel_driver" ] ; then
475             echo "ERROR: Missing kernel driver for $vpp_eth_name!"
476             usage
477         fi
478         case $vpp_eth_kernel_driver in
479             e1000)
480                 vpp_eth_ifname="GigabitEthernet$bus/$slot/$func" ;;
481             ixgbe)
482                 vpp_eth_ifname="TenGigabitEthernet$bus/$slot/$func" ;;
483             i40e)
484                 vpp_eth_ifname="FortyGigabitEthernet$bus/$slot/$func" ;;
485             *)
486                 echo "ERROR: Unknown ethernet kernel driver $vpp_eth_kernel_driver!"
487                 usage ;;
488         esac
489         
490         vpp_eth_ip4_addr="$(ip -4 -br addr show $vpp_eth_name | awk '{print $3}')"
491         if [ -z "$vpp_eth_ip4_addr" ] ; then
492             if [ "$multi_host" = "server" ] ; then
493                 vpp_eth_ip4_addr="10.10.10.10/24"
494             else
495                 vpp_eth_ip4_addr="10.10.10.11/24"
496             fi
497         fi
498         if [ $use_ipv6 -eq 1 ] && [ -z "$vpp_eth_ip6_addr" ] ; then
499             echo "ERROR: No inet6 address configured for $vpp_eth_name!"
500             usage
501         fi
502         vpp_args="$vpp_args plugins { path ${lib_dir}vpp_plugins } dpdk { dev $vpp_eth_pci_id }"
503                 
504         sudo ifconfig $vpp_eth_name down 2> /dev/null
505         echo "Configuring VPP to use $vpp_eth_name ($vpp_eth_pci_id), inet addr $vpp_eth_ip4_addr"
506
507         cat <<EOF >> $tmp_vpp_exec_file
508 set int state $vpp_eth_ifname up
509 set int ip addr $vpp_eth_ifname $vpp_eth_ip4_addr
510 EOF
511
512     fi
513
514     if [ -z "$full_thru_host_stack_vpp_cfg" ] && [ -n "$namespace_id" ] ; then
515         cat <<EOF >> $tmp_vpp_exec_file
516 session enable
517 app ns add id $namespace_id secret $namespace_secret sw_if_index 0
518 EOF
519     fi
520     
521     cat <<EOF >> $tmp_vpp_exec_file
522 create tap id 0
523 set int ip addr tap0 172.17.0.2/24
524 show version
525 show version verbose
526 show cpu
527 show int
528 EOF
529 }
530
531 verify_no_docker_containers() {
532     if (( $(which docker | wc -l) < 1 )) ; then
533         echo "ERROR: docker is not installed!"
534         echo "See https://docs.docker.com/engine/installation/linux/ubuntu/"
535         echo " or https://docs.docker.com/engine/installation/linux/centos/"
536         exit 1
537     fi
538     if (( $(docker ps | wc -l) > 1 )) ; then
539         echo "ERROR: Run the following to kill all docker containers:"
540         echo "docker kill \$(docker ps -q)"
541         echo
542         docker ps
543         exit 1
544     fi
545 }
546
547 set_pre_cmd() {
548     # arguments
549     #   $1 : emacs flag
550     #   $2 : gdb flag
551     #   $3 : optional LD_PRELOAD library pathname
552     local -i emacs=$1
553     local -i gdb=$2
554
555     if [ $emacs -eq 1 ] ; then
556         write_gdb_cmdfile $tmp_gdb_cmdfile $gdb_cmdfile $emacs $3
557         pre_cmd="$gdb_in_emacs "
558     elif [ $gdb -eq 1 ] ; then
559         write_gdb_cmdfile $tmp_gdb_cmdfile $gdb_cmdfile $emacs $3
560         pre_cmd="gdb -x $tmp_gdb_cmdfile --args "
561     elif [ -z $3 ] ; then
562         unset -v pre_cmd
563     else
564         docker_ld_preload="-e LD_PRELOAD=$3 "
565         pre_cmd="LD_PRELOAD=$3 "
566     fi
567 }
568
569 write_script_header() {
570     # arguments
571     #   $1 : command script file
572     #   $2 : gdb command file
573     #   $3 : title
574     #   $4 : optional command string (typically "sleep 2")
575     echo "$bash_header" > $1
576     echo -e "#\n# $1 generated on $(date)\n#" >> $1
577     if [ $leave_tmp_files -eq 0 ] ; then
578         if [ -n "$multi_host" ] ; then
579             echo "trap \"rm -f $1 $2 $tmp_vpp_exec_file; sudo $dpdk_devbind -b $vpp_eth_kernel_driver $vpp_eth_pci_id; sudo ifconfig $vpp_eth_name up\" $trap_signals" >> $1
580         else
581             echo "trap \"rm -f $1 $2 $tmp_vpp_exec_file\" $trap_signals" >> $1
582         fi
583     fi
584     if [ -n "$VCL_CONFIG" ] ; then
585         echo "export VCL_CONFIG=${vcl_config_dir}${vcl_config}" >> $1
586     fi
587     if [ -n "$VCL_API_PREFIX" ] ; then
588         echo "export VCL_API_PREFIX=$VCL_API_PREFIX" >> $1
589     fi
590     if [ -n "$VCL_DEBUG" ] ; then
591         echo "export VCL_DEBUG=$VCL_DEBUG" >> $1
592     fi
593     if [ -n "$LDP_DEBUG" ] ; then
594         echo "export LDP_DEBUG=$LDP_DEBUG" >> $1
595     fi
596     if [ -n "$VCOM_APP_NAME" ] ; then
597         echo "export VCOM_APP_NAME=$VCOM_APP_NAME" >> $1
598     fi
599     if [ -n "$VCOM_SID_BIT" ] ; then
600         echo "export VCOM_SID_BIT=$VCOM_SID_BIT" >> $1
601     fi
602     if [ -n "$namespace_id" ] ; then
603         echo "export VCL_APP_NAMESPACE_ID=\"$namespace_id\"" >> $1
604         echo "export VCL_APP_NAMESPACE_SECRET=\"$namespace_secret\"" >> $1
605     fi
606     if [ -n "$VCL_APP_SCOPE_LOCAL" ] || [ -z "$multi_host" ] &&
607            [ -z "$full_thru_host_stack_vpp_cfg" ] ; then
608         echo "export VCL_APP_SCOPE_LOCAL=true" >> $1
609     fi
610     if [ -n "$VCL_APP_SCOPE_GLOBAL" ] || [ -n "$multi_host" ] ||
611            [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
612         echo "export VCL_APP_SCOPE_GLOBAL=true" >> $1
613     fi
614     if [ -n "$VCL_APP_PROXY_TRANSPORT_TCP" ] ; then
615         echo "export VCL_APP_PROXY_TRANSPORT_TCP=true" >> $1
616     fi
617     if [ -n "$VCL_APP_PROXY_TRANSPORT_UDP" ] ; then
618         echo "export VCL_APP_PROXY_TRANSPORT_UDP=true" >> $1
619     fi
620     if [ "$pre_cmd" = "$gdb_in_emacs " ] ; then
621         if [ -n "$multi_host" ] && [[ $3 =~ "VPP".* ]] ; then
622             cat <<EOF >> $1
623 $gdb_in_emacs() {
624     sudo emacs --eval "(gdb \"gdb -x $2 -i=mi --args \$*\")" --eval "(setq frame-title-format \"$3\")"
625 }
626 EOF
627         else
628             cat <<EOF >> $1
629 $gdb_in_emacs() {
630     emacs --eval "(gdb \"gdb -x $2 -i=mi --args \$*\")" --eval "(setq frame-title-format \"$3\")"
631 }
632 EOF
633         fi
634     fi
635     if [ -n "$4" ] ; then
636         echo "$4" >> $1
637     fi
638 }
639
640 write_script_footer() {
641     # arguments
642     #   $1 : command script file
643     #   $2 : perf flag indicating to run bash before exit
644     local -i perf=$2
645     if [ $bash_after_exit -eq 1 ] || [ $perf -eq 1 ] ; then
646         echo "bash" >> $1
647     fi
648 }
649
650 write_gdb_cmdfile() {
651     # arguments
652     #   $1 : gdb command file
653     #   $2 : User specified gdb cmdfile
654     #   $3 : emacs flag
655     #   $4 : optional LD_PRELOAD library pathname.
656     local -i emacs=$3
657     
658     echo "# $1 generated on $(date)" > $1
659     echo "#" >> $1
660     echo "set confirm off" >> $1
661     if [ -n "$4" ] ; then
662         echo "set exec-wrapper env LD_PRELOAD=$4" >> $1
663         # echo "start" >> $1
664     fi
665
666     if [ ! -f $2 ] ; then
667         echo -n "# " >> $1
668     fi
669     echo "source $2" >> $1
670     if [ $emacs -eq 0 ] ; then
671         echo "run" >> $1
672     fi
673 }
674
675 native_kernel() {
676     banner="Running NATIVE-KERNEL socket test"
677     if [ -z "$multi_host" ] || [ "$multi_host" = "server" ] ; then
678         title1="SERVER$title_dbg (Native-Kernel Socket Test)"
679         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_server
680         gdb_cmdfile=$VPPCOM_SERVER_GDB_CMDFILE
681         set_pre_cmd $emacs_server $gdb_server
682         write_script_header $cmd1_file $tmp_gdb_cmdfile "$title1"
683         echo "${pre_cmd}${app_dir}${srvr_app}" >> $cmd1_file
684         write_script_footer $cmd1_file $perf_server
685         chmod +x $cmd1_file
686     fi
687     
688     if [ -z "$multi_host" ] || [ "$multi_host" = "client" ] ; then
689         title2="CLIENT$title_dbg (Native-Kernel Socket Test)"
690         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_client
691         gdb_cmdfile=$VPPCOM_CLIENT_GDB_CMDFILE
692         set_pre_cmd $emacs_client $gdb_client
693         write_script_header $cmd2_file $tmp_gdb_cmdfile "$title2" "sleep 2"
694         echo "srvr_addr=\"$sock_srvr_addr\"" >> $cmd2_file
695         echo "${pre_cmd}${app_dir}${clnt_app}" >> $cmd2_file
696         write_script_footer $cmd2_file $perf_client
697         chmod +x $cmd2_file
698
699     fi
700 }
701
702 native_preload() {
703     verify_no_vpp
704     banner="Running NATIVE-PRELOAD socket test"
705     ld_preload="$VCL_LDPRELOAD_LIB_DIR/$vcl_ldpreload_lib "
706
707     title1="VPP$title_dbg (Native-Preload Socket Test)"
708     tmp_gdb_cmdfile=$tmp_gdb_cmdfile_vpp
709     gdb_cmdfile=$VPP_GDB_CMDFILE
710     set_pre_cmd $emacs_vpp $gdb_vpp
711     write_script_header $cmd1_file $tmp_gdb_cmdfile "$title1"
712     if [ -n "$multi_host" ] && [ $emacs_vpp -eq 0 ] ; then
713         echo -n "sudo " >> $cmd1_file
714     fi
715     echo "${pre_cmd}$vpp_dir$vpp_app $vpp_args " >> $cmd1_file
716     write_script_footer $cmd1_file $perf_vpp
717     chmod +x $cmd1_file
718
719     if [ -z "$multi_host" ] || [ "$multi_host" = "server" ] ; then
720         title2="SERVER$title_dbg (Native-Preload Socket Test)"
721         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_server
722         gdb_cmdfile=$VPPCOM_SERVER_GDB_CMDFILE
723         set_pre_cmd $emacs_server $gdb_server $ld_preload
724         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
725             namespace_id="$server_namespace_id"
726             namespace_secret="$server_namespace_secret"
727         fi
728         write_script_header $cmd2_file $tmp_gdb_cmdfile "$title2" "sleep 3"
729         echo "export LD_LIBRARY_PATH=\"$lib_dir:$VCL_LDPRELOAD_LIB_DIR:$LD_LIBRARY_PATH\"" >> $cmd2_file
730         echo "${pre_cmd}${app_dir}${srvr_app}" >> $cmd2_file
731         write_script_footer $cmd2_file $perf_server
732         chmod +x $cmd2_file
733     fi
734
735     if [ -z "$multi_host" ] || [ "$multi_host" = "client" ] ; then
736         title3="CLIENT$title_dbg (Native-Preload Socket Test)"
737         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_client
738         gdb_cmdfile=$VPPCOM_CLIENT_GDB_CMDFILE
739         set_pre_cmd $emacs_client $gdb_client $ld_preload
740         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
741             namespace_id="$client_namespace_id"
742             namespace_secret="$client_namespace_secret"
743         fi
744         write_script_header $cmd3_file $tmp_gdb_cmdfile "$title3" "sleep 4"
745         echo "export LD_LIBRARY_PATH=\"$lib_dir:$VCL_LDPRELOAD_LIB_DIR:$LD_LIBRARY_PATH\"" >> $cmd3_file
746         echo "srvr_addr=\"$sock_srvr_addr\"" >> $cmd3_file
747         echo "${pre_cmd}${app_dir}${clnt_app}" >> $cmd3_file
748         write_script_footer $cmd3_file $perf_client
749         chmod +x $cmd3_file
750     fi
751 }
752
753 native_vcl() {
754     verify_no_vpp
755     banner="Running NATIVE-VCL socket test"
756
757     title1="VPP$title_dbg (Native-VCL Socket Test)"
758     tmp_gdb_cmdfile=$tmp_gdb_cmdfile_vpp
759     gdb_cmdfile=$VPP_GDB_CMDFILE
760     set_pre_cmd $emacs_vpp $gdb_vpp
761     write_script_header $cmd1_file $tmp_gdb_cmdfile "$title1"
762     if [ -n "$multi_host" ] && [ $emacs_vpp -eq 0 ] ; then
763         echo -n "sudo " >> $cmd1_file
764     fi
765     echo "${pre_cmd}$vpp_dir$vpp_app $vpp_args " >> $cmd1_file
766     write_script_footer $cmd1_file $perf_vpp
767     chmod +x $cmd1_file
768
769     if [ -z "$multi_host" ] || [ "$multi_host" = "server" ] ; then
770         title2="SERVER$title_dbg (Native-VCL Socket Test)"
771         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_server
772         gdb_cmdfile=$VPPCOM_SERVER_GDB_CMDFILE
773         set_pre_cmd $emacs_server $gdb_server
774         if [ "$multi_host" = "server" ] ; then
775             delay="sleep 10"
776         else
777             delay="sleep 3"
778         fi
779         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
780             namespace_id="$server_namespace_id"
781             namespace_secret="$server_namespace_secret"
782         fi
783         write_script_header $cmd2_file $tmp_gdb_cmdfile "$title2" "$delay"
784         echo "export LD_LIBRARY_PATH=\"$lib_dir:$LD_LIBRARY_PATH\"" >> $cmd2_file
785         echo "${pre_cmd}${app_dir}${srvr_app}" >> $cmd2_file
786         write_script_footer $cmd2_file $perf_server
787         chmod +x $cmd2_file
788     fi
789
790     if [ -z "$multi_host" ] || [ "$multi_host" = "client" ] ; then
791         title3="CLIENT$title_dbg (Native-VCL Socket Test)"
792         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_client
793         gdb_cmdfile=$VPPCOM_CLIENT_GDB_CMDFILE
794         set_pre_cmd $emacs_client $gdb_client
795         if [ "$multi_host" = "client" ] ; then
796             delay="sleep 10"
797         else
798             delay="sleep 4"
799         fi
800         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
801             namespace_id="$client_namespace_id"
802             namespace_secret="$client_namespace_secret"
803         fi
804         write_script_header $cmd3_file $tmp_gdb_cmdfile "$title3" "$delay"
805         echo "export LD_LIBRARY_PATH=\"$lib_dir:$LD_LIBRARY_PATH\"" >> $cmd3_file
806         echo "srvr_addr=\"$sock_srvr_addr\"" >> $cmd3_file
807         echo "${pre_cmd}${app_dir}${clnt_app}" >> $cmd3_file
808         write_script_footer $cmd3_file $perf_client
809         chmod +x $cmd3_file
810     fi
811 }
812
813 docker_kernel() {
814     verify_no_docker_containers
815     banner="Running DOCKER-KERNEL socket test"
816     
817     if [ -z "$multi_host" ] || [ "$multi_host" = "server" ] ; then
818         title1="SERVER$title_dbg (Docker-Native Socket Test)"
819         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_server
820         gdb_cmdfile=$VPPCOM_SERVER_GDB_CMDFILE
821         set_pre_cmd $emacs_server $gdb_server
822         write_script_header $cmd1_file $tmp_gdb_cmdfile "$title1"
823         echo "docker run -it --cpuset-cpus='4-7' --cpuset-cpus='4-7' -v $vpp_dir:$docker_vpp_dir -p $sock_srvr_port:$sock_srvr_port $docker_os ${docker_app_dir}${srvr_app}" >> $cmd1_file
824         write_script_footer $cmd1_file $perf_server
825         chmod +x $cmd1_file
826     fi
827     
828     if [ -z "$multi_host" ] || [ "$multi_host" = "client" ] ; then
829         title2="CLIENT$title_dbg (Docker-Native Socket Test)"
830         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_client
831         gdb_cmdfile=$VPPCOM_CLIENT_GDB_CMDFILE
832         set_pre_cmd $emacs_client $gdb_client
833         write_script_header $cmd2_file $tmp_gdb_cmdfile "$title2" "sleep 2"
834         echo "$get_docker_server_ip4addr" >> $cmd2_file
835         echo "docker run -it --cpuset-cpus='4-7' -v $vpp_dir:$docker_vpp_dir $docker_os ${docker_app_dir}${clnt_app}" >> $cmd2_file
836         write_script_footer $cmd2_file $perf_client
837         chmod +x $cmd2_file
838     fi
839 }
840
841 docker_preload() {
842     verify_no_vpp
843     verify_no_docker_containers
844     banner="Running DOCKER-PRELOAD socket test"
845     docker_ld_preload_dir="/vcl-ldpreload/"
846     ld_preload_dir="$VCL_LDPRELOAD_LIB_DIR"
847     ld_preload="$docker_ld_preload_dir$vcl_ldpreload_lib "
848     docker_ld_preload_lib="$docker_ld_preload_dir$vcl_ldpreload_lib "
849     
850     title1="VPP$title_dbg (Docker-Preload Socket Test)"
851     tmp_gdb_cmdfile=$tmp_gdb_cmdfile_vpp
852     gdb_cmdfile=$VPP_GDB_CMDFILE
853     set_pre_cmd $emacs_vpp $gdb_vpp
854     write_script_header $cmd1_file $tmp_gdb_cmdfile "$title1"
855     if [ -n "$multi_host" ] ; then
856         echo -n "sudo " >> $cmd1_file
857     fi
858     echo "${pre_cmd}$vpp_dir$vpp_app $vpp_args" >> $cmd1_file
859     write_script_footer $cmd1_file $perf_vpp
860     chmod +x $cmd1_file
861
862     if [ -z "$multi_host" ] || [ "$multi_host" = "server" ] ; then
863         title2="SERVER$title_dbg (Docker-Preload Socket Test)"
864         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_server
865         gdb_cmdfile=$VPPCOM_SERVER_GDB_CMDFILE
866         set_pre_cmd $emacs_server $gdb_server $docker_ld_preload_lib
867         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
868             namespace_id="$server_namespace_id"
869             namespace_secret="$server_namespace_secret"
870         fi
871         write_script_header $cmd2_file $tmp_gdb_cmdfile "$title2" "sleep 2"
872         echo "docker run -it -v $vpp_shm_dir:$vpp_shm_dir -v $vpp_dir:$docker_vpp_dir -v $lib_dir:$docker_lib_dir -v $ld_preload_dir:$docker_ld_preload_dir -v $vcl_config_dir:$docker_vcl_config_dir -p $sock_srvr_port:$sock_srvr_port -e VCL_DEBUG=$VCL_DEBUG -e VCL_CONFIG=${docker_vcl_config_dir}$vcl_config -e LD_LIBRARY_PATH=$docker_lib_dir:$docker_ld_preload_dir ${docker_ld_preload}$docker_os ${docker_app_dir}${srvr_app}" >> $cmd2_file
873         write_script_footer $cmd2_file $perf_server
874         chmod +x $cmd2_file
875     fi
876
877     if [ -z "$multi_host" ] || [ "$multi_host" = "client" ] ; then
878         title3="CLIENT$title_dbg (Docker-Preload Socket Test)"
879         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_client
880         gdb_cmdfile=$VPPCOM_CLIENT_GDB_CMDFILE
881         set_pre_cmd $emacs_client $gdb_client $docker_ld_preload_lib
882         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
883             namespace_id="$client_namespace_id"
884             namespace_secret="$client_namespace_secret"
885         fi
886         write_script_header $cmd3_file $tmp_gdb_cmdfile "$title3" "sleep 4"
887         echo "$get_docker_server_ip4addr" >> $cmd3_file
888         echo "docker run -it --cpuset-cpus='4-7' -v $vpp_shm_dir:$vpp_shm_dir -v $vpp_dir:$docker_vpp_dir -v $lib_dir:$docker_lib_dir  -v $ld_preload_dir:$docker_ld_preload_dir -v $vcl_config_dir:$docker_vcl_config_dir -e VCL_DEBUG=$VCL_DEBUG -e VCL_CONFIG=${docker_vcl_config_dir}$vcl_config -e LD_LIBRARY_PATH=$docker_lib_dir ${docker_ld_preload}$docker_os ${docker_app_dir}${clnt_app}" >> $cmd3_file
889         write_script_footer $cmd3_file $perf_client
890         chmod +x $cmd3_file
891     fi
892 }
893
894 docker_vcl() {
895     verify_no_vpp
896     verify_no_docker_containers
897     banner="Running DOCKER-VCL socket test"
898     
899     title1="VPP$title_dbg (Docker-VCL Socket Test)"
900     tmp_gdb_cmdfile=$tmp_gdb_cmdfile_vpp
901     gdb_cmdfile=$VPP_GDB_CMDFILE
902     set_pre_cmd $emacs_vpp $gdb_vpp
903     write_script_header $cmd1_file $tmp_gdb_cmdfile "$title1"
904     if [ -n "$multi_host" ] ; then
905         echo -n "sudo " >> $cmd1_file
906     fi
907     echo "${pre_cmd}$vpp_dir$vpp_app $vpp_args" >> $cmd1_file
908     write_script_footer $cmd1_file $perf_vpp
909     chmod +x $cmd1_file
910
911     if [ -z "$multi_host" ] || [ "$multi_host" = "server" ] ; then
912         title2="SERVER$title_dbg (Docker-VCL Socket Test)"
913         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_server
914         gdb_cmdfile=$VPPCOM_SERVER_GDB_CMDFILE
915         set_pre_cmd $emacs_server $gdb_server
916         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
917             namespace_id="$server_namespace_id"
918             namespace_secret="$server_namespace_secret"
919         fi
920         write_script_header $cmd2_file $tmp_gdb_cmdfile "$title2" "sleep 2"
921         echo "docker run -it --cpuset-cpus='4-7' -v $vpp_shm_dir:$vpp_shm_dir -v $vpp_dir:$docker_vpp_dir -v $lib_dir:$docker_lib_dir -v $vcl_config_dir:$docker_vcl_config_dir -p $sock_srvr_port:$sock_srvr_port -e VCL_CONFIG=${docker_vcl_config_dir}/$vcl_config -e LD_LIBRARY_PATH=$docker_lib_dir $docker_os ${docker_app_dir}${srvr_app}" >> $cmd2_file
922         write_script_footer $cmd2_file $perf_server
923         chmod +x $cmd2_file
924     fi
925
926     if [ -z "$multi_host" ] || [ "$multi_host" = "client" ] ; then
927         title3="CLIENT$title_dbg (Docker-VCL Socket Test)"
928         tmp_gdb_cmdfile=$tmp_gdb_cmdfile_client
929         gdb_cmdfile=$VPPCOM_CLIENT_GDB_CMDFILE
930         set_pre_cmd $emacs_client $gdb_client
931         if [ -n "$full_thru_host_stack_vpp_cfg" ] ; then
932             namespace_id="$client_namespace_id"
933             namespace_secret="$client_namespace_secret"
934         fi
935         write_script_header $cmd3_file $tmp_gdb_cmdfile "$title3" "sleep 3"
936         echo "$get_docker_server_ip4addr" >> $cmd3_file
937         echo "docker run -it --cpuset-cpus='4-7' -v $vpp_shm_dir:$vpp_shm_dir -v $vpp_dir:$docker_vpp_dir -v $lib_dir:$docker_lib_dir -v $vcl_config_dir:$docker_vcl_config_dir -e VCL_CONFIG=${docker_vcl_config_dir}/$vcl_config -e LD_LIBRARY_PATH=$docker_lib_dir $docker_os ${docker_app_dir}${clnt_app}" >> $cmd3_file
938         write_script_footer $cmd3_file $perf_client
939         chmod +x $cmd3_file
940     fi
941 }
942
943 if [[ $run_test ]] ; then
944     eval $run_test
945 else
946     echo "ERROR: Please specify a test to run!" >&2
947     usage;
948 fi
949
950 if (( $(which xfce4-terminal | wc -l) > 0 )) ; then
951     xterm_cmd="xfce4-terminal --geometry $xterm_geom"
952     if [[ $use_tabs ]] ; then
953         declare -a tab_cmd_files
954         declare -a tab_titles
955         declare -i i=0
956
957         if [ -x "$cmd1_file" ] ; then
958             tab_cmd_files[$i]="$cmd1_file"
959             tab_titles[$i]="$title1"
960             (( i++ ))
961         fi
962         if [ -x "$cmd2_file" ] ; then
963             tab_cmd_files[$i]="$cmd2_file"
964             tab_titles[$i]="$title2"
965             (( i++ ))
966         fi
967         if [ -x "$cmd3_file" ] ; then
968             tab_cmd_files[$i]="$cmd3_file"
969             tab_titles[$i]="$title3"
970         fi
971
972         if [ -n "${tab_cmd_files[2]}" ] ; then
973             $xterm_cmd  --title "${tab_titles[0]}" --command "${tab_cmd_files[0]}" --tab --title "${tab_titles[1]}" --command "${tab_cmd_files[1]}" --tab --title "${tab_titles[2]}" --command "${tab_cmd_files[2]}"
974         elif [ -n "${tab_cmd_files[1]}" ] ; then
975             $xterm_cmd --title "${tab_titles[0]}" --command "${tab_cmd_files[0]}" --tab --title "${tab_titles[1]}" --command "${tab_cmd_files[1]}"
976
977         else
978             $xterm_cmd --title "${tab_titles[0]}" --command "${tab_cmd_files[0]}"
979         fi
980         
981     else
982         if [ -x "$cmd1_file" ] ; then
983             ($xterm_cmd --title "$title1" --command "$cmd1_file" &)
984         fi
985         if [ -x "$cmd2_file" ] ; then
986             ($xterm_cmd --title "$title2" --command "$cmd2_file" &)
987         fi
988         if [ -x "$cmd3_file" ] ; then
989             ($xterm_cmd --title "$title3" --command "$cmd3_file" &)
990         fi
991     fi
992         
993 else
994     if [[ $use_tabs ]] ; then
995         echo "Sorry, plain ol' xterm doesn't support tabs."
996     fi
997     xterm_cmd="xterm -fs 10 -geometry $xterm_geom"
998     if [ -x "$cmd1_file" ] ; then
999         ($xterm_cmd -title "$title1" -e "$cmd1_file" &)
1000     fi
1001     if [ -x "$cmd2_file" ] ; then
1002         ($xterm_cmd -title "$title2" -e "$cmd2_file" &)
1003     fi
1004     if [ -x "$cmd3_file" ] ; then
1005         ($xterm_cmd -title "$title3" -e "$cmd3_file" &)
1006     fi
1007 fi
1008
1009 sleep 1