lustre/tests/lnet-selftest.sh

   1 #!/bin/bash
   2 # -*- mode: Bash; tab-width: 4; indent-tabs-mode: t; -*-
   3 # vim:shiftwidth=4:softtabstop=4:tabstop=4:
   4
   5 LUSTRE=${LUSTRE:-$(cd $(dirname $0)/..; echo $PWD)}
   6 . $LUSTRE/tests/test-framework.sh
   7 init_test_env $@
   8 . ${CONFIG:=$LUSTRE/tests/cfg/$NAME.sh}
   9 init_logging
  10
  11 #
  12 ALWAYS_EXCEPT="$ALWAYS_EXCEPT $LNET_SELFTEST_EXCEPT"
  13
  14 if [[ $MDSCOUNT -ge 2 ]]; then
  15         #LU-4181
  16         skip "Only run with single MDT for now" && exit
  17 fi
  18
  19 [ x$LST = x ] && { skip_env "lst not found LST=$LST" && exit 0; }
  20
  21 # FIXME: what is the reasonable value here?
  22 lst_LOOP=${lst_LOOP:-100000}
  23 lst_CONCR=${lst_CONCR:-"1 2 4 8"}
  24 lst_SIZES=${lst_SIZES:-"4k 8k 256k 1M"}
  25 if [ "$SLOW" = no ]; then
  26     lst_CONCR="1 8"
  27     lst_SIZES="4k 1M"
  28     lst_LOOP=1000
  29 fi
  30
  31 smoke_DURATION=${smoke_DURATION:-1800}
  32 if [ "$SLOW" = no ]; then
  33     [ $smoke_DURATION -le 300 ] || smoke_DURATION=300
  34 fi
  35
  36 nodes=$(comma_list "$(osts_nodes) $(mdts_nodes)")
  37 lst_SERVERS=${lst_SERVERS:-$(comma_list "$(host_nids_address $nodes $NETTYPE)")}
  38 lst_CLIENTS=${lst_CLIENTS:-$(comma_list "$(host_nids_address $CLIENTS $NETTYPE)")}
  39
  40 is_mounted () {
  41     local mntpt=$1
  42     local mounted=$(mounted_lustre_filesystems)
  43     echo $mounted' ' | grep -w -q $mntpt' '
  44 }
  45
  46 if local_mode; then
  47    lst_SERVERS=`hostname`
  48    lst_CLIENTS=`hostname`
  49 fi
  50
  51 # FIXME: do we really need to unload lustre modules on all nodes?
  52 # bug 19387, comment 9
  53 # unloading lustre modules is not strictly necessary but unmounting
  54 # /mnt/lustre before running lst would be useful:
  55 # 1) because lustre messages clutter logs - we needn't them for testing LNET
  56 # 2) it's theoretically possible that lst tests congest comm paths so tightly
  57 # that mounted lustre wouldn't able to perform some of its background activities
  58 if is_mounted $MOUNT || is_mounted $MOUNT2; then
  59     local_mode && CLIENTONLY=yes
  60     stopall
  61     RESTORE_MOUNT=yes
  62 fi
  63
  64 build_test_filter
  65
  66 lst_prepare () {
  67     # Workaround for bug 15619
  68     lst_cleanup_all
  69     lst_setup_all
  70 }
  71
  72 # make batch
  73 test_smoke_sub () {
  74     local servers=$1
  75     local clients=$2
  76
  77
  78     local nc=$(echo ${clients//,/ } | wc -w)
  79     local ns=$(echo ${servers//,/ } | wc -w)
  80     echo '#!/bin/bash'
  81     echo 'set -e'
  82
  83     echo 'cleanup () { trap 0; echo killing $1 ... ; kill -9 $1 || true; }'
  84
  85     echo "$LST new_session --timeo 100000 hh"
  86     echo "$LST add_group c $(nids_list $clients)"
  87     echo "$LST add_group s $(nids_list $servers)"
  88     echo "$LST add_batch b"
  89
  90     pre="$LST add_test --batch b --loop $lst_LOOP "
  91     for t in "brw read" "brw write" ; do
  92         for s in $lst_SIZES; do
  93             for c in $lst_CONCR; do
  94                 for d in "${nc}:${ns} --from c --to s" "${ns}:${nc} --from s --to c"; do
  95                     echo -n "$pre"
  96                     echo " --concurrency $c --distribute $d $t check=full size=$s"
  97                  done
  98             done
  99         done
 100     done
 101
 102     for c in $lst_CONCR; do
 103         for d in "${nc}:${ns} --from c --to s" "${ns}:${nc} --from s --to c"; do
 104             echo -n "$pre"
 105             echo " --concurrency $c --distribute $d ping "
 106         done
 107     done
 108
 109     echo $LST run b
 110     echo sleep 1
 111     echo "$LST stat --delay 10 --timeout 10 c s &"
 112     echo 'pid=$!'
 113     echo 'trap "cleanup $pid" INT TERM'
 114     echo sleep $smoke_DURATION
 115     echo 'cleanup $pid'
 116
 117 }
 118
 119 run_lst () {
 120    local file=$1
 121
 122    export LST_SESSION=$$
 123
 124    # start lst
 125    sh $file
 126 }
 127
 128 check_lst_err () {
 129    local log=$1
 130
 131    grep ^Total $log
 132
 133    if awk '/^Total.*nodes/ {print $2}' $log | grep -vq '^0$'; then
 134         error 'lst Error found'
 135    fi
 136 }
 137
 138 test_smoke () {
 139     lst_prepare
 140
 141     local servers=$lst_SERVERS
 142     local clients=$lst_CLIENTS
 143
 144     local runlst=$TMP/smoke.sh
 145
 146     local log=$TMP/$tfile.log
 147     local rc=0
 148
 149     test_smoke_sub $servers $clients 2>&1 > $runlst
 150
 151     cat $runlst
 152
 153     run_lst $runlst | tee $log
 154     rc=${PIPESTATUS[0]}
 155     [ $rc = 0 ] || error "$runlst failed: $rc"
 156
 157     lst_end_session --verbose | tee -a $log
 158
 159     # error counters in "lst show_error" should be checked
 160     check_lst_err $log
 161     lst_cleanup_all
 162 }
 163 run_test smoke "lst regression test"
 164
 165 complete $SECONDS
 166 if [ "$RESTORE_MOUNT" = yes ]; then
 167     setupall
 168 fi
 169 exit_status