Whamcloud - gitweb
LU-1661 tests: improve setup_posix_users()
[fs/lustre-release.git] / lustre / tests / test-framework.sh
index eb3d249..ad29a3e 100644 (file)
@@ -15,6 +15,8 @@ export GSS_KRB5=false
 export GSS_PIPEFS=false
 export IDENTITY_UPCALL=default
 export QUOTA_AUTO=1
+export JOBSTATS_AUTO=${JOBSTATS_AUTO:-1}
+export JOBID_VAR=${JOBID_VAR:-"procname_uid"}
 
 # LOAD_LLOOP: LU-409: only load llite_lloop module if kernel < 2.6.32 or
 #             LOAD_LLOOP is true. LOAD_LLOOP is false by default.
@@ -267,9 +269,12 @@ init_test_env() {
 }
 
 check_cpt_number() {
+       local facet=$1
        local ncpts
 
-       ncpts=$(lctl get_param -n cpu_partition_table 2>/dev/null| wc -l)
+       ncpts=$(do_facet $facet "lctl get_param -n " \
+               "cpu_partition_table 2>/dev/null| wc -l" || echo 1)
+
        if [ $ncpts -eq 0 ]; then
                echo "1"
        else
@@ -445,19 +450,26 @@ load_modules_local() {
         grep -q crc16 $SYMLIST || { modprobe crc16 2>/dev/null || true; }
         grep -q -w jbd $SYMLIST || { modprobe jbd 2>/dev/null || true; }
         grep -q -w jbd2 $SYMLIST || { modprobe jbd2 2>/dev/null || true; }
-               if [[ $(node_fstypes $HOSTNAME) == *ldiskfs* ]]; then
-                       grep -q exportfs_decode_fh $SYMLIST ||
-                       { modprobe exportfs 2> /dev/null || true; }
-                       load_module ../ldiskfs/ldiskfs/ldiskfs
-               fi
                [ "$LQUOTA" != "no" ] && load_module quota/lquota $LQUOTAOPTS
+               if [[ $(node_fstypes $HOSTNAME) == *zfs* ]]; then
+                       load_module osd-zfs/osd_zfs
+               fi
                load_module mgs/mgs
                load_module mds/mds
                load_module mdd/mdd
+               if [[ $(node_fstypes $HOSTNAME) == *ldiskfs* ]]; then
+                       #
+                       # This block shall be moved up beside osd-zfs as soon
+                       # as osd-ldiskfs stops using mdd symbols.
+                       #
+                       grep -q exportfs_decode_fh $SYMLIST ||
+                               { modprobe exportfs 2> /dev/null || true; }
+                       load_module ../ldiskfs/ldiskfs/ldiskfs
+                       load_module lvfs/fsfilt_ldiskfs
+                       load_module osd-ldiskfs/osd_ldiskfs
+               fi
                load_module mdt/mdt
-               load_module lvfs/fsfilt_ldiskfs
                load_module cmm/cmm
-               load_module osd-ldiskfs/osd_ldiskfs
                load_module ost/ost
                if [ "$USE_OFD" == yes ]; then
                        load_module ofd/ofd
@@ -753,7 +765,7 @@ get_obdfilter_param() {
        local name=$3
 
        do_nodes $nodes "$LCTL get_param -n obdfilter.$device.$name \
-               osd-*.$device.$name" 2>&1 | grep -v 'Found no match'
+               osd-*.$device.$name 2>&1" | grep -v 'Found no match'
 }
 
 set_obdfilter_param() {
@@ -763,7 +775,7 @@ set_obdfilter_param() {
        local value=$4
 
        do_nodes $nodes "$LCTL set_param -n obdfilter.$device.$name=$value \
-               osd-*.$device.$name=$value" 2>&1 | grep -v 'Found no match'
+               osd-*.$device.$name=$value 2>&1" | grep -v 'Found no match'
 }
 
 set_debug_size () {
@@ -2246,6 +2258,8 @@ single_local_node () {
 get_env_vars() {
        local var
        local value
+       local facets=$(get_facets)
+       local facet
 
        for var in ${!MODOPTS_*}; do
                value=${!var}
@@ -2253,6 +2267,23 @@ get_env_vars() {
        done
 
        echo -n " USE_OFD=$USE_OFD"
+
+       for facet in ${facets//,/ }; do
+               var=${facet}_FSTYPE
+               if [ -n "${!var}" ]; then
+                       echo -n " $var=${!var}"
+               fi
+       done
+
+       for var in MGSFSTYPE MDSFSTYPE OSTFSTYPE; do
+               if [ -n "${!var}" ]; then
+                       echo -n " $var=${!var}"
+               fi
+       done
+
+       if [ -n "$FSTYPE" ]; then
+               echo -n " FSTYPE=$FSTYPE"
+       fi
 }
 
 do_nodes() {
@@ -2305,6 +2336,25 @@ do_facet() {
     do_node $HOST "$@"
 }
 
+# Function: do_facet_random_file $FACET $FILE $SIZE
+# Creates FILE with random content on the given FACET of given SIZE
+
+do_facet_random_file() {
+       local facet="$1"
+       local fpath="$2"
+       local fsize="$3"
+       local cmd="dd if=/dev/urandom of='$fpath' bs=$fsize count=1"
+       do_facet $facet "$cmd 2>/dev/null"
+}
+
+do_facet_create_file() {
+       local facet="$1"
+       local fpath="$2"
+       local fsize="$3"
+       local cmd="dd if=/dev/zero of='$fpath' bs=$fsize count=1"
+       do_facet $facet "$cmd 2>/dev/null"
+}
+
 do_nodesv() {
     do_nodes --verbose "$@"
 }
@@ -2856,25 +2906,44 @@ osc_ensure_active () {
 }
 
 init_param_vars () {
-    remote_mds_nodsh ||
-        TIMEOUT=$(do_facet $SINGLEMDS "lctl get_param -n timeout")
+       remote_mds_nodsh ||
+               TIMEOUT=$(do_facet $SINGLEMDS "lctl get_param -n timeout")
 
-    log "Using TIMEOUT=$TIMEOUT"
+       log "Using TIMEOUT=$TIMEOUT"
 
-    osc_ensure_active $SINGLEMDS $TIMEOUT
-    osc_ensure_active client $TIMEOUT
+       osc_ensure_active $SINGLEMDS $TIMEOUT
+       osc_ensure_active client $TIMEOUT
 
-       if [ $QUOTA_AUTO -ne 0 ]; then
-        if [ "$ENABLE_QUOTA" ]; then
-            echo "enable quota as required"
-            setup_quota $MOUNT || return 2
-        else
-            echo "disable quota as required"
-            $LFS quotaoff -ug $MOUNT > /dev/null 2>&1
-        fi
-    fi
+       local jobid_var
+       if [ $JOBSTATS_AUTO -ne 0 ]; then
+               echo "enable jobstats, set job scheduler as $JOBID_VAR"
+               jobid_var=$JOBID_VAR
+       else
+               jobid_var=`$LCTL get_param -n jobid_var`
+               if [ $jobid_var != "disable" ]; then
+                       echo "disable jobstats as required"
+                       jobid_var="disable"
+               else
+                       jobid_var="none"
+               fi
+       fi
 
-    return 0
+       if [ $jobid_var == $JOBID_VAR -o $jobid_var == "disable" ]; then
+               do_facet mgs $LCTL conf_param $FSNAME.sys.jobid_var=$jobid_var
+               wait_update $HOSTNAME "$LCTL get_param -n jobid_var" \
+                       $jobid_var || return 1
+       fi
+
+       if [ $QUOTA_AUTO -ne 0 ]; then
+               if [ "$ENABLE_QUOTA" ]; then
+                       echo "enable quota as required"
+                       setup_quota $MOUNT || return 2
+               else
+                       echo "disable quota as required"
+                       $LFS quotaoff -ug $MOUNT > /dev/null 2>&1
+               fi
+       fi
+       return 0
 }
 
 nfs_client_mode () {
@@ -3540,6 +3609,17 @@ stop_full_debug_logging() {
     debugrestore
 }
 
+# prints bash call stack
+log_trace_dump() {
+       echo "  Trace dump:"
+       for (( i=1; i < ${#BASH_LINENO[*]} ; i++ )) ; do
+               local s=${BASH_SOURCE[$i]}
+               local l=${BASH_LINENO[$i-1]}
+               local f=${FUNCNAME[$i]}
+               echo "  = $s:$l:$f()"
+       done
+}
+
 ##################################
 # Test interface
 ##################################
@@ -3555,6 +3635,7 @@ error_noexit() {
     fi
 
     log " ${TESTSUITE} ${TESTNAME}: @@@@@@ ${TYPE}: $@ "
+    log_trace_dump
 
     mkdir -p $LOGDIR
     # We need to dump the logs on all nodes
@@ -3568,11 +3649,11 @@ error_noexit() {
 }
 
 exit_status () {
-    local status=0
-    local log=$TESTSUITELOG
+       local status=0
+       local log=$TESTSUITELOG
 
-    [ -f "$log" ] && grep -q FAIL: $log && status=1
-    exit $status
+       [ -f "$log" ] && grep -q FAIL $log && status=1
+       exit $status
 }
 
 error() {
@@ -3802,7 +3883,7 @@ banner() {
 run_one() {
     local testnum=$1
     local message=$2
-    tfile=f${testnum}
+    tfile=f.${TESTSUITE}.${testnum}
     export tdir=d0.${TESTSUITE}/d${base}
     export TESTNAME=test_$testnum
     local SAVE_UMASK=`umask`
@@ -3828,34 +3909,34 @@ run_one() {
 #  - test result is saved to data file
 #
 run_one_logged() {
-    local BEFORE=`date +%s`
-    local TEST_ERROR
-    local name=${TESTSUITE}.test_${1}.test_log.$(hostname -s).log
-    local test_log=$LOGDIR/$name
-    rm -rf $LOGDIR/err
-    local SAVE_UMASK=`umask`
-    umask 0022
-
-    echo
-    log_sub_test_begin test_${1}
-    (run_one $1 "$2") 2>&1 | tee -i $test_log
-    local RC=${PIPESTATUS[0]}
-
-    [ $RC -ne 0 ] && [ ! -f $LOGDIR/err ] && \
-        echo "test_$1 returned $RC" | tee $LOGDIR/err
-
-    duration=$((`date +%s` - $BEFORE))
-    pass "$1" "(${duration}s)"
-    [ -f $LOGDIR/err ] && TEST_ERROR=$(cat $LOGDIR/err)
-    log_sub_test_end $TEST_STATUS $duration "$RC" "$TEST_ERROR"
-
-    if [ -f $LOGDIR/err ]; then
-        $FAIL_ON_ERROR && exit $RC
-    fi
+       local BEFORE=`date +%s`
+       local TEST_ERROR
+       local name=${TESTSUITE}.test_${1}.test_log.$(hostname -s).log
+       local test_log=$LOGDIR/$name
+       rm -rf $LOGDIR/err
+       local SAVE_UMASK=`umask`
+       umask 0022
+
+       echo
+       log_sub_test_begin test_${1}
+       (run_one $1 "$2") 2>&1 | tee -i $test_log
+       local RC=${PIPESTATUS[0]}
+
+       [ $RC -ne 0 ] && [ ! -f $LOGDIR/err ] && \
+               echo "test_$1 returned $RC" | tee $LOGDIR/err
+
+       duration=$((`date +%s` - $BEFORE))
+       pass "$1" "(${duration}s)"
+       [ -f $LOGDIR/err ] && TEST_ERROR=$(cat $LOGDIR/err)
+       log_sub_test_end $TEST_STATUS $duration "$RC" "$TEST_ERROR"
+
+       if [ -f $LOGDIR/err ]; then
+               $FAIL_ON_ERROR && exit $RC
+       fi
 
-    umask $SAVE_UMASK
+       umask $SAVE_UMASK
 
-    return $RC
+       return 0
 }
 
 #
@@ -4161,6 +4242,63 @@ setstripe_nfsserver () {
     do_nodev $nfsserver lfs setstripe "$@"
 }
 
+# Check and add a test group.
+add_group() {
+       local group_id=$1
+       local group_name=$2
+       local rc=0
+
+       local gid=$(getent group $group_name | cut -d: -f3)
+       if [[ -n "$gid" ]]; then
+               [[ "$gid" -eq "$group_id" ]] || {
+                       error_noexit "inconsistent group ID:" \
+                                    "new: $group_id, old: $gid"
+                       rc=1
+               }
+       else
+               groupadd -g $group_id $group_name
+               rc=${PIPESTATUS[0]}
+       fi
+
+       return $rc
+}
+
+# Check and add a test user.
+add_user() {
+       local user_id=$1
+       shift
+       local user_name=$1
+       shift
+       local group_name=$1
+       shift
+       local home=$1
+       shift
+       local opts="$@"
+       local rc=0
+
+       local uid=$(getent passwd $user_name | cut -d: -f3)
+       if [[ -n "$uid" ]]; then
+               if [[ "$uid" -eq "$user_id" ]]; then
+                       local dir=$(getent passwd $user_name | cut -d: -f6)
+                       if [[ "$dir" != "$home" ]]; then
+                               mkdir -p $home
+                               usermod -d $home $user_name
+                               rc=${PIPESTATUS[0]}
+                       fi
+               else
+                       error_noexit "inconsistent user ID:" \
+                                    "new: $user_id, old: $uid"
+                       rc=1
+               fi
+       else
+               mkdir -p $home
+               useradd -M -u $user_id -d $home -g $group_name $opts $user_name
+               rc=${PIPESTATUS[0]}
+       fi
+
+       return $rc
+}
+
 check_runas_id_ret() {
     local myRC=0
     local myRUNAS_UID=$1