Whamcloud - gitweb
LU-10365 tests: set proper paths headers for sanity test 400a
[fs/lustre-release.git] / lustre / tests / sanity-flr.sh
index f5faf02..e906140 100644 (file)
@@ -64,7 +64,7 @@ stop_osts() {
        done
 
        for idx in "$@"; do
-               wait_osc_import_state client ost$idx DISCONN
+               wait_osc_import_state client ost$idx "\(DISCONN\|IDLE\)"
        done
 }
 
@@ -77,7 +77,7 @@ start_osts() {
        done
 
        for idx in "$@"; do
-               wait_osc_import_state client ost$idx FULL
+               wait_recovery_complete ost$idx
        done
 }
 
@@ -730,8 +730,6 @@ test_2() {
        $LFS setstripe -E 1M -S 1M -E EOF -c 1 $tf
        $LFS setstripe -E 2M -S 1M -E EOF -c -1 $tf2
 
-       local layout=$($LFS getstripe $tf2 | grep -A 4 lmm_objects)
-
        $LFS mirror extend -N -f $tf2 $tf ||
                error "merging $tf2 into $tf failed"
 
@@ -1199,7 +1197,7 @@ test_36() {
        verify_ost_layout_version $tf
 
        # test case 2
-       local mds_idx=mds$(($($LFS getstripe -M $tf-2) + 1))
+       local mds_idx=mds$(($($LFS getstripe -m $tf-2) + 1))
 
        local delay_sec=10
        do_facet $mds_idx $LCTL set_param fail_val=$delay_sec
@@ -1220,7 +1218,7 @@ test_36() {
        do_facet $mds_idx $LCTL set_param fail_loc=0
 
        # test case 3
-       mds_idx=mds$(($($LFS getstripe -M $tf-3) + 1))
+       mds_idx=mds$(($($LFS getstripe -m $tf-3) + 1))
 
        #define OBD_FAIL_FLR_LV_INC 0x1A02
        do_facet $mds_idx $LCTL set_param fail_loc=0x1A02
@@ -1479,9 +1477,11 @@ test_41() {
        # write data in [0, 2M)
        dd if=/dev/zero of=$tf bs=1M count=2 conv=notrunc ||
                error "writing $tf failed"
-       dd if=/dev/zero of=$tf-1 bs=1M count=4 conv=notrunc ||
+       dd if=/dev/urandom of=$tf-1 bs=1M count=4 conv=notrunc ||
                error "writing $tf-1 failed"
 
+       local sum0=$(cat $tf-1 | md5sum | cut -f 1 -d' ')
+
        echo " **verify files be WRITE_PENDING"
        verify_flr_state $tf "wp"
        verify_flr_state $tf-1 "wp"
@@ -1496,6 +1496,14 @@ test_41() {
        echo " **full resync"
        $LFS mirror resync $tf $tf-1 || error "mirror resync $tf $tf-1 failed"
 
+       echo " **verify $tf-1 data consistency in all mirrors"
+       local sum
+       for i in 1 2 3; do
+               sum=$(mirror_io dump -i $i $tf-1 | md5sum | cut -f 1 -d' ')
+               [ "$sum" = "$sum0" ] ||
+                       error "$i: mismatch: $sum vs. $sum0"
+       done
+
        echo " **verify files be RDONLY"
        verify_flr_state $tf "ro"
        verify_flr_state $tf-1 "ro"
@@ -1870,6 +1878,77 @@ test_46() {
 }
 run_test 46 "Verify setstripe --copy option"
 
+test_47() {
+       [ $OSTCOUNT -lt 3 ] && skip "needs >= 3 OSTs" && return
+
+       local file=$DIR/$tdir/$tfile
+       local ids
+       local ost
+       local osts
+
+       test_mkdir $DIR/$tdir
+
+       # test case 1:
+       rm -f $file
+       # mirror1: [comp0]ost0,    [comp1]ost1 and ost2
+       # mirror2: [comp2]    ,    [comp3] should not use ost1 or ost2
+       $LFS mirror create -N -E2m -c1 -o0 --flags=prefer -Eeof -c2 -o1,2 \
+               -N -E2m -c1 -Eeof -c1 $file || error "create FLR $file failed"
+       ids=($($LFS getstripe $file | awk '/lcme_id/{print $2}' | tr '\n' ' '))
+
+       dd if=/dev/zero of=$file bs=1M count=3 || error "dd $file failed"
+       $LFS mirror resync $file || error "resync $file failed"
+
+       ost=$($LFS getstripe -I${ids[2]} $file | awk '/l_ost_idx/{print $5}')
+       if [[ x$ost == "x0," ]]; then
+               $LFS getstripe $file
+               error "component ${ids[2]} objects allocated on $ost " \
+                     "shouldn't on OST0"
+       fi
+
+       ost=$($LFS getstripe -I${ids[3]} $file | awk '/l_ost_idx/{print $5}')
+       if [[ x$ost == "x1," || x$ost == "x2," ]]; then
+               $LFS getstripe $file
+               error "component ${ids[3]} objects allocated on $ost " \
+                     "shouldn't on OST1 or on OST2"
+       fi
+
+       ## test case 2:
+       rm -f $file
+       # mirror1: [comp0]    [comp1]
+       # mirror2: [comp2]    [comp3]
+       # mirror3: [comp4]    [comp5]
+       # mirror4: [comp6]    [comp7]
+       $LFS mirror create -N4 -E1m -c1 -Eeof -c1 $file ||
+               error "create FLR $file failed"
+       ids=($($LFS getstripe $file | awk '/lcme_id/{print $2}' | tr '\n' ' '))
+
+       dd if=/dev/zero of=$file bs=1M count=3 || error "dd $file failed"
+       $LFS mirror resync $file || error "resync $file failed"
+
+       for ((i = 0; i < 6; i++)); do
+               osts[$i]=$($LFS getstripe -I${ids[$i]} $file |
+                       awk '/l_ost_idx/{print $5}')
+       done
+       # comp[0],comp[2],comp[4] should use different osts
+       if [[ ${osts[0]} == ${osts[2]} || ${osts[0]} == ${osts[4]} ||
+             ${osts[2]} == ${osts[4]} ]]; then
+               $LFS getstripe $file
+               error "component ${ids[0]}, ${ids[2]}, ${ids[4]} have objects "\
+                     "allocated on duplicated OSTs"
+       fi
+       # comp[1],comp[3],comp[5] should use different osts
+       if [[ ${osts[1]} == ${osts[3]} || ${osts[1]} == ${osts[5]} ||
+             ${osts[3]} == ${osts[5]} ]]; then
+               $LFS getstripe $file
+               error "component ${ids[1]}, ${ids[3]}, ${ids[5]} have objects "\
+                     "allocated on duplicated OSTs"
+       fi
+
+       return 0
+}
+run_test 47 "Verify mirror obj alloc"
+
 ctrl_file=$(mktemp /tmp/CTRL.XXXXXX)
 lock_file=$(mktemp /var/lock/FLR.XXXXXX)
 
@@ -1926,9 +2005,13 @@ resync_file_200() {
 
                echo -n "resync file $tf with '$cmd' .."
 
-               $lock_taken && flock -x 200
-               $cmd $tf &> /dev/null && echo "done" || echo "failed"
-               $lock_taken && flock -u 200
+               if [[ $lock_taken = "true" ]]; then
+                       flock -x 200 -c "$cmd $tf &> /dev/null" &&
+                               echo "done" || echo "failed"
+                       flock -u 200
+               else
+                       $cmd $tf &> /dev/null && echo "done" || echo "failed"
+               fi
 
                sleep 0.$((RANDOM % 8 + 1))
        done
@@ -1957,7 +2040,7 @@ test_200() {
        #define OBD_FAIL_FLR_RANDOM_PICK_MIRROR 0x1A03
        $LCTL set_param fail_loc=0x1A03
 
-       local mds_idx=mds$(($($LFS getstripe -M $tf) + 1))
+       local mds_idx=mds$(($($LFS getstripe -m $tf) + 1))
        do_facet $mds_idx $LCTL set_param fail_loc=0x1A03
 
        declare -a pids
@@ -2078,6 +2161,39 @@ test_202() {
 }
 run_test 202 "lfs setstripe --add-component wide striping"
 
+test_203() {
+       [[ $OSTCOUNT -lt 2 ]] && skip "need >= 2 OSTs" && return
+
+       local tf=$DIR/$tfile
+
+       #create 2 mirrors
+       $LFS mirror create -N2 -c1 $tf || error "create FLR file $tf"
+       #delete first mirror
+       $LFS mirror split --mirror-id=1 -d $tf || error "delete first mirror"
+
+       $LFS getstripe $tf
+       local old_id=$($LFS getstripe --mirror-id=2 -I $tf)
+       local count=$($LFS getstripe --mirror-id=2 -c $tf) ||
+               error "getstripe count of mirror 2"
+       [[ x$count = x1 ]] || error "mirror 2 stripe count $count is not 1"
+
+       #extend a mirror with 2 OSTs
+       $LFS mirror extend -N -c2 $tf || error "extend mirror"
+       $LFS getstripe $tf
+
+       local new_id=$($LFS getstripe --mirror-id=2 -I $tf)
+       count=$($LFS getstripe --mirror-id=2 -c $tf) ||
+               error "getstripe count of mirror 2"
+       [[ x$oldid = x$newid ]] ||
+               error "mirror 2 changed ID from $old_id to $new_id"
+       [[ x$count = x1 ]] || error "mirror 2 stripe count $count is not 1"
+
+       count=$($LFS getstripe --mirror-id=3 -c $tf) ||
+               error "getstripe count of mirror 3"
+       [[ x$count = x2 ]] || error "mirror 3 stripe count $count is not 2"
+}
+run_test 203 "mirror file preserve mirror ID"
+
 complete $SECONDS
 check_and_cleanup_lustre
 exit_status