Whamcloud - gitweb
LU-5624 tests: ignore bad lfsck performance for ZFS backend
[fs/lustre-release.git] / lustre / tests / sanity-lfsck.sh
index 3d6fbbc..38c7f3a 100644 (file)
@@ -46,7 +46,7 @@ setupall
        ALWAYS_EXCEPT="$ALWAYS_EXCEPT 11 12 13 14 15 16 17 18 19 20 21"
 
 [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.6.50) ]] &&
-       ALWAYS_EXCEPT="$ALWAYS_EXCEPT 2d 2e 3 22 23 24 25"
+       ALWAYS_EXCEPT="$ALWAYS_EXCEPT 2d 2e 3 22 23 24 25 26 27 28"
 
 build_test_filter
 
@@ -231,7 +231,7 @@ test_1b()
                         awk '/^updated_phase1/ { print $2 }')
 
        [ $repaired -eq 1 ] ||
-               error "(5) Fail to repair missed FID-in-LMA: $repaired"
+               error "(5) Fail to repair the missing FID-in-LMA: $repaired"
 
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0
        mount_client $MOUNT || error "(6) Fail to start client!"
@@ -242,7 +242,7 @@ test_1b()
 
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0
 }
-run_test 1b "LFSCK can find out and repair missed FID-in-LMA"
+run_test 1b "LFSCK can find out and repair the missing FID-in-LMA"
 
 test_2a() {
        lfsck_prep 1 1
@@ -386,7 +386,7 @@ test_2d()
        [ "$dummyname" == "$DIR/$tdir/dummy" ] ||
                error "(8) Fail to repair linkEA: $dummyfid $dummyname"
 }
-run_test 2d "LFSCK can recover the missed linkEA entry"
+run_test 2d "LFSCK can recover the missing linkEA entry"
 
 test_2e()
 {
@@ -968,9 +968,15 @@ test_9a() {
        local MIN_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 - TIME_DIFF) + \
                            BASE_SPEED2 * (RUN_TIME2 - TIME_DIFF)) / \
                           (RUN_TIME1 + RUN_TIME2) * 8 / 10))
-       # Account for slow ZFS performance - LU-4934
-       [ $SPEED -gt $MIN_SPEED ] || [ $(facet_fstype $SINGLEMDS) -eq zfs ] ||
-               error "(5) Got speed $SPEED, expected more than $MIN_SPEED"
+       [ $SPEED -gt $MIN_SPEED ] || {
+               if [ $(facet_fstype $SINGLEMDS) != ldiskfs ]; then
+                       error_ignore LU-5624 \
+                       "(5.1) Got speed $SPEED, expected more than $MIN_SPEED"
+               else
+                       error \
+                       "(5.2) Got speed $SPEED, expected more than $MIN_SPEED"
+               fi
+       }
 
        # MAX_MARGIN = 1.2 = 12 / 10
        MAX_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 + TIME_DIFF) + \
@@ -1051,8 +1057,15 @@ test_9b() {
        local MIN_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 - TIME_DIFF) + \
                            BASE_SPEED2 * (RUN_TIME2 - TIME_DIFF)) / \
                           (RUN_TIME1 + RUN_TIME2) * 8 / 10))
-       [ $SPEED -gt $MIN_SPEED ] ||[ $(facet_fstype $SINGLEMDS) -eq zfs ] ||
-               error "(9) Got speed $SPEED, expected more than $MIN_SPEED"
+       [ $SPEED -gt $MIN_SPEED ] || {
+               if [ $(facet_fstype $SINGLEMDS) != ldiskfs ]; then
+                       error_ignore LU-5624 \
+                       "(9.1) Got speed $SPEED, expected more than $MIN_SPEED"
+               else
+                       error \
+                       "(9.2) Got speed $SPEED, expected more than $MIN_SPEED"
+               fi
+       }
 
        # MAX_MARGIN = 1.2 = 12 / 10
        MAX_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 + TIME_DIFF) + \
@@ -1398,7 +1411,7 @@ run_test 13 "LFSCK can repair crashed lmm_oi"
 test_14() {
        echo "#####"
        echo "The OST-object referenced by the MDT-object should be there;"
-       echo "otherwise, the LFSCK should re-create the missed OST-object."
+       echo "otherwise, the LFSCK should re-create the missing OST-object."
        echo "#####"
 
        check_mount_and_prep
@@ -1644,7 +1657,7 @@ run_test 17 "LFSCK can repair multiple references"
 test_18a() {
        echo "#####"
        echo "The target MDT-object is there, but related stripe information"
-       echo "is lost or partly lost. The LFSCK should regenerate the missed"
+       echo "is lost or partly lost. The LFSCK should regenerate the missing"
        echo "layout EA entries."
        echo "#####"
 
@@ -3145,6 +3158,329 @@ test_25() {
 }
 run_test 25 "LFSCK can repair bad file type in the name entry"
 
+test_26a() {
+       echo "#####"
+       echo "The local name entry back referenced by the MDT-object is lost."
+       echo "The namespace LFSCK will add the missing local name entry back"
+       echo "to the normal namespace."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       touch $DIR/$tdir/d0/foo || error "(2) Fail to create foo"
+       local foofid=$($LFS path2fid $DIR/$tdir/d0/foo)
+
+       ln $DIR/$tdir/d0/foo $DIR/$tdir/d0/dummy ||
+               error "(3) Fail to hard link to $DIR/$tdir/d0/foo"
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rm -f $DIR/$tdir/d0/foo || error "(4) Fail to unlink $DIR/$tdir/d0/foo"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       ls -ail $DIR/$tdir/d0/foo > /dev/null 2>&1 && "(5) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the missing remote name entry"
+       $START_NAMESPACE -r -A ||
+               error "(6) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(7) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(8) Fail to repair lost dirent: $repaired"
+
+       ls -ail $DIR/$tdir/d0/foo ||
+               error "(9) Fail to 'ls' $DIR/$tdir/d0/foo"
+
+       local foofid2=$($LFS path2fid $DIR/$tdir/d0/foo)
+       [ "$foofid" == "$foofid2" ] ||
+               error "(10) foo's FID changed: $foofid, $foofid2"
+}
+run_test 26a "LFSCK can add the missing local name entry back to the namespace"
+
+test_26b() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "The remote name entry back referenced by the MDT-object is lost."
+       echo "The namespace LFSCK will add the missing remote name entry back"
+       echo "to the normal namespace."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       $LFS mkdir -i 0 $DIR/$tdir/d0/foo || error "(2) Fail to mkdir foo"
+       local foofid=$($LFS path2fid $DIR/$tdir/d0/foo)
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rmdir $DIR/$tdir/d0/foo || error "(3) Fail to rmdir $DIR/$tdir/d0/foo"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       ls -ail $DIR/$tdir/d0/foo > /dev/null 2>&1 && "(4) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the missing remote name entry"
+       $START_NAMESPACE -r -A ||
+               error "(5) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(6) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(7) Fail to repair lost dirent: $repaired"
+
+       ls -ail $DIR/$tdir/d0/foo ||
+               error "(8) Fail to 'ls' $DIR/$tdir/d0/foo"
+
+       local foofid2=$($LFS path2fid $DIR/$tdir/d0/foo)
+       [ "$foofid" == "$foofid2" ] ||
+               error "(9) foo's FID changed: $foofid, $foofid2"
+}
+run_test 26b "LFSCK can add the missing remote name entry back to the namespace"
+
+test_27a() {
+       echo "#####"
+       echo "The local parent referenced by the MDT-object linkEA is lost."
+       echo "The namespace LFSCK will re-create the lost parent as orphan."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       touch $DIR/$tdir/d0/foo || error "(2) Fail to create foo"
+       ln $DIR/$tdir/d0/foo $DIR/$tdir/d0/dummy ||
+               error "(3) Fail to hard link to $DIR/$tdir/d0/foo"
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system. And then remove"
+       echo "another hard link and the parent directory."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rm -f $DIR/$tdir/d0/foo ||
+               error "(4) Fail to unlink $DIR/$tdir/d0/foo"
+       rm -f $DIR/$tdir/d0/dummy ||
+               error "(5) Fail to unlink $DIR/$tdir/d0/dummy"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       rm -rf $DIR/$tdir/d0 || error "(5) Fail to unlink the dir d0"
+       ls -ail $DIR/$tdir/d0 > /dev/null 2>&1 && "(6) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the lost parent"
+       $START_NAMESPACE -r -A ||
+               error "(6) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(7) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(8) Fail to repair lost dirent: $repaired"
+
+       echo "There should be an orphan under .lustre/lost+found/MDT0000/"
+       [ -d $MOUNT/.lustre/lost+found/MDT0000 ] ||
+               error "(9) $MOUNT/.lustre/lost+found/MDT0000/ should be there"
+
+       ls -ail $MOUNT/.lustre/lost+found/MDT0000/
+
+       cname=$(find $MOUNT/.lustre/lost+found/MDT0000/ -name *-P-*)
+       [ ! -z "$cname" ] ||
+               error "(10) .lustre/lost+found/MDT0000/ should not be empty"
+}
+run_test 27a "LFSCK can recreate the lost local parent directory as orphan"
+
+test_27b() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "The remote parent referenced by the MDT-object linkEA is lost."
+       echo "The namespace LFSCK will re-create the lost parent as orphan."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       $LFS mkdir -i 0 $DIR/$tdir/d0/foo || error "(2) Fail to mkdir foo"
+
+       $LFS path2fid $DIR/$tdir/d0
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system. And then remove"
+       echo "the parent directory."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rmdir $DIR/$tdir/d0/foo || error "(3) Fail to rmdir $DIR/$tdir/d0/foo"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       rmdir $DIR/$tdir/d0 || error "(4) Fail to unlink the dir d0"
+       ls -ail $DIR/$tdir/d0 > /dev/null 2>&1 && "(5) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the missing remote name entry"
+       $START_NAMESPACE -r -A ||
+               error "(6) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(7) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(8) Fail to repair lost dirent: $repaired"
+
+       ls -ail $MOUNT/.lustre/lost+found/
+
+       echo "There should be an orphan under .lustre/lost+found/MDT0001/"
+       [ -d $MOUNT/.lustre/lost+found/MDT0001 ] ||
+               error "(9) $MOUNT/.lustre/lost+found/MDT0001/ should be there"
+
+       ls -ail $MOUNT/.lustre/lost+found/MDT0001/
+
+       cname=$(find $MOUNT/.lustre/lost+found/MDT0001/ -name *-P-*)
+       [ ! -z "$cname" ] ||
+               error "(10) .lustre/lost+found/MDT0001/ should not be empty"
+}
+run_test 27b "LFSCK can recreate the lost remote parent directory as orphan"
+
+test_28() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "The test needs at least 2 MDTs" && return
+
+       echo "#####"
+       echo "The target name entry is lost. The LFSCK should insert the"
+       echo "orphan MDT-object under .lustre/lost+found/MDTxxxx. But if"
+       echo "the MDT (on which the orphan MDT-object resides) has ever"
+       echo "failed to respond some name entry verification durin the"
+       echo "first stage-scanning, then the LFSCK should skip to handle"
+       echo "orphan MDT-object on this MDT. But other MDTs should not"
+       echo "be affected."
+       echo "#####"
+
+       check_mount_and_prep
+       $LFS mkdir -i 0 $DIR/$tdir/d1
+       $LFS mkdir -i 1 $DIR/$tdir/d1/a1
+       $LFS mkdir -i 1 $DIR/$tdir/d1/a2
+
+       $LFS mkdir -i 1 $DIR/$tdir/d2
+       $LFS mkdir -i 0 $DIR/$tdir/d2/a1
+       $LFS mkdir -i 0 $DIR/$tdir/d2/a2
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "d1/a1's name entry will be removed, but the d1/a1's object"
+       echo "and its linkEA are kept in the system. And the case that"
+       echo "d2/a2's name entry will be removed, but the d2/a2's object"
+       echo "and its linkEA are kept in the system."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet mds1 $LCTL set_param fail_loc=0x1624
+       do_facet mds2 $LCTL set_param fail_loc=0x1624
+       rmdir $DIR/$tdir/d1/a1 || error "(1) Fail to rmdir $DIR/$tdir/d1/a1"
+       rmdir $DIR/$tdir/d2/a2 || error "(2) Fail to rmdir $DIR/$tdir/d2/a2"
+       do_facet mds1 $LCTL set_param fail_loc=0
+       do_facet mds2 $LCTL set_param fail_loc=0
+
+       cancel_lru_locks mdc
+       cancel_lru_locks osc
+
+       echo "Inject failure, to simulate the MDT0 fail to handle"
+       echo "MDT1 LFSCK request during the first-stage scanning."
+       #define OBD_FAIL_LFSCK_BAD_NETWORK      0x161c
+       do_facet mds2 $LCTL set_param fail_loc=0x161c fail_val=0
+
+       echo "Trigger namespace LFSCK on all devices to find out orphan object"
+       $START_NAMESPACE -r -A ||
+               error "(3) Fail to start LFSCK for namespace"
+
+       wait_update_facet mds1 "$LCTL get_param -n \
+               mdd.$(facet_svc mds1).lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "partial" 32 || {
+               error "(4) mds1 is not the expected 'partial'"
+       }
+
+       wait_update_facet mds2 "$LCTL get_param -n \
+               mdd.$(facet_svc mds2).lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               error "(5) mds2 is not the expected 'completed'"
+       }
+
+       do_facet mds2 $LCTL set_param fail_loc=0 fail_val=0
+
+       local repaired=$(do_facet mds1 $LCTL get_param -n \
+                        mdd.$(facet_svc mds1).lfsck_namespace |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 0 ] ||
+               error "(6) Expect 0 fixed on mds1, but got: $repaired"
+
+       repaired=$(do_facet mds2 $LCTL get_param -n \
+                  mdd.$(facet_svc mds2).lfsck_namespace |
+                  awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(7) Expect 1 fixed on mds2, but got: $repaired"
+
+       echo "Trigger namespace LFSCK on all devices again to cleanup"
+       $START_NAMESPACE -r -A ||
+               error "(8) Fail to start LFSCK for namespace"
+
+       for k in $(seq $MDSCOUNT); do
+               # The LFSCK status query internal is 30 seconds. For the case
+               # of some LFSCK_NOTIFY RPCs failure/lost, we will wait enough
+               # time to guarantee the status sync up.
+               wait_update_facet mds${k} "$LCTL get_param -n \
+                       mdd.$(facet_svc mds${k}).lfsck_namespace |
+                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       error "(9) MDS${k} is not the expected 'completed'"
+       done
+
+       local repaired=$(do_facet mds1 $LCTL get_param -n \
+                        mdd.$(facet_svc mds1).lfsck_namespace |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(10) Expect 1 fixed on mds1, but got: $repaired"
+
+       repaired=$(do_facet mds2 $LCTL get_param -n \
+                  mdd.$(facet_svc mds2).lfsck_namespace |
+                  awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 0 ] ||
+               error "(11) Expect 0 fixed on mds2, but got: $repaired"
+}
+run_test 28 "Skip the failed MDT(s) when handle orphan MDT-objects"
+
 $LCTL set_param debug=-lfsck > /dev/null || true
 
 # restore MDS/OST size