Whamcloud - gitweb
LU-5624 tests: ignore bad lfsck performance for ZFS backend
[fs/lustre-release.git] / lustre / tests / sanity-lfsck.sh
index 4bb9e36..38c7f3a 100644 (file)
@@ -19,6 +19,8 @@ init_logging
 
 require_dsh_mds || exit 0
 
+LTIME=${LTIME:-120}
+
 SAVED_MDSSIZE=${MDSSIZE}
 SAVED_OSTSIZE=${OSTSIZE}
 SAVED_OSTCOUNT=${OSTCOUNT}
@@ -44,7 +46,7 @@ setupall
        ALWAYS_EXCEPT="$ALWAYS_EXCEPT 11 12 13 14 15 16 17 18 19 20 21"
 
 [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.6.50) ]] &&
-       ALWAYS_EXCEPT="$ALWAYS_EXCEPT 2d 3"
+       ALWAYS_EXCEPT="$ALWAYS_EXCEPT 2d 2e 3 22 23 24 25 26 27 28"
 
 build_test_filter
 
@@ -229,7 +231,7 @@ test_1b()
                         awk '/^updated_phase1/ { print $2 }')
 
        [ $repaired -eq 1 ] ||
-               error "(5) Fail to repair missed FID-in-LMA: $repaired"
+               error "(5) Fail to repair the missing FID-in-LMA: $repaired"
 
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0
        mount_client $MOUNT || error "(6) Fail to start client!"
@@ -240,7 +242,7 @@ test_1b()
 
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0
 }
-run_test 1b "LFSCK can find out and repair missed FID-in-LMA"
+run_test 1b "LFSCK can find out and repair the missing FID-in-LMA"
 
 test_2a() {
        lfsck_prep 1 1
@@ -384,7 +386,41 @@ test_2d()
        [ "$dummyname" == "$DIR/$tdir/dummy" ] ||
                error "(8) Fail to repair linkEA: $dummyfid $dummyname"
 }
-run_test 2d "LFSCK can recover the missed linkEA entry"
+run_test 2d "LFSCK can recover the missing linkEA entry"
+
+test_2e()
+{
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0 on MDT1"
+
+       #define OBD_FAIL_LFSCK_LINKEA_CRASH     0x1603
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1603
+       $LFS mkdir -i 0 $DIR/$tdir/d0/d1 || error "(2) Fail to mkdir d1 on MDT0"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       $START_NAMESPACE -r -A || error "(3) Fail to start LFSCK for namespace!"
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(4) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^linkea_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(5) Fail to repair crashed linkEA: $repaired"
+
+       local fid=$($LFS path2fid $DIR/$tdir/d0/d1)
+       local name=$($LFS fid2path $DIR $fid)
+       [ "$name" == "$DIR/$tdir/d0/d1" ] ||
+               error "(6) Fail to repair linkEA: $fid $name"
+}
+run_test 2e "namespace LFSCK can verify remote object linkEA"
 
 test_3()
 {
@@ -932,9 +968,15 @@ test_9a() {
        local MIN_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 - TIME_DIFF) + \
                            BASE_SPEED2 * (RUN_TIME2 - TIME_DIFF)) / \
                           (RUN_TIME1 + RUN_TIME2) * 8 / 10))
-       # Account for slow ZFS performance - LU-4934
-       [ $SPEED -gt $MIN_SPEED ] || [ $(facet_fstype $SINGLEMDS) -eq zfs ] ||
-               error "(5) Got speed $SPEED, expected more than $MIN_SPEED"
+       [ $SPEED -gt $MIN_SPEED ] || {
+               if [ $(facet_fstype $SINGLEMDS) != ldiskfs ]; then
+                       error_ignore LU-5624 \
+                       "(5.1) Got speed $SPEED, expected more than $MIN_SPEED"
+               else
+                       error \
+                       "(5.2) Got speed $SPEED, expected more than $MIN_SPEED"
+               fi
+       }
 
        # MAX_MARGIN = 1.2 = 12 / 10
        MAX_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 + TIME_DIFF) + \
@@ -1015,8 +1057,15 @@ test_9b() {
        local MIN_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 - TIME_DIFF) + \
                            BASE_SPEED2 * (RUN_TIME2 - TIME_DIFF)) / \
                           (RUN_TIME1 + RUN_TIME2) * 8 / 10))
-       [ $SPEED -gt $MIN_SPEED ] ||[ $(facet_fstype $SINGLEMDS) -eq zfs ] ||
-               error "(9) Got speed $SPEED, expected more than $MIN_SPEED"
+       [ $SPEED -gt $MIN_SPEED ] || {
+               if [ $(facet_fstype $SINGLEMDS) != ldiskfs ]; then
+                       error_ignore LU-5624 \
+                       "(9.1) Got speed $SPEED, expected more than $MIN_SPEED"
+               else
+                       error \
+                       "(9.2) Got speed $SPEED, expected more than $MIN_SPEED"
+               fi
+       }
 
        # MAX_MARGIN = 1.2 = 12 / 10
        MAX_SPEED=$(((BASE_SPEED1 * (RUN_TIME1 + TIME_DIFF) + \
@@ -1229,7 +1278,7 @@ run_test 11b "LFSCK can rebuild crashed last_id"
 
 test_12() {
        [ $MDSCOUNT -lt 2 ] &&
-               skip "We need at least 2 MDSes for test_12" && exit 0
+               skip "We need at least 2 MDSes for test_12" && return
 
        check_mount_and_prep
        for k in $(seq $MDSCOUNT); do
@@ -1362,7 +1411,7 @@ run_test 13 "LFSCK can repair crashed lmm_oi"
 test_14() {
        echo "#####"
        echo "The OST-object referenced by the MDT-object should be there;"
-       echo "otherwise, the LFSCK should re-create the missed OST-object."
+       echo "otherwise, the LFSCK should re-create the missing OST-object."
        echo "#####"
 
        check_mount_and_prep
@@ -1608,7 +1657,7 @@ run_test 17 "LFSCK can repair multiple references"
 test_18a() {
        echo "#####"
        echo "The target MDT-object is there, but related stripe information"
-       echo "is lost or partly lost. The LFSCK should regenerate the missed"
+       echo "is lost or partly lost. The LFSCK should regenerate the missing"
        echo "layout EA entries."
        echo "#####"
 
@@ -1673,7 +1722,7 @@ test_18a() {
                # time to guarantee the status sync up.
                wait_update_facet mds${k} "$LCTL get_param -n \
                        mdd.$(facet_svc mds${k}).lfsck_layout |
-                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       awk '/^status/ { print \\\$2 }'" "completed" $LTIME ||
                        error "(4) MDS${k} is not the expected 'completed'"
        done
 
@@ -1777,7 +1826,7 @@ test_18b() {
                # time to guarantee the status sync up.
                wait_update_facet mds${k} "$LCTL get_param -n \
                        mdd.$(facet_svc mds${k}).lfsck_layout |
-                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       awk '/^status/ { print \\\$2 }'" "completed" $LTIME ||
                        error "(2) MDS${k} is not the expected 'completed'"
        done
 
@@ -1890,7 +1939,7 @@ test_18c() {
                # time to guarantee the status sync up.
                wait_update_facet mds${k} "$LCTL get_param -n \
                        mdd.$(facet_svc mds${k}).lfsck_layout |
-                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       awk '/^status/ { print \\\$2 }'" "completed" $LTIME ||
                        error "(2) MDS${k} is not the expected 'completed'"
        done
 
@@ -1994,7 +2043,7 @@ test_18d() {
 
        wait_update_facet mds1 "$LCTL get_param -n \
                mdd.$(facet_svc mds1).lfsck_layout |
-               awk '/^status/ { print \\\$2 }'" "scanning-phase2" 32 ||
+               awk '/^status/ { print \\\$2 }'" "scanning-phase2" $LTIME ||
                error "(3.0) MDS1 is not the expected 'scanning-phase2'"
 
        do_facet $SINGLEMDS $LCTL set_param fail_val=0 fail_loc=0
@@ -2005,7 +2054,7 @@ test_18d() {
                # time to guarantee the status sync up.
                wait_update_facet mds${k} "$LCTL get_param -n \
                        mdd.$(facet_svc mds${k}).lfsck_layout |
-                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       awk '/^status/ { print \\\$2 }'" "completed" $LTIME ||
                        error "(3) MDS${k} is not the expected 'completed'"
        done
 
@@ -2088,7 +2137,7 @@ test_18e() {
 
        wait_update_facet mds1 "$LCTL get_param -n \
                mdd.$(facet_svc mds1).lfsck_layout |
-               awk '/^status/ { print \\\$2 }'" "scanning-phase2" 32 ||
+               awk '/^status/ { print \\\$2 }'" "scanning-phase2" $LTIME ||
                error "(3) MDS1 is not the expected 'scanning-phase2'"
 
        # to guarantee all updates are synced.
@@ -2106,7 +2155,7 @@ test_18e() {
                # time to guarantee the status sync up.
                wait_update_facet mds${k} "$LCTL get_param -n \
                        mdd.$(facet_svc mds${k}).lfsck_layout |
-                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       awk '/^status/ { print \\\$2 }'" "completed" $LTIME ||
                        error "(4) MDS${k} is not the expected 'completed'"
        done
 
@@ -2222,19 +2271,19 @@ test_18f() {
                # time to guarantee the status sync up.
                wait_update_facet mds${k} "$LCTL get_param -n \
                        mdd.$(facet_svc mds${k}).lfsck_layout |
-                       awk '/^status/ { print \\\$2 }'" "partial" 32 ||
+                       awk '/^status/ { print \\\$2 }'" "partial" $LTIME ||
                        error "(2) MDS${k} is not the expected 'partial'"
        done
 
        wait_update_facet ost1 "$LCTL get_param -n \
                obdfilter.$(facet_svc ost1).lfsck_layout |
-               awk '/^status/ { print \\\$2 }'" "partial" 32 || {
+               awk '/^status/ { print \\\$2 }'" "partial" $LTIME || {
                error "(3) OST1 is not the expected 'partial'"
        }
 
        wait_update_facet ost2 "$LCTL get_param -n \
                obdfilter.$(facet_svc ost2).lfsck_layout |
-               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               awk '/^status/ { print \\\$2 }'" "completed" $LTIME || {
                error "(4) OST2 is not the expected 'completed'"
        }
 
@@ -2263,7 +2312,7 @@ test_18f() {
                # time to guarantee the status sync up.
                wait_update_facet mds${k} "$LCTL get_param -n \
                        mdd.$(facet_svc mds${k}).lfsck_layout |
-                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       awk '/^status/ { print \\\$2 }'" "completed" $LTIME ||
                        error "(8) MDS${k} is not the expected 'completed'"
        done
 
@@ -2677,7 +2726,7 @@ run_test 20 "Handle the orphan with dummy LOV EA slot properly"
 
 test_21() {
        [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.5.59) ]] &&
-               skip "ignore the test if MDS is older than 2.5.59" && exit 0
+               skip "ignore the test if MDS is older than 2.5.59" && return
 
        check_mount_and_prep
        createmany -o $DIR/$tdir/f 100 || error "(0) Fail to create 100 files"
@@ -2702,6 +2751,736 @@ test_21() {
 }
 run_test 21 "run all LFSCK components by default"
 
+test_22a() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "The parent_A references the child directory via some name entry,"
+       echo "but the child directory back references another parent_B via its"
+       echo "".." name entry. The parent_A does not exist. Then the namesapce"
+       echo "LFSCK will repair the child directory's ".." name entry."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/guard || error "(1) Fail to mkdir on MDT1"
+       $LFS mkdir -i 1 $DIR/$tdir/foo || error "(2) Fail to mkdir on MDT1"
+
+       echo "Inject failure stub on MDT0 to simulate bad dotdot name entry"
+       echo "The dummy's dotdot name entry references the guard."
+       #define OBD_FAIL_LFSCK_BAD_PARENT       0x161e
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x161e
+       $LFS mkdir -i 0 $DIR/$tdir/foo/dummy ||
+               error "(3) Fail to mkdir on MDT0"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       rmdir $DIR/$tdir/guard || error "(4) Fail to rmdir $DIR/$tdir/guard"
+
+       echo "Trigger namespace LFSCK to repair unmatched pairs"
+       $START_NAMESPACE -A -r ||
+               error "(5) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(6) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^unmatched_pairs_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(7) Fail to repair unmatched pairs: $repaired"
+
+       echo "'ls' should success after namespace LFSCK repairing"
+       ls -ail $DIR/$tdir/foo/dummy > /dev/null ||
+               error "(8) ls should success."
+}
+run_test 22a "LFSCK can repair unmatched pairs (1)"
+
+test_22b() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "The parent_A references the child directory via the name entry_B,"
+       echo "but the child directory back references another parent_C via its"
+       echo "".." name entry. The parent_C exists, but there is no the name"
+       echo "entry_B under the parent_B. Then the namesapce LFSCK will repair"
+       echo "the child directory's ".." name entry and its linkEA."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/guard || error "(1) Fail to mkdir on MDT1"
+       $LFS mkdir -i 1 $DIR/$tdir/foo || error "(2) Fail to mkdir on MDT1"
+
+       echo "Inject failure stub on MDT0 to simulate bad dotdot name entry"
+       echo "and bad linkEA. The dummy's dotdot name entry references the"
+       echo "guard. The dummy's linkEA references n non-exist name entry."
+       #define OBD_FAIL_LFSCK_BAD_PARENT2      0x161f
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x161f
+       $LFS mkdir -i 0 $DIR/$tdir/foo/dummy ||
+               error "(3) Fail to mkdir on MDT0"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       local dummyfid=$($LFS path2fid $DIR/$tdir/foo/dummy)
+       echo "fid2path should NOT work on the dummy's FID $dummyfid"
+       local dummyname=$($LFS fid2path $DIR $dummyfid)
+       [ "$dummyname" != "$DIR/$tdir/foo/dummy" ] ||
+               error "(4) fid2path works unexpectedly."
+
+       echo "Trigger namespace LFSCK to repair unmatched pairs"
+       $START_NAMESPACE -A -r ||
+               error "(5) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(6) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^unmatched_pairs_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(7) Fail to repair unmatched pairs: $repaired"
+
+       echo "fid2path should work on the dummy's FID $dummyfid after LFSCK"
+       local dummyname=$($LFS fid2path $DIR $dummyfid)
+       [ "$dummyname" == "$DIR/$tdir/foo/dummy" ] ||
+               error "(8) fid2path does not work"
+}
+run_test 22b "LFSCK can repair unmatched pairs (2)"
+
+test_23a() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "The name entry is there, but the MDT-object for such name "
+       echo "entry does not exist. The namespace LFSCK should find out "
+       echo "and repair the inconsistency as required."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0 on MDT0"
+       $LFS mkdir -i 1 $DIR/$tdir/d0/d1 || error "(2) Fail to mkdir d1 on MDT1"
+
+       echo "Inject failure stub on MDT1 to simulate dangling name entry"
+       #define OBD_FAIL_LFSCK_DANGLING2        0x1620
+       do_facet mds2 $LCTL set_param fail_loc=0x1620
+       rmdir $DIR/$tdir/d0/d1 || error "(3) Fail to rmdir d1"
+       do_facet mds2 $LCTL set_param fail_loc=0
+
+       echo "'ls' should fail because of dangling name entry"
+       ls -ail $DIR/$tdir/d0/d1 > /dev/null 2>&1 && error "(4) ls should fail."
+
+       echo "Trigger namespace LFSCK to find out dangling name entry"
+       $START_NAMESPACE -A -r ||
+               error "(5) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(6) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^dangling_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(7) Fail to repair dangling name entry: $repaired"
+
+       echo "'ls' should fail because not re-create MDT-object by default"
+       ls -ail $DIR/$tdir/d0/d1 > /dev/null 2>&1 && error "(8) ls should fail."
+
+       echo "Trigger namespace LFSCK again to repair dangling name entry"
+       $START_NAMESPACE -A -r -C ||
+               error "(9) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(10) unexpected status"
+       }
+
+       repaired=$($SHOW_NAMESPACE |
+                  awk '/^dangling_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(11) Fail to repair dangling name entry: $repaired"
+
+       echo "'ls' should success after namespace LFSCK repairing"
+       ls -ail $DIR/$tdir/d0/d1 > /dev/null || error "(12) ls should success."
+}
+run_test 23a "LFSCK can repair dangling name entry (1)"
+
+test_23b() {
+       echo "#####"
+       echo "The objectA has multiple hard links, one of them corresponding"
+       echo "to the name entry_B. But there is something wrong for the name"
+       echo "entry_B and cause entry_B to references non-exist object_C."
+       echo "In the first-stage scanning, the LFSCK will think the entry_B"
+       echo "as dangling, and re-create the lost object_C. When the LFSCK"
+       echo "comes to the second-stage scanning, it will find that the"
+       echo "former re-creating object_C is not proper, and will try to"
+       echo "replace the object_C with the real object_A."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0 on MDT0"
+       echo "dummy" > $DIR/$tdir/d0/f0 || error "(2) Fail to touch on MDT0"
+       echo "dead" > $DIR/$tdir/d0/f1 || error "(3) Fail to touch on MDT0"
+
+       echo "Inject failure stub on MDT0 to simulate dangling name entry"
+       #define OBD_FAIL_LFSCK_DANGLING3        0x1621
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1621
+       ln $DIR/$tdir/d0/f0 $DIR/$tdir/d0/foo || error "(4) Fail to hard link"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       rm -f $DIR/$tdir/d0/f1 || error "(5) Fail to unlink $DIR/$tdir/d0/f1"
+
+       echo "'ls' should fail because of dangling name entry"
+       ls -ail $DIR/$tdir/d0/foo > /dev/null 2>&1 &&
+               error "(6) ls should fail."
+
+       echo "Trigger namespace LFSCK to find out dangling name entry"
+       $START_NAMESPACE -r -C ||
+               error "(7) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(8) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^dangling_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(9) Fail to repair dangling name entry: $repaired"
+
+       repaired=$($SHOW_NAMESPACE |
+                  awk '/^multiple_linked_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(10) Fail to drop the former created object: $repaired"
+
+       local data=$(cat $DIR/$tdir/d0/foo)
+       [ "$data" == "dummy" ] ||
+               error "(11) The $DIR/$tdir/d0/foo is not recovered: $data"
+}
+run_test 23b "LFSCK can repair dangling name entry (2)"
+
+test_23c() {
+       echo "#####"
+       echo "The objectA has multiple hard links, one of them corresponding"
+       echo "to the name entry_B. But there is something wrong for the name"
+       echo "entry_B and cause entry_B to references non-exist object_C."
+       echo "In the first-stage scanning, the LFSCK will think the entry_B"
+       echo "as dangling, and re-create the lost object_C. And then others"
+       echo "modified the re-created object_C. When the LFSCK comes to the"
+       echo "second-stage scanning, it will find that the former re-creating"
+       echo "object_C maybe wrong and try to replace the object_C with the"
+       echo "real object_A. But because object_C has been modified, so the"
+       echo "LFSCK cannot replace it."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0 on MDT0"
+       echo "dummy" > $DIR/$tdir/d0/f0 || error "(2) Fail to touch on MDT0"
+       echo "dead" > $DIR/$tdir/d0/f1 || error "(3) Fail to touch on MDT0"
+
+       echo "Inject failure stub on MDT0 to simulate dangling name entry"
+       #define OBD_FAIL_LFSCK_DANGLING3        0x1621
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1621
+       ln $DIR/$tdir/d0/f0 $DIR/$tdir/d0/foo || error "(4) Fail to hard link"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       rm -f $DIR/$tdir/d0/f1 || error "(5) Fail to unlink $DIR/$tdir/d0/f1"
+
+       echo "'ls' should fail because of dangling name entry"
+       ls -ail $DIR/$tdir/d0/foo > /dev/null 2>&1 &&
+               error "(6) ls should fail."
+
+       #define OBD_FAIL_LFSCK_DELAY3           0x1602
+       do_facet $SINGLEMDS $LCTL set_param fail_val=10 fail_loc=0x1602
+
+       echo "Trigger namespace LFSCK to find out dangling name entry"
+       $START_NAMESPACE -r -C ||
+               error "(7) Fail to start LFSCK for namespace"
+
+       wait_update_facet client "stat $DIR/$tdir/d0/foo |
+               awk '/Size/ { print \\\$2 }'" "0" 32 || {
+               stat $DIR/$tdir/guard
+               $SHOW_NAMESPACE
+               error "(8) unexpected size"
+       }
+
+       echo "data" >> $DIR/$tdir/d0/foo || error "(9) Fail to write"
+       cancel_lru_locks osc
+
+       do_facet $SINGLEMDS $LCTL set_param fail_val=0 fail_loc=0
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(10) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^dangling_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(11) Fail to repair dangling name entry: $repaired"
+
+       local data=$(cat $DIR/$tdir/d0/foo)
+       [ "$data" != "dummy" ] ||
+               error "(12) The $DIR/$tdir/d0/foo should not be recovered"
+}
+run_test 23c "LFSCK can repair dangling name entry (3)"
+
+test_24() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "Two MDT-objects back reference the same name entry via their"
+       echo "each own linkEA entry, but the name entry only references one"
+       echo "MDT-object. The namespace LFSCK will remove the linkEA entry"
+       echo "for the MDT-object that is not recognized. If such MDT-object"
+       echo "has no other linkEA entry after the removing, then the LFSCK"
+       echo "will add it as orphan under the .lustre/lost+found/MDTxxxx/."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+
+       mkdir $DIR/$tdir/d0/guard || error "(1) Fail to mkdir guard"
+       $LFS path2fid $DIR/$tdir/d0/guard
+
+       mkdir $DIR/$tdir/d0/dummy || error "(2) Fail to mkdir dummy"
+       $LFS path2fid $DIR/$tdir/d0/dummy
+       local pfid=$($LFS path2fid $DIR/$tdir/d0/dummy)
+
+       touch $DIR/$tdir/d0/guard/foo ||
+               error "(3) Fail to touch $DIR/$tdir/d0/guard/foo"
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "the $DIR/$tdir/d0/dummy/foo has the 'bad' linkEA entry"
+       echo "that references $DIR/$tdir/d0/guard/foo."
+       echo "Then remove the name entry $DIR/$tdir/d0/dummy/foo."
+       echo "So the MDT-object $DIR/$tdir/d0/dummy/foo will be left"
+       echo "there with the same linkEA entry as another MDT-object"
+       echo "$DIR/$tdir/d0/guard/foo has"
+
+       #define OBD_FAIL_LFSCK_MUL_REF          0x1622
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1622
+       $LFS mkdir -i 0 $DIR/$tdir/d0/dummy/foo ||
+               error "(4) Fail to mkdir $DIR/$tdir/d0/dummy/foo"
+       local cfid=$($LFS path2fid $DIR/$tdir/d0/dummy/foo)
+       rmdir $DIR/$tdir/d0/dummy/foo ||
+               error "(5) Fail to remove $DIR/$tdir/d0/dummy/foo name entry"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       echo "stat $DIR/$tdir/d0/dummy/foo should fail"
+       stat $DIR/$tdir/d0/dummy/foo > /dev/null 2>&1 &&
+               error "(6) stat successfully unexpectedly"
+
+       echo "Trigger namespace LFSCK to repair multiple-referenced name entry"
+       $START_NAMESPACE -A -r ||
+               error "(7) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(8) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^multiple_referenced_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+       error "(9) Fail to repair multiple referenced name entry: $repaired"
+
+       echo "There should be an orphan under .lustre/lost+found/MDT0000/"
+       [ -d $MOUNT/.lustre/lost+found/MDT0000 ] ||
+               error "(10) $MOUNT/.lustre/lost+found/MDT0000/ should be there"
+
+       local cname="$cfid-$pfid-D-0"
+       ls -ail $MOUNT/.lustre/lost+found/MDT0000/$cname ||
+               error "(11) .lustre/lost+found/MDT0000/ should not be empty"
+}
+run_test 24 "LFSCK can repair multiple-referenced name entry"
+
+test_25() {
+       [ $(facet_fstype $SINGLEMDS) != ldiskfs ] &&
+               skip "Only support to inject failure on ldiskfs" && return
+
+       echo "#####"
+       echo "The file type in the name entry does not match the file type"
+       echo "claimed by the referenced object. Then the LFSCK will update"
+       echo "the file type in the name entry."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "the file type stored in the name entry is wrong."
+
+       #define OBD_FAIL_LFSCK_BAD_TYPE         0x1623
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1623
+       touch $DIR/$tdir/d0/foo || error "(2) Fail to touch $DIR/$tdir/d0/foo"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       echo "Trigger namespace LFSCK to repair bad file type in the name entry"
+       $START_NAMESPACE -r || error "(3) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(4) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^bad_file_type_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+       error "(5) Fail to repair bad file type in name entry: $repaired"
+
+       ls -ail $DIR/$tdir/d0 || error "(6) Fail to 'ls' the $DIR/$tdir/d0"
+}
+run_test 25 "LFSCK can repair bad file type in the name entry"
+
+test_26a() {
+       echo "#####"
+       echo "The local name entry back referenced by the MDT-object is lost."
+       echo "The namespace LFSCK will add the missing local name entry back"
+       echo "to the normal namespace."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       touch $DIR/$tdir/d0/foo || error "(2) Fail to create foo"
+       local foofid=$($LFS path2fid $DIR/$tdir/d0/foo)
+
+       ln $DIR/$tdir/d0/foo $DIR/$tdir/d0/dummy ||
+               error "(3) Fail to hard link to $DIR/$tdir/d0/foo"
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rm -f $DIR/$tdir/d0/foo || error "(4) Fail to unlink $DIR/$tdir/d0/foo"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       ls -ail $DIR/$tdir/d0/foo > /dev/null 2>&1 && "(5) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the missing remote name entry"
+       $START_NAMESPACE -r -A ||
+               error "(6) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(7) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(8) Fail to repair lost dirent: $repaired"
+
+       ls -ail $DIR/$tdir/d0/foo ||
+               error "(9) Fail to 'ls' $DIR/$tdir/d0/foo"
+
+       local foofid2=$($LFS path2fid $DIR/$tdir/d0/foo)
+       [ "$foofid" == "$foofid2" ] ||
+               error "(10) foo's FID changed: $foofid, $foofid2"
+}
+run_test 26a "LFSCK can add the missing local name entry back to the namespace"
+
+test_26b() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "The remote name entry back referenced by the MDT-object is lost."
+       echo "The namespace LFSCK will add the missing remote name entry back"
+       echo "to the normal namespace."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       $LFS mkdir -i 0 $DIR/$tdir/d0/foo || error "(2) Fail to mkdir foo"
+       local foofid=$($LFS path2fid $DIR/$tdir/d0/foo)
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rmdir $DIR/$tdir/d0/foo || error "(3) Fail to rmdir $DIR/$tdir/d0/foo"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       ls -ail $DIR/$tdir/d0/foo > /dev/null 2>&1 && "(4) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the missing remote name entry"
+       $START_NAMESPACE -r -A ||
+               error "(5) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(6) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(7) Fail to repair lost dirent: $repaired"
+
+       ls -ail $DIR/$tdir/d0/foo ||
+               error "(8) Fail to 'ls' $DIR/$tdir/d0/foo"
+
+       local foofid2=$($LFS path2fid $DIR/$tdir/d0/foo)
+       [ "$foofid" == "$foofid2" ] ||
+               error "(9) foo's FID changed: $foofid, $foofid2"
+}
+run_test 26b "LFSCK can add the missing remote name entry back to the namespace"
+
+test_27a() {
+       echo "#####"
+       echo "The local parent referenced by the MDT-object linkEA is lost."
+       echo "The namespace LFSCK will re-create the lost parent as orphan."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 0 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       touch $DIR/$tdir/d0/foo || error "(2) Fail to create foo"
+       ln $DIR/$tdir/d0/foo $DIR/$tdir/d0/dummy ||
+               error "(3) Fail to hard link to $DIR/$tdir/d0/foo"
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system. And then remove"
+       echo "another hard link and the parent directory."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rm -f $DIR/$tdir/d0/foo ||
+               error "(4) Fail to unlink $DIR/$tdir/d0/foo"
+       rm -f $DIR/$tdir/d0/dummy ||
+               error "(5) Fail to unlink $DIR/$tdir/d0/dummy"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       rm -rf $DIR/$tdir/d0 || error "(5) Fail to unlink the dir d0"
+       ls -ail $DIR/$tdir/d0 > /dev/null 2>&1 && "(6) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the lost parent"
+       $START_NAMESPACE -r -A ||
+               error "(6) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(7) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(8) Fail to repair lost dirent: $repaired"
+
+       echo "There should be an orphan under .lustre/lost+found/MDT0000/"
+       [ -d $MOUNT/.lustre/lost+found/MDT0000 ] ||
+               error "(9) $MOUNT/.lustre/lost+found/MDT0000/ should be there"
+
+       ls -ail $MOUNT/.lustre/lost+found/MDT0000/
+
+       cname=$(find $MOUNT/.lustre/lost+found/MDT0000/ -name *-P-*)
+       [ ! -z "$cname" ] ||
+               error "(10) .lustre/lost+found/MDT0000/ should not be empty"
+}
+run_test 27a "LFSCK can recreate the lost local parent directory as orphan"
+
+test_27b() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "We need at least 2 MDSes for this test" && return
+
+       echo "#####"
+       echo "The remote parent referenced by the MDT-object linkEA is lost."
+       echo "The namespace LFSCK will re-create the lost parent as orphan."
+       echo "#####"
+
+       check_mount_and_prep
+
+       $LFS mkdir -i 1 $DIR/$tdir/d0 || error "(1) Fail to mkdir d0"
+       $LFS mkdir -i 0 $DIR/$tdir/d0/foo || error "(2) Fail to mkdir foo"
+
+       $LFS path2fid $DIR/$tdir/d0
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "foo's name entry will be removed, but the foo's object"
+       echo "and its linkEA are kept in the system. And then remove"
+       echo "the parent directory."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x1624
+       rmdir $DIR/$tdir/d0/foo || error "(3) Fail to rmdir $DIR/$tdir/d0/foo"
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+
+       rmdir $DIR/$tdir/d0 || error "(4) Fail to unlink the dir d0"
+       ls -ail $DIR/$tdir/d0 > /dev/null 2>&1 && "(5) 'ls' should fail"
+
+       echo "Trigger namespace LFSCK to repair the missing remote name entry"
+       $START_NAMESPACE -r -A ||
+               error "(6) Fail to start LFSCK for namespace"
+
+       wait_update_facet $SINGLEMDS "$LCTL get_param -n \
+               mdd.${MDT_DEV}.lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               $SHOW_NAMESPACE
+               error "(7) unexpected status"
+       }
+
+       local repaired=$($SHOW_NAMESPACE |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(8) Fail to repair lost dirent: $repaired"
+
+       ls -ail $MOUNT/.lustre/lost+found/
+
+       echo "There should be an orphan under .lustre/lost+found/MDT0001/"
+       [ -d $MOUNT/.lustre/lost+found/MDT0001 ] ||
+               error "(9) $MOUNT/.lustre/lost+found/MDT0001/ should be there"
+
+       ls -ail $MOUNT/.lustre/lost+found/MDT0001/
+
+       cname=$(find $MOUNT/.lustre/lost+found/MDT0001/ -name *-P-*)
+       [ ! -z "$cname" ] ||
+               error "(10) .lustre/lost+found/MDT0001/ should not be empty"
+}
+run_test 27b "LFSCK can recreate the lost remote parent directory as orphan"
+
+test_28() {
+       [ $MDSCOUNT -lt 2 ] &&
+               skip "The test needs at least 2 MDTs" && return
+
+       echo "#####"
+       echo "The target name entry is lost. The LFSCK should insert the"
+       echo "orphan MDT-object under .lustre/lost+found/MDTxxxx. But if"
+       echo "the MDT (on which the orphan MDT-object resides) has ever"
+       echo "failed to respond some name entry verification durin the"
+       echo "first stage-scanning, then the LFSCK should skip to handle"
+       echo "orphan MDT-object on this MDT. But other MDTs should not"
+       echo "be affected."
+       echo "#####"
+
+       check_mount_and_prep
+       $LFS mkdir -i 0 $DIR/$tdir/d1
+       $LFS mkdir -i 1 $DIR/$tdir/d1/a1
+       $LFS mkdir -i 1 $DIR/$tdir/d1/a2
+
+       $LFS mkdir -i 1 $DIR/$tdir/d2
+       $LFS mkdir -i 0 $DIR/$tdir/d2/a1
+       $LFS mkdir -i 0 $DIR/$tdir/d2/a2
+
+       echo "Inject failure stub on MDT0 to simulate the case that"
+       echo "d1/a1's name entry will be removed, but the d1/a1's object"
+       echo "and its linkEA are kept in the system. And the case that"
+       echo "d2/a2's name entry will be removed, but the d2/a2's object"
+       echo "and its linkEA are kept in the system."
+
+       #define OBD_FAIL_LFSCK_NO_NAMEENTRY     0x1624
+       do_facet mds1 $LCTL set_param fail_loc=0x1624
+       do_facet mds2 $LCTL set_param fail_loc=0x1624
+       rmdir $DIR/$tdir/d1/a1 || error "(1) Fail to rmdir $DIR/$tdir/d1/a1"
+       rmdir $DIR/$tdir/d2/a2 || error "(2) Fail to rmdir $DIR/$tdir/d2/a2"
+       do_facet mds1 $LCTL set_param fail_loc=0
+       do_facet mds2 $LCTL set_param fail_loc=0
+
+       cancel_lru_locks mdc
+       cancel_lru_locks osc
+
+       echo "Inject failure, to simulate the MDT0 fail to handle"
+       echo "MDT1 LFSCK request during the first-stage scanning."
+       #define OBD_FAIL_LFSCK_BAD_NETWORK      0x161c
+       do_facet mds2 $LCTL set_param fail_loc=0x161c fail_val=0
+
+       echo "Trigger namespace LFSCK on all devices to find out orphan object"
+       $START_NAMESPACE -r -A ||
+               error "(3) Fail to start LFSCK for namespace"
+
+       wait_update_facet mds1 "$LCTL get_param -n \
+               mdd.$(facet_svc mds1).lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "partial" 32 || {
+               error "(4) mds1 is not the expected 'partial'"
+       }
+
+       wait_update_facet mds2 "$LCTL get_param -n \
+               mdd.$(facet_svc mds2).lfsck_namespace |
+               awk '/^status/ { print \\\$2 }'" "completed" 32 || {
+               error "(5) mds2 is not the expected 'completed'"
+       }
+
+       do_facet mds2 $LCTL set_param fail_loc=0 fail_val=0
+
+       local repaired=$(do_facet mds1 $LCTL get_param -n \
+                        mdd.$(facet_svc mds1).lfsck_namespace |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 0 ] ||
+               error "(6) Expect 0 fixed on mds1, but got: $repaired"
+
+       repaired=$(do_facet mds2 $LCTL get_param -n \
+                  mdd.$(facet_svc mds2).lfsck_namespace |
+                  awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(7) Expect 1 fixed on mds2, but got: $repaired"
+
+       echo "Trigger namespace LFSCK on all devices again to cleanup"
+       $START_NAMESPACE -r -A ||
+               error "(8) Fail to start LFSCK for namespace"
+
+       for k in $(seq $MDSCOUNT); do
+               # The LFSCK status query internal is 30 seconds. For the case
+               # of some LFSCK_NOTIFY RPCs failure/lost, we will wait enough
+               # time to guarantee the status sync up.
+               wait_update_facet mds${k} "$LCTL get_param -n \
+                       mdd.$(facet_svc mds${k}).lfsck_namespace |
+                       awk '/^status/ { print \\\$2 }'" "completed" 32 ||
+                       error "(9) MDS${k} is not the expected 'completed'"
+       done
+
+       local repaired=$(do_facet mds1 $LCTL get_param -n \
+                        mdd.$(facet_svc mds1).lfsck_namespace |
+                        awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 1 ] ||
+               error "(10) Expect 1 fixed on mds1, but got: $repaired"
+
+       repaired=$(do_facet mds2 $LCTL get_param -n \
+                  mdd.$(facet_svc mds2).lfsck_namespace |
+                  awk '/^lost_dirent_repaired/ { print $2 }')
+       [ $repaired -eq 0 ] ||
+               error "(11) Expect 0 fixed on mds2, but got: $repaired"
+}
+run_test 28 "Skip the failed MDT(s) when handle orphan MDT-objects"
+
 $LCTL set_param debug=-lfsck > /dev/null || true
 
 # restore MDS/OST size