Whamcloud - gitweb
LU-1804 tests: skip OI scrub speed test under UP env
[fs/lustre-release.git] / lustre / tests / sanity-scrub.sh
index 4d1c114..1ce2737 100644 (file)
@@ -33,8 +33,12 @@ build_test_filter
 
 MDT_DEV="${FSNAME}-MDT0000"
 MDT_DEVNAME=$(mdsdevname ${SINGLEMDS//mds/})
+START_SCRUB="do_facet $SINGLEMDS $LCTL lfsck_start -M ${MDT_DEV}"
+STOP_SCRUB="do_facet $SINGLEMDS $LCTL lfsck_stop -M ${MDT_DEV}"
 SHOW_SCRUB="do_facet $SINGLEMDS \
                $LCTL get_param -n osd-ldiskfs.${MDT_DEV}.oi_scrub"
+MOUNT_OPTS_SCRUB="-o user_xattr"
+MOUNT_OPTS_NOSCRUB="-o user_xattr,noscrub"
 
 scrub_prep() {
        local nfiles=$1
@@ -59,14 +63,14 @@ scrub_prep() {
 test_0() {
        scrub_prep 0
        echo "start $SINGLEMDS without disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_SCRUB > /dev/null ||
                error "(1) Fail to start MDS!"
 
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "init" ] ||
                error "(2) Expect 'init', but got '$STATUS'"
 
-       local FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ -z "$FLAGS" ] || error "(3) Expect empty flags, but got '$FLAGS'"
 
        mount_client $MOUNT || error "(4) Fail to start client!"
@@ -81,11 +85,11 @@ test_1a() {
        mds_remove_ois || error "(1) Fail to remove/recreate!"
 
        echo "start $SINGLEMDS without disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_SCRUB > /dev/null ||
                error "(2) Fail to start MDS!"
 
        sleep 3
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "completed" ] ||
                error "(3) Expect 'completed', but got '$STATUS'"
 
@@ -96,16 +100,51 @@ test_1a() {
 }
 run_test 1a "Trigger OI scrub when MDT mounts for OI files remove/recreate case"
 
+test_1b() {
+       local index
+
+       # OI files to be removed:
+       # idx 0: oi.16.0
+       # idx 1: oi.16.1
+       # idx 2: oi.16.{2,4,8,16,32}
+       # idx 3: oi.16.{3,9,27}
+       # idx 5: oi.16.{5,25}
+       # idx 7: oi.16.{7,49}
+       for index in 0 1 2 3 5 7; do
+               scrub_prep 0
+               mds_remove_ois ${index} || error "(1) Fail to remove/recreate!"
+
+               echo "start $SINGLEMDS with disabling OI scrub"
+               start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > \
+                       /dev/null || error "(2) Fail to start MDS!"
+
+               local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+               [ "$FLAGS" == "recreated" ] ||
+                       error "(3) Expect 'recreated', but got '$STATUS'"
+
+               $START_SCRUB || error "(4) Fail to start OI scrub!"
+               sleep 3
+               local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+               [ "$STATUS" == "completed" ] ||
+                       error "(5) Expect 'completed', but got '$STATUS'"
+
+               FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+               [ -z "$FLAGS" ] ||
+                       error "(6) Expect empty flags, but got '$FLAGS'"
+       done
+}
+run_test 1b "Auto detect kinds of OI file(s) removed/recreated cases"
+
 test_2() {
        scrub_prep 0
        mds_backup_restore || error "(1) Fail to backup/restore!"
 
        echo "start $SINGLEMDS without disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_SCRUB > /dev/null ||
                error "(2) Fail to start MDS!"
 
        sleep 3
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "completed" ] ||
                error "(3) Expect 'completed', but got '$STATUS'"
 
@@ -121,14 +160,14 @@ test_3() {
        mds_backup_restore || error "(1) Fail to backup/restore!"
 
        echo "start $SINGLEMDS with disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS,noscrub > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
                error "(2) Fail to start MDS!"
 
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "init" ] ||
                error "(3) Expect 'init', but got '$STATUS'"
 
-       local FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ "$FLAGS" == "inconsistent" ] ||
                error "(4) Expect 'inconsistent', but got '$FLAGS'"
        echo "stopall"
@@ -141,14 +180,14 @@ test_4() {
        mds_backup_restore || error "(1) Fail to backup/restore!"
 
        echo "start $SINGLEMDS with disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS,noscrub > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
                error "(2) Fail to start MDS!"
 
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "init" ] ||
                error "(3) Expect 'init', but got '$STATUS'"
 
-       local FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ "$FLAGS" == "inconsistent" ] ||
                error "(4) Expect 'inconsistent', but got '$FLAGS'"
 
@@ -160,7 +199,7 @@ test_4() {
                error "(6) File diff failed unexpected!"
 
        sleep 3
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "completed" ] ||
                error "(7) Expect 'completed', but got '$STATUS'"
 }
@@ -171,14 +210,14 @@ test_5() {
        mds_backup_restore || error "(1) Fail to backup/restore!"
 
        echo "start $SINGLEMDS with disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS,noscrub > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
                error "(2) Fail to start MDS!"
 
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "init" ] ||
                error "(3) Expect 'init', but got '$STATUS'"
 
-       local FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ "$FLAGS" == "inconsistent" ] ||
                error "(4) Expect 'inconsistent', but got '$FLAGS'"
 
@@ -186,7 +225,7 @@ test_5() {
 
        do_facet $SINGLEMDS \
                $LCTL set_param -n osd-ldiskfs.${MDT_DEV}.auto_scrub 1
-#define OBD_FAIL_OSD_SCRUB_DELAY        0x190
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
        do_facet $SINGLEMDS $LCTL set_param fail_val=3
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
        diff -q $LUSTRE/tests/test-framework.sh $DIR/$tdir/test-framework.sh ||
@@ -194,65 +233,65 @@ test_5() {
 
        umount_client $MOUNT || error "(7) Fail to stop client!"
 
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "scanning" ] ||
                error "(8) Expect 'scanning', but got '$STATUS'"
 
-#define OBD_FAIL_OSD_SCRUB_CRASH        0x191
+       #define OBD_FAIL_OSD_SCRUB_CRASH         0x191
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x80000191
        sleep 4
        echo "stop $SINGLEMDS"
        stop $SINGLEMDS > /dev/null || error "(9) Fail to stop MDS!"
 
        echo "start $SINGLEMDS with disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS,noscrub > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
                error "(10) Fail to start MDS!"
 
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "crashed" ] ||
                error "(11) Expect 'crashed', but got '$STATUS'"
 
        echo "stop $SINGLEMDS"
        stop $SINGLEMDS > /dev/null || error "(12) Fail to stop MDS!"
 
-#define OBD_FAIL_OSD_SCRUB_DELAY        0x190
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
        do_facet $SINGLEMDS $LCTL set_param fail_val=3
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
        echo "start $SINGLEMDS without disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_SCRUB > /dev/null ||
                error "(13) Fail to start MDS!"
 
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "scanning" ] ||
                error "(14) Expect 'scanning', but got '$STATUS'"
 
-#define OBD_FAIL_OSD_SCRUB_FATAL        0x192
+       #define OBD_FAIL_OSD_SCRUB_FATAL         0x192
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x80000192
        sleep 4
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "failed" ] ||
                error "(15) Expect 'failed', but got '$STATUS'"
 
        mount_client $MOUNT || error "(16) Fail to start client!"
 
-#define OBD_FAIL_OSD_SCRUB_DELAY        0x190
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
        do_facet $SINGLEMDS $LCTL set_param fail_val=3
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
        stat $DIR/$tdir/${tfile}1000 ||
                error "(17) Fail to stat $DIR/$tdir/${tfile}1000!"
 
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "scanning" ] ||
                error "(18) Expect 'scanning', but got '$STATUS'"
 
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0
        do_facet $SINGLEMDS $LCTL set_param fail_val=0
        sleep 5
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "completed" ] ||
                error "(19) Expect 'completed', but got '$STATUS'"
 
-       FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ -z "$FLAGS" ] || error "(20) Expect empty flags, but got '$FLAGS'"
 }
 run_test 5 "OI scrub state machine"
@@ -262,14 +301,14 @@ test_6() {
        mds_backup_restore || error "(1) Fail to backup/restore!"
 
        echo "start $SINGLEMDS with disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS,noscrub > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
                error "(2) Fail to start MDS!"
 
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "init" ] ||
                error "(3) Expect 'init', but got '$STATUS'"
 
-       local FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ "$FLAGS" == "inconsistent" ] ||
                error "(4) Expect 'inconsistent', but got '$FLAGS'"
 
@@ -277,64 +316,69 @@ test_6() {
 
        do_facet $SINGLEMDS \
                $LCTL set_param -n osd-ldiskfs.${MDT_DEV}.auto_scrub 1
-#define OBD_FAIL_OSD_SCRUB_DELAY        0x190
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
        do_facet $SINGLEMDS $LCTL set_param fail_val=3
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
        diff -q $LUSTRE/tests/test-framework.sh $DIR/$tdir/test-framework.sh ||
                error "(6) File diff failed unexpected!"
 
-       # Fail the OI scrub to guarantee there is at least on checkpoint
-#define OBD_FAIL_OSD_SCRUB_FATAL        0x192
+       # Sleep 5 sec to guarantee at least one object processed by OI scrub
+       sleep 5
+       # Fail the OI scrub to guarantee there is at least one checkpoint
+       #define OBD_FAIL_OSD_SCRUB_FATAL         0x192
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x80000192
        sleep 4
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "failed" ] ||
                error "(7) Expect 'failed', but got '$STATUS'"
 
-#define OBD_FAIL_OSD_SCRUB_DELAY        0x190
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
        do_facet $SINGLEMDS $LCTL set_param fail_val=3
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
+       # stat will re-trigger OI scrub
        stat $DIR/$tdir/${tfile}800 ||
                error "(8) Fail to stat $DIR/$tdir/${tfile}800!"
 
        umount_client $MOUNT || error "(9) Fail to stop client!"
 
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "scanning" ] ||
                error "(10) Expect 'scanning', but got '$STATUS'"
 
-#define OBD_FAIL_OSD_SCRUB_CRASH        0x191
+       #define OBD_FAIL_OSD_SCRUB_CRASH         0x191
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x80000191
        sleep 4
-       local POSITION0=$($SHOW_SCRUB | sed -n '11'p | awk '{print $2}')
+       local POSITION0=$($SHOW_SCRUB |
+                       awk '/^last_checkpoint_position/ {print $2}')
        POSITION0=$((POSITION0 + 1))
 
        echo "stop $SINGLEMDS"
        stop $SINGLEMDS > /dev/null || error "(11) Fail to stop MDS!"
 
-#define OBD_FAIL_OSD_SCRUB_DELAY        0x190
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
        do_facet $SINGLEMDS $LCTL set_param fail_val=3
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
        echo "start $SINGLEMDS without disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_SCRUB > /dev/null ||
                error "(12) Fail to start MDS!"
 
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "scanning" ] ||
                error "(13) Expect 'scanning', but got '$STATUS'"
 
-       local POSITION1=$($SHOW_SCRUB | sed -n '10'p |awk '{print $2}')
+       local POSITION1=$($SHOW_SCRUB |
+                       awk '/^latest_start_position/ {print $2}')
        [ $POSITION0 -eq $POSITION1 ] ||
                error "(14) Expect position: $POSITION0, but got $POSITION1"
 
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0
        do_facet $SINGLEMDS $LCTL set_param fail_val=0
        sleep 5
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "completed" ] ||
                error "(15) Expect 'completed', but got '$STATUS'"
 
-       FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ -z "$FLAGS" ] || error "(16) Expect empty flags, but got '$FLAGS'"
 }
 run_test 6 "OI scrub resumes from last checkpoint"
@@ -344,14 +388,14 @@ test_7() {
        mds_backup_restore || error "(1) Fail to backup/restore!"
 
        echo "start $SINGLEMDS with disabling OI scrub"
-       start $SINGLEMDS $MDT_DEVNAME $MDS_MOUNT_OPTS,noscrub > /dev/null ||
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
                error "(2) Fail to start MDS!"
 
-       local STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "init" ] ||
                error "(3) Expect 'init', but got '$STATUS'"
 
-       local FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ "$FLAGS" == "inconsistent" ] ||
                error "(4) Expect 'inconsistent', but got '$FLAGS'"
 
@@ -359,7 +403,7 @@ test_7() {
 
        do_facet $SINGLEMDS \
                $LCTL set_param -n osd-ldiskfs.${MDT_DEV}.auto_scrub 1
-#define OBD_FAIL_OSD_SCRUB_DELAY        0x190
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
        do_facet $SINGLEMDS $LCTL set_param fail_val=3
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
        diff -q $LUSTRE/tests/test-framework.sh $DIR/$tdir/test-framework.sh ||
@@ -368,26 +412,269 @@ test_7() {
        stat $DIR/$tdir/${tfile}300 ||
                error "(7) Fail to stat $DIR/$tdir/${tfile}300!"
 
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "scanning" ] ||
                error "(8) Expect 'scanning', but got '$STATUS'"
 
-       FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ "$FLAGS" == "inconsistent,auto" ] ||
                error "(9) Expect 'inconsistent,auto', but got '$FLAGS'"
 
        do_facet $SINGLEMDS $LCTL set_param fail_loc=0
        do_facet $SINGLEMDS $LCTL set_param fail_val=0
        sleep 5
-       STATUS=$($SHOW_SCRUB | sed -n '4'p | awk '{print $2}')
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
        [ "$STATUS" == "completed" ] ||
                error "(10) Expect 'completed', but got '$STATUS'"
 
-       FLAGS=$($SHOW_SCRUB | sed -n '5'p | awk '{print $2}')
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
        [ -z "$FLAGS" ] || error "(11) Expect empty flags, but got '$FLAGS'"
 }
 run_test 7 "System is available during OI scrub scanning"
 
+test_8() {
+       scrub_prep 0
+       mds_backup_restore || error "(1) Fail to backup/restore!"
+
+       echo "start $SINGLEMDS with disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
+               error "(2) Fail to start MDS!"
+
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "init" ] ||
+               error "(3) Expect 'init', but got '$STATUS'"
+
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ "$FLAGS" == "inconsistent" ] ||
+               error "(4) Expect 'inconsistent', but got '$FLAGS'"
+
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
+       do_facet $SINGLEMDS $LCTL set_param fail_val=3
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
+       $START_SCRUB || error "(5) Fail to start OI scrub!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "scanning" ] ||
+               error "(6) Expect 'scanning', but got '$STATUS'"
+
+       $STOP_SCRUB || error "(7) Fail to stop OI scrub!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "stopped" ] ||
+               error "(8) Expect 'stopped', but got '$STATUS'"
+
+       $START_SCRUB || error "(9) Fail to start OI scrub!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "scanning" ] ||
+               error "(10) Expect 'scanning', but got '$STATUS'"
+
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+       do_facet $SINGLEMDS $LCTL set_param fail_val=0
+       sleep 5
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "completed" ] ||
+               error "(11) Expect 'completed', but got '$STATUS'"
+
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ -z "$FLAGS" ] || error "(12) Expect empty flags, but got '$FLAGS'"
+}
+run_test 8 "Control OI scrub manually"
+
+test_9() {
+       if [ -z "$(grep "processor.*: 1" /proc/cpuinfo)" ]; then
+               skip "Testing on UP system, the speed may be inaccurate."
+               return 0
+       fi
+
+       scrub_prep 8000
+       mds_backup_restore || error "(1) Fail to backup/restore!"
+
+       echo "start $SINGLEMDS with disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
+               error "(2) Fail to start MDS!"
+
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "init" ] ||
+               error "(3) Expect 'init', but got '$STATUS'"
+
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ "$FLAGS" == "inconsistent" ] ||
+               error "(4) Expect 'inconsistent', but got '$FLAGS'"
+
+       # OI scrub should run with full speed under inconsistent case
+       $START_SCRUB -s 100 || error "(5) Fail to start OI scrub!"
+
+       sleep 10
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "completed" ] ||
+               error "(6) Expect 'completed', but got '$STATUS'"
+
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ -z "$FLAGS" ] || error "(7) Expect empty flags, but got '$FLAGS'"
+
+       # OI scrub should run with limited speed under non-inconsistent case
+       $START_SCRUB -s 100 -r || error "(8) Fail to start OI scrub!"
+
+       sleep 10
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "scanning" ] ||
+               error "(9) Expect 'scanning', but got '$STATUS'"
+
+       # Do NOT ignore that there are 1024 pre-fetched items.
+       # So the max speed may be (1024 + 100 * 10) / 10.
+       # And there may be time error, so the max speed may be more large.
+       local SPEED=$($SHOW_SCRUB | awk '/^average_speed/ { print $2 }')
+       [ $SPEED -gt 220 ] &&
+               error "(10) Unexpected speed $SPEED, should not more than 220"
+
+       # adjust speed limit
+       do_facet $SINGLEMDS \
+               $LCTL set_param -n mdd.${MDT_DEV}.lfsck_speed_limit 300
+       sleep 10
+
+       SPEED=$($SHOW_SCRUB | awk '/^average_speed/ { print $2 }')
+       [ $SPEED -lt 220 ] &&
+               error "(11) Unexpected speed $SPEED, should not less than 220"
+
+       [ $SPEED -gt 300 ] &&
+               error "(12) Unexpected speed $SPEED, should not more than 300"
+
+       do_facet $SINGLEMDS \
+               $LCTL set_param -n mdd.${MDT_DEV}.lfsck_speed_limit 0
+       sleep 6
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "completed" ] ||
+               error "(13) Expect 'completed', but got '$STATUS'"
+}
+run_test 9 "OI scrub speed control"
+
+test_10a() {
+       scrub_prep 0
+       mds_backup_restore || error "(1) Fail to backup/restore!"
+
+       echo "start $SINGLEMDS with disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
+               error "(2) Fail to start MDS!"
+
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "init" ] ||
+               error "(3) Expect 'init', but got '$STATUS'"
+
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ "$FLAGS" == "inconsistent" ] ||
+               error "(4) Expect 'inconsistent', but got '$FLAGS'"
+
+       mount_client $MOUNT || error "(5) Fail to start client!"
+
+       do_facet $SINGLEMDS \
+               $LCTL set_param -n osd-ldiskfs.${MDT_DEV}.auto_scrub 1
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
+       do_facet $SINGLEMDS $LCTL set_param fail_val=3
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
+       diff -q $LUSTRE/tests/test-framework.sh $DIR/$tdir/test-framework.sh ||
+               error "(6) File diff failed unexpected!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "scanning" ] ||
+               error "(7) Expect 'scanning', but got '$STATUS'"
+
+       umount_client $MOUNT || error "(8) Fail to stop client!"
+
+       echo "stop $SINGLEMDS"
+       stop $SINGLEMDS > /dev/null || error "(9) Fail to stop MDS!"
+
+       echo "start $SINGLEMDS with disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
+               error "(10) Fail to start MDS!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "paused" ] ||
+               error "(11) Expect 'paused', but got '$STATUS'"
+
+       echo "stop $SINGLEMDS"
+       stop $SINGLEMDS > /dev/null || error "(12) Fail to stop MDS!"
+
+       echo "start $SINGLEMDS without disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_SCRUB > /dev/null ||
+               error "(13) Fail to start MDS!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "scanning" ] ||
+               error "(14) Expect 'scanning', but got '$STATUS'"
+
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+       do_facet $SINGLEMDS $LCTL set_param fail_val=0
+       sleep 5
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "completed" ] ||
+               error "(15) Expect 'completed', but got '$STATUS'"
+
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ -z "$FLAGS" ] || error "(16) Expect empty flags, but got '$FLAGS'"
+}
+run_test 10a "non-stopped OI scrub should auto restarts after MDS remount (1)"
+
+test_10b() {
+       scrub_prep 0
+       mds_backup_restore || error "(1) Fail to backup/restore!"
+
+       echo "start $SINGLEMDS with disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
+               error "(2) Fail to start MDS!"
+
+       local STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "init" ] ||
+               error "(3) Expect 'init', but got '$STATUS'"
+
+       local FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ "$FLAGS" == "inconsistent" ] ||
+               error "(4) Expect 'inconsistent', but got '$FLAGS'"
+
+       #define OBD_FAIL_OSD_SCRUB_DELAY         0x190
+       do_facet $SINGLEMDS $LCTL set_param fail_val=3
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0x190
+
+       $START_SCRUB || error "(5) Fail to start OI scrub!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "scanning" ] ||
+               error "(6) Expect 'scanning', but got '$STATUS'"
+
+       echo "stop $SINGLEMDS"
+       stop $SINGLEMDS > /dev/null || error "(7) Fail to stop MDS!"
+
+       echo "start $SINGLEMDS with disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_NOSCRUB > /dev/null ||
+               error "(8) Fail to start MDS!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "paused" ] ||
+               error "(9) Expect 'paused', but got '$STATUS'"
+
+       echo "stop $SINGLEMDS"
+       stop $SINGLEMDS > /dev/null || error "(10) Fail to stop MDS!"
+
+       echo "start $SINGLEMDS without disabling OI scrub"
+       start $SINGLEMDS $MDT_DEVNAME $MOUNT_OPTS_SCRUB > /dev/null ||
+               error "(11) Fail to start MDS!"
+
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "scanning" ] ||
+               error "(12) Expect 'scanning', but got '$STATUS'"
+
+       do_facet $SINGLEMDS $LCTL set_param fail_loc=0
+       do_facet $SINGLEMDS $LCTL set_param fail_val=0
+       sleep 5
+       STATUS=$($SHOW_SCRUB | awk '/^status/ { print $2 }')
+       [ "$STATUS" == "completed" ] ||
+               error "(13) Expect 'completed', but got '$STATUS'"
+
+       FLAGS=$($SHOW_SCRUB | awk '/^flags/ { print $2 }')
+       [ -z "$FLAGS" ] || error "(14) Expect empty flags, but got '$FLAGS'"
+}
+run_test 10b "non-stopped OI scrub should auto restarts after MDS remount (2)"
+
 # restore the ${facet}_MKFS_OPTS variables
 for facet in MGS MDS OST; do
        opts=SAVED_${facet}_MKFS_OPTS