lustre/tests/replay-ost-single.sh

   1 #!/bin/bash
   2
   3 set -e
   4
   5 LUSTRE=${LUSTRE:-$(cd $(dirname $0)/..; echo $PWD)}
   6 SETUP=${SETUP:-""}
   7 CLEANUP=${CLEANUP:-""}
   8 . $LUSTRE/tests/test-framework.sh
   9 init_test_env $@
  10 . ${CONFIG:=$LUSTRE/tests/cfg/$NAME.sh}
  11 init_logging
  12
  13 # While we do not use OSTCOUNT=1 setup anymore,
  14 # ost1failover_HOST is used
  15 #ostfailover_HOST=${ostfailover_HOST:-$ost_HOST}
  16 #failover= must be defined in OST_MKFS_OPTIONS if ostfailover_HOST != ost_HOST
  17
  18 require_dsh_ost || exit 0
  19
  20 # Tests that fail on uml
  21 CPU=`awk '/model/ {print $4}' /proc/cpuinfo`
  22 [ "$CPU" = "UML" ] && EXCEPT="$EXCEPT 6"
  23
  24 # Skip these tests
  25 # BUG NUMBER:
  26 ALWAYS_EXCEPT="$REPLAY_OST_SINGLE_EXCEPT"
  27
  28 #
  29 [ "$SLOW" = "no" ] && EXCEPT_SLOW="5"
  30
  31 build_test_filter
  32
  33 check_and_setup_lustre
  34 assert_DIR
  35 rm -rf $DIR/[df][0-9]*
  36
  37 TDIR=$DIR/d0.${TESTSUITE}
  38 mkdir -p $TDIR
  39 $LFS setstripe $TDIR -i 0 -c 1
  40 $LFS getstripe $TDIR
  41
  42 test_0a() {
  43     zconf_umount `hostname` $MOUNT -f
  44     # needs to run during initial client->OST connection
  45     #define OBD_FAIL_OST_ALL_REPLY_NET       0x211
  46     do_facet ost1 "lctl set_param fail_loc=0x80000211"
  47     zconf_mount `hostname` $MOUNT && df $MOUNT || error "0a mount fail"
  48 }
  49 run_test 0a "target handle mismatch (bug 5317) `date +%H:%M:%S`"
  50
  51 test_0b() {
  52     fail ost1
  53     cp /etc/profile  $TDIR/$tfile
  54     sync
  55     diff /etc/profile $TDIR/$tfile
  56     rm -f $TDIR/$tfile
  57 }
  58 run_test 0b "empty replay"
  59
  60 test_1() {
  61     date > $TDIR/$tfile
  62     fail ost1
  63     $CHECKSTAT -t file $TDIR/$tfile || return 1
  64     rm -f $TDIR/$tfile
  65 }
  66 run_test 1 "touch"
  67
  68 test_2() {
  69     for i in `seq 10`; do
  70         echo "tag-$i" > $TDIR/$tfile-$i
  71     done
  72     fail ost1
  73     for i in `seq 10`; do
  74       grep -q "tag-$i" $TDIR/$tfile-$i || error "f2-$i"
  75     done
  76     rm -f $TDIR/$tfile-*
  77 }
  78 run_test 2 "|x| 10 open(O_CREAT)s"
  79
  80 test_3() {
  81     verify=$ROOT/tmp/verify-$$
  82     dd if=/dev/urandom bs=4096 count=1280 | tee $verify > $TDIR/$tfile &
  83     ddpid=$!
  84     sync &
  85     fail ost1
  86     wait $ddpid || return 1
  87     cmp $verify $TDIR/$tfile || return 2
  88     rm -f $verify $TDIR/$tfile
  89 }
  90 run_test 3 "Fail OST during write, with verification"
  91
  92 test_4() {
  93     verify=$ROOT/tmp/verify-$$
  94     dd if=/dev/urandom bs=4096 count=1280 | tee $verify > $TDIR/$tfile
  95     # invalidate cache, so that we're reading over the wire
  96     cancel_lru_locks osc
  97     cmp $verify $TDIR/$tfile &
  98     cmppid=$!
  99     fail ost1
 100     wait $cmppid || return 1
 101     rm -f $verify $TDIR/$tfile
 102 }
 103 run_test 4 "Fail OST during read, with verification"
 104
 105 iozone_bg () {
 106     local args=$@
 107
 108     local tmppipe=$TMP/${TESTSUITE}.${TESTNAME}.pipe
 109     mkfifo $tmppipe
 110
 111     echo "+ iozone $args"
 112     iozone $args > $tmppipe &
 113
 114     local pid=$!
 115
 116     echo "tmppipe=$tmppipe"
 117     echo iozone pid=$pid
 118
 119     # iozone exit code is 0 even if iozone is not completed
 120     # need to check iozone output  on "complete"
 121     local iozonelog=$TMP/${TESTSUITE}.iozone.log
 122     rm -f $iozonelog
 123     cat $tmppipe | while read line ; do
 124         echo "$line"
 125         echo "$line" >>$iozonelog
 126     done;
 127
 128     local rc=0
 129     wait $pid
 130     rc=$?
 131     if ! $(tail -1 $iozonelog | grep -q complete); then
 132         echo iozone failed!
 133         rc=1
 134     fi
 135     rm -f $tmppipe
 136     rm -f $iozonelog
 137     return $rc
 138 }
 139
 140 test_5() {
 141     [ -z "`which iozone 2> /dev/null`" ] && skip_env "iozone missing" && return 0
 142
 143     # striping is -c 1, get min of available
 144     local minavail=$(lctl get_param -n osc.*[oO][sS][cC][-_]*.kbytesavail | sort -n | head -1)
 145     local size=$(( minavail * 3/4 ))
 146     local GB=1048576  # 1048576KB == 1GB
 147
 148     if (( size > GB )); then
 149         size=$GB
 150     fi
 151     local iozone_opts="-i 0 -i 1 -i 2 -+d -r 4 -s $size -f $TDIR/$tfile"
 152
 153     iozone_bg $iozone_opts &
 154     local pid=$!
 155
 156     echo iozone bg pid=$pid
 157
 158     sleep 8
 159     fail ost1
 160     local rc=0
 161     wait $pid
 162     rc=$?
 163     log "iozone rc=$rc"
 164     rm -f $TDIR/$tfile
 165     [ $rc -eq 0 ] || error "iozone failed"
 166     return $rc
 167 }
 168 run_test 5 "Fail OST during iozone"
 169
 170 kbytesfree() {
 171    calc_osc_kbytes kbytesfree
 172 }
 173
 174 test_6() {
 175     remote_mds_nodsh && skip "remote MDS with nodsh" && return 0
 176
 177     f=$TDIR/$tfile
 178     rm -f $f
 179     sync && sleep 2 && sync     # wait for delete thread
 180     before=`kbytesfree`
 181     dd if=/dev/urandom bs=4096 count=1280 of=$f || return 28
 182     lfs getstripe $f
 183     get_stripe_info client $f
 184
 185     sync
 186     sleep 2 # ensure we have a fresh statfs
 187     sync
 188 #define OBD_FAIL_MDS_REINT_NET_REP       0x119
 189     do_facet mds "lctl set_param fail_loc=0x80000119"
 190     after_dd=`kbytesfree`
 191     log "before: $before after_dd: $after_dd"
 192     (( $before > $after_dd )) || return 1
 193     rm -f $f
 194     fail ost$((stripe_index + 1))
 195     wait_recovery_complete ost$((stripe_index + 1)) || error "OST recovery isn't done"
 196     $CHECKSTAT -t file $f && return 2 || true
 197     sync
 198     # let the delete happen
 199     wait_mds_ost_sync || return 4
 200     wait_delete_completed || return 5
 201     after=`kbytesfree`
 202     log "before: $before after: $after"
 203     (( $before <= $after + 40 )) || return 3    # take OST logs into account
 204 }
 205 run_test 6 "Fail OST before obd_destroy"
 206
 207 test_7() {
 208     f=$TDIR/$tfile
 209     rm -f $f
 210     sync && sleep 2 && sync     # wait for delete thread
 211     before=`kbytesfree`
 212     dd if=/dev/urandom bs=4096 count=1280 of=$f || return 4
 213     sync
 214     sleep 2 # ensure we have a fresh statfs
 215     sync
 216     after_dd=`kbytesfree`
 217     log "before: $before after_dd: $after_dd"
 218     (( $before > $after_dd )) || return 1
 219     replay_barrier ost1
 220     rm -f $f
 221     fail ost1
 222     wait_recovery_complete ost1 || error "OST recovery isn't done"
 223     $CHECKSTAT -t file $f && return 2 || true
 224     sync
 225     # let the delete happen
 226     wait_mds_ost_sync || return 4
 227     wait_delete_completed || return 5
 228     after=`kbytesfree`
 229     log "before: $before after: $after"
 230     (( $before <= $after + 40 )) || return 3 # take OST logs into account
 231 }
 232 run_test 7 "Fail OST before obd_destroy"
 233
 234 test_8a() {
 235     [ -z "$(lctl get_param -n osc.${FSNAME}-*.connect_flags|grep einprogress)" \
 236         ] && skip_env "OSTs don't support EINPROGRESS" && return
 237     verify=$ROOT/tmp/verify-$$
 238     dd if=/dev/urandom of=$verify bs=4096 count=1280 ||
 239         error "Create verify file failed"
 240 #define OBD_FAIL_OST_DQACQ_NET           0x230
 241     do_facet ost1 "lctl set_param fail_loc=0x230"
 242     dd if=$verify of=$TDIR/$tfile bs=4096 count=1280 oflag=sync &
 243     ddpid=$!
 244     sleep $TIMEOUT  # wait for the io to become redo io
 245     if ! ps -p $ddpid  > /dev/null 2>&1; then
 246             error "redo io finished incorrectly"
 247             return 1
 248     fi
 249     do_facet ost1 "lctl set_param fail_loc=0"
 250     wait $ddpid || true
 251     cancel_lru_locks osc
 252     cmp $verify $TDIR/$tfile || return 2
 253     rm -f $verify $TDIR/$tfile
 254         message=`dmesg | grep "redo for recoverable error -115"`
 255         [ -z "$message" ] || error "redo error messages found in dmesg"
 256 }
 257 run_test 8a "Verify redo io: redo io when get -EINPROGRESS error"
 258
 259 test_8b() {
 260     [ -z "$(lctl get_param -n osc.${FSNAME}-*.connect_flags|grep einprogress)" \
 261         ] && skip_env "OSTs don't support EINPROGRESS" && return
 262     verify=$ROOT/tmp/verify-$$
 263     dd if=/dev/urandom of=$verify bs=4096 count=1280 ||
 264         error "Create verify file failed"
 265 #define OBD_FAIL_OST_DQACQ_NET           0x230
 266     do_facet ost1 "lctl set_param fail_loc=0x230"
 267     dd if=$verify of=$TDIR/$tfile bs=4096 count=1280 oflag=sync &
 268     ddpid=$!
 269     sleep $TIMEOUT  # wait for the io to become redo io
 270     fail ost1
 271     do_facet ost1 "lctl set_param fail_loc=0"
 272     wait $ddpid || return 1
 273     cancel_lru_locks osc
 274     cmp $verify $TDIR/$tfile || return 2
 275     rm -f $verify $TDIR/$tfile
 276 }
 277 run_test 8b "Verify redo io: redo io should success after recovery"
 278
 279 test_8c() {
 280     [ -z "$(lctl get_param -n osc.${FSNAME}-*.connect_flags|grep einprogress)" \
 281         ] && skip_env "OSTs don't support EINPROGRESS" && return
 282     verify=$ROOT/tmp/verify-$$
 283     dd if=/dev/urandom of=$verify bs=4096 count=1280 ||
 284         error "Create verify file failed"
 285 #define OBD_FAIL_OST_DQACQ_NET           0x230
 286     do_facet ost1 "lctl set_param fail_loc=0x230"
 287     dd if=$verify of=$TDIR/$tfile bs=4096 count=1280 oflag=sync &
 288     ddpid=$!
 289     sleep $TIMEOUT  # wait for the io to become redo io
 290     ost_evict_client
 291     # allow recovery to complete
 292     sleep $((TIMEOUT + 2))
 293     do_facet ost1 "lctl set_param fail_loc=0"
 294     wait $ddpid
 295     cancel_lru_locks osc
 296     cmp $verify $TDIR/$tfile && return 2
 297     rm -f $verify $TDIR/$tfile
 298 }
 299 run_test 8c "Verify redo io: redo io should fail after eviction"
 300
 301 test_8d() {
 302     [ -z "$(lctl get_param -n mdc.${FSNAME}-*.connect_flags|grep einprogress)" \
 303         ] && skip_env "MDS doesn't support EINPROGRESS" && return
 304 #define OBD_FAIL_MDS_DQACQ_NET           0x187
 305     do_facet mds "lctl set_param fail_loc=0x187"
 306     # test the non-intent create path
 307     mcreate $TDIR/$tfile &
 308     cpid=$!
 309     sleep $TIMEOUT
 310     if ! ps -p $cpid  > /dev/null 2>&1; then
 311             error "mknod finished incorrectly"
 312             return 1
 313     fi
 314     do_facet mds "lctl set_param fail_loc=0"
 315     wait $cpid || return 2
 316     stat $TDIR/$tfile || error "mknod failed"
 317
 318     rm $TDIR/$tfile
 319
 320 #define OBD_FAIL_MDS_DQACQ_NET           0x187
 321     do_facet mds "lctl set_param fail_loc=0x187"
 322     # test the intent create path
 323     openfile -f O_RDWR:O_CREAT $TDIR/$tfile &
 324     cpid=$!
 325     sleep $TIMEOUT
 326     if ! ps -p $cpid > /dev/null 2>&1; then
 327             error "open finished incorrectly"
 328             return 3
 329     fi
 330     do_facet mds "lctl set_param fail_loc=0"
 331     wait $cpid || return 4
 332     stat $TDIR/$tfile || error "open failed"
 333 }
 334 run_test 8d "Verify redo creation on -EINPROGRESS"
 335
 336 test_8e() {
 337     [ -z "$(lctl get_param -n osc.${FSNAME}-*.connect_flags|grep einprogress)" \
 338         ] && skip_env "OSTs don't support EINPROGRESS" && return
 339     sleep 1 # ensure we have a fresh statfs
 340 #define OBD_FAIL_OST_STATFS_EINPROGRESS  0x231
 341     do_facet ost1 "lctl set_param fail_loc=0x231"
 342     df $MOUNT &
 343     dfpid=$!
 344     sleep $TIMEOUT
 345     if ! ps -p $dfpid  > /dev/null 2>&1; then
 346         do_facet ost1 "lctl set_param fail_loc=0"
 347         error "df shouldn't have completed!"
 348         return 1
 349     fi
 350     do_facet ost1 "lctl set_param fail_loc=0"
 351 }
 352 run_test 8e "Verify that ptlrpc resends request on -EINPROGRESS"
 353
 354 complete $(basename $0) $SECONDS
 355 check_and_cleanup_lustre
 356 exit_status