lustre/tests/sanityn.sh

   1 #!/bin/bash
   2
   3 set -e
   4
   5 ONLY=${ONLY:-"$*"}
   6 # bug number for skipped test: 3192 15528/3811 16929 9977 15528/11549 18080
   7 ALWAYS_EXCEPT="                14b  19         22    28   29          35    $SANITYN_EXCEPT"
   8 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
   9
  10 # bug number for skipped test:                                                    12652 12652
  11 grep -q 'Enterprise Server 10' /etc/SuSE-release && ALWAYS_EXCEPT="$ALWAYS_EXCEPT 11    14" || true
  12
  13 # Tests that fail on uml
  14 [ "$UML" = "true" ] && EXCEPT="$EXCEPT 7"
  15
  16 # It will be ported soon.
  17 EXCEPT="$EXCEPT 22"
  18
  19 SRCDIR=`dirname $0`
  20 PATH=$PWD/$SRCDIR:$SRCDIR:$SRCDIR/../utils:$PATH
  21
  22 SIZE=${SIZE:-40960}
  23 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
  24 GETSTRIPE=${GETSTRIPE:-lfs getstripe}
  25 SETSTRIPE=${SETSTRIPE:-lstripe}
  26 MCREATE=${MCREATE:-mcreate}
  27 OPENFILE=${OPENFILE:-openfile}
  28 OPENUNLINK=${OPENUNLINK:-openunlink}
  29 TRUNCATE=${TRUNCATE:-truncate}
  30 export TMP=${TMP:-/tmp}
  31 MOUNT_2=${MOUNT_2:-"yes"}
  32 CHECK_GRANT=${CHECK_GRANT:-"yes"}
  33 GRANT_CHECK_LIST=${GRANT_CHECK_LIST:-""}
  34
  35 SAVE_PWD=$PWD
  36
  37 export NAME=${NAME:-local}
  38
  39 LUSTRE=${LUSTRE:-`dirname $0`/..}
  40 . $LUSTRE/tests/test-framework.sh
  41 CLEANUP=${CLEANUP:-:}
  42 SETUP=${SETUP:-:}
  43 init_test_env $@
  44 . ${CONFIG:=$LUSTRE/tests/cfg/$NAME.sh}
  45 init_logging
  46
  47 [ "$SLOW" = "no" ] && EXCEPT_SLOW="12 16 23 33a"
  48
  49 SANITYLOG=${TESTSUITELOG:-$TMP/$(basename $0 .sh).log}
  50 FAIL_ON_ERROR=false
  51
  52 SETUP=${SETUP:-:}
  53 TRACE=${TRACE:-""}
  54
  55 [ "$SANITYLOG" ] && rm -f $SANITYLOG || true
  56
  57 check_and_setup_lustre
  58
  59 LOVNAME=`lctl get_param -n llite.*.lov.common_name | tail -n 1`
  60 OSTCOUNT=`lctl get_param -n lov.$LOVNAME.numobd`
  61
  62 assert_DIR
  63 rm -rf $DIR1/[df][0-9]* $DIR1/lnk
  64
  65 # $RUNAS_ID may get set incorrectly somewhere else
  66 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] && error "\$RUNAS_ID set to 0, but \$UID is also 0!"
  67
  68 check_runas_id $RUNAS_ID $RUNAS_GID $RUNAS
  69
  70 build_test_filter
  71
  72 mkdir -p $MOUNT2
  73 mount_client $MOUNT2
  74
  75 test_1a() {
  76         touch $DIR1/f1
  77         [ -f $DIR2/f1 ] || error
  78 }
  79 run_test 1a "check create on 2 mtpt's =========================="
  80
  81 test_1b() {
  82         chmod 777 $DIR2/f1
  83         $CHECKSTAT -t file -p 0777 $DIR1/f1 || error
  84         chmod a-x $DIR2/f1
  85 }
  86 run_test 1b "check attribute updates on 2 mtpt's ==============="
  87
  88 test_1c() {
  89         $CHECKSTAT -t file -p 0666 $DIR1/f1 || error
  90 }
  91 run_test 1c "check after remount attribute updates on 2 mtpt's ="
  92
  93 test_1d() {
  94         rm $DIR2/f1
  95         $CHECKSTAT -a $DIR1/f1 || error
  96 }
  97 run_test 1d "unlink on one mountpoint removes file on other ===="
  98
  99 test_2a() {
 100         touch $DIR1/f2a
 101         ls -l $DIR2/f2a
 102         chmod 777 $DIR2/f2a
 103         $CHECKSTAT -t file -p 0777 $DIR1/f2a || error
 104 }
 105 run_test 2a "check cached attribute updates on 2 mtpt's ========"
 106
 107 test_2b() {
 108         touch $DIR1/f2b
 109         ls -l $DIR2/f2b
 110         chmod 777 $DIR1/f2b
 111         $CHECKSTAT -t file -p 0777 $DIR2/f2b || error
 112 }
 113 run_test 2b "check cached attribute updates on 2 mtpt's ========"
 114
 115 # NEED TO SAVE ROOT DIR MODE
 116 test_2c() {
 117         chmod 777 $DIR1
 118         $CHECKSTAT -t dir -p 0777 $DIR2 || error
 119 }
 120 run_test 2c "check cached attribute updates on 2 mtpt's root ==="
 121
 122 test_2d() {
 123         chmod 755 $DIR1
 124         $CHECKSTAT -t dir -p 0755 $DIR2 || error
 125 }
 126 run_test 2d "check cached attribute updates on 2 mtpt's root ==="
 127
 128 test_2e() {
 129         chmod 755 $DIR1
 130         ls -l $DIR1
 131         ls -l $DIR2
 132         chmod 777 $DIR1
 133         $RUNAS dd if=/dev/zero of=$DIR2/$tfile count=1 || error
 134 }
 135 run_test 2e "check chmod on root is propagated to others"
 136
 137 test_3() {
 138         ( cd $DIR1 ; ln -s this/is/good $tfile )
 139         [ "this/is/good" = "`perl -e 'print readlink("'$DIR2/$tfile'");'`" ] ||
 140                 error "link $DIR2/$tfile not as expected"
 141 }
 142 run_test 3 "symlink on one mtpt, readlink on another ==========="
 143
 144 test_4() {
 145         multifstat $DIR1/f4 $DIR2/f4
 146 }
 147 run_test 4 "fstat validation on multiple mount points =========="
 148
 149 test_5() {
 150         mcreate $DIR1/f5
 151         truncate $DIR2/f5 100
 152         $CHECKSTAT -t file -s 100 $DIR1/f5 || error
 153         rm $DIR1/f5
 154 }
 155 run_test 5 "create a file on one mount, truncate it on the other"
 156
 157 test_6() {
 158         openunlink $DIR1/$tfile $DIR2/$tfile || \
 159                 error "openunlink $DIR1/$tfile $DIR2/$tfile"
 160 }
 161 run_test 6 "remove of open file on other node =================="
 162
 163 test_7() {
 164         local dir=d7
 165         opendirunlink $DIR1/$dir $DIR2/$dir || \
 166                 error "opendirunlink $DIR1/$dir $DIR2/$dir"
 167 }
 168 run_test 7 "remove of open directory on other node ============="
 169
 170 test_8() {
 171         opendevunlink $DIR1/$tfile $DIR2/$tfile || \
 172                 error "opendevunlink $DIR1/$tfile $DIR2/$tfile"
 173 }
 174 run_test 8 "remove of open special file on other node =========="
 175
 176 test_9() {
 177         MTPT=1
 178         local dir
 179         > $DIR2/f9
 180         for C in a b c d e f g h i j k l; do
 181                 dir=`eval echo \\$DIR$MTPT`
 182                 echo -n $C >> $dir/f9
 183                 [ "$MTPT" -eq 1 ] && MTPT=2 || MTPT=1
 184         done
 185         [ "`cat $DIR1/f9`" = "abcdefghijkl" ] || \
 186                 error "`od -a $DIR1/f9` != abcdefghijkl"
 187 }
 188 run_test 9 "append of file with sub-page size on multiple mounts"
 189
 190 test_10a() {
 191         MTPT=1
 192         local dir
 193         OFFSET=0
 194         > $DIR2/f10
 195         for C in a b c d e f g h i j k l; do
 196                 dir=`eval echo \\$DIR$MTPT`
 197                 echo -n $C | dd of=$dir/f10 bs=1 seek=$OFFSET count=1
 198                 [ "$MTPT" -eq 1 ] && MTPT=2 || MTPT=1
 199                 OFFSET=`expr $OFFSET + 1`
 200         done
 201         [ "`cat $DIR1/f10`" = "abcdefghijkl" ] || \
 202                 error "`od -a $DIR1/f10` != abcdefghijkl"
 203 }
 204 run_test 10a "write of file with sub-page size on multiple mounts "
 205
 206 test_10b() {
 207         # create a seed file
 208         yes "R" | head -c 4000 >$TMP/f10b-seed
 209         dd if=$TMP/f10b-seed of=$DIR1/f10b bs=3k count=1 || error "dd $DIR1"
 210
 211         truncate $DIR1/f10b 4096 || error "truncate 4096"
 212
 213         dd if=$DIR2/f10b of=$TMP/f10b-lustre bs=4k count=1 || error "dd $DIR2"
 214
 215         # create a test file locally to compare
 216         dd if=$TMP/f10b-seed of=$TMP/f10b bs=3k count=1 || error "dd random"
 217         truncate $TMP/f10b 4096 || error "truncate 4096"
 218         cmp $TMP/f10b $TMP/f10b-lustre || error "file miscompare"
 219         rm $TMP/f10b $TMP/f10b-lustre $TMP/f10b-seed
 220 }
 221 run_test 10b "write of file with sub-page size on multiple mounts "
 222
 223 test_11() {
 224         mkdir $DIR1/d11
 225         multiop_bg_pause $DIR1/d11/f O_c || return 1
 226         MULTIPID=$!
 227         cp -p /bin/ls $DIR1/d11/f
 228         $DIR2/d11/f
 229         RC=$?
 230         kill -USR1 $MULTIPID
 231         wait $MULTIPID || error
 232         [ $RC -eq 0 ] && error || true
 233 }
 234 run_test 11 "execution of file opened for write should return error ===="
 235
 236 test_12() {
 237        DIR=$DIR DIR2=$DIR2 sh lockorder.sh
 238 }
 239 run_test 12 "test lock ordering (link, stat, unlink) ==========="
 240
 241 test_13() {     # bug 2451 - directory coherency
 242        rm -rf $DIR1/d13
 243        mkdir $DIR1/d13 || error
 244        cd $DIR1/d13 || error
 245        ls
 246        ( touch $DIR1/d13/f13 ) # needs to be a separate shell
 247        ls
 248        rm -f $DIR2/d13/f13 || error
 249        ls 2>&1 | grep f13 && error "f13 shouldn't return an error (1)" || true
 250        # need to run it twice
 251        ( touch $DIR1/d13/f13 ) # needs to be a separate shell
 252        ls
 253        rm -f $DIR2/d13/f13 || error
 254        ls 2>&1 | grep f13 && error "f13 shouldn't return an error (2)" || true
 255 }
 256 run_test 13 "test directory page revocation ===================="
 257
 258 test_14() {
 259         mkdir -p $DIR1/$tdir
 260         cp -p /bin/ls $DIR1/$tdir/$tfile
 261         multiop_bg_pause $DIR1/$tdir/$tfile Ow_c || return 1
 262         MULTIPID=$!
 263
 264         $DIR2/$tdir/$tfile && error || true
 265         kill -USR1 $MULTIPID
 266         wait $MULTIPID || return 2
 267 }
 268 run_test 14 "execution of file open for write returns -ETXTBSY ="
 269
 270 test_14a() {
 271         mkdir -p $DIR1/d14
 272         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 273         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 274         MULTIOP_PID=$!
 275         multiop $DIR2/d14/multiop Oc && error "expected error, got success"
 276         kill -USR1 $MULTIOP_PID || return 2
 277         wait $MULTIOP_PID || return 3
 278         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 279 }
 280 run_test 14a "open(RDWR) of executing file returns -ETXTBSY ===="
 281
 282 test_14b() { # bug 3192, 7040
 283         mkdir -p $DIR1/d14
 284         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 285         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 286         MULTIOP_PID=$!
 287         truncate $DIR2/d14/multiop 0 && kill -9 $MULTIOP_PID && \
 288                 error "expected truncate error, got success"
 289         kill -USR1 $MULTIOP_PID || return 2
 290         wait $MULTIOP_PID || return 3
 291         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
 292         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 293 }
 294 run_test 14b "truncate of executing file returns -ETXTBSY ======"
 295
 296 test_14c() { # bug 3430, 7040
 297         mkdir -p $DIR1/d14
 298         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 299         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 300         MULTIOP_PID=$!
 301         cp /etc/hosts $DIR2/d14/multiop && error "expected error, got success"
 302         kill -USR1 $MULTIOP_PID || return 2
 303         wait $MULTIOP_PID || return 3
 304         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
 305         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 306 }
 307 run_test 14c "open(O_TRUNC) of executing file return -ETXTBSY =="
 308
 309 test_14d() { # bug 10921
 310         mkdir -p $DIR1/d14
 311         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 312         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 313         MULTIOP_PID=$!
 314         log chmod
 315         chmod 600 $DIR1/d14/multiop || error "chmod failed"
 316         kill -USR1 $MULTIOP_PID || return 2
 317         wait $MULTIOP_PID || return 3
 318         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
 319         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 320 }
 321 run_test 14d "chmod of executing file is still possible ========"
 322
 323 test_15() {     # bug 974 - ENOSPC
 324         echo "PATH=$PATH"
 325         sh oos2.sh $MOUNT1 $MOUNT2
 326         grant_error=`dmesg | grep "> available"`
 327         [ -z "$grant_error" ] || error "$grant_error"
 328 }
 329 run_test 15 "test out-of-space with multiple writers ==========="
 330
 331 test_16() {
 332         rm -f $MOUNT1/fsxfile
 333         lfs setstripe $MOUNT1/fsxfile -c -1 # b=10919
 334         fsx -c 50 -p 100 -N 2500 -l $((SIZE * 256)) -S 0 $MOUNT1/fsxfile $MOUNT2/fsxfile
 335 }
 336 run_test 16 "2500 iterations of dual-mount fsx ================="
 337
 338 test_17() { # bug 3513, 3667
 339         remote_ost_nodsh && skip "remote OST with nodsh" && return
 340
 341         lfs setstripe $DIR1/$tfile -i 0 -c 1
 342         cp /etc/termcap $DIR1/$tfile
 343         cancel_lru_locks osc > /dev/null
 344         #define OBD_FAIL_ONCE|OBD_FAIL_LDLM_CREATE_RESOURCE    0x30a
 345         do_facet ost1 lctl set_param fail_loc=0x8000030a
 346         ls -ls $DIR1/$tfile | awk '{ print $1,$6 }' > $DIR1/$tfile-1 & \
 347         ls -ls $DIR2/$tfile | awk '{ print $1,$6 }' > $DIR2/$tfile-2
 348         wait
 349         diff -u $DIR1/$tfile-1 $DIR2/$tfile-2 || error "files are different"
 350 }
 351 run_test 17 "resource creation/LVB creation race ==============="
 352
 353 test_18() {
 354         $LUSTRE/tests/mmap_sanity -d $MOUNT1 -m $MOUNT2
 355         sync; sleep 1; sync
 356 }
 357 run_test 18 "mmap sanity check ================================="
 358
 359 test_19() { # bug3811
 360         [ -d /proc/fs/lustre/obdfilter ] || return 0
 361
 362         MAX=`lctl get_param -n obdfilter.*.readcache_max_filesize | head -n 1`
 363         lctl set_param -n obdfilter.*OST*.readcache_max_filesize=4096
 364         dd if=/dev/urandom of=$TMP/f19b bs=512k count=32
 365         SUM=`cksum $TMP/f19b | cut -d" " -f 1,2`
 366         cp $TMP/f19b $DIR1/f19b
 367         for i in `seq 1 20`; do
 368                 [ $((i % 5)) -eq 0 ] && log "test_18 loop $i"
 369                 cancel_lru_locks osc > /dev/null
 370                 cksum $DIR1/f19b | cut -d" " -f 1,2 > $TMP/sum1 & \
 371                 cksum $DIR2/f19b | cut -d" " -f 1,2 > $TMP/sum2
 372                 wait
 373                 [ "`cat $TMP/sum1`" = "$SUM" ] || \
 374                         error "$DIR1/f19b `cat $TMP/sum1` != $SUM"
 375                 [ "`cat $TMP/sum2`" = "$SUM" ] || \
 376                         error "$DIR2/f19b `cat $TMP/sum2` != $SUM"
 377         done
 378         lctl set_param -n obdfilter.*OST*.readcache_max_filesize=$MAX
 379         rm $DIR1/f19b
 380 }
 381 run_test 19 "test concurrent uncached read races ==============="
 382
 383 test_20() {
 384         mkdir $DIR1/d20
 385         cancel_lru_locks osc
 386         CNT=$((`lctl get_param -n llite.*.dump_page_cache | wc -l`))
 387         multiop $DIR1/f20 Ow8190c
 388         multiop $DIR2/f20 Oz8194w8190c
 389         multiop $DIR1/f20 Oz0r8190c
 390         cancel_lru_locks osc
 391         CNTD=$((`lctl get_param -n llite.*.dump_page_cache | wc -l` - $CNT))
 392         [ $CNTD -gt 0 ] && \
 393             error $CNTD" page left in cache after lock cancel" || true
 394 }
 395 run_test 20 "test extra readahead page left in cache ===="
 396
 397 cleanup_21() {
 398         trap 0
 399         umount $DIR1/d21
 400 }
 401
 402 test_21() { # Bug 5907
 403         mkdir $DIR1/d21
 404         mount /etc $DIR1/d21 --bind || error "mount failed" # Poor man's mount.
 405         trap cleanup_21 EXIT
 406         rmdir -v $DIR1/d21 && error "Removed mounted directory"
 407         rmdir -v $DIR2/d21 && echo "Removed mounted directory from another mountpoint, needs to be fixed"
 408         test -d $DIR1/d21 || error "Mounted directory disappeared"
 409         cleanup_21
 410         test -d $DIR2/d21 || test -d $DIR1/d21 && error "Removed dir still visible after umount"
 411         true
 412 }
 413 run_test 21 " Try to remove mountpoint on another dir ===="
 414
 415 test_23() { # Bug 5972
 416         echo "others should see updated atime while another read" > $DIR1/f23
 417
 418         # clear the lock(mode: LCK_PW) gotten from creating operation
 419         cancel_lru_locks osc
 420
 421         time1=`date +%s`
 422         #MAX_ATIME_DIFF 60, we update atime only if older than 60 seconds
 423         sleep 61
 424
 425         multiop_bg_pause $DIR1/f23 or20_c || return 1
 426         # with SOM and opencache enabled, we need to close a file and cancel
 427         # open lock to get atime propogated to MDS
 428         kill -USR1 $!
 429         cancel_lru_locks mdc
 430
 431         time2=`stat -c "%X" $DIR2/f23`
 432
 433         if (( $time2 <= $time1 )); then
 434                 error "atime doesn't update among nodes"
 435         fi
 436
 437         rm -f $DIR1/f23 || error "rm -f $DIR1/f23 failed"
 438         true
 439 }
 440 run_test 23 " others should see updated atime while another read===="
 441
 442 test_24a() {
 443         touch $DIR1/$tfile
 444         lfs df || error "lfs df failed"
 445         lfs df -ih || error "lfs df -ih failed"
 446         lfs df -h $DIR1 || error "lfs df -h $DIR1 failed"
 447         lfs df -i $DIR2 || error "lfs df -i $DIR2 failed"
 448         lfs df $DIR1/$tfile || error "lfs df $DIR1/$tfile failed"
 449         lfs df -ih $DIR2/$tfile || error "lfs df -ih $DIR2/$tfile failed"
 450
 451         OSC=`lctl dl | awk '/-osc-|OSC.*MNT/ {print $4}' | head -n 1`
 452 #       OSC=`lctl dl | awk '/-osc-/ {print $4}' | head -n 1`
 453         lctl --device %$OSC deactivate
 454         lfs df -i || error "lfs df -i with deactivated OSC failed"
 455         lctl --device %$OSC recover
 456         lfs df || error "lfs df with reactivated OSC failed"
 457 }
 458 run_test 24a "lfs df [-ih] [path] test ========================="
 459
 460 test_24b() {
 461         touch $DIR1/$tfile
 462         fsnum=`lfs df | grep -c "filesystem summary:"`
 463         [ $fsnum -eq 2 ] || error "lfs df shows $fsnum != 2 filesystems."
 464 }
 465 run_test 24b "lfs df should show both filesystems ==============="
 466
 467 test_25() {
 468         [ `lctl get_param -n mdc.*-mdc-*.connect_flags | grep -c acl` -lt 2 ] && \
 469             skip "must have acl, skipping" && return
 470
 471         mkdir -p $DIR1/$tdir
 472         touch $DIR1/$tdir/f1 || error "touch $DIR1/$tdir/f1"
 473         chmod 0755 $DIR1/$tdir/f1 || error "chmod 0755 $DIR1/$tdir/f1"
 474
 475         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #1"
 476         setfacl -m u:$RUNAS_ID:--- -m g:$RUNAS_GID:--- $DIR1/$tdir || error "setfacl $DIR2/$tdir #1"
 477         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #2"
 478         setfacl -m u:$RUNAS_ID:r-x -m g:$RUNAS_GID:r-x $DIR1/$tdir || error "setfacl $DIR2/$tdir #2"
 479         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #3"
 480         setfacl -m u:$RUNAS_ID:--- -m g:$RUNAS_GID:--- $DIR1/$tdir || error "setfacl $DIR2/$tdir #3"
 481         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #4"
 482         setfacl -x u:$RUNAS_ID: -x g:$RUNAS_GID: $DIR1/$tdir || error "setfacl $DIR2/$tdir #4"
 483         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #5"
 484
 485         rm -rf $DIR1/$tdir
 486 }
 487 run_test 25 "change ACL on one mountpoint be seen on another ==="
 488
 489 test_26a() {
 490         utime $DIR1/f26a -s $DIR2/f26a || error
 491 }
 492 run_test 26a "allow mtime to get older"
 493
 494 test_26b() {
 495         touch $DIR1/$tfile
 496         sleep 1
 497         echo "aaa" >> $DIR1/$tfile
 498         sleep 1
 499         chmod a+x $DIR2/$tfile
 500         mt1=`stat -c %Y $DIR1/$tfile`
 501         mt2=`stat -c %Y $DIR2/$tfile`
 502
 503         if [ x"$mt1" != x"$mt2" ]; then
 504                 error "not equal mtime, client1: "$mt1", client2: "$mt2"."
 505         fi
 506 }
 507 run_test 26b "sync mtime between ost and mds"
 508
 509 test_27() {
 510         cancel_lru_locks osc
 511         lctl clear
 512         dd if=/dev/zero of=$DIR2/$tfile bs=$((4096+4))k conv=notrunc count=4 seek=3 &
 513         DD2_PID=$!
 514         usleep 50
 515         log "dd 1 started"
 516
 517         dd if=/dev/zero of=$DIR1/$tfile bs=$((16384-1024))k conv=notrunc count=1 seek=4 &
 518         DD1_PID=$!
 519         log "dd 2 started"
 520
 521         sleep 1
 522         dd if=/dev/zero of=$DIR1/$tfile bs=8k conv=notrunc count=1 seek=0
 523         log "dd 3 finished"
 524         lctl set_param -n ldlm.dump_namespaces ""
 525         wait $DD1_PID $DD2_PID
 526         [ $? -ne 0 ] && lctl dk $TMP/debug || true
 527 }
 528 run_test 27 "align non-overlapping extent locks from request ==="
 529
 530 test_28() { # bug 9977
 531         ECHO_UUID="ECHO_osc1_UUID"
 532         tOST=`$LCTL dl | | awk '/-osc-|OSC.*MNT/ { print $4 }' | head -1`
 533
 534         lfs setstripe $DIR1/$tfile -s 1048576 -i 0 -c 2
 535         tOBJID=`lfs getstripe $DIR1/$tfile |grep "^[[:space:]]\+1" |awk '{print $2}'`
 536         dd if=/dev/zero of=$DIR1/$tfile bs=1024k count=2
 537
 538         $LCTL <<-EOF
 539                 newdev
 540                 attach echo_client ECHO_osc1 $ECHO_UUID
 541                 setup $tOST
 542         EOF
 543
 544         tECHOID=`$LCTL dl | grep $ECHO_UUID | awk '{print $1}'`
 545         $LCTL --device $tECHOID destroy "${tOBJID}:0"
 546
 547         $LCTL <<-EOF
 548                 cfg_device ECHO_osc1
 549                 cleanup
 550                 detach
 551         EOF
 552
 553         # reading of 1st stripe should pass
 554         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 || error
 555         # reading of 2nd stripe should fail (this stripe was destroyed)
 556         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 skip=1 && error
 557
 558         # now, recreating test file
 559         dd if=/dev/zero of=$DIR1/$tfile bs=1024k count=2 || error
 560         # reading of 1st stripe should pass
 561         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 || error
 562         # reading of 2nd stripe should pass
 563         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 skip=1 || error
 564 }
 565 run_test 28 "read/write/truncate file with lost stripes"
 566
 567 test_29() { # bug 10999
 568         touch $DIR1/$tfile
 569         #define OBD_FAIL_LDLM_GLIMPSE  0x30f
 570         lctl set_param fail_loc=0x8000030f
 571         ls -l $DIR2/$tfile &
 572         usleep 500
 573         dd if=/dev/zero of=$DIR1/$tfile bs=4k count=1
 574         wait
 575 }
 576 #bug 11549 - permanently turn test off in b1_5
 577 run_test 29 "lock put race between glimpse and enqueue ========="
 578
 579 test_30() { #bug #11110
 580     mkdir -p $DIR1/$tdir
 581     cp -f /bin/bash $DIR1/$tdir/bash
 582     /bin/sh -c 'sleep 1; rm -f $DIR2/$tdir/bash; cp /bin/bash $DIR2/$tdir' &
 583     err=$($DIR1/$tdir/bash -c 'sleep 2; openfile -f O_RDONLY /proc/$$/exe >& /dev/null; echo $?')
 584     wait
 585     [ $err -ne 116 ] && error_ignore 12900 "return code ($err) != -ESTALE" && return
 586     true
 587 }
 588
 589 run_test 30 "recreate file race ========="
 590
 591 test_31a() {
 592         mkdir -p $DIR1/$tdir || error "Creating dir $DIR1/$tdir"
 593         writes=`LANG=C dd if=/dev/zero of=$DIR/$tdir/$tfile count=1 2>&1 |
 594                 awk 'BEGIN { FS="+" } /out/ {print $1}'`
 595         #define OBD_FAIL_LDLM_CANCEL_BL_CB_RACE   0x314
 596         lctl set_param fail_loc=0x314
 597         reads=`LANG=C dd if=$DIR2/$tdir/$tfile of=/dev/null 2>&1 |
 598                awk 'BEGIN { FS="+" } /in/ {print $1}'`
 599         [ $reads -eq $writes ] || error "read" $reads "blocks, must be" $writes
 600 }
 601 run_test 31a "voluntary cancel / blocking ast race=============="
 602
 603 test_31b() {
 604         remote_ost || { skip "local OST" && return 0; }
 605         remote_ost_nodsh && skip "remote OST w/o dsh" && return 0
 606         mkdir -p $DIR1/$tdir || error "Creating dir $DIR1/$tdir"
 607         lfs setstripe $DIR/$tdir/$tfile -i 0 -c 1
 608         cp /etc/hosts $DIR/$tdir/$tfile
 609         #define OBD_FAIL_LDLM_CANCEL_BL_CB_RACE   0x314
 610         lctl set_param fail_loc=0x314
 611         #define OBD_FAIL_LDLM_OST_FAIL_RACE      0x316
 612         do_facet ost1 lctl set_param fail_loc=0x316
 613         # Don't crash kernel
 614         cat $DIR2/$tdir/$tfile > /dev/null 2>&1
 615         lctl set_param fail_loc=0
 616         do_facet ost1 lctl set_param fail_loc=0
 617         # cleanup: reconnect the client back
 618         df $DIR2
 619 }
 620 run_test 31b "voluntary OST cancel / blocking ast race=============="
 621
 622 # enable/disable lockless truncate feature, depending on the arg 0/1
 623 enable_lockless_truncate() {
 624         lctl set_param -n osc.*.lockless_truncate $1
 625 }
 626
 627 test_32a() { # bug 11270
 628         local p="$TMP/sanityN-$TESTNAME.parameters"
 629         save_lustre_params $HOSTNAME osc.*.lockless_truncate > $p
 630         cancel_lru_locks osc
 631         enable_lockless_truncate 1
 632         rm -f $DIR1/$tfile
 633         lfs setstripe -c -1 $DIR1/$tfile
 634         dd if=/dev/zero of=$DIR1/$tfile count=10 bs=1M > /dev/null 2>&1
 635         clear_osc_stats
 636
 637         log "checking cached lockless truncate"
 638         $TRUNCATE $DIR1/$tfile 8000000
 639         $CHECKSTAT -s 8000000 $DIR2/$tfile || error "wrong file size"
 640         [ $(calc_osc_stats lockless_truncate) -eq 0 ] ||
 641                 error "lockless truncate doesn't use cached locks"
 642
 643         log "checking not cached lockless truncate"
 644         $TRUNCATE $DIR2/$tfile 5000000
 645         $CHECKSTAT -s 5000000 $DIR1/$tfile || error "wrong file size"
 646         [ $(calc_osc_stats lockless_truncate) -ne 0 ] ||
 647                 error "not cached trancate isn't lockless"
 648
 649         log "disabled lockless truncate"
 650         enable_lockless_truncate 0
 651         clear_osc_stats
 652         $TRUNCATE $DIR2/$tfile 3000000
 653         $CHECKSTAT -s 3000000 $DIR1/$tfile || error "wrong file size"
 654         [ $(calc_osc_stats lockless_truncate) -eq 0 ] ||
 655                 error "lockless truncate disabling failed"
 656         rm $DIR1/$tfile
 657         # restore lockless_truncate default values
 658         restore_lustre_params < $p
 659         rm -f $p
 660 }
 661 run_test 32a "lockless truncate"
 662
 663 test_32b() { # bug 11270
 664         remote_ost_nodsh && skip "remote OST with nodsh" && return
 665
 666         local node
 667         local p="$TMP/sanityN-$TESTNAME.parameters"
 668         save_lustre_params $HOSTNAME "osc.*.contention_seconds" > $p
 669         for node in $(osts_nodes); do
 670                 save_lustre_params $node "ldlm.namespaces.filter-*.max_nolock_bytes" >> $p
 671                 save_lustre_params $node "ldlm.namespaces.filter-*.contended_locks" >> $p
 672                 save_lustre_params $node "ldlm.namespaces.filter-*.contention_seconds" >> $p
 673         done
 674         clear_osc_stats
 675         # agressive lockless i/o settings
 676         for node in $(osts_nodes); do
 677                 do_node $node 'lctl set_param -n ldlm.namespaces.filter-*.max_nolock_bytes 2000000; lctl set_param -n ldlm.namespaces.filter-*.contended_locks 0; lctl set_param -n ldlm.namespaces.filter-*.contention_seconds 60'
 678         done
 679         lctl set_param -n osc.*.contention_seconds 60
 680         for i in $(seq 5); do
 681                 dd if=/dev/zero of=$DIR1/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 682                 dd if=/dev/zero of=$DIR2/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 683         done
 684         [ $(calc_osc_stats lockless_write_bytes) -ne 0 ] || error "lockless i/o was not triggered"
 685         # disable lockless i/o (it is disabled by default)
 686         for node in $(osts_nodes); do
 687                 do_node $node 'lctl set_param -n ldlm.namespaces.filter-*.max_nolock_bytes 0; lctl set_param -n ldlm.namespaces.filter-*.contended_locks 32; lctl set_param -n ldlm.namespaces.filter-*.contention_seconds 0'
 688         done
 689         # set contention_seconds to 0 at client too, otherwise Lustre still
 690         # remembers lock contention
 691         lctl set_param -n osc.*.contention_seconds 0
 692         clear_osc_stats
 693         for i in $(seq 1); do
 694                 dd if=/dev/zero of=$DIR1/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 695                 dd if=/dev/zero of=$DIR2/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 696         done
 697         [ $(calc_osc_stats lockless_write_bytes) -eq 0 ] ||
 698                 error "lockless i/o works when disabled"
 699         rm -f $DIR1/$tfile
 700         restore_lustre_params <$p
 701         rm -f $p
 702 }
 703 run_test 32b "lockless i/o"
 704
 705 print_jbd_stat () {
 706     local dev
 707     local mdts=$(get_facets MDS)
 708     local varcvs
 709     local mds
 710
 711     local stat=0
 712     for mds in ${mdts//,/ }; do
 713         varsvc=${mds}_svc
 714         dev=$(basename $(do_facet $mds lctl get_param -n osd.${!varsvc}.mntdev))
 715         val=$(do_facet $mds "procfile=/proc/fs/jbd/$dev/info;
 716 [ -f \\\$procfile ] || procfile=/proc/fs/jbd2/$dev/info;
 717 [ -f \\\$procfile ] || procfile=/proc/fs/jbd2/${dev}\:\\\*/info;
 718 cat \\\$procfile | head -1;")
 719         val=${val%% *};
 720         stat=$(( stat + val))
 721     done
 722     echo $stat
 723 }
 724
 725 # commit on sharing tests
 726 test_33a() {
 727     remote_mds_nodsh && skip "remote MDS with nodsh" && return
 728
 729     [ -n "$CLIENTS" ] || { skip "Need two or more clients" && return 0; }
 730     [ $CLIENTCOUNT -ge 2 ] || \
 731         { skip "Need two or more clients, have $CLIENTCOUNT" && return 0; }
 732
 733     local nfiles=${TEST33_NFILES:-10000}
 734     local param_file=$TMP/$tfile-params
 735
 736     save_lustre_params $(comma_list $(mdts_nodes)) "mdt.*.commit_on_sharing" > $param_file
 737
 738     local COS
 739     local jbdold
 740     local jbdnew
 741     local jbd
 742
 743     for COS in 0 1; do
 744         do_facet $SINGLEMDS lctl set_param mdt.*.commit_on_sharing=$COS
 745         avgjbd=0
 746         avgtime=0
 747         for i in 1 2 3; do
 748             do_nodes $CLIENT1,$CLIENT2 "mkdir -p $DIR1/$tdir-\\\$(hostname)-$i"
 749
 750             jbdold=$(print_jbd_stat)
 751             echo "=== START createmany old: $jbdold transaction"
 752             local elapsed=$(do_and_time "do_nodes $CLIENT1,$CLIENT2 createmany -o $DIR1/$tdir-\\\$(hostname)-$i/f- -r $DIR2/$tdir-\\\$(hostname)-$i/f- $nfiles > /dev/null 2>&1")
 753             jbdnew=$(print_jbd_stat)
 754             jbd=$(( jbdnew - jbdold ))
 755             echo "=== END   createmany new: $jbdnew transaction :  $jbd transactions  nfiles $nfiles time $elapsed COS=$COS"
 756             avgjbd=$(( avgjbd + jbd ))
 757             avgtime=$(( avgtime + elapsed ))
 758         done
 759         eval cos${COS}_jbd=$((avgjbd / 3))
 760         eval cos${COS}_time=$((avgtime / 3))
 761     done
 762
 763     echo "COS=0 transactions (avg): $cos0_jbd  time (avg): $cos0_time"
 764     echo "COS=1 transactions (avg): $cos1_jbd  time (avg): $cos1_time"
 765     [ "$cos0_jbd" != 0 ] && echo "COS=1 vs COS=0 jbd:  $((((cos1_jbd/cos0_jbd - 1)) * 100 )) %"
 766     [ "$cos0_time" != 0 ] && echo "COS=1 vs COS=0 time: $((((cos1_time/cos0_time - 1)) * 100 )) %"
 767
 768     restore_lustre_params < $param_file
 769     rm -f $param_file
 770     return 0
 771 }
 772 run_test 33a "commit on sharing, cross crete/delete, 2 clients, benchmark"
 773
 774 # End commit on sharing tests
 775
 776 get_ost_lock_timeouts() {
 777     local nodes=${1:-$(comma_list $(osts_nodes))}
 778
 779     local locks=$(do_nodes $nodes \
 780         "lctl get_param -n ldlm.namespaces.filter-*.lock_timeouts" | calc_sum)
 781
 782     echo $locks
 783 }
 784
 785 test_34() { #16129
 786         local OPER
 787         local lock_in
 788         local lock_out
 789         for OPER in notimeout timeout ; do
 790                 rm $DIR1/$tfile 2>/dev/null
 791                 lock_in=$(get_ost_lock_timeouts)
 792                 if [ $OPER == "timeout" ] ; then
 793                         for j in `seq $OSTCOUNT`; do
 794                                 #define OBD_FAIL_PTLRPC_HPREQ_TIMEOUT    0x511
 795                                 do_facet ost$j lctl set_param fail_loc=0x511
 796                         done
 797                         echo lock should expire
 798                 else
 799                         for j in `seq $OSTCOUNT`; do
 800                                 #define OBD_FAIL_PTLRPC_HPREQ_NOTIMEOUT  0x512
 801                                 do_facet ost$j lctl set_param fail_loc=0x512
 802                         done
 803                         echo lock should not expire
 804                 fi
 805                 echo writing on client1
 806                 dd if=/dev/zero of=$DIR1/$tfile count=100 conv=notrunc > /dev/null 2>&1
 807                 sync &
 808                 echo reading on client2
 809                 dd of=/dev/null if=$DIR2/$tfile > /dev/null 2>&1
 810                 # wait for a lock timeout
 811                 sleep 4
 812                 lock_out=$(get_ost_lock_timeouts)
 813                 if [ $OPER == "timeout" ] ; then
 814                         if [ $lock_in == $lock_out ]; then
 815                                 error "no lock timeout happened"
 816                         else
 817                                 echo "success"
 818                         fi
 819                 else
 820                         if [ $lock_in != $lock_out ]; then
 821                                 error "lock timeout happened"
 822                         else
 823                                 echo "success"
 824                         fi
 825                 fi
 826         done
 827 }
 828 run_test 34 "no lock timeout under IO"
 829
 830 test_35() { # bug 17645
 831         local generation=[]
 832         local count=0
 833         for imp in /proc/fs/lustre/mdc/$FSNAME-MDT*-mdc-*; do
 834             g=$(awk '/generation/{print $2}' $imp/import)
 835             generation[count]=$g
 836             let count=count+1
 837         done
 838
 839         mkdir -p $MOUNT1/$tfile
 840         cancel_lru_locks mdc
 841
 842         # Let's initiate -EINTR situation by setting fail_loc and take
 843         # write lock on same file from same client. This will not cause
 844         # bl_ast yet as lock is already in local cache.
 845 #define OBD_FAIL_LDLM_INTR_CP_AST        0x317
 846         do_facet client "lctl set_param fail_loc=0x80000317"
 847         local timeout=`do_facet $SINGLEMDS lctl get_param  -n timeout`
 848         let timeout=timeout*3
 849         local nr=0
 850         while test $nr -lt 10; do
 851                 log "Race attempt $nr"
 852                 local blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
 853                 test "x$blk1" = "x" && blk1=0
 854                 createmany -o $MOUNT2/$tfile/a 4000 &
 855                 pid1=$!
 856                 sleep 1
 857
 858                 # Let's make conflict and bl_ast
 859                 ls -la $MOUNT1/$tfile > /dev/null &
 860                 pid2=$!
 861
 862                 log "Wait for $pid1 $pid2 for $timeout sec..."
 863                 sleep $timeout
 864                 kill -9 $pid1 $pid2 > /dev/null 2>&1
 865                 wait
 866                 local blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
 867                 test "x$blk2" = "x" && blk2=0
 868                 test $blk2 -gt $blk1 && break
 869                 rm -fr $MOUNT1/$tfile/*
 870                 cancel_lru_locks mdc
 871                 let nr=nr+1
 872         done
 873         do_facet client "lctl set_param fail_loc=0x0"
 874         df -h $MOUNT1 $MOUNT2
 875         count=0
 876         for imp in /proc/fs/lustre/mdc/$FSNAME-MDT*-mdc-*; do
 877             g=$(awk '/generation/{print $2}' $imp/import)
 878             if ! test "$g" -eq "${generation[count]}"; then
 879                 error "Eviction happened on import $(basename $imp)"
 880             fi
 881             let count=count+1
 882         done
 883 }
 884 run_test 35 "-EINTR cp_ast vs. bl_ast race does not evict client"
 885
 886 test_36() { #bug 16417
 887     local SIZE
 888     local SIZE_B
 889     local i
 890
 891     mkdir -p $DIR1/$tdir
 892     $LFS setstripe -c -1 $DIR1/$tdir
 893     i=0
 894     SIZE=50
 895     let SIZE_B=SIZE*1024*1024
 896
 897     while [ $i -le 10 ]; do
 898         lctl mark "start test"
 899         local before=$($LFS df | awk '{if ($1 ~/^filesystem/) {print $5; exit} }')
 900         dd if=/dev/zero of=$DIR1/$tdir/file000 bs=1M count=$SIZE
 901         sync
 902         sleep 1
 903         local after_dd=$($LFS df | awk '{if ($1 ~/^filesystem/) {print $5; exit} }')
 904         multiop_bg_pause $DIR2/$tdir/file000 O_r${SIZE_B}c || return 3
 905         read_pid=$!
 906         rm -f $DIR1/$tdir/file000
 907         kill -USR1 $read_pid
 908         wait $read_pid
 909         sleep 1
 910         local after=$($LFS df | awk '{if ($1 ~/^filesystem/) {print $5; exit} }')
 911         echo "*** cycle($i) *** before($before):after_dd($after_dd):after($after)"
 912         # this free space! not used
 913         if [ $after_dd -ge $after ]; then
 914             error "space leaked"
 915             return 1;
 916         fi
 917         let i=i+1
 918             done
 919 }
 920 run_test 36 "handle ESTALE/open-unlink corectly"
 921
 922 test_37() { # bug 18695
 923         mkdir -p $DIR1/$tdir
 924         multiop_bg_pause $DIR1/$tdir D_c || return 1
 925         MULTIPID=$!
 926         # create large directory (32kB seems enough from e2fsck, ~= 1000 files)
 927         createmany -m $DIR2/$tdir/f 10000
 928         # set mtime/atime backward
 929         touch -t 198001010000 $DIR2/$tdir
 930         kill -USR1 $MULTIPID
 931         nr_files=`lfs find $DIR1/$tdir -type f | wc -l`
 932         [ $nr_files -eq 10000 ] || error "$nr_files != 10000 truncated directory?"
 933
 934 }
 935 run_test 37 "check i_size is not updated for directory on close (bug 18695) =============="
 936
 937 # this should be set to past
 938 TEST_39_MTIME=`date -d "1 year ago" +%s`
 939
 940 # bug 11063
 941 test_39a() {
 942         local client1=${CLIENT1:-`hostname`}
 943         local client2=${CLIENT2:-`hostname`}
 944
 945         do_node $client1 "touch $DIR1/$tfile"
 946
 947         do_node $client1 "touch -m -d @$TEST_39_MTIME $DIR1/$tfile"
 948         local mtime1=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
 949         [ "$mtime1" = $TEST_39_MTIME ] || \
 950                 error "mtime is not set to past: $mtime1, should be $TEST_39_MTIME"
 951
 952         local d1=`do_node $client1 date +%s`
 953         do_node $client1 'echo hello >> '$DIR1/$tfile
 954         local d2=`do_node $client1 date +%s`
 955
 956         local mtime2=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
 957         [ "$mtime2" -ge "$d1" ] && [ "$mtime2" -le "$d2" ] || \
 958                 error "mtime is not updated on write: $d1 <= $mtime2 <= $d2"
 959
 960         do_node $client1 "mv $DIR1/$tfile $DIR1/$tfile-1"
 961
 962         for (( i=0; i < 2; i++ )) ; do
 963                 local mtime3=`do_node $client2 "stat -c %Y $DIR1/$tfile-1"`
 964                 [ "$mtime2" = "$mtime3" ] || \
 965                         error "mtime ($mtime2) changed (to $mtime3) on rename"
 966
 967                 cancel_lru_locks osc
 968                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
 969         done
 970 }
 971 run_test 39a "test from 11063 =================================="
 972
 973 test_39b() {
 974         local client1=${CLIENT1:-`hostname`}
 975         local client2=${CLIENT2:-`hostname`}
 976
 977         touch $DIR1/$tfile
 978
 979         local mtime1=`stat -c %Y $DIR1/$tfile`
 980         local mtime2=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
 981
 982         sleep 1
 983         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
 984
 985         for (( i=0; i < 2; i++ )) ; do
 986                 local mtime3=`stat -c %Y $DIR1/$tfile`
 987                 local mtime4=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
 988
 989                 [ "$mtime3" = "$mtime4" ] || \
 990                         error "different mtime on clients: $mtime3, $mtime4"
 991                 [ "$mtime3" = $TEST_39_MTIME ] || \
 992                         error "lost mtime: $mtime3, should be $TEST_39_MTIME"
 993
 994                 cancel_lru_locks osc
 995                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
 996         done
 997 }
 998 run_test 39b "11063 problem 1 =================================="
 999
1000 test_39c() {
1001         local client1=${CLIENT1:-`hostname`}
1002         local client2=${CLIENT2:-`hostname`}
1003
1004         echo hello > $DIR1/$tfile
1005
1006         local mtime1=`stat -c %Y $DIR1/$tfile`
1007         local mtime2=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1008         [ "$mtime1" = "$mtime2" ] || \
1009                 error "create: different mtime on clients: $mtime1, $mtime2"
1010
1011         sleep 1
1012         $TRUNCATE $DIR1/$tfile 1
1013
1014         for (( i=0; i < 2; i++ )) ; do
1015                 local mtime3=`stat -c %Y $DIR1/$tfile`
1016                 local mtime4=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1017
1018                 [ "$mtime3" = "$mtime4" ] || \
1019                         error "different mtime on clients: $mtime3, $mtime4"
1020                 [ "$mtime3" -gt $mtime2 ] || \
1021                         error "truncate did not update mtime: $mtime2, $mtime3"
1022
1023                 cancel_lru_locks osc
1024                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
1025         done
1026 }
1027 run_test 39c "check truncate mtime update ======================"
1028
1029 # check that pid exists hence second operation wasn't blocked by first one
1030 # if it is so then there is no conflict, return 0
1031 # else second operation is conflicting with first one, return 1
1032 check_pdo_conflict() {
1033         local pid=$1
1034         local conflict=0
1035         if [[ `ps --pid $pid | wc -l` == 1 ]]; then
1036                 conflict=1
1037                 echo "Conflict"
1038         else
1039                 echo "No conflict"
1040         fi
1041         return $conflict
1042 }
1043
1044 # pdirop tests
1045 # test 40: check non-blocking operations
1046 test_40a() {
1047 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1048         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1049         mkdir $DIR1/$tfile &
1050         PID1=$!
1051         sleep 1
1052         touch $DIR2/$tfile-2
1053         check_pdo_conflict $PID1 || error "create is blocked"
1054         mkdir $DIR2/$tfile-3
1055         check_pdo_conflict $PID1 || error "mkdir is blocked"
1056         link $DIR2/$tfile-2 $DIR2/$tfile-4
1057         check_pdo_conflict $PID1 || error "link is blocked"
1058         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1059         check_pdo_conflict $PID1 || error "rename is blocked"
1060         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1061         check_pdo_conflict $PID1 || error "getattr is blocked"
1062         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1063         rmdir $DIR2/$tfile-3
1064         check_pdo_conflict $PID1 || error "unlink is blocked"
1065         # all operations above shouldn't wait the first one
1066         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1067         wait $PID1
1068         rm -r $DIR1/*
1069         return 0
1070 }
1071 run_test 40a "pdirops: create vs others =============="
1072
1073 test_40b() {
1074 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1075         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1076         touch $DIR1/$tfile &
1077         PID1=$!
1078         sleep 1
1079         # open|create
1080         touch $DIR2/$tfile-2
1081         check_pdo_conflict $PID1 || error "create is blocked"
1082         mkdir $DIR2/$tfile-3
1083         check_pdo_conflict $PID1 || error "mkdir is blocked"
1084         link $DIR2/$tfile-2 $DIR2/$tfile-4
1085         check_pdo_conflict $PID1 || error "link is blocked"
1086         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1087         check_pdo_conflict $PID1 || error "rename is blocked"
1088         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1089         check_pdo_conflict $PID1 || error "getattr is blocked"
1090         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1091         rmdir $DIR2/$tfile-3
1092         check_pdo_conflict $PID1 || error "unlink is blocked"
1093         # all operations above shouldn't wait the first one
1094         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1095         wait $PID1
1096         rm -r $DIR1/*
1097         return 0
1098 }
1099 run_test 40b "pdirops: open|create and others =============="
1100
1101 test_40c() {
1102         touch $DIR1/$tfile
1103 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1104         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1105         link $DIR1/$tfile $DIR1/$tfile-0 &
1106         PID1=$!
1107         sleep 1
1108         # open|create
1109         touch $DIR2/$tfile-2
1110         check_pdo_conflict $PID1 || error "create is blocked"
1111         mkdir $DIR2/$tfile-3
1112         check_pdo_conflict $PID1 || error "mkdir is blocked"
1113         link $DIR2/$tfile-2 $DIR2/$tfile-4
1114         check_pdo_conflict $PID1 || error "link is blocked"
1115         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1116         check_pdo_conflict $PID1 || error "rename is blocked"
1117         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1118         check_pdo_conflict $PID1 || error "getattr is blocked"
1119         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1120         rmdir $DIR2/$tfile-3
1121         check_pdo_conflict $PID1 || error "unlink is blocked"
1122         # all operations above shouldn't wait the first one
1123         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1124         wait $PID1
1125         rm -r $DIR1/*
1126         return 0
1127 }
1128 run_test 40c "pdirops: link and others =============="
1129
1130 test_40d() {
1131         touch $DIR1/$tfile
1132 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1133         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1134         rm $DIR1/$tfile &
1135         PID1=$!
1136         sleep 1
1137         # open|create
1138         touch $DIR2/$tfile-2
1139         check_pdo_conflict $PID1 || error "create is blocked"
1140         mkdir $DIR2/$tfile-3
1141         check_pdo_conflict $PID1 || error "mkdir is blocked"
1142         link $DIR2/$tfile-2 $DIR2/$tfile-4
1143         check_pdo_conflict $PID1 || error "link is blocked"
1144         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1145         check_pdo_conflict $PID1 || error "rename is blocked"
1146         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1147         check_pdo_conflict $PID1 || error "getattr is blocked"
1148         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1149         rmdir $DIR2/$tfile-3
1150         check_pdo_conflict $PID1 || error "unlink is blocked"
1151         # all operations above shouldn't wait the first one
1152         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1153         wait $PID1
1154         return 0
1155 }
1156 run_test 40d "pdirops: unlink and others =============="
1157
1158 test_40e() {
1159         touch $DIR1/$tfile
1160 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1161         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1162         mv $DIR1/$tfile $DIR1/$tfile-0 &
1163         PID1=$!
1164         sleep 1
1165         # open|create
1166         touch $DIR2/$tfile-2
1167         check_pdo_conflict $PID1 || error "create is blocked"
1168         mkdir $DIR2/$tfile-3
1169         check_pdo_conflict $PID1 || error "mkdir is blocked"
1170         link $DIR2/$tfile-2 $DIR2/$tfile-4
1171         check_pdo_conflict $PID1 || error "link is blocked"
1172         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1173         check_pdo_conflict $PID1 || error "getattr is blocked"
1174         rm $DIR2/$tfile-4 $DIR2/$tfile-2
1175         rmdir $DIR2/$tfile-3
1176         check_pdo_conflict $PID1 || error "unlink is blocked"
1177         # all operations above shouldn't wait the first one
1178         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1179         wait $PID1
1180         rm -r $DIR1/*
1181         return 0
1182 }
1183 run_test 40e "pdirops: rename and others =============="
1184
1185 # test 41: create blocking operations
1186 test_41a() {
1187 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1188         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1189         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1190         PID1=$!
1191         sleep 1
1192         mkdir $DIR2/$tfile && error "mkdir must fail"
1193         check_pdo_conflict $PID1 && { wait $PID1; echo "mkdir isn't blocked"; }
1194         rm -r $DIR1/*
1195         return 0
1196 }
1197 run_test 41a "pdirops: create vs mkdir =============="
1198
1199 test_41b() {
1200 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1201         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1202         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1203         PID1=$!
1204         sleep 1
1205         multiop $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
1206         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1207         rm -r $DIR1/*
1208         return 0
1209 }
1210 run_test 41b "pdirops: create vs create =============="
1211
1212 test_41c() {
1213         touch $DIR1/$tfile-2
1214 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1215         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1216         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1217         PID1=$!
1218         sleep 1
1219         link $DIR2/$tfile-2 $DIR2/$tfile && error "link must fail"
1220         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1221         rm -r $DIR1/*
1222         return 0
1223 }
1224 run_test 41c "pdirops: create vs link =============="
1225
1226 test_41d() {
1227 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1228         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1229         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1230         PID1=$!
1231         sleep 1
1232         rm $DIR2/$tfile || error "unlink must succeed"
1233         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1234         rm -r $DIR1/*
1235         return 0
1236 }
1237 run_test 41d "pdirops: create vs unlink =============="
1238
1239 test_41e() {
1240         touch $DIR1/$tfile-2
1241 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1242         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1243         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1244         PID1=$!
1245         sleep 1
1246         mv $DIR2/$tfile-2 $DIR2/$tfile || error "rename must succeed"
1247         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1248         rm -r $DIR1/*
1249         return 0
1250 }
1251 run_test 41e "pdirops: create and rename (tgt) =============="
1252
1253 test_41f() {
1254 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1255         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1256         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1257         PID1=$!
1258         sleep 1
1259         mv $DIR2/$tfile $DIR2/$tfile-2 || error "rename must succeed"
1260         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1261         rm -r $DIR1/*
1262         return 0
1263 }
1264 run_test 41f "pdirops: create and rename (src) =============="
1265
1266 test_41g() {
1267 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1268         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1269         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1270         PID1=$!
1271         sleep 1
1272         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
1273         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1274         rm -r $DIR1/*
1275         return 0
1276 }
1277 run_test 41g "pdirops: create vs getattr =============="
1278
1279 test_41h() {
1280 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1281         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1282         multiop $DIR1/$tfile oO_CREAT:O_RDWR:c &
1283         PID1=$!
1284         sleep 1
1285         ls -lia $DIR2/ > /dev/null
1286         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1287         rm -r $DIR1/*
1288         return 0
1289 }
1290 run_test 41h "pdirops: create vs readdir =============="
1291
1292 # test 42: unlink and blocking operations
1293 test_42a() {
1294 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1295         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1296         mkdir $DIR1/$tfile &
1297         PID1=$!
1298         sleep 1
1299         mkdir $DIR2/$tfile && error "mkdir must fail"
1300         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1301         rm -r $DIR1/*
1302         return 0
1303 }
1304 run_test 42a "pdirops: mkdir vs mkdir =============="
1305
1306 test_42b() {
1307 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1308         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1309         mkdir $DIR1/$tfile &
1310         PID1=$!
1311         sleep 1
1312         multiop $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
1313         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1314         rm -r $DIR1/*
1315         return 0
1316 }
1317 run_test 42b "pdirops: mkdir vs create =============="
1318
1319 test_42c() {
1320         touch $DIR1/$tfile-2
1321 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1322         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1323         mkdir $DIR1/$tfile &
1324         PID1=$!
1325         sleep 1
1326         link $DIR2/$tfile-2 $DIR2/$tfile && error "link must fail"
1327         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1328         rm -r $DIR1/*
1329         return 0
1330 }
1331 run_test 42c "pdirops: mkdir vs link =============="
1332
1333 test_42d() {
1334 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1335         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1336         mkdir $DIR1/$tfile &
1337         PID1=$!
1338         sleep 1
1339         rmdir $DIR2/$tfile || error "unlink must succeed"
1340         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1341         rm -r $DIR1/*
1342         return 0
1343 }
1344 run_test 42d "pdirops: mkdir vs unlink =============="
1345
1346 test_42e() {
1347         touch $DIR1/$tfile-2
1348 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1349         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1350         mkdir $DIR1/$tfile &
1351         PID1=$!
1352         sleep 1
1353         mv -T $DIR2/$tfile-2 $DIR2/$tfile && error "rename must fail"
1354         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1355         rm -r $DIR1/*
1356         return 0
1357 }
1358 run_test 42e "pdirops: mkdir and rename (tgt) =============="
1359
1360 test_42f() {
1361 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1362         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1363         mkdir $DIR1/$tfile &
1364         PID1=$!
1365         sleep 1
1366         mv $DIR2/$tfile $DIR2/$tfile-2 || error "rename must succeed"
1367         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1368         rm -r $DIR1/*
1369         return 0
1370 }
1371 run_test 42f "pdirops: mkdir and rename (src) =============="
1372
1373 test_42g() {
1374 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1375         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1376         mkdir $DIR1/$tfile &
1377         PID1=$!
1378         sleep 1
1379         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
1380         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1381         rm -r $DIR1/*
1382         return 0
1383 }
1384 run_test 42g "pdirops: mkdir vs getattr =============="
1385
1386 test_42h() {
1387 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1388         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1389         mkdir $DIR1/$tfile &
1390         PID1=$!
1391         sleep 1
1392         ls -lia $DIR2/ > /dev/null
1393         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1394         rm -r $DIR1/*
1395         return 0
1396 }
1397 run_test 42h "pdirops: mkdir vs readdir =============="
1398
1399 # test 43: unlink and blocking operations
1400 test_43a() {
1401         touch $DIR1/$tfile
1402 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1403         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1404         rm $DIR1/$tfile &
1405         PID1=$!
1406         sleep 1
1407         mkdir $DIR2/$tfile || error "mkdir must succeed"
1408         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1409         rm -r $DIR1/*
1410         return 0
1411 }
1412 run_test 43a "pdirops: unlink vs mkdir =============="
1413
1414 test_43b() {
1415         touch $DIR1/$tfile
1416 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1417         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1418         rm $DIR1/$tfile &
1419         PID1=$!
1420         sleep 1
1421         multiop $DIR2/$tfile oO_CREAT:O_EXCL:c || error "create must succeed"
1422         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1423         rm -r $DIR1/*
1424         return 0
1425 }
1426 run_test 43b "pdirops: unlink vs create =============="
1427
1428 test_43c() {
1429         touch $DIR1/$tfile
1430         touch $DIR1/$tfile-2
1431 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1432         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1433         rm $DIR1/$tfile &
1434         PID1=$!
1435         sleep 1
1436         link $DIR2/$tfile-2 $DIR2/$tfile || error "link must succeed"
1437         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1438         rm -r $DIR1/*
1439         return 0
1440 }
1441 run_test 43c "pdirops: unlink vs link =============="
1442
1443 test_43d() {
1444         touch $DIR1/$tfile
1445 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1446         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1447         rm $DIR1/$tfile &
1448         PID1=$!
1449         sleep 1
1450         rm $DIR2/$tfile && error "unlink must fail"
1451         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1452         rm -r $DIR1/*
1453         return 0
1454 }
1455 run_test 43d "pdirops: unlink vs unlink =============="
1456
1457 test_43e() {
1458         touch $DIR1/$tfile
1459         touch $DIR1/$tfile-2
1460 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1461         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1462         rm $DIR1/$tfile &
1463         PID1=$!
1464         sleep 1
1465         mv -u $DIR2/$tfile-2 $DIR2/$tfile || error "rename must succeed"
1466         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1467         rm -r $DIR1/*
1468         return 0
1469 }
1470 run_test 43e "pdirops: unlink and rename (tgt) =============="
1471
1472 test_43f() {
1473         touch $DIR1/$tfile
1474 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1475         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1476         rm $DIR1/$tfile &
1477         PID1=$!
1478         sleep 1
1479         mv $DIR2/$tfile $DIR2/$tfile-2 && error "rename must fail"
1480         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1481         rm -r $DIR1/*
1482         return 0
1483 }
1484 run_test 43f "pdirops: unlink and rename (src) =============="
1485
1486 test_43g() {
1487         touch $DIR1/$tfile
1488 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1489         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1490         rm $DIR1/$tfile &
1491         PID1=$!
1492         sleep 1
1493         stat $DIR2/$tfile > /dev/null && error "stat must fail"
1494         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1495         rm -r $DIR1/*
1496         return 0
1497 }
1498 run_test 43g "pdirops: unlink vs getattr =============="
1499
1500 test_43h() {
1501         touch $DIR1/$tfile
1502 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1503         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1504         rm $DIR1/$tfile &
1505         PID1=$!
1506         sleep 1
1507         ls -lia $DIR2/ > /dev/null
1508         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1509         rm -r $DIR1/*
1510         return 0
1511 }
1512 run_test 43h "pdirops: unlink vs readdir =============="
1513
1514 # test 44: rename tgt and blocking operations
1515 test_44a() {
1516         touch $DIR1/$tfile-2
1517 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2   0x146
1518         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1519         mv $DIR1/$tfile-2 $DIR1/$tfile &
1520         PID1=$!
1521         sleep 1
1522         mkdir $DIR2/$tfile && error "mkdir must fail"
1523         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1524         rm -r $DIR1/*
1525         return 0
1526 }
1527 run_test 44a "pdirops: rename tgt vs mkdir =============="
1528
1529 test_44b() {
1530         touch $DIR1/$tfile-2
1531 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1532         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1533         mv $DIR1/$tfile-2 $DIR1/$tfile &
1534         PID1=$!
1535         sleep 1
1536         multiop $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
1537         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1538         rm -r $DIR1/*
1539         return 0
1540 }
1541 run_test 44b "pdirops: rename tgt vs create =============="
1542
1543 test_44c() {
1544         touch $DIR1/$tfile-2
1545         touch $DIR1/$tfile-3
1546 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1547         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1548         mv $DIR1/$tfile-2 $DIR1/$tfile &
1549         PID1=$!
1550         sleep 1
1551         link $DIR2/$tfile-3 $DIR2/$tfile && error "link must fail"
1552         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1553         rm -r $DIR1/*
1554         return 0
1555 }
1556 run_test 44c "pdirops: rename tgt vs link =============="
1557
1558 test_44d() {
1559         touch $DIR1/$tfile-2
1560 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1561         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1562         mv $DIR1/$tfile-2 $DIR1/$tfile &
1563         PID1=$!
1564         sleep 1
1565         rm $DIR2/$tfile || error "unlink must succeed"
1566         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1567         rm -r $DIR1/*
1568         return 0
1569 }
1570 run_test 44d "pdirops: rename tgt vs unlink =============="
1571
1572 test_44e() {
1573         touch $DIR1/$tfile
1574         touch $DIR1/$tfile-2
1575         touch $DIR1/$tfile-3
1576 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1577         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1578         mv $DIR1/$tfile-2 $DIR1/$tfile &
1579         PID1=$!
1580         sleep 1
1581         mv $DIR2/$tfile-3 $DIR2/$tfile || error "rename must succeed"
1582         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1583         rm -r $DIR1/*
1584         return 0
1585 }
1586 run_test 44e "pdirops: rename tgt and rename (tgt) =============="
1587
1588 test_44f() {
1589         touch $DIR1/$tfile-2
1590         touch $DIR1/$tfile-3
1591 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1592         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1593         mv $DIR1/$tfile-2 $DIR1/$tfile &
1594         PID1=$!
1595         sleep 1
1596         mv $DIR2/$tfile $DIR2/$tfile-3 || error "rename must succeed"
1597         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1598         rm -r $DIR1/*
1599         return 0
1600 }
1601 run_test 44f "pdirops: rename tgt and rename (src) =============="
1602
1603 test_44g() {
1604         touch $DIR1/$tfile-2
1605 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1606         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1607         mv $DIR1/$tfile-2 $DIR1/$tfile &
1608         PID1=$!
1609         sleep 1
1610         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
1611         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1612         rm -r $DIR1/*
1613         return 0
1614 }
1615 run_test 44g "pdirops: rename tgt vs getattr =============="
1616
1617 test_44h() {
1618         touch $DIR1/$tfile-2
1619 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1620         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1621         mv $DIR1/$tfile-2 $DIR1/$tfile &
1622         PID1=$!
1623         sleep 1
1624         ls -lia $DIR2/ > /dev/null
1625         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1626         rm -r $DIR1/*
1627         return 0
1628 }
1629 run_test 44h "pdirops: rename tgt vs readdir =============="
1630
1631 # test 45: rename src and blocking operations
1632 test_45a() {
1633         touch $DIR1/$tfile
1634 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1635         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1636         mv $DIR1/$tfile $DIR1/$tfile-2 &
1637         PID1=$!
1638         sleep 1
1639         mkdir $DIR2/$tfile || error "mkdir must succeed"
1640         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1641         rm -r $DIR1/*
1642         return 0
1643 }
1644 run_test 45a "pdirops: rename src vs mkdir =============="
1645
1646 test_45b() {
1647         touch $DIR1/$tfile
1648 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1649         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1650         mv $DIR1/$tfile $DIR1/$tfile-2 &
1651         PID1=$!
1652         sleep 1
1653         multiop $DIR2/$tfile oO_CREAT:O_EXCL:c || error "create must succeed"
1654         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1655         rm -r $DIR1/*
1656         return 0
1657 }
1658 run_test 45b "pdirops: rename src vs create =============="
1659
1660 test_45c() {
1661         touch $DIR1/$tfile
1662         touch $DIR1/$tfile-3
1663 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1664         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1665         mv $DIR1/$tfile $DIR1/$tfile-2 &
1666         PID1=$!
1667         sleep 1
1668         link $DIR2/$tfile-3 $DIR2/$tfile || error "link must succeed"
1669         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1670         rm -r $DIR1/*
1671         return 0
1672 }
1673 run_test 45c "pdirops: rename src vs link =============="
1674
1675 test_45d() {
1676         touch $DIR1/$tfile
1677 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1678         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1679         mv $DIR1/$tfile $DIR1/$tfile-2 &
1680         PID1=$!
1681         sleep 1
1682         rm $DIR2/$tfile && error "unlink must fail"
1683         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1684         rm -r $DIR1/*
1685         return 0
1686 }
1687 run_test 45d "pdirops: rename src vs unlink =============="
1688
1689 test_45e() {
1690         touch $DIR1/$tfile
1691         touch $DIR1/$tfile-3
1692 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1693         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1694         mv $DIR1/$tfile $DIR1/$tfile-2 &
1695         PID1=$!
1696         sleep 1
1697         mv $DIR2/$tfile-3 $DIR2/$tfile || error "rename must succeed"
1698         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1699         rm -r $DIR1/*
1700         return 0
1701 }
1702 run_test 45e "pdirops: rename src and rename (tgt) =============="
1703
1704 test_45f() {
1705         touch $DIR1/$tfile
1706 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1707         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1708         mv $DIR1/$tfile $DIR1/$tfile-2 &
1709         PID1=$!
1710         sleep 1
1711         mv $DIR2/$tfile $DIR2/$tfile-3 && error "rename must fail"
1712         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1713         rm -r $DIR1/*
1714         return 0
1715 }
1716 run_test 45f "pdirops: rename src and rename (src) =============="
1717
1718 test_45g() {
1719         touch $DIR1/$tfile
1720 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1721         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1722         mv $DIR1/$tfile $DIR1/$tfile-2 &
1723         PID1=$!
1724         sleep 1
1725         stat $DIR2/$tfile > /dev/null && "stat must fail"
1726         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1727         rm -r $DIR1/*
1728         return 0
1729 }
1730 run_test 45g "pdirops: rename src vs getattr =============="
1731
1732 test_45h() {
1733         touch $DIR1/$tfile
1734 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1735         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1736         mv $DIR1/$tfile $DIR1/$tfile-2 &
1737         PID1=$!
1738         sleep 1
1739         ls -lia $DIR2/ > /dev/null
1740         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1741         rm -r $DIR1/*
1742         return 0
1743 }
1744 run_test 45h "pdirops: unlink vs readdir =============="
1745
1746 # test 46: link and blocking operations
1747 test_46a() {
1748         touch $DIR1/$tfile-2
1749 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1750         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1751         link $DIR1/$tfile-2 $DIR1/$tfile &
1752         PID1=$!
1753         sleep 1
1754         mkdir $DIR2/$tfile && error "mkdir must fail"
1755         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1756         rm -r $DIR1/*
1757         return 0
1758 }
1759 run_test 46a "pdirops: link vs mkdir =============="
1760
1761 test_46b() {
1762         touch $DIR1/$tfile-2
1763 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1764         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1765         link $DIR1/$tfile-2 $DIR1/$tfile &
1766         PID1=$!
1767         sleep 1
1768         multiop $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
1769         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1770         rm -r $DIR1/*
1771         return 0
1772 }
1773 run_test 46b "pdirops: link vs create =============="
1774
1775 test_46c() {
1776         touch $DIR1/$tfile-2
1777 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1778         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1779         link $DIR1/$tfile-2 $DIR1/$tfile &
1780         PID1=$!
1781         sleep 1
1782         link $DIR2/$tfile $DIR2/$tfile && error "link must fail"
1783         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1784         rm -r $DIR1/*
1785         return 0
1786 }
1787 run_test 46c "pdirops: link vs link =============="
1788
1789 test_46d() {
1790         touch $DIR1/$tfile-2
1791 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1792         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1793         link $DIR1/$tfile-2 $DIR1/$tfile &
1794         PID1=$!
1795         sleep 1
1796         rm $DIR2/$tfile || error "unlink must succeed"
1797         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1798         rm -r $DIR1/*
1799         return 0
1800 }
1801 run_test 46d "pdirops: link vs unlink =============="
1802
1803 test_46e() {
1804         touch $DIR1/$tfile-2
1805         touch $DIR1/$tfile-3
1806 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1807         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1808         link $DIR1/$tfile-2 $DIR1/$tfile &
1809         PID1=$!
1810         sleep 1
1811         mv $DIR2/$tfile-3 $DIR2/$tfile || error "rename must succeed"
1812         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1813         rm -r $DIR1/*
1814         return 0
1815 }
1816 run_test 46e "pdirops: link and rename (tgt) =============="
1817
1818 test_46f() {
1819         touch $DIR1/$tfile-2
1820         touch $DIR1/$tfile-3
1821 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1822         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1823         link $DIR1/$tfile-2 $DIR1/$tfile &
1824         PID1=$!
1825         sleep 1
1826         mv $DIR2/$tfile $DIR2/$tfile-3 || error "rename must succeed"
1827         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1828         rm -r $DIR1/*
1829         return 0
1830 }
1831 run_test 46f "pdirops: link and rename (src) =============="
1832
1833 test_46g() {
1834         touch $DIR1/$tfile-2
1835 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1836         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1837         link $DIR1/$tfile-2 $DIR1/$tfile &
1838         PID1=$!
1839         sleep 1
1840         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
1841         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1842         rm -r $DIR1/*
1843         return 0
1844 }
1845 run_test 46g "pdirops: link vs getattr =============="
1846
1847 test_46h() {
1848         touch $DIR1/$tfile-2
1849 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1850         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1851         link $DIR1/$tfile-2 $DIR1/$tfile &
1852         PID1=$!
1853         sleep 1
1854         ls -lia $DIR2/ > /dev/null
1855         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1856         rm -r $DIR1/*
1857         return 0
1858 }
1859 run_test 46h "pdirops: link vs readdir =============="
1860
1861 test_50() {
1862         trunc_size=4096
1863         dd if=/dev/zero of=$DIR1/$tfile bs=1K count=10
1864 #define OBD_FAIL_OSC_CP_ENQ_RACE         0x410
1865         do_facet client "lctl set_param fail_loc=0x410"
1866         $TRUNCATE $DIR2/$tfile $trunc_size
1867         do_facet client "lctl set_param fail_loc=0x0"
1868         sleep 3
1869         size=`stat -c %s $DIR2/$tfile`
1870         [ $size -eq $trunc_size ] || error "wrong size"
1871 }
1872 run_test 50 "osc lvb attrs: enqueue vs. CP AST =============="
1873
1874 log "cleanup: ======================================================"
1875
1876 [ "$(mount | grep $MOUNT2)" ] && umount $MOUNT2
1877 check_and_cleanup_lustre
1878
1879 echo '=========================== finished ==============================='
1880 [ -f "$SANITYLOG" ] && cat $SANITYLOG && grep -q FAIL $SANITYLOG && exit 1 || true
1881 echo "$0: completed"