lustre/tests/sanityn.sh

   1 #!/bin/bash
   2
   3 set -e
   4
   5 ONLY=${ONLY:-"$*"}
   6 # bug number for skipped test: 3192 LU-1205 15528/3811 16929 9977 15528/11549 18080
   7 ALWAYS_EXCEPT="                14b  18c     19         22    28   29          35    $SANITYN_EXCEPT"
   8 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
   9
  10 # bug number for skipped test:        12652 12652
  11 grep -q 'Enterprise Server 10' /etc/SuSE-release 2> /dev/null &&
  12         ALWAYS_EXCEPT="$ALWAYS_EXCEPT 11    14" || true
  13
  14 # It will be ported soon.
  15 EXCEPT="$EXCEPT 22"
  16
  17 SRCDIR=`dirname $0`
  18 PATH=$PWD/$SRCDIR:$SRCDIR:$SRCDIR/../utils:$PATH
  19
  20 SIZE=${SIZE:-40960}
  21 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
  22 MCREATE=${MCREATE:-mcreate}
  23 OPENFILE=${OPENFILE:-openfile}
  24 OPENUNLINK=${OPENUNLINK:-openunlink}
  25 export MULTIOP=${MULTIOP:-multiop}
  26 export TMP=${TMP:-/tmp}
  27 MOUNT_2=${MOUNT_2:-"yes"}
  28 CHECK_GRANT=${CHECK_GRANT:-"yes"}
  29 GRANT_CHECK_LIST=${GRANT_CHECK_LIST:-""}
  30
  31 SAVE_PWD=$PWD
  32
  33 export NAME=${NAME:-local}
  34
  35 LUSTRE=${LUSTRE:-`dirname $0`/..}
  36 . $LUSTRE/tests/test-framework.sh
  37 CLEANUP=${CLEANUP:-:}
  38 SETUP=${SETUP:-:}
  39 init_test_env $@
  40 . ${CONFIG:=$LUSTRE/tests/cfg/$NAME.sh}
  41 init_logging
  42
  43 [ $(facet_fstype $SINGLEMDS) = "zfs" ] &&
  44 # bug number for skipped test:        LU-2840 LU-2776
  45         ALWAYS_EXCEPT="$ALWAYS_EXCEPT 21      51a"
  46
  47 [ "$SLOW" = "no" ] && EXCEPT_SLOW="33a"
  48
  49 FAIL_ON_ERROR=false
  50
  51 SETUP=${SETUP:-:}
  52 TRACE=${TRACE:-""}
  53
  54 check_and_setup_lustre
  55
  56 LOVNAME=$($LCTL get_param -n llite.*.lov.common_name | tail -n 1)
  57 OSTCOUNT=$($LCTL get_param -n lov.$LOVNAME.numobd)
  58
  59 assert_DIR
  60 rm -rf $DIR1/[df][0-9]* $DIR1/lnk $DIR/[df].${TESTSUITE}*
  61
  62 SAMPLE_FILE=$TMP/$(basename $0 .sh).junk
  63 dd if=/dev/urandom of=$SAMPLE_FILE bs=1M count=1
  64
  65 # $RUNAS_ID may get set incorrectly somewhere else
  66 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] && error "\$RUNAS_ID set to 0, but \$UID is also 0!"
  67
  68 check_runas_id $RUNAS_ID $RUNAS_GID $RUNAS
  69
  70 build_test_filter
  71
  72 mkdir -p $MOUNT2
  73 mount_client $MOUNT2
  74
  75 test_1a() {
  76         touch $DIR1/f1
  77         [ -f $DIR2/f1 ] || error
  78 }
  79 run_test 1a "check create on 2 mtpt's =========================="
  80
  81 test_1b() {
  82         chmod 777 $DIR2/f1
  83         $CHECKSTAT -t file -p 0777 $DIR1/f1 || error
  84         chmod a-x $DIR2/f1
  85 }
  86 run_test 1b "check attribute updates on 2 mtpt's ==============="
  87
  88 test_1c() {
  89         $CHECKSTAT -t file -p 0666 $DIR1/f1 || error
  90 }
  91 run_test 1c "check after remount attribute updates on 2 mtpt's ="
  92
  93 test_1d() {
  94         rm $DIR2/f1
  95         $CHECKSTAT -a $DIR1/f1 || error
  96 }
  97 run_test 1d "unlink on one mountpoint removes file on other ===="
  98
  99 test_2a() {
 100         touch $DIR1/f2a
 101         ls -l $DIR2/f2a
 102         chmod 777 $DIR2/f2a
 103         $CHECKSTAT -t file -p 0777 $DIR1/f2a || error
 104 }
 105 run_test 2a "check cached attribute updates on 2 mtpt's ========"
 106
 107 test_2b() {
 108         touch $DIR1/f2b
 109         ls -l $DIR2/f2b
 110         chmod 777 $DIR1/f2b
 111         $CHECKSTAT -t file -p 0777 $DIR2/f2b || error
 112 }
 113 run_test 2b "check cached attribute updates on 2 mtpt's ========"
 114
 115 # NEED TO SAVE ROOT DIR MODE
 116 test_2c() {
 117         chmod 777 $DIR1
 118         $CHECKSTAT -t dir -p 0777 $DIR2 || error
 119 }
 120 run_test 2c "check cached attribute updates on 2 mtpt's root ==="
 121
 122 test_2d() {
 123         chmod 755 $DIR1
 124         $CHECKSTAT -t dir -p 0755 $DIR2 || error
 125 }
 126 run_test 2d "check cached attribute updates on 2 mtpt's root ==="
 127
 128 test_2e() {
 129         chmod 755 $DIR1
 130         ls -l $DIR1
 131         ls -l $DIR2
 132         chmod 777 $DIR1
 133         $RUNAS dd if=/dev/zero of=$DIR2/$tfile count=1 || error
 134 }
 135 run_test 2e "check chmod on root is propagated to others"
 136
 137 test_2f() {
 138         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
 139         local MDTIDX=1
 140         local remote_dir=$tdir/remote_dir
 141
 142         mkdir -p $DIR1/$tdir
 143         $LFS mkdir -i $MDTIDX $DIR1/$remote_dir ||
 144                    error "Create remote directory failed"
 145
 146         touch $DIR1/$remote_dir/$tfile ||
 147                 error "Create file under remote directory failed"
 148         chmod 777 $DIR1/$remote_dir/$tfile ||
 149                 error "Chmod file under remote directory failed"
 150
 151         $CHECKSTAT -t file -p 0777 $DIR2/$remote_dir/$tfile ||
 152                 error "Check attr of file under remote directory failed"
 153
 154         chown $RUNAS_ID:$RUNAS_GID $DIR1/$remote_dir/$tfile ||
 155                 error "Chown file under remote directory failed"
 156
 157         $CHECKSTAT -u \#$RUNAS_ID -g \#$RUNAS_GID $DIR2/$remote_dir/$tfile ||
 158                 error "Check owner of file under remote directory failed"
 159
 160         cd $DIR2/$remote_dir || error "enter remote dir"
 161         rm -rf $DIR1/$remote_dir/$tfile ||
 162                 error "Unlink remote directory failed"
 163
 164         $CHECKSTAT -t file $DIR2/$remote_dir/$tfile &&
 165                 error "unlink file still exists!"
 166
 167         cd $DIR2/$tdir || error "exit remote dir"
 168         rm -rf $DIR1/$tdir || error "unlink directory failed"
 169 }
 170 run_test 2f "check attr/owner updates on DNE with 2 mtpt's"
 171
 172 test_3() {
 173         local target="this/is/good"
 174         ln -s $target $DIR1/$tfile || error "ln -s $target $DIR1/$tfile failed"
 175         [ "$(ls -l $DIR2/$tfile | sed -e 's/.* -> //')" = "$target" ] ||
 176                 error "link $DIR2/$tfile not as expected"
 177 }
 178 run_test 3 "symlink on one mtpt, readlink on another ==========="
 179
 180 test_4() {
 181         multifstat $DIR1/f4 $DIR2/f4
 182 }
 183 run_test 4 "fstat validation on multiple mount points =========="
 184
 185 test_5() {
 186         mcreate $DIR1/f5
 187         $TRUNCATE $DIR2/f5 100
 188         $CHECKSTAT -t file -s 100 $DIR1/f5 || error
 189         rm $DIR1/f5
 190 }
 191 run_test 5 "create a file on one mount, truncate it on the other"
 192
 193 test_6() {
 194         openunlink $DIR1/$tfile $DIR2/$tfile || \
 195                 error "openunlink $DIR1/$tfile $DIR2/$tfile"
 196 }
 197 run_test 6 "remove of open file on other node =================="
 198
 199 test_7() {
 200         local dir=d7
 201         opendirunlink $DIR1/$dir $DIR2/$dir || \
 202                 error "opendirunlink $DIR1/$dir $DIR2/$dir"
 203 }
 204 run_test 7 "remove of open directory on other node ============="
 205
 206 test_8() {
 207         opendevunlink $DIR1/$tfile $DIR2/$tfile || \
 208                 error "opendevunlink $DIR1/$tfile $DIR2/$tfile"
 209 }
 210 run_test 8 "remove of open special file on other node =========="
 211
 212 test_9() {
 213         MTPT=1
 214         local dir
 215         > $DIR2/f9
 216         for C in a b c d e f g h i j k l; do
 217                 dir=`eval echo \\$DIR$MTPT`
 218                 echo -n $C >> $dir/f9
 219                 [ "$MTPT" -eq 1 ] && MTPT=2 || MTPT=1
 220         done
 221         [ "`cat $DIR1/f9`" = "abcdefghijkl" ] || \
 222                 error "`od -a $DIR1/f9` != abcdefghijkl"
 223 }
 224 run_test 9 "append of file with sub-page size on multiple mounts"
 225
 226 test_10a() {
 227         MTPT=1
 228         local dir
 229         OFFSET=0
 230         > $DIR2/f10
 231         for C in a b c d e f g h i j k l; do
 232                 dir=`eval echo \\$DIR$MTPT`
 233                 echo -n $C | dd of=$dir/f10 bs=1 seek=$OFFSET count=1
 234                 [ "$MTPT" -eq 1 ] && MTPT=2 || MTPT=1
 235                 OFFSET=`expr $OFFSET + 1`
 236         done
 237         [ "`cat $DIR1/f10`" = "abcdefghijkl" ] || \
 238                 error "`od -a $DIR1/f10` != abcdefghijkl"
 239 }
 240 run_test 10a "write of file with sub-page size on multiple mounts "
 241
 242 test_10b() {
 243         # create a seed file
 244         yes "R" | head -c 4000 >$TMP/f10b-seed
 245         dd if=$TMP/f10b-seed of=$DIR1/f10b bs=3k count=1 || error "dd $DIR1"
 246
 247         $TRUNCATE $DIR1/f10b 4096 || error "truncate 4096"
 248
 249         dd if=$DIR2/f10b of=$TMP/f10b-lustre bs=4k count=1 || error "dd $DIR2"
 250
 251         # create a test file locally to compare
 252         dd if=$TMP/f10b-seed of=$TMP/f10b bs=3k count=1 || error "dd random"
 253         $TRUNCATE $TMP/f10b 4096 || error "truncate 4096"
 254         cmp $TMP/f10b $TMP/f10b-lustre || error "file miscompare"
 255         rm $TMP/f10b $TMP/f10b-lustre $TMP/f10b-seed
 256 }
 257 run_test 10b "write of file with sub-page size on multiple mounts "
 258
 259 test_11() {
 260         test_mkdir $DIR1/d11
 261         multiop_bg_pause $DIR1/d11/f O_c || return 1
 262         MULTIPID=$!
 263         cp -p /bin/ls $DIR1/d11/f
 264         $DIR2/d11/f
 265         RC=$?
 266         kill -USR1 $MULTIPID
 267         wait $MULTIPID || error
 268         [ $RC -eq 0 ] && error || true
 269 }
 270 run_test 11 "execution of file opened for write should return error ===="
 271
 272 test_12() {
 273        DIR=$DIR DIR2=$DIR2 sh lockorder.sh
 274 }
 275 run_test 12 "test lock ordering (link, stat, unlink) ==========="
 276
 277 test_13() {     # bug 2451 - directory coherency
 278         test_mkdir $DIR1/d13 || error
 279        cd $DIR1/d13 || error
 280        ls
 281        ( touch $DIR1/d13/f13 ) # needs to be a separate shell
 282        ls
 283        rm -f $DIR2/d13/f13 || error
 284        ls 2>&1 | grep f13 && error "f13 shouldn't return an error (1)" || true
 285        # need to run it twice
 286        ( touch $DIR1/d13/f13 ) # needs to be a separate shell
 287        ls
 288        rm -f $DIR2/d13/f13 || error
 289        ls 2>&1 | grep f13 && error "f13 shouldn't return an error (2)" || true
 290 }
 291 run_test 13 "test directory page revocation ===================="
 292
 293 test_14() {
 294         test_mkdir -p $DIR1/$tdir
 295         cp -p /bin/ls $DIR1/$tdir/$tfile
 296         multiop_bg_pause $DIR1/$tdir/$tfile Ow_c || return 1
 297         MULTIPID=$!
 298
 299         $DIR2/$tdir/$tfile && error || true
 300         kill -USR1 $MULTIPID
 301         wait $MULTIPID || return 2
 302 }
 303 run_test 14 "execution of file open for write returns -ETXTBSY ="
 304
 305 test_14a() {
 306         test_mkdir -p $DIR1/d14
 307         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 308         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 309         MULTIOP_PID=$!
 310         $MULTIOP $DIR2/d14/multiop Oc && error "expected error, got success"
 311         kill -USR1 $MULTIOP_PID || return 2
 312         wait $MULTIOP_PID || return 3
 313         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 314 }
 315 run_test 14a "open(RDWR) of executing file returns -ETXTBSY ===="
 316
 317 test_14b() { # bug 3192, 7040
 318         test_mkdir -p $DIR1/d14
 319         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 320         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 321         MULTIOP_PID=$!
 322         $TRUNCATE $DIR2/d14/multiop 0 && kill -9 $MULTIOP_PID && \
 323                 error "expected truncate error, got success"
 324         kill -USR1 $MULTIOP_PID || return 2
 325         wait $MULTIOP_PID || return 3
 326         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
 327         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 328 }
 329 run_test 14b "truncate of executing file returns -ETXTBSY ======"
 330
 331 test_14c() { # bug 3430, 7040
 332         test_mkdir -p $DIR1/d14
 333         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 334         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 335         MULTIOP_PID=$!
 336         cp /etc/hosts $DIR2/d14/multiop && error "expected error, got success"
 337         kill -USR1 $MULTIOP_PID || return 2
 338         wait $MULTIOP_PID || return 3
 339         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
 340         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 341 }
 342 run_test 14c "open(O_TRUNC) of executing file return -ETXTBSY =="
 343
 344 test_14d() { # bug 10921
 345         test_mkdir -p $DIR1/d14
 346         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
 347         MULTIOP_PROG=$DIR1/d14/multiop multiop_bg_pause $TMP/test14.junk O_c || return 1
 348         MULTIOP_PID=$!
 349         log chmod
 350         chmod 600 $DIR1/d14/multiop || error "chmod failed"
 351         kill -USR1 $MULTIOP_PID || return 2
 352         wait $MULTIOP_PID || return 3
 353         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
 354         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
 355 }
 356 run_test 14d "chmod of executing file is still possible ========"
 357
 358 test_15() {     # bug 974 - ENOSPC
 359         echo "PATH=$PATH"
 360         sh oos2.sh $MOUNT1 $MOUNT2
 361         wait_delete_completed
 362         grant_error=`dmesg | grep "> available"`
 363         [ -z "$grant_error" ] || error "$grant_error"
 364 }
 365 run_test 15 "test out-of-space with multiple writers ==========="
 366
 367 COUNT=${COUNT:-2500}
 368 # The FSXNUM reduction for ZFS is needed until ORI-487 is fixed.
 369 # We don't want to skip it entirely, but ZFS is VERY slow and cannot
 370 # pass a 2500 operation dual-mount run within the time limit.
 371 if [ "$(facet_fstype ost1)" = "zfs" ]; then
 372         FSXNUM=$((COUNT / 5))
 373         FSXP=1
 374 elif [ "$SLOW" = "yes" ]; then
 375         FSXNUM=$((COUNT * 5))
 376         FSXP=500
 377 else
 378         FSXNUM=$COUNT
 379         FSXP=100
 380 fi
 381
 382 test_16() {
 383         local file1=$DIR1/$tfile
 384         local file2=$DIR2/$tfile
 385
 386         # to allocate grant because it may run out due to test_15.
 387         lfs setstripe -c -1 $file1
 388         dd if=/dev/zero of=$file1 bs=$STRIPE_BYTES count=$OSTCOUNT oflag=sync
 389         dd if=/dev/zero of=$file2 bs=$STRIPE_BYTES count=$OSTCOUNT oflag=sync
 390         rm -f $file1
 391
 392         lfs setstripe -c -1 $file1 # b=10919
 393         fsx -c 50 -p $FSXP -N $FSXNUM -l $((SIZE * 256)) -S 0 $file1 $file2
 394 }
 395 run_test 16 "$FSXNUM iterations of dual-mount fsx"
 396
 397 test_17() { # bug 3513, 3667
 398         remote_ost_nodsh && skip "remote OST with nodsh" && return
 399
 400         lfs setstripe $DIR1/$tfile -i 0 -c 1
 401         cp $SAMPLE_FILE $DIR1/$tfile
 402         cancel_lru_locks osc > /dev/null
 403         #define OBD_FAIL_ONCE|OBD_FAIL_LDLM_CREATE_RESOURCE    0x30a
 404         do_facet ost1 lctl set_param fail_loc=0x8000030a
 405         ls -ls $DIR1/$tfile | awk '{ print $1,$6 }' > $DIR1/$tfile-1 & \
 406         ls -ls $DIR2/$tfile | awk '{ print $1,$6 }' > $DIR2/$tfile-2
 407         wait
 408         diff -u $DIR1/$tfile-1 $DIR2/$tfile-2 || error "files are different"
 409 }
 410 run_test 17 "resource creation/LVB creation race ==============="
 411
 412 test_18() {
 413         # turn e.g. ALWAYS_EXCEPT="18c" into "-e 3"
 414         local idx
 415         local excepts=
 416         for idx in {a..z}; do
 417                 local ptr=EXCEPT_ALWAYS_18$idx
 418                 [ x${!ptr} = xtrue ] || continue
 419
 420                 excepts="$excepts -e $(($(printf %d \'$idx)-96))"
 421         done
 422
 423         $LUSTRE/tests/mmap_sanity -d $MOUNT1 -m $MOUNT2 $excepts
 424         sync; sleep 1; sync
 425 }
 426 run_test 18 "mmap sanity check ================================="
 427
 428 test_19() { # bug3811
 429         local node=$(facet_active_host ost1)
 430
 431         # check whether obdfilter is cache capable at all
 432         if ! get_osd_param $node '' read_cache_enable >/dev/null; then
 433                 echo "not cache-capable obdfilter"
 434                 return 0
 435         fi
 436
 437         local MAX=$(get_osd_param $node '' readcache_max_filesize | \
 438                     head -n 1)
 439         set_osd_param $node '' readcache_max_filesize 4096
 440         dd if=/dev/urandom of=$TMP/$tfile bs=512k count=32
 441         local SUM=$(cksum $TMP/$tfile | cut -d" " -f 1,2)
 442         cp $TMP/$tfile $DIR1/$tfile
 443         for i in `seq 1 20`; do
 444                 [ $((i % 5)) -eq 0 ] && log "$testname loop $i"
 445                 cancel_lru_locks osc > /dev/null
 446                 cksum $DIR1/$tfile | cut -d" " -f 1,2 > $TMP/sum1 & \
 447                 cksum $DIR2/$tfile | cut -d" " -f 1,2 > $TMP/sum2
 448                 wait
 449                 [ "$(cat $TMP/sum1)" = "$SUM" ] || \
 450                         error "$DIR1/$tfile $(cat $TMP/sum1) != $SUM"
 451                 [ "$(cat $TMP/sum2)" = "$SUM" ] || \
 452                         error "$DIR2/$tfile $(cat $TMP/sum2) != $SUM"
 453         done
 454         set_osd_param $node '' readcache_max_filesize $MAX
 455         rm $DIR1/$tfile
 456 }
 457 run_test 19 "test concurrent uncached read races ==============="
 458
 459 test_20() {
 460         test_mkdir $DIR1/d20
 461         cancel_lru_locks osc
 462         CNT=$((`lctl get_param -n llite.*.dump_page_cache | wc -l`))
 463         $MULTIOP $DIR1/f20 Ow8190c
 464         $MULTIOP $DIR2/f20 Oz8194w8190c
 465         $MULTIOP $DIR1/f20 Oz0r8190c
 466         cancel_lru_locks osc
 467         CNTD=$((`lctl get_param -n llite.*.dump_page_cache | wc -l` - $CNT))
 468         [ $CNTD -gt 0 ] && \
 469             error $CNTD" page left in cache after lock cancel" || true
 470 }
 471 run_test 20 "test extra readahead page left in cache ===="
 472
 473 cleanup_21() {
 474         trap 0
 475         umount $DIR1/$tdir
 476 }
 477
 478 test_21() { # Bug 5907
 479         test_mkdir $DIR1/$tdir
 480         mount /etc $DIR1/$tdir --bind || error "mount failed" # Poor man's mount.
 481         trap cleanup_21 EXIT
 482         rmdir -v $DIR1/$tdir && error "Removed mounted directory"
 483         rmdir -v $DIR2/$tdir && echo "Removed mounted directory from another mountpoint, needs to be fixed"
 484         test -d $DIR1/$tdir || error "Mounted directory disappeared"
 485         cleanup_21
 486         test -d $DIR2/$tdir || test -d $DIR1/$tdir && error "Removed dir still visible after umount"
 487         true
 488 }
 489 run_test 21 " Try to remove mountpoint on another dir ===="
 490
 491 test_23() { # Bug 5972
 492         echo "others should see updated atime while another read" > $DIR1/f23
 493
 494         # clear the lock(mode: LCK_PW) gotten from creating operation
 495         cancel_lru_locks osc
 496
 497         time1=`date +%s`
 498         #MAX_ATIME_DIFF 60, we update atime only if older than 60 seconds
 499         sleep 61
 500
 501         multiop_bg_pause $DIR1/f23 or20_c || return 1
 502         # with SOM and opencache enabled, we need to close a file and cancel
 503         # open lock to get atime propogated to MDS
 504         kill -USR1 $!
 505         cancel_lru_locks mdc
 506
 507         time2=`stat -c "%X" $DIR2/f23`
 508
 509         if (( $time2 <= $time1 )); then
 510                 error "atime doesn't update among nodes"
 511         fi
 512
 513         rm -f $DIR1/f23 || error "rm -f $DIR1/f23 failed"
 514         true
 515 }
 516 run_test 23 " others should see updated atime while another read===="
 517
 518 test_24a() {
 519         touch $DIR1/$tfile
 520         lfs df || error "lfs df failed"
 521         lfs df -ih || error "lfs df -ih failed"
 522         lfs df -h $DIR1 || error "lfs df -h $DIR1 failed"
 523         lfs df -i $DIR2 || error "lfs df -i $DIR2 failed"
 524         lfs df $DIR1/$tfile || error "lfs df $DIR1/$tfile failed"
 525         lfs df -ih $DIR2/$tfile || error "lfs df -ih $DIR2/$tfile failed"
 526
 527         OSC=`lctl dl | awk '/-osc-|OSC.*MNT/ {print $4}' | head -n 1`
 528 #       OSC=`lctl dl | awk '/-osc-/ {print $4}' | head -n 1`
 529         lctl --device %$OSC deactivate
 530         lfs df -i || error "lfs df -i with deactivated OSC failed"
 531         lctl --device %$OSC activate
 532         lfs df || error "lfs df with reactivated OSC failed"
 533 }
 534 run_test 24a "lfs df [-ih] [path] test ========================="
 535
 536 test_24b() {
 537         touch $DIR1/$tfile
 538         fsnum=$(lfs_df | grep -c "summary")
 539         [ $fsnum -eq 2 ] || error "lfs df shows $fsnum != 2 filesystems."
 540 }
 541 run_test 24b "lfs df should show both filesystems ==============="
 542
 543 test_25a() {
 544         local acl=$(lctl get_param -n mdc.*MDT0000-mdc-*.connect_flags |
 545                                                                 grep -c acl)
 546         [ "$acl" -lt 1 ] && skip "must have acl, skipping" && return
 547
 548         mkdir -p $DIR1/$tdir
 549         touch $DIR1/$tdir/f1 || error "touch $DIR1/$tdir/f1"
 550         chmod 0755 $DIR1/$tdir/f1 || error "chmod 0755 $DIR1/$tdir/f1"
 551
 552         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #1"
 553         setfacl -m u:$RUNAS_ID:--- -m g:$RUNAS_GID:--- $DIR1/$tdir ||
 554                 error "setfacl $DIR2/$tdir #1"
 555         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #2"
 556         setfacl -m u:$RUNAS_ID:r-x -m g:$RUNAS_GID:r-x $DIR1/$tdir ||
 557                 error "setfacl $DIR2/$tdir #2"
 558         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #3"
 559         setfacl -m u:$RUNAS_ID:--- -m g:$RUNAS_GID:--- $DIR1/$tdir ||
 560                 error "setfacl $DIR2/$tdir #3"
 561         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #4"
 562         setfacl -x u:$RUNAS_ID: -x g:$RUNAS_GID: $DIR1/$tdir ||
 563                 error "setfacl $DIR2/$tdir #4"
 564         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #5"
 565
 566         rm -rf $DIR1/$tdir
 567 }
 568 run_test 25a "change ACL on one mountpoint be seen on another ==="
 569
 570 test_25b() {
 571         local acl=$(lctl get_param -n mdc.*MDT0000-mdc-*.connect_flags |
 572                                                         grep -c acl)
 573         [ "$acl" -lt 1 ] && skip "must have acl, skipping" && return
 574
 575         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
 576
 577         rm -rf $DIR1/$tdir
 578         $LFS mkdir -i 1 $DIR1/$tdir
 579         touch $DIR1/$tdir/f1 || error "touch $DIR1/$tdir/f1"
 580         chmod 0755 $DIR1/$tdir/f1 || error "chmod 0755 $DIR1/$tdir/f1"
 581
 582         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #1"
 583         setfacl -m u:$RUNAS_ID:--- -m g:$RUNAS_GID:--- $DIR1/$tdir ||
 584                 error "setfacl $DIR2/$tdir #1"
 585         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #2"
 586         setfacl -m u:$RUNAS_ID:r-x -m g:$RUNAS_GID:r-x $DIR1/$tdir ||
 587                 error "setfacl $DIR2/$tdir #2"
 588         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #3"
 589         setfacl -m u:$RUNAS_ID:--- -m g:$RUNAS_GID:--- $DIR1/$tdir ||
 590                 error "setfacl $DIR2/$tdir #3"
 591         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #4"
 592         setfacl -x u:$RUNAS_ID: -x g:$RUNAS_GID: $DIR1/$tdir ||
 593                 error "setfacl $DIR2/$tdir #4"
 594         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #5"
 595
 596         rm -rf $DIR1/$tdir
 597 }
 598 run_test 25b "change ACL under remote dir on one mountpoint be seen on another"
 599
 600 test_26a() {
 601         utime $DIR1/f26a -s $DIR2/f26a || error
 602 }
 603 run_test 26a "allow mtime to get older"
 604
 605 test_26b() {
 606         touch $DIR1/$tfile
 607         sleep 1
 608         echo "aaa" >> $DIR1/$tfile
 609         sleep 1
 610         chmod a+x $DIR2/$tfile
 611         mt1=`stat -c %Y $DIR1/$tfile`
 612         mt2=`stat -c %Y $DIR2/$tfile`
 613
 614         if [ x"$mt1" != x"$mt2" ]; then
 615                 error "not equal mtime, client1: "$mt1", client2: "$mt2"."
 616         fi
 617 }
 618 run_test 26b "sync mtime between ost and mds"
 619
 620 test_27() {
 621         cancel_lru_locks osc
 622         lctl clear
 623         dd if=/dev/zero of=$DIR2/$tfile bs=$((4096+4))k conv=notrunc count=4 seek=3 &
 624         DD2_PID=$!
 625         usleep 50
 626         log "dd 1 started"
 627
 628         dd if=/dev/zero of=$DIR1/$tfile bs=$((16384-1024))k conv=notrunc count=1 seek=4 &
 629         DD1_PID=$!
 630         log "dd 2 started"
 631
 632         sleep 1
 633         dd if=/dev/zero of=$DIR1/$tfile bs=8k conv=notrunc count=1 seek=0
 634         log "dd 3 finished"
 635         lctl set_param -n ldlm.dump_namespaces ""
 636         wait $DD1_PID $DD2_PID
 637         [ $? -ne 0 ] && lctl dk $TMP/debug || true
 638 }
 639 run_test 27 "align non-overlapping extent locks from request ==="
 640
 641 test_28() { # bug 9977
 642         ECHO_UUID="ECHO_osc1_UUID"
 643         tOST=`$LCTL dl | | awk '/-osc-|OSC.*MNT/ { print $4 }' | head -1`
 644
 645         $LFS setstripe $DIR1/$tfile -S 1048576 -i 0 -c 2
 646         tOBJID=`$LFS getstripe $DIR1/$tfile | awk '$1 == 1 {print $2}'`
 647         dd if=/dev/zero of=$DIR1/$tfile bs=1024k count=2
 648
 649         $LCTL <<-EOF
 650                 newdev
 651                 attach echo_client ECHO_osc1 $ECHO_UUID
 652                 setup $tOST
 653         EOF
 654
 655         tECHOID=`$LCTL dl | grep $ECHO_UUID | awk '{ print $1 }'`
 656         $LCTL --device $tECHOID destroy "${tOBJID}:0"
 657
 658         $LCTL <<-EOF
 659                 cfg_device ECHO_osc1
 660                 cleanup
 661                 detach
 662         EOF
 663
 664         # reading of 1st stripe should pass
 665         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 || error
 666         # reading of 2nd stripe should fail (this stripe was destroyed)
 667         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 skip=1 && error
 668
 669         # now, recreating test file
 670         dd if=/dev/zero of=$DIR1/$tfile bs=1024k count=2 || error
 671         # reading of 1st stripe should pass
 672         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 || error
 673         # reading of 2nd stripe should pass
 674         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 skip=1 || error
 675 }
 676 run_test 28 "read/write/truncate file with lost stripes"
 677
 678 test_29() { # bug 10999
 679         touch $DIR1/$tfile
 680         #define OBD_FAIL_LDLM_GLIMPSE  0x30f
 681         lctl set_param fail_loc=0x8000030f
 682         ls -l $DIR2/$tfile &
 683         usleep 500
 684         dd if=/dev/zero of=$DIR1/$tfile bs=4k count=1
 685         wait
 686 }
 687 #bug 11549 - permanently turn test off in b1_5
 688 run_test 29 "lock put race between glimpse and enqueue ========="
 689
 690 test_30() { #bug #11110, LU-2523
 691         test_mkdir -p $DIR1/$tdir
 692         cp -f /bin/bash $DIR1/$tdir/bash
 693         /bin/sh -c 'sleep 1; rm -f $DIR2/$tdir/bash;
 694                     cp /bin/bash $DIR2/$tdir' &
 695         $DIR1/$tdir/bash -c 'sleep 2;
 696                 openfile -f O_RDONLY /proc/$$/exe >& /dev/null; echo $?'
 697         wait
 698         true
 699 }
 700
 701 run_test 30 "recreate file race"
 702
 703 test_31a() {
 704         test_mkdir -p $DIR1/$tdir || error "Creating dir $DIR1/$tdir"
 705         local writes=$(LANG=C dd if=/dev/zero of=$DIR/$tdir/$tfile \
 706                        count=1 2>&1 | awk 'BEGIN { FS="+" } /out/ {print $1}')
 707         #define OBD_FAIL_LDLM_CANCEL_BL_CB_RACE   0x314
 708         lctl set_param fail_loc=0x314
 709         local reads=$(LANG=C dd if=$DIR2/$tdir/$tfile of=/dev/null 2>&1 |
 710                       awk 'BEGIN { FS="+" } /in/ {print $1}')
 711         [ $reads -eq $writes ] || error "read" $reads "blocks, must be" $writes
 712 }
 713 run_test 31a "voluntary cancel / blocking ast race=============="
 714
 715 test_31b() {
 716         remote_ost || { skip "local OST" && return 0; }
 717         remote_ost_nodsh && skip "remote OST w/o dsh" && return 0
 718
 719         # make sure there is no local locks due to destroy
 720         wait_mds_ost_sync || error "wait_mds_ost_sync()"
 721         wait_delete_completed || error "wait_delete_completed()"
 722
 723         test_mkdir -p $DIR1/$tdir || error "Creating dir $DIR1/$tdir"
 724         lfs setstripe $DIR/$tdir/$tfile -i 0 -c 1
 725         cp /etc/hosts $DIR/$tdir/$tfile
 726         #define OBD_FAIL_LDLM_CANCEL_BL_CB_RACE   0x314
 727         lctl set_param fail_loc=0x314
 728         #define OBD_FAIL_LDLM_OST_FAIL_RACE      0x316
 729         do_facet ost1 lctl set_param fail_loc=0x316
 730         # Don't crash kernel
 731         cat $DIR2/$tdir/$tfile > /dev/null 2>&1
 732         lctl set_param fail_loc=0
 733         do_facet ost1 lctl set_param fail_loc=0
 734         # cleanup: reconnect the client back
 735         df $DIR2
 736 }
 737 run_test 31b "voluntary OST cancel / blocking ast race=============="
 738
 739 # enable/disable lockless truncate feature, depending on the arg 0/1
 740 enable_lockless_truncate() {
 741         lctl set_param -n osc.*.lockless_truncate $1
 742 }
 743
 744 test_32a() { # bug 11270
 745         local p="$TMP/sanityN-$TESTNAME.parameters"
 746         save_lustre_params $HOSTNAME osc.*.lockless_truncate > $p
 747         cancel_lru_locks osc
 748         enable_lockless_truncate 1
 749         rm -f $DIR1/$tfile
 750         lfs setstripe -c -1 $DIR1/$tfile
 751         dd if=/dev/zero of=$DIR1/$tfile count=$OSTCOUNT bs=$STRIPE_BYTES > \
 752                 /dev/null 2>&1
 753         clear_osc_stats
 754
 755         log "checking cached lockless truncate"
 756         $TRUNCATE $DIR1/$tfile 8000000
 757         $CHECKSTAT -s 8000000 $DIR2/$tfile || error "wrong file size"
 758         [ $(calc_osc_stats lockless_truncate) -eq 0 ] ||
 759                 error "lockless truncate doesn't use cached locks"
 760
 761         log "checking not cached lockless truncate"
 762         $TRUNCATE $DIR2/$tfile 5000000
 763         $CHECKSTAT -s 5000000 $DIR1/$tfile || error "wrong file size"
 764         [ $(calc_osc_stats lockless_truncate) -ne 0 ] ||
 765                 error "not cached trancate isn't lockless"
 766
 767         log "disabled lockless truncate"
 768         enable_lockless_truncate 0
 769         clear_osc_stats
 770         $TRUNCATE $DIR2/$tfile 3000000
 771         $CHECKSTAT -s 3000000 $DIR1/$tfile || error "wrong file size"
 772         [ $(calc_osc_stats lockless_truncate) -eq 0 ] ||
 773                 error "lockless truncate disabling failed"
 774         rm $DIR1/$tfile
 775         # restore lockless_truncate default values
 776         restore_lustre_params < $p
 777         rm -f $p
 778 }
 779 run_test 32a "lockless truncate"
 780
 781 test_32b() { # bug 11270
 782         remote_ost_nodsh && skip "remote OST with nodsh" && return
 783
 784         local node
 785         local p="$TMP/sanityN-$TESTNAME.parameters"
 786         save_lustre_params $HOSTNAME "osc.*.contention_seconds" > $p
 787         for node in $(osts_nodes); do
 788                 save_lustre_params $node "ldlm.namespaces.filter-*.max_nolock_bytes" >> $p
 789                 save_lustre_params $node "ldlm.namespaces.filter-*.contended_locks" >> $p
 790                 save_lustre_params $node "ldlm.namespaces.filter-*.contention_seconds" >> $p
 791         done
 792         clear_osc_stats
 793         # agressive lockless i/o settings
 794         for node in $(osts_nodes); do
 795                 do_node $node 'lctl set_param -n ldlm.namespaces.filter-*.max_nolock_bytes 2000000; lctl set_param -n ldlm.namespaces.filter-*.contended_locks 0; lctl set_param -n ldlm.namespaces.filter-*.contention_seconds 60'
 796         done
 797         lctl set_param -n osc.*.contention_seconds 60
 798         for i in $(seq 5); do
 799                 dd if=/dev/zero of=$DIR1/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 800                 dd if=/dev/zero of=$DIR2/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 801         done
 802         [ $(calc_osc_stats lockless_write_bytes) -ne 0 ] || error "lockless i/o was not triggered"
 803         # disable lockless i/o (it is disabled by default)
 804         for node in $(osts_nodes); do
 805                 do_node $node 'lctl set_param -n ldlm.namespaces.filter-*.max_nolock_bytes 0; lctl set_param -n ldlm.namespaces.filter-*.contended_locks 32; lctl set_param -n ldlm.namespaces.filter-*.contention_seconds 0'
 806         done
 807         # set contention_seconds to 0 at client too, otherwise Lustre still
 808         # remembers lock contention
 809         lctl set_param -n osc.*.contention_seconds 0
 810         clear_osc_stats
 811         for i in $(seq 1); do
 812                 dd if=/dev/zero of=$DIR1/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 813                 dd if=/dev/zero of=$DIR2/$tfile bs=4k count=1 conv=notrunc > /dev/null 2>&1
 814         done
 815         [ $(calc_osc_stats lockless_write_bytes) -eq 0 ] ||
 816                 error "lockless i/o works when disabled"
 817         rm -f $DIR1/$tfile
 818         restore_lustre_params <$p
 819         rm -f $p
 820 }
 821 run_test 32b "lockless i/o"
 822
 823 print_jbd_stat () {
 824     local dev
 825     local mdts=$(get_facets MDS)
 826     local varcvs
 827     local mds
 828
 829     local stat=0
 830     for mds in ${mdts//,/ }; do
 831         varsvc=${mds}_svc
 832         dev=$(basename $(do_facet $mds "lctl get_param -n osd*.${!varsvc}.mntdev|\
 833                 xargs readlink -f" ))
 834         val=$(do_facet $mds "cat /proc/fs/jbd*/${dev}{,:*,-*}/info 2>/dev/null|\
 835                 head -1")
 836         val=${val%% *};
 837         stat=$(( stat + val))
 838     done
 839     echo $stat
 840 }
 841
 842 # commit on sharing tests
 843 test_33a() {
 844     remote_mds_nodsh && skip "remote MDS with nodsh" && return
 845
 846     [ -z "$CLIENTS" ] && skip "Need two or more clients, have $CLIENTS" && return 0
 847     [ $CLIENTCOUNT -lt 2 ] &&
 848         skip "Need two or more clients, have $CLIENTCOUNT" && return 0
 849
 850     local nfiles=${TEST33_NFILES:-10000}
 851     local param_file=$TMP/$tfile-params
 852     local fstype=$(facet_fstype $SINGLEMDS)
 853
 854     save_lustre_params $(comma_list $(mdts_nodes)) "mdt.*.commit_on_sharing" > $param_file
 855
 856     local COS
 857     local jbdold="N/A"
 858     local jbdnew="N/A"
 859     local jbd
 860
 861     for COS in 0 1; do
 862         do_facet $SINGLEMDS lctl set_param mdt.*.commit_on_sharing=$COS
 863         avgjbd=0
 864         avgtime=0
 865         for i in 1 2 3; do
 866             do_nodes $CLIENT1,$CLIENT2 "mkdir -p $DIR1/$tdir-\\\$(hostname)-$i"
 867
 868             [ $fstype = ldiskfs ] && jbdold=$(print_jbd_stat)
 869             echo "=== START createmany old: $jbdold transaction"
 870             local elapsed=$(do_and_time "do_nodes $CLIENT1,$CLIENT2 createmany -o $DIR1/$tdir-\\\$(hostname)-$i/f- -r $DIR2/$tdir-\\\$(hostname)-$i/f- $nfiles > /dev/null 2>&1")
 871             [ $fstype = ldiskfs ] && jbdnew=$(print_jbd_stat)
 872             [ $fstype = ldiskfs ] && jbd=$(( jbdnew - jbdold ))
 873             echo "=== END   createmany new: $jbdnew transaction :  $jbd transactions  nfiles $nfiles time $elapsed COS=$COS"
 874             [ $fstype = ldiskfs ] && avgjbd=$(( avgjbd + jbd ))
 875             avgtime=$(( avgtime + elapsed ))
 876         done
 877         eval cos${COS}_jbd=$((avgjbd / 3))
 878         eval cos${COS}_time=$((avgtime / 3))
 879     done
 880
 881     echo "COS=0 transactions (avg): $cos0_jbd  time (avg): $cos0_time"
 882     echo "COS=1 transactions (avg): $cos1_jbd  time (avg): $cos1_time"
 883     [ "$cos0_jbd" != 0 ] && echo "COS=1 vs COS=0 jbd:  $((((cos1_jbd/cos0_jbd - 1)) * 100 )) %"
 884     [ "$cos0_time" != 0 ] && echo "COS=1 vs COS=0 time: $((((cos1_time/cos0_time - 1)) * 100 )) %"
 885
 886     restore_lustre_params < $param_file
 887     rm -f $param_file
 888     return 0
 889 }
 890 run_test 33a "commit on sharing, cross crete/delete, 2 clients, benchmark"
 891
 892 # commit on sharing tests
 893 test_33b() {
 894         remote_mds_nodsh && skip "remote MDS with nodsh" && return
 895
 896         [ -n "$CLIENTS" ] || { skip "Need two or more clients" && return 0; }
 897         [ $CLIENTCOUNT -ge 2 ] ||
 898                 { skip "Need two or more clients, have $CLIENTCOUNT" &&
 899                                                                 return 0; }
 900         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
 901
 902         local nfiles=${TEST33_NFILES:-10000}
 903         local param_file=$TMP/$tfile-params
 904
 905         save_lustre_params $(comma_list $(mdts_nodes)) \
 906                                 "mdt.*.commit_on_sharing" > $param_file
 907         local COS
 908         local jbdold
 909         local jbdnew
 910         local jbd
 911         local MDTIDX=1
 912
 913         for COS in 0 1; do
 914                 do_facet $SINGLEMDS lctl set_param mdt.*.commit_on_sharing=$COS
 915                 avgjbd=0
 916                 avgtime=0
 917                 for i in 1 2 3; do
 918                         do_node $CLIENT1 "$LFS mkdir -i $MDTIDX -p \
 919                                           $DIR1/$tdir-\\\$(hostname)-$i"
 920
 921                         jbdold=$(print_jbd_stat)
 922                         echo "=== START createmany old: $jbdold transaction"
 923                         local elapsed=$(do_and_time "do_nodes $CLIENT1,$CLIENT2\
 924                                 createmany -o $DIR1/$tdir-\\\$(hostname)-$i/f- \
 925                                 -r $DIR2/$tdir-\\\$(hostname)-$i/f- $nfiles > \
 926                                                                 /dev/null 2>&1")
 927                         jbdnew=$(print_jbd_stat)
 928                         jbd=$(( jbdnew - jbdold ))
 929                         echo "=== END   createmany new: $jbdnew transaction : \
 930                         $jbd transactions nfiles $nfiles time $elapsed COS=$COS"
 931                         avgjbd=$(( avgjbd + jbd ))
 932                         avgtime=$(( avgtime + elapsed ))
 933                 done
 934                 eval cos${COS}_jbd=$((avgjbd / 3))
 935                 eval cos${COS}_time=$((avgtime / 3))
 936         done
 937
 938         echo "COS=0 transactions (avg): $cos0_jbd  time (avg): $cos0_time"
 939         echo "COS=1 transactions (avg): $cos1_jbd  time (avg): $cos1_time"
 940         [ "$cos0_jbd" != 0 ] &&
 941             echo "COS=1 vs COS=0 jbd: $(((cos1_jbd/cos0_jbd - 1) * 100)) %"
 942         [ "$cos0_time" != 0 ] &&
 943             echo "COS=1 vs COS=0 time: $(((cos1_time/cos0_time - 1) * 100)) %"
 944
 945         restore_lustre_params < $param_file
 946         rm -f $param_file
 947         return 0
 948 }
 949 run_test 33b "COS: cross create/delete, 2 clients, benchmark under remote dir"
 950
 951 # End commit on sharing tests
 952
 953 get_ost_lock_timeouts() {
 954     local nodes=${1:-$(comma_list $(osts_nodes))}
 955
 956     local locks=$(do_nodes $nodes \
 957         "lctl get_param -n ldlm.namespaces.filter-*.lock_timeouts" | calc_sum)
 958
 959     echo $locks
 960 }
 961
 962 cleanup_34() {
 963         local i
 964         trap 0
 965         do_nodes $(comma_list $(osts_nodes)) \
 966                 "lctl set_param -n fail_loc=0 2>/dev/null || true"
 967         for i in $(seq $OSTCOUNT); do
 968                 wait_osc_import_state client ost$i FULL
 969         done
 970 }
 971
 972 test_34() { #16129
 973         local OPER
 974         local lock_in
 975         local lock_out
 976         trap cleanup_34 EXIT RETURN
 977         for OPER in notimeout timeout ; do
 978                 rm $DIR1/$tfile 2>/dev/null
 979                 lock_in=$(get_ost_lock_timeouts)
 980                 if [ $OPER == "timeout" ] ; then
 981                         for j in `seq $OSTCOUNT`; do
 982                                 #define OBD_FAIL_PTLRPC_HPREQ_TIMEOUT    0x511
 983                                 do_facet ost$j lctl set_param fail_loc=0x511
 984                         done
 985                         echo lock should expire
 986                 else
 987                         for j in `seq $OSTCOUNT`; do
 988                                 #define OBD_FAIL_PTLRPC_HPREQ_NOTIMEOUT  0x512
 989                                 do_facet ost$j lctl set_param fail_loc=0x512
 990                         done
 991                         echo lock should not expire
 992                 fi
 993                 echo writing on client1
 994                 dd if=/dev/zero of=$DIR1/$tfile count=100 conv=notrunc > /dev/null 2>&1
 995                 sync &
 996                 echo reading on client2
 997                 dd of=/dev/null if=$DIR2/$tfile > /dev/null 2>&1
 998                 # wait for a lock timeout
 999                 sleep 4
1000                 lock_out=$(get_ost_lock_timeouts)
1001                 if [ $OPER == "timeout" ] ; then
1002                         if [ $lock_in == $lock_out ]; then
1003                                 error "no lock timeout happened"
1004                         else
1005                                 echo "success"
1006                         fi
1007                 else
1008                         if [ $lock_in != $lock_out ]; then
1009                                 error "lock timeout happened"
1010                         else
1011                                 echo "success"
1012                         fi
1013                 fi
1014         done
1015         cleanup_34
1016 }
1017 run_test 34 "no lock timeout under IO"
1018
1019 test_35() { # bug 17645
1020         local generation=[]
1021         local count=0
1022         for imp in /proc/fs/lustre/mdc/$FSNAME-MDT*-mdc-*; do
1023             g=$(awk '/generation/{print $2}' $imp/import)
1024             generation[count]=$g
1025             let count=count+1
1026         done
1027
1028         test_mkdir -p $MOUNT1/$tfile
1029         cancel_lru_locks mdc
1030
1031         # Let's initiate -EINTR situation by setting fail_loc and take
1032         # write lock on same file from same client. This will not cause
1033         # bl_ast yet as lock is already in local cache.
1034 #define OBD_FAIL_LDLM_INTR_CP_AST        0x317
1035         do_facet client "lctl set_param fail_loc=0x80000317"
1036         local timeout=`do_facet $SINGLEMDS lctl get_param  -n timeout`
1037         let timeout=timeout*3
1038         local nr=0
1039         while test $nr -lt 10; do
1040                 log "Race attempt $nr"
1041                 local blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
1042                 test "x$blk1" = "x" && blk1=0
1043                 createmany -o $MOUNT2/$tfile/a 4000 &
1044                 pid1=$!
1045                 sleep 1
1046
1047                 # Let's make conflict and bl_ast
1048                 ls -la $MOUNT1/$tfile > /dev/null &
1049                 pid2=$!
1050
1051                 log "Wait for $pid1 $pid2 for $timeout sec..."
1052                 sleep $timeout
1053                 kill -9 $pid1 $pid2 > /dev/null 2>&1
1054                 wait
1055                 local blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
1056                 test "x$blk2" = "x" && blk2=0
1057                 test $blk2 -gt $blk1 && break
1058                 rm -fr $MOUNT1/$tfile/*
1059                 cancel_lru_locks mdc
1060                 let nr=nr+1
1061         done
1062         do_facet client "lctl set_param fail_loc=0x0"
1063         df -h $MOUNT1 $MOUNT2
1064         count=0
1065         for imp in /proc/fs/lustre/mdc/$FSNAME-MDT*-mdc-*; do
1066             g=$(awk '/generation/{print $2}' $imp/import)
1067             if ! test "$g" -eq "${generation[count]}"; then
1068                 error "Eviction happened on import $(basename $imp)"
1069             fi
1070             let count=count+1
1071         done
1072 }
1073 run_test 35 "-EINTR cp_ast vs. bl_ast race does not evict client"
1074
1075 test_36() { #bug 16417
1076         local SIZE
1077         local SIZE_B
1078         local i
1079
1080         test_mkdir -p $DIR1/$tdir
1081         $LFS setstripe -c -1 $DIR1/$tdir
1082         i=0
1083         SIZE=50
1084         let SIZE_B=SIZE*1024*1024
1085         sync; sleep 5; sync # wait for delete thread
1086
1087         while [ $i -le 10 ]; do
1088                 lctl mark "start test"
1089                 local before=$(lfs_df $MOUNT1 | awk '/^filesystem/{ print $4; exit }')
1090                 dd if=/dev/zero of=$DIR1/$tdir/$tfile bs=1M count=$SIZE ||
1091                         error "dd $DIR1/$tdir/$tfile ${SIZE}MB failed"
1092                 sync          # sync data from client cache
1093                 sync_all_data # sync data from server cache (delayed allocation)
1094                 sleep 2
1095                 local after_dd=$(lfs_df $MOUNT1 | awk '/^filesystem/{ print $4; exit }')
1096                 multiop_bg_pause $DIR2/$tdir/$tfile O_r${SIZE_B}c || return 3
1097                 read_pid=$!
1098                 rm -f $DIR1/$tdir/$tfile
1099                 kill -USR1 $read_pid
1100                 wait $read_pid
1101                 wait_delete_completed
1102                 local after=$(lfs_df $MOUNT1 | awk '/^filesystem/{ print $4; exit }')
1103                 echo "*** cycle($i) *** before($before) after_dd($after_dd)" \
1104                         "after($after)"
1105                 # this free space! not used
1106                 (( $after_dd <= $after)) ||
1107                         error "space leaked after_dd:$after_dd > after:$after"
1108                 let i=i+1
1109         done
1110 }
1111 run_test 36 "handle ESTALE/open-unlink correctly"
1112
1113 test_37() { # bug 18695
1114         test_mkdir -p $DIR1/$tdir
1115         multiop_bg_pause $DIR1/$tdir D_c || return 1
1116         MULTIPID=$!
1117         # create large directory (32kB seems enough from e2fsck, ~= 1000 files)
1118         createmany -m $DIR2/$tdir/f 10000
1119         # set mtime/atime backward
1120         touch -t 198001010000 $DIR2/$tdir
1121         kill -USR1 $MULTIPID
1122         nr_files=`lfs find $DIR1/$tdir -type f | wc -l`
1123         [ $nr_files -eq 10000 ] || error "$nr_files != 10000 truncated directory?"
1124
1125 }
1126 run_test 37 "check i_size is not updated for directory on close (bug 18695) =============="
1127
1128 # this should be set to past
1129 TEST_39_MTIME=`date -d "1 year ago" +%s`
1130
1131 # bug 11063
1132 test_39a() {
1133         local client1=${CLIENT1:-`hostname`}
1134         local client2=${CLIENT2:-`hostname`}
1135
1136         do_node $client1 "touch $DIR1/$tfile"
1137
1138         do_node $client1 "touch -m -d @$TEST_39_MTIME $DIR1/$tfile"
1139         local mtime1=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1140         [ "$mtime1" = $TEST_39_MTIME ] || \
1141                 error "mtime is not set to past: $mtime1, should be $TEST_39_MTIME"
1142
1143         local d1=`do_node $client1 date +%s`
1144         do_node $client1 'echo hello >> '$DIR1/$tfile
1145         local d2=`do_node $client1 date +%s`
1146
1147         local mtime2=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1148         [ "$mtime2" -ge "$d1" ] && [ "$mtime2" -le "$d2" ] || \
1149                 error "mtime is not updated on write: $d1 <= $mtime2 <= $d2"
1150
1151         do_node $client1 "mv $DIR1/$tfile $DIR1/$tfile-1"
1152
1153         for (( i=0; i < 2; i++ )) ; do
1154                 local mtime3=`do_node $client2 "stat -c %Y $DIR1/$tfile-1"`
1155                 [ "$mtime2" = "$mtime3" ] || \
1156                         error "mtime ($mtime2) changed (to $mtime3) on rename"
1157
1158                 cancel_lru_locks osc
1159                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
1160         done
1161 }
1162 run_test 39a "test from 11063 =================================="
1163
1164 test_39b() {
1165         local client1=${CLIENT1:-`hostname`}
1166         local client2=${CLIENT2:-`hostname`}
1167
1168         touch $DIR1/$tfile
1169
1170         local mtime1=`stat -c %Y $DIR1/$tfile`
1171         local mtime2=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1172
1173         sleep 1
1174         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
1175
1176         for (( i=0; i < 2; i++ )) ; do
1177                 local mtime3=`stat -c %Y $DIR1/$tfile`
1178                 local mtime4=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1179
1180                 [ "$mtime3" = "$mtime4" ] || \
1181                         error "different mtime on clients: $mtime3, $mtime4"
1182                 [ "$mtime3" = $TEST_39_MTIME ] || \
1183                         error "lost mtime: $mtime3, should be $TEST_39_MTIME"
1184
1185                 cancel_lru_locks osc
1186                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
1187         done
1188 }
1189 run_test 39b "11063 problem 1 =================================="
1190
1191 test_39c() {
1192         local client1=${CLIENT1:-`hostname`}
1193         local client2=${CLIENT2:-`hostname`}
1194
1195         echo hello > $DIR1/$tfile
1196
1197         local mtime1=`stat -c %Y $DIR1/$tfile`
1198         local mtime2=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1199         [ "$mtime1" = "$mtime2" ] || \
1200                 error "create: different mtime on clients: $mtime1, $mtime2"
1201
1202         sleep 1
1203         $TRUNCATE $DIR1/$tfile 1
1204
1205         for (( i=0; i < 2; i++ )) ; do
1206                 local mtime3=`stat -c %Y $DIR1/$tfile`
1207                 local mtime4=`do_node $client2 "stat -c %Y $DIR1/$tfile"`
1208
1209                 [ "$mtime3" = "$mtime4" ] || \
1210                         error "different mtime on clients: $mtime3, $mtime4"
1211                 [ "$mtime3" -gt $mtime2 ] || \
1212                         error "truncate did not update mtime: $mtime2, $mtime3"
1213
1214                 cancel_lru_locks osc
1215                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
1216         done
1217 }
1218 run_test 39c "check truncate mtime update ======================"
1219
1220 # check that pid exists hence second operation wasn't blocked by first one
1221 # if it is so then there is no conflict, return 0
1222 # else second operation is conflicting with first one, return 1
1223 check_pdo_conflict() {
1224         local pid=$1
1225         local conflict=0
1226         sleep 1 # to ensure OP1 is finished on client if OP2 is blocked by OP1
1227         if [[ `ps --pid $pid | wc -l` == 1 ]]; then
1228                 conflict=1
1229                 echo "Conflict"
1230         else
1231                 echo "No conflict"
1232         fi
1233         return $conflict
1234 }
1235
1236 # pdirop tests
1237 # test 40: check non-blocking operations
1238 test_40a() {
1239 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1240         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1241         mkdir $DIR1/$tfile &
1242         PID1=$!
1243         sleep 1
1244         touch $DIR2/$tfile-2
1245         check_pdo_conflict $PID1 || error "create is blocked"
1246         mkdir $DIR2/$tfile-3
1247         check_pdo_conflict $PID1 || error "mkdir is blocked"
1248         link $DIR2/$tfile-2 $DIR2/$tfile-4
1249         check_pdo_conflict $PID1 || error "link is blocked"
1250         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1251         check_pdo_conflict $PID1 || error "rename is blocked"
1252         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1253         check_pdo_conflict $PID1 || error "getattr is blocked"
1254         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1255         rmdir $DIR2/$tfile-3
1256         check_pdo_conflict $PID1 || error "unlink is blocked"
1257
1258         if [ $MDSCOUNT -ge 2 ]; then
1259                 $LFS mkdir -i 1 $DIR2/$tfile-6
1260                 check_pdo_conflict $PID1 || error "remote mkdir is blocked"
1261         fi
1262
1263         # all operations above shouldn't wait the first one
1264         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1265         wait $PID1
1266         rm -r $DIR1/*
1267         return 0
1268 }
1269 run_test 40a "pdirops: create vs others =============="
1270
1271 test_40b() {
1272 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1273         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1274         touch $DIR1/$tfile &
1275         PID1=$!
1276         sleep 1
1277         # open|create
1278         touch $DIR2/$tfile-2
1279         check_pdo_conflict $PID1 || error "create is blocked"
1280         mkdir $DIR2/$tfile-3
1281         check_pdo_conflict $PID1 || error "mkdir is blocked"
1282         link $DIR2/$tfile-2 $DIR2/$tfile-4
1283         check_pdo_conflict $PID1 || error "link is blocked"
1284         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1285         check_pdo_conflict $PID1 || error "rename is blocked"
1286         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1287         check_pdo_conflict $PID1 || error "getattr is blocked"
1288         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1289         rmdir $DIR2/$tfile-3
1290         check_pdo_conflict $PID1 || error "unlink is blocked"
1291         # all operations above shouldn't wait the first one
1292
1293         if [ $MDSCOUNT -ge 2 ]; then
1294                 $LFS mkdir -i 1 $DIR2/$tfile-6
1295                 check_pdo_conflict $PID1 || error "remote mkdir is blocked"
1296         fi
1297
1298         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1299         wait $PID1
1300         rm -r $DIR1/*
1301         return 0
1302 }
1303 run_test 40b "pdirops: open|create and others =============="
1304
1305 test_40c() {
1306         touch $DIR1/$tfile
1307 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1308         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1309         link $DIR1/$tfile $DIR1/$tfile-0 &
1310         PID1=$!
1311         sleep 1
1312         # open|create
1313         touch $DIR2/$tfile-2
1314         check_pdo_conflict $PID1 || error "create is blocked"
1315         mkdir $DIR2/$tfile-3
1316         check_pdo_conflict $PID1 || error "mkdir is blocked"
1317         link $DIR2/$tfile-2 $DIR2/$tfile-4
1318         check_pdo_conflict $PID1 || error "link is blocked"
1319         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1320         check_pdo_conflict $PID1 || error "rename is blocked"
1321         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1322         check_pdo_conflict $PID1 || error "getattr is blocked"
1323         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1324         rmdir $DIR2/$tfile-3
1325         check_pdo_conflict $PID1 || error "unlink is blocked"
1326
1327         if [ $MDSCOUNT -ge 2 ]; then
1328                 $LFS mkdir -i 1 $DIR2/$tfile-6
1329                 check_pdo_conflict $PID1 || error "remote mkdir is blocked"
1330         fi
1331
1332         # all operations above shouldn't wait the first one
1333         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1334         wait $PID1
1335         rm -r $DIR1/*
1336         return 0
1337 }
1338 run_test 40c "pdirops: link and others =============="
1339
1340 test_40d() {
1341         touch $DIR1/$tfile
1342 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1343         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1344         rm $DIR1/$tfile &
1345         PID1=$!
1346         sleep 1
1347         # open|create
1348         touch $DIR2/$tfile-2
1349         check_pdo_conflict $PID1 || error "create is blocked"
1350         mkdir $DIR2/$tfile-3
1351         check_pdo_conflict $PID1 || error "mkdir is blocked"
1352         link $DIR2/$tfile-2 $DIR2/$tfile-4
1353         check_pdo_conflict $PID1 || error "link is blocked"
1354         mv $DIR2/$tfile-2 $DIR2/$tfile-5
1355         check_pdo_conflict $PID1 || error "rename is blocked"
1356         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1357         check_pdo_conflict $PID1 || error "getattr is blocked"
1358         rm $DIR2/$tfile-4 $DIR2/$tfile-5
1359         rmdir $DIR2/$tfile-3
1360         check_pdo_conflict $PID1 || error "unlink is blocked"
1361
1362         if [ $MDSCOUNT -ge 2 ]; then
1363                 $LFS mkdir -i 1 $DIR2/$tfile-6
1364                 check_pdo_conflict $PID1 || error "remote mkdir is blocked"
1365         fi
1366
1367         # all operations above shouldn't wait the first one
1368         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1369         wait $PID1
1370         return 0
1371 }
1372 run_test 40d "pdirops: unlink and others =============="
1373
1374 test_40e() {
1375         touch $DIR1/$tfile
1376 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1377         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1378         mv $DIR1/$tfile $DIR1/$tfile-0 &
1379         PID1=$!
1380         sleep 1
1381         # open|create
1382         touch $DIR2/$tfile-2
1383         check_pdo_conflict $PID1 || error "create is blocked"
1384         mkdir $DIR2/$tfile-3
1385         check_pdo_conflict $PID1 || error "mkdir is blocked"
1386         link $DIR2/$tfile-2 $DIR2/$tfile-4
1387         check_pdo_conflict $PID1 || error "link is blocked"
1388         stat $DIR2/$tfile-3 $DIR2/$tfile-4 > /dev/null
1389         check_pdo_conflict $PID1 || error "getattr is blocked"
1390         rm $DIR2/$tfile-4 $DIR2/$tfile-2
1391         rmdir $DIR2/$tfile-3
1392         check_pdo_conflict $PID1 || error "unlink is blocked"
1393
1394         if [ $MDSCOUNT -ge 2 ]; then
1395                 $LFS mkdir -i 1 $DIR2/$tfile-6
1396                 check_pdo_conflict $PID1 || error "remote mkdir is blocked"
1397         fi
1398
1399        # all operations above shouldn't wait the first one
1400         check_pdo_conflict $PID1 || error "parallel operation is blocked"
1401         wait $PID1
1402         rm -r $DIR1/*
1403         return 0
1404 }
1405 run_test 40e "pdirops: rename and others =============="
1406
1407 # test 41: create blocking operations
1408 test_41a() {
1409 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1410         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1411         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1412         PID1=$!
1413         sleep 1
1414         mkdir $DIR2/$tfile && error "mkdir must fail"
1415         check_pdo_conflict $PID1 && { wait $PID1; echo "mkdir isn't blocked"; }
1416         rm -r $DIR1/*
1417         return 0
1418 }
1419 run_test 41a "pdirops: create vs mkdir =============="
1420
1421 test_41b() {
1422 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1423         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1424         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1425         PID1=$!
1426         sleep 1
1427         $MULTIOP $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
1428         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1429         rm -r $DIR1/*
1430         return 0
1431 }
1432 run_test 41b "pdirops: create vs create =============="
1433
1434 test_41c() {
1435         touch $DIR1/$tfile-2
1436 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1437         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1438         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1439         PID1=$!
1440         sleep 1
1441         link $DIR2/$tfile-2 $DIR2/$tfile && error "link must fail"
1442         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1443         rm -r $DIR1/*
1444         return 0
1445 }
1446 run_test 41c "pdirops: create vs link =============="
1447
1448 test_41d() {
1449 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1450         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1451         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1452         PID1=$!
1453         sleep 1
1454         rm $DIR2/$tfile || error "unlink must succeed"
1455         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1456         rm -r $DIR1/*
1457         return 0
1458 }
1459 run_test 41d "pdirops: create vs unlink =============="
1460
1461 test_41e() {
1462         touch $DIR1/$tfile-2
1463 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1464         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1465         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1466         PID1=$!
1467         sleep 1
1468         mv $DIR2/$tfile-2 $DIR2/$tfile || error "rename must succeed"
1469         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1470         rm -r $DIR1/*
1471         return 0
1472 }
1473 run_test 41e "pdirops: create and rename (tgt) =============="
1474
1475 test_41f() {
1476 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1477         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1478         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1479         PID1=$!
1480         sleep 1
1481         mv $DIR2/$tfile $DIR2/$tfile-2 || error "rename must succeed"
1482         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1483         rm -r $DIR1/*
1484         return 0
1485 }
1486 run_test 41f "pdirops: create and rename (src) =============="
1487
1488 test_41g() {
1489 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1490         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1491         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1492         PID1=$!
1493         sleep 1
1494         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
1495         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1496         rm -r $DIR1/*
1497         return 0
1498 }
1499 run_test 41g "pdirops: create vs getattr =============="
1500
1501 test_41h() {
1502 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1503         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1504         $MULTIOP $DIR1/$tfile oO_CREAT:O_RDWR:c &
1505         PID1=$!
1506         sleep 1
1507         ls -lia $DIR2/ > /dev/null
1508         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1509         rm -r $DIR1/*
1510         return 0
1511 }
1512 run_test 41h "pdirops: create vs readdir =============="
1513
1514 # test 42: unlink and blocking operations
1515 test_42a() {
1516 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1517         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1518         mkdir $DIR1/$tfile &
1519         PID1=$!
1520         sleep 1
1521         mkdir $DIR2/$tfile && error "mkdir must fail"
1522         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1523         rm -r $DIR1/*
1524         return 0
1525 }
1526 run_test 42a "pdirops: mkdir vs mkdir =============="
1527
1528 test_42b() {
1529 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1530         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1531         mkdir $DIR1/$tfile &
1532         PID1=$!
1533         sleep 1
1534         $MULTIOP $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
1535         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1536         rm -r $DIR1/*
1537         return 0
1538 }
1539 run_test 42b "pdirops: mkdir vs create =============="
1540
1541 test_42c() {
1542         touch $DIR1/$tfile-2
1543 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1544         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1545         mkdir $DIR1/$tfile &
1546         PID1=$!
1547         sleep 1
1548         link $DIR2/$tfile-2 $DIR2/$tfile && error "link must fail"
1549         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1550         rm -r $DIR1/*
1551         return 0
1552 }
1553 run_test 42c "pdirops: mkdir vs link =============="
1554
1555 test_42d() {
1556 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1557         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1558         mkdir $DIR1/$tfile &
1559         PID1=$!
1560         sleep 1
1561         rmdir $DIR2/$tfile || error "unlink must succeed"
1562         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1563         rm -r $DIR1/*
1564         return 0
1565 }
1566 run_test 42d "pdirops: mkdir vs unlink =============="
1567
1568 test_42e() {
1569         touch $DIR1/$tfile-2
1570 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1571         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1572         mkdir $DIR1/$tfile &
1573         PID1=$!
1574         sleep 1
1575         mv -T $DIR2/$tfile-2 $DIR2/$tfile && error "rename must fail"
1576         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1577         rm -r $DIR1/*
1578         return 0
1579 }
1580 run_test 42e "pdirops: mkdir and rename (tgt) =============="
1581
1582 test_42f() {
1583 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1584         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1585         mkdir $DIR1/$tfile &
1586         PID1=$!
1587         sleep 1
1588         mv $DIR2/$tfile $DIR2/$tfile-2 || error "rename must succeed"
1589         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1590         rm -r $DIR1/*
1591         return 0
1592 }
1593 run_test 42f "pdirops: mkdir and rename (src) =============="
1594
1595 test_42g() {
1596 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1597         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1598         mkdir $DIR1/$tfile &
1599         PID1=$!
1600         sleep 1
1601         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
1602         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1603         rm -r $DIR1/*
1604         return 0
1605 }
1606 run_test 42g "pdirops: mkdir vs getattr =============="
1607
1608 test_42h() {
1609 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1610         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1611         mkdir $DIR1/$tfile &
1612         PID1=$!
1613         sleep 1
1614         ls -lia $DIR2/ > /dev/null
1615         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1616         rm -r $DIR1/*
1617         return 0
1618 }
1619 run_test 42h "pdirops: mkdir vs readdir =============="
1620
1621 # test 43: unlink and blocking operations
1622 test_43a() {
1623         touch $DIR1/$tfile
1624 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1625         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1626         rm $DIR1/$tfile &
1627         PID1=$!
1628         sleep 1
1629         mkdir $DIR2/$tfile || error "mkdir must succeed"
1630         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1631         rm -r $DIR1/*
1632         return 0
1633 }
1634 run_test 43a "pdirops: unlink vs mkdir =============="
1635
1636 test_43b() {
1637         touch $DIR1/$tfile
1638 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1639         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1640         rm $DIR1/$tfile &
1641         PID1=$!
1642         sleep 1
1643         $MULTIOP $DIR2/$tfile oO_CREAT:O_EXCL:c || error "create must succeed"
1644         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1645         rm -r $DIR1/*
1646         return 0
1647 }
1648 run_test 43b "pdirops: unlink vs create =============="
1649
1650 test_43c() {
1651         touch $DIR1/$tfile
1652         touch $DIR1/$tfile-2
1653 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1654         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1655         rm $DIR1/$tfile &
1656         PID1=$!
1657         sleep 1
1658         link $DIR2/$tfile-2 $DIR2/$tfile || error "link must succeed"
1659         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1660         rm -r $DIR1/*
1661         return 0
1662 }
1663 run_test 43c "pdirops: unlink vs link =============="
1664
1665 test_43d() {
1666         touch $DIR1/$tfile
1667 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1668         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1669         rm $DIR1/$tfile &
1670         PID1=$!
1671         sleep 1
1672         rm $DIR2/$tfile && error "unlink must fail"
1673         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1674         rm -r $DIR1/*
1675         return 0
1676 }
1677 run_test 43d "pdirops: unlink vs unlink =============="
1678
1679 test_43e() {
1680         touch $DIR1/$tfile
1681         touch $DIR1/$tfile-2
1682 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1683         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1684         rm $DIR1/$tfile &
1685         PID1=$!
1686         sleep 1
1687         mv -u $DIR2/$tfile-2 $DIR2/$tfile || error "rename must succeed"
1688         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1689         rm -r $DIR1/*
1690         return 0
1691 }
1692 run_test 43e "pdirops: unlink and rename (tgt) =============="
1693
1694 test_43f() {
1695         touch $DIR1/$tfile
1696 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1697         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1698         rm $DIR1/$tfile &
1699         PID1=$!
1700         sleep 1
1701         mv $DIR2/$tfile $DIR2/$tfile-2 && error "rename must fail"
1702         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1703         rm -r $DIR1/*
1704         return 0
1705 }
1706 run_test 43f "pdirops: unlink and rename (src) =============="
1707
1708 test_43g() {
1709         touch $DIR1/$tfile
1710 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1711         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1712         rm $DIR1/$tfile &
1713         PID1=$!
1714         sleep 1
1715         stat $DIR2/$tfile > /dev/null && error "stat must fail"
1716         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1717         rm -r $DIR1/*
1718         return 0
1719 }
1720 run_test 43g "pdirops: unlink vs getattr =============="
1721
1722 test_43h() {
1723         touch $DIR1/$tfile
1724 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1725         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1726         rm $DIR1/$tfile &
1727         PID1=$!
1728         sleep 1
1729         ls -lia $DIR2/ > /dev/null
1730         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1731         rm -r $DIR1/*
1732         return 0
1733 }
1734 run_test 43h "pdirops: unlink vs readdir =============="
1735
1736 test_43i() {
1737         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1738         touch $DIR1/$tfile
1739 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1740         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1741         rm $DIR1/$tfile &
1742         PID1=$!
1743         sleep 1
1744         $LFS mkdir -i 1 $DIR2/$tfile || error "remote mkdir must succeed"
1745         check_pdo_conflict $PID1 &&
1746                 { wait $PID1; error "remote mkdir isn't blocked"; }
1747         rm -r $DIR1/*
1748         return 0
1749 }
1750 run_test 43i "pdirops: unlink vs remote mkdir"
1751
1752 # test 44: rename tgt and blocking operations
1753 test_44a() {
1754         touch $DIR1/$tfile-2
1755 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2   0x146
1756         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1757         mv $DIR1/$tfile-2 $DIR1/$tfile &
1758         PID1=$!
1759         sleep 1
1760         mkdir $DIR2/$tfile && error "mkdir must fail"
1761         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1762         rm -r $DIR1/*
1763         return 0
1764 }
1765 run_test 44a "pdirops: rename tgt vs mkdir =============="
1766
1767 test_44b() {
1768         touch $DIR1/$tfile-2
1769 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1770         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1771         mv $DIR1/$tfile-2 $DIR1/$tfile &
1772         PID1=$!
1773         sleep 1
1774         $MULTIOP $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
1775         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1776         rm -r $DIR1/*
1777         return 0
1778 }
1779 run_test 44b "pdirops: rename tgt vs create =============="
1780
1781 test_44c() {
1782         touch $DIR1/$tfile-2
1783         touch $DIR1/$tfile-3
1784 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1785         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1786         mv $DIR1/$tfile-2 $DIR1/$tfile &
1787         PID1=$!
1788         sleep 1
1789         link $DIR2/$tfile-3 $DIR2/$tfile && error "link must fail"
1790         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1791         rm -r $DIR1/*
1792         return 0
1793 }
1794 run_test 44c "pdirops: rename tgt vs link =============="
1795
1796 test_44d() {
1797         touch $DIR1/$tfile-2
1798 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1799         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1800         mv $DIR1/$tfile-2 $DIR1/$tfile &
1801         PID1=$!
1802         sleep 1
1803         rm $DIR2/$tfile || error "unlink must succeed"
1804         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1805         rm -r $DIR1/*
1806         return 0
1807 }
1808 run_test 44d "pdirops: rename tgt vs unlink =============="
1809
1810 test_44e() {
1811         touch $DIR1/$tfile
1812         touch $DIR1/$tfile-2
1813         touch $DIR1/$tfile-3
1814 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1815         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1816         mv $DIR1/$tfile-2 $DIR1/$tfile &
1817         PID1=$!
1818         sleep 1
1819         mv $DIR2/$tfile-3 $DIR2/$tfile || error "rename must succeed"
1820         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1821         rm -r $DIR1/*
1822         return 0
1823 }
1824 run_test 44e "pdirops: rename tgt and rename (tgt) =============="
1825
1826 test_44f() {
1827         touch $DIR1/$tfile-2
1828         touch $DIR1/$tfile-3
1829 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1830         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1831         mv $DIR1/$tfile-2 $DIR1/$tfile &
1832         PID1=$!
1833         sleep 1
1834         mv $DIR2/$tfile $DIR2/$tfile-3 || error "rename must succeed"
1835         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1836         rm -r $DIR1/*
1837         return 0
1838 }
1839 run_test 44f "pdirops: rename tgt and rename (src) =============="
1840
1841 test_44g() {
1842         touch $DIR1/$tfile-2
1843 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1844         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1845         mv $DIR1/$tfile-2 $DIR1/$tfile &
1846         PID1=$!
1847         sleep 1
1848         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
1849         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1850         rm -r $DIR1/*
1851         return 0
1852 }
1853 run_test 44g "pdirops: rename tgt vs getattr =============="
1854
1855 test_44h() {
1856         touch $DIR1/$tfile-2
1857 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2    0x146
1858         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1859         mv $DIR1/$tfile-2 $DIR1/$tfile &
1860         PID1=$!
1861         sleep 1
1862         ls -lia $DIR2/ > /dev/null
1863         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1864         rm -r $DIR1/*
1865         return 0
1866 }
1867 run_test 44h "pdirops: rename tgt vs readdir =============="
1868
1869 # test 44: rename tgt and blocking operations
1870 test_44i() {
1871         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1872         touch $DIR1/$tfile-2
1873 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK2   0x146
1874         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000146
1875         mv $DIR1/$tfile-2 $DIR1/$tfile &
1876         PID1=$!
1877         sleep 1
1878         $LFS mkdir -i 1 $DIR2/$tfile && error "remote mkdir must fail"
1879         check_pdo_conflict $PID1 && { wait $PID1;
1880                                 error "remote mkdir isn't blocked"; }
1881         rm -r $DIR1/*
1882         return 0
1883 }
1884 run_test 44i "pdirops: rename tgt vs remote mkdir"
1885
1886 # test 45: rename src and blocking operations
1887 test_45a() {
1888         touch $DIR1/$tfile
1889 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1890         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1891         mv $DIR1/$tfile $DIR1/$tfile-2 &
1892         PID1=$!
1893         sleep 1
1894         mkdir $DIR2/$tfile || error "mkdir must succeed"
1895         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
1896         rm -r $DIR1/*
1897         return 0
1898 }
1899 run_test 45a "pdirops: rename src vs mkdir =============="
1900
1901 test_45b() {
1902         touch $DIR1/$tfile
1903 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1904         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1905         mv $DIR1/$tfile $DIR1/$tfile-2 &
1906         PID1=$!
1907         sleep 1
1908         $MULTIOP $DIR2/$tfile oO_CREAT:O_EXCL:c || error "create must succeed"
1909         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
1910         rm -r $DIR1/*
1911         return 0
1912 }
1913 run_test 45b "pdirops: rename src vs create =============="
1914
1915 test_45c() {
1916         touch $DIR1/$tfile
1917         touch $DIR1/$tfile-3
1918 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1919         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1920         mv $DIR1/$tfile $DIR1/$tfile-2 &
1921         PID1=$!
1922         sleep 1
1923         link $DIR2/$tfile-3 $DIR2/$tfile || error "link must succeed"
1924         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
1925         rm -r $DIR1/*
1926         return 0
1927 }
1928 run_test 45c "pdirops: rename src vs link =============="
1929
1930 test_45d() {
1931         touch $DIR1/$tfile
1932 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1933         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1934         mv $DIR1/$tfile $DIR1/$tfile-2 &
1935         PID1=$!
1936         sleep 1
1937         rm $DIR2/$tfile && error "unlink must fail"
1938         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
1939         rm -r $DIR1/*
1940         return 0
1941 }
1942 run_test 45d "pdirops: rename src vs unlink =============="
1943
1944 test_45e() {
1945         touch $DIR1/$tfile
1946         touch $DIR1/$tfile-3
1947 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1948         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1949         mv $DIR1/$tfile $DIR1/$tfile-2 &
1950         PID1=$!
1951         sleep 1
1952         mv $DIR2/$tfile-3 $DIR2/$tfile || error "rename must succeed"
1953         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1954         rm -r $DIR1/*
1955         return 0
1956 }
1957 run_test 45e "pdirops: rename src and rename (tgt) =============="
1958
1959 test_45f() {
1960         touch $DIR1/$tfile
1961 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1962         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1963         mv $DIR1/$tfile $DIR1/$tfile-2 &
1964         PID1=$!
1965         sleep 1
1966         mv $DIR2/$tfile $DIR2/$tfile-3 && error "rename must fail"
1967         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
1968         rm -r $DIR1/*
1969         return 0
1970 }
1971 run_test 45f "pdirops: rename src and rename (src) =============="
1972
1973 test_45g() {
1974         touch $DIR1/$tfile
1975 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1976         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1977         mv $DIR1/$tfile $DIR1/$tfile-2 &
1978         PID1=$!
1979         sleep 1
1980         stat $DIR2/$tfile > /dev/null && error "stat must fail"
1981         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
1982         rm -r $DIR1/*
1983         return 0
1984 }
1985 run_test 45g "pdirops: rename src vs getattr =============="
1986
1987 test_45h() {
1988         touch $DIR1/$tfile
1989 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
1990         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
1991         mv $DIR1/$tfile $DIR1/$tfile-2 &
1992         PID1=$!
1993         sleep 1
1994         ls -lia $DIR2/ > /dev/null
1995         check_pdo_conflict $PID1 && { wait $PID1; error "readdir isn't blocked"; }
1996         rm -r $DIR1/*
1997         return 0
1998 }
1999 run_test 45h "pdirops: unlink vs readdir =============="
2000
2001 test_45i() {
2002         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2003         touch $DIR1/$tfile
2004 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2005         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2006         mv $DIR1/$tfile $DIR1/$tfile-2 &
2007         PID1=$!
2008         sleep 1
2009         $LFS mkdir -i 1 $DIR2/$tfile || error "create remote dir must succeed"
2010         check_pdo_conflict $PID1 && { wait $PID1;
2011                                 error "create remote dir isn't blocked"; }
2012         rm -r $DIR1/*
2013         return 0
2014 }
2015 run_test 45i "pdirops: rename src vs remote mkdir"
2016
2017 # test 46: link and blocking operations
2018 test_46a() {
2019         touch $DIR1/$tfile-2
2020 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2021         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2022         link $DIR1/$tfile-2 $DIR1/$tfile &
2023         PID1=$!
2024         sleep 1
2025         mkdir $DIR2/$tfile && error "mkdir must fail"
2026         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
2027         rm -r $DIR1/*
2028         return 0
2029 }
2030 run_test 46a "pdirops: link vs mkdir =============="
2031
2032 test_46b() {
2033         touch $DIR1/$tfile-2
2034 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2035         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2036         link $DIR1/$tfile-2 $DIR1/$tfile &
2037         PID1=$!
2038         sleep 1
2039         $MULTIOP $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
2040         check_pdo_conflict $PID1 && { wait $PID1; error "create isn't blocked"; }
2041         rm -r $DIR1/*
2042         return 0
2043 }
2044 run_test 46b "pdirops: link vs create =============="
2045
2046 test_46c() {
2047         touch $DIR1/$tfile-2
2048 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2049         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2050         link $DIR1/$tfile-2 $DIR1/$tfile &
2051         PID1=$!
2052         sleep 1
2053         link $DIR2/$tfile $DIR2/$tfile && error "link must fail"
2054         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
2055         rm -r $DIR1/*
2056         return 0
2057 }
2058 run_test 46c "pdirops: link vs link =============="
2059
2060 test_46d() {
2061         touch $DIR1/$tfile-2
2062 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2063         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2064         link $DIR1/$tfile-2 $DIR1/$tfile &
2065         PID1=$!
2066         sleep 1
2067         rm $DIR2/$tfile || error "unlink must succeed"
2068         check_pdo_conflict $PID1 && { wait $PID1; error "unlink isn't blocked"; }
2069         rm -r $DIR1/*
2070         return 0
2071 }
2072 run_test 46d "pdirops: link vs unlink =============="
2073
2074 test_46e() {
2075         touch $DIR1/$tfile-2
2076         touch $DIR1/$tfile-3
2077 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2078         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2079         link $DIR1/$tfile-2 $DIR1/$tfile &
2080         PID1=$!
2081         sleep 1
2082         mv $DIR2/$tfile-3 $DIR2/$tfile || error "rename must succeed"
2083         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
2084         rm -r $DIR1/*
2085         return 0
2086 }
2087 run_test 46e "pdirops: link and rename (tgt) =============="
2088
2089 test_46f() {
2090         touch $DIR1/$tfile-2
2091         touch $DIR1/$tfile-3
2092 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2093         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2094         link $DIR1/$tfile-2 $DIR1/$tfile &
2095         PID1=$!
2096         sleep 1
2097         mv $DIR2/$tfile $DIR2/$tfile-3 || error "rename must succeed"
2098         check_pdo_conflict $PID1 && { wait $PID1; error "rename isn't blocked"; }
2099         rm -r $DIR1/*
2100         return 0
2101 }
2102 run_test 46f "pdirops: link and rename (src) =============="
2103
2104 test_46g() {
2105         touch $DIR1/$tfile-2
2106 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2107         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2108         link $DIR1/$tfile-2 $DIR1/$tfile &
2109         PID1=$!
2110         sleep 1
2111         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
2112         check_pdo_conflict $PID1 && { wait $PID1; error "getattr isn't blocked"; }
2113         rm -r $DIR1/*
2114         return 0
2115 }
2116 run_test 46g "pdirops: link vs getattr =============="
2117
2118 test_46h() {
2119         touch $DIR1/$tfile-2
2120 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2121         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2122         link $DIR1/$tfile-2 $DIR1/$tfile &
2123         PID1=$!
2124         sleep 1
2125         ls -lia $DIR2/ > /dev/null
2126         check_pdo_conflict $PID1 && { wait $PID1;
2127                         error "readdir isn't blocked"; }
2128         rm -r $DIR1/*
2129         return 0
2130 }
2131 run_test 46h "pdirops: link vs readdir =============="
2132
2133 test_46i() {
2134         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2135         touch $DIR1/$tfile-2
2136 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2137         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2138         link $DIR1/$tfile-2 $DIR1/$tfile &
2139         PID1=$!
2140         sleep 1
2141         $LFS mkdir -i 1 $DIR2/$tfile && error "remote mkdir must fail"
2142         check_pdo_conflict $PID1 && { wait $PID1;
2143                                 error "remote mkdir isn't blocked"; }
2144         rm -r $DIR1/*
2145         return 0
2146 }
2147 run_test 46i "pdirops: link vs remote mkdir"
2148
2149 # test 47: remote mkdir and blocking operations
2150 test_47a() {
2151 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2152         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2153         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2154         $LFS mkdir -i 1 $DIR1/$tfile &
2155         PID1=$!
2156         sleep 1
2157         mkdir $DIR2/$tfile && error "mkdir must fail"
2158         check_pdo_conflict $PID1 && { wait $PID1; error "mkdir isn't blocked"; }
2159         rm -r $DIR1/*
2160         return 0
2161 }
2162 run_test 47a "pdirops: remote mkdir vs mkdir"
2163
2164 test_47b() {
2165 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2166         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2167         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2168         $LFS mkdir -i 1 $DIR1/$tfile &
2169         PID1=$!
2170         sleep 1
2171         multiop $DIR2/$tfile oO_CREAT:O_EXCL:c && error "create must fail"
2172         check_pdo_conflict $PID1 && { wait $PID1;
2173                                         error "create isn't blocked"; }
2174         rm -r $DIR1/*
2175         return 0
2176 }
2177 run_test 47b "pdirops: remote mkdir vs create"
2178
2179 test_47c() {
2180         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2181         touch $DIR1/$tfile-2
2182 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2183         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2184         $LFS mkdir -i 1 $DIR1/$tfile &
2185         PID1=$!
2186         sleep 1
2187         link $DIR2/$tfile-2 $DIR2/$tfile && error "link must fail"
2188         check_pdo_conflict $PID1 && { wait $PID1; error "link isn't blocked"; }
2189         rm -r $DIR1/*
2190         return 0
2191 }
2192 run_test 47c "pdirops: remote mkdir vs link"
2193
2194 test_47d() {
2195         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2196 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2197         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2198         $LFS mkdir -i 1 $DIR1/$tfile &
2199         PID1=$!
2200         sleep 1
2201         rmdir $DIR2/$tfile || error "unlink must succeed"
2202         check_pdo_conflict $PID1 && { wait $PID1;
2203                                         error "unlink isn't blocked"; }
2204         rm -r $DIR1/*
2205         return 0
2206 }
2207 run_test 47d "pdirops: remote mkdir vs unlink"
2208
2209 test_47e() {
2210         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2211         touch $DIR1/$tfile-2
2212 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2213         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2214         $LFS mkdir -i 1 $DIR1/$tfile &
2215         PID1=$!
2216         sleep 1
2217         mv -T $DIR2/$tfile-2 $DIR2/$tfile && error "rename must fail"
2218         check_pdo_conflict $PID1 && { wait $PID1;
2219                                         error "rename isn't blocked"; }
2220         rm -r $DIR1/*
2221         return 0
2222 }
2223 run_test 47e "pdirops: remote mkdir and rename (tgt)"
2224
2225 test_47f() {
2226         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2227 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2228         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2229         $LFS mkdir -i 1 $DIR1/$tfile &
2230         PID1=$!
2231         sleep 1
2232         mv $DIR2/$tfile $DIR2/$tfile-2 || error "rename must succeed"
2233         check_pdo_conflict $PID1 && { wait $PID1;
2234                                         error "rename isn't blocked"; }
2235         rm -r $DIR1/*
2236         return 0
2237 }
2238 run_test 47f "pdirops: remote mkdir and rename (src)"
2239
2240 test_47g() {
2241         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2242 #define OBD_FAIL_ONCE|OBD_FAIL_MDS_PDO_LOCK    0x145
2243         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000145
2244         $LFS mkdir -i 1 $DIR1/$tfile &
2245         PID1=$!
2246         sleep 1
2247         stat $DIR2/$tfile > /dev/null || error "stat must succeed"
2248         check_pdo_conflict $PID1 && { wait $PID1;
2249                                         error "getattr isn't blocked"; }
2250         rm -r $DIR1/*
2251         return 0
2252 }
2253 run_test 47g "pdirops: remote mkdir vs getattr"
2254
2255 test_50() {
2256         trunc_size=4096
2257         dd if=/dev/zero of=$DIR1/$tfile bs=1K count=10
2258 #define OBD_FAIL_OSC_CP_ENQ_RACE         0x410
2259         do_facet client "lctl set_param fail_loc=0x410"
2260         $TRUNCATE $DIR2/$tfile $trunc_size
2261         do_facet client "lctl set_param fail_loc=0x0"
2262         sleep 3
2263         size=`stat -c %s $DIR2/$tfile`
2264         [ $size -eq $trunc_size ] || error "wrong size"
2265 }
2266 run_test 50 "osc lvb attrs: enqueue vs. CP AST =============="
2267
2268 test_51a() {
2269         local filesize
2270         local origfile=/etc/hosts
2271
2272         filesize=`stat -c %s $origfile`
2273
2274         # create an empty file
2275         $MCREATE $DIR1/$tfile
2276         # cache layout lock on both mount point
2277         stat $DIR1/$tfile > /dev/null
2278         stat $DIR2/$tfile > /dev/null
2279
2280         # open and sleep 2 seconds then read
2281         $MULTIOP $DIR2/$tfile o_2r${filesize}c &
2282         local pid=$!
2283         sleep 1
2284
2285         # create the layout of testing file
2286         dd if=$origfile of=$DIR1/$tfile conv=notrunc > /dev/null
2287
2288         # MULTIOP proc should be able to read enough bytes and exit
2289         sleep 2
2290         kill -0 $pid && error "multiop is still there"
2291         cmp $origfile $DIR2/$tfile || error "$MCREATE and $DIR2/$tfile differs"
2292
2293         rm -f $DIR1/$tfile
2294 }
2295 run_test 51a "layout lock: refresh layout should work"
2296
2297 test_51b() {
2298         local tmpfile=`mktemp`
2299
2300         # create an empty file
2301         $MCREATE $DIR1/$tfile
2302
2303         # delay glimpse so that layout has changed when glimpse finish
2304 #define OBD_FAIL_GLIMPSE_DELAY 0x1404
2305         $LCTL set_param fail_loc=0x1404
2306         stat -c %s $DIR2/$tfile |tee $tmpfile &
2307         local pid=$!
2308         sleep 1
2309
2310         # create layout of testing file
2311         dd if=/dev/zero of=$DIR1/$tfile bs=1k count=1 conv=notrunc > /dev/null
2312
2313         wait $pid
2314         local fsize=`cat $tmpfile`
2315
2316         [ x$fsize = x1024 ] || error "file size is $fsize, should be 1024"
2317
2318         rm -f $DIR1/$tfile $tmpfile
2319 }
2320 run_test 51b "layout lock: glimpse should be able to restart if layout changed"
2321
2322 test_51c() {
2323         # create an empty file
2324         $MCREATE $DIR1/$tfile
2325
2326 #define OBD_FAIL_MDS_LL_BLOCK 0x172
2327         $LCTL set_param fail_loc=0x172
2328
2329         # change the layout of testing file
2330         echo "Setting layout ..."
2331         $LFS setstripe -c $OSTCOUNT $DIR1/$tfile &
2332         pid=$!
2333         sleep 1
2334
2335         # get layout of this file should wait until dd is finished
2336         local stripecnt=`$LFS getstripe -c $DIR2/$tfile`
2337         [ $stripecnt -eq $OSTCOUNT ] || error "layout wrong"
2338
2339         rm -f $DIR1/$tfile
2340 }
2341 run_test 51c "layout lock: IT_LAYOUT blocked and correct layout can be returned"
2342
2343 test_60() {
2344         [[ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.3.0) ]] ||
2345         { skip "Need MDS version at least 2.3.0"; return; }
2346         # Create a file
2347         test_mkdir -p $DIR1/$tdir
2348         file1=$DIR1/$tdir/file
2349         file2=$DIR2/$tdir/file
2350
2351         echo orig > $file2 || error "Could not create $file2"
2352         version=$($LFS data_version $file1)
2353
2354         # Append data
2355         echo append >> $file2 || error "Could not append to $file2"
2356         version2=$($LFS data_version $file1)
2357         [ "$version" != "$version2" ] ||
2358             error "append did not change data version: $version"
2359
2360         # Overwrite data
2361         echo overwrite > $file2 || error "Could not overwrite $file2"
2362         version3=$($LFS data_version $file1)
2363         [ "$version2" != "$version3" ] ||
2364             error "overwrite did not change data version: $version2"
2365
2366         # Truncate before EOF
2367         $TRUNCATE $file2 3 || error "Could not truncate $file2"
2368         version4=$($LFS data_version $file1)
2369         [ "$version3" != "$version4" ] ||
2370             error "truncate did not change data version: $version3"
2371
2372         # Truncate after EOF
2373         $TRUNCATE $file2 123456 || error "Could not truncate $file2"
2374         version5=$($LFS data_version $file1)
2375         [ "$version4" != "$version5" ] ||
2376             error "truncate did not change data version: $version4"
2377
2378         # Chmod do not change version
2379         chmod 400 $file2 || error "Could not chmod 400 $file2"
2380         version6=$($LFS data_version $file1)
2381         [ "$version5" == "$version6" ] ||
2382             error "chmod should not change data version: $version5 != $version6"
2383
2384         # Chown do not change version
2385         chown $RUNAS_ID $file2 || error "Could not chown $RUNAS_ID $file2"
2386         version7=$($LFS data_version $file1)
2387         [ "$version5" == "$version7" ] ||
2388             error "chown should not change data version: $version5 != $version7"
2389 }
2390 run_test 60 "Verify data_version behaviour"
2391
2392 test_70a() {
2393         local test_dir=$tdir/test_dir
2394
2395         mkdir -p $DIR1/$tdir
2396         if [ $MDSCOUNT -ge 2 ]; then
2397                 local MDTIDX=1
2398                 $LFS mkdir -i $MDTIDX $DIR1/$test_dir ||
2399                         error "Create remote directory failed"
2400         else
2401                 mkdir -p $DIR1/$test_dir
2402         fi
2403         cd $DIR2/$test_dir || error "cd directory failed"
2404         rm -rf $DIR1/$test_dir || error "unlink directory failed"
2405
2406         cd $DIR2/$tdir || error "exit directory"
2407 }
2408 run_test 70a "cd directory && rm directory"
2409
2410 test_70b() { # LU-2781
2411         local i
2412         mkdir -p $DIR1/$tdir
2413
2414         touch $DIR1/$tdir/file
2415         for ((i = 0; i < 32; i++)); do
2416             $LFS rm_entry $DIR1/$tdir/non_existent_dir &>/dev/null
2417         done
2418         rm $DIR1/$tdir/file || error "cannot remove file after rm_entry"
2419
2420         touch $DIR1/$tdir/file
2421         $LFS mkdir -i0 $DIR1/$tdir/test_dir
2422         $LFS rm_entry $DIR1/$tdir/test_dir &>/dev/null
2423         rm -rf $DIR1/$tdir/test_dir ||
2424                 error "cannot remove directory after rm_entry"
2425         rm $DIR1/$tdir/file || error "cannot remove file after rm_entry"
2426 }
2427 run_test 70b "remove files after calling rm_entry"
2428
2429 log "cleanup: ======================================================"
2430
2431 [ "$(mount | grep $MOUNT2)" ] && umount $MOUNT2
2432
2433 complete $SECONDS
2434 check_and_cleanup_lustre
2435 exit_status