lustre/tests/sanity.sh

   1 #!/bin/bash
   2 # -*- tab-width: 4; indent-tabs-mode: t; -*-
   3 #
   4 # Run select tests by setting ONLY, or as arguments to the script.
   5 # Skip specific tests by setting EXCEPT.
   6 #
   7 # e.g. ONLY="22 23" or ONLY="`seq 32 39`" or EXCEPT="31"
   8 set -e
   9
  10 ONLY=${ONLY:-"$*"}
  11 # bug number for skipped test: 13297 2108 9789 3637 9789 3561 12622 5188
  12 ALWAYS_EXCEPT="                42a  42b  42c  42d  45   51d   68b   $SANITY_EXCEPT"
  13 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
  14
  15 # with LOD/OSP landing
  16 # bug number for skipped tests: LU-2036
  17 ALWAYS_EXCEPT="                 76     $ALWAYS_EXCEPT"
  18
  19
  20 SRCDIR=$(cd $(dirname $0); echo $PWD)
  21 export PATH=$PATH:/sbin
  22
  23 TMP=${TMP:-/tmp}
  24
  25 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
  26 CREATETEST=${CREATETEST:-createtest}
  27 LFS=${LFS:-lfs}
  28 LFIND=${LFIND:-"$LFS find"}
  29 LVERIFY=${LVERIFY:-ll_dirstripe_verify}
  30 LCTL=${LCTL:-lctl}
  31 MCREATE=${MCREATE:-mcreate}
  32 OPENFILE=${OPENFILE:-openfile}
  33 OPENUNLINK=${OPENUNLINK:-openunlink}
  34 export MULTIOP=${MULTIOP:-multiop}
  35 READS=${READS:-"reads"}
  36 MUNLINK=${MUNLINK:-munlink}
  37 SOCKETSERVER=${SOCKETSERVER:-socketserver}
  38 SOCKETCLIENT=${SOCKETCLIENT:-socketclient}
  39 MEMHOG=${MEMHOG:-memhog}
  40 DIRECTIO=${DIRECTIO:-directio}
  41 ACCEPTOR_PORT=${ACCEPTOR_PORT:-988}
  42 UMOUNT=${UMOUNT:-"umount -d"}
  43 STRIPES_PER_OBJ=-1
  44 CHECK_GRANT=${CHECK_GRANT:-"yes"}
  45 GRANT_CHECK_LIST=${GRANT_CHECK_LIST:-""}
  46 export PARALLEL=${PARALLEL:-"no"}
  47
  48 export NAME=${NAME:-local}
  49
  50 SAVE_PWD=$PWD
  51
  52 CLEANUP=${CLEANUP:-:}
  53 SETUP=${SETUP:-:}
  54 TRACE=${TRACE:-""}
  55 LUSTRE=${LUSTRE:-$(cd $(dirname $0)/..; echo $PWD)}
  56 . $LUSTRE/tests/test-framework.sh
  57 init_test_env $@
  58 . ${CONFIG:=$LUSTRE/tests/cfg/${NAME}.sh}
  59 init_logging
  60
  61 [ "$SLOW" = "no" ] && EXCEPT_SLOW="24o 27m 64b 68 71 77f 78 115 124b"
  62
  63 [ $(facet_fstype $SINGLEMDS) = "zfs" ] &&
  64 # bug number for skipped test:        LU-1593 LU-2610 LU-2833 LU-1957 LU-2805
  65         ALWAYS_EXCEPT="$ALWAYS_EXCEPT 34h     40      48a     180     184c"
  66
  67 FAIL_ON_ERROR=false
  68
  69 cleanup() {
  70         echo -n "cln.."
  71         pgrep ll_sa > /dev/null && { echo "There are ll_sa thread not exit!"; exit 20; }
  72         cleanupall ${FORCE} $* || { echo "FAILed to clean up"; exit 20; }
  73 }
  74 setup() {
  75         echo -n "mnt.."
  76         load_modules
  77         setupall || exit 10
  78         echo "done"
  79 }
  80
  81 check_kernel_version() {
  82         WANT_VER=$1
  83         GOT_VER=$(lctl get_param -n version | awk '/kernel:/ {print $2}')
  84         case $GOT_VER in
  85         patchless|patchless_client) return 0;;
  86         *) [ $GOT_VER -ge $WANT_VER ] && return 0 ;;
  87         esac
  88         log "test needs at least kernel version $WANT_VER, running $GOT_VER"
  89         return 1
  90 }
  91
  92 check_swap_layouts_support()
  93 {
  94         $LCTL get_param -n llite.*.sbi_flags | grep -q layout ||
  95                 { skip "Does not support layout lock."; return 0; }
  96         return 1
  97 }
  98
  99 if [ "$ONLY" == "cleanup" ]; then
 100        sh llmountcleanup.sh
 101        exit 0
 102 fi
 103
 104 check_and_setup_lustre
 105
 106 DIR=${DIR:-$MOUNT}
 107 assert_DIR
 108
 109 MDT0=$($LCTL get_param -n mdc.*.mds_server_uuid | \
 110     awk '{gsub(/_UUID/,""); print $1}' | head -1)
 111 LOVNAME=$($LCTL get_param -n llite.*.lov.common_name | tail -n 1)
 112 OSTCOUNT=$($LCTL get_param -n lov.$LOVNAME.numobd)
 113 STRIPECOUNT=$($LCTL get_param -n lov.$LOVNAME.stripecount)
 114 STRIPESIZE=$($LCTL get_param -n lov.$LOVNAME.stripesize)
 115 ORIGFREE=$($LCTL get_param -n lov.$LOVNAME.kbytesavail)
 116 MAXFREE=${MAXFREE:-$((200000 * $OSTCOUNT))}
 117
 118 [ -f $DIR/d52a/foo ] && chattr -a $DIR/d52a/foo
 119 [ -f $DIR/d52b/foo ] && chattr -i $DIR/d52b/foo
 120 rm -rf $DIR/[Rdfs][0-9]*
 121
 122 # $RUNAS_ID may get set incorrectly somewhere else
 123 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] && error "\$RUNAS_ID set to 0, but \$UID is also 0!"
 124
 125 check_runas_id $RUNAS_ID $RUNAS_GID $RUNAS
 126
 127 build_test_filter
 128
 129 if [ "${ONLY}" = "MOUNT" ] ; then
 130         echo "Lustre is up, please go on"
 131         exit
 132 fi
 133
 134 echo "preparing for tests involving mounts"
 135 EXT2_DEV=${EXT2_DEV:-$TMP/SANITY.LOOP}
 136 touch $EXT2_DEV
 137 mke2fs -j -F $EXT2_DEV 8000 > /dev/null
 138 echo # add a newline after mke2fs.
 139
 140 umask 077
 141
 142 OLDDEBUG=$(lctl get_param -n debug 2> /dev/null)
 143 lctl set_param debug=-1 2> /dev/null || true
 144 test_0a() {
 145         touch $DIR/$tfile
 146         $CHECKSTAT -t file $DIR/$tfile || error "$tfile is not a file"
 147         rm $DIR/$tfile
 148         $CHECKSTAT -a $DIR/$tfile || error "$tfile was not removed"
 149 }
 150 run_test 0a "touch; rm ====================="
 151
 152 test_0b() {
 153         chmod 0755 $DIR || error "chmod 0755 $DIR failed"
 154         $CHECKSTAT -p 0755 $DIR || error "$DIR permission is not 0755"
 155 }
 156 run_test 0b "chmod 0755 $DIR ============================="
 157
 158 test_0c() {
 159         $LCTL get_param mdc.*.import | grep "state: FULL" ||
 160                 error "import not FULL"
 161         $LCTL get_param mdc.*.import | grep "target: $FSNAME-MDT" ||
 162                 error "bad target"
 163 }
 164 run_test 0c "check import proc ============================="
 165
 166 test_1() {
 167         test_mkdir -p $DIR/$tdir || error "mkdir $tdir failed"
 168         test_mkdir -p $DIR/$tdir/d2 || error "mkdir $tdir/d2 failed"
 169         test_mkdir $DIR/$tdir/d2 && error "we expect EEXIST, but not returned"
 170         $CHECKSTAT -t dir $DIR/$tdir/d2 || error "$tdir/d2 is not a dir"
 171         rmdir $DIR/$tdir/d2
 172         rmdir $DIR/$tdir
 173         $CHECKSTAT -a $DIR/$tdir || error "$tdir was not removed"
 174 }
 175 run_test 1 "mkdir; remkdir; rmdir =============================="
 176
 177 test_2() {
 178         test_mkdir -p $DIR/$tdir || error "mkdir $tdir failed"
 179         touch $DIR/$tdir/$tfile || error "touch $tdir/$tfile failed"
 180         $CHECKSTAT -t file $DIR/$tdir/$tfile || error "$tdir/$tfile not a file"
 181         rm -r $DIR/$tdir
 182         $CHECKSTAT -a $DIR/$tdir/$tfile || error "$tdir/$file is not removed"
 183 }
 184 run_test 2 "mkdir; touch; rmdir; check file ===================="
 185
 186 test_3() {
 187         test_mkdir -p $DIR/$tdir || error "mkdir $tdir failed"
 188         $CHECKSTAT -t dir $DIR/$tdir || error "$tdir is not a directory"
 189         touch $DIR/$tdir/$tfile
 190         $CHECKSTAT -t file $DIR/$tdir/$tfile || error "$tdir/$tfile not a file"
 191         rm -r $DIR/$tdir
 192         $CHECKSTAT -a $DIR/$tdir || error "$tdir is not removed"
 193 }
 194 run_test 3 "mkdir; touch; rmdir; check dir ====================="
 195
 196 test_5() {
 197         test_mkdir -p $DIR/$tdir || error "mkdir $tdir failed"
 198         test_mkdir $DIR/$tdir/d2 || error "mkdir $tdir/d2 failed"
 199         chmod 0707 $DIR/$tdir/d2 || error "chmod 0707 $tdir/d2 failed"
 200         $CHECKSTAT -t dir -p 0707 $DIR/$tdir/d2 || error "$tdir/d2 not mode 707"
 201         $CHECKSTAT -t dir $DIR/$tdir/d2 || error "$tdir/d2 is not a directory"
 202 }
 203 run_test 5 "mkdir .../d5 .../d5/d2; chmod .../d5/d2 ============"
 204
 205 test_6a() {
 206         touch $DIR/$tfile || error "touch $DIR/$tfile failed"
 207         chmod 0666 $DIR/$tfile || error "chmod 0666 $tfile failed"
 208         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/$tfile ||
 209                 error "$tfile does not have perm 0666 or UID $UID"
 210         $RUNAS chmod 0444 $DIR/$tfile && error "chmod $tfile worked on UID $UID"
 211         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/$tfile ||
 212                 error "$tfile should be 0666 and owned by UID $UID"
 213 }
 214 run_test 6a "touch f6a; chmod f6a; $RUNAS chmod f6a (should return error) =="
 215
 216 test_6c() {
 217         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
 218         touch $DIR/$tfile
 219         chown $RUNAS_ID $DIR/$tfile || error "chown $RUNAS_ID $file failed"
 220         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/$tfile ||
 221                 error "$tfile should be owned by UID $RUNAS_ID"
 222         $RUNAS chown $UID $DIR/$tfile && error "chown $UID $file succeeded"
 223         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/$tfile ||
 224                 error "$tfile should be owned by UID $RUNAS_ID"
 225 }
 226 run_test 6c "touch f6c; chown f6c; $RUNAS chown f6c (should return error) =="
 227
 228 test_6e() {
 229         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
 230         touch $DIR/$tfile
 231         chgrp $RUNAS_ID $DIR/$tfile || error "chgrp $RUNAS_ID $file failed"
 232         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/$tfile ||
 233                 error "$tfile should be owned by GID $UID"
 234         $RUNAS chgrp $UID $DIR/$tfile && error "chgrp $UID $file succeeded"
 235         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/$tfile ||
 236                 error "$tfile should be owned by UID $UID and GID $RUNAS_ID"
 237 }
 238 run_test 6e "touch f6e; chgrp f6e; $RUNAS chgrp f6e (should return error) =="
 239
 240 test_6g() {
 241         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
 242         test_mkdir $DIR/$tdir || error "mkdir $tfile failed"
 243         chmod 777 $DIR/$tdir || error "chmod 0777 $tdir failed"
 244         $RUNAS mkdir $DIR/$tdir/d || error "mkdir $tdir/d failed"
 245         chmod g+s $DIR/$tdir/d || error "chmod g+s $tdir/d failed"
 246         test_mkdir $DIR/$tdir/d/subdir || error "mkdir $tdir/d/subdir failed"
 247         $CHECKSTAT -g \#$RUNAS_GID $DIR/$tdir/d/subdir ||
 248                 error "$tdir/d/subdir should be GID $RUNAS_GID"
 249 }
 250 run_test 6g "Is new dir in sgid dir inheriting group?"
 251
 252 test_6h() { # bug 7331
 253         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
 254         touch $DIR/$tfile || error "touch failed"
 255         chown $RUNAS_ID:$RUNAS_GID $DIR/$tfile || error "initial chown failed"
 256         $RUNAS -G$RUNAS_GID chown $RUNAS_ID:0 $DIR/$tfile &&
 257                 error "chown $RUNAS_ID:0 $tfile worked as GID $RUNAS_GID"
 258         $CHECKSTAT -t file -u \#$RUNAS_ID -g \#$RUNAS_GID $DIR/$tfile ||
 259                 error "$tdir/$tfile should be UID $RUNAS_UID GID $RUNAS_GID"
 260 }
 261 run_test 6h "$RUNAS chown RUNAS_ID.0 .../f6h (should return error)"
 262
 263 test_7a() {
 264         test_mkdir $DIR/$tdir
 265         $MCREATE $DIR/$tdir/$tfile
 266         chmod 0666 $DIR/$tdir/$tfile
 267         $CHECKSTAT -t file -p 0666 $DIR/$tdir/$tfile ||
 268                 error "$tdir/$tfile should be mode 0666"
 269 }
 270 run_test 7a "mkdir .../d7; mcreate .../d7/f; chmod .../d7/f ===="
 271
 272 test_7b() {
 273         if [ ! -d $DIR/$tdir ]; then
 274                 mkdir $DIR/$tdir
 275         fi
 276         $MCREATE $DIR/$tdir/$tfile
 277         echo -n foo > $DIR/$tdir/$tfile
 278         [ "$(cat $DIR/$tdir/$tfile)" = "foo" ] || error "$tdir/$tfile not 'foo'"
 279         $CHECKSTAT -t file -s 3 $DIR/$tdir/$tfile || error "$tfile size not 3"
 280 }
 281 run_test 7b "mkdir .../d7; mcreate d7/f2; echo foo > d7/f2 ====="
 282
 283 test_8() {
 284         test_mkdir $DIR/$tdir
 285         touch $DIR/$tdir/$tfile
 286         chmod 0666 $DIR/$tdir/$tfile
 287         $CHECKSTAT -t file -p 0666 $DIR/$tdir/$tfile ||
 288                 error "$tfile mode not 0666"
 289 }
 290 run_test 8 "mkdir .../d8; touch .../d8/f; chmod .../d8/f ======="
 291
 292 test_9() {
 293         test_mkdir $DIR/$tdir
 294         test_mkdir $DIR/$tdir/d2
 295         test_mkdir $DIR/$tdir/d2/d3
 296         $CHECKSTAT -t dir $DIR/$tdir/d2/d3 || error "$tdir/d2/d3 not a dir"
 297 }
 298 run_test 9 "mkdir .../d9 .../d9/d2 .../d9/d2/d3 ================"
 299
 300 test_10() {
 301         test_mkdir $DIR/$tdir
 302         test_mkdir $DIR/$tdir/d2
 303         touch $DIR/$tdir/d2/$tfile
 304         $CHECKSTAT -t file $DIR/$tdir/d2/$tfile ||
 305                 error "$tdir/d2/$tfile not a file"
 306 }
 307 run_test 10 "mkdir .../d10 .../d10/d2; touch .../d10/d2/f ======"
 308
 309 test_11() {
 310         test_mkdir $DIR/$tdir
 311         test_mkdir $DIR/$tdir/d2
 312         chmod 0666 $DIR/$tdir/d2
 313         chmod 0705 $DIR/$tdir/d2
 314         $CHECKSTAT -t dir -p 0705 $DIR/$tdir/d2 ||
 315                 error "$tdir/d2 mode not 0705"
 316 }
 317 run_test 11 "mkdir .../d11 d11/d2; chmod .../d11/d2 ============"
 318
 319 test_12() {
 320         test_mkdir $DIR/$tdir
 321         touch $DIR/$tdir/$tfile
 322         chmod 0666 $DIR/$tdir/$tfile
 323         chmod 0654 $DIR/$tdir/$tfile
 324         $CHECKSTAT -t file -p 0654 $DIR/$tdir/$tfile ||
 325                 error "$tdir/d2 mode not 0654"
 326 }
 327 run_test 12 "touch .../d12/f; chmod .../d12/f .../d12/f ========"
 328
 329 test_13() {
 330         test_mkdir $DIR/$tdir
 331         dd if=/dev/zero of=$DIR/$tdir/$tfile count=10
 332         >  $DIR/$tdir/$tfile
 333         $CHECKSTAT -t file -s 0 $DIR/$tdir/$tfile ||
 334                 error "$tdir/$tfile size not 0 after truncate"
 335 }
 336 run_test 13 "creat .../d13/f; dd .../d13/f; > .../d13/f ========"
 337
 338 test_14() {
 339         test_mkdir $DIR/$tdir
 340         touch $DIR/$tdir/$tfile
 341         rm $DIR/$tdir/$tfile
 342         $CHECKSTAT -a $DIR/$tdir/$tfile || error "$tdir/$tfile not removed"
 343 }
 344 run_test 14 "touch .../d14/f; rm .../d14/f; rm .../d14/f ======="
 345
 346 test_15() {
 347         test_mkdir $DIR/$tdir
 348         touch $DIR/$tdir/$tfile
 349         mv $DIR/$tdir/$tfile $DIR/$tdir/${tfile}_2
 350         $CHECKSTAT -t file $DIR/$tdir/${tfile}_2 ||
 351                 error "$tdir/${tfile_2} not a file after rename"
 352 }
 353 run_test 15 "touch .../d15/f; mv .../d15/f .../d15/f2 =========="
 354
 355 test_16() {
 356         test_mkdir $DIR/$tdir
 357         touch $DIR/$tdir/$tfile
 358         rm -rf $DIR/$tdir/$tfile
 359         $CHECKSTAT -a $DIR/$tdir/$tfile || error "$tdir/$tfile not removed"
 360 }
 361 run_test 16 "touch .../d16/f; rm -rf .../d16/f ================="
 362
 363 test_17a() {
 364         test_mkdir -p $DIR/$tdir
 365         touch $DIR/$tdir/$tfile
 366         ln -s $DIR/$tdir/$tfile $DIR/$tdir/l-exist
 367         ls -l $DIR/$tdir
 368         $CHECKSTAT -l $DIR/$tdir/$tfile $DIR/$tdir/l-exist ||
 369                 error "$tdir/l-exist not a symlink"
 370         $CHECKSTAT -f -t f $DIR/$tdir/l-exist ||
 371                 error "$tdir/l-exist not referencing a file"
 372         rm -f $DIR/$tdir/l-exist
 373         $CHECKSTAT -a $DIR/$tdir/l-exist || error "$tdir/l-exist not removed"
 374 }
 375 run_test 17a "symlinks: create, remove (real) =================="
 376
 377 test_17b() {
 378         test_mkdir -p $DIR/$tdir
 379         ln -s no-such-file $DIR/$tdir/l-dangle
 380         ls -l $DIR/$tdir
 381         $CHECKSTAT -l no-such-file $DIR/$tdir/l-dangle ||
 382                 error "$tdir/l-dangle not referencing no-such-file"
 383         $CHECKSTAT -fa $DIR/$tdir/l-dangle ||
 384                 error "$tdir/l-dangle not referencing non-existent file"
 385         rm -f $DIR/$tdir/l-dangle
 386         $CHECKSTAT -a $DIR/$tdir/l-dangle || error "$tdir/l-dangle not removed"
 387 }
 388 run_test 17b "symlinks: create, remove (dangling) =============="
 389
 390 test_17c() { # bug 3440 - don't save failed open RPC for replay
 391         test_mkdir -p $DIR/$tdir
 392         ln -s foo $DIR/$tdir/$tfile
 393         cat $DIR/$tdir/$tfile && error "opened non-existent symlink" || true
 394 }
 395 run_test 17c "symlinks: open dangling (should return error) ===="
 396
 397 test_17d() {
 398         test_mkdir -p $DIR/$tdir
 399         ln -s foo $DIR/$tdir/$tfile
 400         touch $DIR/$tdir/$tfile || error "creating to new symlink"
 401 }
 402 run_test 17d "symlinks: create dangling ========================"
 403
 404 test_17e() {
 405         test_mkdir -p $DIR/$tdir
 406         local foo=$DIR/$tdir/$tfile
 407         ln -s $foo $foo || error "create symlink failed"
 408         ls -l $foo || error "ls -l failed"
 409         ls $foo && error "ls not failed" || true
 410 }
 411 run_test 17e "symlinks: create recursive symlink (should return error) ===="
 412
 413 test_17f() {
 414         test_mkdir -p $DIR/d17f
 415         ln -s 1234567890/2234567890/3234567890/4234567890 $DIR/d17f/111
 416         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890 $DIR/d17f/222
 417         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890 $DIR/d17f/333
 418         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890 $DIR/d17f/444
 419         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890 $DIR/d17f/555
 420         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890/aaaaaaaaaa/bbbbbbbbbb/cccccccccc/dddddddddd/eeeeeeeeee/ffffffffff/ $DIR/d17f/666
 421         ls -l  $DIR/d17f
 422 }
 423 run_test 17f "symlinks: long and very long symlink name ========================"
 424
 425 # str_repeat(S, N) generate a string that is string S repeated N times
 426 str_repeat() {
 427         local s=$1
 428         local n=$2
 429         local ret=''
 430         while [ $((n -= 1)) -ge 0 ]; do
 431                 ret=$ret$s
 432         done
 433         echo $ret
 434 }
 435
 436 # Long symlinks and LU-2241
 437 test_17g() {
 438         test_mkdir -p $DIR/$tdir
 439         local TESTS="59 60 61 4094 4095"
 440
 441         # Fix for inode size boundary in 2.1.4
 442         [ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.1.4) ] &&
 443                 TESTS="4094 4095"
 444
 445         # Patch not applied to 2.2 or 2.3 branches
 446         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.0) ] &&
 447         [ $(lustre_version_code $SINGLEMDS) -le $(version_code 2.3.55) ] &&
 448                 TESTS="4094 4095"
 449
 450         for i in $TESTS; do
 451                 local SYMNAME=$(str_repeat 'x' $i)
 452                 ln -s $SYMNAME $DIR/$tdir/f$i || error "failed $i-char symlink"
 453                 readlink $DIR/$tdir/f$i || error "failed $i-char readlink"
 454         done
 455 }
 456 run_test 17g "symlinks: really long symlink name and inode boundaries"
 457
 458 test_17h() { #bug 17378
 459         remote_mds_nodsh && skip "remote MDS with nodsh" && return
 460         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
 461         local mdt_idx
 462         test_mkdir -p $DIR/$tdir
 463         if [ $MDSCOUNT -gt 1 ]; then
 464                 mdt_idx=$($LFS getdirstripe -i $DIR/$tdir)
 465         else
 466                 mdt_idx=0
 467         fi
 468         $SETSTRIPE -c -1 $DIR/$tdir
 469 #define OBD_FAIL_MDS_LOV_PREP_CREATE 0x141
 470         do_facet mds$((mdt_idx + 1)) lctl set_param fail_loc=0x80000141
 471         touch $DIR/$tdir/$tfile || true
 472 }
 473 run_test 17h "create objects: lov_free_memmd() doesn't lbug"
 474
 475 test_17i() { #bug 20018
 476         remote_mds_nodsh && skip "remote MDS with nodsh" && return
 477         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
 478         test_mkdir -p $DIR/$tdir
 479         local foo=$DIR/$tdir/$tfile
 480         local mdt_idx
 481         if [ $MDSCOUNT -gt 1 ]; then
 482                 mdt_idx=$($LFS getdirstripe -i $DIR/$tdir)
 483         else
 484                 mdt_idx=0
 485         fi
 486         ln -s $foo $foo || error "create symlink failed"
 487 #define OBD_FAIL_MDS_READLINK_EPROTO     0x143
 488         do_facet mds$((mdt_idx + 1)) lctl set_param fail_loc=0x80000143
 489         ls -l $foo && error "error not detected"
 490         return 0
 491 }
 492 run_test 17i "don't panic on short symlink"
 493
 494 test_17k() { #bug 22301
 495         rsync --help | grep -q xattr ||
 496                 skip_env "$(rsync --version| head -1) does not support xattrs"
 497         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
 498         test_mkdir -p $DIR/$tdir
 499         test_mkdir -p $DIR/$tdir.new
 500         touch $DIR/$tdir/$tfile
 501         ln -s $DIR/$tdir/$tfile $DIR/$tdir/$tfile.lnk
 502         rsync -av -X $DIR/$tdir/ $DIR/$tdir.new ||
 503                 error "rsync failed with xattrs enabled"
 504 }
 505 run_test 17k "symlinks: rsync with xattrs enabled ========================="
 506
 507 test_17l() { # LU-279
 508         mkdir -p $DIR/$tdir
 509         touch $DIR/$tdir/$tfile
 510         ln -s $DIR/$tdir/$tfile $DIR/$tdir/$tfile.lnk
 511         for path in "$DIR/$tdir" "$DIR/$tdir/$tfile" "$DIR/$tdir/$tfile.lnk"; do
 512                 # -h to not follow symlinks. -m '' to list all the xattrs.
 513                 # grep to remove first line: '# file: $path'.
 514                 for xattr in `getfattr -hm '' $path 2>/dev/null | grep -v '^#'`;
 515                 do
 516                         lgetxattr_size_check $path $xattr ||
 517                                 error "lgetxattr_size_check $path $xattr failed"
 518                 done
 519         done
 520 }
 521 run_test 17l "Ensure lgetxattr's returned xattr size is consistent ========"
 522
 523 # LU-1540
 524 test_17m() {
 525         local short_sym="0123456789"
 526         local WDIR=$DIR/${tdir}m
 527         local mds_index
 528         local devname
 529         local cmd
 530         local i
 531         local rc=0
 532
 533         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.0) ] &&
 534         [ $(lustre_version_code $SINGLEMDS) -le $(version_code 2.2.93) ] &&
 535                 skip "MDS 2.2.0-2.2.93 do not NUL-terminate symlinks" && return
 536
 537         [ "$(facet_fstype $SINGLEMDS)" != "ldiskfs" ] &&
 538                 skip "only for ldiskfs MDT" && return 0
 539
 540         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
 541
 542         mkdir -p $WDIR
 543         long_sym=$short_sym
 544         # create a long symlink file
 545         for ((i = 0; i < 4; ++i)); do
 546                 long_sym=${long_sym}${long_sym}
 547         done
 548
 549         echo "create 512 short and long symlink files under $WDIR"
 550         for ((i = 0; i < 256; ++i)); do
 551                 ln -sf ${long_sym}"a5a5" $WDIR/long-$i
 552                 ln -sf ${short_sym}"a5a5" $WDIR/short-$i
 553         done
 554
 555         echo "erase them"
 556         rm -f $WDIR/*
 557         sync
 558         wait_delete_completed
 559
 560         echo "recreate the 512 symlink files with a shorter string"
 561         for ((i = 0; i < 512; ++i)); do
 562                 # rewrite the symlink file with a shorter string
 563                 ln -sf ${long_sym} $WDIR/long-$i
 564                 ln -sf ${short_sym} $WDIR/short-$i
 565         done
 566
 567         mds_index=$($LFS getstripe -M $WDIR)
 568         mds_index=$((mds_index+1))
 569         devname=$(mdsdevname $mds_index)
 570         cmd="$E2FSCK -fnvd $devname"
 571
 572         echo "stop and checking mds${mds_index}: $cmd"
 573         # e2fsck should not return error
 574         stop mds${mds_index} -f
 575         do_facet mds${mds_index} $cmd || rc=$?
 576
 577         start mds${mds_index} $devname $MDS_MOUNT_OPTS
 578         df $MOUNT > /dev/null 2>&1
 579         [ $rc -ne 0 ] && error "e2fsck should not report error upon "\
 580                 "short/long symlink MDT: rc=$rc"
 581         return $rc
 582 }
 583 run_test 17m "run e2fsck against MDT which contains short/long symlink"
 584
 585 check_fs_consistency_17n() {
 586         local mdt_index
 587         local devname
 588         local cmd
 589         local rc=0
 590
 591         for mdt_index in $(seq 1 $MDSCOUNT); do
 592                 devname=$(mdsdevname $mdt_index)
 593                 cmd="$E2FSCK -fnvd $devname"
 594
 595                 echo "stop and checking mds${mdt_index}: $cmd"
 596                 # e2fsck should not return error
 597                 stop mds${mdt_index}
 598                 do_facet mds${mdt_index} $cmd || rc=$?
 599
 600                 start mds${mdt_index} $devname $MDS_MOUNT_OPTS
 601                 df $MOUNT > /dev/null 2>&1
 602                 [ $rc -ne 0 ] && break
 603         done
 604         return $rc
 605 }
 606
 607 test_17n() {
 608         local i
 609
 610         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.0) ] &&
 611         [ $(lustre_version_code $SINGLEMDS) -le $(version_code 2.2.93) ] &&
 612                 skip "MDS 2.2.0-2.2.93 do not NUL-terminate symlinks" && return
 613
 614         [ "$(facet_fstype $SINGLEMDS)" != "ldiskfs" ] &&
 615                 skip "only for ldiskfs MDT" && return 0
 616
 617         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
 618
 619         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
 620
 621         mkdir -p $DIR/$tdir
 622         for ((i=0; i<10; i++)); do
 623                 $LFS mkdir -i 1 $DIR/$tdir/remote_dir_${i} ||
 624                         error "create remote dir error $i"
 625                 createmany -o $DIR/$tdir/remote_dir_${i}/f 10 ||
 626                         error "create files under remote dir failed $i"
 627         done
 628
 629         check_fs_consistency_17n || error "e2fsck report error"
 630
 631         for ((i=0;i<10;i++)); do
 632                 rm -rf $DIR/$tdir/remote_dir_${i} ||
 633                         error "destroy remote dir error $i"
 634         done
 635
 636         check_fs_consistency_17n || error "e2fsck report error"
 637 }
 638 run_test 17n "run e2fsck against master/slave MDT which contains remote dir"
 639
 640 test_17o() {
 641         local WDIR=$DIR/${tdir}o
 642         local mdt_index
 643         local mdtdevname
 644         local rc=0
 645
 646         mkdir -p $WDIR
 647         mdt_index=$($LFS getstripe -M $WDIR)
 648         mdt_index=$((mdt_index+1))
 649         mdtdevname=$(mdsdevname $mdt_index)
 650
 651         touch $WDIR/$tfile
 652         stop mds${mdt_index}
 653         start mds${mdt_index} $mdtdevname $MDS_MOUNT_OPTS
 654
 655         #define OBD_FAIL_OSD_LMA_INCOMPAT 0x194
 656         do_facet mds${mdt_index} lctl set_param fail_loc=0x194
 657         ls -l $WDIR/$tfile && rc=1
 658         do_facet mds${mdt_index} lctl set_param fail_loc=0
 659         [[ $rc -ne 0 ]] && error "stat file should fail"
 660         true
 661 }
 662 run_test 17o "stat file with incompat LMA feature"
 663
 664 test_18() {
 665         touch $DIR/f || error "Failed to touch $DIR/f: $?"
 666         ls $DIR || error "Failed to ls $DIR: $?"
 667 }
 668 run_test 18 "touch .../f ; ls ... =============================="
 669
 670 test_19a() {
 671         touch $DIR/$tfile
 672         ls -l $DIR
 673         rm $DIR/$tfile
 674         $CHECKSTAT -a $DIR/$tfile || error "$tfile was not removed"
 675 }
 676 run_test 19a "touch .../f19 ; ls -l ... ; rm .../f19 ==========="
 677
 678 test_19b() {
 679         ls -l $DIR/$tfile && error "ls -l $tfile failed"|| true
 680 }
 681 run_test 19b "ls -l .../f19 (should return error) =============="
 682
 683 test_19c() {
 684         [ $RUNAS_ID -eq $UID ] &&
 685                 skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 686         $RUNAS touch $DIR/$tfile && error "create non-root file failed" || true
 687 }
 688 run_test 19c "$RUNAS touch .../f19 (should return error) =="
 689
 690 test_19d() {
 691         cat $DIR/f19 && error || true
 692 }
 693 run_test 19d "cat .../f19 (should return error) =============="
 694
 695 test_20() {
 696         touch $DIR/$tfile
 697         rm $DIR/$tfile
 698         log "1 done"
 699         touch $DIR/$tfile
 700         rm $DIR/$tfile
 701         log "2 done"
 702         touch $DIR/$tfile
 703         rm $DIR/$tfile
 704         log "3 done"
 705         $CHECKSTAT -a $DIR/$tfile || error "$tfile was not removed"
 706 }
 707 run_test 20 "touch .../f ; ls -l ... ==========================="
 708
 709 test_21() {
 710         test_mkdir -p $DIR/$tdir
 711         [ -f $DIR/$tdir/dangle ] && rm -f $DIR/$tdir/dangle
 712         ln -s dangle $DIR/$tdir/link
 713         echo foo >> $DIR/$tdir/link
 714         cat $DIR/$tdir/dangle
 715         $CHECKSTAT -t link $DIR/$tdir/link || error "$tdir/link not a link"
 716         $CHECKSTAT -f -t file $DIR/$tdir/link ||
 717                 error "$tdir/link not linked to a file"
 718 }
 719 run_test 21 "write to dangling link ============================"
 720
 721 test_22() {
 722         WDIR=$DIR/$tdir
 723         test_mkdir -p $DIR/$tdir
 724         chown $RUNAS_ID:$RUNAS_GID $WDIR
 725         (cd $WDIR || error "cd $WDIR failed";
 726         $RUNAS tar cf - /etc/hosts /etc/sysconfig/network | \
 727         $RUNAS tar xf -)
 728         ls -lR $WDIR/etc || error "ls -lR $WDIR/etc failed"
 729         $CHECKSTAT -t dir $WDIR/etc || error "checkstat -t dir failed"
 730         $CHECKSTAT -u \#$RUNAS_ID -g \#$RUNAS_GID $WDIR/etc || error "checkstat -u failed"
 731 }
 732 run_test 22 "unpack tar archive as non-root user ==============="
 733
 734 # was test_23
 735 test_23a() {
 736         test_mkdir -p $DIR/$tdir
 737         local file=$DIR/$tdir/$tfile
 738
 739         openfile -f O_CREAT:O_EXCL $file || error "$file create failed"
 740         openfile -f O_CREAT:O_EXCL $file &&
 741                 error "$file recreate succeeded" || true
 742 }
 743 run_test 23a "O_CREAT|O_EXCL in subdir =========================="
 744
 745 test_23b() { # bug 18988
 746         test_mkdir -p $DIR/$tdir
 747         local file=$DIR/$tdir/$tfile
 748
 749         rm -f $file
 750         echo foo > $file || error "write filed"
 751         echo bar >> $file || error "append filed"
 752         $CHECKSTAT -s 8 $file || error "wrong size"
 753         rm $file
 754 }
 755 run_test 23b "O_APPEND check =========================="
 756
 757 # rename sanity
 758 test_24a() {
 759         echo '-- same directory rename'
 760         test_mkdir $DIR/$tdir
 761         touch $DIR/$tdir/$tfile.1
 762         mv $DIR/$tdir/$tfile.1 $DIR/$tdir/$tfile.2
 763         $CHECKSTAT -t file $DIR/$tdir/$tfile.2 || error "$tfile.2 not a file"
 764 }
 765 run_test 24a "rename file to non-existent target"
 766
 767 test_24b() {
 768         test_mkdir $DIR/$tdir
 769         touch $DIR/$tdir/$tfile.{1,2}
 770         mv $DIR/$tdir/$tfile.1 $DIR/$tdir/$tfile.2
 771         $CHECKSTAT -a $DIR/$tdir/$tfile.1 || error "$tfile.1 exists"
 772         $CHECKSTAT -t file $DIR/$tdir/$tfile.2 || error "$tfile.2 not a file"
 773 }
 774 run_test 24b "rename file to existing target"
 775
 776 test_24c() {
 777         test_mkdir $DIR/$tdir
 778         test_mkdir $DIR/$tdir/d$testnum.1
 779         mv $DIR/$tdir/d$testnum.1 $DIR/$tdir/d$testnum.2
 780         $CHECKSTAT -a $DIR/$tdir/d$testnum.1 || error "d$testnum.1 exists"
 781         $CHECKSTAT -t dir $DIR/$tdir/d$testnum.2 || error "d$testnum.2 not dir"
 782 }
 783 run_test 24c "rename directory to non-existent target"
 784
 785 test_24d() {
 786         test_mkdir $DIR/$tdir
 787         test_mkdir $DIR/$tdir/d$testnum.1
 788         test_mkdir $DIR/$tdir/d$ttestnum.2
 789         mrename $DIR/$tdir/d$testnum.1 $DIR/$tdir/d$testnum.2
 790         $CHECKSTAT -a $DIR/$tdir/d$testnum.1 || error "d$testnum.1 exists"
 791         $CHECKSTAT -t dir $DIR/$tdir/d$testnum.2 || error "d$testnum.2 not dir"
 792 }
 793 run_test 24d "rename directory to existing target"
 794
 795 test_24e() {
 796         echo '-- cross directory renames --'
 797         test_mkdir $DIR/R5a
 798         test_mkdir $DIR/R5b
 799         touch $DIR/R5a/f
 800         mv $DIR/R5a/f $DIR/R5b/g
 801         $CHECKSTAT -a $DIR/R5a/f || error
 802         $CHECKSTAT -t file $DIR/R5b/g || error
 803 }
 804 run_test 24e "touch .../R5a/f; rename .../R5a/f .../R5b/g ======"
 805
 806 test_24f() {
 807         test_mkdir $DIR/R6a
 808         test_mkdir $DIR/R6b
 809         touch $DIR/R6a/f $DIR/R6b/g
 810         mv $DIR/R6a/f $DIR/R6b/g
 811         $CHECKSTAT -a $DIR/R6a/f || error
 812         $CHECKSTAT -t file $DIR/R6b/g || error
 813 }
 814 run_test 24f "touch .../R6a/f R6b/g; mv .../R6a/f .../R6b/g ===="
 815
 816 test_24g() {
 817         test_mkdir $DIR/R7a
 818         test_mkdir $DIR/R7b
 819         test_mkdir $DIR/R7a/d
 820         mv $DIR/R7a/d $DIR/R7b/e
 821         $CHECKSTAT -a $DIR/R7a/d || error
 822         $CHECKSTAT -t dir $DIR/R7b/e || error
 823 }
 824 run_test 24g "mkdir .../R7{a,b}/d; mv .../R7a/d .../R7b/e ======"
 825
 826 test_24h() {
 827         test_mkdir $DIR/R8a
 828         test_mkdir $DIR/R8b
 829         test_mkdir $DIR/R8a/d
 830         test_mkdir $DIR/R8b/e
 831         mrename $DIR/R8a/d $DIR/R8b/e
 832         $CHECKSTAT -a $DIR/R8a/d || error
 833         $CHECKSTAT -t dir $DIR/R8b/e || error
 834 }
 835 run_test 24h "mkdir .../R8{a,b}/{d,e}; rename .../R8a/d .../R8b/e"
 836
 837 test_24i() {
 838         echo "-- rename error cases"
 839         test_mkdir $DIR/R9
 840         test_mkdir $DIR/R9/a
 841         touch $DIR/R9/f
 842         mrename $DIR/R9/f $DIR/R9/a
 843         $CHECKSTAT -t file $DIR/R9/f || error
 844         $CHECKSTAT -t dir  $DIR/R9/a || error
 845         $CHECKSTAT -a $DIR/R9/a/f || error
 846 }
 847 run_test 24i "rename file to dir error: touch f ; mkdir a ; rename f a"
 848
 849 test_24j() {
 850         test_mkdir $DIR/R10
 851         mrename $DIR/R10/f $DIR/R10/g
 852         $CHECKSTAT -t dir $DIR/R10 || error
 853         $CHECKSTAT -a $DIR/R10/f || error
 854         $CHECKSTAT -a $DIR/R10/g || error
 855 }
 856 run_test 24j "source does not exist ============================"
 857
 858 test_24k() {
 859         test_mkdir $DIR/R11a
 860         test_mkdir $DIR/R11a/d
 861         touch $DIR/R11a/f
 862         mv $DIR/R11a/f $DIR/R11a/d
 863         $CHECKSTAT -a $DIR/R11a/f || error
 864         $CHECKSTAT -t file $DIR/R11a/d/f || error
 865 }
 866 run_test 24k "touch .../R11a/f; mv .../R11a/f .../R11a/d ======="
 867
 868 # bug 2429 - rename foo foo foo creates invalid file
 869 test_24l() {
 870         f="$DIR/f24l"
 871         $MULTIOP $f OcNs || error
 872 }
 873 run_test 24l "Renaming a file to itself ========================"
 874
 875 test_24m() {
 876         f="$DIR/f24m"
 877         $MULTIOP $f OcLN ${f}2 ${f}2 || error "link ${f}2 ${f}2 failed"
 878         # on ext3 this does not remove either the source or target files
 879         # though the "expected" operation would be to remove the source
 880         $CHECKSTAT -t file ${f} || error "${f} missing"
 881         $CHECKSTAT -t file ${f}2 || error "${f}2 missing"
 882 }
 883 run_test 24m "Renaming a file to a hard link to itself ========="
 884
 885 test_24n() {
 886     f="$DIR/f24n"
 887     # this stats the old file after it was renamed, so it should fail
 888     touch ${f}
 889     $CHECKSTAT ${f}
 890     mv ${f} ${f}.rename
 891     $CHECKSTAT ${f}.rename
 892     $CHECKSTAT -a ${f}
 893 }
 894 run_test 24n "Statting the old file after renaming (Posix rename 2)"
 895
 896 test_24o() {
 897         check_kernel_version 37 || return 0
 898         test_mkdir -p $DIR/d24o
 899         rename_many -s random -v -n 10 $DIR/d24o
 900 }
 901 run_test 24o "rename of files during htree split ==============="
 902
 903 test_24p() {
 904         test_mkdir $DIR/R12a
 905         test_mkdir $DIR/R12b
 906         DIRINO=`ls -lid $DIR/R12a | awk '{ print $1 }'`
 907         mrename $DIR/R12a $DIR/R12b
 908         $CHECKSTAT -a $DIR/R12a || error
 909         $CHECKSTAT -t dir $DIR/R12b || error
 910         DIRINO2=`ls -lid $DIR/R12b | awk '{ print $1 }'`
 911         [ "$DIRINO" = "$DIRINO2" ] || error "R12a $DIRINO != R12b $DIRINO2"
 912 }
 913 run_test 24p "mkdir .../R12{a,b}; rename .../R12a .../R12b"
 914
 915 cleanup_multiop_pause() {
 916         trap 0
 917         kill -USR1 $MULTIPID
 918 }
 919
 920 test_24q() {
 921         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
 922         test_mkdir $DIR/R13a
 923         test_mkdir $DIR/R13b
 924         local DIRINO=$(ls -lid $DIR/R13a | awk '{ print $1 }')
 925         multiop_bg_pause $DIR/R13b D_c || error "multiop failed to start"
 926         MULTIPID=$!
 927
 928         trap cleanup_multiop_pause EXIT
 929         mrename $DIR/R13a $DIR/R13b
 930         $CHECKSTAT -a $DIR/R13a || error "R13a still exists"
 931         $CHECKSTAT -t dir $DIR/R13b || error "R13b does not exist"
 932         local DIRINO2=$(ls -lid $DIR/R13b | awk '{ print $1 }')
 933         [ "$DIRINO" = "$DIRINO2" ] || error "R13a $DIRINO != R13b $DIRINO2"
 934         cleanup_multiop_pause
 935         wait $MULTIPID || error "multiop close failed"
 936 }
 937 run_test 24q "mkdir .../R13{a,b}; open R13b rename R13a R13b ==="
 938
 939 test_24r() { #bug 3789
 940         test_mkdir $DIR/R14a
 941         test_mkdir $DIR/R14a/b
 942         mrename $DIR/R14a $DIR/R14a/b && error "rename to subdir worked!"
 943         $CHECKSTAT -t dir $DIR/R14a || error "$DIR/R14a missing"
 944         $CHECKSTAT -t dir $DIR/R14a/b || error "$DIR/R14a/b missing"
 945 }
 946 run_test 24r "mkdir .../R14a/b; rename .../R14a .../R14a/b ====="
 947
 948 test_24s() {
 949         test_mkdir $DIR/R15a
 950         test_mkdir $DIR/R15a/b
 951         test_mkdir $DIR/R15a/b/c
 952         mrename $DIR/R15a $DIR/R15a/b/c && error "rename to sub-subdir worked!"
 953         $CHECKSTAT -t dir $DIR/R15a || error "$DIR/R15a missing"
 954         $CHECKSTAT -t dir $DIR/R15a/b/c || error "$DIR/R15a/b/c missing"
 955 }
 956 run_test 24s "mkdir .../R15a/b/c; rename .../R15a .../R15a/b/c ="
 957 test_24t() {
 958         test_mkdir $DIR/R16a
 959         test_mkdir $DIR/R16a/b
 960         test_mkdir $DIR/R16a/b/c
 961         mrename $DIR/R16a/b/c $DIR/R16a && error "rename to sub-subdir worked!"
 962         $CHECKSTAT -t dir $DIR/R16a || error "$DIR/R16a missing"
 963         $CHECKSTAT -t dir $DIR/R16a/b/c || error "$DIR/R16a/b/c missing"
 964 }
 965 run_test 24t "mkdir .../R16a/b/c; rename .../R16a/b/c .../R16a ="
 966
 967 test_24u() { # bug12192
 968         rm -rf $DIR/$tfile
 969         $MULTIOP $DIR/$tfile C2w$((2048 * 1024))c || error
 970         $CHECKSTAT -s $((2048 * 1024)) $DIR/$tfile || error "wrong file size"
 971 }
 972 run_test 24u "create stripe file"
 973
 974 page_size() {
 975         getconf PAGE_SIZE
 976 }
 977
 978 simple_cleanup_common() {
 979         trap 0
 980         rm -rf $DIR/$tdir
 981         wait_delete_completed
 982 }
 983
 984 max_pages_per_rpc() {
 985         $LCTL get_param -n mdc.*.max_pages_per_rpc | head -1
 986 }
 987
 988 test_24v() {
 989         local NRFILES=100000
 990         local FREE_INODES=$(lfs_df -i | grep "summary" | awk '{print $4}')
 991         [ $FREE_INODES -lt $NRFILES ] && \
 992                 skip "not enough free inodes $FREE_INODES required $NRFILES" &&
 993                 return
 994
 995         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
 996         trap simple_cleanup_common EXIT
 997
 998         mkdir -p $DIR/$tdir
 999         createmany -m $DIR/$tdir/$tfile $NRFILES
1000
1001         cancel_lru_locks mdc
1002         lctl set_param mdc.*.stats clear
1003
1004         ls $DIR/$tdir >/dev/null || error "error in listing large dir"
1005
1006         # LU-5 large readdir
1007         # DIRENT_SIZE = 32 bytes for sizeof(struct lu_dirent) +
1008         #               8 bytes for name(filename is mostly 5 in this test) +
1009         #               8 bytes for luda_type
1010         # take into account of overhead in lu_dirpage header and end mark in
1011         # each page, plus one in RPC_NUM calculation.
1012         DIRENT_SIZE=48
1013         RPC_SIZE=$(($(max_pages_per_rpc) * $(page_size)))
1014         RPC_NUM=$(((NRFILES * DIRENT_SIZE + RPC_SIZE - 1) / RPC_SIZE + 1))
1015         mds_readpage=$(lctl get_param mdc.*MDT0000*.stats | \
1016                                 awk '/^mds_readpage/ {print $2}')
1017         [ $mds_readpage -gt $RPC_NUM ] && \
1018                 error "large readdir doesn't take effect"
1019
1020         simple_cleanup_common
1021 }
1022 run_test 24v "list directory with large files (handle hash collision, bug: 17560)"
1023
1024 test_24w() { # bug21506
1025         SZ1=234852
1026         dd if=/dev/zero of=$DIR/$tfile bs=1M count=1 seek=4096 || return 1
1027         dd if=/dev/zero bs=$SZ1 count=1 >> $DIR/$tfile || return 2
1028         dd if=$DIR/$tfile of=$DIR/${tfile}_left bs=1M skip=4097 || return 3
1029         SZ2=`ls -l $DIR/${tfile}_left | awk '{print $5}'`
1030         [ "$SZ1" = "$SZ2" ] || \
1031                 error "Error reading at the end of the file $tfile"
1032 }
1033 run_test 24w "Reading a file larger than 4Gb"
1034
1035 test_24x() {
1036         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1037         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1038         local MDTIDX=1
1039         local remote_dir=$DIR/$tdir/remote_dir
1040
1041         mkdir -p $DIR/$tdir
1042         $LFS mkdir -i $MDTIDX $remote_dir ||
1043                 error "create remote directory failed"
1044
1045         mkdir -p $DIR/$tdir/src_dir
1046         touch $DIR/$tdir/src_file
1047         mkdir -p $remote_dir/tgt_dir
1048         touch $remote_dir/tgt_file
1049
1050         mrename $DIR/$tdir/src_dir $remote_dir/tgt_dir &&
1051                 error "rename dir cross MDT works!"
1052
1053         mrename $DIR/$tdir/src_file $remote_dir/tgt_file &&
1054                 error "rename file cross MDT works!"
1055
1056         ln $DIR/$tdir/src_file $remote_dir/tgt_file1 &&
1057                 error "ln file cross MDT should not work!"
1058
1059         rm -rf $DIR/$tdir || error "Can not delete directories"
1060 }
1061 run_test 24x "cross rename/link should be failed"
1062
1063 test_24y() {
1064         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1065         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1066         local MDTIDX=1
1067         local remote_dir=$DIR/$tdir/remote_dir
1068
1069         mkdir -p $DIR/$tdir
1070         $LFS mkdir -i $MDTIDX $remote_dir ||
1071                    error "create remote directory failed"
1072
1073         mkdir -p $remote_dir/src_dir
1074         touch $remote_dir/src_file
1075         mkdir -p $remote_dir/tgt_dir
1076         touch $remote_dir/tgt_file
1077
1078         mrename $remote_dir/src_dir $remote_dir/tgt_dir ||
1079                 error "rename subdir in the same remote dir failed!"
1080
1081         mrename $remote_dir/src_file $remote_dir/tgt_file ||
1082                 error "rename files in the same remote dir failed!"
1083
1084         ln $remote_dir/tgt_file $remote_dir/tgt_file1 ||
1085                 error "link files in the same remote dir failed!"
1086
1087         rm -rf $DIR/$tdir || error "Can not delete directories"
1088 }
1089 run_test 24y "rename/link on the same dir should succeed"
1090
1091 test_24z() {
1092         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1093         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1094         local MDTIDX=1
1095         local remote_src=$DIR/$tdir/remote_dir
1096         local remote_tgt=$DIR/$tdir/remote_tgt
1097
1098         mkdir -p $DIR/$tdir
1099         $LFS mkdir -i $MDTIDX $remote_src ||
1100                    error "create remote directory failed"
1101
1102         $LFS mkdir -i $MDTIDX $remote_tgt ||
1103                    error "create remote directory failed"
1104
1105         mrename $remote_src $remote_tgt &&
1106                 error "rename remote dirs should not work!"
1107
1108         # If target dir does not exists, it should succeed
1109         rm -rf $remote_tgt
1110         mrename $remote_src $remote_tgt ||
1111                 error "rename remote dirs(tgt dir does not exists) failed!"
1112
1113         rm -rf $DIR/$tdir || error "Can not delete directories"
1114 }
1115 run_test 24z "rename one remote dir to another remote dir should fail"
1116
1117 test_24A() { # LU-3182
1118         local NFILES=5000
1119
1120         mkdir -p $DIR/$tdir
1121         createmany -m $DIR/$tdir/$tfile $NFILES
1122         local t=`ls $DIR/$tdir | wc -l`
1123         local u=`ls $DIR/$tdir | sort -u | wc -l`
1124         if [ $t -ne $NFILES -o $u -ne $NFILES ] ; then
1125                 error "Expected $NFILES files, got $t ($u unique)"
1126         fi
1127
1128         rm -rf $DIR/$tdir || error "Can not delete directories"
1129 }
1130 run_test 24A "readdir() returns correct number of entries."
1131
1132 test_25a() {
1133         echo '== symlink sanity ============================================='
1134
1135         test_mkdir $DIR/d25
1136         ln -s d25 $DIR/s25
1137         touch $DIR/s25/foo || error
1138 }
1139 run_test 25a "create file in symlinked directory ==============="
1140
1141 test_25b() {
1142         [ ! -d $DIR/d25 ] && test_25a
1143         $CHECKSTAT -t file $DIR/s25/foo || error
1144 }
1145 run_test 25b "lookup file in symlinked directory ==============="
1146
1147 test_26a() {
1148         test_mkdir $DIR/d26
1149         test_mkdir $DIR/d26/d26-2
1150         ln -s d26/d26-2 $DIR/s26
1151         touch $DIR/s26/foo || error
1152 }
1153 run_test 26a "multiple component symlink ======================="
1154
1155 test_26b() {
1156         test_mkdir -p $DIR/d26b/d26-2
1157         ln -s d26b/d26-2/foo $DIR/s26-2
1158         touch $DIR/s26-2 || error
1159 }
1160 run_test 26b "multiple component symlink at end of lookup ======"
1161
1162 test_26c() {
1163         test_mkdir $DIR/d26.2
1164         touch $DIR/d26.2/foo
1165         ln -s d26.2 $DIR/s26.2-1
1166         ln -s s26.2-1 $DIR/s26.2-2
1167         ln -s s26.2-2 $DIR/s26.2-3
1168         chmod 0666 $DIR/s26.2-3/foo
1169 }
1170 run_test 26c "chain of symlinks ================================"
1171
1172 # recursive symlinks (bug 439)
1173 test_26d() {
1174         ln -s d26-3/foo $DIR/d26-3
1175 }
1176 run_test 26d "create multiple component recursive symlink ======"
1177
1178 test_26e() {
1179         [ ! -h $DIR/d26-3 ] && test_26d
1180         rm $DIR/d26-3
1181 }
1182 run_test 26e "unlink multiple component recursive symlink ======"
1183
1184 # recursive symlinks (bug 7022)
1185 test_26f() {
1186         test_mkdir -p $DIR/$tdir
1187         test_mkdir $DIR/$tdir/$tfile   || error "mkdir $DIR/$tdir/$tfile failed"
1188         cd $DIR/$tdir/$tfile           || error "cd $DIR/$tdir/$tfile failed"
1189         test_mkdir -p lndir/bar1      || error "mkdir lndir/bar1 failed"
1190         test_mkdir $DIR/$tdir/$tfile/$tfile   || error "mkdir $tfile failed"
1191         cd $tfile                || error "cd $tfile failed"
1192         ln -s .. dotdot          || error "ln dotdot failed"
1193         ln -s dotdot/lndir lndir || error "ln lndir failed"
1194         cd $DIR/$tdir                 || error "cd $DIR/$tdir failed"
1195         output=`ls $tfile/$tfile/lndir/bar1`
1196         [ "$output" = bar1 ] && error "unexpected output"
1197         rm -r $tfile             || error "rm $tfile failed"
1198         $CHECKSTAT -a $DIR/$tfile || error "$tfile not gone"
1199 }
1200 run_test 26f "rm -r of a directory which has recursive symlink ="
1201
1202 test_27a() {
1203         echo '== stripe sanity =============================================='
1204         test_mkdir -p $DIR/d27 || error "mkdir failed"
1205         $GETSTRIPE $DIR/d27
1206         $SETSTRIPE -c 1 $DIR/d27/f0 || error "setstripe failed"
1207         $CHECKSTAT -t file $DIR/d27/f0 || error "checkstat failed"
1208         pass
1209         log "== test_27a: write to one stripe file ========================="
1210         cp /etc/hosts $DIR/d27/f0 || error
1211 }
1212 run_test 27a "one stripe file =================================="
1213
1214 test_27b() {
1215         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
1216         test_mkdir -p $DIR/d27
1217         $SETSTRIPE -c 2 $DIR/d27/f01 || error "setstripe failed"
1218         $GETSTRIPE -c $DIR/d27/f01
1219         [ $($GETSTRIPE -c $DIR/d27/f01) -eq 2 ] ||
1220                 error "two-stripe file doesn't have two stripes"
1221
1222         dd if=/dev/zero of=$DIR/d27/f01 bs=4k count=4 || error "dd failed"
1223 }
1224 run_test 27b "create and write to two stripe file"
1225
1226 test_27d() {
1227         test_mkdir -p $DIR/d27
1228         $SETSTRIPE -c 0 -i -1 -S 0 $DIR/d27/fdef || error "setstripe failed"
1229         $CHECKSTAT -t file $DIR/d27/fdef || error "checkstat failed"
1230         dd if=/dev/zero of=$DIR/d27/fdef bs=4k count=4 || error
1231 }
1232 run_test 27d "create file with default settings ================"
1233
1234 test_27e() {
1235         test_mkdir -p $DIR/d27
1236         $SETSTRIPE -c 2 $DIR/d27/f12 || error "setstripe failed"
1237         $SETSTRIPE -c 2 $DIR/d27/f12 && error "setstripe succeeded twice"
1238         $CHECKSTAT -t file $DIR/d27/f12 || error "checkstat failed"
1239 }
1240 run_test 27e "setstripe existing file (should return error) ======"
1241
1242 test_27f() {
1243         test_mkdir -p $DIR/d27
1244         $SETSTRIPE -S 100 -i 0 -c 1 $DIR/d27/fbad && error "setstripe failed"
1245         dd if=/dev/zero of=$DIR/d27/fbad bs=4k count=4 || error "dd failed"
1246         $GETSTRIPE $DIR/d27/fbad || error "$GETSTRIPE failed"
1247 }
1248 run_test 27f "setstripe with bad stripe size (should return error)"
1249
1250 test_27g() {
1251         test_mkdir -p $DIR/d27
1252         $MCREATE $DIR/d27/fnone || error "mcreate failed"
1253         $GETSTRIPE $DIR/d27/fnone 2>&1 | grep "no stripe info" ||
1254                 error "$DIR/d27/fnone has object"
1255 }
1256 run_test 27g "$GETSTRIPE with no objects"
1257
1258 test_27i() {
1259         touch $DIR/d27/fsome || error "touch failed"
1260         [ $($GETSTRIPE -c $DIR/d27/fsome) -gt 0 ] || error "missing objects"
1261 }
1262 run_test 27i "$GETSTRIPE with some objects"
1263
1264 test_27j() {
1265         test_mkdir -p $DIR/d27
1266         $SETSTRIPE -i $OSTCOUNT $DIR/d27/f27j && error "setstripe failed"||true
1267 }
1268 run_test 27j "setstripe with bad stripe offset (should return error)"
1269
1270 test_27k() { # bug 2844
1271         test_mkdir -p $DIR/d27
1272         FILE=$DIR/d27/f27k
1273         LL_MAX_BLKSIZE=$((4 * 1024 * 1024))
1274         [ ! -d $DIR/d27 ] && test_mkdir -p $DIR d27
1275         $SETSTRIPE -S 67108864 $FILE || error "setstripe failed"
1276         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
1277         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
1278         dd if=/dev/zero of=$FILE bs=4k count=1
1279         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
1280         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
1281 }
1282 run_test 27k "limit i_blksize for broken user apps ============="
1283
1284 test_27l() {
1285         test_mkdir -p $DIR/d27
1286         mcreate $DIR/f27l || error "creating file"
1287         $RUNAS $SETSTRIPE -c 1 $DIR/f27l && \
1288                 error "setstripe should have failed" || true
1289 }
1290 run_test 27l "check setstripe permissions (should return error)"
1291
1292 test_27m() {
1293         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" &&
1294                 return
1295         if [ $ORIGFREE -gt $MAXFREE ]; then
1296                 skip "$ORIGFREE > $MAXFREE skipping out-of-space test on OST0"
1297                 return
1298         fi
1299         trap simple_cleanup_common EXIT
1300         test_mkdir -p $DIR/$tdir
1301         $SETSTRIPE -i 0 -c 1 $DIR/$tdir/f27m_1
1302         dd if=/dev/zero of=$DIR/$tdir/f27m_1 bs=1024 count=$MAXFREE &&
1303                 error "dd should fill OST0"
1304         i=2
1305         while $SETSTRIPE -i 0 -c 1 $DIR/$tdir/f27m_$i; do
1306                 i=`expr $i + 1`
1307                 [ $i -gt 256 ] && break
1308         done
1309         i=`expr $i + 1`
1310         touch $DIR/$tdir/f27m_$i
1311         [ `$GETSTRIPE $DIR/$tdir/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] &&
1312                 error "OST0 was full but new created file still use it"
1313         i=`expr $i + 1`
1314         touch $DIR/$tdir/f27m_$i
1315         [ `$GETSTRIPE $DIR/$tdir/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] &&
1316                 error "OST0 was full but new created file still use it"
1317         simple_cleanup_common
1318 }
1319 run_test 27m "create file while OST0 was full =================="
1320
1321 sleep_maxage() {
1322         local DELAY=$(do_facet $SINGLEMDS lctl get_param -n lov.*.qos_maxage | head -n 1 | awk '{print $1 * 2}')
1323         sleep $DELAY
1324 }
1325
1326 # OSCs keep a NOSPC flag that will be reset after ~5s (qos_maxage)
1327 # if the OST isn't full anymore.
1328 reset_enospc() {
1329         local OSTIDX=${1:-""}
1330
1331         local list=$(comma_list $(osts_nodes))
1332         [ "$OSTIDX" ] && list=$(facet_host ost$((OSTIDX + 1)))
1333
1334         do_nodes $list lctl set_param fail_loc=0
1335         sync    # initiate all OST_DESTROYs from MDS to OST
1336         sleep_maxage
1337 }
1338
1339 exhaust_precreations() {
1340         local OSTIDX=$1
1341         local FAILLOC=$2
1342         local FAILIDX=${3:-$OSTIDX}
1343
1344         test_mkdir -p $DIR/$tdir
1345         local MDSIDX=$(get_mds_dir "$DIR/$tdir")
1346         echo OSTIDX=$OSTIDX MDSIDX=$MDSIDX
1347
1348         local OST=$(ostname_from_index $OSTIDX)
1349         local MDT_INDEX=$(lfs df | grep "\[MDT:$((MDSIDX - 1))\]" | awk '{print $1}' | \
1350                           sed -e 's/_UUID$//;s/^.*-//')
1351
1352         # on the mdt's osc
1353         local mdtosc_proc1=$(get_mdtosc_proc_path mds${MDSIDX} $OST)
1354         local last_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1355         osc.$mdtosc_proc1.prealloc_last_id)
1356         local next_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1357         osc.$mdtosc_proc1.prealloc_next_id)
1358
1359         local mdtosc_proc2=$(get_mdtosc_proc_path mds${MDSIDX})
1360         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1361
1362         test_mkdir -p $DIR/$tdir/${OST}
1363         $SETSTRIPE -i $OSTIDX -c 1 $DIR/$tdir/${OST}
1364 #define OBD_FAIL_OST_ENOSPC              0x215
1365         do_facet ost$((OSTIDX + 1)) lctl set_param fail_val=$FAILIDX
1366         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=0x215
1367         echo "Creating to objid $last_id on ost $OST..."
1368         createmany -o $DIR/$tdir/${OST}/f $next_id $((last_id - next_id + 2))
1369         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1370         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=$FAILLOC
1371         sleep_maxage
1372 }
1373
1374 exhaust_all_precreations() {
1375         local i
1376         for (( i=0; i < OSTCOUNT; i++ )) ; do
1377                 exhaust_precreations $i $1 -1
1378         done
1379 }
1380
1381 test_27n() {
1382         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1383         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1384         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1385         remote_ost_nodsh && skip "remote OST with nodsh" && return
1386
1387         reset_enospc
1388         rm -f $DIR/$tdir/$tfile
1389         exhaust_precreations 0 0x80000215
1390         $SETSTRIPE -c -1 $DIR/$tdir
1391         touch $DIR/$tdir/$tfile || error
1392         $GETSTRIPE $DIR/$tdir/$tfile
1393         reset_enospc
1394 }
1395 run_test 27n "create file with some full OSTs =================="
1396
1397 test_27o() {
1398         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1399         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1400         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1401         remote_ost_nodsh && skip "remote OST with nodsh" && return
1402
1403         reset_enospc
1404         rm -f $DIR/$tdir/$tfile
1405         exhaust_all_precreations 0x215
1406
1407         touch $DIR/$tdir/$tfile && error "able to create $DIR/$tdir/$tfile"
1408
1409         reset_enospc
1410         rm -rf $DIR/$tdir/*
1411 }
1412 run_test 27o "create file with all full OSTs (should error) ===="
1413
1414 test_27p() {
1415         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1416         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1417         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1418         remote_ost_nodsh && skip "remote OST with nodsh" && return
1419
1420         reset_enospc
1421         rm -f $DIR/$tdir/$tfile
1422         test_mkdir -p $DIR/$tdir
1423
1424         $MCREATE $DIR/$tdir/$tfile || error "mcreate failed"
1425         $TRUNCATE $DIR/$tdir/$tfile 80000000 || error "truncate failed"
1426         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1427
1428         exhaust_precreations 0 0x80000215
1429         echo foo >> $DIR/$tdir/$tfile || error "append failed"
1430         $CHECKSTAT -s 80000004 $DIR/$tdir/$tfile || error "checkstat failed"
1431         $GETSTRIPE $DIR/$tdir/$tfile
1432
1433         reset_enospc
1434 }
1435 run_test 27p "append to a truncated file with some full OSTs ==="
1436
1437 test_27q() {
1438         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1439         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1440         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1441         remote_ost_nodsh && skip "remote OST with nodsh" && return
1442
1443         reset_enospc
1444         rm -f $DIR/$tdir/$tfile
1445
1446         test_mkdir -p $DIR/$tdir
1447         $MCREATE $DIR/$tdir/$tfile || error "mcreate $DIR/$tdir/$tfile failed"
1448         $TRUNCATE $DIR/$tdir/$tfile 80000000 ||error "truncate $DIR/$tdir/$tfile failed"
1449         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1450
1451         exhaust_all_precreations 0x215
1452
1453         echo foo >> $DIR/$tdir/$tfile && error "append succeeded"
1454         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat 2 failed"
1455
1456         reset_enospc
1457 }
1458 run_test 27q "append to truncated file with all OSTs full (should error) ==="
1459
1460 test_27r() {
1461         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1462         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1463         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1464         remote_ost_nodsh && skip "remote OST with nodsh" && return
1465
1466         reset_enospc
1467         rm -f $DIR/$tdir/$tfile
1468         exhaust_precreations 0 0x80000215
1469
1470         $SETSTRIPE -i 0 -c 2 $DIR/$tdir/$tfile # && error
1471
1472         reset_enospc
1473 }
1474 run_test 27r "stripe file with some full OSTs (shouldn't LBUG) ="
1475
1476 test_27s() { # bug 10725
1477         test_mkdir -p $DIR/$tdir
1478         local stripe_size=$((4096 * 1024 * 1024))       # 2^32
1479         local stripe_count=0
1480         [ $OSTCOUNT -eq 1 ] || stripe_count=2
1481         $SETSTRIPE -S $stripe_size -c $stripe_count $DIR/$tdir &&
1482                 error "stripe width >= 2^32 succeeded" || true
1483
1484 }
1485 run_test 27s "lsm_xfersize overflow (should error) (bug 10725)"
1486
1487 test_27t() { # bug 10864
1488         WDIR=`pwd`
1489         WLFS=`which lfs`
1490         cd $DIR
1491         touch $tfile
1492         $WLFS getstripe $tfile
1493         cd $WDIR
1494 }
1495 run_test 27t "check that utils parse path correctly"
1496
1497 test_27u() { # bug 4900
1498         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1499         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1500         local index
1501         local list=$(comma_list $(mdts_nodes))
1502
1503 #define OBD_FAIL_MDS_OSC_PRECREATE      0x139
1504         do_nodes $list $LCTL set_param fail_loc=0x139
1505         test_mkdir -p $DIR/$tdir
1506         rm -rf $DIR/$tdir/*
1507         createmany -o $DIR/$tdir/t- 1000
1508         do_nodes $list $LCTL set_param fail_loc=0
1509
1510         TLOG=$DIR/$tfile.getstripe
1511         $GETSTRIPE $DIR/$tdir > $TLOG
1512         OBJS=`awk -vobj=0 '($1 == 0) { obj += 1 } END { print obj;}' $TLOG`
1513         unlinkmany $DIR/$tdir/t- 1000
1514         [ $OBJS -gt 0 ] && \
1515                 error "$OBJS objects created on OST-0.  See $TLOG" || pass
1516 }
1517 run_test 27u "skip object creation on OSC w/o objects =========="
1518
1519 test_27v() { # bug 4900
1520         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1521         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1522         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1523         remote_ost_nodsh && skip "remote OST with nodsh" && return
1524
1525         exhaust_all_precreations 0x215
1526         reset_enospc
1527
1528         test_mkdir -p $DIR/$tdir
1529         $SETSTRIPE -c 1 $DIR/$tdir         # 1 stripe / file
1530
1531         touch $DIR/$tdir/$tfile
1532         #define OBD_FAIL_TGT_DELAY_PRECREATE     0x705
1533         # all except ost1
1534         for (( i=1; i < OSTCOUNT; i++ )); do
1535                 do_facet ost$i lctl set_param fail_loc=0x705
1536         done
1537         local START=`date +%s`
1538         createmany -o $DIR/$tdir/$tfile 32
1539
1540         local FINISH=`date +%s`
1541         local TIMEOUT=`lctl get_param -n timeout`
1542         local PROCESS=$((FINISH - START))
1543         [ $PROCESS -ge $((TIMEOUT / 2)) ] && \
1544                error "$FINISH - $START >= $TIMEOUT / 2"
1545         sleep $((TIMEOUT / 2 - PROCESS))
1546         reset_enospc
1547 }
1548 run_test 27v "skip object creation on slow OST ================="
1549
1550 test_27w() { # bug 10997
1551         test_mkdir -p $DIR/$tdir || error "mkdir failed"
1552         $SETSTRIPE -S 65536 $DIR/$tdir/f0 || error "setstripe failed"
1553         [ $($GETSTRIPE -S $DIR/$tdir/f0) -ne 65536 ] &&
1554                 error "stripe size $size != 65536" || true
1555         [ $($GETSTRIPE -d $DIR/$tdir | grep -c "stripe_count") -ne 1 ] &&
1556                 error "$GETSTRIPE -d $DIR/$tdir failed" || true
1557 }
1558 run_test 27w "check $SETSTRIPE -S option"
1559
1560 test_27wa() {
1561         [ "$OSTCOUNT" -lt "2" ] &&
1562                 skip_env "skipping multiple stripe count/offset test" && return
1563
1564         test_mkdir -p $DIR/$tdir || error "mkdir failed"
1565         for i in $(seq 1 $OSTCOUNT); do
1566                 offset=$((i - 1))
1567                 $SETSTRIPE -c $i -i $offset $DIR/$tdir/f$i ||
1568                         error "setstripe -c $i -i $offset failed"
1569                 count=$($GETSTRIPE -c $DIR/$tdir/f$i)
1570                 index=$($GETSTRIPE -i $DIR/$tdir/f$i)
1571                 [ $count -ne $i ] && error "stripe count $count != $i" || true
1572                 [ $index -ne $offset ] &&
1573                         error "stripe offset $index != $offset" || true
1574         done
1575 }
1576 run_test 27wa "check $SETSTRIPE -c -i options"
1577
1578 test_27x() {
1579         remote_ost_nodsh && skip "remote OST with nodsh" && return
1580         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs" && return
1581         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1582         OFFSET=$(($OSTCOUNT - 1))
1583         OSTIDX=0
1584         local OST=$(ostname_from_index $OSTIDX)
1585
1586         test_mkdir -p $DIR/$tdir
1587         $SETSTRIPE -c 1 $DIR/$tdir      # 1 stripe per file
1588         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 1
1589         sleep_maxage
1590         createmany -o $DIR/$tdir/$tfile $OSTCOUNT
1591         for i in `seq 0 $OFFSET`; do
1592                 [ `$GETSTRIPE $DIR/$tdir/$tfile$i | grep -A 10 obdidx | awk '{print $1}' | grep -w "$OSTIDX"` ] &&
1593                 error "OST0 was degraded but new created file still use it"
1594         done
1595         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 0
1596 }
1597 run_test 27x "create files while OST0 is degraded"
1598
1599 test_27y() {
1600         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" && return
1601         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1602         remote_ost_nodsh && skip "remote OST with nodsh" && return
1603         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1604
1605         local mdtosc=$(get_mdtosc_proc_path $SINGLEMDS $FSNAME-OST0000)
1606         local last_id=$(do_facet $SINGLEMDS lctl get_param -n \
1607             osc.$mdtosc.prealloc_last_id)
1608         local next_id=$(do_facet $SINGLEMDS lctl get_param -n \
1609             osc.$mdtosc.prealloc_next_id)
1610         local fcount=$((last_id - next_id))
1611         [ $fcount -eq 0 ] && skip "not enough space on OST0" && return
1612         [ $fcount -gt $OSTCOUNT ] && fcount=$OSTCOUNT
1613
1614         local MDS_OSCS=$(do_facet $SINGLEMDS lctl dl |
1615                          awk '/[oO][sS][cC].*md[ts]/ { print $4 }')
1616         local OST_DEACTIVE_IDX=-1
1617         local OSC
1618         local OSTIDX
1619         local OST
1620
1621         for OSC in $MDS_OSCS; do
1622                 OST=$(osc_to_ost $OSC)
1623                 OSTIDX=$(index_from_ostuuid $OST)
1624                 if [ $OST_DEACTIVE_IDX == -1 ]; then
1625                         OST_DEACTIVE_IDX=$OSTIDX
1626                 fi
1627                 if [ $OSTIDX != $OST_DEACTIVE_IDX ]; then
1628                         echo $OSC "is Deactivated:"
1629                         do_facet $SINGLEMDS lctl --device  %$OSC deactivate
1630                 fi
1631         done
1632
1633         OSTIDX=$(index_from_ostuuid $OST)
1634         mkdir -p $DIR/$tdir
1635         $SETSTRIPE -c 1 $DIR/$tdir      # 1 stripe / file
1636
1637         for OSC in $MDS_OSCS; do
1638                 OST=$(osc_to_ost $OSC)
1639                 OSTIDX=$(index_from_ostuuid $OST)
1640                 if [ $OSTIDX == $OST_DEACTIVE_IDX ]; then
1641                         echo $OST "is degraded:"
1642                         do_facet ost$((OSTIDX+1)) lctl set_param -n \
1643                                                 obdfilter.$OST.degraded=1
1644                 fi
1645         done
1646
1647         sleep_maxage
1648         createmany -o $DIR/$tdir/$tfile $fcount
1649
1650         for OSC in $MDS_OSCS; do
1651                 OST=$(osc_to_ost $OSC)
1652                 OSTIDX=$(index_from_ostuuid $OST)
1653                 if [ $OSTIDX == $OST_DEACTIVE_IDX ]; then
1654                         echo $OST "is recovered from degraded:"
1655                         do_facet ost$((OSTIDX+1)) lctl set_param -n \
1656                                                 obdfilter.$OST.degraded=0
1657                 else
1658                         do_facet $SINGLEMDS lctl --device %$OSC activate
1659                 fi
1660         done
1661
1662         # all osp devices get activated, hence -1 stripe count restored
1663         local stripecnt=0
1664
1665         # sleep 2*lod_qos_maxage seconds waiting for lod qos to notice osp
1666         # devices get activated.
1667         sleep_maxage
1668         $SETSTRIPE -c -1 $DIR/$tfile
1669         stripecnt=$($GETSTRIPE -c $DIR/$tfile)
1670         rm -f $DIR/$tfile
1671         [ $stripecnt -ne $OSTCOUNT ] &&
1672                 error "Of $OSTCOUNT OSTs, only $stripecnt is available"
1673         return 0
1674 }
1675 run_test 27y "create files while OST0 is degraded and the rest inactive"
1676
1677 check_seq_oid()
1678 {
1679         log "check file $1"
1680
1681         lmm_count=$($GETSTRIPE -c $1)
1682         lmm_seq=$($GETSTRIPE -v $1 | awk '/lmm_seq/ { print $2 }')
1683         lmm_oid=$($GETSTRIPE -v $1 | awk '/lmm_object_id/ { print $2 }')
1684
1685         local old_ifs="$IFS"
1686         IFS=$'[:]'
1687         fid=($($LFS path2fid $1))
1688         IFS="$old_ifs"
1689
1690         log "FID seq ${fid[1]}, oid ${fid[2]} ver ${fid[3]}"
1691         log "LOV seq $lmm_seq, oid $lmm_oid, count: $lmm_count"
1692
1693         # compare lmm_seq and lu_fid->f_seq
1694         [ $lmm_seq = ${fid[1]} ] || { error "SEQ mismatch"; return 1; }
1695         # compare lmm_object_id and lu_fid->oid
1696         [ $lmm_oid = ${fid[2]} ] || { error "OID mismatch"; return 2; }
1697
1698         # check the trusted.fid attribute of the OST objects of the file
1699         local have_obdidx=false
1700         local stripe_nr=0
1701         $GETSTRIPE $1 | while read obdidx oid hex seq; do
1702                 # skip lines up to and including "obdidx"
1703                 [ -z "$obdidx" ] && break
1704                 [ "$obdidx" = "obdidx" ] && have_obdidx=true && continue
1705                 $have_obdidx || continue
1706
1707                 local ost=$((obdidx + 1))
1708                 local dev=$(ostdevname $ost)
1709                 local oid_hex
1710
1711                 if [ $(facet_fstype ost$ost) != ldiskfs ]; then
1712                         echo "Currently only works with ldiskfs-based OSTs"
1713                         continue
1714                 fi
1715
1716                 log "want: stripe:$stripe_nr ost:$obdidx oid:$oid/$hex seq:$seq"
1717
1718                 #don't unmount/remount the OSTs if we don't need to do that
1719                 # LU-2577 changes filter_fid to be smaller, so debugfs needs
1720                 # update too, until that use mount/ll_decode_filter_fid/mount
1721                 local dir=$(facet_mntpt ost$ost)
1722                 local opts=${OST_MOUNT_OPTS}
1723
1724                 if !  do_facet ost$ost test -b ${dev}; then
1725                         opts=$(csa_add "$opts" -o loop)
1726                 fi
1727
1728                 stop ost$ost
1729                 do_facet ost$ost mount -t $(facet_fstype ost$ost) $opts $dev $dir ||
1730                         { error "mounting $dev as $FSTYPE failed"; return 3; }
1731
1732                 seq=$(echo $seq | sed -e "s/^0x//g")
1733                 if [ $seq == 0 ]; then
1734                         oid_hex=$(echo $oid)
1735                 else
1736                         oid_hex=$(echo $hex | sed -e "s/^0x//g")
1737                 fi
1738                 local obj_file=$(do_facet ost$ost find $dir/O/$seq -name $oid_hex)
1739                 local ff=$(do_facet ost$ost $LL_DECODE_FILTER_FID $obj_file)
1740                 do_facet ost$ost umount -d $dir
1741                 start ost$ost $dev $OST_MOUNT_OPTS
1742
1743                 # re-enable when debugfs will understand new filter_fid
1744                 #local ff=$(do_facet ost$ost "$DEBUGFS -c -R 'stat $obj_file' \
1745                 #           $dev 2>/dev/null" | grep "parent=")
1746
1747                 [ -z "$ff" ] && error "$obj_file: no filter_fid info"
1748
1749                 echo "$ff" | sed -e 's#.*objid=#got: objid=#'
1750
1751                 # /mnt/O/0/d23/23: objid=23 seq=0 parent=[0x200000400:0x1e:0x1]
1752                 # fid: objid=23 seq=0 parent=[0x200000400:0x1e:0x0] stripe=1
1753                 local ff_parent=$(echo $ff|sed -e 's/.*parent=.//')
1754                 local ff_pseq=$(echo $ff_parent | cut -d: -f1)
1755                 local ff_poid=$(echo $ff_parent | cut -d: -f2)
1756                 local ff_pstripe=$(echo $ff_parent | sed -e 's/.*stripe=//')
1757
1758                 # compare lmm_seq and filter_fid->ff_parent.f_seq
1759                 [ $ff_pseq = $lmm_seq ] ||
1760                         error "FF parent SEQ $ff_pseq != $lmm_seq"
1761                 # compare lmm_object_id and filter_fid->ff_parent.f_oid
1762                 [ $ff_poid = $lmm_oid ] ||
1763                         error "FF parent OID $ff_poid != $lmm_oid"
1764                 [ $ff_pstripe = $stripe_nr ] ||
1765                         error "FF stripe $ff_pstripe != $stripe_nr"
1766
1767                 stripe_nr=$((stripe_nr + 1))
1768         done
1769 }
1770
1771 test_27z() {
1772         remote_ost_nodsh && skip "remote OST with nodsh" && return
1773         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1774         test_mkdir -p $DIR/$tdir
1775
1776         $SETSTRIPE -c 1 -i 0 -S 64k $DIR/$tdir/$tfile-1 ||
1777                 { error "setstripe -c -1 failed"; return 1; }
1778         # We need to send a write to every object to get parent FID info set.
1779         # This _should_ also work for setattr, but does not currently.
1780         # touch $DIR/$tdir/$tfile-1 ||
1781         dd if=/dev/zero of=$DIR/$tdir/$tfile-1 bs=1M count=1 ||
1782                 { error "dd $tfile-1 failed"; return 2; }
1783         $SETSTRIPE -c -1 -i $((OSTCOUNT - 1)) -S 1M $DIR/$tdir/$tfile-2 ||
1784                 { error "setstripe -c -1 failed"; return 3; }
1785         dd if=/dev/zero of=$DIR/$tdir/$tfile-2 bs=1M count=$OSTCOUNT ||
1786                 { error "dd $tfile-2 failed"; return 4; }
1787
1788         # make sure write RPCs have been sent to OSTs
1789         sync; sleep 5; sync
1790
1791         check_seq_oid $DIR/$tdir/$tfile-1 || return 5
1792         check_seq_oid $DIR/$tdir/$tfile-2 || return 6
1793 }
1794 run_test 27z "check SEQ/OID on the MDT and OST filesystems"
1795
1796 test_27A() { # b=19102
1797         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1798         local restore_size=$($GETSTRIPE -S $MOUNT)
1799         local restore_count=$($GETSTRIPE -c $MOUNT)
1800         local restore_offset=$($GETSTRIPE -i $MOUNT)
1801         $SETSTRIPE -c 0 -i -1 -S 0 $MOUNT
1802         local default_size=$($GETSTRIPE -S $MOUNT)
1803         local default_count=$($GETSTRIPE -c $MOUNT)
1804         local default_offset=$($GETSTRIPE -i $MOUNT)
1805         local dsize=$((1024 * 1024))
1806         [ $default_size -eq $dsize ] ||
1807                 error "stripe size $default_size != $dsize"
1808         [ $default_count -eq 1 ] || error "stripe count $default_count != 1"
1809         [ $default_offset -eq -1 ] ||error "stripe offset $default_offset != -1"
1810         $SETSTRIPE -c $restore_count -i $restore_offset -S $restore_size $MOUNT
1811 }
1812 run_test 27A "check filesystem-wide default LOV EA values"
1813
1814 test_27B() { # LU-2523
1815         test_mkdir -p $DIR/$tdir
1816         rm -f $DIR/$tdir/f0 $DIR/$tdir/f1
1817         touch $DIR/$tdir/f0
1818         # open f1 with O_LOV_DELAY_CREATE
1819         # rename f0 onto f1
1820         # call setstripe ioctl on open file descriptor for f1
1821         # close
1822         multiop $DIR/$tdir/f1 oO_RDWR:O_CREAT:O_LOV_DELAY_CREATE:nB1c \
1823                 $DIR/$tdir/f0
1824
1825         rm -f $DIR/$tdir/f1
1826         # open f1 with O_LOV_DELAY_CREATE
1827         # unlink f1
1828         # call setstripe ioctl on open file descriptor for f1
1829         # close
1830         multiop $DIR/$tdir/f1 oO_RDWR:O_CREAT:O_LOV_DELAY_CREATE:uB1c
1831
1832         # Allow multiop to fail in imitation of NFS's busted semantics.
1833         true
1834 }
1835 run_test 27B "call setstripe on open unlinked file/rename victim"
1836
1837 test_27C() { #LU-2871
1838         [ $OSTCOUNT -lt 2 ] && skip "needs >= 2 OSTs" && return
1839
1840         declare -a ost_idx
1841         local index
1842         local found
1843         local i
1844         local j
1845
1846         test_mkdir -p $DIR/$tdir
1847         cd $DIR/$tdir
1848         for i in $(seq 0 $((OSTCOUNT - 1))); do
1849                 # set stripe across all OSTs starting from OST$i
1850                 $SETSTRIPE -i $i -c -1 $tfile$i
1851                 # get striping information
1852                 ost_idx=($($GETSTRIPE $tfile$i |
1853                          tail -n $((OSTCOUNT + 1)) | awk '{print $1}'))
1854                 echo ${ost_idx[@]}
1855
1856                 # check the layout
1857                 [ ${#ost_idx[@]} -eq $OSTCOUNT ] ||
1858                         error "${#ost_idx[@]} != $OSTCOUNT"
1859
1860                 for index in $(seq 0 $((OSTCOUNT - 1))); do
1861                         found=0
1862                         for j in $(echo ${ost_idx[@]}); do
1863                                 if [ $index -eq $j ]; then
1864                                         found=1
1865                                         break
1866                                 fi
1867                         done
1868                         [ $found = 1 ] ||
1869                                 error "Can not find $index in ${ost_idx[@]}"
1870                 done
1871         done
1872 }
1873 run_test 27C "check full striping across all OSTs"
1874
1875 # createtest also checks that device nodes are created and
1876 # then visible correctly (#2091)
1877 test_28() { # bug 2091
1878         test_mkdir $DIR/d28
1879         $CREATETEST $DIR/d28/ct || error
1880 }
1881 run_test 28 "create/mknod/mkdir with bad file types ============"
1882
1883 test_29() {
1884         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1885         cancel_lru_locks mdc
1886         test_mkdir $DIR/d29
1887         touch $DIR/d29/foo
1888         log 'first d29'
1889         ls -l $DIR/d29
1890
1891         declare -i LOCKCOUNTORIG=0
1892         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1893                 let LOCKCOUNTORIG=$LOCKCOUNTORIG+$lock_count
1894         done
1895         [ $LOCKCOUNTORIG -eq 0 ] && echo "No mdc lock count" && return 1
1896
1897         declare -i LOCKUNUSEDCOUNTORIG=0
1898         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1899                 let LOCKUNUSEDCOUNTORIG=$LOCKUNUSEDCOUNTORIG+$unused_count
1900         done
1901
1902         log 'second d29'
1903         ls -l $DIR/d29
1904         log 'done'
1905
1906         declare -i LOCKCOUNTCURRENT=0
1907         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1908                 let LOCKCOUNTCURRENT=$LOCKCOUNTCURRENT+$lock_count
1909         done
1910
1911         declare -i LOCKUNUSEDCOUNTCURRENT=0
1912         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1913                 let LOCKUNUSEDCOUNTCURRENT=$LOCKUNUSEDCOUNTCURRENT+$unused_count
1914         done
1915
1916         if [ "$LOCKCOUNTCURRENT" -gt "$LOCKCOUNTORIG" ]; then
1917                 lctl set_param -n ldlm.dump_namespaces ""
1918                 error "CURRENT: $LOCKCOUNTCURRENT > $LOCKCOUNTORIG"
1919                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1920                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1921                 return 2
1922         fi
1923         if [ "$LOCKUNUSEDCOUNTCURRENT" -gt "$LOCKUNUSEDCOUNTORIG" ]; then
1924                 error "UNUSED: $LOCKUNUSEDCOUNTCURRENT > $LOCKUNUSEDCOUNTORIG"
1925                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1926                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1927                 return 3
1928         fi
1929 }
1930 run_test 29 "IT_GETATTR regression  ============================"
1931
1932 test_30a() { # was test_30
1933         cp `which ls` $DIR || cp /bin/ls $DIR
1934         $DIR/ls / || error
1935         rm $DIR/ls
1936 }
1937 run_test 30a "execute binary from Lustre (execve) =============="
1938
1939 test_30b() {
1940         cp `which ls` $DIR || cp /bin/ls $DIR
1941         chmod go+rx $DIR/ls
1942         $RUNAS $DIR/ls / || error
1943         rm $DIR/ls
1944 }
1945 run_test 30b "execute binary from Lustre as non-root ==========="
1946
1947 test_30c() { # b=22376
1948         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1949         cp `which ls` $DIR || cp /bin/ls $DIR
1950         chmod a-rw $DIR/ls
1951         cancel_lru_locks mdc
1952         cancel_lru_locks osc
1953         $RUNAS $DIR/ls / || error
1954         rm -f $DIR/ls
1955 }
1956 run_test 30c "execute binary from Lustre without read perms ===="
1957
1958 test_31a() {
1959         $OPENUNLINK $DIR/f31 $DIR/f31 || error
1960         $CHECKSTAT -a $DIR/f31 || error
1961 }
1962 run_test 31a "open-unlink file =================================="
1963
1964 test_31b() {
1965         touch $DIR/f31 || error
1966         ln $DIR/f31 $DIR/f31b || error
1967         $MULTIOP $DIR/f31b Ouc || error
1968         $CHECKSTAT -t file $DIR/f31 || error
1969 }
1970 run_test 31b "unlink file with multiple links while open ======="
1971
1972 test_31c() {
1973         touch $DIR/f31 || error
1974         ln $DIR/f31 $DIR/f31c || error
1975         multiop_bg_pause $DIR/f31 O_uc || return 1
1976         MULTIPID=$!
1977         $MULTIOP $DIR/f31c Ouc
1978         kill -USR1 $MULTIPID
1979         wait $MULTIPID
1980 }
1981 run_test 31c "open-unlink file with multiple links ============="
1982
1983 test_31d() {
1984         opendirunlink $DIR/d31d $DIR/d31d || error
1985         $CHECKSTAT -a $DIR/d31d || error
1986 }
1987 run_test 31d "remove of open directory ========================="
1988
1989 test_31e() { # bug 2904
1990         check_kernel_version 34 || return 0
1991         openfilleddirunlink $DIR/d31e || error
1992 }
1993 run_test 31e "remove of open non-empty directory ==============="
1994
1995 test_31f() { # bug 4554
1996         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1997         set -vx
1998         test_mkdir $DIR/d31f
1999         $SETSTRIPE -S 1048576 -c 1 $DIR/d31f
2000         cp /etc/hosts $DIR/d31f
2001         ls -l $DIR/d31f
2002         $GETSTRIPE $DIR/d31f/hosts
2003         multiop_bg_pause $DIR/d31f D_c || return 1
2004         MULTIPID=$!
2005
2006         rm -rv $DIR/d31f || error "first of $DIR/d31f"
2007         test_mkdir $DIR/d31f
2008         $SETSTRIPE -S 1048576 -c 1 $DIR/d31f
2009         cp /etc/hosts $DIR/d31f
2010         ls -l $DIR/d31f
2011         $GETSTRIPE $DIR/d31f/hosts
2012         multiop_bg_pause $DIR/d31f D_c || return 1
2013         MULTIPID2=$!
2014
2015         kill -USR1 $MULTIPID || error "first opendir $MULTIPID not running"
2016         wait $MULTIPID || error "first opendir $MULTIPID failed"
2017
2018         sleep 6
2019
2020         kill -USR1 $MULTIPID2 || error "second opendir $MULTIPID not running"
2021         wait $MULTIPID2 || error "second opendir $MULTIPID2 failed"
2022         set +vx
2023 }
2024 run_test 31f "remove of open directory with open-unlink file ==="
2025
2026 test_31g() {
2027         echo "-- cross directory link --"
2028         test_mkdir $DIR/d31ga
2029         test_mkdir $DIR/d31gb
2030         touch $DIR/d31ga/f
2031         ln $DIR/d31ga/f $DIR/d31gb/g
2032         $CHECKSTAT -t file $DIR/d31ga/f || error "source"
2033         [ `stat -c%h $DIR/d31ga/f` == '2' ] || error "source nlink"
2034         $CHECKSTAT -t file $DIR/d31gb/g || error "target"
2035         [ `stat -c%h $DIR/d31gb/g` == '2' ] || error "target nlink"
2036 }
2037 run_test 31g "cross directory link==============="
2038
2039 test_31h() {
2040         echo "-- cross directory link --"
2041         test_mkdir $DIR/d31h
2042         test_mkdir $DIR/d31h/dir
2043         touch $DIR/d31h/f
2044         ln $DIR/d31h/f $DIR/d31h/dir/g
2045         $CHECKSTAT -t file $DIR/d31h/f || error "source"
2046         [ `stat -c%h $DIR/d31h/f` == '2' ] || error "source nlink"
2047         $CHECKSTAT -t file $DIR/d31h/dir/g || error "target"
2048         [ `stat -c%h $DIR/d31h/dir/g` == '2' ] || error "target nlink"
2049 }
2050 run_test 31h "cross directory link under child==============="
2051
2052 test_31i() {
2053         echo "-- cross directory link --"
2054         test_mkdir $DIR/d31i
2055         test_mkdir $DIR/d31i/dir
2056         touch $DIR/d31i/dir/f
2057         ln $DIR/d31i/dir/f $DIR/d31i/g
2058         $CHECKSTAT -t file $DIR/d31i/dir/f || error "source"
2059         [ `stat -c%h $DIR/d31i/dir/f` == '2' ] || error "source nlink"
2060         $CHECKSTAT -t file $DIR/d31i/g || error "target"
2061         [ `stat -c%h $DIR/d31i/g` == '2' ] || error "target nlink"
2062 }
2063 run_test 31i "cross directory link under parent==============="
2064
2065
2066 test_31j() {
2067         test_mkdir $DIR/d31j
2068         test_mkdir $DIR/d31j/dir1
2069         ln $DIR/d31j/dir1 $DIR/d31j/dir2 && error "ln for dir"
2070         link $DIR/d31j/dir1 $DIR/d31j/dir3 && error "link for dir"
2071         mlink $DIR/d31j/dir1 $DIR/d31j/dir4 && error "mlink for dir"
2072         mlink $DIR/d31j/dir1 $DIR/d31j/dir1 && error "mlink to the same dir"
2073         return 0
2074 }
2075 run_test 31j "link for directory==============="
2076
2077
2078 test_31k() {
2079         test_mkdir $DIR/d31k
2080         touch $DIR/d31k/s
2081         touch $DIR/d31k/exist
2082         mlink $DIR/d31k/s $DIR/d31k/t || error "mlink"
2083         mlink $DIR/d31k/s $DIR/d31k/exist && error "mlink to exist file"
2084         mlink $DIR/d31k/s $DIR/d31k/s && error "mlink to the same file"
2085         mlink $DIR/d31k/s $DIR/d31k && error "mlink to parent dir"
2086         mlink $DIR/d31k $DIR/d31k/s && error "mlink parent dir to target"
2087         mlink $DIR/d31k/not-exist $DIR/d31k/foo && error "mlink non-existing to new"
2088         mlink $DIR/d31k/not-exist $DIR/d31k/s && error "mlink non-existing to exist"
2089         return 0
2090 }
2091 run_test 31k "link to file: the same, non-existing, dir==============="
2092
2093 test_31m() {
2094         test_mkdir $DIR/d31m
2095         touch $DIR/d31m/s
2096         test_mkdir $DIR/d31m2
2097         touch $DIR/d31m2/exist
2098         mlink $DIR/d31m/s $DIR/d31m2/t || error "mlink"
2099         mlink $DIR/d31m/s $DIR/d31m2/exist && error "mlink to exist file"
2100         mlink $DIR/d31m/s $DIR/d31m2 && error "mlink to parent dir"
2101         mlink $DIR/d31m2 $DIR/d31m/s && error "mlink parent dir to target"
2102         mlink $DIR/d31m/not-exist $DIR/d31m2/foo && error "mlink non-existing to new"
2103         mlink $DIR/d31m/not-exist $DIR/d31m2/s && error "mlink non-existing to exist"
2104         return 0
2105 }
2106 run_test 31m "link to file: the same, non-existing, dir==============="
2107
2108 test_31n() {
2109         [ -e /proc/self/fd/173 ] && echo "skipping, fd 173 is in use" && return
2110         touch $DIR/$tfile || error "cannot create '$DIR/$tfile'"
2111         nlink=$(stat --format=%h $DIR/$tfile)
2112         [ ${nlink:--1} -eq 1 ] || error "nlink is $nlink, expected 1"
2113         exec 173<$DIR/$tfile
2114         trap "exec 173<&-" EXIT
2115         nlink=$(stat --dereference --format=%h /proc/self/fd/173)
2116         [ ${nlink:--1} -eq 1 ] || error "nlink is $nlink, expected 1"
2117         rm $DIR/$tfile || error "cannot remove '$DIR/$tfile'"
2118         nlink=$(stat --dereference --format=%h /proc/self/fd/173)
2119         [ ${nlink:--1} -eq 0 ] || error "nlink is $nlink, expected 0"
2120         exec 173<&-
2121 }
2122 run_test 31n "check link count of unlinked file"
2123
2124 link_one() {
2125         local TEMPNAME=$(mktemp $1_XXXXXX)
2126         mlink $TEMPNAME $1 2> /dev/null &&
2127                 echo "$BASHPID: link $TEMPNAME to $1 succeeded"
2128         munlink $TEMPNAME
2129 }
2130
2131 test_31o() { # LU-2901
2132         mkdir -p $DIR/$tdir
2133         for LOOP in $(seq 100); do
2134                 rm -f $DIR/$tdir/$tfile*
2135                 for THREAD in $(seq 8); do
2136                         link_one $DIR/$tdir/$tfile.$LOOP &
2137                 done
2138                 wait
2139                 local LINKS=$(ls -1 $DIR/$tdir | grep -c $tfile.$LOOP)
2140                 [ $LINKS -gt 1 ] && ls $DIR/$tdir &&
2141                         error "$LINKS duplicate links to $tfile.$LOOP" &&
2142                         break || true
2143         done
2144 }
2145 run_test 31o "duplicate hard links with same filename"
2146
2147 cleanup_test32_mount() {
2148         trap 0
2149         $UMOUNT $DIR/$tdir/ext2-mountpoint
2150 }
2151
2152 test_32a() {
2153         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2154         echo "== more mountpoints and symlinks ================="
2155         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2156         trap cleanup_test32_mount EXIT
2157         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2158         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2159         $CHECKSTAT -t dir $DIR/$tdir/ext2-mountpoint/.. || error
2160         cleanup_test32_mount
2161 }
2162 run_test 32a "stat d32a/ext2-mountpoint/.. ====================="
2163
2164 test_32b() {
2165         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2166         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2167         trap cleanup_test32_mount EXIT
2168         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2169         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2170         ls -al $DIR/$tdir/ext2-mountpoint/.. || error
2171         cleanup_test32_mount
2172 }
2173 run_test 32b "open d32b/ext2-mountpoint/.. ====================="
2174
2175 test_32c() {
2176         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2177         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2178         trap cleanup_test32_mount EXIT
2179         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2180         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2181         test_mkdir -p $DIR/$tdir/d2/test_dir
2182         $CHECKSTAT -t dir $DIR/$tdir/ext2-mountpoint/../d2/test_dir || error
2183         cleanup_test32_mount
2184 }
2185 run_test 32c "stat d32c/ext2-mountpoint/../d2/test_dir ========="
2186
2187 test_32d() {
2188         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2189         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2190         trap cleanup_test32_mount EXIT
2191         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2192         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2193         test_mkdir -p $DIR/$tdir/d2/test_dir
2194         ls -al $DIR/$tdir/ext2-mountpoint/../d2/test_dir || error
2195         cleanup_test32_mount
2196 }
2197 run_test 32d "open d32d/ext2-mountpoint/../d2/test_dir ========="
2198
2199 test_32e() {
2200         [ -e $DIR/d32e ] && rm -fr $DIR/d32e
2201         test_mkdir -p $DIR/d32e/tmp
2202         TMP_DIR=$DIR/d32e/tmp
2203         ln -s $DIR/d32e $TMP_DIR/symlink11
2204         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2205         $CHECKSTAT -t link $DIR/d32e/tmp/symlink11 || error
2206         $CHECKSTAT -t link $DIR/d32e/symlink01 || error
2207 }
2208 run_test 32e "stat d32e/symlink->tmp/symlink->lustre-subdir ===="
2209
2210 test_32f() {
2211         [ -e $DIR/d32f ] && rm -fr $DIR/d32f
2212         test_mkdir -p $DIR/d32f/tmp
2213         TMP_DIR=$DIR/d32f/tmp
2214         ln -s $DIR/d32f $TMP_DIR/symlink11
2215         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2216         ls $DIR/d32f/tmp/symlink11  || error
2217         ls $DIR/d32f/symlink01 || error
2218 }
2219 run_test 32f "open d32f/symlink->tmp/symlink->lustre-subdir ===="
2220
2221 test_32g() {
2222         TMP_DIR=$DIR/$tdir/tmp
2223         test_mkdir -p $DIR/$tdir/tmp
2224         test_mkdir $DIR/${tdir}2
2225         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
2226         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2227         $CHECKSTAT -t link $TMP_DIR/symlink12 || error
2228         $CHECKSTAT -t link $DIR/$tdir/symlink02 || error
2229         $CHECKSTAT -t dir -f $TMP_DIR/symlink12 || error
2230         $CHECKSTAT -t dir -f $DIR/$tdir/symlink02 || error
2231 }
2232 run_test 32g "stat d32g/symlink->tmp/symlink->lustre-subdir/${tdir}2"
2233
2234 test_32h() {
2235         rm -fr $DIR/$tdir $DIR/${tdir}2
2236         TMP_DIR=$DIR/$tdir/tmp
2237         test_mkdir -p $DIR/$tdir/tmp
2238         test_mkdir $DIR/${tdir}2
2239         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
2240         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2241         ls $TMP_DIR/symlink12 || error
2242         ls $DIR/$tdir/symlink02  || error
2243 }
2244 run_test 32h "open d32h/symlink->tmp/symlink->lustre-subdir/${tdir}2"
2245
2246 test_32i() {
2247         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2248         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2249         trap cleanup_test32_mount EXIT
2250         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2251         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2252         touch $DIR/$tdir/test_file
2253         $CHECKSTAT -t file $DIR/$tdir/ext2-mountpoint/../test_file || error
2254         cleanup_test32_mount
2255 }
2256 run_test 32i "stat d32i/ext2-mountpoint/../test_file ==========="
2257
2258 test_32j() {
2259         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2260         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2261         trap cleanup_test32_mount EXIT
2262         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2263         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2264         touch $DIR/$tdir/test_file
2265         cat $DIR/$tdir/ext2-mountpoint/../test_file || error
2266         cleanup_test32_mount
2267 }
2268 run_test 32j "open d32j/ext2-mountpoint/../test_file ==========="
2269
2270 test_32k() {
2271         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2272         rm -fr $DIR/$tdir
2273         trap cleanup_test32_mount EXIT
2274         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2275         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint
2276         test_mkdir -p $DIR/$tdir/d2
2277         touch $DIR/$tdir/d2/test_file || error
2278         $CHECKSTAT -t file $DIR/$tdir/ext2-mountpoint/../d2/test_file || error
2279         cleanup_test32_mount
2280 }
2281 run_test 32k "stat d32k/ext2-mountpoint/../d2/test_file ========"
2282
2283 test_32l() {
2284         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2285         rm -fr $DIR/$tdir
2286         trap cleanup_test32_mount EXIT
2287         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2288         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2289         test_mkdir -p $DIR/$tdir/d2
2290         touch $DIR/$tdir/d2/test_file
2291         cat  $DIR/$tdir/ext2-mountpoint/../d2/test_file || error
2292         cleanup_test32_mount
2293 }
2294 run_test 32l "open d32l/ext2-mountpoint/../d2/test_file ========"
2295
2296 test_32m() {
2297         rm -fr $DIR/d32m
2298         test_mkdir -p $DIR/d32m/tmp
2299         TMP_DIR=$DIR/d32m/tmp
2300         ln -s $DIR $TMP_DIR/symlink11
2301         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2302         $CHECKSTAT -t link $DIR/d32m/tmp/symlink11 || error
2303         $CHECKSTAT -t link $DIR/d32m/symlink01 || error
2304 }
2305 run_test 32m "stat d32m/symlink->tmp/symlink->lustre-root ======"
2306
2307 test_32n() {
2308         rm -fr $DIR/d32n
2309         test_mkdir -p $DIR/d32n/tmp
2310         TMP_DIR=$DIR/d32n/tmp
2311         ln -s $DIR $TMP_DIR/symlink11
2312         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2313         ls -l $DIR/d32n/tmp/symlink11  || error
2314         ls -l $DIR/d32n/symlink01 || error
2315 }
2316 run_test 32n "open d32n/symlink->tmp/symlink->lustre-root ======"
2317
2318 test_32o() {
2319         rm -fr $DIR/d32o $DIR/$tfile
2320         touch $DIR/$tfile
2321         test_mkdir -p $DIR/d32o/tmp
2322         TMP_DIR=$DIR/d32o/tmp
2323         ln -s $DIR/$tfile $TMP_DIR/symlink12
2324         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2325         $CHECKSTAT -t link $DIR/d32o/tmp/symlink12 || error
2326         $CHECKSTAT -t link $DIR/d32o/symlink02 || error
2327         $CHECKSTAT -t file -f $DIR/d32o/tmp/symlink12 || error
2328         $CHECKSTAT -t file -f $DIR/d32o/symlink02 || error
2329 }
2330 run_test 32o "stat d32o/symlink->tmp/symlink->lustre-root/$tfile"
2331
2332 test_32p() {
2333     log 32p_1
2334         rm -fr $DIR/d32p
2335     log 32p_2
2336         rm -f $DIR/$tfile
2337     log 32p_3
2338         touch $DIR/$tfile
2339     log 32p_4
2340         test_mkdir -p $DIR/d32p/tmp
2341     log 32p_5
2342         TMP_DIR=$DIR/d32p/tmp
2343     log 32p_6
2344         ln -s $DIR/$tfile $TMP_DIR/symlink12
2345     log 32p_7
2346         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2347     log 32p_8
2348         cat $DIR/d32p/tmp/symlink12 || error
2349     log 32p_9
2350         cat $DIR/d32p/symlink02 || error
2351     log 32p_10
2352 }
2353 run_test 32p "open d32p/symlink->tmp/symlink->lustre-root/$tfile"
2354
2355 cleanup_testdir_mount() {
2356         trap 0
2357         $UMOUNT $DIR/$tdir
2358 }
2359
2360 test_32q() {
2361         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2362         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2363         trap cleanup_testdir_mount EXIT
2364         test_mkdir -p $DIR/$tdir
2365         touch $DIR/$tdir/under_the_mount
2366         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir
2367         ls $DIR/$tdir | grep "\<under_the_mount\>" && error
2368         cleanup_testdir_mount
2369 }
2370 run_test 32q "stat follows mountpoints in Lustre (should return error)"
2371
2372 test_32r() {
2373         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2374         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2375         trap cleanup_testdir_mount EXIT
2376         test_mkdir -p $DIR/$tdir
2377         touch $DIR/$tdir/under_the_mount
2378         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir
2379         ls $DIR/$tdir | grep -q under_the_mount && error || true
2380         cleanup_testdir_mount
2381 }
2382 run_test 32r "opendir follows mountpoints in Lustre (should return error)"
2383
2384 test_33aa() {
2385         rm -f $DIR/$tfile
2386         touch $DIR/$tfile
2387         chmod 444 $DIR/$tfile
2388         chown $RUNAS_ID $DIR/$tfile
2389         log 33_1
2390         $RUNAS $OPENFILE -f O_RDWR $DIR/$tfile && error || true
2391         log 33_2
2392 }
2393 run_test 33aa "write file with mode 444 (should return error) ===="
2394
2395 test_33a() {
2396         rm -fr $DIR/d33
2397         test_mkdir -p $DIR/d33
2398         chown $RUNAS_ID $DIR/d33
2399         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33|| error "create"
2400         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33 && \
2401                 error "open RDWR" || true
2402 }
2403 run_test 33a "test open file(mode=0444) with O_RDWR (should return error)"
2404
2405 test_33b() {
2406         rm -fr $DIR/d33
2407         test_mkdir -p $DIR/d33
2408         chown $RUNAS_ID $DIR/d33
2409         $RUNAS $OPENFILE -f 1286739555 $DIR/d33/f33 && error "create" || true
2410 }
2411 run_test 33b "test open file with malformed flags (No panic and return error)"
2412
2413 test_33c() {
2414         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2415         local ostnum
2416         local ostname
2417         local write_bytes
2418         local all_zeros
2419
2420         remote_ost_nodsh && skip "remote OST with nodsh" && return
2421         all_zeros=:
2422         rm -fr $DIR/d33
2423         test_mkdir -p $DIR/d33
2424         # Read: 0, Write: 4, create/destroy: 2/0, stat: 1, punch: 0
2425
2426         sync
2427         for ostnum in $(seq $OSTCOUNT); do
2428                 # test-framework's OST numbering is one-based, while Lustre's
2429                 # is zero-based
2430                 ostname=$(printf "$FSNAME-OST%.4x" $((ostnum - 1)))
2431                 # Parsing llobdstat's output sucks; we could grep the /proc
2432                 # path, but that's likely to not be as portable as using the
2433                 # llobdstat utility.  So we parse lctl output instead.
2434                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
2435                         obdfilter/$ostname/stats |
2436                         awk '/^write_bytes/ {print $7}' )
2437                 echo "baseline_write_bytes@$OSTnum/$ostname=$write_bytes"
2438                 if (( ${write_bytes:-0} > 0 ))
2439                 then
2440                         all_zeros=false
2441                         break;
2442                 fi
2443         done
2444
2445         $all_zeros || return 0
2446
2447         # Write four bytes
2448         echo foo > $DIR/d33/bar
2449         # Really write them
2450         sync
2451
2452         # Total up write_bytes after writing.  We'd better find non-zeros.
2453         for ostnum in $(seq $OSTCOUNT); do
2454                 ostname=$(printf "$FSNAME-OST%.4x" $((ostnum - 1)))
2455                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
2456                         obdfilter/$ostname/stats |
2457                         awk '/^write_bytes/ {print $7}' )
2458                 echo "write_bytes@$OSTnum/$ostname=$write_bytes"
2459                 if (( ${write_bytes:-0} > 0 ))
2460                 then
2461                         all_zeros=false
2462                         break;
2463                 fi
2464         done
2465
2466         if $all_zeros
2467         then
2468                 for ostnum in $(seq $OSTCOUNT); do
2469                         ostname=$(printf "$FSNAME-OST%.4x" $((ostnum - 1)))
2470                         echo "Check that write_bytes is present in obdfilter/*/stats:"
2471                         do_facet ost$ostnum lctl get_param -n \
2472                                 obdfilter/$ostname/stats
2473                 done
2474                 error "OST not keeping write_bytes stats (b22312)"
2475         fi
2476 }
2477 run_test 33c "test llobdstat and write_bytes"
2478
2479 test_33d() {
2480         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2481         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2482         local MDTIDX=1
2483         local remote_dir=$DIR/$tdir/remote_dir
2484
2485         mkdir -p $DIR/$tdir
2486         $LFS mkdir -i $MDTIDX $remote_dir ||
2487                 error "create remote directory failed"
2488
2489         touch $remote_dir/$tfile
2490         chmod 444 $remote_dir/$tfile
2491         chown $RUNAS_ID $remote_dir/$tfile
2492
2493         $RUNAS $OPENFILE -f O_RDWR $DIR/$tfile && error || true
2494
2495         chown $RUNAS_ID $remote_dir
2496         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $remote_dir/f33 ||
2497                                         error "create" || true
2498         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $remote_dir/f33 &&
2499                                     error "open RDWR" || true
2500         $RUNAS $OPENFILE -f 1286739555 $remote_dir/f33 &&
2501                                     error "create" || true
2502 }
2503 run_test 33d "openfile with 444 modes and malformed flags under remote dir"
2504
2505 TEST_34_SIZE=${TEST_34_SIZE:-2000000000000}
2506 test_34a() {
2507         rm -f $DIR/f34
2508         $MCREATE $DIR/f34 || error
2509         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2510         $TRUNCATE $DIR/f34 $TEST_34_SIZE || error
2511         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2512         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2513 }
2514 run_test 34a "truncate file that has not been opened ==========="
2515
2516 test_34b() {
2517         [ ! -f $DIR/f34 ] && test_34a
2518         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2519         $OPENFILE -f O_RDONLY $DIR/f34
2520         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2521         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2522 }
2523 run_test 34b "O_RDONLY opening file doesn't create objects ====="
2524
2525 test_34c() {
2526         [ ! -f $DIR/f34 ] && test_34a
2527         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2528         $OPENFILE -f O_RDWR $DIR/f34
2529         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" && error
2530         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2531 }
2532 run_test 34c "O_RDWR opening file-with-size works =============="
2533
2534 test_34d() {
2535         [ ! -f $DIR/f34 ] && test_34a
2536         dd if=/dev/zero of=$DIR/f34 conv=notrunc bs=4k count=1 || error
2537         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2538         rm $DIR/f34
2539 }
2540 run_test 34d "write to sparse file ============================="
2541
2542 test_34e() {
2543         rm -f $DIR/f34e
2544         $MCREATE $DIR/f34e || error
2545         $TRUNCATE $DIR/f34e 1000 || error
2546         $CHECKSTAT -s 1000 $DIR/f34e || error
2547         $OPENFILE -f O_RDWR $DIR/f34e
2548         $CHECKSTAT -s 1000 $DIR/f34e || error
2549 }
2550 run_test 34e "create objects, some with size and some without =="
2551
2552 test_34f() { # bug 6242, 6243
2553         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2554         SIZE34F=48000
2555         rm -f $DIR/f34f
2556         $MCREATE $DIR/f34f || error
2557         $TRUNCATE $DIR/f34f $SIZE34F || error "truncating $DIR/f3f to $SIZE34F"
2558         dd if=$DIR/f34f of=$TMP/f34f
2559         $CHECKSTAT -s $SIZE34F $TMP/f34f || error "$TMP/f34f not $SIZE34F bytes"
2560         dd if=/dev/zero of=$TMP/f34fzero bs=$SIZE34F count=1
2561         cmp $DIR/f34f $TMP/f34fzero || error "$DIR/f34f not all zero"
2562         cmp $TMP/f34f $TMP/f34fzero || error "$TMP/f34f not all zero"
2563         rm $TMP/f34f $TMP/f34fzero $DIR/f34f
2564 }
2565 run_test 34f "read from a file with no objects until EOF ======="
2566
2567 test_34g() {
2568         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2569         dd if=/dev/zero of=$DIR/$tfile bs=1 count=100 seek=$TEST_34_SIZE || error
2570         $TRUNCATE $DIR/$tfile $((TEST_34_SIZE / 2))|| error
2571         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || error "truncate failed"
2572         cancel_lru_locks osc
2573         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || \
2574                 error "wrong size after lock cancel"
2575
2576         $TRUNCATE $DIR/$tfile $TEST_34_SIZE || error
2577         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2578                 error "expanding truncate failed"
2579         cancel_lru_locks osc
2580         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2581                 error "wrong expanded size after lock cancel"
2582 }
2583 run_test 34g "truncate long file ==============================="
2584
2585 test_34h() {
2586         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2587         local gid=10
2588         local sz=1000
2589
2590         dd if=/dev/zero of=$DIR/$tfile bs=1M count=10 || error
2591         sync # Flush the cache so that multiop below does not block on cache
2592              # flush when getting the group lock
2593         $MULTIOP $DIR/$tfile OG${gid}T${sz}g${gid}c &
2594         MULTIPID=$!
2595
2596         # Since just timed wait is not good enough, let's do a sync write
2597         # that way we are sure enough time for a roundtrip + processing
2598         # passed + 2 seconds of extra margin.
2599         dd if=/dev/zero of=$DIR/${tfile}-1 bs=4096 oflag=direct count=1
2600         rm $DIR/${tfile}-1
2601         sleep 2
2602
2603         if [[ `ps h -o comm -p $MULTIPID` == "multiop" ]]; then
2604                 error "Multiop blocked on ftruncate, pid=$MULTIPID"
2605                 kill -9 $MULTIPID
2606         fi
2607         wait $MULTIPID
2608         local nsz=`stat -c %s $DIR/$tfile`
2609         [[ $nsz == $sz ]] || error "New size wrong $nsz != $sz"
2610 }
2611 run_test 34h "ftruncate file under grouplock should not block"
2612
2613 test_35a() {
2614         cp /bin/sh $DIR/f35a
2615         chmod 444 $DIR/f35a
2616         chown $RUNAS_ID $DIR/f35a
2617         $RUNAS $DIR/f35a && error || true
2618         rm $DIR/f35a
2619 }
2620 run_test 35a "exec file with mode 444 (should return and not leak) ====="
2621
2622 test_36a() {
2623         rm -f $DIR/f36
2624         utime $DIR/f36 || error
2625 }
2626 run_test 36a "MDS utime check (mknod, utime) ==================="
2627
2628 test_36b() {
2629         echo "" > $DIR/f36
2630         utime $DIR/f36 || error
2631 }
2632 run_test 36b "OST utime check (open, utime) ===================="
2633
2634 test_36c() {
2635         rm -f $DIR/d36/f36
2636         test_mkdir $DIR/d36
2637         chown $RUNAS_ID $DIR/d36
2638         $RUNAS utime $DIR/d36/f36 || error
2639 }
2640 run_test 36c "non-root MDS utime check (mknod, utime) =========="
2641
2642 test_36d() {
2643         [ ! -d $DIR/d36 ] && test_36c
2644         echo "" > $DIR/d36/f36
2645         $RUNAS utime $DIR/d36/f36 || error
2646 }
2647 run_test 36d "non-root OST utime check (open, utime) ==========="
2648
2649 test_36e() {
2650         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
2651         test_mkdir -p $DIR/$tdir
2652         touch $DIR/$tdir/$tfile
2653         $RUNAS utime $DIR/$tdir/$tfile && \
2654                 error "utime worked, expected failure" || true
2655 }
2656 run_test 36e "utime on non-owned file (should return error) ===="
2657
2658 subr_36fh() {
2659         local fl="$1"
2660         local LANG_SAVE=$LANG
2661         local LC_LANG_SAVE=$LC_LANG
2662         export LANG=C LC_LANG=C # for date language
2663
2664         DATESTR="Dec 20  2000"
2665         test_mkdir -p $DIR/$tdir
2666         lctl set_param fail_loc=$fl
2667         date; date +%s
2668         cp /etc/hosts $DIR/$tdir/$tfile
2669         sync & # write RPC generated with "current" inode timestamp, but delayed
2670         sleep 1
2671         touch --date="$DATESTR" $DIR/$tdir/$tfile # setattr timestamp in past
2672         LS_BEFORE="`ls -l $DIR/$tdir/$tfile`" # old timestamp from client cache
2673         cancel_lru_locks osc
2674         LS_AFTER="`ls -l $DIR/$tdir/$tfile`"  # timestamp from OST object
2675         date; date +%s
2676         [ "$LS_BEFORE" != "$LS_AFTER" ] && \
2677                 echo "BEFORE: $LS_BEFORE" && \
2678                 echo "AFTER : $LS_AFTER" && \
2679                 echo "WANT  : $DATESTR" && \
2680                 error "$DIR/$tdir/$tfile timestamps changed" || true
2681
2682         export LANG=$LANG_SAVE LC_LANG=$LC_LANG_SAVE
2683 }
2684
2685 test_36f() {
2686         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2687         #define OBD_FAIL_OST_BRW_PAUSE_BULK 0x214
2688         subr_36fh "0x80000214"
2689 }
2690 run_test 36f "utime on file racing with OST BRW write =========="
2691
2692 test_36g() {
2693         remote_ost_nodsh && skip "remote OST with nodsh" && return
2694         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2695         local fmd_max_age
2696         local fmd_before
2697         local fmd_after
2698
2699         test_mkdir -p $DIR/$tdir
2700         fmd_max_age=$(do_facet ost1 \
2701                 "lctl get_param -n obdfilter.*.client_cache_seconds 2> /dev/null | \
2702                 head -n 1")
2703
2704         fmd_before=$(do_facet ost1 \
2705                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2706         touch $DIR/$tdir/$tfile
2707         sleep $((fmd_max_age + 12))
2708         fmd_after=$(do_facet ost1 \
2709                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2710
2711         echo "fmd_before: $fmd_before"
2712         echo "fmd_after: $fmd_after"
2713         [ "$fmd_after" -gt "$fmd_before" ] && \
2714                 echo "AFTER: $fmd_after > BEFORE: $fmd_before" && \
2715                 error "fmd didn't expire after ping" || true
2716 }
2717 run_test 36g "filter mod data cache expiry ====================="
2718
2719 test_36h() {
2720         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2721         #define OBD_FAIL_OST_BRW_PAUSE_BULK2 0x227
2722         subr_36fh "0x80000227"
2723 }
2724 run_test 36h "utime on file racing with OST BRW write =========="
2725
2726 # test_37 - duplicate with tests 32q 32r
2727
2728 test_38() {
2729         local file=$DIR/$tfile
2730         touch $file
2731         openfile -f O_DIRECTORY $file
2732         local RC=$?
2733         local ENOTDIR=20
2734         [ $RC -eq 0 ] && error "opened file $file with O_DIRECTORY" || true
2735         [ $RC -eq $ENOTDIR ] || error "error $RC should be ENOTDIR ($ENOTDIR)"
2736 }
2737 run_test 38 "open a regular file with O_DIRECTORY should return -ENOTDIR ==="
2738
2739 test_39() {
2740         touch $DIR/$tfile
2741         touch $DIR/${tfile}2
2742 #       ls -l  $DIR/$tfile $DIR/${tfile}2
2743 #       ls -lu  $DIR/$tfile $DIR/${tfile}2
2744 #       ls -lc  $DIR/$tfile $DIR/${tfile}2
2745         sleep 2
2746         $OPENFILE -f O_CREAT:O_TRUNC:O_WRONLY $DIR/${tfile}2
2747         if [ ! $DIR/${tfile}2 -nt $DIR/$tfile ]; then
2748                 echo "mtime"
2749                 ls -l --full-time $DIR/$tfile $DIR/${tfile}2
2750                 echo "atime"
2751                 ls -lu --full-time $DIR/$tfile $DIR/${tfile}2
2752                 echo "ctime"
2753                 ls -lc --full-time $DIR/$tfile $DIR/${tfile}2
2754                 error "O_TRUNC didn't change timestamps"
2755         fi
2756 }
2757 run_test 39 "mtime changed on create ==========================="
2758
2759 test_39b() {
2760         test_mkdir -p $DIR/$tdir
2761         cp -p /etc/passwd $DIR/$tdir/fopen
2762         cp -p /etc/passwd $DIR/$tdir/flink
2763         cp -p /etc/passwd $DIR/$tdir/funlink
2764         cp -p /etc/passwd $DIR/$tdir/frename
2765         ln $DIR/$tdir/funlink $DIR/$tdir/funlink2
2766
2767         sleep 1
2768         echo "aaaaaa" >> $DIR/$tdir/fopen
2769         echo "aaaaaa" >> $DIR/$tdir/flink
2770         echo "aaaaaa" >> $DIR/$tdir/funlink
2771         echo "aaaaaa" >> $DIR/$tdir/frename
2772
2773         local open_new=`stat -c %Y $DIR/$tdir/fopen`
2774         local link_new=`stat -c %Y $DIR/$tdir/flink`
2775         local unlink_new=`stat -c %Y $DIR/$tdir/funlink`
2776         local rename_new=`stat -c %Y $DIR/$tdir/frename`
2777
2778         cat $DIR/$tdir/fopen > /dev/null
2779         ln $DIR/$tdir/flink $DIR/$tdir/flink2
2780         rm -f $DIR/$tdir/funlink2
2781         mv -f $DIR/$tdir/frename $DIR/$tdir/frename2
2782
2783         for (( i=0; i < 2; i++ )) ; do
2784                 local open_new2=`stat -c %Y $DIR/$tdir/fopen`
2785                 local link_new2=`stat -c %Y $DIR/$tdir/flink`
2786                 local unlink_new2=`stat -c %Y $DIR/$tdir/funlink`
2787                 local rename_new2=`stat -c %Y $DIR/$tdir/frename2`
2788
2789                 [ $open_new2 -eq $open_new ] || error "open file reverses mtime"
2790                 [ $link_new2 -eq $link_new ] || error "link file reverses mtime"
2791                 [ $unlink_new2 -eq $unlink_new ] || error "unlink file reverses mtime"
2792                 [ $rename_new2 -eq $rename_new ] || error "rename file reverses mtime"
2793
2794                 cancel_lru_locks osc
2795                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2796         done
2797 }
2798 run_test 39b "mtime change on open, link, unlink, rename  ======"
2799
2800 # this should be set to past
2801 TEST_39_MTIME=`date -d "1 year ago" +%s`
2802
2803 # bug 11063
2804 test_39c() {
2805         touch $DIR1/$tfile
2806         sleep 2
2807         local mtime0=`stat -c %Y $DIR1/$tfile`
2808
2809         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2810         local mtime1=`stat -c %Y $DIR1/$tfile`
2811         [ "$mtime1" = $TEST_39_MTIME ] || \
2812                 error "mtime is not set to past: $mtime1, should be $TEST_39_MTIME"
2813
2814         local d1=`date +%s`
2815         echo hello >> $DIR1/$tfile
2816         local d2=`date +%s`
2817         local mtime2=`stat -c %Y $DIR1/$tfile`
2818         [ "$mtime2" -ge "$d1" ] && [ "$mtime2" -le "$d2" ] || \
2819                 error "mtime is not updated on write: $d1 <= $mtime2 <= $d2"
2820
2821         mv $DIR1/$tfile $DIR1/$tfile-1
2822
2823         for (( i=0; i < 2; i++ )) ; do
2824                 local mtime3=`stat -c %Y $DIR1/$tfile-1`
2825                 [ "$mtime2" = "$mtime3" ] || \
2826                         error "mtime ($mtime2) changed (to $mtime3) on rename"
2827
2828                 cancel_lru_locks osc
2829                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2830         done
2831 }
2832 run_test 39c "mtime change on rename ==========================="
2833
2834 # bug 21114
2835 test_39d() {
2836         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2837         touch $DIR1/$tfile
2838
2839         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2840
2841         for (( i=0; i < 2; i++ )) ; do
2842                 local mtime=`stat -c %Y $DIR1/$tfile`
2843                 [ $mtime = $TEST_39_MTIME ] || \
2844                         error "mtime($mtime) is not set to $TEST_39_MTIME"
2845
2846                 cancel_lru_locks osc
2847                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2848         done
2849 }
2850 run_test 39d "create, utime, stat =============================="
2851
2852 # bug 21114
2853 test_39e() {
2854         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2855         touch $DIR1/$tfile
2856         local mtime1=`stat -c %Y $DIR1/$tfile`
2857
2858         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2859
2860         for (( i=0; i < 2; i++ )) ; do
2861                 local mtime2=`stat -c %Y $DIR1/$tfile`
2862                 [ $mtime2 = $TEST_39_MTIME ] || \
2863                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2864
2865                 cancel_lru_locks osc
2866                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2867         done
2868 }
2869 run_test 39e "create, stat, utime, stat ========================"
2870
2871 # bug 21114
2872 test_39f() {
2873         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2874         touch $DIR1/$tfile
2875         mtime1=`stat -c %Y $DIR1/$tfile`
2876
2877         sleep 2
2878         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2879
2880         for (( i=0; i < 2; i++ )) ; do
2881                 local mtime2=`stat -c %Y $DIR1/$tfile`
2882                 [ $mtime2 = $TEST_39_MTIME ] || \
2883                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2884
2885                 cancel_lru_locks osc
2886                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2887         done
2888 }
2889 run_test 39f "create, stat, sleep, utime, stat ================="
2890
2891 # bug 11063
2892 test_39g() {
2893         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2894         echo hello >> $DIR1/$tfile
2895         local mtime1=`stat -c %Y $DIR1/$tfile`
2896
2897         sleep 2
2898         chmod o+r $DIR1/$tfile
2899
2900         for (( i=0; i < 2; i++ )) ; do
2901                 local mtime2=`stat -c %Y $DIR1/$tfile`
2902                 [ "$mtime1" = "$mtime2" ] || \
2903                         error "lost mtime: $mtime2, should be $mtime1"
2904
2905                 cancel_lru_locks osc
2906                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2907         done
2908 }
2909 run_test 39g "write, chmod, stat ==============================="
2910
2911 # bug 11063
2912 test_39h() {
2913         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2914         touch $DIR1/$tfile
2915         sleep 1
2916
2917         local d1=`date`
2918         echo hello >> $DIR1/$tfile
2919         local mtime1=`stat -c %Y $DIR1/$tfile`
2920
2921         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2922         local d2=`date`
2923         if [ "$d1" != "$d2" ]; then
2924                 echo "write and touch not within one second"
2925         else
2926                 for (( i=0; i < 2; i++ )) ; do
2927                         local mtime2=`stat -c %Y $DIR1/$tfile`
2928                         [ "$mtime2" = $TEST_39_MTIME ] || \
2929                                 error "lost mtime: $mtime2, should be $TEST_39_MTIME"
2930
2931                         cancel_lru_locks osc
2932                         if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2933                 done
2934         fi
2935 }
2936 run_test 39h "write, utime within one second, stat ============="
2937
2938 test_39i() {
2939         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2940         touch $DIR1/$tfile
2941         sleep 1
2942
2943         echo hello >> $DIR1/$tfile
2944         local mtime1=`stat -c %Y $DIR1/$tfile`
2945
2946         mv $DIR1/$tfile $DIR1/$tfile-1
2947
2948         for (( i=0; i < 2; i++ )) ; do
2949                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2950
2951                 [ "$mtime1" = "$mtime2" ] || \
2952                         error "lost mtime: $mtime2, should be $mtime1"
2953
2954                 cancel_lru_locks osc
2955                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2956         done
2957 }
2958 run_test 39i "write, rename, stat =============================="
2959
2960 test_39j() {
2961         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2962         start_full_debug_logging
2963         touch $DIR1/$tfile
2964         sleep 1
2965
2966         #define OBD_FAIL_OSC_DELAY_SETTIME       0x412
2967         lctl set_param fail_loc=0x80000412
2968         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c ||
2969                 error "multiop failed"
2970         local multipid=$!
2971         local mtime1=`stat -c %Y $DIR1/$tfile`
2972
2973         mv $DIR1/$tfile $DIR1/$tfile-1
2974
2975         kill -USR1 $multipid
2976         wait $multipid || error "multiop close failed"
2977
2978         for (( i=0; i < 2; i++ )) ; do
2979                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2980                 [ "$mtime1" = "$mtime2" ] ||
2981                         error "mtime is lost on close: $mtime2, " \
2982                               "should be $mtime1"
2983
2984                 cancel_lru_locks osc
2985                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2986         done
2987         lctl set_param fail_loc=0
2988         stop_full_debug_logging
2989 }
2990 run_test 39j "write, rename, close, stat ======================="
2991
2992 test_39k() {
2993         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2994         touch $DIR1/$tfile
2995         sleep 1
2996
2997         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c || error "multiop failed"
2998         local multipid=$!
2999         local mtime1=`stat -c %Y $DIR1/$tfile`
3000
3001         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
3002
3003         kill -USR1 $multipid
3004         wait $multipid || error "multiop close failed"
3005
3006         for (( i=0; i < 2; i++ )) ; do
3007                 local mtime2=`stat -c %Y $DIR1/$tfile`
3008
3009                 [ "$mtime2" = $TEST_39_MTIME ] || \
3010                         error "mtime is lost on close: $mtime2, should be $TEST_39_MTIME"
3011
3012                 cancel_lru_locks osc
3013                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
3014         done
3015 }
3016 run_test 39k "write, utime, close, stat ========================"
3017
3018 # this should be set to future
3019 TEST_39_ATIME=`date -d "1 year" +%s`
3020
3021 test_39l() {
3022         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3023         remote_mds_nodsh && skip "remote MDS with nodsh" && return
3024         local atime_diff=$(do_facet $SINGLEMDS \
3025                                 lctl get_param -n mdd.*MDT0000*.atime_diff)
3026         rm -rf $DIR/$tdir
3027         mkdir -p $DIR/$tdir
3028
3029         # test setting directory atime to future
3030         touch -a -d @$TEST_39_ATIME $DIR/$tdir
3031         local atime=$(stat -c %X $DIR/$tdir)
3032         [ "$atime" = $TEST_39_ATIME ] || \
3033                 error "atime is not set to future: $atime, $TEST_39_ATIME"
3034
3035         # test setting directory atime from future to now
3036         local d1=$(date +%s)
3037         ls $DIR/$tdir
3038         local d2=$(date +%s)
3039
3040         cancel_lru_locks mdc
3041         atime=$(stat -c %X $DIR/$tdir)
3042         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
3043                 error "atime is not updated from future: $atime, $d1<atime<$d2"
3044
3045         do_facet $SINGLEMDS lctl set_param -n mdd.*MDT0000*.atime_diff=2
3046         sleep 3
3047
3048         # test setting directory atime when now > dir atime + atime_diff
3049         d1=$(date +%s)
3050         ls $DIR/$tdir
3051         d2=$(date +%s)
3052         cancel_lru_locks mdc
3053         atime=$(stat -c %X $DIR/$tdir)
3054         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
3055                 error "atime is not updated  : $atime, should be $d2"
3056
3057         do_facet $SINGLEMDS lctl set_param -n mdd.*MDT0000*.atime_diff=60
3058         sleep 3
3059
3060         # test not setting directory atime when now < dir atime + atime_diff
3061         ls $DIR/$tdir
3062         cancel_lru_locks mdc
3063         atime=$(stat -c %X $DIR/$tdir)
3064         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
3065                 error "atime is updated to $atime, should remain $d1<atime<$d2"
3066
3067         do_facet $SINGLEMDS \
3068                 lctl set_param -n mdd.*MDT0000*.atime_diff=$atime_diff
3069 }
3070 run_test 39l "directory atime update ==========================="
3071
3072 test_39m() {
3073         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3074         touch $DIR1/$tfile
3075         sleep 2
3076         local far_past_mtime=$(date -d "May 29 1953" +%s)
3077         local far_past_atime=$(date -d "Dec 17 1903" +%s)
3078
3079         touch -m -d @$far_past_mtime $DIR1/$tfile
3080         touch -a -d @$far_past_atime $DIR1/$tfile
3081
3082         for (( i=0; i < 2; i++ )) ; do
3083                 local timestamps=$(stat -c "%X %Y" $DIR1/$tfile)
3084                 [ "$timestamps" = "$far_past_atime $far_past_mtime" ] || \
3085                         error "atime or mtime set incorrectly"
3086
3087                 cancel_lru_locks osc
3088                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
3089         done
3090 }
3091 run_test 39m "test atime and mtime before 1970"
3092
3093 test_40() {
3094         dd if=/dev/zero of=$DIR/$tfile bs=4096 count=1
3095         $RUNAS $OPENFILE -f O_WRONLY:O_TRUNC $DIR/$tfile &&
3096                 error "openfile O_WRONLY:O_TRUNC $tfile failed"
3097         $CHECKSTAT -t file -s 4096 $DIR/$tfile ||
3098                 error "$tfile is not 4096 bytes in size"
3099 }
3100 run_test 40 "failed open(O_TRUNC) doesn't truncate ============="
3101
3102 test_41() {
3103         # bug 1553
3104         small_write $DIR/f41 18
3105 }
3106 run_test 41 "test small file write + fstat ====================="
3107
3108 count_ost_writes() {
3109         lctl get_param -n osc.*.stats |
3110             awk -vwrites=0 '/ost_write/ { writes += $2 } END { print writes; }'
3111 }
3112
3113 # decent default
3114 WRITEBACK_SAVE=500
3115 DIRTY_RATIO_SAVE=40
3116 MAX_DIRTY_RATIO=50
3117 BG_DIRTY_RATIO_SAVE=10
3118 MAX_BG_DIRTY_RATIO=25
3119
3120 start_writeback() {
3121         trap 0
3122         # in 2.6, restore /proc/sys/vm/dirty_writeback_centisecs,
3123         # dirty_ratio, dirty_background_ratio
3124         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
3125                 sysctl -w vm.dirty_writeback_centisecs=$WRITEBACK_SAVE
3126                 sysctl -w vm.dirty_background_ratio=$BG_DIRTY_RATIO_SAVE
3127                 sysctl -w vm.dirty_ratio=$DIRTY_RATIO_SAVE
3128         else
3129                 # if file not here, we are a 2.4 kernel
3130                 kill -CONT `pidof kupdated`
3131         fi
3132 }
3133
3134 stop_writeback() {
3135         # setup the trap first, so someone cannot exit the test at the
3136         # exact wrong time and mess up a machine
3137         trap start_writeback EXIT
3138         # in 2.6, save and 0 /proc/sys/vm/dirty_writeback_centisecs
3139         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
3140                 WRITEBACK_SAVE=`sysctl -n vm.dirty_writeback_centisecs`
3141                 sysctl -w vm.dirty_writeback_centisecs=0
3142                 sysctl -w vm.dirty_writeback_centisecs=0
3143                 # save and increase /proc/sys/vm/dirty_ratio
3144                 DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_ratio`
3145                 sysctl -w vm.dirty_ratio=$MAX_DIRTY_RATIO
3146                 # save and increase /proc/sys/vm/dirty_background_ratio
3147                 BG_DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_background_ratio`
3148                 sysctl -w vm.dirty_background_ratio=$MAX_BG_DIRTY_RATIO
3149         else
3150                 # if file not here, we are a 2.4 kernel
3151                 kill -STOP `pidof kupdated`
3152         fi
3153 }
3154
3155 # ensure that all stripes have some grant before we test client-side cache
3156 setup_test42() {
3157         for i in `seq -f $DIR/f42-%g 1 $OSTCOUNT`; do
3158                 dd if=/dev/zero of=$i bs=4k count=1
3159                 rm $i
3160         done
3161 }
3162
3163 # Tests 42* verify that our behaviour is correct WRT caching, file closure,
3164 # file truncation, and file removal.
3165 test_42a() {
3166         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3167         setup_test42
3168         cancel_lru_locks osc
3169         stop_writeback
3170         sync; sleep 1; sync # just to be safe
3171         BEFOREWRITES=`count_ost_writes`
3172         lctl get_param -n osc.*[oO][sS][cC][_-]*.cur_grant_bytes | grep "[0-9]"
3173         dd if=/dev/zero of=$DIR/f42a bs=1024 count=100
3174         AFTERWRITES=`count_ost_writes`
3175         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
3176                 error "$BEFOREWRITES < $AFTERWRITES"
3177         start_writeback
3178 }
3179 run_test 42a "ensure that we don't flush on close =============="
3180
3181 test_42b() {
3182         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3183         setup_test42
3184         cancel_lru_locks osc
3185         stop_writeback
3186         sync
3187         dd if=/dev/zero of=$DIR/f42b bs=1024 count=100
3188         BEFOREWRITES=`count_ost_writes`
3189         $MUNLINK $DIR/f42b || error "$MUNLINK $DIR/f42b: $?"
3190         AFTERWRITES=`count_ost_writes`
3191         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
3192                 error "$BEFOREWRITES < $AFTERWRITES on unlink"
3193         fi
3194         BEFOREWRITES=`count_ost_writes`
3195         sync || error "sync: $?"
3196         AFTERWRITES=`count_ost_writes`
3197         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
3198                 error "$BEFOREWRITES < $AFTERWRITES on sync"
3199         fi
3200         dmesg | grep 'error from obd_brw_async' && error 'error writing back'
3201         start_writeback
3202         return 0
3203 }
3204 run_test 42b "test destroy of file with cached dirty data ======"
3205
3206 # if these tests just want to test the effect of truncation,
3207 # they have to be very careful.  consider:
3208 # - the first open gets a {0,EOF}PR lock
3209 # - the first write conflicts and gets a {0, count-1}PW
3210 # - the rest of the writes are under {count,EOF}PW
3211 # - the open for truncate tries to match a {0,EOF}PR
3212 #   for the filesize and cancels the PWs.
3213 # any number of fixes (don't get {0,EOF} on open, match
3214 # composite locks, do smarter file size management) fix
3215 # this, but for now we want these tests to verify that
3216 # the cancellation with truncate intent works, so we
3217 # start the file with a full-file pw lock to match against
3218 # until the truncate.
3219 trunc_test() {
3220         test=$1
3221         file=$DIR/$test
3222         offset=$2
3223         cancel_lru_locks osc
3224         stop_writeback
3225         # prime the file with 0,EOF PW to match
3226         touch $file
3227         $TRUNCATE $file 0
3228         sync; sync
3229         # now the real test..
3230         dd if=/dev/zero of=$file bs=1024 count=100
3231         BEFOREWRITES=`count_ost_writes`
3232         $TRUNCATE $file $offset
3233         cancel_lru_locks osc
3234         AFTERWRITES=`count_ost_writes`
3235         start_writeback
3236 }
3237
3238 test_42c() {
3239         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3240         trunc_test 42c 1024
3241         [ $BEFOREWRITES -eq $AFTERWRITES ] && \
3242             error "beforewrites $BEFOREWRITES == afterwrites $AFTERWRITES on truncate"
3243         rm $file
3244 }
3245 run_test 42c "test partial truncate of file with cached dirty data"
3246
3247 test_42d() {
3248         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3249         trunc_test 42d 0
3250         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
3251             error "beforewrites $BEFOREWRITES != afterwrites $AFTERWRITES on truncate"
3252         rm $file
3253 }
3254 run_test 42d "test complete truncate of file with cached dirty data"
3255
3256 test_42e() { # bug22074
3257         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3258         local TDIR=$DIR/${tdir}e
3259         local pagesz=$(page_size)
3260         local pages=16 # hardcoded 16 pages, don't change it.
3261         local files=$((OSTCOUNT * 500)) # hopefully 500 files on each OST
3262         local proc_osc0="osc.${FSNAME}-OST0000-osc-[^MDT]*"
3263         local max_dirty_mb
3264         local warmup_files
3265
3266         test_mkdir -p $DIR/${tdir}e
3267         $SETSTRIPE -c 1 $TDIR
3268         createmany -o $TDIR/f $files
3269
3270         max_dirty_mb=$($LCTL get_param -n $proc_osc0/max_dirty_mb)
3271
3272         # we assume that with $OSTCOUNT files, at least one of them will
3273         # be allocated on OST0.
3274         warmup_files=$((OSTCOUNT * max_dirty_mb))
3275         createmany -o $TDIR/w $warmup_files
3276
3277         # write a large amount of data into one file and sync, to get good
3278         # avail_grant number from OST.
3279         for ((i=0; i<$warmup_files; i++)); do
3280                 idx=$($GETSTRIPE -i $TDIR/w$i)
3281                 [ $idx -ne 0 ] && continue
3282                 dd if=/dev/zero of=$TDIR/w$i bs="$max_dirty_mb"M count=1
3283                 break
3284         done
3285         [ $i -gt $warmup_files ] && error "OST0 is still cold"
3286         sync
3287         $LCTL get_param $proc_osc0/cur_dirty_bytes
3288         $LCTL get_param $proc_osc0/cur_grant_bytes
3289
3290         # create as much dirty pages as we can while not to trigger the actual
3291         # RPCs directly. but depends on the env, VFS may trigger flush during this
3292         # period, hopefully we are good.
3293         for ((i=0; i<$warmup_files; i++)); do
3294                 idx=$($GETSTRIPE -i $TDIR/w$i)
3295                 [ $idx -ne 0 ] && continue
3296                 dd if=/dev/zero of=$TDIR/w$i bs=1M count=1 2>/dev/null
3297         done
3298         $LCTL get_param $proc_osc0/cur_dirty_bytes
3299         $LCTL get_param $proc_osc0/cur_grant_bytes
3300
3301         # perform the real test
3302         $LCTL set_param $proc_osc0/rpc_stats 0
3303         for ((;i<$files; i++)); do
3304                 [ $($GETSTRIPE -i $TDIR/f$i) -eq 0 ] || continue
3305                 dd if=/dev/zero of=$TDIR/f$i bs=$pagesz count=$pages 2>/dev/null
3306         done
3307         sync
3308         $LCTL get_param $proc_osc0/rpc_stats
3309
3310         local percent=0
3311         local have_ppr=false
3312         $LCTL get_param $proc_osc0/rpc_stats |
3313                 while read PPR RRPC RPCT RCUM BAR WRPC WPCT WCUM; do
3314                         # skip lines until we are at the RPC histogram data
3315                         [ "$PPR" == "pages" ] && have_ppr=true && continue
3316                         $have_ppr || continue
3317
3318                         # we only want the percent stat for < 16 pages
3319                         [ $(echo $PPR | tr -d ':') -ge $pages ] && break
3320
3321                         percent=$((percent + WPCT))
3322                         if [ $percent -gt 15 ]; then
3323                                 error "less than 16-pages write RPCs" \
3324                                       "$percent% > 15%"
3325                                 break
3326                         fi
3327                 done
3328         rm -rf $TDIR
3329 }
3330 run_test 42e "verify sub-RPC writes are not done synchronously"
3331
3332 test_43() {
3333         test_mkdir -p $DIR/$tdir
3334         cp -p /bin/ls $DIR/$tdir/$tfile
3335         $MULTIOP $DIR/$tdir/$tfile Ow_c &
3336         pid=$!
3337         # give multiop a chance to open
3338         sleep 1
3339
3340         $DIR/$tdir/$tfile && error || true
3341         kill -USR1 $pid
3342 }
3343 run_test 43 "execution of file opened for write should return -ETXTBSY"
3344
3345 test_43a() {
3346         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3347         test_mkdir -p $DIR/$tdir
3348         cp -p `which $MULTIOP` $DIR/$tdir/multiop ||
3349                         cp -p multiop $DIR/$tdir/multiop
3350         MULTIOP_PROG=$DIR/$tdir/multiop multiop_bg_pause $TMP/$tfile.junk O_c ||
3351                         return 1
3352         MULTIOP_PID=$!
3353         $MULTIOP $DIR/$tdir/multiop Oc && error "expected error, got success"
3354         kill -USR1 $MULTIOP_PID || return 2
3355         wait $MULTIOP_PID || return 3
3356         rm $TMP/$tfile.junk $DIR/$tdir/multiop
3357 }
3358 run_test 43a "open(RDWR) of file being executed should return -ETXTBSY"
3359
3360 test_43b() {
3361         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3362         test_mkdir -p $DIR/$tdir
3363         cp -p `which $MULTIOP` $DIR/$tdir/multiop ||
3364                         cp -p multiop $DIR/$tdir/multiop
3365         MULTIOP_PROG=$DIR/$tdir/multiop multiop_bg_pause $TMP/$tfile.junk O_c ||
3366                         return 1
3367         MULTIOP_PID=$!
3368         $TRUNCATE $DIR/$tdir/multiop 0 && error "expected error, got success"
3369         kill -USR1 $MULTIOP_PID || return 2
3370         wait $MULTIOP_PID || return 3
3371         rm $TMP/$tfile.junk $DIR/$tdir/multiop
3372 }
3373 run_test 43b "truncate of file being executed should return -ETXTBSY"
3374
3375 test_43c() {
3376         local testdir="$DIR/$tdir"
3377         test_mkdir -p $DIR/$tdir
3378         cp $SHELL $testdir/
3379         ( cd $(dirname $SHELL) && md5sum $(basename $SHELL) ) | \
3380                 ( cd $testdir && md5sum -c)
3381 }
3382 run_test 43c "md5sum of copy into lustre========================"
3383
3384 test_44() {
3385         [  "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
3386         dd if=/dev/zero of=$DIR/f1 bs=4k count=1 seek=1023
3387         dd if=$DIR/f1 bs=4k count=1 > /dev/null
3388 }
3389 run_test 44 "zero length read from a sparse stripe ============="
3390
3391 test_44a() {
3392     local nstripe=`$LCTL lov_getconfig $DIR | grep default_stripe_count: | \
3393                          awk '{print $2}'`
3394     [ -z "$nstripe" ] && skip "can't get stripe info" && return
3395     [ "$nstripe" -gt "$OSTCOUNT" ] && skip "Wrong default_stripe_count: $nstripe (OSTCOUNT: $OSTCOUNT)" && return
3396     local stride=`$LCTL lov_getconfig $DIR | grep default_stripe_size: | \
3397                       awk '{print $2}'`
3398     if [ $nstripe -eq 0 -o $nstripe -eq -1 ] ; then
3399         nstripe=`$LCTL lov_getconfig $DIR | grep obd_count: | awk '{print $2}'`
3400     fi
3401
3402     OFFSETS="0 $((stride/2)) $((stride-1))"
3403     for offset in $OFFSETS ; do
3404       for i in `seq 0 $((nstripe-1))`; do
3405         local GLOBALOFFSETS=""
3406         local size=$((((i + 2 * $nstripe )*$stride + $offset)))  # Bytes
3407         local myfn=$DIR/d44a-$size
3408         echo "--------writing $myfn at $size"
3409         ll_sparseness_write $myfn $size  || error "ll_sparseness_write"
3410         GLOBALOFFSETS="$GLOBALOFFSETS $size"
3411         ll_sparseness_verify $myfn $GLOBALOFFSETS \
3412                             || error "ll_sparseness_verify $GLOBALOFFSETS"
3413
3414         for j in `seq 0 $((nstripe-1))`; do
3415             size=$((((j + $nstripe )*$stride + $offset)))  # Bytes
3416             ll_sparseness_write $myfn $size || error "ll_sparseness_write"
3417             GLOBALOFFSETS="$GLOBALOFFSETS $size"
3418         done
3419         ll_sparseness_verify $myfn $GLOBALOFFSETS \
3420                             || error "ll_sparseness_verify $GLOBALOFFSETS"
3421         rm -f $myfn
3422       done
3423     done
3424 }
3425 run_test 44a "test sparse pwrite ==============================="
3426
3427 dirty_osc_total() {
3428         tot=0
3429         for d in `lctl get_param -n osc.*.cur_dirty_bytes`; do
3430                 tot=$(($tot + $d))
3431         done
3432         echo $tot
3433 }
3434 do_dirty_record() {
3435         before=`dirty_osc_total`
3436         echo executing "\"$*\""
3437         eval $*
3438         after=`dirty_osc_total`
3439         echo before $before, after $after
3440 }
3441 test_45() {
3442         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3443         f="$DIR/f45"
3444         # Obtain grants from OST if it supports it
3445         echo blah > ${f}_grant
3446         stop_writeback
3447         sync
3448         do_dirty_record "echo blah > $f"
3449         [ $before -eq $after ] && error "write wasn't cached"
3450         do_dirty_record "> $f"
3451         [ $before -gt $after ] || error "truncate didn't lower dirty count"
3452         do_dirty_record "echo blah > $f"
3453         [ $before -eq $after ] && error "write wasn't cached"
3454         do_dirty_record "sync"
3455         [ $before -gt $after ] || error "writeback didn't lower dirty count"
3456         do_dirty_record "echo blah > $f"
3457         [ $before -eq $after ] && error "write wasn't cached"
3458         do_dirty_record "cancel_lru_locks osc"
3459         [ $before -gt $after ] || error "lock cancellation didn't lower dirty count"
3460         start_writeback
3461 }
3462 run_test 45 "osc io page accounting ============================"
3463
3464 # in a 2 stripe file (lov.sh), page 1023 maps to page 511 in its object.  this
3465 # test tickles a bug where re-dirtying a page was failing to be mapped to the
3466 # objects offset and an assert hit when an rpc was built with 1023's mapped
3467 # offset 511 and 511's raw 511 offset. it also found general redirtying bugs.
3468 test_46() {
3469         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3470         f="$DIR/f46"
3471         stop_writeback
3472         sync
3473         dd if=/dev/zero of=$f bs=`page_size` seek=511 count=1
3474         sync
3475         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=1023 count=1
3476         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=511 count=1
3477         sync
3478         start_writeback
3479 }
3480 run_test 46 "dirtying a previously written page ================"
3481
3482 # test_47 is removed "Device nodes check" is moved to test_28
3483
3484 test_48a() { # bug 2399
3485         check_kernel_version 34 || return 0
3486         test_mkdir -p $DIR/$tdir
3487         cd $DIR/$tdir
3488         mv $DIR/$tdir $DIR/d48.new || error "move directory failed"
3489         test_mkdir $DIR/$tdir || error "recreate directory failed"
3490         touch foo || error "'touch foo' failed after recreating cwd"
3491         test_mkdir $DIR/$tdir/bar ||
3492                      error "'mkdir foo' failed after recreating cwd"
3493         if check_kernel_version 44; then
3494                 touch .foo || error "'touch .foo' failed after recreating cwd"
3495                 test_mkdir $DIR/$tdir/.bar ||
3496                               error "'mkdir .foo' failed after recreating cwd"
3497         fi
3498         ls . > /dev/null || error "'ls .' failed after recreating cwd"
3499         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
3500         cd . || error "'cd .' failed after recreating cwd"
3501         test_mkdir . && error "'mkdir .' worked after recreating cwd"
3502         rmdir . && error "'rmdir .' worked after recreating cwd"
3503         ln -s . baz || error "'ln -s .' failed after recreating cwd"
3504         cd .. || error "'cd ..' failed after recreating cwd"
3505 }
3506 run_test 48a "Access renamed working dir (should return errors)="
3507
3508 test_48b() { # bug 2399
3509         check_kernel_version 34 || return 0
3510         rm -rf $DIR/$tdir
3511         test_mkdir -p $DIR/$tdir
3512         cd $DIR/$tdir
3513         rmdir $DIR/$tdir || error "remove cwd $DIR/$tdir failed"
3514         touch foo && error "'touch foo' worked after removing cwd"
3515         test_mkdir $DIR/$tdir/foo &&
3516                      error "'mkdir foo' worked after removing cwd"
3517         if check_kernel_version 44; then
3518                 touch .foo && error "'touch .foo' worked after removing cwd"
3519                 test_mkdir $DIR/$tdir/.foo &&
3520                               error "'mkdir .foo' worked after removing cwd"
3521         fi
3522         ls . > /dev/null && error "'ls .' worked after removing cwd"
3523         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
3524         is_patchless || ( cd . && error "'cd .' worked after removing cwd" )
3525         test_mkdir $DIR/$tdir/. && error "'mkdir .' worked after removing cwd"
3526         rmdir . && error "'rmdir .' worked after removing cwd"
3527         ln -s . foo && error "'ln -s .' worked after removing cwd"
3528         cd .. || echo "'cd ..' failed after removing cwd `pwd`"  #bug 3517
3529 }
3530 run_test 48b "Access removed working dir (should return errors)="
3531
3532 test_48c() { # bug 2350
3533         check_kernel_version 36 || return 0
3534         #lctl set_param debug=-1
3535         #set -vx
3536         rm -rf $DIR/$tdir
3537         test_mkdir -p $DIR/$tdir/dir
3538         cd $DIR/$tdir/dir
3539         $TRACE rmdir $DIR/$tdir/dir || error "remove cwd $DIR/$tdir/dir failed"
3540         $TRACE touch foo && error "touch foo worked after removing cwd"
3541         $TRACE test_mkdir foo && error "'mkdir foo' worked after removing cwd"
3542         if check_kernel_version 44; then
3543                 touch .foo && error "touch .foo worked after removing cwd"
3544                 test_mkdir .foo && error "mkdir .foo worked after removing cwd"
3545         fi
3546         $TRACE ls . && error "'ls .' worked after removing cwd"
3547         $TRACE ls .. || error "'ls ..' failed after removing cwd"
3548         is_patchless || ( $TRACE cd . &&
3549                         error "'cd .' worked after removing cwd" )
3550         $TRACE test_mkdir . && error "'mkdir .' worked after removing cwd"
3551         $TRACE rmdir . && error "'rmdir .' worked after removing cwd"
3552         $TRACE ln -s . foo && error "'ln -s .' worked after removing cwd"
3553         $TRACE cd .. || echo "'cd ..' failed after removing cwd `pwd`" #bug 3415
3554 }
3555 run_test 48c "Access removed working subdir (should return errors)"
3556
3557 test_48d() { # bug 2350
3558         check_kernel_version 36 || return 0
3559         #lctl set_param debug=-1
3560         #set -vx
3561         rm -rf $DIR/$tdir
3562         test_mkdir -p $DIR/$tdir/dir
3563         cd $DIR/$tdir/dir
3564         $TRACE rmdir $DIR/$tdir/dir || error "remove cwd $DIR/$tdir/dir failed"
3565         $TRACE rmdir $DIR/$tdir || error "remove parent $DIR/$tdir failed"
3566         $TRACE touch foo && error "'touch foo' worked after removing parent"
3567         $TRACE test_mkdir foo && error "mkdir foo worked after removing parent"
3568         if check_kernel_version 44; then
3569                 touch .foo && error "'touch .foo' worked after removing parent"
3570                 test_mkdir .foo &&
3571                               error "mkdir .foo worked after removing parent"
3572         fi
3573         $TRACE ls . && error "'ls .' worked after removing parent"
3574         $TRACE ls .. && error "'ls ..' worked after removing parent"
3575         is_patchless || ( $TRACE cd . &&
3576                         error "'cd .' worked after recreate parent" )
3577         $TRACE test_mkdir . && error "'mkdir .' worked after removing parent"
3578         $TRACE rmdir . && error "'rmdir .' worked after removing parent"
3579         $TRACE ln -s . foo && error "'ln -s .' worked after removing parent"
3580         is_patchless || ( $TRACE cd .. &&
3581                         error "'cd ..' worked after removing parent" || true )
3582 }
3583 run_test 48d "Access removed parent subdir (should return errors)"
3584
3585 test_48e() { # bug 4134
3586         check_kernel_version 41 || return 0
3587         #lctl set_param debug=-1
3588         #set -vx
3589         rm -rf $DIR/$tdir
3590         test_mkdir -p $DIR/$tdir/dir
3591         cd $DIR/$tdir/dir
3592         $TRACE rmdir $DIR/$tdir/dir || error "remove cwd $DIR/$tdir/dir failed"
3593         $TRACE rmdir $DIR/$tdir || error "remove parent $DIR/$tdir failed"
3594         $TRACE touch $DIR/$tdir || error "'touch $DIR/$tdir' failed"
3595         $TRACE chmod +x $DIR/$tdir || error "'chmod +x $DIR/$tdir' failed"
3596         # On a buggy kernel addition of "touch foo" after cd .. will
3597         # produce kernel oops in lookup_hash_it
3598         touch ../foo && error "'cd ..' worked after recreate parent"
3599         cd $DIR
3600         $TRACE rm $DIR/$tdir || error "rm '$DIR/$tdir' failed"
3601 }
3602 run_test 48e "Access to recreated parent subdir (should return errors)"
3603
3604 test_49() { # LU-1030
3605         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3606         # get ost1 size - lustre-OST0000
3607         ost1_size=$(do_facet ost1 lfs df |grep ${ost1_svc} |awk '{print $4}')
3608         # write 800M at maximum
3609         [ $ost1_size -gt 819200 ] && ost1_size=819200
3610
3611         lfs setstripe -c 1 -i 0 $DIR/$tfile
3612         dd if=/dev/zero of=$DIR/$tfile bs=4k count=$((ost1_size >> 2)) &
3613         local dd_pid=$!
3614
3615         # change max_pages_per_rpc while writing the file
3616         local osc1_mppc=osc.$(get_osc_import_name client ost1).max_pages_per_rpc
3617         local orig_mppc=`$LCTL get_param -n $osc1_mppc`
3618         # loop until dd process exits
3619         while ps ax -opid | grep -wq $dd_pid; do
3620                 $LCTL set_param $osc1_mppc=$((RANDOM % 256 + 1))
3621                 sleep $((RANDOM % 5 + 1))
3622         done
3623         # restore original max_pages_per_rpc
3624         $LCTL set_param $osc1_mppc=$orig_mppc
3625         rm $DIR/$tfile || error "rm $DIR/$tfile failed"
3626 }
3627 run_test 49 "Change max_pages_per_rpc won't break osc extent"
3628
3629 test_50() {
3630         # bug 1485
3631         test_mkdir $DIR/$tdir
3632         cd $DIR/$tdir
3633         ls /proc/$$/cwd || error "ls /proc/$$/cwd failed"
3634 }
3635 run_test 50 "special situations: /proc symlinks  ==============="
3636
3637 test_51a() {    # was test_51
3638         # bug 1516 - create an empty entry right after ".." then split dir
3639         test_mkdir -p $DIR/$tdir
3640         touch $DIR/$tdir/foo
3641         $MCREATE $DIR/$tdir/bar
3642         rm $DIR/$tdir/foo
3643         createmany -m $DIR/$tdir/longfile 201
3644         FNUM=202
3645         while [ $(ls -sd $DIR/$tdir | awk '{ print $1 }') -eq 4 ]; do
3646                 $MCREATE $DIR/$tdir/longfile$FNUM
3647                 FNUM=$(($FNUM + 1))
3648                 echo -n "+"
3649         done
3650         echo
3651         ls -l $DIR/$tdir > /dev/null || error "ls -l $DIR/$tdir failed"
3652 }
3653 run_test 51a "special situations: split htree with empty entry =="
3654
3655 export NUMTEST=70000
3656 test_51b() {
3657         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3658         local BASE=$DIR/$tdir
3659
3660         # cleanup the directory
3661         rm -fr $BASE
3662
3663         test_mkdir -p $BASE
3664
3665         local mdtidx=$(printf "%04x" $($LFS getstripe -M $BASE))
3666         local numfree=$(lctl get_param -n mdc.$FSNAME-MDT$mdtidx*.filesfree)
3667         [ $numfree -lt 21000 ] && skip "not enough free inodes ($numfree)" &&
3668                 return
3669
3670         [ $numfree -lt $NUMTEST ] && NUMTEST=$(($numfree - 50)) &&
3671                 echo "reduced count to $NUMTEST due to inodes"
3672
3673         # need to check free space for the directories as well
3674         local blkfree=$(lctl get_param -n mdc.$FSNAME-MDT$mdtidx*.kbytesavail)
3675         numfree=$((blkfree / 4))
3676         [ $numfree -lt $NUMTEST ] && NUMTEST=$(($numfree - 50)) &&
3677                 echo "reduced count to $NUMTEST due to blocks"
3678
3679         createmany -d $BASE/d $NUMTEST && echo $NUMTEST > $BASE/fnum ||
3680                 echo "failed" > $BASE/fnum
3681 }
3682 run_test 51b "exceed 64k subdirectory nlink limit"
3683
3684 test_51ba() { # LU-993
3685         local BASE=$DIR/$tdir
3686         # unlink all but 100 subdirectories, then check it still works
3687         local LEFT=100
3688         [ -f $BASE/fnum ] && local NUMPREV=$(cat $BASE/fnum) && rm $BASE/fnum
3689
3690         [ "$NUMPREV" != "failed" ] && NUMTEST=$NUMPREV
3691         local DELETE=$((NUMTEST - LEFT))
3692
3693         # continue on to run this test even if 51b didn't finish,
3694         # just to delete the many subdirectories created.
3695         [ ! -d "${BASE}/d1" ] && skip "test_51b() not run" && return 0
3696
3697         # for ldiskfs the nlink count should be 1, but this is OSD specific
3698         # and so this is listed for informational purposes only
3699         echo "nlink before: $(stat -c %h $BASE), created before: $NUMTEST"
3700         unlinkmany -d $BASE/d $DELETE
3701         RC=$?
3702
3703         if [ $RC -ne 0 ]; then
3704                 if [ "$NUMPREV" == "failed" ]; then
3705                         skip "previous setup failed"
3706                         return 0
3707                 else
3708                         error "unlink of first $DELETE subdirs failed"
3709                         return $RC
3710                 fi
3711         fi
3712
3713         echo "nlink between: $(stat -c %h $BASE)"
3714         # trim the first line of ls output
3715         local FOUND=$(($(ls -l ${BASE} | wc -l) - 1))
3716         [ $FOUND -ne $LEFT ] &&
3717                 error "can't find subdirs: found only $FOUND/$LEFT"
3718
3719         unlinkmany -d $BASE/d $DELETE $LEFT ||
3720                 error "unlink of second $LEFT subdirs failed"
3721         # regardless of whether the backing filesystem tracks nlink accurately
3722         # or not, the nlink count shouldn't be more than "." and ".." here
3723         local AFTER=$(stat -c %h $BASE)
3724         [ $AFTER -gt 2 ] && error "nlink after: $AFTER > 2" ||
3725                 echo "nlink after: $AFTER"
3726 }
3727 run_test 51ba "verify nlink for many subdirectory cleanup"
3728
3729 test_51d() {
3730         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3731         [  "$OSTCOUNT" -lt "3" ] && skip_env "skipping test with few OSTs" && return
3732         test_mkdir -p $DIR/$tdir
3733         createmany -o $DIR/$tdir/t- 1000
3734         $GETSTRIPE $DIR/$tdir > $TMP/files
3735         for N in `seq 0 $((OSTCOUNT - 1))`; do
3736             OBJS[$N]=`awk -vobjs=0 '($1 == '$N') { objs += 1 } END { print objs;}' $TMP/files`
3737             OBJS0[$N]=`grep -A 1 idx $TMP/files | awk -vobjs=0 '($1 == '$N') { objs += 1 } END { print objs;}'`
3738             log "OST$N has ${OBJS[$N]} objects, ${OBJS0[$N]} are index 0"
3739         done
3740         unlinkmany $DIR/$tdir/t- 1000
3741
3742         NLAST=0
3743         for N in `seq 1 $((OSTCOUNT - 1))`; do
3744             [ ${OBJS[$N]} -lt $((${OBJS[$NLAST]} - 20)) ] && \
3745                 error "OST $N has less objects vs OST $NLAST (${OBJS[$N]} < ${OBJS[$NLAST]}"
3746             [ ${OBJS[$N]} -gt $((${OBJS[$NLAST]} + 20)) ] && \
3747                 error "OST $N has less objects vs OST $NLAST (${OBJS[$N]} < ${OBJS[$NLAST]}"
3748
3749             [ ${OBJS0[$N]} -lt $((${OBJS0[$NLAST]} - 20)) ] && \
3750                 error "OST $N has less #0 objects vs OST $NLAST (${OBJS0[$N]} < ${OBJS0[$NLAST]}"
3751             [ ${OBJS0[$N]} -gt $((${OBJS0[$NLAST]} + 20)) ] && \
3752                 error "OST $N has less #0 objects vs OST $NLAST (${OBJS0[$N]} < ${OBJS0[$NLAST]}"
3753             NLAST=$N
3754         done
3755 }
3756 run_test 51d "check object distribution ===================="
3757
3758 test_52a() {
3759         [ -f $DIR/$tdir/foo ] && chattr -a $DIR/$tdir/foo
3760         test_mkdir -p $DIR/$tdir
3761         touch $DIR/$tdir/foo
3762         chattr +a $DIR/$tdir/foo || error "chattr +a failed"
3763         echo bar >> $DIR/$tdir/foo || error "append bar failed"
3764         cp /etc/hosts $DIR/$tdir/foo && error "cp worked"
3765         rm -f $DIR/$tdir/foo 2>/dev/null && error "rm worked"
3766         link $DIR/$tdir/foo $DIR/$tdir/foo_link 2>/dev/null &&
3767                                         error "link worked"
3768         echo foo >> $DIR/$tdir/foo || error "append foo failed"
3769         mrename $DIR/$tdir/foo $DIR/$tdir/foo_ren && error "rename worked"
3770         lsattr $DIR/$tdir/foo | egrep -q "^-+a[-e]+ $DIR/$tdir/foo" ||
3771                                                      error "lsattr"
3772         chattr -a $DIR/$tdir/foo || error "chattr -a failed"
3773         cp -r $DIR/$tdir /tmp/
3774         rm -fr $DIR/$tdir || error "cleanup rm failed"
3775 }
3776 run_test 52a "append-only flag test (should return errors) ====="
3777
3778 test_52b() {
3779         [ -f $DIR/$tdir/foo ] && chattr -i $DIR/$tdir/foo
3780         test_mkdir -p $DIR/$tdir
3781         touch $DIR/$tdir/foo
3782         chattr +i $DIR/$tdir/foo || error "chattr +i failed"
3783         cat test > $DIR/$tdir/foo && error "cat test worked"
3784         cp /etc/hosts $DIR/$tdir/foo && error "cp worked"
3785         rm -f $DIR/$tdir/foo 2>/dev/null && error "rm worked"
3786         link $DIR/$tdir/foo $DIR/$tdir/foo_link 2>/dev/null &&
3787                                         error "link worked"
3788         echo foo >> $DIR/$tdir/foo && error "echo worked"
3789         mrename $DIR/$tdir/foo $DIR/$tdir/foo_ren && error "rename worked"
3790         [ -f $DIR/$tdir/foo ] || error "$tdir/foo is not a file"
3791         [ -f $DIR/$tdir/foo_ren ] && error "$tdir/foo_ren is not a file"
3792         lsattr $DIR/$tdir/foo | egrep -q "^-+i[-e]+ $DIR/$tdir/foo" ||
3793                                                         error "lsattr"
3794         chattr -i $DIR/$tdir/foo || error "chattr failed"
3795
3796         rm -fr $DIR/$tdir || error "unable to remove $DIR/$tdir"
3797 }
3798 run_test 52b "immutable flag test (should return errors) ======="
3799
3800 test_53() {
3801         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3802         remote_mds_nodsh && skip "remote MDS with nodsh" && return
3803         remote_ost_nodsh && skip "remote OST with nodsh" && return
3804
3805         local param
3806         local param_seq
3807         local ostname
3808         local mds_last
3809         local mds_last_seq
3810         local ost_last
3811         local ost_last_seq
3812         local ost_last_id
3813         local ostnum
3814         local node
3815         local found=0
3816
3817         # only test MDT0000
3818         local mdtosc=$(get_mdtosc_proc_path $SINGLEMDS)
3819         for value in $(do_facet $SINGLEMDS lctl get_param osc.$mdtosc.prealloc_last_id) ; do
3820                 param=$(echo ${value[0]} | cut -d "=" -f1)
3821                 ostname=$(echo $param | cut -d "." -f2 | cut -d - -f 1-2)
3822                 param_seq=$(echo ${param} |
3823                             sed -e s/prealloc_last_id/prealloc_last_seq/g)
3824                 mds_last_seq=$(do_facet $SINGLEMDS lctl get_param -n $param_seq)
3825                 mds_last=$(do_facet $SINGLEMDS lctl get_param -n $param)
3826
3827                 ostnum=$(index_from_ostuuid ${ostname}_UUID)
3828                 node=$(facet_active_host ost$((ostnum+1)))
3829                 param="obdfilter.$ostname.last_id"
3830                 for ost_last in $(do_node $node lctl get_param -n $param) ; do
3831                         echo "$ostname.last_id=$ost_last ;MDS.last_id=$mds_last"
3832                         ost_last_id=$(echo $ost_last | awk -F':' '{print $2}' |
3833                                       sed -e "s/^0x//g")
3834                         ost_last_seq=$(echo $ost_last | awk -F':' '{print $1}')
3835                         if [ $ost_last_seq = $mds_last_seq ]; then
3836                                 if [ $ost_last_id != $mds_last ]; then
3837                                         error "$ost_last != $mds_last_id"
3838                                 else
3839                                         found=1
3840                                         break
3841                                 fi
3842                         fi
3843                 done
3844         done
3845         [ $found = 0 ] && error "can not match last_seq/last_id for $mdtosc"
3846         return 0
3847 }
3848 run_test 53 "verify that MDS and OSTs agree on pre-creation ===="
3849
3850 test_54a() {
3851         $SOCKETSERVER $DIR/socket ||
3852                 error "$SOCKETSERVER $DIR/socket failed: $?"
3853         $SOCKETCLIENT $DIR/socket ||
3854                 error "$SOCKETCLIENT $DIR/socket failed: $?"
3855         $MUNLINK $DIR/socket || error "$MUNLINK $DIR/socket failed: $?"
3856 }
3857 run_test 54a "unix domain socket test =========================="
3858
3859 test_54b() {
3860         f="$DIR/f54b"
3861         mknod $f c 1 3
3862         chmod 0666 $f
3863         dd if=/dev/zero of=$f bs=$(page_size) count=1
3864 }
3865 run_test 54b "char device works in lustre ======================"
3866
3867 find_loop_dev() {
3868         [ -b /dev/loop/0 ] && LOOPBASE=/dev/loop/
3869         [ -b /dev/loop0 ] && LOOPBASE=/dev/loop
3870         [ -z "$LOOPBASE" ] && echo "/dev/loop/0 and /dev/loop0 gone?" && return
3871
3872         for i in $(seq 3 7); do
3873                 losetup $LOOPBASE$i > /dev/null 2>&1 && continue
3874                 LOOPDEV=$LOOPBASE$i
3875                 LOOPNUM=$i
3876                 break
3877         done
3878 }
3879
3880 test_54c() {
3881         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3882         tfile="$DIR/f54c"
3883         tdir="$DIR/d54c"
3884         loopdev="$DIR/loop54c"
3885
3886         find_loop_dev
3887         [ -z "$LOOPNUM" ] && echo "couldn't find empty loop device" && return
3888         mknod $loopdev b 7 $LOOPNUM
3889         echo "make a loop file system with $tfile on $loopdev ($LOOPNUM)..."
3890         dd if=/dev/zero of=$tfile bs=`page_size` seek=1024 count=1 > /dev/null
3891         losetup $loopdev $tfile || error "can't set up $loopdev for $tfile"
3892         mkfs.ext2 $loopdev || error "mke2fs on $loopdev"
3893         test_mkdir -p $tdir
3894         mount -t ext2 $loopdev $tdir || error "error mounting $loopdev on $tdir"
3895         dd if=/dev/zero of=$tdir/tmp bs=`page_size` count=30 || error "dd write"
3896         df $tdir
3897         dd if=$tdir/tmp of=/dev/zero bs=`page_size` count=30 || error "dd read"
3898         $UMOUNT $tdir
3899         losetup -d $loopdev
3900         rm $loopdev
3901 }
3902 run_test 54c "block device works in lustre ====================="
3903
3904 test_54d() {
3905         f="$DIR/f54d"
3906         string="aaaaaa"
3907         mknod $f p
3908         [ "$string" = $(echo $string > $f | cat $f) ] || error "$f != $string"
3909 }
3910 run_test 54d "fifo device works in lustre ======================"
3911
3912 test_54e() {
3913         check_kernel_version 46 || return 0
3914         f="$DIR/f54e"
3915         string="aaaaaa"
3916         cp -aL /dev/console $f
3917         echo $string > $f || error "echo $string to $f failed"
3918 }
3919 run_test 54e "console/tty device works in lustre ======================"
3920
3921 #The test_55 used to be iopen test and it was removed by bz#24037.
3922 #run_test 55 "check iopen_connect_dentry() ======================"
3923
3924 test_56a() {    # was test_56
3925         rm -rf $DIR/$tdir
3926         $SETSTRIPE -d $DIR
3927         test_mkdir $DIR/$tdir
3928         test_mkdir $DIR/$tdir/dir
3929         NUMFILES=3
3930         NUMFILESx2=$(($NUMFILES * 2))
3931         for i in `seq 1 $NUMFILES` ; do
3932                 touch $DIR/$tdir/file$i
3933                 touch $DIR/$tdir/dir/file$i
3934         done
3935
3936         # test lfs getstripe with --recursive
3937         FILENUM=`$GETSTRIPE --recursive $DIR/$tdir | grep -c obdidx`
3938         [ $FILENUM -eq $NUMFILESx2 ] ||
3939                 error "$GETSTRIPE --recursive: found $FILENUM, not $NUMFILESx2"
3940         FILENUM=`$GETSTRIPE $DIR/$tdir | grep -c obdidx`
3941         [ $FILENUM -eq $NUMFILES ] ||
3942                 error "$GETSTRIPE $DIR/$tdir: found $FILENUM, not $NUMFILES"
3943         echo "$GETSTRIPE --recursive passed."
3944
3945         # test lfs getstripe with file instead of dir
3946         FILENUM=`$GETSTRIPE $DIR/$tdir/file1 | grep -c obdidx`
3947         [ $FILENUM  -eq 1 ] || error \
3948                  "$GETSTRIPE $DIR/$tdir/file1: found $FILENUM, not 1"
3949         echo "$GETSTRIPE file1 passed."
3950
3951         #test lfs getstripe with --verbose
3952         [ `$GETSTRIPE --verbose $DIR/$tdir |
3953                         grep -c lmm_magic` -eq $NUMFILES ] ||
3954                 error "$GETSTRIPE --verbose $DIR/$tdir: want $NUMFILES"
3955         [ `$GETSTRIPE $DIR/$tdir | grep -c lmm_magic` -eq 0 ] ||
3956             error "$GETSTRIPE $DIR/$tdir: showed lmm_magic"
3957         echo "$GETSTRIPE --verbose passed."
3958
3959         #test lfs getstripe with --obd
3960         $GETSTRIPE --obd wrong_uuid $DIR/$tdir 2>&1 |
3961                                         grep -q "unknown obduuid" ||
3962                 error "$GETSTRIPE --obd wrong_uuid should return error message"
3963
3964         [  "$OSTCOUNT" -lt 2 ] &&
3965                 skip_env "skipping other $GETSTRIPE --obd test" && return
3966
3967         OSTIDX=1
3968         OBDUUID=$(ostuuid_from_index $OSTIDX)
3969         FILENUM=`$GETSTRIPE -ir $DIR/$tdir | grep -x $OSTIDX | wc -l`
3970         FOUND=`$GETSTRIPE -r --obd $OBDUUID $DIR/$tdir | grep obdidx | wc -l`
3971         [ $FOUND -eq $FILENUM ] ||
3972                 error "$GETSTRIPE --obd wrong: found $FOUND, expected $FILENUM"
3973         [ `$GETSTRIPE -r -v --obd $OBDUUID $DIR/$tdir |
3974                 sed '/^[         ]*'${OSTIDX}'[  ]/d' |
3975                 sed -n '/^[      ]*[0-9][0-9]*[  ]/p' | wc -l` -eq 0 ] ||
3976                 error "$GETSTRIPE --obd: should not show file on other obd"
3977         echo "$GETSTRIPE --obd passed"
3978 }
3979 run_test 56a "check $GETSTRIPE"
3980
3981 NUMFILES=3
3982 NUMDIRS=3
3983 setup_56() {
3984         local LOCAL_NUMFILES="$1"
3985         local LOCAL_NUMDIRS="$2"
3986         local MKDIR_PARAMS="$3"
3987
3988         if [ ! -d "$TDIR" ] ; then
3989                 test_mkdir -p $TDIR
3990                 [ "$MKDIR_PARAMS" ] && $SETSTRIPE $MKDIR_PARAMS $TDIR
3991                 for i in `seq 1 $LOCAL_NUMFILES` ; do
3992                         touch $TDIR/file$i
3993                 done
3994                 for i in `seq 1 $LOCAL_NUMDIRS` ; do
3995                         test_mkdir $TDIR/dir$i
3996                         for j in `seq 1 $LOCAL_NUMFILES` ; do
3997                                 touch $TDIR/dir$i/file$j
3998                         done
3999                 done
4000         fi
4001 }
4002
4003 setup_56_special() {
4004         LOCAL_NUMFILES=$1
4005         LOCAL_NUMDIRS=$2
4006         setup_56 $1 $2
4007         if [ ! -e "$TDIR/loop1b" ] ; then
4008                 for i in `seq 1 $LOCAL_NUMFILES` ; do
4009                         mknod $TDIR/loop${i}b b 7 $i
4010                         mknod $TDIR/null${i}c c 1 3
4011                         ln -s $TDIR/file1 $TDIR/link${i}l
4012                 done
4013                 for i in `seq 1 $LOCAL_NUMDIRS` ; do
4014                         mknod $TDIR/dir$i/loop${i}b b 7 $i
4015                         mknod $TDIR/dir$i/null${i}c c 1 3
4016                         ln -s $TDIR/dir$i/file1 $TDIR/dir$i/link${i}l
4017                 done
4018         fi
4019 }
4020
4021 test_56g() {
4022         $SETSTRIPE -d $DIR
4023
4024         TDIR=$DIR/${tdir}g
4025         setup_56 $NUMFILES $NUMDIRS
4026
4027         EXPECTED=$(($NUMDIRS + 2))
4028         # test lfs find with -name
4029         for i in $(seq 1 $NUMFILES) ; do
4030                 NUMS=$($LFIND -name "*$i" $TDIR | wc -l)
4031                 [ $NUMS -eq $EXPECTED ] ||
4032                         error "lfs find -name \"*$i\" $TDIR wrong: "\
4033                               "found $NUMS, expected $EXPECTED"
4034         done
4035 }
4036 run_test 56g "check lfs find -name ============================="
4037
4038 test_56h() {
4039         $SETSTRIPE -d $DIR
4040
4041         TDIR=$DIR/${tdir}g
4042         setup_56 $NUMFILES $NUMDIRS
4043
4044         EXPECTED=$(((NUMDIRS + 1) * (NUMFILES - 1) + NUMFILES))
4045         # test lfs find with ! -name
4046         for i in $(seq 1 $NUMFILES) ; do
4047                 NUMS=$($LFIND ! -name "*$i" $TDIR | wc -l)
4048                 [ $NUMS -eq $EXPECTED ] ||
4049                         error "lfs find ! -name \"*$i\" $TDIR wrong: "\
4050                               "found $NUMS, expected $EXPECTED"
4051         done
4052 }
4053 run_test 56h "check lfs find ! -name ============================="
4054
4055 test_56i() {
4056        tdir=${tdir}i
4057        test_mkdir -p $DIR/$tdir
4058        UUID=$(ostuuid_from_index 0 $DIR/$tdir)
4059        CMD="$LFIND -ost $UUID $DIR/$tdir"
4060        OUT=$($CMD)
4061        [ -z "$OUT" ] || error "\"$CMD\" returned directory '$OUT'"
4062 }
4063 run_test 56i "check 'lfs find -ost UUID' skips directories ======="
4064
4065 test_56j() {
4066         TDIR=$DIR/${tdir}g
4067         setup_56_special $NUMFILES $NUMDIRS
4068
4069         EXPECTED=$((NUMDIRS + 1))
4070         CMD="$LFIND -type d $TDIR"
4071         NUMS=$($CMD | wc -l)
4072         [ $NUMS -eq $EXPECTED ] ||
4073                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4074 }
4075 run_test 56j "check lfs find -type d ============================="
4076
4077 test_56k() {
4078         TDIR=$DIR/${tdir}g
4079         setup_56_special $NUMFILES $NUMDIRS
4080
4081         EXPECTED=$(((NUMDIRS + 1) * NUMFILES))
4082         CMD="$LFIND -type f $TDIR"
4083         NUMS=$($CMD | wc -l)
4084         [ $NUMS -eq $EXPECTED ] ||
4085                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4086 }
4087 run_test 56k "check lfs find -type f ============================="
4088
4089 test_56l() {
4090         TDIR=$DIR/${tdir}g
4091         setup_56_special $NUMFILES $NUMDIRS
4092
4093         EXPECTED=$((NUMDIRS + NUMFILES))
4094         CMD="$LFIND -type b $TDIR"
4095         NUMS=$($CMD | wc -l)
4096         [ $NUMS -eq $EXPECTED ] ||
4097                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4098 }
4099 run_test 56l "check lfs find -type b ============================="
4100
4101 test_56m() {
4102         TDIR=$DIR/${tdir}g
4103         setup_56_special $NUMFILES $NUMDIRS
4104
4105         EXPECTED=$((NUMDIRS + NUMFILES))
4106         CMD="$LFIND -type c $TDIR"
4107         NUMS=$($CMD | wc -l)
4108         [ $NUMS -eq $EXPECTED ] ||
4109                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4110 }
4111 run_test 56m "check lfs find -type c ============================="
4112
4113 test_56n() {
4114         TDIR=$DIR/${tdir}g
4115         setup_56_special $NUMFILES $NUMDIRS
4116
4117         EXPECTED=$((NUMDIRS + NUMFILES))
4118         CMD="$LFIND -type l $TDIR"
4119         NUMS=$($CMD | wc -l)
4120         [ $NUMS -eq $EXPECTED ] ||
4121                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4122 }
4123 run_test 56n "check lfs find -type l ============================="
4124
4125 test_56o() {
4126         TDIR=$DIR/${tdir}o
4127         setup_56 $NUMFILES $NUMDIRS
4128
4129         utime $TDIR/file1 > /dev/null || error "utime (1)"
4130         utime $TDIR/file2 > /dev/null || error "utime (2)"
4131         utime $TDIR/dir1 > /dev/null || error "utime (3)"
4132         utime $TDIR/dir2 > /dev/null || error "utime (4)"
4133         utime $TDIR/dir1/file1 > /dev/null || error "utime (5)"
4134         dd if=/dev/zero count=1 >> $TDIR/dir1/file1 && sync
4135
4136         EXPECTED=4
4137         NUMS=`$LFIND -mtime +0 $TDIR | wc -l`
4138         [ $NUMS -eq $EXPECTED ] || \
4139                 error "lfs find -mtime +0 $TDIR wrong: found $NUMS, expected $EXPECTED"
4140
4141         EXPECTED=12
4142         CMD="$LFIND -mtime 0 $TDIR"
4143         NUMS=$($CMD | wc -l)
4144         [ $NUMS -eq $EXPECTED ] ||
4145                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4146 }
4147 run_test 56o "check lfs find -mtime for old files =========================="
4148
4149 test_56p() {
4150         [ $RUNAS_ID -eq $UID ] &&
4151                 skip_env "RUNAS_ID = UID = $UID -- skipping" && return
4152
4153         TDIR=$DIR/${tdir}p
4154         setup_56 $NUMFILES $NUMDIRS
4155
4156         chown $RUNAS_ID $TDIR/file* || error "chown $DIR/${tdir}g/file$i failed"
4157         EXPECTED=$NUMFILES
4158         CMD="$LFIND -uid $RUNAS_ID $TDIR"
4159         NUMS=$($CMD | wc -l)
4160         [ $NUMS -eq $EXPECTED ] || \
4161                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4162
4163         EXPECTED=$(((NUMFILES + 1) * NUMDIRS + 1))
4164         CMD="$LFIND ! -uid $RUNAS_ID $TDIR"
4165         NUMS=$($CMD | wc -l)
4166         [ $NUMS -eq $EXPECTED ] || \
4167                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4168 }
4169 run_test 56p "check lfs find -uid and ! -uid ==============================="
4170
4171 test_56q() {
4172         [ $RUNAS_ID -eq $UID ] &&
4173                 skip_env "RUNAS_ID = UID = $UID -- skipping" && return
4174
4175         TDIR=$DIR/${tdir}q
4176         setup_56 $NUMFILES $NUMDIRS
4177
4178         chgrp $RUNAS_GID $TDIR/file* || error "chown $TDIR/file$i failed"
4179
4180         EXPECTED=$NUMFILES
4181         CMD="$LFIND -gid $RUNAS_GID $TDIR"
4182         NUMS=$($CMD | wc -l)
4183         [ $NUMS -eq $EXPECTED ] ||
4184                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4185
4186         EXPECTED=$(( ($NUMFILES+1) * $NUMDIRS + 1))
4187         CMD="$LFIND ! -gid $RUNAS_GID $TDIR"
4188         NUMS=$($CMD | wc -l)
4189         [ $NUMS -eq $EXPECTED ] ||
4190                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4191 }
4192 run_test 56q "check lfs find -gid and ! -gid ==============================="
4193
4194 test_56r() {
4195         TDIR=$DIR/${tdir}r
4196         setup_56 $NUMFILES $NUMDIRS
4197
4198         EXPECTED=12
4199         CMD="$LFIND -size 0 -type f $TDIR"
4200         NUMS=$($CMD | wc -l)
4201         [ $NUMS -eq $EXPECTED ] ||
4202                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4203         EXPECTED=0
4204         CMD="$LFIND ! -size 0 -type f $TDIR"
4205         NUMS=$($CMD | wc -l)
4206         [ $NUMS -eq $EXPECTED ] ||
4207                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4208         echo "test" > $TDIR/$tfile
4209         echo "test2" > $TDIR/$tfile.2 && sync
4210         EXPECTED=1
4211         CMD="$LFIND -size 5 -type f $TDIR"
4212         NUMS=$($CMD | wc -l)
4213         [ $NUMS -eq $EXPECTED ] ||
4214                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4215         EXPECTED=1
4216         CMD="$LFIND -size +5 -type f $TDIR"
4217         NUMS=$($CMD | wc -l)
4218         [ $NUMS -eq $EXPECTED ] ||
4219                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4220         EXPECTED=2
4221         CMD="$LFIND -size +0 -type f $TDIR"
4222         NUMS=$($CMD | wc -l)
4223         [ $NUMS -eq $EXPECTED ] ||
4224                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4225         EXPECTED=2
4226         CMD="$LFIND ! -size -5 -type f $TDIR"
4227         NUMS=$($CMD | wc -l)
4228         [ $NUMS -eq $EXPECTED ] ||
4229                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4230         EXPECTED=12
4231         CMD="$LFIND -size -5 -type f $TDIR"
4232         NUMS=$($CMD | wc -l)
4233         [ $NUMS -eq $EXPECTED ] ||
4234                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4235 }
4236 run_test 56r "check lfs find -size works =========================="
4237
4238 test_56s() { # LU-611
4239         TDIR=$DIR/${tdir}s
4240         setup_56 $NUMFILES $NUMDIRS "-c $OSTCOUNT"
4241
4242         if [ $OSTCOUNT -gt 1 ]; then
4243                 $SETSTRIPE -c 1 $TDIR/$tfile.{0,1,2,3}
4244                 ONESTRIPE=4
4245                 EXTRA=4
4246         else
4247                 ONESTRIPE=$(((NUMDIRS + 1) * NUMFILES))
4248                 EXTRA=0
4249         fi
4250
4251         EXPECTED=$(((NUMDIRS + 1) * NUMFILES))
4252         CMD="$LFIND -stripe-count $OSTCOUNT -type f $TDIR"
4253         NUMS=$($CMD | wc -l)
4254         [ $NUMS -eq $EXPECTED ] ||
4255                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4256
4257         EXPECTED=$(((NUMDIRS + 1) * NUMFILES + EXTRA))
4258         CMD="$LFIND -stripe-count +0 -type f $TDIR"
4259         NUMS=$($CMD | wc -l)
4260         [ $NUMS -eq $EXPECTED ] ||
4261                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4262
4263         EXPECTED=$ONESTRIPE
4264         CMD="$LFIND -stripe-count 1 -type f $TDIR"
4265         NUMS=$($CMD | wc -l)
4266         [ $NUMS -eq $EXPECTED ] ||
4267                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4268
4269         CMD="$LFIND -stripe-count -2 -type f $TDIR"
4270         NUMS=$($CMD | wc -l)
4271         [ $NUMS -eq $EXPECTED ] ||
4272                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4273
4274         EXPECTED=0
4275         CMD="$LFIND -stripe-count $((OSTCOUNT + 1)) -type f $TDIR"
4276         NUMS=$($CMD | wc -l)
4277         [ $NUMS -eq $EXPECTED ] ||
4278                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4279 }
4280 run_test 56s "check lfs find -stripe-count works"
4281
4282 test_56t() { # LU-611
4283         TDIR=$DIR/${tdir}t
4284         setup_56 $NUMFILES $NUMDIRS "-s 512k"
4285
4286         $SETSTRIPE -S 256k $TDIR/$tfile.{0,1,2,3}
4287
4288         EXPECTED=$(((NUMDIRS + 1) * NUMFILES))
4289         CMD="$LFIND -stripe-size 512k -type f $TDIR"
4290         NUMS=$($CMD | wc -l)
4291         [ $NUMS -eq $EXPECTED ] ||
4292                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4293
4294         CMD="$LFIND -stripe-size +320k -type f $TDIR"
4295         NUMS=$($CMD | wc -l)
4296         [ $NUMS -eq $EXPECTED ] ||
4297                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4298
4299         EXPECTED=$(((NUMDIRS + 1) * NUMFILES + 4))
4300         CMD="$LFIND -stripe-size +200k -type f $TDIR"
4301         NUMS=$($CMD | wc -l)
4302         [ $NUMS -eq $EXPECTED ] ||
4303                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4304
4305         CMD="$LFIND -stripe-size -640k -type f $TDIR"
4306         NUMS=$($CMD | wc -l)
4307         [ $NUMS -eq $EXPECTED ] ||
4308                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4309
4310         EXPECTED=4
4311         CMD="$LFIND -stripe-size 256k -type f $TDIR"
4312         NUMS=$($CMD | wc -l)
4313         [ $NUMS -eq $EXPECTED ] ||
4314                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4315
4316         CMD="$LFIND -stripe-size -320k -type f $TDIR"
4317         NUMS=$($CMD | wc -l)
4318         [ $NUMS -eq $EXPECTED ] ||
4319                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4320
4321         EXPECTED=0
4322         CMD="$LFIND -stripe-size 1024k -type f $TDIR"
4323         NUMS=$($CMD | wc -l)
4324         [ $NUMS -eq $EXPECTED ] ||
4325                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4326 }
4327 run_test 56t "check lfs find -stripe-size works"
4328
4329 test_56u() { # LU-611
4330         TDIR=$DIR/${tdir}u
4331         setup_56 $NUMFILES $NUMDIRS "-i 0"
4332
4333         if [ $OSTCOUNT -gt 1 ]; then
4334                 $SETSTRIPE -i 1 $TDIR/$tfile.{0,1,2,3}
4335                 ONESTRIPE=4
4336         else
4337                 ONESTRIPE=0
4338         fi
4339
4340         EXPECTED=$(((NUMDIRS + 1) * NUMFILES))
4341         CMD="$LFIND -stripe-index 0 -type f $TDIR"
4342         NUMS=$($CMD | wc -l)
4343         [ $NUMS -eq $EXPECTED ] ||
4344                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4345
4346         EXPECTED=$ONESTRIPE
4347         CMD="$LFIND -stripe-index 1 -type f $TDIR"
4348         NUMS=$($CMD | wc -l)
4349         [ $NUMS -eq $EXPECTED ] ||
4350                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4351
4352         CMD="$LFIND ! -stripe-index 0 -type f $TDIR"
4353         NUMS=$($CMD | wc -l)
4354         [ $NUMS -eq $EXPECTED ] ||
4355                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4356
4357         EXPECTED=0
4358         # This should produce an error and not return any files
4359         CMD="$LFIND -stripe-index $OSTCOUNT -type f $TDIR"
4360         NUMS=$($CMD 2>/dev/null | wc -l)
4361         [ $NUMS -eq $EXPECTED ] ||
4362                 error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4363
4364         if [ $OSTCOUNT -gt 1 ]; then
4365                 EXPECTED=$(((NUMDIRS + 1) * NUMFILES + ONESTRIPE))
4366                 CMD="$LFIND -stripe-index 0,1 -type f $TDIR"
4367                 NUMS=$($CMD | wc -l)
4368                 [ $NUMS -eq $EXPECTED ] ||
4369                         error "\"$CMD\" wrong: found $NUMS, expected $EXPECTED"
4370         fi
4371 }
4372 run_test 56u "check lfs find -stripe-index works"
4373
4374 test_56v() {
4375     local MDT_IDX=0
4376
4377     TDIR=$DIR/${tdir}v
4378     rm -rf $TDIR
4379     setup_56 $NUMFILES $NUMDIRS
4380
4381     UUID=$(mdtuuid_from_index $MDT_IDX $TDIR)
4382     [ -z "$UUID" ] && error "mdtuuid_from_index cannot find MDT index $MDT_IDX"
4383
4384     for file in $($LFIND -mdt $UUID $TDIR); do
4385         file_mdt_idx=$($GETSTRIPE -M $file)
4386         [ $file_mdt_idx -eq $MDT_IDX ] ||
4387             error "'lfind -mdt $UUID' != 'getstripe -M' ($file_mdt_idx)"
4388     done
4389 }
4390 run_test 56v "check 'lfs find -mdt match with lfs getstripe -M' ======="
4391
4392 # Get and check the actual stripe count of one file.
4393 # Usage: check_stripe_count <file> <expected_stripe_count>
4394 check_stripe_count() {
4395     local file=$1
4396     local expected=$2
4397     local actual
4398
4399     [[ -z "$file" || -z "$expected" ]] &&
4400         error "check_stripe_count: invalid argument!"
4401
4402     local cmd="$GETSTRIPE -c $file"
4403     actual=$($cmd) || error "$cmd failed"
4404     actual=${actual%% *}
4405
4406     if [[ $actual -ne $expected ]]; then
4407         [[ $expected -eq -1 ]] ||
4408             error "$cmd wrong: found $actual, expected $expected"
4409         [[ $actual -eq $OSTCOUNT ]] ||
4410             error "$cmd wrong: found $actual, expected $OSTCOUNT"
4411     fi
4412 }
4413
4414 test_56w() {
4415         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4416         TDIR=$DIR/${tdir}w
4417
4418     rm -rf $TDIR || error "remove $TDIR failed"
4419     setup_56 $NUMFILES $NUMDIRS "-c $OSTCOUNT"
4420
4421     local stripe_size
4422     stripe_size=$($GETSTRIPE -S -d $TDIR) ||
4423         error "$GETSTRIPE -S -d $TDIR failed"
4424     stripe_size=${stripe_size%% *}
4425
4426     local file_size=$((stripe_size * OSTCOUNT))
4427     local file_num=$((NUMDIRS * NUMFILES + NUMFILES))
4428     local required_space=$((file_num * file_size))
4429     local free_space=$($LCTL get_param -n lov.$LOVNAME.kbytesavail)
4430     [[ $free_space -le $((required_space / 1024)) ]] &&
4431         skip_env "need at least $required_space bytes free space," \
4432                  "have $free_space kbytes" && return
4433
4434     local dd_bs=65536
4435     local dd_count=$((file_size / dd_bs))
4436
4437     # write data into the files
4438     local i
4439     local j
4440     local file
4441     for i in $(seq 1 $NUMFILES); do
4442         file=$TDIR/file$i
4443         yes | dd bs=$dd_bs count=$dd_count of=$file >/dev/null 2>&1 ||
4444             error "write data into $file failed"
4445     done
4446     for i in $(seq 1 $NUMDIRS); do
4447         for j in $(seq 1 $NUMFILES); do
4448             file=$TDIR/dir$i/file$j
4449             yes | dd bs=$dd_bs count=$dd_count of=$file \
4450                 >/dev/null 2>&1 ||
4451                 error "write data into $file failed"
4452         done
4453     done
4454
4455     local expected=-1
4456     [[ $OSTCOUNT -gt 1 ]] && expected=$((OSTCOUNT - 1))
4457
4458     # lfs_migrate file
4459     local cmd="$LFS_MIGRATE -y -c $expected $TDIR/file1"
4460     echo "$cmd"
4461     eval $cmd || error "$cmd failed"
4462
4463     check_stripe_count $TDIR/file1 $expected
4464
4465     # lfs_migrate dir
4466     cmd="$LFS_MIGRATE -y -c $expected $TDIR/dir1"
4467     echo "$cmd"
4468     eval $cmd || error "$cmd failed"
4469
4470     for j in $(seq 1 $NUMFILES); do
4471         check_stripe_count $TDIR/dir1/file$j $expected
4472     done
4473
4474     # lfs_migrate works with lfs find
4475     cmd="$LFIND -stripe_count $OSTCOUNT -type f $TDIR |
4476          $LFS_MIGRATE -y -c $expected"
4477     echo "$cmd"
4478     eval $cmd || error "$cmd failed"
4479
4480     for i in $(seq 2 $NUMFILES); do
4481         check_stripe_count $TDIR/file$i $expected
4482     done
4483     for i in $(seq 2 $NUMDIRS); do
4484         for j in $(seq 1 $NUMFILES); do
4485             check_stripe_count $TDIR/dir$i/file$j $expected
4486         done
4487     done
4488 }
4489 run_test 56w "check lfs_migrate -c stripe_count works"
4490
4491 test_56x() {
4492         check_swap_layouts_support && return 0
4493         [ "$OSTCOUNT" -lt "2" ] &&
4494                 skip_env "need 2 OST, skipping test" && return
4495
4496         local dir0=$DIR/$tdir/$testnum
4497         mkdir -p $dir0 || error "creating dir $dir0"
4498
4499         local ref1=/etc/passwd
4500         local file1=$dir0/file1
4501
4502         $SETSTRIPE -c 2 $file1
4503         cp $ref1 $file1
4504         $LFS migrate -c 1 $file1 || error "migrate failed rc = $?"
4505         stripe=$($GETSTRIPE -c $file1)
4506         [[ $stripe == 1 ]] || error "stripe of $file1 is $stripe != 1"
4507         cmp $file1 $ref1 || error "content mismatch $file1 differs from $ref1"
4508
4509         # clean up
4510         rm -f $file1
4511 }
4512 run_test 56x "lfs migration support"
4513
4514 test_57a() {
4515         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4516         # note test will not do anything if MDS is not local
4517         if [ "$(facet_fstype $SINGLEMDS)" != ldiskfs ]; then
4518                 skip "Only applicable to ldiskfs-based MDTs"
4519                 return
4520         fi
4521
4522         remote_mds_nodsh && skip "remote MDS with nodsh" && return
4523         local MNTDEV="osd*.*MDT*.mntdev"
4524         DEV=$(do_facet $SINGLEMDS lctl get_param -n $MNTDEV)
4525         [ -z "$DEV" ] && error "can't access $MNTDEV"
4526         for DEV in $(do_facet $SINGLEMDS lctl get_param -n $MNTDEV); do
4527                 do_facet $SINGLEMDS $DUMPE2FS -h $DEV > $TMP/t57a.dump ||
4528                         error "can't access $DEV"
4529                 DEVISIZE=`awk '/Inode size:/ { print $3 }' $TMP/t57a.dump`
4530                 [ "$DEVISIZE" -gt 128 ] || error "inode size $DEVISIZE"
4531                 rm $TMP/t57a.dump
4532         done
4533 }
4534 run_test 57a "verify MDS filesystem created with large inodes =="
4535
4536 test_57b() {
4537         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4538         if [ "$(facet_fstype $SINGLEMDS)" != ldiskfs ]; then
4539                 skip "Only applicable to ldiskfs-based MDTs"
4540                 return
4541         fi
4542
4543         remote_mds_nodsh && skip "remote MDS with nodsh" && return
4544         local dir=$DIR/d57b
4545
4546         local FILECOUNT=100
4547         local FILE1=$dir/f1
4548         local FILEN=$dir/f$FILECOUNT
4549
4550         rm -rf $dir || error "removing $dir"
4551         test_mkdir -p $dir || error "creating $dir"
4552         local num=$(get_mds_dir $dir)
4553         local mymds=mds$num
4554
4555         echo "mcreating $FILECOUNT files"
4556         createmany -m $dir/f 1 $FILECOUNT || \
4557                 error "creating files in $dir"
4558
4559         # verify that files do not have EAs yet
4560         $GETSTRIPE $FILE1 2>&1 | grep -q "no stripe" || error "$FILE1 has an EA"
4561         $GETSTRIPE $FILEN 2>&1 | grep -q "no stripe" || error "$FILEN has an EA"
4562
4563         sync
4564         sleep 1
4565         df $dir  #make sure we get new statfs data
4566         local MDSFREE=$(do_facet $mymds \
4567                 lctl get_param -n osd*.*MDT000$((num -1)).kbytesfree)
4568         local MDCFREE=$(lctl get_param -n mdc.*MDT000$((num -1))-mdc-*.kbytesfree)
4569         echo "opening files to create objects/EAs"
4570         local FILE
4571         for FILE in `seq -f $dir/f%g 1 $FILECOUNT`; do
4572                 $OPENFILE -f O_RDWR $FILE > /dev/null 2>&1 || error "opening $FILE"
4573         done
4574
4575         # verify that files have EAs now
4576         $GETSTRIPE $FILE1 | grep -q "obdidx" || error "$FILE1 missing EA"
4577         $GETSTRIPE $FILEN | grep -q "obdidx" || error "$FILEN missing EA"
4578
4579         sleep 1  #make sure we get new statfs data
4580         df $dir
4581         local MDSFREE2=$(do_facet $mymds \
4582                 lctl get_param -n osd*.*MDT000$((num -1)).kbytesfree)
4583         local MDCFREE2=$(lctl get_param -n mdc.*MDT000$((num -1))-mdc-*.kbytesfree)
4584         if [ "$MDCFREE2" -lt "$((MDCFREE - 8))" ]; then
4585                 if [ "$MDSFREE" != "$MDSFREE2" ]; then
4586                         error "MDC before $MDCFREE != after $MDCFREE2"
4587                 else
4588                         echo "MDC before $MDCFREE != after $MDCFREE2"
4589                         echo "unable to confirm if MDS has large inodes"
4590                 fi
4591         fi
4592         rm -rf $dir
4593 }
4594 run_test 57b "default LOV EAs are stored inside large inodes ==="
4595
4596 test_58() {
4597         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4598         [ -z "$(which wiretest 2>/dev/null)" ] &&
4599                         skip_env "could not find wiretest" && return
4600         wiretest
4601 }
4602 run_test 58 "verify cross-platform wire constants =============="
4603
4604 test_59() {
4605         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4606         echo "touch 130 files"
4607         createmany -o $DIR/f59- 130
4608         echo "rm 130 files"
4609         unlinkmany $DIR/f59- 130
4610         sync
4611         # wait for commitment of removal
4612         wait_delete_completed
4613 }
4614 run_test 59 "verify cancellation of llog records async ========="
4615
4616 TEST60_HEAD="test_60 run $RANDOM"
4617 test_60a() {
4618         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4619         remote_mgs_nodsh && skip "remote MGS with nodsh" && return
4620         do_facet mgs "! which run-llog.sh &> /dev/null" &&
4621                 skip_env "missing subtest run-llog.sh" && return
4622         log "$TEST60_HEAD - from kernel mode"
4623         do_facet mgs sh run-llog.sh
4624 }
4625 run_test 60a "llog sanity tests run from kernel module =========="
4626
4627 test_60b() { # bug 6411
4628         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4629         dmesg > $DIR/$tfile
4630         LLOG_COUNT=`dmesg | awk "/$TEST60_HEAD/{marker = 1; from_marker = 0;}
4631                                  /llog.test/ {
4632                                          if (marker)
4633                                                  from_marker++
4634                                          from_begin++
4635                                  }
4636                                  END {
4637                                          if (marker)
4638                                                  print from_marker
4639                                          else
4640                                                  print from_begin
4641                                  }"`
4642         [ $LLOG_COUNT -gt 50 ] && error "CDEBUG_LIMIT not limiting messages ($LLOG_COUNT)"|| true
4643 }
4644 run_test 60b "limit repeated messages from CERROR/CWARN ========"
4645
4646 test_60c() {
4647         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4648         echo "create 5000 files"
4649         createmany -o $DIR/f60c- 5000
4650 #define OBD_FAIL_MDS_LLOG_CREATE_FAILED  0x137
4651         lctl set_param fail_loc=0x80000137
4652         unlinkmany $DIR/f60c- 5000
4653         lctl set_param fail_loc=0
4654 }
4655 run_test 60c "unlink file when mds full"
4656
4657 test_60d() {
4658         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4659         SAVEPRINTK=$(lctl get_param -n printk)
4660
4661         # verify "lctl mark" is even working"
4662         MESSAGE="test message ID $RANDOM $$"
4663         $LCTL mark "$MESSAGE" || error "$LCTL mark failed"
4664         dmesg | grep -q "$MESSAGE" || error "didn't find debug marker in log"
4665
4666         lctl set_param printk=0 || error "set lnet.printk failed"
4667         lctl get_param -n printk | grep emerg || error "lnet.printk dropped emerg"
4668         MESSAGE="new test message ID $RANDOM $$"
4669         # Assume here that libcfs_debug_mark_buffer() uses D_WARNING
4670         $LCTL mark "$MESSAGE" || error "$LCTL mark failed"
4671         dmesg | grep -q "$MESSAGE" && error "D_WARNING wasn't masked" || true
4672
4673         lctl set_param -n printk="$SAVEPRINTK"
4674 }
4675 run_test 60d "test printk console message masking"
4676
4677 test_61() {
4678         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4679         f="$DIR/f61"
4680         dd if=/dev/zero of=$f bs=$(page_size) count=1 || error "dd $f failed"
4681         cancel_lru_locks osc
4682         $MULTIOP $f OSMWUc || error "$MULTIOP $f failed"
4683         sync
4684 }
4685 run_test 61 "mmap() writes don't make sync hang ================"
4686
4687 # bug 2330 - insufficient obd_match error checking causes LBUG
4688 test_62() {
4689         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4690         f="$DIR/f62"
4691         echo foo > $f
4692         cancel_lru_locks osc
4693         lctl set_param fail_loc=0x405
4694         cat $f && error "cat succeeded, expect -EIO"
4695         lctl set_param fail_loc=0
4696 }
4697 # This test is now irrelevant (as of bug 10718 inclusion), we no longer
4698 # match every page all of the time.
4699 #run_test 62 "verify obd_match failure doesn't LBUG (should -EIO)"
4700
4701 # bug 2319 - oig_wait() interrupted causes crash because of invalid waitq.
4702 test_63a() {    # was test_63
4703         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4704         MAX_DIRTY_MB=`lctl get_param -n osc.*.max_dirty_mb | head -n 1`
4705         lctl set_param -n osc.*.max_dirty_mb 0
4706         for i in `seq 10` ; do
4707                 dd if=/dev/zero of=$DIR/f63 bs=8k &
4708                 sleep 5
4709                 kill $!
4710                 sleep 1
4711         done
4712
4713         lctl set_param -n osc.*.max_dirty_mb $MAX_DIRTY_MB
4714         rm -f $DIR/f63 || true
4715 }
4716 run_test 63a "Verify oig_wait interruption does not crash ======="
4717
4718 # bug 2248 - async write errors didn't return to application on sync
4719 # bug 3677 - async write errors left page locked
4720 test_63b() {
4721         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4722         debugsave
4723         lctl set_param debug=-1
4724
4725         # ensure we have a grant to do async writes
4726         dd if=/dev/zero of=$DIR/$tfile bs=4k count=1
4727         rm $DIR/$tfile
4728
4729         #define OBD_FAIL_OSC_BRW_PREP_REQ        0x406
4730         lctl set_param fail_loc=0x80000406
4731         $MULTIOP $DIR/$tfile Owy && \
4732                 error "sync didn't return ENOMEM"
4733         sync; sleep 2; sync     # do a real sync this time to flush page
4734         lctl get_param -n llite.*.dump_page_cache | grep locked && \
4735                 error "locked page left in cache after async error" || true
4736         debugrestore
4737 }
4738 run_test 63b "async write errors should be returned to fsync ==="
4739
4740 test_64a () {
4741         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4742         df $DIR
4743         lctl get_param -n osc.*[oO][sS][cC][_-]*.cur* | grep "[0-9]"
4744 }
4745 run_test 64a "verify filter grant calculations (in kernel) ====="
4746
4747 test_64b () {
4748         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4749         sh oos.sh $MOUNT || error "oos.sh failed: $?"
4750 }
4751 run_test 64b "check out-of-space detection on client ==========="
4752
4753 test_64c() {
4754         $LCTL set_param osc.*OST0000-osc-[^mM]*.cur_grant_bytes=0
4755 }
4756 run_test 64c "verify grant shrink ========================------"
4757
4758 # bug 1414 - set/get directories' stripe info
4759 test_65a() {
4760         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4761         test_mkdir -p $DIR/$tdir
4762         touch $DIR/$tdir/f1
4763         $LVERIFY $DIR/$tdir $DIR/$tdir/f1 || error "lverify failed"
4764 }
4765 run_test 65a "directory with no stripe info ===================="
4766
4767 test_65b() {
4768         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4769         test_mkdir -p $DIR/$tdir
4770         $SETSTRIPE -S $((STRIPESIZE * 2)) -i 0 -c 1 $DIR/$tdir ||
4771                                                 error "setstripe"
4772         touch $DIR/$tdir/f2
4773         $LVERIFY $DIR/$tdir $DIR/$tdir/f2 || error "lverify failed"
4774 }
4775 run_test 65b "directory setstripe -S $((STRIPESIZE * 2)) -i 0 -c 1"
4776
4777 test_65c() {
4778         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4779         if [ $OSTCOUNT -gt 1 ]; then
4780                 test_mkdir -p $DIR/$tdir
4781                 $SETSTRIPE -S $(($STRIPESIZE * 4)) -i 1 \
4782                         -c $(($OSTCOUNT - 1)) $DIR/$tdir || error "setstripe"
4783                 touch $DIR/$tdir/f3
4784                 $LVERIFY $DIR/$tdir $DIR/$tdir/f3 || error "lverify failed"
4785         fi
4786 }
4787 run_test 65c "directory setstripe -S $((STRIPESIZE*4)) -i 1 -c $((OSTCOUNT-1))"
4788
4789 test_65d() {
4790         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4791         test_mkdir -p $DIR/$tdir
4792         if [ $STRIPECOUNT -le 0 ]; then
4793                 sc=1
4794         elif [ $STRIPECOUNT -gt 2000 ]; then
4795 #LOV_MAX_STRIPE_COUNT is 2000
4796                 [ $OSTCOUNT -gt 2000 ] && sc=2000 || sc=$(($OSTCOUNT - 1))
4797         else
4798                 sc=$(($STRIPECOUNT - 1))
4799         fi
4800         $SETSTRIPE -S $STRIPESIZE -c $sc $DIR/$tdir || error "setstripe"
4801         touch $DIR/$tdir/f4 $DIR/$tdir/f5
4802         $LVERIFY $DIR/$tdir $DIR/$tdir/f4 $DIR/$tdir/f5 ||
4803                                                 error "lverify failed"
4804 }
4805 run_test 65d "directory setstripe -S $STRIPESIZE -c stripe_count"
4806
4807 test_65e() {
4808         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4809         test_mkdir -p $DIR/$tdir
4810
4811         $SETSTRIPE $DIR/$tdir || error "setstripe"
4812         $GETSTRIPE -v $DIR/$tdir | grep "Default" ||
4813                                         error "no stripe info failed"
4814         touch $DIR/$tdir/f6
4815         $LVERIFY $DIR/$tdir $DIR/$tdir/f6 || error "lverify failed"
4816 }
4817 run_test 65e "directory setstripe defaults ======================="
4818
4819 test_65f() {
4820         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4821         test_mkdir -p $DIR/${tdir}f
4822         $RUNAS $SETSTRIPE $DIR/${tdir}f && error "setstripe succeeded" || true
4823 }
4824 run_test 65f "dir setstripe permission (should return error) ==="
4825
4826 test_65g() {
4827         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4828         test_mkdir -p $DIR/$tdir
4829         $SETSTRIPE -S $((STRIPESIZE * 2)) -i 0 -c 1 $DIR/$tdir ||
4830                                                         error "setstripe"
4831         $SETSTRIPE -d $DIR/$tdir || error "setstripe"
4832         $GETSTRIPE -v $DIR/$tdir | grep "Default" ||
4833                 error "delete default stripe failed"
4834 }
4835 run_test 65g "directory setstripe -d ==========================="
4836
4837 test_65h() {
4838         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4839         test_mkdir -p $DIR/$tdir
4840         $SETSTRIPE -S $((STRIPESIZE * 2)) -i 0 -c 1 $DIR/$tdir ||
4841                                                         error "setstripe"
4842         test_mkdir -p $DIR/$tdir/dd1
4843         [ $($GETSTRIPE -c $DIR/$tdir) == $($GETSTRIPE -c $DIR/$tdir/dd1) ] ||
4844                 error "stripe info inherit failed"
4845 }
4846 run_test 65h "directory stripe info inherit ===================="
4847
4848 test_65i() { # bug6367
4849         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4850         $SETSTRIPE -S 65536 -c -1 $MOUNT
4851 }
4852 run_test 65i "set non-default striping on root directory (bug 6367)="
4853
4854 test_65ia() { # bug12836
4855         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4856         $GETSTRIPE $MOUNT || error "getstripe $MOUNT failed"
4857 }
4858 run_test 65ia "getstripe on -1 default directory striping"
4859
4860 test_65ib() { # bug12836
4861         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4862         $GETSTRIPE -v $MOUNT || error "getstripe -v $MOUNT failed"
4863 }
4864 run_test 65ib "getstripe -v on -1 default directory striping"
4865
4866 test_65ic() { # bug12836
4867         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4868         $LFS find -mtime -1 $MOUNT > /dev/null || error "find $MOUNT failed"
4869 }
4870 run_test 65ic "new find on -1 default directory striping"
4871
4872 test_65j() { # bug6367
4873         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4874         sync; sleep 1
4875         # if we aren't already remounting for each test, do so for this test
4876         if [ "$CLEANUP" = ":" -a "$I_MOUNTED" = "yes" ]; then
4877                 cleanup || error "failed to unmount"
4878                 setup
4879         fi
4880         $SETSTRIPE -d $MOUNT || error "setstripe failed"
4881 }
4882 run_test 65j "set default striping on root directory (bug 6367)="
4883
4884 test_65k() { # bug11679
4885         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4886         [ "$OSTCOUNT" -lt 2 ] && skip_env "too few OSTs" && return
4887         remote_mds_nodsh && skip "remote MDS with nodsh" && return
4888
4889     echo "Check OST status: "
4890     local MDS_OSCS=`do_facet $SINGLEMDS lctl dl |
4891               awk '/[oO][sS][cC].*md[ts]/ { print $4 }'`
4892
4893     for OSC in $MDS_OSCS; do
4894         echo $OSC "is activate"
4895         do_facet $SINGLEMDS lctl --device %$OSC activate
4896     done
4897
4898     mkdir -p $DIR/$tdir
4899     for INACTIVE_OSC in $MDS_OSCS; do
4900         echo "Deactivate: " $INACTIVE_OSC
4901         do_facet $SINGLEMDS lctl --device %$INACTIVE_OSC deactivate
4902         for STRIPE_OSC in $MDS_OSCS; do
4903             OST=`osc_to_ost $STRIPE_OSC`
4904             IDX=`do_facet $SINGLEMDS lctl get_param -n lov.*md*.target_obd |
4905                  awk -F: /$OST/'{ print $1 }' | head -n 1`
4906
4907             [ -f $DIR/$tdir/$IDX ] && continue
4908             echo "$SETSTRIPE -i $IDX -c 1 $DIR/$tdir/$IDX"
4909             $SETSTRIPE -i $IDX -c 1 $DIR/$tdir/$IDX
4910             RC=$?
4911             [ $RC -ne 0 ] && error "setstripe should have succeeded"
4912         done
4913         rm -f $DIR/$tdir/*
4914         echo $INACTIVE_OSC "is Activate."
4915         do_facet $SINGLEMDS lctl --device  %$INACTIVE_OSC activate
4916     done
4917 }
4918 run_test 65k "validate manual striping works properly with deactivated OSCs"
4919
4920 test_65l() { # bug 12836
4921         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4922         test_mkdir -p $DIR/$tdir/test_dir
4923         $SETSTRIPE -c -1 $DIR/$tdir/test_dir
4924         $LFS find -mtime -1 $DIR/$tdir >/dev/null
4925 }
4926 run_test 65l "lfs find on -1 stripe dir ========================"
4927
4928 # bug 2543 - update blocks count on client
4929 test_66() {
4930         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4931         COUNT=${COUNT:-8}
4932         dd if=/dev/zero of=$DIR/f66 bs=1k count=$COUNT
4933         sync; sync_all_data; sync; sync_all_data
4934         cancel_lru_locks osc
4935         BLOCKS=`ls -s $DIR/f66 | awk '{ print $1 }'`
4936         [ $BLOCKS -ge $COUNT ] || error "$DIR/f66 blocks $BLOCKS < $COUNT"
4937 }
4938 run_test 66 "update inode blocks count on client ==============="
4939
4940 LLOOP=
4941 LLITELOOPLOAD=
4942 cleanup_68() {
4943         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4944         trap 0
4945         if [ ! -z "$LLOOP" ]; then
4946                 if swapon -s | grep -q $LLOOP; then
4947                         swapoff $LLOOP || error "swapoff failed"
4948                 fi
4949
4950                 $LCTL blockdev_detach $LLOOP || error "detach failed"
4951                 rm -f $LLOOP
4952                 unset LLOOP
4953         fi
4954         if [ ! -z "$LLITELOOPLOAD" ]; then
4955                 rmmod llite_lloop
4956                 unset LLITELOOPLOAD
4957         fi
4958         rm -f $DIR/f68*
4959 }
4960
4961 meminfo() {
4962         awk '($1 == "'$1':") { print $2 }' /proc/meminfo
4963 }
4964
4965 swap_used() {
4966         swapon -s | awk '($1 == "'$1'") { print $4 }'
4967 }
4968
4969 # test case for lloop driver, basic function
4970 test_68a() {
4971         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
4972         [ "$UID" != 0 ] && skip_env "must run as root" && return
4973         llite_lloop_enabled || \
4974                 { skip_env "llite_lloop module disabled" && return; }
4975
4976         trap cleanup_68 EXIT
4977
4978         if ! module_loaded llite_lloop; then
4979                 if load_module llite/llite_lloop; then
4980                         LLITELOOPLOAD=yes
4981                 else
4982                         skip_env "can't find module llite_lloop"
4983                         return
4984                 fi
4985         fi
4986
4987         LLOOP=$TMP/lloop.`date +%s`.`date +%N`
4988         dd if=/dev/zero of=$DIR/f68a bs=4k count=1024
4989         $LCTL blockdev_attach $DIR/f68a $LLOOP || error "attach failed"
4990
4991         directio rdwr $LLOOP 0 1024 4096 || error "direct write failed"
4992         directio rdwr $LLOOP 0 1025 4096 && error "direct write should fail"
4993
4994         cleanup_68
4995 }
4996 run_test 68a "lloop driver - basic test ========================"
4997
4998 # excercise swapping to lustre by adding a high priority swapfile entry
4999 # and then consuming memory until it is used.
5000 test_68b() {  # was test_68
5001         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5002         [ "$UID" != 0 ] && skip_env "must run as root" && return
5003         lctl get_param -n devices | grep -q obdfilter && \
5004                 skip "local OST" && return
5005
5006         grep -q llite_lloop /proc/modules
5007         [ $? -ne 0 ] && skip "can't find module llite_lloop" && return
5008
5009         [ -z "`$LCTL list_nids | grep -v tcp`" ] && \
5010                 skip "can't reliably test swap with TCP" && return
5011
5012         MEMTOTAL=`meminfo MemTotal`
5013         NR_BLOCKS=$((MEMTOTAL>>8))
5014         [[ $NR_BLOCKS -le 2048 ]] && NR_BLOCKS=2048
5015
5016         LLOOP=$TMP/lloop.`date +%s`.`date +%N`
5017         dd if=/dev/zero of=$DIR/f68b bs=64k seek=$NR_BLOCKS count=1
5018         mkswap $DIR/f68b
5019
5020         $LCTL blockdev_attach $DIR/f68b $LLOOP || error "attach failed"
5021
5022         trap cleanup_68 EXIT
5023
5024         swapon -p 32767 $LLOOP || error "swapon $LLOOP failed"
5025
5026         echo "before: `swapon -s | grep $LLOOP`"
5027         $MEMHOG $MEMTOTAL || error "error allocating $MEMTOTAL kB"
5028         echo "after: `swapon -s | grep $LLOOP`"
5029         SWAPUSED=`swap_used $LLOOP`
5030
5031         cleanup_68
5032
5033         [ $SWAPUSED -eq 0 ] && echo "no swap used???" || true
5034 }
5035 run_test 68b "support swapping to Lustre ========================"
5036
5037 # bug5265, obdfilter oa2dentry return -ENOENT
5038 # #define OBD_FAIL_OST_ENOENT 0x217
5039 test_69() {
5040         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5041         remote_ost_nodsh && skip "remote OST with nodsh" && return
5042
5043         f="$DIR/$tfile"
5044         $SETSTRIPE -c 1 -i 0 $f
5045
5046         $DIRECTIO write ${f}.2 0 1 || error "directio write error"
5047
5048         do_facet ost1 lctl set_param fail_loc=0x217
5049         $TRUNCATE $f 1 # vmtruncate() will ignore truncate() error.
5050         $DIRECTIO write $f 0 2 && error "write succeeded, expect -ENOENT"
5051
5052         do_facet ost1 lctl set_param fail_loc=0
5053         $DIRECTIO write $f 0 2 || error "write error"
5054
5055         cancel_lru_locks osc
5056         $DIRECTIO read $f 0 1 || error "read error"
5057
5058         do_facet ost1 lctl set_param fail_loc=0x217
5059         $DIRECTIO read $f 1 1 && error "read succeeded, expect -ENOENT"
5060
5061         do_facet ost1 lctl set_param fail_loc=0
5062         rm -f $f
5063 }
5064 run_test 69 "verify oa2dentry return -ENOENT doesn't LBUG ======"
5065
5066 test_71() {
5067     test_mkdir -p $DIR/$tdir
5068     sh rundbench -C -D $DIR/$tdir 2 || error "dbench failed!"
5069 }
5070 run_test 71 "Running dbench on lustre (don't segment fault) ===="
5071
5072 test_72a() { # bug 5695 - Test that on 2.6 remove_suid works properly
5073         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5074         [ "$RUNAS_ID" = "$UID" ] &&
5075                 skip_env "RUNAS_ID = UID = $UID -- skipping" && return
5076
5077         # Check that testing environment is properly set up. Skip if not
5078         FAIL_ON_ERROR=false check_runas_id_ret $RUNAS_ID $RUNAS_GID $RUNAS || {
5079                 skip_env "User $RUNAS_ID does not exist - skipping"
5080                 return 0
5081         }
5082         # We had better clear the $DIR to get enough space for dd
5083         rm -rf $DIR/*
5084         touch $DIR/$tfile
5085         chmod 777 $DIR/$tfile
5086         chmod ug+s $DIR/$tfile
5087         $RUNAS dd if=/dev/zero of=$DIR/$tfile bs=512 count=1 ||
5088                 error "$RUNAS dd $DIR/$tfile failed"
5089         # See if we are still setuid/sgid
5090         test -u $DIR/$tfile -o -g $DIR/$tfile &&
5091                 error "S/gid is not dropped on write"
5092         # Now test that MDS is updated too
5093         cancel_lru_locks mdc
5094         test -u $DIR/$tfile -o -g $DIR/$tfile &&
5095                 error "S/gid is not dropped on MDS"
5096         rm -f $DIR/$tfile
5097 }
5098 run_test 72a "Test that remove suid works properly (bug5695) ===="
5099
5100 test_72b() { # bug 24226 -- keep mode setting when size is not changing
5101         local perm
5102
5103         [ "$RUNAS_ID" = "$UID" ] && \
5104                 skip_env "RUNAS_ID = UID = $UID -- skipping" && return
5105         [ "$RUNAS_ID" -eq 0 ] && \
5106                 skip_env "RUNAS_ID = 0 -- skipping" && return
5107
5108         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5109         # Check that testing environment is properly set up. Skip if not
5110         FAIL_ON_ERROR=false check_runas_id_ret $RUNAS_ID $RUNAS_ID $RUNAS || {
5111                 skip_env "User $RUNAS_ID does not exist - skipping"
5112                 return 0
5113         }
5114         touch $DIR/${tfile}-f{g,u}
5115         test_mkdir $DIR/${tfile}-dg
5116         test_mkdir $DIR/${tfile}-du
5117         chmod 770 $DIR/${tfile}-{f,d}{g,u}
5118         chmod g+s $DIR/${tfile}-{f,d}g
5119         chmod u+s $DIR/${tfile}-{f,d}u
5120         for perm in 777 2777 4777; do
5121                 $RUNAS chmod $perm $DIR/${tfile}-fg && error "S/gid file allowed improper chmod to $perm"
5122                 $RUNAS chmod $perm $DIR/${tfile}-fu && error "S/uid file allowed improper chmod to $perm"
5123                 $RUNAS chmod $perm $DIR/${tfile}-dg && error "S/gid dir allowed improper chmod to $perm"
5124                 $RUNAS chmod $perm $DIR/${tfile}-du && error "S/uid dir allowed improper chmod to $perm"
5125         done
5126         true
5127 }
5128 run_test 72b "Test that we keep mode setting if without file data changed (bug 24226)"
5129
5130 # bug 3462 - multiple simultaneous MDC requests
5131 test_73() {
5132         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5133         test_mkdir $DIR/d73-1
5134         test_mkdir $DIR/d73-2
5135         multiop_bg_pause $DIR/d73-1/f73-1 O_c || return 1
5136         pid1=$!
5137
5138         lctl set_param fail_loc=0x80000129
5139         $MULTIOP $DIR/d73-1/f73-2 Oc &
5140         sleep 1
5141         lctl set_param fail_loc=0
5142
5143         $MULTIOP $DIR/d73-2/f73-3 Oc &
5144         pid3=$!
5145
5146         kill -USR1 $pid1
5147         wait $pid1 || return 1
5148
5149         sleep 25
5150
5151         $CHECKSTAT -t file $DIR/d73-1/f73-1 || return 4
5152         $CHECKSTAT -t file $DIR/d73-1/f73-2 || return 5
5153         $CHECKSTAT -t file $DIR/d73-2/f73-3 || return 6
5154
5155         rm -rf $DIR/d73-*
5156 }
5157 run_test 73 "multiple MDC requests (should not deadlock)"
5158
5159 test_74a() { # bug 6149, 6184
5160         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5161         #define OBD_FAIL_LDLM_ENQUEUE_OLD_EXPORT 0x30e
5162         #
5163         # very important to OR with OBD_FAIL_ONCE (0x80000000) -- otherwise it
5164         # will spin in a tight reconnection loop
5165         touch $DIR/f74a
5166         lctl set_param fail_loc=0x8000030e
5167         # get any lock that won't be difficult - lookup works.
5168         ls $DIR/f74a
5169         lctl set_param fail_loc=0
5170         true
5171         rm -f $DIR/f74a
5172 }
5173 run_test 74a "ldlm_enqueue freed-export error path, ls (shouldn't LBUG)"
5174
5175 test_74b() { # bug 13310
5176         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5177         #define OBD_FAIL_LDLM_ENQUEUE_OLD_EXPORT 0x30e
5178         #
5179         # very important to OR with OBD_FAIL_ONCE (0x80000000) -- otherwise it
5180         # will spin in a tight reconnection loop
5181         lctl set_param fail_loc=0x8000030e
5182         # get a "difficult" lock
5183         touch $DIR/f74b
5184         lctl set_param fail_loc=0
5185         true
5186         rm -f $DIR/f74b
5187 }
5188 run_test 74b "ldlm_enqueue freed-export error path, touch (shouldn't LBUG)"
5189
5190 test_74c() {
5191         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5192 #define OBD_FAIL_LDLM_NEW_LOCK
5193         lctl set_param fail_loc=0x80000319
5194         touch $DIR/$tfile && error "Touch successful"
5195         true
5196 }
5197 run_test 74c "ldlm_lock_create error path, (shouldn't LBUG)"
5198
5199 num_inodes() {
5200         awk '/lustre_inode_cache/ {print $2; exit}' /proc/slabinfo
5201 }
5202
5203 get_inode_slab_tunables() {
5204         awk '/lustre_inode_cache/ {print $9," ",$10," ",$11; exit}' /proc/slabinfo
5205 }
5206
5207 set_inode_slab_tunables() {
5208         echo "lustre_inode_cache $1" > /proc/slabinfo
5209 }
5210
5211 test_76() { # Now for bug 20433, added originally in bug 1443
5212         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5213         local SLAB_SETTINGS=`get_inode_slab_tunables`
5214         local CPUS=`getconf _NPROCESSORS_ONLN`
5215         # we cannot set limit below 1 which means 1 inode in each
5216         # per-cpu cache is still allowed
5217         set_inode_slab_tunables "1 1 0"
5218         cancel_lru_locks osc
5219         BEFORE_INODES=`num_inodes`
5220         echo "before inodes: $BEFORE_INODES"
5221         local COUNT=1000
5222         [ "$SLOW" = "no" ] && COUNT=100
5223         for i in `seq $COUNT`; do
5224                 touch $DIR/$tfile
5225                 rm -f $DIR/$tfile
5226         done
5227         cancel_lru_locks osc
5228         AFTER_INODES=`num_inodes`
5229         echo "after inodes: $AFTER_INODES"
5230         local wait=0
5231         while [ $((AFTER_INODES-1*CPUS)) -gt $BEFORE_INODES ]; do
5232                 sleep 2
5233                 AFTER_INODES=`num_inodes`
5234                 wait=$((wait+2))
5235                 echo "wait $wait seconds inodes: $AFTER_INODES"
5236                 if [ $wait -gt 30 ]; then
5237                         error "inode slab grew from $BEFORE_INODES to $AFTER_INODES"
5238                 fi
5239         done
5240         set_inode_slab_tunables "$SLAB_SETTINGS"
5241 }
5242 run_test 76 "confirm clients recycle inodes properly ===="
5243
5244
5245 export ORIG_CSUM=""
5246 set_checksums()
5247 {
5248         # Note: in sptlrpc modes which enable its own bulk checksum, the
5249         # original crc32_le bulk checksum will be automatically disabled,
5250         # and the OBD_FAIL_OSC_CHECKSUM_SEND/OBD_FAIL_OSC_CHECKSUM_RECEIVE
5251         # will be checked by sptlrpc code against sptlrpc bulk checksum.
5252         # In this case set_checksums() will not be no-op, because sptlrpc
5253         # bulk checksum will be enabled all through the test.
5254
5255         [ "$ORIG_CSUM" ] || ORIG_CSUM=`lctl get_param -n osc.*.checksums | head -n1`
5256         lctl set_param -n osc.*.checksums $1
5257         return 0
5258 }
5259
5260 export ORIG_CSUM_TYPE="`lctl get_param -n osc.*osc-[^mM]*.checksum_type |
5261                         sed 's/.*\[\(.*\)\].*/\1/g' | head -n1`"
5262 CKSUM_TYPES=${CKSUM_TYPES:-"crc32 adler"}
5263 [ "$ORIG_CSUM_TYPE" = "crc32c" ] && CKSUM_TYPES="$CKSUM_TYPES crc32c"
5264 set_checksum_type()
5265 {
5266         lctl set_param -n osc.*osc-[^mM]*.checksum_type $1
5267         log "set checksum type to $1"
5268         return 0
5269 }
5270 F77_TMP=$TMP/f77-temp
5271 F77SZ=8
5272 setup_f77() {
5273         dd if=/dev/urandom of=$F77_TMP bs=1M count=$F77SZ || \
5274                 error "error writing to $F77_TMP"
5275 }
5276
5277 test_77a() { # bug 10889
5278         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5279         $GSS && skip "could not run with gss" && return
5280         [ ! -f $F77_TMP ] && setup_f77
5281         set_checksums 1
5282         dd if=$F77_TMP of=$DIR/$tfile bs=1M count=$F77SZ || error "dd error"
5283         set_checksums 0
5284         rm -f $DIR/$tfile
5285 }
5286 run_test 77a "normal checksum read/write operation"
5287
5288 test_77b() { # bug 10889
5289         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5290         $GSS && skip "could not run with gss" && return
5291         [ ! -f $F77_TMP ] && setup_f77
5292         #define OBD_FAIL_OSC_CHECKSUM_SEND       0x409
5293         $LCTL set_param fail_loc=0x80000409
5294         set_checksums 1
5295
5296         dd if=$F77_TMP of=$DIR/$tfile bs=1M count=$F77SZ conv=sync ||
5297                 error "dd error: $?"
5298         $LCTL set_param fail_loc=0
5299
5300         for algo in $CKSUM_TYPES; do
5301                 cancel_lru_locks osc
5302                 set_checksum_type $algo
5303                 #define OBD_FAIL_OSC_CHECKSUM_RECEIVE    0x408
5304                 $LCTL set_param fail_loc=0x80000408
5305                 cmp $F77_TMP $DIR/$tfile || error "file compare failed"
5306                 $LCTL set_param fail_loc=0
5307         done
5308         set_checksums 0
5309         set_checksum_type $ORIG_CSUM_TYPE
5310         rm -f $DIR/$tfile
5311 }
5312 run_test 77b "checksum error on client write, read"
5313
5314 test_77d() { # bug 10889
5315         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5316         $GSS && skip "could not run with gss" && return
5317         #define OBD_FAIL_OSC_CHECKSUM_SEND       0x409
5318         $LCTL set_param fail_loc=0x80000409
5319         set_checksums 1
5320         $DIRECTIO write $DIR/$tfile 0 $F77SZ $((1024 * 1024)) ||
5321                 error "direct write: rc=$?"
5322         $LCTL set_param fail_loc=0
5323         set_checksums 0
5324
5325         #define OBD_FAIL_OSC_CHECKSUM_RECEIVE    0x408
5326         $LCTL set_param fail_loc=0x80000408
5327         set_checksums 1
5328         cancel_lru_locks osc
5329         $DIRECTIO read $DIR/$tfile 0 $F77SZ $((1024 * 1024)) ||
5330                 error "direct read: rc=$?"
5331         $LCTL set_param fail_loc=0
5332         set_checksums 0
5333 }
5334 run_test 77d "checksum error on OST direct write, read"
5335
5336 test_77f() { # bug 10889
5337         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5338         $GSS && skip "could not run with gss" && return
5339         set_checksums 1
5340         for algo in $CKSUM_TYPES; do
5341                 cancel_lru_locks osc
5342                 set_checksum_type $algo
5343                 #define OBD_FAIL_OSC_CHECKSUM_SEND       0x409
5344                 $LCTL set_param fail_loc=0x409
5345                 $DIRECTIO write $DIR/$tfile 0 $F77SZ $((1024 * 1024)) &&
5346                         error "direct write succeeded"
5347                 $LCTL set_param fail_loc=0
5348         done
5349         set_checksum_type $ORIG_CSUM_TYPE
5350         set_checksums 0
5351 }
5352 run_test 77f "repeat checksum error on write (expect error)"
5353
5354 test_77g() { # bug 10889
5355         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5356         $GSS && skip "could not run with gss" && return
5357         remote_ost_nodsh && skip "remote OST with nodsh" && return
5358
5359         [ ! -f $F77_TMP ] && setup_f77
5360
5361         $SETSTRIPE -c 1 -i 0 $DIR/$tfile
5362         #define OBD_FAIL_OST_CHECKSUM_RECEIVE       0x21a
5363         do_facet ost1 lctl set_param fail_loc=0x8000021a
5364         set_checksums 1
5365         dd if=$F77_TMP of=$DIR/$tfile bs=1M count=$F77SZ ||
5366                 error "write error: rc=$?"
5367         do_facet ost1 lctl set_param fail_loc=0
5368         set_checksums 0
5369
5370         cancel_lru_locks osc
5371         #define OBD_FAIL_OST_CHECKSUM_SEND          0x21b
5372         do_facet ost1 lctl set_param fail_loc=0x8000021b
5373         set_checksums 1
5374         cmp $F77_TMP $DIR/$tfile || error "file compare failed"
5375         do_facet ost1 lctl set_param fail_loc=0
5376         set_checksums 0
5377 }
5378 run_test 77g "checksum error on OST write, read"
5379
5380 test_77i() { # bug 13805
5381         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5382         $GSS && skip "could not run with gss" && return
5383         #define OBD_FAIL_OSC_CONNECT_CKSUM       0x40b
5384         lctl set_param fail_loc=0x40b
5385         remount_client $MOUNT
5386         lctl set_param fail_loc=0
5387         for VALUE in `lctl get_param osc.*osc-[^mM]*.checksum_type`; do
5388                 PARAM=`echo ${VALUE[0]} | cut -d "=" -f1`
5389                 algo=`lctl get_param -n $PARAM | sed 's/.*\[\(.*\)\].*/\1/g'`
5390                 [ "$algo" = "adler" ] || error "algo set to $algo instead of adler"
5391         done
5392         remount_client $MOUNT
5393 }
5394 run_test 77i "client not supporting OSD_CONNECT_CKSUM"
5395
5396 test_77j() { # bug 13805
5397         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5398         $GSS && skip "could not run with gss" && return
5399         #define OBD_FAIL_OSC_CKSUM_ADLER_ONLY    0x40c
5400         lctl set_param fail_loc=0x40c
5401         remount_client $MOUNT
5402         lctl set_param fail_loc=0
5403         sleep 2 # wait async osc connect to finish
5404         for VALUE in `lctl get_param osc.*osc-[^mM]*.checksum_type`; do
5405                 PARAM=`echo ${VALUE[0]} | cut -d "=" -f1`
5406                 algo=`lctl get_param -n $PARAM | sed 's/.*\[\(.*\)\].*/\1/g'`
5407                 [ "$algo" = "adler" ] || error "algo set to $algo instead of adler"
5408         done
5409         remount_client $MOUNT
5410 }
5411 run_test 77j "client only supporting ADLER32"
5412
5413 [ "$ORIG_CSUM" ] && set_checksums $ORIG_CSUM || true
5414 rm -f $F77_TMP
5415 unset F77_TMP
5416
5417 test_78() { # bug 10901
5418         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5419         remote_ost || { skip_env "local OST" && return; }
5420
5421         NSEQ=5
5422         F78SIZE=$(($(awk '/MemFree:/ { print $2 }' /proc/meminfo) / 1024))
5423         echo "MemFree: $F78SIZE, Max file size: $MAXFREE"
5424         MEMTOTAL=$(($(awk '/MemTotal:/ { print $2 }' /proc/meminfo) / 1024))
5425         echo "MemTotal: $MEMTOTAL"
5426 # reserve 256MB of memory for the kernel and other running processes,
5427 # and then take 1/2 of the remaining memory for the read/write buffers.
5428     if [ $MEMTOTAL -gt 512 ] ;then
5429         MEMTOTAL=$(((MEMTOTAL - 256 ) / 2))
5430     else
5431         # for those poor memory-starved high-end clusters...
5432         MEMTOTAL=$((MEMTOTAL / 2))
5433     fi
5434         echo "Mem to use for directio: $MEMTOTAL"
5435         [ $F78SIZE -gt $MEMTOTAL ] && F78SIZE=$MEMTOTAL
5436         [ $F78SIZE -gt 512 ] && F78SIZE=512
5437         [ $F78SIZE -gt $((MAXFREE / 1024)) ] && F78SIZE=$((MAXFREE / 1024))
5438         SMALLESTOST=`lfs df $DIR |grep OST | awk '{print $4}' |sort -n |head -1`
5439         echo "Smallest OST: $SMALLESTOST"
5440         [ $SMALLESTOST -lt 10240 ] && \
5441                 skip "too small OSTSIZE, useless to run large O_DIRECT test" && return 0
5442
5443         [ $F78SIZE -gt $((SMALLESTOST * $OSTCOUNT / 1024 - 80)) ] && \
5444                 F78SIZE=$((SMALLESTOST * $OSTCOUNT / 1024 - 80))
5445
5446         [ "$SLOW" = "no" ] && NSEQ=1 && [ $F78SIZE -gt 32 ] && F78SIZE=32
5447         echo "File size: $F78SIZE"
5448         $SETSTRIPE -c $OSTCOUNT $DIR/$tfile || error "setstripe failed"
5449         for i in `seq 1 $NSEQ`
5450         do
5451                 FSIZE=$(($F78SIZE / ($NSEQ - $i + 1)))
5452                 echo directIO rdwr round $i of $NSEQ
5453                 $DIRECTIO rdwr $DIR/$tfile 0 $FSIZE 1048576||error "rdwr failed"
5454         done
5455
5456         rm -f $DIR/$tfile
5457 }
5458 run_test 78 "handle large O_DIRECT writes correctly ============"
5459
5460 test_79() { # bug 12743
5461         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5462         wait_delete_completed
5463
5464         BKTOTAL=$(calc_osc_kbytes kbytestotal)
5465         BKFREE=$(calc_osc_kbytes kbytesfree)
5466         BKAVAIL=$(calc_osc_kbytes kbytesavail)
5467
5468         STRING=`df -P $MOUNT | tail -n 1 | awk '{print $2","$3","$4}'`
5469         DFTOTAL=`echo $STRING | cut -d, -f1`
5470         DFUSED=`echo $STRING  | cut -d, -f2`
5471         DFAVAIL=`echo $STRING | cut -d, -f3`
5472         DFFREE=$(($DFTOTAL - $DFUSED))
5473
5474         ALLOWANCE=$((64 * $OSTCOUNT))
5475
5476         if [ $DFTOTAL -lt $(($BKTOTAL - $ALLOWANCE)) ] ||
5477            [ $DFTOTAL -gt $(($BKTOTAL + $ALLOWANCE)) ] ; then
5478                 error "df total($DFTOTAL) mismatch OST total($BKTOTAL)"
5479         fi
5480         if [ $DFFREE -lt $(($BKFREE - $ALLOWANCE)) ] ||
5481            [ $DFFREE -gt $(($BKFREE + $ALLOWANCE)) ] ; then
5482                 error "df free($DFFREE) mismatch OST free($BKFREE)"
5483         fi
5484         if [ $DFAVAIL -lt $(($BKAVAIL - $ALLOWANCE)) ] ||
5485            [ $DFAVAIL -gt $(($BKAVAIL + $ALLOWANCE)) ] ; then
5486                 error "df avail($DFAVAIL) mismatch OST avail($BKAVAIL)"
5487         fi
5488 }
5489 run_test 79 "df report consistency check ======================="
5490
5491 test_80() { # bug 10718
5492         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5493         # relax strong synchronous semantics for slow backends like ZFS
5494         local soc="obdfilter.*.sync_on_lock_cancel"
5495         local soc_old=$(do_facet ost1 lctl get_param -n $soc | head -n1)
5496         local hosts=
5497         if [ "$soc_old" != "never" -a "$(facet_fstype ost1)" != "ldiskfs" ]; then
5498                 hosts=$(for host in $(seq -f "ost%g" 1 $OSTCOUNT); do
5499                           facet_active_host $host; done | sort -u)
5500                 do_nodes $hosts lctl set_param $soc=never
5501         fi
5502
5503         dd if=/dev/zero of=$DIR/$tfile bs=1M count=1 seek=1M
5504         sync; sleep 1; sync
5505         local BEFORE=`date +%s`
5506         cancel_lru_locks osc
5507         local AFTER=`date +%s`
5508         local DIFF=$((AFTER-BEFORE))
5509         if [ $DIFF -gt 1 ] ; then
5510                 error "elapsed for 1M@1T = $DIFF"
5511         fi
5512
5513         [ -n "$hosts" ] && do_nodes $hosts lctl set_param $soc=$soc_old
5514
5515         rm -f $DIR/$tfile
5516 }
5517 run_test 80 "Page eviction is equally fast at high offsets too  ===="
5518
5519 test_81a() { # LU-456
5520         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5521         remote_ost_nodsh && skip "remote OST with nodsh" && return
5522         # define OBD_FAIL_OST_MAPBLK_ENOSPC    0x228
5523         # MUST OR with the OBD_FAIL_ONCE (0x80000000)
5524         do_facet ost1 lctl set_param fail_loc=0x80000228
5525
5526         # write should trigger a retry and success
5527         $SETSTRIPE -i 0 -c 1 $DIR/$tfile
5528         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
5529         RC=$?
5530         if [ $RC -ne 0 ] ; then
5531                 error "write should success, but failed for $RC"
5532         fi
5533 }
5534 run_test 81a "OST should retry write when get -ENOSPC ==============="
5535
5536 test_81b() { # LU-456
5537         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5538         remote_ost_nodsh && skip "remote OST with nodsh" && return
5539         # define OBD_FAIL_OST_MAPBLK_ENOSPC    0x228
5540         # Don't OR with the OBD_FAIL_ONCE (0x80000000)
5541         do_facet ost1 lctl set_param fail_loc=0x228
5542
5543         # write should retry several times and return -ENOSPC finally
5544         $SETSTRIPE -i 0 -c 1 $DIR/$tfile
5545         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
5546         RC=$?
5547         ENOSPC=28
5548         if [ $RC -ne $ENOSPC ] ; then
5549                 error "dd should fail for -ENOSPC, but succeed."
5550         fi
5551 }
5552 run_test 81b "OST should return -ENOSPC when retry still fails ======="
5553
5554 test_82() { # LU-1031
5555         dd if=/dev/zero of=$DIR/$tfile bs=1M count=10
5556         local gid1=14091995
5557         local gid2=16022000
5558
5559         multiop_bg_pause $DIR/$tfile OG${gid1}_g${gid1}c || return 1
5560         local MULTIPID1=$!
5561         multiop_bg_pause $DIR/$tfile O_G${gid2}r10g${gid2}c || return 2
5562         local MULTIPID2=$!
5563         kill -USR1 $MULTIPID2
5564         sleep 2
5565         if [[ `ps h -o comm -p $MULTIPID2` == "" ]]; then
5566                 error "First grouplock does not block second one"
5567         else
5568                 echo "Second grouplock blocks first one"
5569         fi
5570         kill -USR1 $MULTIPID1
5571         wait $MULTIPID1
5572         wait $MULTIPID2
5573 }
5574 run_test 82 "Basic grouplock test ==============================="
5575
5576 test_99a() {
5577         [ -z "$(which cvs 2>/dev/null)" ] && skip_env "could not find cvs" &&
5578                 return
5579         test_mkdir -p $DIR/d99cvsroot
5580         chown $RUNAS_ID $DIR/d99cvsroot
5581         local oldPWD=$PWD       # bug 13584, use $TMP as working dir
5582         cd $TMP
5583
5584         $RUNAS cvs -d $DIR/d99cvsroot init || error "cvs init failed"
5585         cd $oldPWD
5586 }
5587 run_test 99a "cvs init ========================================="
5588
5589 test_99b() {
5590         [ -z "$(which cvs 2>/dev/null)" ] &&
5591                 skip_env "could not find cvs" && return
5592         [ ! -d $DIR/d99cvsroot ] && test_99a
5593         cd /etc/init.d
5594         # some versions of cvs import exit(1) when asked to import links or
5595         # files they can't read.  ignore those files.
5596         TOIGNORE=$(find . -type l -printf '-I %f\n' -o \
5597                         ! -perm +4 -printf '-I %f\n')
5598         $RUNAS cvs -d $DIR/d99cvsroot import -m "nomesg" $TOIGNORE \
5599                 d99reposname vtag rtag
5600 }
5601 run_test 99b "cvs import ======================================="
5602
5603 test_99c() {
5604         [ -z "$(which cvs 2>/dev/null)" ] && skip_env "could not find cvs" && return
5605         [ ! -d $DIR/d99cvsroot ] && test_99b
5606         cd $DIR
5607         test_mkdir -p $DIR/d99reposname
5608         chown $RUNAS_ID $DIR/d99reposname
5609         $RUNAS cvs -d $DIR/d99cvsroot co d99reposname
5610 }
5611 run_test 99c "cvs checkout ====================================="
5612
5613 test_99d() {
5614         [ -z "$(which cvs 2>/dev/null)" ] && skip_env "could not find cvs" && return
5615         [ ! -d $DIR/d99cvsroot ] && test_99c
5616         cd $DIR/d99reposname
5617         $RUNAS touch foo99
5618         $RUNAS cvs add -m 'addmsg' foo99
5619 }
5620 run_test 99d "cvs add =========================================="
5621
5622 test_99e() {
5623         [ -z "$(which cvs 2>/dev/null)" ] && skip_env "could not find cvs" && return
5624         [ ! -d $DIR/d99cvsroot ] && test_99c
5625         cd $DIR/d99reposname
5626         $RUNAS cvs update
5627 }
5628 run_test 99e "cvs update ======================================="
5629
5630 test_99f() {
5631         [ -z "$(which cvs 2>/dev/null)" ] && skip_env "could not find cvs" && return
5632         [ ! -d $DIR/d99cvsroot ] && test_99d
5633         cd $DIR/d99reposname
5634         $RUNAS cvs commit -m 'nomsg' foo99
5635     rm -fr $DIR/d99cvsroot
5636 }
5637 run_test 99f "cvs commit ======================================="
5638
5639 test_100() {
5640         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5641         [ "$NETTYPE" = tcp ] || \
5642                 { skip "TCP secure port test, not useful for NETTYPE=$NETTYPE" && \
5643                         return ; }
5644
5645         remote_ost_nodsh && skip "remote OST with nodsh" && return
5646         remote_mds_nodsh && skip "remote MDS with nodsh" && return
5647         remote_servers || \
5648                 { skip "useless for local single node setup" && return; }
5649
5650         netstat -tna | ( rc=1; while read PROT SND RCV LOCAL REMOTE STAT; do
5651                 [ "$PROT" != "tcp" ] && continue
5652                 RPORT=$(echo $REMOTE | cut -d: -f2)
5653                 [ "$RPORT" != "$ACCEPTOR_PORT" ] && continue
5654
5655                 rc=0
5656                 LPORT=`echo $LOCAL | cut -d: -f2`
5657                 if [ $LPORT -ge 1024 ]; then
5658                         echo "bad: $PROT $SND $RCV $LOCAL $REMOTE $STAT"
5659                         netstat -tna
5660                         error_exit "local: $LPORT > 1024, remote: $RPORT"
5661                 fi
5662         done
5663         [ "$rc" = 0 ] || error_exit "privileged port not found" )
5664 }
5665 run_test 100 "check local port using privileged port ==========="
5666
5667 function get_named_value()
5668 {
5669     local tag
5670
5671     tag=$1
5672     while read ;do
5673         line=$REPLY
5674         case $line in
5675         $tag*)
5676             echo $line | sed "s/^$tag[ ]*//"
5677             break
5678             ;;
5679         esac
5680     done
5681 }
5682
5683 export CACHE_MAX=$($LCTL get_param -n llite.*.max_cached_mb |
5684                    awk '/^max_cached_mb/ { print $2 }')
5685
5686 cleanup_101a() {
5687         $LCTL set_param -n llite.*.max_cached_mb $CACHE_MAX
5688         trap 0
5689 }
5690
5691 test_101a() {
5692         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5693         local s
5694         local discard
5695         local nreads=10000
5696         local cache_limit=32
5697
5698         $LCTL set_param -n osc.*-osc*.rpc_stats 0
5699         trap cleanup_101a EXIT
5700         $LCTL set_param -n llite.*.read_ahead_stats 0
5701         $LCTL set_param -n llite.*.max_cached_mb $cache_limit
5702
5703         #
5704         # randomly read 10000 of 64K chunks from file 3x 32MB in size
5705         #
5706         echo "nreads: $nreads file size: $((cache_limit * 3))MB"
5707         $READS -f $DIR/$tfile -s$((cache_limit * 3192 * 1024)) -b65536 -C -n$nreads -t 180
5708
5709         discard=0
5710         for s in `$LCTL get_param -n llite.*.read_ahead_stats | \
5711                 get_named_value 'read but discarded' | cut -d" " -f1`; do
5712                         discard=$(($discard + $s))
5713         done
5714         cleanup_101a
5715
5716         if [ $(($discard * 10)) -gt $nreads ] ;then
5717                 $LCTL get_param osc.*-osc*.rpc_stats
5718                 $LCTL get_param llite.*.read_ahead_stats
5719                 error "too many ($discard) discarded pages"
5720         fi
5721         rm -f $DIR/$tfile || true
5722 }
5723 run_test 101a "check read-ahead for random reads ================"
5724
5725 setup_test101bc() {
5726         test_mkdir -p $DIR/$tdir
5727         STRIPE_SIZE=1048576
5728         STRIPE_COUNT=$OSTCOUNT
5729         STRIPE_OFFSET=0
5730
5731         local list=$(comma_list $(osts_nodes))
5732         set_osd_param $list '' read_cache_enable 0
5733         set_osd_param $list '' writethrough_cache_enable 0
5734
5735         trap cleanup_test101bc EXIT
5736         # prepare the read-ahead file
5737         $SETSTRIPE -S $STRIPE_SIZE -i $STRIPE_OFFSET -c $OSTCOUNT $DIR/$tfile
5738
5739         dd if=/dev/zero of=$DIR/$tfile bs=1024k count=100 2> /dev/null
5740 }
5741
5742 cleanup_test101bc() {
5743         trap 0
5744         rm -rf $DIR/$tdir
5745         rm -f $DIR/$tfile
5746
5747         local list=$(comma_list $(osts_nodes))
5748         set_osd_param $list '' read_cache_enable 1
5749         set_osd_param $list '' writethrough_cache_enable 1
5750 }
5751
5752 calc_total() {
5753         awk 'BEGIN{total=0}; {total+=$1}; END{print total}'
5754 }
5755
5756 ra_check_101() {
5757         local READ_SIZE=$1
5758         local STRIPE_SIZE=1048576
5759         local RA_INC=1048576
5760         local STRIDE_LENGTH=$((STRIPE_SIZE/READ_SIZE))
5761         local FILE_LENGTH=$((64*100))
5762         local discard_limit=$((((STRIDE_LENGTH - 1)*3/(STRIDE_LENGTH*OSTCOUNT))* \
5763                              (STRIDE_LENGTH*OSTCOUNT - STRIDE_LENGTH)))
5764         DISCARD=`$LCTL get_param -n llite.*.read_ahead_stats | \
5765                         get_named_value 'read but discarded' | \
5766                         cut -d" " -f1 | calc_total`
5767         if [ $DISCARD -gt $discard_limit ]; then
5768                 $LCTL get_param llite.*.read_ahead_stats
5769                 error "Too many ($DISCARD) discarded pages with size (${READ_SIZE})"
5770         else
5771                 echo "Read-ahead success for size ${READ_SIZE}"
5772         fi
5773 }
5774
5775 test_101b() {
5776         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5777         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping stride IO stride-ahead test" && return
5778         local STRIPE_SIZE=1048576
5779         local STRIDE_SIZE=$((STRIPE_SIZE*OSTCOUNT))
5780         local FILE_LENGTH=$((STRIPE_SIZE*100))
5781         local ITERATION=$((FILE_LENGTH/STRIDE_SIZE))
5782         # prepare the read-ahead file
5783         setup_test101bc
5784         cancel_lru_locks osc
5785         for BIDX in 2 4 8 16 32 64 128 256
5786         do
5787                 local BSIZE=$((BIDX*4096))
5788                 local READ_COUNT=$((STRIPE_SIZE/BSIZE))
5789                 local STRIDE_LENGTH=$((STRIDE_SIZE/BSIZE))
5790                 local OFFSET=$((STRIPE_SIZE/BSIZE*(OSTCOUNT - 1)))
5791                 $LCTL set_param -n llite.*.read_ahead_stats 0
5792                 $READS -f $DIR/$tfile  -l $STRIDE_LENGTH -o $OFFSET \
5793                               -s $FILE_LENGTH -b $STRIPE_SIZE -a $READ_COUNT -n $ITERATION
5794                 cancel_lru_locks osc
5795                 ra_check_101 $BSIZE
5796         done
5797         cleanup_test101bc
5798         true
5799 }
5800 run_test 101b "check stride-io mode read-ahead ================="
5801
5802 test_101c() {
5803         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5804         local STRIPE_SIZE=1048576
5805         local FILE_LENGTH=$((STRIPE_SIZE*100))
5806         local nreads=10000
5807         local osc
5808
5809     setup_test101bc
5810
5811     cancel_lru_locks osc
5812     $LCTL set_param osc.*.rpc_stats 0
5813     $READS -f $DIR/$tfile -s$FILE_LENGTH -b65536 -n$nreads -t 180
5814     for osc in $($LCTL get_param -N osc.*); do
5815         if [ "$osc" == "osc.num_refs" ]; then
5816             continue
5817         fi
5818
5819         local lines=$($LCTL get_param -n ${osc}.rpc_stats | wc | awk '{print $1}')
5820         if [ $lines -le 20 ]; then
5821             continue
5822         fi
5823
5824         local rpc4k=$($LCTL get_param -n ${osc}.rpc_stats |
5825                                      awk '$1 == "1:" { print $2; exit; }')
5826         local rpc8k=$($LCTL get_param -n ${osc}.rpc_stats |
5827                                      awk '$1 == "2:" { print $2; exit; }')
5828         local rpc16k=$($LCTL get_param -n ${osc}.rpc_stats |
5829                                      awk '$1 == "4:" { print $2; exit; }')
5830         local rpc32k=$($LCTL get_param -n ${osc}.rpc_stats |
5831                                      awk '$1 == "8:" { print $2; exit; }')
5832
5833         [ $rpc4k != 0 ]  && error "Small 4k read IO ${rpc4k}!"
5834         [ $rpc8k != 0 ]  && error "Small 8k read IO ${rpc8k}!"
5835         [ $rpc16k != 0 ] && error "Small 16k read IO ${rpc16k}!"
5836         [ $rpc32k != 0 ] && error "Small 32k read IO ${rpc32k}!"
5837         echo "${osc} rpc check passed!"
5838     done
5839     cleanup_test101bc
5840     true
5841 }
5842 run_test 101c "check stripe_size aligned read-ahead ================="
5843
5844 set_read_ahead() {
5845    $LCTL get_param -n llite.*.max_read_ahead_mb | head -n 1
5846    $LCTL set_param -n llite.*.max_read_ahead_mb $1 > /dev/null 2>&1
5847 }
5848
5849 test_101d() {
5850         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5851         local file=$DIR/$tfile
5852         local size=${FILESIZE_101c:-500}
5853         local ra_MB=${READAHEAD_MB:-40}
5854
5855         local space=$(df -P $DIR | tail -n 1 | awk '{ print $4 }')
5856         [ $space -gt $((size * 1024)) ] ||
5857                 { skip "Need free space ${size}M, have $space" && return; }
5858
5859     echo Creating ${size}M test file $file
5860     dd if=/dev/zero of=$file bs=1M count=$size || error "dd failed"
5861     echo Cancel LRU locks on lustre client to flush the client cache
5862     cancel_lru_locks osc
5863
5864     echo Disable read-ahead
5865     local old_READAHEAD=$(set_read_ahead 0)
5866
5867     echo Reading the test file $file with read-ahead disabled
5868     time_ra_OFF=$(do_and_time "dd if=$file of=/dev/null bs=1M count=$size")
5869
5870     echo Cancel LRU locks on lustre client to flush the client cache
5871     cancel_lru_locks osc
5872     echo Enable read-ahead with ${ra_MB}MB
5873     set_read_ahead $ra_MB
5874
5875     echo Reading the test file $file with read-ahead enabled
5876     time_ra_ON=$(do_and_time "dd if=$file of=/dev/null bs=1M count=$size")
5877
5878     echo read-ahead disabled time read $time_ra_OFF
5879     echo read-ahead enabled  time read $time_ra_ON
5880
5881         set_read_ahead $old_READAHEAD
5882         rm -f $file
5883         wait_delete_completed
5884
5885     [ $time_ra_ON -lt $time_ra_OFF ] ||
5886         error "read-ahead enabled  time read (${time_ra_ON}s) is more than
5887                read-ahead disabled time read (${time_ra_OFF}s) filesize ${size}M"
5888 }
5889 run_test 101d "file read with and without read-ahead enabled  ================="
5890
5891 test_101e() {
5892         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5893     local file=$DIR/$tfile
5894     local size=500  #KB
5895     local count=100
5896     local blksize=1024
5897
5898     local space=$(df -P $DIR | tail -n 1 | awk '{ print $4 }')
5899     local need_space=$((count * size))
5900     [ $space -gt $need_space ] ||
5901         { skip_env "Need free space $need_space, have $space" && return; }
5902
5903     echo Creating $count ${size}K test files
5904     for ((i = 0; i < $count; i++)); do
5905         dd if=/dev/zero of=${file}_${i} bs=$blksize count=$size 2>/dev/null
5906     done
5907
5908     echo Cancel LRU locks on lustre client to flush the client cache
5909     cancel_lru_locks osc
5910
5911     echo Reset readahead stats
5912     $LCTL set_param -n llite.*.read_ahead_stats 0
5913
5914     for ((i = 0; i < $count; i++)); do
5915         dd if=${file}_${i} of=/dev/null bs=$blksize count=$size 2>/dev/null
5916     done
5917
5918     local miss=$($LCTL get_param -n llite.*.read_ahead_stats | \
5919           get_named_value 'misses' | cut -d" " -f1 | calc_total)
5920
5921     for ((i = 0; i < $count; i++)); do
5922         rm -rf ${file}_${i} 2>/dev/null
5923     done
5924
5925     #10000 means 20% reads are missing in readahead
5926     [ $miss -lt 10000 ] ||  error "misses too much for small reads"
5927 }
5928 run_test 101e "check read-ahead for small read(1k) for small files(500k)"
5929
5930 cleanup_test101f() {
5931     trap 0
5932     $LCTL set_param -n llite.*.max_read_ahead_whole_mb $MAX_WHOLE_MB
5933     rm -rf $DIR/$tfile 2>/dev/null
5934 }
5935
5936 test_101f() {
5937         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
5938     local file=$DIR/$tfile
5939     local nreads=1000
5940
5941     MAX_WHOLE_MB=$($LCTL get_param -n llite.*.max_read_ahead_whole_mb)
5942     $LCTL set_param -n llite.*.max_read_ahead_whole_mb 2
5943     dd if=/dev/zero of=${file} bs=2097152 count=1 2>/dev/null
5944     trap cleanup_test101f EXIT
5945
5946     echo Cancel LRU locks on lustre client to flush the client cache
5947     cancel_lru_locks osc
5948
5949     echo Reset readahead stats
5950     $LCTL set_param -n llite.*.read_ahead_stats 0
5951     # Random read in a 2M file, because max_read_ahead_whole_mb = 2M,
5952     # readahead should read in 2M file on second read, so only miss
5953     # 2 pages.
5954     echo Random 4K reads on 2M file for 1000 times
5955     $READS -f $file -s 2097152 -b 4096 -n $nreads
5956
5957     echo checking missing pages
5958     local miss=$($LCTL get_param -n llite.*.read_ahead_stats |
5959           get_named_value 'misses' | cut -d" " -f1 | calc_total)
5960
5961     [ $miss -lt 3 ] || error "misses too much pages!"
5962     cleanup_test101f
5963 }
5964 run_test 101f "check read-ahead for max_read_ahead_whole_mb"
5965
5966 setup_test102() {
5967         test_mkdir -p $DIR/$tdir
5968         chown $RUNAS_ID $DIR/$tdir
5969         STRIPE_SIZE=65536
5970         STRIPE_OFFSET=1
5971         STRIPE_COUNT=$OSTCOUNT
5972         [ $OSTCOUNT -gt 4 ] && STRIPE_COUNT=4
5973
5974         trap cleanup_test102 EXIT
5975         cd $DIR
5976         $1 $SETSTRIPE -S $STRIPE_SIZE -i $STRIPE_OFFSET -c $STRIPE_COUNT $tdir
5977         cd $DIR/$tdir
5978         for num in 1 2 3 4; do
5979                 for count in $(seq 1 $STRIPE_COUNT); do
5980                         for idx in $(seq 0 $[$STRIPE_COUNT - 1]); do
5981                                 local size=`expr $STRIPE_SIZE \* $num`
5982                                 local file=file"$num-$idx-$count"
5983                                 $1 $SETSTRIPE -S $size -i $idx -c $count $file
5984                         done
5985                 done
5986         done
5987
5988         cd $DIR
5989         $1 $TAR cf $TMP/f102.tar $tdir --xattrs
5990 }
5991
5992 cleanup_test102() {
5993         trap 0
5994         rm -f $TMP/f102.tar
5995         rm -rf $DIR/d0.sanity/d102
5996 }
5997
5998 test_102a() {
5999         local testfile=$DIR/xattr_testfile
6000
6001         touch $testfile
6002
6003         [ "$UID" != 0 ] && skip_env "must run as root" && return
6004         [ -z "$(lctl get_param -n mdc.*-mdc-*.connect_flags | grep xattr)" ] &&
6005                 skip_env "must have user_xattr" && return
6006
6007         [ -z "$(which setfattr 2>/dev/null)" ] &&
6008                 skip_env "could not find setfattr" && return
6009
6010         echo "set/get xattr..."
6011         setfattr -n trusted.name1 -v value1 $testfile ||
6012                 error "setfattr -n trusted.name1=value1 $testfile failed"
6013         getfattr -n trusted.name1 $testfile 2> /dev/null |
6014           grep "trusted.name1=.value1" ||
6015                 error "$testfile missing trusted.name1=value1"
6016
6017         setfattr -n user.author1 -v author1 $testfile ||
6018                 error "setfattr -n user.author1=author1 $testfile failed"
6019         getfattr -n user.author1 $testfile 2> /dev/null |
6020           grep "user.author1=.author1" ||
6021                 error "$testfile missing trusted.author1=author1"
6022
6023         echo "listxattr..."
6024         setfattr -n trusted.name2 -v value2 $testfile ||
6025                 error "$testfile unable to set trusted.name2"
6026         setfattr -n trusted.name3 -v value3 $testfile ||
6027                 error "$testfile unable to set trusted.name3"
6028         [ $(getfattr -d -m "^trusted" $testfile 2> /dev/null |
6029             grep "trusted.name" | wc -l) -eq 3 ] ||
6030                 error "$testfile missing 3 trusted.name xattrs"
6031
6032         setfattr -n user.author2 -v author2 $testfile ||
6033                 error "$testfile unable to set user.author2"
6034         setfattr -n user.author3 -v author3 $testfile ||
6035                 error "$testfile unable to set user.author3"
6036         [ $(getfattr -d -m "^user" $testfile 2> /dev/null |
6037             grep "user.author" | wc -l) -eq 3 ] ||
6038                 error "$testfile missing 3 user.author xattrs"
6039
6040         echo "remove xattr..."
6041         setfattr -x trusted.name1 $testfile ||
6042                 error "$testfile error deleting trusted.name1"
6043         getfattr -d -m trusted $testfile 2> /dev/null | grep "trusted.name1" &&
6044                 error "$testfile did not delete trusted.name1 xattr"
6045
6046         setfattr -x user.author1 $testfile ||
6047                 error "$testfile error deleting user.author1"
6048         getfattr -d -m user $testfile 2> /dev/null | grep "user.author1" &&
6049                 error "$testfile did not delete trusted.name1 xattr"
6050
6051         # b10667: setting lustre special xattr be silently discarded
6052         echo "set lustre special xattr ..."
6053         setfattr -n "trusted.lov" -v "invalid value" $testfile ||
6054                 error "$testfile allowed setting trusted.lov"
6055 }
6056 run_test 102a "user xattr test =================================="
6057
6058 test_102b() {
6059         # b10930: get/set/list trusted.lov xattr
6060         echo "get/set/list trusted.lov xattr ..."
6061         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
6062         local testfile=$DIR/$tfile
6063         $SETSTRIPE -S 65536 -i 1 -c $OSTCOUNT $testfile ||
6064                 error "setstripe failed"
6065         local STRIPECOUNT=$($GETSTRIPE -c $testfile) ||
6066                 error "getstripe failed"
6067         getfattr -d -m "^trusted" $testfile 2> /dev/null | \
6068         grep "trusted.lov" || error "can't get trusted.lov from $testfile"
6069
6070         local testfile2=${testfile}2
6071         local value=`getfattr -n trusted.lov $testfile 2> /dev/null | \
6072                      grep "trusted.lov" |sed -e 's/[^=]\+=//'`
6073
6074         $MCREATE $testfile2
6075         setfattr -n trusted.lov -v $value $testfile2
6076         local stripe_size=$($GETSTRIPE -S $testfile2)
6077         local stripe_count=$($GETSTRIPE -c $testfile2)
6078         [ $stripe_size -eq 65536 ] || error "stripe size $stripe_size != 65536"
6079         [ $stripe_count -eq $STRIPECOUNT ] ||
6080                 error "stripe count $stripe_count != $STRIPECOUNT"
6081         rm -f $DIR/$tfile
6082 }
6083 run_test 102b "getfattr/setfattr for trusted.lov EAs ============"
6084
6085 test_102c() {
6086         # b10930: get/set/list lustre.lov xattr
6087         echo "get/set/list lustre.lov xattr ..."
6088         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
6089         test_mkdir -p $DIR/$tdir
6090         chown $RUNAS_ID $DIR/$tdir
6091         local testfile=$DIR/$tdir/$tfile
6092         $RUNAS $SETSTRIPE -S 65536 -i 1 -c $OSTCOUNT $testfile ||
6093                 error "setstripe failed"
6094         local STRIPECOUNT=$($RUNAS $GETSTRIPE -c $testfile) ||
6095                 error "getstripe failed"
6096         $RUNAS getfattr -d -m "^lustre" $testfile 2> /dev/null | \
6097         grep "lustre.lov" || error "can't get lustre.lov from $testfile"
6098
6099         local testfile2=${testfile}2
6100         local value=`getfattr -n lustre.lov $testfile 2> /dev/null | \
6101                      grep "lustre.lov" |sed -e 's/[^=]\+=//'  `
6102
6103         $RUNAS $MCREATE $testfile2
6104         $RUNAS setfattr -n lustre.lov -v $value $testfile2
6105         local stripe_size=$($RUNAS $GETSTRIPE -S $testfile2)
6106         local stripe_count=$($RUNAS $GETSTRIPE -c $testfile2)
6107         [ $stripe_size -eq 65536 ] || error "stripe size $stripe_size != 65536"
6108         [ $stripe_count -eq $STRIPECOUNT ] ||
6109                 error "stripe count $stripe_count != $STRIPECOUNT"
6110 }
6111 run_test 102c "non-root getfattr/setfattr for lustre.lov EAs ==========="
6112
6113 compare_stripe_info1() {
6114         local stripe_index_all_zero=true
6115
6116         for num in 1 2 3 4; do
6117                 for count in $(seq 1 $STRIPE_COUNT); do
6118                         for offset in $(seq 0 $[$STRIPE_COUNT - 1]); do
6119                                 local size=$((STRIPE_SIZE * num))
6120                                 local file=file"$num-$offset-$count"
6121                                 stripe_size=$(lfs getstripe -S $PWD/$file)
6122                                 [ $stripe_size -ne $size ] &&
6123                                     error "$file: size $stripe_size != $size"
6124                                 stripe_count=$(lfs getstripe -c $PWD/$file)
6125                                 # allow fewer stripes to be created, ORI-601
6126                                 [ $stripe_count -lt $(((3 * count + 3) / 4)) ]&&
6127                                     error "$file: count $stripe_count != $count"
6128                                 stripe_index=$(lfs getstripe -i $PWD/$file)
6129                                 [ $stripe_index -ne 0 ] &&
6130                                         stripe_index_all_zero=false
6131                         done
6132                 done
6133         done
6134         $stripe_index_all_zero &&
6135                 error "all files are being extracted starting from OST index 0"
6136         return 0
6137 }
6138
6139 find_lustre_tar() {
6140         [ -n "$(which tar 2>/dev/null)" ] &&
6141                 strings $(which tar) | grep -q "lustre" && echo tar
6142 }
6143
6144 test_102d() {
6145         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6146         # b10930: tar test for trusted.lov xattr
6147         TAR=$(find_lustre_tar)
6148         [ -z "$TAR" ] && skip_env "lustre-aware tar is not installed" && return
6149         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping N-stripe test" && return
6150         setup_test102
6151         test_mkdir -p $DIR/d102d
6152         $TAR xf $TMP/f102.tar -C $DIR/d102d --xattrs
6153         cd $DIR/d102d/$tdir
6154         compare_stripe_info1
6155 }
6156 run_test 102d "tar restore stripe info from tarfile,not keep osts ==========="
6157
6158 test_102f() {
6159         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6160         # b10930: tar test for trusted.lov xattr
6161         TAR=$(find_lustre_tar)
6162         [ -z "$TAR" ] && skip_env "lustre-aware tar is not installed" && return
6163         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping N-stripe test" && return
6164         setup_test102
6165         test_mkdir -p $DIR/d102f
6166         cd $DIR
6167         $TAR cf - --xattrs $tdir | $TAR xf - --xattrs -C $DIR/d102f
6168         cd $DIR/d102f/$tdir
6169         compare_stripe_info1
6170 }
6171 run_test 102f "tar copy files, not keep osts ==========="
6172
6173 grow_xattr() {
6174         local xsize=${1:-1024}  # in bytes
6175         local file=$DIR/$tfile
6176
6177         [ -z $(lctl get_param -n mdc.*.connect_flags | grep xattr) ] &&
6178                 skip "must have user_xattr" && return 0
6179         [ -z "$(which setfattr 2>/dev/null)" ] &&
6180                 skip_env "could not find setfattr" && return 0
6181         [ -z "$(which getfattr 2>/dev/null)" ] &&
6182                 skip_env "could not find getfattr" && return 0
6183
6184         touch $file
6185
6186         local value="$(generate_string $xsize)"
6187
6188         local xbig=trusted.big
6189         log "save $xbig on $file"
6190         setfattr -n $xbig -v $value $file ||
6191                 error "saving $xbig on $file failed"
6192
6193         local orig=$(get_xattr_value $xbig $file)
6194         [[ "$orig" != "$value" ]] && error "$xbig different after saving $xbig"
6195
6196         local xsml=trusted.sml
6197         log "save $xsml on $file"
6198         setfattr -n $xsml -v val $file || error "saving $xsml on $file failed"
6199
6200         local new=$(get_xattr_value $xbig $file)
6201         [[ "$new" != "$orig" ]] && error "$xbig different after saving $xsml"
6202
6203         log "grow $xsml on $file"
6204         setfattr -n $xsml -v "$value" $file ||
6205                 error "growing $xsml on $file failed"
6206
6207         new=$(get_xattr_value $xbig $file)
6208         [[ "$new" != "$orig" ]] && error "$xbig different after growing $xsml"
6209         log "$xbig still valid after growing $xsml"
6210
6211         rm -f $file
6212 }
6213
6214 test_102h() { # bug 15777
6215         grow_xattr 1024
6216 }
6217 run_test 102h "grow xattr from inside inode to external block"
6218
6219 test_102ha() {
6220         large_xattr_enabled || { skip "large_xattr disabled" && return; }
6221         grow_xattr $(max_xattr_size)
6222 }
6223 run_test 102ha "grow xattr from inside inode to external inode"
6224
6225 test_102i() { # bug 17038
6226         touch $DIR/$tfile
6227         ln -s $DIR/$tfile $DIR/${tfile}link
6228         getfattr -n trusted.lov $DIR/$tfile || error "lgetxattr on $DIR/$tfile failed"
6229         getfattr -h -n trusted.lov $DIR/${tfile}link 2>&1 | grep -i "no such attr" || error "error for lgetxattr on $DIR/${tfile}link is not ENODATA"
6230         rm -f $DIR/$tfile $DIR/${tfile}link
6231 }
6232 run_test 102i "lgetxattr test on symbolic link ============"
6233
6234 test_102j() {
6235         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6236         TAR=$(find_lustre_tar)
6237         [ -z "$TAR" ] && skip_env "lustre-aware tar is not installed" && return
6238         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping N-stripe test" && return
6239         setup_test102 "$RUNAS"
6240         test_mkdir -p $DIR/d102j
6241         chown $RUNAS_ID $DIR/d102j
6242         $RUNAS $TAR xf $TMP/f102.tar -C $DIR/d102j --xattrs
6243         cd $DIR/d102j/$tdir
6244         compare_stripe_info1 "$RUNAS"
6245 }
6246 run_test 102j "non-root tar restore stripe info from tarfile, not keep osts ==="
6247
6248 test_102k() {
6249         touch $DIR/$tfile
6250         # b22187 just check that does not crash for regular file.
6251         setfattr -n trusted.lov $DIR/$tfile
6252         # b22187 'setfattr -n trusted.lov' should work as remove LOV EA for directories
6253         local test_kdir=$DIR/d102k
6254         test_mkdir $test_kdir
6255         local default_size=`$GETSTRIPE -S $test_kdir`
6256         local default_count=`$GETSTRIPE -c $test_kdir`
6257         local default_offset=`$GETSTRIPE -i $test_kdir`
6258         $SETSTRIPE -S 65536 -i 0 -c $OSTCOUNT $test_kdir ||
6259                 error 'dir setstripe failed'
6260         setfattr -n trusted.lov $test_kdir
6261         local stripe_size=`$GETSTRIPE -S $test_kdir`
6262         local stripe_count=`$GETSTRIPE -c $test_kdir`
6263         local stripe_offset=`$GETSTRIPE -i $test_kdir`
6264         [ $stripe_size -eq $default_size ] ||
6265                 error "stripe size $stripe_size != $default_size"
6266         [ $stripe_count -eq $default_count ] ||
6267                 error "stripe count $stripe_count != $default_count"
6268         [ $stripe_offset -eq $default_offset ] ||
6269                 error "stripe offset $stripe_offset != $default_offset"
6270         rm -rf $DIR/$tfile $test_kdir
6271 }
6272 run_test 102k "setfattr without parameter of value shouldn't cause a crash"
6273
6274 test_102l() {
6275         # LU-532 trusted. xattr is invisible to non-root
6276         local testfile=$DIR/$tfile
6277
6278         touch $testfile
6279
6280         echo "listxattr as user..."
6281         chown $RUNAS_ID $testfile
6282         $RUNAS getfattr -d -m '.*' $testfile 2>&1 |
6283             grep -q "trusted" &&
6284                 error "$testfile trusted xattrs are user visible"
6285
6286         return 0;
6287 }
6288 run_test 102l "listxattr filter test =================================="
6289
6290 cleanup_test102
6291
6292 run_acl_subtest()
6293 {
6294     $LUSTRE/tests/acl/run $LUSTRE/tests/acl/$1.test
6295     return $?
6296 }
6297
6298 test_103 () {
6299         [ "$UID" != 0 ] && skip_env "must run as root" && return
6300         [ -z "$(lctl get_param -n mdc.*-mdc-*.connect_flags | grep acl)" ] &&
6301                 skip "must have acl enabled" && return
6302         [ -z "$(which setfacl 2>/dev/null)" ] &&
6303                 skip_env "could not find setfacl" && return
6304         $GSS && skip "could not run under gss" && return
6305
6306         declare -a identity_old
6307
6308         for num in $(seq $MDSCOUNT); do
6309                 switch_identity $num true || identity_old[$num]=$?
6310         done
6311
6312         SAVE_UMASK=$(umask)
6313         umask 0022
6314         cd $DIR
6315
6316         echo "performing cp ..."
6317         run_acl_subtest cp || error "run_acl_subtest cp failed"
6318         echo "performing getfacl-noacl..."
6319         run_acl_subtest getfacl-noacl || error "getfacl-noacl test failed"
6320         echo "performing misc..."
6321         run_acl_subtest misc || error  "misc test failed"
6322         echo "performing permissions..."
6323         run_acl_subtest permissions || error "permissions failed"
6324         echo "performing setfacl..."
6325         run_acl_subtest setfacl || error  "setfacl test failed"
6326
6327         # inheritance test got from HP
6328         echo "performing inheritance..."
6329         cp $LUSTRE/tests/acl/make-tree . || error "cannot copy make-tree"
6330         chmod +x make-tree || error "chmod +x failed"
6331         run_acl_subtest inheritance || error "inheritance test failed"
6332         rm -f make-tree
6333
6334         echo "LU-974 ignore umask when acl is enabled..."
6335         run_acl_subtest 974 || error "LU-974 umask test failed"
6336         if [ $MDSCOUNT -ge 2 ]; then
6337                 run_acl_subtest 974_remote ||
6338                         error "LU-974 umask test failed under remote dir"
6339         fi
6340
6341         echo "LU-2561 newly created file is same size as directory..."
6342         run_acl_subtest 2561 || error "LU-2561 test failed"
6343
6344         cd $SAVE_PWD
6345         umask $SAVE_UMASK
6346
6347         for num in $(seq $MDSCOUNT); do
6348                 if [ "${identity_old[$num]}" = 1 ]; then
6349                         switch_identity $num false || identity_old[$num]=$?
6350                 fi
6351         done
6352 }
6353 run_test 103 "acl test ========================================="
6354
6355 test_104a() {
6356         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6357         touch $DIR/$tfile
6358         lfs df || error "lfs df failed"
6359         lfs df -ih || error "lfs df -ih failed"
6360         lfs df -h $DIR || error "lfs df -h $DIR failed"
6361         lfs df -i $DIR || error "lfs df -i $DIR failed"
6362         lfs df $DIR/$tfile || error "lfs df $DIR/$tfile failed"
6363         lfs df -ih $DIR/$tfile || error "lfs df -ih $DIR/$tfile failed"
6364
6365         local OSC=$(lctl dl | grep OST0000-osc-[^M] | awk '{ print $4 }')
6366         lctl --device %$OSC deactivate
6367         lfs df || error "lfs df with deactivated OSC failed"
6368         lctl --device %$OSC activate
6369         # wait the osc back to normal
6370         wait_osc_import_state client ost FULL
6371
6372         lfs df || error "lfs df with reactivated OSC failed"
6373         rm -f $DIR/$tfile
6374 }
6375 run_test 104a "lfs df [-ih] [path] test ========================="
6376
6377 test_104b() {
6378         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6379         [ $RUNAS_ID -eq $UID ] &&
6380                 skip_env "RUNAS_ID = UID = $UID -- skipping" && return
6381         chmod 666 /dev/obd
6382         denied_cnt=$(($($RUNAS $LFS check servers 2>&1 |
6383                         grep "Permission denied" | wc -l)))
6384         if [ $denied_cnt -ne 0 ]; then
6385                 error "lfs check servers test failed"
6386         fi
6387 }
6388 run_test 104b "$RUNAS lfs check servers test ===================="
6389
6390 test_105a() {
6391         # doesn't work on 2.4 kernels
6392         touch $DIR/$tfile
6393         if [ -n "$(mount | grep "$MOUNT.*flock" | grep -v noflock)" ]; then
6394                 flocks_test 1 on -f $DIR/$tfile || error "fail flock on"
6395         else
6396                 flocks_test 1 off -f $DIR/$tfile || error "fail flock off"
6397         fi
6398         rm -f $DIR/$tfile
6399 }
6400 run_test 105a "flock when mounted without -o flock test ========"
6401
6402 test_105b() {
6403         touch $DIR/$tfile
6404         if [ -n "$(mount | grep "$MOUNT.*flock" | grep -v noflock)" ]; then
6405                 flocks_test 1 on -c $DIR/$tfile || error "fail flock on"
6406         else
6407                 flocks_test 1 off -c $DIR/$tfile || error "fail flock off"
6408         fi
6409         rm -f $DIR/$tfile
6410 }
6411 run_test 105b "fcntl when mounted without -o flock test ========"
6412
6413 test_105c() {
6414         touch $DIR/$tfile
6415         if [ -n "$(mount | grep "$MOUNT.*flock" | grep -v noflock)" ]; then
6416                 flocks_test 1 on -l $DIR/$tfile || error "fail flock on"
6417         else
6418                 flocks_test 1 off -l $DIR/$tfile || error "fail flock off"
6419         fi
6420         rm -f $DIR/$tfile
6421 }
6422 run_test 105c "lockf when mounted without -o flock test ========"
6423
6424 test_105d() { # bug 15924
6425         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6426         test_mkdir -p $DIR/$tdir
6427         [ -z "$(mount | grep "$MOUNT.*flock" | grep -v noflock)" ] &&
6428                 skip "mount w/o flock enabled" && return
6429         #define OBD_FAIL_LDLM_CP_CB_WAIT  0x315
6430         $LCTL set_param fail_loc=0x80000315
6431         flocks_test 2 $DIR/$tdir
6432 }
6433 run_test 105d "flock race (should not freeze) ========"
6434
6435 test_105e() { # bug 22660 && 22040
6436         [ -z "$(mount | grep "$MOUNT.*flock" | grep -v noflock)" ] &&
6437                 skip "mount w/o flock enabled" && return
6438         touch $DIR/$tfile
6439         flocks_test 3 $DIR/$tfile
6440 }
6441 run_test 105e "Two conflicting flocks from same process ======="
6442
6443 test_106() { #bug 10921
6444         test_mkdir -p $DIR/$tdir
6445         $DIR/$tdir && error "exec $DIR/$tdir succeeded"
6446         chmod 777 $DIR/$tdir || error "chmod $DIR/$tdir failed"
6447 }
6448 run_test 106 "attempt exec of dir followed by chown of that dir"
6449
6450 test_107() {
6451         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6452         CDIR=`pwd`
6453         cd $DIR
6454
6455         local file=core
6456         rm -f $file
6457
6458         local save_pattern=$(sysctl -n kernel.core_pattern)
6459         local save_uses_pid=$(sysctl -n kernel.core_uses_pid)
6460         sysctl -w kernel.core_pattern=$file
6461         sysctl -w kernel.core_uses_pid=0
6462
6463         ulimit -c unlimited
6464         sleep 60 &
6465         SLEEPPID=$!
6466
6467         sleep 1
6468
6469         kill -s 11 $SLEEPPID
6470         wait $SLEEPPID
6471         if [ -e $file ]; then
6472                 size=`stat -c%s $file`
6473                 [ $size -eq 0 ] && error "Fail to create core file $file"
6474         else
6475                 error "Fail to create core file $file"
6476         fi
6477         rm -f $file
6478         sysctl -w kernel.core_pattern=$save_pattern
6479         sysctl -w kernel.core_uses_pid=$save_uses_pid
6480         cd $CDIR
6481 }
6482 run_test 107 "Coredump on SIG"
6483
6484 test_110() {
6485         test_mkdir -p $DIR/$tdir
6486         test_mkdir $DIR/$tdir/$(str_repeat 'a' 255) ||
6487                 error "mkdir with 255 char failed"
6488         test_mkdir $DIR/$tdir/$(str_repeat 'b' 256) &&
6489                 error "mkdir with 256 char should fail, but did not"
6490         touch $DIR/$tdir/$(str_repeat 'x' 255) ||
6491                 error "create with 255 char failed"
6492         touch $DIR/$tdir/$(str_repeat 'y' 256) &&
6493                 error "create with 256 char should fail, but did not"
6494
6495         ls -l $DIR/$tdir
6496         rm -rf $DIR/$tdir
6497 }
6498 run_test 110 "filename length checking"
6499
6500 test_115() {
6501         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6502         OSTIO_pre=$(ps -e|grep ll_ost_io|awk '{print $4}'|sort -n|tail -1|\
6503             cut -c11-20)
6504         [ -z "$OSTIO_pre" ] && skip "no OSS threads" && \
6505             return
6506         echo "Starting with $OSTIO_pre threads"
6507
6508         NUMTEST=20000
6509         NUMFREE=`df -i -P $DIR | tail -n 1 | awk '{ print $4 }'`
6510         [ $NUMFREE -lt $NUMTEST ] && NUMTEST=$(($NUMFREE - 1000))
6511         echo "$NUMTEST creates/unlinks"
6512         test_mkdir -p $DIR/$tdir
6513         createmany -o $DIR/$tdir/$tfile $NUMTEST
6514         unlinkmany $DIR/$tdir/$tfile $NUMTEST
6515
6516         OSTIO_post=$(ps -e|grep ll_ost_io|awk '{print $4}'|sort -n|tail -1|\
6517             cut -c11-20)
6518
6519         # don't return an error
6520         [ $OSTIO_post == $OSTIO_pre ] && echo \
6521             "WARNING: No new ll_ost_io threads were created ($OSTIO_pre)" &&
6522             echo "This may be fine, depending on what ran before this test" &&
6523             echo "and how fast this system is." && return
6524
6525         echo "Started with $OSTIO_pre threads, ended with $OSTIO_post"
6526 }
6527 run_test 115 "verify dynamic thread creation===================="
6528
6529 free_min_max () {
6530         wait_delete_completed
6531         AVAIL=($(lctl get_param -n osc.*[oO][sS][cC]-[^M]*.kbytesavail))
6532         echo OST kbytes available: ${AVAIL[@]}
6533         MAXI=0; MAXV=${AVAIL[0]}
6534         MINI=0; MINV=${AVAIL[0]}
6535         for ((i = 0; i < ${#AVAIL[@]}; i++)); do
6536             #echo OST $i: ${AVAIL[i]}kb
6537             if [ ${AVAIL[i]} -gt $MAXV ]; then
6538                 MAXV=${AVAIL[i]}; MAXI=$i
6539             fi
6540             if [ ${AVAIL[i]} -lt $MINV ]; then
6541                 MINV=${AVAIL[i]}; MINI=$i
6542             fi
6543         done
6544         echo Min free space: OST $MINI: $MINV
6545         echo Max free space: OST $MAXI: $MAXV
6546 }
6547
6548 test_116a() { # was previously test_116()
6549         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6550         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs" && return
6551
6552         echo -n "Free space priority "
6553         lctl get_param -n lov.*-clilov-*.qos_prio_free
6554         declare -a AVAIL
6555         free_min_max
6556         [ $MINV -gt 960000 ] && skip "too much free space in OST$MINI, skip" &&\
6557                 return
6558
6559         # generate uneven OSTs
6560         test_mkdir -p $DIR/$tdir/OST${MINI}
6561         declare -i FILL
6562         FILL=$(($MINV / 4))
6563         echo "Filling 25% remaining space in OST${MINI} with ${FILL}Kb"
6564         $SETSTRIPE -i $MINI -c 1 $DIR/$tdir/OST${MINI}||error "setstripe failed"
6565         i=0
6566         while [ $FILL -gt 0 ]; do
6567             i=$(($i + 1))
6568             dd if=/dev/zero of=$DIR/$tdir/OST${MINI}/$tfile-$i bs=2M count=1 2>/dev/null
6569             FILL=$(($FILL - 2048))
6570             echo -n .
6571         done
6572         FILL=$(($MINV / 4))
6573         sync
6574         sleep_maxage
6575
6576         free_min_max
6577         DIFF=$(($MAXV - $MINV))
6578         DIFF2=$(($DIFF * 100 / $MINV))
6579         echo -n "diff=${DIFF}=${DIFF2}% must be > 20% for QOS mode..."
6580         if [ $DIFF2 -gt 20 ]; then
6581             echo "ok"
6582         else
6583             echo "failed - QOS mode won't be used"
6584             error_ignore "QOS imbalance criteria not met"
6585             return
6586         fi
6587
6588         MINI1=$MINI; MINV1=$MINV
6589         MAXI1=$MAXI; MAXV1=$MAXV
6590
6591         # now fill using QOS
6592         echo writing a bunch of files to QOS-assigned OSTs
6593         $SETSTRIPE -c 1 $DIR/$tdir
6594         i=0
6595         while [ $FILL -gt 0 ]; do
6596             i=$(($i + 1))
6597             dd if=/dev/zero of=$DIR/$tdir/$tfile-$i bs=1024 count=200 2>/dev/null
6598             FILL=$(($FILL - 200))
6599             echo -n .
6600         done
6601         echo "wrote $i 200k files"
6602         sync
6603         sleep_maxage
6604
6605         echo "Note: free space may not be updated, so measurements might be off"
6606         free_min_max
6607         DIFF2=$(($MAXV - $MINV))
6608         echo "free space delta: orig $DIFF final $DIFF2"
6609         [ $DIFF2 -gt $DIFF ] && echo "delta got worse!"
6610         DIFF=$(($MINV1 - ${AVAIL[$MINI1]}))
6611         echo "Wrote $DIFF to smaller OST $MINI1"
6612         DIFF2=$(($MAXV1 - ${AVAIL[$MAXI1]}))
6613         echo "Wrote $DIFF2 to larger OST $MAXI1"
6614         [ $DIFF -gt 0 ] && echo "Wrote $(($DIFF2 * 100 / $DIFF - 100))% more data to larger OST $MAXI1"
6615
6616         # Figure out which files were written where
6617         UUID=$(lctl get_param -n lov.${FSNAME}-clilov-*.target_obd |
6618                awk '/'$MINI1': / {print $2; exit}')
6619         echo $UUID
6620         MINC=$($GETSTRIPE --obd $UUID $DIR/$tdir | wc -l)
6621         echo "$MINC files created on smaller OST $MINI1"
6622         UUID=$(lctl get_param -n lov.${FSNAME}-clilov-*.target_obd |
6623                awk '/'$MAXI1': / {print $2; exit}')
6624         echo $UUID
6625         MAXC=$($GETSTRIPE --obd $UUID $DIR/$tdir | wc -l)
6626         echo "$MAXC files created on larger OST $MAXI1"
6627         [ $MINC -gt 0 ] && echo "Wrote $(($MAXC * 100 / $MINC - 100))% more files to larger OST $MAXI1"
6628         [ $MAXC -gt $MINC ] || error_ignore "stripe QOS didn't balance free space"
6629
6630         rm -rf $DIR/$tdir
6631 }
6632 run_test 116a "stripe QOS: free space balance ==================="
6633
6634 test_116b() { # LU-2093
6635         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6636 #define OBD_FAIL_MDS_OSC_CREATE_FAIL     0x147
6637         local old_rr
6638         old_rr=$(do_facet $SINGLEMDS lctl get_param -n lov.*mdtlov*.qos_threshold_rr)
6639         do_facet $SINGLEMDS lctl set_param lov.*mdtlov*.qos_threshold_rr 0
6640         mkdir -p $DIR/$tdir
6641         do_facet $SINGLEMDS lctl set_param fail_loc=0x147
6642         createmany -o $DIR/$tdir/f- 20 || error "can't create"
6643         do_facet $SINGLEMDS lctl set_param fail_loc=0
6644         rm -rf $DIR/$tdir
6645         do_facet $SINGLEMDS lctl set_param lov.*mdtlov*.qos_threshold_rr $old_rr
6646 }
6647 run_test 116b "QoS shouldn't LBUG if not enough OSTs found on the 2nd pass"
6648
6649 test_117() # bug 10891
6650 {
6651         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6652         dd if=/dev/zero of=$DIR/$tfile bs=1M count=1
6653         #define OBD_FAIL_OST_SETATTR_CREDITS 0x21e
6654         lctl set_param fail_loc=0x21e
6655         > $DIR/$tfile || error "truncate failed"
6656         lctl set_param fail_loc=0
6657         echo "Truncate succeeded."
6658         rm -f $DIR/$tfile
6659 }
6660 run_test 117 "verify fsfilt_extend =========="
6661
6662 NO_SLOW_RESENDCOUNT=4
6663 export OLD_RESENDCOUNT=""
6664 set_resend_count () {
6665         local PROC_RESENDCOUNT="osc.${FSNAME}-OST*-osc-*.resend_count"
6666         OLD_RESENDCOUNT=$(lctl get_param -n $PROC_RESENDCOUNT | head -1)
6667         lctl set_param -n $PROC_RESENDCOUNT $1
6668         echo resend_count is set to $(lctl get_param -n $PROC_RESENDCOUNT)
6669 }
6670
6671 # for reduce test_118* time (b=14842)
6672 [ "$SLOW" = "no" ] && set_resend_count $NO_SLOW_RESENDCOUNT
6673
6674 # Reset async IO behavior after error case
6675 reset_async() {
6676         FILE=$DIR/reset_async
6677
6678         # Ensure all OSCs are cleared
6679         $SETSTRIPE -c -1 $FILE
6680         dd if=/dev/zero of=$FILE bs=64k count=$OSTCOUNT
6681         sync
6682         rm $FILE
6683 }
6684
6685 test_118a() #bug 11710
6686 {
6687         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6688         reset_async
6689
6690         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
6691         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6692         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache | grep -c writeback)
6693
6694         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6695                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6696                 return 1;
6697         fi
6698         rm -f $DIR/$tfile
6699 }
6700 run_test 118a "verify O_SYNC works =========="
6701
6702 test_118b()
6703 {
6704         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6705         remote_ost_nodsh && skip "remote OST with nodsh" && return
6706
6707         reset_async
6708
6709         #define OBD_FAIL_OST_ENOENT 0x217
6710         set_nodes_failloc "$(osts_nodes)" 0x217
6711         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
6712         RC=$?
6713         set_nodes_failloc "$(osts_nodes)" 0
6714         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6715         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6716                     grep -c writeback)
6717
6718         if [[ $RC -eq 0 ]]; then
6719                 error "Must return error due to dropped pages, rc=$RC"
6720                 return 1;
6721         fi
6722
6723         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6724                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6725                 return 1;
6726         fi
6727
6728         echo "Dirty pages not leaked on ENOENT"
6729
6730         # Due to the above error the OSC will issue all RPCs syncronously
6731         # until a subsequent RPC completes successfully without error.
6732         $MULTIOP $DIR/$tfile Ow4096yc
6733         rm -f $DIR/$tfile
6734
6735         return 0
6736 }
6737 run_test 118b "Reclaim dirty pages on fatal error =========="
6738
6739 test_118c()
6740 {
6741         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6742
6743         # for 118c, restore the original resend count, LU-1940
6744         [ "$SLOW" = "no" ] && [ -n "$OLD_RESENDCOUNT" ] &&
6745                                 set_resend_count $OLD_RESENDCOUNT
6746         remote_ost_nodsh && skip "remote OST with nodsh" && return
6747
6748         reset_async
6749
6750         #define OBD_FAIL_OST_EROFS               0x216
6751         set_nodes_failloc "$(osts_nodes)" 0x216
6752
6753         # multiop should block due to fsync until pages are written
6754         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c &
6755         MULTIPID=$!
6756         sleep 1
6757
6758         if [[ `ps h -o comm -p $MULTIPID` != "multiop" ]]; then
6759                 error "Multiop failed to block on fsync, pid=$MULTIPID"
6760         fi
6761
6762         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6763                     grep -c writeback)
6764         if [[ $WRITEBACK -eq 0 ]]; then
6765                 error "No page in writeback, writeback=$WRITEBACK"
6766         fi
6767
6768         set_nodes_failloc "$(osts_nodes)" 0
6769         wait $MULTIPID
6770         RC=$?
6771         if [[ $RC -ne 0 ]]; then
6772                 error "Multiop fsync failed, rc=$RC"
6773         fi
6774
6775         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6776         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6777                     grep -c writeback)
6778         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6779                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6780         fi
6781
6782         rm -f $DIR/$tfile
6783         echo "Dirty pages flushed via fsync on EROFS"
6784         return 0
6785 }
6786 run_test 118c "Fsync blocks on EROFS until dirty pages are flushed =========="
6787
6788 # continue to use small resend count to reduce test_118* time (b=14842)
6789 [ "$SLOW" = "no" ] && set_resend_count $NO_SLOW_RESENDCOUNT
6790
6791 test_118d()
6792 {
6793         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6794         remote_ost_nodsh && skip "remote OST with nodsh" && return
6795
6796         reset_async
6797
6798         #define OBD_FAIL_OST_BRW_PAUSE_BULK
6799         set_nodes_failloc "$(osts_nodes)" 0x214
6800         # multiop should block due to fsync until pages are written
6801         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c &
6802         MULTIPID=$!
6803         sleep 1
6804
6805         if [[ `ps h -o comm -p $MULTIPID` != "multiop" ]]; then
6806                 error "Multiop failed to block on fsync, pid=$MULTIPID"
6807         fi
6808
6809         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6810                     grep -c writeback)
6811         if [[ $WRITEBACK -eq 0 ]]; then
6812                 error "No page in writeback, writeback=$WRITEBACK"
6813         fi
6814
6815         wait $MULTIPID || error "Multiop fsync failed, rc=$?"
6816         set_nodes_failloc "$(osts_nodes)" 0
6817
6818         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6819         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6820                     grep -c writeback)
6821         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6822                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6823         fi
6824
6825         rm -f $DIR/$tfile
6826         echo "Dirty pages gaurenteed flushed via fsync"
6827         return 0
6828 }
6829 run_test 118d "Fsync validation inject a delay of the bulk =========="
6830
6831 test_118f() {
6832         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6833         reset_async
6834
6835         #define OBD_FAIL_OSC_BRW_PREP_REQ2        0x40a
6836         lctl set_param fail_loc=0x8000040a
6837
6838         # Should simulate EINVAL error which is fatal
6839         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
6840         RC=$?
6841         if [[ $RC -eq 0 ]]; then
6842                 error "Must return error due to dropped pages, rc=$RC"
6843         fi
6844
6845         lctl set_param fail_loc=0x0
6846
6847         LOCKED=$(lctl get_param -n llite.*.dump_page_cache | grep -c locked)
6848         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6849         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6850                     grep -c writeback)
6851         if [[ $LOCKED -ne 0 ]]; then
6852                 error "Locked pages remain in cache, locked=$LOCKED"
6853         fi
6854
6855         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6856                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6857         fi
6858
6859         rm -f $DIR/$tfile
6860         echo "No pages locked after fsync"
6861
6862         reset_async
6863         return 0
6864 }
6865 run_test 118f "Simulate unrecoverable OSC side error =========="
6866
6867 test_118g() {
6868         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6869         reset_async
6870
6871         #define OBD_FAIL_OSC_BRW_PREP_REQ        0x406
6872         lctl set_param fail_loc=0x406
6873
6874         # simulate local -ENOMEM
6875         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
6876         RC=$?
6877
6878         lctl set_param fail_loc=0
6879         if [[ $RC -eq 0 ]]; then
6880                 error "Must return error due to dropped pages, rc=$RC"
6881         fi
6882
6883         LOCKED=$(lctl get_param -n llite.*.dump_page_cache | grep -c locked)
6884         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6885         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6886                         grep -c writeback)
6887         if [[ $LOCKED -ne 0 ]]; then
6888                 error "Locked pages remain in cache, locked=$LOCKED"
6889         fi
6890
6891         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6892                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6893         fi
6894
6895         rm -f $DIR/$tfile
6896         echo "No pages locked after fsync"
6897
6898         reset_async
6899         return 0
6900 }
6901 run_test 118g "Don't stay in wait if we got local -ENOMEM  =========="
6902
6903 test_118h() {
6904         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6905         remote_ost_nodsh && skip "remote OST with nodsh" && return
6906
6907         reset_async
6908
6909         #define OBD_FAIL_OST_BRW_WRITE_BULK      0x20e
6910         set_nodes_failloc "$(osts_nodes)" 0x20e
6911         # Should simulate ENOMEM error which is recoverable and should be handled by timeout
6912         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
6913         RC=$?
6914
6915         set_nodes_failloc "$(osts_nodes)" 0
6916         if [[ $RC -eq 0 ]]; then
6917                 error "Must return error due to dropped pages, rc=$RC"
6918         fi
6919
6920         LOCKED=$(lctl get_param -n llite.*.dump_page_cache | grep -c locked)
6921         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6922         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache |
6923                     grep -c writeback)
6924         if [[ $LOCKED -ne 0 ]]; then
6925                 error "Locked pages remain in cache, locked=$LOCKED"
6926         fi
6927
6928         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6929                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6930         fi
6931
6932         rm -f $DIR/$tfile
6933         echo "No pages locked after fsync"
6934
6935         return 0
6936 }
6937 run_test 118h "Verify timeout in handling recoverables errors  =========="
6938
6939 [ "$SLOW" = "no" ] && [ -n "$OLD_RESENDCOUNT" ] && set_resend_count $OLD_RESENDCOUNT
6940
6941 test_118i() {
6942         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6943         remote_ost_nodsh && skip "remote OST with nodsh" && return
6944
6945         reset_async
6946
6947         #define OBD_FAIL_OST_BRW_WRITE_BULK      0x20e
6948         set_nodes_failloc "$(osts_nodes)" 0x20e
6949
6950         # Should simulate ENOMEM error which is recoverable and should be handled by timeout
6951         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c &
6952         PID=$!
6953         sleep 5
6954         set_nodes_failloc "$(osts_nodes)" 0
6955
6956         wait $PID
6957         RC=$?
6958         if [[ $RC -ne 0 ]]; then
6959                 error "got error, but should be not, rc=$RC"
6960         fi
6961
6962         LOCKED=$(lctl get_param -n llite.*.dump_page_cache | grep -c locked)
6963         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
6964         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache | grep -c writeback)
6965         if [[ $LOCKED -ne 0 ]]; then
6966                 error "Locked pages remain in cache, locked=$LOCKED"
6967         fi
6968
6969         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
6970                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
6971         fi
6972
6973         rm -f $DIR/$tfile
6974         echo "No pages locked after fsync"
6975
6976         return 0
6977 }
6978 run_test 118i "Fix error before timeout in recoverable error  =========="
6979
6980 [ "$SLOW" = "no" ] && set_resend_count 4
6981
6982 test_118j() {
6983         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
6984         remote_ost_nodsh && skip "remote OST with nodsh" && return
6985
6986         reset_async
6987
6988         #define OBD_FAIL_OST_BRW_WRITE_BULK2     0x220
6989         set_nodes_failloc "$(osts_nodes)" 0x220
6990
6991         # return -EIO from OST
6992         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:O_SYNC:w4096c
6993         RC=$?
6994         set_nodes_failloc "$(osts_nodes)" 0x0
6995         if [[ $RC -eq 0 ]]; then
6996                 error "Must return error due to dropped pages, rc=$RC"
6997         fi
6998
6999         LOCKED=$(lctl get_param -n llite.*.dump_page_cache | grep -c locked)
7000         DIRTY=$(lctl get_param -n llite.*.dump_page_cache | grep -c dirty)
7001         WRITEBACK=$(lctl get_param -n llite.*.dump_page_cache | grep -c writeback)
7002         if [[ $LOCKED -ne 0 ]]; then
7003                 error "Locked pages remain in cache, locked=$LOCKED"
7004         fi
7005
7006         # in recoverable error on OST we want resend and stay until it finished
7007         if [[ $DIRTY -ne 0 || $WRITEBACK -ne 0 ]]; then
7008                 error "Dirty pages not flushed to disk, dirty=$DIRTY, writeback=$WRITEBACK"
7009         fi
7010
7011         rm -f $DIR/$tfile
7012         echo "No pages locked after fsync"
7013
7014         return 0
7015 }
7016 run_test 118j "Simulate unrecoverable OST side error =========="
7017
7018 test_118k()
7019 {
7020         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7021         remote_ost_nodsh && skip "remote OSTs with nodsh" && return
7022
7023         #define OBD_FAIL_OST_BRW_WRITE_BULK      0x20e
7024         set_nodes_failloc "$(osts_nodes)" 0x20e
7025         test_mkdir -p $DIR/$tdir
7026
7027         for ((i=0;i<10;i++)); do
7028                 (dd if=/dev/zero of=$DIR/$tdir/$tfile-$i bs=1M count=10 || \
7029                         error "dd to $DIR/$tdir/$tfile-$i failed" )&
7030                 SLEEPPID=$!
7031                 sleep 0.500s
7032                 kill $SLEEPPID
7033                 wait $SLEEPPID
7034         done
7035
7036         set_nodes_failloc "$(osts_nodes)" 0
7037         rm -rf $DIR/$tdir
7038 }
7039 run_test 118k "bio alloc -ENOMEM and IO TERM handling ========="
7040
7041 test_118l()
7042 {
7043         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7044         # LU-646
7045         test_mkdir -p $DIR/$tdir
7046         $MULTIOP $DIR/$tdir Dy || error "fsync dir failed"
7047         rm -rf $DIR/$tdir
7048 }
7049 run_test 118l "fsync dir ========="
7050
7051 test_118m() # LU-3066
7052 {
7053         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7054         test_mkdir -p $DIR/$tdir
7055         $MULTIOP $DIR/$tdir DY || error "fdatasync dir failed"
7056         rm -rf $DIR/$tdir
7057 }
7058 run_test 118m "fdatasync dir ========="
7059
7060 [ "$SLOW" = "no" ] && [ -n "$OLD_RESENDCOUNT" ] && set_resend_count $OLD_RESENDCOUNT
7061
7062 test_119a() # bug 11737
7063 {
7064         BSIZE=$((512 * 1024))
7065         directio write $DIR/$tfile 0 1 $BSIZE
7066         # We ask to read two blocks, which is more than a file size.
7067         # directio will indicate an error when requested and actual
7068         # sizes aren't equeal (a normal situation in this case) and
7069         # print actual read amount.
7070         NOB=`directio read $DIR/$tfile 0 2 $BSIZE | awk '/error/ {print $6}'`
7071         if [ "$NOB" != "$BSIZE" ]; then
7072                 error "read $NOB bytes instead of $BSIZE"
7073         fi
7074         rm -f $DIR/$tfile
7075 }
7076 run_test 119a "Short directIO read must return actual read amount"
7077
7078 test_119b() # bug 11737
7079 {
7080         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
7081
7082         $SETSTRIPE -c 2 $DIR/$tfile || error "setstripe failed"
7083         dd if=/dev/zero of=$DIR/$tfile bs=1M count=1 seek=1 || error "dd failed"
7084         sync
7085         $MULTIOP $DIR/$tfile oO_RDONLY:O_DIRECT:r$((2048 * 1024)) || \
7086                 error "direct read failed"
7087         rm -f $DIR/$tfile
7088 }
7089 run_test 119b "Sparse directIO read must return actual read amount"
7090
7091 test_119c() # bug 13099
7092 {
7093         BSIZE=1048576
7094         directio write $DIR/$tfile 3 1 $BSIZE || error "direct write failed"
7095         directio readhole $DIR/$tfile 0 2 $BSIZE || error "reading hole failed"
7096         rm -f $DIR/$tfile
7097 }
7098 run_test 119c "Testing for direct read hitting hole"
7099
7100 test_119d() # bug 15950
7101 {
7102         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7103         MAX_RPCS_IN_FLIGHT=`$LCTL get_param -n osc.*OST0000-osc-[^mM]*.max_rpcs_in_flight`
7104         $LCTL set_param -n osc.*OST0000-osc-[^mM]*.max_rpcs_in_flight 1
7105         BSIZE=1048576
7106         $SETSTRIPE $DIR/$tfile -i 0 -c 1 || error "setstripe failed"
7107         $DIRECTIO write $DIR/$tfile 0 1 $BSIZE || error "first directio failed"
7108         #define OBD_FAIL_OSC_DIO_PAUSE           0x40d
7109         lctl set_param fail_loc=0x40d
7110         $DIRECTIO write $DIR/$tfile 1 4 $BSIZE &
7111         pid_dio=$!
7112         sleep 1
7113         cat $DIR/$tfile > /dev/null &
7114         lctl set_param fail_loc=0
7115         pid_reads=$!
7116         wait $pid_dio
7117         log "the DIO writes have completed, now wait for the reads (should not block very long)"
7118         sleep 2
7119         [ -n "`ps h -p $pid_reads -o comm`" ] && \
7120         error "the read rpcs have not completed in 2s"
7121         rm -f $DIR/$tfile
7122         $LCTL set_param -n osc.*OST0000-osc-[^mM]*.max_rpcs_in_flight $MAX_RPCS_IN_FLIGHT
7123 }
7124 run_test 119d "The DIO path should try to send a new rpc once one is completed"
7125
7126 test_120a() {
7127         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7128         test_mkdir -p $DIR/$tdir
7129         [ -z "`lctl get_param -n mdc.*.connect_flags | grep early_lock_cancel`" ] && \
7130                skip "no early lock cancel on server" && return 0
7131
7132         lru_resize_disable mdc
7133         lru_resize_disable osc
7134         cancel_lru_locks mdc
7135         # asynchronous object destroy at MDT could cause bl ast to client
7136         cancel_lru_locks osc
7137
7138         stat $DIR/$tdir > /dev/null
7139         can1=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7140         blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7141         test_mkdir $DIR/$tdir/d1
7142         can2=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7143         blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7144         [ $can1 -eq $can2 ] || error $((can2-can1)) "cancel RPC occured."
7145         [ $blk1 -eq $blk2 ] || error $((blk2-blk1)) "blocking RPC occured."
7146         lru_resize_enable mdc
7147         lru_resize_enable osc
7148 }
7149 run_test 120a "Early Lock Cancel: mkdir test"
7150
7151 test_120b() {
7152         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7153         test_mkdir -p $DIR/$tdir
7154         [ -z "`lctl get_param -n mdc.*.connect_flags | grep early_lock_cancel`" ] && \
7155                skip "no early lock cancel on server" && return 0
7156         lru_resize_disable mdc
7157         lru_resize_disable osc
7158         cancel_lru_locks mdc
7159         stat $DIR/$tdir > /dev/null
7160         can1=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7161         blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7162         touch $DIR/$tdir/f1
7163         can2=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7164         blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7165         [ $can1 -eq $can2 ] || error $((can2-can1)) "cancel RPC occured."
7166         [ $blk1 -eq $blk2 ] || error $((blk2-blk1)) "blocking RPC occured."
7167         lru_resize_enable mdc
7168         lru_resize_enable osc
7169 }
7170 run_test 120b "Early Lock Cancel: create test"
7171
7172 test_120c() {
7173         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7174         test_mkdir -p $DIR/$tdir
7175         [ -z "`lctl get_param -n mdc.*.connect_flags | grep early_lock_cancel`" ] && \
7176                skip "no early lock cancel on server" && return 0
7177         lru_resize_disable mdc
7178         lru_resize_disable osc
7179         test_mkdir -p $DIR/$tdir/d1
7180         test_mkdir -p $DIR/$tdir/d2
7181         touch $DIR/$tdir/d1/f1
7182         cancel_lru_locks mdc
7183         stat $DIR/$tdir/d1 $DIR/$tdir/d2 $DIR/$tdir/d1/f1 > /dev/null
7184         can1=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7185         blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7186         ln $DIR/$tdir/d1/f1 $DIR/$tdir/d2/f2
7187         can2=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7188         blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7189         [ $can1 -eq $can2 ] || error $((can2-can1)) "cancel RPC occured."
7190         [ $blk1 -eq $blk2 ] || error $((blk2-blk1)) "blocking RPC occured."
7191         lru_resize_enable mdc
7192         lru_resize_enable osc
7193 }
7194 run_test 120c "Early Lock Cancel: link test"
7195
7196 test_120d() {
7197         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7198         test_mkdir -p $DIR/$tdir
7199         [ -z "`lctl get_param -n mdc.*.connect_flags | grep early_lock_cancel`" ] && \
7200                skip "no early lock cancel on server" && return 0
7201         lru_resize_disable mdc
7202         lru_resize_disable osc
7203         touch $DIR/$tdir
7204         cancel_lru_locks mdc
7205         stat $DIR/$tdir > /dev/null
7206         can1=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7207         blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7208         chmod a+x $DIR/$tdir
7209         can2=`lctl get_param -n ldlm.services.ldlm_canceld.stats | awk '/ldlm_cancel/ {print $2}'`
7210         blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats | awk '/ldlm_bl_callback/ {print $2}'`
7211         [ $can1 -eq $can2 ] || error $((can2-can1)) "cancel RPC occured."
7212         [ $blk1 -eq $blk2 ] || error $((blk2-blk1)) "blocking RPC occured."
7213         lru_resize_enable mdc
7214         lru_resize_enable osc
7215 }
7216 run_test 120d "Early Lock Cancel: setattr test"
7217
7218 test_120e() {
7219         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7220         test_mkdir -p $DIR/$tdir
7221         [ -z "`lctl get_param -n mdc.*.connect_flags | grep early_lock_cancel`" ] && \
7222                skip "no early lock cancel on server" && return 0
7223         lru_resize_disable mdc
7224         lru_resize_disable osc
7225         dd if=/dev/zero of=$DIR/$tdir/f1 count=1
7226         cancel_lru_locks mdc
7227         cancel_lru_locks osc
7228         dd if=$DIR/$tdir/f1 of=/dev/null
7229         stat $DIR/$tdir $DIR/$tdir/f1 > /dev/null
7230         can1=`lctl get_param -n ldlm.services.ldlm_canceld.stats |
7231               awk '/ldlm_cancel/ {print $2}'`
7232         blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats |
7233               awk '/ldlm_bl_callback/ {print $2}'`
7234         unlink $DIR/$tdir/f1
7235         can2=`lctl get_param -n ldlm.services.ldlm_canceld.stats |
7236               awk '/ldlm_cancel/ {print $2}'`
7237         blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats |
7238               awk '/ldlm_bl_callback/ {print $2}'`
7239         [ $can1 -eq $can2 ] || error $((can2-can1)) "cancel RPC occured."
7240         [ $blk1 -eq $blk2 ] || error $((blk2-blk1)) "blocking RPC occured."
7241         lru_resize_enable mdc
7242         lru_resize_enable osc
7243 }
7244 run_test 120e "Early Lock Cancel: unlink test"
7245
7246 test_120f() {
7247         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7248         [ -z "`lctl get_param -n mdc.*.connect_flags | grep early_lock_cancel`" ] && \
7249                skip "no early lock cancel on server" && return 0
7250         test_mkdir -p $DIR/$tdir
7251         lru_resize_disable mdc
7252         lru_resize_disable osc
7253         test_mkdir -p $DIR/$tdir/d1
7254         test_mkdir -p $DIR/$tdir/d2
7255         dd if=/dev/zero of=$DIR/$tdir/d1/f1 count=1
7256         dd if=/dev/zero of=$DIR/$tdir/d2/f2 count=1
7257         cancel_lru_locks mdc
7258         cancel_lru_locks osc
7259         dd if=$DIR/$tdir/d1/f1 of=/dev/null
7260         dd if=$DIR/$tdir/d2/f2 of=/dev/null
7261         stat $DIR/$tdir/d1 $DIR/$tdir/d2 $DIR/$tdir/d1/f1 $DIR/$tdir/d2/f2 > /dev/null
7262         can1=`lctl get_param -n ldlm.services.ldlm_canceld.stats |
7263               awk '/ldlm_cancel/ {print $2}'`
7264         blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats |
7265               awk '/ldlm_bl_callback/ {print $2}'`
7266         mv $DIR/$tdir/d1/f1 $DIR/$tdir/d2/f2
7267         can2=`lctl get_param -n ldlm.services.ldlm_canceld.stats |
7268               awk '/ldlm_cancel/ {print $2}'`
7269         blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats |
7270               awk '/ldlm_bl_callback/ {print $2}'`
7271         [ $can1 -eq $can2 ] || error $((can2-can1)) "cancel RPC occured."
7272         [ $blk1 -eq $blk2 ] || error $((blk2-blk1)) "blocking RPC occured."
7273         lru_resize_enable mdc
7274         lru_resize_enable osc
7275 }
7276 run_test 120f "Early Lock Cancel: rename test"
7277
7278 test_120g() {
7279         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7280         [ -z "`lctl get_param -n mdc.*.connect_flags | grep early_lock_cancel`" ] && \
7281                skip "no early lock cancel on server" && return 0
7282         lru_resize_disable mdc
7283         lru_resize_disable osc
7284         count=10000
7285         echo create $count files
7286         test_mkdir -p $DIR/$tdir
7287         cancel_lru_locks mdc
7288         cancel_lru_locks osc
7289         t0=`date +%s`
7290
7291         can0=`lctl get_param -n ldlm.services.ldlm_canceld.stats |
7292               awk '/ldlm_cancel/ {print $2}'`
7293         blk0=`lctl get_param -n ldlm.services.ldlm_cbd.stats |
7294               awk '/ldlm_bl_callback/ {print $2}'`
7295         createmany -o $DIR/$tdir/f $count
7296         sync
7297         can1=`lctl get_param -n ldlm.services.ldlm_canceld.stats |
7298               awk '/ldlm_cancel/ {print $2}'`
7299         blk1=`lctl get_param -n ldlm.services.ldlm_cbd.stats |
7300               awk '/ldlm_bl_callback/ {print $2}'`
7301         t1=`date +%s`
7302         echo total: $((can1-can0)) cancels, $((blk1-blk0)) blockings
7303         echo rm $count files
7304         rm -r $DIR/$tdir
7305         sync
7306         can2=`lctl get_param -n ldlm.services.ldlm_canceld.stats |
7307               awk '/ldlm_cancel/ {print $2}'`
7308         blk2=`lctl get_param -n ldlm.services.ldlm_cbd.stats |
7309               awk '/ldlm_bl_callback/ {print $2}'`
7310         t2=`date +%s`
7311         echo total: $count removes in $((t2-t1))
7312         echo total: $((can2-can1)) cancels, $((blk2-blk1)) blockings
7313         sleep 2
7314         # wait for commitment of removal
7315         lru_resize_enable mdc
7316         lru_resize_enable osc
7317 }
7318 run_test 120g "Early Lock Cancel: performance test"
7319
7320 test_121() { #bug #10589
7321         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7322         rm -rf $DIR/$tfile
7323         writes=$(LANG=C dd if=/dev/zero of=$DIR/$tfile count=1 2>&1 | awk -F '+' '/out$/ {print $1}')
7324 #define OBD_FAIL_LDLM_CANCEL_RACE        0x310
7325         lctl set_param fail_loc=0x310
7326         cancel_lru_locks osc > /dev/null
7327         reads=$(LANG=C dd if=$DIR/$tfile of=/dev/null 2>&1 | awk -F '+' '/in$/ {print $1}')
7328         lctl set_param fail_loc=0
7329         [ "$reads" -eq "$writes" ] || error "read" $reads "blocks, must be" $writes
7330 }
7331 run_test 121 "read cancel race ========="
7332
7333 test_123a() { # was test 123, statahead(bug 11401)
7334         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7335         SLOWOK=0
7336         if [ -z "$(grep "processor.*: 1" /proc/cpuinfo)" ]; then
7337             log "testing on UP system. Performance may be not as good as expected."
7338                         SLOWOK=1
7339         fi
7340
7341         rm -rf $DIR/$tdir
7342         test_mkdir -p $DIR/$tdir
7343         NUMFREE=`df -i -P $DIR | tail -n 1 | awk '{ print $4 }'`
7344         [ $NUMFREE -gt 100000 ] && NUMFREE=100000 || NUMFREE=$((NUMFREE-1000))
7345         MULT=10
7346         for ((i=100, j=0; i<=$NUMFREE; j=$i, i=$((i * MULT)) )); do
7347                 createmany -o $DIR/$tdir/$tfile $j $((i - j))
7348
7349                 max=`lctl get_param -n llite.*.statahead_max | head -n 1`
7350                 lctl set_param -n llite.*.statahead_max 0
7351                 lctl get_param llite.*.statahead_max
7352                 cancel_lru_locks mdc
7353                 cancel_lru_locks osc
7354                 stime=`date +%s`
7355                 time ls -l $DIR/$tdir | wc -l
7356                 etime=`date +%s`
7357                 delta=$((etime - stime))
7358                 log "ls $i files without statahead: $delta sec"
7359                 lctl set_param llite.*.statahead_max=$max
7360
7361                 swrong=`lctl get_param -n llite.*.statahead_stats | grep "statahead wrong:" | awk '{print $3}'`
7362                 lctl get_param -n llite.*.statahead_max | grep '[0-9]'
7363                 cancel_lru_locks mdc
7364                 cancel_lru_locks osc
7365                 stime=`date +%s`
7366                 time ls -l $DIR/$tdir | wc -l
7367                 etime=`date +%s`
7368                 delta_sa=$((etime - stime))
7369                 log "ls $i files with statahead: $delta_sa sec"
7370                 lctl get_param -n llite.*.statahead_stats
7371                 ewrong=`lctl get_param -n llite.*.statahead_stats | grep "statahead wrong:" | awk '{print $3}'`
7372
7373                 [ $swrong -lt $ewrong ] && log "statahead was stopped, maybe too many locks held!"
7374                 [ $delta -eq 0 -o $delta_sa -eq 0 ] && continue
7375
7376                 if [ $((delta_sa * 100)) -gt $((delta * 105)) -a $delta_sa -gt $((delta + 2)) ]; then
7377                     max=`lctl get_param -n llite.*.statahead_max | head -n 1`
7378                     lctl set_param -n llite.*.statahead_max 0
7379                     lctl get_param llite.*.statahead_max
7380                     cancel_lru_locks mdc
7381                     cancel_lru_locks osc
7382                     stime=`date +%s`
7383                     time ls -l $DIR/$tdir | wc -l
7384                     etime=`date +%s`
7385                     delta=$((etime - stime))
7386                     log "ls $i files again without statahead: $delta sec"
7387                     lctl set_param llite.*.statahead_max=$max
7388                     if [ $((delta_sa * 100)) -gt $((delta * 105)) -a $delta_sa -gt $((delta + 2)) ]; then
7389                         if [  $SLOWOK -eq 0 ]; then
7390                                 error "ls $i files is slower with statahead!"
7391                         else
7392                                 log "ls $i files is slower with statahead!"
7393                         fi
7394                         break
7395                     fi
7396                 fi
7397
7398                 [ $delta -gt 20 ] && break
7399                 [ $delta -gt 8 ] && MULT=$((50 / delta))
7400                 [ "$SLOW" = "no" -a $delta -gt 5 ] && break
7401         done
7402         log "ls done"
7403
7404         stime=`date +%s`
7405         rm -r $DIR/$tdir
7406         sync
7407         etime=`date +%s`
7408         delta=$((etime - stime))
7409         log "rm -r $DIR/$tdir/: $delta seconds"
7410         log "rm done"
7411         lctl get_param -n llite.*.statahead_stats
7412 }
7413 run_test 123a "verify statahead work"
7414
7415 test_123b () { # statahead(bug 15027)
7416         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7417         test_mkdir -p $DIR/$tdir
7418         createmany -o $DIR/$tdir/$tfile-%d 1000
7419
7420         cancel_lru_locks mdc
7421         cancel_lru_locks osc
7422
7423 #define OBD_FAIL_MDC_GETATTR_ENQUEUE     0x803
7424         lctl set_param fail_loc=0x80000803
7425         ls -lR $DIR/$tdir > /dev/null
7426         log "ls done"
7427         lctl set_param fail_loc=0x0
7428         lctl get_param -n llite.*.statahead_stats
7429         rm -r $DIR/$tdir
7430         sync
7431
7432 }
7433 run_test 123b "not panic with network error in statahead enqueue (bug 15027)"
7434
7435 test_124a() {
7436         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7437         [ -z "`lctl get_param -n mdc.*.connect_flags | grep lru_resize`" ] && \
7438                skip "no lru resize on server" && return 0
7439         local NR=2000
7440         test_mkdir -p $DIR/$tdir || error "failed to create $DIR/$tdir"
7441
7442         log "create $NR files at $DIR/$tdir"
7443         createmany -o $DIR/$tdir/f $NR ||
7444                 error "failed to create $NR files in $DIR/$tdir"
7445
7446         cancel_lru_locks mdc
7447         ls -l $DIR/$tdir > /dev/null
7448
7449         local NSDIR=""
7450         local LRU_SIZE=0
7451         for VALUE in `lctl get_param ldlm.namespaces.*mdc-*.lru_size`; do
7452                 local PARAM=`echo ${VALUE[0]} | cut -d "=" -f1`
7453                 LRU_SIZE=$(lctl get_param -n $PARAM)
7454                 if [ $LRU_SIZE -gt $(default_lru_size) ]; then
7455                         NSDIR=$(echo $PARAM | cut -d "." -f1-3)
7456                                                 log "NSDIR=$NSDIR"
7457                         log "NS=$(basename $NSDIR)"
7458                         break
7459                 fi
7460         done
7461
7462         if [ -z "$NSDIR" -o $LRU_SIZE -lt $(default_lru_size) ]; then
7463                 skip "Not enough cached locks created!"
7464                 return 0
7465         fi
7466         log "LRU=$LRU_SIZE"
7467
7468         local SLEEP=30
7469
7470         # We know that lru resize allows one client to hold $LIMIT locks
7471         # for 10h. After that locks begin to be killed by client.
7472         local MAX_HRS=10
7473         local LIMIT=`lctl get_param -n $NSDIR.pool.limit`
7474                 log "LIMIT=$LIMIT"
7475
7476         # Make LVF so higher that sleeping for $SLEEP is enough to _start_
7477         # killing locks. Some time was spent for creating locks. This means
7478         # that up to the moment of sleep finish we must have killed some of
7479         # them (10-100 locks). This depends on how fast ther were created.
7480         # Many of them were touched in almost the same moment and thus will
7481         # be killed in groups.
7482         local LVF=$(($MAX_HRS * 60 * 60 / $SLEEP * $LIMIT / $LRU_SIZE))
7483
7484         # Use $LRU_SIZE_B here to take into account real number of locks
7485         # created in the case of CMD, LRU_SIZE_B != $NR in most of cases
7486         local LRU_SIZE_B=$LRU_SIZE
7487         log "LVF=$LVF"
7488         local OLD_LVF=`lctl get_param -n $NSDIR.pool.lock_volume_factor`
7489                 log "OLD_LVF=$OLD_LVF"
7490         lctl set_param -n $NSDIR.pool.lock_volume_factor $LVF
7491
7492         # Let's make sure that we really have some margin. Client checks
7493         # cached locks every 10 sec.
7494         SLEEP=$((SLEEP+20))
7495         log "Sleep ${SLEEP} sec"
7496         local SEC=0
7497         while ((SEC<$SLEEP)); do
7498                 echo -n "..."
7499                 sleep 5
7500                 SEC=$((SEC+5))
7501                 LRU_SIZE=`lctl get_param -n $NSDIR/lru_size`
7502                 echo -n "$LRU_SIZE"
7503         done
7504         echo ""
7505         lctl set_param -n $NSDIR.pool.lock_volume_factor $OLD_LVF
7506         local LRU_SIZE_A=`lctl get_param -n $NSDIR.lru_size`
7507
7508         [ $LRU_SIZE_B -gt $LRU_SIZE_A ] || {
7509                 error "No locks dropped in ${SLEEP}s. LRU size: $LRU_SIZE_A"
7510                 unlinkmany $DIR/$tdir/f $NR
7511                 return
7512         }
7513
7514         log "Dropped "$((LRU_SIZE_B-LRU_SIZE_A))" locks in ${SLEEP}s"
7515         log "unlink $NR files at $DIR/$tdir"
7516         unlinkmany $DIR/$tdir/f $NR
7517 }
7518 run_test 124a "lru resize ======================================="
7519
7520 get_max_pool_limit()
7521 {
7522         local limit=`lctl get_param -n ldlm.namespaces.*-MDT0000-mdc-*.pool.limit`
7523         local max=0
7524         for l in $limit; do
7525                 if test $l -gt $max; then
7526                         max=$l
7527                 fi
7528         done
7529         echo $max
7530 }
7531
7532 test_124b() {
7533         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7534         [ -z "`lctl get_param -n mdc.*.connect_flags | grep lru_resize`" ] && \
7535                skip "no lru resize on server" && return 0
7536
7537         LIMIT=`get_max_pool_limit`
7538
7539         NR=$(($(default_lru_size)*20))
7540         if [ $NR -gt $LIMIT ]; then
7541                 log "Limit lock number by $LIMIT locks"
7542                 NR=$LIMIT
7543         fi
7544         lru_resize_disable mdc
7545         test_mkdir -p $DIR/$tdir/disable_lru_resize ||
7546                 error "failed to create $DIR/$tdir/disable_lru_resize"
7547
7548         createmany -o $DIR/$tdir/disable_lru_resize/f $NR
7549         log "doing ls -la $DIR/$tdir/disable_lru_resize 3 times"
7550         cancel_lru_locks mdc
7551         stime=`date +%s`
7552         PID=""
7553         ls -la $DIR/$tdir/disable_lru_resize > /dev/null &
7554         PID="$PID $!"
7555         sleep 2
7556         ls -la $DIR/$tdir/disable_lru_resize > /dev/null &
7557         PID="$PID $!"
7558         sleep 2
7559         ls -la $DIR/$tdir/disable_lru_resize > /dev/null &
7560         PID="$PID $!"
7561         wait $PID
7562         etime=`date +%s`
7563         nolruresize_delta=$((etime-stime))
7564         log "ls -la time: $nolruresize_delta seconds"
7565         log "lru_size = $(lctl get_param -n ldlm.namespaces.*mdc*.lru_size)"
7566         unlinkmany $DIR/$tdir/disable_lru_resize/f $NR
7567
7568         lru_resize_enable mdc
7569         test_mkdir -p $DIR/$tdir/enable_lru_resize ||
7570                 error "failed to create $DIR/$tdir/enable_lru_resize"
7571
7572         createmany -o $DIR/$tdir/enable_lru_resize/f $NR
7573         log "doing ls -la $DIR/$tdir/enable_lru_resize 3 times"
7574         cancel_lru_locks mdc
7575         stime=`date +%s`
7576         PID=""
7577         ls -la $DIR/$tdir/enable_lru_resize > /dev/null &
7578         PID="$PID $!"
7579         sleep 2
7580         ls -la $DIR/$tdir/enable_lru_resize > /dev/null &
7581         PID="$PID $!"
7582         sleep 2
7583         ls -la $DIR/$tdir/enable_lru_resize > /dev/null &
7584         PID="$PID $!"
7585         wait $PID
7586         etime=`date +%s`
7587         lruresize_delta=$((etime-stime))
7588         log "ls -la time: $lruresize_delta seconds"
7589         log "lru_size = $(lctl get_param -n ldlm.namespaces.*mdc*.lru_size)"
7590
7591         if [ $lruresize_delta -gt $nolruresize_delta ]; then
7592                 log "ls -la is $(((lruresize_delta - $nolruresize_delta) * 100 / $nolruresize_delta))% slower with lru resize enabled"
7593         elif [ $nolruresize_delta -gt $lruresize_delta ]; then
7594                 log "ls -la is $(((nolruresize_delta - $lruresize_delta) * 100 / $nolruresize_delta))% faster with lru resize enabled"
7595         else
7596                 log "lru resize performs the same with no lru resize"
7597         fi
7598         unlinkmany $DIR/$tdir/enable_lru_resize/f $NR
7599 }
7600 run_test 124b "lru resize (performance test) ======================="
7601
7602 test_125() { # 13358
7603         [ -z "$(lctl get_param -n llite.*.client_type | grep local)" ] && skip "must run as local client" && return
7604         [ -z "$(lctl get_param -n mdc.*-mdc-*.connect_flags | grep acl)" ] && skip "must have acl enabled" && return
7605         test_mkdir -p $DIR/d125 || error "mkdir failed"
7606         $SETSTRIPE -S 65536 -c -1 $DIR/d125 || error "setstripe failed"
7607         setfacl -R -m u:bin:rwx $DIR/d125 || error "setfacl $DIR/d125 failed"
7608         ls -ld $DIR/d125 || error "cannot access $DIR/d125"
7609 }
7610 run_test 125 "don't return EPROTO when a dir has a non-default striping and ACLs"
7611
7612 test_126() { # bug 12829/13455
7613         [ -z "$(lctl get_param -n llite.*.client_type | grep local)" ] && skip "must run as local client" && return
7614         [ "$UID" != 0 ] && skip_env "skipping $TESTNAME (must run as root)" && return
7615         $GSS && skip "must run as gss disabled" && return
7616
7617         $RUNAS -u 0 -g 1 touch $DIR/$tfile || error "touch failed"
7618         gid=`ls -n $DIR/$tfile | awk '{print $4}'`
7619         rm -f $DIR/$tfile
7620         [ $gid -eq "1" ] || error "gid is set to" $gid "instead of 1"
7621 }
7622 run_test 126 "check that the fsgid provided by the client is taken into account"
7623
7624 test_127a() { # bug 15521
7625         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7626         $SETSTRIPE -i 0 -c 1 $DIR/$tfile || error "setstripe failed"
7627         $LCTL set_param osc.*.stats=0
7628         FSIZE=$((2048 * 1024))
7629         dd if=/dev/zero of=$DIR/$tfile bs=$FSIZE count=1
7630         cancel_lru_locks osc
7631         dd if=$DIR/$tfile of=/dev/null bs=$FSIZE
7632
7633         $LCTL get_param osc.*0000-osc-*.stats | grep samples > $DIR/${tfile}.tmp
7634         while read NAME COUNT SAMP UNIT MIN MAX SUM SUMSQ; do
7635                 echo "got $COUNT $NAME"
7636                 [ ! $MIN ] && error "Missing min value for $NAME proc entry"
7637                 eval $NAME=$COUNT || error "Wrong proc format"
7638
7639                 case $NAME in
7640                         read_bytes|write_bytes)
7641                         [ $MIN -lt 4096 ] && error "min is too small: $MIN"
7642                         [ $MIN -gt $FSIZE ] && error "min is too big: $MIN"
7643                         [ $MAX -lt 4096 ] && error "max is too small: $MAX"
7644                         [ $MAX -gt $FSIZE ] && error "max is too big: $MAX"
7645                         [ $SUM -ne $FSIZE ] && error "sum is wrong: $SUM"
7646                         [ $SUMSQ -lt $(((FSIZE /4096) * (4096 * 4096))) ] &&
7647                                 error "sumsquare is too small: $SUMSQ"
7648                         [ $SUMSQ -gt $((FSIZE * FSIZE)) ] &&
7649                                 error "sumsquare is too big: $SUMSQ"
7650                         ;;
7651                         *) ;;
7652                 esac
7653         done < $DIR/${tfile}.tmp
7654
7655         #check that we actually got some stats
7656         [ "$read_bytes" ] || error "Missing read_bytes stats"
7657         [ "$write_bytes" ] || error "Missing write_bytes stats"
7658         [ "$read_bytes" != 0 ] || error "no read done"
7659         [ "$write_bytes" != 0 ] || error "no write done"
7660 }
7661 run_test 127a "verify the client stats are sane"
7662
7663 test_127b() { # bug LU-333
7664         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7665         $LCTL set_param llite.*.stats=0
7666         FSIZE=65536 # sized fixed to match PAGE_SIZE for most clients
7667         # perform 2 reads and writes so MAX is different from SUM.
7668         dd if=/dev/zero of=$DIR/$tfile bs=$FSIZE count=1
7669         dd if=/dev/zero of=$DIR/$tfile bs=$FSIZE count=1
7670         cancel_lru_locks osc
7671         dd if=$DIR/$tfile of=/dev/null bs=$FSIZE count=1
7672         dd if=$DIR/$tfile of=/dev/null bs=$FSIZE count=1
7673
7674         $LCTL get_param llite.*.stats | grep samples > $TMP/${tfile}.tmp
7675         while read NAME COUNT SAMP UNIT MIN MAX SUM SUMSQ; do
7676                 echo "got $COUNT $NAME"
7677                 eval $NAME=$COUNT || error "Wrong proc format"
7678
7679         case $NAME in
7680                 read_bytes)
7681                         [ $COUNT -ne 2 ] && error "count is not 2: $COUNT"
7682                         [ $MIN -ne $FSIZE ] && error "min is not $FSIZE: $MIN"
7683                         [ $MAX -ne $FSIZE ] && error "max is incorrect: $MAX"
7684                         [ $SUM -ne $((FSIZE * 2)) ] && error "sum is wrong: $SUM"
7685                         ;;
7686                 write_bytes)
7687                         [ $COUNT -ne 2 ] && error "count is not 2: $COUNT"
7688                         [ $MIN -ne $FSIZE ] && error "min is not $FSIZE: $MIN"
7689                         [ $MAX -ne $FSIZE ] && error "max is incorrect: $MAX"
7690                         [ $SUM -ne $((FSIZE * 2)) ] && error "sum is wrong: $SUM"
7691                         ;;
7692                         *) ;;
7693                 esac
7694         done < $TMP/${tfile}.tmp
7695
7696         #check that we actually got some stats
7697         [ "$read_bytes" ] || error "Missing read_bytes stats"
7698         [ "$write_bytes" ] || error "Missing write_bytes stats"
7699         [ "$read_bytes" != 0 ] || error "no read done"
7700         [ "$write_bytes" != 0 ] || error "no write done"
7701 }
7702 run_test 127b "verify the llite client stats are sane"
7703
7704 test_128() { # bug 15212
7705         touch $DIR/$tfile
7706         $LFS 2>&1 <<-EOF | tee $TMP/$tfile.log
7707                 find $DIR/$tfile
7708                 find $DIR/$tfile
7709         EOF
7710
7711         result=$(grep error $TMP/$tfile.log)
7712         rm -f $DIR/$tfile
7713         [ -z "$result" ] || error "consecutive find's under interactive lfs failed"
7714 }
7715 run_test 128 "interactive lfs for 2 consecutive find's"
7716
7717 set_dir_limits () {
7718         local mntdev
7719         local canondev
7720         local node
7721
7722         local LDPROC=/proc/fs/ldiskfs
7723         local facets=$(get_facets MDS)
7724
7725         for facet in ${facets//,/ }; do
7726                 canondev=$(ldiskfs_canon \
7727                            *.$(convert_facet2label $facet).mntdev $facet)
7728                 do_facet $facet "test -e $LDPROC/$canondev/max_dir_size" ||
7729                                                 LDPROC=/sys/fs/ldiskfs
7730                 do_facet $facet "echo $1 >$LDPROC/$canondev/max_dir_size"
7731         done
7732 }
7733
7734 test_129() {
7735         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
7736         if [ "$(facet_fstype $SINGLEMDS)" != ldiskfs ]; then
7737                 skip "Only applicable to ldiskfs-based MDTs"
7738                 return
7739         fi
7740         remote_mds_nodsh && skip "remote MDS with nodsh" && return
7741
7742         ENOSPC=28
7743         EFBIG=27
7744
7745         test_mkdir -p $DIR/$tdir
7746
7747         MAX=$(stat -c%s "$DIR/$tdir")
7748         set_dir_limits $MAX
7749         local I=0
7750         local J=0
7751         while [ ! $I -gt $MAX ]; do
7752                 $MULTIOP $DIR/$tdir/$J Oc
7753                 rc=$?
7754                 #check two errors ENOSPC for new version of ext4 max_dir_size patch
7755                 #mainline kernel commit df981d03eeff7971ac7e6ff37000bfa702327ef1
7756                 #and EFBIG for previous versions
7757                 if [ $rc -eq $EFBIG -o $rc -eq $ENOSPC ] && [ $I -gt 0 ]; then
7758                         set_dir_limits 0
7759                         echo "return code $rc received as expected"
7760                         multiop $DIR/$tdir/$J Oc
7761                         rc=$?
7762                         I=$(stat -c%s "$DIR/$tdir")
7763                         if [ $I -gt $MAX ] && [ $rc -eq 0 ]; then
7764                                 return 0
7765                         else
7766                                 error_exit "return code $rc current dir size $I " \
7767                                            "previous limit $MAX"
7768                         fi
7769                 elif [ $rc -ne 0 ]; then
7770                         set_dir_limits 0
7771                         error_exit "return code $rc received instead of expected " \
7772                                    "$EFBIG or $ENOSPC, files in dir $I"
7773                 fi
7774                 J=$((J+1))
7775                 I=$(stat -c%s "$DIR/$tdir")
7776         done
7777
7778         set_dir_limits 0
7779         error "exceeded dir size limit $MAX x $MDSCOUNT $MAX : $I bytes"
7780 }
7781 run_test 129 "test directory size limit ========================"
7782
7783 OLDIFS="$IFS"
7784 cleanup_130() {
7785         trap 0
7786         IFS="$OLDIFS"
7787 }
7788
7789 test_130a() {
7790         local filefrag_op=$(filefrag -e 2>&1 | grep "invalid option")
7791         [ -n "$filefrag_op" ] && skip_env "filefrag does not support FIEMAP" &&
7792                 return
7793
7794         trap cleanup_130 EXIT RETURN
7795
7796         local fm_file=$DIR/$tfile
7797         $SETSTRIPE -S 65536 -c 1 $fm_file || error "setstripe on $fm_file"
7798         dd if=/dev/zero of=$fm_file bs=65536 count=1 ||
7799                 error "dd failed for $fm_file"
7800
7801         # LU-1795: test filefrag/FIEMAP once, even if unsupported
7802         filefrag -ves $fm_file
7803         RC=$?
7804         [ "$(facet_fstype ost$(($($GETSTRIPE -i $fm_file) + 1)))" = "zfs" ] &&
7805                 skip "ORI-366/LU-1941: FIEMAP unimplemented on ZFS" && return
7806         [ $RC != 0 ] && error "filefrag $fm_file failed"
7807
7808         filefrag_op=$(filefrag -ve $fm_file | grep -A 100 "ext:" |
7809                       grep -v "ext:" | grep -v "found")
7810         lun=$($GETSTRIPE -i $fm_file)
7811
7812         start_blk=`echo $filefrag_op | cut -d: -f2 | cut -d. -f1`
7813         IFS=$'\n'
7814         tot_len=0
7815         for line in $filefrag_op
7816         do
7817                 frag_lun=`echo $line | cut -d: -f5`
7818                 ext_len=`echo $line | cut -d: -f4`
7819                 if (( $frag_lun != $lun )); then
7820                         cleanup_130
7821                         error "FIEMAP on 1-stripe file($fm_file) failed"
7822                         return
7823                 fi
7824                 (( tot_len += ext_len ))
7825         done
7826
7827         if (( lun != frag_lun || start_blk != 0 || tot_len != 64 )); then
7828                 cleanup_130
7829                 error "FIEMAP on 1-stripe file($fm_file) failed;"
7830                 return
7831         fi
7832
7833         cleanup_130
7834
7835         echo "FIEMAP on single striped file succeeded"
7836 }
7837 run_test 130a "FIEMAP (1-stripe file)"
7838
7839 test_130b() {
7840         [ "$OSTCOUNT" -lt "2" ] &&
7841                 skip_env "skipping FIEMAP on 2-stripe file test" && return
7842
7843         [ "$OSTCOUNT" -ge "10" ] &&
7844                 skip_env "skipping FIEMAP with >= 10 OSTs" && return
7845
7846         local filefrag_op=$(filefrag -e 2>&1 | grep "invalid option")
7847         [ -n "$filefrag_op" ] && skip_env "filefrag does not support FIEMAP" &&
7848                 return
7849
7850         trap cleanup_130 EXIT RETURN
7851
7852         local fm_file=$DIR/$tfile
7853         $SETSTRIPE -S 65536 -c 2 $fm_file || error "setstripe on $fm_file"
7854         [ "$(facet_fstype ost$(($($GETSTRIPE -i $fm_file) + 1)))" = "zfs" ] &&
7855                 skip "ORI-366/LU-1941: FIEMAP unimplemented on ZFS" && return
7856
7857         dd if=/dev/zero of=$fm_file bs=1M count=2 ||
7858                 error "dd failed on $fm_file"
7859
7860         filefrag -ves $fm_file || error "filefrag $fm_file failed"
7861         filefrag_op=$(filefrag -ve $fm_file | grep -A 100 "ext:" |
7862                       grep -v "ext:" | grep -v "found")
7863
7864         last_lun=$(echo $filefrag_op | cut -d: -f5)
7865
7866         IFS=$'\n'
7867         tot_len=0
7868         num_luns=1
7869         for line in $filefrag_op
7870         do
7871                 frag_lun=`echo $line | cut -d: -f5`
7872                 ext_len=`echo $line | cut -d: -f4`
7873                 if (( $frag_lun != $last_lun )); then
7874                         if (( tot_len != 1024 )); then
7875                                 cleanup_130
7876                                 error "FIEMAP on $fm_file failed; returned len $tot_len for OST $last_lun instead of 256"
7877                                 return
7878                         else
7879                                 (( num_luns += 1 ))
7880                                 tot_len=0
7881                         fi
7882                 fi
7883                 (( tot_len += ext_len ))
7884                 last_lun=$frag_lun
7885         done
7886         if (( num_luns != 2 || tot_len != 1024 )); then
7887                 cleanup_130
7888                 error "FIEMAP on $fm_file failed; returned wrong number of luns or wrong len for OST $last_lun"
7889                 return
7890         fi
7891
7892         cleanup_130
7893
7894         echo "FIEMAP on 2-stripe file succeeded"
7895 }
7896 run_test 130b "FIEMAP (2-stripe file)"
7897
7898 test_130c() {
7899         [ "$OSTCOUNT" -lt "2" ] &&
7900                 skip_env "skipping FIEMAP on 2-stripe file" && return
7901
7902         [ "$OSTCOUNT" -ge "10" ] &&
7903                 skip_env "skipping FIEMAP with >= 10 OSTs" && return
7904
7905         filefrag_op=$(filefrag -e 2>&1 | grep "invalid option")
7906         [ -n "$filefrag_op" ] && skip "filefrag does not support FIEMAP" &&
7907                 return
7908
7909         trap cleanup_130 EXIT RETURN
7910
7911         local fm_file=$DIR/$tfile
7912         $SETSTRIPE -S 65536 -c 2 $fm_file || error "setstripe on $fm_file"
7913         [ "$(facet_fstype ost$(($($GETSTRIPE -i $fm_file) + 1)))" = "zfs" ] &&
7914                 skip "ORI-366/LU-1941: FIEMAP unimplemented on ZFS" && return
7915
7916         dd if=/dev/zero of=$fm_file seek=1 bs=1M count=1 || error "dd failed on $fm_file"
7917
7918         filefrag -ves $fm_file || error "filefrag $fm_file failed"
7919         filefrag_op=`filefrag -ve $fm_file | grep -A 100 "ext:" | grep -v "ext:" | grep -v "found"`
7920
7921         last_lun=`echo $filefrag_op | cut -d: -f5`
7922
7923         IFS=$'\n'
7924         tot_len=0
7925         num_luns=1
7926         for line in $filefrag_op
7927         do
7928                 frag_lun=`echo $line | cut -d: -f5`
7929                 ext_len=`echo $line | cut -d: -f4`
7930                 if (( $frag_lun != $last_lun )); then
7931                         logical=`echo $line | cut -d: -f2 | cut -d. -f1`
7932                         if (( logical != 512 )); then
7933                                 cleanup_130
7934                                 error "FIEMAP on $fm_file failed; returned logical start for lun $logical instead of 512"
7935                                 return
7936                         fi
7937                         if (( tot_len != 512 )); then
7938                                 cleanup_130
7939                                 error "FIEMAP on $fm_file failed; returned len $tot_len for OST $last_lun instead of 1024"
7940                                 return
7941                         else
7942                                 (( num_luns += 1 ))
7943                                 tot_len=0
7944                         fi
7945                 fi
7946                 (( tot_len += ext_len ))
7947                 last_lun=$frag_lun
7948         done
7949         if (( num_luns != 2 || tot_len != 512 )); then
7950                 cleanup_130
7951                 error "FIEMAP on $fm_file failed; returned wrong number of luns or wrong len for OST $last_lun"
7952                 return
7953         fi
7954
7955         cleanup_130
7956
7957         echo "FIEMAP on 2-stripe file with hole succeeded"
7958 }
7959 run_test 130c "FIEMAP (2-stripe file with hole)"
7960
7961 test_130d() {
7962         [ "$OSTCOUNT" -lt "3" ] && skip_env "skipping FIEMAP on N-stripe file test" && return
7963
7964         [ "$OSTCOUNT" -ge "10" ] &&
7965                 skip_env "skipping FIEMAP with >= 10 OSTs" && return
7966
7967         filefrag_op=$(filefrag -e 2>&1 | grep "invalid option")
7968         [ -n "$filefrag_op" ] && skip "filefrag does not support FIEMAP" && return
7969
7970         trap cleanup_130 EXIT RETURN
7971
7972         local fm_file=$DIR/$tfile
7973         $SETSTRIPE -S 65536 -c $OSTCOUNT $fm_file||error "setstripe on $fm_file"
7974         [ "$(facet_fstype ost$(($($GETSTRIPE -i $fm_file) + 1)))" = "zfs" ] &&
7975                 skip "ORI-366/LU-1941: FIEMAP unimplemented on ZFS" && return
7976         dd if=/dev/zero of=$fm_file bs=1M count=$OSTCOUNT || error "dd failed on $fm_file"
7977
7978         filefrag -ves $fm_file || error "filefrag $fm_file failed"
7979         filefrag_op=`filefrag -ve $fm_file | grep -A 100 "ext:" | grep -v "ext:" | grep -v "found"`
7980
7981         last_lun=`echo $filefrag_op | cut -d: -f5`
7982
7983         IFS=$'\n'
7984         tot_len=0
7985         num_luns=1
7986         for line in $filefrag_op
7987         do
7988                 frag_lun=`echo $line | cut -d: -f5`
7989                 ext_len=`echo $line | cut -d: -f4`
7990                 if (( $frag_lun != $last_lun )); then
7991                         if (( tot_len != 1024 )); then
7992                                 cleanup_130
7993                                 error "FIEMAP on $fm_file failed; returned len $tot_len for OST $last_lun instead of 1024"
7994                                 return
7995                         else
7996                                 (( num_luns += 1 ))
7997                                 tot_len=0
7998                         fi
7999                 fi
8000                 (( tot_len += ext_len ))
8001                 last_lun=$frag_lun
8002         done
8003         if (( num_luns != OSTCOUNT || tot_len != 1024 )); then
8004                 cleanup_130
8005                 error "FIEMAP on $fm_file failed; returned wrong number of luns or wrong len for OST $last_lun"
8006                 return
8007         fi
8008
8009         cleanup_130
8010
8011         echo "FIEMAP on N-stripe file succeeded"
8012 }
8013 run_test 130d "FIEMAP (N-stripe file)"
8014
8015 test_130e() {
8016         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping continuation FIEMAP test" && return
8017
8018         [ "$OSTCOUNT" -ge "10" ] &&
8019                 skip_env "skipping FIEMAP with >= 10 OSTs" && return
8020
8021         filefrag_op=$(filefrag -e 2>&1 | grep "invalid option")
8022         [ -n "$filefrag_op" ] && skip "filefrag does not support FIEMAP" && return
8023
8024         trap cleanup_130 EXIT RETURN
8025
8026         local fm_file=$DIR/$tfile
8027         $SETSTRIPE -S 131072 -c 2 $fm_file || error "setstripe on $fm_file"
8028         [ "$(facet_fstype ost$(($($GETSTRIPE -i $fm_file) + 1)))" = "zfs" ] &&
8029                 skip "ORI-366/LU-1941: FIEMAP unimplemented on ZFS" && return
8030
8031         NUM_BLKS=512
8032         EXPECTED_LEN=$(( (NUM_BLKS / 2) * 64 ))
8033         for ((i = 0; i < $NUM_BLKS; i++))
8034         do
8035                 dd if=/dev/zero of=$fm_file count=1 bs=64k seek=$((2*$i)) conv=notrunc > /dev/null 2>&1
8036         done
8037
8038         filefrag -ves $fm_file || error "filefrag $fm_file failed"
8039         filefrag_op=`filefrag -ve $fm_file | grep -A 12000 "ext:" | grep -v "ext:" | grep -v "found"`
8040
8041         last_lun=`echo $filefrag_op | cut -d: -f5`
8042
8043         IFS=$'\n'
8044         tot_len=0
8045         num_luns=1
8046         for line in $filefrag_op
8047         do
8048                 frag_lun=`echo $line | cut -d: -f5`
8049                 ext_len=`echo $line | cut -d: -f4`
8050                 if (( $frag_lun != $last_lun )); then
8051                         if (( tot_len != $EXPECTED_LEN )); then
8052                                 cleanup_130
8053                                 error "FIEMAP on $fm_file failed; returned len $tot_len for OST $last_lun instead of $EXPECTED_LEN"
8054                                 return
8055                         else
8056                                 (( num_luns += 1 ))
8057                                 tot_len=0
8058                         fi
8059                 fi
8060                 (( tot_len += ext_len ))
8061                 last_lun=$frag_lun
8062         done
8063         if (( num_luns != 2 || tot_len != $EXPECTED_LEN )); then
8064                 cleanup_130
8065                 error "FIEMAP on $fm_file failed; returned wrong number of luns or wrong len for OST $last_lun"
8066                 return
8067         fi
8068
8069         cleanup_130
8070
8071         echo "FIEMAP with continuation calls succeeded"
8072 }
8073 run_test 130e "FIEMAP (test continuation FIEMAP calls)"
8074
8075 # Test for writev/readv
8076 test_131a() {
8077         rwv -f $DIR/$tfile -w -n 3 524288 1048576 1572864 || \
8078         error "writev test failed"
8079         rwv -f $DIR/$tfile -r -v -n 2 1572864 1048576 || \
8080         error "readv failed"
8081         rm -f $DIR/$tfile
8082 }
8083 run_test 131a "test iov's crossing stripe boundary for writev/readv"
8084
8085 test_131b() {
8086         rwv -f $DIR/$tfile -w -a -n 3 524288 1048576 1572864 || \
8087         error "append writev test failed"
8088         rwv -f $DIR/$tfile -w -a -n 2 1572864 1048576 || \
8089         error "append writev test failed"
8090         rm -f $DIR/$tfile
8091 }
8092 run_test 131b "test append writev"
8093
8094 test_131c() {
8095         rwv -f $DIR/$tfile -w -d -n 1 1048576 || return 0
8096         error "NOT PASS"
8097 }
8098 run_test 131c "test read/write on file w/o objects"
8099
8100 test_131d() {
8101         rwv -f $DIR/$tfile -w -n 1 1572864
8102         NOB=`rwv -f $DIR/$tfile -r -n 3 524288 524288 1048576 | awk '/error/ {print $6}'`
8103         if [ "$NOB" != 1572864 ]; then
8104                 error "Short read filed: read $NOB bytes instead of 1572864"
8105         fi
8106         rm -f $DIR/$tfile
8107 }
8108 run_test 131d "test short read"
8109
8110 test_131e() {
8111         rwv -f $DIR/$tfile -w -s 1048576 -n 1 1048576
8112         rwv -f $DIR/$tfile -r -z -s 0 -n 1 524288 || \
8113         error "read hitting hole failed"
8114         rm -f $DIR/$tfile
8115 }
8116 run_test 131e "test read hitting hole"
8117
8118 get_ost_param() {
8119         local token=$1
8120         local gl_sum=0
8121         for node in $(osts_nodes); do
8122                 gl=$(do_node $node "$LCTL get_param -n ost.OSS.ost.stats" | awk '/'$token'/ {print $2}' | head -n 1)
8123                 [ x$gl = x"" ] && gl=0
8124                 gl_sum=$((gl_sum + gl))
8125         done
8126         echo $gl_sum
8127 }
8128
8129 som_mode_switch() {
8130         local som=$1
8131         local gl1=$2
8132         local gl2=$3
8133
8134         if [ x$som = x"enabled" ]; then
8135                 [ $((gl2 - gl1)) -gt 0 ] && error "no glimpse RPC is expected"
8136                 MOUNTOPT=`echo $MOUNTOPT | sed 's/som_preview//g'`
8137                 do_facet mgs "$LCTL conf_param $FSNAME.mdt.som=disabled"
8138         else
8139                 [ $((gl2 - gl1)) -gt 0 ] || error "some glimpse RPC is expected"
8140                 MOUNTOPT="$MOUNTOPT,som_preview"
8141                 do_facet mgs "$LCTL conf_param $FSNAME.mdt.som=enabled"
8142         fi
8143
8144         # do remount to make new mount-conf parameters actual
8145         echo remounting...
8146         sync
8147         stopall
8148         setupall
8149 }
8150
8151 test_132() { #1028, SOM
8152         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8153         remote_mds_nodsh && skip "remote MDS with nodsh" && return
8154         local num=$(get_mds_dir $DIR)
8155         local mymds=mds${num}
8156         local MOUNTOPT_SAVE=$MOUNTOPT
8157
8158         dd if=/dev/zero of=$DIR/$tfile count=1 2>/dev/null
8159         cancel_lru_locks osc
8160
8161         som1=$(do_facet $mymds "$LCTL get_param mdt.*.som" |  awk -F= ' {print $2}' | head -n 1)
8162
8163         gl1=$(get_ost_param "ldlm_glimpse_enqueue")
8164         stat $DIR/$tfile >/dev/null
8165         gl2=$(get_ost_param "ldlm_glimpse_enqueue")
8166         echo "====> SOM is "$som1", "$((gl2 - gl1))" glimpse RPC occured"
8167         rm $DIR/$tfile
8168         som_mode_switch $som1 $gl1 $gl2
8169
8170         dd if=/dev/zero of=$DIR/$tfile count=1 2>/dev/null
8171         cancel_lru_locks osc
8172
8173         som2=$(do_facet $mymds "$LCTL get_param mdt.*.som" |  awk -F= ' {print $2}' | head -n 1)
8174         if [ $som1 == $som2 ]; then
8175             error "som is still "$som2
8176             if [ x$som2 = x"enabled" ]; then
8177                 som2="disabled"
8178             else
8179                 som2="enabled"
8180             fi
8181         fi
8182
8183         gl1=$(get_ost_param "ldlm_glimpse_enqueue")
8184         stat $DIR/$tfile >/dev/null
8185         gl2=$(get_ost_param "ldlm_glimpse_enqueue")
8186         echo "====> SOM is "$som2", "$((gl2 - gl1))" glimpse RPC occured"
8187         som_mode_switch $som2 $gl1 $gl2
8188         MOUNTOPT=$MOUNTOPT_SAVE
8189 }
8190 run_test 132 "som avoids glimpse rpc"
8191
8192 check_stats() {
8193         local res
8194         local count
8195         case $1 in
8196         $SINGLEMDS) res=`do_facet $SINGLEMDS $LCTL get_param mdt.$FSNAME-MDT0000.md_stats | grep "$2"`
8197                  ;;
8198         ost) res=`do_facet ost1 $LCTL get_param obdfilter.$FSNAME-OST0000.stats | grep "$2"`
8199                  ;;
8200         *) error "Wrong argument $1" ;;
8201         esac
8202         echo $res
8203         count=`echo $res | awk '{print $2}'`
8204         [ -z "$res" ] && error "The counter for $2 on $1 was not incremented"
8205         # if the argument $3 is zero, it means any stat increment is ok.
8206         if [ $3 -gt 0 ] ; then
8207                 [ $count -ne $3 ] && error "The $2 counter on $1 is wrong - expected $3"
8208         fi
8209 }
8210
8211 test_133a() {
8212         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8213         remote_ost_nodsh && skip "remote OST with nodsh" && return
8214         remote_mds_nodsh && skip "remote MDS with nodsh" && return
8215
8216         do_facet $SINGLEMDS $LCTL list_param mdt.*.rename_stats ||
8217                 { skip "MDS doesn't support rename stats"; return; }
8218         local testdir=$DIR/${tdir}/stats_testdir
8219         mkdir -p $DIR/${tdir}
8220
8221         # clear stats.
8222         do_facet $SINGLEMDS $LCTL set_param mdt.*.md_stats=clear
8223         do_facet ost1 $LCTL set_param obdfilter.*.stats=clear
8224
8225         # verify mdt stats first.
8226         mkdir ${testdir} || error "mkdir failed"
8227         check_stats $SINGLEMDS "mkdir" 1
8228         touch ${testdir}/${tfile} || "touch failed"
8229         check_stats $SINGLEMDS "open" 1
8230         check_stats $SINGLEMDS "close" 1
8231         mknod ${testdir}/${tfile}-pipe p || "mknod failed"
8232         check_stats $SINGLEMDS "mknod" 1
8233         rm -f ${testdir}/${tfile}-pipe || "pipe remove failed"
8234         check_stats $SINGLEMDS "unlink" 1
8235         rm -f ${testdir}/${tfile} || error "file remove failed"
8236         check_stats $SINGLEMDS "unlink" 2
8237
8238         # remove working dir and check mdt stats again.
8239         rmdir ${testdir} || error "rmdir failed"
8240         check_stats $SINGLEMDS "rmdir" 1
8241
8242         local testdir1=$DIR/${tdir}/stats_testdir1
8243         mkdir -p ${testdir}
8244         mkdir -p ${testdir1}
8245         touch ${testdir1}/test1
8246         mv ${testdir1}/test1 ${testdir} || error "file crossdir rename"
8247         check_stats $SINGLEMDS "crossdir_rename" 1
8248
8249         mv ${testdir}/test1 ${testdir}/test0 || error "file samedir rename"
8250         check_stats $SINGLEMDS "samedir_rename" 1
8251
8252         rm -rf $DIR/${tdir}
8253 }
8254 run_test 133a "Verifying MDT stats ========================================"
8255
8256 test_133b() {
8257         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8258         remote_ost_nodsh && skip "remote OST with nodsh" && return
8259         remote_mds_nodsh && skip "remote MDS with nodsh" && return
8260         local testdir=$DIR/${tdir}/stats_testdir
8261         mkdir -p ${testdir} || error "mkdir failed"
8262         touch ${testdir}/${tfile} || "touch failed"
8263         cancel_lru_locks mdc
8264
8265         # clear stats.
8266         do_facet $SINGLEMDS $LCTL set_param mdt.*.md_stats=clear
8267         do_facet ost1 $LCTL set_param obdfilter.*.stats=clear
8268
8269         # extra mdt stats verification.
8270         chmod 444 ${testdir}/${tfile} || error "chmod failed"
8271         check_stats $SINGLEMDS "setattr" 1
8272         do_facet $SINGLEMDS $LCTL set_param mdt.*.md_stats=clear
8273         if [ $(lustre_version_code $SINGLEMDS) -ne $(version_code 2.2.0) ]
8274         then            # LU-1740
8275                 ls -l ${testdir}/${tfile} > /dev/null|| error "ls failed"
8276                 check_stats $SINGLEMDS "getattr" 1
8277         fi
8278         $LFS df || error "lfs failed"
8279         check_stats $SINGLEMDS "statfs" 1
8280
8281         rm -rf $DIR/${tdir}
8282 }
8283 run_test 133b "Verifying extra MDT stats =================================="
8284
8285 test_133c() {
8286         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8287         remote_ost_nodsh && skip "remote OST with nodsh" && return
8288         remote_mds_nodsh && skip "remote MDS with nodsh" && return
8289         local testdir=$DIR/${tdir}/stats_testdir
8290         test_mkdir -p ${testdir} || error "mkdir failed"
8291
8292         # verify obdfilter stats.
8293         $SETSTRIPE -c 1 -i 0 ${testdir}/${tfile}
8294         sync
8295         cancel_lru_locks osc
8296         wait_delete_completed
8297
8298         # clear stats.
8299         do_facet $SINGLEMDS $LCTL set_param mdt.*.md_stats=clear
8300         do_facet ost1 $LCTL set_param obdfilter.*.stats=clear
8301
8302         dd if=/dev/zero of=${testdir}/${tfile} conv=notrunc bs=512k count=1 || error "dd failed"
8303         sync
8304         cancel_lru_locks osc
8305         check_stats ost "write" 1
8306
8307         dd if=${testdir}/${tfile} of=/dev/null bs=1k count=1 || error "dd failed"
8308         check_stats ost "read" 1
8309
8310         > ${testdir}/${tfile} || error "truncate failed"
8311         check_stats ost "punch" 1
8312
8313         rm -f ${testdir}/${tfile} || error "file remove failed"
8314         wait_delete_completed
8315         check_stats ost "destroy" 1
8316
8317         rm -rf $DIR/${tdir}
8318 }
8319 run_test 133c "Verifying OST stats ========================================"
8320
8321 order_2() {
8322     local value=$1
8323     local orig=$value
8324     local order=1
8325
8326     while [ $value -ge 2 ]; do
8327         order=$((order*2))
8328         value=$((value/2))
8329     done
8330
8331     if [ $orig -gt $order ]; then
8332         order=$((order*2))
8333     fi
8334     echo $order
8335 }
8336
8337 size_in_KMGT() {
8338     local value=$1
8339     local size=('K' 'M' 'G' 'T');
8340     local i=0
8341     local size_string=$value
8342
8343     while [ $value -ge 1024 ]; do
8344         if [ $i -gt 3 ]; then
8345             #T is the biggest unit we get here, if that is bigger,
8346             #just return XXXT
8347             size_string=${value}T
8348             break
8349         fi
8350         value=$((value >> 10))
8351         if [ $value -lt 1024 ]; then
8352             size_string=${value}${size[$i]}
8353             break
8354         fi
8355         i=$((i + 1))
8356     done
8357
8358     echo $size_string
8359 }
8360
8361 get_rename_size() {
8362     local size=$1
8363     local context=${2:-.}
8364     local sample=$(do_facet $SINGLEMDS $LCTL get_param mdt.*.rename_stats |
8365                 grep -A1 $context |
8366                 awk '/ '${size}'/ {print $4}' | sed -e "s/,//g")
8367     echo $sample
8368 }
8369
8370 test_133d() {
8371         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8372         remote_ost_nodsh && skip "remote OST with nodsh" && return
8373         remote_mds_nodsh && skip "remote MDS with nodsh" && return
8374         do_facet $SINGLEMDS $LCTL list_param mdt.*.rename_stats ||
8375         { skip "MDS doesn't support rename stats"; return; }
8376
8377         local testdir1=$DIR/${tdir}/stats_testdir1
8378         local testdir2=$DIR/${tdir}/stats_testdir2
8379
8380         do_facet $SINGLEMDS $LCTL set_param mdt.*.rename_stats=clear
8381
8382         mkdir -p ${testdir1} || error "mkdir failed"
8383         mkdir -p ${testdir2} || error "mkdir failed"
8384
8385         createmany -o $testdir1/test 512 || error "createmany failed"
8386
8387         # check samedir rename size
8388         mv ${testdir1}/test0 ${testdir1}/test_0
8389
8390         local testdir1_size=$(ls -l $DIR/${tdir} |
8391                 awk '/stats_testdir1/ {print $5}')
8392         local testdir2_size=$(ls -l $DIR/${tdir} |
8393                 awk '/stats_testdir2/ {print $5}')
8394
8395         testdir1_size=$(order_2 $testdir1_size)
8396         testdir2_size=$(order_2 $testdir2_size)
8397
8398         testdir1_size=$(size_in_KMGT $testdir1_size)
8399         testdir2_size=$(size_in_KMGT $testdir2_size)
8400
8401         echo "source rename dir size: ${testdir1_size}"
8402         echo "target rename dir size: ${testdir2_size}"
8403
8404         local cmd="do_facet $SINGLEMDS $LCTL get_param mdt.*.rename_stats"
8405         eval $cmd || error "$cmd failed"
8406         local samedir=$($cmd | grep 'same_dir')
8407         local same_sample=$(get_rename_size $testdir1_size)
8408         [ -z "$samedir" ] && error "samedir_rename_size count error"
8409         [ "$same_sample" -eq 1 ] || error "samedir_rename_size error $same_sample"
8410         echo "Check same dir rename stats success"
8411
8412         do_facet $SINGLEMDS $LCTL set_param mdt.*.rename_stats=clear
8413
8414         # check crossdir rename size
8415         mv ${testdir1}/test_0 ${testdir2}/test_0
8416
8417         testdir1_size=$(ls -l $DIR/${tdir} |
8418                 awk '/stats_testdir1/ {print $5}')
8419         testdir2_size=$(ls -l $DIR/${tdir} |
8420                 awk '/stats_testdir2/ {print $5}')
8421
8422         testdir1_size=$(order_2 $testdir1_size)
8423         testdir2_size=$(order_2 $testdir2_size)
8424
8425         testdir1_size=$(size_in_KMGT $testdir1_size)
8426         testdir2_size=$(size_in_KMGT $testdir2_size)
8427
8428         echo "source rename dir size: ${testdir1_size}"
8429         echo "target rename dir size: ${testdir2_size}"
8430
8431         eval $cmd || error "$cmd failed"
8432         local crossdir=$($cmd | grep 'crossdir')
8433         local src_sample=$(get_rename_size $testdir1_size crossdir_src)
8434         local tgt_sample=$(get_rename_size $testdir2_size crossdir_tgt)
8435         [ -z "$crossdir" ] && error "crossdir_rename_size count error"
8436         [ "$src_sample" -eq 1 ] || error "crossdir_rename_size error $src_sample"
8437         [ "$tgt_sample" -eq 1 ] || error "crossdir_rename_size error $tgt_sample"
8438         echo "Check cross dir rename stats success"
8439         rm -rf $DIR/${tdir}
8440 }
8441 run_test 133d "Verifying rename_stats ========================================"
8442
8443 test_133e() {
8444         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8445         local testdir=$DIR/${tdir}/stats_testdir
8446         local ctr f0 f1 bs=32768 count=42 sum
8447
8448         remote_ost_nodsh && skip "remote OST with nodsh" && return
8449         mkdir -p ${testdir} || error "mkdir failed"
8450
8451         $SETSTRIPE -c 1 -i 0 ${testdir}/${tfile}
8452
8453         for ctr in {write,read}_bytes; do
8454                 sync
8455                 cancel_lru_locks osc
8456
8457                 do_facet ost1 $LCTL set_param -n \
8458                         "obdfilter.*.exports.clear=clear"
8459
8460                 if [ $ctr = write_bytes ]; then
8461                         f0=/dev/zero
8462                         f1=${testdir}/${tfile}
8463                 else
8464                         f0=${testdir}/${tfile}
8465                         f1=/dev/null
8466                 fi
8467
8468                 dd if=$f0 of=$f1 conv=notrunc bs=$bs count=$count || \
8469                         error "dd failed"
8470                 sync
8471                 cancel_lru_locks osc
8472
8473                 sum=$(do_facet ost1 $LCTL get_param \
8474                                 "obdfilter.*.exports.*.stats" | \
8475                           awk -v ctr=$ctr '\
8476                                 BEGIN { sum = 0 }
8477                                 $1 == ctr { sum += $7 }
8478                                 END { print sum }')
8479
8480                 if ((sum != bs * count)); then
8481                         error "Bad $ctr sum, expected $((bs * count)), got $sum"
8482                 fi
8483         done
8484
8485         rm -rf $DIR/${tdir}
8486 }
8487 run_test 133e "Verifying OST {read,write}_bytes nid stats ================="
8488
8489 test_133f() {
8490         local proc_dirs="/proc/fs/lustre/ /proc/sys/lnet/ /proc/sys/lustre/"
8491         local facet
8492
8493         # First without trusting modes.
8494         find $proc_dirs \
8495                 -exec cat '{}' \; &> /dev/null
8496
8497         # Second verifying readability.
8498         find $proc_dirs \
8499                 -type f \
8500                 -readable \
8501                 -exec cat '{}' \; > /dev/null ||
8502                         error "proc file read failed"
8503
8504         for facet in $SINGLEMDS ost1; do
8505                 do_facet $facet find $proc_dirs \
8506                         -not -name req_history \
8507                         -exec cat '{}' \\\; &> /dev/null
8508
8509             do_facet $facet     find $proc_dirs \
8510                         -not -name req_history \
8511                         -type f \
8512                         -readable \
8513                         -exec cat '{}' \\\; > /dev/null ||
8514                                 error "proc file read failed"
8515         done
8516 }
8517 run_test 133f "Check for LBUGs/Oopses/unreadable files in /proc"
8518
8519 test_140() { #bug-17379
8520         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8521         test_mkdir -p $DIR/$tdir || error "Creating dir $DIR/$tdir"
8522         cd $DIR/$tdir || error "Changing to $DIR/$tdir"
8523         cp /usr/bin/stat . || error "Copying stat to $DIR/$tdir"
8524
8525         # VFS limits max symlink depth to 5(4KSTACK) or 7(8KSTACK) or 8
8526         # For kernel > 3.5, bellow only tests consecutive symlink (MAX 40)
8527         local i=0
8528         while i=`expr $i + 1`; do
8529                 test_mkdir -p $i || error "Creating dir $i"
8530                 cd $i || error "Changing to $i"
8531                 ln -s ../stat stat || error "Creating stat symlink"
8532                 # Read the symlink until ELOOP present,
8533                 # not LBUGing the system is considered success,
8534                 # we didn't overrun the stack.
8535                 $OPENFILE -f O_RDONLY stat >/dev/null 2>&1; ret=$?
8536                 [ $ret -ne 0 ] && {
8537                         if [ $ret -eq 40 ]; then
8538                                 break  # -ELOOP
8539                         else
8540                                 error "Open stat symlink"
8541                                 return
8542                         fi
8543                 }
8544         done
8545         i=`expr $i - 1`
8546         echo "The symlink depth = $i"
8547         [ $i -eq 5 -o $i -eq 7 -o $i -eq 8 -o $i -eq 40 ] ||
8548                                         error "Invalid symlink depth"
8549
8550         # Test recursive symlink
8551         ln -s symlink_self symlink_self
8552         $OPENFILE -f O_RDONLY symlink_self >/dev/null 2>&1; ret=$?
8553         echo "open symlink_self returns $ret"
8554         [ $ret -eq 40 ] || error "recursive symlink doesn't return -ELOOP"
8555 }
8556 run_test 140 "Check reasonable stack depth (shouldn't LBUG) ===="
8557
8558 test_150() {
8559         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8560         local TF="$TMP/$tfile"
8561
8562         dd if=/dev/urandom of=$TF bs=6096 count=1 || error "dd failed"
8563         cp $TF $DIR/$tfile
8564         cancel_lru_locks osc
8565         cmp $TF $DIR/$tfile || error "$TMP/$tfile $DIR/$tfile differ"
8566         remount_client $MOUNT
8567         df -P $MOUNT
8568         cmp $TF $DIR/$tfile || error "$TF $DIR/$tfile differ (remount)"
8569
8570         $TRUNCATE $TF 6000
8571         $TRUNCATE $DIR/$tfile 6000
8572         cancel_lru_locks osc
8573         cmp $TF $DIR/$tfile || error "$TF $DIR/$tfile differ (truncate1)"
8574
8575         echo "12345" >>$TF
8576         echo "12345" >>$DIR/$tfile
8577         cancel_lru_locks osc
8578         cmp $TF $DIR/$tfile || error "$TF $DIR/$tfile differ (append1)"
8579
8580         echo "12345" >>$TF
8581         echo "12345" >>$DIR/$tfile
8582         cancel_lru_locks osc
8583         cmp $TF $DIR/$tfile || error "$TF $DIR/$tfile differ (append2)"
8584
8585         rm -f $TF
8586         true
8587 }
8588 run_test 150 "truncate/append tests"
8589
8590 function roc_hit() {
8591         local list=$(comma_list $(osts_nodes))
8592         #debug temp debug for LU-2902: lets see what values we get back
8593         echo $(get_osd_param $list '' stats) 1>&2
8594         echo $(get_osd_param $list '' stats |
8595                awk '/'cache_hit'/ {sum+=$2} END {print sum}')
8596 }
8597
8598 function set_cache() {
8599         local on=1
8600
8601         if [ "$2" == "off" ]; then
8602                 on=0;
8603         fi
8604         local list=$(comma_list $(osts_nodes))
8605         set_osd_param $list '' $1_cache_enable $on
8606
8607         cancel_lru_locks osc
8608 }
8609
8610 test_151() {
8611         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8612         remote_ost_nodsh && skip "remote OST with nodsh" && return
8613
8614         local CPAGES=3
8615         local list=$(comma_list $(osts_nodes))
8616
8617         # check whether obdfilter is cache capable at all
8618         if ! get_osd_param $list '' read_cache_enable >/dev/null; then
8619                 echo "not cache-capable obdfilter"
8620                 return 0
8621         fi
8622
8623         # check cache is enabled on all obdfilters
8624         if get_osd_param $list '' read_cache_enable | grep 0; then
8625                 echo "oss cache is disabled"
8626                 return 0
8627         fi
8628
8629         set_osd_param $list '' writethrough_cache_enable 1
8630
8631         # check write cache is enabled on all obdfilters
8632         if get_osd_param $list '' writethrough_cache_enable | grep 0; then
8633                 echo "oss write cache is NOT enabled"
8634                 return 0
8635         fi
8636
8637         #define OBD_FAIL_OBD_NO_LRU  0x609
8638         do_nodes $list $LCTL set_param fail_loc=0x609
8639
8640         # pages should be in the case right after write
8641         dd if=/dev/urandom of=$DIR/$tfile bs=4k count=$CPAGES ||
8642                 error "dd failed"
8643
8644         local BEFORE=$(roc_hit)
8645         cancel_lru_locks osc
8646         cat $DIR/$tfile >/dev/null
8647         local AFTER=$(roc_hit)
8648
8649         do_nodes $list $LCTL set_param fail_loc=0
8650
8651         if ! let "AFTER - BEFORE == CPAGES"; then
8652                 error "NOT IN CACHE: before: $BEFORE, after: $AFTER"
8653         fi
8654
8655         # the following read invalidates the cache
8656         cancel_lru_locks osc
8657         set_osd_param $list '' read_cache_enable 0
8658         cat $DIR/$tfile >/dev/null
8659
8660         # now data shouldn't be found in the cache
8661         BEFORE=$(roc_hit)
8662         cancel_lru_locks osc
8663         cat $DIR/$tfile >/dev/null
8664         AFTER=$(roc_hit)
8665         if let "AFTER - BEFORE != 0"; then
8666                 error "IN CACHE: before: $BEFORE, after: $AFTER"
8667         fi
8668
8669         set_osd_param $list '' read_cache_enable 1
8670         rm -f $DIR/$tfile
8671 }
8672 run_test 151 "test cache on oss and controls ==============================="
8673
8674 test_152() {
8675         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8676         local TF="$TMP/$tfile"
8677
8678         # simulate ENOMEM during write
8679 #define OBD_FAIL_OST_NOMEM      0x226
8680         lctl set_param fail_loc=0x80000226
8681         dd if=/dev/urandom of=$TF bs=6096 count=1 || error "dd failed"
8682         cp $TF $DIR/$tfile
8683         sync || error "sync failed"
8684         lctl set_param fail_loc=0
8685
8686         # discard client's cache
8687         cancel_lru_locks osc
8688
8689         # simulate ENOMEM during read
8690         lctl set_param fail_loc=0x80000226
8691         cmp $TF $DIR/$tfile || error "cmp failed"
8692         lctl set_param fail_loc=0
8693
8694         rm -f $TF
8695 }
8696 run_test 152 "test read/write with enomem ============================"
8697
8698 test_153() {
8699         $MULTIOP $DIR/$tfile Ow4096Ycu || error "multiop failed"
8700 }
8701 run_test 153 "test if fdatasync does not crash ======================="
8702
8703 dot_lustre_fid_permission_check() {
8704         local fid=$1
8705         local ffid=$MOUNT/.lustre/fid/$fid
8706         local test_dir=$2
8707
8708         echo "stat fid $fid"
8709         stat $ffid > /dev/null || error "stat $ffid failed."
8710         echo "touch fid $fid"
8711         touch $ffid || error "touch $ffid failed."
8712         echo "write to fid $fid"
8713         cat /etc/hosts > $ffid || error "write $ffid failed."
8714         echo "read fid $fid"
8715         diff /etc/hosts $ffid || error "read $ffid failed."
8716         echo "append write to fid $fid"
8717         cat /etc/hosts >> $ffid || error "append write $ffid failed."
8718         echo "rename fid $fid"
8719         mv $ffid $test_dir/$tfile.1 &&
8720                 error "rename $ffid to $tfile.1 should fail."
8721         touch $test_dir/$tfile.1
8722         mv $test_dir/$tfile.1 $ffid &&
8723                 error "rename $tfile.1 to $ffid should fail."
8724         rm -f $test_dir/$tfile.1
8725         echo "truncate fid $fid"
8726         $TRUNCATE $ffid 777 || error "truncate $ffid failed."
8727         echo "link fid $fid"
8728         ln -f $ffid $test_dir/tfile.lnk || error "link $ffid failed."
8729         if [ -n $(lctl get_param -n mdc.*-mdc-*.connect_flags | grep acl) ]; then
8730                 echo "setfacl fid $fid"
8731                 setfacl -R -m u:bin:rwx $ffid || error "setfacl $ffid failed."
8732                 echo "getfacl fid $fid"
8733                 getfacl $ffid >/dev/null || error "getfacl $ffid failed."
8734         fi
8735         echo "unlink fid $fid"
8736         unlink $MOUNT/.lustre/fid/$fid && error "unlink $ffid should fail."
8737         echo "mknod fid $fid"
8738         mknod $ffid c 1 3 && error "mknod $ffid should fail."
8739
8740         fid=[0xf00000400:0x1:0x0]
8741         ffid=$MOUNT/.lustre/fid/$fid
8742
8743         echo "stat non-exist fid $fid"
8744         stat $ffid > /dev/null && error "stat non-exist $ffid should fail."
8745         echo "write to non-exist fid $fid"
8746         cat /etc/hosts > $ffid && error "write non-exist $ffid should fail."
8747         echo "link new fid $fid"
8748         ln $test_dir/$tfile $ffid && error "link $ffid should fail."
8749
8750         mkdir -p $test_dir/$tdir
8751         touch $test_dir/$tdir/$tfile
8752         fid=$($LFS path2fid $test_dir/$tdir)
8753         rc=$?
8754         [ $rc -ne 0 ] &&
8755                 error "error: could not get fid for $test_dir/$dir/$tfile."
8756
8757         ffid=$MOUNT/.lustre/fid/$fid
8758
8759         echo "ls $fid"
8760         ls $ffid > /dev/null || error "ls $ffid failed."
8761         echo "touch $fid/$tfile.1"
8762         touch $ffid/$tfile.1 || error "touch $ffid/$tfile.1 failed."
8763
8764         echo "touch $MOUNT/.lustre/fid/$tfile"
8765         touch $MOUNT/.lustre/fid/$tfile && \
8766                 error "touch $MOUNT/.lustre/fid/$tfile should fail."
8767
8768         echo "setxattr to $MOUNT/.lustre/fid"
8769         setfattr -n trusted.name1 -v value1 $MOUNT/.lustre/fid
8770
8771         echo "listxattr for $MOUNT/.lustre/fid"
8772         getfattr -d -m "^trusted" $MOUNT/.lustre/fid
8773
8774         echo "delxattr from $MOUNT/.lustre/fid"
8775         setfattr -x trusted.name1 $MOUNT/.lustre/fid
8776
8777         echo "touch invalid fid: $MOUNT/.lustre/fid/[0x200000400:0x2:0x3]"
8778         touch $MOUNT/.lustre/fid/[0x200000400:0x2:0x3] &&
8779                 error "touch invalid fid should fail."
8780
8781         echo "touch non-normal fid: $MOUNT/.lustre/fid/[0x1:0x2:0x0]"
8782         touch $MOUNT/.lustre/fid/[0x1:0x2:0x0] &&
8783                 error "touch non-normal fid should fail."
8784
8785         echo "rename $tdir to $MOUNT/.lustre/fid"
8786         mrename $test_dir/$tdir $MOUNT/.lustre/fid &&
8787                 error "rename to $MOUNT/.lustre/fid should fail."
8788
8789         if [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.3.51) ]
8790         then            # LU-3547
8791                 local old_obf_mode=$(stat --format="%a" $DIR/.lustre/fid)
8792                 local new_obf_mode=777
8793
8794                 echo "change mode of $DIR/.lustre/fid to $new_obf_mode"
8795                 chmod $new_obf_mode $DIR/.lustre/fid ||
8796                         error "chmod $new_obf_mode $DIR/.lustre/fid failed"
8797
8798                 local obf_mode=$(stat --format=%a $DIR/.lustre/fid)
8799                 [ $obf_mode -eq $new_obf_mode ] ||
8800                         error "stat $DIR/.lustre/fid returned wrong mode $obf_mode"
8801
8802                 echo "restore mode of $DIR/.lustre/fid to $old_obf_mode"
8803                 chmod $old_obf_mode $DIR/.lustre/fid ||
8804                         error "chmod $old_obf_mode $DIR/.lustre/fid failed"
8805         fi
8806
8807         $OPENFILE -f O_LOV_DELAY_CREATE:O_CREAT $test_dir/$tfile-2
8808         fid=$($LFS path2fid $test_dir/$tfile-2)
8809         echo "cp /etc/passwd $MOUNT/.lustre/fid/$fid"
8810         cp /etc/passwd $MOUNT/.lustre/fid/$fid &&
8811                 error "create lov data thru .lustre should fail."
8812         echo "cp /etc/passwd $test_dir/$tfile-2"
8813         cp /etc/passwd $test_dir/$tfile-2 ||
8814                 error "copy to $test_dir/$tfile-2 failed."
8815         echo "diff /etc/passwd $MOUNT/.lustre/fid/$fid"
8816         diff /etc/passwd $MOUNT/.lustre/fid/$fid ||
8817                 error "diff /etc/passwd $MOUNT/.lustre/fid/$fid failed."
8818
8819         rm -rf $test_dir/tfile.lnk
8820         rm -rf $test_dir/$tfile-2
8821 }
8822
8823 test_154A() {
8824         [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.4.1) ]] &&
8825                 skip "Need MDS version at least 2.4.1" && return
8826
8827         touch $DIR/$tfile
8828         local FID=$($LFS path2fid $DIR/$tfile)
8829         [ -z "$FID" ] && error "path2fid unable to get $DIR/$tfile FID"
8830
8831         # check that we get the same pathname back
8832         local FOUND=$($LFS fid2path $MOUNT $FID)
8833         [ -z "$FOUND" ] && error "fid2path unable to get $FID path"
8834         [ "$FOUND" != "$DIR/$tfile" ] &&
8835                 error "fid2path(path2fid($DIR/$tfile)) = $FOUND != $DIR/$tfile"
8836
8837         rm -rf $DIR/$tfile
8838 }
8839 run_test 154A "lfs path2fid and fid2path basic checks"
8840
8841 test_154a() {
8842         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8843         [[ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.51) ]] ||
8844                 { skip "Need MDS version at least 2.2.51"; return 0; }
8845
8846         cp /etc/hosts $DIR/$tfile
8847
8848         fid=$($LFS path2fid $DIR/$tfile)
8849         rc=$?
8850         [ $rc -ne 0 ] && error "error: could not get fid for $DIR/$tfile."
8851
8852         dot_lustre_fid_permission_check "$fid" $DIR ||
8853                 error "dot lustre permission check $fid failed"
8854
8855         rm -rf $MOUNT/.lustre && error ".lustre is not allowed to be unlinked"
8856
8857         touch $MOUNT/.lustre/file &&
8858                 error "creation is not allowed under .lustre"
8859
8860         mkdir $MOUNT/.lustre/dir &&
8861                 error "mkdir is not allowed under .lustre"
8862
8863         rm -rf $DIR/$tfile
8864 }
8865 run_test 154a "Open-by-FID"
8866
8867 test_154b() {
8868         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8869         [[ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.51) ]] ||
8870                 { skip "Need MDS version at least 2.2.51"; return 0; }
8871
8872         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
8873
8874         local remote_dir=$DIR/$tdir/remote_dir
8875         local MDTIDX=1
8876         local rc=0
8877
8878         mkdir -p $DIR/$tdir
8879         $LFS mkdir -i $MDTIDX $remote_dir ||
8880                 error "create remote directory failed"
8881
8882         cp /etc/hosts $remote_dir/$tfile
8883
8884         fid=$($LFS path2fid $remote_dir/$tfile)
8885         rc=$?
8886         [ $rc -ne 0 ] && error "error: could not get fid for $remote_dir/$tfile"
8887
8888         dot_lustre_fid_permission_check "$fid" $remote_dir ||
8889                 error "dot lustre permission check $fid failed"
8890         rm -rf $DIR/$tdir
8891 }
8892 run_test 154b "Open-by-FID for remote directory"
8893
8894 test_154c() {
8895         [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.4.1) ]] &&
8896                 skip "Need MDS version at least 2.4.1" && return
8897
8898         touch $DIR/$tfile.1 $DIR/$tfile.2 $DIR/$tfile.3
8899         local FID1=$($LFS path2fid $DIR/$tfile.1)
8900         local FID2=$($LFS path2fid $DIR/$tfile.2)
8901         local FID3=$($LFS path2fid $DIR/$tfile.3)
8902
8903         local N=1
8904         $LFS path2fid $DIR/$tfile.[123] | while read PATHNAME FID; do
8905                 [ "$PATHNAME" = "$DIR/$tfile.$N:" ] ||
8906                         error "path2fid pathname $PATHNAME != $DIR/$tfile.$N:"
8907                 local want=FID$N
8908                 [ "$FID" = "${!want}" ] ||
8909                         error "path2fid $PATHNAME FID $FID != FID$N ${!want}"
8910                 N=$((N + 1))
8911         done
8912
8913         $LFS fid2path $MOUNT $FID1 $FID2 $FID3 | while read PATHNAME; do
8914                 [ "$PATHNAME" = "$DIR/$tfile.$N" ] ||
8915                         error "fid2path pathname $PATHNAME != $DIR/$tfile.$N:"
8916                 N=$((N + 1))
8917         done
8918 }
8919 run_test 154c "lfs path2fid and fid2path multiple arguments"
8920
8921 test_155_small_load() {
8922     local temp=$TMP/$tfile
8923     local file=$DIR/$tfile
8924
8925     dd if=/dev/urandom of=$temp bs=6096 count=1 || \
8926         error "dd of=$temp bs=6096 count=1 failed"
8927     cp $temp $file
8928     cancel_lru_locks osc
8929     cmp $temp $file || error "$temp $file differ"
8930
8931     $TRUNCATE $temp 6000
8932     $TRUNCATE $file 6000
8933     cmp $temp $file || error "$temp $file differ (truncate1)"
8934
8935     echo "12345" >>$temp
8936     echo "12345" >>$file
8937     cmp $temp $file || error "$temp $file differ (append1)"
8938
8939     echo "12345" >>$temp
8940     echo "12345" >>$file
8941     cmp $temp $file || error "$temp $file differ (append2)"
8942
8943     rm -f $temp $file
8944     true
8945 }
8946
8947 test_155_big_load() {
8948     remote_ost_nodsh && skip "remote OST with nodsh" && return
8949     local temp=$TMP/$tfile
8950     local file=$DIR/$tfile
8951
8952     free_min_max
8953     local cache_size=$(do_facet ost$((MAXI+1)) \
8954         "awk '/cache/ {sum+=\\\$4} END {print sum}' /proc/cpuinfo")
8955     local large_file_size=$((cache_size * 2))
8956
8957     echo "OSS cache size: $cache_size KB"
8958     echo "Large file size: $large_file_size KB"
8959
8960     [ $MAXV -le $large_file_size ] && \
8961         skip_env "max available OST size needs > $large_file_size KB" && \
8962         return 0
8963
8964     $SETSTRIPE $file -c 1 -i $MAXI || error "$SETSTRIPE $file failed"
8965
8966     dd if=/dev/urandom of=$temp bs=$large_file_size count=1k || \
8967         error "dd of=$temp bs=$large_file_size count=1k failed"
8968     cp $temp $file
8969     ls -lh $temp $file
8970     cancel_lru_locks osc
8971     cmp $temp $file || error "$temp $file differ"
8972
8973     rm -f $temp $file
8974     true
8975 }
8976
8977 test_155a() {
8978         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8979         set_cache read on
8980         set_cache writethrough on
8981         test_155_small_load
8982 }
8983 run_test 155a "Verify small file correctness: read cache:on write_cache:on"
8984
8985 test_155b() {
8986         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8987         set_cache read on
8988         set_cache writethrough off
8989         test_155_small_load
8990 }
8991 run_test 155b "Verify small file correctness: read cache:on write_cache:off"
8992
8993 test_155c() {
8994         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
8995         set_cache read off
8996         set_cache writethrough on
8997         test_155_small_load
8998 }
8999 run_test 155c "Verify small file correctness: read cache:off write_cache:on"
9000
9001 test_155d() {
9002         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9003         set_cache read off
9004         set_cache writethrough off
9005         test_155_small_load
9006 }
9007 run_test 155d "Verify small file correctness: read cache:off write_cache:off"
9008
9009 test_155e() {
9010         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9011         set_cache read on
9012         set_cache writethrough on
9013         test_155_big_load
9014 }
9015 run_test 155e "Verify big file correctness: read cache:on write_cache:on"
9016
9017 test_155f() {
9018         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9019         set_cache read on
9020         set_cache writethrough off
9021         test_155_big_load
9022 }
9023 run_test 155f "Verify big file correctness: read cache:on write_cache:off"
9024
9025 test_155g() {
9026         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9027         set_cache read off
9028         set_cache writethrough on
9029         test_155_big_load
9030 }
9031 run_test 155g "Verify big file correctness: read cache:off write_cache:on"
9032
9033 test_155h() {
9034         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9035         set_cache read off
9036         set_cache writethrough off
9037         test_155_big_load
9038 }
9039 run_test 155h "Verify big file correctness: read cache:off write_cache:off"
9040
9041 test_156() {
9042         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9043         local CPAGES=3
9044         local BEFORE
9045         local AFTER
9046         local file="$DIR/$tfile"
9047
9048         [ "$(facet_fstype ost1)" = "zfs" ] &&
9049                 skip "LU-1956/LU-2261: stats unimplemented on OSD ZFS" &&
9050                 return
9051
9052     log "Turn on read and write cache"
9053     set_cache read on
9054     set_cache writethrough on
9055
9056     log "Write data and read it back."
9057     log "Read should be satisfied from the cache."
9058     dd if=/dev/urandom of=$file bs=4k count=$CPAGES || error "dd failed"
9059     BEFORE=`roc_hit`
9060     cancel_lru_locks osc
9061     cat $file >/dev/null
9062     AFTER=`roc_hit`
9063     if ! let "AFTER - BEFORE == CPAGES"; then
9064         error "NOT IN CACHE: before: $BEFORE, after: $AFTER"
9065     else
9066         log "cache hits:: before: $BEFORE, after: $AFTER"
9067     fi
9068
9069     log "Read again; it should be satisfied from the cache."
9070     BEFORE=$AFTER
9071     cancel_lru_locks osc
9072     cat $file >/dev/null
9073     AFTER=`roc_hit`
9074     if ! let "AFTER - BEFORE == CPAGES"; then
9075         error "NOT IN CACHE: before: $BEFORE, after: $AFTER"
9076     else
9077         log "cache hits:: before: $BEFORE, after: $AFTER"
9078     fi
9079
9080
9081     log "Turn off the read cache and turn on the write cache"
9082     set_cache read off
9083     set_cache writethrough on
9084
9085     log "Read again; it should be satisfied from the cache."
9086     BEFORE=`roc_hit`
9087     cancel_lru_locks osc
9088     cat $file >/dev/null
9089     AFTER=`roc_hit`
9090     if ! let "AFTER - BEFORE == CPAGES"; then
9091         error "NOT IN CACHE: before: $BEFORE, after: $AFTER"
9092     else
9093         log "cache hits:: before: $BEFORE, after: $AFTER"
9094     fi
9095
9096     log "Read again; it should not be satisfied from the cache."
9097     BEFORE=$AFTER
9098     cancel_lru_locks osc
9099     cat $file >/dev/null
9100     AFTER=`roc_hit`
9101     if ! let "AFTER - BEFORE == 0"; then
9102         error "IN CACHE: before: $BEFORE, after: $AFTER"
9103     else
9104         log "cache hits:: before: $BEFORE, after: $AFTER"
9105     fi
9106
9107     log "Write data and read it back."
9108     log "Read should be satisfied from the cache."
9109     dd if=/dev/urandom of=$file bs=4k count=$CPAGES || error "dd failed"
9110     BEFORE=`roc_hit`
9111     cancel_lru_locks osc
9112     cat $file >/dev/null
9113     AFTER=`roc_hit`
9114     if ! let "AFTER - BEFORE == CPAGES"; then
9115         error "NOT IN CACHE: before: $BEFORE, after: $AFTER"
9116     else
9117         log "cache hits:: before: $BEFORE, after: $AFTER"
9118     fi
9119
9120     log "Read again; it should not be satisfied from the cache."
9121     BEFORE=$AFTER
9122     cancel_lru_locks osc
9123     cat $file >/dev/null
9124     AFTER=`roc_hit`
9125     if ! let "AFTER - BEFORE == 0"; then
9126         error "IN CACHE: before: $BEFORE, after: $AFTER"
9127     else
9128         log "cache hits:: before: $BEFORE, after: $AFTER"
9129     fi
9130
9131
9132     log "Turn off read and write cache"
9133     set_cache read off
9134     set_cache writethrough off
9135
9136     log "Write data and read it back"
9137     log "It should not be satisfied from the cache."
9138     rm -f $file
9139     dd if=/dev/urandom of=$file bs=4k count=$CPAGES || error "dd failed"
9140     cancel_lru_locks osc
9141     BEFORE=`roc_hit`
9142     cat $file >/dev/null
9143     AFTER=`roc_hit`
9144     if ! let "AFTER - BEFORE == 0"; then
9145         error_ignore 20762 "IN CACHE: before: $BEFORE, after: $AFTER"
9146     else
9147         log "cache hits:: before: $BEFORE, after: $AFTER"
9148     fi
9149
9150
9151     log "Turn on the read cache and turn off the write cache"
9152     set_cache read on
9153     set_cache writethrough off
9154
9155     log "Write data and read it back"
9156     log "It should not be satisfied from the cache."
9157     rm -f $file
9158     dd if=/dev/urandom of=$file bs=4k count=$CPAGES || error "dd failed"
9159     BEFORE=`roc_hit`
9160     cancel_lru_locks osc
9161     cat $file >/dev/null
9162     AFTER=`roc_hit`
9163     if ! let "AFTER - BEFORE == 0"; then
9164         error_ignore 20762 "IN CACHE: before: $BEFORE, after: $AFTER"
9165     else
9166         log "cache hits:: before: $BEFORE, after: $AFTER"
9167     fi
9168
9169     log "Read again; it should be satisfied from the cache."
9170     BEFORE=`roc_hit`
9171     cancel_lru_locks osc
9172     cat $file >/dev/null
9173     AFTER=`roc_hit`
9174     if ! let "AFTER - BEFORE == CPAGES"; then
9175         error "NOT IN CACHE: before: $BEFORE, after: $AFTER"
9176     else
9177         log "cache hits:: before: $BEFORE, after: $AFTER"
9178     fi
9179
9180     rm -f $file
9181 }
9182 run_test 156 "Verification of tunables ============================"
9183
9184 #Changelogs
9185 err17935 () {
9186         if [ $MDSCOUNT -gt 1 ]; then
9187                 error_ignore 17935 $*
9188         else
9189                 error $*
9190         fi
9191 }
9192
9193 changelog_chmask()
9194 {
9195         local CL_MASK_PARAM="mdd.$MDT0.changelog_mask"
9196
9197         MASK=$(do_facet $SINGLEMDS $LCTL get_param $CL_MASK_PARAM| grep -c "$1")
9198
9199         if [ $MASK -eq 1 ]; then
9200                 do_facet $SINGLEMDS $LCTL set_param $CL_MASK_PARAM="-$1"
9201         else
9202                 do_facet $SINGLEMDS $LCTL set_param $CL_MASK_PARAM="+$1"
9203         fi
9204 }
9205
9206 test_160() {
9207         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9208         remote_mds_nodsh && skip "remote MDS with nodsh" && return
9209         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.0) ] ||
9210                 { skip "Need MDS version at least 2.2.0"; return; }
9211
9212         local CL_USERS="mdd.$MDT0.changelog_users"
9213         local GET_CL_USERS="do_facet $SINGLEMDS $LCTL get_param -n $CL_USERS"
9214         USER=$(do_facet $SINGLEMDS $LCTL --device $MDT0 changelog_register -n)
9215         echo "Registered as changelog user $USER"
9216         $GET_CL_USERS | grep -q $USER ||
9217                 error "User $USER not found in changelog_users"
9218
9219         # change something
9220         test_mkdir -p $DIR/$tdir/pics/2008/zachy
9221         touch $DIR/$tdir/pics/2008/zachy/timestamp
9222         cp /etc/hosts $DIR/$tdir/pics/2008/zachy/pic1.jpg
9223         mv $DIR/$tdir/pics/2008/zachy $DIR/$tdir/pics/zach
9224         ln $DIR/$tdir/pics/zach/pic1.jpg $DIR/$tdir/pics/2008/portland.jpg
9225         ln -s $DIR/$tdir/pics/2008/portland.jpg $DIR/$tdir/pics/desktop.jpg
9226         rm $DIR/$tdir/pics/desktop.jpg
9227
9228         $LFS changelog $MDT0 | tail -5
9229
9230         echo "verifying changelog mask"
9231         changelog_chmask "MKDIR"
9232         changelog_chmask "CLOSE"
9233
9234         test_mkdir -p $DIR/$tdir/pics/zach/sofia
9235         echo "zzzzzz" > $DIR/$tdir/pics/zach/file
9236
9237         changelog_chmask "MKDIR"
9238         changelog_chmask "CLOSE"
9239
9240         test_mkdir -p $DIR/$tdir/pics/2008/sofia
9241         echo "zzzzzz" > $DIR/$tdir/pics/zach/file
9242
9243         $LFS changelog $MDT0
9244         MKDIRS=$($LFS changelog $MDT0 | tail -5 | grep -c "MKDIR")
9245         CLOSES=$($LFS changelog $MDT0 | tail -5 | grep -c "CLOSE")
9246         [ $MKDIRS -eq 1 ] || err17935 "MKDIR changelog mask count $DIRS != 1"
9247         [ $CLOSES -eq 1 ] || err17935 "CLOSE changelog mask count $DIRS != 1"
9248
9249         # verify contents
9250         echo "verifying target fid"
9251         fidc=$($LFS changelog $MDT0|awk '/CREAT.*timestamp$/{print $6}'|tail -1)
9252         fidf=$($LFS path2fid $DIR/$tdir/pics/zach/timestamp)
9253         [ "$fidc" == "t=$fidf" ] ||
9254                 err17935 "fid in changelog $fidc != file fid $fidf"
9255         echo "verifying parent fid"
9256         fidc=$($LFS changelog $MDT0|awk '/CREAT.*timestamp$/{print $7}'|tail -1)
9257         fidf=$($LFS path2fid $DIR/$tdir/pics/zach)
9258         [ "$fidc" == "p=$fidf" ] ||
9259                 err17935 "pfid in changelog $fidc != dir fid $fidf"
9260
9261         USER_REC1=$($GET_CL_USERS | awk "\$1 == \"$USER\" {print \$2}")
9262         $LFS changelog_clear $MDT0 $USER $(($USER_REC1 + 5))
9263         USER_REC2=$($GET_CL_USERS | awk "\$1 == \"$USER\" {print \$2}")
9264         echo "verifying user clear: $(( $USER_REC1 + 5 )) == $USER_REC2"
9265         [ $USER_REC2 == $(($USER_REC1 + 5)) ] ||
9266                 err17935 "user index expected $(($USER_REC1 + 5)) is $USER_REC2"
9267
9268         MIN_REC=$($GET_CL_USERS |
9269                 awk 'min == "" || $2 < min {min = $2}; END {print min}')
9270         FIRST_REC=$($LFS changelog $MDT0 | head -1 | awk '{print $1}')
9271         echo "verifying min purge: $(( $MIN_REC + 1 )) == $FIRST_REC"
9272         [ $FIRST_REC == $(($MIN_REC + 1)) ] ||
9273                 err17935 "first index should be $(($MIN_REC + 1)) is $FIRST_REC"
9274
9275         # LU-3446 changelog index reset on MDT restart
9276         local MDT_DEV=$(mdsdevname ${SINGLEMDS//mds/})
9277         CUR_REC1=$($GET_CL_USERS | head -1 | cut -f3 -d' ')
9278         $LFS changelog_clear $MDT0 $USER 0
9279         stop $SINGLEMDS || error "Fail to stop MDT."
9280         start $SINGLEMDS $MDT_DEV $MDS_MOUNT_OPTS || error "Fail to start MDT."
9281         CUR_REC2=$($GET_CL_USERS | head -1 | cut -f3 -d' ')
9282         echo "verifying index survives MDT restart: $CUR_REC1 == $CUR_REC2"
9283         [ $CUR_REC1 == $CUR_REC2 ] ||
9284                 err17935 "current index should be $CUR_REC1 is $CUR_REC2"
9285
9286         echo "verifying user deregister"
9287         do_facet $SINGLEMDS $LCTL --device $MDT0 changelog_deregister $USER
9288         $GET_CL_USERS | grep -q $USER &&
9289                 error "User $USER still in changelog_users"
9290
9291         USERS=$(( $($GET_CL_USERS | wc -l) - 2 ))
9292         if [ $USERS -eq 0 ]; then
9293                 LAST_REC1=$($GET_CL_USERS | head -1 | cut -f3 -d' ')
9294                 touch $DIR/$tdir/chloe
9295                 LAST_REC2=$($GET_CL_USERS | head -1 | cut -f3 -d' ')
9296                 echo "verify changelogs are off: $LAST_REC1 == $LAST_REC2"
9297                 [ $LAST_REC1 == $LAST_REC2 ] || error "changelogs not off"
9298         else
9299                 echo "$USERS other changelog users; can't verify off"
9300         fi
9301 }
9302 run_test 160 "changelog sanity"
9303
9304 test_161a() {
9305         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9306     test_mkdir -p $DIR/$tdir
9307     cp /etc/hosts $DIR/$tdir/$tfile
9308     test_mkdir $DIR/$tdir/foo1
9309     test_mkdir $DIR/$tdir/foo2
9310     ln $DIR/$tdir/$tfile $DIR/$tdir/foo1/sofia
9311     ln $DIR/$tdir/$tfile $DIR/$tdir/foo2/zachary
9312     ln $DIR/$tdir/$tfile $DIR/$tdir/foo1/luna
9313     ln $DIR/$tdir/$tfile $DIR/$tdir/foo2/thor
9314         local FID=$($LFS path2fid $DIR/$tdir/$tfile | tr -d '[]')
9315         if [ "$($LFS fid2path $DIR $FID | wc -l)" != "5" ]; then
9316                 $LFS fid2path $DIR $FID
9317                 err17935 "bad link ea"
9318         fi
9319     # middle
9320     rm $DIR/$tdir/foo2/zachary
9321     # last
9322     rm $DIR/$tdir/foo2/thor
9323     # first
9324     rm $DIR/$tdir/$tfile
9325     # rename
9326     mv $DIR/$tdir/foo1/sofia $DIR/$tdir/foo2/maggie
9327     if [ "$($LFS fid2path $FSNAME --link 1 $FID)" != "$tdir/foo2/maggie" ]
9328         then
9329         $LFS fid2path $DIR $FID
9330         err17935 "bad link rename"
9331     fi
9332     rm $DIR/$tdir/foo2/maggie
9333
9334     # overflow the EA
9335     local longname=filename_avg_len_is_thirty_two_
9336     createmany -l$DIR/$tdir/foo1/luna $DIR/$tdir/foo2/$longname 1000 || \
9337         error "failed to hardlink many files"
9338     links=$($LFS fid2path $DIR $FID | wc -l)
9339     echo -n "${links}/1000 links in link EA"
9340     [ ${links} -gt 60 ] || err17935 "expected at least 60 links in link EA"
9341     unlinkmany $DIR/$tdir/foo2/$longname 1000 || \
9342         error "failed to unlink many hardlinks"
9343 }
9344 run_test 161a "link ea sanity"
9345
9346 test_161b() {
9347         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9348         [ $MDSCOUNT -lt 2 ] &&
9349                 skip "skipping remote directory test" && return
9350         local MDTIDX=1
9351         local remote_dir=$DIR/$tdir/remote_dir
9352
9353         mkdir -p $DIR/$tdir
9354         $LFS mkdir -i $MDTIDX $remote_dir ||
9355                 error "create remote directory failed"
9356
9357         cp /etc/hosts $remote_dir/$tfile
9358         mkdir -p $remote_dir/foo1
9359         mkdir -p $remote_dir/foo2
9360         ln $remote_dir/$tfile $remote_dir/foo1/sofia
9361         ln $remote_dir/$tfile $remote_dir/foo2/zachary
9362         ln $remote_dir/$tfile $remote_dir/foo1/luna
9363         ln $remote_dir/$tfile $remote_dir/foo2/thor
9364
9365         local FID=$($LFS path2fid $remote_dir/$tfile | tr -d '[' |
9366                      tr -d ']')
9367         if [ "$($LFS fid2path $DIR $FID | wc -l)" != "5" ]; then
9368                 $LFS fid2path $DIR $FID
9369                 err17935 "bad link ea"
9370         fi
9371         # middle
9372         rm $remote_dir/foo2/zachary
9373         # last
9374         rm $remote_dir/foo2/thor
9375         # first
9376         rm $remote_dir/$tfile
9377         # rename
9378         mv $remote_dir/foo1/sofia $remote_dir/foo2/maggie
9379         local link_path=$($LFS fid2path $FSNAME --link 1 $FID)
9380         if [ "$DIR/$link_path" != "$remote_dir/foo2/maggie" ]; then
9381                 $LFS fid2path $DIR $FID
9382                 err17935 "bad link rename"
9383         fi
9384         rm $remote_dir/foo2/maggie
9385
9386         # overflow the EA
9387         local longname=filename_avg_len_is_thirty_two_
9388         createmany -l$remote_dir/foo1/luna $remote_dir/foo2/$longname 1000 ||
9389                 error "failed to hardlink many files"
9390         links=$($LFS fid2path $DIR $FID | wc -l)
9391         echo -n "${links}/1000 links in link EA"
9392         [ ${links} -gt 60 ] || err17935 "expected at least 60 links in link EA"
9393         unlinkmany $remote_dir/foo2/$longname 1000 ||
9394         error "failed to unlink many hardlinks"
9395 }
9396 run_test 161b "link ea sanity under remote directory"
9397
9398 check_path() {
9399     local expected=$1
9400     shift
9401     local fid=$2
9402
9403     local path=$(${LFS} fid2path $*)
9404     RC=$?
9405
9406     if [ $RC -ne 0 ]; then
9407         err17935 "path looked up of $expected failed. Error $RC"
9408         return $RC
9409     elif [ "${path}" != "${expected}" ]; then
9410         err17935 "path looked up \"${path}\" instead of \"${expected}\""
9411         return 2
9412     fi
9413     echo "fid $fid resolves to path $path (expected $expected)"
9414 }
9415
9416 test_162() {
9417         # Make changes to filesystem
9418         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9419         test_mkdir -p $DIR/$tdir/d2
9420         touch $DIR/$tdir/d2/$tfile
9421         touch $DIR/$tdir/d2/x1
9422         touch $DIR/$tdir/d2/x2
9423         test_mkdir -p $DIR/$tdir/d2/a/b/c
9424         test_mkdir -p $DIR/$tdir/d2/p/q/r
9425         # regular file
9426         FID=$($LFS path2fid $DIR/$tdir/d2/$tfile | tr -d '[]')
9427         check_path "$tdir/d2/$tfile" $FSNAME $FID --link 0
9428
9429         # softlink
9430         ln -s $DIR/$tdir/d2/$tfile $DIR/$tdir/d2/p/q/r/slink
9431         FID=$($LFS path2fid $DIR/$tdir/d2/p/q/r/slink | tr -d '[]')
9432         check_path "$tdir/d2/p/q/r/slink" $FSNAME $FID --link 0
9433
9434         # softlink to wrong file
9435         ln -s /this/is/garbage $DIR/$tdir/d2/p/q/r/slink.wrong
9436         FID=$($LFS path2fid $DIR/$tdir/d2/p/q/r/slink.wrong | tr -d '[]')
9437         check_path "$tdir/d2/p/q/r/slink.wrong" $FSNAME $FID --link 0
9438
9439         # hardlink
9440         ln $DIR/$tdir/d2/$tfile $DIR/$tdir/d2/p/q/r/hlink
9441         mv $DIR/$tdir/d2/$tfile $DIR/$tdir/d2/a/b/c/new_file
9442         FID=$($LFS path2fid $DIR/$tdir/d2/a/b/c/new_file | tr -d '[]')
9443         # fid2path dir/fsname should both work
9444         check_path "$tdir/d2/a/b/c/new_file" $FSNAME $FID --link 1
9445         check_path "$DIR/$tdir/d2/p/q/r/hlink" $DIR $FID --link 0
9446
9447         # hardlink count: check that there are 2 links
9448         # Doesnt work with CMD yet: 17935
9449         ${LFS} fid2path $DIR $FID | wc -l | grep -q 2 || \
9450                 err17935 "expected 2 links"
9451
9452         # hardlink indexing: remove the first link
9453         rm $DIR/$tdir/d2/p/q/r/hlink
9454         check_path "$tdir/d2/a/b/c/new_file" $FSNAME $FID --link 0
9455
9456         return 0
9457 }
9458 run_test 162 "path lookup sanity"
9459
9460 test_163() {
9461         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9462         remote_mds_nodsh && skip "remote MDS with nodsh" && return
9463         copytool --test $FSNAME || { skip "copytool not runnable: $?" && return; }
9464         copytool $FSNAME &
9465         sleep 1
9466         local uuid=$($LCTL get_param -n mdc.${FSNAME}-MDT0000-mdc-*.uuid)
9467         # this proc file is temporary and linux-only
9468         do_facet $SINGLEMDS lctl set_param mdt.${FSNAME}-MDT0000.mdccomm=$uuid ||\
9469          error "kernel->userspace send failed"
9470         kill -INT $!
9471 }
9472 run_test 163 "kernel <-> userspace comms"
9473
9474 test_169() {
9475         # do directio so as not to populate the page cache
9476         log "creating a 10 Mb file"
9477         $MULTIOP $DIR/$tfile oO_CREAT:O_DIRECT:O_RDWR:w$((10*1048576))c || error "multiop failed while creating a file"
9478         log "starting reads"
9479         dd if=$DIR/$tfile of=/dev/null bs=4096 &
9480         log "truncating the file"
9481         $MULTIOP $DIR/$tfile oO_TRUNC:c || error "multiop failed while truncating the file"
9482         log "killing dd"
9483         kill %+ || true # reads might have finished
9484         echo "wait until dd is finished"
9485         wait
9486         log "removing the temporary file"
9487         rm -rf $DIR/$tfile || error "tmp file removal failed"
9488 }
9489 run_test 169 "parallel read and truncate should not deadlock"
9490
9491 test_170() {
9492         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9493         $LCTL clear     # bug 18514
9494         $LCTL debug_daemon start $TMP/${tfile}_log_good
9495         touch $DIR/$tfile
9496         $LCTL debug_daemon stop
9497         sed -e "s/^...../a/g" $TMP/${tfile}_log_good > $TMP/${tfile}_log_bad ||
9498                error "sed failed to read log_good"
9499
9500         $LCTL debug_daemon start $TMP/${tfile}_log_good
9501         rm -rf $DIR/$tfile
9502         $LCTL debug_daemon stop
9503
9504         $LCTL df $TMP/${tfile}_log_bad > $TMP/${tfile}_log_bad.out 2>&1 ||
9505                error "lctl df log_bad failed"
9506
9507         local bad_line=$(tail -n 1 $TMP/${tfile}_log_bad.out | awk '{print $9}')
9508         local good_line1=$(tail -n 1 $TMP/${tfile}_log_bad.out | awk '{print $5}')
9509
9510         $LCTL df $TMP/${tfile}_log_good > $TMP/${tfile}_log_good.out 2>&1
9511         local good_line2=$(tail -n 1 $TMP/${tfile}_log_good.out | awk '{print $5}')
9512
9513         [ "$bad_line" ] && [ "$good_line1" ] && [ "$good_line2" ] ||
9514                 error "bad_line good_line1 good_line2 are empty"
9515
9516         cat $TMP/${tfile}_log_good >> $TMP/${tfile}_logs_corrupt
9517         cat $TMP/${tfile}_log_bad >> $TMP/${tfile}_logs_corrupt
9518         cat $TMP/${tfile}_log_good >> $TMP/${tfile}_logs_corrupt
9519
9520         $LCTL df $TMP/${tfile}_logs_corrupt > $TMP/${tfile}_log_bad.out 2>&1
9521         local bad_line_new=$(tail -n 1 $TMP/${tfile}_log_bad.out | awk '{print $9}')
9522         local good_line_new=$(tail -n 1 $TMP/${tfile}_log_bad.out | awk '{print $5}')
9523
9524         [ "$bad_line_new" ] && [ "$good_line_new" ] ||
9525                 error "bad_line_new good_line_new are empty"
9526
9527         local expected_good=$((good_line1 + good_line2*2))
9528
9529         rm -f $TMP/${tfile}*
9530         # LU-231, short malformed line may not be counted into bad lines
9531         if [ $bad_line -ne $bad_line_new ] &&
9532                    [ $bad_line -ne $((bad_line_new - 1)) ]; then
9533                 error "expected $bad_line bad lines, but got $bad_line_new"
9534                 return 1
9535         fi
9536
9537         if [ $expected_good -ne $good_line_new ]; then
9538                 error "expected $expected_good good lines, but got $good_line_new"
9539                 return 2
9540         fi
9541         true
9542 }
9543 run_test 170 "test lctl df to handle corrupted log ====================="
9544
9545 test_171() { # bug20592
9546         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9547 #define OBD_FAIL_PTLRPC_DUMP_LOG         0x50e
9548         $LCTL set_param fail_loc=0x50e
9549         $LCTL set_param fail_val=3000
9550         multiop_bg_pause $DIR/$tfile O_s || true
9551         local MULTIPID=$!
9552         kill -USR1 $MULTIPID
9553         # cause log dump
9554         sleep 3
9555         wait $MULTIPID
9556         if dmesg | grep "recursive fault"; then
9557                 error "caught a recursive fault"
9558         fi
9559         $LCTL set_param fail_loc=0
9560         true
9561 }
9562 run_test 171 "test libcfs_debug_dumplog_thread stuck in do_exit() ======"
9563
9564 # it would be good to share it with obdfilter-survey/libecho code
9565 setup_obdecho_osc () {
9566         local rc=0
9567         local ost_nid=$1
9568         local obdfilter_name=$2
9569         echo "Creating new osc for $obdfilter_name on $ost_nid"
9570         # make sure we can find loopback nid
9571         $LCTL add_uuid $ost_nid $ost_nid >/dev/null 2>&1
9572
9573         [ $rc -eq 0 ] && { $LCTL attach osc ${obdfilter_name}_osc     \
9574                            ${obdfilter_name}_osc_UUID || rc=2; }
9575         [ $rc -eq 0 ] && { $LCTL --device ${obdfilter_name}_osc setup \
9576                            ${obdfilter_name}_UUID  $ost_nid || rc=3; }
9577         return $rc
9578 }
9579
9580 cleanup_obdecho_osc () {
9581         local obdfilter_name=$1
9582         $LCTL --device ${obdfilter_name}_osc cleanup >/dev/null
9583         $LCTL --device ${obdfilter_name}_osc detach  >/dev/null
9584         return 0
9585 }
9586
9587 obdecho_test() {
9588         local OBD=$1
9589         local node=$2
9590         local pages=${3:-64}
9591         local rc=0
9592         local id
9593         do_facet $node "$LCTL attach echo_client ec ec_uuid" || rc=1
9594         [ $rc -eq 0 ] && { do_facet $node "$LCTL --device ec setup $OBD" ||
9595                            rc=2; }
9596         if [ $rc -eq 0 ]; then
9597             id=$(do_facet $node "$LCTL --device ec create 1"  | awk '/object id/ {print $6}')
9598             [ ${PIPESTATUS[0]} -eq 0 -a -n "$id" ] || rc=3
9599         fi
9600         echo "New object id is $id"
9601         [ $rc -eq 0 ] && { do_facet $node "$LCTL --device ec getattr $id" ||
9602                            rc=4; }
9603         [ $rc -eq 0 ] && { do_facet $node "$LCTL --device ec "                 \
9604                            "test_brw 10 w v $pages $id" || rc=4; }
9605         [ $rc -eq 0 ] && { do_facet $node "$LCTL --device ec destroy $id 1" ||
9606                            rc=4; }
9607         [ $rc -eq 0 -o $rc -gt 2 ] && { do_facet $node "$LCTL --device ec "    \
9608                                         "cleanup" || rc=5; }
9609         [ $rc -eq 0 -o $rc -gt 1 ] && { do_facet $node "$LCTL --device ec "    \
9610                                         "detach" || rc=6; }
9611         [ $rc -ne 0 ] && echo "obecho_create_test failed: $rc"
9612         return $rc
9613 }
9614
9615 test_180a() {
9616         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9617         remote_ost_nodsh && skip "remote OST with nodsh" && return
9618         local rc=0
9619         local rmmod_local=0
9620
9621         if ! module_loaded obdecho; then
9622             load_module obdecho/obdecho
9623             rmmod_local=1
9624         fi
9625
9626         local osc=$($LCTL dl | grep -v mdt | awk '$3 == "osc" {print $4; exit}')
9627         local host=$(lctl get_param -n osc.$osc.import |
9628                              awk '/current_connection:/ {print $2}' )
9629         local target=$(lctl get_param -n osc.$osc.import |
9630                              awk '/target:/ {print $2}' )
9631         target=${target%_UUID}
9632
9633         [[ -n $target ]]  && { setup_obdecho_osc $host $target || rc=1; } || rc=1
9634         [ $rc -eq 0 ] && { obdecho_test ${target}_osc client || rc=2; }
9635         [[ -n $target ]] && cleanup_obdecho_osc $target
9636         [ $rmmod_local -eq 1 ] && rmmod obdecho
9637         return $rc
9638 }
9639 run_test 180a "test obdecho on osc"
9640
9641 test_180b() {
9642         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9643         remote_ost_nodsh && skip "remote OST with nodsh" && return
9644         local rc=0
9645         local rmmod_remote=0
9646
9647         do_facet ost1 "lsmod | grep -q obdecho || "                      \
9648                       "{ insmod ${LUSTRE}/obdecho/obdecho.ko || "        \
9649                       "modprobe obdecho; }" && rmmod_remote=1
9650         target=$(do_facet ost1 $LCTL dl | awk '/obdfilter/ {print $4;exit}')
9651         [[ -n $target ]] && { obdecho_test $target ost1 || rc=1; }
9652         [ $rmmod_remote -eq 1 ] && do_facet ost1 "rmmod obdecho"
9653         return $rc
9654 }
9655 run_test 180b "test obdecho directly on obdfilter"
9656
9657 test_180c() { # LU-2598
9658         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9659         [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.4.0) ]] &&
9660                 skip "Need MDS version at least 2.4.0" && return
9661
9662         local rc=0
9663         local rmmod_remote=false
9664         local pages=16384 # 64MB bulk I/O RPC size
9665         local target
9666
9667         do_rpc_nodes $(facet_active_host ost1) load_module obdecho/obdecho &&
9668                 rmmod_remote=true || error "failed to load module obdecho"
9669
9670         target=$(do_facet ost1 $LCTL dl | awk '/obdfilter/ {print $4}'|head -1)
9671         if [[ -n $target ]]; then
9672                 obdecho_test "$target" ost1 "$pages" ||
9673                         rc=${PIPESTATUS[0]}
9674         else
9675                 echo "there is no obdfilter target on ost1"
9676                 rc=2
9677         fi
9678         $rmmod_remote && do_facet ost1 "rmmod obdecho" || true
9679         return $rc
9680 }
9681 run_test 180c "test huge bulk I/O size on obdfilter, don't LASSERT"
9682
9683 test_181() { # bug 22177
9684         test_mkdir -p $DIR/$tdir || error "creating dir $DIR/$tdir"
9685         # create enough files to index the directory
9686         createmany -o $DIR/$tdir/foobar 4000
9687         # print attributes for debug purpose
9688         lsattr -d .
9689         # open dir
9690         multiop_bg_pause $DIR/$tdir D_Sc || return 1
9691         MULTIPID=$!
9692         # remove the files & current working dir
9693         unlinkmany $DIR/$tdir/foobar 4000
9694         rmdir $DIR/$tdir
9695         kill -USR1 $MULTIPID
9696         wait $MULTIPID
9697         stat $DIR/$tdir && error "open-unlinked dir was not removed!"
9698         return 0
9699 }
9700 run_test 181 "Test open-unlinked dir ========================"
9701
9702 test_182() {
9703         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9704         # disable MDC RPC lock wouldn't crash client
9705         local fcount=1000
9706         local tcount=4
9707
9708         mkdir -p $DIR/$tdir || error "creating dir $DIR/$tdir"
9709 #define OBD_FAIL_MDC_RPCS_SEM           0x804
9710         $LCTL set_param fail_loc=0x804
9711
9712         for (( i=0; i < $tcount; i++ )) ; do
9713                 mkdir $DIR/$tdir/$i
9714                 createmany -o $DIR/$tdir/$i/f- $fcount &
9715         done
9716         wait
9717
9718         for (( i=0; i < $tcount; i++ )) ; do
9719                 unlinkmany $DIR/$tdir/$i/f- $fcount &
9720         done
9721         wait
9722
9723         rm -rf $DIR/$tdir
9724
9725         $LCTL set_param fail_loc=0
9726 }
9727 run_test 182 "Disable MDC RPCs semaphore wouldn't crash client ================"
9728
9729 test_183() { # LU-2275
9730         [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.3.56) ]] &&
9731                 skip "Need MDS version at least 2.3.56" && return
9732
9733         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
9734         mkdir -p $DIR/$tdir || error "creating dir $DIR/$tdir"
9735         echo aaa > $DIR/$tdir/$tfile
9736
9737 #define OBD_FAIL_MDS_NEGATIVE_POSITIVE  0x148
9738         do_facet $SINGLEMDS $LCTL set_param fail_loc=0x148
9739
9740         ls -l $DIR/$tdir && error "ls succeeded, should have failed"
9741         cat $DIR/$tdir/$tfile && error "cat succeeded, should have failed"
9742
9743         do_facet $SINGLEMDS $LCTL set_param fail_loc=0
9744
9745         # Flush negative dentry cache
9746         touch $DIR/$tdir/$tfile
9747
9748         # We are not checking for any leaked references here, they'll
9749         # become evident next time we do cleanup with module unload.
9750         rm -rf $DIR/$tdir
9751 }
9752 run_test 183 "No crash or request leak in case of strange dispositions ========"
9753
9754 # test suite 184 is for LU-2016, LU-2017
9755 test_184a() {
9756         check_swap_layouts_support && return 0
9757
9758         dir0=$DIR/$tdir/$testnum
9759         test_mkdir -p $dir0 || error "creating dir $dir0"
9760         ref1=/etc/passwd
9761         ref2=/etc/group
9762         file1=$dir0/f1
9763         file2=$dir0/f2
9764         $SETSTRIPE -c1 $file1
9765         cp $ref1 $file1
9766         $SETSTRIPE -c2 $file2
9767         cp $ref2 $file2
9768         gen1=$($GETSTRIPE -g $file1)
9769         gen2=$($GETSTRIPE -g $file2)
9770
9771         $LFS swap_layouts $file1 $file2 || error "swap of file layout failed"
9772         gen=$($GETSTRIPE -g $file1)
9773         [[ $gen1 != $gen ]] ||
9774                 "Layout generation on $file1 does not change"
9775         gen=$($GETSTRIPE -g $file2)
9776         [[ $gen2 != $gen ]] ||
9777                 "Layout generation on $file2 does not change"
9778
9779         cmp $ref1 $file2 || error "content compare failed ($ref1 != $file2)"
9780         cmp $ref2 $file1 || error "content compare failed ($ref2 != $file1)"
9781 }
9782 run_test 184a "Basic layout swap"
9783
9784 test_184b() {
9785         check_swap_layouts_support && return 0
9786
9787         dir0=$DIR/$tdir/$testnum
9788         mkdir -p $dir0 || error "creating dir $dir0"
9789         file1=$dir0/f1
9790         file2=$dir0/f2
9791         file3=$dir0/f3
9792         dir1=$dir0/d1
9793         dir2=$dir0/d2
9794         mkdir $dir1 $dir2
9795         $SETSTRIPE -c1 $file1
9796         $SETSTRIPE -c2 $file2
9797         $SETSTRIPE -c1 $file3
9798         chown $RUNAS_ID $file3
9799         gen1=$($GETSTRIPE -g $file1)
9800         gen2=$($GETSTRIPE -g $file2)
9801
9802         $LFS swap_layouts $dir1 $dir2 &&
9803                 error "swap of directories layouts should fail"
9804         $LFS swap_layouts $dir1 $file1 &&
9805                 error "swap of directory and file layouts should fail"
9806         $RUNAS $LFS swap_layouts $file1 $file2 &&
9807                 error "swap of file we cannot write should fail"
9808         $LFS swap_layouts $file1 $file3 &&
9809                 error "swap of file with different owner should fail"
9810         /bin/true # to clear error code
9811 }
9812 run_test 184b "Forbidden layout swap (will generate errors)"
9813
9814 test_184c() {
9815         check_swap_layouts_support && return 0
9816
9817         local dir0=$DIR/$tdir/$testnum
9818         mkdir -p $dir0 || error "creating dir $dir0"
9819
9820         local ref1=$dir0/ref1
9821         local ref2=$dir0/ref2
9822         local file1=$dir0/file1
9823         local file2=$dir0/file2
9824         # create a file large enough for the concurent test
9825         dd if=/dev/urandom of=$ref1 bs=1M count=$((RANDOM % 50 + 20))
9826         dd if=/dev/urandom of=$ref2 bs=1M count=$((RANDOM % 50 + 20))
9827         echo "ref file size: ref1(`stat -c %s $ref1`), ref2(`stat -c %s $ref2`)"
9828
9829         cp $ref2 $file2
9830         dd if=$ref1 of=$file1 bs=16k &
9831         local DD_PID=$!
9832
9833         # Make sure dd starts to copy file
9834         while [ ! -f $file1 ]; do sleep 0.1; done
9835
9836         $LFS swap_layouts $file1 $file2
9837         local rc=$?
9838         wait $DD_PID
9839         [[ $? == 0 ]] || error "concurrent write on $file1 failed"
9840         [[ $rc == 0 ]] || error "swap of $file1 and $file2 failed"
9841
9842         # how many bytes copied before swapping layout
9843         local copied=`stat -c %s $file2`
9844         local remaining=`stat -c %s $ref1`
9845         remaining=$((remaining - copied))
9846         echo "Copied $copied bytes before swapping layout..."
9847
9848         cmp -n $copied $file1 $ref2 | grep differ &&
9849                 error "Content mismatch [0, $copied) of ref2 and file1"
9850         cmp -n $copied $file2 $ref1 ||
9851                 error "Content mismatch [0, $copied) of ref1 and file2"
9852         cmp -i $copied:$copied -n $remaining $file1 $ref1 ||
9853                 error "Content mismatch [$copied, EOF) of ref1 and file1"
9854
9855         # clean up
9856         rm -f $ref1 $ref2 $file1 $file2
9857 }
9858 run_test 184c "Concurrent write and layout swap"
9859
9860 test_184d() {
9861         check_swap_layouts_support && return 0
9862
9863         local file1=$DIR/$tdir/$tfile-1
9864         local file2=$DIR/$tdir/$tfile-2
9865         local file3=$DIR/$tdir/$tfile-3
9866         local lovea1
9867         local lovea2
9868
9869         mkdir -p $DIR/$tdir
9870         touch $file1 || error "create $file1 failed"
9871         $OPENFILE -f O_CREAT:O_LOV_DELAY_CREATE $file2 ||
9872                 error "create $file2 failed"
9873         $OPENFILE -f O_CREAT:O_LOV_DELAY_CREATE $file3 ||
9874                 error "create $file3 failed"
9875         lovea1=$($LFS getstripe $file1 | sed 1d)
9876
9877         $LFS swap_layouts $file2 $file3 ||
9878                 error "swap $file2 $file3 layouts failed"
9879         $LFS swap_layouts $file1 $file2 ||
9880                 error "swap $file1 $file2 layouts failed"
9881
9882         lovea2=$($LFS getstripe $file2 | sed 1d)
9883         [ "$lovea1" == "$lovea2" ] || error "lovea $lovea1 != $lovea2"
9884
9885         lovea1=$(getfattr -n trusted.lov $file1 | grep ^trusted)
9886         [ -z $lovea1 ] || error "$file1 shouldn't have lovea"
9887 }
9888 run_test 184d "allow stripeless layouts swap"
9889
9890
9891 test_185() { # LU-2441
9892         # LU-3553 - no volatile file support in old servers
9893         [[ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.3.60) ]] ||
9894                 { skip "Need MDS version at least 2.3.60"; return 0; }
9895
9896         mkdir -p $DIR/$tdir || error "creating dir $DIR/$tdir"
9897         touch $DIR/$tdir/spoo
9898         local mtime1=$(stat -c "%Y" $DIR/$tdir)
9899         local fid=$($MULTIOP $DIR/$tdir VFw4096c) ||
9900                 error "cannot create/write a volatile file"
9901         $CHECKSTAT -t file $MOUNT/.lustre/fid/$fid 2>/dev/null &&
9902                 error "FID is still valid after close"
9903
9904         multiop_bg_pause $DIR/$tdir vVw4096_c
9905         local multi_pid=$!
9906
9907         local OLD_IFS=$IFS
9908         IFS=":"
9909         local fidv=($fid)
9910         IFS=$OLD_IFS
9911         # assume that the next FID for this client is sequential, since stdout
9912         # is unfortunately eaten by multiop_bg_pause
9913         local n=$((${fidv[1]} + 1))
9914         local next_fid="${fidv[0]}:$(printf "0x%x" $n):${fidv[2]}"
9915         $CHECKSTAT -t file $MOUNT/.lustre/fid/$next_fid ||
9916                 error "FID is missing before close"
9917         kill -USR1 $multi_pid
9918         # 1 second delay, so if mtime change we will see it
9919         sleep 1
9920         local mtime2=$(stat -c "%Y" $DIR/$tdir)
9921         [[ $mtime1 == $mtime2 ]] || error "mtime has changed"
9922 }
9923 run_test 185 "Volatile file support"
9924
9925 test_187a() {
9926         local dir0=$DIR/$tdir/$testnum
9927         mkdir -p $dir0 || error "creating dir $dir0"
9928
9929         local file=$dir0/file1
9930         dd if=/dev/urandom of=$file count=10 bs=1M conv=fsync
9931         local dv1=$($LFS data_version $file)
9932         dd if=/dev/urandom of=$file seek=10 count=1 bs=1M conv=fsync
9933         local dv2=$($LFS data_version $file)
9934         [[ $dv1 != $dv2 ]] ||
9935                 error "data version did not change on write $dv1 == $dv2"
9936
9937         # clean up
9938         rm -f $file1
9939 }
9940 run_test 187a "Test data version change"
9941
9942 test_187b() {
9943         local dir0=$DIR/$tdir/$testnum
9944         mkdir -p $dir0 || error "creating dir $dir0"
9945
9946         declare -a DV=$($MULTIOP $dir0 Vw1000xYw1000xY | cut -f3 -d" ")
9947         [[ ${DV[0]} != ${DV[1]} ]] ||
9948                 error "data version did not change on write"\
9949                       " ${DV[0]} == ${DV[1]}"
9950
9951         # clean up
9952         rm -f $file1
9953 }
9954 run_test 187b "Test data version change on volatile file"
9955
9956 # OST pools tests
9957 check_file_in_pool()
9958 {
9959         local file=$1
9960         local pool=$2
9961         local tlist="$3"
9962         local res=$($GETSTRIPE $file | grep 0x | cut -f2)
9963         for i in $res
9964         do
9965                 for t in $tlist ; do
9966                         [ "$i" -eq "$t" ] && continue 2
9967                 done
9968
9969                 echo "pool list: $tlist"
9970                 echo "striping: $res"
9971                 error_noexit "$file not allocated in $pool"
9972                 return 1
9973         done
9974         return 0
9975 }
9976
9977 pool_add() {
9978         echo "Creating new pool"
9979         local pool=$1
9980
9981         create_pool $FSNAME.$pool ||
9982                 { error_noexit "No pool created, result code $?"; return 1; }
9983         [ $($LFS pool_list $FSNAME | grep -c $pool) -eq 1 ] ||
9984                 { error_noexit "$pool not in lfs pool_list"; return 2; }
9985 }
9986
9987 pool_add_targets() {
9988         echo "Adding targets to pool"
9989         local pool=$1
9990         local first=$2
9991         local last=$3
9992         local step=${4:-1}
9993
9994         local list=$(seq $first $step $last)
9995
9996         local t=$(for i in $list; do printf "$FSNAME-OST%04x_UUID " $i; done)
9997         do_facet mgs $LCTL pool_add \
9998                         $FSNAME.$pool $FSNAME-OST[$first-$last/$step]
9999         wait_update $HOSTNAME "lctl get_param -n lov.$FSNAME-*.pools.$pool \
10000                         | sort -u | tr '\n' ' ' " "$t" || {
10001                 error_noexit "Add to pool failed"
10002                 return 1
10003         }
10004         local lfscount=$($LFS pool_list $FSNAME.$pool | grep -c "\-OST")
10005         local addcount=$(((last - first) / step + 1))
10006         [ $lfscount -eq $addcount ] || {
10007                 error_noexit "lfs pool_list bad ost count" \
10008                                                 "$lfscount != $addcount"
10009                 return 2
10010         }
10011 }
10012
10013 pool_set_dir() {
10014         local pool=$1
10015         local tdir=$2
10016         echo "Setting pool on directory $tdir"
10017
10018         $SETSTRIPE -c 2 -p $pool $tdir && return 0
10019
10020         error_noexit "Cannot set pool $pool to $tdir"
10021         return 1
10022 }
10023
10024 pool_check_dir() {
10025         local pool=$1
10026         local tdir=$2
10027         echo "Checking pool on directory $tdir"
10028
10029         local res=$($GETSTRIPE --pool $tdir | sed "s/\s*$//")
10030         [ "$res" = "$pool" ] && return 0
10031
10032         error_noexit "Pool on '$tdir' is '$res', not '$pool'"
10033         return 1
10034 }
10035
10036 pool_dir_rel_path() {
10037         echo "Testing relative path works well"
10038         local pool=$1
10039         local tdir=$2
10040         local root=$3
10041
10042         mkdir -p $root/$tdir/$tdir
10043         cd $root/$tdir
10044         pool_set_dir $pool $tdir          || return 1
10045         pool_set_dir $pool ./$tdir        || return 2
10046         pool_set_dir $pool ../$tdir       || return 3
10047         pool_set_dir $pool ../$tdir/$tdir || return 4
10048         rm -rf $tdir; cd - > /dev/null
10049 }
10050
10051 pool_alloc_files() {
10052         echo "Checking files allocation from directory pool"
10053         local pool=$1
10054         local tdir=$2
10055         local count=$3
10056         local tlist="$4"
10057
10058         local failed=0
10059         for i in $(seq -w 1 $count)
10060         do
10061                 local file=$tdir/file-$i
10062                 touch $file
10063                 check_file_in_pool $file $pool "$tlist" || \
10064                         failed=$((failed + 1))
10065         done
10066         [ "$failed" = 0 ] && return 0
10067
10068         error_noexit "$failed files not allocated in $pool"
10069         return 1
10070 }
10071
10072 pool_create_files() {
10073         echo "Creating files in pool"
10074         local pool=$1
10075         local tdir=$2
10076         local count=$3
10077         local tlist="$4"
10078
10079         mkdir -p $tdir
10080         local failed=0
10081         for i in $(seq -w 1 $count)
10082         do
10083                 local file=$tdir/spoo-$i
10084                 $SETSTRIPE -p $pool $file
10085                 check_file_in_pool $file $pool "$tlist" || \
10086                         failed=$((failed + 1))
10087         done
10088         [ "$failed" = 0 ] && return 0
10089
10090         error_noexit "$failed files not allocated in $pool"
10091         return 1
10092 }
10093
10094 pool_lfs_df() {
10095         echo "Checking 'lfs df' output"
10096         local pool=$1
10097
10098         local t=$($LCTL get_param -n lov.$FSNAME-clilov-*.pools.$pool |
10099                         tr '\n' ' ')
10100         local res=$($LFS df --pool $FSNAME.$pool |
10101                         awk '{print $1}' |
10102                         grep "$FSNAME-OST" |
10103                         tr '\n' ' ')
10104         [ "$res" = "$t" ] && return 0
10105
10106         error_noexit "Pools OSTs '$t' is not '$res' that lfs df reports"
10107         return 1
10108 }
10109
10110 pool_file_rel_path() {
10111         echo "Creating files in a pool with relative pathname"
10112         local pool=$1
10113         local tdir=$2
10114
10115         mkdir -p $tdir ||
10116                 { error_noexit "unable to create $tdir"; return 1 ; }
10117         local file="/..$tdir/$tfile-1"
10118         $SETSTRIPE -p $pool $file ||
10119                 { error_noexit "unable to create $file" ; return 2 ; }
10120
10121         cd $tdir
10122         $SETSTRIPE -p $pool $tfile-2 || {
10123                 error_noexit "unable to create $tfile-2 in $tdir"
10124                 return 3
10125         }
10126 }
10127
10128 pool_remove_first_target() {
10129         echo "Removing first target from a pool"
10130         local pool=$1
10131
10132         local pname="lov.$FSNAME-*.pools.$pool"
10133         local t=$($LCTL get_param -n $pname | head -1)
10134         do_facet mgs $LCTL pool_remove $FSNAME.$pool $t
10135         wait_update $HOSTNAME "lctl get_param -n $pname | grep $t" "" || {
10136                 error_noexit "$t not removed from $FSNAME.$pool"
10137                 return 1
10138         }
10139 }
10140
10141 pool_remove_all_targets() {
10142         echo "Removing all targets from pool"
10143         local pool=$1
10144         local file=$2
10145         local pname="lov.$FSNAME-*.pools.$pool"
10146         for t in $($LCTL get_param -n $pname | sort -u)
10147         do
10148                 do_facet mgs $LCTL pool_remove $FSNAME.$pool $t
10149         done
10150         wait_update $HOSTNAME "lctl get_param -n $pname" "" || {
10151                 error_noexit "Pool $FSNAME.$pool cannot be drained"
10152                 return 1
10153         }
10154         # striping on an empty/nonexistant pool should fall back
10155         # to "pool of everything"
10156         touch $file || {
10157                 error_noexit "failed to use fallback striping for empty pool"
10158                 return 2
10159         }
10160         # setstripe on an empty pool should fail
10161         $SETSTRIPE -p $pool $file 2>/dev/null && {
10162                 error_noexit "expected failure when creating file" \
10163                                                         "with empty pool"
10164                 return 3
10165         }
10166         return 0
10167 }
10168
10169 pool_remove() {
10170         echo "Destroying pool"
10171         local pool=$1
10172         local file=$2
10173
10174         do_facet mgs $LCTL pool_destroy $FSNAME.$pool
10175
10176         sleep 2
10177         # striping on an empty/nonexistant pool should fall back
10178         # to "pool of everything"
10179         touch $file || {
10180                 error_noexit "failed to use fallback striping for missing pool"
10181                 return 1
10182         }
10183         # setstripe on an empty pool should fail
10184         $SETSTRIPE -p $pool $file 2>/dev/null && {
10185                 error_noexit "expected failure when creating file" \
10186                                                         "with missing pool"
10187                 return 2
10188         }
10189
10190         # get param should return err once pool is gone
10191         if wait_update $HOSTNAME "lctl get_param -n \
10192                 lov.$FSNAME-*.pools.$pool 2>/dev/null || echo foo" "foo"
10193         then
10194                 remove_pool_from_list $FSNAME.$pool
10195                 return 0
10196         fi
10197         error_noexit "Pool $FSNAME.$pool is not destroyed"
10198         return 3
10199 }
10200
10201 test_200() {
10202         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10203         remote_mgs_nodsh && skip "remote MGS with nodsh" && return
10204
10205         local POOL=${POOL:-cea1}
10206         local POOL_ROOT=${POOL_ROOT:-$DIR/d200.pools}
10207         local POOL_DIR_NAME=${POOL_DIR_NAME:-dir_tst}
10208         # Pool OST targets
10209         local first_ost=0
10210         local last_ost=$(($OSTCOUNT - 1))
10211         local ost_step=2
10212         local ost_list=$(seq $first_ost $ost_step $last_ost)
10213         local ost_range="$first_ost $last_ost $ost_step"
10214         local test_path=$POOL_ROOT/$POOL_DIR_NAME
10215         local file_dir=$POOL_ROOT/file_tst
10216
10217         local rc=0
10218         while : ; do
10219                 # former test_200a test_200b
10220                 pool_add $POOL                          || { rc=$? ; break; }
10221                 pool_add_targets  $POOL $ost_range      || { rc=$? ; break; }
10222                 # former test_200c test_200d
10223                 mkdir -p $test_path
10224                 pool_set_dir      $POOL $test_path      || { rc=$? ; break; }
10225                 pool_check_dir    $POOL $test_path      || { rc=$? ; break; }
10226                 pool_dir_rel_path $POOL $POOL_DIR_NAME $POOL_ROOT \
10227                                                         || { rc=$? ; break; }
10228                 # former test_200e test_200f
10229                 local files=$((OSTCOUNT*3))
10230                 pool_alloc_files  $POOL $test_path $files "$ost_list" \
10231                                                         || { rc=$? ; break; }
10232                 pool_create_files $POOL $file_dir $files "$ost_list" \
10233                                                         || { rc=$? ; break; }
10234                 # former test_200g test_200h
10235                 pool_lfs_df $POOL                       || { rc=$? ; break; }
10236                 pool_file_rel_path $POOL $test_path     || { rc=$? ; break; }
10237
10238                 # former test_201a test_201b test_201c
10239                 pool_remove_first_target $POOL          || { rc=$? ; break; }
10240
10241                 local f=$test_path/$tfile
10242                 pool_remove_all_targets $POOL $f        || { rc=$? ; break; }
10243                 pool_remove $POOL $f                    || { rc=$? ; break; }
10244                 break
10245         done
10246
10247         cleanup_pools
10248         return $rc
10249 }
10250 run_test 200 "OST pools"
10251
10252 # usage: default_attr <count | size | offset>
10253 default_attr() {
10254         $LCTL get_param -n lov.$FSNAME-clilov-\*.stripe${1}
10255 }
10256
10257 # usage: check_default_stripe_attr
10258 check_default_stripe_attr() {
10259         ACTUAL=$($GETSTRIPE $* $DIR/$tdir)
10260         case $1 in
10261         --stripe-count|--count)
10262                 [ -n "$2" ] && EXPECTED=0 || EXPECTED=$(default_attr count);;
10263         --stripe-size|--size)
10264                 [ -n "$2" ] && EXPECTED=0 || EXPECTED=$(default_attr size);;
10265         --stripe-index|--index)
10266                 EXPECTED=-1;;
10267         *)
10268                 error "unknown getstripe attr '$1'"
10269         esac
10270
10271         [ $ACTUAL != $EXPECTED ] &&
10272                 error "$DIR/$tdir has $1 '$ACTUAL', not '$EXPECTED'"
10273 }
10274
10275 test_204a() {
10276         test_mkdir -p $DIR/$tdir
10277         $SETSTRIPE --stripe-count 0 --stripe-size 0 --stripe-index -1 $DIR/$tdir
10278
10279         check_default_stripe_attr --stripe-count
10280         check_default_stripe_attr --stripe-size
10281         check_default_stripe_attr --stripe-index
10282
10283         return 0
10284 }
10285 run_test 204a "Print default stripe attributes ================="
10286
10287 test_204b() {
10288         test_mkdir -p $DIR/$tdir
10289         $SETSTRIPE --stripe-count 1 $DIR/$tdir
10290
10291         check_default_stripe_attr --stripe-size
10292         check_default_stripe_attr --stripe-index
10293
10294         return 0
10295 }
10296 run_test 204b "Print default stripe size and offset  ==========="
10297
10298 test_204c() {
10299         test_mkdir -p $DIR/$tdir
10300         $SETSTRIPE --stripe-size 65536 $DIR/$tdir
10301
10302         check_default_stripe_attr --stripe-count
10303         check_default_stripe_attr --stripe-index
10304
10305         return 0
10306 }
10307 run_test 204c "Print default stripe count and offset ==========="
10308
10309 test_204d() {
10310         test_mkdir -p $DIR/$tdir
10311         $SETSTRIPE --stripe-index 0 $DIR/$tdir
10312
10313         check_default_stripe_attr --stripe-count
10314         check_default_stripe_attr --stripe-size
10315
10316         return 0
10317 }
10318 run_test 204d "Print default stripe count and size ============="
10319
10320 test_204e() {
10321         test_mkdir -p $DIR/$tdir
10322         $SETSTRIPE -d $DIR/$tdir
10323
10324         check_default_stripe_attr --stripe-count --raw
10325         check_default_stripe_attr --stripe-size --raw
10326         check_default_stripe_attr --stripe-index --raw
10327
10328         return 0
10329 }
10330 run_test 204e "Print raw stripe attributes ================="
10331
10332 test_204f() {
10333         test_mkdir -p $DIR/$tdir
10334         $SETSTRIPE --stripe-count 1 $DIR/$tdir
10335
10336         check_default_stripe_attr --stripe-size --raw
10337         check_default_stripe_attr --stripe-index --raw
10338
10339         return 0
10340 }
10341 run_test 204f "Print raw stripe size and offset  ==========="
10342
10343 test_204g() {
10344         test_mkdir -p $DIR/$tdir
10345         $SETSTRIPE --stripe-size 65536 $DIR/$tdir
10346
10347         check_default_stripe_attr --stripe-count --raw
10348         check_default_stripe_attr --stripe-index --raw
10349
10350         return 0
10351 }
10352 run_test 204g "Print raw stripe count and offset ==========="
10353
10354 test_204h() {
10355         test_mkdir -p $DIR/$tdir
10356         $SETSTRIPE --stripe-index 0 $DIR/$tdir
10357
10358         check_default_stripe_attr --stripe-count --raw
10359         check_default_stripe_attr --stripe-size --raw
10360
10361         return 0
10362 }
10363 run_test 204h "Print raw stripe count and size ============="
10364
10365 # Figure out which job scheduler is being used, if any,
10366 # or use a fake one
10367 if [ -n "$SLURM_JOB_ID" ]; then # SLURM
10368         JOBENV=SLURM_JOB_ID
10369 elif [ -n "$LSB_JOBID" ]; then # Load Sharing Facility
10370         JOBENV=LSB_JOBID
10371 elif [ -n "$PBS_JOBID" ]; then # PBS/Maui/Moab
10372         JOBENV=PBS_JOBID
10373 elif [ -n "$LOADL_STEPID" ]; then # LoadLeveller
10374         JOBENV=LOADL_STEP_ID
10375 elif [ -n "$JOB_ID" ]; then # Sun Grid Engine
10376         JOBENV=JOB_ID
10377 else
10378         JOBENV=FAKE_JOBID
10379 fi
10380
10381 verify_jobstats() {
10382         local cmd=$1
10383         local target=$2
10384
10385         # clear old jobstats
10386         do_facet $SINGLEMDS lctl set_param mdt.*.job_stats="clear"
10387         do_facet ost1 lctl set_param obdfilter.*.job_stats="clear"
10388
10389         # use a new JobID for this test, or we might see an old one
10390         [ "$JOBENV" = "FAKE_JOBID" ] && FAKE_JOBID=test_id.$testnum.$RANDOM
10391
10392         JOBVAL=${!JOBENV}
10393         log "Test: $cmd"
10394         log "Using JobID environment variable $JOBENV=$JOBVAL"
10395
10396         if [ $JOBENV = "FAKE_JOBID" ]; then
10397                 FAKE_JOBID=$JOBVAL $cmd
10398         else
10399                 $cmd
10400         fi
10401
10402         if [ "$target" = "mdt" -o "$target" = "both" ]; then
10403                 FACET="$SINGLEMDS" # will need to get MDS number for DNE
10404                 do_facet $FACET lctl get_param mdt.*.job_stats |
10405                         grep $JOBVAL || error "No job stats found on MDT $FACET"
10406         fi
10407         if [ "$target" = "ost" -o "$target" = "both" ]; then
10408                 FACET=ost1
10409                 do_facet $FACET lctl get_param obdfilter.*.job_stats |
10410                         grep $JOBVAL || error "No job stats found on OST $FACET"
10411         fi
10412 }
10413
10414 jobstats_set() {
10415         trap 0
10416         NEW_JOBENV=${1:-$OLD_JOBENV}
10417         do_facet mgs $LCTL conf_param $FSNAME.sys.jobid_var=$NEW_JOBENV
10418         wait_update $HOSTNAME "$LCTL get_param -n jobid_var" $NEW_JOBENV
10419 }
10420
10421 test_205() { # Job stats
10422         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10423         [ -z "$(lctl get_param -n mdc.*.connect_flags | grep jobstats)" ] &&
10424                 skip "Server doesn't support jobstats" && return 0
10425
10426         local cmd
10427         OLD_JOBENV=`$LCTL get_param -n jobid_var`
10428         if [ $OLD_JOBENV != $JOBENV ]; then
10429                 jobstats_set $JOBENV
10430                 trap jobstats_set EXIT
10431         fi
10432
10433         # mkdir
10434         cmd="mkdir $DIR/$tfile"
10435         verify_jobstats "$cmd" "mdt"
10436         # rmdir
10437         cmd="rm -fr $DIR/$tfile"
10438         verify_jobstats "$cmd" "mdt"
10439         # mknod
10440         cmd="mknod $DIR/$tfile c 1 3"
10441         verify_jobstats "$cmd" "mdt"
10442         # unlink
10443         cmd="rm -f $DIR/$tfile"
10444         verify_jobstats "$cmd" "mdt"
10445         # open & close
10446         cmd="$SETSTRIPE -i 0 -c 1 $DIR/$tfile"
10447         verify_jobstats "$cmd" "mdt"
10448         # setattr
10449         cmd="touch $DIR/$tfile"
10450         verify_jobstats "$cmd" "both"
10451         # write
10452         cmd="dd if=/dev/zero of=$DIR/$tfile bs=1M count=1 oflag=sync"
10453         verify_jobstats "$cmd" "ost"
10454         # read
10455         cmd="dd if=$DIR/$tfile of=/dev/null bs=1M count=1 iflag=direct"
10456         verify_jobstats "$cmd" "ost"
10457         # truncate
10458         cmd="$TRUNCATE $DIR/$tfile 0"
10459         verify_jobstats "$cmd" "both"
10460         # rename
10461         cmd="mv -f $DIR/$tfile $DIR/jobstats_test_rename"
10462         verify_jobstats "$cmd" "mdt"
10463
10464         # cleanup
10465         rm -f $DIR/jobstats_test_rename
10466
10467         [ $OLD_JOBENV != $JOBENV ] && jobstats_set $OLD_JOBENV
10468 }
10469 run_test 205 "Verify job stats"
10470
10471 # LU-1480, LU-1773 and LU-1657
10472 test_206() {
10473         mkdir -p $DIR/$tdir
10474         lfs setstripe -c -1 $DIR/$tdir
10475 #define OBD_FAIL_LOV_INIT 0x1403
10476         $LCTL set_param fail_loc=0xa0001403
10477         $LCTL set_param fail_val=1
10478         touch $DIR/$tdir/$tfile || true
10479 }
10480 run_test 206 "fail lov_init_raid0() doesn't lbug"
10481
10482 test_207a() {
10483         dd if=/dev/zero of=$DIR/$tfile bs=4k count=$((RANDOM%10+1))
10484         local fsz=`stat -c %s $DIR/$tfile`
10485         cancel_lru_locks mdc
10486
10487         # do not return layout in getattr intent
10488 #define OBD_FAIL_MDS_NO_LL_GETATTR 0x170
10489         $LCTL set_param fail_loc=0x170
10490         local sz=`stat -c %s $DIR/$tfile`
10491
10492         [ $fsz -eq $sz ] || error "file size expected $fsz, actual $sz"
10493
10494         rm -rf $DIR/$tfile
10495 }
10496 run_test 207a "can refresh layout at glimpse"
10497
10498 test_207b() {
10499         dd if=/dev/zero of=$DIR/$tfile bs=4k count=$((RANDOM%10+1))
10500         local cksum=`md5sum $DIR/$tfile`
10501         local fsz=`stat -c %s $DIR/$tfile`
10502         cancel_lru_locks mdc
10503         cancel_lru_locks osc
10504
10505         # do not return layout in getattr intent
10506 #define OBD_FAIL_MDS_NO_LL_OPEN 0x171
10507         $LCTL set_param fail_loc=0x171
10508
10509         # it will refresh layout after the file is opened but before read issues
10510         echo checksum is "$cksum"
10511         echo "$cksum" |md5sum -c --quiet || error "file differs"
10512
10513         rm -rf $DIR/$tfile
10514 }
10515 run_test 207b "can refresh layout at open"
10516
10517 test_208() {
10518         # FIXME: in this test suite, only RD lease is used. This is okay
10519         # for now as only exclusive open is supported. After generic lease
10520         # is done, this test suite should be revised. - Jinshan
10521
10522         [[ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.4.52) ]] ||
10523                 { skip "Need MDS version at least 2.4.52"; return 0; }
10524
10525         echo "==== test 1: verify get lease work"
10526         $MULTIOP $DIR/$tfile oO_CREAT:O_RDWR:eRE+eU || error "get lease error"
10527
10528         echo "==== test 2: verify lease can be broken by upcoming open"
10529         $MULTIOP $DIR/$tfile oO_RDONLY:eR_E-eUc &
10530         local PID=$!
10531         sleep 1
10532
10533         $MULTIOP $DIR/$tfile oO_RDONLY:c
10534         kill -USR1 $PID && wait $PID || error "break lease error"
10535
10536         echo "==== test 3: verify lease can't be granted if an open already exists"
10537         $MULTIOP $DIR/$tfile oO_RDONLY:_c &
10538         local PID=$!
10539         sleep 1
10540
10541         $MULTIOP $DIR/$tfile oO_RDONLY:eReUc && error "apply lease should fail"
10542         kill -USR1 $PID && wait $PID || error "open file error"
10543
10544         echo "==== test 4: lease can sustain over recovery"
10545         $MULTIOP $DIR/$tfile oO_RDONLY:eR_E+eUc &
10546         PID=$!
10547         sleep 1
10548
10549         fail mds1
10550
10551         kill -USR1 $PID && wait $PID || error "lease broken over recovery"
10552
10553         echo "==== test 5: lease broken can't be regained by replay"
10554         $MULTIOP $DIR/$tfile oO_RDONLY:eR_E-eUc &
10555         PID=$!
10556         sleep 1
10557
10558         # open file to break lease and then recovery
10559         $MULTIOP $DIR/$tfile oO_RDWR:c || error "open file error"
10560         fail mds1
10561
10562         kill -USR1 $PID && wait $PID || error "lease not broken over recovery"
10563
10564         rm -f $DIR/$tfile
10565 }
10566 run_test 208 "Exclusive open"
10567
10568 test_212() {
10569         size=`date +%s`
10570         size=$((size % 8192 + 1))
10571         dd if=/dev/urandom of=$DIR/f212 bs=1k count=$size
10572         sendfile $DIR/f212 $DIR/f212.xyz || error "sendfile wrong"
10573         rm -f $DIR/f212 $DIR/f212.xyz
10574 }
10575 run_test 212 "Sendfile test ============================================"
10576
10577 test_213() {
10578         dd if=/dev/zero of=$DIR/$tfile bs=4k count=4
10579         cancel_lru_locks osc
10580         lctl set_param fail_loc=0x8000040f
10581         # generate a read lock
10582         cat $DIR/$tfile > /dev/null
10583         # write to the file, it will try to cancel the above read lock.
10584         cat /etc/hosts >> $DIR/$tfile
10585 }
10586 run_test 213 "OSC lock completion and cancel race don't crash - bug 18829"
10587
10588 test_214() { # for bug 20133
10589         test_mkdir -p $DIR/d214p/d214c
10590         for (( i=0; i < 340; i++ )) ; do
10591                 touch $DIR/d214p/d214c/a$i
10592         done
10593
10594         ls -l $DIR/d214p || error "ls -l $DIR/d214p failed"
10595         mv $DIR/d214p/d214c $DIR/ || error "mv $DIR/d214p/d214c $DIR/ failed"
10596         ls $DIR/d214c || error "ls $DIR/d214c failed"
10597         rm -rf $DIR/d214* || error "rm -rf $DIR/d214* failed"
10598 }
10599 run_test 214 "hash-indexed directory test - bug 20133"
10600
10601 # having "abc" as 1st arg, creates $TMP/lnet_abc.out and $TMP/lnet_abc.sys
10602 create_lnet_proc_files() {
10603         cat /proc/sys/lnet/$1 >$TMP/lnet_$1.out || error "cannot read /proc/sys/lnet/$1"
10604         sysctl lnet.$1 >$TMP/lnet_$1.sys_tmp || error "cannot read lnet.$1"
10605
10606         sed "s/^lnet.$1\ =\ //g" "$TMP/lnet_$1.sys_tmp" >$TMP/lnet_$1.sys
10607         rm -f "$TMP/lnet_$1.sys_tmp"
10608 }
10609
10610 # counterpart of create_lnet_proc_files
10611 remove_lnet_proc_files() {
10612         rm -f $TMP/lnet_$1.out $TMP/lnet_$1.sys
10613 }
10614
10615 # uses 1st arg as trailing part of filename, 2nd arg as description for reports,
10616 # 3rd arg as regexp for body
10617 check_lnet_proc_stats() {
10618         local l=$(cat "$TMP/lnet_$1" |wc -l)
10619         [ $l = 1 ] || (cat "$TMP/lnet_$1" && error "$2 is not of 1 line: $l")
10620
10621         grep -E "$3" "$TMP/lnet_$1" || (cat "$TMP/lnet_$1" && error "$2 misformatted")
10622 }
10623
10624 # uses 1st arg as trailing part of filename, 2nd arg as description for reports,
10625 # 3rd arg as regexp for body, 4th arg as regexp for 1st line, 5th arg is
10626 # optional and can be regexp for 2nd line (lnet.routes case)
10627 check_lnet_proc_entry() {
10628         local blp=2            # blp stands for 'position of 1st line of body'
10629         [ "$5" = "" ] || blp=3 # lnet.routes case
10630
10631         local l=$(cat "$TMP/lnet_$1" |wc -l)
10632         # subtracting one from $blp because the body can be empty
10633         [ "$l" -ge "$(($blp - 1))" ] || (cat "$TMP/lnet_$1" && error "$2 is too short: $l")
10634
10635         sed -n '1 p' "$TMP/lnet_$1" |grep -E "$4" >/dev/null ||
10636                 (cat "$TMP/lnet_$1" && error "1st line of $2 misformatted")
10637
10638         [ "$5" = "" ] || sed -n '2 p' "$TMP/lnet_$1" |grep -E "$5" >/dev/null ||
10639                 (cat "$TMP/lnet_$1" && error "2nd line of $2 misformatted")
10640
10641         # bail out if any unexpected line happened
10642         sed -n "$blp~1 p" "$TMP/lnet_$1" |grep -Ev "$3"
10643         [ "$?" != 0 ] || error "$2 misformatted"
10644 }
10645
10646 test_215() { # for bugs 18102, 21079, 21517
10647         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10648         local N='(0|[1-9][0-9]*)'       # non-negative numeric
10649         local P='[1-9][0-9]*'           # positive numeric
10650         local I='(0|-?[1-9][0-9]*|NA)'  # any numeric (0 | >0 | <0) or NA if no value
10651         local NET='[a-z][a-z0-9]*'      # LNET net like o2ib2
10652         local ADDR='[0-9.]+'            # LNET addr like 10.0.0.1
10653         local NID="$ADDR@$NET"          # LNET nid like 10.0.0.1@o2ib2
10654
10655         local L1 # regexp for 1st line
10656         local L2 # regexp for 2nd line (optional)
10657         local BR # regexp for the rest (body)
10658
10659         # /proc/sys/lnet/stats should look as 11 space-separated non-negative numerics
10660         BR="^$N $N $N $N $N $N $N $N $N $N $N$"
10661         create_lnet_proc_files "stats"
10662         check_lnet_proc_stats "stats.out" "/proc/sys/lnet/stats" "$BR"
10663         check_lnet_proc_stats "stats.sys" "lnet.stats" "$BR"
10664         remove_lnet_proc_files "stats"
10665
10666         # /proc/sys/lnet/routes should look like this:
10667         # Routing disabled/enabled
10668         # net hops state router
10669         # where net is a string like tcp0, hops >= 0, state is up/down,
10670         # router is a string like 192.168.1.1@tcp2
10671         L1="^Routing (disabled|enabled)$"
10672         L2="^net +hops +state +router$"
10673         BR="^$NET +$N +(up|down) +$NID$"
10674         create_lnet_proc_files "routes"
10675         check_lnet_proc_entry "routes.out" "/proc/sys/lnet/routes" "$BR" "$L1" "$L2"
10676         check_lnet_proc_entry "routes.sys" "lnet.routes" "$BR" "$L1" "$L2"
10677         remove_lnet_proc_files "routes"
10678
10679         # /proc/sys/lnet/routers should look like this:
10680         # ref rtr_ref alive_cnt state last_ping ping_sent deadline down_ni router
10681         # where ref > 0, rtr_ref > 0, alive_cnt >= 0, state is up/down,
10682         # last_ping >= 0, ping_sent is boolean (0/1), deadline and down_ni are
10683         # numeric (0 or >0 or <0), router is a string like 192.168.1.1@tcp2
10684         L1="^ref +rtr_ref +alive_cnt +state +last_ping +ping_sent +deadline +down_ni +router$"
10685         BR="^$P +$P +$N +(up|down) +$N +(0|1) +$I +$I +$NID$"
10686         create_lnet_proc_files "routers"
10687         check_lnet_proc_entry "routers.out" "/proc/sys/lnet/routers" "$BR" "$L1"
10688         check_lnet_proc_entry "routers.sys" "lnet.routers" "$BR" "$L1"
10689         remove_lnet_proc_files "routers"
10690
10691         # /proc/sys/lnet/peers should look like this:
10692         # nid refs state last max rtr min tx min queue
10693         # where nid is a string like 192.168.1.1@tcp2, refs > 0,
10694         # state is up/down/NA, max >= 0. last, rtr, min, tx, min are
10695         # numeric (0 or >0 or <0), queue >= 0.
10696         L1="^nid +refs +state +last +max +rtr +min +tx +min +queue$"
10697         BR="^$NID +$P +(up|down|NA) +$I +$N +$I +$I +$I +$I +$N$"
10698         create_lnet_proc_files "peers"
10699         check_lnet_proc_entry "peers.out" "/proc/sys/lnet/peers" "$BR" "$L1"
10700         check_lnet_proc_entry "peers.sys" "lnet.peers" "$BR" "$L1"
10701         remove_lnet_proc_files "peers"
10702
10703         # /proc/sys/lnet/buffers  should look like this:
10704         # pages count credits min
10705         # where pages >=0, count >=0, credits and min are numeric (0 or >0 or <0)
10706         L1="^pages +count +credits +min$"
10707         BR="^ +$N +$N +$I +$I$"
10708         create_lnet_proc_files "buffers"
10709         check_lnet_proc_entry "buffers.out" "/proc/sys/lnet/buffers" "$BR" "$L1"
10710         check_lnet_proc_entry "buffers.sys" "lnet.buffers" "$BR" "$L1"
10711         remove_lnet_proc_files "buffers"
10712
10713         # /proc/sys/lnet/nis should look like this:
10714         # nid status alive refs peer rtr max tx min
10715         # where nid is a string like 192.168.1.1@tcp2, status is up/down,
10716         # alive is numeric (0 or >0 or <0), refs >= 0, peer >= 0,
10717         # rtr >= 0, max >=0, tx and min are numeric (0 or >0 or <0).
10718         L1="^nid +status +alive +refs +peer +rtr +max +tx +min$"
10719         BR="^$NID +(up|down) +$I +$N +$N +$N +$N +$I +$I$"
10720         create_lnet_proc_files "nis"
10721         check_lnet_proc_entry "nis.out" "/proc/sys/lnet/nis" "$BR" "$L1"
10722         check_lnet_proc_entry "nis.sys" "lnet.nis" "$BR" "$L1"
10723         remove_lnet_proc_files "nis"
10724
10725         # can we successfully write to /proc/sys/lnet/stats?
10726         echo "0" >/proc/sys/lnet/stats || error "cannot write to /proc/sys/lnet/stats"
10727         sysctl -w lnet.stats=0 || error "cannot write to lnet.stats"
10728 }
10729 run_test 215 "/proc/sys/lnet exists and has proper content - bugs 18102, 21079, 21517"
10730
10731 test_216() { # bug 20317
10732         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10733         remote_ost_nodsh && skip "remote OST with nodsh" && return
10734
10735         local node
10736         local facets=$(get_facets OST)
10737         local p="$TMP/$TESTSUITE-$TESTNAME.parameters"
10738
10739         save_lustre_params client "osc.*.contention_seconds" > $p
10740         save_lustre_params $facets \
10741                 "ldlm.namespaces.filter-*.max_nolock_bytes" >> $p
10742         save_lustre_params $facets \
10743                 "ldlm.namespaces.filter-*.contended_locks" >> $p
10744         save_lustre_params $facets \
10745                 "ldlm.namespaces.filter-*.contention_seconds" >> $p
10746         clear_osc_stats
10747
10748         # agressive lockless i/o settings
10749         for node in $(osts_nodes); do
10750                 do_node $node 'lctl set_param -n ldlm.namespaces.filter-*.max_nolock_bytes 2000000; lctl set_param -n ldlm.namespaces.filter-*.contended_locks 0; lctl set_param -n ldlm.namespaces.filter-*.contention_seconds 60'
10751         done
10752         lctl set_param -n osc.*.contention_seconds 60
10753
10754         $DIRECTIO write $DIR/$tfile 0 10 4096
10755         $CHECKSTAT -s 40960 $DIR/$tfile
10756
10757         # disable lockless i/o
10758         for node in $(osts_nodes); do
10759                 do_node $node 'lctl set_param -n ldlm.namespaces.filter-*.max_nolock_bytes 0; lctl set_param -n ldlm.namespaces.filter-*.contended_locks 32; lctl set_param -n ldlm.namespaces.filter-*.contention_seconds 0'
10760         done
10761         lctl set_param -n osc.*.contention_seconds 0
10762         clear_osc_stats
10763
10764         dd if=/dev/zero of=$DIR/$tfile count=0
10765         $CHECKSTAT -s 0 $DIR/$tfile
10766
10767         restore_lustre_params <$p
10768         rm -f $p
10769         rm $DIR/$tfile
10770 }
10771 run_test 216 "check lockless direct write works and updates file size and kms correctly"
10772
10773 test_217() { # bug 22430
10774         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10775         local node
10776         local nid
10777
10778         for node in $(nodes_list); do
10779                 nid=$(host_nids_address $node $NETTYPE)
10780                 if [[ $nid = *-* ]] ; then
10781                         echo "lctl ping $nid@$NETTYPE"
10782                         lctl ping $nid@$NETTYPE
10783                 else
10784                         echo "skipping $node (no hyphen detected)"
10785                 fi
10786         done
10787 }
10788 run_test 217 "check lctl ping for hostnames with hiphen ('-')"
10789
10790 test_218() {
10791        # do directio so as not to populate the page cache
10792        log "creating a 10 Mb file"
10793        $MULTIOP $DIR/$tfile oO_CREAT:O_DIRECT:O_RDWR:w$((10*1048576))c || error "multiop failed while creating a file"
10794        log "starting reads"
10795        dd if=$DIR/$tfile of=/dev/null bs=4096 &
10796        log "truncating the file"
10797        $MULTIOP $DIR/$tfile oO_TRUNC:c || error "multiop failed while truncating the file"
10798        log "killing dd"
10799        kill %+ || true # reads might have finished
10800        echo "wait until dd is finished"
10801        wait
10802        log "removing the temporary file"
10803        rm -rf $DIR/$tfile || error "tmp file removal failed"
10804 }
10805 run_test 218 "parallel read and truncate should not deadlock ======================="
10806
10807 test_219() {
10808         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10809         # write one partial page
10810         dd if=/dev/zero of=$DIR/$tfile bs=1024 count=1
10811         # set no grant so vvp_io_commit_write will do sync write
10812         $LCTL set_param fail_loc=0x411
10813         # write a full page at the end of file
10814         dd if=/dev/zero of=$DIR/$tfile bs=4096 count=1 seek=1 conv=notrunc
10815
10816         $LCTL set_param fail_loc=0
10817         dd if=/dev/zero of=$DIR/$tfile bs=4096 count=1 seek=3
10818         $LCTL set_param fail_loc=0x411
10819         dd if=/dev/zero of=$DIR/$tfile bs=1024 count=1 seek=2 conv=notrunc
10820 }
10821 run_test 219 "LU-394: Write partial won't cause uncontiguous pages vec at LND"
10822
10823 test_220() { #LU-325
10824         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10825         remote_ost_nodsh && skip "remote OST with nodsh" && return
10826         local OSTIDX=0
10827
10828         test_mkdir -p $DIR/$tdir
10829         local OST=$(lfs osts | grep ${OSTIDX}": " | \
10830                 awk '{print $2}' | sed -e 's/_UUID$//')
10831
10832         # on the mdt's osc
10833         local mdtosc_proc1=$(get_mdtosc_proc_path $SINGLEMDS $OST)
10834         local last_id=$(do_facet $SINGLEMDS lctl get_param -n \
10835                         osc.$mdtosc_proc1.prealloc_last_id)
10836         local next_id=$(do_facet $SINGLEMDS lctl get_param -n \
10837                         osc.$mdtosc_proc1.prealloc_next_id)
10838
10839         $LFS df -i
10840
10841         do_facet ost$((OSTIDX + 1)) lctl set_param fail_val=-1
10842         #define OBD_FAIL_OST_ENOINO              0x229
10843         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=0x229
10844         do_facet mgs $LCTL pool_new $FSNAME.$TESTNAME || return 1
10845         do_facet mgs $LCTL pool_add $FSNAME.$TESTNAME $OST || return 2
10846
10847         $SETSTRIPE $DIR/$tdir -i $OSTIDX -c 1 -p $FSNAME.$TESTNAME
10848
10849         MDSOBJS=$((last_id - next_id))
10850         echo "preallocated objects on MDS is $MDSOBJS" "($last_id - $next_id)"
10851
10852         blocks=$($LFS df $MOUNT | awk '($1 == '$OSTIDX') { print $4 }')
10853         echo "OST still has $count kbytes free"
10854
10855         echo "create $MDSOBJS files @next_id..."
10856         createmany -o $DIR/$tdir/f $MDSOBJS || return 3
10857
10858         local last_id2=$(do_facet mds${MDSIDX} lctl get_param -n \
10859                         osc.$mdtosc_proc1.prealloc_last_id)
10860         local next_id2=$(do_facet mds${MDSIDX} lctl get_param -n \
10861                         osc.$mdtosc_proc1.prealloc_next_id)
10862
10863         echo "after creation, last_id=$last_id2, next_id=$next_id2"
10864         $LFS df -i
10865
10866         echo "cleanup..."
10867
10868         do_facet ost$((OSTIDX + 1)) lctl set_param fail_val=0
10869         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=0
10870
10871         do_facet mgs $LCTL pool_remove $FSNAME.$TESTNAME $OST || return 4
10872         do_facet mgs $LCTL pool_destroy $FSNAME.$TESTNAME || return 5
10873         echo "unlink $MDSOBJS files @$next_id..."
10874         unlinkmany $DIR/$tdir/f $MDSOBJS || return 6
10875 }
10876 run_test 220 "preallocated MDS objects still used if ENOSPC from OST"
10877
10878 test_221() {
10879         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10880         dd if=`which date` of=$MOUNT/date oflag=sync
10881         chmod +x $MOUNT/date
10882
10883         #define OBD_FAIL_LLITE_FAULT_TRUNC_RACE  0x1401
10884         $LCTL set_param fail_loc=0x80001401
10885
10886         $MOUNT/date > /dev/null
10887         rm -f $MOUNT/date
10888 }
10889 run_test 221 "make sure fault and truncate race to not cause OOM"
10890
10891 test_222a () {
10892         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10893        rm -rf $DIR/$tdir
10894        test_mkdir -p $DIR/$tdir
10895        $SETSTRIPE -c 1 -i 0 $DIR/$tdir
10896        createmany -o $DIR/$tdir/$tfile 10
10897        cancel_lru_locks mdc
10898        cancel_lru_locks osc
10899        #define OBD_FAIL_LDLM_AGL_DELAY           0x31a
10900        $LCTL set_param fail_loc=0x31a
10901        ls -l $DIR/$tdir > /dev/null || error "AGL for ls failed"
10902        $LCTL set_param fail_loc=0
10903        rm -r $DIR/$tdir
10904 }
10905 run_test 222a "AGL for ls should not trigger CLIO lock failure ================"
10906
10907 test_222b () {
10908         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10909        rm -rf $DIR/$tdir
10910        test_mkdir -p $DIR/$tdir
10911        $SETSTRIPE -c 1 -i 0 $DIR/$tdir
10912        createmany -o $DIR/$tdir/$tfile 10
10913        cancel_lru_locks mdc
10914        cancel_lru_locks osc
10915        #define OBD_FAIL_LDLM_AGL_DELAY           0x31a
10916        $LCTL set_param fail_loc=0x31a
10917        rm -r $DIR/$tdir || "AGL for rmdir failed"
10918        $LCTL set_param fail_loc=0
10919 }
10920 run_test 222b "AGL for rmdir should not trigger CLIO lock failure ============="
10921
10922 test_223 () {
10923         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10924        rm -rf $DIR/$tdir
10925        test_mkdir -p $DIR/$tdir
10926        $SETSTRIPE -c 1 -i 0 $DIR/$tdir
10927        createmany -o $DIR/$tdir/$tfile 10
10928        cancel_lru_locks mdc
10929        cancel_lru_locks osc
10930        #define OBD_FAIL_LDLM_AGL_NOLOCK          0x31b
10931        $LCTL set_param fail_loc=0x31b
10932        ls -l $DIR/$tdir > /dev/null || error "reenqueue failed"
10933        $LCTL set_param fail_loc=0
10934        rm -r $DIR/$tdir
10935 }
10936 run_test 223 "osc reenqueue if without AGL lock granted ======================="
10937
10938 test_224a() { # LU-1039, MRP-303
10939         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10940         #define OBD_FAIL_PTLRPC_CLIENT_BULK_CB   0x508
10941         $LCTL set_param fail_loc=0x508
10942         dd if=/dev/zero of=$DIR/$tfile bs=4096 count=1 conv=fsync
10943         $LCTL set_param fail_loc=0
10944         df $DIR
10945 }
10946 run_test 224a "Don't panic on bulk IO failure"
10947
10948 test_224b() { # LU-1039, MRP-303
10949         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10950         dd if=/dev/zero of=$DIR/$tfile bs=4096 count=1
10951         cancel_lru_locks osc
10952         #define OBD_FAIL_PTLRPC_CLIENT_BULK_CB2   0x515
10953         $LCTL set_param fail_loc=0x515
10954         dd of=/dev/null if=$DIR/$tfile bs=4096 count=1
10955         $LCTL set_param fail_loc=0
10956         df $DIR
10957 }
10958 run_test 224b "Don't panic on bulk IO failure"
10959
10960 MDSSURVEY=${MDSSURVEY:-$(which mds-survey 2>/dev/null || true)}
10961 test_225a () {
10962         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10963         if [ -z ${MDSSURVEY} ]; then
10964               skip_env "mds-survey not found" && return
10965         fi
10966
10967         [ $MDSCOUNT -ge 2 ] &&
10968                 skip "skipping now for more than one MDT" && return
10969
10970        [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.51) ] ||
10971             { skip "Need MDS version at least 2.2.51"; return; }
10972
10973        local mds=$(facet_host $SINGLEMDS)
10974        local target=$(do_nodes $mds 'lctl dl' | \
10975                       awk "{if (\$2 == \"UP\" && \$3 == \"mdt\") {print \$4}}")
10976
10977        local cmd1="file_count=1000 thrhi=4"
10978        local cmd2="dir_count=2 layer=mdd stripe_count=0"
10979        local cmd3="rslt_loc=${TMP} targets=\"$mds:$target\" $MDSSURVEY"
10980        local cmd="$cmd1 $cmd2 $cmd3"
10981
10982        rm -f ${TMP}/mds_survey*
10983        echo + $cmd
10984        eval $cmd || error "mds-survey with zero-stripe failed"
10985        cat ${TMP}/mds_survey*
10986        rm -f ${TMP}/mds_survey*
10987 }
10988 run_test 225a "Metadata survey sanity with zero-stripe"
10989
10990 test_225b () {
10991         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
10992
10993         if [ -z ${MDSSURVEY} ]; then
10994               skip_env "mds-survey not found" && return
10995         fi
10996         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.51) ] ||
10997             { skip "Need MDS version at least 2.2.51"; return; }
10998
10999         if [ $($LCTL dl | grep -c osc) -eq 0 ]; then
11000               skip_env "Need to mount OST to test" && return
11001         fi
11002
11003         [ $MDSCOUNT -ge 2 ] &&
11004                 skip "skipping now for more than one MDT" && return
11005        local mds=$(facet_host $SINGLEMDS)
11006        local target=$(do_nodes $mds 'lctl dl' | \
11007                       awk "{if (\$2 == \"UP\" && \$3 == \"mdt\") {print \$4}}")
11008
11009        local cmd1="file_count=1000 thrhi=4"
11010        local cmd2="dir_count=2 layer=mdd stripe_count=1"
11011        local cmd3="rslt_loc=${TMP} targets=\"$mds:$target\" $MDSSURVEY"
11012        local cmd="$cmd1 $cmd2 $cmd3"
11013
11014        rm -f ${TMP}/mds_survey*
11015        echo + $cmd
11016        eval $cmd || error "mds-survey with stripe_count failed"
11017        cat ${TMP}/mds_survey*
11018        rm -f ${TMP}/mds_survey*
11019 }
11020 run_test 225b "Metadata survey sanity with stripe_count = 1"
11021
11022 mcreate_path2fid () {
11023         local mode=$1
11024         local major=$2
11025         local minor=$3
11026         local name=$4
11027         local desc=$5
11028         local path=$DIR/$tdir/$name
11029         local fid
11030         local rc
11031         local fid_path
11032
11033         $MCREATE --mode=$1 --major=$2 --minor=$3 $path ||
11034                 error "cannot create $desc"
11035
11036         fid=$($LFS path2fid $path | tr -d '[' | tr -d ']')
11037         rc=$?
11038         [ $rc -ne 0 ] && error "cannot get fid of a $desc"
11039
11040         fid_path=$($LFS fid2path $MOUNT $fid)
11041         rc=$?
11042         [ $rc -ne 0 ] && error "cannot get path of $desc by $DIR $path $fid"
11043
11044         [ "$path" == "$fid_path" ] ||
11045                 error "fid2path returned $fid_path, expected $path"
11046
11047         echo "pass with $path and $fid"
11048 }
11049
11050 test_226a () {
11051         rm -rf $DIR/$tdir
11052         mkdir -p $DIR/$tdir
11053
11054         mcreate_path2fid 0010666 0 0 fifo "FIFO"
11055         mcreate_path2fid 0020666 1 3 null "character special file (null)"
11056         mcreate_path2fid 0020666 1 255 none "character special file (no device)"
11057         mcreate_path2fid 0040666 0 0 dir "directory"
11058         mcreate_path2fid 0060666 7 0 loop0 "block special file (loop)"
11059         mcreate_path2fid 0100666 0 0 file "regular file"
11060         mcreate_path2fid 0120666 0 0 link "symbolic link"
11061         mcreate_path2fid 0140666 0 0 sock "socket"
11062 }
11063 run_test 226a "call path2fid and fid2path on files of all type"
11064
11065 test_226b () {
11066         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
11067         rm -rf $DIR/$tdir
11068         local MDTIDX=1
11069
11070         mkdir -p $DIR/$tdir
11071         $LFS setdirstripe -i $MDTIDX $DIR/$tdir/remote_dir ||
11072                 error "create remote directory failed"
11073         mcreate_path2fid 0010666 0 0 "remote_dir/fifo" "FIFO"
11074         mcreate_path2fid 0020666 1 3 "remote_dir/null" \
11075                                 "character special file (null)"
11076         mcreate_path2fid 0020666 1 255 "remote_dir/none" \
11077                                 "character special file (no device)"
11078         mcreate_path2fid 0040666 0 0 "remote_dir/dir" "directory"
11079         mcreate_path2fid 0060666 7 0 "remote_dir/loop0" \
11080                                 "block special file (loop)"
11081         mcreate_path2fid 0100666 0 0 "remote_dir/file" "regular file"
11082         mcreate_path2fid 0120666 0 0 "remote_dir/link" "symbolic link"
11083         mcreate_path2fid 0140666 0 0 "remote_dir/sock" "socket"
11084 }
11085 run_test 226b "call path2fid and fid2path on files of all type under remote dir"
11086
11087 # LU-1299 Executing or running ldd on a truncated executable does not
11088 # cause an out-of-memory condition.
11089 test_227() {
11090         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11091         dd if=`which date` of=$MOUNT/date bs=1k count=1
11092         chmod +x $MOUNT/date
11093
11094         $MOUNT/date > /dev/null
11095         ldd $MOUNT/date > /dev/null
11096         rm -f $MOUNT/date
11097 }
11098 run_test 227 "running truncated executable does not cause OOM"
11099
11100 # LU-1512 try to reuse idle OI blocks
11101 test_228a() {
11102         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11103         [ "$(facet_fstype $SINGLEMDS)" != "ldiskfs" ] &&
11104                 skip "non-ldiskfs backend" && return
11105
11106         local MDT_DEV=$(mdsdevname ${SINGLEMDS//mds/})
11107         local myDIR=$DIR/$tdir
11108
11109         mkdir -p $myDIR
11110         #define OBD_FAIL_SEQ_EXHAUST             0x1002
11111         $LCTL set_param fail_loc=0x80001002
11112         createmany -o $myDIR/t- 10000
11113         $LCTL set_param fail_loc=0
11114         # The guard is current the largest FID holder
11115         touch $myDIR/guard
11116         local SEQ=$($LFS path2fid $myDIR/guard | awk -F ':' '{print $1}' |
11117                     tr -d '[')
11118         local IDX=$(($SEQ % 64))
11119
11120         do_facet $SINGLEMDS sync
11121         # Make sure journal flushed.
11122         sleep 6
11123         local blk1=$(do_facet $SINGLEMDS \
11124                      "$DEBUGFS -c -R \\\"stat oi.16.${IDX}\\\" $MDT_DEV" |
11125                      grep Blockcount | awk '{print $4}')
11126
11127         # Remove old files, some OI blocks will become idle.
11128         unlinkmany $myDIR/t- 10000
11129         # Create new files, idle OI blocks should be reused.
11130         createmany -o $myDIR/t- 2000
11131         do_facet $SINGLEMDS sync
11132         # Make sure journal flushed.
11133         sleep 6
11134         local blk2=$(do_facet $SINGLEMDS \
11135                      "$DEBUGFS -c -R \\\"stat oi.16.${IDX}\\\" $MDT_DEV" |
11136                      grep Blockcount | awk '{print $4}')
11137
11138         [ $blk1 == $blk2 ] || error "old blk1=$blk1, new blk2=$blk2, unmatched!"
11139 }
11140 run_test 228a "try to reuse idle OI blocks"
11141
11142 test_228b() {
11143         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11144         [ "$(facet_fstype $SINGLEMDS)" != "ldiskfs" ] &&
11145                 skip "non-ldiskfs backend" && return
11146
11147         local MDT_DEV=$(mdsdevname ${SINGLEMDS//mds/})
11148         local myDIR=$DIR/$tdir
11149
11150         mkdir -p $myDIR
11151         #define OBD_FAIL_SEQ_EXHAUST             0x1002
11152         $LCTL set_param fail_loc=0x80001002
11153         createmany -o $myDIR/t- 10000
11154         $LCTL set_param fail_loc=0
11155         # The guard is current the largest FID holder
11156         touch $myDIR/guard
11157         local SEQ=$($LFS path2fid $myDIR/guard | awk -F ':' '{print $1}' |
11158                     tr -d '[')
11159         local IDX=$(($SEQ % 64))
11160
11161         do_facet $SINGLEMDS sync
11162         # Make sure journal flushed.
11163         sleep 6
11164         local blk1=$(do_facet $SINGLEMDS \
11165                      "$DEBUGFS -c -R \\\"stat oi.16.${IDX}\\\" $MDT_DEV" |
11166                      grep Blockcount | awk '{print $4}')
11167
11168         # Remove old files, some OI blocks will become idle.
11169         unlinkmany $myDIR/t- 10000
11170
11171         # stop the MDT
11172         stop $SINGLEMDS || error "Fail to stop MDT."
11173         # remount the MDT
11174         start $SINGLEMDS $MDT_DEV $MDS_MOUNT_OPTS || error "Fail to start MDT."
11175
11176         df $MOUNT || error "Fail to df."
11177         # Create new files, idle OI blocks should be reused.
11178         createmany -o $myDIR/t- 2000
11179         do_facet $SINGLEMDS sync
11180         # Make sure journal flushed.
11181         sleep 6
11182         local blk2=$(do_facet $SINGLEMDS \
11183                      "$DEBUGFS -c -R \\\"stat oi.16.${IDX}\\\" $MDT_DEV" |
11184                      grep Blockcount | awk '{print $4}')
11185
11186         [ $blk1 == $blk2 ] || error "old blk1=$blk1, new blk2=$blk2, unmatched!"
11187 }
11188 run_test 228b "idle OI blocks can be reused after MDT restart"
11189
11190 #LU-1881
11191 test_228c() {
11192         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11193         [ "$(facet_fstype $SINGLEMDS)" != "ldiskfs" ] &&
11194                 skip "non-ldiskfs backend" && return
11195
11196         local MDT_DEV=$(mdsdevname ${SINGLEMDS//mds/})
11197         local myDIR=$DIR/$tdir
11198
11199         mkdir -p $myDIR
11200         #define OBD_FAIL_SEQ_EXHAUST             0x1002
11201         $LCTL set_param fail_loc=0x80001002
11202         # 20000 files can guarantee there are index nodes in the OI file
11203         createmany -o $myDIR/t- 20000
11204         $LCTL set_param fail_loc=0
11205         # The guard is current the largest FID holder
11206         touch $myDIR/guard
11207         local SEQ=$($LFS path2fid $myDIR/guard | awk -F ':' '{print $1}' |
11208                     tr -d '[')
11209         local IDX=$(($SEQ % 64))
11210
11211         do_facet $SINGLEMDS sync
11212         # Make sure journal flushed.
11213         sleep 6
11214         local blk1=$(do_facet $SINGLEMDS \
11215                      "$DEBUGFS -c -R \\\"stat oi.16.${IDX}\\\" $MDT_DEV" |
11216                      grep Blockcount | awk '{print $4}')
11217
11218         # Remove old files, some OI blocks will become idle.
11219         unlinkmany $myDIR/t- 20000
11220         rm -f $myDIR/guard
11221         # The OI file should become empty now
11222
11223         # Create new files, idle OI blocks should be reused.
11224         createmany -o $myDIR/t- 2000
11225         do_facet $SINGLEMDS sync
11226         # Make sure journal flushed.
11227         sleep 6
11228         local blk2=$(do_facet $SINGLEMDS \
11229                      "$DEBUGFS -c -R \\\"stat oi.16.${IDX}\\\" $MDT_DEV" |
11230                      grep Blockcount | awk '{print $4}')
11231
11232         [ $blk1 == $blk2 ] || error "old blk1=$blk1, new blk2=$blk2, unmatched!"
11233 }
11234 run_test 228c "NOT shrink the last entry in OI index node to recycle idle leaf"
11235
11236 test_229() { # LU-2482, LU-3448
11237         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11238         [ $OSTCOUNT -lt 2 ] && skip "needs >= 2 OSTs" && return
11239
11240         rm -f $DIR/$tfile
11241
11242         # Create a file with a released layout and stripe count 2.
11243         $MULTIOP $DIR/$tfile H2c ||
11244                 error "failed to create file with released layout"
11245
11246         $GETSTRIPE -v $DIR/$tfile
11247
11248         local pattern=$($GETSTRIPE -v $DIR/$tfile |
11249                         grep lmm_stripe_pattern | awk '{print $2}')
11250         [ X"$pattern" = X"80000001" ] || error "pattern error ($pattern)"
11251
11252         local stripe_count=$($GETSTRIPE -c $DIR/$tfile) || error "getstripe"
11253         [ $stripe_count -eq 2 ] || error "stripe count not 2 ($stripe_count)"
11254         stat $DIR/$tfile || error "failed to stat released file"
11255
11256         $TRUNCATE $DIR/$tfile 200000 &&
11257                 error "truncate of released file should fail"
11258
11259         # Ensure that nothing happened anyway.
11260         $CHECKSTAT -s 0 $DIR/$tfile ||
11261                 error "released file size should not change"
11262
11263         # Stripe count should be no change after truncate
11264         stripe_count=$($GETSTRIPE -c $DIR/$tfile) || error "getstripe failed"
11265         [ $stripe_count -eq 2 ] || error "after trunc: ($stripe_count)"
11266
11267         chown $RUNAS_ID $DIR/$tfile ||
11268                 error "chown $RUNAS_ID $DIR/$tfile failed"
11269
11270         chgrp $RUNAS_ID $DIR/$tfile ||
11271                 error "chgrp $RUNAS_ID $DIR/$tfile failed"
11272
11273         touch $DIR/$tfile ||
11274                 error "touch $DIR/$tfile failed"
11275
11276         rm $DIR/$tfile || error "failed to remove released file"
11277 }
11278 run_test 229 "getstripe/stat/rm/attr changes work on released files"
11279
11280 test_230a() {
11281         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11282         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
11283         local MDTIDX=1
11284
11285         mkdir -p $DIR/$tdir/test_230_local
11286         local mdt_idx=$($GETSTRIPE -M $DIR/$tdir/test_230_local)
11287         [ $mdt_idx -ne 0 ] &&
11288                 error "create local directory on wrong MDT $mdt_idx"
11289
11290         $LFS mkdir -i $MDTIDX $DIR/$tdir/test_230 ||
11291                         error "create remote directory failed"
11292         local mdt_idx=$($GETSTRIPE -M $DIR/$tdir/test_230)
11293         [ $mdt_idx -ne $MDTIDX ] &&
11294                 error "create remote directory on wrong MDT $mdt_idx"
11295
11296         createmany -o $DIR/$tdir/test_230/t- 10 ||
11297                 error "create files on remote directory failed"
11298         mdt_idx=$($GETSTRIPE -M $DIR/$tdir/test_230/t-0)
11299         [ $mdt_idx -ne $MDTIDX ] && error "create files on wrong MDT $mdt_idx"
11300         rm -r $DIR/$tdir || error "unlink remote directory failed"
11301 }
11302 run_test 230a "Create remote directory and files under the remote directory"
11303
11304 test_230b() {
11305         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11306         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
11307         local MDTIDX=1
11308         local remote_dir=$DIR/$tdir/remote_dir
11309         local rc=0
11310
11311         mkdir -p $DIR/$tdir
11312         $LFS mkdir -i $MDTIDX $remote_dir ||
11313                 error "create remote directory failed"
11314
11315         $LFS mkdir -i 0 $remote_dir/new_dir &&
11316                 error "nested remote directory create succeed!"
11317
11318         do_facet mds$((MDTIDX + 1)) lctl set_param mdt.*.enable_remote_dir=1
11319         $LFS mkdir -i 0 $remote_dir/new_dir || rc=$?
11320         do_facet mds$((MDTIDX + 1)) lctl set_param mdt.*.enable_remote_dir=0
11321
11322         [ $rc -ne 0 ] &&
11323            error "create remote directory failed after set enable_remote_dir"
11324
11325         rm -rf $remote_dir || error "first unlink remote directory failed"
11326
11327         $RUNAS -G$RUNAS_GID $LFS mkdir -i $MDTIDX $DIR/$tfile &&
11328                                                         error "chown worked"
11329
11330         do_facet mds$MDTIDX lctl set_param \
11331                                 mdt.*.enable_remote_dir_gid=$RUNAS_GID
11332         $LFS mkdir -i $MDTIDX $remote_dir || rc=$?
11333         do_facet mds$MDTIDX lctl set_param mdt.*.enable_remote_dir_gid=0
11334
11335         [ $rc -ne 0 ] &&
11336            error "create remote dir failed after set enable_remote_dir_gid"
11337
11338         rm -r $DIR/$tdir || error "second unlink remote directory failed"
11339 }
11340 run_test 230b "nested remote directory should be failed"
11341
11342 test_231a()
11343 {
11344         # For simplicity this test assumes that max_pages_per_rpc
11345         # is the same across all OSCs
11346         local max_pages=$($LCTL get_param -n osc.*.max_pages_per_rpc | head -1)
11347         local bulk_size=$((max_pages * 4096))
11348
11349         mkdir -p $DIR/$tdir
11350
11351         # clear the OSC stats
11352         $LCTL set_param osc.*.stats=0 &>/dev/null
11353
11354         # Client writes $bulk_size - there must be 1 rpc for $max_pages.
11355         dd if=/dev/zero of=$DIR/$tdir/$tfile bs=$bulk_size count=1 \
11356                 oflag=direct &>/dev/null || error "dd failed"
11357
11358         local nrpcs=$($LCTL get_param osc.*.stats |awk '/ost_write/ {print $2}')
11359         if [ x$nrpcs != "x1" ]; then
11360                 error "found $nrpc ost_write RPCs, not 1 as expected"
11361         fi
11362
11363         # Drop the OSC cache, otherwise we will read from it
11364         cancel_lru_locks osc
11365
11366         # clear the OSC stats
11367         $LCTL set_param osc.*.stats=0 &>/dev/null
11368
11369         # Client reads $bulk_size.
11370         dd if=$DIR/$tdir/$tfile of=/dev/null bs=$bulk_size count=1 \
11371                 iflag=direct &>/dev/null || error "dd failed"
11372
11373         nrpcs=$($LCTL get_param osc.*.stats | awk '/ost_read/ { print $2 }')
11374         if [ x$nrpcs != "x1" ]; then
11375                 error "found $nrpc ost_read RPCs, not 1 as expected"
11376         fi
11377 }
11378 run_test 231a "checking that reading/writing of BRW RPC size results in one RPC"
11379
11380 test_231b() {
11381         mkdir -p $DIR/$tdir
11382         local i
11383         for i in {0..1023}; do
11384                 dd if=/dev/zero of=$DIR/$tdir/$tfile conv=notrunc \
11385                         seek=$((2 * i)) bs=4096 count=1 &>/dev/null ||
11386                         error "dd of=$DIR/$tdir/$tfile seek=$((2 * i)) failed"
11387         done
11388         sync
11389 }
11390 run_test 231b "must not assert on fully utilized OST request buffer"
11391
11392 test_232() {
11393         mkdir -p $DIR/$tdir
11394         #define OBD_FAIL_LDLM_OST_LVB            0x31c
11395         $LCTL set_param fail_loc=0x31c
11396
11397         # ignore dd failure
11398         dd if=/dev/zero of=$DIR/$tdir/$tfile bs=1M count=1 || true
11399
11400         $LCTL set_param fail_loc=0
11401         umount_client $MOUNT || error "umount failed"
11402         mount_client $MOUNT || error "mount failed"
11403 }
11404 run_test 232 "failed lock should not block umount"
11405
11406 test_233() {
11407         local fid=$($LFS path2fid $MOUNT)
11408         stat $MOUNT/.lustre/fid/$fid > /dev/null ||
11409                 error "cannot access $MOUNT using its FID '$fid'"
11410 }
11411 run_test 233 "checking that OBF of the FS root succeeds"
11412
11413 #
11414 # tests that do cleanup/setup should be run at the end
11415 #
11416
11417 test_900() {
11418         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
11419         local ls
11420         #define OBD_FAIL_MGC_PAUSE_PROCESS_LOG   0x903
11421         $LCTL set_param fail_loc=0x903
11422         # cancel_lru_locks mgc - does not work due to lctl set_param syntax
11423         for ls in /proc/fs/lustre/ldlm/namespaces/MGC*/lru_size; do
11424                 echo "clear" > $ls
11425         done
11426         FAIL_ON_ERROR=true cleanup
11427         FAIL_ON_ERROR=true setup
11428 }
11429 run_test 900 "umount should not race with any mgc requeue thread"
11430
11431 complete $SECONDS
11432 check_and_cleanup_lustre
11433 if [ "$I_MOUNTED" != "yes" ]; then
11434         lctl set_param debug="$OLDDEBUG" 2> /dev/null || true
11435 fi
11436 exit_status