lustre/tests/sanity.sh

   1 #!/bin/bash
   2 # -*- mode: Bash; tab-width: 4; indent-tabs-mode: t; -*-
   3 # vim:autoindent:shiftwidth=4:tabstop=4:
   4 #
   5 # Run select tests by setting ONLY, or as arguments to the script.
   6 # Skip specific tests by setting EXCEPT.
   7 #
   8 # e.g. ONLY="22 23" or ONLY="`seq 32 39`" or EXCEPT="31"
   9 set -e
  10
  11 ONLY=${ONLY:-"$*"}
  12 # bug number for skipped test: 13297 2108 9789 3637 9789 3561 12622 5188
  13 ALWAYS_EXCEPT="                27u   42a  42b  42c  42d  45   51d   68b  $SANITY_EXCEPT"
  14 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
  15
  16 # Tests that fail on uml
  17 CPU=`awk '/model/ {print $4}' /proc/cpuinfo`
  18 #                                    buffer i/o errs             sock spc runas
  19 [ "$CPU" = "UML" ] && EXCEPT="$EXCEPT 27m 27n 27o 27p 27q 27r 31d 54a  64b 99a 99b 99c 99d 99e 99f 101"
  20
  21 case `uname -r` in
  22 2.4*) FSTYPE=${FSTYPE:-ext3} ;;
  23 2.6*) FSTYPE=${FSTYPE:-ldiskfs} ;;
  24 *) error "unsupported kernel" ;;
  25 esac
  26
  27 SRCDIR=$(cd $(dirname $0); echo $PWD)
  28 export PATH=$PATH:/sbin
  29
  30 TMP=${TMP:-/tmp}
  31
  32 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
  33 CREATETEST=${CREATETEST:-createtest}
  34 LFS=${LFS:-lfs}
  35 SETSTRIPE=${SETSTRIPE:-"$LFS setstripe"}
  36 GETSTRIPE=${GETSTRIPE:-"$LFS getstripe"}
  37 LSTRIPE=${LSTRIPE:-"$LFS setstripe"}
  38 LFIND=${LFIND:-"$LFS find"}
  39 LVERIFY=${LVERIFY:-ll_dirstripe_verify}
  40 LCTL=${LCTL:-lctl}
  41 MCREATE=${MCREATE:-mcreate}
  42 OPENFILE=${OPENFILE:-openfile}
  43 OPENUNLINK=${OPENUNLINK:-openunlink}
  44 READS=${READS:-"reads"}
  45 MUNLINK=${MUNLINK:-munlink}
  46 SOCKETSERVER=${SOCKETSERVER:-socketserver}
  47 SOCKETCLIENT=${SOCKETCLIENT:-socketclient}
  48 MEMHOG=${MEMHOG:-memhog}
  49 DIRECTIO=${DIRECTIO:-directio}
  50 ACCEPTOR_PORT=${ACCEPTOR_PORT:-988}
  51 UMOUNT=${UMOUNT:-"umount -d"}
  52 STRIPES_PER_OBJ=-1
  53 CHECK_GRANT=${CHECK_GRANT:-"yes"}
  54 GRANT_CHECK_LIST=${GRANT_CHECK_LIST:-""}
  55
  56 export NAME=${NAME:-local}
  57
  58 SAVE_PWD=$PWD
  59
  60 CLEANUP=${CLEANUP:-:}
  61 SETUP=${SETUP:-:}
  62 TRACE=${TRACE:-""}
  63 LUSTRE=${LUSTRE:-$(cd $(dirname $0)/..; echo $PWD)}
  64 . $LUSTRE/tests/test-framework.sh
  65 init_test_env $@
  66 . ${CONFIG:=$LUSTRE/tests/cfg/${NAME}.sh}
  67 init_logging
  68
  69 [ "$SLOW" = "no" ] && EXCEPT_SLOW="24o 24v 27m 36f 36g 36h 51b 51c 60c 63 64b 68 71 73 77f 78 101 103 115 120g 124b"
  70
  71 FAIL_ON_ERROR=false
  72
  73 cleanup() {
  74         echo -n "cln.."
  75         pgrep ll_sa > /dev/null && { echo "There are ll_sa thread not exit!"; exit 20; }
  76         cleanupall ${FORCE} $* || { echo "FAILed to clean up"; exit 20; }
  77 }
  78 setup() {
  79         echo -n "mnt.."
  80         load_modules
  81         setupall || exit 10
  82         echo "done"
  83 }
  84
  85 check_kernel_version() {
  86         WANT_VER=$1
  87         GOT_VER=$(lctl get_param -n version | awk '/kernel:/ {print $2}')
  88         case $GOT_VER in
  89         patchless|patchless_client) return 0;;
  90         *) [ $GOT_VER -ge $WANT_VER ] && return 0 ;;
  91         esac
  92         log "test needs at least kernel version $WANT_VER, running $GOT_VER"
  93         return 1
  94 }
  95
  96 if [ "$ONLY" == "cleanup" ]; then
  97        sh llmountcleanup.sh
  98        exit 0
  99 fi
 100
 101 check_and_setup_lustre
 102
 103 DIR=${DIR:-$MOUNT}
 104 assert_DIR
 105
 106 MDT0=$($LCTL get_param -n mdc.*.mds_server_uuid | \
 107     awk '{gsub(/_UUID/,""); print $1}' | head -1)
 108 LOVNAME=$($LCTL get_param -n llite.*.lov.common_name | tail -n 1)
 109 OSTCOUNT=$($LCTL get_param -n lov.$LOVNAME.numobd)
 110 STRIPECOUNT=$($LCTL get_param -n lov.$LOVNAME.stripecount)
 111 STRIPESIZE=$($LCTL get_param -n lov.$LOVNAME.stripesize)
 112 ORIGFREE=$($LCTL get_param -n lov.$LOVNAME.kbytesavail)
 113 MAXFREE=${MAXFREE:-$((200000 * $OSTCOUNT))}
 114
 115 [ -f $DIR/d52a/foo ] && chattr -a $DIR/d52a/foo
 116 [ -f $DIR/d52b/foo ] && chattr -i $DIR/d52b/foo
 117 rm -rf $DIR/[Rdfs][0-9]*
 118
 119 # $RUNAS_ID may get set incorrectly somewhere else
 120 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] && error "\$RUNAS_ID set to 0, but \$UID is also 0!"
 121
 122 check_runas_id $RUNAS_ID $RUNAS_GID $RUNAS
 123
 124 build_test_filter
 125
 126 if [ "${ONLY}" = "MOUNT" ] ; then
 127         echo "Lustre is up, please go on"
 128         exit
 129 fi
 130
 131 echo "preparing for tests involving mounts"
 132 EXT2_DEV=${EXT2_DEV:-$TMP/SANITY.LOOP}
 133 touch $EXT2_DEV
 134 mke2fs -j -F $EXT2_DEV 8000 > /dev/null
 135 echo # add a newline after mke2fs.
 136
 137 umask 077
 138
 139 OLDDEBUG="`lctl get_param -n debug 2> /dev/null`"
 140 lctl set_param debug=-1 2> /dev/null || true
 141 test_0() {
 142         touch $DIR/$tfile
 143         $CHECKSTAT -t file $DIR/$tfile || error
 144         rm $DIR/$tfile
 145         $CHECKSTAT -a $DIR/$tfile || error
 146 }
 147 run_test 0 "touch .../$tfile ; rm .../$tfile ====================="
 148
 149 test_0b() {
 150         chmod 0755 $DIR || error
 151         $CHECKSTAT -p 0755 $DIR || error
 152 }
 153 run_test 0b "chmod 0755 $DIR ============================="
 154
 155 test_0c() {
 156     $LCTL get_param mdc.*.import | grep  "state: FULL" || error "import not FULL"
 157     $LCTL get_param mdc.*.import | grep  "target: $FSNAME-MDT" || error "bad target"
 158 }
 159 run_test 0c "check import proc ============================="
 160
 161 test_1a() {
 162         mkdir $DIR/d1
 163         mkdir $DIR/d1/d2
 164         mkdir $DIR/d1/d2 && error "we expect EEXIST, but not returned"
 165         $CHECKSTAT -t dir $DIR/d1/d2 || error
 166 }
 167 run_test 1a "mkdir .../d1; mkdir .../d1/d2 ====================="
 168
 169 test_1b() {
 170         rmdir $DIR/d1/d2
 171         rmdir $DIR/d1
 172         $CHECKSTAT -a $DIR/d1 || error
 173 }
 174 run_test 1b "rmdir .../d1/d2; rmdir .../d1 ====================="
 175
 176 test_2a() {
 177         mkdir $DIR/d2
 178         touch $DIR/d2/f
 179         $CHECKSTAT -t file $DIR/d2/f || error
 180 }
 181 run_test 2a "mkdir .../d2; touch .../d2/f ======================"
 182
 183 test_2b() {
 184         rm -r $DIR/d2
 185         $CHECKSTAT -a $DIR/d2 || error
 186 }
 187 run_test 2b "rm -r .../d2; checkstat .../d2/f ======================"
 188
 189 test_3a() {
 190         mkdir $DIR/d3
 191         $CHECKSTAT -t dir $DIR/d3 || error
 192 }
 193 run_test 3a "mkdir .../d3 ======================================"
 194
 195 test_3b() {
 196         if [ ! -d $DIR/d3 ]; then
 197                 mkdir $DIR/d3
 198         fi
 199         touch $DIR/d3/f
 200         $CHECKSTAT -t file $DIR/d3/f || error
 201 }
 202 run_test 3b "touch .../d3/f ===================================="
 203
 204 test_3c() {
 205         rm -r $DIR/d3
 206         $CHECKSTAT -a $DIR/d3 || error
 207 }
 208 run_test 3c "rm -r .../d3 ======================================"
 209
 210 test_4a() {
 211         mkdir $DIR/d4
 212         $CHECKSTAT -t dir $DIR/d4 || error
 213 }
 214 run_test 4a "mkdir .../d4 ======================================"
 215
 216 test_4b() {
 217         if [ ! -d $DIR/d4 ]; then
 218                 mkdir $DIR/d4
 219         fi
 220         mkdir $DIR/d4/d2
 221         $CHECKSTAT -t dir $DIR/d4/d2 || error
 222 }
 223 run_test 4b "mkdir .../d4/d2 ==================================="
 224
 225 test_5() {
 226         mkdir $DIR/d5
 227         mkdir $DIR/d5/d2
 228         chmod 0707 $DIR/d5/d2
 229         $CHECKSTAT -t dir -p 0707 $DIR/d5/d2 || error
 230 }
 231 run_test 5 "mkdir .../d5 .../d5/d2; chmod .../d5/d2 ============"
 232
 233 test_6a() {
 234         touch $DIR/f6a
 235         chmod 0666 $DIR/f6a || error
 236         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/f6a || error
 237 }
 238 run_test 6a "touch .../f6a; chmod .../f6a ======================"
 239
 240 test_6b() {
 241         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 242         if [ ! -f $DIR/f6a ]; then
 243                 touch $DIR/f6a
 244                 chmod 0666 $DIR/f6a
 245         fi
 246         $RUNAS chmod 0444 $DIR/f6a && error
 247         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/f6a || error
 248 }
 249 run_test 6b "$RUNAS chmod .../f6a (should return error) =="
 250
 251 test_6c() {
 252         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 253         touch $DIR/f6c
 254         chown $RUNAS_ID $DIR/f6c || error
 255         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/f6c || error
 256 }
 257 run_test 6c "touch .../f6c; chown .../f6c ======================"
 258
 259 test_6d() {
 260         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 261         if [ ! -f $DIR/f6c ]; then
 262                 touch $DIR/f6c
 263                 chown $RUNAS_ID $DIR/f6c
 264         fi
 265         $RUNAS chown $UID $DIR/f6c && error
 266         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/f6c || error
 267 }
 268 run_test 6d "$RUNAS chown .../f6c (should return error) =="
 269
 270 test_6e() {
 271         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 272         touch $DIR/f6e
 273         chgrp $RUNAS_ID $DIR/f6e || error
 274         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/f6e || error
 275 }
 276 run_test 6e "touch .../f6e; chgrp .../f6e ======================"
 277
 278 test_6f() {
 279         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 280         if [ ! -f $DIR/f6e ]; then
 281                 touch $DIR/f6e
 282                 chgrp $RUNAS_ID $DIR/f6e
 283         fi
 284         $RUNAS chgrp $UID $DIR/f6e && error
 285         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/f6e || error
 286 }
 287 run_test 6f "$RUNAS chgrp .../f6e (should return error) =="
 288
 289 test_6g() {
 290         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 291         mkdir $DIR/d6g || error
 292         chmod 777 $DIR/d6g || error
 293         $RUNAS mkdir $DIR/d6g/d || error
 294         chmod g+s $DIR/d6g/d || error
 295         mkdir $DIR/d6g/d/subdir
 296         $CHECKSTAT -g \#$RUNAS_GID $DIR/d6g/d/subdir || error
 297 }
 298 run_test 6g "Is new dir in sgid dir inheriting group?"
 299
 300 test_6h() { # bug 7331
 301         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 302         touch $DIR/f6h || error "touch failed"
 303         chown $RUNAS_ID:$RUNAS_GID $DIR/f6h || error "initial chown failed"
 304         $RUNAS -G$RUNAS_GID chown $RUNAS_ID:0 $DIR/f6h && error "chown worked"
 305         $CHECKSTAT -t file -u \#$RUNAS_ID -g \#$RUNAS_GID $DIR/f6h || error
 306 }
 307 run_test 6h "$RUNAS chown RUNAS_ID.0 .../f6h (should return error)"
 308
 309 test_7a() {
 310         mkdir $DIR/d7
 311         $MCREATE $DIR/d7/f
 312         chmod 0666 $DIR/d7/f
 313         $CHECKSTAT -t file -p 0666 $DIR/d7/f || error
 314 }
 315 run_test 7a "mkdir .../d7; mcreate .../d7/f; chmod .../d7/f ===="
 316
 317 test_7b() {
 318         if [ ! -d $DIR/d7 ]; then
 319                 mkdir $DIR/d7
 320         fi
 321         $MCREATE $DIR/d7/f2
 322         echo -n foo > $DIR/d7/f2
 323         [ "`cat $DIR/d7/f2`" = "foo" ] || error
 324         $CHECKSTAT -t file -s 3 $DIR/d7/f2 || error
 325 }
 326 run_test 7b "mkdir .../d7; mcreate d7/f2; echo foo > d7/f2 ====="
 327
 328 test_8() {
 329         mkdir $DIR/d8
 330         touch $DIR/d8/f
 331         chmod 0666 $DIR/d8/f
 332         $CHECKSTAT -t file -p 0666 $DIR/d8/f || error
 333 }
 334 run_test 8 "mkdir .../d8; touch .../d8/f; chmod .../d8/f ======="
 335
 336 test_9() {
 337         mkdir $DIR/d9
 338         mkdir $DIR/d9/d2
 339         mkdir $DIR/d9/d2/d3
 340         $CHECKSTAT -t dir $DIR/d9/d2/d3 || error
 341 }
 342 run_test 9 "mkdir .../d9 .../d9/d2 .../d9/d2/d3 ================"
 343
 344 test_10() {
 345         mkdir $DIR/d10
 346         mkdir $DIR/d10/d2
 347         touch $DIR/d10/d2/f
 348         $CHECKSTAT -t file $DIR/d10/d2/f || error
 349 }
 350 run_test 10 "mkdir .../d10 .../d10/d2; touch .../d10/d2/f ======"
 351
 352 test_11() {
 353         mkdir $DIR/d11
 354         mkdir $DIR/d11/d2
 355         chmod 0666 $DIR/d11/d2
 356         chmod 0705 $DIR/d11/d2
 357         $CHECKSTAT -t dir -p 0705 $DIR/d11/d2 || error
 358 }
 359 run_test 11 "mkdir .../d11 d11/d2; chmod .../d11/d2 ============"
 360
 361 test_12() {
 362         mkdir $DIR/d12
 363         touch $DIR/d12/f
 364         chmod 0666 $DIR/d12/f
 365         chmod 0654 $DIR/d12/f
 366         $CHECKSTAT -t file -p 0654 $DIR/d12/f || error
 367 }
 368 run_test 12 "touch .../d12/f; chmod .../d12/f .../d12/f ========"
 369
 370 test_13() {
 371         mkdir $DIR/d13
 372         dd if=/dev/zero of=$DIR/d13/f count=10
 373         >  $DIR/d13/f
 374         $CHECKSTAT -t file -s 0 $DIR/d13/f || error
 375 }
 376 run_test 13 "creat .../d13/f; dd .../d13/f; > .../d13/f ========"
 377
 378 test_14() {
 379         mkdir $DIR/d14
 380         touch $DIR/d14/f
 381         rm $DIR/d14/f
 382         $CHECKSTAT -a $DIR/d14/f || error
 383 }
 384 run_test 14 "touch .../d14/f; rm .../d14/f; rm .../d14/f ======="
 385
 386 test_15() {
 387         mkdir $DIR/d15
 388         touch $DIR/d15/f
 389         mv $DIR/d15/f $DIR/d15/f2
 390         $CHECKSTAT -t file $DIR/d15/f2 || error
 391 }
 392 run_test 15 "touch .../d15/f; mv .../d15/f .../d15/f2 =========="
 393
 394 test_16() {
 395         mkdir $DIR/d16
 396         touch $DIR/d16/f
 397         rm -rf $DIR/d16/f
 398         $CHECKSTAT -a $DIR/d16/f || error
 399 }
 400 run_test 16 "touch .../d16/f; rm -rf .../d16/f ================="
 401
 402 test_17a() {
 403         mkdir -p $DIR/d17
 404         touch $DIR/d17/f
 405         ln -s $DIR/d17/f $DIR/d17/l-exist
 406         ls -l $DIR/d17
 407         $CHECKSTAT -l $DIR/d17/f $DIR/d17/l-exist || error
 408         $CHECKSTAT -f -t f $DIR/d17/l-exist || error
 409         rm -f $DIR/d17/l-exist
 410         $CHECKSTAT -a $DIR/d17/l-exist || error
 411 }
 412 run_test 17a "symlinks: create, remove (real) =================="
 413
 414 test_17b() {
 415         mkdir -p $DIR/d17
 416         ln -s no-such-file $DIR/d17/l-dangle
 417         ls -l $DIR/d17
 418         $CHECKSTAT -l no-such-file $DIR/d17/l-dangle || error
 419         $CHECKSTAT -fa $DIR/d17/l-dangle || error
 420         rm -f $DIR/d17/l-dangle
 421         $CHECKSTAT -a $DIR/d17/l-dangle || error
 422 }
 423 run_test 17b "symlinks: create, remove (dangling) =============="
 424
 425 test_17c() { # bug 3440 - don't save failed open RPC for replay
 426         mkdir -p $DIR/d17
 427         ln -s foo $DIR/d17/f17c
 428         cat $DIR/d17/f17c && error "opened non-existent symlink" || true
 429 }
 430 run_test 17c "symlinks: open dangling (should return error) ===="
 431
 432 test_17d() {
 433         mkdir -p $DIR/d17
 434         ln -s foo $DIR/d17/f17d
 435         touch $DIR/d17/f17d || error "creating to new symlink"
 436 }
 437 run_test 17d "symlinks: create dangling ========================"
 438
 439 test_17e() {
 440         mkdir -p $DIR/$tdir
 441         local foo=$DIR/$tdir/$tfile
 442         ln -s $foo $foo || error "create symlink failed"
 443         ls -l $foo || error "ls -l failed"
 444         ls $foo && error "ls not failed" || true
 445 }
 446 run_test 17e "symlinks: create recursive symlink (should return error) ===="
 447
 448 test_17f() {
 449         mkdir -p $DIR/d17f
 450         ln -s 1234567890/2234567890/3234567890/4234567890 $DIR/d17f/111
 451         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890 $DIR/d17f/222
 452         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890 $DIR/d17f/333
 453         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890 $DIR/d17f/444
 454         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890 $DIR/d17f/555
 455         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890/aaaaaaaaaa/bbbbbbbbbb/cccccccccc/dddddddddd/eeeeeeeeee/ffffffffff/ $DIR/d17f/666
 456         ls -l  $DIR/d17f
 457 }
 458 run_test 17f "symlinks: long and very long symlink name ========================"
 459
 460 test_17g() {
 461         mkdir -p $DIR/$tdir
 462         LONGSYMLINK="$(dd if=/dev/zero bs=4095 count=1 | tr '\0' 'x')"
 463         ln -s $LONGSYMLINK $DIR/$tdir/$tfile
 464         ls -l $DIR/$tdir
 465 }
 466 run_test 17g "symlinks: really long symlink name ==============================="
 467
 468 test_17h() { #bug 17378
 469         mkdir -p $DIR/$tdir
 470         $SETSTRIPE $DIR/$tdir -c -1
 471 #define OBD_FAIL_MDS_LOV_PREP_CREATE 0x141
 472         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000141
 473         touch $DIR/$tdir/$tfile || true
 474 }
 475 run_test 17h "create objects: lov_free_memmd() doesn't lbug"
 476
 477 test_17i() { #bug 20018
 478         mkdir -p $DIR/$tdir
 479         local foo=$DIR/$tdir/$tfile
 480         ln -s $foo $foo || error "create symlink failed"
 481 #define OBD_FAIL_MDS_READLINK_EPROTO     0x143
 482         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000143
 483         ls -l $foo && error "error not detected"
 484         return 0
 485 }
 486 run_test 17i "don't panic on short symlink"
 487
 488 test_17k() { #bug 22301
 489         rsync --help | grep -q xattr ||
 490                 skip_env "$(rsync --version| head -1) does not support xattrs"
 491         mkdir -p $DIR/{$tdir,$tdir.new}
 492         touch $DIR/$tdir/$tfile
 493         ln -s $DIR/$tdir/$tfile $DIR/$tdir/$tfile.lnk
 494         rsync -av -X $DIR/$tdir/ $DIR/$tdir.new ||
 495                 error "rsync failed with xattrs enabled"
 496 }
 497 run_test 17k "symlinks: rsync with xattrs enabled ========================="
 498
 499 test_18() {
 500         touch $DIR/f
 501         ls $DIR || error
 502 }
 503 run_test 18 "touch .../f ; ls ... =============================="
 504
 505 test_19a() {
 506         touch $DIR/f19
 507         ls -l $DIR
 508         rm $DIR/f19
 509         $CHECKSTAT -a $DIR/f19 || error
 510 }
 511 run_test 19a "touch .../f19 ; ls -l ... ; rm .../f19 ==========="
 512
 513 test_19b() {
 514         ls -l $DIR/f19 && error || true
 515 }
 516 run_test 19b "ls -l .../f19 (should return error) =============="
 517
 518 test_19c() {
 519         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
 520         $RUNAS touch $DIR/f19 && error || true
 521 }
 522 run_test 19c "$RUNAS touch .../f19 (should return error) =="
 523
 524 test_19d() {
 525         cat $DIR/f19 && error || true
 526 }
 527 run_test 19d "cat .../f19 (should return error) =============="
 528
 529 test_20() {
 530         touch $DIR/f
 531         rm $DIR/f
 532         log "1 done"
 533         touch $DIR/f
 534         rm $DIR/f
 535         log "2 done"
 536         touch $DIR/f
 537         rm $DIR/f
 538         log "3 done"
 539         $CHECKSTAT -a $DIR/f || error
 540 }
 541 run_test 20 "touch .../f ; ls -l ... ==========================="
 542
 543 test_21() {
 544         mkdir $DIR/d21
 545         [ -f $DIR/d21/dangle ] && rm -f $DIR/d21/dangle
 546         ln -s dangle $DIR/d21/link
 547         echo foo >> $DIR/d21/link
 548         cat $DIR/d21/dangle
 549         $CHECKSTAT -t link $DIR/d21/link || error
 550         $CHECKSTAT -f -t file $DIR/d21/link || error
 551 }
 552 run_test 21 "write to dangling link ============================"
 553
 554 test_22() {
 555         WDIR=$DIR/$tdir
 556         mkdir -p $WDIR
 557         chown $RUNAS_ID:$RUNAS_GID $WDIR
 558         (cd $WDIR || error "cd $WDIR failed";
 559         $RUNAS tar cf - /etc/hosts /etc/sysconfig/network | \
 560         $RUNAS tar xf -)
 561         ls -lR $WDIR/etc || error "ls -lR $WDIR/etc failed"
 562         $CHECKSTAT -t dir $WDIR/etc || error "checkstat -t dir failed"
 563         $CHECKSTAT -u \#$RUNAS_ID -g \#$RUNAS_GID $WDIR/etc || error "checkstat -u failed"
 564 }
 565 run_test 22 "unpack tar archive as non-root user ==============="
 566
 567 # was test_23
 568 test_23a() {
 569         mkdir -p $DIR/$tdir
 570         local file=$DIR/$tdir/$tfile
 571
 572         openfile -f O_CREAT:O_EXCL $file || error "$file create failed"
 573         openfile -f O_CREAT:O_EXCL $file &&
 574                 error "$file recreate succeeded" || true
 575 }
 576 run_test 23a "O_CREAT|O_EXCL in subdir =========================="
 577
 578 test_23b() { # bug 18988
 579         mkdir -p $DIR/$tdir
 580         local file=$DIR/$tdir/$tfile
 581
 582         rm -f $file
 583         echo foo > $file || error "write filed"
 584         echo bar >> $file || error "append filed"
 585         $CHECKSTAT -s 8 $file || error "wrong size"
 586         rm $file
 587 }
 588 run_test 23b "O_APPEND check =========================="
 589
 590 test_24a() {
 591         echo '== rename sanity =============================================='
 592         echo '-- same directory rename'
 593         mkdir $DIR/R1
 594         touch $DIR/R1/f
 595         mv $DIR/R1/f $DIR/R1/g
 596         $CHECKSTAT -t file $DIR/R1/g || error
 597 }
 598 run_test 24a "touch .../R1/f; rename .../R1/f .../R1/g ========="
 599
 600 test_24b() {
 601         mkdir $DIR/R2
 602         touch $DIR/R2/{f,g}
 603         mv $DIR/R2/f $DIR/R2/g
 604         $CHECKSTAT -a $DIR/R2/f || error
 605         $CHECKSTAT -t file $DIR/R2/g || error
 606 }
 607 run_test 24b "touch .../R2/{f,g}; rename .../R2/f .../R2/g ====="
 608
 609 test_24c() {
 610         mkdir $DIR/R3
 611         mkdir $DIR/R3/f
 612         mv $DIR/R3/f $DIR/R3/g
 613         $CHECKSTAT -a $DIR/R3/f || error
 614         $CHECKSTAT -t dir $DIR/R3/g || error
 615 }
 616 run_test 24c "mkdir .../R3/f; rename .../R3/f .../R3/g ========="
 617
 618 test_24d() {
 619         mkdir $DIR/R4
 620         mkdir $DIR/R4/{f,g}
 621         mrename $DIR/R4/f $DIR/R4/g
 622         $CHECKSTAT -a $DIR/R4/f || error
 623         $CHECKSTAT -t dir $DIR/R4/g || error
 624 }
 625 run_test 24d "mkdir .../R4/{f,g}; rename .../R4/f .../R4/g ====="
 626
 627 test_24e() {
 628         echo '-- cross directory renames --'
 629         mkdir $DIR/R5{a,b}
 630         touch $DIR/R5a/f
 631         mv $DIR/R5a/f $DIR/R5b/g
 632         $CHECKSTAT -a $DIR/R5a/f || error
 633         $CHECKSTAT -t file $DIR/R5b/g || error
 634 }
 635 run_test 24e "touch .../R5a/f; rename .../R5a/f .../R5b/g ======"
 636
 637 test_24f() {
 638         mkdir $DIR/R6{a,b}
 639         touch $DIR/R6a/f $DIR/R6b/g
 640         mv $DIR/R6a/f $DIR/R6b/g
 641         $CHECKSTAT -a $DIR/R6a/f || error
 642         $CHECKSTAT -t file $DIR/R6b/g || error
 643 }
 644 run_test 24f "touch .../R6a/f R6b/g; mv .../R6a/f .../R6b/g ===="
 645
 646 test_24g() {
 647         mkdir $DIR/R7{a,b}
 648         mkdir $DIR/R7a/d
 649         mv $DIR/R7a/d $DIR/R7b/e
 650         $CHECKSTAT -a $DIR/R7a/d || error
 651         $CHECKSTAT -t dir $DIR/R7b/e || error
 652 }
 653 run_test 24g "mkdir .../R7{a,b}/d; mv .../R7a/d .../R7b/e ======"
 654
 655 test_24h() {
 656         mkdir $DIR/R8{a,b}
 657         mkdir $DIR/R8a/d $DIR/R8b/e
 658         mrename $DIR/R8a/d $DIR/R8b/e
 659         $CHECKSTAT -a $DIR/R8a/d || error
 660         $CHECKSTAT -t dir $DIR/R8b/e || error
 661 }
 662 run_test 24h "mkdir .../R8{a,b}/{d,e}; rename .../R8a/d .../R8b/e"
 663
 664 test_24i() {
 665         echo "-- rename error cases"
 666         mkdir $DIR/R9
 667         mkdir $DIR/R9/a
 668         touch $DIR/R9/f
 669         mrename $DIR/R9/f $DIR/R9/a
 670         $CHECKSTAT -t file $DIR/R9/f || error
 671         $CHECKSTAT -t dir  $DIR/R9/a || error
 672         $CHECKSTAT -a $DIR/R9/a/f || error
 673 }
 674 run_test 24i "rename file to dir error: touch f ; mkdir a ; rename f a"
 675
 676 test_24j() {
 677         mkdir $DIR/R10
 678         mrename $DIR/R10/f $DIR/R10/g
 679         $CHECKSTAT -t dir $DIR/R10 || error
 680         $CHECKSTAT -a $DIR/R10/f || error
 681         $CHECKSTAT -a $DIR/R10/g || error
 682 }
 683 run_test 24j "source does not exist ============================"
 684
 685 test_24k() {
 686         mkdir $DIR/R11a $DIR/R11a/d
 687         touch $DIR/R11a/f
 688         mv $DIR/R11a/f $DIR/R11a/d
 689         $CHECKSTAT -a $DIR/R11a/f || error
 690         $CHECKSTAT -t file $DIR/R11a/d/f || error
 691 }
 692 run_test 24k "touch .../R11a/f; mv .../R11a/f .../R11a/d ======="
 693
 694 # bug 2429 - rename foo foo foo creates invalid file
 695 test_24l() {
 696         f="$DIR/f24l"
 697         multiop $f OcNs || error
 698 }
 699 run_test 24l "Renaming a file to itself ========================"
 700
 701 test_24m() {
 702         f="$DIR/f24m"
 703         multiop $f OcLN ${f}2 ${f}2 || error "link ${f}2 ${f}2 failed"
 704         # on ext3 this does not remove either the source or target files
 705         # though the "expected" operation would be to remove the source
 706         $CHECKSTAT -t file ${f} || error "${f} missing"
 707         $CHECKSTAT -t file ${f}2 || error "${f}2 missing"
 708 }
 709 run_test 24m "Renaming a file to a hard link to itself ========="
 710
 711 test_24n() {
 712     f="$DIR/f24n"
 713     # this stats the old file after it was renamed, so it should fail
 714     touch ${f}
 715     $CHECKSTAT ${f}
 716     mv ${f} ${f}.rename
 717     $CHECKSTAT ${f}.rename
 718     $CHECKSTAT -a ${f}
 719 }
 720 run_test 24n "Statting the old file after renaming (Posix rename 2)"
 721
 722 test_24o() {
 723         check_kernel_version 37 || return 0
 724         mkdir -p $DIR/d24o
 725         rename_many -s random -v -n 10 $DIR/d24o
 726 }
 727 run_test 24o "rename of files during htree split ==============="
 728
 729 test_24p() {
 730         mkdir $DIR/R12{a,b}
 731         DIRINO=`ls -lid $DIR/R12a | awk '{ print $1 }'`
 732         mrename $DIR/R12a $DIR/R12b
 733         $CHECKSTAT -a $DIR/R12a || error
 734         $CHECKSTAT -t dir $DIR/R12b || error
 735         DIRINO2=`ls -lid $DIR/R12b | awk '{ print $1 }'`
 736         [ "$DIRINO" = "$DIRINO2" ] || error "R12a $DIRINO != R12b $DIRINO2"
 737 }
 738 run_test 24p "mkdir .../R12{a,b}; rename .../R12a .../R12b"
 739
 740 test_24q() {
 741         mkdir $DIR/R13{a,b}
 742         DIRINO=`ls -lid $DIR/R13a | awk '{ print $1 }'`
 743         multiop_bg_pause $DIR/R13b D_c || return 1
 744         MULTIPID=$!
 745
 746         mrename $DIR/R13a $DIR/R13b
 747         $CHECKSTAT -a $DIR/R13a || error
 748         $CHECKSTAT -t dir $DIR/R13b || error
 749         DIRINO2=`ls -lid $DIR/R13b | awk '{ print $1 }'`
 750         [ "$DIRINO" = "$DIRINO2" ] || error "R13a $DIRINO != R13b $DIRINO2"
 751         kill -USR1 $MULTIPID
 752         wait $MULTIPID || error "multiop close failed"
 753 }
 754 run_test 24q "mkdir .../R13{a,b}; open R13b rename R13a R13b ==="
 755
 756 test_24r() { #bug 3789
 757         mkdir $DIR/R14a $DIR/R14a/b
 758         mrename $DIR/R14a $DIR/R14a/b && error "rename to subdir worked!"
 759         $CHECKSTAT -t dir $DIR/R14a || error "$DIR/R14a missing"
 760         $CHECKSTAT -t dir $DIR/R14a/b || error "$DIR/R14a/b missing"
 761 }
 762 run_test 24r "mkdir .../R14a/b; rename .../R14a .../R14a/b ====="
 763
 764 test_24s() {
 765         mkdir $DIR/R15a $DIR/R15a/b $DIR/R15a/b/c
 766         mrename $DIR/R15a $DIR/R15a/b/c && error "rename to sub-subdir worked!"
 767         $CHECKSTAT -t dir $DIR/R15a || error "$DIR/R15a missing"
 768         $CHECKSTAT -t dir $DIR/R15a/b/c || error "$DIR/R15a/b/c missing"
 769 }
 770 run_test 24s "mkdir .../R15a/b/c; rename .../R15a .../R15a/b/c ="
 771 test_24t() {
 772         mkdir $DIR/R16a $DIR/R16a/b $DIR/R16a/b/c
 773         mrename $DIR/R16a/b/c $DIR/R16a && error "rename to sub-subdir worked!"
 774         $CHECKSTAT -t dir $DIR/R16a || error "$DIR/R16a missing"
 775         $CHECKSTAT -t dir $DIR/R16a/b/c || error "$DIR/R16a/b/c missing"
 776 }
 777 run_test 24t "mkdir .../R16a/b/c; rename .../R16a/b/c .../R16a ="
 778
 779 test_24u() { # bug12192
 780         multiop $DIR/$tfile C2w$((2048 * 1024))c || error
 781         $CHECKSTAT -s $((2048 * 1024)) $DIR/$tfile || error "wrong file size"
 782 }
 783 run_test 24u "create stripe file"
 784
 785 page_size() {
 786         getconf PAGE_SIZE
 787 }
 788
 789 test_24v() {
 790         local NRFILES=100000
 791         local FREE_INODES=`lfs df -i|grep "filesystem summary" | awk '{print $5}'`
 792         [ $FREE_INODES -lt $NRFILES ] && \
 793                 skip "not enough free inodes $FREE_INODES required $NRFILES" && \
 794                 return
 795
 796         mkdir -p $DIR/d24v
 797         createmany -m $DIR/d24v/$tfile $NRFILES
 798
 799         cancel_lru_locks mdc
 800         lctl set_param mdc.*.stats clear
 801
 802         ls $DIR/d24v >/dev/null || error "error in listing large dir"
 803
 804         # LU-5 large readdir
 805         # DIRENT_SIZE = 32 bytes for sizeof(struct lu_dirent) +
 806         #               8 bytes for name(filename is mostly 5 in this test) +
 807         #               8 bytes for luda_type
 808         # take into account of overhead in lu_dirpage header and end mark in
 809         # each page, plus one in RPC_NUM calculation.
 810         DIRENT_SIZE=48
 811         RPC_SIZE=$(($(lctl get_param -n mdc.*.max_pages_per_rpc)*$(page_size)))
 812         RPC_NUM=$(((NRFILES * DIRENT_SIZE + RPC_SIZE - 1) / RPC_SIZE + 1))
 813         mds_readpage=`lctl get_param mdc.*.stats | \
 814                                 awk '/^mds_readpage/ {print $2}'`
 815         [ $mds_readpage -gt $RPC_NUM ] && \
 816                 error "large readdir doesn't take effect"
 817
 818         rm $DIR/d24v -rf
 819 }
 820 run_test 24v "list directory with large files (handle hash collision, bug: 17560)"
 821
 822 test_24w() { # bug21506
 823         SZ1=234852
 824         dd if=/dev/zero of=$DIR/$tfile bs=1M count=1 seek=4096 || return 1
 825         dd if=/dev/zero bs=$SZ1 count=1 >> $DIR/$tfile || return 2
 826         dd if=$DIR/$tfile of=$DIR/${tfile}_left bs=1M skip=4097 || return 3
 827         SZ2=`ls -l $DIR/${tfile}_left | awk '{print $5}'`
 828         [ "$SZ1" = "$SZ2" ] || \
 829                 error "Error reading at the end of the file $tfile"
 830 }
 831 run_test 24w "Reading a file larger than 4Gb"
 832
 833 test_25a() {
 834         echo '== symlink sanity ============================================='
 835
 836         mkdir $DIR/d25
 837         ln -s d25 $DIR/s25
 838         touch $DIR/s25/foo || error
 839 }
 840 run_test 25a "create file in symlinked directory ==============="
 841
 842 test_25b() {
 843         [ ! -d $DIR/d25 ] && test_25a
 844         $CHECKSTAT -t file $DIR/s25/foo || error
 845 }
 846 run_test 25b "lookup file in symlinked directory ==============="
 847
 848 test_26a() {
 849         mkdir $DIR/d26
 850         mkdir $DIR/d26/d26-2
 851         ln -s d26/d26-2 $DIR/s26
 852         touch $DIR/s26/foo || error
 853 }
 854 run_test 26a "multiple component symlink ======================="
 855
 856 test_26b() {
 857         mkdir -p $DIR/d26b/d26-2
 858         ln -s d26b/d26-2/foo $DIR/s26-2
 859         touch $DIR/s26-2 || error
 860 }
 861 run_test 26b "multiple component symlink at end of lookup ======"
 862
 863 test_26c() {
 864         mkdir $DIR/d26.2
 865         touch $DIR/d26.2/foo
 866         ln -s d26.2 $DIR/s26.2-1
 867         ln -s s26.2-1 $DIR/s26.2-2
 868         ln -s s26.2-2 $DIR/s26.2-3
 869         chmod 0666 $DIR/s26.2-3/foo
 870 }
 871 run_test 26c "chain of symlinks ================================"
 872
 873 # recursive symlinks (bug 439)
 874 test_26d() {
 875         ln -s d26-3/foo $DIR/d26-3
 876 }
 877 run_test 26d "create multiple component recursive symlink ======"
 878
 879 test_26e() {
 880         [ ! -h $DIR/d26-3 ] && test_26d
 881         rm $DIR/d26-3
 882 }
 883 run_test 26e "unlink multiple component recursive symlink ======"
 884
 885 # recursive symlinks (bug 7022)
 886 test_26f() {
 887         mkdir -p $DIR/$tdir
 888         mkdir $DIR/$tdir/$tfile        || error "mkdir $DIR/$tdir/$tfile failed"
 889         cd $DIR/$tdir/$tfile           || error "cd $DIR/$tdir/$tfile failed"
 890         mkdir -p lndir/bar1      || error "mkdir lndir/bar1 failed"
 891         mkdir $tfile             || error "mkdir $tfile failed"
 892         cd $tfile                || error "cd $tfile failed"
 893         ln -s .. dotdot          || error "ln dotdot failed"
 894         ln -s dotdot/lndir lndir || error "ln lndir failed"
 895         cd $DIR/$tdir                 || error "cd $DIR/$tdir failed"
 896         output=`ls $tfile/$tfile/lndir/bar1`
 897         [ "$output" = bar1 ] && error "unexpected output"
 898         rm -r $tfile             || error "rm $tfile failed"
 899         $CHECKSTAT -a $DIR/$tfile || error "$tfile not gone"
 900 }
 901 run_test 26f "rm -r of a directory which has recursive symlink ="
 902
 903 test_27a() {
 904         echo '== stripe sanity =============================================='
 905         mkdir -p $DIR/d27 || error "mkdir failed"
 906         $GETSTRIPE $DIR/d27
 907         $SETSTRIPE $DIR/d27/f0 -c 1 || error "lstripe failed"
 908         $CHECKSTAT -t file $DIR/d27/f0 || error "checkstat failed"
 909         pass
 910         log "== test_27a: write to one stripe file ========================="
 911         cp /etc/hosts $DIR/d27/f0 || error
 912 }
 913 run_test 27a "one stripe file =================================="
 914
 915 test_27c() {
 916         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
 917         mkdir -p $DIR/d27
 918         $SETSTRIPE $DIR/d27/f01 -c 2 || error "lstripe failed"
 919         [ `$GETSTRIPE $DIR/d27/f01 | grep -A 10 obdidx | wc -l` -eq 4 ] ||
 920                 error "two-stripe file doesn't have two stripes"
 921         pass
 922         log "== test_27c: write to two stripe file file f01 ================"
 923         dd if=/dev/zero of=$DIR/d27/f01 bs=4k count=4 || error "dd failed"
 924 }
 925 run_test 27c "create two stripe file f01 ======================="
 926
 927 test_27d() {
 928         mkdir -p $DIR/d27
 929         $SETSTRIPE -c0 -i-1 -s0 $DIR/d27/fdef || error "lstripe failed"
 930         $CHECKSTAT -t file $DIR/d27/fdef || error "checkstat failed"
 931         dd if=/dev/zero of=$DIR/d27/fdef bs=4k count=4 || error
 932 }
 933 run_test 27d "create file with default settings ================"
 934
 935 test_27e() {
 936         mkdir -p $DIR/d27
 937         $SETSTRIPE $DIR/d27/f12 -c 2 || error "lstripe failed"
 938         $SETSTRIPE $DIR/d27/f12 -c 2 && error "lstripe succeeded twice"
 939         $CHECKSTAT -t file $DIR/d27/f12 || error "checkstat failed"
 940 }
 941 run_test 27e "setstripe existing file (should return error) ======"
 942
 943 test_27f() {
 944         mkdir -p $DIR/d27
 945         $SETSTRIPE $DIR/d27/fbad -s 100 -i 0 -c 1 && error "lstripe failed"
 946         dd if=/dev/zero of=$DIR/d27/f12 bs=4k count=4 || error "dd failed"
 947         $GETSTRIPE $DIR/d27/fbad || error "lfs getstripe failed"
 948 }
 949 run_test 27f "setstripe with bad stripe size (should return error)"
 950
 951 test_27g() {
 952         mkdir -p $DIR/d27
 953         $MCREATE $DIR/d27/fnone || error "mcreate failed"
 954         pass
 955         log "== test 27h: lfs getstripe with no objects ===================="
 956         $GETSTRIPE $DIR/d27/fnone 2>&1 | grep "no stripe info" || error "has object"
 957         pass
 958         log "== test 27i: lfs getstripe with some objects =================="
 959         touch $DIR/d27/fsome || error "touch failed"
 960         $GETSTRIPE $DIR/d27/fsome | grep obdidx || error "missing objects"
 961 }
 962 run_test 27g "test lfs getstripe ==========================================="
 963
 964 test_27j() {
 965         mkdir -p $DIR/d27
 966         $SETSTRIPE $DIR/d27/f27j -i $OSTCOUNT && error "lstripe failed"||true
 967 }
 968 run_test 27j "setstripe with bad stripe offset (should return error)"
 969
 970 test_27k() { # bug 2844
 971         mkdir -p $DIR/d27
 972         FILE=$DIR/d27/f27k
 973         LL_MAX_BLKSIZE=$((4 * 1024 * 1024))
 974         [ ! -d $DIR/d27 ] && mkdir -p $DIR/d27
 975         $SETSTRIPE $FILE -s 67108864 || error "lstripe failed"
 976         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
 977         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
 978         dd if=/dev/zero of=$FILE bs=4k count=1
 979         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
 980         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
 981 }
 982 run_test 27k "limit i_blksize for broken user apps ============="
 983
 984 test_27l() {
 985         mkdir -p $DIR/d27
 986         mcreate $DIR/f27l || error "creating file"
 987         $RUNAS $SETSTRIPE $DIR/f27l -c 1 && \
 988                 error "lstripe should have failed" || true
 989 }
 990 run_test 27l "check setstripe permissions (should return error)"
 991
 992 test_27m() {
 993         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" && return
 994         if [ $ORIGFREE -gt $MAXFREE ]; then
 995                 skip "$ORIGFREE > $MAXFREE skipping out-of-space test on OST0"
 996                 return
 997         fi
 998         mkdir -p $DIR/d27
 999         $SETSTRIPE $DIR/d27/f27m_1 -i 0 -c 1
1000         dd if=/dev/zero of=$DIR/d27/f27m_1 bs=1024 count=$MAXFREE && \
1001                 error "dd should fill OST0"
1002         i=2
1003         while $SETSTRIPE $DIR/d27/f27m_$i -i 0 -c 1 ; do
1004                 i=`expr $i + 1`
1005                 [ $i -gt 256 ] && break
1006         done
1007         i=`expr $i + 1`
1008         touch $DIR/d27/f27m_$i
1009         [ `$GETSTRIPE $DIR/d27/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] && \
1010                 error "OST0 was full but new created file still use it"
1011         i=`expr $i + 1`
1012         touch $DIR/d27/f27m_$i
1013         [ `$GETSTRIPE $DIR/d27/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] && \
1014                 error "OST0 was full but new created file still use it"
1015         rm -r $DIR/d27
1016         sleep 15
1017 }
1018 run_test 27m "create file while OST0 was full =================="
1019
1020 sleep_maxage() {
1021         local DELAY=$(do_facet $SINGLEMDS lctl get_param -n lov.*.qos_maxage | head -n 1 | awk '{print $1 * 2}')
1022         sleep $DELAY
1023 }
1024
1025 # OSCs keep a NOSPC flag that will be reset after ~5s (qos_maxage)
1026 # if the OST isn't full anymore.
1027 reset_enospc() {
1028         local OSTIDX=${1:-""}
1029
1030         local list=$(comma_list $(osts_nodes))
1031         [ "$OSTIDX" ] && list=$(facet_host ost$((OSTIDX + 1)))
1032
1033         do_nodes $list lctl set_param fail_loc=0
1034         sleep_maxage
1035 }
1036
1037 exhaust_precreations() {
1038         local OSTIDX=$1
1039         local FAILLOC=$2
1040         local FAILIDX=${3:-$OSTIDX}
1041
1042         mkdir -p $DIR/$tdir
1043         local MDSIDX=$(get_mds_dir "$DIR/$tdir")
1044         echo OSTIDX=$OSTIDX MDSIDX=$MDSIDX
1045
1046         local OST=$(lfs osts | grep ${OSTIDX}": " | \
1047                 awk '{print $2}' | sed -e 's/_UUID$//')
1048         local MDT_INDEX=$(lfs df | grep "\[MDT:$((MDSIDX - 1))\]" | awk '{print $1}' | \
1049                           sed -e 's/_UUID$//;s/^.*-//')
1050
1051         # on the mdt's osc
1052         local mdtosc_proc1=$(get_mdtosc_proc_path mds${MDSIDX} $OST)
1053         local last_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1054         osc.$mdtosc_proc1.prealloc_last_id)
1055         local next_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1056         osc.$mdtosc_proc1.prealloc_next_id)
1057
1058         local mdtosc_proc2=$(get_mdtosc_proc_path mds${MDSIDX})
1059         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1060
1061         mkdir -p $DIR/$tdir/${OST}
1062         $SETSTRIPE $DIR/$tdir/${OST} -i $OSTIDX -c 1
1063 #define OBD_FAIL_OST_ENOSPC              0x215
1064         do_facet ost$((OSTIDX + 1)) lctl set_param fail_val=$FAILIDX
1065         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=0x215
1066         echo "Creating to objid $last_id on ost $OST..."
1067         createmany -o $DIR/$tdir/${OST}/f $next_id $((last_id - next_id + 2))
1068         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1069         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=$FAILLOC
1070         sleep_maxage
1071 }
1072
1073 exhaust_all_precreations() {
1074         local i
1075         for (( i=0; i < OSTCOUNT; i++ )) ; do
1076                 exhaust_precreations $i $1 -1
1077         done
1078 }
1079
1080 test_27n() {
1081         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1082         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1083         remote_ost_nodsh && skip "remote OST with nodsh" && return
1084
1085         reset_enospc
1086         rm -f $DIR/$tdir/$tfile
1087         exhaust_precreations 0 0x80000215
1088         $SETSTRIPE -c -1 $DIR/$tdir
1089         touch $DIR/$tdir/$tfile || error
1090         $GETSTRIPE $DIR/$tdir/$tfile
1091         reset_enospc
1092 }
1093 run_test 27n "create file with some full OSTs =================="
1094
1095 test_27o() {
1096         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1097         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1098         remote_ost_nodsh && skip "remote OST with nodsh" && return
1099
1100         reset_enospc
1101         rm -f $DIR/$tdir/$tfile
1102         exhaust_all_precreations 0x215
1103
1104         touch $DIR/$tdir/$tfile && error "able to create $DIR/$tdir/$tfile"
1105
1106         reset_enospc
1107         rm -rf $DIR/$tdir/*
1108 }
1109 run_test 27o "create file with all full OSTs (should error) ===="
1110
1111 test_27p() {
1112         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1113         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1114         remote_ost_nodsh && skip "remote OST with nodsh" && return
1115
1116         reset_enospc
1117         rm -f $DIR/$tdir/$tfile
1118         mkdir -p $DIR/$tdir
1119
1120         $MCREATE $DIR/$tdir/$tfile || error "mcreate failed"
1121         $TRUNCATE $DIR/$tdir/$tfile 80000000 || error "truncate failed"
1122         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1123
1124         exhaust_precreations 0 0x80000215
1125         echo foo >> $DIR/$tdir/$tfile || error "append failed"
1126         $CHECKSTAT -s 80000004 $DIR/$tdir/$tfile || error "checkstat failed"
1127         $LFS getstripe $DIR/$tdir/$tfile
1128
1129         reset_enospc
1130 }
1131 run_test 27p "append to a truncated file with some full OSTs ==="
1132
1133 test_27q() {
1134         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1135         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1136         remote_ost_nodsh && skip "remote OST with nodsh" && return
1137
1138         reset_enospc
1139         rm -f $DIR/$tdir/$tfile
1140
1141         $MCREATE $DIR/$tdir/$tfile || error "mcreate $DIR/$tdir/$tfile failed"
1142         $TRUNCATE $DIR/$tdir/$tfile 80000000 ||error "truncate $DIR/$tdir/$tfile failed"
1143         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1144
1145         exhaust_all_precreations 0x215
1146
1147         echo foo >> $DIR/$tdir/$tfile && error "append succeeded"
1148         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat 2 failed"
1149
1150         reset_enospc
1151 }
1152 run_test 27q "append to truncated file with all OSTs full (should error) ==="
1153
1154 test_27r() {
1155         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1156         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1157         remote_ost_nodsh && skip "remote OST with nodsh" && return
1158
1159         reset_enospc
1160         rm -f $DIR/$tdir/$tfile
1161         exhaust_precreations 0 0x80000215
1162
1163         $SETSTRIPE $DIR/$tdir/$tfile -i 0 -c 2 # && error
1164
1165         reset_enospc
1166 }
1167 run_test 27r "stripe file with some full OSTs (shouldn't LBUG) ="
1168
1169 test_27s() { # bug 10725
1170         mkdir -p $DIR/$tdir
1171         local stripe_size=$((4096 * 1024 * 1024))       # 2^32
1172         local stripe_count=0
1173         [ $OSTCOUNT -eq 1 ] || stripe_count=2
1174         $SETSTRIPE $DIR/$tdir -s $stripe_size -c $stripe_count && \
1175                 error "stripe width >= 2^32 succeeded" || true
1176
1177 }
1178 run_test 27s "lsm_xfersize overflow (should error) (bug 10725)"
1179
1180 test_27t() { # bug 10864
1181         WDIR=`pwd`
1182         WLFS=`which lfs`
1183         cd $DIR
1184         touch $tfile
1185         $WLFS getstripe $tfile
1186         cd $WDIR
1187 }
1188 run_test 27t "check that utils parse path correctly"
1189
1190 test_27u() { # bug 4900
1191         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1192         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1193
1194 #define OBD_FAIL_MDS_OSC_PRECREATE      0x139
1195         do_facet $SINGLEMDS lctl set_param fail_loc=0x139
1196         mkdir -p $DIR/$tdir
1197         createmany -o $DIR/$tdir/t- 1000
1198         do_facet $SINGLEMDS lctl set_param fail_loc=0
1199
1200         TLOG=$DIR/$tfile.getstripe
1201         $GETSTRIPE $DIR/$tdir > $TLOG
1202         OBJS=`awk -vobj=0 '($1 == 0) { obj += 1 } END { print obj;}' $TLOG`
1203         unlinkmany $DIR/$tdir/t- 1000
1204         [ $OBJS -gt 0 ] && \
1205                 error "$OBJS objects created on OST-0.  See $TLOG" || pass
1206 }
1207 run_test 27u "skip object creation on OSC w/o objects =========="
1208
1209 test_27v() { # bug 4900
1210         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1211         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1212         remote_ost_nodsh && skip "remote OST with nodsh" && return
1213
1214         exhaust_all_precreations 0x215
1215         reset_enospc
1216
1217         mkdir -p $DIR/$tdir
1218         $SETSTRIPE $DIR/$tdir -c 1         # 1 stripe / file
1219
1220         touch $DIR/$tdir/$tfile
1221         #define OBD_FAIL_TGT_DELAY_PRECREATE     0x705
1222         # all except ost1
1223         for (( i=0; i < OSTCOUNT; i++ )) ; do
1224                 do_facet ost$i lctl set_param fail_loc=0x705
1225         done
1226         local START=`date +%s`
1227         createmany -o $DIR/$tdir/$tfile 32
1228
1229         local FINISH=`date +%s`
1230         local TIMEOUT=`lctl get_param -n timeout`
1231         local PROCESS=$((FINISH - START))
1232         [ $PROCESS -ge $((TIMEOUT / 2)) ] && \
1233                error "$FINISH - $START >= $TIMEOUT / 2"
1234         sleep $((TIMEOUT / 2 - PROCESS))
1235         reset_enospc
1236 }
1237 run_test 27v "skip object creation on slow OST ================="
1238
1239 test_27w() { # bug 10997
1240         mkdir -p $DIR/$tdir || error "mkdir failed"
1241         $LSTRIPE $DIR/$tdir/f0 -s 65536 || error "lstripe failed"
1242         size=`$GETSTRIPE $DIR/$tdir/f0 -s`
1243         [ $size -ne 65536 ] && error "stripe size $size != 65536" || true
1244         gsdir=$($LFS getstripe -d $DIR/$tdir)
1245         [ $(echo $gsdir | grep -c stripe_count) -ne 1 ] && error "$LFS getstripe -d $DIR/$tdir failed"
1246
1247         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping multiple stripe count/offset test" && return
1248         for i in `seq 1 $OSTCOUNT`; do
1249                 offset=$(($i-1))
1250                 $LSTRIPE $DIR/$tdir/f$i -c $i -i $offset || error "lstripe -c $i -i $offset failed"
1251                 count=`$GETSTRIPE -c $DIR/$tdir/f$i`
1252                 index=`$GETSTRIPE -o $DIR/$tdir/f$i`
1253                 [ $count -ne $i ] && error "stripe count $count != $i" || true
1254                 [ $index -ne $offset ] && error "stripe offset $index != $offset" || true
1255         done
1256 }
1257 run_test 27w "check lfs setstripe -c -s -i options ============="
1258
1259 test_27x() {
1260         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs" && return
1261         OFFSET=$(($OSTCOUNT - 1))
1262         OSTIDX=0
1263         local OST=$(lfs osts | awk '/'${OSTIDX}': / { print $2 }' | sed -e 's/_UUID$//')
1264
1265         mkdir -p $DIR/$tdir
1266         $SETSTRIPE $DIR/$tdir -c 1      # 1 stripe per file
1267         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 1
1268         sleep_maxage
1269         createmany -o $DIR/$tdir/$tfile $OSTCOUNT
1270         for i in `seq 0 $OFFSET`; do
1271                 [ `$GETSTRIPE $DIR/$tdir/$tfile$i | grep -A 10 obdidx | awk '{print $1}' | grep -w "$OSTIDX"` ] &&
1272                 error "OST0 was degraded but new created file still use it"
1273         done
1274         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 0
1275 }
1276 run_test 27x "create files while OST0 is degraded"
1277
1278 test_27y() {
1279         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" && return
1280         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1281
1282         local mdtosc=$(get_mdtosc_proc_path $SINGLEMDS $FSNAME-OST0000)
1283         local last_id=$(do_facet $SINGLEMDS lctl get_param -n \
1284             osc.$mdtosc.prealloc_last_id)
1285         local next_id=$(do_facet $SINGLEMDS lctl get_param -n \
1286             osc.$mdtosc.prealloc_next_id)
1287         local fcount=$((last_id - next_id))
1288         [ $fcount -eq 0 ] && skip "not enough space on OST0" && return
1289         [ $fcount -gt $OSTCOUNT ] && fcount=$OSTCOUNT
1290
1291         MDS_OSCS=`do_facet $SINGLEMDS lctl dl | awk '/[oO][sS][cC].*md[ts]/ { print $4 }'`
1292         OFFSET=$(($OSTCOUNT-1))
1293         OST=-1
1294         for OSC in $MDS_OSCS; do
1295                 if [ $OST == -1 ]; then {
1296                         OST=`osc_to_ost $OSC`
1297                 } else {
1298                         echo $OSC "is Deactivate:"
1299                         do_facet $SINGLEMDS lctl --device  %$OSC deactivate
1300                 } fi
1301         done
1302
1303         OSTIDX=$(lfs osts | grep ${OST} | awk '{print $1}' | sed -e 's/://')
1304         mkdir -p $DIR/$tdir
1305         $SETSTRIPE $DIR/$tdir -c 1      # 1 stripe / file
1306
1307         do_facet ost$OSTIDX lctl set_param -n obdfilter.$OST.degraded 1
1308         sleep_maxage
1309         createmany -o $DIR/$tdir/$tfile $fcount
1310         do_facet ost$OSTIDX lctl set_param -n obdfilter.$OST.degraded 0
1311
1312         for i in `seq 0 $OFFSET`; do
1313                 [ `$GETSTRIPE $DIR/$tdir/$tfile$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "$OSTIDX"` ] || \
1314                       error "files created on deactivated OSTs instead of degraded OST"
1315         done
1316         for OSC in $MDS_OSCS; do
1317                 [ `osc_to_ost $OSC` != $OST  ] && {
1318                         echo $OSC "is activate"
1319                         do_facet $SINGLEMDS lctl --device %$OSC activate
1320                 }
1321         done
1322 }
1323 run_test 27y "create files while OST0 is degraded and the rest inactive"
1324
1325 check_seq_oid()
1326 {
1327         echo check file $1
1328         local old_ifs="$IFS"
1329         IFS=$'\t\n :'
1330         lmm=($($GETSTRIPE -v $1))
1331
1332         IFS=$'[:]'
1333         fid=($($LFS path2fid $1))
1334         IFS="$old_ifs"
1335
1336         # compare lmm_seq and lu_fid->f_seq
1337         [ ${lmm[4]} = ${fid[1]} ] || { error "SEQ mismatch"; return 1; }
1338         # compare lmm_object_id and lu_fid->oid
1339         [ ${lmm[6]} = ${fid[2]} ] || { error "OID mismatch"; return 2; }
1340
1341         echo -e "\tseq ${fid[1]}, oid ${fid[2]} ver ${fid[3]}\n\tstripe count: ${lmm[8]}"
1342
1343         [ "$FSTYPE" != "ldiskfs" ] && skip "can not check trusted.fid FSTYPE=$FSTYPE" && return 0
1344
1345         # check the trusted.fid attribute of the OST objects of the file
1346         for (( i=0, j=19; i < ${lmm[8]}; i++, j+=4 )); do
1347                 local obdidx=${lmm[$j]}
1348                 local devnum=$((obdidx + 1))
1349                 local objid=${lmm[$((j+1))]}
1350                 local group=${lmm[$((j+3))]}
1351                 local dev=$(ostdevname $devnum)
1352                 local dir=${MOUNT%/*}/ost$devnum
1353                 local mntpt=$(facet_mntpt ost$devnum)
1354
1355                 stop ost$devnum
1356                 do_facet ost$devnum mount -t $FSTYPE $dev $dir $OST_MOUNT_OPTS ||
1357                         { error "mounting $dev as $FSTYPE failed"; return 3; }
1358
1359                 obj_filename=$(do_facet ost$devnum find $dir/O/$group -name $objid)
1360                 local ff=$(do_facet ost$devnum $LL_DECODE_FILTER_FID $obj_filename)
1361                 IFS=$'/= [:]'
1362                 ff=($(echo $ff))
1363                 IFS="$old_ifs"
1364
1365                 # compare lmm_seq and filter_fid->ff_parent.f_seq
1366                 [ ${ff[11]} = ${lmm[4]} ] || { error "parent SEQ mismatch"; return 4; }
1367                 # compare lmm_object_id and filter_fid->ff_parent.f_oid
1368                 [ ${ff[12]} = ${lmm[6]} ] || { error "parent OID mismatch"; return 5; }
1369                 let stripe=${ff[13]}
1370                 [ $stripe -eq $i ] || { error "stripe mismatch"; return 6; }
1371
1372                 echo -e "\t\tost $obdidx, objid $objid, group $group"
1373                 do_facet ost$devnum umount -d $mntpt
1374                 start ost$devnum $dev $OST_MOUNT_OPTS
1375         done
1376 }
1377
1378 test_27z() {
1379         mkdir -p $DIR/$tdir
1380         $SETSTRIPE $DIR/$tdir/$tfile-1 -c 1 -o 0 -s 1m ||
1381                 { error "setstripe -c -1 failed"; return 1; }
1382         dd if=/dev/zero of=$DIR/$tdir/$tfile-1 bs=1M count=1 ||
1383                 { error "dd 1 mb failed"; return 2; }
1384         $SETSTRIPE $DIR/$tdir/$tfile-2 -c -1 -o $(($OSTCOUNT - 1)) -s 1m ||
1385                 { error "setstripe -c 1 failed"; return 3; }
1386         dd if=/dev/zero of=$DIR/$tdir/$tfile-2 bs=1M count=$OSTCOUNT ||
1387                 { error "dd $OSTCOUNT mb failed"; return 4; }
1388         sync
1389
1390         check_seq_oid $DIR/$tdir/$tfile-1 || return 5
1391         check_seq_oid $DIR/$tdir/$tfile-2 || return 6
1392 }
1393 run_test 27z "check SEQ/OID on the MDT and OST filesystems"
1394
1395 test_27A() { # b=19102
1396         local restore_size=`$GETSTRIPE -s $MOUNT`
1397         local restore_count=`$GETSTRIPE -c $MOUNT`
1398         local restore_offset=`$GETSTRIPE -o $MOUNT`
1399         $SETSTRIPE -c 0 -o -1 -s 0 $MOUNT
1400         local default_size=`$GETSTRIPE -s $MOUNT`
1401         local default_count=`$GETSTRIPE -c $MOUNT`
1402         local default_offset=`$GETSTRIPE -o $MOUNT`
1403         local dsize=$((1024 * 1024))
1404         [ $default_size -eq $dsize ] || error "stripe size $default_size != $dsize"
1405         [ $default_count -eq 1 ] || error "stripe count $default_count != 1"
1406         [ $default_offset -eq -1 ] || error "stripe offset $default_offset != -1"
1407         $SETSTRIPE -c $restore_count -o $restore_offset -s $restore_size $MOUNT
1408 }
1409 run_test 27A "check filesystem-wide default LOV EA values"
1410
1411 # createtest also checks that device nodes are created and
1412 # then visible correctly (#2091)
1413 test_28() { # bug 2091
1414         mkdir $DIR/d28
1415         $CREATETEST $DIR/d28/ct || error
1416 }
1417 run_test 28 "create/mknod/mkdir with bad file types ============"
1418
1419 test_29() {
1420         cancel_lru_locks mdc
1421         mkdir $DIR/d29
1422         touch $DIR/d29/foo
1423         log 'first d29'
1424         ls -l $DIR/d29
1425
1426         declare -i LOCKCOUNTORIG=0
1427         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1428                 let LOCKCOUNTORIG=$LOCKCOUNTORIG+$lock_count
1429         done
1430         [ $LOCKCOUNTORIG -eq 0 ] && echo "No mdc lock count" && return 1
1431
1432         declare -i LOCKUNUSEDCOUNTORIG=0
1433         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1434                 let LOCKUNUSEDCOUNTORIG=$LOCKUNUSEDCOUNTORIG+$unused_count
1435         done
1436
1437         log 'second d29'
1438         ls -l $DIR/d29
1439         log 'done'
1440
1441         declare -i LOCKCOUNTCURRENT=0
1442         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1443                 let LOCKCOUNTCURRENT=$LOCKCOUNTCURRENT+$lock_count
1444         done
1445
1446         declare -i LOCKUNUSEDCOUNTCURRENT=0
1447         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1448                 let LOCKUNUSEDCOUNTCURRENT=$LOCKUNUSEDCOUNTCURRENT+$unused_count
1449         done
1450
1451         if [ "$LOCKCOUNTCURRENT" -gt "$LOCKCOUNTORIG" ]; then
1452                 lctl set_param -n ldlm.dump_namespaces ""
1453                 error "CURRENT: $LOCKCOUNTCURRENT > $LOCKCOUNTORIG"
1454                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1455                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1456                 return 2
1457         fi
1458         if [ "$LOCKUNUSEDCOUNTCURRENT" -gt "$LOCKUNUSEDCOUNTORIG" ]; then
1459                 error "UNUSED: $LOCKUNUSEDCOUNTCURRENT > $LOCKUNUSEDCOUNTORIG"
1460                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1461                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1462                 return 3
1463         fi
1464 }
1465 run_test 29 "IT_GETATTR regression  ============================"
1466
1467 test_30a() { # was test_30
1468         cp `which ls` $DIR || cp /bin/ls $DIR
1469         $DIR/ls / || error
1470         rm $DIR/ls
1471 }
1472 run_test 30a "execute binary from Lustre (execve) =============="
1473
1474 test_30b() {
1475         cp `which ls` $DIR || cp /bin/ls $DIR
1476         chmod go+rx $DIR/ls
1477         $RUNAS $DIR/ls / || error
1478         rm $DIR/ls
1479 }
1480 run_test 30b "execute binary from Lustre as non-root ==========="
1481
1482 test_30c() { # b=22376
1483         cp `which ls` $DIR || cp /bin/ls $DIR
1484         chmod a-rw $DIR/ls
1485         cancel_lru_locks mdc
1486         cancel_lru_locks osc
1487         $RUNAS $DIR/ls / || error
1488         rm -f $DIR/ls
1489 }
1490 run_test 30c "execute binary from Lustre without read perms ===="
1491
1492 test_31a() {
1493         $OPENUNLINK $DIR/f31 $DIR/f31 || error
1494         $CHECKSTAT -a $DIR/f31 || error
1495 }
1496 run_test 31a "open-unlink file =================================="
1497
1498 test_31b() {
1499         touch $DIR/f31 || error
1500         ln $DIR/f31 $DIR/f31b || error
1501         multiop $DIR/f31b Ouc || error
1502         $CHECKSTAT -t file $DIR/f31 || error
1503 }
1504 run_test 31b "unlink file with multiple links while open ======="
1505
1506 test_31c() {
1507         touch $DIR/f31 || error
1508         ln $DIR/f31 $DIR/f31c || error
1509         multiop_bg_pause $DIR/f31 O_uc || return 1
1510         MULTIPID=$!
1511         multiop $DIR/f31c Ouc
1512         kill -USR1 $MULTIPID
1513         wait $MULTIPID
1514 }
1515 run_test 31c "open-unlink file with multiple links ============="
1516
1517 test_31d() {
1518         opendirunlink $DIR/d31d $DIR/d31d || error
1519         $CHECKSTAT -a $DIR/d31d || error
1520 }
1521 run_test 31d "remove of open directory ========================="
1522
1523 test_31e() { # bug 2904
1524         check_kernel_version 34 || return 0
1525         openfilleddirunlink $DIR/d31e || error
1526 }
1527 run_test 31e "remove of open non-empty directory ==============="
1528
1529 test_31f() { # bug 4554
1530         set -vx
1531         mkdir $DIR/d31f
1532         $SETSTRIPE $DIR/d31f -s 1048576 -c 1
1533         cp /etc/hosts $DIR/d31f
1534         ls -l $DIR/d31f
1535         $GETSTRIPE $DIR/d31f/hosts
1536         multiop_bg_pause $DIR/d31f D_c || return 1
1537         MULTIPID=$!
1538
1539         rm -rv $DIR/d31f || error "first of $DIR/d31f"
1540         mkdir $DIR/d31f
1541         $SETSTRIPE $DIR/d31f -s 1048576 -c 1
1542         cp /etc/hosts $DIR/d31f
1543         ls -l $DIR/d31f
1544         $GETSTRIPE $DIR/d31f/hosts
1545         multiop_bg_pause $DIR/d31f D_c || return 1
1546         MULTIPID2=$!
1547
1548         kill -USR1 $MULTIPID || error "first opendir $MULTIPID not running"
1549         wait $MULTIPID || error "first opendir $MULTIPID failed"
1550
1551         sleep 6
1552
1553         kill -USR1 $MULTIPID2 || error "second opendir $MULTIPID not running"
1554         wait $MULTIPID2 || error "second opendir $MULTIPID2 failed"
1555         set +vx
1556 }
1557 run_test 31f "remove of open directory with open-unlink file ==="
1558
1559 test_31g() {
1560         echo "-- cross directory link --"
1561         mkdir $DIR/d31g{a,b}
1562         touch $DIR/d31ga/f
1563         ln $DIR/d31ga/f $DIR/d31gb/g
1564         $CHECKSTAT -t file $DIR/d31ga/f || error "source"
1565         [ `stat -c%h $DIR/d31ga/f` == '2' ] || error "source nlink"
1566         $CHECKSTAT -t file $DIR/d31gb/g || error "target"
1567         [ `stat -c%h $DIR/d31gb/g` == '2' ] || error "target nlink"
1568 }
1569 run_test 31g "cross directory link==============="
1570
1571 test_31h() {
1572         echo "-- cross directory link --"
1573         mkdir $DIR/d31h
1574         mkdir $DIR/d31h/dir
1575         touch $DIR/d31h/f
1576         ln $DIR/d31h/f $DIR/d31h/dir/g
1577         $CHECKSTAT -t file $DIR/d31h/f || error "source"
1578         [ `stat -c%h $DIR/d31h/f` == '2' ] || error "source nlink"
1579         $CHECKSTAT -t file $DIR/d31h/dir/g || error "target"
1580         [ `stat -c%h $DIR/d31h/dir/g` == '2' ] || error "target nlink"
1581 }
1582 run_test 31h "cross directory link under child==============="
1583
1584 test_31i() {
1585         echo "-- cross directory link --"
1586         mkdir $DIR/d31i
1587         mkdir $DIR/d31i/dir
1588         touch $DIR/d31i/dir/f
1589         ln $DIR/d31i/dir/f $DIR/d31i/g
1590         $CHECKSTAT -t file $DIR/d31i/dir/f || error "source"
1591         [ `stat -c%h $DIR/d31i/dir/f` == '2' ] || error "source nlink"
1592         $CHECKSTAT -t file $DIR/d31i/g || error "target"
1593         [ `stat -c%h $DIR/d31i/g` == '2' ] || error "target nlink"
1594 }
1595 run_test 31i "cross directory link under parent==============="
1596
1597
1598 test_31j() {
1599         mkdir $DIR/d31j
1600         mkdir $DIR/d31j/dir1
1601         ln $DIR/d31j/dir1 $DIR/d31j/dir2 && error "ln for dir"
1602         link $DIR/d31j/dir1 $DIR/d31j/dir3 && error "link for dir"
1603         mlink $DIR/d31j/dir1 $DIR/d31j/dir4 && error "mlink for dir"
1604         mlink $DIR/d31j/dir1 $DIR/d31j/dir1 && error "mlink to the same dir"
1605         return 0
1606 }
1607 run_test 31j "link for directory==============="
1608
1609
1610 test_31k() {
1611         mkdir $DIR/d31k
1612         touch $DIR/d31k/s
1613         touch $DIR/d31k/exist
1614         mlink $DIR/d31k/s $DIR/d31k/t || error "mlink"
1615         mlink $DIR/d31k/s $DIR/d31k/exist && error "mlink to exist file"
1616         mlink $DIR/d31k/s $DIR/d31k/s && error "mlink to the same file"
1617         mlink $DIR/d31k/s $DIR/d31k && error "mlink to parent dir"
1618         mlink $DIR/d31k $DIR/d31k/s && error "mlink parent dir to target"
1619         mlink $DIR/d31k/not-exist $DIR/d31k/foo && error "mlink non-existing to new"
1620         mlink $DIR/d31k/not-exist $DIR/d31k/s && error "mlink non-existing to exist"
1621         return 0
1622 }
1623 run_test 31k "link to file: the same, non-existing, dir==============="
1624
1625 test_31m() {
1626         mkdir $DIR/d31m
1627         touch $DIR/d31m/s
1628         mkdir $DIR/d31m2
1629         touch $DIR/d31m2/exist
1630         mlink $DIR/d31m/s $DIR/d31m2/t || error "mlink"
1631         mlink $DIR/d31m/s $DIR/d31m2/exist && error "mlink to exist file"
1632         mlink $DIR/d31m/s $DIR/d31m2 && error "mlink to parent dir"
1633         mlink $DIR/d31m2 $DIR/d31m/s && error "mlink parent dir to target"
1634         mlink $DIR/d31m/not-exist $DIR/d31m2/foo && error "mlink non-existing to new"
1635         mlink $DIR/d31m/not-exist $DIR/d31m2/s && error "mlink non-existing to exist"
1636         return 0
1637 }
1638 run_test 31m "link to file: the same, non-existing, dir==============="
1639
1640 test_32a() {
1641         echo "== more mountpoints and symlinks ================="
1642         [ -e $DIR/d32a ] && rm -fr $DIR/d32a
1643         mkdir -p $DIR/d32a/ext2-mountpoint
1644         mount -t ext2 -o loop $EXT2_DEV $DIR/d32a/ext2-mountpoint || error
1645         $CHECKSTAT -t dir $DIR/d32a/ext2-mountpoint/.. || error
1646         $UMOUNT $DIR/d32a/ext2-mountpoint || error
1647 }
1648 run_test 32a "stat d32a/ext2-mountpoint/.. ====================="
1649
1650 test_32b() {
1651         [ -e $DIR/d32b ] && rm -fr $DIR/d32b
1652         mkdir -p $DIR/d32b/ext2-mountpoint
1653         mount -t ext2 -o loop $EXT2_DEV $DIR/d32b/ext2-mountpoint || error
1654         ls -al $DIR/d32b/ext2-mountpoint/.. || error
1655         $UMOUNT $DIR/d32b/ext2-mountpoint || error
1656 }
1657 run_test 32b "open d32b/ext2-mountpoint/.. ====================="
1658
1659 test_32c() {
1660         [ -e $DIR/d32c ] && rm -fr $DIR/d32c
1661         mkdir -p $DIR/d32c/ext2-mountpoint
1662         mount -t ext2 -o loop $EXT2_DEV $DIR/d32c/ext2-mountpoint || error
1663         mkdir -p $DIR/d32c/d2/test_dir
1664         $CHECKSTAT -t dir $DIR/d32c/ext2-mountpoint/../d2/test_dir || error
1665         $UMOUNT $DIR/d32c/ext2-mountpoint || error
1666 }
1667 run_test 32c "stat d32c/ext2-mountpoint/../d2/test_dir ========="
1668
1669 test_32d() {
1670         [ -e $DIR/d32d ] && rm -fr $DIR/d32d
1671         mkdir -p $DIR/d32d/ext2-mountpoint
1672         mount -t ext2 -o loop $EXT2_DEV $DIR/d32d/ext2-mountpoint || error
1673         mkdir -p $DIR/d32d/d2/test_dir
1674         ls -al $DIR/d32d/ext2-mountpoint/../d2/test_dir || error
1675         $UMOUNT $DIR/d32d/ext2-mountpoint || error
1676 }
1677 run_test 32d "open d32d/ext2-mountpoint/../d2/test_dir ========="
1678
1679 test_32e() {
1680         [ -e $DIR/d32e ] && rm -fr $DIR/d32e
1681         mkdir -p $DIR/d32e/tmp
1682         TMP_DIR=$DIR/d32e/tmp
1683         ln -s $DIR/d32e $TMP_DIR/symlink11
1684         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1685         $CHECKSTAT -t link $DIR/d32e/tmp/symlink11 || error
1686         $CHECKSTAT -t link $DIR/d32e/symlink01 || error
1687 }
1688 run_test 32e "stat d32e/symlink->tmp/symlink->lustre-subdir ===="
1689
1690 test_32f() {
1691         [ -e $DIR/d32f ] && rm -fr $DIR/d32f
1692         mkdir -p $DIR/d32f/tmp
1693         TMP_DIR=$DIR/d32f/tmp
1694         ln -s $DIR/d32f $TMP_DIR/symlink11
1695         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1696         ls $DIR/d32f/tmp/symlink11  || error
1697         ls $DIR/d32f/symlink01 || error
1698 }
1699 run_test 32f "open d32f/symlink->tmp/symlink->lustre-subdir ===="
1700
1701 test_32g() {
1702         TMP_DIR=$DIR/$tdir/tmp
1703         mkdir -p $TMP_DIR $DIR/${tdir}2
1704         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
1705         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1706         $CHECKSTAT -t link $TMP_DIR/symlink12 || error
1707         $CHECKSTAT -t link $DIR/$tdir/symlink02 || error
1708         $CHECKSTAT -t dir -f $TMP_DIR/symlink12 || error
1709         $CHECKSTAT -t dir -f $DIR/$tdir/symlink02 || error
1710 }
1711 run_test 32g "stat d32g/symlink->tmp/symlink->lustre-subdir/${tdir}2"
1712
1713 test_32h() {
1714         rm -fr $DIR/$tdir $DIR/${tdir}2
1715         TMP_DIR=$DIR/$tdir/tmp
1716         mkdir -p $TMP_DIR $DIR/${tdir}2
1717         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
1718         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1719         ls $TMP_DIR/symlink12 || error
1720         ls $DIR/$tdir/symlink02  || error
1721 }
1722 run_test 32h "open d32h/symlink->tmp/symlink->lustre-subdir/${tdir}2"
1723
1724 test_32i() {
1725         [ -e $DIR/d32i ] && rm -fr $DIR/d32i
1726         mkdir -p $DIR/d32i/ext2-mountpoint
1727         mount -t ext2 -o loop $EXT2_DEV $DIR/d32i/ext2-mountpoint || error
1728         touch $DIR/d32i/test_file
1729         $CHECKSTAT -t file $DIR/d32i/ext2-mountpoint/../test_file || error
1730         $UMOUNT $DIR/d32i/ext2-mountpoint || error
1731 }
1732 run_test 32i "stat d32i/ext2-mountpoint/../test_file ==========="
1733
1734 test_32j() {
1735         [ -e $DIR/d32j ] && rm -fr $DIR/d32j
1736         mkdir -p $DIR/d32j/ext2-mountpoint
1737         mount -t ext2 -o loop $EXT2_DEV $DIR/d32j/ext2-mountpoint || error
1738         touch $DIR/d32j/test_file
1739         cat $DIR/d32j/ext2-mountpoint/../test_file || error
1740         $UMOUNT $DIR/d32j/ext2-mountpoint || error
1741 }
1742 run_test 32j "open d32j/ext2-mountpoint/../test_file ==========="
1743
1744 test_32k() {
1745         rm -fr $DIR/d32k
1746         mkdir -p $DIR/d32k/ext2-mountpoint
1747         mount -t ext2 -o loop $EXT2_DEV $DIR/d32k/ext2-mountpoint
1748         mkdir -p $DIR/d32k/d2
1749         touch $DIR/d32k/d2/test_file || error
1750         $CHECKSTAT -t file $DIR/d32k/ext2-mountpoint/../d2/test_file || error
1751         $UMOUNT $DIR/d32k/ext2-mountpoint || error
1752 }
1753 run_test 32k "stat d32k/ext2-mountpoint/../d2/test_file ========"
1754
1755 test_32l() {
1756         rm -fr $DIR/d32l
1757         mkdir -p $DIR/d32l/ext2-mountpoint
1758         mount -t ext2 -o loop $EXT2_DEV $DIR/d32l/ext2-mountpoint || error
1759         mkdir -p $DIR/d32l/d2
1760         touch $DIR/d32l/d2/test_file
1761         cat  $DIR/d32l/ext2-mountpoint/../d2/test_file || error
1762         $UMOUNT $DIR/d32l/ext2-mountpoint || error
1763 }
1764 run_test 32l "open d32l/ext2-mountpoint/../d2/test_file ========"
1765
1766 test_32m() {
1767         rm -fr $DIR/d32m
1768         mkdir -p $DIR/d32m/tmp
1769         TMP_DIR=$DIR/d32m/tmp
1770         ln -s $DIR $TMP_DIR/symlink11
1771         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1772         $CHECKSTAT -t link $DIR/d32m/tmp/symlink11 || error
1773         $CHECKSTAT -t link $DIR/d32m/symlink01 || error
1774 }
1775 run_test 32m "stat d32m/symlink->tmp/symlink->lustre-root ======"
1776
1777 test_32n() {
1778         rm -fr $DIR/d32n
1779         mkdir -p $DIR/d32n/tmp
1780         TMP_DIR=$DIR/d32n/tmp
1781         ln -s $DIR $TMP_DIR/symlink11
1782         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1783         ls -l $DIR/d32n/tmp/symlink11  || error
1784         ls -l $DIR/d32n/symlink01 || error
1785 }
1786 run_test 32n "open d32n/symlink->tmp/symlink->lustre-root ======"
1787
1788 test_32o() {
1789         rm -fr $DIR/d32o $DIR/$tfile
1790         touch $DIR/$tfile
1791         mkdir -p $DIR/d32o/tmp
1792         TMP_DIR=$DIR/d32o/tmp
1793         ln -s $DIR/$tfile $TMP_DIR/symlink12
1794         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1795         $CHECKSTAT -t link $DIR/d32o/tmp/symlink12 || error
1796         $CHECKSTAT -t link $DIR/d32o/symlink02 || error
1797         $CHECKSTAT -t file -f $DIR/d32o/tmp/symlink12 || error
1798         $CHECKSTAT -t file -f $DIR/d32o/symlink02 || error
1799 }
1800 run_test 32o "stat d32o/symlink->tmp/symlink->lustre-root/$tfile"
1801
1802 test_32p() {
1803     log 32p_1
1804         rm -fr $DIR/d32p
1805     log 32p_2
1806         rm -f $DIR/$tfile
1807     log 32p_3
1808         touch $DIR/$tfile
1809     log 32p_4
1810         mkdir -p $DIR/d32p/tmp
1811     log 32p_5
1812         TMP_DIR=$DIR/d32p/tmp
1813     log 32p_6
1814         ln -s $DIR/$tfile $TMP_DIR/symlink12
1815     log 32p_7
1816         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1817     log 32p_8
1818         cat $DIR/d32p/tmp/symlink12 || error
1819     log 32p_9
1820         cat $DIR/d32p/symlink02 || error
1821     log 32p_10
1822 }
1823 run_test 32p "open d32p/symlink->tmp/symlink->lustre-root/$tfile"
1824
1825 test_32q() {
1826         [ -e $DIR/d32q ] && rm -fr $DIR/d32q
1827         mkdir -p $DIR/d32q
1828         touch $DIR/d32q/under_the_mount
1829         mount -t ext2 -o loop $EXT2_DEV $DIR/d32q
1830         ls $DIR/d32q/under_the_mount && error || true
1831         $UMOUNT $DIR/d32q || error
1832 }
1833 run_test 32q "stat follows mountpoints in Lustre (should return error)"
1834
1835 test_32r() {
1836         [ -e $DIR/d32r ] && rm -fr $DIR/d32r
1837         mkdir -p $DIR/d32r
1838         touch $DIR/d32r/under_the_mount
1839         mount -t ext2 -o loop $EXT2_DEV $DIR/d32r
1840         ls $DIR/d32r | grep -q under_the_mount && error || true
1841         $UMOUNT $DIR/d32r || error
1842 }
1843 run_test 32r "opendir follows mountpoints in Lustre (should return error)"
1844
1845 test_33() {
1846         rm -f $DIR/$tfile
1847         touch $DIR/$tfile
1848         chmod 444 $DIR/$tfile
1849         chown $RUNAS_ID $DIR/$tfile
1850         log 33_1
1851         $RUNAS $OPENFILE -f O_RDWR $DIR/$tfile && error || true
1852         log 33_2
1853 }
1854 run_test 33 "write file with mode 444 (should return error) ===="
1855
1856 test_33a() {
1857         rm -fr $DIR/d33
1858         mkdir -p $DIR/d33
1859         chown $RUNAS_ID $DIR/d33
1860         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33|| error "create"
1861         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33 && \
1862                 error "open RDWR" || true
1863 }
1864 run_test 33a "test open file(mode=0444) with O_RDWR (should return error)"
1865
1866 test_33b() {
1867         rm -fr $DIR/d33
1868         mkdir -p $DIR/d33
1869         chown $RUNAS_ID $DIR/d33
1870         $RUNAS $OPENFILE -f 1286739555 $DIR/d33/f33 && error "create" || true
1871 }
1872 run_test 33b "test open file with malformed flags (No panic and return error)"
1873
1874 test_33c() {
1875         local ostnum
1876         local ostname
1877         local write_bytes
1878         local all_zeros
1879
1880         all_zeros=:
1881         rm -fr $DIR/d33
1882         mkdir -p $DIR/d33
1883         # Read: 0, Write: 4, create/destroy: 2/0, stat: 1, punch: 0
1884
1885         sync
1886         for ostnum in $(seq $OSTCOUNT); do
1887                 # test-framework's OST numbering is one-based, while Lustre's
1888                 # is zero-based
1889                 ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
1890                 # Parsing llobdstat's output sucks; we could grep the /proc
1891                 # path, but that's likely to not be as portable as using the
1892                 # llobdstat utility.  So we parse lctl output instead.
1893                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
1894                         obdfilter/$ostname/stats |
1895                         awk '/^write_bytes/ {print $7}' )
1896                 echo "baseline_write_bytes@$OSTnum/$ostname=$write_bytes"
1897                 if (( ${write_bytes:-0} > 0 ))
1898                 then
1899                         all_zeros=false
1900                         break;
1901                 fi
1902         done
1903
1904         $all_zeros || return 0
1905
1906         # Write four bytes
1907         echo foo > $DIR/d33/bar
1908         # Really write them
1909         sync
1910
1911         # Total up write_bytes after writing.  We'd better find non-zeros.
1912         for ostnum in $(seq $OSTCOUNT); do
1913                 ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
1914                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
1915                         obdfilter/$ostname/stats |
1916                         awk '/^write_bytes/ {print $7}' )
1917                 echo "write_bytes@$OSTnum/$ostname=$write_bytes"
1918                 if (( ${write_bytes:-0} > 0 ))
1919                 then
1920                         all_zeros=false
1921                         break;
1922                 fi
1923         done
1924
1925         if $all_zeros
1926         then
1927                 for ostnum in $(seq $OSTCOUNT); do
1928                         ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
1929                         echo "Check that write_bytes is present in obdfilter/*/stats:"
1930                         do_facet ost$ostnum lctl get_param -n \
1931                                 obdfilter/$ostname/stats
1932                 done
1933                 error "OST not keeping write_bytes stats (b22312)"
1934         fi
1935 }
1936 run_test 33c "test llobdstat and write_bytes"
1937
1938 TEST_34_SIZE=${TEST_34_SIZE:-2000000000000}
1939 test_34a() {
1940         rm -f $DIR/f34
1941         $MCREATE $DIR/f34 || error
1942         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
1943         $TRUNCATE $DIR/f34 $TEST_34_SIZE || error
1944         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
1945         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
1946 }
1947 run_test 34a "truncate file that has not been opened ==========="
1948
1949 test_34b() {
1950         [ ! -f $DIR/f34 ] && test_34a
1951         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
1952         $OPENFILE -f O_RDONLY $DIR/f34
1953         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
1954         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
1955 }
1956 run_test 34b "O_RDONLY opening file doesn't create objects ====="
1957
1958 test_34c() {
1959         [ ! -f $DIR/f34 ] && test_34a
1960         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
1961         $OPENFILE -f O_RDWR $DIR/f34
1962         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" && error
1963         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
1964 }
1965 run_test 34c "O_RDWR opening file-with-size works =============="
1966
1967 test_34d() {
1968         [ ! -f $DIR/f34 ] && test_34a
1969         dd if=/dev/zero of=$DIR/f34 conv=notrunc bs=4k count=1 || error
1970         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
1971         rm $DIR/f34
1972 }
1973 run_test 34d "write to sparse file ============================="
1974
1975 test_34e() {
1976         rm -f $DIR/f34e
1977         $MCREATE $DIR/f34e || error
1978         $TRUNCATE $DIR/f34e 1000 || error
1979         $CHECKSTAT -s 1000 $DIR/f34e || error
1980         $OPENFILE -f O_RDWR $DIR/f34e
1981         $CHECKSTAT -s 1000 $DIR/f34e || error
1982 }
1983 run_test 34e "create objects, some with size and some without =="
1984
1985 test_34f() { # bug 6242, 6243
1986         SIZE34F=48000
1987         rm -f $DIR/f34f
1988         $MCREATE $DIR/f34f || error
1989         $TRUNCATE $DIR/f34f $SIZE34F || error "truncating $DIR/f3f to $SIZE34F"
1990         dd if=$DIR/f34f of=$TMP/f34f
1991         $CHECKSTAT -s $SIZE34F $TMP/f34f || error "$TMP/f34f not $SIZE34F bytes"
1992         dd if=/dev/zero of=$TMP/f34fzero bs=$SIZE34F count=1
1993         cmp $DIR/f34f $TMP/f34fzero || error "$DIR/f34f not all zero"
1994         cmp $TMP/f34f $TMP/f34fzero || error "$TMP/f34f not all zero"
1995         rm $TMP/f34f $TMP/f34fzero $DIR/f34f
1996 }
1997 run_test 34f "read from a file with no objects until EOF ======="
1998
1999 test_34g() {
2000         dd if=/dev/zero of=$DIR/$tfile bs=1 count=100 seek=$TEST_34_SIZE || error
2001         $TRUNCATE $DIR/$tfile $((TEST_34_SIZE / 2))|| error
2002         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || error "truncate failed"
2003         cancel_lru_locks osc
2004         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || \
2005                 error "wrong size after lock cancel"
2006
2007         $TRUNCATE $DIR/$tfile $TEST_34_SIZE || error
2008         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2009                 error "expanding truncate failed"
2010         cancel_lru_locks osc
2011         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2012                 error "wrong expanded size after lock cancel"
2013 }
2014 run_test 34g "truncate long file ==============================="
2015
2016 test_35a() {
2017         cp /bin/sh $DIR/f35a
2018         chmod 444 $DIR/f35a
2019         chown $RUNAS_ID $DIR/f35a
2020         $RUNAS $DIR/f35a && error || true
2021         rm $DIR/f35a
2022 }
2023 run_test 35a "exec file with mode 444 (should return and not leak) ====="
2024
2025 test_36a() {
2026         rm -f $DIR/f36
2027         utime $DIR/f36 || error
2028 }
2029 run_test 36a "MDS utime check (mknod, utime) ==================="
2030
2031 test_36b() {
2032         echo "" > $DIR/f36
2033         utime $DIR/f36 || error
2034 }
2035 run_test 36b "OST utime check (open, utime) ===================="
2036
2037 test_36c() {
2038         rm -f $DIR/d36/f36
2039         mkdir $DIR/d36
2040         chown $RUNAS_ID $DIR/d36
2041         $RUNAS utime $DIR/d36/f36 || error
2042 }
2043 run_test 36c "non-root MDS utime check (mknod, utime) =========="
2044
2045 test_36d() {
2046         [ ! -d $DIR/d36 ] && test_36c
2047         echo "" > $DIR/d36/f36
2048         $RUNAS utime $DIR/d36/f36 || error
2049 }
2050 run_test 36d "non-root OST utime check (open, utime) ==========="
2051
2052 test_36e() {
2053         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
2054         mkdir -p $DIR/$tdir
2055         touch $DIR/$tdir/$tfile
2056         $RUNAS utime $DIR/$tdir/$tfile && \
2057                 error "utime worked, expected failure" || true
2058 }
2059 run_test 36e "utime on non-owned file (should return error) ===="
2060
2061 subr_36fh() {
2062         local fl="$1"
2063         local LANG_SAVE=$LANG
2064         local LC_LANG_SAVE=$LC_LANG
2065         export LANG=C LC_LANG=C # for date language
2066
2067         DATESTR="Dec 20  2000"
2068         mkdir -p $DIR/$tdir
2069         lctl set_param fail_loc=$fl
2070         date; date +%s
2071         cp /etc/hosts $DIR/$tdir/$tfile
2072         sync & # write RPC generated with "current" inode timestamp, but delayed
2073         sleep 1
2074         touch --date="$DATESTR" $DIR/$tdir/$tfile # setattr timestamp in past
2075         LS_BEFORE="`ls -l $DIR/$tdir/$tfile`" # old timestamp from client cache
2076         cancel_lru_locks osc
2077         LS_AFTER="`ls -l $DIR/$tdir/$tfile`"  # timestamp from OST object
2078         date; date +%s
2079         [ "$LS_BEFORE" != "$LS_AFTER" ] && \
2080                 echo "BEFORE: $LS_BEFORE" && \
2081                 echo "AFTER : $LS_AFTER" && \
2082                 echo "WANT  : $DATESTR" && \
2083                 error "$DIR/$tdir/$tfile timestamps changed" || true
2084
2085         export LANG=$LANG_SAVE LC_LANG=$LC_LANG_SAVE
2086 }
2087
2088 test_36f() {
2089         #define OBD_FAIL_OST_BRW_PAUSE_BULK 0x214
2090         subr_36fh "0x80000214"
2091 }
2092 run_test 36f "utime on file racing with OST BRW write =========="
2093
2094 test_36g() {
2095         remote_ost_nodsh && skip "remote OST with nodsh" && return
2096         local fmd_max_age
2097         local fmd_before
2098         local fmd_after
2099
2100         mkdir -p $DIR/$tdir
2101         fmd_max_age=$(do_facet ost1 \
2102                 "lctl get_param -n obdfilter.*.client_cache_seconds 2> /dev/null | \
2103                 head -n 1")
2104
2105         fmd_before=$(do_facet ost1 \
2106                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2107         touch $DIR/$tdir/$tfile
2108         sleep $((fmd_max_age + 12))
2109         fmd_after=$(do_facet ost1 \
2110                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2111
2112         echo "fmd_before: $fmd_before"
2113         echo "fmd_after: $fmd_after"
2114         [ "$fmd_after" -gt "$fmd_before" ] && \
2115                 echo "AFTER: $fmd_after > BEFORE: $fmd_before" && \
2116                 error "fmd didn't expire after ping" || true
2117 }
2118 run_test 36g "filter mod data cache expiry ====================="
2119
2120 test_36h() {
2121         #define OBD_FAIL_OST_BRW_PAUSE_BULK2 0x227
2122         subr_36fh "0x80000227"
2123 }
2124 run_test 36h "utime on file racing with OST BRW write =========="
2125
2126 test_37() {
2127         mkdir -p $DIR/$tdir
2128         echo f > $DIR/$tdir/fbugfile
2129         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir
2130         ls $DIR/$tdir | grep "\<fbugfile\>" && error
2131         $UMOUNT $DIR/$tdir || error
2132         rm -f $DIR/$tdir/fbugfile || error
2133 }
2134 run_test 37 "ls a mounted file system to check old content ====="
2135
2136 test_38() {
2137         local file=$DIR/$tfile
2138         touch $file
2139         openfile -f O_DIRECTORY $file
2140         local RC=$?
2141         local ENOTDIR=20
2142         [ $RC -eq 0 ] && error "opened file $file with O_DIRECTORY" || true
2143         [ $RC -eq $ENOTDIR ] || error "error $RC should be ENOTDIR ($ENOTDIR)"
2144 }
2145 run_test 38 "open a regular file with O_DIRECTORY should return -ENOTDIR ==="
2146
2147 test_39() {
2148         touch $DIR/$tfile
2149         touch $DIR/${tfile}2
2150 #       ls -l  $DIR/$tfile $DIR/${tfile}2
2151 #       ls -lu  $DIR/$tfile $DIR/${tfile}2
2152 #       ls -lc  $DIR/$tfile $DIR/${tfile}2
2153         sleep 2
2154         $OPENFILE -f O_CREAT:O_TRUNC:O_WRONLY $DIR/${tfile}2
2155         if [ ! $DIR/${tfile}2 -nt $DIR/$tfile ]; then
2156                 echo "mtime"
2157                 ls -l --full-time $DIR/$tfile $DIR/${tfile}2
2158                 echo "atime"
2159                 ls -lu --full-time $DIR/$tfile $DIR/${tfile}2
2160                 echo "ctime"
2161                 ls -lc --full-time $DIR/$tfile $DIR/${tfile}2
2162                 error "O_TRUNC didn't change timestamps"
2163         fi
2164 }
2165 run_test 39 "mtime changed on create ==========================="
2166
2167 test_39b() {
2168         mkdir -p $DIR/$tdir
2169         cp -p /etc/passwd $DIR/$tdir/fopen
2170         cp -p /etc/passwd $DIR/$tdir/flink
2171         cp -p /etc/passwd $DIR/$tdir/funlink
2172         cp -p /etc/passwd $DIR/$tdir/frename
2173         ln $DIR/$tdir/funlink $DIR/$tdir/funlink2
2174
2175         sleep 1
2176         echo "aaaaaa" >> $DIR/$tdir/fopen
2177         echo "aaaaaa" >> $DIR/$tdir/flink
2178         echo "aaaaaa" >> $DIR/$tdir/funlink
2179         echo "aaaaaa" >> $DIR/$tdir/frename
2180
2181         local open_new=`stat -c %Y $DIR/$tdir/fopen`
2182         local link_new=`stat -c %Y $DIR/$tdir/flink`
2183         local unlink_new=`stat -c %Y $DIR/$tdir/funlink`
2184         local rename_new=`stat -c %Y $DIR/$tdir/frename`
2185
2186         cat $DIR/$tdir/fopen > /dev/null
2187         ln $DIR/$tdir/flink $DIR/$tdir/flink2
2188         rm -f $DIR/$tdir/funlink2
2189         mv -f $DIR/$tdir/frename $DIR/$tdir/frename2
2190
2191         for (( i=0; i < 2; i++ )) ; do
2192                 local open_new2=`stat -c %Y $DIR/$tdir/fopen`
2193                 local link_new2=`stat -c %Y $DIR/$tdir/flink`
2194                 local unlink_new2=`stat -c %Y $DIR/$tdir/funlink`
2195                 local rename_new2=`stat -c %Y $DIR/$tdir/frename2`
2196
2197                 [ $open_new2 -eq $open_new ] || error "open file reverses mtime"
2198                 [ $link_new2 -eq $link_new ] || error "link file reverses mtime"
2199                 [ $unlink_new2 -eq $unlink_new ] || error "unlink file reverses mtime"
2200                 [ $rename_new2 -eq $rename_new ] || error "rename file reverses mtime"
2201
2202                 cancel_lru_locks osc
2203                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2204         done
2205 }
2206 run_test 39b "mtime change on open, link, unlink, rename  ======"
2207
2208 # this should be set to past
2209 TEST_39_MTIME=`date -d "1 year ago" +%s`
2210
2211 # bug 11063
2212 test_39c() {
2213         touch $DIR1/$tfile
2214         sleep 2
2215         local mtime0=`stat -c %Y $DIR1/$tfile`
2216
2217         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2218         local mtime1=`stat -c %Y $DIR1/$tfile`
2219         [ "$mtime1" = $TEST_39_MTIME ] || \
2220                 error "mtime is not set to past: $mtime1, should be $TEST_39_MTIME"
2221
2222         local d1=`date +%s`
2223         echo hello >> $DIR1/$tfile
2224         local d2=`date +%s`
2225         local mtime2=`stat -c %Y $DIR1/$tfile`
2226         [ "$mtime2" -ge "$d1" ] && [ "$mtime2" -le "$d2" ] || \
2227                 error "mtime is not updated on write: $d1 <= $mtime2 <= $d2"
2228
2229         mv $DIR1/$tfile $DIR1/$tfile-1
2230
2231         for (( i=0; i < 2; i++ )) ; do
2232                 local mtime3=`stat -c %Y $DIR1/$tfile-1`
2233                 [ "$mtime2" = "$mtime3" ] || \
2234                         error "mtime ($mtime2) changed (to $mtime3) on rename"
2235
2236                 cancel_lru_locks osc
2237                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2238         done
2239 }
2240 run_test 39c "mtime change on rename ==========================="
2241
2242 # bug 21114
2243 test_39d() {
2244         touch $DIR1/$tfile
2245
2246         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2247
2248         for (( i=0; i < 2; i++ )) ; do
2249                 local mtime=`stat -c %Y $DIR1/$tfile`
2250                 [ $mtime = $TEST_39_MTIME ] || \
2251                         error "mtime($mtime) is not set to $TEST_39_MTIME"
2252
2253                 cancel_lru_locks osc
2254                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2255         done
2256 }
2257 run_test 39d "create, utime, stat =============================="
2258
2259 # bug 21114
2260 test_39e() {
2261         touch $DIR1/$tfile
2262         local mtime1=`stat -c %Y $DIR1/$tfile`
2263
2264         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2265
2266         for (( i=0; i < 2; i++ )) ; do
2267                 local mtime2=`stat -c %Y $DIR1/$tfile`
2268                 [ $mtime2 = $TEST_39_MTIME ] || \
2269                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2270
2271                 cancel_lru_locks osc
2272                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2273         done
2274 }
2275 run_test 39e "create, stat, utime, stat ========================"
2276
2277 # bug 21114
2278 test_39f() {
2279         touch $DIR1/$tfile
2280         mtime1=`stat -c %Y $DIR1/$tfile`
2281
2282         sleep 2
2283         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2284
2285         for (( i=0; i < 2; i++ )) ; do
2286                 local mtime2=`stat -c %Y $DIR1/$tfile`
2287                 [ $mtime2 = $TEST_39_MTIME ] || \
2288                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2289
2290                 cancel_lru_locks osc
2291                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2292         done
2293 }
2294 run_test 39f "create, stat, sleep, utime, stat ================="
2295
2296 # bug 11063
2297 test_39g() {
2298         echo hello >> $DIR1/$tfile
2299         local mtime1=`stat -c %Y $DIR1/$tfile`
2300
2301         sleep 2
2302         chmod o+r $DIR1/$tfile
2303
2304         for (( i=0; i < 2; i++ )) ; do
2305                 local mtime2=`stat -c %Y $DIR1/$tfile`
2306                 [ "$mtime1" = "$mtime2" ] || \
2307                         error "lost mtime: $mtime2, should be $mtime1"
2308
2309                 cancel_lru_locks osc
2310                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2311         done
2312 }
2313 run_test 39g "write, chmod, stat ==============================="
2314
2315 # bug 11063
2316 test_39h() {
2317         touch $DIR1/$tfile
2318         sleep 1
2319
2320         local d1=`date`
2321         echo hello >> $DIR1/$tfile
2322         local mtime1=`stat -c %Y $DIR1/$tfile`
2323
2324         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2325         local d2=`date`
2326         if [ "$d1" != "$d2" ]; then
2327                 echo "write and touch not within one second"
2328         else
2329                 for (( i=0; i < 2; i++ )) ; do
2330                         local mtime2=`stat -c %Y $DIR1/$tfile`
2331                         [ "$mtime2" = $TEST_39_MTIME ] || \
2332                                 error "lost mtime: $mtime2, should be $TEST_39_MTIME"
2333
2334                         cancel_lru_locks osc
2335                         if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2336                 done
2337         fi
2338 }
2339 run_test 39h "write, utime within one second, stat ============="
2340
2341 test_39i() {
2342         touch $DIR1/$tfile
2343         sleep 1
2344
2345         echo hello >> $DIR1/$tfile
2346         local mtime1=`stat -c %Y $DIR1/$tfile`
2347
2348         mv $DIR1/$tfile $DIR1/$tfile-1
2349
2350         for (( i=0; i < 2; i++ )) ; do
2351                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2352
2353                 [ "$mtime1" = "$mtime2" ] || \
2354                         error "lost mtime: $mtime2, should be $mtime1"
2355
2356                 cancel_lru_locks osc
2357                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2358         done
2359 }
2360 run_test 39i "write, rename, stat =============================="
2361
2362 test_39j() {
2363         touch $DIR1/$tfile
2364         sleep 1
2365
2366         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c || error "multiop failed"
2367         local multipid=$!
2368         local mtime1=`stat -c %Y $DIR1/$tfile`
2369
2370         mv $DIR1/$tfile $DIR1/$tfile-1
2371
2372         kill -USR1 $multipid
2373         wait $multipid || error "multiop close failed"
2374
2375         for (( i=0; i < 2; i++ )) ; do
2376                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2377                 [ "$mtime1" = "$mtime2" ] || \
2378                         error "mtime is lost on close: $mtime2, should be $mtime1"
2379
2380                 cancel_lru_locks osc
2381                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2382         done
2383 }
2384 run_test 39j "write, rename, close, stat ======================="
2385
2386 test_39k() {
2387         touch $DIR1/$tfile
2388         sleep 1
2389
2390         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c || error "multiop failed"
2391         local multipid=$!
2392         local mtime1=`stat -c %Y $DIR1/$tfile`
2393
2394         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2395
2396         kill -USR1 $multipid
2397         wait $multipid || error "multiop close failed"
2398
2399         for (( i=0; i < 2; i++ )) ; do
2400                 local mtime2=`stat -c %Y $DIR1/$tfile`
2401
2402                 [ "$mtime2" = $TEST_39_MTIME ] || \
2403                         error "mtime is lost on close: $mtime2, should be $TEST_39_MTIME"
2404
2405                 cancel_lru_locks osc
2406                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2407         done
2408 }
2409 run_test 39k "write, utime, close, stat ========================"
2410
2411 # this should be set to future
2412 TEST_39_ATIME=`date -d "1 year" +%s`
2413
2414 test_39l() {
2415         local atime_diff=$(do_facet $SINGLEMDS lctl get_param -n mdd.*.atime_diff)
2416
2417         mkdir -p $DIR/$tdir
2418
2419         # test setting directory atime to future
2420         touch -a -d @$TEST_39_ATIME $DIR/$tdir
2421         local atime=$(stat -c %X $DIR/$tdir)
2422         [ "$atime" = $TEST_39_ATIME ] || \
2423                 error "atime is not set to future: $atime, should be $TEST_39_ATIME"
2424
2425         # test setting directory atime from future to now
2426         local d1=$(date +%s)
2427         ls $DIR/$tdir
2428         local d2=$(date +%s)
2429
2430         cancel_lru_locks mdc
2431         atime=$(stat -c %X $DIR/$tdir)
2432         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2433                 error "atime is not updated from future: $atime, should be $d1<atime<$d2"
2434
2435         do_facet $SINGLEMDS lctl set_param -n mdd.*.atime_diff=2
2436         sleep 3
2437
2438         # test setting directory atime when now > dir atime + atime_diff
2439         d1=$(date +%s)
2440         ls $DIR/$tdir
2441         d2=$(date +%s)
2442         cancel_lru_locks mdc
2443         atime=$(stat -c %X $DIR/$tdir)
2444         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2445                 error "atime is not updated  : $atime, should be $d2"
2446
2447         do_facet $SINGLEMDS lctl set_param -n mdd.*.atime_diff=60
2448         sleep 3
2449
2450         # test not setting directory atime when now < dir atime + atime_diff
2451         ls $DIR/$tdir
2452         cancel_lru_locks mdc
2453         atime=$(stat -c %X $DIR/$tdir)
2454         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2455                 error "atime is updated to $atime, should remain $d1<atime<$d2"
2456
2457         do_facet $SINGLEMDS lctl set_param -n mdd.*.atime_diff=$atime_diff
2458 }
2459 run_test 39l "directory atime update ==========================="
2460
2461 test_39m() {
2462         touch $DIR1/$tfile
2463         sleep 2
2464         local far_past_mtime=$(date -d "May 29 1953" +%s)
2465         local far_past_atime=$(date -d "Dec 17 1903" +%s)
2466
2467         touch -m -d @$far_past_mtime $DIR1/$tfile
2468         touch -a -d @$far_past_atime $DIR1/$tfile
2469
2470         for (( i=0; i < 2; i++ )) ; do
2471                 local timestamps=$(stat -c "%X %Y" $DIR1/$tfile)
2472                 [ "$timestamps" = "$far_past_atime $far_past_mtime" ] || \
2473                         error "atime or mtime set incorrectly"
2474
2475                 cancel_lru_locks osc
2476                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2477         done
2478 }
2479 run_test 39m "test atime and mtime before 1970"
2480
2481 test_40() {
2482         dd if=/dev/zero of=$DIR/f40 bs=4096 count=1
2483         $RUNAS $OPENFILE -f O_WRONLY:O_TRUNC $DIR/f40 && error
2484         $CHECKSTAT -t file -s 4096 $DIR/f40 || error
2485 }
2486 run_test 40 "failed open(O_TRUNC) doesn't truncate ============="
2487
2488 test_41() {
2489         # bug 1553
2490         small_write $DIR/f41 18
2491 }
2492 run_test 41 "test small file write + fstat ====================="
2493
2494 count_ost_writes() {
2495         lctl get_param -n osc.*.stats |
2496             awk -vwrites=0 '/ost_write/ { writes += $2 } END { print writes; }'
2497 }
2498
2499 # decent default
2500 WRITEBACK_SAVE=500
2501 DIRTY_RATIO_SAVE=40
2502 MAX_DIRTY_RATIO=50
2503 BG_DIRTY_RATIO_SAVE=10
2504 MAX_BG_DIRTY_RATIO=25
2505
2506 start_writeback() {
2507         trap 0
2508         # in 2.6, restore /proc/sys/vm/dirty_writeback_centisecs,
2509         # dirty_ratio, dirty_background_ratio
2510         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
2511                 sysctl -w vm.dirty_writeback_centisecs=$WRITEBACK_SAVE
2512                 sysctl -w vm.dirty_background_ratio=$BG_DIRTY_RATIO_SAVE
2513                 sysctl -w vm.dirty_ratio=$DIRTY_RATIO_SAVE
2514         else
2515                 # if file not here, we are a 2.4 kernel
2516                 kill -CONT `pidof kupdated`
2517         fi
2518 }
2519
2520 stop_writeback() {
2521         # setup the trap first, so someone cannot exit the test at the
2522         # exact wrong time and mess up a machine
2523         trap start_writeback EXIT
2524         # in 2.6, save and 0 /proc/sys/vm/dirty_writeback_centisecs
2525         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
2526                 WRITEBACK_SAVE=`sysctl -n vm.dirty_writeback_centisecs`
2527                 sysctl -w vm.dirty_writeback_centisecs=0
2528                 sysctl -w vm.dirty_writeback_centisecs=0
2529                 # save and increase /proc/sys/vm/dirty_ratio
2530                 DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_ratio`
2531                 sysctl -w vm.dirty_ratio=$MAX_DIRTY_RATIO
2532                 # save and increase /proc/sys/vm/dirty_background_ratio
2533                 BG_DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_background_ratio`
2534                 sysctl -w vm.dirty_background_ratio=$MAX_BG_DIRTY_RATIO
2535         else
2536                 # if file not here, we are a 2.4 kernel
2537                 kill -STOP `pidof kupdated`
2538         fi
2539 }
2540
2541 # ensure that all stripes have some grant before we test client-side cache
2542 setup_test42() {
2543         for i in `seq -f $DIR/f42-%g 1 $OSTCOUNT`; do
2544                 dd if=/dev/zero of=$i bs=4k count=1
2545                 rm $i
2546         done
2547 }
2548
2549 # Tests 42* verify that our behaviour is correct WRT caching, file closure,
2550 # file truncation, and file removal.
2551 test_42a() {
2552         setup_test42
2553         cancel_lru_locks osc
2554         stop_writeback
2555         sync; sleep 1; sync # just to be safe
2556         BEFOREWRITES=`count_ost_writes`
2557         lctl get_param -n osc.*[oO][sS][cC][_-]*.cur_grant_bytes | grep "[0-9]"
2558         dd if=/dev/zero of=$DIR/f42a bs=1024 count=100
2559         AFTERWRITES=`count_ost_writes`
2560         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
2561                 error "$BEFOREWRITES < $AFTERWRITES"
2562         start_writeback
2563 }
2564 run_test 42a "ensure that we don't flush on close =============="
2565
2566 test_42b() {
2567         setup_test42
2568         cancel_lru_locks osc
2569         stop_writeback
2570         sync
2571         dd if=/dev/zero of=$DIR/f42b bs=1024 count=100
2572         BEFOREWRITES=`count_ost_writes`
2573         $MUNLINK $DIR/f42b || error "$MUNLINK $DIR/f42b: $?"
2574         AFTERWRITES=`count_ost_writes`
2575         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
2576                 error "$BEFOREWRITES < $AFTERWRITES on unlink"
2577         fi
2578         BEFOREWRITES=`count_ost_writes`
2579         sync || error "sync: $?"
2580         AFTERWRITES=`count_ost_writes`
2581         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
2582                 error "$BEFOREWRITES < $AFTERWRITES on sync"
2583         fi
2584         dmesg | grep 'error from obd_brw_async' && error 'error writing back'
2585         start_writeback
2586         return 0
2587 }
2588 run_test 42b "test destroy of file with cached dirty data ======"
2589
2590 # if these tests just want to test the effect of truncation,
2591 # they have to be very careful.  consider:
2592 # - the first open gets a {0,EOF}PR lock
2593 # - the first write conflicts and gets a {0, count-1}PW
2594 # - the rest of the writes are under {count,EOF}PW
2595 # - the open for truncate tries to match a {0,EOF}PR
2596 #   for the filesize and cancels the PWs.
2597 # any number of fixes (don't get {0,EOF} on open, match
2598 # composite locks, do smarter file size management) fix
2599 # this, but for now we want these tests to verify that
2600 # the cancellation with truncate intent works, so we
2601 # start the file with a full-file pw lock to match against
2602 # until the truncate.
2603 trunc_test() {
2604         test=$1
2605         file=$DIR/$test
2606         offset=$2
2607         cancel_lru_locks osc
2608         stop_writeback
2609         # prime the file with 0,EOF PW to match
2610         touch $file
2611         $TRUNCATE $file 0
2612         sync; sync
2613         # now the real test..
2614         dd if=/dev/zero of=$file bs=1024 count=100
2615         BEFOREWRITES=`count_ost_writes`
2616         $TRUNCATE $file $offset
2617         cancel_lru_locks osc
2618         AFTERWRITES=`count_ost_writes`
2619         start_writeback
2620 }
2621
2622 test_42c() {
2623         trunc_test 42c 1024
2624         [ $BEFOREWRITES -eq $AFTERWRITES ] && \
2625             error "beforewrites $BEFOREWRITES == afterwrites $AFTERWRITES on truncate"
2626         rm $file
2627 }
2628 run_test 42c "test partial truncate of file with cached dirty data"
2629
2630 test_42d() {
2631         trunc_test 42d 0
2632         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
2633             error "beforewrites $BEFOREWRITES != afterwrites $AFTERWRITES on truncate"
2634         rm $file
2635 }
2636 run_test 42d "test complete truncate of file with cached dirty data"
2637
2638 test_42e() { # bug22074
2639         local TDIR=$DIR/${tdir}e
2640         local pagesz=$(page_size)
2641         local pages=16
2642         local files=$((OSTCOUNT * 500)) # hopefully 500 files on each OST
2643         local proc_osc0="osc.${FSNAME}-OST0000-osc-[^MDT]*"
2644         local max_dirty_mb
2645         local warmup_files
2646
2647         mkdir -p $TDIR
2648         $LFS setstripe -c 1 $TDIR
2649         createmany -o $TDIR/f $files
2650
2651         max_dirty_mb=$($LCTL get_param -n $proc_osc0/max_dirty_mb)
2652
2653         # we assume that with $OSTCOUNT files, at least one of them will
2654         # be allocated on OST0.
2655         warmup_files=$((OSTCOUNT * max_dirty_mb))
2656         createmany -o $TDIR/w $warmup_files
2657
2658         # write a large amount of data into one file and sync, to get good
2659         # avail_grant number from OST.
2660         for ((i=0; i<$warmup_files; i++)); do
2661                 idx=$($LFS getstripe -i $TDIR/w$i)
2662                 [ $idx -ne 0 ] && continue
2663                 dd if=/dev/zero of=$TDIR/w$i bs="$max_dirty_mb"M count=1
2664                 break
2665         done
2666         [ $i -gt $warmup_files ] && error "OST0 is still cold"
2667         sync
2668         $LCTL get_param $proc_osc0/cur_dirty_bytes
2669         $LCTL get_param $proc_osc0/cur_grant_bytes
2670
2671         # create as much dirty pages as we can while not to trigger the actual
2672         # RPCs directly. but depends on the env, VFS may trigger flush during this
2673         # period, hopefully we are good.
2674         for ((i=0; i<$warmup_files; i++)); do
2675                 idx=$($LFS getstripe -i $TDIR/w$i)
2676                 [ $idx -ne 0 ] && continue
2677                 dd if=/dev/zero of=$TDIR/w$i bs=1M count=1 2>/dev/null
2678         done
2679         $LCTL get_param $proc_osc0/cur_dirty_bytes
2680         $LCTL get_param $proc_osc0/cur_grant_bytes
2681
2682         # perform the real test
2683         $LCTL set_param $proc_osc0/rpc_stats 0
2684         for ((;i<$files; i++)); do
2685                 [ $($LFS getstripe -i $TDIR/f$i) -eq 0 ] || continue
2686                 dd if=/dev/zero of=$TDIR/f$i bs=$pagesz count=$pages 2>/dev/null
2687         done
2688         sync
2689         $LCTL get_param $proc_osc0/rpc_stats
2690
2691         $LCTL get_param $proc_osc0/rpc_stats |
2692                 while read PPR RRPC RPCT RCUM BAR WRPC WPCT WCUM; do
2693                         [ "$PPR" != "16:" ] && continue
2694                         [ $WPCT -lt 85 ] && error "$pages-page write RPCs only $WPCT% < 85%"
2695                         break # we only want the "pages per rpc" stat
2696                 done
2697         rm -rf $TDIR
2698 }
2699 run_test 42e "verify sub-RPC writes are not done synchronously"
2700
2701 test_43() {
2702         mkdir -p $DIR/$tdir
2703         cp -p /bin/ls $DIR/$tdir/$tfile
2704         multiop $DIR/$tdir/$tfile Ow_c &
2705         pid=$!
2706         # give multiop a chance to open
2707         sleep 1
2708
2709         $DIR/$tdir/$tfile && error || true
2710         kill -USR1 $pid
2711 }
2712 run_test 43 "execution of file opened for write should return -ETXTBSY"
2713
2714 test_43a() {
2715         mkdir -p $DIR/d43
2716         cp -p `which multiop` $DIR/d43/multiop || cp -p multiop $DIR/d43/multiop
2717         MULTIOP_PROG=$DIR/d43/multiop multiop_bg_pause $TMP/test43.junk O_c || return 1
2718         MULTIOP_PID=$!
2719         multiop $DIR/d43/multiop Oc && error "expected error, got success"
2720         kill -USR1 $MULTIOP_PID || return 2
2721         wait $MULTIOP_PID || return 3
2722         rm $TMP/test43.junk
2723 }
2724 run_test 43a "open(RDWR) of file being executed should return -ETXTBSY"
2725
2726 test_43b() {
2727         mkdir -p $DIR/d43
2728         cp -p `which multiop` $DIR/d43/multiop || cp -p multiop $DIR/d43/multiop
2729         MULTIOP_PROG=$DIR/d43/multiop multiop_bg_pause $TMP/test43.junk O_c || return 1
2730         MULTIOP_PID=$!
2731         $TRUNCATE $DIR/d43/multiop 0 && error "expected error, got success"
2732         kill -USR1 $MULTIOP_PID || return 2
2733         wait $MULTIOP_PID || return 3
2734         rm $TMP/test43.junk
2735 }
2736 run_test 43b "truncate of file being executed should return -ETXTBSY"
2737
2738 test_43c() {
2739         local testdir="$DIR/d43c"
2740         mkdir -p $testdir
2741         cp $SHELL $testdir/
2742         ( cd $(dirname $SHELL) && md5sum $(basename $SHELL) ) | \
2743                 ( cd $testdir && md5sum -c)
2744 }
2745 run_test 43c "md5sum of copy into lustre========================"
2746
2747 test_44() {
2748         [  "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
2749         dd if=/dev/zero of=$DIR/f1 bs=4k count=1 seek=1023
2750         dd if=$DIR/f1 bs=4k count=1 > /dev/null
2751 }
2752 run_test 44 "zero length read from a sparse stripe ============="
2753
2754 test_44a() {
2755     local nstripe=`$LCTL lov_getconfig $DIR | grep default_stripe_count: | \
2756                          awk '{print $2}'`
2757     [ -z "$nstripe" ] && skip "can't get stripe info" && return
2758     [ "$nstripe" -gt "$OSTCOUNT" ] && skip "Wrong default_stripe_count: $nstripe (OSTCOUNT: $OSTCOUNT)" && return
2759     local stride=`$LCTL lov_getconfig $DIR | grep default_stripe_size: | \
2760                       awk '{print $2}'`
2761     if [ $nstripe -eq 0 -o $nstripe -eq -1 ] ; then
2762         nstripe=`$LCTL lov_getconfig $DIR | grep obd_count: | awk '{print $2}'`
2763     fi
2764
2765     OFFSETS="0 $((stride/2)) $((stride-1))"
2766     for offset in $OFFSETS ; do
2767       for i in `seq 0 $((nstripe-1))`; do
2768         local GLOBALOFFSETS=""
2769         local size=$((((i + 2 * $nstripe )*$stride + $offset)))  # Bytes
2770         local myfn=$DIR/d44a-$size
2771         echo "--------writing $myfn at $size"
2772         ll_sparseness_write $myfn $size  || error "ll_sparseness_write"
2773         GLOBALOFFSETS="$GLOBALOFFSETS $size"
2774         ll_sparseness_verify $myfn $GLOBALOFFSETS \
2775                             || error "ll_sparseness_verify $GLOBALOFFSETS"
2776
2777         for j in `seq 0 $((nstripe-1))`; do
2778             size=$((((j + $nstripe )*$stride + $offset)))  # Bytes
2779             ll_sparseness_write $myfn $size || error "ll_sparseness_write"
2780             GLOBALOFFSETS="$GLOBALOFFSETS $size"
2781         done
2782         ll_sparseness_verify $myfn $GLOBALOFFSETS \
2783                             || error "ll_sparseness_verify $GLOBALOFFSETS"
2784         rm -f $myfn
2785       done
2786     done
2787 }
2788 run_test 44a "test sparse pwrite ==============================="
2789
2790 dirty_osc_total() {
2791         tot=0
2792         for d in `lctl get_param -n osc.*.cur_dirty_bytes`; do
2793                 tot=$(($tot + $d))
2794         done
2795         echo $tot
2796 }
2797 do_dirty_record() {
2798         before=`dirty_osc_total`
2799         echo executing "\"$*\""
2800         eval $*
2801         after=`dirty_osc_total`
2802         echo before $before, after $after
2803 }
2804 test_45() {
2805         f="$DIR/f45"
2806         # Obtain grants from OST if it supports it
2807         echo blah > ${f}_grant
2808         stop_writeback
2809         sync
2810         do_dirty_record "echo blah > $f"
2811         [ $before -eq $after ] && error "write wasn't cached"
2812         do_dirty_record "> $f"
2813         [ $before -gt $after ] || error "truncate didn't lower dirty count"
2814         do_dirty_record "echo blah > $f"
2815         [ $before -eq $after ] && error "write wasn't cached"
2816         do_dirty_record "sync"
2817         [ $before -gt $after ] || error "writeback didn't lower dirty count"
2818         do_dirty_record "echo blah > $f"
2819         [ $before -eq $after ] && error "write wasn't cached"
2820         do_dirty_record "cancel_lru_locks osc"
2821         [ $before -gt $after ] || error "lock cancellation didn't lower dirty count"
2822         start_writeback
2823 }
2824 run_test 45 "osc io page accounting ============================"
2825
2826 # in a 2 stripe file (lov.sh), page 1023 maps to page 511 in its object.  this
2827 # test tickles a bug where re-dirtying a page was failing to be mapped to the
2828 # objects offset and an assert hit when an rpc was built with 1023's mapped
2829 # offset 511 and 511's raw 511 offset. it also found general redirtying bugs.
2830 test_46() {
2831         f="$DIR/f46"
2832         stop_writeback
2833         sync
2834         dd if=/dev/zero of=$f bs=`page_size` seek=511 count=1
2835         sync
2836         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=1023 count=1
2837         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=511 count=1
2838         sync
2839         start_writeback
2840 }
2841 run_test 46 "dirtying a previously written page ================"
2842
2843 # test_47 is removed "Device nodes check" is moved to test_28
2844
2845 test_48a() { # bug 2399
2846         check_kernel_version 34 || return 0
2847         mkdir -p $DIR/d48a
2848         cd $DIR/d48a
2849         mv $DIR/d48a $DIR/d48.new || error "move directory failed"
2850         mkdir $DIR/d48a || error "recreate directory failed"
2851         touch foo || error "'touch foo' failed after recreating cwd"
2852         mkdir bar || error "'mkdir foo' failed after recreating cwd"
2853         if check_kernel_version 44; then
2854                 touch .foo || error "'touch .foo' failed after recreating cwd"
2855                 mkdir .bar || error "'mkdir .foo' failed after recreating cwd"
2856         fi
2857         ls . > /dev/null || error "'ls .' failed after recreating cwd"
2858         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
2859         cd . || error "'cd .' failed after recreating cwd"
2860         mkdir . && error "'mkdir .' worked after recreating cwd"
2861         rmdir . && error "'rmdir .' worked after recreating cwd"
2862         ln -s . baz || error "'ln -s .' failed after recreating cwd"
2863         cd .. || error "'cd ..' failed after recreating cwd"
2864 }
2865 run_test 48a "Access renamed working dir (should return errors)="
2866
2867 test_48b() { # bug 2399
2868         check_kernel_version 34 || return 0
2869         mkdir -p $DIR/d48b
2870         cd $DIR/d48b
2871         rmdir $DIR/d48b || error "remove cwd $DIR/d48b failed"
2872         touch foo && error "'touch foo' worked after removing cwd"
2873         mkdir foo && error "'mkdir foo' worked after removing cwd"
2874         if check_kernel_version 44; then
2875                 touch .foo && error "'touch .foo' worked after removing cwd"
2876                 mkdir .foo && error "'mkdir .foo' worked after removing cwd"
2877         fi
2878         ls . > /dev/null && error "'ls .' worked after removing cwd"
2879         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
2880         is_patchless || ( cd . && error "'cd .' worked after removing cwd" )
2881         mkdir . && error "'mkdir .' worked after removing cwd"
2882         rmdir . && error "'rmdir .' worked after removing cwd"
2883         ln -s . foo && error "'ln -s .' worked after removing cwd"
2884         cd .. || echo "'cd ..' failed after removing cwd `pwd`"  #bug 3517
2885 }
2886 run_test 48b "Access removed working dir (should return errors)="
2887
2888 test_48c() { # bug 2350
2889         check_kernel_version 36 || return 0
2890         #lctl set_param debug=-1
2891         #set -vx
2892         mkdir -p $DIR/d48c/dir
2893         cd $DIR/d48c/dir
2894         $TRACE rmdir $DIR/d48c/dir || error "remove cwd $DIR/d48c/dir failed"
2895         $TRACE touch foo && error "'touch foo' worked after removing cwd"
2896         $TRACE mkdir foo && error "'mkdir foo' worked after removing cwd"
2897         if check_kernel_version 44; then
2898                 touch .foo && error "'touch .foo' worked after removing cwd"
2899                 mkdir .foo && error "'mkdir .foo' worked after removing cwd"
2900         fi
2901         $TRACE ls . && error "'ls .' worked after removing cwd"
2902         $TRACE ls .. || error "'ls ..' failed after removing cwd"
2903         is_patchless || ( $TRACE cd . && error "'cd .' worked after removing cwd" )
2904         $TRACE mkdir . && error "'mkdir .' worked after removing cwd"
2905         $TRACE rmdir . && error "'rmdir .' worked after removing cwd"
2906         $TRACE ln -s . foo && error "'ln -s .' worked after removing cwd"
2907         $TRACE cd .. || echo "'cd ..' failed after removing cwd `pwd`" #bug 3415
2908 }
2909 run_test 48c "Access removed working subdir (should return errors)"
2910
2911 test_48d() { # bug 2350
2912         check_kernel_version 36 || return 0
2913         #lctl set_param debug=-1
2914         #set -vx
2915         mkdir -p $DIR/d48d/dir
2916         cd $DIR/d48d/dir
2917         $TRACE rmdir $DIR/d48d/dir || error "remove cwd $DIR/d48d/dir failed"
2918         $TRACE rmdir $DIR/d48d || error "remove parent $DIR/d48d failed"
2919         $TRACE touch foo && error "'touch foo' worked after removing parent"
2920         $TRACE mkdir foo && error "'mkdir foo' worked after removing parent"
2921         if check_kernel_version 44; then
2922                 touch .foo && error "'touch .foo' worked after removing parent"
2923                 mkdir .foo && error "'mkdir .foo' worked after removing parent"
2924         fi
2925         $TRACE ls . && error "'ls .' worked after removing parent"
2926         $TRACE ls .. && error "'ls ..' worked after removing parent"
2927         is_patchless || ( $TRACE cd . && error "'cd .' worked after recreate parent" )
2928         $TRACE mkdir . && error "'mkdir .' worked after removing parent"
2929         $TRACE rmdir . && error "'rmdir .' worked after removing parent"
2930         $TRACE ln -s . foo && error "'ln -s .' worked after removing parent"
2931         is_patchless || ( $TRACE cd .. && error "'cd ..' worked after removing parent" || true )
2932 }
2933 run_test 48d "Access removed parent subdir (should return errors)"
2934
2935 test_48e() { # bug 4134
2936         check_kernel_version 41 || return 0
2937         #lctl set_param debug=-1
2938         #set -vx
2939         mkdir -p $DIR/d48e/dir
2940         cd $DIR/d48e/dir
2941         $TRACE rmdir $DIR/d48e/dir || error "remove cwd $DIR/d48e/dir failed"
2942         $TRACE rmdir $DIR/d48e || error "remove parent $DIR/d48e failed"
2943         $TRACE touch $DIR/d48e || error "'touch $DIR/d48e' failed"
2944         $TRACE chmod +x $DIR/d48e || error "'chmod +x $DIR/d48e' failed"
2945         # On a buggy kernel addition of "touch foo" after cd .. will
2946         # produce kernel oops in lookup_hash_it
2947         touch ../foo && error "'cd ..' worked after recreate parent"
2948         cd $DIR
2949         $TRACE rm $DIR/d48e || error "rm '$DIR/d48e' failed"
2950 }
2951 run_test 48e "Access to recreated parent subdir (should return errors)"
2952
2953 test_50() {
2954         # bug 1485
2955         mkdir $DIR/d50
2956         cd $DIR/d50
2957         ls /proc/$$/cwd || error
2958 }
2959 run_test 50 "special situations: /proc symlinks  ==============="
2960
2961 test_51a() {    # was test_51
2962         # bug 1516 - create an empty entry right after ".." then split dir
2963         mkdir $DIR/d51
2964         touch $DIR/d51/foo
2965         $MCREATE $DIR/d51/bar
2966         rm $DIR/d51/foo
2967         createmany -m $DIR/d51/longfile 201
2968         FNUM=202
2969         while [ `ls -sd $DIR/d51 | awk '{ print $1 }'` -eq 4 ]; do
2970                 $MCREATE $DIR/d51/longfile$FNUM
2971                 FNUM=$(($FNUM + 1))
2972                 echo -n "+"
2973         done
2974         echo
2975         ls -l $DIR/d51 > /dev/null || error
2976 }
2977 run_test 51a "special situations: split htree with empty entry =="
2978
2979 #export NUMTEST=70000
2980 # FIXME: I select a relatively small number to do basic test.
2981 # large number may give panic(). debugging on this is going on.
2982 export NUMTEST=70
2983 test_51b() {
2984         NUMFREE=`df -i -P $DIR | tail -n 1 | awk '{ print $4 }'`
2985         [ $NUMFREE -lt 21000 ] && \
2986                 skip "not enough free inodes ($NUMFREE)" && \
2987                 return
2988
2989         check_kernel_version 40 || NUMTEST=31000
2990         [ $NUMFREE -lt $NUMTEST ] && NUMTEST=$(($NUMFREE - 50))
2991
2992         mkdir -p $DIR/d51b
2993         createmany -d $DIR/d51b/t- $NUMTEST
2994 }
2995 run_test 51b "mkdir .../t-0 --- .../t-$NUMTEST ===================="
2996
2997 test_51bb() {
2998         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2999
3000         local ndirs=${TEST51BB_NDIRS:-10}
3001         local nfiles=${TEST51BB_NFILES:-100}
3002
3003         local numfree=`df -i -P $DIR | tail -n 1 | awk '{ print $4 }'`
3004
3005         [ $numfree -lt $(( ndirs * nfiles)) ] && \
3006                 nfiles=$(( numfree / ndirs - 10 ))
3007
3008         local dir=$DIR/d51bb
3009         mkdir -p $dir
3010         local savePOLICY=$(lctl get_param -n lmv.*.placement)
3011         lctl set_param -n lmv.*.placement=CHAR
3012
3013         lfs df -i $dir
3014         local IUSED=$(lfs df -i $dir | grep MDT | awk '{print $3}')
3015         OLDUSED=($IUSED)
3016
3017         declare -a dirs
3018         for ((i=0; i < $ndirs; i++)); do
3019                 dirs[i]=$dir/$RANDOM
3020                 echo Creating directory ${dirs[i]}
3021                 mkdir -p ${dirs[i]}
3022                 ls $dir
3023                 echo Creating $nfiles in dir ${dirs[i]} ...
3024                 echo "createmany -o ${dirs[i]}/$tfile- $nfiles"
3025                 createmany -o ${dirs[i]}/$tfile- $nfiles
3026         done
3027         ls $dir
3028
3029         sleep 1
3030
3031         IUSED=$(lfs df -i $dir | grep MDT | awk '{print $3}')
3032         NEWUSED=($IUSED)
3033
3034         local rc=0
3035         for ((i=0; i<${#NEWUSED[@]}; i++)); do
3036                 echo "mds $i: inodes count OLD ${OLDUSED[$i]} NEW ${NEWUSED[$i]}"
3037                 [ ${OLDUSED[$i]} -lt ${NEWUSED[$i]} ] || rc=$((rc + 1))
3038         done
3039
3040         lctl set_param -n lmv.*.placement=$savePOLICY
3041
3042         [ $rc -ne $MDSCOUNT ] || \
3043                 error "Objects/inodes are not distributed over all mds servers"
3044 }
3045 run_test 51bb "mkdir createmany CMD $MDSCOUNT  ===================="
3046
3047
3048 test_51c() {
3049         [ ! -d $DIR/d51b ] && skip "$DIR/51b missing" && \
3050                 return
3051
3052         unlinkmany -d $DIR/d51b/t- $NUMTEST
3053 }
3054 run_test 51c "rmdir .../t-0 --- .../t-$NUMTEST ===================="
3055
3056 test_51d() {
3057         [  "$OSTCOUNT" -lt "3" ] && skip_env "skipping test with few OSTs" && return
3058         mkdir -p $DIR/d51d
3059         createmany -o $DIR/d51d/t- 1000
3060         $LFS getstripe $DIR/d51d > $TMP/files
3061         for N in `seq 0 $((OSTCOUNT - 1))`; do
3062             OBJS[$N]=`awk -vobjs=0 '($1 == '$N') { objs += 1 } END { print objs;}' $TMP/files`
3063             OBJS0[$N]=`grep -A 1 idx $TMP/files | awk -vobjs=0 '($1 == '$N') { objs += 1 } END { print objs;}'`
3064             log "OST$N has ${OBJS[$N]} objects, ${OBJS0[$N]} are index 0"
3065         done
3066         unlinkmany $DIR/d51d/t- 1000
3067
3068         NLAST=0
3069         for N in `seq 1 $((OSTCOUNT - 1))`; do
3070             [ ${OBJS[$N]} -lt $((${OBJS[$NLAST]} - 20)) ] && \
3071                 error "OST $N has less objects vs OST $NLAST (${OBJS[$N]} < ${OBJS[$NLAST]}"
3072             [ ${OBJS[$N]} -gt $((${OBJS[$NLAST]} + 20)) ] && \
3073                 error "OST $N has less objects vs OST $NLAST (${OBJS[$N]} < ${OBJS[$NLAST]}"
3074
3075             [ ${OBJS0[$N]} -lt $((${OBJS0[$NLAST]} - 20)) ] && \
3076                 error "OST $N has less #0 objects vs OST $NLAST (${OBJS0[$N]} < ${OBJS0[$NLAST]}"
3077             [ ${OBJS0[$N]} -gt $((${OBJS0[$NLAST]} + 20)) ] && \
3078                 error "OST $N has less #0 objects vs OST $NLAST (${OBJS0[$N]} < ${OBJS0[$NLAST]}"
3079             NLAST=$N
3080         done
3081 }
3082 run_test 51d "check object distribution ===================="
3083
3084 test_52a() {
3085         [ -f $DIR/d52a/foo ] && chattr -a $DIR/d52a/foo
3086         mkdir -p $DIR/d52a
3087         touch $DIR/d52a/foo
3088         chattr +a $DIR/d52a/foo || error "chattr +a failed"
3089         echo bar >> $DIR/d52a/foo || error "append bar failed"
3090         cp /etc/hosts $DIR/d52a/foo && error "cp worked"
3091         rm -f $DIR/d52a/foo 2>/dev/null && error "rm worked"
3092         link $DIR/d52a/foo $DIR/d52a/foo_link 2>/dev/null && error "link worked"
3093         echo foo >> $DIR/d52a/foo || error "append foo failed"
3094         mrename $DIR/d52a/foo $DIR/d52a/foo_ren && error "rename worked"
3095         lsattr $DIR/d52a/foo | egrep -q "^-+a[-e]+ $DIR/d52a/foo" || error "lsattr"
3096         chattr -a $DIR/d52a/foo || error "chattr -a failed"
3097         cp -r $DIR/d52a /tmp/
3098         rm -fr $DIR/d52a || error "cleanup rm failed"
3099 }
3100 run_test 52a "append-only flag test (should return errors) ====="
3101
3102 test_52b() {
3103         [ -f $DIR/d52b/foo ] && chattr -i $DIR/d52b/foo
3104         mkdir -p $DIR/d52b
3105         touch $DIR/d52b/foo
3106         chattr +i $DIR/d52b/foo || error "chattr +i failed"
3107         cat test > $DIR/d52b/foo && error "cat test worked"
3108         cp /etc/hosts $DIR/d52b/foo && error "cp worked"
3109         rm -f $DIR/d52b/foo 2>/dev/null && error "rm worked"
3110         link $DIR/d52b/foo $DIR/d52b/foo_link 2>/dev/null && error  "link worked"
3111         echo foo >> $DIR/d52b/foo && error "echo worked"
3112         mrename $DIR/d52b/foo $DIR/d52b/foo_ren && error "rename worked"
3113         [ -f $DIR/d52b/foo ] || error
3114         [ -f $DIR/d52b/foo_ren ] && error
3115         lsattr $DIR/d52b/foo | egrep -q "^-+i[-e]+ $DIR/d52b/foo" || error "lsattr"
3116         chattr -i $DIR/d52b/foo || error "chattr failed"
3117
3118         rm -fr $DIR/d52b || error
3119 }
3120 run_test 52b "immutable flag test (should return errors) ======="
3121
3122 test_53() {
3123         remote_mds_nodsh && skip "remote MDS with nodsh" && return
3124         remote_ost_nodsh && skip "remote OST with nodsh" && return
3125
3126         local param
3127         local ostname
3128         local mds_last
3129         local ost_last
3130         local ostnum
3131
3132         # only test MDT0000
3133         local mdtosc=$(get_mdtosc_proc_path $SINGLEMDS)
3134         for value in $(do_facet $SINGLEMDS lctl get_param osc.$mdtosc.prealloc_last_id) ; do
3135                 param=`echo ${value[0]} | cut -d "=" -f1`
3136                 ostname=`echo $param | cut -d "." -f2 | cut -d - -f 1-2`
3137                 mds_last=$(do_facet $SINGLEMDS lctl get_param -n $param)
3138                 ostnum=$(echo $ostname | sed "s/${FSNAME}-OST//g" | awk '{print ($1+1)}' )
3139                 ost_last=$(do_facet ost$ostnum lctl get_param -n obdfilter.$ostname.last_id | head -n 1)
3140                 echo "$ostname.last_id=$ost_last ; MDS.last_id=$mds_last"
3141                 if [ $ost_last != $mds_last ]; then
3142                     error "$ostname.last_id=$ost_last ; MDS.last_id=$mds_last"
3143                 fi
3144         done
3145 }
3146 run_test 53 "verify that MDS and OSTs agree on pre-creation ===="
3147
3148 test_54a() {
3149         [ ! -f "$SOCKETSERVER" ] && skip_env "no socketserver, skipping" && return
3150         [ ! -f "$SOCKETCLIENT" ] && skip_env "no socketclient, skipping" && return
3151         $SOCKETSERVER $DIR/socket
3152         $SOCKETCLIENT $DIR/socket || error
3153         $MUNLINK $DIR/socket
3154 }
3155 run_test 54a "unix domain socket test =========================="
3156
3157 test_54b() {
3158         f="$DIR/f54b"
3159         mknod $f c 1 3
3160         chmod 0666 $f
3161         dd if=/dev/zero of=$f bs=`page_size` count=1
3162 }
3163 run_test 54b "char device works in lustre ======================"
3164
3165 find_loop_dev() {
3166         [ -b /dev/loop/0 ] && LOOPBASE=/dev/loop/
3167         [ -b /dev/loop0 ] && LOOPBASE=/dev/loop
3168         [ -z "$LOOPBASE" ] && echo "/dev/loop/0 and /dev/loop0 gone?" && return
3169
3170         for i in `seq 3 7`; do
3171                 losetup $LOOPBASE$i > /dev/null 2>&1 && continue
3172                 LOOPDEV=$LOOPBASE$i
3173                 LOOPNUM=$i
3174                 break
3175         done
3176 }
3177
3178 test_54c() {
3179         tfile="$DIR/f54c"
3180         tdir="$DIR/d54c"
3181         loopdev="$DIR/loop54c"
3182
3183         find_loop_dev
3184         [ -z "$LOOPNUM" ] && echo "couldn't find empty loop device" && return
3185         mknod $loopdev b 7 $LOOPNUM
3186         echo "make a loop file system with $tfile on $loopdev ($LOOPNUM)..."
3187         dd if=/dev/zero of=$tfile bs=`page_size` seek=1024 count=1 > /dev/null
3188         losetup $loopdev $tfile || error "can't set up $loopdev for $tfile"
3189         mkfs.ext2 $loopdev || error "mke2fs on $loopdev"
3190         mkdir -p $tdir
3191         mount -t ext2 $loopdev $tdir || error "error mounting $loopdev on $tdir"
3192         dd if=/dev/zero of=$tdir/tmp bs=`page_size` count=30 || error "dd write"
3193         df $tdir
3194         dd if=$tdir/tmp of=/dev/zero bs=`page_size` count=30 || error "dd read"
3195         $UMOUNT $tdir
3196         losetup -d $loopdev
3197         rm $loopdev
3198 }
3199 run_test 54c "block device works in lustre ====================="
3200
3201 test_54d() {
3202         f="$DIR/f54d"
3203         string="aaaaaa"
3204         mknod $f p
3205         [ "$string" = `echo $string > $f | cat $f` ] || error
3206 }
3207 run_test 54d "fifo device works in lustre ======================"
3208
3209 test_54e() {
3210         check_kernel_version 46 || return 0
3211         f="$DIR/f54e"
3212         string="aaaaaa"
3213         cp -aL /dev/console $f
3214         echo $string > $f || error
3215 }
3216 run_test 54e "console/tty device works in lustre ======================"
3217
3218 #The test_55 used to be iopen test and it was removed by bz#24037.
3219 #run_test 55 "check iopen_connect_dentry() ======================"
3220
3221 test_56a() {    # was test_56
3222         rm -rf $DIR/d56
3223         $SETSTRIPE -d $DIR
3224         mkdir $DIR/d56
3225         mkdir $DIR/d56/dir
3226         NUMFILES=3
3227         NUMFILESx2=$(($NUMFILES * 2))
3228         for i in `seq 1 $NUMFILES` ; do
3229                 touch $DIR/d56/file$i
3230                 touch $DIR/d56/dir/file$i
3231         done
3232
3233         # test lfs getstripe with --recursive
3234         FILENUM=`$GETSTRIPE --recursive $DIR/d56 | grep -c obdidx`
3235         [ $FILENUM -eq $NUMFILESx2 ] || error \
3236                 "lfs getstripe --recursive $DIR/d56 wrong: found $FILENUM, expected $NUMFILESx2"
3237         FILENUM=`$GETSTRIPE $DIR/d56 | grep -c obdidx`
3238         [ $FILENUM -eq $NUMFILES ] || error \
3239                 "lfs getstripe $DIR/d56 without --recursive wrong: found $FILENUM, expected $NUMFILES"
3240         echo "lfs getstripe --recursive passed."
3241
3242         # test lfs getstripe with file instead of dir
3243         FILENUM=`$GETSTRIPE $DIR/d56/file1 | grep -c obdidx`
3244         [ $FILENUM  -eq 1 ] || error \
3245                  "lfs getstripe $DIR/d56/file1 wrong:found $FILENUM, expected 1"
3246         echo "lfs getstripe file passed."
3247
3248         #test lfs getstripe with --verbose
3249         [ `$GETSTRIPE --verbose $DIR/d56 | grep -c lmm_magic` -eq $NUMFILES ] ||\
3250                 error "lfs getstripe --verbose $DIR/d56 wrong: should find $NUMFILES lmm_magic info"
3251         [ `$GETSTRIPE $DIR/d56 | grep -c lmm_magic` -eq 0 ] || error \
3252                 "lfs getstripe $DIR/d56 without --verbose wrong: should not show lmm_magic info"
3253         echo "lfs getstripe --verbose passed."
3254
3255         #test lfs getstripe with --obd
3256         $GETSTRIPE --obd wrong_uuid $DIR/d56 2>&1 | grep -q "unknown obduuid" || \
3257                 error "lfs getstripe --obd wrong_uuid should return error message"
3258
3259         [  "$OSTCOUNT" -lt 2 ] && \
3260                 skip_env "skipping other lfs getstripe --obd test" && return
3261         OSTIDX=1
3262         OBDUUID=$(lfs osts | grep ${OSTIDX}": " | awk '{print $2}')
3263         FILENUM=`$GETSTRIPE -ir $DIR/d56 | grep -x $OSTIDX | wc -l`
3264         FOUND=`$GETSTRIPE -r --obd $OBDUUID $DIR/d56 | grep obdidx | wc -l`
3265         [ $FOUND -eq $FILENUM ] || \
3266                 error "lfs getstripe --obd wrong: found $FOUND, expected $FILENUM"
3267         [ `$GETSTRIPE -r -v --obd $OBDUUID $DIR/d56 | \
3268                 sed '/^[         ]*'${OSTIDX}'[  ]/d' |\
3269                 sed -n '/^[      ]*[0-9][0-9]*[  ]/p' | wc -l` -eq 0 ] || \
3270                 error "lfs getstripe --obd wrong: should not show file on other obd"
3271         echo "lfs getstripe --obd passed."
3272 }
3273 run_test 56a "check lfs getstripe ===================================="
3274
3275 NUMFILES=3
3276 NUMDIRS=3
3277 setup_56() {
3278         LOCAL_NUMFILES=$1
3279         LOCAL_NUMDIRS=$2
3280         if [ ! -d "$DIR/${tdir}g" ] ; then
3281                 mkdir -p $DIR/${tdir}g
3282                 for i in `seq 1 $LOCAL_NUMFILES` ; do
3283                         touch $DIR/${tdir}g/file$i
3284                 done
3285                 for i in `seq 1 $LOCAL_NUMDIRS` ; do
3286                         mkdir $DIR/${tdir}g/dir$i
3287                         for j in `seq 1 $LOCAL_NUMFILES` ; do
3288                                 touch $DIR/${tdir}g/dir$i/file$j
3289                         done
3290                 done
3291         fi
3292 }
3293
3294 setup_56_special() {
3295         LOCAL_NUMFILES=$1
3296         LOCAL_NUMDIRS=$2
3297         TDIR=$DIR/${tdir}g
3298         setup_56 $1 $2
3299         if [ ! -e "$TDIR/loop1b" ] ; then
3300                 for i in `seq 1 $LOCAL_NUMFILES` ; do
3301                         mknod $TDIR/loop${i}b b 7 $i
3302                         mknod $TDIR/null${i}c c 1 3
3303                         ln -s $TDIR/file1 $TDIR/link${i}l
3304                 done
3305                 for i in `seq 1 $LOCAL_NUMDIRS` ; do
3306                         mknod $TDIR/dir$i/loop${i}b b 7 $i
3307                         mknod $TDIR/dir$i/null${i}c c 1 3
3308                         ln -s $TDIR/dir$i/file1 $TDIR/dir$i/link${i}l
3309                 done
3310         fi
3311 }
3312
3313 test_56g() {
3314         $LSTRIPE -d $DIR
3315
3316         setup_56 $NUMFILES $NUMDIRS
3317
3318         EXPECTED=$(($NUMDIRS + 2))
3319         # test lfs find with -name
3320         for i in `seq 1 $NUMFILES` ; do
3321                 NUMS=`$LFIND -name "*$i" $DIR/${tdir}g | wc -l`
3322                 [ $NUMS -eq $EXPECTED ] || error \
3323                         "lfs find -name \"*$i\" $DIR/${tdir}g wrong: found $NUMS, expected $EXPECTED"
3324         done
3325         echo "lfs find -name passed."
3326 }
3327 run_test 56g "check lfs find -name ============================="
3328
3329 test_56h() {
3330         $LSTRIPE -d $DIR
3331
3332         setup_56 $NUMFILES $NUMDIRS
3333
3334         EXPECTED=$((($NUMDIRS+1)*($NUMFILES-1)+$NUMFILES))
3335         # test lfs find with ! -name
3336         for i in `seq 1 $NUMFILES` ; do
3337                 NUMS=`$LFIND ! -name "*$i" $DIR/${tdir}g | wc -l`
3338                 [ $NUMS -eq $EXPECTED ] || error \
3339                         "lfs find ! -name \"*$i\" $DIR/${tdir}g wrong: found $NUMS, expected $EXPECTED"
3340         done
3341         echo "lfs find ! -name passed."
3342 }
3343 run_test 56h "check lfs find ! -name ============================="
3344
3345 test_56i() {
3346        tdir=${tdir}i
3347        mkdir -p $DIR/$tdir
3348        UUID=$(ostuuid_from_index 0 $DIR/$tdir)
3349        OUT=$($LFIND -obd $UUID $DIR/$tdir)
3350        [ "$OUT" ] && error "$LFIND returned directory '$OUT'" || true
3351 }
3352 run_test 56i "check 'lfs find -ost UUID' skips directories ======="
3353
3354 test_56j() {
3355         setup_56_special $NUMFILES $NUMDIRS
3356
3357         EXPECTED=$((NUMDIRS+1))
3358         NUMS=`$LFIND -type d $DIR/${tdir}g | wc -l`
3359         [ $NUMS -eq $EXPECTED ] || \
3360                 error "lfs find -type d $DIR/${tdir}g wrong: found $NUMS, expected $EXPECTED"
3361 }
3362 run_test 56j "check lfs find -type d ============================="
3363
3364 test_56k() {
3365         setup_56_special $NUMFILES $NUMDIRS
3366
3367         EXPECTED=$(((NUMDIRS+1) * NUMFILES))
3368         NUMS=`$LFIND -type f $DIR/${tdir}g | wc -l`
3369         [ $NUMS -eq $EXPECTED ] || \
3370                 error "lfs find -type f $DIR/${tdir}g wrong: found $NUMS, expected $EXPECTED"
3371 }
3372 run_test 56k "check lfs find -type f ============================="
3373
3374 test_56l() {
3375         setup_56_special $NUMFILES $NUMDIRS
3376
3377         EXPECTED=$((NUMDIRS + NUMFILES))
3378         NUMS=`$LFIND -type b $DIR/${tdir}g | wc -l`
3379         [ $NUMS -eq $EXPECTED ] || \
3380                 error "lfs find -type b $DIR/${tdir}g wrong: found $NUMS, expected $EXPECTED"
3381 }
3382 run_test 56l "check lfs find -type b ============================="
3383
3384 test_56m() {
3385         setup_56_special $NUMFILES $NUMDIRS
3386
3387         EXPECTED=$((NUMDIRS + NUMFILES))
3388         NUMS=`$LFIND -type c $DIR/${tdir}g | wc -l`
3389         [ $NUMS -eq $EXPECTED ] || \
3390                 error "lfs find -type c $DIR/${tdir}g wrong: found $NUMS, expected $EXPECTED"
3391 }
3392 run_test 56m "check lfs find -type c ============================="
3393
3394 test_56n() {
3395         setup_56_special $NUMFILES $NUMDIRS
3396
3397         EXPECTED=$((NUMDIRS + NUMFILES))
3398         NUMS=`$LFIND -type l $DIR/${tdir}g | wc -l`
3399         [ $NUMS -eq $EXPECTED ] || \
3400                 error "lfs find -type l $DIR/${tdir}g wrong: found $NUMS, expected $EXPECTED"
3401 }
3402 run_test 56n "check lfs find -type l ============================="
3403
3404 test_56o() {
3405         setup_56 $NUMFILES $NUMDIRS
3406         TDIR=$DIR/${tdir}g
3407
3408         utime $TDIR/file1 > /dev/null || error "utime (1)"
3409         utime $TDIR/file2 > /dev/null || error "utime (2)"
3410         utime $TDIR/dir1 > /dev/null || error "utime (3)"
3411         utime $TDIR/dir2 > /dev/null || error "utime (4)"
3412         utime $TDIR/dir1/file1 > /dev/null || error "utime (5)"
3413
3414         EXPECTED=5
3415         NUMS=`$LFIND -mtime +1 $TDIR | wc -l`
3416         [ $NUMS -eq $EXPECTED ] || \
3417                 error "lfs find -mtime $TDIR wrong: found $NUMS, expected $EXPECTED"
3418 }
3419 run_test 56o "check lfs find -mtime for old files =========================="
3420
3421 test_56p() {
3422         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
3423
3424         TDIR=$DIR/${tdir}g
3425         rm -rf $TDIR
3426
3427         setup_56 $NUMFILES $NUMDIRS
3428