Whamcloud - gitweb
LU-1783 tests: skip directory atime update test in SLES11 SP1
[fs/lustre-release.git] / lustre / tests / sanity.sh
1 #!/bin/bash
2 #
3 # Run select tests by setting ONLY, or as arguments to the script.
4 # Skip specific tests by setting EXCEPT.
5 #
6 # e.g. ONLY="22 23" or ONLY="`seq 32 39`" or EXCEPT="31"
7 set -e
8
9 ONLY=${ONLY:-"$*"}
10 # bug number for skipped test: 13297 2108 9789 3637 9789 3561 12622 5188
11 ALWAYS_EXCEPT="                27u   42a  42b  42c  42d  45   51d   68b   $SANITY_EXCEPT"
12 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
13
14 # Tests that fail on uml
15 CPU=`awk '/model/ {print $4}' /proc/cpuinfo`
16 #                                    buffer i/o errs             sock spc runas
17 [ "$CPU" = "UML" ] && EXCEPT="$EXCEPT 27m 27n 27o 27p 27q 27r 31d 54a  64b 99a 99b 99c 99d 99e 99f 101a"
18
19 SRCDIR=$(cd $(dirname $0); echo $PWD)
20 export PATH=$PATH:/sbin
21
22 TMP=${TMP:-/tmp}
23
24 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
25 CREATETEST=${CREATETEST:-createtest}
26 LFS=${LFS:-lfs}
27 LFIND=${LFIND:-"$LFS find"}
28 LVERIFY=${LVERIFY:-ll_dirstripe_verify}
29 LCTL=${LCTL:-lctl}
30 MCREATE=${MCREATE:-mcreate}
31 OPENFILE=${OPENFILE:-openfile}
32 OPENUNLINK=${OPENUNLINK:-openunlink}
33 export MULTIOP=${MULTIOP:-multiop}
34 READS=${READS:-"reads"}
35 MUNLINK=${MUNLINK:-munlink}
36 SOCKETSERVER=${SOCKETSERVER:-socketserver}
37 SOCKETCLIENT=${SOCKETCLIENT:-socketclient}
38 MEMHOG=${MEMHOG:-memhog}
39 DIRECTIO=${DIRECTIO:-directio}
40 ACCEPTOR_PORT=${ACCEPTOR_PORT:-988}
41 UMOUNT=${UMOUNT:-"umount -d"}
42 STRIPES_PER_OBJ=-1
43 CHECK_GRANT=${CHECK_GRANT:-"yes"}
44 GRANT_CHECK_LIST=${GRANT_CHECK_LIST:-""}
45
46 export NAME=${NAME:-local}
47
48 SAVE_PWD=$PWD
49
50 CLEANUP=${CLEANUP:-:}
51 SETUP=${SETUP:-:}
52 TRACE=${TRACE:-""}
53 LUSTRE=${LUSTRE:-$(cd $(dirname $0)/..; echo $PWD)}
54 . $LUSTRE/tests/test-framework.sh
55 init_test_env $@
56 . ${CONFIG:=$LUSTRE/tests/cfg/${NAME}.sh}
57 init_logging
58
59 [ "$SLOW" = "no" ] && EXCEPT_SLOW="24o 24v 27m 36f 36g 36h 51b 60c 63 64b 68 71 73 77f 78 101a 103 115 120g 124b"
60
61 FAIL_ON_ERROR=false
62
63 cleanup() {
64         echo -n "cln.."
65         pgrep ll_sa > /dev/null && { echo "There are ll_sa thread not exit!"; exit 20; }
66         cleanupall ${FORCE} $* || { echo "FAILed to clean up"; exit 20; }
67 }
68 setup() {
69         echo -n "mnt.."
70         load_modules
71         setupall || exit 10
72         echo "done"
73 }
74
75 check_kernel_version() {
76         WANT_VER=$1
77         GOT_VER=$(lctl get_param -n version | awk '/kernel:/ {print $2}')
78         case $GOT_VER in
79         patchless|patchless_client) return 0;;
80         *) [ $GOT_VER -ge $WANT_VER ] && return 0 ;;
81         esac
82         log "test needs at least kernel version $WANT_VER, running $GOT_VER"
83         return 1
84 }
85
86 if [ "$ONLY" == "cleanup" ]; then
87        sh llmountcleanup.sh
88        exit 0
89 fi
90
91 check_and_setup_lustre
92
93 DIR=${DIR:-$MOUNT}
94 assert_DIR
95
96 MDT0=$($LCTL get_param -n mdc.*.mds_server_uuid | \
97     awk '{gsub(/_UUID/,""); print $1}' | head -1)
98 LOVNAME=$($LCTL get_param -n llite.*.lov.common_name | tail -n 1)
99 OSTCOUNT=$($LCTL get_param -n lov.$LOVNAME.numobd)
100 STRIPECOUNT=$($LCTL get_param -n lov.$LOVNAME.stripecount)
101 STRIPESIZE=$($LCTL get_param -n lov.$LOVNAME.stripesize)
102 ORIGFREE=$($LCTL get_param -n lov.$LOVNAME.kbytesavail)
103 MAXFREE=${MAXFREE:-$((200000 * $OSTCOUNT))}
104
105 [ -f $DIR/d52a/foo ] && chattr -a $DIR/d52a/foo
106 [ -f $DIR/d52b/foo ] && chattr -i $DIR/d52b/foo
107 rm -rf $DIR/[Rdfs][0-9]*
108
109 # $RUNAS_ID may get set incorrectly somewhere else
110 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] && error "\$RUNAS_ID set to 0, but \$UID is also 0!"
111
112 check_runas_id $RUNAS_ID $RUNAS_GID $RUNAS
113
114 build_test_filter
115
116 if [ "${ONLY}" = "MOUNT" ] ; then
117         echo "Lustre is up, please go on"
118         exit
119 fi
120
121 echo "preparing for tests involving mounts"
122 EXT2_DEV=${EXT2_DEV:-$TMP/SANITY.LOOP}
123 touch $EXT2_DEV
124 mke2fs -j -F $EXT2_DEV 8000 > /dev/null
125 echo # add a newline after mke2fs.
126
127 umask 077
128
129 OLDDEBUG="`lctl get_param -n debug 2> /dev/null`"
130 lctl set_param debug=-1 2> /dev/null || true
131 test_0() {
132         touch $DIR/$tfile
133         $CHECKSTAT -t file $DIR/$tfile || error
134         rm $DIR/$tfile
135         $CHECKSTAT -a $DIR/$tfile || error
136 }
137 run_test 0 "touch .../$tfile ; rm .../$tfile ====================="
138
139 test_0b() {
140         chmod 0755 $DIR || error
141         $CHECKSTAT -p 0755 $DIR || error
142 }
143 run_test 0b "chmod 0755 $DIR ============================="
144
145 test_0c() {
146     $LCTL get_param mdc.*.import | grep  "state: FULL" || error "import not FULL"
147     $LCTL get_param mdc.*.import | grep  "target: $FSNAME-MDT" || error "bad target"
148 }
149 run_test 0c "check import proc ============================="
150
151 test_1a() {
152         mkdir $DIR/d1
153         mkdir $DIR/d1/d2
154         mkdir $DIR/d1/d2 && error "we expect EEXIST, but not returned"
155         $CHECKSTAT -t dir $DIR/d1/d2 || error
156 }
157 run_test 1a "mkdir .../d1; mkdir .../d1/d2 ====================="
158
159 test_1b() {
160         rmdir $DIR/d1/d2
161         rmdir $DIR/d1
162         $CHECKSTAT -a $DIR/d1 || error
163 }
164 run_test 1b "rmdir .../d1/d2; rmdir .../d1 ====================="
165
166 test_2a() {
167         mkdir $DIR/d2
168         touch $DIR/d2/f
169         $CHECKSTAT -t file $DIR/d2/f || error
170 }
171 run_test 2a "mkdir .../d2; touch .../d2/f ======================"
172
173 test_2b() {
174         rm -r $DIR/d2
175         $CHECKSTAT -a $DIR/d2 || error
176 }
177 run_test 2b "rm -r .../d2; checkstat .../d2/f ======================"
178
179 test_3a() {
180         mkdir $DIR/d3
181         $CHECKSTAT -t dir $DIR/d3 || error
182 }
183 run_test 3a "mkdir .../d3 ======================================"
184
185 test_3b() {
186         if [ ! -d $DIR/d3 ]; then
187                 mkdir $DIR/d3
188         fi
189         touch $DIR/d3/f
190         $CHECKSTAT -t file $DIR/d3/f || error
191 }
192 run_test 3b "touch .../d3/f ===================================="
193
194 test_3c() {
195         rm -r $DIR/d3
196         $CHECKSTAT -a $DIR/d3 || error
197 }
198 run_test 3c "rm -r .../d3 ======================================"
199
200 test_4a() {
201         mkdir $DIR/d4
202         $CHECKSTAT -t dir $DIR/d4 || error
203 }
204 run_test 4a "mkdir .../d4 ======================================"
205
206 test_4b() {
207         if [ ! -d $DIR/d4 ]; then
208                 mkdir $DIR/d4
209         fi
210         mkdir $DIR/d4/d2
211         $CHECKSTAT -t dir $DIR/d4/d2 || error
212 }
213 run_test 4b "mkdir .../d4/d2 ==================================="
214
215 test_5() {
216         mkdir $DIR/d5
217         mkdir $DIR/d5/d2
218         chmod 0707 $DIR/d5/d2
219         $CHECKSTAT -t dir -p 0707 $DIR/d5/d2 || error
220 }
221 run_test 5 "mkdir .../d5 .../d5/d2; chmod .../d5/d2 ============"
222
223 test_6a() {
224         touch $DIR/f6a
225         chmod 0666 $DIR/f6a || error
226         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/f6a || error
227 }
228 run_test 6a "touch .../f6a; chmod .../f6a ======================"
229
230 test_6b() {
231         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
232         if [ ! -f $DIR/f6a ]; then
233                 touch $DIR/f6a
234                 chmod 0666 $DIR/f6a
235         fi
236         $RUNAS chmod 0444 $DIR/f6a && error
237         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/f6a || error
238 }
239 run_test 6b "$RUNAS chmod .../f6a (should return error) =="
240
241 test_6c() {
242         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
243         touch $DIR/f6c
244         chown $RUNAS_ID $DIR/f6c || error
245         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/f6c || error
246 }
247 run_test 6c "touch .../f6c; chown .../f6c ======================"
248
249 test_6d() {
250         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
251         if [ ! -f $DIR/f6c ]; then
252                 touch $DIR/f6c
253                 chown $RUNAS_ID $DIR/f6c
254         fi
255         $RUNAS chown $UID $DIR/f6c && error
256         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/f6c || error
257 }
258 run_test 6d "$RUNAS chown .../f6c (should return error) =="
259
260 test_6e() {
261         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
262         touch $DIR/f6e
263         chgrp $RUNAS_ID $DIR/f6e || error
264         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/f6e || error
265 }
266 run_test 6e "touch .../f6e; chgrp .../f6e ======================"
267
268 test_6f() {
269         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
270         if [ ! -f $DIR/f6e ]; then
271                 touch $DIR/f6e
272                 chgrp $RUNAS_ID $DIR/f6e
273         fi
274         $RUNAS chgrp $UID $DIR/f6e && error
275         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/f6e || error
276 }
277 run_test 6f "$RUNAS chgrp .../f6e (should return error) =="
278
279 test_6g() {
280         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
281         mkdir $DIR/d6g || error
282         chmod 777 $DIR/d6g || error
283         $RUNAS mkdir $DIR/d6g/d || error
284         chmod g+s $DIR/d6g/d || error
285         mkdir $DIR/d6g/d/subdir
286         $CHECKSTAT -g \#$RUNAS_GID $DIR/d6g/d/subdir || error
287 }
288 run_test 6g "Is new dir in sgid dir inheriting group?"
289
290 test_6h() { # bug 7331
291         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
292         touch $DIR/f6h || error "touch failed"
293         chown $RUNAS_ID:$RUNAS_GID $DIR/f6h || error "initial chown failed"
294         $RUNAS -G$RUNAS_GID chown $RUNAS_ID:0 $DIR/f6h && error "chown worked"
295         $CHECKSTAT -t file -u \#$RUNAS_ID -g \#$RUNAS_GID $DIR/f6h || error
296 }
297 run_test 6h "$RUNAS chown RUNAS_ID.0 .../f6h (should return error)"
298
299 test_7a() {
300         mkdir $DIR/d7
301         $MCREATE $DIR/d7/f
302         chmod 0666 $DIR/d7/f
303         $CHECKSTAT -t file -p 0666 $DIR/d7/f || error
304 }
305 run_test 7a "mkdir .../d7; mcreate .../d7/f; chmod .../d7/f ===="
306
307 test_7b() {
308         if [ ! -d $DIR/d7 ]; then
309                 mkdir $DIR/d7
310         fi
311         $MCREATE $DIR/d7/f2
312         echo -n foo > $DIR/d7/f2
313         [ "`cat $DIR/d7/f2`" = "foo" ] || error
314         $CHECKSTAT -t file -s 3 $DIR/d7/f2 || error
315 }
316 run_test 7b "mkdir .../d7; mcreate d7/f2; echo foo > d7/f2 ====="
317
318 test_8() {
319         mkdir $DIR/d8
320         touch $DIR/d8/f
321         chmod 0666 $DIR/d8/f
322         $CHECKSTAT -t file -p 0666 $DIR/d8/f || error
323 }
324 run_test 8 "mkdir .../d8; touch .../d8/f; chmod .../d8/f ======="
325
326 test_9() {
327         mkdir $DIR/d9
328         mkdir $DIR/d9/d2
329         mkdir $DIR/d9/d2/d3
330         $CHECKSTAT -t dir $DIR/d9/d2/d3 || error
331 }
332 run_test 9 "mkdir .../d9 .../d9/d2 .../d9/d2/d3 ================"
333
334 test_10() {
335         mkdir $DIR/d10
336         mkdir $DIR/d10/d2
337         touch $DIR/d10/d2/f
338         $CHECKSTAT -t file $DIR/d10/d2/f || error
339 }
340 run_test 10 "mkdir .../d10 .../d10/d2; touch .../d10/d2/f ======"
341
342 test_11() {
343         mkdir $DIR/d11
344         mkdir $DIR/d11/d2
345         chmod 0666 $DIR/d11/d2
346         chmod 0705 $DIR/d11/d2
347         $CHECKSTAT -t dir -p 0705 $DIR/d11/d2 || error
348 }
349 run_test 11 "mkdir .../d11 d11/d2; chmod .../d11/d2 ============"
350
351 test_12() {
352         mkdir $DIR/d12
353         touch $DIR/d12/f
354         chmod 0666 $DIR/d12/f
355         chmod 0654 $DIR/d12/f
356         $CHECKSTAT -t file -p 0654 $DIR/d12/f || error
357 }
358 run_test 12 "touch .../d12/f; chmod .../d12/f .../d12/f ========"
359
360 test_13() {
361         mkdir $DIR/d13
362         dd if=/dev/zero of=$DIR/d13/f count=10
363         >  $DIR/d13/f
364         $CHECKSTAT -t file -s 0 $DIR/d13/f || error
365 }
366 run_test 13 "creat .../d13/f; dd .../d13/f; > .../d13/f ========"
367
368 test_14() {
369         mkdir $DIR/d14
370         touch $DIR/d14/f
371         rm $DIR/d14/f
372         $CHECKSTAT -a $DIR/d14/f || error
373 }
374 run_test 14 "touch .../d14/f; rm .../d14/f; rm .../d14/f ======="
375
376 test_15() {
377         mkdir $DIR/d15
378         touch $DIR/d15/f
379         mv $DIR/d15/f $DIR/d15/f2
380         $CHECKSTAT -t file $DIR/d15/f2 || error
381 }
382 run_test 15 "touch .../d15/f; mv .../d15/f .../d15/f2 =========="
383
384 test_16() {
385         mkdir $DIR/d16
386         touch $DIR/d16/f
387         rm -rf $DIR/d16/f
388         $CHECKSTAT -a $DIR/d16/f || error
389 }
390 run_test 16 "touch .../d16/f; rm -rf .../d16/f ================="
391
392 test_17a() {
393         mkdir -p $DIR/d17
394         touch $DIR/d17/f
395         ln -s $DIR/d17/f $DIR/d17/l-exist
396         ls -l $DIR/d17
397         $CHECKSTAT -l $DIR/d17/f $DIR/d17/l-exist || error
398         $CHECKSTAT -f -t f $DIR/d17/l-exist || error
399         rm -f $DIR/d17/l-exist
400         $CHECKSTAT -a $DIR/d17/l-exist || error
401 }
402 run_test 17a "symlinks: create, remove (real) =================="
403
404 test_17b() {
405         mkdir -p $DIR/d17
406         ln -s no-such-file $DIR/d17/l-dangle
407         ls -l $DIR/d17
408         $CHECKSTAT -l no-such-file $DIR/d17/l-dangle || error
409         $CHECKSTAT -fa $DIR/d17/l-dangle || error
410         rm -f $DIR/d17/l-dangle
411         $CHECKSTAT -a $DIR/d17/l-dangle || error
412 }
413 run_test 17b "symlinks: create, remove (dangling) =============="
414
415 test_17c() { # bug 3440 - don't save failed open RPC for replay
416         mkdir -p $DIR/d17
417         ln -s foo $DIR/d17/f17c
418         cat $DIR/d17/f17c && error "opened non-existent symlink" || true
419 }
420 run_test 17c "symlinks: open dangling (should return error) ===="
421
422 test_17d() {
423         mkdir -p $DIR/d17
424         ln -s foo $DIR/d17/f17d
425         touch $DIR/d17/f17d || error "creating to new symlink"
426 }
427 run_test 17d "symlinks: create dangling ========================"
428
429 test_17e() {
430         mkdir -p $DIR/$tdir
431         local foo=$DIR/$tdir/$tfile
432         ln -s $foo $foo || error "create symlink failed"
433         ls -l $foo || error "ls -l failed"
434         ls $foo && error "ls not failed" || true
435 }
436 run_test 17e "symlinks: create recursive symlink (should return error) ===="
437
438 test_17f() {
439         mkdir -p $DIR/d17f
440         ln -s 1234567890/2234567890/3234567890/4234567890 $DIR/d17f/111
441         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890 $DIR/d17f/222
442         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890 $DIR/d17f/333
443         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890 $DIR/d17f/444
444         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890 $DIR/d17f/555
445         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890/aaaaaaaaaa/bbbbbbbbbb/cccccccccc/dddddddddd/eeeeeeeeee/ffffffffff/ $DIR/d17f/666
446         ls -l  $DIR/d17f
447 }
448 run_test 17f "symlinks: long and very long symlink name ========================"
449
450 test_17g() {
451         mkdir -p $DIR/$tdir
452         LONGSYMLINK="$(dd if=/dev/zero bs=4095 count=1 | tr '\0' 'x')"
453         ln -s $LONGSYMLINK $DIR/$tdir/$tfile
454         ls -l $DIR/$tdir
455 }
456 run_test 17g "symlinks: really long symlink name ==============================="
457
458 test_17h() { #bug 17378
459         remote_mds_nodsh && skip "remote MDS with nodsh" && return
460         mkdir -p $DIR/$tdir
461         $SETSTRIPE -c -1 $DIR/$tdir
462 #define OBD_FAIL_MDS_LOV_PREP_CREATE 0x141
463         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000141
464         touch $DIR/$tdir/$tfile || true
465 }
466 run_test 17h "create objects: lov_free_memmd() doesn't lbug"
467
468 test_17i() { #bug 20018
469         remote_mds_nodsh && skip "remote MDS with nodsh" && return
470         mkdir -p $DIR/$tdir
471         local foo=$DIR/$tdir/$tfile
472         ln -s $foo $foo || error "create symlink failed"
473 #define OBD_FAIL_MDS_READLINK_EPROTO     0x143
474         do_facet $SINGLEMDS lctl set_param fail_loc=0x80000143
475         ls -l $foo && error "error not detected"
476         return 0
477 }
478 run_test 17i "don't panic on short symlink"
479
480 test_17k() { #bug 22301
481         rsync --help | grep -q xattr ||
482                 skip_env "$(rsync --version| head -1) does not support xattrs"
483         mkdir -p $DIR/{$tdir,$tdir.new}
484         touch $DIR/$tdir/$tfile
485         ln -s $DIR/$tdir/$tfile $DIR/$tdir/$tfile.lnk
486         rsync -av -X $DIR/$tdir/ $DIR/$tdir.new ||
487                 error "rsync failed with xattrs enabled"
488 }
489 run_test 17k "symlinks: rsync with xattrs enabled ========================="
490
491 # LU-1540
492 test_17m() {
493         local short_sym="0123456789"
494         local WDIR=$DIR/${tdir}m
495         local mds_index
496         local devname
497         local cmd
498         local i
499         local rc=0
500
501         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.0) ] &&
502         [ $(lustre_version_code $SINGLEMDS) -le $(version_code 2.2.93) ] &&
503                 skip "MDS 2.2.0-2.2.93 do not NUL-terminate symlinks" && return
504         mkdir -p $WDIR
505         long_sym=$short_sym
506         # create a long symlink file
507         for ((i = 0; i < 4; ++i)); do
508                 long_sym=${long_sym}${long_sym}
509         done
510
511         echo "create 512 short and long symlink files under $WDIR"
512         for ((i = 0; i < 256; ++i)); do
513                 ln -sf ${long_sym}"a5a5" $WDIR/long-$i
514                 ln -sf ${short_sym}"a5a5" $WDIR/short-$i
515         done
516
517         echo "erase them"
518         rm -f $WDIR/*
519         sync
520         sleep 2
521
522         echo "recreate the 512 symlink files with a shorter string"
523         for ((i = 0; i < 512; ++i)); do
524                 # rewrite the symlink file with a shorter string
525                 ln -sf ${long_sym} $WDIR/long-$i
526                 ln -sf ${short_sym} $WDIR/short-$i
527         done
528
529         mds_index=$($LFS getstripe -M $WDIR)
530         mds_index=$((mds_index+1))
531         devname=$(mdsdevname $mds_index)
532         cmd="$E2FSCK -fnvd $devname"
533
534         echo "stop and checking mds${mds_index}: $cmd"
535         # e2fsck should not return error
536         stop mds${mds_index} -f
537         do_facet mds${mds_index} $cmd || rc=$?
538
539         start mds${mds_index} $devname $MDS_MOUNT_OPTS
540         df $MOUNT > /dev/null 2>&1
541         [ $rc -ne 0 ] && error "e2fsck should not report error upon "\
542                 "short/long symlink MDT: rc=$rc"
543         return $rc
544 }
545 run_test 17m "run e2fsck against MDT which contains short/long symlink"
546
547 test_18() {
548         touch $DIR/f
549         ls $DIR || error
550 }
551 run_test 18 "touch .../f ; ls ... =============================="
552
553 test_19a() {
554         touch $DIR/f19
555         ls -l $DIR
556         rm $DIR/f19
557         $CHECKSTAT -a $DIR/f19 || error
558 }
559 run_test 19a "touch .../f19 ; ls -l ... ; rm .../f19 ==========="
560
561 test_19b() {
562         ls -l $DIR/f19 && error || true
563 }
564 run_test 19b "ls -l .../f19 (should return error) =============="
565
566 test_19c() {
567         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
568         $RUNAS touch $DIR/f19 && error || true
569 }
570 run_test 19c "$RUNAS touch .../f19 (should return error) =="
571
572 test_19d() {
573         cat $DIR/f19 && error || true
574 }
575 run_test 19d "cat .../f19 (should return error) =============="
576
577 test_20() {
578         touch $DIR/f
579         rm $DIR/f
580         log "1 done"
581         touch $DIR/f
582         rm $DIR/f
583         log "2 done"
584         touch $DIR/f
585         rm $DIR/f
586         log "3 done"
587         $CHECKSTAT -a $DIR/f || error
588 }
589 run_test 20 "touch .../f ; ls -l ... ==========================="
590
591 test_21() {
592         mkdir $DIR/d21
593         [ -f $DIR/d21/dangle ] && rm -f $DIR/d21/dangle
594         ln -s dangle $DIR/d21/link
595         echo foo >> $DIR/d21/link
596         cat $DIR/d21/dangle
597         $CHECKSTAT -t link $DIR/d21/link || error
598         $CHECKSTAT -f -t file $DIR/d21/link || error
599 }
600 run_test 21 "write to dangling link ============================"
601
602 test_22() {
603         WDIR=$DIR/$tdir
604         mkdir -p $WDIR
605         chown $RUNAS_ID:$RUNAS_GID $WDIR
606         (cd $WDIR || error "cd $WDIR failed";
607         $RUNAS tar cf - /etc/hosts /etc/sysconfig/network | \
608         $RUNAS tar xf -)
609         ls -lR $WDIR/etc || error "ls -lR $WDIR/etc failed"
610         $CHECKSTAT -t dir $WDIR/etc || error "checkstat -t dir failed"
611         $CHECKSTAT -u \#$RUNAS_ID -g \#$RUNAS_GID $WDIR/etc || error "checkstat -u failed"
612 }
613 run_test 22 "unpack tar archive as non-root user ==============="
614
615 # was test_23
616 test_23a() {
617         mkdir -p $DIR/$tdir
618         local file=$DIR/$tdir/$tfile
619
620         openfile -f O_CREAT:O_EXCL $file || error "$file create failed"
621         openfile -f O_CREAT:O_EXCL $file &&
622                 error "$file recreate succeeded" || true
623 }
624 run_test 23a "O_CREAT|O_EXCL in subdir =========================="
625
626 test_23b() { # bug 18988
627         mkdir -p $DIR/$tdir
628         local file=$DIR/$tdir/$tfile
629
630         rm -f $file
631         echo foo > $file || error "write filed"
632         echo bar >> $file || error "append filed"
633         $CHECKSTAT -s 8 $file || error "wrong size"
634         rm $file
635 }
636 run_test 23b "O_APPEND check =========================="
637
638 test_24a() {
639         echo '== rename sanity =============================================='
640         echo '-- same directory rename'
641         mkdir $DIR/R1
642         touch $DIR/R1/f
643         mv $DIR/R1/f $DIR/R1/g
644         $CHECKSTAT -t file $DIR/R1/g || error
645 }
646 run_test 24a "touch .../R1/f; rename .../R1/f .../R1/g ========="
647
648 test_24b() {
649         mkdir $DIR/R2
650         touch $DIR/R2/{f,g}
651         mv $DIR/R2/f $DIR/R2/g
652         $CHECKSTAT -a $DIR/R2/f || error
653         $CHECKSTAT -t file $DIR/R2/g || error
654 }
655 run_test 24b "touch .../R2/{f,g}; rename .../R2/f .../R2/g ====="
656
657 test_24c() {
658         mkdir $DIR/R3
659         mkdir $DIR/R3/f
660         mv $DIR/R3/f $DIR/R3/g
661         $CHECKSTAT -a $DIR/R3/f || error
662         $CHECKSTAT -t dir $DIR/R3/g || error
663 }
664 run_test 24c "mkdir .../R3/f; rename .../R3/f .../R3/g ========="
665
666 test_24d() {
667         mkdir $DIR/R4
668         mkdir $DIR/R4/{f,g}
669         mrename $DIR/R4/f $DIR/R4/g
670         $CHECKSTAT -a $DIR/R4/f || error
671         $CHECKSTAT -t dir $DIR/R4/g || error
672 }
673 run_test 24d "mkdir .../R4/{f,g}; rename .../R4/f .../R4/g ====="
674
675 test_24e() {
676         echo '-- cross directory renames --'
677         mkdir $DIR/R5{a,b}
678         touch $DIR/R5a/f
679         mv $DIR/R5a/f $DIR/R5b/g
680         $CHECKSTAT -a $DIR/R5a/f || error
681         $CHECKSTAT -t file $DIR/R5b/g || error
682 }
683 run_test 24e "touch .../R5a/f; rename .../R5a/f .../R5b/g ======"
684
685 test_24f() {
686         mkdir $DIR/R6{a,b}
687         touch $DIR/R6a/f $DIR/R6b/g
688         mv $DIR/R6a/f $DIR/R6b/g
689         $CHECKSTAT -a $DIR/R6a/f || error
690         $CHECKSTAT -t file $DIR/R6b/g || error
691 }
692 run_test 24f "touch .../R6a/f R6b/g; mv .../R6a/f .../R6b/g ===="
693
694 test_24g() {
695         mkdir $DIR/R7{a,b}
696         mkdir $DIR/R7a/d
697         mv $DIR/R7a/d $DIR/R7b/e
698         $CHECKSTAT -a $DIR/R7a/d || error
699         $CHECKSTAT -t dir $DIR/R7b/e || error
700 }
701 run_test 24g "mkdir .../R7{a,b}/d; mv .../R7a/d .../R7b/e ======"
702
703 test_24h() {
704         mkdir $DIR/R8{a,b}
705         mkdir $DIR/R8a/d $DIR/R8b/e
706         mrename $DIR/R8a/d $DIR/R8b/e
707         $CHECKSTAT -a $DIR/R8a/d || error
708         $CHECKSTAT -t dir $DIR/R8b/e || error
709 }
710 run_test 24h "mkdir .../R8{a,b}/{d,e}; rename .../R8a/d .../R8b/e"
711
712 test_24i() {
713         echo "-- rename error cases"
714         mkdir $DIR/R9
715         mkdir $DIR/R9/a
716         touch $DIR/R9/f
717         mrename $DIR/R9/f $DIR/R9/a
718         $CHECKSTAT -t file $DIR/R9/f || error
719         $CHECKSTAT -t dir  $DIR/R9/a || error
720         $CHECKSTAT -a $DIR/R9/a/f || error
721 }
722 run_test 24i "rename file to dir error: touch f ; mkdir a ; rename f a"
723
724 test_24j() {
725         mkdir $DIR/R10
726         mrename $DIR/R10/f $DIR/R10/g
727         $CHECKSTAT -t dir $DIR/R10 || error
728         $CHECKSTAT -a $DIR/R10/f || error
729         $CHECKSTAT -a $DIR/R10/g || error
730 }
731 run_test 24j "source does not exist ============================"
732
733 test_24k() {
734         mkdir $DIR/R11a $DIR/R11a/d
735         touch $DIR/R11a/f
736         mv $DIR/R11a/f $DIR/R11a/d
737         $CHECKSTAT -a $DIR/R11a/f || error
738         $CHECKSTAT -t file $DIR/R11a/d/f || error
739 }
740 run_test 24k "touch .../R11a/f; mv .../R11a/f .../R11a/d ======="
741
742 # bug 2429 - rename foo foo foo creates invalid file
743 test_24l() {
744         f="$DIR/f24l"
745         $MULTIOP $f OcNs || error
746 }
747 run_test 24l "Renaming a file to itself ========================"
748
749 test_24m() {
750         f="$DIR/f24m"
751         $MULTIOP $f OcLN ${f}2 ${f}2 || error "link ${f}2 ${f}2 failed"
752         # on ext3 this does not remove either the source or target files
753         # though the "expected" operation would be to remove the source
754         $CHECKSTAT -t file ${f} || error "${f} missing"
755         $CHECKSTAT -t file ${f}2 || error "${f}2 missing"
756 }
757 run_test 24m "Renaming a file to a hard link to itself ========="
758
759 test_24n() {
760     f="$DIR/f24n"
761     # this stats the old file after it was renamed, so it should fail
762     touch ${f}
763     $CHECKSTAT ${f}
764     mv ${f} ${f}.rename
765     $CHECKSTAT ${f}.rename
766     $CHECKSTAT -a ${f}
767 }
768 run_test 24n "Statting the old file after renaming (Posix rename 2)"
769
770 test_24o() {
771         check_kernel_version 37 || return 0
772         mkdir -p $DIR/d24o
773         rename_many -s random -v -n 10 $DIR/d24o
774 }
775 run_test 24o "rename of files during htree split ==============="
776
777 test_24p() {
778         mkdir $DIR/R12{a,b}
779         DIRINO=`ls -lid $DIR/R12a | awk '{ print $1 }'`
780         mrename $DIR/R12a $DIR/R12b
781         $CHECKSTAT -a $DIR/R12a || error
782         $CHECKSTAT -t dir $DIR/R12b || error
783         DIRINO2=`ls -lid $DIR/R12b | awk '{ print $1 }'`
784         [ "$DIRINO" = "$DIRINO2" ] || error "R12a $DIRINO != R12b $DIRINO2"
785 }
786 run_test 24p "mkdir .../R12{a,b}; rename .../R12a .../R12b"
787
788 test_24q() {
789         mkdir $DIR/R13{a,b}
790         DIRINO=`ls -lid $DIR/R13a | awk '{ print $1 }'`
791         multiop_bg_pause $DIR/R13b D_c || return 1
792         MULTIPID=$!
793
794         mrename $DIR/R13a $DIR/R13b
795         $CHECKSTAT -a $DIR/R13a || error
796         $CHECKSTAT -t dir $DIR/R13b || error
797         DIRINO2=`ls -lid $DIR/R13b | awk '{ print $1 }'`
798         [ "$DIRINO" = "$DIRINO2" ] || error "R13a $DIRINO != R13b $DIRINO2"
799         kill -USR1 $MULTIPID
800         wait $MULTIPID || error "multiop close failed"
801 }
802 run_test 24q "mkdir .../R13{a,b}; open R13b rename R13a R13b ==="
803
804 test_24r() { #bug 3789
805         mkdir $DIR/R14a $DIR/R14a/b
806         mrename $DIR/R14a $DIR/R14a/b && error "rename to subdir worked!"
807         $CHECKSTAT -t dir $DIR/R14a || error "$DIR/R14a missing"
808         $CHECKSTAT -t dir $DIR/R14a/b || error "$DIR/R14a/b missing"
809 }
810 run_test 24r "mkdir .../R14a/b; rename .../R14a .../R14a/b ====="
811
812 test_24s() {
813         mkdir $DIR/R15a $DIR/R15a/b $DIR/R15a/b/c
814         mrename $DIR/R15a $DIR/R15a/b/c && error "rename to sub-subdir worked!"
815         $CHECKSTAT -t dir $DIR/R15a || error "$DIR/R15a missing"
816         $CHECKSTAT -t dir $DIR/R15a/b/c || error "$DIR/R15a/b/c missing"
817 }
818 run_test 24s "mkdir .../R15a/b/c; rename .../R15a .../R15a/b/c ="
819 test_24t() {
820         mkdir $DIR/R16a $DIR/R16a/b $DIR/R16a/b/c
821         mrename $DIR/R16a/b/c $DIR/R16a && error "rename to sub-subdir worked!"
822         $CHECKSTAT -t dir $DIR/R16a || error "$DIR/R16a missing"
823         $CHECKSTAT -t dir $DIR/R16a/b/c || error "$DIR/R16a/b/c missing"
824 }
825 run_test 24t "mkdir .../R16a/b/c; rename .../R16a/b/c .../R16a ="
826
827 test_24u() { # bug12192
828         $MULTIOP $DIR/$tfile C2w$((2048 * 1024))c || error
829         $CHECKSTAT -s $((2048 * 1024)) $DIR/$tfile || error "wrong file size"
830 }
831 run_test 24u "create stripe file"
832
833 page_size() {
834         getconf PAGE_SIZE
835 }
836
837 test_24v() {
838         local NRFILES=100000
839         local FREE_INODES=`lfs df -i|grep "filesystem summary" | awk '{print $5}'`
840         [ $FREE_INODES -lt $NRFILES ] && \
841                 skip "not enough free inodes $FREE_INODES required $NRFILES" && \
842                 return
843
844         mkdir -p $DIR/d24v
845         createmany -m $DIR/d24v/$tfile $NRFILES
846
847         cancel_lru_locks mdc
848         lctl set_param mdc.*.stats clear
849
850         ls $DIR/d24v >/dev/null || error "error in listing large dir"
851
852         # LU-5 large readdir
853         # DIRENT_SIZE = 32 bytes for sizeof(struct lu_dirent) +
854         #               8 bytes for name(filename is mostly 5 in this test) +
855         #               8 bytes for luda_type
856         # take into account of overhead in lu_dirpage header and end mark in
857         # each page, plus one in RPC_NUM calculation.
858         DIRENT_SIZE=48
859         RPC_SIZE=$(($(lctl get_param -n mdc.*.max_pages_per_rpc)*$(page_size)))
860         RPC_NUM=$(((NRFILES * DIRENT_SIZE + RPC_SIZE - 1) / RPC_SIZE + 1))
861         mds_readpage=`lctl get_param mdc.*.stats | \
862                                 awk '/^mds_readpage/ {print $2}'`
863         [ $mds_readpage -gt $RPC_NUM ] && \
864                 error "large readdir doesn't take effect"
865
866         rm $DIR/d24v -rf
867 }
868 run_test 24v "list directory with large files (handle hash collision, bug: 17560)"
869
870 test_24w() { # bug21506
871         SZ1=234852
872         dd if=/dev/zero of=$DIR/$tfile bs=1M count=1 seek=4096 || return 1
873         dd if=/dev/zero bs=$SZ1 count=1 >> $DIR/$tfile || return 2
874         dd if=$DIR/$tfile of=$DIR/${tfile}_left bs=1M skip=4097 || return 3
875         SZ2=`ls -l $DIR/${tfile}_left | awk '{print $5}'`
876         [ "$SZ1" = "$SZ2" ] || \
877                 error "Error reading at the end of the file $tfile"
878 }
879 run_test 24w "Reading a file larger than 4Gb"
880
881 test_25a() {
882         echo '== symlink sanity ============================================='
883
884         mkdir $DIR/d25
885         ln -s d25 $DIR/s25
886         touch $DIR/s25/foo || error
887 }
888 run_test 25a "create file in symlinked directory ==============="
889
890 test_25b() {
891         [ ! -d $DIR/d25 ] && test_25a
892         $CHECKSTAT -t file $DIR/s25/foo || error
893 }
894 run_test 25b "lookup file in symlinked directory ==============="
895
896 test_26a() {
897         mkdir $DIR/d26
898         mkdir $DIR/d26/d26-2
899         ln -s d26/d26-2 $DIR/s26
900         touch $DIR/s26/foo || error
901 }
902 run_test 26a "multiple component symlink ======================="
903
904 test_26b() {
905         mkdir -p $DIR/d26b/d26-2
906         ln -s d26b/d26-2/foo $DIR/s26-2
907         touch $DIR/s26-2 || error
908 }
909 run_test 26b "multiple component symlink at end of lookup ======"
910
911 test_26c() {
912         mkdir $DIR/d26.2
913         touch $DIR/d26.2/foo
914         ln -s d26.2 $DIR/s26.2-1
915         ln -s s26.2-1 $DIR/s26.2-2
916         ln -s s26.2-2 $DIR/s26.2-3
917         chmod 0666 $DIR/s26.2-3/foo
918 }
919 run_test 26c "chain of symlinks ================================"
920
921 # recursive symlinks (bug 439)
922 test_26d() {
923         ln -s d26-3/foo $DIR/d26-3
924 }
925 run_test 26d "create multiple component recursive symlink ======"
926
927 test_26e() {
928         [ ! -h $DIR/d26-3 ] && test_26d
929         rm $DIR/d26-3
930 }
931 run_test 26e "unlink multiple component recursive symlink ======"
932
933 # recursive symlinks (bug 7022)
934 test_26f() {
935         mkdir -p $DIR/$tdir
936         mkdir $DIR/$tdir/$tfile        || error "mkdir $DIR/$tdir/$tfile failed"
937         cd $DIR/$tdir/$tfile           || error "cd $DIR/$tdir/$tfile failed"
938         mkdir -p lndir/bar1      || error "mkdir lndir/bar1 failed"
939         mkdir $tfile             || error "mkdir $tfile failed"
940         cd $tfile                || error "cd $tfile failed"
941         ln -s .. dotdot          || error "ln dotdot failed"
942         ln -s dotdot/lndir lndir || error "ln lndir failed"
943         cd $DIR/$tdir                 || error "cd $DIR/$tdir failed"
944         output=`ls $tfile/$tfile/lndir/bar1`
945         [ "$output" = bar1 ] && error "unexpected output"
946         rm -r $tfile             || error "rm $tfile failed"
947         $CHECKSTAT -a $DIR/$tfile || error "$tfile not gone"
948 }
949 run_test 26f "rm -r of a directory which has recursive symlink ="
950
951 test_27a() {
952         echo '== stripe sanity =============================================='
953         mkdir -p $DIR/d27 || error "mkdir failed"
954         $GETSTRIPE $DIR/d27
955         $SETSTRIPE -c 1 $DIR/d27/f0 || error "setstripe failed"
956         $CHECKSTAT -t file $DIR/d27/f0 || error "checkstat failed"
957         pass
958         log "== test_27a: write to one stripe file ========================="
959         cp /etc/hosts $DIR/d27/f0 || error
960 }
961 run_test 27a "one stripe file =================================="
962
963 test_27b() {
964         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
965         mkdir -p $DIR/d27
966         $SETSTRIPE -c 2 $DIR/d27/f01 || error "setstripe failed"
967         $GETSTRIPE -c $DIR/d27/f01
968         [ $($GETSTRIPE -c $DIR/d27/f01) -eq 2 ] ||
969                 error "two-stripe file doesn't have two stripes"
970 }
971 run_test 27b "create two stripe file"
972
973 test_27c() {
974         [ -f $DIR/d27/f01 ] || skip "test_27b not run" && return
975
976         dd if=/dev/zero of=$DIR/d27/f01 bs=4k count=4 || error "dd failed"
977 }
978 run_test 27c "write to two stripe file"
979
980 test_27d() {
981         mkdir -p $DIR/d27
982         $SETSTRIPE -c 0 -i -1 -S 0 $DIR/d27/fdef || error "setstripe failed"
983         $CHECKSTAT -t file $DIR/d27/fdef || error "checkstat failed"
984         dd if=/dev/zero of=$DIR/d27/fdef bs=4k count=4 || error
985 }
986 run_test 27d "create file with default settings ================"
987
988 test_27e() {
989         mkdir -p $DIR/d27
990         $SETSTRIPE -c 2 $DIR/d27/f12 || error "setstripe failed"
991         $SETSTRIPE -c 2 $DIR/d27/f12 && error "setstripe succeeded twice"
992         $CHECKSTAT -t file $DIR/d27/f12 || error "checkstat failed"
993 }
994 run_test 27e "setstripe existing file (should return error) ======"
995
996 test_27f() {
997         mkdir -p $DIR/d27
998         $SETSTRIPE -S 100 -i 0 -c 1 $DIR/d27/fbad && error "setstripe failed"
999         dd if=/dev/zero of=$DIR/d27/f12 bs=4k count=4 || error "dd failed"
1000         $GETSTRIPE $DIR/d27/fbad || error "$GETSTRIPE failed"
1001 }
1002 run_test 27f "setstripe with bad stripe size (should return error)"
1003
1004 test_27g() {
1005         mkdir -p $DIR/d27
1006         $MCREATE $DIR/d27/fnone || error "mcreate failed"
1007         $GETSTRIPE $DIR/d27/fnone 2>&1 | grep "no stripe info" ||
1008                 error "$DIR/d27/fnone has object"
1009 }
1010 run_test 27g "$GETSTRIPE with no objects"
1011
1012 test_27i() {
1013         touch $DIR/d27/fsome || error "touch failed"
1014         [ $($GETSTRIPE -c $DIR/d27/fsome) -gt 0 ] || error "missing objects"
1015 }
1016 run_test 27i "$GETSTRIPE with some objects"
1017
1018 test_27j() {
1019         mkdir -p $DIR/d27
1020         $SETSTRIPE -i $OSTCOUNT $DIR/d27/f27j && error "setstripe failed"||true
1021 }
1022 run_test 27j "setstripe with bad stripe offset (should return error)"
1023
1024 test_27k() { # bug 2844
1025         mkdir -p $DIR/d27
1026         FILE=$DIR/d27/f27k
1027         LL_MAX_BLKSIZE=$((4 * 1024 * 1024))
1028         [ ! -d $DIR/d27 ] && mkdir -p $DIR/d27
1029         $SETSTRIPE -S 67108864 $FILE || error "setstripe failed"
1030         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
1031         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
1032         dd if=/dev/zero of=$FILE bs=4k count=1
1033         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
1034         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
1035 }
1036 run_test 27k "limit i_blksize for broken user apps ============="
1037
1038 test_27l() {
1039         mkdir -p $DIR/d27
1040         mcreate $DIR/f27l || error "creating file"
1041         $RUNAS $SETSTRIPE -c 1 $DIR/f27l && \
1042                 error "setstripe should have failed" || true
1043 }
1044 run_test 27l "check setstripe permissions (should return error)"
1045
1046 test_27m() {
1047         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" && return
1048         if [ $ORIGFREE -gt $MAXFREE ]; then
1049                 skip "$ORIGFREE > $MAXFREE skipping out-of-space test on OST0"
1050                 return
1051         fi
1052         mkdir -p $DIR/d27
1053         $SETSTRIPE -i 0 -c 1 $DIR/d27/f27m_1
1054         dd if=/dev/zero of=$DIR/d27/f27m_1 bs=1024 count=$MAXFREE &&
1055                 error "dd should fill OST0"
1056         i=2
1057         while $SETSTRIPE -i 0 -c 1 $DIR/d27/f27m_$i; do
1058                 i=`expr $i + 1`
1059                 [ $i -gt 256 ] && break
1060         done
1061         i=`expr $i + 1`
1062         touch $DIR/d27/f27m_$i
1063         [ `$GETSTRIPE $DIR/d27/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] && \
1064                 error "OST0 was full but new created file still use it"
1065         i=`expr $i + 1`
1066         touch $DIR/d27/f27m_$i
1067         [ `$GETSTRIPE $DIR/d27/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] && \
1068                 error "OST0 was full but new created file still use it"
1069         rm -r $DIR/d27
1070         sleep 15
1071 }
1072 run_test 27m "create file while OST0 was full =================="
1073
1074 sleep_maxage() {
1075         local DELAY=$(do_facet $SINGLEMDS lctl get_param -n lov.*.qos_maxage | head -n 1 | awk '{print $1 * 2}')
1076         sleep $DELAY
1077 }
1078
1079 # OSCs keep a NOSPC flag that will be reset after ~5s (qos_maxage)
1080 # if the OST isn't full anymore.
1081 reset_enospc() {
1082         local OSTIDX=${1:-""}
1083
1084         local list=$(comma_list $(osts_nodes))
1085         [ "$OSTIDX" ] && list=$(facet_host ost$((OSTIDX + 1)))
1086
1087         do_nodes $list lctl set_param fail_loc=0
1088         sleep_maxage
1089 }
1090
1091 exhaust_precreations() {
1092         local OSTIDX=$1
1093         local FAILLOC=$2
1094         local FAILIDX=${3:-$OSTIDX}
1095
1096         mkdir -p $DIR/$tdir
1097         local MDSIDX=$(get_mds_dir "$DIR/$tdir")
1098         echo OSTIDX=$OSTIDX MDSIDX=$MDSIDX
1099
1100         local OST=$(ostname_from_index $OSTIDX)
1101         local MDT_INDEX=$(lfs df | grep "\[MDT:$((MDSIDX - 1))\]" | awk '{print $1}' | \
1102                           sed -e 's/_UUID$//;s/^.*-//')
1103
1104         # on the mdt's osc
1105         local mdtosc_proc1=$(get_mdtosc_proc_path mds${MDSIDX} $OST)
1106         local last_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1107         osc.$mdtosc_proc1.prealloc_last_id)
1108         local next_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1109         osc.$mdtosc_proc1.prealloc_next_id)
1110
1111         local mdtosc_proc2=$(get_mdtosc_proc_path mds${MDSIDX})
1112         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1113
1114         mkdir -p $DIR/$tdir/${OST}
1115         $SETSTRIPE -i $OSTIDX -c 1 $DIR/$tdir/${OST}
1116 #define OBD_FAIL_OST_ENOSPC              0x215
1117         do_facet ost$((OSTIDX + 1)) lctl set_param fail_val=$FAILIDX
1118         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=0x215
1119         echo "Creating to objid $last_id on ost $OST..."
1120         createmany -o $DIR/$tdir/${OST}/f $next_id $((last_id - next_id + 2))
1121         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1122         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=$FAILLOC
1123         sleep_maxage
1124 }
1125
1126 exhaust_all_precreations() {
1127         local i
1128         for (( i=0; i < OSTCOUNT; i++ )) ; do
1129                 exhaust_precreations $i $1 -1
1130         done
1131 }
1132
1133 test_27n() {
1134         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1135         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1136         remote_ost_nodsh && skip "remote OST with nodsh" && return
1137
1138         reset_enospc
1139         rm -f $DIR/$tdir/$tfile
1140         exhaust_precreations 0 0x80000215
1141         $SETSTRIPE -c -1 $DIR/$tdir
1142         touch $DIR/$tdir/$tfile || error
1143         $GETSTRIPE $DIR/$tdir/$tfile
1144         reset_enospc
1145 }
1146 run_test 27n "create file with some full OSTs =================="
1147
1148 test_27o() {
1149         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1150         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1151         remote_ost_nodsh && skip "remote OST with nodsh" && return
1152
1153         reset_enospc
1154         rm -f $DIR/$tdir/$tfile
1155         exhaust_all_precreations 0x215
1156
1157         touch $DIR/$tdir/$tfile && error "able to create $DIR/$tdir/$tfile"
1158
1159         reset_enospc
1160         rm -rf $DIR/$tdir/*
1161 }
1162 run_test 27o "create file with all full OSTs (should error) ===="
1163
1164 test_27p() {
1165         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1166         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1167         remote_ost_nodsh && skip "remote OST with nodsh" && return
1168
1169         reset_enospc
1170         rm -f $DIR/$tdir/$tfile
1171         mkdir -p $DIR/$tdir
1172
1173         $MCREATE $DIR/$tdir/$tfile || error "mcreate failed"
1174         $TRUNCATE $DIR/$tdir/$tfile 80000000 || error "truncate failed"
1175         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1176
1177         exhaust_precreations 0 0x80000215
1178         echo foo >> $DIR/$tdir/$tfile || error "append failed"
1179         $CHECKSTAT -s 80000004 $DIR/$tdir/$tfile || error "checkstat failed"
1180         $GETSTRIPE $DIR/$tdir/$tfile
1181
1182         reset_enospc
1183 }
1184 run_test 27p "append to a truncated file with some full OSTs ==="
1185
1186 test_27q() {
1187         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1188         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1189         remote_ost_nodsh && skip "remote OST with nodsh" && return
1190
1191         reset_enospc
1192         rm -f $DIR/$tdir/$tfile
1193
1194         mkdir -p $DIR/$tdir
1195         $MCREATE $DIR/$tdir/$tfile || error "mcreate $DIR/$tdir/$tfile failed"
1196         $TRUNCATE $DIR/$tdir/$tfile 80000000 ||error "truncate $DIR/$tdir/$tfile failed"
1197         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1198
1199         exhaust_all_precreations 0x215
1200
1201         echo foo >> $DIR/$tdir/$tfile && error "append succeeded"
1202         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat 2 failed"
1203
1204         reset_enospc
1205 }
1206 run_test 27q "append to truncated file with all OSTs full (should error) ==="
1207
1208 test_27r() {
1209         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1210         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1211         remote_ost_nodsh && skip "remote OST with nodsh" && return
1212
1213         reset_enospc
1214         rm -f $DIR/$tdir/$tfile
1215         exhaust_precreations 0 0x80000215
1216
1217         $SETSTRIPE -i 0 -c 2 $DIR/$tdir/$tfile # && error
1218
1219         reset_enospc
1220 }
1221 run_test 27r "stripe file with some full OSTs (shouldn't LBUG) ="
1222
1223 test_27s() { # bug 10725
1224         mkdir -p $DIR/$tdir
1225         local stripe_size=$((4096 * 1024 * 1024))       # 2^32
1226         local stripe_count=0
1227         [ $OSTCOUNT -eq 1 ] || stripe_count=2
1228         $SETSTRIPE -S $stripe_size -c $stripe_count $DIR/$tdir &&
1229                 error "stripe width >= 2^32 succeeded" || true
1230
1231 }
1232 run_test 27s "lsm_xfersize overflow (should error) (bug 10725)"
1233
1234 test_27t() { # bug 10864
1235         WDIR=`pwd`
1236         WLFS=`which lfs`
1237         cd $DIR
1238         touch $tfile
1239         $WLFS getstripe $tfile
1240         cd $WDIR
1241 }
1242 run_test 27t "check that utils parse path correctly"
1243
1244 test_27u() { # bug 4900
1245         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1246         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1247
1248 #define OBD_FAIL_MDS_OSC_PRECREATE      0x139
1249         do_facet $SINGLEMDS lctl set_param fail_loc=0x139
1250         mkdir -p $DIR/$tdir
1251         createmany -o $DIR/$tdir/t- 1000
1252         do_facet $SINGLEMDS lctl set_param fail_loc=0
1253
1254         TLOG=$DIR/$tfile.getstripe
1255         $GETSTRIPE $DIR/$tdir > $TLOG
1256         OBJS=`awk -vobj=0 '($1 == 0) { obj += 1 } END { print obj;}' $TLOG`
1257         unlinkmany $DIR/$tdir/t- 1000
1258         [ $OBJS -gt 0 ] && \
1259                 error "$OBJS objects created on OST-0.  See $TLOG" || pass
1260 }
1261 run_test 27u "skip object creation on OSC w/o objects =========="
1262
1263 test_27v() { # bug 4900
1264         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1265         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1266         remote_ost_nodsh && skip "remote OST with nodsh" && return
1267
1268         exhaust_all_precreations 0x215
1269         reset_enospc
1270
1271         mkdir -p $DIR/$tdir
1272         $SETSTRIPE -c 1 $DIR/$tdir         # 1 stripe / file
1273
1274         touch $DIR/$tdir/$tfile
1275         #define OBD_FAIL_TGT_DELAY_PRECREATE     0x705
1276         # all except ost1
1277         for (( i=1; i < OSTCOUNT; i++ )); do
1278                 do_facet ost$i lctl set_param fail_loc=0x705
1279         done
1280         local START=`date +%s`
1281         createmany -o $DIR/$tdir/$tfile 32
1282
1283         local FINISH=`date +%s`
1284         local TIMEOUT=`lctl get_param -n timeout`
1285         local PROCESS=$((FINISH - START))
1286         [ $PROCESS -ge $((TIMEOUT / 2)) ] && \
1287                error "$FINISH - $START >= $TIMEOUT / 2"
1288         sleep $((TIMEOUT / 2 - PROCESS))
1289         reset_enospc
1290 }
1291 run_test 27v "skip object creation on slow OST ================="
1292
1293 test_27w() { # bug 10997
1294         mkdir -p $DIR/$tdir || error "mkdir failed"
1295         $SETSTRIPE -S 65536 $DIR/$tdir/f0 || error "setstripe failed"
1296         [ $($GETSTRIPE -S $DIR/$tdir/f0) -ne 65536 ] &&
1297                 error "stripe size $size != 65536" || true
1298         [ $($GETSTRIPE -d $DIR/$tdir | grep -c "stripe_count") -ne 1 ] &&
1299                 error "$GETSTRIPE -d $DIR/$tdir failed" || true
1300 }
1301 run_test 27w "check $SETSTRIPE -S option"
1302
1303 test_27wa() {
1304         [ "$OSTCOUNT" -lt "2" ] &&
1305                 skip_env "skipping multiple stripe count/offset test" && return
1306
1307         mkdir -p $DIR/$tdir || error "mkdir failed"
1308         for i in $(seq 1 $OSTCOUNT); do
1309                 offset=$((i - 1))
1310                 $SETSTRIPE -c $i -i $offset $DIR/$tdir/f$i ||
1311                         error "setstripe -c $i -i $offset failed"
1312                 count=$($GETSTRIPE -c $DIR/$tdir/f$i)
1313                 index=$($GETSTRIPE -i $DIR/$tdir/f$i)
1314                 [ $count -ne $i ] && error "stripe count $count != $i" || true
1315                 [ $index -ne $offset ] &&
1316                         error "stripe offset $index != $offset" || true
1317         done
1318 }
1319 run_test 27wa "check $SETSTRIPE -c -i options"
1320
1321 test_27x() {
1322         remote_ost_nodsh && skip "remote OST with nodsh" && return
1323         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs" && return
1324         OFFSET=$(($OSTCOUNT - 1))
1325         OSTIDX=0
1326         local OST=$(ostname_from_index $OSTIDX)
1327
1328         mkdir -p $DIR/$tdir
1329         $SETSTRIPE -c 1 $DIR/$tdir      # 1 stripe per file
1330         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 1
1331         sleep_maxage
1332         createmany -o $DIR/$tdir/$tfile $OSTCOUNT
1333         for i in `seq 0 $OFFSET`; do
1334                 [ `$GETSTRIPE $DIR/$tdir/$tfile$i | grep -A 10 obdidx | awk '{print $1}' | grep -w "$OSTIDX"` ] &&
1335                 error "OST0 was degraded but new created file still use it"
1336         done
1337         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 0
1338 }
1339 run_test 27x "create files while OST0 is degraded"
1340
1341 test_27y() {
1342         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" && return
1343         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1344         remote_ost_nodsh && skip "remote OST with nodsh" && return
1345
1346         local mdtosc=$(get_mdtosc_proc_path $SINGLEMDS $FSNAME-OST0000)
1347         local last_id=$(do_facet $SINGLEMDS lctl get_param -n \
1348             osc.$mdtosc.prealloc_last_id)
1349         local next_id=$(do_facet $SINGLEMDS lctl get_param -n \
1350             osc.$mdtosc.prealloc_next_id)
1351         local fcount=$((last_id - next_id))
1352         [ $fcount -eq 0 ] && skip "not enough space on OST0" && return
1353         [ $fcount -gt $OSTCOUNT ] && fcount=$OSTCOUNT
1354
1355         MDS_OSCS=`do_facet $SINGLEMDS lctl dl | awk '/[oO][sS][cC].*md[ts]/ { print $4 }'`
1356         OFFSET=$(($OSTCOUNT-1))
1357         OST=-1
1358         for OSC in $MDS_OSCS; do
1359                 if [ $OST == -1 ]; then {
1360                         OST=`osc_to_ost $OSC`
1361                 } else {
1362                         echo $OSC "is Deactivate:"
1363                         do_facet $SINGLEMDS lctl --device  %$OSC deactivate
1364                 } fi
1365         done
1366
1367         OSTIDX=$(index_from_ostuuid $OST)
1368         mkdir -p $DIR/$tdir
1369         $SETSTRIPE -c 1 $DIR/$tdir      # 1 stripe / file
1370
1371         do_facet ost$((OSTIDX+1)) lctl set_param -n obdfilter.$OST.degraded 1
1372         sleep_maxage
1373         createmany -o $DIR/$tdir/$tfile $fcount
1374         do_facet ost$((OSTIDX+1)) lctl set_param -n obdfilter.$OST.degraded 0
1375
1376         for i in `seq 0 $OFFSET`; do
1377                 [ `$GETSTRIPE $DIR/$tdir/$tfile$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "$OSTIDX"` ] || \
1378                       error "files created on deactivated OSTs instead of degraded OST"
1379         done
1380         for OSC in $MDS_OSCS; do
1381                 [ `osc_to_ost $OSC` != $OST  ] && {
1382                         echo $OSC "is activate"
1383                         do_facet $SINGLEMDS lctl --device %$OSC activate
1384                 }
1385         done
1386 }
1387 run_test 27y "create files while OST0 is degraded and the rest inactive"
1388
1389 check_seq_oid()
1390 {
1391         log "check file $1"
1392
1393         lmm_count=$($GETSTRIPE -c $1)
1394         lmm_seq=$($GETSTRIPE -v $1 | awk '/lmm_seq/ { print $2 }')
1395         lmm_oid=$($GETSTRIPE -v $1 | awk '/lmm_object_id/ { print $2 }')
1396
1397         local old_ifs="$IFS"
1398         IFS=$'[:]'
1399         fid=($($LFS path2fid $1))
1400         IFS="$old_ifs"
1401
1402         log "FID seq ${fid[1]}, oid ${fid[2]} ver ${fid[3]}"
1403         log "LOV seq $lmm_seq, oid $lmm_oid, count: $lmm_count"
1404
1405         # compare lmm_seq and lu_fid->f_seq
1406         [ $lmm_seq = ${fid[1]} ] || { error "SEQ mismatch"; return 1; }
1407         # compare lmm_object_id and lu_fid->oid
1408         [ $lmm_oid = ${fid[2]} ] || { error "OID mismatch"; return 2; }
1409
1410         # check the trusted.fid attribute of the OST objects of the file
1411         local have_obdidx=false
1412         local stripe_nr=0
1413         $GETSTRIPE $1 | while read obdidx oid hex seq; do
1414                 # skip lines up to and including "obdidx"
1415                 [ -z "$obdidx" ] && break
1416                 [ "$obdidx" = "obdidx" ] && have_obdidx=true && continue
1417                 $have_obdidx || continue
1418
1419                 local ost=$((obdidx + 1))
1420                 local dev=$(ostdevname $ost)
1421
1422                 if [ $(facet_fstype ost$ost) != ldiskfs ]; then
1423                         echo "Currently only works with ldiskfs-based OSTs"
1424                         continue
1425                 fi
1426
1427                 log "want: stripe:$stripe_nr ost:$obdidx oid:$oid/$hex seq:$seq"
1428
1429                 #don't unmount/remount the OSTs if we don't need to do that
1430                 #local dir=$(facet_mntpt ost$ost)
1431                 #stop ost$dev
1432                 #do_facet ost$dev mount -t $FSTYPE $dev $dir $OST_MOUNT_OPTS ||
1433                 #       { error "mounting $dev as $FSTYPE failed"; return 3; }
1434                 #local obj_file=$(do_facet ost$ost find $dir/O/$seq -name $oid)
1435                 #local ff=$(do_facet ost$ost $LL_DECODE_FILTER_FID $obj_file)
1436
1437                 local obj_file="O/$seq/d$((oid %32))/$oid"
1438                 local ff=$(do_facet ost$ost "$DEBUGFS -c -R 'stat $obj_file' \
1439                            $dev 2>/dev/null" | grep "parent=")
1440
1441                 [ -z "$ff" ] && error "$obj_file: no filter_fid info"
1442
1443                 echo "$ff" | sed -e 's#.*objid=#got: objid=#'
1444
1445                 #do_facet ost$ost umount -d $dir
1446                 #start ost$ost $dev $OST_MOUNT_OPTS
1447
1448                 # /mnt/O/0/d23/23: objid=23 seq=0 parent=[0x200000400:0x1e:0x1]
1449                 # fid: objid=23 seq=0 parent=[0x200000400:0x1e:0x0] stripe=1
1450                 local ff_parent=$(echo $ff|sed -e 's/.*parent=.//')
1451                 local ff_pseq=$(echo $ff_parent | cut -d: -f1)
1452                 local ff_poid=$(echo $ff_parent | cut -d: -f2)
1453                 local ff_pstripe=$(echo $ff_parent | sed -e 's/.*stripe=//')
1454
1455                 # compare lmm_seq and filter_fid->ff_parent.f_seq
1456                 [ $ff_pseq = $lmm_seq ] ||
1457                         error "FF parent SEQ $ff_pseq != $lmm_seq"
1458                 # compare lmm_object_id and filter_fid->ff_parent.f_oid
1459                 [ $ff_poid = $lmm_oid ] ||
1460                         error "FF parent OID $ff_poid != $lmm_oid"
1461                 [ $ff_pstripe = $stripe_nr ] ||
1462                         error "FF stripe $ff_pstripe != $stripe_nr"
1463
1464                 stripe_nr=$((stripe_nr + 1))
1465         done
1466 }
1467
1468 test_27z() {
1469         remote_ost_nodsh && skip "remote OST with nodsh" && return
1470         mkdir -p $DIR/$tdir
1471
1472         $SETSTRIPE -c 1 -i 0 -S 64k $DIR/$tdir/$tfile-1 ||
1473                 { error "setstripe -c -1 failed"; return 1; }
1474         # We need to send a write to every object to get parent FID info set.
1475         # This _should_ also work for setattr, but does not currently.
1476         # touch $DIR/$tdir/$tfile-1 ||
1477         dd if=/dev/zero of=$DIR/$tdir/$tfile-1 bs=1M count=1 ||
1478                 { error "dd $tfile-1 failed"; return 2; }
1479         $SETSTRIPE -c -1 -i $((OSTCOUNT - 1)) -S 1M $DIR/$tdir/$tfile-2 ||
1480                 { error "setstripe -c -1 failed"; return 3; }
1481         dd if=/dev/zero of=$DIR/$tdir/$tfile-2 bs=1M count=$OSTCOUNT ||
1482                 { error "dd $tfile-2 failed"; return 4; }
1483
1484         # make sure write RPCs have been sent to OSTs
1485         sync; sleep 5; sync
1486
1487         check_seq_oid $DIR/$tdir/$tfile-1 || return 5
1488         check_seq_oid $DIR/$tdir/$tfile-2 || return 6
1489 }
1490 run_test 27z "check SEQ/OID on the MDT and OST filesystems"
1491
1492 test_27A() { # b=19102
1493         local restore_size=$($GETSTRIPE -S $MOUNT)
1494         local restore_count=$($GETSTRIPE -c $MOUNT)
1495         local restore_offset=$($GETSTRIPE -i $MOUNT)
1496         $SETSTRIPE -c 0 -i -1 -S 0 $MOUNT
1497         local default_size=$($GETSTRIPE -S $MOUNT)
1498         local default_count=$($GETSTRIPE -c $MOUNT)
1499         local default_offset=$($GETSTRIPE -i $MOUNT)
1500         local dsize=$((1024 * 1024))
1501         [ $default_size -eq $dsize ] ||
1502                 error "stripe size $default_size != $dsize"
1503         [ $default_count -eq 1 ] || error "stripe count $default_count != 1"
1504         [ $default_offset -eq -1 ] ||error "stripe offset $default_offset != -1"
1505         $SETSTRIPE -c $restore_count -i $restore_offset -S $restore_size $MOUNT
1506 }
1507 run_test 27A "check filesystem-wide default LOV EA values"
1508
1509 # createtest also checks that device nodes are created and
1510 # then visible correctly (#2091)
1511 test_28() { # bug 2091
1512         mkdir $DIR/d28
1513         $CREATETEST $DIR/d28/ct || error
1514 }
1515 run_test 28 "create/mknod/mkdir with bad file types ============"
1516
1517 test_29() {
1518         cancel_lru_locks mdc
1519         mkdir $DIR/d29
1520         touch $DIR/d29/foo
1521         log 'first d29'
1522         ls -l $DIR/d29
1523
1524         declare -i LOCKCOUNTORIG=0
1525         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1526                 let LOCKCOUNTORIG=$LOCKCOUNTORIG+$lock_count
1527         done
1528         [ $LOCKCOUNTORIG -eq 0 ] && echo "No mdc lock count" && return 1
1529
1530         declare -i LOCKUNUSEDCOUNTORIG=0
1531         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1532                 let LOCKUNUSEDCOUNTORIG=$LOCKUNUSEDCOUNTORIG+$unused_count
1533         done
1534
1535         log 'second d29'
1536         ls -l $DIR/d29
1537         log 'done'
1538
1539         declare -i LOCKCOUNTCURRENT=0
1540         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1541                 let LOCKCOUNTCURRENT=$LOCKCOUNTCURRENT+$lock_count
1542         done
1543
1544         declare -i LOCKUNUSEDCOUNTCURRENT=0
1545         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1546                 let LOCKUNUSEDCOUNTCURRENT=$LOCKUNUSEDCOUNTCURRENT+$unused_count
1547         done
1548
1549         if [ "$LOCKCOUNTCURRENT" -gt "$LOCKCOUNTORIG" ]; then
1550                 lctl set_param -n ldlm.dump_namespaces ""
1551                 error "CURRENT: $LOCKCOUNTCURRENT > $LOCKCOUNTORIG"
1552                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1553                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1554                 return 2
1555         fi
1556         if [ "$LOCKUNUSEDCOUNTCURRENT" -gt "$LOCKUNUSEDCOUNTORIG" ]; then
1557                 error "UNUSED: $LOCKUNUSEDCOUNTCURRENT > $LOCKUNUSEDCOUNTORIG"
1558                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1559                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1560                 return 3
1561         fi
1562 }
1563 run_test 29 "IT_GETATTR regression  ============================"
1564
1565 test_30a() { # was test_30
1566         cp `which ls` $DIR || cp /bin/ls $DIR
1567         $DIR/ls / || error
1568         rm $DIR/ls
1569 }
1570 run_test 30a "execute binary from Lustre (execve) =============="
1571
1572 test_30b() {
1573         cp `which ls` $DIR || cp /bin/ls $DIR
1574         chmod go+rx $DIR/ls
1575         $RUNAS $DIR/ls / || error
1576         rm $DIR/ls
1577 }
1578 run_test 30b "execute binary from Lustre as non-root ==========="
1579
1580 test_30c() { # b=22376
1581         cp `which ls` $DIR || cp /bin/ls $DIR
1582         chmod a-rw $DIR/ls
1583         cancel_lru_locks mdc
1584         cancel_lru_locks osc
1585         $RUNAS $DIR/ls / || error
1586         rm -f $DIR/ls
1587 }
1588 run_test 30c "execute binary from Lustre without read perms ===="
1589
1590 test_31a() {
1591         $OPENUNLINK $DIR/f31 $DIR/f31 || error
1592         $CHECKSTAT -a $DIR/f31 || error
1593 }
1594 run_test 31a "open-unlink file =================================="
1595
1596 test_31b() {
1597         touch $DIR/f31 || error
1598         ln $DIR/f31 $DIR/f31b || error
1599         $MULTIOP $DIR/f31b Ouc || error
1600         $CHECKSTAT -t file $DIR/f31 || error
1601 }
1602 run_test 31b "unlink file with multiple links while open ======="
1603
1604 test_31c() {
1605         touch $DIR/f31 || error
1606         ln $DIR/f31 $DIR/f31c || error
1607         multiop_bg_pause $DIR/f31 O_uc || return 1
1608         MULTIPID=$!
1609         $MULTIOP $DIR/f31c Ouc
1610         kill -USR1 $MULTIPID
1611         wait $MULTIPID
1612 }
1613 run_test 31c "open-unlink file with multiple links ============="
1614
1615 test_31d() {
1616         opendirunlink $DIR/d31d $DIR/d31d || error
1617         $CHECKSTAT -a $DIR/d31d || error
1618 }
1619 run_test 31d "remove of open directory ========================="
1620
1621 test_31e() { # bug 2904
1622         check_kernel_version 34 || return 0
1623         openfilleddirunlink $DIR/d31e || error
1624 }
1625 run_test 31e "remove of open non-empty directory ==============="
1626
1627 test_31f() { # bug 4554
1628         set -vx
1629         mkdir $DIR/d31f
1630         $SETSTRIPE -S 1048576 -c 1 $DIR/d31f
1631         cp /etc/hosts $DIR/d31f
1632         ls -l $DIR/d31f
1633         $GETSTRIPE $DIR/d31f/hosts
1634         multiop_bg_pause $DIR/d31f D_c || return 1
1635         MULTIPID=$!
1636
1637         rm -rv $DIR/d31f || error "first of $DIR/d31f"
1638         mkdir $DIR/d31f
1639         $SETSTRIPE -S 1048576 -c 1 $DIR/d31f
1640         cp /etc/hosts $DIR/d31f
1641         ls -l $DIR/d31f
1642         $GETSTRIPE $DIR/d31f/hosts
1643         multiop_bg_pause $DIR/d31f D_c || return 1
1644         MULTIPID2=$!
1645
1646         kill -USR1 $MULTIPID || error "first opendir $MULTIPID not running"
1647         wait $MULTIPID || error "first opendir $MULTIPID failed"
1648
1649         sleep 6
1650
1651         kill -USR1 $MULTIPID2 || error "second opendir $MULTIPID not running"
1652         wait $MULTIPID2 || error "second opendir $MULTIPID2 failed"
1653         set +vx
1654 }
1655 run_test 31f "remove of open directory with open-unlink file ==="
1656
1657 test_31g() {
1658         echo "-- cross directory link --"
1659         mkdir $DIR/d31g{a,b}
1660         touch $DIR/d31ga/f
1661         ln $DIR/d31ga/f $DIR/d31gb/g
1662         $CHECKSTAT -t file $DIR/d31ga/f || error "source"
1663         [ `stat -c%h $DIR/d31ga/f` == '2' ] || error "source nlink"
1664         $CHECKSTAT -t file $DIR/d31gb/g || error "target"
1665         [ `stat -c%h $DIR/d31gb/g` == '2' ] || error "target nlink"
1666 }
1667 run_test 31g "cross directory link==============="
1668
1669 test_31h() {
1670         echo "-- cross directory link --"
1671         mkdir $DIR/d31h
1672         mkdir $DIR/d31h/dir
1673         touch $DIR/d31h/f
1674         ln $DIR/d31h/f $DIR/d31h/dir/g
1675         $CHECKSTAT -t file $DIR/d31h/f || error "source"
1676         [ `stat -c%h $DIR/d31h/f` == '2' ] || error "source nlink"
1677         $CHECKSTAT -t file $DIR/d31h/dir/g || error "target"
1678         [ `stat -c%h $DIR/d31h/dir/g` == '2' ] || error "target nlink"
1679 }
1680 run_test 31h "cross directory link under child==============="
1681
1682 test_31i() {
1683         echo "-- cross directory link --"
1684         mkdir $DIR/d31i
1685         mkdir $DIR/d31i/dir
1686         touch $DIR/d31i/dir/f
1687         ln $DIR/d31i/dir/f $DIR/d31i/g
1688         $CHECKSTAT -t file $DIR/d31i/dir/f || error "source"
1689         [ `stat -c%h $DIR/d31i/dir/f` == '2' ] || error "source nlink"
1690         $CHECKSTAT -t file $DIR/d31i/g || error "target"
1691         [ `stat -c%h $DIR/d31i/g` == '2' ] || error "target nlink"
1692 }
1693 run_test 31i "cross directory link under parent==============="
1694
1695
1696 test_31j() {
1697         mkdir $DIR/d31j
1698         mkdir $DIR/d31j/dir1
1699         ln $DIR/d31j/dir1 $DIR/d31j/dir2 && error "ln for dir"
1700         link $DIR/d31j/dir1 $DIR/d31j/dir3 && error "link for dir"
1701         mlink $DIR/d31j/dir1 $DIR/d31j/dir4 && error "mlink for dir"
1702         mlink $DIR/d31j/dir1 $DIR/d31j/dir1 && error "mlink to the same dir"
1703         return 0
1704 }
1705 run_test 31j "link for directory==============="
1706
1707
1708 test_31k() {
1709         mkdir $DIR/d31k
1710         touch $DIR/d31k/s
1711         touch $DIR/d31k/exist
1712         mlink $DIR/d31k/s $DIR/d31k/t || error "mlink"
1713         mlink $DIR/d31k/s $DIR/d31k/exist && error "mlink to exist file"
1714         mlink $DIR/d31k/s $DIR/d31k/s && error "mlink to the same file"
1715         mlink $DIR/d31k/s $DIR/d31k && error "mlink to parent dir"
1716         mlink $DIR/d31k $DIR/d31k/s && error "mlink parent dir to target"
1717         mlink $DIR/d31k/not-exist $DIR/d31k/foo && error "mlink non-existing to new"
1718         mlink $DIR/d31k/not-exist $DIR/d31k/s && error "mlink non-existing to exist"
1719         return 0
1720 }
1721 run_test 31k "link to file: the same, non-existing, dir==============="
1722
1723 test_31m() {
1724         mkdir $DIR/d31m
1725         touch $DIR/d31m/s
1726         mkdir $DIR/d31m2
1727         touch $DIR/d31m2/exist
1728         mlink $DIR/d31m/s $DIR/d31m2/t || error "mlink"
1729         mlink $DIR/d31m/s $DIR/d31m2/exist && error "mlink to exist file"
1730         mlink $DIR/d31m/s $DIR/d31m2 && error "mlink to parent dir"
1731         mlink $DIR/d31m2 $DIR/d31m/s && error "mlink parent dir to target"
1732         mlink $DIR/d31m/not-exist $DIR/d31m2/foo && error "mlink non-existing to new"
1733         mlink $DIR/d31m/not-exist $DIR/d31m2/s && error "mlink non-existing to exist"
1734         return 0
1735 }
1736 run_test 31m "link to file: the same, non-existing, dir==============="
1737
1738 test_32a() {
1739         echo "== more mountpoints and symlinks ================="
1740         [ -e $DIR/d32a ] && rm -fr $DIR/d32a
1741         mkdir -p $DIR/d32a/ext2-mountpoint
1742         mount -t ext2 -o loop $EXT2_DEV $DIR/d32a/ext2-mountpoint || error
1743         $CHECKSTAT -t dir $DIR/d32a/ext2-mountpoint/.. || error
1744         $UMOUNT $DIR/d32a/ext2-mountpoint || error
1745 }
1746 run_test 32a "stat d32a/ext2-mountpoint/.. ====================="
1747
1748 test_32b() {
1749         [ -e $DIR/d32b ] && rm -fr $DIR/d32b
1750         mkdir -p $DIR/d32b/ext2-mountpoint
1751         mount -t ext2 -o loop $EXT2_DEV $DIR/d32b/ext2-mountpoint || error
1752         ls -al $DIR/d32b/ext2-mountpoint/.. || error
1753         $UMOUNT $DIR/d32b/ext2-mountpoint || error
1754 }
1755 run_test 32b "open d32b/ext2-mountpoint/.. ====================="
1756
1757 test_32c() {
1758         [ -e $DIR/d32c ] && rm -fr $DIR/d32c
1759         mkdir -p $DIR/d32c/ext2-mountpoint
1760         mount -t ext2 -o loop $EXT2_DEV $DIR/d32c/ext2-mountpoint || error
1761         mkdir -p $DIR/d32c/d2/test_dir
1762         $CHECKSTAT -t dir $DIR/d32c/ext2-mountpoint/../d2/test_dir || error
1763         $UMOUNT $DIR/d32c/ext2-mountpoint || error
1764 }
1765 run_test 32c "stat d32c/ext2-mountpoint/../d2/test_dir ========="
1766
1767 test_32d() {
1768         [ -e $DIR/d32d ] && rm -fr $DIR/d32d
1769         mkdir -p $DIR/d32d/ext2-mountpoint
1770         mount -t ext2 -o loop $EXT2_DEV $DIR/d32d/ext2-mountpoint || error
1771         mkdir -p $DIR/d32d/d2/test_dir
1772         ls -al $DIR/d32d/ext2-mountpoint/../d2/test_dir || error
1773         $UMOUNT $DIR/d32d/ext2-mountpoint || error
1774 }
1775 run_test 32d "open d32d/ext2-mountpoint/../d2/test_dir ========="
1776
1777 test_32e() {
1778         [ -e $DIR/d32e ] && rm -fr $DIR/d32e
1779         mkdir -p $DIR/d32e/tmp
1780         TMP_DIR=$DIR/d32e/tmp
1781         ln -s $DIR/d32e $TMP_DIR/symlink11
1782         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1783         $CHECKSTAT -t link $DIR/d32e/tmp/symlink11 || error
1784         $CHECKSTAT -t link $DIR/d32e/symlink01 || error
1785 }
1786 run_test 32e "stat d32e/symlink->tmp/symlink->lustre-subdir ===="
1787
1788 test_32f() {
1789         [ -e $DIR/d32f ] && rm -fr $DIR/d32f
1790         mkdir -p $DIR/d32f/tmp
1791         TMP_DIR=$DIR/d32f/tmp
1792         ln -s $DIR/d32f $TMP_DIR/symlink11
1793         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1794         ls $DIR/d32f/tmp/symlink11  || error
1795         ls $DIR/d32f/symlink01 || error
1796 }
1797 run_test 32f "open d32f/symlink->tmp/symlink->lustre-subdir ===="
1798
1799 test_32g() {
1800         TMP_DIR=$DIR/$tdir/tmp
1801         mkdir -p $TMP_DIR $DIR/${tdir}2
1802         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
1803         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1804         $CHECKSTAT -t link $TMP_DIR/symlink12 || error
1805         $CHECKSTAT -t link $DIR/$tdir/symlink02 || error
1806         $CHECKSTAT -t dir -f $TMP_DIR/symlink12 || error
1807         $CHECKSTAT -t dir -f $DIR/$tdir/symlink02 || error
1808 }
1809 run_test 32g "stat d32g/symlink->tmp/symlink->lustre-subdir/${tdir}2"
1810
1811 test_32h() {
1812         rm -fr $DIR/$tdir $DIR/${tdir}2
1813         TMP_DIR=$DIR/$tdir/tmp
1814         mkdir -p $TMP_DIR $DIR/${tdir}2
1815         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
1816         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1817         ls $TMP_DIR/symlink12 || error
1818         ls $DIR/$tdir/symlink02  || error
1819 }
1820 run_test 32h "open d32h/symlink->tmp/symlink->lustre-subdir/${tdir}2"
1821
1822 test_32i() {
1823         [ -e $DIR/d32i ] && rm -fr $DIR/d32i
1824         mkdir -p $DIR/d32i/ext2-mountpoint
1825         mount -t ext2 -o loop $EXT2_DEV $DIR/d32i/ext2-mountpoint || error
1826         touch $DIR/d32i/test_file
1827         $CHECKSTAT -t file $DIR/d32i/ext2-mountpoint/../test_file || error
1828         $UMOUNT $DIR/d32i/ext2-mountpoint || error
1829 }
1830 run_test 32i "stat d32i/ext2-mountpoint/../test_file ==========="
1831
1832 test_32j() {
1833         [ -e $DIR/d32j ] && rm -fr $DIR/d32j
1834         mkdir -p $DIR/d32j/ext2-mountpoint
1835         mount -t ext2 -o loop $EXT2_DEV $DIR/d32j/ext2-mountpoint || error
1836         touch $DIR/d32j/test_file
1837         cat $DIR/d32j/ext2-mountpoint/../test_file || error
1838         $UMOUNT $DIR/d32j/ext2-mountpoint || error
1839 }
1840 run_test 32j "open d32j/ext2-mountpoint/../test_file ==========="
1841
1842 test_32k() {
1843         rm -fr $DIR/d32k
1844         mkdir -p $DIR/d32k/ext2-mountpoint
1845         mount -t ext2 -o loop $EXT2_DEV $DIR/d32k/ext2-mountpoint
1846         mkdir -p $DIR/d32k/d2
1847         touch $DIR/d32k/d2/test_file || error
1848         $CHECKSTAT -t file $DIR/d32k/ext2-mountpoint/../d2/test_file || error
1849         $UMOUNT $DIR/d32k/ext2-mountpoint || error
1850 }
1851 run_test 32k "stat d32k/ext2-mountpoint/../d2/test_file ========"
1852
1853 test_32l() {
1854         rm -fr $DIR/d32l
1855         mkdir -p $DIR/d32l/ext2-mountpoint
1856         mount -t ext2 -o loop $EXT2_DEV $DIR/d32l/ext2-mountpoint || error
1857         mkdir -p $DIR/d32l/d2
1858         touch $DIR/d32l/d2/test_file
1859         cat  $DIR/d32l/ext2-mountpoint/../d2/test_file || error
1860         $UMOUNT $DIR/d32l/ext2-mountpoint || error
1861 }
1862 run_test 32l "open d32l/ext2-mountpoint/../d2/test_file ========"
1863
1864 test_32m() {
1865         rm -fr $DIR/d32m
1866         mkdir -p $DIR/d32m/tmp
1867         TMP_DIR=$DIR/d32m/tmp
1868         ln -s $DIR $TMP_DIR/symlink11
1869         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1870         $CHECKSTAT -t link $DIR/d32m/tmp/symlink11 || error
1871         $CHECKSTAT -t link $DIR/d32m/symlink01 || error
1872 }
1873 run_test 32m "stat d32m/symlink->tmp/symlink->lustre-root ======"
1874
1875 test_32n() {
1876         rm -fr $DIR/d32n
1877         mkdir -p $DIR/d32n/tmp
1878         TMP_DIR=$DIR/d32n/tmp
1879         ln -s $DIR $TMP_DIR/symlink11
1880         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
1881         ls -l $DIR/d32n/tmp/symlink11  || error
1882         ls -l $DIR/d32n/symlink01 || error
1883 }
1884 run_test 32n "open d32n/symlink->tmp/symlink->lustre-root ======"
1885
1886 test_32o() {
1887         rm -fr $DIR/d32o $DIR/$tfile
1888         touch $DIR/$tfile
1889         mkdir -p $DIR/d32o/tmp
1890         TMP_DIR=$DIR/d32o/tmp
1891         ln -s $DIR/$tfile $TMP_DIR/symlink12
1892         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1893         $CHECKSTAT -t link $DIR/d32o/tmp/symlink12 || error
1894         $CHECKSTAT -t link $DIR/d32o/symlink02 || error
1895         $CHECKSTAT -t file -f $DIR/d32o/tmp/symlink12 || error
1896         $CHECKSTAT -t file -f $DIR/d32o/symlink02 || error
1897 }
1898 run_test 32o "stat d32o/symlink->tmp/symlink->lustre-root/$tfile"
1899
1900 test_32p() {
1901     log 32p_1
1902         rm -fr $DIR/d32p
1903     log 32p_2
1904         rm -f $DIR/$tfile
1905     log 32p_3
1906         touch $DIR/$tfile
1907     log 32p_4
1908         mkdir -p $DIR/d32p/tmp
1909     log 32p_5
1910         TMP_DIR=$DIR/d32p/tmp
1911     log 32p_6
1912         ln -s $DIR/$tfile $TMP_DIR/symlink12
1913     log 32p_7
1914         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
1915     log 32p_8
1916         cat $DIR/d32p/tmp/symlink12 || error
1917     log 32p_9
1918         cat $DIR/d32p/symlink02 || error
1919     log 32p_10
1920 }
1921 run_test 32p "open d32p/symlink->tmp/symlink->lustre-root/$tfile"
1922
1923 test_32q() {
1924         [ -e $DIR/d32q ] && rm -fr $DIR/d32q
1925         mkdir -p $DIR/d32q
1926         touch $DIR/d32q/under_the_mount
1927         mount -t ext2 -o loop $EXT2_DEV $DIR/d32q
1928         ls $DIR/d32q/under_the_mount && error || true
1929         $UMOUNT $DIR/d32q || error
1930 }
1931 run_test 32q "stat follows mountpoints in Lustre (should return error)"
1932
1933 test_32r() {
1934         [ -e $DIR/d32r ] && rm -fr $DIR/d32r
1935         mkdir -p $DIR/d32r
1936         touch $DIR/d32r/under_the_mount
1937         mount -t ext2 -o loop $EXT2_DEV $DIR/d32r
1938         ls $DIR/d32r | grep -q under_the_mount && error || true
1939         $UMOUNT $DIR/d32r || error
1940 }
1941 run_test 32r "opendir follows mountpoints in Lustre (should return error)"
1942
1943 test_33() {
1944         rm -f $DIR/$tfile
1945         touch $DIR/$tfile
1946         chmod 444 $DIR/$tfile
1947         chown $RUNAS_ID $DIR/$tfile
1948         log 33_1
1949         $RUNAS $OPENFILE -f O_RDWR $DIR/$tfile && error || true
1950         log 33_2
1951 }
1952 run_test 33 "write file with mode 444 (should return error) ===="
1953
1954 test_33a() {
1955         rm -fr $DIR/d33
1956         mkdir -p $DIR/d33
1957         chown $RUNAS_ID $DIR/d33
1958         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33|| error "create"
1959         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33 && \
1960                 error "open RDWR" || true
1961 }
1962 run_test 33a "test open file(mode=0444) with O_RDWR (should return error)"
1963
1964 test_33b() {
1965         rm -fr $DIR/d33
1966         mkdir -p $DIR/d33
1967         chown $RUNAS_ID $DIR/d33
1968         $RUNAS $OPENFILE -f 1286739555 $DIR/d33/f33 && error "create" || true
1969 }
1970 run_test 33b "test open file with malformed flags (No panic and return error)"
1971
1972 test_33c() {
1973         local ostnum
1974         local ostname
1975         local write_bytes
1976         local all_zeros
1977
1978         remote_ost_nodsh && skip "remote OST with nodsh" && return
1979         all_zeros=:
1980         rm -fr $DIR/d33
1981         mkdir -p $DIR/d33
1982         # Read: 0, Write: 4, create/destroy: 2/0, stat: 1, punch: 0
1983
1984         sync
1985         for ostnum in $(seq $OSTCOUNT); do
1986                 # test-framework's OST numbering is one-based, while Lustre's
1987                 # is zero-based
1988                 ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
1989                 # Parsing llobdstat's output sucks; we could grep the /proc
1990                 # path, but that's likely to not be as portable as using the
1991                 # llobdstat utility.  So we parse lctl output instead.
1992                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
1993                         obdfilter/$ostname/stats |
1994                         awk '/^write_bytes/ {print $7}' )
1995                 echo "baseline_write_bytes@$OSTnum/$ostname=$write_bytes"
1996                 if (( ${write_bytes:-0} > 0 ))
1997                 then
1998                         all_zeros=false
1999                         break;
2000                 fi
2001         done
2002
2003         $all_zeros || return 0
2004
2005         # Write four bytes
2006         echo foo > $DIR/d33/bar
2007         # Really write them
2008         sync
2009
2010         # Total up write_bytes after writing.  We'd better find non-zeros.
2011         for ostnum in $(seq $OSTCOUNT); do
2012                 ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
2013                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
2014                         obdfilter/$ostname/stats |
2015                         awk '/^write_bytes/ {print $7}' )
2016                 echo "write_bytes@$OSTnum/$ostname=$write_bytes"
2017                 if (( ${write_bytes:-0} > 0 ))
2018                 then
2019                         all_zeros=false
2020                         break;
2021                 fi
2022         done
2023
2024         if $all_zeros
2025         then
2026                 for ostnum in $(seq $OSTCOUNT); do
2027                         ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
2028                         echo "Check that write_bytes is present in obdfilter/*/stats:"
2029                         do_facet ost$ostnum lctl get_param -n \
2030                                 obdfilter/$ostname/stats
2031                 done
2032                 error "OST not keeping write_bytes stats (b22312)"
2033         fi
2034 }
2035 run_test 33c "test llobdstat and write_bytes"
2036
2037 TEST_34_SIZE=${TEST_34_SIZE:-2000000000000}
2038 test_34a() {
2039         rm -f $DIR/f34
2040         $MCREATE $DIR/f34 || error
2041         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2042         $TRUNCATE $DIR/f34 $TEST_34_SIZE || error
2043         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2044         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2045 }
2046 run_test 34a "truncate file that has not been opened ==========="
2047
2048 test_34b() {
2049         [ ! -f $DIR/f34 ] && test_34a
2050         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2051         $OPENFILE -f O_RDONLY $DIR/f34
2052         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2053         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2054 }
2055 run_test 34b "O_RDONLY opening file doesn't create objects ====="
2056
2057 test_34c() {
2058         [ ! -f $DIR/f34 ] && test_34a
2059         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2060         $OPENFILE -f O_RDWR $DIR/f34
2061         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" && error
2062         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2063 }
2064 run_test 34c "O_RDWR opening file-with-size works =============="
2065
2066 test_34d() {
2067         [ ! -f $DIR/f34 ] && test_34a
2068         dd if=/dev/zero of=$DIR/f34 conv=notrunc bs=4k count=1 || error
2069         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2070         rm $DIR/f34
2071 }
2072 run_test 34d "write to sparse file ============================="
2073
2074 test_34e() {
2075         rm -f $DIR/f34e
2076         $MCREATE $DIR/f34e || error
2077         $TRUNCATE $DIR/f34e 1000 || error
2078         $CHECKSTAT -s 1000 $DIR/f34e || error
2079         $OPENFILE -f O_RDWR $DIR/f34e
2080         $CHECKSTAT -s 1000 $DIR/f34e || error
2081 }
2082 run_test 34e "create objects, some with size and some without =="
2083
2084 test_34f() { # bug 6242, 6243
2085         SIZE34F=48000
2086         rm -f $DIR/f34f
2087         $MCREATE $DIR/f34f || error
2088         $TRUNCATE $DIR/f34f $SIZE34F || error "truncating $DIR/f3f to $SIZE34F"
2089         dd if=$DIR/f34f of=$TMP/f34f
2090         $CHECKSTAT -s $SIZE34F $TMP/f34f || error "$TMP/f34f not $SIZE34F bytes"
2091         dd if=/dev/zero of=$TMP/f34fzero bs=$SIZE34F count=1
2092         cmp $DIR/f34f $TMP/f34fzero || error "$DIR/f34f not all zero"
2093         cmp $TMP/f34f $TMP/f34fzero || error "$TMP/f34f not all zero"
2094         rm $TMP/f34f $TMP/f34fzero $DIR/f34f
2095 }
2096 run_test 34f "read from a file with no objects until EOF ======="
2097
2098 test_34g() {
2099         dd if=/dev/zero of=$DIR/$tfile bs=1 count=100 seek=$TEST_34_SIZE || error
2100         $TRUNCATE $DIR/$tfile $((TEST_34_SIZE / 2))|| error
2101         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || error "truncate failed"
2102         cancel_lru_locks osc
2103         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || \
2104                 error "wrong size after lock cancel"
2105
2106         $TRUNCATE $DIR/$tfile $TEST_34_SIZE || error
2107         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2108                 error "expanding truncate failed"
2109         cancel_lru_locks osc
2110         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2111                 error "wrong expanded size after lock cancel"
2112 }
2113 run_test 34g "truncate long file ==============================="
2114
2115 test_34h() {
2116         local gid=10
2117         local sz=1000
2118
2119         dd if=/dev/zero of=$DIR/$tfile bs=1M count=10 || error
2120         $MULTIOP $DIR/$tfile OG${gid}T${sz}g${gid}c &
2121         MULTIPID=$!
2122         sleep 2
2123
2124         if [[ `ps h -o comm -p $MULTIPID` == "multiop" ]]; then
2125                 error "Multiop blocked on ftruncate, pid=$MULTIPID"
2126                 kill -9 $MULTIPID
2127         fi
2128         wait $MULTIPID
2129         local nsz=`stat -c %s $DIR/$tfile`
2130         [[ $nsz == $sz ]] || error "New size wrong $nsz != $sz"
2131 }
2132 run_test 34h "ftruncate file under grouplock should not block"
2133
2134 test_35a() {
2135         cp /bin/sh $DIR/f35a
2136         chmod 444 $DIR/f35a
2137         chown $RUNAS_ID $DIR/f35a
2138         $RUNAS $DIR/f35a && error || true
2139         rm $DIR/f35a
2140 }
2141 run_test 35a "exec file with mode 444 (should return and not leak) ====="
2142
2143 test_36a() {
2144         rm -f $DIR/f36
2145         utime $DIR/f36 || error
2146 }
2147 run_test 36a "MDS utime check (mknod, utime) ==================="
2148
2149 test_36b() {
2150         echo "" > $DIR/f36
2151         utime $DIR/f36 || error
2152 }
2153 run_test 36b "OST utime check (open, utime) ===================="
2154
2155 test_36c() {
2156         rm -f $DIR/d36/f36
2157         mkdir $DIR/d36
2158         chown $RUNAS_ID $DIR/d36
2159         $RUNAS utime $DIR/d36/f36 || error
2160 }
2161 run_test 36c "non-root MDS utime check (mknod, utime) =========="
2162
2163 test_36d() {
2164         [ ! -d $DIR/d36 ] && test_36c
2165         echo "" > $DIR/d36/f36
2166         $RUNAS utime $DIR/d36/f36 || error
2167 }
2168 run_test 36d "non-root OST utime check (open, utime) ==========="
2169
2170 test_36e() {
2171         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
2172         mkdir -p $DIR/$tdir
2173         touch $DIR/$tdir/$tfile
2174         $RUNAS utime $DIR/$tdir/$tfile && \
2175                 error "utime worked, expected failure" || true
2176 }
2177 run_test 36e "utime on non-owned file (should return error) ===="
2178
2179 subr_36fh() {
2180         local fl="$1"
2181         local LANG_SAVE=$LANG
2182         local LC_LANG_SAVE=$LC_LANG
2183         export LANG=C LC_LANG=C # for date language
2184
2185         DATESTR="Dec 20  2000"
2186         mkdir -p $DIR/$tdir
2187         lctl set_param fail_loc=$fl
2188         date; date +%s
2189         cp /etc/hosts $DIR/$tdir/$tfile
2190         sync & # write RPC generated with "current" inode timestamp, but delayed
2191         sleep 1
2192         touch --date="$DATESTR" $DIR/$tdir/$tfile # setattr timestamp in past
2193         LS_BEFORE="`ls -l $DIR/$tdir/$tfile`" # old timestamp from client cache
2194         cancel_lru_locks osc
2195         LS_AFTER="`ls -l $DIR/$tdir/$tfile`"  # timestamp from OST object
2196         date; date +%s
2197         [ "$LS_BEFORE" != "$LS_AFTER" ] && \
2198                 echo "BEFORE: $LS_BEFORE" && \
2199                 echo "AFTER : $LS_AFTER" && \
2200                 echo "WANT  : $DATESTR" && \
2201                 error "$DIR/$tdir/$tfile timestamps changed" || true
2202
2203         export LANG=$LANG_SAVE LC_LANG=$LC_LANG_SAVE
2204 }
2205
2206 test_36f() {
2207         #define OBD_FAIL_OST_BRW_PAUSE_BULK 0x214
2208         subr_36fh "0x80000214"
2209 }
2210 run_test 36f "utime on file racing with OST BRW write =========="
2211
2212 test_36g() {
2213         remote_ost_nodsh && skip "remote OST with nodsh" && return
2214         local fmd_max_age
2215         local fmd_before
2216         local fmd_after
2217
2218         mkdir -p $DIR/$tdir
2219         fmd_max_age=$(do_facet ost1 \
2220                 "lctl get_param -n obdfilter.*.client_cache_seconds 2> /dev/null | \
2221                 head -n 1")
2222
2223         fmd_before=$(do_facet ost1 \
2224                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2225         touch $DIR/$tdir/$tfile
2226         sleep $((fmd_max_age + 12))
2227         fmd_after=$(do_facet ost1 \
2228                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2229
2230         echo "fmd_before: $fmd_before"
2231         echo "fmd_after: $fmd_after"
2232         [ "$fmd_after" -gt "$fmd_before" ] && \
2233                 echo "AFTER: $fmd_after > BEFORE: $fmd_before" && \
2234                 error "fmd didn't expire after ping" || true
2235 }
2236 run_test 36g "filter mod data cache expiry ====================="
2237
2238 test_36h() {
2239         #define OBD_FAIL_OST_BRW_PAUSE_BULK2 0x227
2240         subr_36fh "0x80000227"
2241 }
2242 run_test 36h "utime on file racing with OST BRW write =========="
2243
2244 test_37() {
2245         mkdir -p $DIR/$tdir
2246         echo f > $DIR/$tdir/fbugfile
2247         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir
2248         ls $DIR/$tdir | grep "\<fbugfile\>" && error
2249         $UMOUNT $DIR/$tdir || error
2250         rm -f $DIR/$tdir/fbugfile || error
2251 }
2252 run_test 37 "ls a mounted file system to check old content ====="
2253
2254 test_38() {
2255         local file=$DIR/$tfile
2256         touch $file
2257         openfile -f O_DIRECTORY $file
2258         local RC=$?
2259         local ENOTDIR=20
2260         [ $RC -eq 0 ] && error "opened file $file with O_DIRECTORY" || true
2261         [ $RC -eq $ENOTDIR ] || error "error $RC should be ENOTDIR ($ENOTDIR)"
2262 }
2263 run_test 38 "open a regular file with O_DIRECTORY should return -ENOTDIR ==="
2264
2265 test_39() {
2266         touch $DIR/$tfile
2267         touch $DIR/${tfile}2
2268 #       ls -l  $DIR/$tfile $DIR/${tfile}2
2269 #       ls -lu  $DIR/$tfile $DIR/${tfile}2
2270 #       ls -lc  $DIR/$tfile $DIR/${tfile}2
2271         sleep 2
2272         $OPENFILE -f O_CREAT:O_TRUNC:O_WRONLY $DIR/${tfile}2
2273         if [ ! $DIR/${tfile}2 -nt $DIR/$tfile ]; then
2274                 echo "mtime"
2275                 ls -l --full-time $DIR/$tfile $DIR/${tfile}2
2276                 echo "atime"
2277                 ls -lu --full-time $DIR/$tfile $DIR/${tfile}2
2278                 echo "ctime"
2279                 ls -lc --full-time $DIR/$tfile $DIR/${tfile}2
2280                 error "O_TRUNC didn't change timestamps"
2281         fi
2282 }
2283 run_test 39 "mtime changed on create ==========================="
2284
2285 test_39b() {
2286         mkdir -p $DIR/$tdir
2287         cp -p /etc/passwd $DIR/$tdir/fopen
2288         cp -p /etc/passwd $DIR/$tdir/flink
2289         cp -p /etc/passwd $DIR/$tdir/funlink
2290         cp -p /etc/passwd $DIR/$tdir/frename
2291         ln $DIR/$tdir/funlink $DIR/$tdir/funlink2
2292
2293         sleep 1
2294         echo "aaaaaa" >> $DIR/$tdir/fopen
2295         echo "aaaaaa" >> $DIR/$tdir/flink
2296         echo "aaaaaa" >> $DIR/$tdir/funlink
2297         echo "aaaaaa" >> $DIR/$tdir/frename
2298
2299         local open_new=`stat -c %Y $DIR/$tdir/fopen`
2300         local link_new=`stat -c %Y $DIR/$tdir/flink`
2301         local unlink_new=`stat -c %Y $DIR/$tdir/funlink`
2302         local rename_new=`stat -c %Y $DIR/$tdir/frename`
2303
2304         cat $DIR/$tdir/fopen > /dev/null
2305         ln $DIR/$tdir/flink $DIR/$tdir/flink2
2306         rm -f $DIR/$tdir/funlink2
2307         mv -f $DIR/$tdir/frename $DIR/$tdir/frename2
2308
2309         for (( i=0; i < 2; i++ )) ; do
2310                 local open_new2=`stat -c %Y $DIR/$tdir/fopen`
2311                 local link_new2=`stat -c %Y $DIR/$tdir/flink`
2312                 local unlink_new2=`stat -c %Y $DIR/$tdir/funlink`
2313                 local rename_new2=`stat -c %Y $DIR/$tdir/frename2`
2314
2315                 [ $open_new2 -eq $open_new ] || error "open file reverses mtime"
2316                 [ $link_new2 -eq $link_new ] || error "link file reverses mtime"
2317                 [ $unlink_new2 -eq $unlink_new ] || error "unlink file reverses mtime"
2318                 [ $rename_new2 -eq $rename_new ] || error "rename file reverses mtime"
2319
2320                 cancel_lru_locks osc
2321                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2322         done
2323 }
2324 run_test 39b "mtime change on open, link, unlink, rename  ======"
2325
2326 # this should be set to past
2327 TEST_39_MTIME=`date -d "1 year ago" +%s`
2328
2329 # bug 11063
2330 test_39c() {
2331         touch $DIR1/$tfile
2332         sleep 2
2333         local mtime0=`stat -c %Y $DIR1/$tfile`
2334
2335         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2336         local mtime1=`stat -c %Y $DIR1/$tfile`
2337         [ "$mtime1" = $TEST_39_MTIME ] || \
2338                 error "mtime is not set to past: $mtime1, should be $TEST_39_MTIME"
2339
2340         local d1=`date +%s`
2341         echo hello >> $DIR1/$tfile
2342         local d2=`date +%s`
2343         local mtime2=`stat -c %Y $DIR1/$tfile`
2344         [ "$mtime2" -ge "$d1" ] && [ "$mtime2" -le "$d2" ] || \
2345                 error "mtime is not updated on write: $d1 <= $mtime2 <= $d2"
2346
2347         mv $DIR1/$tfile $DIR1/$tfile-1
2348
2349         for (( i=0; i < 2; i++ )) ; do
2350                 local mtime3=`stat -c %Y $DIR1/$tfile-1`
2351                 [ "$mtime2" = "$mtime3" ] || \
2352                         error "mtime ($mtime2) changed (to $mtime3) on rename"
2353
2354                 cancel_lru_locks osc
2355                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2356         done
2357 }
2358 run_test 39c "mtime change on rename ==========================="
2359
2360 # bug 21114
2361 test_39d() {
2362         touch $DIR1/$tfile
2363
2364         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2365
2366         for (( i=0; i < 2; i++ )) ; do
2367                 local mtime=`stat -c %Y $DIR1/$tfile`
2368                 [ $mtime = $TEST_39_MTIME ] || \
2369                         error "mtime($mtime) is not set to $TEST_39_MTIME"
2370
2371                 cancel_lru_locks osc
2372                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2373         done
2374 }
2375 run_test 39d "create, utime, stat =============================="
2376
2377 # bug 21114
2378 test_39e() {
2379         touch $DIR1/$tfile
2380         local mtime1=`stat -c %Y $DIR1/$tfile`
2381
2382         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2383
2384         for (( i=0; i < 2; i++ )) ; do
2385                 local mtime2=`stat -c %Y $DIR1/$tfile`
2386                 [ $mtime2 = $TEST_39_MTIME ] || \
2387                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2388
2389                 cancel_lru_locks osc
2390                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2391         done
2392 }
2393 run_test 39e "create, stat, utime, stat ========================"
2394
2395 # bug 21114
2396 test_39f() {
2397         touch $DIR1/$tfile
2398         mtime1=`stat -c %Y $DIR1/$tfile`
2399
2400         sleep 2
2401         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2402
2403         for (( i=0; i < 2; i++ )) ; do
2404                 local mtime2=`stat -c %Y $DIR1/$tfile`
2405                 [ $mtime2 = $TEST_39_MTIME ] || \
2406                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2407
2408                 cancel_lru_locks osc
2409                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2410         done
2411 }
2412 run_test 39f "create, stat, sleep, utime, stat ================="
2413
2414 # bug 11063
2415 test_39g() {
2416         echo hello >> $DIR1/$tfile
2417         local mtime1=`stat -c %Y $DIR1/$tfile`
2418
2419         sleep 2
2420         chmod o+r $DIR1/$tfile
2421
2422         for (( i=0; i < 2; i++ )) ; do
2423                 local mtime2=`stat -c %Y $DIR1/$tfile`
2424                 [ "$mtime1" = "$mtime2" ] || \
2425                         error "lost mtime: $mtime2, should be $mtime1"
2426
2427                 cancel_lru_locks osc
2428                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2429         done
2430 }
2431 run_test 39g "write, chmod, stat ==============================="
2432
2433 # bug 11063
2434 test_39h() {
2435         touch $DIR1/$tfile
2436         sleep 1
2437
2438         local d1=`date`
2439         echo hello >> $DIR1/$tfile
2440         local mtime1=`stat -c %Y $DIR1/$tfile`
2441
2442         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2443         local d2=`date`
2444         if [ "$d1" != "$d2" ]; then
2445                 echo "write and touch not within one second"
2446         else
2447                 for (( i=0; i < 2; i++ )) ; do
2448                         local mtime2=`stat -c %Y $DIR1/$tfile`
2449                         [ "$mtime2" = $TEST_39_MTIME ] || \
2450                                 error "lost mtime: $mtime2, should be $TEST_39_MTIME"
2451
2452                         cancel_lru_locks osc
2453                         if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2454                 done
2455         fi
2456 }
2457 run_test 39h "write, utime within one second, stat ============="
2458
2459 test_39i() {
2460         touch $DIR1/$tfile
2461         sleep 1
2462
2463         echo hello >> $DIR1/$tfile
2464         local mtime1=`stat -c %Y $DIR1/$tfile`
2465
2466         mv $DIR1/$tfile $DIR1/$tfile-1
2467
2468         for (( i=0; i < 2; i++ )) ; do
2469                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2470
2471                 [ "$mtime1" = "$mtime2" ] || \
2472                         error "lost mtime: $mtime2, should be $mtime1"
2473
2474                 cancel_lru_locks osc
2475                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2476         done
2477 }
2478 run_test 39i "write, rename, stat =============================="
2479
2480 test_39j() {
2481         start_full_debug_logging
2482         touch $DIR1/$tfile
2483         sleep 1
2484
2485         #define OBD_FAIL_OSC_DELAY_SETTIME       0x412
2486         lctl set_param fail_loc=0x80000412
2487         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c ||
2488                 error "multiop failed"
2489         local multipid=$!
2490         local mtime1=`stat -c %Y $DIR1/$tfile`
2491
2492         mv $DIR1/$tfile $DIR1/$tfile-1
2493
2494         kill -USR1 $multipid
2495         wait $multipid || error "multiop close failed"
2496
2497         for (( i=0; i < 2; i++ )) ; do
2498                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2499                 [ "$mtime1" = "$mtime2" ] ||
2500                         error "mtime is lost on close: $mtime2, " \
2501                               "should be $mtime1"
2502
2503                 cancel_lru_locks osc
2504                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2505         done
2506         lctl set_param fail_loc=0
2507         stop_full_debug_logging
2508 }
2509 run_test 39j "write, rename, close, stat ======================="
2510
2511 test_39k() {
2512         touch $DIR1/$tfile
2513         sleep 1
2514
2515         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c || error "multiop failed"
2516         local multipid=$!
2517         local mtime1=`stat -c %Y $DIR1/$tfile`
2518
2519         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2520
2521         kill -USR1 $multipid
2522         wait $multipid || error "multiop close failed"
2523
2524         for (( i=0; i < 2; i++ )) ; do
2525                 local mtime2=`stat -c %Y $DIR1/$tfile`
2526
2527                 [ "$mtime2" = $TEST_39_MTIME ] || \
2528                         error "mtime is lost on close: $mtime2, should be $TEST_39_MTIME"
2529
2530                 cancel_lru_locks osc
2531                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2532         done
2533 }
2534 run_test 39k "write, utime, close, stat ========================"
2535
2536 # this should be set to future
2537 TEST_39_ATIME=`date -d "1 year" +%s`
2538
2539 is_sles11()                                             # LU-1783
2540 {
2541         if [ -r /etc/SuSE-release ]
2542         then
2543                 local vers=`grep VERSION /etc/SuSE-release | awk '{print $3}'`
2544                 local patchlev=`grep PATCHLEVEL /etc/SuSE-release \
2545                         | awk '{print $3}'`
2546                 if [ $vers -eq 11 ] && [ $patchlev -eq 1 ]
2547                 then
2548                         return 0
2549                 fi
2550         fi
2551         return 1
2552 }
2553
2554 test_39l() {
2555         is_sles11 && skip "SLES 11 SP1" && return       # LU-1783
2556         remote_mds_nodsh && skip "remote MDS with nodsh" && return
2557         local atime_diff=$(do_facet $SINGLEMDS lctl get_param -n mdd.*.atime_diff)
2558
2559         mkdir -p $DIR/$tdir
2560
2561         # test setting directory atime to future
2562         touch -a -d @$TEST_39_ATIME $DIR/$tdir
2563         local atime=$(stat -c %X $DIR/$tdir)
2564         [ "$atime" = $TEST_39_ATIME ] || \
2565                 error "atime is not set to future: $atime, should be $TEST_39_ATIME"
2566
2567         # test setting directory atime from future to now
2568         local d1=$(date +%s)
2569         ls $DIR/$tdir
2570         local d2=$(date +%s)
2571
2572         cancel_lru_locks mdc
2573         atime=$(stat -c %X $DIR/$tdir)
2574         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2575                 error "atime is not updated from future: $atime, should be $d1<atime<$d2"
2576
2577         do_facet $SINGLEMDS lctl set_param -n mdd.*.atime_diff=2
2578         sleep 3
2579
2580         # test setting directory atime when now > dir atime + atime_diff
2581         d1=$(date +%s)
2582         ls $DIR/$tdir
2583         d2=$(date +%s)
2584         cancel_lru_locks mdc
2585         atime=$(stat -c %X $DIR/$tdir)
2586         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2587                 error "atime is not updated  : $atime, should be $d2"
2588
2589         do_facet $SINGLEMDS lctl set_param -n mdd.*.atime_diff=60
2590         sleep 3
2591
2592         # test not setting directory atime when now < dir atime + atime_diff
2593         ls $DIR/$tdir
2594         cancel_lru_locks mdc
2595         atime=$(stat -c %X $DIR/$tdir)
2596         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2597                 error "atime is updated to $atime, should remain $d1<atime<$d2"
2598
2599         do_facet $SINGLEMDS lctl set_param -n mdd.*.atime_diff=$atime_diff
2600 }
2601 run_test 39l "directory atime update ==========================="
2602
2603 test_39m() {
2604         touch $DIR1/$tfile
2605         sleep 2
2606         local far_past_mtime=$(date -d "May 29 1953" +%s)
2607         local far_past_atime=$(date -d "Dec 17 1903" +%s)
2608
2609         touch -m -d @$far_past_mtime $DIR1/$tfile
2610         touch -a -d @$far_past_atime $DIR1/$tfile
2611
2612         for (( i=0; i < 2; i++ )) ; do
2613                 local timestamps=$(stat -c "%X %Y" $DIR1/$tfile)
2614                 [ "$timestamps" = "$far_past_atime $far_past_mtime" ] || \
2615                         error "atime or mtime set incorrectly"
2616
2617                 cancel_lru_locks osc
2618                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2619         done
2620 }
2621 run_test 39m "test atime and mtime before 1970"
2622
2623 test_40() {
2624         dd if=/dev/zero of=$DIR/f40 bs=4096 count=1
2625         $RUNAS $OPENFILE -f O_WRONLY:O_TRUNC $DIR/f40 && error
2626         $CHECKSTAT -t file -s 4096 $DIR/f40 || error
2627 }
2628 run_test 40 "failed open(O_TRUNC) doesn't truncate ============="
2629
2630 test_41() {
2631         # bug 1553
2632         small_write $DIR/f41 18
2633 }
2634 run_test 41 "test small file write + fstat ====================="
2635
2636 count_ost_writes() {
2637         lctl get_param -n osc.*.stats |
2638             awk -vwrites=0 '/ost_write/ { writes += $2 } END { print writes; }'
2639 }
2640
2641 # decent default
2642 WRITEBACK_SAVE=500
2643 DIRTY_RATIO_SAVE=40
2644 MAX_DIRTY_RATIO=50
2645 BG_DIRTY_RATIO_SAVE=10
2646 MAX_BG_DIRTY_RATIO=25
2647
2648 start_writeback() {
2649         trap 0
2650         # in 2.6, restore /proc/sys/vm/dirty_writeback_centisecs,
2651         # dirty_ratio, dirty_background_ratio
2652         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
2653                 sysctl -w vm.dirty_writeback_centisecs=$WRITEBACK_SAVE
2654                 sysctl -w vm.dirty_background_ratio=$BG_DIRTY_RATIO_SAVE
2655                 sysctl -w vm.dirty_ratio=$DIRTY_RATIO_SAVE
2656         else
2657                 # if file not here, we are a 2.4 kernel
2658                 kill -CONT `pidof kupdated`
2659         fi
2660 }
2661
2662 stop_writeback() {
2663         # setup the trap first, so someone cannot exit the test at the
2664         # exact wrong time and mess up a machine
2665         trap start_writeback EXIT
2666         # in 2.6, save and 0 /proc/sys/vm/dirty_writeback_centisecs
2667         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
2668                 WRITEBACK_SAVE=`sysctl -n vm.dirty_writeback_centisecs`
2669                 sysctl -w vm.dirty_writeback_centisecs=0
2670                 sysctl -w vm.dirty_writeback_centisecs=0
2671                 # save and increase /proc/sys/vm/dirty_ratio
2672                 DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_ratio`
2673                 sysctl -w vm.dirty_ratio=$MAX_DIRTY_RATIO
2674                 # save and increase /proc/sys/vm/dirty_background_ratio
2675                 BG_DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_background_ratio`
2676                 sysctl -w vm.dirty_background_ratio=$MAX_BG_DIRTY_RATIO
2677         else
2678                 # if file not here, we are a 2.4 kernel
2679                 kill -STOP `pidof kupdated`
2680         fi
2681 }
2682
2683 # ensure that all stripes have some grant before we test client-side cache
2684 setup_test42() {
2685         for i in `seq -f $DIR/f42-%g 1 $OSTCOUNT`; do
2686                 dd if=/dev/zero of=$i bs=4k count=1
2687                 rm $i
2688         done
2689 }
2690
2691 # Tests 42* verify that our behaviour is correct WRT caching, file closure,
2692 # file truncation, and file removal.
2693 test_42a() {
2694         setup_test42
2695         cancel_lru_locks osc
2696         stop_writeback
2697         sync; sleep 1; sync # just to be safe
2698         BEFOREWRITES=`count_ost_writes`
2699         lctl get_param -n osc.*[oO][sS][cC][_-]*.cur_grant_bytes | grep "[0-9]"
2700         dd if=/dev/zero of=$DIR/f42a bs=1024 count=100
2701         AFTERWRITES=`count_ost_writes`
2702         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
2703                 error "$BEFOREWRITES < $AFTERWRITES"
2704         start_writeback
2705 }
2706 run_test 42a "ensure that we don't flush on close =============="
2707
2708 test_42b() {
2709         setup_test42
2710         cancel_lru_locks osc
2711         stop_writeback
2712         sync
2713         dd if=/dev/zero of=$DIR/f42b bs=1024 count=100
2714         BEFOREWRITES=`count_ost_writes`
2715         $MUNLINK $DIR/f42b || error "$MUNLINK $DIR/f42b: $?"
2716         AFTERWRITES=`count_ost_writes`
2717         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
2718                 error "$BEFOREWRITES < $AFTERWRITES on unlink"
2719         fi
2720         BEFOREWRITES=`count_ost_writes`
2721         sync || error "sync: $?"
2722         AFTERWRITES=`count_ost_writes`
2723         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
2724                 error "$BEFOREWRITES < $AFTERWRITES on sync"
2725         fi
2726         dmesg | grep 'error from obd_brw_async' && error 'error writing back'
2727         start_writeback
2728         return 0
2729 }
2730 run_test 42b "test destroy of file with cached dirty data ======"
2731
2732 # if these tests just want to test the effect of truncation,
2733 # they have to be very careful.  consider:
2734 # - the first open gets a {0,EOF}PR lock
2735 # - the first write conflicts and gets a {0, count-1}PW
2736 # - the rest of the writes are under {count,EOF}PW
2737 # - the open for truncate tries to match a {0,EOF}PR
2738 #   for the filesize and cancels the PWs.
2739 # any number of fixes (don't get {0,EOF} on open, match
2740 # composite locks, do smarter file size management) fix
2741 # this, but for now we want these tests to verify that
2742 # the cancellation with truncate intent works, so we
2743 # start the file with a full-file pw lock to match against
2744 # until the truncate.
2745 trunc_test() {
2746         test=$1
2747         file=$DIR/$test
2748         offset=$2
2749         cancel_lru_locks osc
2750         stop_writeback
2751         # prime the file with 0,EOF PW to match
2752         touch $file
2753         $TRUNCATE $file 0
2754         sync; sync
2755         # now the real test..
2756         dd if=/dev/zero of=$file bs=1024 count=100
2757         BEFOREWRITES=`count_ost_writes`
2758         $TRUNCATE $file $offset
2759         cancel_lru_locks osc
2760         AFTERWRITES=`count_ost_writes`
2761         start_writeback
2762 }
2763
2764 test_42c() {
2765         trunc_test 42c 1024
2766         [ $BEFOREWRITES -eq $AFTERWRITES ] && \
2767             error "beforewrites $BEFOREWRITES == afterwrites $AFTERWRITES on truncate"
2768         rm $file
2769 }
2770 run_test 42c "test partial truncate of file with cached dirty data"
2771
2772 test_42d() {
2773         trunc_test 42d 0
2774         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
2775             error "beforewrites $BEFOREWRITES != afterwrites $AFTERWRITES on truncate"
2776         rm $file
2777 }
2778 run_test 42d "test complete truncate of file with cached dirty data"
2779
2780 test_42e() { # bug22074
2781         local TDIR=$DIR/${tdir}e
2782         local pagesz=$(page_size)
2783         local pages=16 # hardcoded 16 pages, don't change it.
2784         local files=$((OSTCOUNT * 500)) # hopefully 500 files on each OST
2785         local proc_osc0="osc.${FSNAME}-OST0000-osc-[^MDT]*"
2786         local max_dirty_mb
2787         local warmup_files
2788
2789         mkdir -p $TDIR
2790         $SETSTRIPE -c 1 $TDIR
2791         createmany -o $TDIR/f $files
2792
2793         max_dirty_mb=$($LCTL get_param -n $proc_osc0/max_dirty_mb)
2794
2795         # we assume that with $OSTCOUNT files, at least one of them will
2796         # be allocated on OST0.
2797         warmup_files=$((OSTCOUNT * max_dirty_mb))
2798         createmany -o $TDIR/w $warmup_files
2799
2800         # write a large amount of data into one file and sync, to get good
2801         # avail_grant number from OST.
2802         for ((i=0; i<$warmup_files; i++)); do
2803                 idx=$($GETSTRIPE -i $TDIR/w$i)
2804                 [ $idx -ne 0 ] && continue
2805                 dd if=/dev/zero of=$TDIR/w$i bs="$max_dirty_mb"M count=1
2806                 break
2807         done
2808         [ $i -gt $warmup_files ] && error "OST0 is still cold"
2809         sync
2810         $LCTL get_param $proc_osc0/cur_dirty_bytes
2811         $LCTL get_param $proc_osc0/cur_grant_bytes
2812
2813         # create as much dirty pages as we can while not to trigger the actual
2814         # RPCs directly. but depends on the env, VFS may trigger flush during this
2815         # period, hopefully we are good.
2816         for ((i=0; i<$warmup_files; i++)); do
2817                 idx=$($GETSTRIPE -i $TDIR/w$i)
2818                 [ $idx -ne 0 ] && continue
2819                 dd if=/dev/zero of=$TDIR/w$i bs=1M count=1 2>/dev/null
2820         done
2821         $LCTL get_param $proc_osc0/cur_dirty_bytes
2822         $LCTL get_param $proc_osc0/cur_grant_bytes
2823
2824         # perform the real test
2825         $LCTL set_param $proc_osc0/rpc_stats 0
2826         for ((;i<$files; i++)); do
2827                 [ $($GETSTRIPE -i $TDIR/f$i) -eq 0 ] || continue
2828                 dd if=/dev/zero of=$TDIR/f$i bs=$pagesz count=$pages 2>/dev/null
2829         done
2830         sync
2831         $LCTL get_param $proc_osc0/rpc_stats
2832
2833         local percent=0
2834         local have_ppr=false
2835         $LCTL get_param $proc_osc0/rpc_stats |
2836                 while read PPR RRPC RPCT RCUM BAR WRPC WPCT WCUM; do
2837                         # skip lines until we are at the RPC histogram data
2838                         [ "$PPR" == "pages" ] && have_ppr=true && continue
2839                         $have_ppr || continue
2840
2841                         # we only want the percent stat for < 16 pages
2842                         [ $(echo $PPR | tr -d ':') -ge $pages ] && break
2843
2844                         percent=$((percent + WPCT))
2845                         if [ $percent -gt 15 ]; then
2846                                 error "less than 16-pages write RPCs" \
2847                                       "$percent% > 15%"
2848                                 break
2849                         fi
2850                 done
2851         rm -rf $TDIR
2852 }
2853 run_test 42e "verify sub-RPC writes are not done synchronously"
2854
2855 test_43() {
2856         mkdir -p $DIR/$tdir
2857         cp -p /bin/ls $DIR/$tdir/$tfile
2858         $MULTIOP $DIR/$tdir/$tfile Ow_c &
2859         pid=$!
2860         # give multiop a chance to open
2861         sleep 1
2862
2863         $DIR/$tdir/$tfile && error || true
2864         kill -USR1 $pid
2865 }
2866 run_test 43 "execution of file opened for write should return -ETXTBSY"
2867
2868 test_43a() {
2869         mkdir -p $DIR/d43
2870         cp -p `which $MULTIOP` $DIR/d43/multiop || cp -p multiop $DIR/d43/multiop
2871         MULTIOP_PROG=$DIR/d43/multiop multiop_bg_pause $TMP/test43.junk O_c || return 1
2872         MULTIOP_PID=$!
2873         $MULTIOP $DIR/d43/multiop Oc && error "expected error, got success"
2874         kill -USR1 $MULTIOP_PID || return 2
2875         wait $MULTIOP_PID || return 3
2876         rm $TMP/test43.junk
2877 }
2878 run_test 43a "open(RDWR) of file being executed should return -ETXTBSY"
2879
2880 test_43b() {
2881         mkdir -p $DIR/d43
2882         cp -p `which $MULTIOP` $DIR/d43/multiop || cp -p multiop $DIR/d43/multiop
2883         MULTIOP_PROG=$DIR/d43/multiop multiop_bg_pause $TMP/test43.junk O_c || return 1
2884         MULTIOP_PID=$!
2885         $TRUNCATE $DIR/d43/multiop 0 && error "expected error, got success"
2886         kill -USR1 $MULTIOP_PID || return 2
2887         wait $MULTIOP_PID || return 3
2888         rm $TMP/test43.junk
2889 }
2890 run_test 43b "truncate of file being executed should return -ETXTBSY"
2891
2892 test_43c() {
2893         local testdir="$DIR/d43c"
2894         mkdir -p $testdir
2895         cp $SHELL $testdir/
2896         ( cd $(dirname $SHELL) && md5sum $(basename $SHELL) ) | \
2897                 ( cd $testdir && md5sum -c)
2898 }
2899 run_test 43c "md5sum of copy into lustre========================"
2900
2901 test_44() {
2902         [  "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
2903         dd if=/dev/zero of=$DIR/f1 bs=4k count=1 seek=1023
2904         dd if=$DIR/f1 bs=4k count=1 > /dev/null
2905 }
2906 run_test 44 "zero length read from a sparse stripe ============="
2907
2908 test_44a() {
2909     local nstripe=`$LCTL lov_getconfig $DIR | grep default_stripe_count: | \
2910                          awk '{print $2}'`
2911     [ -z "$nstripe" ] && skip "can't get stripe info" && return
2912     [ "$nstripe" -gt "$OSTCOUNT" ] && skip "Wrong default_stripe_count: $nstripe (OSTCOUNT: $OSTCOUNT)" && return
2913     local stride=`$LCTL lov_getconfig $DIR | grep default_stripe_size: | \
2914                       awk '{print $2}'`
2915     if [ $nstripe -eq 0 -o $nstripe -eq -1 ] ; then
2916         nstripe=`$LCTL lov_getconfig $DIR | grep obd_count: | awk '{print $2}'`
2917     fi
2918
2919     OFFSETS="0 $((stride/2)) $((stride-1))"
2920     for offset in $OFFSETS ; do
2921       for i in `seq 0 $((nstripe-1))`; do
2922         local GLOBALOFFSETS=""
2923         local size=$((((i + 2 * $nstripe )*$stride + $offset)))  # Bytes
2924         local myfn=$DIR/d44a-$size
2925         echo "--------writing $myfn at $size"
2926         ll_sparseness_write $myfn $size  || error "ll_sparseness_write"
2927         GLOBALOFFSETS="$GLOBALOFFSETS $size"
2928         ll_sparseness_verify $myfn $GLOBALOFFSETS \
2929                             || error "ll_sparseness_verify $GLOBALOFFSETS"
2930
2931         for j in `seq 0 $((nstripe-1))`; do
2932             size=$((((j + $nstripe )*$stride + $offset)))  # Bytes
2933             ll_sparseness_write $myfn $size || error "ll_sparseness_write"
2934             GLOBALOFFSETS="$GLOBALOFFSETS $size"
2935         done
2936         ll_sparseness_verify $myfn $GLOBALOFFSETS \
2937                             || error "ll_sparseness_verify $GLOBALOFFSETS"
2938         rm -f $myfn
2939       done
2940     done
2941 }
2942 run_test 44a "test sparse pwrite ==============================="
2943
2944 dirty_osc_total() {
2945         tot=0
2946         for d in `lctl get_param -n osc.*.cur_dirty_bytes`; do
2947                 tot=$(($tot + $d))
2948         done
2949         echo $tot
2950 }
2951 do_dirty_record() {
2952         before=`dirty_osc_total`
2953         echo executing "\"$*\""
2954         eval $*
2955         after=`dirty_osc_total`
2956         echo before $before, after $after
2957 }
2958 test_45() {
2959         f="$DIR/f45"
2960         # Obtain grants from OST if it supports it
2961         echo blah > ${f}_grant
2962         stop_writeback
2963         sync
2964         do_dirty_record "echo blah > $f"
2965         [ $before -eq $after ] && error "write wasn't cached"
2966         do_dirty_record "> $f"
2967         [ $before -gt $after ] || error "truncate didn't lower dirty count"
2968         do_dirty_record "echo blah > $f"
2969         [ $before -eq $after ] && error "write wasn't cached"
2970         do_dirty_record "sync"
2971         [ $before -gt $after ] || error "writeback didn't lower dirty count"
2972         do_dirty_record "echo blah > $f"
2973         [ $before -eq $after ] && error "write wasn't cached"
2974         do_dirty_record "cancel_lru_locks osc"
2975         [ $before -gt $after ] || error "lock cancellation didn't lower dirty count"
2976         start_writeback
2977 }
2978 run_test 45 "osc io page accounting ============================"
2979
2980 # in a 2 stripe file (lov.sh), page 1023 maps to page 511 in its object.  this
2981 # test tickles a bug where re-dirtying a page was failing to be mapped to the
2982 # objects offset and an assert hit when an rpc was built with 1023's mapped
2983 # offset 511 and 511's raw 511 offset. it also found general redirtying bugs.
2984 test_46() {
2985         f="$DIR/f46"
2986         stop_writeback
2987         sync
2988         dd if=/dev/zero of=$f bs=`page_size` seek=511 count=1
2989         sync
2990         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=1023 count=1
2991         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=511 count=1
2992         sync
2993         start_writeback
2994 }
2995 run_test 46 "dirtying a previously written page ================"
2996
2997 # test_47 is removed "Device nodes check" is moved to test_28
2998
2999 test_48a() { # bug 2399
3000         check_kernel_version 34 || return 0
3001         mkdir -p $DIR/d48a
3002         cd $DIR/d48a
3003         mv $DIR/d48a $DIR/d48.new || error "move directory failed"
3004         mkdir $DIR/d48a || error "recreate directory failed"
3005         touch foo || error "'touch foo' failed after recreating cwd"
3006         mkdir bar || error "'mkdir foo' failed after recreating cwd"
3007         if check_kernel_version 44; then
3008                 touch .foo || error "'touch .foo' failed after recreating cwd"
3009                 mkdir .bar || error "'mkdir .foo' failed after recreating cwd"
3010         fi
3011         ls . > /dev/null || error "'ls .' failed after recreating cwd"
3012         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
3013         cd . || error "'cd .' failed after recreating cwd"
3014         mkdir . && error "'mkdir .' worked after recreating cwd"
3015         rmdir . && error "'rmdir .' worked after recreating cwd"
3016         ln -s . baz || error "'ln -s .' failed after recreating cwd"
3017         cd .. || error "'cd ..' failed after recreating cwd"
3018 }
3019 run_test 48a "Access renamed working dir (should return errors)="
3020
3021 test_48b() { # bug 2399
3022         check_kernel_version 34 || return 0
3023         mkdir -p $DIR/d48b
3024         cd $DIR/d48b
3025         rmdir $DIR/d48b || error "remove cwd $DIR/d48b failed"
3026         touch foo && error "'touch foo' worked after removing cwd"
3027         mkdir foo && error "'mkdir foo' worked after removing cwd"
3028         if check_kernel_version 44; then
3029                 touch .foo && error "'touch .foo' worked after removing cwd"
3030                 mkdir .foo && error "'mkdir .foo' worked after removing cwd"
3031         fi
3032         ls . > /dev/null && error "'ls .' worked after removing cwd"
3033         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
3034         is_patchless || ( cd . && error "'cd .' worked after removing cwd" )
3035         mkdir . && error "'mkdir .' worked after removing cwd"
3036         rmdir . && error "'rmdir .' worked after removing cwd"
3037         ln -s . foo && error "'ln -s .' worked after removing cwd"
3038         cd .. || echo "'cd ..' failed after removing cwd `pwd`"  #bug 3517
3039 }
3040 run_test 48b "Access removed working dir (should return errors)="
3041
3042 test_48c() { # bug 2350
3043         check_kernel_version 36 || return 0
3044         #lctl set_param debug=-1
3045         #set -vx
3046         mkdir -p $DIR/d48c/dir
3047         cd $DIR/d48c/dir
3048         $TRACE rmdir $DIR/d48c/dir || error "remove cwd $DIR/d48c/dir failed"
3049         $TRACE touch foo && error "'touch foo' worked after removing cwd"
3050         $TRACE mkdir foo && error "'mkdir foo' worked after removing cwd"
3051         if check_kernel_version 44; then
3052                 touch .foo && error "'touch .foo' worked after removing cwd"
3053                 mkdir .foo && error "'mkdir .foo' worked after removing cwd"
3054         fi
3055         $TRACE ls . && error "'ls .' worked after removing cwd"
3056         $TRACE ls .. || error "'ls ..' failed after removing cwd"
3057         is_patchless || ( $TRACE cd . && error "'cd .' worked after removing cwd" )
3058         $TRACE mkdir . && error "'mkdir .' worked after removing cwd"
3059         $TRACE rmdir . && error "'rmdir .' worked after removing cwd"
3060         $TRACE ln -s . foo && error "'ln -s .' worked after removing cwd"
3061         $TRACE cd .. || echo "'cd ..' failed after removing cwd `pwd`" #bug 3415
3062 }
3063 run_test 48c "Access removed working subdir (should return errors)"
3064
3065 test_48d() { # bug 2350
3066         check_kernel_version 36 || return 0
3067         #lctl set_param debug=-1
3068         #set -vx
3069         mkdir -p $DIR/d48d/dir
3070         cd $DIR/d48d/dir
3071         $TRACE rmdir $DIR/d48d/dir || error "remove cwd $DIR/d48d/dir failed"
3072         $TRACE rmdir $DIR/d48d || error "remove parent $DIR/d48d failed"
3073         $TRACE touch foo && error "'touch foo' worked after removing parent"
3074         $TRACE mkdir foo && error "'mkdir foo' worked after removing parent"
3075         if check_kernel_version 44; then
3076                 touch .foo && error "'touch .foo' worked after removing parent"
3077                 mkdir .foo && error "'mkdir .foo' worked after removing parent"
3078         fi
3079         $TRACE ls . && error "'ls .' worked after removing parent"
3080         $TRACE ls .. && error "'ls ..' worked after removing parent"
3081         is_patchless || ( $TRACE cd . && error "'cd .' worked after recreate parent" )
3082         $TRACE mkdir . && error "'mkdir .' worked after removing parent"
3083         $TRACE rmdir . && error "'rmdir .' worked after removing parent"
3084         $TRACE ln -s . foo && error "'ln -s .' worked after removing parent"
3085         is_patchless || ( $TRACE cd .. && error "'cd ..' worked after removing parent" || true )
3086 }
3087 run_test 48d "Access removed parent subdir (should return errors)"
3088
3089 test_48e() { # bug 4134
3090         check_kernel_version 41 || return 0
3091         #lctl set_param debug=-1
3092         #set -vx
3093         mkdir -p $DIR/d48e/dir
3094         cd $DIR/d48e/dir
3095         $TRACE rmdir $DIR/d48e/dir || error "remove cwd $DIR/d48e/dir failed"
3096         $TRACE rmdir $DIR/d48e || error "remove parent $DIR/d48e failed"
3097         $TRACE touch $DIR/d48e || error "'touch $DIR/d48e' failed"
3098         $TRACE chmod +x $DIR/d48e || error "'chmod +x $DIR/d48e' failed"
3099         # On a buggy kernel addition of "touch foo" after cd .. will
3100         # produce kernel oops in lookup_hash_it
3101         touch ../foo && error "'cd ..' worked after recreate parent"
3102         cd $DIR
3103         $TRACE rm $DIR/d48e || error "rm '$DIR/d48e' failed"
3104 }
3105 run_test 48e "Access to recreated parent subdir (should return errors)"
3106
3107 test_49() { # LU-1030
3108         # get ost1 size - lustre-OST0000
3109         ost1_size=$(do_facet ost1 lfs df |grep ${ost1_svc} |awk '{print $4}')
3110         # write 800M at maximum
3111         [ $ost1_size -gt 819200 ] && ost1_size=819200
3112
3113         lfs setstripe -c 1 -i 0 $DIR/$tfile
3114         dd if=/dev/zero of=$DIR/$tfile bs=4k count=$((ost1_size >> 2)) &
3115         local dd_pid=$!
3116
3117         # change max_pages_per_rpc while writing the file
3118         local osc1_mppc=osc.$(get_osc_import_name client ost1).max_pages_per_rpc
3119         local orig_mppc=`$LCTL get_param -n $osc1_mppc`
3120         # loop until dd process exits
3121         while ps ax -opid | grep -wq $dd_pid; do
3122                 $LCTL set_param $osc1_mppc=$((RANDOM % 256 + 1))
3123                 sleep $((RANDOM % 5 + 1))
3124         done
3125         # restore original max_pages_per_rpc
3126         $LCTL set_param $osc1_mppc=$orig_mppc
3127         rm $DIR/$tfile || error "rm $DIR/$tfile failed"
3128 }
3129 run_test 49 "Change max_pages_per_rpc won't break osc extent"
3130
3131 test_50() {
3132         # bug 1485
3133         mkdir $DIR/d50
3134         cd $DIR/d50
3135         ls /proc/$$/cwd || error
3136 }
3137 run_test 50 "special situations: /proc symlinks  ==============="
3138
3139 test_51a() {    # was test_51
3140         # bug 1516 - create an empty entry right after ".." then split dir
3141         mkdir $DIR/d51
3142         touch $DIR/d51/foo
3143         $MCREATE $DIR/d51/bar
3144         rm $DIR/d51/foo
3145         createmany -m $DIR/d51/longfile 201
3146         FNUM=202
3147         while [ `ls -sd $DIR/d51 | awk '{ print $1 }'` -eq 4 ]; do
3148                 $MCREATE $DIR/d51/longfile$FNUM
3149                 FNUM=$(($FNUM + 1))
3150                 echo -n "+"
3151         done
3152         echo
3153         ls -l $DIR/d51 > /dev/null || error
3154 }
3155 run_test 51a "special situations: split htree with empty entry =="
3156
3157 export NUMTEST=70000
3158 test_51b() {
3159         NUMFREE=`df -i -P $DIR | tail -n 1 | awk '{ print $4 }'`
3160         [ $NUMFREE -lt 21000 ] && \
3161                 skip "not enough free inodes ($NUMFREE)" && \
3162                 return
3163
3164         [ $NUMFREE -lt $NUMTEST ] && NUMTEST=$(($NUMFREE - 50))
3165
3166         mkdir -p $DIR/d51b
3167         createmany -d $DIR/d51b/t- $NUMTEST
3168 }
3169 run_test 51b "mkdir .../t-0 --- .../t-$NUMTEST ===================="
3170
3171 test_51ba() { # LU-993
3172         local BASE=$DIR/d51b
3173         # unlink all but 100 subdirectories, then check it still works
3174         local LEFT=100
3175         local DELETE=$((NUMTEST - LEFT))
3176
3177         # continue on to run this test even if 51b didn't finish,
3178         # just to delete the many subdirectories created.
3179         ! [ -d "${BASE}/t-1" ] && skip "test_51b() not run" && return 0
3180
3181         # for ldiskfs the nlink count should be 1, but this is OSD specific
3182         # and so this is listed for informational purposes only
3183         log "nlink before: $(stat -c %h $BASE)"
3184         unlinkmany -d $BASE/t- $DELETE ||
3185                 error "unlink of first $DELETE subdirs failed"
3186
3187         log "nlink between: $(stat -c %h $BASE)"
3188         local FOUND=$(ls -l ${BASE} | wc -l)
3189         FOUND=$((FOUND - 1))  # trim the first line of ls output
3190         [ $FOUND -ne $LEFT ] &&
3191                 error "can't find subdirs: found only $FOUND/$LEFT"
3192
3193         unlinkmany -d $BASE/t- $DELETE $LEFT ||
3194                 error "unlink of second $LEFT subdirs failed"
3195         log "nlink after: $(stat -c %h $BASE)"
3196 }
3197 run_test 51ba "rmdir .../t-0 --- .../t-$NUMTEST"
3198
3199 test_51bb() {
3200         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
3201
3202         local ndirs=${TEST51BB_NDIRS:-10}
3203         local nfiles=${TEST51BB_NFILES:-100}
3204
3205         local numfree=`df -i -P $DIR | tail -n 1 | awk '{ print $4 }'`
3206
3207         [ $numfree -lt $(( ndirs * nfiles)) ] && \
3208                 nfiles=$(( numfree / ndirs - 10 ))
3209
3210         local dir=$DIR/d51bb
3211         mkdir -p $dir
3212         local savePOLICY=$(lctl get_param -n lmv.*.placement)
3213         lctl set_param -n lmv.*.placement=CHAR
3214
3215         lfs df -i $dir
3216         local IUSED=$(lfs df -i $dir | grep MDT | awk '{print $3}')
3217         OLDUSED=($IUSED)
3218
3219         declare -a dirs
3220         for ((i=0; i < $ndirs; i++)); do
3221                 dirs[i]=$dir/$RANDOM
3222                 echo Creating directory ${dirs[i]}
3223                 mkdir -p ${dirs[i]}
3224                 ls $dir
3225                 echo Creating $nfiles in dir ${dirs[i]} ...
3226                 echo "createmany -o ${dirs[i]}/$tfile- $nfiles"
3227                 createmany -o ${dirs[i]}/$tfile- $nfiles
3228         done
3229         ls $dir
3230
3231         sleep 1
3232
3233         IUSED=$(lfs df -i $dir | grep MDT | awk '{print $3}')
3234         NEWUSED=($IUSED)
3235
3236         local rc=0
3237         for ((i=0; i<${#NEWUSED[@]}; i++)); do
3238                 echo "mds $i: inodes count OLD ${OLDUSED[$i]} NEW ${NEWUSED[$i]}"
3239                 [ ${OLDUSED[$i]} -lt ${NEWUSED[$i]} ] || rc=$((rc + 1))
3240         done
3241
3242         lctl set_param -n lmv.*.placement=$savePOLICY
3243
3244         [ $rc -ne $MDSCOUNT ] || \
3245                 error "Objects/inodes are not distributed over all mds servers"
3246 }
3247 run_test 51bb "mkdir createmany CMD $MDSCOUNT  ===================="
3248
3249 test_51d() {
3250         [  "$OSTCOUNT" -lt "3" ] && skip_env "skipping test with few OSTs" && return
3251         mkdir -p $DIR/d51d
3252         createmany -o $DIR/d51d/t- 1000
3253         $GETSTRIPE $DIR/d51d > $TMP/files
3254         for N in `seq 0 $((OSTCOUNT - 1))`; do
3255             OBJS[$N]=`awk -vobjs=0 '($1 == '$N') { objs += 1 } END { print objs;}' $TMP/files`
3256             OBJS0[$N]=`grep -A 1 idx $TMP/files | awk -vobjs=0 '($1 == '$N') { objs += 1 } END { print objs;}'`
3257             log "OST$N has ${OBJS[$N]} objects, ${OBJS0[$N]} are index 0"
3258         done
3259         unlinkmany $DIR/d51d/t- 1000
3260
3261         NLAST=0
3262         for N in `seq 1 $((OSTCOUNT - 1))`; do
3263             [ ${OBJS[$N]} -lt $((${OBJS[$NLAST]} - 20)) ] && \
3264                 error "OST $N has less objects vs OST $NLAST (${OBJS[$N]} < ${OBJS[$NLAST]}"
3265             [ ${OBJS[$N]} -gt $((${OBJS[$NLAST]} + 20)) ] && \
3266                 error "OST $N has less objects vs OST $NLAST (${OBJS[$N]} < ${OBJS[$NLAST]}"
3267
3268             [ ${OBJS0[$N]} -lt $((${OBJS0[$NLAST]} - 20)) ] && \
3269                 error "OST $N has less #0 objects vs OST $NLAST (${OBJS0[$N]} < ${OBJS0[$NLAST]}"
3270             [ ${OBJS0[$N]} -gt $((${OBJS0[$NLAST]} + 20)) ] && \
3271                 error "OST $N has less #0 objects vs OST $NLAST (${OBJS0[$N]} < ${OBJS0[$NLAST]}"
3272             NLAST=$N
3273         done
3274 }
3275 run_test 51d "check object distribution ===================="
3276
3277 test_52a() {
3278         [ -f $DIR/d52a/foo ] && chattr -a $DIR/d52a/foo
3279         mkdir -p $DIR/d52a
3280         touch $DIR/d52a/foo
3281         chattr +a $DIR/d52a/foo || error "chattr +a failed"
3282         echo bar >> $DIR/d52a/foo || error "append bar failed"
3283         cp /etc/hosts $DIR/d52a/foo && error "cp worked"
3284         rm -f $DIR/d52a/foo 2>/dev/null && error "rm worked"
3285         link $DIR/d52a/foo $DIR/d52a/foo_link 2>/dev/null && error "link worked"
3286         echo foo >> $DIR/d52a/foo || error "append foo failed"
3287         mrename $DIR/d52a/foo $DIR/d52a/foo_ren && error "rename worked"
3288         lsattr $DIR/d52a/foo | egrep -q "^-+a[-e]+ $DIR/d52a/foo" || error "lsattr"
3289         chattr -a $DIR/d52a/foo || error "chattr -a failed"
3290         cp -r $DIR/d52a /tmp/
3291         rm -fr $DIR/d52a || error "cleanup rm failed"
3292 }
3293 run_test 52a "append-only flag test (should return errors) ====="
3294
3295 test_52b() {
3296         [ -f $DIR/d52b/foo ] && chattr -i $DIR/d52b/foo
3297         mkdir -p $DIR/d52b
3298         touch $DIR/d52b/foo
3299         chattr +i $DIR/d52b/foo || error "chattr +i failed"
3300         cat test > $DIR/d52b/foo && error "cat test worked"
3301         cp /etc/hosts $DIR/d52b/foo && error "cp worked"
3302         rm -f $DIR/d52b/foo 2>/dev/null && error "rm worked"
3303         link $DIR/d52b/foo $DIR/d52b/foo_link 2>/dev/null && error  "link worked"
3304         echo foo >> $DIR/d52b/foo && error "echo worked"
3305         mrename $DIR/d52b/foo $DIR/d52b/foo_ren && error "rename worked"
3306         [ -f $DIR/d52b/foo ] || error
3307         [ -f $DIR/d52b/foo_ren ] && error
3308         lsattr $DIR/d52b/foo | egrep -q "^-+i[-e]+ $DIR/d52b/foo" || error "lsattr"
3309         chattr -i $DIR/d52b/foo || error "chattr failed"
3310
3311         rm -fr $DIR/d52b || error
3312 }
3313 run_test 52b "immutable flag test (should return errors) ======="
3314
3315 test_53() {
3316         remote_mds_nodsh && skip "remote MDS with nodsh" && return
3317         remote_ost_nodsh && skip "remote OST with nodsh" && return
3318
3319         local param
3320         local ostname
3321         local mds_last
3322         local ost_last
3323         local ostnum
3324
3325         # only test MDT0000
3326         local mdtosc=$(get_mdtosc_proc_path $SINGLEMDS)
3327         for value in $(do_facet $SINGLEMDS lctl get_param osc.$mdtosc.prealloc_last_id) ; do
3328                 param=`echo ${value[0]} | cut -d "=" -f1`
3329                 ostname=`echo $param | cut -d "." -f2 | cut -d - -f 1-2`
3330                 mds_last=$(do_facet $SINGLEMDS lctl get_param -n $param)
3331                 ostnum=$(echo $ostname | sed "s/${FSNAME}-OST//g" | awk '{print ($1+1)}' )
3332                 ost_last=$(do_facet ost$ostnum lctl get_param -n obdfilter.$ostname.last_id | head -n 1)
3333                 echo "$ostname.last_id=$ost_last ; MDS.last_id=$mds_last"
3334                 if [ $ost_last != $mds_last ]; then
3335                     error "$ostname.last_id=$ost_last ; MDS.last_id=$mds_last"
3336                 fi
3337         done
3338 }
3339 run_test 53 "verify that MDS and OSTs agree on pre-creation ===="
3340
3341 test_54a() {
3342         [ ! -f "$SOCKETSERVER" ] && skip_env "no socketserver, skipping" && return
3343         [ ! -f "$SOCKETCLIENT" ] && skip_env "no socketclient, skipping" && return
3344         $SOCKETSERVER $DIR/socket
3345         $SOCKETCLIENT $DIR/socket || error
3346         $MUNLINK $DIR/socket
3347 }
3348 run_test 54a "unix domain socket test =========================="
3349
3350 test_54b() {
3351         f="$DIR/f54b"
3352         mknod $f c 1 3
3353         chmod 0666 $f
3354         dd if=/dev/zero of=$f bs=`page_size` count=1
3355 }
3356 run_test 54b "char device works in lustre ======================"
3357
3358 find_loop_dev() {
3359         [ -b /dev/loop/0 ] && LOOPBASE=/dev/loop/
3360         [ -b /dev/loop0 ] && LOOPBASE=/dev/loop
3361         [ -z "$LOOPBASE" ] && echo "/dev/loop/0 and /dev/loop0 gone?" && return
3362
3363         for i in `seq 3 7`; do
3364                 losetup $LOOPBASE$i > /dev/null 2>&1 && continue
3365                 LOOPDEV=$LOOPBASE$i
3366                 LOOPNUM=$i
3367                 break
3368         done
3369 }
3370
3371 test_54c() {
3372         tfile="$DIR/f54c"
3373         tdir="$DIR/d54c"
3374         loopdev="$DIR/loop54c"
3375
3376         find_loop_dev
3377         [ -z "$LOOPNUM" ] && echo "couldn't find empty loop device" && return
3378         mknod $loopdev b 7 $LOOPNUM
3379         echo "make a loop file system with $tfile on $loopdev ($LOOPNUM)..."
3380         dd if=/dev/zero of=$tfile bs=`page_size` seek=1024 count=1 > /dev/null
3381         losetup $loopdev $tfile || error "can't set up $loopdev for $tfile"
3382         mkfs.ext2 $loopdev || error "mke2fs on $loopdev"
3383         mkdir -p $tdir
3384         mount -t ext2 $loopdev $tdir || error "error mounting $loopdev on $tdir"
3385         dd if=/dev/zero of=$tdir/tmp bs=`page_size` count=30 || error "dd write"
3386         df $tdir
3387         dd if=$tdir/tmp of=/dev/zero bs=`page_size` count=30 || error "dd read"
3388         $UMOUNT $tdir
3389         losetup -d $loopdev
3390         rm $loopdev
3391 }
3392 run_test 54c "block device works in lustre ====================="
3393
3394 test_54d() {
3395         f="$DIR/f54d"
3396         string="aaaaaa"
3397         mknod $f p
3398         [ "$string" = `echo $string > $f | cat $f` ] || error
3399 }
3400 run_test 54d "fifo device works in lustre ======================"
3401
3402 test_54e() {
3403         check_kernel_version 46 || return 0
3404         f="$DIR/f54e"
3405         string="aaaaaa"
3406         cp -aL /dev/console $f
3407         echo $string > $f || error
3408 }
3409 run_test 54e "console/tty device works in lustre ======================"
3410
3411 #The test_55 used to be iopen test and it was removed by bz#24037.
3412 #run_test 55 "check iopen_connect_dentry() ======================"
3413
3414 test_56a() {    # was test_56
3415         rm -rf $DIR/d56
3416         $SETSTRIPE -d $DIR
3417         mkdir $DIR/d56
3418         mkdir $DIR/d56/dir
3419         NUMFILES=3
3420         NUMFILESx2=$(($NUMFILES * 2))
3421         for i in `seq 1 $NUMFILES` ; do
3422                 touch $DIR/d56/file$i
3423                 touch $DIR/d56/dir/file$i
3424 &nbs