Whamcloud - gitweb
LU-1187 tests: Add parallel sanity tests to dne
[fs/lustre-release.git] / lustre / tests / sanity.sh
1 #!/bin/bash
2 # -*- tab-width: 4; indent-tabs-mode: t; -*-
3 #
4 # Run select tests by setting ONLY, or as arguments to the script.
5 # Skip specific tests by setting EXCEPT.
6 #
7 # e.g. ONLY="22 23" or ONLY="`seq 32 39`" or EXCEPT="31"
8 set -e
9
10 ONLY=${ONLY:-"$*"}
11 # bug number for skipped test: 13297 2108 9789 3637 9789 3561 12622 5188
12 ALWAYS_EXCEPT="                27u   42a  42b  42c  42d  45   51d   68b   $SANITY_EXCEPT"
13 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
14
15 # with LOD/OSP landing
16 # bug number for skipped tests: LU-2036
17 ALWAYS_EXCEPT="                 76     $ALWAYS_EXCEPT"
18
19
20 # Tests that fail on uml
21 CPU=`awk '/model/ {print $4}' /proc/cpuinfo`
22 #                                    buffer i/o errs             sock spc runas
23 [ "$CPU" = "UML" ] && EXCEPT="$EXCEPT 27m 27n 27o 27p 27q 27r 31d 54a  64b 99a 99b 99c 99d 99e 99f 101a"
24
25 SRCDIR=$(cd $(dirname $0); echo $PWD)
26 export PATH=$PATH:/sbin
27
28 TMP=${TMP:-/tmp}
29
30 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
31 CREATETEST=${CREATETEST:-createtest}
32 LFS=${LFS:-lfs}
33 LFIND=${LFIND:-"$LFS find"}
34 LVERIFY=${LVERIFY:-ll_dirstripe_verify}
35 LCTL=${LCTL:-lctl}
36 MCREATE=${MCREATE:-mcreate}
37 OPENFILE=${OPENFILE:-openfile}
38 OPENUNLINK=${OPENUNLINK:-openunlink}
39 export MULTIOP=${MULTIOP:-multiop}
40 READS=${READS:-"reads"}
41 MUNLINK=${MUNLINK:-munlink}
42 SOCKETSERVER=${SOCKETSERVER:-socketserver}
43 SOCKETCLIENT=${SOCKETCLIENT:-socketclient}
44 MEMHOG=${MEMHOG:-memhog}
45 DIRECTIO=${DIRECTIO:-directio}
46 ACCEPTOR_PORT=${ACCEPTOR_PORT:-988}
47 UMOUNT=${UMOUNT:-"umount -d"}
48 STRIPES_PER_OBJ=-1
49 CHECK_GRANT=${CHECK_GRANT:-"yes"}
50 GRANT_CHECK_LIST=${GRANT_CHECK_LIST:-""}
51 export PARALLEL=${PARALLEL:-"no"}
52
53 export NAME=${NAME:-local}
54
55 SAVE_PWD=$PWD
56
57 CLEANUP=${CLEANUP:-:}
58 SETUP=${SETUP:-:}
59 TRACE=${TRACE:-""}
60 LUSTRE=${LUSTRE:-$(cd $(dirname $0)/..; echo $PWD)}
61 . $LUSTRE/tests/test-framework.sh
62 init_test_env $@
63 . ${CONFIG:=$LUSTRE/tests/cfg/${NAME}.sh}
64 init_logging
65
66 [ "$SLOW" = "no" ] && EXCEPT_SLOW="24o 24v 27m 36f 36g 36h 51b 60c 63 64b 68 71 73 77f 78 101a 103 115 120g 124b"
67
68 FAIL_ON_ERROR=false
69
70 cleanup() {
71         echo -n "cln.."
72         pgrep ll_sa > /dev/null && { echo "There are ll_sa thread not exit!"; exit 20; }
73         cleanupall ${FORCE} $* || { echo "FAILed to clean up"; exit 20; }
74 }
75 setup() {
76         echo -n "mnt.."
77         load_modules
78         setupall || exit 10
79         echo "done"
80 }
81
82 check_kernel_version() {
83         WANT_VER=$1
84         GOT_VER=$(lctl get_param -n version | awk '/kernel:/ {print $2}')
85         case $GOT_VER in
86         patchless|patchless_client) return 0;;
87         *) [ $GOT_VER -ge $WANT_VER ] && return 0 ;;
88         esac
89         log "test needs at least kernel version $WANT_VER, running $GOT_VER"
90         return 1
91 }
92
93 if [ "$ONLY" == "cleanup" ]; then
94        sh llmountcleanup.sh
95        exit 0
96 fi
97
98 check_and_setup_lustre
99
100 DIR=${DIR:-$MOUNT}
101 assert_DIR
102
103 MDT0=$($LCTL get_param -n mdc.*.mds_server_uuid | \
104     awk '{gsub(/_UUID/,""); print $1}' | head -1)
105 LOVNAME=$($LCTL get_param -n llite.*.lov.common_name | tail -n 1)
106 OSTCOUNT=$($LCTL get_param -n lov.$LOVNAME.numobd)
107 STRIPECOUNT=$($LCTL get_param -n lov.$LOVNAME.stripecount)
108 STRIPESIZE=$($LCTL get_param -n lov.$LOVNAME.stripesize)
109 ORIGFREE=$($LCTL get_param -n lov.$LOVNAME.kbytesavail)
110 MAXFREE=${MAXFREE:-$((200000 * $OSTCOUNT))}
111
112 [ -f $DIR/d52a/foo ] && chattr -a $DIR/d52a/foo
113 [ -f $DIR/d52b/foo ] && chattr -i $DIR/d52b/foo
114 rm -rf $DIR/[Rdfs][0-9]*
115
116 # $RUNAS_ID may get set incorrectly somewhere else
117 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] && error "\$RUNAS_ID set to 0, but \$UID is also 0!"
118
119 check_runas_id $RUNAS_ID $RUNAS_GID $RUNAS
120
121 build_test_filter
122
123 if [ "${ONLY}" = "MOUNT" ] ; then
124         echo "Lustre is up, please go on"
125         exit
126 fi
127
128 echo "preparing for tests involving mounts"
129 EXT2_DEV=${EXT2_DEV:-$TMP/SANITY.LOOP}
130 touch $EXT2_DEV
131 mke2fs -j -F $EXT2_DEV 8000 > /dev/null
132 echo # add a newline after mke2fs.
133
134 umask 077
135
136 OLDDEBUG="`lctl get_param -n debug 2> /dev/null`"
137 lctl set_param debug=-1 2> /dev/null || true
138 test_0() {
139         touch $DIR/$tfile
140         $CHECKSTAT -t file $DIR/$tfile || error
141         rm $DIR/$tfile
142         $CHECKSTAT -a $DIR/$tfile || error
143 }
144 run_test 0 "touch .../$tfile ; rm .../$tfile ====================="
145
146 test_0b() {
147         chmod 0755 $DIR || error
148         $CHECKSTAT -p 0755 $DIR || error
149 }
150 run_test 0b "chmod 0755 $DIR ============================="
151
152 test_0c() {
153     $LCTL get_param mdc.*.import | grep  "state: FULL" || error "import not FULL"
154     $LCTL get_param mdc.*.import | grep  "target: $FSNAME-MDT" || error "bad target"
155 }
156 run_test 0c "check import proc ============================="
157
158 test_1a() {
159         test_mkdir -p $DIR/$tdir
160         test_mkdir -p $DIR/$tdir/d2
161         test_mkdir $DIR/$tdir/d2 && error "we expect EEXIST, but not returned"
162         $CHECKSTAT -t dir $DIR/$tdir/d2 || error
163 }
164 run_test 1a "mkdir .../d1; mkdir .../d1/d2 ====================="
165
166 test_1b() {
167         rmdir $DIR/$tdir/d2
168         rmdir $DIR/$tdir
169         $CHECKSTAT -a $DIR/$tdir || error
170 }
171 run_test 1b "rmdir .../d1/d2; rmdir .../d1 ====================="
172
173 test_2a() {
174         test_mkdir $DIR/$tdir
175         touch $DIR/$tdir/$tfile
176         $CHECKSTAT -t file $DIR/$tdir/$tfile || error
177 }
178 run_test 2a "mkdir .../d2; touch .../d2/f ======================"
179
180 test_2b() {
181         rm -r $DIR/$tdir
182         $CHECKSTAT -a $DIR/$tdir || error
183 }
184 run_test 2b "rm -r .../d2; checkstat .../d2/f ======================"
185
186 test_3a() {
187         test_mkdir -p $DIR/$tdir
188         $CHECKSTAT -t dir $DIR/$tdir || error
189 }
190 run_test 3a "mkdir .../d3 ======================================"
191
192 test_3b() {
193         if [ ! -d $DIR/$tdir ]; then
194                 mkdir $DIR/$tdir
195         fi
196         touch $DIR/$tdir/$tfile
197         $CHECKSTAT -t file $DIR/$tdir/$tfile || error
198 }
199 run_test 3b "touch .../d3/f ===================================="
200
201 test_3c() {
202         rm -r $DIR/$tdir
203         $CHECKSTAT -a $DIR/$tdir || error
204 }
205 run_test 3c "rm -r .../d3 ======================================"
206
207 test_4a() {
208         test_mkdir -p $DIR/$tdir
209         $CHECKSTAT -t dir $DIR/$tdir || error
210 }
211 run_test 4a "mkdir .../d4 ======================================"
212
213 test_4b() {
214         if [ ! -d $DIR/$tdir ]; then
215                 test_mkdir $DIR/$tdir
216         fi
217         test_mkdir $DIR/$tdir/d2
218         mkdir $DIR/$tdir/d2
219         $CHECKSTAT -t dir $DIR/$tdir/d2 || error
220 }
221 run_test 4b "mkdir .../d4/d2 ==================================="
222
223 test_5() {
224         test_mkdir $DIR/$tdir
225         test_mkdir $DIR/$tdir/d2
226         chmod 0707 $DIR/$tdir/d2
227         $CHECKSTAT -t dir -p 0707 $DIR/$tdir/d2 || error
228 }
229 run_test 5 "mkdir .../d5 .../d5/d2; chmod .../d5/d2 ============"
230
231 test_6a() {
232         touch $DIR/$tfile
233         chmod 0666 $DIR/$tfile || error
234         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/$tfile || error
235 }
236 run_test 6a "touch .../f6a; chmod .../f6a ======================"
237
238 test_6b() {
239         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
240         if [ ! -f $DIR/$tfile ]; then
241                 touch $DIR/$tfile
242                 chmod 0666 $DIR/$tfile
243         fi
244         $RUNAS chmod 0444 $DIR/$tfile && error
245         $CHECKSTAT -t file -p 0666 -u \#$UID $DIR/$tfile || error
246 }
247 run_test 6b "$RUNAS chmod .../f6a (should return error) =="
248
249 test_6c() {
250         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
251         touch $DIR/$tfile
252         chown $RUNAS_ID $DIR/$tfile || error
253         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/$tfile || error
254 }
255 run_test 6c "touch .../f6c; chown .../f6c ======================"
256
257 test_6d() {
258         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
259         if [ ! -f $DIR/$tfile ]; then
260                 touch $DIR/$tfile
261                 chown $RUNAS_ID $DIR/$tfile
262         fi
263         $RUNAS chown $UID $DIR/$tfile && error
264         $CHECKSTAT -t file -u \#$RUNAS_ID $DIR/$tfile || error
265 }
266 run_test 6d "$RUNAS chown .../f6c (should return error) =="
267
268 test_6e() {
269         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
270         touch $DIR/$tfile
271         chgrp $RUNAS_ID $DIR/$tfile || error
272         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/$tfile || error
273 }
274 run_test 6e "touch .../f6e; chgrp .../f6e ======================"
275
276 test_6f() {
277         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
278         if [ ! -f $DIR/$tfile ]; then
279                 touch $DIR/$tfile
280                 chgrp $RUNAS_ID $DIR/$tfile
281         fi
282         $RUNAS chgrp $UID $DIR/$tfile && error
283         $CHECKSTAT -t file -u \#$UID -g \#$RUNAS_ID $DIR/$tfile || error
284 }
285 run_test 6f "$RUNAS chgrp .../f6e (should return error) =="
286
287 test_6g() {
288         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
289         test_mkdir $DIR/$tdir || error
290         chmod 777 $DIR/$tdir || error
291         $RUNAS mkdir $DIR/$tdir/d || error
292         chmod g+s $DIR/$tdir/d || error
293         test_mkdir $DIR/$tdir/d/subdir
294         $CHECKSTAT -g \#$RUNAS_GID $DIR/$tdir/d/subdir || error
295 }
296 run_test 6g "Is new dir in sgid dir inheriting group?"
297
298 test_6h() { # bug 7331
299         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID" && return
300         touch $DIR/$tfile || error "touch failed"
301         chown $RUNAS_ID:$RUNAS_GID $DIR/$tfile || error "initial chown failed"
302         $RUNAS -G$RUNAS_GID chown $RUNAS_ID:0 $DIR/$tfile &&
303                 error "chown worked"
304         $CHECKSTAT -t file -u \#$RUNAS_ID -g \#$RUNAS_GID $DIR/$tfile || error
305 }
306 run_test 6h "$RUNAS chown RUNAS_ID.0 .../f6h (should return error)"
307
308 test_7a() {
309         test_mkdir $DIR/$tdir
310         $MCREATE $DIR/$tdir/$tfile
311         chmod 0666 $DIR/$tdir/$tfile
312         $CHECKSTAT -t file -p 0666 $DIR/$tdir/$tfile || error
313 }
314 run_test 7a "mkdir .../d7; mcreate .../d7/f; chmod .../d7/f ===="
315
316 test_7b() {
317         if [ ! -d $DIR/$tdir ]; then
318                 mkdir $DIR/$tdir
319         fi
320         $MCREATE $DIR/$tdir/$tfile
321         echo -n foo > $DIR/$tdir/$tfile
322         [ "`cat $DIR/$tdir/$tfile`" = "foo" ] || error
323         $CHECKSTAT -t file -s 3 $DIR/$tdir/$tfile || error
324 }
325 run_test 7b "mkdir .../d7; mcreate d7/f2; echo foo > d7/f2 ====="
326
327 test_8() {
328         test_mkdir $DIR/$tdir
329         touch $DIR/$tdir/$tfile
330         chmod 0666 $DIR/$tdir/$tfile
331         $CHECKSTAT -t file -p 0666 $DIR/$tdir/$tfile || error
332 }
333 run_test 8 "mkdir .../d8; touch .../d8/f; chmod .../d8/f ======="
334
335 test_9() {
336         test_mkdir $DIR/$tdir
337         test_mkdir $DIR/$tdir/d2
338         test_mkdir $DIR/$tdir/d2/d3
339         $CHECKSTAT -t dir $DIR/$tdir/d2/d3 || error
340 }
341 run_test 9 "mkdir .../d9 .../d9/d2 .../d9/d2/d3 ================"
342
343 test_10() {
344         test_mkdir $DIR/$tdir
345         test_mkdir $DIR/$tdir/d2
346         touch $DIR/$tdir/d2/$tfile
347         $CHECKSTAT -t file $DIR/$tdir/d2/$tfile || error
348 }
349 run_test 10 "mkdir .../d10 .../d10/d2; touch .../d10/d2/f ======"
350
351 test_11() {
352         test_mkdir $DIR/$tdir
353         test_mkdir $DIR/$tdir/d2
354         chmod 0666 $DIR/$tdir/d2
355         chmod 0705 $DIR/$tdir/d2
356         $CHECKSTAT -t dir -p 0705 $DIR/$tdir/d2 || error
357 }
358 run_test 11 "mkdir .../d11 d11/d2; chmod .../d11/d2 ============"
359
360 test_12() {
361         test_mkdir $DIR/$tdir
362         touch $DIR/$tdir/$tfile
363         chmod 0666 $DIR/$tdir/$tfile
364         chmod 0654 $DIR/$tdir/$tfile
365         $CHECKSTAT -t file -p 0654 $DIR/$tdir/$tfile || error
366 }
367 run_test 12 "touch .../d12/f; chmod .../d12/f .../d12/f ========"
368
369 test_13() {
370         test_mkdir $DIR/$tdir
371         dd if=/dev/zero of=$DIR/$tdir/$tfile count=10
372         >  $DIR/$tdir/$tfile
373         $CHECKSTAT -t file -s 0 $DIR/$tdir/$tfile || error
374 }
375 run_test 13 "creat .../d13/f; dd .../d13/f; > .../d13/f ========"
376
377 test_14() {
378         test_mkdir $DIR/$tdir
379         touch $DIR/$tdir/$tfile
380         rm $DIR/$tdir/$tfile
381         $CHECKSTAT -a $DIR/$tdir/$tfile || error
382 }
383 run_test 14 "touch .../d14/f; rm .../d14/f; rm .../d14/f ======="
384
385 test_15() {
386         test_mkdir $DIR/$tdir
387         touch $DIR/$tdir/$tfile
388         mv $DIR/$tdir/$tfile $DIR/$tdir/${tfile}_2
389         $CHECKSTAT -t file $DIR/$tdir/${tfile}_2 || error
390 }
391 run_test 15 "touch .../d15/f; mv .../d15/f .../d15/f2 =========="
392
393 test_16() {
394         test_mkdir $DIR/$tdir
395         touch $DIR/$tdir/$tfile
396         rm -rf $DIR/$tdir/$tfile
397         $CHECKSTAT -a $DIR/$tdir/$tfile || error
398 }
399 run_test 16 "touch .../d16/f; rm -rf .../d16/f ================="
400
401 test_17a() {
402         test_mkdir -p $DIR/$tdir
403         touch $DIR/$tdir/$tfile
404         ln -s $DIR/$tdir/$tfile $DIR/$tdir/l-exist
405         ls -l $DIR/$tdir
406         $CHECKSTAT -l $DIR/$tdir/$tfile $DIR/$tdir/l-exist || error
407         $CHECKSTAT -f -t f $DIR/$tdir/l-exist || error
408         rm -f $DIR/$tdir/l-exist
409         $CHECKSTAT -a $DIR/$tdir/l-exist || error
410 }
411 run_test 17a "symlinks: create, remove (real) =================="
412
413 test_17b() {
414         test_mkdir -p $DIR/$tdir
415         ln -s no-such-file $DIR/$tdir/l-dangle
416         ls -l $DIR/$tdir
417         $CHECKSTAT -l no-such-file $DIR/$tdir/l-dangle || error
418         $CHECKSTAT -fa $DIR/$tdir/l-dangle || error
419         rm -f $DIR/$tdir/l-dangle
420         $CHECKSTAT -a $DIR/$tdir/l-dangle || error
421 }
422 run_test 17b "symlinks: create, remove (dangling) =============="
423
424 test_17c() { # bug 3440 - don't save failed open RPC for replay
425         test_mkdir -p $DIR/$tdir
426         ln -s foo $DIR/$tdir/$tfile
427         cat $DIR/$tdir/$tfile && error "opened non-existent symlink" || true
428 }
429 run_test 17c "symlinks: open dangling (should return error) ===="
430
431 test_17d() {
432         test_mkdir -p $DIR/$tdir
433         ln -s foo $DIR/$tdir/$tfile
434         touch $DIR/$tdir/$tfile || error "creating to new symlink"
435 }
436 run_test 17d "symlinks: create dangling ========================"
437
438 test_17e() {
439         test_mkdir -p $DIR/$tdir
440         local foo=$DIR/$tdir/$tfile
441         ln -s $foo $foo || error "create symlink failed"
442         ls -l $foo || error "ls -l failed"
443         ls $foo && error "ls not failed" || true
444 }
445 run_test 17e "symlinks: create recursive symlink (should return error) ===="
446
447 test_17f() {
448         test_mkdir -p $DIR/d17f
449         ln -s 1234567890/2234567890/3234567890/4234567890 $DIR/d17f/111
450         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890 $DIR/d17f/222
451         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890 $DIR/d17f/333
452         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890 $DIR/d17f/444
453         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890 $DIR/d17f/555
454         ln -s 1234567890/2234567890/3234567890/4234567890/5234567890/6234567890/7234567890/8234567890/9234567890/a234567890/b234567890/c234567890/d234567890/f234567890/aaaaaaaaaa/bbbbbbbbbb/cccccccccc/dddddddddd/eeeeeeeeee/ffffffffff/ $DIR/d17f/666
455         ls -l  $DIR/d17f
456 }
457 run_test 17f "symlinks: long and very long symlink name ========================"
458
459 # str_repeat(S, N) generate a string that is string S repeated N times
460 str_repeat() {
461         local s=$1
462         local n=$2
463         local ret=''
464         while [ $((n -= 1)) -ge 0 ]; do
465                 ret=$ret$s
466         done
467         echo $ret
468 }
469
470 # Long symlinks and LU-2241
471 test_17g() {
472         test_mkdir -p $DIR/$tdir
473         local TESTS="59 60 61 4094 4095"
474
475         for i in $TESTS; do
476                 local SYMNAME=$(str_repeat 'x' $i)
477                 ln -s $SYMNAME $DIR/$tdir/f$i || error "failed $i-char symlink"
478                 readlink $DIR/$tdir/f$i || error "failed $i-char readlink"
479         done
480 }
481 run_test 17g "symlinks: really long symlink name and inode boundaries"
482
483 test_17h() { #bug 17378
484         remote_mds_nodsh && skip "remote MDS with nodsh" && return
485         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
486         local mdt_idx
487         test_mkdir -p $DIR/$tdir
488         if [ $MDSCOUNT -gt 1 ]; then
489                 mdt_idx=$($LFS getdirstripe -i $DIR/$tdir)
490         else
491                 mdt_idx=0
492         fi
493         $SETSTRIPE -c -1 $DIR/$tdir
494 #define OBD_FAIL_MDS_LOV_PREP_CREATE 0x141
495         do_facet mds$((mdt_idx + 1)) lctl set_param fail_loc=0x80000141
496         touch $DIR/$tdir/$tfile || true
497 }
498 run_test 17h "create objects: lov_free_memmd() doesn't lbug"
499
500 test_17i() { #bug 20018
501         remote_mds_nodsh && skip "remote MDS with nodsh" && return
502         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
503         test_mkdir -p $DIR/$tdir
504         local foo=$DIR/$tdir/$tfile
505         local mdt_idx
506         if [ $MDSCOUNT -gt 1 ]; then
507                 mdt_idx=$($LFS getdirstripe -i $DIR/$tdir)
508         else
509                 mdt_idx=0
510         fi
511         ln -s $foo $foo || error "create symlink failed"
512 #define OBD_FAIL_MDS_READLINK_EPROTO     0x143
513         do_facet mds$((mdt_idx + 1)) lctl set_param fail_loc=0x80000143
514         ls -l $foo && error "error not detected"
515         return 0
516 }
517 run_test 17i "don't panic on short symlink"
518
519 test_17k() { #bug 22301
520         rsync --help | grep -q xattr ||
521                 skip_env "$(rsync --version| head -1) does not support xattrs"
522         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
523         test_mkdir -p $DIR/$tdir
524         test_mkdir -p $DIR/$tdir.new
525         touch $DIR/$tdir/$tfile
526         ln -s $DIR/$tdir/$tfile $DIR/$tdir/$tfile.lnk
527         rsync -av -X $DIR/$tdir/ $DIR/$tdir.new ||
528                 error "rsync failed with xattrs enabled"
529 }
530 run_test 17k "symlinks: rsync with xattrs enabled ========================="
531
532 test_17l() { # LU-279
533         mkdir -p $DIR/$tdir
534         touch $DIR/$tdir/$tfile
535         ln -s $DIR/$tdir/$tfile $DIR/$tdir/$tfile.lnk
536         for path in "$DIR/$tdir" "$DIR/$tdir/$tfile" "$DIR/$tdir/$tfile.lnk"; do
537                 # -h to not follow symlinks. -m '' to list all the xattrs.
538                 # grep to remove first line: '# file: $path'.
539                 for xattr in `getfattr -hm '' $path 2>/dev/null | grep -v '^#'`;
540                 do
541                         lgetxattr_size_check $path $xattr ||
542                                 error "lgetxattr_size_check $path $xattr failed"
543                 done
544         done
545 }
546 run_test 17l "Ensure lgetxattr's returned xattr size is consistent ========"
547
548 # LU-1540
549 test_17m() {
550         local short_sym="0123456789"
551         local WDIR=$DIR/${tdir}m
552         local mds_index
553         local devname
554         local cmd
555         local i
556         local rc=0
557
558         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.0) ] &&
559         [ $(lustre_version_code $SINGLEMDS) -le $(version_code 2.2.93) ] &&
560                 skip "MDS 2.2.0-2.2.93 do not NUL-terminate symlinks" && return
561
562         [ "$(facet_fstype $SINGLEMDS)" != "ldiskfs" ] &&
563                 skip "only for ldiskfs MDT" && return 0
564
565         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
566
567         mkdir -p $WDIR
568         long_sym=$short_sym
569         # create a long symlink file
570         for ((i = 0; i < 4; ++i)); do
571                 long_sym=${long_sym}${long_sym}
572         done
573
574         echo "create 512 short and long symlink files under $WDIR"
575         for ((i = 0; i < 256; ++i)); do
576                 ln -sf ${long_sym}"a5a5" $WDIR/long-$i
577                 ln -sf ${short_sym}"a5a5" $WDIR/short-$i
578         done
579
580         echo "erase them"
581         rm -f $WDIR/*
582         sync
583         wait_delete_completed
584
585         echo "recreate the 512 symlink files with a shorter string"
586         for ((i = 0; i < 512; ++i)); do
587                 # rewrite the symlink file with a shorter string
588                 ln -sf ${long_sym} $WDIR/long-$i
589                 ln -sf ${short_sym} $WDIR/short-$i
590         done
591
592         mds_index=$($LFS getstripe -M $WDIR)
593         mds_index=$((mds_index+1))
594         devname=$(mdsdevname $mds_index)
595         cmd="$E2FSCK -fnvd $devname"
596
597         echo "stop and checking mds${mds_index}: $cmd"
598         # e2fsck should not return error
599         stop mds${mds_index} -f
600         do_facet mds${mds_index} $cmd || rc=$?
601
602         start mds${mds_index} $devname $MDS_MOUNT_OPTS
603         df $MOUNT > /dev/null 2>&1
604         [ $rc -ne 0 ] && error "e2fsck should not report error upon "\
605                 "short/long symlink MDT: rc=$rc"
606         return $rc
607 }
608 run_test 17m "run e2fsck against MDT which contains short/long symlink"
609
610 check_fs_consistency_17n() {
611         local mdt_index
612         local devname
613         local cmd
614         local rc=0
615
616         for mdt_index in $(seq 1 $MDSCOUNT); do
617                 devname=$(mdsdevname $mdt_index)
618                 cmd="$E2FSCK -fnvd $devname"
619
620                 echo "stop and checking mds${mdt_index}: $cmd"
621                 # e2fsck should not return error
622                 stop mds${mdt_index}
623                 do_facet mds${mdt_index} $cmd || rc=$?
624
625                 start mds${mdt_index} $devname $MDS_MOUNT_OPTS
626                 df $MOUNT > /dev/null 2>&1
627                 [ $rc -ne 0 ] && break
628         done
629         return $rc
630 }
631
632 test_17n() {
633         local i
634
635         [ $(lustre_version_code $SINGLEMDS) -ge $(version_code 2.2.0) ] &&
636         [ $(lustre_version_code $SINGLEMDS) -le $(version_code 2.2.93) ] &&
637                 skip "MDS 2.2.0-2.2.93 do not NUL-terminate symlinks" && return
638
639         [ "$(facet_fstype $SINGLEMDS)" != "ldiskfs" ] &&
640                 skip "only for ldiskfs MDT" && return 0
641
642         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
643
644         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
645
646         mkdir -p $DIR/$tdir
647         for ((i=0; i<10; i++)); do
648                 $LFS mkdir -i 1 $DIR/$tdir/remote_dir_${i} ||
649                         error "create remote dir error $i"
650                 createmany -o $DIR/$tdir/remote_dir_${i}/f 10 ||
651                         error "create files under remote dir failed $i"
652         done
653
654         check_fs_consistency_17n || error "e2fsck report error"
655
656         for ((i=0;i<10;i++)); do
657                 rm -rf $DIR/$tdir/remote_dir_${i} ||
658                         error "destroy remote dir error $i"
659         done
660
661         check_fs_consistency_17n || error "e2fsck report error"
662 }
663 run_test 17n "run e2fsck against master/slave MDT which contains remote dir"
664
665 test_18() {
666         touch $DIR/f
667         ls $DIR || error
668 }
669 run_test 18 "touch .../f ; ls ... =============================="
670
671 test_19a() {
672         touch $DIR/f19
673         ls -l $DIR
674         rm $DIR/f19
675         $CHECKSTAT -a $DIR/f19 || error
676 }
677 run_test 19a "touch .../f19 ; ls -l ... ; rm .../f19 ==========="
678
679 test_19b() {
680         ls -l $DIR/f19 && error || true
681 }
682 run_test 19b "ls -l .../f19 (should return error) =============="
683
684 test_19c() {
685         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
686         $RUNAS touch $DIR/f19 && error || true
687 }
688 run_test 19c "$RUNAS touch .../f19 (should return error) =="
689
690 test_19d() {
691         cat $DIR/f19 && error || true
692 }
693 run_test 19d "cat .../f19 (should return error) =============="
694
695 test_20() {
696         touch $DIR/f
697         rm $DIR/f
698         log "1 done"
699         touch $DIR/f
700         rm $DIR/f
701         log "2 done"
702         touch $DIR/f
703         rm $DIR/f
704         log "3 done"
705         $CHECKSTAT -a $DIR/f || error
706 }
707 run_test 20 "touch .../f ; ls -l ... ==========================="
708
709 test_21() {
710         test_mkdir $DIR/d21
711         [ -f $DIR/d21/dangle ] && rm -f $DIR/d21/dangle
712         ln -s dangle $DIR/d21/link
713         echo foo >> $DIR/d21/link
714         cat $DIR/d21/dangle
715         $CHECKSTAT -t link $DIR/d21/link || error
716         $CHECKSTAT -f -t file $DIR/d21/link || error
717 }
718 run_test 21 "write to dangling link ============================"
719
720 test_22() {
721         WDIR=$DIR/$tdir
722         test_mkdir -p $DIR/$tdir
723         chown $RUNAS_ID:$RUNAS_GID $WDIR
724         (cd $WDIR || error "cd $WDIR failed";
725         $RUNAS tar cf - /etc/hosts /etc/sysconfig/network | \
726         $RUNAS tar xf -)
727         ls -lR $WDIR/etc || error "ls -lR $WDIR/etc failed"
728         $CHECKSTAT -t dir $WDIR/etc || error "checkstat -t dir failed"
729         $CHECKSTAT -u \#$RUNAS_ID -g \#$RUNAS_GID $WDIR/etc || error "checkstat -u failed"
730 }
731 run_test 22 "unpack tar archive as non-root user ==============="
732
733 # was test_23
734 test_23a() {
735         test_mkdir -p $DIR/$tdir
736         local file=$DIR/$tdir/$tfile
737
738         openfile -f O_CREAT:O_EXCL $file || error "$file create failed"
739         openfile -f O_CREAT:O_EXCL $file &&
740                 error "$file recreate succeeded" || true
741 }
742 run_test 23a "O_CREAT|O_EXCL in subdir =========================="
743
744 test_23b() { # bug 18988
745         test_mkdir -p $DIR/$tdir
746         local file=$DIR/$tdir/$tfile
747
748         rm -f $file
749         echo foo > $file || error "write filed"
750         echo bar >> $file || error "append filed"
751         $CHECKSTAT -s 8 $file || error "wrong size"
752         rm $file
753 }
754 run_test 23b "O_APPEND check =========================="
755
756 test_24a() {
757         echo '== rename sanity =============================================='
758         echo '-- same directory rename'
759         test_mkdir $DIR/R1
760         touch $DIR/R1/f
761         mv $DIR/R1/f $DIR/R1/g
762         $CHECKSTAT -t file $DIR/R1/g || error
763 }
764 run_test 24a "touch .../R1/f; rename .../R1/f .../R1/g ========="
765
766 test_24b() {
767         test_mkdir $DIR/R2
768         touch $DIR/R2/{f,g}
769         mv $DIR/R2/f $DIR/R2/g
770         $CHECKSTAT -a $DIR/R2/f || error
771         $CHECKSTAT -t file $DIR/R2/g || error
772 }
773 run_test 24b "touch .../R2/{f,g}; rename .../R2/f .../R2/g ====="
774
775 test_24c() {
776         test_mkdir $DIR/R3
777         test_mkdir $DIR/R3/f
778         mv $DIR/R3/f $DIR/R3/g
779         $CHECKSTAT -a $DIR/R3/f || error
780         $CHECKSTAT -t dir $DIR/R3/g || error
781 }
782 run_test 24c "mkdir .../R3/f; rename .../R3/f .../R3/g ========="
783
784 test_24d() {
785         test_mkdir $DIR/R4
786         test_mkdir $DIR/R4/f
787         test_mkdir $DIR/R4/g
788         mrename $DIR/R4/f $DIR/R4/g
789         $CHECKSTAT -a $DIR/R4/f || error
790         $CHECKSTAT -t dir $DIR/R4/g || error
791 }
792 run_test 24d "mkdir .../R4/{f,g}; rename .../R4/f .../R4/g ====="
793
794 test_24e() {
795         echo '-- cross directory renames --'
796         test_mkdir $DIR/R5a
797         test_mkdir $DIR/R5b
798         touch $DIR/R5a/f
799         mv $DIR/R5a/f $DIR/R5b/g
800         $CHECKSTAT -a $DIR/R5a/f || error
801         $CHECKSTAT -t file $DIR/R5b/g || error
802 }
803 run_test 24e "touch .../R5a/f; rename .../R5a/f .../R5b/g ======"
804
805 test_24f() {
806         test_mkdir $DIR/R6a
807         test_mkdir $DIR/R6b
808         touch $DIR/R6a/f $DIR/R6b/g
809         mv $DIR/R6a/f $DIR/R6b/g
810         $CHECKSTAT -a $DIR/R6a/f || error
811         $CHECKSTAT -t file $DIR/R6b/g || error
812 }
813 run_test 24f "touch .../R6a/f R6b/g; mv .../R6a/f .../R6b/g ===="
814
815 test_24g() {
816         test_mkdir $DIR/R7a
817         test_mkdir $DIR/R7b
818         test_mkdir $DIR/R7a/d
819         mv $DIR/R7a/d $DIR/R7b/e
820         $CHECKSTAT -a $DIR/R7a/d || error
821         $CHECKSTAT -t dir $DIR/R7b/e || error
822 }
823 run_test 24g "mkdir .../R7{a,b}/d; mv .../R7a/d .../R7b/e ======"
824
825 test_24h() {
826         test_mkdir $DIR/R8a
827         test_mkdir $DIR/R8b
828         test_mkdir $DIR/R8a/d
829         test_mkdir $DIR/R8b/e
830         mrename $DIR/R8a/d $DIR/R8b/e
831         $CHECKSTAT -a $DIR/R8a/d || error
832         $CHECKSTAT -t dir $DIR/R8b/e || error
833 }
834 run_test 24h "mkdir .../R8{a,b}/{d,e}; rename .../R8a/d .../R8b/e"
835
836 test_24i() {
837         echo "-- rename error cases"
838         test_mkdir $DIR/R9
839         test_mkdir $DIR/R9/a
840         touch $DIR/R9/f
841         mrename $DIR/R9/f $DIR/R9/a
842         $CHECKSTAT -t file $DIR/R9/f || error
843         $CHECKSTAT -t dir  $DIR/R9/a || error
844         $CHECKSTAT -a $DIR/R9/a/f || error
845 }
846 run_test 24i "rename file to dir error: touch f ; mkdir a ; rename f a"
847
848 test_24j() {
849         test_mkdir $DIR/R10
850         mrename $DIR/R10/f $DIR/R10/g
851         $CHECKSTAT -t dir $DIR/R10 || error
852         $CHECKSTAT -a $DIR/R10/f || error
853         $CHECKSTAT -a $DIR/R10/g || error
854 }
855 run_test 24j "source does not exist ============================"
856
857 test_24k() {
858         test_mkdir $DIR/R11a
859         test_mkdir $DIR/R11a/d
860         touch $DIR/R11a/f
861         mv $DIR/R11a/f $DIR/R11a/d
862         $CHECKSTAT -a $DIR/R11a/f || error
863         $CHECKSTAT -t file $DIR/R11a/d/f || error
864 }
865 run_test 24k "touch .../R11a/f; mv .../R11a/f .../R11a/d ======="
866
867 # bug 2429 - rename foo foo foo creates invalid file
868 test_24l() {
869         f="$DIR/f24l"
870         $MULTIOP $f OcNs || error
871 }
872 run_test 24l "Renaming a file to itself ========================"
873
874 test_24m() {
875         f="$DIR/f24m"
876         $MULTIOP $f OcLN ${f}2 ${f}2 || error "link ${f}2 ${f}2 failed"
877         # on ext3 this does not remove either the source or target files
878         # though the "expected" operation would be to remove the source
879         $CHECKSTAT -t file ${f} || error "${f} missing"
880         $CHECKSTAT -t file ${f}2 || error "${f}2 missing"
881 }
882 run_test 24m "Renaming a file to a hard link to itself ========="
883
884 test_24n() {
885     f="$DIR/f24n"
886     # this stats the old file after it was renamed, so it should fail
887     touch ${f}
888     $CHECKSTAT ${f}
889     mv ${f} ${f}.rename
890     $CHECKSTAT ${f}.rename
891     $CHECKSTAT -a ${f}
892 }
893 run_test 24n "Statting the old file after renaming (Posix rename 2)"
894
895 test_24o() {
896         check_kernel_version 37 || return 0
897         test_mkdir -p $DIR/d24o
898         rename_many -s random -v -n 10 $DIR/d24o
899 }
900 run_test 24o "rename of files during htree split ==============="
901
902 test_24p() {
903         test_mkdir $DIR/R12a
904         test_mkdir $DIR/R12b
905         DIRINO=`ls -lid $DIR/R12a | awk '{ print $1 }'`
906         mrename $DIR/R12a $DIR/R12b
907         $CHECKSTAT -a $DIR/R12a || error
908         $CHECKSTAT -t dir $DIR/R12b || error
909         DIRINO2=`ls -lid $DIR/R12b | awk '{ print $1 }'`
910         [ "$DIRINO" = "$DIRINO2" ] || error "R12a $DIRINO != R12b $DIRINO2"
911 }
912 run_test 24p "mkdir .../R12{a,b}; rename .../R12a .../R12b"
913
914 test_24q() {
915         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
916         test_mkdir $DIR/R13a
917         test_mkdir $DIR/R13b
918         DIRINO=`ls -lid $DIR/R13a | awk '{ print $1 }'`
919         multiop_bg_pause $DIR/R13b D_c || return 1
920         MULTIPID=$!
921
922         mrename $DIR/R13a $DIR/R13b
923         $CHECKSTAT -a $DIR/R13a || error
924         $CHECKSTAT -t dir $DIR/R13b || error
925         DIRINO2=`ls -lid $DIR/R13b | awk '{ print $1 }'`
926         [ "$DIRINO" = "$DIRINO2" ] || error "R13a $DIRINO != R13b $DIRINO2"
927         kill -USR1 $MULTIPID
928         wait $MULTIPID || error "multiop close failed"
929 }
930 run_test 24q "mkdir .../R13{a,b}; open R13b rename R13a R13b ==="
931
932 test_24r() { #bug 3789
933         test_mkdir $DIR/R14a
934         test_mkdir $DIR/R14a/b
935         mrename $DIR/R14a $DIR/R14a/b && error "rename to subdir worked!"
936         $CHECKSTAT -t dir $DIR/R14a || error "$DIR/R14a missing"
937         $CHECKSTAT -t dir $DIR/R14a/b || error "$DIR/R14a/b missing"
938 }
939 run_test 24r "mkdir .../R14a/b; rename .../R14a .../R14a/b ====="
940
941 test_24s() {
942         test_mkdir $DIR/R15a
943         test_mkdir $DIR/R15a/b
944         test_mkdir $DIR/R15a/b/c
945         mrename $DIR/R15a $DIR/R15a/b/c && error "rename to sub-subdir worked!"
946         $CHECKSTAT -t dir $DIR/R15a || error "$DIR/R15a missing"
947         $CHECKSTAT -t dir $DIR/R15a/b/c || error "$DIR/R15a/b/c missing"
948 }
949 run_test 24s "mkdir .../R15a/b/c; rename .../R15a .../R15a/b/c ="
950 test_24t() {
951         test_mkdir $DIR/R16a
952         test_mkdir $DIR/R16a/b
953         test_mkdir $DIR/R16a/b/c
954         mrename $DIR/R16a/b/c $DIR/R16a && error "rename to sub-subdir worked!"
955         $CHECKSTAT -t dir $DIR/R16a || error "$DIR/R16a missing"
956         $CHECKSTAT -t dir $DIR/R16a/b/c || error "$DIR/R16a/b/c missing"
957 }
958 run_test 24t "mkdir .../R16a/b/c; rename .../R16a/b/c .../R16a ="
959
960 test_24u() { # bug12192
961         rm -rf $DIR/$tfile
962         $MULTIOP $DIR/$tfile C2w$((2048 * 1024))c || error
963         $CHECKSTAT -s $((2048 * 1024)) $DIR/$tfile || error "wrong file size"
964 }
965 run_test 24u "create stripe file"
966
967 page_size() {
968         getconf PAGE_SIZE
969 }
970
971 simple_cleanup_common() {
972         trap 0
973         rm -rf $DIR/$tdir
974         wait_delete_completed
975 }
976
977 max_pages_per_rpc() {
978         $LCTL get_param -n mdc.*.max_pages_per_rpc | head -1
979 }
980
981 test_24v() {
982         local NRFILES=100000
983         local FREE_INODES=$(lfs_df -i | grep "summary" | awk '{print $4}')
984         [ $FREE_INODES -lt $NRFILES ] && \
985                 skip "not enough free inodes $FREE_INODES required $NRFILES" &&
986                 return
987
988         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
989         trap simple_cleanup_common EXIT
990
991         mkdir -p $DIR/$tdir
992         createmany -m $DIR/$tdir/$tfile $NRFILES
993
994         cancel_lru_locks mdc
995         lctl set_param mdc.*.stats clear
996
997         ls $DIR/$tdir >/dev/null || error "error in listing large dir"
998
999         # LU-5 large readdir
1000         # DIRENT_SIZE = 32 bytes for sizeof(struct lu_dirent) +
1001         #               8 bytes for name(filename is mostly 5 in this test) +
1002         #               8 bytes for luda_type
1003         # take into account of overhead in lu_dirpage header and end mark in
1004         # each page, plus one in RPC_NUM calculation.
1005         DIRENT_SIZE=48
1006         RPC_SIZE=$(($(max_pages_per_rpc) * $(page_size)))
1007         RPC_NUM=$(((NRFILES * DIRENT_SIZE + RPC_SIZE - 1) / RPC_SIZE + 1))
1008         mds_readpage=$(lctl get_param mdc.*MDT0000*.stats | \
1009                                 awk '/^mds_readpage/ {print $2}')
1010         [ $mds_readpage -gt $RPC_NUM ] && \
1011                 error "large readdir doesn't take effect"
1012
1013         simple_cleanup_common
1014 }
1015 run_test 24v "list directory with large files (handle hash collision, bug: 17560)"
1016
1017 test_24w() { # bug21506
1018         SZ1=234852
1019         dd if=/dev/zero of=$DIR/$tfile bs=1M count=1 seek=4096 || return 1
1020         dd if=/dev/zero bs=$SZ1 count=1 >> $DIR/$tfile || return 2
1021         dd if=$DIR/$tfile of=$DIR/${tfile}_left bs=1M skip=4097 || return 3
1022         SZ2=`ls -l $DIR/${tfile}_left | awk '{print $5}'`
1023         [ "$SZ1" = "$SZ2" ] || \
1024                 error "Error reading at the end of the file $tfile"
1025 }
1026 run_test 24w "Reading a file larger than 4Gb"
1027
1028 test_24x() {
1029         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1030         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1031         local MDTIDX=1
1032         local remote_dir=$DIR/$tdir/remote_dir
1033
1034         mkdir -p $DIR/$tdir
1035         $LFS mkdir -i $MDTIDX $remote_dir ||
1036                 error "create remote directory failed"
1037
1038         mkdir -p $DIR/$tdir/src_dir
1039         touch $DIR/$tdir/src_file
1040         mkdir -p $remote_dir/tgt_dir
1041         touch $remote_dir/tgt_file
1042
1043         mrename $DIR/$tdir/src_dir $remote_dir/tgt_dir &&
1044                 error "rename dir cross MDT works!"
1045
1046         mrename $DIR/$tdir/src_file $remote_dir/tgt_file &&
1047                 error "rename file cross MDT works!"
1048
1049         ln $DIR/$tdir/src_file $remote_dir/tgt_file1 &&
1050                 error "ln file cross MDT should not work!"
1051
1052         rm -rf $DIR/$tdir || error "Can not delete directories"
1053 }
1054 run_test 24x "cross rename/link should be failed"
1055
1056 test_24y() {
1057         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1058         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1059         local MDTIDX=1
1060         local remote_dir=$DIR/$tdir/remote_dir
1061
1062         mkdir -p $DIR/$tdir
1063         $LFS mkdir -i $MDTIDX $remote_dir ||
1064                    error "create remote directory failed"
1065
1066         mkdir -p $remote_dir/src_dir
1067         touch $remote_dir/src_file
1068         mkdir -p $remote_dir/tgt_dir
1069         touch $remote_dir/tgt_file
1070
1071         mrename $remote_dir/src_dir $remote_dir/tgt_dir ||
1072                 error "rename subdir in the same remote dir failed!"
1073
1074         mrename $remote_dir/src_file $remote_dir/tgt_file ||
1075                 error "rename files in the same remote dir failed!"
1076
1077         ln $remote_dir/tgt_file $remote_dir/tgt_file1 ||
1078                 error "link files in the same remote dir failed!"
1079
1080         rm -rf $DIR/$tdir || error "Can not delete directories"
1081 }
1082 run_test 24y "rename/link on the same dir should succeed"
1083
1084 test_24z() {
1085         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
1086         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1087         local MDTIDX=1
1088         local remote_src=$DIR/$tdir/remote_dir
1089         local remote_tgt=$DIR/$tdir/remote_tgt
1090
1091         mkdir -p $DIR/$tdir
1092         $LFS mkdir -i $MDTIDX $remote_src ||
1093                    error "create remote directory failed"
1094
1095         $LFS mkdir -i $MDTIDX $remote_tgt ||
1096                    error "create remote directory failed"
1097
1098         mrename $remote_src $remote_tgt &&
1099                 error "rename remote dirs should not work!"
1100
1101         rm -rf $DIR/$tdir || error "Can not delete directories"
1102 }
1103 run_test 24z "rename one remote dir to another remote dir should fail"
1104
1105 test_25a() {
1106         echo '== symlink sanity ============================================='
1107
1108         test_mkdir $DIR/d25
1109         ln -s d25 $DIR/s25
1110         touch $DIR/s25/foo || error
1111 }
1112 run_test 25a "create file in symlinked directory ==============="
1113
1114 test_25b() {
1115         [ ! -d $DIR/d25 ] && test_25a
1116         $CHECKSTAT -t file $DIR/s25/foo || error
1117 }
1118 run_test 25b "lookup file in symlinked directory ==============="
1119
1120 test_26a() {
1121         test_mkdir $DIR/d26
1122         test_mkdir $DIR/d26/d26-2
1123         ln -s d26/d26-2 $DIR/s26
1124         touch $DIR/s26/foo || error
1125 }
1126 run_test 26a "multiple component symlink ======================="
1127
1128 test_26b() {
1129         test_mkdir -p $DIR/d26b/d26-2
1130         ln -s d26b/d26-2/foo $DIR/s26-2
1131         touch $DIR/s26-2 || error
1132 }
1133 run_test 26b "multiple component symlink at end of lookup ======"
1134
1135 test_26c() {
1136         test_mkdir $DIR/d26.2
1137         touch $DIR/d26.2/foo
1138         ln -s d26.2 $DIR/s26.2-1
1139         ln -s s26.2-1 $DIR/s26.2-2
1140         ln -s s26.2-2 $DIR/s26.2-3
1141         chmod 0666 $DIR/s26.2-3/foo
1142 }
1143 run_test 26c "chain of symlinks ================================"
1144
1145 # recursive symlinks (bug 439)
1146 test_26d() {
1147         ln -s d26-3/foo $DIR/d26-3
1148 }
1149 run_test 26d "create multiple component recursive symlink ======"
1150
1151 test_26e() {
1152         [ ! -h $DIR/d26-3 ] && test_26d
1153         rm $DIR/d26-3
1154 }
1155 run_test 26e "unlink multiple component recursive symlink ======"
1156
1157 # recursive symlinks (bug 7022)
1158 test_26f() {
1159         test_mkdir -p $DIR/$tdir
1160         test_mkdir $DIR/$tdir/$tfile   || error "mkdir $DIR/$tdir/$tfile failed"
1161         cd $DIR/$tdir/$tfile           || error "cd $DIR/$tdir/$tfile failed"
1162         test_mkdir -p lndir bar1      || error "mkdir lndir/bar1 failed"
1163         test_mkdir $DIR/$tdir/$tfile/$tfile   || error "mkdir $tfile failed"
1164         cd $tfile                || error "cd $tfile failed"
1165         ln -s .. dotdot          || error "ln dotdot failed"
1166         ln -s dotdot/lndir lndir || error "ln lndir failed"
1167         cd $DIR/$tdir                 || error "cd $DIR/$tdir failed"
1168         output=`ls $tfile/$tfile/lndir/bar1`
1169         [ "$output" = bar1 ] && error "unexpected output"
1170         rm -r $tfile             || error "rm $tfile failed"
1171         $CHECKSTAT -a $DIR/$tfile || error "$tfile not gone"
1172 }
1173 run_test 26f "rm -r of a directory which has recursive symlink ="
1174
1175 test_27a() {
1176         echo '== stripe sanity =============================================='
1177         test_mkdir -p $DIR/d27 || error "mkdir failed"
1178         $GETSTRIPE $DIR/d27
1179         $SETSTRIPE -c 1 $DIR/d27/f0 || error "setstripe failed"
1180         $CHECKSTAT -t file $DIR/d27/f0 || error "checkstat failed"
1181         pass
1182         log "== test_27a: write to one stripe file ========================="
1183         cp /etc/hosts $DIR/d27/f0 || error
1184 }
1185 run_test 27a "one stripe file =================================="
1186
1187 test_27b() {
1188         [ "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
1189         test_mkdir -p $DIR/d27
1190         $SETSTRIPE -c 2 $DIR/d27/f01 || error "setstripe failed"
1191         $GETSTRIPE -c $DIR/d27/f01
1192         [ $($GETSTRIPE -c $DIR/d27/f01) -eq 2 ] ||
1193                 error "two-stripe file doesn't have two stripes"
1194 }
1195 run_test 27b "create two stripe file"
1196
1197 test_27c() {
1198         [ -f $DIR/d27/f01 ] || skip "test_27b not run" && return
1199
1200         dd if=/dev/zero of=$DIR/d27/f01 bs=4k count=4 || error "dd failed"
1201 }
1202 run_test 27c "write to two stripe file"
1203
1204 test_27d() {
1205         test_mkdir -p $DIR/d27
1206         $SETSTRIPE -c 0 -i -1 -S 0 $DIR/d27/fdef || error "setstripe failed"
1207         $CHECKSTAT -t file $DIR/d27/fdef || error "checkstat failed"
1208         dd if=/dev/zero of=$DIR/d27/fdef bs=4k count=4 || error
1209 }
1210 run_test 27d "create file with default settings ================"
1211
1212 test_27e() {
1213         test_mkdir -p $DIR/d27
1214         $SETSTRIPE -c 2 $DIR/d27/f12 || error "setstripe failed"
1215         $SETSTRIPE -c 2 $DIR/d27/f12 && error "setstripe succeeded twice"
1216         $CHECKSTAT -t file $DIR/d27/f12 || error "checkstat failed"
1217 }
1218 run_test 27e "setstripe existing file (should return error) ======"
1219
1220 test_27f() {
1221         test_mkdir -p $DIR/d27
1222         $SETSTRIPE -S 100 -i 0 -c 1 $DIR/d27/fbad && error "setstripe failed"
1223         dd if=/dev/zero of=$DIR/d27/f12 bs=4k count=4 || error "dd failed"
1224         $GETSTRIPE $DIR/d27/fbad || error "$GETSTRIPE failed"
1225 }
1226 run_test 27f "setstripe with bad stripe size (should return error)"
1227
1228 test_27g() {
1229         test_mkdir -p $DIR/d27
1230         $MCREATE $DIR/d27/fnone || error "mcreate failed"
1231         $GETSTRIPE $DIR/d27/fnone 2>&1 | grep "no stripe info" ||
1232                 error "$DIR/d27/fnone has object"
1233 }
1234 run_test 27g "$GETSTRIPE with no objects"
1235
1236 test_27i() {
1237         touch $DIR/d27/fsome || error "touch failed"
1238         [ $($GETSTRIPE -c $DIR/d27/fsome) -gt 0 ] || error "missing objects"
1239 }
1240 run_test 27i "$GETSTRIPE with some objects"
1241
1242 test_27j() {
1243         test_mkdir -p $DIR/d27
1244         $SETSTRIPE -i $OSTCOUNT $DIR/d27/f27j && error "setstripe failed"||true
1245 }
1246 run_test 27j "setstripe with bad stripe offset (should return error)"
1247
1248 test_27k() { # bug 2844
1249         test_mkdir -p $DIR/d27
1250         FILE=$DIR/d27/f27k
1251         LL_MAX_BLKSIZE=$((4 * 1024 * 1024))
1252         [ ! -d $DIR/d27 ] && test_mkdir -p $DIR d27
1253         $SETSTRIPE -S 67108864 $FILE || error "setstripe failed"
1254         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
1255         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
1256         dd if=/dev/zero of=$FILE bs=4k count=1
1257         BLKSIZE=`stat $FILE | awk '/IO Block:/ { print $7 }'`
1258         [ $BLKSIZE -le $LL_MAX_BLKSIZE ] || error "$BLKSIZE > $LL_MAX_BLKSIZE"
1259 }
1260 run_test 27k "limit i_blksize for broken user apps ============="
1261
1262 test_27l() {
1263         test_mkdir -p $DIR/d27
1264         mcreate $DIR/f27l || error "creating file"
1265         $RUNAS $SETSTRIPE -c 1 $DIR/f27l && \
1266                 error "setstripe should have failed" || true
1267 }
1268 run_test 27l "check setstripe permissions (should return error)"
1269
1270 test_27m() {
1271         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" &&
1272                 return
1273         if [ $ORIGFREE -gt $MAXFREE ]; then
1274                 skip "$ORIGFREE > $MAXFREE skipping out-of-space test on OST0"
1275                 return
1276         fi
1277         trap simple_cleanup_common EXIT
1278         test_mkdir -p $DIR/$tdir
1279         $SETSTRIPE -i 0 -c 1 $DIR/$tdir/f27m_1
1280         dd if=/dev/zero of=$DIR/$tdir/f27m_1 bs=1024 count=$MAXFREE &&
1281                 error "dd should fill OST0"
1282         i=2
1283         while $SETSTRIPE -i 0 -c 1 $DIR/$tdir/f27m_$i; do
1284                 i=`expr $i + 1`
1285                 [ $i -gt 256 ] && break
1286         done
1287         i=`expr $i + 1`
1288         touch $DIR/$tdir/f27m_$i
1289         [ `$GETSTRIPE $DIR/$tdir/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] &&
1290                 error "OST0 was full but new created file still use it"
1291         i=`expr $i + 1`
1292         touch $DIR/$tdir/f27m_$i
1293         [ `$GETSTRIPE $DIR/$tdir/f27m_$i | grep -A 10 obdidx | awk '{print $1}'| grep -w "0"` ] &&
1294                 error "OST0 was full but new created file still use it"
1295         simple_cleanup_common
1296 }
1297 run_test 27m "create file while OST0 was full =================="
1298
1299 sleep_maxage() {
1300         local DELAY=$(do_facet $SINGLEMDS lctl get_param -n lov.*.qos_maxage | head -n 1 | awk '{print $1 * 2}')
1301         sleep $DELAY
1302 }
1303
1304 # OSCs keep a NOSPC flag that will be reset after ~5s (qos_maxage)
1305 # if the OST isn't full anymore.
1306 reset_enospc() {
1307         local OSTIDX=${1:-""}
1308
1309         local list=$(comma_list $(osts_nodes))
1310         [ "$OSTIDX" ] && list=$(facet_host ost$((OSTIDX + 1)))
1311
1312         do_nodes $list lctl set_param fail_loc=0
1313         sync    # initiate all OST_DESTROYs from MDS to OST
1314         sleep_maxage
1315 }
1316
1317 exhaust_precreations() {
1318         local OSTIDX=$1
1319         local FAILLOC=$2
1320         local FAILIDX=${3:-$OSTIDX}
1321
1322         test_mkdir -p $DIR/$tdir
1323         local MDSIDX=$(get_mds_dir "$DIR/$tdir")
1324         echo OSTIDX=$OSTIDX MDSIDX=$MDSIDX
1325
1326         local OST=$(ostname_from_index $OSTIDX)
1327         local MDT_INDEX=$(lfs df | grep "\[MDT:$((MDSIDX - 1))\]" | awk '{print $1}' | \
1328                           sed -e 's/_UUID$//;s/^.*-//')
1329
1330         # on the mdt's osc
1331         local mdtosc_proc1=$(get_mdtosc_proc_path mds${MDSIDX} $OST)
1332         local last_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1333         osc.$mdtosc_proc1.prealloc_last_id)
1334         local next_id=$(do_facet mds${MDSIDX} lctl get_param -n \
1335         osc.$mdtosc_proc1.prealloc_next_id)
1336
1337         local mdtosc_proc2=$(get_mdtosc_proc_path mds${MDSIDX})
1338         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1339
1340         test_mkdir -p $DIR/$tdir/${OST}
1341         $SETSTRIPE -i $OSTIDX -c 1 $DIR/$tdir/${OST}
1342 #define OBD_FAIL_OST_ENOSPC              0x215
1343         do_facet ost$((OSTIDX + 1)) lctl set_param fail_val=$FAILIDX
1344         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=0x215
1345         echo "Creating to objid $last_id on ost $OST..."
1346         createmany -o $DIR/$tdir/${OST}/f $next_id $((last_id - next_id + 2))
1347         do_facet mds${MDSIDX} lctl get_param osc.$mdtosc_proc2.prealloc*
1348         do_facet ost$((OSTIDX + 1)) lctl set_param fail_loc=$FAILLOC
1349         sleep_maxage
1350 }
1351
1352 exhaust_all_precreations() {
1353         local i
1354         for (( i=0; i < OSTCOUNT; i++ )) ; do
1355                 exhaust_precreations $i $1 -1
1356         done
1357 }
1358
1359 test_27n() {
1360         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1361         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1362         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1363         remote_ost_nodsh && skip "remote OST with nodsh" && return
1364
1365         reset_enospc
1366         rm -f $DIR/$tdir/$tfile
1367         exhaust_precreations 0 0x80000215
1368         $SETSTRIPE -c -1 $DIR/$tdir
1369         touch $DIR/$tdir/$tfile || error
1370         $GETSTRIPE $DIR/$tdir/$tfile
1371         reset_enospc
1372 }
1373 run_test 27n "create file with some full OSTs =================="
1374
1375 test_27o() {
1376         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1377         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1378         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1379         remote_ost_nodsh && skip "remote OST with nodsh" && return
1380
1381         reset_enospc
1382         rm -f $DIR/$tdir/$tfile
1383         exhaust_all_precreations 0x215
1384
1385         touch $DIR/$tdir/$tfile && error "able to create $DIR/$tdir/$tfile"
1386
1387         reset_enospc
1388         rm -rf $DIR/$tdir/*
1389 }
1390 run_test 27o "create file with all full OSTs (should error) ===="
1391
1392 test_27p() {
1393         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1394         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1395         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1396         remote_ost_nodsh && skip "remote OST with nodsh" && return
1397
1398         reset_enospc
1399         rm -f $DIR/$tdir/$tfile
1400         test_mkdir -p $DIR/$tdir
1401
1402         $MCREATE $DIR/$tdir/$tfile || error "mcreate failed"
1403         $TRUNCATE $DIR/$tdir/$tfile 80000000 || error "truncate failed"
1404         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1405
1406         exhaust_precreations 0 0x80000215
1407         echo foo >> $DIR/$tdir/$tfile || error "append failed"
1408         $CHECKSTAT -s 80000004 $DIR/$tdir/$tfile || error "checkstat failed"
1409         $GETSTRIPE $DIR/$tdir/$tfile
1410
1411         reset_enospc
1412 }
1413 run_test 27p "append to a truncated file with some full OSTs ==="
1414
1415 test_27q() {
1416         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1417         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1418         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1419         remote_ost_nodsh && skip "remote OST with nodsh" && return
1420
1421         reset_enospc
1422         rm -f $DIR/$tdir/$tfile
1423
1424         test_mkdir -p $DIR/$tdir
1425         $MCREATE $DIR/$tdir/$tfile || error "mcreate $DIR/$tdir/$tfile failed"
1426         $TRUNCATE $DIR/$tdir/$tfile 80000000 ||error "truncate $DIR/$tdir/$tfile failed"
1427         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat failed"
1428
1429         exhaust_all_precreations 0x215
1430
1431         echo foo >> $DIR/$tdir/$tfile && error "append succeeded"
1432         $CHECKSTAT -s 80000000 $DIR/$tdir/$tfile || error "checkstat 2 failed"
1433
1434         reset_enospc
1435 }
1436 run_test 27q "append to truncated file with all OSTs full (should error) ==="
1437
1438 test_27r() {
1439         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1440         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1441         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1442         remote_ost_nodsh && skip "remote OST with nodsh" && return
1443
1444         reset_enospc
1445         rm -f $DIR/$tdir/$tfile
1446         exhaust_precreations 0 0x80000215
1447
1448         $SETSTRIPE -i 0 -c 2 $DIR/$tdir/$tfile # && error
1449
1450         reset_enospc
1451 }
1452 run_test 27r "stripe file with some full OSTs (shouldn't LBUG) ="
1453
1454 test_27s() { # bug 10725
1455         test_mkdir -p $DIR/$tdir
1456         local stripe_size=$((4096 * 1024 * 1024))       # 2^32
1457         local stripe_count=0
1458         [ $OSTCOUNT -eq 1 ] || stripe_count=2
1459         $SETSTRIPE -S $stripe_size -c $stripe_count $DIR/$tdir &&
1460                 error "stripe width >= 2^32 succeeded" || true
1461
1462 }
1463 run_test 27s "lsm_xfersize overflow (should error) (bug 10725)"
1464
1465 test_27t() { # bug 10864
1466         WDIR=`pwd`
1467         WLFS=`which lfs`
1468         cd $DIR
1469         touch $tfile
1470         $WLFS getstripe $tfile
1471         cd $WDIR
1472 }
1473 run_test 27t "check that utils parse path correctly"
1474
1475 test_27u() { # bug 4900
1476         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1477         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1478
1479 #define OBD_FAIL_MDS_OSC_PRECREATE      0x139
1480         do_facet $SINGLEMDS lctl set_param fail_loc=0x139
1481         test_mkdir -p $DIR/$tdir
1482         createmany -o $DIR/$tdir/t- 1000
1483         do_facet $SINGLEMDS lctl set_param fail_loc=0
1484
1485         TLOG=$DIR/$tfile.getstripe
1486         $GETSTRIPE $DIR/$tdir > $TLOG
1487         OBJS=`awk -vobj=0 '($1 == 0) { obj += 1 } END { print obj;}' $TLOG`
1488         unlinkmany $DIR/$tdir/t- 1000
1489         [ $OBJS -gt 0 ] && \
1490                 error "$OBJS objects created on OST-0.  See $TLOG" || pass
1491 }
1492 run_test 27u "skip object creation on OSC w/o objects =========="
1493
1494 test_27v() { # bug 4900
1495         [ "$OSTCOUNT" -lt "2" ] && skip_env "too few OSTs" && return
1496         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1497         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1498         remote_ost_nodsh && skip "remote OST with nodsh" && return
1499
1500         exhaust_all_precreations 0x215
1501         reset_enospc
1502
1503         test_mkdir -p $DIR/$tdir
1504         $SETSTRIPE -c 1 $DIR/$tdir         # 1 stripe / file
1505
1506         touch $DIR/$tdir/$tfile
1507         #define OBD_FAIL_TGT_DELAY_PRECREATE     0x705
1508         # all except ost1
1509         for (( i=1; i < OSTCOUNT; i++ )); do
1510                 do_facet ost$i lctl set_param fail_loc=0x705
1511         done
1512         local START=`date +%s`
1513         createmany -o $DIR/$tdir/$tfile 32
1514
1515         local FINISH=`date +%s`
1516         local TIMEOUT=`lctl get_param -n timeout`
1517         local PROCESS=$((FINISH - START))
1518         [ $PROCESS -ge $((TIMEOUT / 2)) ] && \
1519                error "$FINISH - $START >= $TIMEOUT / 2"
1520         sleep $((TIMEOUT / 2 - PROCESS))
1521         reset_enospc
1522 }
1523 run_test 27v "skip object creation on slow OST ================="
1524
1525 test_27w() { # bug 10997
1526         test_mkdir -p $DIR/$tdir || error "mkdir failed"
1527         $SETSTRIPE -S 65536 $DIR/$tdir/f0 || error "setstripe failed"
1528         [ $($GETSTRIPE -S $DIR/$tdir/f0) -ne 65536 ] &&
1529                 error "stripe size $size != 65536" || true
1530         [ $($GETSTRIPE -d $DIR/$tdir | grep -c "stripe_count") -ne 1 ] &&
1531                 error "$GETSTRIPE -d $DIR/$tdir failed" || true
1532 }
1533 run_test 27w "check $SETSTRIPE -S option"
1534
1535 test_27wa() {
1536         [ "$OSTCOUNT" -lt "2" ] &&
1537                 skip_env "skipping multiple stripe count/offset test" && return
1538
1539         test_mkdir -p $DIR/$tdir || error "mkdir failed"
1540         for i in $(seq 1 $OSTCOUNT); do
1541                 offset=$((i - 1))
1542                 $SETSTRIPE -c $i -i $offset $DIR/$tdir/f$i ||
1543                         error "setstripe -c $i -i $offset failed"
1544                 count=$($GETSTRIPE -c $DIR/$tdir/f$i)
1545                 index=$($GETSTRIPE -i $DIR/$tdir/f$i)
1546                 [ $count -ne $i ] && error "stripe count $count != $i" || true
1547                 [ $index -ne $offset ] &&
1548                         error "stripe offset $index != $offset" || true
1549         done
1550 }
1551 run_test 27wa "check $SETSTRIPE -c -i options"
1552
1553 test_27x() {
1554         remote_ost_nodsh && skip "remote OST with nodsh" && return
1555         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs" && return
1556         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1557         OFFSET=$(($OSTCOUNT - 1))
1558         OSTIDX=0
1559         local OST=$(ostname_from_index $OSTIDX)
1560
1561         test_mkdir -p $DIR/$tdir
1562         $SETSTRIPE -c 1 $DIR/$tdir      # 1 stripe per file
1563         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 1
1564         sleep_maxage
1565         createmany -o $DIR/$tdir/$tfile $OSTCOUNT
1566         for i in `seq 0 $OFFSET`; do
1567                 [ `$GETSTRIPE $DIR/$tdir/$tfile$i | grep -A 10 obdidx | awk '{print $1}' | grep -w "$OSTIDX"` ] &&
1568                 error "OST0 was degraded but new created file still use it"
1569         done
1570         do_facet ost$((OSTIDX + 1)) lctl set_param -n obdfilter.$OST.degraded 0
1571 }
1572 run_test 27x "create files while OST0 is degraded"
1573
1574 test_27y() {
1575         [ "$OSTCOUNT" -lt "2" ] && skip_env "$OSTCOUNT < 2 OSTs -- skipping" && return
1576         remote_mds_nodsh && skip "remote MDS with nodsh" && return
1577         remote_ost_nodsh && skip "remote OST with nodsh" && return
1578         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1579
1580         local mdtosc=$(get_mdtosc_proc_path $SINGLEMDS $FSNAME-OST0000)
1581         local last_id=$(do_facet $SINGLEMDS lctl get_param -n \
1582             osc.$mdtosc.prealloc_last_id)
1583         local next_id=$(do_facet $SINGLEMDS lctl get_param -n \
1584             osc.$mdtosc.prealloc_next_id)
1585         local fcount=$((last_id - next_id))
1586         [ $fcount -eq 0 ] && skip "not enough space on OST0" && return
1587         [ $fcount -gt $OSTCOUNT ] && fcount=$OSTCOUNT
1588
1589         local MDS_OSCS=$(do_facet $SINGLEMDS lctl dl |
1590                          awk '/[oO][sS][cC].*md[ts]/ { print $4 }')
1591         local OST_DEACTIVE_IDX=-1
1592         local OSC
1593         local OSTIDX
1594         local OST
1595
1596         for OSC in $MDS_OSCS; do
1597                 OST=$(osc_to_ost $OSC)
1598                 OSTIDX=$(index_from_ostuuid $OST)
1599                 if [ $OST_DEACTIVE_IDX == -1 ]; then
1600                         OST_DEACTIVE_IDX=$OSTIDX
1601                 fi
1602                 if [ $OSTIDX != $OST_DEACTIVE_IDX ]; then
1603                         echo $OSC "is Deactivated:"
1604                         do_facet $SINGLEMDS lctl --device  %$OSC deactivate
1605                 fi
1606         done
1607
1608         OSTIDX=$(index_from_ostuuid $OST)
1609         mkdir -p $DIR/$tdir
1610         $SETSTRIPE -c 1 $DIR/$tdir      # 1 stripe / file
1611
1612         for OSC in $MDS_OSCS; do
1613                 OST=$(osc_to_ost $OSC)
1614                 OSTIDX=$(index_from_ostuuid $OST)
1615                 if [ $OSTIDX == $OST_DEACTIVE_IDX ]; then
1616                         echo $OST "is degraded:"
1617                         do_facet ost$((OSTIDX+1)) lctl set_param -n \
1618                                                 obdfilter.$OST.degraded=1
1619                 fi
1620         done
1621
1622         sleep_maxage
1623         createmany -o $DIR/$tdir/$tfile $fcount
1624
1625         for OSC in $MDS_OSCS; do
1626                 OST=$(osc_to_ost $OSC)
1627                 OSTIDX=$(index_from_ostuuid $OST)
1628                 if [ $OSTIDX == $OST_DEACTIVE_IDX ]; then
1629                         echo $OST "is recovered from degraded:"
1630                         do_facet ost$((OSTIDX+1)) lctl set_param -n \
1631                                                 obdfilter.$OST.degraded=0
1632                 else
1633                         do_facet $SINGLEMDS lctl --device %$OSC activate
1634                 fi
1635         done
1636 }
1637 run_test 27y "create files while OST0 is degraded and the rest inactive"
1638
1639 check_seq_oid()
1640 {
1641         log "check file $1"
1642
1643         lmm_count=$($GETSTRIPE -c $1)
1644         lmm_seq=$($GETSTRIPE -v $1 | awk '/lmm_seq/ { print $2 }')
1645         lmm_oid=$($GETSTRIPE -v $1 | awk '/lmm_object_id/ { print $2 }')
1646
1647         local old_ifs="$IFS"
1648         IFS=$'[:]'
1649         fid=($($LFS path2fid $1))
1650         IFS="$old_ifs"
1651
1652         log "FID seq ${fid[1]}, oid ${fid[2]} ver ${fid[3]}"
1653         log "LOV seq $lmm_seq, oid $lmm_oid, count: $lmm_count"
1654
1655         # compare lmm_seq and lu_fid->f_seq
1656         [ $lmm_seq = ${fid[1]} ] || { error "SEQ mismatch"; return 1; }
1657         # compare lmm_object_id and lu_fid->oid
1658         [ $lmm_oid = ${fid[2]} ] || { error "OID mismatch"; return 2; }
1659
1660         # check the trusted.fid attribute of the OST objects of the file
1661         local have_obdidx=false
1662         local stripe_nr=0
1663         $GETSTRIPE $1 | while read obdidx oid hex seq; do
1664                 # skip lines up to and including "obdidx"
1665                 [ -z "$obdidx" ] && break
1666                 [ "$obdidx" = "obdidx" ] && have_obdidx=true && continue
1667                 $have_obdidx || continue
1668
1669                 local ost=$((obdidx + 1))
1670                 local dev=$(ostdevname $ost)
1671
1672                 if [ $(facet_fstype ost$ost) != ldiskfs ]; then
1673                         echo "Currently only works with ldiskfs-based OSTs"
1674                         continue
1675                 fi
1676
1677                 log "want: stripe:$stripe_nr ost:$obdidx oid:$oid/$hex seq:$seq"
1678
1679                 #don't unmount/remount the OSTs if we don't need to do that
1680                 #local dir=$(facet_mntpt ost$ost)
1681                 #stop ost$dev
1682                 #do_facet ost$dev mount -t $FSTYPE $dev $dir $OST_MOUNT_OPTS ||
1683                 #       { error "mounting $dev as $FSTYPE failed"; return 3; }
1684                 #local obj_file=$(do_facet ost$ost find $dir/O/$seq -name $oid)
1685                 #local ff=$(do_facet ost$ost $LL_DECODE_FILTER_FID $obj_file)
1686
1687                 local obj_file="O/$seq/d$((oid %32))/$oid"
1688                 local ff=$(do_facet ost$ost "$DEBUGFS -c -R 'stat $obj_file' \
1689                            $dev 2>/dev/null" | grep "parent=")
1690
1691                 [ -z "$ff" ] && error "$obj_file: no filter_fid info"
1692
1693                 echo "$ff" | sed -e 's#.*objid=#got: objid=#'
1694
1695                 #do_facet ost$ost umount -d $dir
1696                 #start ost$ost $dev $OST_MOUNT_OPTS
1697
1698                 # /mnt/O/0/d23/23: objid=23 seq=0 parent=[0x200000400:0x1e:0x1]
1699                 # fid: objid=23 seq=0 parent=[0x200000400:0x1e:0x0] stripe=1
1700                 local ff_parent=$(echo $ff|sed -e 's/.*parent=.//')
1701                 local ff_pseq=$(echo $ff_parent | cut -d: -f1)
1702                 local ff_poid=$(echo $ff_parent | cut -d: -f2)
1703                 local ff_pstripe=$(echo $ff_parent | sed -e 's/.*stripe=//')
1704
1705                 # compare lmm_seq and filter_fid->ff_parent.f_seq
1706                 [ $ff_pseq = $lmm_seq ] ||
1707                         error "FF parent SEQ $ff_pseq != $lmm_seq"
1708                 # compare lmm_object_id and filter_fid->ff_parent.f_oid
1709                 [ $ff_poid = $lmm_oid ] ||
1710                         error "FF parent OID $ff_poid != $lmm_oid"
1711                 [ $ff_pstripe = $stripe_nr ] ||
1712                         error "FF stripe $ff_pstripe != $stripe_nr"
1713
1714                 stripe_nr=$((stripe_nr + 1))
1715         done
1716 }
1717
1718 test_27z() {
1719         remote_ost_nodsh && skip "remote OST with nodsh" && return
1720         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1721         test_mkdir -p $DIR/$tdir
1722
1723         $SETSTRIPE -c 1 -i 0 -S 64k $DIR/$tdir/$tfile-1 ||
1724                 { error "setstripe -c -1 failed"; return 1; }
1725         # We need to send a write to every object to get parent FID info set.
1726         # This _should_ also work for setattr, but does not currently.
1727         # touch $DIR/$tdir/$tfile-1 ||
1728         dd if=/dev/zero of=$DIR/$tdir/$tfile-1 bs=1M count=1 ||
1729                 { error "dd $tfile-1 failed"; return 2; }
1730         $SETSTRIPE -c -1 -i $((OSTCOUNT - 1)) -S 1M $DIR/$tdir/$tfile-2 ||
1731                 { error "setstripe -c -1 failed"; return 3; }
1732         dd if=/dev/zero of=$DIR/$tdir/$tfile-2 bs=1M count=$OSTCOUNT ||
1733                 { error "dd $tfile-2 failed"; return 4; }
1734
1735         # make sure write RPCs have been sent to OSTs
1736         sync; sleep 5; sync
1737
1738         check_seq_oid $DIR/$tdir/$tfile-1 || return 5
1739         check_seq_oid $DIR/$tdir/$tfile-2 || return 6
1740 }
1741 run_test 27z "check SEQ/OID on the MDT and OST filesystems"
1742
1743 test_27A() { # b=19102
1744         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1745         local restore_size=$($GETSTRIPE -S $MOUNT)
1746         local restore_count=$($GETSTRIPE -c $MOUNT)
1747         local restore_offset=$($GETSTRIPE -i $MOUNT)
1748         $SETSTRIPE -c 0 -i -1 -S 0 $MOUNT
1749         local default_size=$($GETSTRIPE -S $MOUNT)
1750         local default_count=$($GETSTRIPE -c $MOUNT)
1751         local default_offset=$($GETSTRIPE -i $MOUNT)
1752         local dsize=$((1024 * 1024))
1753         [ $default_size -eq $dsize ] ||
1754                 error "stripe size $default_size != $dsize"
1755         [ $default_count -eq 1 ] || error "stripe count $default_count != 1"
1756         [ $default_offset -eq -1 ] ||error "stripe offset $default_offset != -1"
1757         $SETSTRIPE -c $restore_count -i $restore_offset -S $restore_size $MOUNT
1758 }
1759 run_test 27A "check filesystem-wide default LOV EA values"
1760
1761 # createtest also checks that device nodes are created and
1762 # then visible correctly (#2091)
1763 test_28() { # bug 2091
1764         test_mkdir $DIR/d28
1765         $CREATETEST $DIR/d28/ct || error
1766 }
1767 run_test 28 "create/mknod/mkdir with bad file types ============"
1768
1769 test_29() {
1770         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1771         cancel_lru_locks mdc
1772         test_mkdir $DIR/d29
1773         touch $DIR/d29/foo
1774         log 'first d29'
1775         ls -l $DIR/d29
1776
1777         declare -i LOCKCOUNTORIG=0
1778         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1779                 let LOCKCOUNTORIG=$LOCKCOUNTORIG+$lock_count
1780         done
1781         [ $LOCKCOUNTORIG -eq 0 ] && echo "No mdc lock count" && return 1
1782
1783         declare -i LOCKUNUSEDCOUNTORIG=0
1784         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1785                 let LOCKUNUSEDCOUNTORIG=$LOCKUNUSEDCOUNTORIG+$unused_count
1786         done
1787
1788         log 'second d29'
1789         ls -l $DIR/d29
1790         log 'done'
1791
1792         declare -i LOCKCOUNTCURRENT=0
1793         for lock_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_count); do
1794                 let LOCKCOUNTCURRENT=$LOCKCOUNTCURRENT+$lock_count
1795         done
1796
1797         declare -i LOCKUNUSEDCOUNTCURRENT=0
1798         for unused_count in $(lctl get_param -n ldlm.namespaces.*mdc*.lock_unused_count); do
1799                 let LOCKUNUSEDCOUNTCURRENT=$LOCKUNUSEDCOUNTCURRENT+$unused_count
1800         done
1801
1802         if [ "$LOCKCOUNTCURRENT" -gt "$LOCKCOUNTORIG" ]; then
1803                 lctl set_param -n ldlm.dump_namespaces ""
1804                 error "CURRENT: $LOCKCOUNTCURRENT > $LOCKCOUNTORIG"
1805                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1806                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1807                 return 2
1808         fi
1809         if [ "$LOCKUNUSEDCOUNTCURRENT" -gt "$LOCKUNUSEDCOUNTORIG" ]; then
1810                 error "UNUSED: $LOCKUNUSEDCOUNTCURRENT > $LOCKUNUSEDCOUNTORIG"
1811                 $LCTL dk | sort -k4 -t: > $TMP/test_29.dk
1812                 log "dumped log to $TMP/test_29.dk (bug 5793)"
1813                 return 3
1814         fi
1815 }
1816 run_test 29 "IT_GETATTR regression  ============================"
1817
1818 test_30a() { # was test_30
1819         cp `which ls` $DIR || cp /bin/ls $DIR
1820         $DIR/ls / || error
1821         rm $DIR/ls
1822 }
1823 run_test 30a "execute binary from Lustre (execve) =============="
1824
1825 test_30b() {
1826         cp `which ls` $DIR || cp /bin/ls $DIR
1827         chmod go+rx $DIR/ls
1828         $RUNAS $DIR/ls / || error
1829         rm $DIR/ls
1830 }
1831 run_test 30b "execute binary from Lustre as non-root ==========="
1832
1833 test_30c() { # b=22376
1834         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1835         cp `which ls` $DIR || cp /bin/ls $DIR
1836         chmod a-rw $DIR/ls
1837         cancel_lru_locks mdc
1838         cancel_lru_locks osc
1839         $RUNAS $DIR/ls / || error
1840         rm -f $DIR/ls
1841 }
1842 run_test 30c "execute binary from Lustre without read perms ===="
1843
1844 test_31a() {
1845         $OPENUNLINK $DIR/f31 $DIR/f31 || error
1846         $CHECKSTAT -a $DIR/f31 || error
1847 }
1848 run_test 31a "open-unlink file =================================="
1849
1850 test_31b() {
1851         touch $DIR/f31 || error
1852         ln $DIR/f31 $DIR/f31b || error
1853         $MULTIOP $DIR/f31b Ouc || error
1854         $CHECKSTAT -t file $DIR/f31 || error
1855 }
1856 run_test 31b "unlink file with multiple links while open ======="
1857
1858 test_31c() {
1859         touch $DIR/f31 || error
1860         ln $DIR/f31 $DIR/f31c || error
1861         multiop_bg_pause $DIR/f31 O_uc || return 1
1862         MULTIPID=$!
1863         $MULTIOP $DIR/f31c Ouc
1864         kill -USR1 $MULTIPID
1865         wait $MULTIPID
1866 }
1867 run_test 31c "open-unlink file with multiple links ============="
1868
1869 test_31d() {
1870         opendirunlink $DIR/d31d $DIR/d31d || error
1871         $CHECKSTAT -a $DIR/d31d || error
1872 }
1873 run_test 31d "remove of open directory ========================="
1874
1875 test_31e() { # bug 2904
1876         check_kernel_version 34 || return 0
1877         openfilleddirunlink $DIR/d31e || error
1878 }
1879 run_test 31e "remove of open non-empty directory ==============="
1880
1881 test_31f() { # bug 4554
1882         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
1883         set -vx
1884         test_mkdir $DIR/d31f
1885         $SETSTRIPE -S 1048576 -c 1 $DIR/d31f
1886         cp /etc/hosts $DIR/d31f
1887         ls -l $DIR/d31f
1888         $GETSTRIPE $DIR/d31f/hosts
1889         multiop_bg_pause $DIR/d31f D_c || return 1
1890         MULTIPID=$!
1891
1892         rm -rv $DIR/d31f || error "first of $DIR/d31f"
1893         test_mkdir $DIR/d31f
1894         $SETSTRIPE -S 1048576 -c 1 $DIR/d31f
1895         cp /etc/hosts $DIR/d31f
1896         ls -l $DIR/d31f
1897         $GETSTRIPE $DIR/d31f/hosts
1898         multiop_bg_pause $DIR/d31f D_c || return 1
1899         MULTIPID2=$!
1900
1901         kill -USR1 $MULTIPID || error "first opendir $MULTIPID not running"
1902         wait $MULTIPID || error "first opendir $MULTIPID failed"
1903
1904         sleep 6
1905
1906         kill -USR1 $MULTIPID2 || error "second opendir $MULTIPID not running"
1907         wait $MULTIPID2 || error "second opendir $MULTIPID2 failed"
1908         set +vx
1909 }
1910 run_test 31f "remove of open directory with open-unlink file ==="
1911
1912 test_31g() {
1913         echo "-- cross directory link --"
1914         test_mkdir $DIR/d31ga
1915         test_mkdir $DIR/d31gb
1916         touch $DIR/d31ga/f
1917         ln $DIR/d31ga/f $DIR/d31gb/g
1918         $CHECKSTAT -t file $DIR/d31ga/f || error "source"
1919         [ `stat -c%h $DIR/d31ga/f` == '2' ] || error "source nlink"
1920         $CHECKSTAT -t file $DIR/d31gb/g || error "target"
1921         [ `stat -c%h $DIR/d31gb/g` == '2' ] || error "target nlink"
1922 }
1923 run_test 31g "cross directory link==============="
1924
1925 test_31h() {
1926         echo "-- cross directory link --"
1927         test_mkdir $DIR/d31h
1928         test_mkdir $DIR/d31h/dir
1929         touch $DIR/d31h/f
1930         ln $DIR/d31h/f $DIR/d31h/dir/g
1931         $CHECKSTAT -t file $DIR/d31h/f || error "source"
1932         [ `stat -c%h $DIR/d31h/f` == '2' ] || error "source nlink"
1933         $CHECKSTAT -t file $DIR/d31h/dir/g || error "target"
1934         [ `stat -c%h $DIR/d31h/dir/g` == '2' ] || error "target nlink"
1935 }
1936 run_test 31h "cross directory link under child==============="
1937
1938 test_31i() {
1939         echo "-- cross directory link --"
1940         test_mkdir $DIR/d31i
1941         test_mkdir $DIR/d31i/dir
1942         touch $DIR/d31i/dir/f
1943         ln $DIR/d31i/dir/f $DIR/d31i/g
1944         $CHECKSTAT -t file $DIR/d31i/dir/f || error "source"
1945         [ `stat -c%h $DIR/d31i/dir/f` == '2' ] || error "source nlink"
1946         $CHECKSTAT -t file $DIR/d31i/g || error "target"
1947         [ `stat -c%h $DIR/d31i/g` == '2' ] || error "target nlink"
1948 }
1949 run_test 31i "cross directory link under parent==============="
1950
1951
1952 test_31j() {
1953         test_mkdir $DIR/d31j
1954         test_mkdir $DIR/d31j/dir1
1955         ln $DIR/d31j/dir1 $DIR/d31j/dir2 && error "ln for dir"
1956         link $DIR/d31j/dir1 $DIR/d31j/dir3 && error "link for dir"
1957         mlink $DIR/d31j/dir1 $DIR/d31j/dir4 && error "mlink for dir"
1958         mlink $DIR/d31j/dir1 $DIR/d31j/dir1 && error "mlink to the same dir"
1959         return 0
1960 }
1961 run_test 31j "link for directory==============="
1962
1963
1964 test_31k() {
1965         test_mkdir $DIR/d31k
1966         touch $DIR/d31k/s
1967         touch $DIR/d31k/exist
1968         mlink $DIR/d31k/s $DIR/d31k/t || error "mlink"
1969         mlink $DIR/d31k/s $DIR/d31k/exist && error "mlink to exist file"
1970         mlink $DIR/d31k/s $DIR/d31k/s && error "mlink to the same file"
1971         mlink $DIR/d31k/s $DIR/d31k && error "mlink to parent dir"
1972         mlink $DIR/d31k $DIR/d31k/s && error "mlink parent dir to target"
1973         mlink $DIR/d31k/not-exist $DIR/d31k/foo && error "mlink non-existing to new"
1974         mlink $DIR/d31k/not-exist $DIR/d31k/s && error "mlink non-existing to exist"
1975         return 0
1976 }
1977 run_test 31k "link to file: the same, non-existing, dir==============="
1978
1979 test_31m() {
1980         test_mkdir $DIR/d31m
1981         touch $DIR/d31m/s
1982         test_mkdir $DIR/d31m2
1983         touch $DIR/d31m2/exist
1984         mlink $DIR/d31m/s $DIR/d31m2/t || error "mlink"
1985         mlink $DIR/d31m/s $DIR/d31m2/exist && error "mlink to exist file"
1986         mlink $DIR/d31m/s $DIR/d31m2 && error "mlink to parent dir"
1987         mlink $DIR/d31m2 $DIR/d31m/s && error "mlink parent dir to target"
1988         mlink $DIR/d31m/not-exist $DIR/d31m2/foo && error "mlink non-existing to new"
1989         mlink $DIR/d31m/not-exist $DIR/d31m2/s && error "mlink non-existing to exist"
1990         return 0
1991 }
1992 run_test 31m "link to file: the same, non-existing, dir==============="
1993
1994 cleanup_test32_mount() {
1995         trap 0
1996         $UMOUNT $DIR/$tdir/ext2-mountpoint
1997 }
1998
1999 test_32a() {
2000         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2001         echo "== more mountpoints and symlinks ================="
2002         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2003         trap cleanup_test32_mount EXIT
2004         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2005         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2006         $CHECKSTAT -t dir $DIR/$tdir/ext2-mountpoint/.. || error
2007         cleanup_test32_mount
2008 }
2009 run_test 32a "stat d32a/ext2-mountpoint/.. ====================="
2010
2011 test_32b() {
2012         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2013         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2014         trap cleanup_test32_mount EXIT
2015         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2016         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2017         ls -al $DIR/$tdir/ext2-mountpoint/.. || error
2018         cleanup_test32_mount
2019 }
2020 run_test 32b "open d32b/ext2-mountpoint/.. ====================="
2021
2022 test_32c() {
2023         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2024         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2025         trap cleanup_test32_mount EXIT
2026         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2027         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2028         test_mkdir -p $DIR/$tdir/d2/test_dir
2029         $CHECKSTAT -t dir $DIR/$tdir/ext2-mountpoint/../d2/test_dir || error
2030         cleanup_test32_mount
2031 }
2032 run_test 32c "stat d32c/ext2-mountpoint/../d2/test_dir ========="
2033
2034 test_32d() {
2035         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2036         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2037         trap cleanup_test32_mount EXIT
2038         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2039         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2040         test_mkdir -p $DIR/$tdir/d2/test_dir
2041         ls -al $DIR/$tdir/ext2-mountpoint/../d2/test_dir || error
2042         cleanup_test32_mount
2043 }
2044 run_test 32d "open d32d/ext2-mountpoint/../d2/test_dir ========="
2045
2046 test_32e() {
2047         [ -e $DIR/d32e ] && rm -fr $DIR/d32e
2048         test_mkdir -p $DIR/d32e/tmp
2049         TMP_DIR=$DIR/d32e/tmp
2050         ln -s $DIR/d32e $TMP_DIR/symlink11
2051         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2052         $CHECKSTAT -t link $DIR/d32e/tmp/symlink11 || error
2053         $CHECKSTAT -t link $DIR/d32e/symlink01 || error
2054 }
2055 run_test 32e "stat d32e/symlink->tmp/symlink->lustre-subdir ===="
2056
2057 test_32f() {
2058         [ -e $DIR/d32f ] && rm -fr $DIR/d32f
2059         test_mkdir -p $DIR/d32f/tmp
2060         TMP_DIR=$DIR/d32f/tmp
2061         ln -s $DIR/d32f $TMP_DIR/symlink11
2062         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2063         ls $DIR/d32f/tmp/symlink11  || error
2064         ls $DIR/d32f/symlink01 || error
2065 }
2066 run_test 32f "open d32f/symlink->tmp/symlink->lustre-subdir ===="
2067
2068 test_32g() {
2069         TMP_DIR=$DIR/$tdir/tmp
2070         test_mkdir -p $DIR/$tdir/tmp
2071         test_mkdir $DIR/${tdir}2
2072         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
2073         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2074         $CHECKSTAT -t link $TMP_DIR/symlink12 || error
2075         $CHECKSTAT -t link $DIR/$tdir/symlink02 || error
2076         $CHECKSTAT -t dir -f $TMP_DIR/symlink12 || error
2077         $CHECKSTAT -t dir -f $DIR/$tdir/symlink02 || error
2078 }
2079 run_test 32g "stat d32g/symlink->tmp/symlink->lustre-subdir/${tdir}2"
2080
2081 test_32h() {
2082         rm -fr $DIR/$tdir $DIR/${tdir}2
2083         TMP_DIR=$DIR/$tdir/tmp
2084         test_mkdir -p $DIR/$tdir/tmp
2085         test_mkdir $DIR/${tdir}2
2086         ln -s $DIR/${tdir}2 $TMP_DIR/symlink12
2087         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2088         ls $TMP_DIR/symlink12 || error
2089         ls $DIR/$tdir/symlink02  || error
2090 }
2091 run_test 32h "open d32h/symlink->tmp/symlink->lustre-subdir/${tdir}2"
2092
2093 test_32i() {
2094         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2095         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2096         trap cleanup_test32_mount EXIT
2097         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2098         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2099         touch $DIR/$tdir/test_file
2100         $CHECKSTAT -t file $DIR/$tdir/ext2-mountpoint/../test_file || error
2101         cleanup_test32_mount
2102 }
2103 run_test 32i "stat d32i/ext2-mountpoint/../test_file ==========="
2104
2105 test_32j() {
2106         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2107         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2108         trap cleanup_test32_mount EXIT
2109         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2110         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2111         touch $DIR/$tdir/test_file
2112         cat $DIR/$tdir/ext2-mountpoint/../test_file || error
2113         cleanup_test32_mount
2114 }
2115 run_test 32j "open d32j/ext2-mountpoint/../test_file ==========="
2116
2117 test_32k() {
2118         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2119         rm -fr $DIR/$tdir
2120         trap cleanup_test32_mount EXIT
2121         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2122         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint
2123         test_mkdir -p $DIR/$tdir/d2
2124         touch $DIR/$tdir/d2/test_file || error
2125         $CHECKSTAT -t file $DIR/$tdir/ext2-mountpoint/../d2/test_file || error
2126         cleanup_test32_mount
2127 }
2128 run_test 32k "stat d32k/ext2-mountpoint/../d2/test_file ========"
2129
2130 test_32l() {
2131         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2132         rm -fr $DIR/$tdir
2133         trap cleanup_test32_mount EXIT
2134         test_mkdir -p $DIR/$tdir/ext2-mountpoint
2135         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir/ext2-mountpoint || error
2136         test_mkdir -p $DIR/$tdir/d2
2137         touch $DIR/$tdir/d2/test_file
2138         cat  $DIR/$tdir/ext2-mountpoint/../d2/test_file || error
2139         cleanup_test32_mount
2140 }
2141 run_test 32l "open d32l/ext2-mountpoint/../d2/test_file ========"
2142
2143 test_32m() {
2144         rm -fr $DIR/d32m
2145         test_mkdir -p $DIR/d32m/tmp
2146         TMP_DIR=$DIR/d32m/tmp
2147         ln -s $DIR $TMP_DIR/symlink11
2148         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2149         $CHECKSTAT -t link $DIR/d32m/tmp/symlink11 || error
2150         $CHECKSTAT -t link $DIR/d32m/symlink01 || error
2151 }
2152 run_test 32m "stat d32m/symlink->tmp/symlink->lustre-root ======"
2153
2154 test_32n() {
2155         rm -fr $DIR/d32n
2156         test_mkdir -p $DIR/d32n/tmp
2157         TMP_DIR=$DIR/d32n/tmp
2158         ln -s $DIR $TMP_DIR/symlink11
2159         ln -s $TMP_DIR/symlink11 $TMP_DIR/../symlink01
2160         ls -l $DIR/d32n/tmp/symlink11  || error
2161         ls -l $DIR/d32n/symlink01 || error
2162 }
2163 run_test 32n "open d32n/symlink->tmp/symlink->lustre-root ======"
2164
2165 test_32o() {
2166         rm -fr $DIR/d32o $DIR/$tfile
2167         touch $DIR/$tfile
2168         test_mkdir -p $DIR/d32o/tmp
2169         TMP_DIR=$DIR/d32o/tmp
2170         ln -s $DIR/$tfile $TMP_DIR/symlink12
2171         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2172         $CHECKSTAT -t link $DIR/d32o/tmp/symlink12 || error
2173         $CHECKSTAT -t link $DIR/d32o/symlink02 || error
2174         $CHECKSTAT -t file -f $DIR/d32o/tmp/symlink12 || error
2175         $CHECKSTAT -t file -f $DIR/d32o/symlink02 || error
2176 }
2177 run_test 32o "stat d32o/symlink->tmp/symlink->lustre-root/$tfile"
2178
2179 test_32p() {
2180     log 32p_1
2181         rm -fr $DIR/d32p
2182     log 32p_2
2183         rm -f $DIR/$tfile
2184     log 32p_3
2185         touch $DIR/$tfile
2186     log 32p_4
2187         test_mkdir -p $DIR/d32p/tmp
2188     log 32p_5
2189         TMP_DIR=$DIR/d32p/tmp
2190     log 32p_6
2191         ln -s $DIR/$tfile $TMP_DIR/symlink12
2192     log 32p_7
2193         ln -s $TMP_DIR/symlink12 $TMP_DIR/../symlink02
2194     log 32p_8
2195         cat $DIR/d32p/tmp/symlink12 || error
2196     log 32p_9
2197         cat $DIR/d32p/symlink02 || error
2198     log 32p_10
2199 }
2200 run_test 32p "open d32p/symlink->tmp/symlink->lustre-root/$tfile"
2201
2202 cleanup_testdir_mount() {
2203         trap 0
2204         $UMOUNT $DIR/$tdir
2205 }
2206
2207 test_32q() {
2208         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2209         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2210         trap cleanup_testdir_mount EXIT
2211         test_mkdir -p $DIR/$tdir
2212         touch $DIR/$tdir/under_the_mount
2213         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir
2214         ls $DIR/$tdir | grep "\<under_the_mount\>" && error
2215         cleanup_testdir_mount
2216 }
2217 run_test 32q "stat follows mountpoints in Lustre (should return error)"
2218
2219 test_32r() {
2220         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2221         [ -e $DIR/$tdir ] && rm -fr $DIR/$tdir
2222         trap cleanup_testdir_mount EXIT
2223         test_mkdir -p $DIR/$tdir
2224         touch $DIR/$tdir/under_the_mount
2225         mount -t ext2 -o loop $EXT2_DEV $DIR/$tdir
2226         ls $DIR/$tdir | grep -q under_the_mount && error || true
2227         cleanup_testdir_mount
2228 }
2229 run_test 32r "opendir follows mountpoints in Lustre (should return error)"
2230
2231 test_33aa() {
2232         rm -f $DIR/$tfile
2233         touch $DIR/$tfile
2234         chmod 444 $DIR/$tfile
2235         chown $RUNAS_ID $DIR/$tfile
2236         log 33_1
2237         $RUNAS $OPENFILE -f O_RDWR $DIR/$tfile && error || true
2238         log 33_2
2239 }
2240 run_test 33aa "write file with mode 444 (should return error) ===="
2241
2242 test_33a() {
2243         rm -fr $DIR/d33
2244         test_mkdir -p $DIR/d33
2245         chown $RUNAS_ID $DIR/d33
2246         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33|| error "create"
2247         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $DIR/d33/f33 && \
2248                 error "open RDWR" || true
2249 }
2250 run_test 33a "test open file(mode=0444) with O_RDWR (should return error)"
2251
2252 test_33b() {
2253         rm -fr $DIR/d33
2254         test_mkdir -p $DIR/d33
2255         chown $RUNAS_ID $DIR/d33
2256         $RUNAS $OPENFILE -f 1286739555 $DIR/d33/f33 && error "create" || true
2257 }
2258 run_test 33b "test open file with malformed flags (No panic and return error)"
2259
2260 test_33c() {
2261         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2262         local ostnum
2263         local ostname
2264         local write_bytes
2265         local all_zeros
2266
2267         remote_ost_nodsh && skip "remote OST with nodsh" && return
2268         all_zeros=:
2269         rm -fr $DIR/d33
2270         test_mkdir -p $DIR/d33
2271         # Read: 0, Write: 4, create/destroy: 2/0, stat: 1, punch: 0
2272
2273         sync
2274         for ostnum in $(seq $OSTCOUNT); do
2275                 # test-framework's OST numbering is one-based, while Lustre's
2276                 # is zero-based
2277                 ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
2278                 # Parsing llobdstat's output sucks; we could grep the /proc
2279                 # path, but that's likely to not be as portable as using the
2280                 # llobdstat utility.  So we parse lctl output instead.
2281                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
2282                         obdfilter/$ostname/stats |
2283                         awk '/^write_bytes/ {print $7}' )
2284                 echo "baseline_write_bytes@$OSTnum/$ostname=$write_bytes"
2285                 if (( ${write_bytes:-0} > 0 ))
2286                 then
2287                         all_zeros=false
2288                         break;
2289                 fi
2290         done
2291
2292         $all_zeros || return 0
2293
2294         # Write four bytes
2295         echo foo > $DIR/d33/bar
2296         # Really write them
2297         sync
2298
2299         # Total up write_bytes after writing.  We'd better find non-zeros.
2300         for ostnum in $(seq $OSTCOUNT); do
2301                 ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
2302                 write_bytes=$(do_facet ost$ostnum lctl get_param -n \
2303                         obdfilter/$ostname/stats |
2304                         awk '/^write_bytes/ {print $7}' )
2305                 echo "write_bytes@$OSTnum/$ostname=$write_bytes"
2306                 if (( ${write_bytes:-0} > 0 ))
2307                 then
2308                         all_zeros=false
2309                         break;
2310                 fi
2311         done
2312
2313         if $all_zeros
2314         then
2315                 for ostnum in $(seq $OSTCOUNT); do
2316                         ostname=$(printf "$FSNAME-OST%.4d" $((ostnum - 1)))
2317                         echo "Check that write_bytes is present in obdfilter/*/stats:"
2318                         do_facet ost$ostnum lctl get_param -n \
2319                                 obdfilter/$ostname/stats
2320                 done
2321                 error "OST not keeping write_bytes stats (b22312)"
2322         fi
2323 }
2324 run_test 33c "test llobdstat and write_bytes"
2325
2326 test_33d() {
2327         [ $MDSCOUNT -lt 2 ] && skip "needs >= 2 MDTs" && return
2328         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2329         local MDTIDX=1
2330         local remote_dir=$DIR/$tdir/remote_dir
2331
2332         mkdir -p $DIR/$tdir
2333         $LFS mkdir -i $MDTIDX $remote_dir ||
2334                 error "create remote directory failed"
2335
2336         touch $remote_dir/$tfile
2337         chmod 444 $remote_dir/$tfile
2338         chown $RUNAS_ID $remote_dir/$tfile
2339
2340         $RUNAS $OPENFILE -f O_RDWR $DIR/$tfile && error || true
2341
2342         chown $RUNAS_ID $remote_dir
2343         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $remote_dir/f33 ||
2344                                         error "create" || true
2345         $RUNAS $OPENFILE -f O_RDWR:O_CREAT -m 0444 $remote_dir/f33 &&
2346                                     error "open RDWR" || true
2347         $RUNAS $OPENFILE -f 1286739555 $remote_dir/f33 &&
2348                                     error "create" || true
2349 }
2350 run_test 33d "openfile with 444 modes and malformed flags under remote dir"
2351
2352 TEST_34_SIZE=${TEST_34_SIZE:-2000000000000}
2353 test_34a() {
2354         rm -f $DIR/f34
2355         $MCREATE $DIR/f34 || error
2356         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2357         $TRUNCATE $DIR/f34 $TEST_34_SIZE || error
2358         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2359         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2360 }
2361 run_test 34a "truncate file that has not been opened ==========="
2362
2363 test_34b() {
2364         [ ! -f $DIR/f34 ] && test_34a
2365         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2366         $OPENFILE -f O_RDONLY $DIR/f34
2367         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" || error
2368         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2369 }
2370 run_test 34b "O_RDONLY opening file doesn't create objects ====="
2371
2372 test_34c() {
2373         [ ! -f $DIR/f34 ] && test_34a
2374         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2375         $OPENFILE -f O_RDWR $DIR/f34
2376         $GETSTRIPE $DIR/f34 2>&1 | grep -q "no stripe info" && error
2377         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2378 }
2379 run_test 34c "O_RDWR opening file-with-size works =============="
2380
2381 test_34d() {
2382         [ ! -f $DIR/f34 ] && test_34a
2383         dd if=/dev/zero of=$DIR/f34 conv=notrunc bs=4k count=1 || error
2384         $CHECKSTAT -s $TEST_34_SIZE $DIR/f34 || error
2385         rm $DIR/f34
2386 }
2387 run_test 34d "write to sparse file ============================="
2388
2389 test_34e() {
2390         rm -f $DIR/f34e
2391         $MCREATE $DIR/f34e || error
2392         $TRUNCATE $DIR/f34e 1000 || error
2393         $CHECKSTAT -s 1000 $DIR/f34e || error
2394         $OPENFILE -f O_RDWR $DIR/f34e
2395         $CHECKSTAT -s 1000 $DIR/f34e || error
2396 }
2397 run_test 34e "create objects, some with size and some without =="
2398
2399 test_34f() { # bug 6242, 6243
2400         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2401         SIZE34F=48000
2402         rm -f $DIR/f34f
2403         $MCREATE $DIR/f34f || error
2404         $TRUNCATE $DIR/f34f $SIZE34F || error "truncating $DIR/f3f to $SIZE34F"
2405         dd if=$DIR/f34f of=$TMP/f34f
2406         $CHECKSTAT -s $SIZE34F $TMP/f34f || error "$TMP/f34f not $SIZE34F bytes"
2407         dd if=/dev/zero of=$TMP/f34fzero bs=$SIZE34F count=1
2408         cmp $DIR/f34f $TMP/f34fzero || error "$DIR/f34f not all zero"
2409         cmp $TMP/f34f $TMP/f34fzero || error "$TMP/f34f not all zero"
2410         rm $TMP/f34f $TMP/f34fzero $DIR/f34f
2411 }
2412 run_test 34f "read from a file with no objects until EOF ======="
2413
2414 test_34g() {
2415         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2416         dd if=/dev/zero of=$DIR/$tfile bs=1 count=100 seek=$TEST_34_SIZE || error
2417         $TRUNCATE $DIR/$tfile $((TEST_34_SIZE / 2))|| error
2418         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || error "truncate failed"
2419         cancel_lru_locks osc
2420         $CHECKSTAT -s $((TEST_34_SIZE / 2)) $DIR/$tfile || \
2421                 error "wrong size after lock cancel"
2422
2423         $TRUNCATE $DIR/$tfile $TEST_34_SIZE || error
2424         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2425                 error "expanding truncate failed"
2426         cancel_lru_locks osc
2427         $CHECKSTAT -s $TEST_34_SIZE $DIR/$tfile || \
2428                 error "wrong expanded size after lock cancel"
2429 }
2430 run_test 34g "truncate long file ==============================="
2431
2432 test_34h() {
2433         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2434         local gid=10
2435         local sz=1000
2436
2437         dd if=/dev/zero of=$DIR/$tfile bs=1M count=10 || error
2438         $MULTIOP $DIR/$tfile OG${gid}T${sz}g${gid}c &
2439         MULTIPID=$!
2440         sleep 2
2441
2442         if [[ `ps h -o comm -p $MULTIPID` == "multiop" ]]; then
2443                 error "Multiop blocked on ftruncate, pid=$MULTIPID"
2444                 kill -9 $MULTIPID
2445         fi
2446         wait $MULTIPID
2447         local nsz=`stat -c %s $DIR/$tfile`
2448         [[ $nsz == $sz ]] || error "New size wrong $nsz != $sz"
2449 }
2450 run_test 34h "ftruncate file under grouplock should not block"
2451
2452 test_35a() {
2453         cp /bin/sh $DIR/f35a
2454         chmod 444 $DIR/f35a
2455         chown $RUNAS_ID $DIR/f35a
2456         $RUNAS $DIR/f35a && error || true
2457         rm $DIR/f35a
2458 }
2459 run_test 35a "exec file with mode 444 (should return and not leak) ====="
2460
2461 test_36a() {
2462         rm -f $DIR/f36
2463         utime $DIR/f36 || error
2464 }
2465 run_test 36a "MDS utime check (mknod, utime) ==================="
2466
2467 test_36b() {
2468         echo "" > $DIR/f36
2469         utime $DIR/f36 || error
2470 }
2471 run_test 36b "OST utime check (open, utime) ===================="
2472
2473 test_36c() {
2474         rm -f $DIR/d36/f36
2475         test_mkdir $DIR/d36
2476         chown $RUNAS_ID $DIR/d36
2477         $RUNAS utime $DIR/d36/f36 || error
2478 }
2479 run_test 36c "non-root MDS utime check (mknod, utime) =========="
2480
2481 test_36d() {
2482         [ ! -d $DIR/d36 ] && test_36c
2483         echo "" > $DIR/d36/f36
2484         $RUNAS utime $DIR/d36/f36 || error
2485 }
2486 run_test 36d "non-root OST utime check (open, utime) ==========="
2487
2488 test_36e() {
2489         [ $RUNAS_ID -eq $UID ] && skip_env "RUNAS_ID = UID = $UID -- skipping" && return
2490         test_mkdir -p $DIR/$tdir
2491         touch $DIR/$tdir/$tfile
2492         $RUNAS utime $DIR/$tdir/$tfile && \
2493                 error "utime worked, expected failure" || true
2494 }
2495 run_test 36e "utime on non-owned file (should return error) ===="
2496
2497 subr_36fh() {
2498         local fl="$1"
2499         local LANG_SAVE=$LANG
2500         local LC_LANG_SAVE=$LC_LANG
2501         export LANG=C LC_LANG=C # for date language
2502
2503         DATESTR="Dec 20  2000"
2504         test_mkdir -p $DIR/$tdir
2505         lctl set_param fail_loc=$fl
2506         date; date +%s
2507         cp /etc/hosts $DIR/$tdir/$tfile
2508         sync & # write RPC generated with "current" inode timestamp, but delayed
2509         sleep 1
2510         touch --date="$DATESTR" $DIR/$tdir/$tfile # setattr timestamp in past
2511         LS_BEFORE="`ls -l $DIR/$tdir/$tfile`" # old timestamp from client cache
2512         cancel_lru_locks osc
2513         LS_AFTER="`ls -l $DIR/$tdir/$tfile`"  # timestamp from OST object
2514         date; date +%s
2515         [ "$LS_BEFORE" != "$LS_AFTER" ] && \
2516                 echo "BEFORE: $LS_BEFORE" && \
2517                 echo "AFTER : $LS_AFTER" && \
2518                 echo "WANT  : $DATESTR" && \
2519                 error "$DIR/$tdir/$tfile timestamps changed" || true
2520
2521         export LANG=$LANG_SAVE LC_LANG=$LC_LANG_SAVE
2522 }
2523
2524 test_36f() {
2525         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2526         #define OBD_FAIL_OST_BRW_PAUSE_BULK 0x214
2527         subr_36fh "0x80000214"
2528 }
2529 run_test 36f "utime on file racing with OST BRW write =========="
2530
2531 test_36g() {
2532         remote_ost_nodsh && skip "remote OST with nodsh" && return
2533         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2534         local fmd_max_age
2535         local fmd_before
2536         local fmd_after
2537
2538         test_mkdir -p $DIR/$tdir
2539         fmd_max_age=$(do_facet ost1 \
2540                 "lctl get_param -n obdfilter.*.client_cache_seconds 2> /dev/null | \
2541                 head -n 1")
2542
2543         fmd_before=$(do_facet ost1 \
2544                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2545         touch $DIR/$tdir/$tfile
2546         sleep $((fmd_max_age + 12))
2547         fmd_after=$(do_facet ost1 \
2548                 "awk '/ll_fmd_cache/ {print \\\$2}' /proc/slabinfo")
2549
2550         echo "fmd_before: $fmd_before"
2551         echo "fmd_after: $fmd_after"
2552         [ "$fmd_after" -gt "$fmd_before" ] && \
2553                 echo "AFTER: $fmd_after > BEFORE: $fmd_before" && \
2554                 error "fmd didn't expire after ping" || true
2555 }
2556 run_test 36g "filter mod data cache expiry ====================="
2557
2558 test_36h() {
2559         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2560         #define OBD_FAIL_OST_BRW_PAUSE_BULK2 0x227
2561         subr_36fh "0x80000227"
2562 }
2563 run_test 36h "utime on file racing with OST BRW write =========="
2564
2565 # test_37 - duplicate with tests 32q 32r
2566
2567 test_38() {
2568         local file=$DIR/$tfile
2569         touch $file
2570         openfile -f O_DIRECTORY $file
2571         local RC=$?
2572         local ENOTDIR=20
2573         [ $RC -eq 0 ] && error "opened file $file with O_DIRECTORY" || true
2574         [ $RC -eq $ENOTDIR ] || error "error $RC should be ENOTDIR ($ENOTDIR)"
2575 }
2576 run_test 38 "open a regular file with O_DIRECTORY should return -ENOTDIR ==="
2577
2578 test_39() {
2579         touch $DIR/$tfile
2580         touch $DIR/${tfile}2
2581 #       ls -l  $DIR/$tfile $DIR/${tfile}2
2582 #       ls -lu  $DIR/$tfile $DIR/${tfile}2
2583 #       ls -lc  $DIR/$tfile $DIR/${tfile}2
2584         sleep 2
2585         $OPENFILE -f O_CREAT:O_TRUNC:O_WRONLY $DIR/${tfile}2
2586         if [ ! $DIR/${tfile}2 -nt $DIR/$tfile ]; then
2587                 echo "mtime"
2588                 ls -l --full-time $DIR/$tfile $DIR/${tfile}2
2589                 echo "atime"
2590                 ls -lu --full-time $DIR/$tfile $DIR/${tfile}2
2591                 echo "ctime"
2592                 ls -lc --full-time $DIR/$tfile $DIR/${tfile}2
2593                 error "O_TRUNC didn't change timestamps"
2594         fi
2595 }
2596 run_test 39 "mtime changed on create ==========================="
2597
2598 test_39b() {
2599         test_mkdir -p $DIR/$tdir
2600         cp -p /etc/passwd $DIR/$tdir/fopen
2601         cp -p /etc/passwd $DIR/$tdir/flink
2602         cp -p /etc/passwd $DIR/$tdir/funlink
2603         cp -p /etc/passwd $DIR/$tdir/frename
2604         ln $DIR/$tdir/funlink $DIR/$tdir/funlink2
2605
2606         sleep 1
2607         echo "aaaaaa" >> $DIR/$tdir/fopen
2608         echo "aaaaaa" >> $DIR/$tdir/flink
2609         echo "aaaaaa" >> $DIR/$tdir/funlink
2610         echo "aaaaaa" >> $DIR/$tdir/frename
2611
2612         local open_new=`stat -c %Y $DIR/$tdir/fopen`
2613         local link_new=`stat -c %Y $DIR/$tdir/flink`
2614         local unlink_new=`stat -c %Y $DIR/$tdir/funlink`
2615         local rename_new=`stat -c %Y $DIR/$tdir/frename`
2616
2617         cat $DIR/$tdir/fopen > /dev/null
2618         ln $DIR/$tdir/flink $DIR/$tdir/flink2
2619         rm -f $DIR/$tdir/funlink2
2620         mv -f $DIR/$tdir/frename $DIR/$tdir/frename2
2621
2622         for (( i=0; i < 2; i++ )) ; do
2623                 local open_new2=`stat -c %Y $DIR/$tdir/fopen`
2624                 local link_new2=`stat -c %Y $DIR/$tdir/flink`
2625                 local unlink_new2=`stat -c %Y $DIR/$tdir/funlink`
2626                 local rename_new2=`stat -c %Y $DIR/$tdir/frename2`
2627
2628                 [ $open_new2 -eq $open_new ] || error "open file reverses mtime"
2629                 [ $link_new2 -eq $link_new ] || error "link file reverses mtime"
2630                 [ $unlink_new2 -eq $unlink_new ] || error "unlink file reverses mtime"
2631                 [ $rename_new2 -eq $rename_new ] || error "rename file reverses mtime"
2632
2633                 cancel_lru_locks osc
2634                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2635         done
2636 }
2637 run_test 39b "mtime change on open, link, unlink, rename  ======"
2638
2639 # this should be set to past
2640 TEST_39_MTIME=`date -d "1 year ago" +%s`
2641
2642 # bug 11063
2643 test_39c() {
2644         touch $DIR1/$tfile
2645         sleep 2
2646         local mtime0=`stat -c %Y $DIR1/$tfile`
2647
2648         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2649         local mtime1=`stat -c %Y $DIR1/$tfile`
2650         [ "$mtime1" = $TEST_39_MTIME ] || \
2651                 error "mtime is not set to past: $mtime1, should be $TEST_39_MTIME"
2652
2653         local d1=`date +%s`
2654         echo hello >> $DIR1/$tfile
2655         local d2=`date +%s`
2656         local mtime2=`stat -c %Y $DIR1/$tfile`
2657         [ "$mtime2" -ge "$d1" ] && [ "$mtime2" -le "$d2" ] || \
2658                 error "mtime is not updated on write: $d1 <= $mtime2 <= $d2"
2659
2660         mv $DIR1/$tfile $DIR1/$tfile-1
2661
2662         for (( i=0; i < 2; i++ )) ; do
2663                 local mtime3=`stat -c %Y $DIR1/$tfile-1`
2664                 [ "$mtime2" = "$mtime3" ] || \
2665                         error "mtime ($mtime2) changed (to $mtime3) on rename"
2666
2667                 cancel_lru_locks osc
2668                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2669         done
2670 }
2671 run_test 39c "mtime change on rename ==========================="
2672
2673 # bug 21114
2674 test_39d() {
2675         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2676         touch $DIR1/$tfile
2677
2678         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2679
2680         for (( i=0; i < 2; i++ )) ; do
2681                 local mtime=`stat -c %Y $DIR1/$tfile`
2682                 [ $mtime = $TEST_39_MTIME ] || \
2683                         error "mtime($mtime) is not set to $TEST_39_MTIME"
2684
2685                 cancel_lru_locks osc
2686                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2687         done
2688 }
2689 run_test 39d "create, utime, stat =============================="
2690
2691 # bug 21114
2692 test_39e() {
2693         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2694         touch $DIR1/$tfile
2695         local mtime1=`stat -c %Y $DIR1/$tfile`
2696
2697         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2698
2699         for (( i=0; i < 2; i++ )) ; do
2700                 local mtime2=`stat -c %Y $DIR1/$tfile`
2701                 [ $mtime2 = $TEST_39_MTIME ] || \
2702                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2703
2704                 cancel_lru_locks osc
2705                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2706         done
2707 }
2708 run_test 39e "create, stat, utime, stat ========================"
2709
2710 # bug 21114
2711 test_39f() {
2712         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2713         touch $DIR1/$tfile
2714         mtime1=`stat -c %Y $DIR1/$tfile`
2715
2716         sleep 2
2717         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2718
2719         for (( i=0; i < 2; i++ )) ; do
2720                 local mtime2=`stat -c %Y $DIR1/$tfile`
2721                 [ $mtime2 = $TEST_39_MTIME ] || \
2722                         error "mtime($mtime2) is not set to $TEST_39_MTIME"
2723
2724                 cancel_lru_locks osc
2725                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2726         done
2727 }
2728 run_test 39f "create, stat, sleep, utime, stat ================="
2729
2730 # bug 11063
2731 test_39g() {
2732         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2733         echo hello >> $DIR1/$tfile
2734         local mtime1=`stat -c %Y $DIR1/$tfile`
2735
2736         sleep 2
2737         chmod o+r $DIR1/$tfile
2738
2739         for (( i=0; i < 2; i++ )) ; do
2740                 local mtime2=`stat -c %Y $DIR1/$tfile`
2741                 [ "$mtime1" = "$mtime2" ] || \
2742                         error "lost mtime: $mtime2, should be $mtime1"
2743
2744                 cancel_lru_locks osc
2745                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2746         done
2747 }
2748 run_test 39g "write, chmod, stat ==============================="
2749
2750 # bug 11063
2751 test_39h() {
2752         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2753         touch $DIR1/$tfile
2754         sleep 1
2755
2756         local d1=`date`
2757         echo hello >> $DIR1/$tfile
2758         local mtime1=`stat -c %Y $DIR1/$tfile`
2759
2760         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2761         local d2=`date`
2762         if [ "$d1" != "$d2" ]; then
2763                 echo "write and touch not within one second"
2764         else
2765                 for (( i=0; i < 2; i++ )) ; do
2766                         local mtime2=`stat -c %Y $DIR1/$tfile`
2767                         [ "$mtime2" = $TEST_39_MTIME ] || \
2768                                 error "lost mtime: $mtime2, should be $TEST_39_MTIME"
2769
2770                         cancel_lru_locks osc
2771                         if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2772                 done
2773         fi
2774 }
2775 run_test 39h "write, utime within one second, stat ============="
2776
2777 test_39i() {
2778         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2779         touch $DIR1/$tfile
2780         sleep 1
2781
2782         echo hello >> $DIR1/$tfile
2783         local mtime1=`stat -c %Y $DIR1/$tfile`
2784
2785         mv $DIR1/$tfile $DIR1/$tfile-1
2786
2787         for (( i=0; i < 2; i++ )) ; do
2788                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2789
2790                 [ "$mtime1" = "$mtime2" ] || \
2791                         error "lost mtime: $mtime2, should be $mtime1"
2792
2793                 cancel_lru_locks osc
2794                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2795         done
2796 }
2797 run_test 39i "write, rename, stat =============================="
2798
2799 test_39j() {
2800         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2801         start_full_debug_logging
2802         touch $DIR1/$tfile
2803         sleep 1
2804
2805         #define OBD_FAIL_OSC_DELAY_SETTIME       0x412
2806         lctl set_param fail_loc=0x80000412
2807         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c ||
2808                 error "multiop failed"
2809         local multipid=$!
2810         local mtime1=`stat -c %Y $DIR1/$tfile`
2811
2812         mv $DIR1/$tfile $DIR1/$tfile-1
2813
2814         kill -USR1 $multipid
2815         wait $multipid || error "multiop close failed"
2816
2817         for (( i=0; i < 2; i++ )) ; do
2818                 local mtime2=`stat -c %Y $DIR1/$tfile-1`
2819                 [ "$mtime1" = "$mtime2" ] ||
2820                         error "mtime is lost on close: $mtime2, " \
2821                               "should be $mtime1"
2822
2823                 cancel_lru_locks osc
2824                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2825         done
2826         lctl set_param fail_loc=0
2827         stop_full_debug_logging
2828 }
2829 run_test 39j "write, rename, close, stat ======================="
2830
2831 test_39k() {
2832         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2833         touch $DIR1/$tfile
2834         sleep 1
2835
2836         multiop_bg_pause $DIR1/$tfile oO_RDWR:w2097152_c || error "multiop failed"
2837         local multipid=$!
2838         local mtime1=`stat -c %Y $DIR1/$tfile`
2839
2840         touch -m -d @$TEST_39_MTIME $DIR1/$tfile
2841
2842         kill -USR1 $multipid
2843         wait $multipid || error "multiop close failed"
2844
2845         for (( i=0; i < 2; i++ )) ; do
2846                 local mtime2=`stat -c %Y $DIR1/$tfile`
2847
2848                 [ "$mtime2" = $TEST_39_MTIME ] || \
2849                         error "mtime is lost on close: $mtime2, should be $TEST_39_MTIME"
2850
2851                 cancel_lru_locks osc
2852                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2853         done
2854 }
2855 run_test 39k "write, utime, close, stat ========================"
2856
2857 # this should be set to future
2858 TEST_39_ATIME=`date -d "1 year" +%s`
2859
2860 test_39l() {
2861         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2862         remote_mds_nodsh && skip "remote MDS with nodsh" && return
2863         local atime_diff=$(do_facet $SINGLEMDS \
2864                                 lctl get_param -n mdd.*MDT0000*.atime_diff)
2865         rm -rf $DIR/$tdir
2866         mkdir -p $DIR/$tdir
2867
2868         # test setting directory atime to future
2869         touch -a -d @$TEST_39_ATIME $DIR/$tdir
2870         local atime=$(stat -c %X $DIR/$tdir)
2871         [ "$atime" = $TEST_39_ATIME ] || \
2872                 error "atime is not set to future: $atime, $TEST_39_ATIME"
2873
2874         # test setting directory atime from future to now
2875         local d1=$(date +%s)
2876         ls $DIR/$tdir
2877         local d2=$(date +%s)
2878
2879         cancel_lru_locks mdc
2880         atime=$(stat -c %X $DIR/$tdir)
2881         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2882                 error "atime is not updated from future: $atime, $d1<atime<$d2"
2883
2884         do_facet $SINGLEMDS lctl set_param -n mdd.*MDT0000*.atime_diff=2
2885         sleep 3
2886
2887         # test setting directory atime when now > dir atime + atime_diff
2888         d1=$(date +%s)
2889         ls $DIR/$tdir
2890         d2=$(date +%s)
2891         cancel_lru_locks mdc
2892         atime=$(stat -c %X $DIR/$tdir)
2893         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2894                 error "atime is not updated  : $atime, should be $d2"
2895
2896         do_facet $SINGLEMDS lctl set_param -n mdd.*MDT0000*.atime_diff=60
2897         sleep 3
2898
2899         # test not setting directory atime when now < dir atime + atime_diff
2900         ls $DIR/$tdir
2901         cancel_lru_locks mdc
2902         atime=$(stat -c %X $DIR/$tdir)
2903         [ "$atime" -ge "$d1" -a "$atime" -le "$d2" ] || \
2904                 error "atime is updated to $atime, should remain $d1<atime<$d2"
2905
2906         do_facet $SINGLEMDS \
2907                 lctl set_param -n mdd.*MDT0000*.atime_diff=$atime_diff
2908 }
2909 run_test 39l "directory atime update ==========================="
2910
2911 test_39m() {
2912         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
2913         touch $DIR1/$tfile
2914         sleep 2
2915         local far_past_mtime=$(date -d "May 29 1953" +%s)
2916         local far_past_atime=$(date -d "Dec 17 1903" +%s)
2917
2918         touch -m -d @$far_past_mtime $DIR1/$tfile
2919         touch -a -d @$far_past_atime $DIR1/$tfile
2920
2921         for (( i=0; i < 2; i++ )) ; do
2922                 local timestamps=$(stat -c "%X %Y" $DIR1/$tfile)
2923                 [ "$timestamps" = "$far_past_atime $far_past_mtime" ] || \
2924                         error "atime or mtime set incorrectly"
2925
2926                 cancel_lru_locks osc
2927                 if [ $i = 0 ] ; then echo "repeat after cancel_lru_locks"; fi
2928         done
2929 }
2930 run_test 39m "test atime and mtime before 1970"
2931
2932 test_40() {
2933         dd if=/dev/zero of=$DIR/f40 bs=4096 count=1
2934         $RUNAS $OPENFILE -f O_WRONLY:O_TRUNC $DIR/f40 && error
2935         $CHECKSTAT -t file -s 4096 $DIR/f40 || error
2936 }
2937 run_test 40 "failed open(O_TRUNC) doesn't truncate ============="
2938
2939 test_41() {
2940         # bug 1553
2941         small_write $DIR/f41 18
2942 }
2943 run_test 41 "test small file write + fstat ====================="
2944
2945 count_ost_writes() {
2946         lctl get_param -n osc.*.stats |
2947             awk -vwrites=0 '/ost_write/ { writes += $2 } END { print writes; }'
2948 }
2949
2950 # decent default
2951 WRITEBACK_SAVE=500
2952 DIRTY_RATIO_SAVE=40
2953 MAX_DIRTY_RATIO=50
2954 BG_DIRTY_RATIO_SAVE=10
2955 MAX_BG_DIRTY_RATIO=25
2956
2957 start_writeback() {
2958         trap 0
2959         # in 2.6, restore /proc/sys/vm/dirty_writeback_centisecs,
2960         # dirty_ratio, dirty_background_ratio
2961         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
2962                 sysctl -w vm.dirty_writeback_centisecs=$WRITEBACK_SAVE
2963                 sysctl -w vm.dirty_background_ratio=$BG_DIRTY_RATIO_SAVE
2964                 sysctl -w vm.dirty_ratio=$DIRTY_RATIO_SAVE
2965         else
2966                 # if file not here, we are a 2.4 kernel
2967                 kill -CONT `pidof kupdated`
2968         fi
2969 }
2970
2971 stop_writeback() {
2972         # setup the trap first, so someone cannot exit the test at the
2973         # exact wrong time and mess up a machine
2974         trap start_writeback EXIT
2975         # in 2.6, save and 0 /proc/sys/vm/dirty_writeback_centisecs
2976         if [ -f /proc/sys/vm/dirty_writeback_centisecs ]; then
2977                 WRITEBACK_SAVE=`sysctl -n vm.dirty_writeback_centisecs`
2978                 sysctl -w vm.dirty_writeback_centisecs=0
2979                 sysctl -w vm.dirty_writeback_centisecs=0
2980                 # save and increase /proc/sys/vm/dirty_ratio
2981                 DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_ratio`
2982                 sysctl -w vm.dirty_ratio=$MAX_DIRTY_RATIO
2983                 # save and increase /proc/sys/vm/dirty_background_ratio
2984                 BG_DIRTY_RATIO_SAVE=`sysctl -n vm.dirty_background_ratio`
2985                 sysctl -w vm.dirty_background_ratio=$MAX_BG_DIRTY_RATIO
2986         else
2987                 # if file not here, we are a 2.4 kernel
2988                 kill -STOP `pidof kupdated`
2989         fi
2990 }
2991
2992 # ensure that all stripes have some grant before we test client-side cache
2993 setup_test42() {
2994         for i in `seq -f $DIR/f42-%g 1 $OSTCOUNT`; do
2995                 dd if=/dev/zero of=$i bs=4k count=1
2996                 rm $i
2997         done
2998 }
2999
3000 # Tests 42* verify that our behaviour is correct WRT caching, file closure,
3001 # file truncation, and file removal.
3002 test_42a() {
3003         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3004         setup_test42
3005         cancel_lru_locks osc
3006         stop_writeback
3007         sync; sleep 1; sync # just to be safe
3008         BEFOREWRITES=`count_ost_writes`
3009         lctl get_param -n osc.*[oO][sS][cC][_-]*.cur_grant_bytes | grep "[0-9]"
3010         dd if=/dev/zero of=$DIR/f42a bs=1024 count=100
3011         AFTERWRITES=`count_ost_writes`
3012         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
3013                 error "$BEFOREWRITES < $AFTERWRITES"
3014         start_writeback
3015 }
3016 run_test 42a "ensure that we don't flush on close =============="
3017
3018 test_42b() {
3019         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3020         setup_test42
3021         cancel_lru_locks osc
3022         stop_writeback
3023         sync
3024         dd if=/dev/zero of=$DIR/f42b bs=1024 count=100
3025         BEFOREWRITES=`count_ost_writes`
3026         $MUNLINK $DIR/f42b || error "$MUNLINK $DIR/f42b: $?"
3027         AFTERWRITES=`count_ost_writes`
3028         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
3029                 error "$BEFOREWRITES < $AFTERWRITES on unlink"
3030         fi
3031         BEFOREWRITES=`count_ost_writes`
3032         sync || error "sync: $?"
3033         AFTERWRITES=`count_ost_writes`
3034         if [ $BEFOREWRITES -lt $AFTERWRITES ]; then
3035                 error "$BEFOREWRITES < $AFTERWRITES on sync"
3036         fi
3037         dmesg | grep 'error from obd_brw_async' && error 'error writing back'
3038         start_writeback
3039         return 0
3040 }
3041 run_test 42b "test destroy of file with cached dirty data ======"
3042
3043 # if these tests just want to test the effect of truncation,
3044 # they have to be very careful.  consider:
3045 # - the first open gets a {0,EOF}PR lock
3046 # - the first write conflicts and gets a {0, count-1}PW
3047 # - the rest of the writes are under {count,EOF}PW
3048 # - the open for truncate tries to match a {0,EOF}PR
3049 #   for the filesize and cancels the PWs.
3050 # any number of fixes (don't get {0,EOF} on open, match
3051 # composite locks, do smarter file size management) fix
3052 # this, but for now we want these tests to verify that
3053 # the cancellation with truncate intent works, so we
3054 # start the file with a full-file pw lock to match against
3055 # until the truncate.
3056 trunc_test() {
3057         test=$1
3058         file=$DIR/$test
3059         offset=$2
3060         cancel_lru_locks osc
3061         stop_writeback
3062         # prime the file with 0,EOF PW to match
3063         touch $file
3064         $TRUNCATE $file 0
3065         sync; sync
3066         # now the real test..
3067         dd if=/dev/zero of=$file bs=1024 count=100
3068         BEFOREWRITES=`count_ost_writes`
3069         $TRUNCATE $file $offset
3070         cancel_lru_locks osc
3071         AFTERWRITES=`count_ost_writes`
3072         start_writeback
3073 }
3074
3075 test_42c() {
3076         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3077         trunc_test 42c 1024
3078         [ $BEFOREWRITES -eq $AFTERWRITES ] && \
3079             error "beforewrites $BEFOREWRITES == afterwrites $AFTERWRITES on truncate"
3080         rm $file
3081 }
3082 run_test 42c "test partial truncate of file with cached dirty data"
3083
3084 test_42d() {
3085         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3086         trunc_test 42d 0
3087         [ $BEFOREWRITES -eq $AFTERWRITES ] || \
3088             error "beforewrites $BEFOREWRITES != afterwrites $AFTERWRITES on truncate"
3089         rm $file
3090 }
3091 run_test 42d "test complete truncate of file with cached dirty data"
3092
3093 test_42e() { # bug22074
3094         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3095         local TDIR=$DIR/${tdir}e
3096         local pagesz=$(page_size)
3097         local pages=16 # hardcoded 16 pages, don't change it.
3098         local files=$((OSTCOUNT * 500)) # hopefully 500 files on each OST
3099         local proc_osc0="osc.${FSNAME}-OST0000-osc-[^MDT]*"
3100         local max_dirty_mb
3101         local warmup_files
3102
3103         test_mkdir -p $DIR/${tdir}e
3104         $SETSTRIPE -c 1 $TDIR
3105         createmany -o $TDIR/f $files
3106
3107         max_dirty_mb=$($LCTL get_param -n $proc_osc0/max_dirty_mb)
3108
3109         # we assume that with $OSTCOUNT files, at least one of them will
3110         # be allocated on OST0.
3111         warmup_files=$((OSTCOUNT * max_dirty_mb))
3112         createmany -o $TDIR/w $warmup_files
3113
3114         # write a large amount of data into one file and sync, to get good
3115         # avail_grant number from OST.
3116         for ((i=0; i<$warmup_files; i++)); do
3117                 idx=$($GETSTRIPE -i $TDIR/w$i)
3118                 [ $idx -ne 0 ] && continue
3119                 dd if=/dev/zero of=$TDIR/w$i bs="$max_dirty_mb"M count=1
3120                 break
3121         done
3122         [ $i -gt $warmup_files ] && error "OST0 is still cold"
3123         sync
3124         $LCTL get_param $proc_osc0/cur_dirty_bytes
3125         $LCTL get_param $proc_osc0/cur_grant_bytes
3126
3127         # create as much dirty pages as we can while not to trigger the actual
3128         # RPCs directly. but depends on the env, VFS may trigger flush during this
3129         # period, hopefully we are good.
3130         for ((i=0; i<$warmup_files; i++)); do
3131                 idx=$($GETSTRIPE -i $TDIR/w$i)
3132                 [ $idx -ne 0 ] && continue
3133                 dd if=/dev/zero of=$TDIR/w$i bs=1M count=1 2>/dev/null
3134         done
3135         $LCTL get_param $proc_osc0/cur_dirty_bytes
3136         $LCTL get_param $proc_osc0/cur_grant_bytes
3137
3138         # perform the real test
3139         $LCTL set_param $proc_osc0/rpc_stats 0
3140         for ((;i<$files; i++)); do
3141                 [ $($GETSTRIPE -i $TDIR/f$i) -eq 0 ] || continue
3142                 dd if=/dev/zero of=$TDIR/f$i bs=$pagesz count=$pages 2>/dev/null
3143         done
3144         sync
3145         $LCTL get_param $proc_osc0/rpc_stats
3146
3147         local percent=0
3148         local have_ppr=false
3149         $LCTL get_param $proc_osc0/rpc_stats |
3150                 while read PPR RRPC RPCT RCUM BAR WRPC WPCT WCUM; do
3151                         # skip lines until we are at the RPC histogram data
3152                         [ "$PPR" == "pages" ] && have_ppr=true && continue
3153                         $have_ppr || continue
3154
3155                         # we only want the percent stat for < 16 pages
3156                         [ $(echo $PPR | tr -d ':') -ge $pages ] && break
3157
3158                         percent=$((percent + WPCT))
3159                         if [ $percent -gt 15 ]; then
3160                                 error "less than 16-pages write RPCs" \
3161                                       "$percent% > 15%"
3162                                 break
3163                         fi
3164                 done
3165         rm -rf $TDIR
3166 }
3167 run_test 42e "verify sub-RPC writes are not done synchronously"
3168
3169 test_43() {
3170         test_mkdir -p $DIR/$tdir
3171         cp -p /bin/ls $DIR/$tdir/$tfile
3172         $MULTIOP $DIR/$tdir/$tfile Ow_c &
3173         pid=$!
3174         # give multiop a chance to open
3175         sleep 1
3176
3177         $DIR/$tdir/$tfile && error || true
3178         kill -USR1 $pid
3179 }
3180 run_test 43 "execution of file opened for write should return -ETXTBSY"
3181
3182 test_43a() {
3183         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3184         test_mkdir -p $DIR/$tdir
3185         cp -p `which $MULTIOP` $DIR/$tdir/multiop ||
3186                         cp -p multiop $DIR/$tdir/multiop
3187         MULTIOP_PROG=$DIR/$tdir/multiop multiop_bg_pause $TMP/test43.junk O_c ||
3188                         return 1
3189         MULTIOP_PID=$!
3190         $MULTIOP $DIR/$tdir/multiop Oc && error "expected error, got success"
3191         kill -USR1 $MULTIOP_PID || return 2
3192         wait $MULTIOP_PID || return 3
3193         rm $TMP/test43.junk
3194 }
3195 run_test 43a "open(RDWR) of file being executed should return -ETXTBSY"
3196
3197 test_43b() {
3198         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3199         test_mkdir -p $DIR/$tdir
3200         cp -p `which $MULTIOP` $DIR/$tdir/multiop ||
3201                         cp -p multiop $DIR/$tdir/multiop
3202         MULTIOP_PROG=$DIR/$tdir/multiop multiop_bg_pause $TMP/test43.junk O_c ||
3203                         return 1
3204         MULTIOP_PID=$!
3205         $TRUNCATE $DIR/$tdir/multiop 0 && error "expected error, got success"
3206         kill -USR1 $MULTIOP_PID || return 2
3207         wait $MULTIOP_PID || return 3
3208         rm $TMP/test43.junk
3209 }
3210 run_test 43b "truncate of file being executed should return -ETXTBSY"
3211
3212 test_43c() {
3213         local testdir="$DIR/$tdir"
3214         test_mkdir -p $DIR/$tdir
3215         cp $SHELL $testdir/
3216         ( cd $(dirname $SHELL) && md5sum $(basename $SHELL) ) | \
3217                 ( cd $testdir && md5sum -c)
3218 }
3219 run_test 43c "md5sum of copy into lustre========================"
3220
3221 test_44() {
3222         [  "$OSTCOUNT" -lt "2" ] && skip_env "skipping 2-stripe test" && return
3223         dd if=/dev/zero of=$DIR/f1 bs=4k count=1 seek=1023
3224         dd if=$DIR/f1 bs=4k count=1 > /dev/null
3225 }
3226 run_test 44 "zero length read from a sparse stripe ============="
3227
3228 test_44a() {
3229     local nstripe=`$LCTL lov_getconfig $DIR | grep default_stripe_count: | \
3230                          awk '{print $2}'`
3231     [ -z "$nstripe" ] && skip "can't get stripe info" && return
3232     [ "$nstripe" -gt "$OSTCOUNT" ] && skip "Wrong default_stripe_count: $nstripe (OSTCOUNT: $OSTCOUNT)" && return
3233     local stride=`$LCTL lov_getconfig $DIR | grep default_stripe_size: | \
3234                       awk '{print $2}'`
3235     if [ $nstripe -eq 0 -o $nstripe -eq -1 ] ; then
3236         nstripe=`$LCTL lov_getconfig $DIR | grep obd_count: | awk '{print $2}'`
3237     fi
3238
3239     OFFSETS="0 $((stride/2)) $((stride-1))"
3240     for offset in $OFFSETS ; do
3241       for i in `seq 0 $((nstripe-1))`; do
3242         local GLOBALOFFSETS=""
3243         local size=$((((i + 2 * $nstripe )*$stride + $offset)))  # Bytes
3244         local myfn=$DIR/d44a-$size
3245         echo "--------writing $myfn at $size"
3246         ll_sparseness_write $myfn $size  || error "ll_sparseness_write"
3247         GLOBALOFFSETS="$GLOBALOFFSETS $size"
3248         ll_sparseness_verify $myfn $GLOBALOFFSETS \
3249                             || error "ll_sparseness_verify $GLOBALOFFSETS"
3250
3251         for j in `seq 0 $((nstripe-1))`; do
3252             size=$((((j + $nstripe )*$stride + $offset)))  # Bytes
3253             ll_sparseness_write $myfn $size || error "ll_sparseness_write"
3254             GLOBALOFFSETS="$GLOBALOFFSETS $size"
3255         done
3256         ll_sparseness_verify $myfn $GLOBALOFFSETS \
3257                             || error "ll_sparseness_verify $GLOBALOFFSETS"
3258         rm -f $myfn
3259       done
3260     done
3261 }
3262 run_test 44a "test sparse pwrite ==============================="
3263
3264 dirty_osc_total() {
3265         tot=0
3266         for d in `lctl get_param -n osc.*.cur_dirty_bytes`; do
3267                 tot=$(($tot + $d))
3268         done
3269         echo $tot
3270 }
3271 do_dirty_record() {
3272         before=`dirty_osc_total`
3273         echo executing "\"$*\""
3274         eval $*
3275         after=`dirty_osc_total`
3276         echo before $before, after $after
3277 }
3278 test_45() {
3279         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3280         f="$DIR/f45"
3281         # Obtain grants from OST if it supports it
3282         echo blah > ${f}_grant
3283         stop_writeback
3284         sync
3285         do_dirty_record "echo blah > $f"
3286         [ $before -eq $after ] && error "write wasn't cached"
3287         do_dirty_record "> $f"
3288         [ $before -gt $after ] || error "truncate didn't lower dirty count"
3289         do_dirty_record "echo blah > $f"
3290         [ $before -eq $after ] && error "write wasn't cached"
3291         do_dirty_record "sync"
3292         [ $before -gt $after ] || error "writeback didn't lower dirty count"
3293         do_dirty_record "echo blah > $f"
3294         [ $before -eq $after ] && error "write wasn't cached"
3295         do_dirty_record "cancel_lru_locks osc"
3296         [ $before -gt $after ] || error "lock cancellation didn't lower dirty count"
3297         start_writeback
3298 }
3299 run_test 45 "osc io page accounting ============================"
3300
3301 # in a 2 stripe file (lov.sh), page 1023 maps to page 511 in its object.  this
3302 # test tickles a bug where re-dirtying a page was failing to be mapped to the
3303 # objects offset and an assert hit when an rpc was built with 1023's mapped
3304 # offset 511 and 511's raw 511 offset. it also found general redirtying bugs.
3305 test_46() {
3306         [ $PARALLEL == "yes" ] && skip "skip parallel run" && return
3307         f="$DIR/f46"
3308         stop_writeback
3309         sync
3310         dd if=/dev/zero of=$f bs=`page_size` seek=511 count=1
3311         sync
3312         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=1023 count=1
3313         dd conv=notrunc if=/dev/zero of=$f bs=`page_size` seek=511 count=1
3314         sync
3315         start_writeback
3316 }
3317 run_test 46 "dirtying a previously written page ================"
3318
3319 # test_47 is removed "Device nodes check" is moved to test_28
3320
3321 test_48a() { # bug 2399
3322         check_kernel_version 34 || return 0
3323         test_mkdir -p $DIR/$tdir
3324         cd $DIR/$tdir
3325         mv $DIR/$tdir $DIR/d48.new || error "move directory failed"
3326         test_mkdir $DIR/$tdir || error "recreate directory failed"
3327         touch foo || error "'touch foo' failed after recreating cwd"
3328         test_mkdir $DIR/$tdir/bar ||
3329                      error "'mkdir foo' failed after recreating cwd"
3330         if check_kernel_version 44; then
3331                 touch .foo || error "'touch .foo' failed after recreating cwd"
3332                 test_mkdir $DIR/$tdir/.bar ||
3333                               error "'mkdir .foo' failed after recreating cwd"
3334         fi
3335         ls . > /dev/null || error "'ls .' failed after recreating cwd"
3336         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
3337         cd . || error "'cd .' failed after recreating cwd"
3338         test_mkdir . && error "'mkdir .' worked after recreating cwd"
3339         rmdir . && error "'rmdir .' worked after recreating cwd"
3340         ln -s . baz || error "'ln -s .' failed after recreating cwd"
3341         cd .. || error "'cd ..' failed after recreating cwd"
3342 }
3343 run_test 48a "Access renamed working dir (should return errors)="
3344
3345 test_48b() { # bug 2399
3346         check_kernel_version 34 || return 0
3347         rm -rf $DIR/$tdir
3348         test_mkdir -p $DIR/$tdir
3349         cd $DIR/$tdir
3350         rmdir $DIR/$tdir || error "remove cwd $DIR/$tdir failed"
3351         touch foo && error "'touch foo' worked after removing cwd"
3352         test_mkdir $DIR/$tdir/foo &&
3353                      error "'mkdir foo' worked after removing cwd"
3354         if check_kernel_version 44; then
3355                 touch .foo && error "'touch .foo' worked after removing cwd"
3356                 test_mkdir $DIR/$tdir/.foo &&
3357                               error "'mkdir .foo' worked after removing cwd"
3358         fi
3359         ls . > /dev/null && error "'ls .' worked after removing cwd"
3360         ls .. > /dev/null || error "'ls ..' failed after removing cwd"
3361         is_patchless || ( cd . && error "'cd .' worked after removing cwd" )
3362         test_mkdir $DIR/$tdir/. && error "'mkdir .' worked after removing cwd"
3363         rmdir . && error "'rmdir .' worked after removing cwd"
3364         ln -s . foo && error "'ln -s .' worked after removing cwd"
3365         cd .. || echo "'cd ..' failed after removing cwd `pwd`"  #bug 3517
3366 }
3367 run_test 48b "Access removed working dir (should return errors)="
3368
3369 test_48c() { # bug 2350
3370         check_kernel_version 36 || return 0
3371         #lctl set_param debug=-1
3372         #set -vx
3373         rm -rf $DIR/$tdir
3374         test_mkdir -p $DIR/$tdir/dir
3375         cd $DIR/$tdir/dir
3376         $TRACE rmdir $DIR/$tdir/dir || error "remove cwd $DIR/$tdir/dir failed"
3377         $TRACE touch foo && error "touch foo worked after removing cwd"
3378         $TRACE test_mkdir foo && error "'mkdir foo' worked after removing cwd"
3379         if check_kernel_version 44; then
3380                 touch .foo && error "touch .foo worked after removing cwd"
3381                 test_mkdir .foo && error "mkdir .foo worked after removing cwd"
3382         fi
3383         $TRACE ls . && error "'ls .' worked after removing cwd"
3384         $TRACE ls .. || error "'ls ..' failed after removing cwd"
3385         is_patchless || ( $TRACE cd . &&
3386                         error "'cd .' worked after removing cwd" )
3387         $TRACE test_mkdir . && error "'mkdir .' worked after removing cwd"
3388         $TRACE rmdir . && error "'rmdir .' worked after removing cwd"
3389         $TRACE ln -s . foo && error "'ln -s .' worked after removing cwd"
3390         $TRACE cd .. || echo "'cd ..' failed after removing cwd `pwd`" #bug 3415
3391 }
3392 run_test 48c "Access removed working subdir (should return errors)"
3393
3394 test_48d() { # bug 2350
3395         check_kernel_version 36 || return 0
3396         #lctl set_param debug=-1
3397         #set -vx
3398         rm -rf $DIR/$tdir
3399         test_mkdir -p $DIR/$tdir/dir
3400         cd $DIR/$tdir/dir
3401         $TRACE rmdir $DIR/$tdir/dir || error "remove cwd $DIR/$tdir/dir failed"
3402         $TRACE rmdir $DIR/$tdir || error "remove parent $DIR/$tdir failed"
3403         $TRACE touch foo && error "'touch foo' worked after removing parent"
3404         $TRACE test_mkdir foo && error "mkdir foo worked after removing parent"
3405         if check_kernel_version 44; then
3406                 touch .foo && error "'touch .foo' worked after removing parent"
3407                 test_mkdir .foo &&
3408                               error "mkdir .foo worked after removing parent"
3409         fi
34