Whamcloud - gitweb
b=14842
[fs/lustre-release.git] / lustre / tests / sanityN.sh
1 #!/bin/bash
2
3 set -e
4
5 ONLY=${ONLY:-"$*"}
6 # bug number for skipped test:  3192 9977
7 ALWAYS_EXCEPT="14b 28 $SANITYN_EXCEPT"
8 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
9
10 # bug number for skipped test:                                                    12652 12652
11 grep -q 'Enterprise Server 10' /etc/SuSE-release && ALWAYS_EXCEPT="$ALWAYS_EXCEPT 11    14" || true
12
13 # Tests that fail on uml
14 [ "$UML" = "true" ] && EXCEPT="$EXCEPT 7"
15
16 # Join file feature is not supported currently.
17 # It will be ported soon.
18 EXCEPT="$EXCEPT 22"
19
20 SRCDIR=`dirname $0`
21 PATH=$PWD/$SRCDIR:$SRCDIR:$SRCDIR/../utils:$PATH
22
23 SIZE=${SIZE:-40960}
24 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
25 CREATETEST=${CREATETEST:-createtest}
26 GETSTRIPE=${GETSTRIPE:-lfs getstripe}
27 SETSTRIPE=${SETSTRIPE:-lstripe}
28 MCREATE=${MCREATE:-mcreate}
29 OPENFILE=${OPENFILE:-openfile}
30 OPENUNLINK=${OPENUNLINK:-openunlink}
31 TOEXCL=${TOEXCL:-toexcl}
32 TRUNCATE=${TRUNCATE:-truncate}
33 export TMP=${TMP:-/tmp}
34 MOUNT_2=${MOUNT_2:-"yes"}
35 CHECK_GRANT=${CHECK_GRANT:-"yes"}
36 GRANT_CHECK_LIST=${GRANT_CHECK_LIST:-""}
37
38 SAVE_PWD=$PWD
39
40 export NAME=${NAME:-local}
41
42 LUSTRE=${LUSTRE:-`dirname $0`/..}
43 . $LUSTRE/tests/test-framework.sh
44 CLEANUP=${CLEANUP:-:}
45 SETUP=${SETUP:-:}
46 init_test_env $@
47 . ${CONFIG:=$LUSTRE/tests/cfg/$NAME.sh}
48
49 [ "$SLOW" = "no" ] && EXCEPT_SLOW="12 16"
50
51 SANITYLOG=${TESTSUITELOG:-$TMP/$(basename $0 .sh).log}
52 FAIL_ON_ERROR=false
53
54 if $GSS_KRB5; then
55     $RUNAS krb5_login.sh || exit 1
56 fi
57
58 SETUP=${SETUP:-:}
59 TRACE=${TRACE:-""}
60
61 LPROC=/proc/fs/lustre
62
63 [ "$SANITYLOG" ] && rm -f $SANITYLOG || true
64
65 check_and_setup_lustre
66
67 LPROC=/proc/fs/lustre
68 LOVNAME=`cat $LPROC/llite/*/lov/common_name | tail -n 1`
69 OSTCOUNT=`cat $LPROC/lov/$LOVNAME/numobd`
70
71 rm -rf $DIR1/[df][0-9]* $DIR1/lnk
72
73 # $RUNAS_ID may get set incorrectly somewhere else
74 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] && error "\$RUNAS_ID set to 0, but \$UID is also 0!"
75
76 check_runas_id $RUNAS_ID $RUNAS
77
78 build_test_filter
79
80 test_1a() {
81         touch $DIR1/f1
82         [ -f $DIR2/f1 ] || error
83 }
84 run_test 1a "check create on 2 mtpt's =========================="
85
86 test_1b() {
87         chmod 777 $DIR2/f1
88         $CHECKSTAT -t file -p 0777 $DIR1/f1 || error
89         chmod a-x $DIR2/f1
90 }
91 run_test 1b "check attribute updates on 2 mtpt's ==============="
92
93 test_1c() {
94         $CHECKSTAT -t file -p 0666 $DIR1/f1 || error
95 }
96 run_test 1c "check after remount attribute updates on 2 mtpt's ="
97
98 test_1d() {
99         rm $DIR2/f1
100         $CHECKSTAT -a $DIR1/f1 || error
101 }
102 run_test 1d "unlink on one mountpoint removes file on other ===="
103
104 test_2a() {
105         touch $DIR1/f2a
106         ls -l $DIR2/f2a
107         chmod 777 $DIR2/f2a
108         $CHECKSTAT -t file -p 0777 $DIR1/f2a || error
109 }
110 run_test 2a "check cached attribute updates on 2 mtpt's ========"
111
112 test_2b() {
113         touch $DIR1/f2b
114         ls -l $DIR2/f2b
115         chmod 777 $DIR1/f2b
116         $CHECKSTAT -t file -p 0777 $DIR2/f2b || error
117 }
118 run_test 2b "check cached attribute updates on 2 mtpt's ========"
119
120 # NEED TO SAVE ROOT DIR MODE
121 test_2c() {
122         chmod 777 $DIR1
123         $CHECKSTAT -t dir -p 0777 $DIR2 || error
124 }
125 run_test 2c "check cached attribute updates on 2 mtpt's root ==="
126
127 test_2d() {
128         chmod 755 $DIR1
129         $CHECKSTAT -t dir -p 0755 $DIR2 || error
130 }
131 run_test 2d "check cached attribute updates on 2 mtpt's root ==="
132
133 test_2e() {
134         chmod 755 $DIR1
135         ls -l $DIR1
136         ls -l $DIR2
137         chmod 777 $DIR1
138         $RUNAS dd if=/dev/zero of=$DIR2/$tfile count=1 || error
139 }
140 run_test 2e "check chmod on root is propagated to others"
141
142 test_3() {
143         ( cd $DIR1 ; ln -s this/is/good lnk )
144         [ "this/is/good" = "`perl -e 'print readlink("'$DIR2/lnk'");'`" ] || \
145                 error
146 }
147 run_test 3 "symlink on one mtpt, readlink on another ==========="
148
149 test_4() {
150         multifstat $DIR1/f4 $DIR2/f4
151 }
152 run_test 4 "fstat validation on multiple mount points =========="
153
154 test_5() {
155         mcreate $DIR1/f5
156         truncate $DIR2/f5 100
157         $CHECKSTAT -t file -s 100 $DIR1/f5 || error
158         rm $DIR1/f5
159 }
160 run_test 5 "create a file on one mount, truncate it on the other"
161
162 test_6() {
163         openunlink $DIR1/$tfile $DIR2/$tfile || \
164                 error "openunlink $DIR1/$tfile $DIR2/$tfile"
165 }
166 run_test 6 "remove of open file on other node =================="
167
168 test_7() {
169         # run_one creates uniq $tdir (bug 13798)
170         # opendirunlink failes if it exists
171         rmdir $DIR1/$tdir || true
172         opendirunlink $DIR1/$tdir $DIR2/$tdir || \
173                 error "opendirunlink $DIR1/$tdir $DIR2/$tdir"
174 }
175 run_test 7 "remove of open directory on other node ============="
176
177 test_8() {
178         opendevunlink $DIR1/$tfile $DIR2/$tfile || \
179                 error "opendevunlink $DIR1/$tfile $DIR2/$tfile"
180 }
181 run_test 8 "remove of open special file on other node =========="
182
183 test_9() {
184         MTPT=1
185         > $DIR2/f9
186         for C in a b c d e f g h i j k l; do
187                 DIR=`eval echo \\$DIR$MTPT`
188                 echo -n $C >> $DIR/f9
189                 [ "$MTPT" -eq 1 ] && MTPT=2 || MTPT=1
190         done
191         [ "`cat $DIR1/f9`" = "abcdefghijkl" ] || \
192                 error "`od -a $DIR1/f9` != abcdefghijkl"
193 }
194 run_test 9 "append of file with sub-page size on multiple mounts"
195
196 test_10a() {
197         MTPT=1
198         OFFSET=0
199         > $DIR2/f10
200         for C in a b c d e f g h i j k l; do
201                 DIR=`eval echo \\$DIR$MTPT`
202                 echo -n $C | dd of=$DIR/f10 bs=1 seek=$OFFSET count=1
203                 [ "$MTPT" -eq 1 ] && MTPT=2 || MTPT=1
204                 OFFSET=`expr $OFFSET + 1`
205         done
206         [ "`cat $DIR1/f10`" = "abcdefghijkl" ] || \
207                 error "`od -a $DIR1/f10` != abcdefghijkl"
208 }
209 run_test 10a "write of file with sub-page size on multiple mounts "
210
211 test_10b() {
212         yes "R" | dd of=$DIR1/f10b bs=3k count=1 || error "dd $DIR1"
213
214         truncate $DIR1/f10b 4096 || error "truncate 4096"
215
216         dd if=$DIR2/f10b of=$TMP/f10b-lustre bs=4k count=1 || error "dd $DIR2"
217
218         # create a test file locally to compare
219         yes "R" | dd of=$TMP/f10b bs=3k count=1 || error "dd random"
220         truncate $TMP/f10b 4096 || error "truncate 4096"
221         cmp $TMP/f10b $TMP/f10b-lustre || error "file miscompare"
222         rm $TMP/f10b $TMP/f10b-lustre
223 }
224 run_test 10b "write of file with sub-page size on multiple mounts "
225
226 test_11() {
227         mkdir $DIR1/d11
228         multiop $DIR1/d11/f O_c &
229         MULTIPID=$!
230         usleep 200
231         cp -p /bin/ls $DIR1/d11/f
232         $DIR2/d11/f
233         RC=$?
234         kill -USR1 $MULTIPID
235         wait $MULTIPID || error
236         [ $RC -eq 0 ] && error || true
237 }
238 run_test 11 "execution of file opened for write should return error ===="
239
240 test_12() {
241        DIR=$DIR DIR2=$DIR2 sh lockorder.sh
242 }
243 run_test 12 "test lock ordering (link, stat, unlink) ==========="
244
245 test_13() {     # bug 2451 - directory coherency
246        rm -rf $DIR1/d13
247        mkdir $DIR1/d13 || error
248        cd $DIR1/d13 || error
249        ls
250        ( touch $DIR1/d13/f13 ) # needs to be a separate shell
251        ls
252        rm -f $DIR2/d13/f13 || error
253        ls 2>&1 | grep f13 && error "f13 shouldn't return an error (1)" || true
254        # need to run it twice
255        ( touch $DIR1/d13/f13 ) # needs to be a separate shell
256        ls
257        rm -f $DIR2/d13/f13 || error
258        ls 2>&1 | grep f13 && error "f13 shouldn't return an error (2)" || true
259 }
260 run_test 13 "test directory page revocation ===================="
261
262 test_14() {
263         mkdir $DIR1/d14
264         cp -p /bin/ls $DIR1/d14/ls
265         exec 100>> $DIR1/d14/ls
266         $DIR2/d14/ls && error || true
267         exec 100<&-
268 }
269 run_test 14 "execution of file open for write returns -ETXTBSY ="
270
271 test_14a() {
272         mkdir -p $DIR1/d14
273         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
274         $DIR1/d14/multiop $TMP/test14.junk O_c &
275         MULTIPID=$!
276         sleep 1
277         multiop $DIR2/d14/multiop Oc && error "expected error, got success"
278         kill -USR1 $MULTIPID || return 2
279         wait $MULTIPID || return 3
280         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
281 }
282 run_test 14a "open(RDWR) of executing file returns -ETXTBSY ===="
283
284 test_14b() { # bug 3192, 7040
285         mkdir -p $DIR1/d14
286         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
287         $DIR1/d14/multiop $TMP/test14.junk O_c &
288         MULTIPID=$!
289         sleep 1
290         truncate $DIR2/d14/multiop 0 && kill -9 $MULTIPID && \
291                 error "expected truncate error, got success"
292         kill -USR1 $MULTIPID || return 2
293         wait $MULTIPID || return 3
294         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
295         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
296 }
297 run_test 14b "truncate of executing file returns -ETXTBSY ======"
298
299 test_14c() { # bug 3430, 7040
300         mkdir -p $DIR1/d14
301         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
302         $DIR1/d14/multiop $TMP/test14.junk O_c &
303         MULTIPID=$!
304         sleep 1
305         cp /etc/hosts $DIR2/d14/multiop && error "expected error, got success"
306         kill -USR1 $MULTIPID || return 2
307         wait $MULTIPID || return 3
308         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
309         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
310 }
311 run_test 14c "open(O_TRUNC) of executing file return -ETXTBSY =="
312
313 test_14d() { # bug 10921
314         mkdir -p $DIR1/d14
315         cp -p `which multiop` $DIR1/d14/multiop || error "cp failed"
316         $DIR1/d14/multiop $TMP/test14.junk O_c &
317         MULTIPID=$!
318         sleep 1
319         log chmod
320         chmod 600 $DIR1/d14/multiop || error "chmod failed"
321         kill -USR1 $MULTIPID || return 2
322         wait $MULTIPID || return 3
323         cmp `which multiop` $DIR1/d14/multiop || error "binary changed"
324         rm $TMP/test14.junk $DIR1/d14/multiop || error "removing multiop"
325 }
326 run_test 14d "chmod of executing file is still possible ========"
327
328 test_15() {     # bug 974 - ENOSPC
329         echo "PATH=$PATH"
330         sh oos2.sh $MOUNT1 $MOUNT2
331         grant_error=`dmesg | grep "> available"`
332         [ -z "$grant_error" ] || error "$grant_error"
333 }
334 run_test 15 "test out-of-space with multiple writers ==========="
335
336 test_16() {
337         rm -f $MOUNT1/fsxfile
338         lfs setstripe $MOUNT1/fsxfile -c -1 # b=10919
339         fsx -c 50 -p 100 -N 2500 -l $((SIZE * 256)) -S 0 $MOUNT1/fsxfile $MOUNT2/fsxfile
340 }
341 run_test 16 "2500 iterations of dual-mount fsx ================="
342
343 test_17() { # bug 3513, 3667
344         [ ! -d /proc/fs/lustre/ost ] && skip "remote OST, skipping OST-only test" && return
345
346         cp /etc/termcap $DIR1/f17
347         cancel_lru_locks osc > /dev/null
348         #define OBD_FAIL_ONCE|OBD_FAIL_LDLM_CREATE_RESOURCE    0x30a
349         sysctl -w lustre.fail_loc=0x8000030a
350         ls -ls $DIR1/f17 | awk '{ print $1,$6 }' > $DIR1/f17-1 & \
351         ls -ls $DIR2/f17 | awk '{ print $1,$6 }' > $DIR2/f17-2
352         wait
353         diff -u $DIR1/f17-1 $DIR2/f17-2 || error "files are different"
354 }
355 run_test 17 "resource creation/LVB creation race ==============="
356
357 test_18() {
358         ./mmap_sanity -d $MOUNT1 -m $MOUNT2
359         sync; sleep 1; sync
360 }
361 run_test 18 "mmap sanity check ================================="
362
363 test_19() { # bug3811
364         [ -d /proc/fs/lustre/obdfilter ] || return 0
365
366         MAX=`cat /proc/fs/lustre/obdfilter/*/readcache_max_filesize | head -n 1`
367         for O in /proc/fs/lustre/obdfilter/*OST*; do
368                 echo 4096 > $O/readcache_max_filesize
369         done
370         dd if=/dev/urandom of=$TMP/f19b bs=512k count=32
371         SUM=`cksum $TMP/f19b | cut -d" " -f 1,2`
372         cp $TMP/f19b $DIR1/f19b
373         for i in `seq 1 20`; do
374                 [ $((i % 5)) -eq 0 ] && log "test_18 loop $i"
375                 cancel_lru_locks osc > /dev/null
376                 cksum $DIR1/f19b | cut -d" " -f 1,2 > $TMP/sum1 & \
377                 cksum $DIR2/f19b | cut -d" " -f 1,2 > $TMP/sum2
378                 wait
379                 [ "`cat $TMP/sum1`" = "$SUM" ] || \
380                         error "$DIR1/f19b `cat $TMP/sum1` != $SUM"
381                 [ "`cat $TMP/sum2`" = "$SUM" ] || \
382                         error "$DIR2/f19b `cat $TMP/sum2` != $SUM"
383         done
384         for O in /proc/fs/lustre/obdfilter/*OST*; do
385                 echo $MAX > $O/readcache_max_filesize
386         done
387         rm $DIR1/f19b
388 }
389 #run_test 19 "test concurrent uncached read races ==============="
390
391 test_20() {
392         mkdir $DIR1/d20
393         cancel_lru_locks osc
394         CNT=$((`cat /proc/fs/lustre/llite/*/dump_page_cache | wc -l`))
395         multiop $DIR1/f20 Ow8190c
396         multiop $DIR2/f20 Oz8194w8190c
397         multiop $DIR1/f20 Oz0r8190c
398         cancel_lru_locks osc
399         CNTD=$((`cat /proc/fs/lustre/llite/*/dump_page_cache | wc -l` - $CNT))
400         [ $CNTD -gt 0 ] && \
401             error $CNTD" page left in cache after lock cancel" || true
402 }
403 run_test 20 "test extra readahead page left in cache ===="
404
405 cleanup_21() {
406         trap 0
407         umount $DIR1/d21
408 }
409
410 test_21() { # Bug 5907
411         mkdir $DIR1/d21
412         mount /etc $DIR1/d21 --bind || error "mount failed" # Poor man's mount.
413         trap cleanup_21 EXIT
414         rmdir -v $DIR1/d21 && error "Removed mounted directory"
415         rmdir -v $DIR2/d21 && echo "Removed mounted directory from another mountpoint, needs to be fixed"
416         test -d $DIR1/d21 || error "Mounted directory disappeared"
417         cleanup_21
418         test -d $DIR2/d21 || test -d $DIR1/d21 && error "Removed dir still visible after umount"
419         true
420 }
421 run_test 21 " Try to remove mountpoint on another dir ===="
422
423 JOIN=${JOIN:-"lfs join"}
424
425 test_22() { # Bug 9926
426         mkdir $DIR1/d21
427         dd if=/dev/urandom of=$DIR1/d21/128k bs=1024 count=128
428         cp -p $DIR1/d21/128k $DIR1/d21/f_head
429         for ((i=0;i<10;i++)); do
430                 cp -p $DIR1/d21/128k $DIR1/d21/f_tail
431                 $JOIN $DIR1/d21/f_head $DIR1/d21/f_tail || error "join error"
432                 $CHECKSTAT -a $DIR1/d21/f_tail || error "tail file exist after join"
433         done
434         echo aaaaaaaaaaa >> $DIR1/d21/no_joined
435
436         mv $DIR2/d21/f_head $DIR2/
437         munlink $DIR2/f_head || error "unlink joined file error"
438         cat $DIR2/d21/no_joined || error "cat error"
439         rm -rf $DIR2/d21/no_joined || error "unlink normal file error"
440 }
441 run_test 22 " After joining in one dir,  open/close unlink file in anther dir" 
442
443 test_23() { # Bug 5972
444         echo "others should see updated atime while another read" > $DIR1/f23
445         
446         # clear the lock(mode: LCK_PW) gotten from creating operation
447         cancel_lru_locks osc
448         
449         time1=`date +%s`        
450         sleep 2
451         
452         multiop $DIR1/f23 or20_c &
453         MULTIPID=$!
454
455         sleep 2
456         time2=`stat -c "%X" $DIR2/f23`
457
458         if (( $time2 <= $time1 )); then
459                 kill -USR1 $MULTIPID
460                 error "atime doesn't update among nodes"
461         fi
462
463         kill -USR1 $MULTIPID || return 1
464         rm -f $DIR1/f23 || error "rm -f $DIR1/f23 failed"
465         true
466 }
467 run_test 23 " others should see updated atime while another read===="
468
469 test_24() {
470         touch $DIR1/$tfile
471         lfs df || error "lfs df failed"
472         lfs df -ih || error "lfs df -ih failed"
473         lfs df -h $DIR1 || error "lfs df -h $DIR1 failed"
474         lfs df -i $DIR2 || error "lfs df -i $DIR2 failed"
475         lfs df $DIR1/$tfile || error "lfs df $DIR1/$tfile failed"
476         lfs df -ih $DIR2/$tfile || error "lfs df -ih $DIR2/$tfile failed"
477         
478         OSC=`lctl dl | awk '/-osc-|OSC.*MNT/ {print $4}' | head -n 1`
479 #       OSC=`lctl dl | awk '/-osc-/ {print $4}' | head -n 1`
480         lctl --device %$OSC deactivate
481         lfs df -i || error "lfs df -i with deactivated OSC failed"
482         lctl --device %$OSC recover
483         lfs df || error "lfs df with reactivated OSC failed"
484 }
485 run_test 24 "lfs df [-ih] [path] test ========================="
486
487 test_25() {
488         [ `cat $LPROC/mdc/*-mdc-*/connect_flags | grep -c acl` -lt 2 ] && \
489             skip "must have acl, skipping" && return
490
491         touch $DIR1/$tdir/f1 || error "touch $DIR1/$tdir/f1"
492         chmod 0755 $DIR1/$tdir/f1 || error "chmod 0755 $DIR1/$tdir/f1"
493
494         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #1"
495         setfacl -m u:$RUNAS_ID:--- $DIR1/$tdir || error "setfacl $DIR2/$tdir #1"
496         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #2"
497         setfacl -m u:$RUNAS_ID:r-x $DIR1/$tdir || error "setfacl $DIR2/$tdir #2"
498         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #3"
499         setfacl -m u:$RUNAS_ID:--- $DIR1/$tdir || error "setfacl $DIR2/$tdir #3"
500         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 && error "checkstat $DIR2/$tdir/f1 #4"
501         setfacl -x u:$RUNAS_ID: $DIR1/$tdir || error "setfacl $DIR2/$tdir #4"
502         $RUNAS $CHECKSTAT $DIR2/$tdir/f1 || error "checkstat $DIR2/$tdir/f1 #5"
503
504         rm -rf $DIR1/$tdir
505 }
506 run_test 25 "change ACL on one mountpoint be seen on another ==="
507
508 test_26a() {
509         utime $DIR1/f26a -s $DIR2/f26a || error
510 }
511 run_test 26a "allow mtime to get older"
512
513 test_26b() {
514         touch $DIR1/$tfile
515         sleep 1
516         echo "aaa" >> $DIR1/$tfile
517         sleep 1
518         chmod a+x $DIR2/$tfile
519         mt1=`stat -c %Y $DIR1/$tfile`
520         mt2=`stat -c %Y $DIR2/$tfile`
521         
522         if [ x"$mt1" != x"$mt2" ]; then 
523                 error "not equal mtime, client1: "$mt1", client2: "$mt2"."
524         fi
525 }
526 run_test 26b "sync mtime between ost and mds"
527
528 test_27() {
529         cancel_lru_locks osc
530         lctl clear
531         dd if=/dev/zero of=$DIR2/$tfile bs=$((4096+4))k conv=notrunc count=4 seek=3 &
532         DD2_PID=$!
533         usleep 50
534         log "dd 1 started"
535         
536         dd if=/dev/zero of=$DIR1/$tfile bs=$((16384-1024))k conv=notrunc count=1 seek=4 &
537         DD1_PID=$!
538         log "dd 2 started"
539         
540         sleep 1
541         dd if=/dev/zero of=$DIR1/$tfile bs=8k conv=notrunc count=1 seek=0
542         log "dd 3 finished"
543         echo > $LPROC/ldlm/dump_namespaces
544         wait $DD1_PID $DD2_PID
545         [ $? -ne 0 ] && lctl dk $TMP/debug || true
546 }
547 run_test 27 "align non-overlapping extent locks from request ==="
548
549 test_28() { # bug 9977
550         ECHO_UUID="ECHO_osc1_UUID"
551         tOST=`$LCTL dl | | awk '/-osc-|OSC.*MNT/ { print $4 }' | head -1`
552
553         lfs setstripe $DIR1/$tfile -s 1048576 -i 0 -c 2
554         tOBJID=`lfs getstripe $DIR1/$tfile |grep "^[[:space:]]\+1" |awk '{print $2}'`
555         dd if=/dev/zero of=$DIR1/$tfile bs=1024k count=2
556
557         $LCTL <<-EOF
558                 newdev
559                 attach echo_client ECHO_osc1 $ECHO_UUID
560                 setup $tOST
561         EOF
562
563         tECHOID=`$LCTL dl | grep $ECHO_UUID | awk '{print $1}'`
564         $LCTL --device $tECHOID destroy "${tOBJID}:0"
565     
566         $LCTL <<-EOF
567                 cfg_device ECHO_osc1
568                 cleanup
569                 detach
570         EOF
571
572         # reading of 1st stripe should pass
573         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 || error
574         # reading of 2nd stripe should fail (this stripe was destroyed)
575         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 skip=1 && error
576
577         # now, recreating test file
578         dd if=/dev/zero of=$DIR1/$tfile bs=1024k count=2 || error
579         # reading of 1st stripe should pass
580         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 || error
581         # reading of 2nd stripe should pass
582         dd if=$DIR2/$tfile of=/dev/null bs=1024k count=1 skip=1 || error
583 }
584 run_test 28 "read/write/truncate file with lost stripes"
585
586 test_29() { # bug 10999
587         touch $DIR1/$tfile
588         #define OBD_FAIL_LDLM_GLIMPSE  0x30f
589         sysctl -w lustre.fail_loc=0x8000030f
590         ls -l $DIR2/$tfile &
591         usleep 500
592         dd if=/dev/zero of=$DIR1/$tfile bs=4k count=1
593         wait
594 }
595 #bug 11549 - permanently turn test off in b1_5
596 #run_test 29 "lock put race between glimpse and enqueue ========="
597
598 test_30() { #bug #11110
599     cp -f /bin/bash $DIR1/$tdir/bash
600     /bin/sh -c 'sleep 1; rm -f $DIR2/$tdir/bash; cp /bin/bash $DIR2/$tdir' &
601     err=$($DIR1/$tdir/bash -c 'sleep 2; openfile -f O_RDONLY /proc/$$/exe >& /dev/null; echo $?')
602     wait
603     [ $err -ne 116 ] && error_ignore 12900 "return code ($err) != -ESTALE" && return
604     true
605 }
606
607 run_test 30 "recreate file race ========="
608
609 log "cleanup: ======================================================"
610
611 check_and_cleanup_lustre
612
613 echo '=========================== finished ==============================='
614 [ -f "$SANITYLOG" ] && cat $SANITYLOG && grep -q FAIL $SANITYLOG && exit 1 || true
615 echo "$0: completed"