lustre/tests/sanity-pfl.sh

   1 #!/bin/bash
   2 #
   3 # Run select tests by setting ONLY, or as arguments to the script.
   4 # Skip specific tests by setting EXCEPT.
   5 set -e
   6
   7 SRCDIR=$(dirname $0)
   8 export PATH=$PWD/$SRCDIR:$SRCDIR:$PWD/$SRCDIR/../utils:$PATH:/sbin
   9
  10 ONLY=${ONLY:-"$*"}
  11 # Bug number for skipped test:
  12 ALWAYS_EXCEPT="$SANITY_PFL_EXCEPT"
  13 # UPDATE THE COMMENT ABOVE WITH BUG NUMBERS WHEN CHANGING ALWAYS_EXCEPT!
  14
  15 TMP=${TMP:-/tmp}
  16 CHECKSTAT=${CHECKSTAT:-"checkstat -v"}
  17
  18 LUSTRE=${LUSTRE:-$(cd $(dirname $0)/..; echo $PWD)}
  19 . $LUSTRE/tests/test-framework.sh
  20 init_test_env $@
  21 . ${CONFIG:=$LUSTRE/tests/cfg/$NAME.sh}
  22 init_logging
  23
  24 check_and_setup_lustre
  25
  26 if [[ $(lustre_version_code $SINGLEMDS) -lt $(version_code 2.9.51) ]]; then
  27         skip_env "Need MDS version at least 2.9.51"
  28 fi
  29
  30 [ "$ALWAYS_EXCEPT$EXCEPT" ] &&
  31         echo "Skipping tests: $ALWAYS_EXCEPT $EXCEPT"
  32
  33 build_test_filter
  34
  35 [ $UID -eq 0 -a $RUNAS_ID -eq 0 ] &&
  36         error "\$RUNAS_ID set to 0, but \$UID is also 0!"
  37 check_runas_id $RUNAS_ID $RUNAS_GID $RUNAS
  38
  39 assert_DIR
  40 rm -rf $DIR/[Rdfs][0-9]*
  41
  42 test_0() {
  43         [ $OSTCOUNT -lt 2 ] && skip "needs >= 2 OSTs"
  44
  45         local comp_file=$DIR/$tdir/$tfile
  46         local rw_len=$((3 * 1024 * 1024))       # 3M
  47
  48         test_mkdir $DIR/$tdir
  49         rm -f $comp_file
  50
  51         $LFS setstripe -E 1m -S 1M -c 1 -E -1 -c 1 $comp_file ||
  52                 error "Create $comp_file failed"
  53
  54         #instantiate all components, so that objs are allocted
  55         dd if=/dev/zero of=$comp_file bs=1k count=1 seek=2k
  56
  57         local ost_idx1=$($LFS getstripe -I1 -i $comp_file)
  58         local ost_idx2=$($LFS getstripe -I2 -i $comp_file)
  59
  60         [ $ost_idx1 -eq $ost_idx2 ] && error "$ost_idx1 == $ost_idx2"
  61
  62         small_write $comp_file $rw_len || error "Verify RW failed"
  63
  64         rm -f $comp_file || error "Delete $comp_file failed"
  65 }
  66 run_test 0 "Create full components file, no reused OSTs"
  67
  68 test_1() {
  69         local comp_file=$DIR/$tdir/$tfile
  70         local rw_len=$((3 * 1024 * 1024))       # 3M
  71
  72         test_mkdir $DIR/$tdir
  73         rm -f $comp_file
  74
  75         $LFS setstripe -E 1m -S 1m -o 0 -E -1 -o 0 $comp_file ||
  76                 error "Create $comp_file failed"
  77
  78         #instantiate all components, so that objs are allocted
  79         dd if=/dev/zero of=$comp_file bs=1k count=1 seek=2k
  80
  81         local ost_idx1=$($LFS getstripe -I1 -i $comp_file)
  82         local ost_idx2=$($LFS getstripe -I2 -i $comp_file)
  83
  84         [ $ost_idx1 -ne $ost_idx2 ] && error "$ost_idx1 != $ost_idx2"
  85
  86         small_write $comp_file $rw_len || error "Verify RW failed"
  87
  88         rm -f $comp_file || error "Delete $comp_file failed"
  89 }
  90 run_test 1 "Create full components file, reused OSTs"
  91
  92 test_2() {
  93         local comp_file=$DIR/$tdir/$tfile
  94         local rw_len=$((5 * 1024 * 1024))       # 5M
  95
  96         test_mkdir $DIR/$tdir
  97         rm -f $comp_file
  98
  99         $LFS setstripe -E 1m -S 1m $comp_file ||
 100                 error "Create $comp_file failed"
 101
 102         local comp_cnt=$($LFS getstripe --component-count $comp_file)
 103         [ $comp_cnt -ne 1 ] && error "component count $comp_cnt != 1"
 104
 105         dd if=/dev/zero of=$comp_file bs=1M count=1 > /dev/null 2>&1 ||
 106                 error "Write first component failed"
 107         dd if=$comp_file of=/dev/null bs=1M count=1 > /dev/null 2>&1 ||
 108                 error "Read first component failed"
 109
 110         dd if=/dev/zero of=$comp_file bs=1M count=2 > /dev/null 2>&1 &&
 111                 error "Write beyond component should fail"
 112         dd if=$comp_file of=/dev/null bs=1M count=2 > /dev/null 2>&1 ||
 113                 error "Read beyond component should short read, not fail"
 114
 115         $LFS setstripe --component-add -E 2M -S 1M -c 1 $comp_file ||
 116                 error "Add component to $comp_file failed"
 117
 118         comp_cnt=$($LFS getstripe --component-count $comp_file)
 119         [ $comp_cnt -ne 2 ] && error "component count $comp_cnt != 2"
 120
 121         $LFS setstripe --component-add -E -1 -c 3 $comp_file ||
 122                 error "Add last component to $comp_file failed"
 123
 124         comp_cnt=$($LFS getstripe --component-count $comp_file)
 125         [ $comp_cnt -ne 3 ] && error "component count $comp_cnt != 3"
 126
 127         small_write $comp_file $rw_len || error "Verify RW failed"
 128
 129         rm -f $comp_file || error "Delete $comp_file failed"
 130 }
 131 run_test 2 "Add component to existing file"
 132
 133 del_comp_and_verify() {
 134         local comp_file=$1
 135         local id=$2
 136         local left=$3
 137         local size=$4
 138
 139         local opt="-I "
 140         if [ $id == "init" -o $id == "^init" ]; then
 141                 opt="--component-flags="
 142         fi
 143
 144         $LFS setstripe --component-del $opt$id $comp_file ||
 145                 error "Delete component $id from $comp_file failed"
 146
 147         local comp_cnt=$($LFS getstripe --component-count $comp_file)
 148         if grep -q "has no stripe info" <<< "$comp_cnt" ; then
 149                 comp_cnt=0
 150         fi
 151         [ $comp_cnt -ne $left ] && error "$comp_cnt != $left"
 152
 153         $CHECKSTAT -s $size $comp_file || error "size != $size"
 154 }
 155
 156 test_3() {
 157         local comp_file=$DIR/$tdir/$tfile
 158
 159         test_mkdir $DIR/$tdir
 160         rm -f $comp_file
 161
 162         $LFS setstripe -E 1M -S 1M -E 64M -c 2 -E -1 -c 3 $comp_file ||
 163                 error "Create $comp_file failed"
 164
 165         local comp_cnt=$($LFS getstripe --component-count $comp_file)
 166         [ $comp_cnt -ne 3 ] && error "component count $comp_cnt != 3"
 167
 168         dd if=/dev/zero of=$comp_file bs=1M count=2
 169
 170         $LFS setstripe --component-del -I 2 $comp_file &&
 171                 error "Component deletion makes hole"
 172
 173         del_comp_and_verify $comp_file 3 2 $((2 * 1024 * 1024))
 174         del_comp_and_verify $comp_file 2 1 $((1 * 1024 * 1024))
 175         del_comp_and_verify $comp_file 1 0 0
 176
 177         rm -f $comp_file || error "Delete $comp_file failed"
 178
 179         $LFS setstripe -E 1M -S 1M -E 16M -E -1 $comp_file ||
 180                 error "Create second $comp_file failed"
 181
 182         del_comp_and_verify $comp_file "^init" 1 0
 183         del_comp_and_verify $comp_file "init" 0 0
 184         rm -f $comp_file || error "Delete second $comp_file failed"
 185
 186 }
 187 run_test 3 "Delete component from existing file"
 188
 189 test_4() {
 190         skip "Not supported in PFL"
 191         # In PFL project, only LCME_FL_INIT is supported, and it can't
 192         # be altered by application.
 193 }
 194 run_test 4 "Modify component flags in existing file"
 195
 196 test_5() {
 197         local parent=$DIR/$tdir
 198         local comp_file=$DIR/$tdir/$tfile
 199         local subdir=$parent/subdir
 200
 201         rm -fr $parent
 202         test_mkdir $parent
 203
 204         # set default layout to parent directory
 205         $LFS setstripe -E 64M -c 2 -i 0 -E -1 -c 4 -i 0 $parent ||
 206                 error "Set default layout to $parent failed"
 207
 208         # create file under parent
 209         touch $comp_file || error "Create $comp_file failed"
 210         local comp_cnt=$($LFS getstripe --component-count $comp_file)
 211         [ $comp_cnt -ne 2 ] && error "file $comp_cnt != 2"
 212
 213         #instantiate all components, so that objs are allocted
 214         dd if=/dev/zero of=$comp_file bs=1k count=1 seek=65k
 215
 216         local ost_idx=$($LFS getstripe -I1 -i $comp_file)
 217         [ $ost_idx -ne 0 ] &&
 218                 error "component 1 ost_idx $ost_idx != 0"
 219
 220         ost_idx=$($LFS getstripe -I2 -i $comp_file)
 221         [ $ost_idx -ne 0 ] &&
 222                 error "component 2 ost_idx $ost_idx != 0"
 223
 224         # create subdir under parent
 225         mkdir -p $subdir || error "Create subdir $subdir failed"
 226
 227         comp_cnt=$($LFS getstripe -d --component-count $subdir)
 228         [ $comp_cnt -ne 2 ] && error "subdir $comp_cnt != 2"
 229
 230         # create file under subdir
 231         touch $subdir/$tfile || error "Create $subdir/$tfile failed"
 232
 233         comp_cnt=$($LFS getstripe --component-count $subdir/$tfile)
 234         [ $comp_cnt -ne 2 ] && error "$subdir/$tfile $comp_cnt != 2"
 235
 236         # delete default layout setting from parent
 237         $LFS setstripe -d $parent ||
 238                 error "Delete default layout from $parent failed"
 239
 240         comp_cnt=$($LFS getstripe -d --component-count $parent)
 241         [ $comp_cnt -ne 0 ] && error "$comp_cnt isn't 0"
 242
 243         rm -f $comp_file || error "Delete $comp_file failed"
 244         rm -f $subdir/$tfile || error "Delete $subdir/$tfile failed"
 245         rm -r $subdir || error "Delete subdir $subdir failed"
 246         rmdir $parent || error "Delete dir $parent failed"
 247 }
 248 run_test 5 "Inherit composite layout from parent directory"
 249
 250 test_6() {
 251         local comp_file=$DIR/$tdir/$tfile
 252
 253         test_mkdir $DIR/$tdir
 254         rm -f $DIR/$tfile
 255
 256         $LFS setstripe -c 1 -S 128K $comp_file ||
 257                 error "Create v1 $comp_file failed"
 258
 259         local comp_cnt=$($LFS getstripe --component-count $comp_file)
 260         [ $comp_cnt -ne 0 ] && error "Wrong component count $comp_cnt"
 261
 262         dd if=/dev/urandom of=$comp_file bs=1M count=5 oflag=sync ||
 263                 error "Write to v1 $comp_file failed"
 264
 265         local old_chksum=$(md5sum $comp_file)
 266
 267         # Migrate v1 to composite
 268         $LFS migrate -E 1M -S 512K -c 1 -E -1 -S 1M -c 2 $comp_file ||
 269                 error "Migrate(v1 -> composite) $comp_file failed"
 270
 271         comp_cnt=$($LFS getstripe --component-count $comp_file)
 272         [ "$comp_cnt" -ne 2 ] && error "$comp_cnt != 2"
 273
 274         local chksum=$(md5sum $comp_file)
 275         [ "$old_chksum" != "$chksum" ] &&
 276                 error "(v1 -> compsoite) $old_chksum != $chksum"
 277
 278         # Migrate composite to composite
 279         $LFS migrate -E 1M -S 1M -c 2 -E 4M -S 1M -c 2 \
 280                 -E -1 -S 3M -c 3 $comp_file ||
 281                 error "Migrate(compsoite -> composite) $comp_file failed"
 282
 283         comp_cnt=$($LFS getstripe --component-count $comp_file)
 284         [ "$comp_cnt" -ne 3 ] && error "$comp_cnt != 3"
 285
 286         chksum=$(md5sum $comp_file)
 287         [ "$old_chksum" != "$chksum" ] &&
 288                 error "(composite -> compsoite) $old_chksum != $chksum"
 289
 290         # Migrate composite to v1
 291         $LFS migrate -c 2 -S 2M $comp_file ||
 292                 error "Migrate(composite -> v1) $comp_file failed"
 293
 294         comp_cnt=$($LFS getstripe --component-count $comp_file)
 295         [ $comp_cnt -ne 0 ] && error "$comp_cnt isn't 0"
 296
 297         chksum=$(md5sum $comp_file)
 298         [ "$old_chksum" != "$chksum" ] &&
 299                 error "(composite -> v1) $old_chksum != $chksum"
 300
 301         rm -f $comp_file || "Delete $comp_file failed"
 302 }
 303 run_test 6 "Migrate composite file"
 304
 305 test_7() {
 306         test_mkdir $DIR/$tdir
 307         chmod 0777 $DIR/$tdir || error "chmod $tdir failed"
 308
 309         local comp_file=$DIR/$tdir/$tfile
 310         $RUNAS $LFS setstripe -E 1M -S 1M -c 1 $comp_file ||
 311                 error "Create composite file $comp_file failed"
 312
 313         $RUNAS $LFS setstripe --component-add -E 64M -c 4 $comp_file ||
 314                 error "Add component to $comp_file failed"
 315
 316         $RUNAS $LFS setstripe --component-del -I 2 $comp_file ||
 317                 error "Delete component from $comp_file failed"
 318
 319         $RUNAS $LFS setstripe --component-add -E -1 -c 5 $comp_file ||
 320                 error "Add last component to $comp_file failed"
 321
 322         rm $comp_file || "Delete composite failed"
 323 }
 324 run_test 7 "Add/Delete/Create composite file by non-privileged user"
 325
 326 test_8() {
 327         local parent=$DIR/$tdir
 328
 329         rm -fr $parent
 330         test_mkdir $parent
 331
 332         $LFS setstripe -E 2M -c 1 -S 1M -E 16M -c 2 -S 2M \
 333                 -E -1 -c 4 -S 4M $parent ||
 334                 error "Set default layout to $parent failed"
 335
 336         sh rundbench -C -D $parent 2 || error "dbench failed"
 337
 338         rm -fr $parent || error "Delete dir $parent failed"
 339 }
 340 run_test 8 "Run dbench over composite files"
 341
 342 test_9() {
 343         local comp_file=$DIR/$tdir/$tfile
 344
 345         test_mkdir $DIR/$tdir
 346         rm -f $comp_file
 347
 348         $LFS setstripe -E 1M -S 1M -E -1 -c 1 $comp_file ||
 349                 error "Create $comp_file failed"
 350
 351         local comp_cnt=$($LFS getstripe --component-count $comp_file)
 352         [ $comp_cnt -ne 2 ] && error "component count $comp_cnt != 2"
 353
 354         replay_barrier $SINGLEMDS
 355
 356         # instantiate the 2nd component
 357         dd if=/dev/zero of=$comp_file bs=1k count=1 seek=2k
 358
 359         local f1=$($LFS getstripe -I2 $comp_file |
 360                         awk '/l_fid:/ {print $7}')
 361         echo "before MDS recovery, the ost fid of 2nd component is $f1"
 362         fail $SINGLEMDS
 363
 364         local f2=$($LFS getstripe -I2 $comp_file |
 365                         awk '/l_fid:/ {print $7}')
 366         echo "after MDS recovery, the ost fid of 2nd component is $f2"
 367         [ "x$f1" == "x$f2" ] || error "$f1 != $f2"
 368 }
 369 run_test 9 "Replay layout extend object instantiation"
 370
 371 component_dump() {
 372         echo $($LFS getstripe $1 |
 373                 awk '$1 == "lcm_entry_count:" { printf("%d", $2) }
 374                      $1 == "lcme_extent.e_start:" { printf("[%#lx", $2) }
 375                      $1 == "lcme_extent.e_end:" { printf(",%s]", $2) }')
 376 }
 377
 378 test_10() {
 379         local parent=$DIR/$tdir
 380         local root=$MOUNT
 381
 382         save_layout_restore_at_exit $MOUNT
 383
 384         rm -rf $parent
 385
 386         # mount root on $MOUNT2 if FILESET is set
 387         if [ -n "$FILESET" ]; then
 388                 FILESET="" mount_client $MOUNT2 ||
 389                         error "mount $MOUNT2 fail"
 390                 root=$MOUNT2
 391         fi
 392
 393         $LFS setstripe -d $root || error "clear root layout"
 394
 395         # set root composite layout
 396         $LFS setstripe -E 2M -c 1 -S 1M -E 16M -c2 -S 2M \
 397                 -E -1 -c 4 -S 4M $root ||
 398                 error "Set root layout failed"
 399
 400         if [ "$root" == "$MOUNT2" ]; then
 401                 umount_client $MOUNT2 ||
 402                         error "umount $MOUNT2 fail"
 403         fi
 404
 405         test_mkdir $parent
 406         # set a different layout for parent
 407         $LFS setstripe -E -1 -c 1 -S 1M $parent ||
 408                 error "set $parent layout failed"
 409         touch $parent/file1
 410
 411         local f1_entry=$(component_dump $parent/file1)
 412
 413         # delete parent's layout
 414         $LFS setstripe -d $parent || error "Clear $parent layout failed"
 415         touch $parent/file2
 416
 417         local f2_entry=$(component_dump $parent/file2)
 418
 419         # verify layout inheritance
 420         local eof="EOF"
 421         local f1_expect="1[0,EOF]"
 422         local f2_expect="3[0,2097152][0x200000,16777216][0x1000000,EOF]"
 423
 424         echo "f1 expect=$f1_expect"
 425         echo "f1 get   =$f1_entry"
 426         echo "f2 expect=$f2_expect"
 427         echo "f2 get   =$f2_entry"
 428
 429         [  x$f1_expect != x$f1_entry ] &&
 430                 error "$parent/file1 does not inherite parent layout"
 431         [  x$f2_expect != x$f2_entry ] &&
 432                 error "$parent/file2 does not inherite root layout"
 433
 434         return 0
 435 }
 436 run_test 10 "Inherit composite template from root"
 437
 438 test_11() {
 439         local comp_file=$DIR/$tdir/$tfile
 440         test_mkdir $DIR/$tdir
 441         rm -f $comp_file
 442
 443         # only 1st component instantiated
 444         $LFS setstripe -E 1M -S 1M -E 2M -E 3M -E -1 $comp_file ||
 445                 error "Create $comp_file failed"
 446
 447         local f1=$($LFS getstripe -I1 $comp_file | grep "l_fid")
 448         [[ -z $f1 ]] && error "1: 1st component uninstantiated"
 449         local f2=$($LFS getstripe -I2 $comp_file | grep "l_fid")
 450         [[ -n $f2 ]] && error "1: 2nd component instantiated"
 451         local f3=$($LFS getstripe -I3 $comp_file | grep "l_fid")
 452         [[ -n $f3 ]] && error "1: 3rd component instantiated"
 453         local f4=$($LFS getstripe -I4 $comp_file | grep "l_fid")
 454         [[ -n $f4 ]] && error "1: 4th component instantiated"
 455
 456         # the first 2 components instantiated
 457         $TRUNCATE $comp_file $((1024*1024*1+1))
 458
 459         f2=$($LFS getstripe -I2 $comp_file | grep "l_fid")
 460         [[ -z $f2 ]] && error "2: 2nd component uninstantiated"
 461         f3=$($LFS getstripe -I3 $comp_file | grep "l_fid")
 462         [[ -n $f3 ]] && error "2: 3rd component instantiated"
 463         f4=$($LFS getstripe -I4 $comp_file | grep "l_fid")
 464         [[ -n $f4 ]] && error "2: 4th component instantiated"
 465
 466         # the first 3 components instantiated
 467         $TRUNCATE $comp_file $((1024*1024*3))
 468         $TRUNCATE $comp_file $((1024*1024*1+1))
 469
 470         f2=$($LFS getstripe -I2 $comp_file | grep "l_fid")
 471         [[ -z $f2 ]] && error "3: 2nd component uninstantiated"
 472         f3=$($LFS getstripe -I3 $comp_file | grep "l_fid")
 473         [[ -z $f3 ]] && error "3: 3rd component uninstantiated"
 474         f4=$($LFS getstripe -I4 $comp_file | grep "l_fid")
 475         [[ -n $f4 ]] && error "3: 4th component instantiated"
 476
 477         # all 4 components instantiated, using append write
 478         dd if=/dev/zero of=$comp_file bs=1k count=1 seek=2k
 479         ls -l $comp_file
 480         rwv -f $comp_file -w -a -n 2 $((1024*1023)) 1
 481         ls -l $comp_file
 482
 483         f4=$($LFS getstripe -I4 $comp_file | grep "l_fid")
 484         [[ -z $f4 ]] && error "4: 4th component uninstantiated"
 485
 486         return 0
 487 }
 488 run_test 11 "Verify component instantiation with write/truncate"
 489
 490 test_12() {
 491         [ $OSTCOUNT -lt 3 ] && skip "needs >= 3 OSTs"
 492
 493         local file=$DIR/$tdir/$tfile
 494         test_mkdir $DIR/$tdir
 495         rm -f $file
 496
 497         # specify ost list for component
 498         $LFS setstripe -E 1M -S 1M -c 2 -o 0,1 -E 2M -c 2 -o 1,2 \
 499                 -E 3M -c 2 -o 2,1 -E 4M -c 1 -i 2 -E -1 $file ||
 500                 error "Create $file failed"
 501
 502         # clear lod component cache
 503         stop $SINGLEMDS || error "stop MDS"
 504         local MDT_DEV=$(mdsdevname ${SINGLEMDS//mds/})
 505         start $SINGLEMDS $MDT_DEV $MDS_MOUNT_OPTS || error "start MDS"
 506
 507         # instantiate all components
 508         $TRUNCATE $file $((1024*1024*4+1))
 509
 510         #verify object alloc order
 511         local o1=$($LFS getstripe -I1 $file |
 512                         awk '/l_ost_idx:/ {printf("%d",$5)}')
 513         [[ $o1 != "01" ]] && error "$o1 is not 01"
 514
 515         local o2=$($LFS getstripe -I2 $file |
 516                         awk '/l_ost_idx:/ {printf("%d",$5)}')
 517         [[ $o2 != "12" ]] && error "$o2 is not 12"
 518
 519         local o3=$($LFS getstripe -I3 $file |
 520                         awk '/l_ost_idx:/ {printf("%d",$5)}')
 521         [[ $o3 != "21" ]] && error "$o3 is not 21"
 522
 523         local o4=$($LFS getstripe -I4 $file |
 524                         awk '/l_ost_idx:/ {printf("%d",$5)}')
 525         [[ $o4 != "2" ]] && error "$o4 is not 2"
 526
 527         return 0
 528 }
 529 run_test 12 "Verify ost list specification"
 530
 531 test_13() { # LU-9311
 532         [ $OSTCOUNT -lt 8 ] && skip "needs >= 8 OSTs"
 533
 534         local file=$DIR/$tfile
 535         local dd_count=4
 536         local dd_size=$(($dd_count * 1024 * 1024))
 537         local real_size
 538
 539         rm -f $file
 540         $LFS setstripe -E 1M -S 1M -c 1 -E 2M -c 2 -E -1 -c -1 -i 1 $file ||
 541                 error "Create $file failed"
 542         dd if=/dev/zero of=$file bs=1M count=$dd_count
 543         real_size=$(stat -c %s $file)
 544         [ $real_size -eq $dd_size ] ||
 545                 error "dd actually wrote $real_size != $dd_size bytes"
 546
 547         rm -f $file
 548 }
 549 run_test 13 "shouldn't reprocess granted resent request"
 550
 551 test_14() {
 552         [ $OSTCOUNT -lt 2 ] && skip "needs >= 2 OSTs"
 553         local file=$DIR/$tdir/$tfile
 554         test_mkdir -p $DIR/$tdir
 555         rm -f $file
 556
 557         $LFS setstripe -E1m -c1 -S1m --pool="pool1" -E2m \
 558                         -E4m -c2 -S2m --pool="pool2" -E-1 $file ||
 559                 error "Create $file failed"
 560
 561         # check --pool inheritance
 562         local pool
 563         pool="$($LFS getstripe -I2 --pool $file)"
 564         [ x"$pool" != "xpool1" ] && $LFS getstripe -I2 $file &&
 565                 error "$file: component 2 doesn't have poolname pool1"
 566         pool="$($LFS getstripe -I4 --pool $file)"
 567         [ x"$pool" != "xpool2" ] && $LFS getstripe -I4 $file &&
 568                 error "$file: component 4 doesn't have poolname pool2"
 569
 570         #check --stripe-count inheritance
 571         local count
 572         count="$($LFS getstripe -I2 -c $file)"
 573         [ $count -ne 1 ] && $LFS getstripe -I2 $file &&
 574                 error "$file: component 2 doesn't have 1 stripe_count"
 575         count="$($LFS getstripe -I4 -c $file)"
 576         [ $count -ne 2 ] && $LFS getstripe -I4 $file &&
 577                 error "$file: component 4 doesn't have 2 stripe_count"
 578
 579         #check --stripe-size inheritance
 580         local size
 581         size="$($LFS getstripe -I2 -S $file)"
 582         [ $size -ne $((1024*1024)) ] && $LFS getstripe -I2 $file &&
 583                 error "$file: component 2 doesn't have 1M stripe_size"
 584         size="$($LFS getstripe -I4 -S $file)"
 585         [ $size -ne $((1024*1024*2)) ] && $LFS getstripe -I4 $file &&
 586                 error "$file: component 4 doesn't have 2M stripe_size"
 587
 588         return 0
 589 }
 590 run_test 14 "Verify setstripe poolname/stripe_count/stripe_size inheritance"
 591
 592 test_15() {
 593         local parent=$DIR/$tdir
 594
 595         rm -fr $parent
 596         test_mkdir $parent
 597
 598         $LFS setstripe -d $parent || error "delete default layout"
 599
 600         $LFS setstripe -E 1M -S 1M -E 10M -E eof $parent/f1 || error "create f1"
 601         $LFS setstripe -E 4M -E 20M -E eof $parent/f2 || error "create f2"
 602         test_mkdir $parent/subdir
 603         $LFS setstripe -E 6M -S 1M -E 30M -E eof $parent/subdir ||
 604                 error "setstripe to subdir"
 605         $LFS setstripe -E 8M -E eof $parent/subdir/f3 || error "create f3"
 606         $LFS setstripe -c 1 $parent/subdir/f4 || error "create f4"
 607
 608         # none
 609         local found=$($LFS find --component-start +2M -E -15M $parent | wc -l)
 610         [ $found -eq 0 ] || error "start+2M, end-15M, $found != 0"
 611
 612         # f2, f3
 613         found=$($LFS find --component-start +2M -E -35M $parent | wc -l)
 614         [ $found -eq 2 ] || error "start+2M, end-35M, $found != 2"
 615
 616         # subdir
 617         found=$($LFS find --component-start +4M -E -eof $parent | wc -l)
 618         [ $found -eq 1 ] || error "start+4M, end-eof, $found != 1"
 619
 620         local flg_opts="--component-flags init"
 621         # none
 622         found=$($LFS find --component-start 1M -E 10M $flg_opts $parent | wc -l)
 623         [ $found -eq 0 ] ||
 624                 error "before write: start=1M, end=10M, flag=init, $found != 0"
 625
 626         dd if=/dev/zero of=$parent/f1 bs=1M count=2 ||
 627                 error "dd $parent/f1 failed"
 628
 629         # f1
 630         found=$($LFS find --component-start 1M -E 10M $flg_opts $parent | wc -l)
 631         [ $found -eq 1 ] ||
 632                 error "after write: start=1M, end=10M, flag=init, $found != 1"
 633
 634         local ext_opts="--component-start -1M -E +5M"
 635         # parent, subdir, f3, f4
 636         found=$($LFS find $ext_opts $parent | wc -l)
 637         [ $found -eq 4 ] || error "start-1M, end+5M, $found != 4"
 638
 639         local cnt_opts="--component-count +2"
 640         # subdir
 641         found=$($LFS find $ext_opts $cnt_opts $parent | wc -l)
 642         [ $found -eq 1 ] || error "start-1M, end+5M, count+2, $found != 1"
 643
 644         # none
 645         found=$($LFS find $ext_opts $cnt_opts $flg_opts $parent | wc -l)
 646         [ $found -eq 0 ] ||
 647                 error "start-1M, end+5M, count+2, flag=init, $found != 0"
 648
 649         # f3, f4
 650         found=$($LFS find $ext_opts ! $cnt_opts $flg_opts $parent | wc -l)
 651         [ $found -eq 2 ] ||
 652                 error "start-1M, end+5M, !count+2, flag=init, $found != 2"
 653 }
 654 run_test 15 "Verify component options for lfs find"
 655
 656 test_16() {
 657         [ $OSTCOUNT -lt 2 ] && skip "needs >= 2 OSTs"
 658
 659         local file=$DIR/$tdir/$tfile
 660         local dir=$DIR/$tdir/dir
 661         local temp=$DIR/$tdir/template
 662         rm -rf $DIR/$tdir
 663         test_mkdir $DIR/$tdir
 664
 665         #####################################################################
 666         #                           1. PFL file
 667         # set stripe for source file
 668         $LFS setstripe -E1m -S 1M -c2 -o0,1 -E2m -c2 -E3m -o1,0 -E4m -c1 -E-1 \
 669                 $file || error "Create $file failed"
 670
 671         echo "1. PFL file"
 672         verify_yaml_layout $file $file.copy $temp "1. PFL file"
 673
 674         #####################################################################
 675         #                           2. plain file
 676         # set stripe for source file
 677         rm -f $file
 678         $LFS setstripe -c2 -o0,1 -i1 $file || error "Create $file failed"
 679
 680         rm -f $file.copy
 681         echo "2. plain file"
 682         verify_yaml_layout $file $file.copy $temp "2. plain file"
 683
 684         #####################################################################
 685         #                           3. PFL dir
 686         # set stripe for source dir
 687         test_mkdir $dir
 688         $LFS setstripe -E1m -S 1M -c2 -E2m -c1 -E-1 $dir ||
 689                 error "setstripe $dir failed"
 690
 691         test_mkdir $dir.copy
 692         echo "3. PFL dir"
 693         verify_yaml_layout $dir $dir.copy $temp.dir "3. PFL dir"
 694
 695         #####################################################################
 696         #                           4. plain dir
 697         # set stripe for source dir
 698         $LFS setstripe -c2 -i-1 $dir || error "setstripe $dir failed"
 699
 700         echo "4. plain dir"
 701         verify_yaml_layout $dir $dir.copy $temp.dir "4. plain dir"
 702 }
 703 run_test 16 "Verify setstripe/getstripe with YAML config file"
 704
 705 test_17() {
 706         [ $OSTCOUNT -lt 2 ] && skip "needs >= 2 OSTs"
 707         local file=$DIR/$tdir/$tfile
 708         test_mkdir -p $DIR/$tdir
 709         rm -f $file
 710
 711         $LFS setstripe -E 1M -S 1M -E 2M -c 2 -E -1 -c -1 $file ||
 712                 error "Create $file failed"
 713
 714         local s1=$($LFS getstripe -I1 -v $file | awk '/lcme_size:/{print $2}')
 715         local s2=$($LFS getstripe -I2 -v $file | awk '/lcme_size:/{print $2}')
 716         local s3=$($LFS getstripe -I3 -v $file | awk '/lcme_size:/{print $2}')
 717         echo "1st init: comp size 1:$s1 2:$s2 3:$s3"
 718
 719         # init 2nd component
 720         $TRUNCATE $file $((1024*1024+1))
 721         local s1n=$($LFS getstripe -I1 -v $file | awk '/lcme_size:/{print $2}')
 722         local s2n=$($LFS getstripe -I2 -v $file | awk '/lcme_size:/{print $2}')
 723         echo "2nd init: comp size 1:$s1n 2:$s2n 3:$s3"
 724
 725         [ $s1 -eq $s1n ] || error "1st comp size $s1 should == $s1n"
 726         [ $s2 -lt $s2n ] || error "2nd comp size $s2 should < $s2n"
 727
 728         # init 3rd component
 729         $TRUNCATE $file $((1024*1024*2+1))
 730         s1n=$($LFS getstripe -I1 -v $file | awk '/lcme_size:/{print $2}')
 731         s2n=$($LFS getstripe -I2 -v $file | awk '/lcme_size:/{print $2}')
 732         local s3n=$($LFS getstripe -I3 -v $file | awk '/lcme_size:/{print $2}')
 733         echo "3rd init: comp size 1:$s1n 2:$s2n 3:$s3n"
 734
 735         [ $s1 -eq $s1n ] || error "1st comp size $s1 should == $s1n"
 736         [ $s2 -lt $s2n ] || error "2nd comp size $s2 should < $s2n"
 737         [ $s3 -lt $s3n ] || error "3rd comp size $s3 should < $s3n"
 738 }
 739 run_test 17 "Verify LOVEA grows with more component inited"
 740
 741 check_distribution() {
 742         local file=$1
 743         local objs
 744         local ave
 745         local obj_min_one=$((OSTCOUNT - 1))
 746
 747         objs=$($LFS getstripe $file |
 748                 awk '/l_ost_idx:/ { print $5 }' | wc -l)
 749         let ave=$((objs / OSTCOUNT))
 750
 751         # collect objects per OST distribution
 752         $LFS getstripe $file | awk '/l_ost_idx:/ { print $5 }' | tr -d "," |
 753                 (inuse=( $(for i in $(seq 0 $obj_min_one); do echo 0; done) )
 754                 while read O; do
 755                         let inuse[$O]=$((1 + ${inuse[$O]}))
 756                 done;
 757
 758                 # verify object distribution varies no more than +-1
 759                 for idx in $(seq 0 $obj_min_one); do
 760                         let dif=$((${inuse[$idx]} - ave))
 761                         let dif=${dif#-}
 762                         if [ "$dif" -gt 1 ]; then
 763                                 echo "OST${idx}: ${inuse[$idx]} objects"
 764                                 error "bad distribution on OST${idx}"
 765                         fi
 766                 done)
 767 }
 768
 769 test_18() {
 770         local file1=$DIR/${tfile}-1
 771         local file2=$DIR/${tfile}-2
 772         local file3=$DIR/${tfile}-3
 773
 774         rm -f $file1 $file2 $file3
 775
 776         $LFS setstripe -E 1m -S 1m $file1 ||
 777                 error "Create $file1 failed"
 778         $LFS setstripe -E 1m -S 1m $file2 ||
 779                 error "Create $file2 failed"
 780         $LFS setstripe -E 1m -S 1m $file3 ||
 781                 error "Create $file3 failed"
 782
 783         local objs=$((OSTCOUNT+1))
 784         for comp in $(seq 1 $OSTCOUNT); do
 785                 $LFS setstripe --component-add -E $((comp+1))M -c 1 $file1 ||
 786                         error "Add component to $file1 failed 2"
 787                 $LFS setstripe --component-add -E $((comp+1))M -c 1 $file2 ||
 788                         error "Add component to $file2 failed 2"
 789                 $LFS setstripe --component-add -E $((comp+1))M -c 1 $file3 ||
 790                         error "Add component to $file3 failed 2"
 791         done
 792
 793         $LFS setstripe --component-add -E -1 -c -1 $file1 ||
 794                 error "Add component to $file1 failed 3"
 795         $LFS setstripe --component-add -E -1 -c -1 $file2 ||
 796                 error "Add component to $file2 failed 3"
 797         $LFS setstripe --component-add -E -1 -c -1 $file3 ||
 798                 error "Add component to $file3 failed 3"
 799
 800         # Instantiate all components
 801         dd if=/dev/urandom of=$file1 bs=1M count=$((objs+1)) ||
 802                 error "dd failed for $file1"
 803         dd if=/dev/urandom of=$file2 bs=1M count=$((objs+1)) ||
 804                 error "dd failed for $file2"
 805         dd if=/dev/urandom of=$file3 bs=1M count=$((objs+1)) ||
 806                 error "dd failed for $file3"
 807
 808         check_distribution $file1
 809         check_distribution $file2
 810         check_distribution $file3
 811
 812 }
 813 run_test 18 "check component distribution"
 814
 815 complete $SECONDS
 816 check_and_cleanup_lustre
 817 exit_status