build/lbuild

   1 #!/bin/bash
   2
   3 # vim:expandtab:shiftwidth=4:softtabstop=4:tabstop=4:
   4
   5 #set -x
   6 shopt -s extdebug
   7
   8 TOPDIR=$PWD
   9
  10 # CVSROOT is inherited from the environment
  11 KERNELDIR=
  12 LINUX=
  13 LUSTRE=
  14 RELEASE=false
  15 # XXX - some recent hacking has pretty much neutered this option.
  16 #       search through this file (and lbuild.old_school -- but that will
  17 #       be going away soon) for "-bb" and see how many places
  18 #       simply don't account for this option
  19 DO_SRC=true
  20 DOWNLOAD=true
  21 TAG=
  22 CANONICAL_TARGET=
  23 TARGET=
  24 TARGET_ARCH=$(uname -m)
  25 TARGET_ARCHS=
  26 TARGET_ARCHS_ALL=$TARGET_ARCH
  27 [ "$TARGET_ARCH" = "i686" ] && TARGET_ARCHS_ALL="i686 i586 i386"
  28 CONFIGURE_FLAGS=
  29 EXTERNAL_PATCHES=
  30 EXTRA_VERSION=
  31 LUSTRE_EXTRA_VERSION=
  32 STAGEDIR=
  33 TMPDIR=${TMPDIR:-"/var/tmp"}
  34 TIMESTAMP=
  35 # XXX - i think these two parameters/arguments/variables need to be
  36 #       cleaned up and merged.  they effectively do the same thing
  37 REUSERPM=
  38 REUSEBUILD=
  39 # what does this do exactly?  does it imply no kernel build?
  40 NORPM=false
  41 LDISKFSRPM=true
  42 SKIPLDISKFSRPM="v1_4_* b1_4"
  43 SMPTYPES="smp bigsmp default ''"
  44 PATCHLESS=false
  45 XEN=false
  46 LINUXOBJ=
  47 DISTRO=
  48 KERNELTREE=
  49 # default to not adding -lustre- into the kernel RPM package names
  50 KERNEL_LUSTRE_NAMING=false
  51
  52 # patchless build
  53 KERNELRPMSBASE=
  54 RPMSMPTYPE=
  55
  56 # from target file
  57 SERIES=
  58 BASE_ARCHS=
  59 BIGMEM_ARCHS=
  60 BOOT_ARCHS=
  61 JENSEN_ARCHS=
  62 SMP_ARCHS=
  63 BIGSMP_ARCHS=
  64 PSERIES64_ARCHS=
  65 UP_ARCHS=
  66
  67 # not in the target file any more
  68 CONFIG=
  69
  70 DATE=$(date)
  71
  72 USE_DATESTAMP=1
  73 RPMBUILD=
  74
  75 OLD_SCHOOL=false
  76
  77 export CC=${CC:-gcc}
  78
  79 # Readlink is not present on some older distributions: emulate it.
  80 readlink() {
  81     local path=$1 ll
  82
  83     if [ -L "$path" ]; then
  84         ll="$(LC_ALL=C ls -l "$path" 2> /dev/null)" &&
  85         echo "${ll/* -> }"
  86     else
  87         return 1
  88     fi
  89 }
  90
  91 cleanup() {
  92
  93     true
  94 }
  95
  96 error() {
  97     local msg="$1"
  98
  99     [ -n "$msg" ] && echo -e "\n${0##*/}: $msg" >&2
 100
 101 }
 102
 103 fatal() {
 104
 105     cleanup
 106     error "$2"
 107     exit $1
 108
 109 }
 110
 111 usage() {
 112     cat <<EOF
 113 Usage: ${0##*/} [OPTION]... [-- <lustre configure options>]
 114
 115   -d CVSROOT
 116     Specifies the CVS Root to use when pulling files from CVS.  The
 117     environment variable \$CVSROOT is used if this option is not
 118     present.
 119
 120   --external-patches=EXTERNAL_PATCHES
 121     Directory similar to lustre/lustre/kernel_patches/ that lbuild should
 122     look for seres and config files in before looking in the lustre
 123     tree.
 124
 125   --extraversion=EXTRAVERSION
 126     Text to use for the rpm release and kernel extraversion.
 127
 128   --timestamp=TIMESTAMP
 129     Date of building lustre in format YYYYMMDDhhmmss
 130
 131   --reuserpm=DIR
 132     Try to reuse old kernel RPMs from DIR
 133
 134   --reusebuild=DIR
 135     Try to reuse old kernel builds from DIR
 136
 137   --kernelrpm=DIR
 138     Path to distro kernel RPM collection
 139
 140   --ccache
 141     Use ccache
 142
 143   --norpm
 144     Do not build RPMs (compile only mode)
 145
 146   --patchless
 147     Build lustre client only
 148
 149   --distro=DISTRO
 150     Which distro using. Autodetect by default
 151
 152   --kerneldir=KERNELDIR
 153     Directory containing Linux source tarballs referenced by target
 154     files.
 155
 156   --kerneltree=KERNELTREE
 157     Directory containing dirs with Linux source tarballs referenced by target
 158     files. Dir names in format kernel version ('2.6.9', etc.)
 159
 160   --linux=LINUX --with-linux=LINUX
 161     Directory of Linux kernel sources.  When this option is used, only
 162     Lustre modules and userspace are built.
 163
 164   --lustre=LUSTRE
 165     Path to an existing lustre source tarball to use instead of
 166     pulling from CVS.
 167
 168   --nodownload
 169     Do not try to download a kernel from downloads.lustre.org
 170
 171   --nosrc
 172     Do not build a .src.rpm, a full kernel patch, or a patched kernel
 173     tarball.
 174
 175   --ldiskfs
 176     Do ldiskfs RPM. Now true by default
 177
 178   --publish
 179     Unused.
 180
 181   --release
 182     Specifies that the files generated do not include timestamps, and
 183     that this is an official release.
 184
 185   --src
 186     Build a .src.rpm, a full kernel patch, and a patched kernel tarball.
 187
 188   --stage=DIR
 189     Directory used to stage packages for release.  RPMs will be placed
 190     more or less in DIR/<target>-<arch>, and the tarball will be
 191     placed in DIR.
 192
 193   --tag=TAG
 194     A CVS branch/tag name to build from when pulling from CVS.
 195
 196   --target=TARGET
 197     The name of the target to build.  The available targets are listed
 198     below.
 199
 200   --target-archs=TARGET_ARCHS
 201     A (space delimited) list of architectures to build.  By default,
 202     all of the archs supported by the TARGET will be built, in
 203     addition to a .src.rpm.  This option can limit those, for machines
 204     that can only build certain archs or if you only want a certain
 205     arch built (for testing, or a one-off kernel).
 206
 207     Also note that by using a non-"base" arch (eg, i386) only kernels
 208     will be built - there will be no lustre-lite-utils package.
 209
 210   --disable-datestamp
 211     Prevents the datestamp flag (-D) from being passed to cvs for
 212     checkouts. This is a workaround for a problem encountered when
 213     using lbuild with tinderbox.
 214
 215   --xen
 216     Builds a Xen domX kernel.
 217
 218 EOF
 219
 220 #   list_targets
 221
 222     fatal "$1" "$2"
 223 }
 224
 225 # canonicalize a relative path
 226 canon_path() {
 227     local PATH="$1"
 228
 229     if [ ! -d "$PATH" ]; then
 230         return 1
 231     fi
 232
 233     pushd "$PATH" >/dev/null || return 1
 234     local CANONPATH=$PWD
 235     popd >/dev/null
 236
 237     echo "$CANONPATH"
 238     return 0
 239 }
 240
 241 check_options() {
 242
 243     if [ "$LUSTRE" ]; then
 244         [ -r "$LUSTRE" ] || \
 245             usage 1 "Could not find Lustre source tarball '$LUSTRE'."
 246     else
 247         [ "$CVSROOT" ] || \
 248             usage 1 "Either specify a CVS Root with -d, or a Lustre source tarball with --lustre."
 249         [ "$TAG" ] || \
 250             usage 1 "A branch/tag name must be specified with --tag when not building from a tarball."
 251     fi
 252
 253     if [ -z "$LINUX" ]; then
 254         [ "$KERNELDIR" -o "$KERNELTREE" ] || \
 255             usage 1 "A kernel directory must be specified with --kerneldir or --kerneltree."
 256
 257         [ -d "$KERNELDIR" -o -d "$KERNELTREE" ] || \
 258             usage 1 "$KERNELDIR and $KERNELTREE are not a directory."
 259
 260         if ! $RELEASE; then
 261             [ "$TAG" ] || \
 262                 usage 1 "When building a snapshot, a tag name must be used."
 263         fi
 264
 265         [ "$TARGET" ] || usage 1 "A target must be specified with --target."
 266 #       TARGET_FILE="$TOPDIR/lustre/kernel_patches/targets/$TARGET.target"
 267 #       [ -r "$TARGET_FILE" ] || \
 268 #               usage 1 "Target '$TARGET' was not found."
 269     fi
 270
 271     case $TARGET in
 272         2.6-rhel5)
 273             CANONICAL_TARGET="rhel5"
 274             ;;
 275         2.6-rhel4)
 276             CANONICAL_TARGET="rhel-2.6"
 277             ;;
 278         2.6-suse)
 279             CANONICAL_TARGET="sles-2.6"
 280             ;;
 281         2.6-sles10)
 282             CANONICAL_TARGET="sles10-2.6"
 283             ;;
 284         2.6-sles11)
 285             CANONICAL_TARGET="sles11"
 286             ;;
 287         hp_pnnl-2.4)
 288             CANONICAL_TARGET="hp-pnnl-2.4"
 289             ;;
 290         2.6-vanilla \
 291             | suse-2.4.21-2 \
 292             | rh-2.4 \
 293             | rhel-2.4 \
 294             | sles-2.4 \
 295             | 2.6-patchless)
 296                 CANONICAL_TARGET="$TARGET"
 297                 ;;
 298     esac
 299
 300     local timestampnodig=$(echo $TIMESTAMP | sed -e s/[0-9]*//g)
 301     [ "$timestampnodig" = "" ] || TIMESTAMP=$(date -d "$DATE" "+%Y%m%d%H%M%S")
 302     local timestamplength="${#TIMESTAMP}"
 303     if [ $timestamplength -eq 12 ]; then
 304         TIMESTAMP="${TIMESTAMP}00"
 305     elif [ $timestamplength -ne 14 ]; then
 306         TIMESTAMP=$(date -d "$DATE" "+%Y%m%d%H%M%S")
 307     fi
 308
 309     RPMBUILD=$(which rpmbuild 2>/dev/null | head -1)
 310     if [ ! "$RPMBUILD" -o "$RPMBUILD" == "" ]; then
 311         RPMBUILD=$(which rpm 2>/dev/null | head -1)
 312         if [ ! "$RPMBUILD" -o "$RPMBUILD" == "" ]; then
 313             usage 1 "Could not find binary for making rpms (tried rpmbuild and rpm)."
 314         fi
 315     fi
 316
 317     if [ -n "$CCACHE" ]; then
 318         which "$DISTCC" 2>/dev/null && export DISTCC RPM_BUILD_NCPUS
 319
 320         if which "$CCACHE" 2>/dev/null; then
 321             local ccache=$(which "$CCACHE")
 322             local bindir="$TOPDIR/bin"
 323
 324             [ -d $bindir ] || mkdir -p $bindir
 325             if [ -d $bindir ]; then
 326                 rm ${bindir}/* > /dev/null 2>&1
 327                 ln -s "$ccache" ${bindir}/ccache
 328                 ln -s "$ccache" ${bindir}/cc
 329                 ln -s "$ccache" ${bindir}/$CC
 330                 export PATH=$bindir:$PATH
 331             fi
 332             export CCACHE && export CC="ccache $CC"
 333             # zero the cache so we can see how effective we are being with it
 334             ccache -z
 335         fi
 336     fi
 337
 338     [ -z "$DISTRO" ] && DISTRO=$(autodetect_distro)
 339 }
 340
 341 # autodetect used Distro
 342 autodetect_distro() {
 343
 344     local name
 345     local version
 346
 347     if [ -f /etc/SuSE-release ]; then
 348         name=sles
 349         version=$(grep ^VERSION /etc/SuSE-release)
 350         version=${version#*= }
 351     elif [ -f /etc/redhat-release ]; then
 352         name=$(head -1 /etc/redhat-release)
 353         version=$(echo "$distroname" |
 354                   sed -e 's/^[^0-9.]*//g' | sed -e 's/[ \.].*//')
 355     fi
 356     if [ -z "$name" -o -z "$version" ]; then
 357         fatal 1 "I don't know how to determine distro type/version.\n" \
 358                 "Either update autodetect_distro() or use the --distro argument"
 359     fi
 360
 361     echo ${name}${version}
 362     return 0
 363
 364 }
 365
 366 uniqify() {
 367
 368     echo $(echo "$*" | xargs -n 1 | sort -u)
 369
 370 }
 371
 372 download_srpm() {
 373     local target=$1
 374     local srpm=$2
 375     local force="${3:-false}"
 376
 377     if $force || [ ! -r "$KERNELDIR/$srpm" ] ||
 378        [ ! -s "$KERNELDIR/$srpm" ]; then
 379         if $DOWNLOAD; then
 380             local location="http://downloads.lustre.org/public/kernels/$target/old"
 381             echo "Downloading $location/$srpm..."
 382             if ! wget -nv "$location/$srpm" -O "$KERNELDIR/$srpm" ||
 383                [ ! -s "$KERNELDIR/$srpm" ]; then
 384                 rm -f $KERNELDIR/$srpm
 385                 fatal 1 "Could not download target $target's kernel SRPM" \
 386                         "$srpm from $location."
 387             fi
 388         else
 389             fatal 1 "$srpm not found in directory $KERNELDIR."
 390         fi
 391     fi
 392
 393 }
 394
 395 download_ofed() {
 396     local force="${1:-false}"
 397
 398     if [ -n "$OFED_VERSION" -a "$OFED_VERSION" != "inkernel" ] &&
 399        ( $force || [ ! -r "$KERNELTREE/OFED-${OFED_VERSION}.tgz" ] ||
 400            [ ! -s "$KERNELTREE/OFED-${OFED_VERSION}.tgz" ] ); then
 401         if $DOWNLOAD; then
 402             local location="http://downloads.lustre.org/public/OFED/"
 403             echo "Downloading $location/OFED-${OFED_VERSION}.tgz..."
 404             if ! wget -nv "$location/OFED-${OFED_VERSION}.tgz" \
 405                 -O "$KERNELTREE/OFED-${OFED_VERSION}.tgz" ||
 406                [ ! -s "$KERNELTREE/OFED-${OFED_VERSION}.tgz" ]; then
 407                 rm -f $KERNELTREE/OFED-${OFED_VERSION}.tgz
 408                 fatal 1 "Could not download OFED-${OFED_VERSION}.tgz" \
 409                         "from downloads.lustre.org."
 410             fi
 411         else
 412             fatal 1 "OFED-${OFED_VERSION}.tgz not found in kernel" \
 413                     "directory $KERNELTREE."
 414         fi
 415     fi
 416
 417 }
 418
 419 load_target() {
 420
 421     EXTRA_VERSION_save="$EXTRA_VERSION"
 422     for patchesdir in "$EXTERNAL_PATCHES" \
 423                       "$TOPDIR/lustre/lustre/kernel_patches"; do
 424         TARGET_FILE="$patchesdir/targets/$TARGET.target"
 425         [ -r "$TARGET_FILE" ] && break
 426     done
 427     [ -r "$TARGET_FILE" ] || fatal 1 "Target $TARGET was not found."
 428
 429     echo "Loading target config file $TARGET.target..."
 430
 431     . "$TARGET_FILE"
 432
 433     # doesn't make any sense to build OFED for xen domX's
 434     if $XEN; then
 435         OFED_VERSION=""
 436     fi
 437
 438     # XXX - set_rpm_smp_type is an ugly undeterministic hack.  it needs to
 439     #       go away and the target just specify the $RPMSMPTYPE
 440     [ -z "$RPMSMPTYPE" ] && set_rpm_smp_type
 441
 442     # CC might have been overwriten in TARGET_FILE
 443     if [[ $CC != ccache\ * ]] && which "$CCACHE" 2>/dev/null; then
 444         export CCACHE && export CC="ccache $CC"
 445     fi
 446
 447     if [ ! "$KERNELTREE" = "" ] && [ -d "$KERNELTREE" ]; then
 448         KERNELDIR="$KERNELTREE/${lnxmaj}"
 449         [ -d "$KERNELDIR" ] || mkdir "$KERNELDIR"
 450     fi
 451
 452     # verify the series is available
 453     if [ "$SERIES" ]; then
 454         for series in $SERIES; do
 455             for patchesdir in "$EXTERNAL_PATCHES" "$TOPDIR/lustre/lustre/kernel_patches"; do
 456                 [ -r "$patchesdir/series/$series" ] && continue 2
 457             done
 458             fatal 1 "Target $TARGET's series $SERIES could not be" \
 459                     "found.\nSearched:\n\t$EXTERNAL_PATCHES/series\n" \
 460                     "\t$TOPDIR/lustre/lustre/kernel_patches/series."
 461         done
 462     fi
 463
 464     # set the location of the .config file
 465     local XENPOSTFIX=""
 466     if $XEN; then
 467         XENPOSTFIX="-xen"
 468     fi
 469
 470     if [ -f $TOPDIR/lustre/lustre/kernel_patches/kernel_configs/kernel-$lnxmaj-$TARGET-$TARGET_ARCH.config ]; then
 471         CONFIG_FILE="$TOPDIR/lustre/lustre/kernel_patches/kernel_configs/kernel-$lnxmaj-$TARGET$XENPOSTFIX-$TARGET_ARCH${RPMSMPTYPE:+-}${RPMSMPTYPE}.config"
 472     fi
 473
 474     local lnxrelnew=${lnxrel//-/_}
 475
 476     # remember the EXTRA_VERSION before we diddle it here
 477     # XXX - we really should not diddle with any values read in from the
 478     #       target file.  if we want to modify a value, we should create
 479     #       a new variable.
 480     PRISTINE_EXTRA_VERSION=$EXTRA_VERSION
 481
 482     if ! $PATCHLESS && [ ! -f "$CONFIG_FILE" ]; then
 483         fatal 1 "Config file for target $TARGET missing from" \
 484                 "$TOPDIR/lustre/lustre/kernel_patches/kernel_configs/."
 485     fi
 486
 487     if [ "$EXTRA_VERSION_save" ]; then
 488         EXTRA_VERSION="$EXTRA_VERSION_save"
 489     elif ! $RELEASE; then
 490         # if there is no patch series, then this is not a lustre specific
 491         # kernel.  don't make it look like one
 492         if [ -n "$SERIES" ]; then
 493             #remove the @VERSION@ (lustre version)
 494 #            EXTRA_VERSION=$(echo $EXTRA_VERSION | sed -e "s/\(.*_lustre\)\..*/\1/")
 495 #            EXTRA_VERSION="${EXTRA_VERSION}-${TAG}.${TIMESTAMP}"
 496             ! ( $PATCHLESS ) && EXTRA_VERSION="${EXTRA_VERSION}.${TIMESTAMP}"
 497         fi
 498     fi
 499     # EXTRA_VERSION=${EXTRA_VERSION//-/_}
 500
 501     ALL_ARCHS="$BASE_ARCHS $BIGMEM_ARCHS $BOOT_ARCHS $JENSEN_ARCHS $SMP_ARCHS $BIGSMP_ARCHS $PSERIES64_ARCHS $UP_ARCHS"
 502
 503     BUILD_ARCHS=
 504     for arch in $(uniqify "$ALL_ARCHS"); do
 505         if [ -z "$TARGET_ARCHS" ] ||
 506            [[ \ $TARGET_ARCHS\  = *\ $arch\ * ]]; then
 507             BUILD_ARCHS="$BUILD_ARCHS $arch"
 508         fi
 509     done
 510     [ "$BUILD_ARCHS" ] || usage 1 "No available target archs to build."
 511     echo "Building for: $BUILD_ARCHS"
 512 }
 513
 514 tarflags() {
 515     local file="$1"
 516
 517     case "$file" in
 518         '')
 519             fatal 1 "tarflags(): File name argument missing."
 520             ;;
 521         *.tar.gz | *.tgz)
 522             echo 'zxf'
 523             ;;
 524         *.tar.bz2)
 525             echo 'jxf'
 526             ;;
 527         *.tar)
 528             echo 'xf'
 529             ;;
 530         *)
 531             fatal 1 "tarflags(): Unrecognized tar extension in file: $1"
 532             ;;
 533     esac
 534
 535 }
 536
 537 untar() {
 538     local file="$1"
 539
 540     echo "Untarring ${file##*/}..."
 541     tar $(tarflags "$file") "$file"
 542
 543 }
 544
 545 unpack_ofed() {
 546
 547     if ! untar "$KERNELTREE/OFED-${OFED_VERSION}.tgz"; then
 548         return 1
 549     fi
 550     [ -d OFED ] || ln -sf OFED-[0-9].[0-9]* OFED
 551
 552 }
 553
 554 unpack_lustre() {
 555
 556     if [ -z "$LUSTRE" ]; then
 557         local DATESTAMP=""
 558
 559         if [ -n "$USE_DATESTAMP" ]; then
 560             DATESTAMP="-D '$DATE'"
 561         fi
 562
 563         local DIRNAME="lustre-$TAG-$TIMESTAMP"
 564
 565         cvs -d "$CVSROOT" -qz3 co $DATESTAMP -d "$DIRNAME" lustre || \
 566             fatal 1 "There was an error checking out toplevel Lustre from CVS."
 567         pushd "$DIRNAME" > /dev/null
 568         ./lustrecvs "$TAG" || \
 569             fatal 1 "There was an error checking out Lustre/Portals/Build from CVS."
 570         echo "Creating lustre tarball..."
 571         sh autogen.sh || fatal 1 "There was an error running autogen.sh."
 572         ./configure --disable-{modules,utils,liblustre,tests,doc} || \
 573             fatal 1 "There was an error running ./configure to create makefiles."
 574         make dist || fatal 1 "There was an error running 'make dist'."
 575         LUSTRE=$PWD/lustre-*.tar.gz
 576         popd > /dev/null
 577     fi
 578
 579     untar "$LUSTRE" || fatal 1 "Error unpacking Lustre tarball"
 580     [ -d lustre ] || ln -sf lustre-[0-9].[0-9]* lustre
 581
 582 }
 583
 584 do_patch_linux() {
 585
 586     local do_patch=${1:-true}
 587
 588     FULL_PATCH="$PWD/lustre-kernel-${TARGET}${EXTRA_VERSION_DELIMITER}${EXTRA_VERSION}.patch"
 589     [ -f "$FULL_PATCH" ] && rm -f "$FULL_PATCH"
 590     $do_patch && pushd linux >/dev/null
 591     for series in $SERIES; do
 592         echo -n "Applying series $series:"
 593         for patchesdir in "$EXTERNAL_PATCHES" "$TOPDIR/lustre/lustre/kernel_patches"; do
 594             [ -r "$patchesdir/series/$series" ] || continue
 595             SERIES_FILE="$patchesdir/series/$series"
 596             for patch in $(<"$SERIES_FILE"); do
 597                 echo -n " $patch"
 598                 PATCH_FILE="$patchesdir/patches/$patch"
 599                 [ -r "$PATCH_FILE" ] || \
 600                     fatal 1 "Patch $patch does not exist in Lustre tree."
 601                 cat "$PATCH_FILE" >> "$FULL_PATCH" || {
 602                     rm -f $FULL_PATCH
 603                     fatal 1 "Error adding patch $patch to full patch."
 604                 }
 605                 if $do_patch; then
 606                     patch -s -p1 < "$PATCH_FILE" || {
 607                         rm -f $FULL_PATCH
 608                         fatal 1 "Error applying patch $patch."
 609                     }
 610                 fi
 611             done
 612             break
 613         done
 614         echo
 615     done
 616     $do_patch && popd >/dev/null
 617     echo "Full patch has been saved in ${FULL_PATCH##*/}."
 618
 619 }
 620
 621 build_lustre() {
 622
 623     cp "$LUSTRE" SOURCES
 624
 625     pushd lustre >/dev/null
 626
 627     echo "Building Lustre RPMs for: $BUILD_ARCHS..."
 628     targets=
 629     for arch in $BUILD_ARCHS; do
 630         targets="--target $arch $targets"
 631     done
 632
 633     local confoptions="--with-linux=${LINUX}"
 634     if $PATCHLESS; then
 635         confoptions="--with-linux=${LINUX} --disable-server"
 636     fi
 637     if [ ! "$LINUXOBJ" = "" ]; then
 638         confoptions="$confoptions --with-linux-obj=${LINUXOBJ}"
 639     fi
 640
 641     ./configure $confoptions ${CONFIGURE_FLAGS}
 642     if [ "$?" != "0" ]; then
 643         local saved_config="../config.log.$(date +%s)"
 644         cp config.log $saved_config
 645         chmod a+r $saved_config
 646         echo "Saved config.log is at $saved_config"
 647         cat /proc/mounts
 648         ls -l /proc/$$
 649         pwd
 650         echo "config.log contents:"
 651         cat config.log
 652         popd
 653         return 255
 654     fi
 655
 656     gen_lustre_version
 657
 658     # hack. Somebody move build/lustre.spec to lustre.spec for b1_6
 659     local lustre_spec
 660     [ -f lustre.spec ] && lustre_spec=lustre.spec
 661     [ -f build/lustre.spec ] && lustre_spec=build/lustre.spec
 662
 663     [ -f "$lustre_spec" ] && sed \
 664         -e "s^Release: .*$^Release: $LUSTRE_EXTRA_VERSION^" \
 665         < $lustre_spec \
 666         > ../lustre.spec
 667
 668     local rpmbuildopt='-bb'
 669     if $NORPM; then
 670         rpmbuildopt='-bc'
 671         echo NORPM mode. Only compiling.
 672     fi
 673
 674     # convert the $PATCHLESS boolean to an empty/no-empty boolean
 675     # as silly as this seems, it makes the syntax of the rpmbuild command
 676     # simpler and not need an eval to deal with the quotes in the quotes
 677     local is_patchless=""
 678     if $PATCHLESS; then
 679         is_patchless="yes"
 680     fi
 681     $RPMBUILD $targets $rpmbuildopt ../lustre.spec \
 682         ${is_patchless:+--define "lustre_name lustre-client"} \
 683         --define "_tmppath $TMPDIR" \
 684         --define "_topdir $TOPDIR" || \
 685         fatal 1 "Error building rpms for $BUILD_ARCHS."
 686
 687     popd >/dev/null
 688     ( $(skeep_ldiskfs_rpm $TAG) ) && return
 689
 690     pushd lustre/ldiskfs || return 255
 691     make dist
 692     if [ "$?" != "0" ]; then
 693         popd
 694         return 255
 695     fi
 696     cp lustre-ldiskfs*.tar.gz $TOPDIR/SOURCES
 697
 698     gen_lustre_version
 699
 700     local ldiskfs_spec=lustre-ldiskfs.spec
 701     [ -f "$ldiskfs_spec" ] && sed \
 702     -e "s^Release: .*$^Release: $LUSTRE_EXTRA_VERSION^" \
 703     < $ldiskfs_spec \
 704     > ../lustre-ldiskfs.spec
 705
 706     $RPMBUILD $targets $rpmbuildopt ../lustre-ldiskfs.spec \
 707         --define "_tmppath /var/tmp" \
 708         --define "_topdir $TOPDIR"
 709     if [ "$?" != "0" ]; then
 710         popd
 711         return 255
 712     fi
 713
 714     if $DO_SRC; then
 715             $RPMBUILD -bs ../lustre-ldiskfs.spec \
 716             --define "_tmppath /var/tmp" \
 717             --define "_topdir $TOPDIR"
 718         if [ "$?" != "0" ]; then
 719             popd
 720             return 255
 721         fi
 722     fi
 723     popd
 724
 725 }
 726
 727 stage() {
 728
 729     [ "$STAGEDIR" ] || return 0
 730
 731     for arch in $BUILD_ARCHS; do
 732         rpmdir="${STAGEDIR}/${CANONICAL_TARGET}-${arch}"
 733         echo "${0##*/}: Copying RPMs into ${rpmdir}"
 734         mkdir -p "${rpmdir}"
 735         cp -v RPMS/${arch}/*.rpm "${rpmdir}"
 736         if [ -d RPMS/noarch ]; then
 737             cp -v RPMS/noarch/*.rpm "${rpmdir}"
 738         fi
 739     done
 740
 741     cp -v "$LUSTRE" "$STAGEDIR"
 742
 743 }
 744
 745 #check if we need to build separate ldiskfs RPM
 746 skeep_ldiskfs_rpm() {
 747         local tag="$1"
 748
 749         local skip=false
 750
 751         if ! $LDISKFSRPM; then
 752             skip=true
 753         elif $PATCHLESS; then
 754             skip=true
 755         else
 756             for skiptag in $SKIPLDISKFSRPM; do
 757                 [[ $tag == $skiptag ]] && skip=true && break
 758             done
 759         fi
 760
 761         pushd $TOPDIR/BUILD/lustre-[1-9]* >/dev/null
 762         grep -q '^SERVER_TRUE[ \t]=[ \t]#$' autoMakefile && skip=true
 763         popd >/dev/null
 764
 765         echo $skip
 766
 767 }
 768
 769 #generate LUSTRE_EXTRA_VERSION from EXTRA_VERSION
 770 gen_lustre_version() {
 771
 772     LUSTRE_EXTRA_VERSION="${lnxmaj}${EXTRA_VERSION_DELIMITER}${EXTRA_VERSION}${TARGET_DELIMITER}${RPMSMPTYPE}"
 773     LUSTRE_EXTRA_VERSION=${LUSTRE_EXTRA_VERSION//-/_}
 774
 775 }
 776
 777 set_rpm_smp_type() {
 778
 779     local infact_arch="${TARGET_ARCH}"
 780
 781     RPMSMPTYPE=""
 782     [ "$infact_arch" == "i586" ] && infact_arch="i686"
 783
 784     local smp_type
 785     for smp_type in $SMP_ARCHS; do
 786         [ $infact_arch == $smp_type ] && RPMSMPTYPE=smp && break
 787     done
 788
 789     for smp_type in $BIGSMP_ARCHS; do
 790         [ $infact_arch == $smp_type ] && RPMSMPTYPE=bigsmp && break
 791     done
 792
 793     for smp_type in $DEFAULT_ARCHS; do
 794         [ $infact_arch == $smp_type ] && RPMSMPTYPE=default && break
 795     done
 796
 797 }
 798
 799 # This function takes a linux source pool and digs out the linux release
 800 # from it
 801 find_linux_release() {
 802     local SRCDIR="$1"
 803
 804     local LINUXRELEASEHEADER=$SRCDIR/include/linux/version.h
 805     if [ -s $SRCDIR/include/linux/utsrelease.h ]; then
 806         LINUXRELEASEHEADER=$SRCDIR/include/linux/utsrelease.h
 807     fi
 808
 809     sed -ne 's/#define UTS_RELEASE "\(.*\)"$/\1/p' $LINUXRELEASEHEADER
 810
 811 }
 812
 813 # XXX this needs to be re-written as a wrapper around find_rpm
 814 #     or just gotten rid of.  :-)
 815 find_linux_rpm() {
 816     local prefix="$1"
 817     local delimiter=${2:-"-"}
 818
 819     local pathtorpms="${KERNELRPMSBASE}/${lnxmaj}/${DISTRO}"
 820     [ -d $pathtorpms ] || return 255
 821
 822     local kernelbinaryrpm rpmfile
 823     local wanted_kernel="${lnxmaj}${delimiter}${lnxrel}"
 824
 825     local arch ret=1
 826     for arch in $TARGET_ARCHS_ALL; do
 827         local found_rpm="" rpm
 828         for rpm in ${pathtorpms}/${arch}/*.rpm; do
 829             if rpm -q --provides -p "$rpm" | grep -q "kernel${prefix} = $wanted_kernel"; then
 830                 found_rpm="$rpm"
 831                 ret=0
 832                 break
 833             fi
 834         done
 835         [ -f "$found_rpm" ] && break
 836     done
 837
 838     echo "$found_rpm"
 839     return $ret
 840
 841 }
 842
 843 # unpack kernel(/source/devel) RPM
 844 #
 845 # This function and it's setting of $LINUX and $LINUXOBJ is a total hack that
 846 # needs to completely refactored.  It completely ingores that $BUILD_ARCHS may
 847 # contain a list of arches for which rpmbuild commands (including the one for
 848 # lustre itself)
 849 unpack_linux_devel_rpm() {
 850     local kernelrpm="${1}"
 851     # it's worth noting that neither sles10 nor rhel5 appear to use their
 852     # extra_version delimiter for the dirname under /usr/src, so we could
 853     # probably just get rid of this parameter
 854     local delimiter=${2:-"-"}
 855
 856     [ -f "$kernelrpm" ] || return 255
 857     [ -d $TOPDIR/reused ] || mkdir $TOPDIR/reused || return 255
 858
 859     pushd $TOPDIR/reused || return 255
 860
 861     if ! rpm2cpio < "$kernelrpm" | cpio -id > /dev/null 2>&1; then
 862         return 255
 863     fi
 864
 865     # call a distro specific hook, if available
 866     if type -p unpack_linux_devel_rpm-$DISTRO; then
 867         unpack_linux_devel_rpm-$DISTRO "$kernelrpm"
 868     fi
 869
 870     popd
 871
 872     find_linux_devel_paths $TOPDIR/reused
 873
 874     return 0
 875
 876 }
 877
 878 # XXX - this rhel/sles goop needs abstracting out into the
 879 #       lbuild-{rhel5,sles10} method files
 880 find_linux_devel_paths() {
 881     local path="$1"
 882
 883     local RC=0
 884
 885     pushd $path
 886         # RHEL-style and SLES-style rpms
 887         # XXX - until bug 19336 cleans this up, we need to extricate the
 888         #       ${lnxmin}- from the $lnxrel
 889         local paths="kernels/${lnxmaj}${lnxmin}${delimiter}${lnxrel}-${TARGET_ARCH} linux-${lnxmaj}${lnxmin}${delimiter}${lnxrel##${lnxmin#.}-}"
 890
 891         local path
 892         for path in $paths; do
 893             local src='usr/src'
 894
 895             if [ -d "$src/$path/" ]; then
 896                 LINUX="$(pwd)/$src/$path"
 897             fi
 898             # SLES has a separate -obj tree
 899             if [ -d "$src/${path}-obj" ]; then
 900                 local src="$src/${path}-obj"
 901                 local objects="$TARGET_ARCH/$RPMSMPTYPE"
 902
 903                 # Novell, are you *TRYING* to make life hard for me?
 904                 if [ -d "$src/powerpc" ]; then
 905                     objects="powerpc/$TARGET_ARCH"
 906                 elif [ $TARGET_ARCH == 'i686' ]; then
 907                     objects="i386/$RPMSMPTYPE"
 908                 fi
 909
 910                 LINUXOBJ="$(pwd)/$src/$objects"
 911             fi
 912         done
 913         if [ -z "$LINUX" ]; then
 914             RC=255
 915         else
 916             # dig out the release version
 917             LINUXRELEASE=$(find_linux_release ${LINUXOBJ:-$LINUX})
 918             if [ -z "$LINUXRELEASE" ]; then
 919                 echo "Failed to find linux release in ${LINUXOBJ:-$LINUX}"
 920                 RC=255
 921             fi
 922         fi
 923     popd
 924     return $RC
 925 }
 926
 927 build_kernel_ib() {
 928     # build kernel-ib{,-devel}
 929     # some I/B drivers are architecture dependent and kernel-ib's configure
 930     # does not figure it out for us ~sigh~
 931     local configure_options=""
 932     case "$TARGET_ARCH" in
 933         x86_64 | ia64)
 934             configure_options="--with-ipath_inf-mod"
 935             ;;
 936         ppc64)
 937             configure_options="--with-ipath_inf-mod --with-ehca-mod"
 938             ;;
 939     esac
 940     local K_SRC="K_SRC"
 941     # ofed 1.3 had a bug in the rpm spec
 942     if [ "$OFED_VERSION" = "1.3" ]; then
 943         K_SRC="KSRC"
 944     fi
 945     $RPMBUILD --rebuild --define 'build_kernel_ib 1' --define 'build_kernel_ib_devel 1' \
 946               --define "_topdir ${TOPDIR}" --target ${TARGET_ARCH} \
 947               --define "KVERSION ${LINUXRELEASE}" \
 948               --define "$K_SRC ${LINUXOBJ:-${LINUX}}" \
 949               --define "LIB_MOD_DIR /lib/modules/${LINUXRELEASE}/updates" \
 950               --define "configure_options --without-quilt --with-core-mod --with-user_mad-mod --with-user_access-mod --with-addr_trans-mod --with-srp-target-mod --with-core-mod --with-mthca-mod --with-mlx4-mod --with-mlx4_en-mod --with-cxgb3-mod --with-nes-mod --with-ipoib-mod --with-sdp-mod --with-srp-mod --with-rds-mod --with-iser-mod --with-qlgc_vnic-mod --with-madeye-mod $configure_options" ${TOPDIR}/OFED/SRPMS/ofa_kernel-*.src.rpm
 951
 952     if [ ${PIPESTATUS[0]} != 0 ]; then
 953         fatal 1 "Error building kernel-ib"
 954     fi
 955
 956 }
 957
 958 store_for_reuse() {
 959         local articles="$1"
 960         local module="$2"
 961         local location="$3"
 962         local signature="$4"
 963         local use_links="$5"
 964
 965         local linkflag=""
 966         if $use_links; then
 967             linkflag="l"
 968         fi
 969
 970         location="$location"/"$signature"/"$module"
 971         mkdir -p "$location"
 972         # the cleanup script removes any directory that doesn't have a
 973         # .lastused, so let's try to prevent that as soon as we can
 974         # this solution still slightly racy with the cleanup script
 975         # but the race is a lot tighter now
 976         touch -t 197001010000 "$location/.lastused"
 977         ## use eval/echo here to make sure shell expansions are performed
 978         #if ! cp -a${linkflag} $(eval echo $articles) "$location"; then
 979         local article
 980         for article in $(eval echo $articles); do
 981             if ! cp -a${linkflag} "$article" "$location"; then
 982                 error "Failed to copy \"$article\" to \"$location\" in store_for_reuse()"
 983                 # rename the cache location so that it's not cached
 984                 # product, but is around for analysis
 985                 mv "$location"{,-bad-$(date +%s)} ||
 986                     error "failed to clean up a failed cache attempt" \
 987                           "in \"$location\" -- manual cleanup will be" \
 988                           "necessary"
 989                 return 1
 990             fi
 991         done
 992
 993         # flag the cache as complete (i.e. in case lbuild was previously
 994         # interrupted while caching)
 995         touch "$location/.lastused"
 996
 997         return 0
 998
 999 }
1000
1001 reuse() {
1002     local module="$1"
1003     local dest="$2"
1004     local use_links="${3:-false}"
1005     local signature="$4"
1006
1007     if [ -n "$REUSEBUILD" ] && [ -d "$REUSEBUILD/$signature/$module" ]; then
1008         if [ ! -f "$REUSEBUILD/$signature/$module/.lastused" ]; then
1009             # the .lastused flag is populated at the end of the caching to
1010             # signal that the caching was completeld.  if that flag is not
1011             # there, then the cache is invalid (and should be removed in fact)
1012             mv "$REUSEBUILD/$signature/$module"{,-bad-$(date +%s)} ||
1013                 fatal 1 "failed to clean up a bad cache in location" \
1014                       "\"$REUSEBUILD/$signature/$module\" -- manual cleanup" \
1015                       "will be necessary"
1016             return 1
1017         fi
1018
1019         # so that we know how stale this entry is
1020         touch $REUSEBUILD/$signature/$module/.lastused
1021
1022         if $use_links; then
1023             if ls $REUSEBUILD/$signature/$module/* >/dev/null 2>&1; then
1024                 cp -al $REUSEBUILD/$signature/$module/* $dest/
1025             fi
1026         else
1027             # copying is pretty heavy
1028             # cp -a $REUSEBUILD/$signature/$module/* $dest/
1029             # do some creative symlinking instead
1030             local dir
1031             for dir in BUILD SRPMS SPECS; do
1032                 if ls $REUSEBUILD/$signature/$module/$dir/* >/dev/null 2>&1; then
1033                     ln -s $REUSEBUILD/$signature/$module/$dir/* $dest/$dir
1034                 fi
1035             done
1036             # sources have to be copied by file because we need SOURCES to
1037             # be a dir we can write into
1038 # could overrun ls's arg list here
1039             #ls $REUSEBUILD/$signature/$module/SOURCES/* |
1040             find $REUSEBUILD/$signature/$module/SOURCES/ -type f |
1041                 xargs ln -t $dest/SOURCES -s
1042
1043             # same for RPMS/* dirs
1044 # could overrun ls's arg list here
1045             #ls $REUSEBUILD/$signature/$module/RPMS/$TARGET_ARCH/* |
1046             local dir
1047             for dir in $REUSEBUILD/$signature/$module/RPMS/*; do
1048                 mkdir -p $dest/RPMS/${dir##*/}
1049                 find $dir -type f |
1050                   xargs ln -t $dest/RPMS/${dir##*/} -s
1051             done
1052
1053         fi
1054         return 0
1055     else
1056         return 1
1057     fi
1058 }
1059
1060 basearch() {
1061     local arch="$1"
1062
1063     if [[ $arch = i[3456]86 ]]; then
1064         echo "i386"
1065     else
1066         echo "$arch"
1067     fi
1068
1069 }
1070
1071 #
1072 # in a given directory, find the first rpm matching given requirements
1073 #
1074 find_rpm() {
1075     local dir="$1"
1076     local match_type="$2"
1077     local match="$3"
1078
1079     pushd "$dir" > /dev/null || \
1080         fatal 1 "Unable to chdir to directory \"$dir\" in find_rpm()"
1081
1082     local file
1083     for file in $(ls *.rpm); do
1084         if [ ! -f "$file" ]; then
1085             continue
1086         fi
1087         case "$match_type" in
1088             provides)
1089                 # match is any valid ERE (i.e. given to egrep) match
1090                 if rpm -q --provides -p "$file" | egrep -q "$match"; then
1091                     echo "$file"
1092                     popd >/dev/null
1093                     return 0
1094                 fi
1095                 ;;
1096             *)
1097                 popd >/dev/null
1098                 fatal 1 "Unknown match type \"$match_type\" given to find_rpm()"
1099                 ;;
1100         esac
1101     done
1102
1103     popd >/dev/null
1104     return 1
1105 }
1106
1107 build_kernel_with_srpm() {
1108
1109     # need to generate the patch for this target
1110     do_patch_linux false >&2    # sets global $FULL_PATCH (yeah, yuck)
1111
1112     # get an md5sum of the kernel patch + config for reuse check
1113     # XXX really, there needs to be a signature and a CONFIG_FILE per arch
1114     #     in BUILD_ARCHS
1115     local REUSE_SIGNATURE=$({ echo $BUILD_GEN; cat $CONFIG_FILE $TARGET_FILE $FULL_PATCH; } | md5sum | cut -d" " -f1)
1116
1117     # see if we can link to the reuse pool
1118     # XXX - hrm.  i'm not convinced this doesn't belong in the reuse "library"
1119     local CAN_LINK_FOR_REUSE=false
1120     touch $REUSEBUILD/$$
1121     if cp -al $REUSEBUILD/$$ $TOPDIR/; then
1122         CAN_LINK_FOR_REUSE=true
1123     fi
1124     rm $REUSEBUILD/$$
1125
1126     # the extra version string to use for the kernel (which might be a reused
1127     # kernel, remember)
1128     local kernel_extra_version=""
1129     if $REUSERPM && ! reuse kernel "$TOPDIR" "$CAN_LINK_FOR_REUSE" \
1130                                    "$REUSE_SIGNATURE"; then
1131         # nothing cached, build from scratch
1132         if [ ! -r "$KERNELDIR/$KERNEL_SRPM" ]; then
1133             download_srpm "$CANONICAL_TARGET" "$KERNEL_SRPM" >&2
1134         fi
1135
1136         if ! rpm -ivh $KERNELDIR/$KERNEL_SRPM \
1137                   --define "_topdir $TOPDIR" >&2; then
1138             # should we clean this up or leave it for analysis?
1139             #rm -rf $RPMTOPDIR
1140             fatal 1 "Error installing kernel SRPM."
1141         fi
1142
1143         # put the Lustre kernel patch into the RPM build tree
1144         cp $FULL_PATCH $TOPDIR/SOURCES/linux-${lnxmaj}-lustre.patch
1145         prepare_and_build_srpm >&2
1146
1147         # store the resulting kernel RPM build tree for future use
1148         if ! store_for_reuse "$TOPDIR/{SPECS,SOURCES,BUILD,SRPMS,RPMS}" \
1149                              "kernel" "$REUSEBUILD" "$REUSE_SIGNATURE" \
1150                              "$CAN_LINK_FOR_REUSE"; then
1151             error "Failed to store kernel RPMS for reuse"
1152             echo "unknown"
1153             return 1
1154         fi
1155     fi  # build reuse
1156
1157     # figure out the EXTRA_VERSION of the kernel we built or are re-using
1158     local KERNEL_RPM
1159     if ! KERNEL_RPM=$(find_rpm "$TOPDIR/RPMS/$TARGET_ARCH/" provides "^kernel ="); then
1160         fatal 1 "Failed to find a kernel RPM in $TOPDIR/RPMS/$TARGET_ARCH/"
1161     fi
1162     kernel_extra_version=$(rpm -q --queryformat "%{RELEASE}" -p $TOPDIR/RPMS/$TARGET_ARCH/$KERNEL_RPM)
1163
1164     # should now have the following RPMs
1165     # $TOPDIR/RPMS/$arch/kernel-lustre-2.6.18-53.1.21.el5_lustre.1.6.5.1.$arch.rpm
1166     # $TOPDIR/RPMS/$arch/kernel-lustre-devel-2.6.18-53.1.21.el5_lustre.1.6.5.1.$arch.rpm
1167     # $TOPDIR/RPMS/$arch/kernel-lustre-headers-2.6.18-53.1.21.el5_lustre.1.6.5.1.$arch.rpm
1168     # $TOPDIR/RPMS/$arch/kernel-lustre-debuginfo-common-2.6.18-53.1.21.el5_lustre.1.6.5.1.$arch.rpm
1169     # $TOPDIR/RPMS/$arch/kernel-lustre-debuginfo-2.6.18-53.1.21.el5_lustre.1.6.5.1.$arch.rpm
1170
1171     echo $kernel_extra_version
1172     return 0
1173
1174 }
1175
1176 build_with_srpm() {
1177
1178     if ! $PATCHLESS; then
1179         local kernel_extra_version
1180         if ! kernel_extra_version=$(build_kernel_with_srpm); then
1181             fatal 1 "Failed to build the kernel from it's SRPM"
1182         fi
1183
1184         for arch in $BUILD_ARCHS; do
1185
1186             local kernel_devel_rpm
1187             if ! kernel_devel_rpm=$(find_rpm "$TOPDIR/RPMS/$arch/" provides "^$(devel_kernel_name $KERNEL_LUSTRE_NAMING) ="); then
1188                 fatal 1 "Failed to find a kernel development RPM in $TOPDIR/RPMS/$arch/"
1189             fi
1190
1191             # install the -devel RPM in preparation for the lustre build
1192             # note that the EXTRA_VERSION_DELIMITER is *NOT* used in the
1193             # version of the directory name under /usr/src
1194             if ! lnxrel="$kernel_extra_version" unpack_linux_devel_rpm \
1195                            "$TOPDIR/RPMS/$arch/$kernel_devel_rpm" "-"; then
1196                 fatal 1 "Could not find the Linux tree in $TOPDIR/RPMS/$arch/$kernel_devel_rpm"
1197             fi
1198         done
1199     else
1200         # need to find and unpack the vendor's own kernel-devel for patchless
1201         # client build
1202         local kernelrpm
1203         if ! kernelrpm=$(find_linux_rpm "-$DEVEL_KERNEL_TYPE" ${EXTRA_VERSION_DELIMITER:-"-"}); then
1204             fatal 1 "Could not find the kernel-$DEVEL_KERNEL_TYPE RPM in ${KERNELRPMSBASE}/${lnxmaj}/${DISTRO}"
1205         fi
1206         if ! lnxrel="$lnxrel" unpack_linux_devel_rpm "$kernelrpm" "-"; then
1207             fatal 1 "Could not find the Linux tree in $kernelrpm"
1208         fi
1209     fi
1210
1211     # before lustre, build kernel-ib
1212     if [ -n "$OFED_VERSION" -a "$OFED_VERSION" != "inkernel" ]; then
1213         # see if we can link to the reuse pool
1214         # XXX - hrm.  i'm not convinced this doesn't belong in the reuse "library"
1215         local CAN_LINK_FOR_REUSE=false
1216         touch $REUSEBUILD/$$
1217         if cp -al $REUSEBUILD/$$ $TOPDIR/; then
1218             CAN_LINK_FOR_REUSE=true
1219         fi
1220         rm $REUSEBUILD/$$
1221
1222         local REUSE_SIGNATURE=$({ echo "$OFED_VERSION"; echo "$(find_linux_release ${LINUXOBJ:-$LINUX})"; cat "${LINUXOBJ:-${LINUX}}/include/linux/autoconf.h"; } | md5sum | cut -d" " -f1)
1223         if ! reuse ofed "$TOPDIR" "$CAN_LINK_FOR_REUSE" \
1224                         "$REUSE_SIGNATURE"; then
1225             # stash away the existing built articles for a moment
1226             mkdir bak
1227             mv {BUILD,{S,}RPMS,S{OURCE,PEC}S} bak
1228             function mv_back {
1229                 pushd bak
1230                 find . | cpio -pudlm ..
1231                 popd
1232                 rm -rf bak
1233             }
1234             create_rpmbuild_dirs
1235             # build it
1236             build_kernel_ib
1237             if ! store_for_reuse "$TOPDIR/{SPECS,SOURCES,BUILD,SRPMS,RPMS}" \
1238                                  "ofed" "$REUSEBUILD" "$REUSE_SIGNATURE" \
1239                                  "$CAN_LINK_FOR_REUSE"; then
1240                 error "Failed to store OFED RPMS for reuse"
1241                 mv_back
1242                 return 1
1243             fi
1244             # put the stuff we stashed away back
1245             mv_back
1246         fi
1247
1248         pushd "$TOPDIR" >/dev/null
1249         rm -rf kernel-ib-devel
1250         mkdir kernel-ib-devel
1251         cd kernel-ib-devel
1252         # the actual ofed RPMs don't have the -rc$n or -$date string appened that
1253         # might be present on the file
1254         local ofed_version=$(echo $OFED_VERSION |
1255                          sed -re 's/-(20[0-9]{6,6}-[0-9]{4,4}|rc[0-9]*)$//')
1256         local rpm=$(ls $TOPDIR/RPMS/*/kernel-ib-devel-${ofed_version}-${LINUXRELEASE//-/_}.*.rpm)
1257         rpm2cpio -itv < $rpm | cpio -id
1258         CONFIGURE_FLAGS="--with-o2ib=$(pwd)/usr/src/ofa_kernel ${CONFIGURE_FLAGS}"
1259         popd >/dev/null
1260     fi
1261
1262     # now build Lustre
1263     if build_lustre; then
1264         # the build worked.  resolve any symlinked files (i.e. from reuse)
1265         # in RPMS/$arch to real files so that that that huge mess of
1266         # complication knows as LTS can copy them yet somewhere else.
1267         # is it any wonder this whole process is so damn so?  anyone ever
1268         # heard of hardlinks?  it this cool new thing that allows you save
1269         # tons of time and space by creating... well you can go read about
1270         # them if you have not heard about them yet.
1271         # can i say how much the implemenation of all of this really impedes
1272         # RPM reuse?
1273         pushd RPMS/$TARGET_ARCH
1274             for file in *; do
1275                 if [ -h $file ]; then
1276                     cp $file foo
1277                     mv foo $file
1278                 fi
1279             done
1280         popd
1281     else
1282         return 1
1283     fi
1284
1285 }
1286
1287 create_rpmbuild_dirs() {
1288
1289     [ -d RPMS ] || mkdir RPMS
1290     for arch in $BUILD_ARCHS; do
1291         if [[ $arch = i?86 ]]; then
1292             # some stupidity in the sles11 kernel spec requires an RPMS/i386
1293             # even if the target arch is i686
1294             [ -d RPMS/i386 ] || mkdir RPMS/i386
1295         fi
1296         [ -d RPMS/$arch ] || mkdir RPMS/$arch
1297     done
1298     [ -d BUILD ] || mkdir BUILD
1299     [ -d SOURCES ] || mkdir SOURCES
1300     [ -d SPECS ] || mkdir SPECS
1301     [ -d SRPMS ] || mkdir SRPMS
1302
1303 }
1304
1305 new_list() {
1306
1307     echo ""
1308
1309 }
1310
1311 add_list() {
1312     local list="$1"
1313     local item="$2"
1314
1315     echo "$list $item"
1316
1317 }
1318
1319 is_list_member() {
1320     local list="$1"
1321     local item="$2"
1322
1323     [[ $list\  == *\ $item\ * ]]
1324
1325 }
1326
1327 #########################################################################
1328 # Generate a backtrace through the call stack.
1329 #
1330 # Input: None
1331 # Output: None
1332 #########################################################################
1333 backtrace() {
1334     local strip=${1:-1}
1335
1336     local funcname="" sourcefile="" lineno="" n
1337
1338     echo "Call stack: (most recent first)"
1339     for (( n = $strip ; n < ${#FUNCNAME[@]} ; ++n )) ; do
1340         funcname=${FUNCNAME[$n - 1]}
1341         sourcefile=$(basename ${BASH_SOURCE[$n]})
1342         lineno=${BASH_LINENO[$n - 1]}
1343         # Display function arguments
1344         if [[ ! -z "${BASH_ARGV[@]}" ]]; then
1345             local args newarg j p=0
1346             for (( j = ${BASH_ARGC[$n - 1]}; j > 0; j-- )); do
1347                 newarg=${BASH_ARGV[$j + $p - 1]}
1348                 args="${args:+${args} }'${newarg}'"
1349             done
1350             let p+=${BASH_ARGC[$n - 1]}
1351         fi
1352         echo "  ${funcname} ${args:+${args} }at ${sourcefile}:${lineno}"
1353     done
1354
1355     echo
1356     echo "BEGIN BACKTRACE"
1357
1358     #echo ${BASH_LINENO[*]}
1359     #echo ${BASH_SOURCE[*]}
1360     #echo ${FUNCNAME[*]}
1361     local i=$((${#FUNCNAME[@]} - 1))
1362     while [ $i -ge 0 ]; do
1363         local SOURCELINE="${BASH_SOURCE[$i + 1]}:${BASH_LINENO[$i]}"
1364         # Can't figure out how to get function args from other frames...
1365         local FUNCTION="${FUNCNAME[$i]}()"
1366         echo "$SOURCELINE:$FUNCTION"
1367         i=$((i - 1))
1368     done
1369
1370     echo "END BACKTRACE"
1371
1372     echo $BACKTRACE
1373
1374 }
1375
1376 [ -r ~/.lbuildrc ] && . ~/.lbuildrc
1377
1378 options=$(getopt -o d:D:h -l kerneltree:,distro:,kernelrpm:,reusebuild:,patchless,ldiskfs,ccache,reuse:,norpm,disable-datestamp,external-patches:,timestamp:,extraversion:,kerneldir:,linux:,lustre:,nodownload,nosrc,publish,release,src,stage:,tag:,target:,target-archs:,with-linux:,xen -- "$@")
1379
1380 if [ $? != 0 ]; then
1381     usage 1
1382 fi
1383
1384 eval set -- "$options"
1385
1386 while [ "$1" ]; do
1387     case "$1" in
1388         '')
1389             usage 1
1390             ;;
1391         --ccache)
1392             CCACHE='ccache'
1393             shift
1394             ;;
1395         -d)
1396             CVSROOT=$2
1397             shift 2
1398             ;;
1399         -D)
1400             DATE=$2
1401             shift 2
1402             ;;
1403         --external-patches)
1404             EXTERNAL_PATCHES=$2
1405             shift 2
1406             ;;
1407         --extraversion)
1408             EXTRA_VERSION=$2
1409             shift 2
1410             ;;
1411         --help | -h)
1412             usage 0
1413             ;;
1414         --kerneldir)
1415             KERNELDIR=$2
1416             shift 2
1417             ;;
1418         --kerneltree)
1419             if ! KERNELTREE=$(canon_path "$2"); then
1420                 fatal 1 "Could not determine the canonical location of $2"
1421             fi
1422             shift 2
1423             ;;
1424         --linux | --with-linux)
1425             if ! LINUX=$(canon_path "$2"); then
1426                 fatal 1 "Could not determine the canonical location of $2"
1427             fi
1428             shift 2
1429             ;;
1430         --distro)
1431             DISTRO=$2
1432             shift 2
1433             ;;
1434         --reuserpm)
1435             REUSERPM=$2
1436             shift 2
1437             ;;
1438         --reusebuild)
1439             if ! REUSEBUILD=$(canon_path "$2"); then
1440                 fatal 1 "Could not determine the canonical location of $2"
1441             fi
1442             shift 2
1443             ;;
1444         --norpm)
1445             NORPM=true
1446             shift
1447             ;;
1448         --ldiskfs)
1449             LDISKFSRPM=true
1450             shift
1451             ;;
1452         --patchless)
1453             PATCHLESS=true
1454             shift
1455             ;;
1456         --kernelrpm)
1457             if ! KERNELRPMSBASE=$(canon_path "$2"); then
1458                 fatal 1 "Could not determine the canonical location of $2"
1459             fi
1460             shift 2
1461             ;;
1462         --timestamp)
1463             TIMESTAMP=$2
1464             shift 2
1465             ;;
1466         --lustre)
1467             LUSTRE=$2
1468             shift 2
1469             ;;
1470         --nodownload)
1471             DOWNLOAD=false
1472             shift 1
1473             ;;
1474         --nosrc)
1475             DO_SRC=false
1476             shift 1
1477             ;;
1478         --publish)
1479             shift
1480             ;;
1481         --release)
1482             RELEASE=true
1483             shift
1484             ;;
1485         --src)
1486             DO_SRC=true
1487             shift 1
1488             ;;
1489         --stage)
1490             STAGEDIR=$2
1491             shift 2
1492             ;;
1493         --tag)
1494             TAG=$2
1495             shift 2
1496             ;;
1497         --target)
1498             TARGET=$2
1499             shift 2
1500             ;;
1501         --target-archs)
1502             TARGET_ARCHS=$2
1503             shift 2
1504             ;;
1505         --disable-datestamp)
1506             USE_DATESTAMP=
1507             shift
1508             ;;
1509         --xen)
1510             XEN=true
1511             shift
1512             ;;
1513         --)
1514             shift
1515             CONFIGURE_FLAGS=$@
1516             CONFIGURE_FLAGS="$CONFIGURE_FLAGS --enable-liblustre --enable-liblustre-tests"
1517             break
1518             ;;
1519         *)
1520             usage 1 "Unrecognized option: $1"
1521             ;;
1522     esac
1523 done
1524
1525 check_options
1526
1527 unpack_lustre
1528
1529 load_target
1530 EXTRA_VERSION_DELIMITER=${EXTRA_VERSION_DELIMITER:-"-"}
1531
1532 if [ -n "$OFED_VERSION" -a "$OFED_VERSION" != "inkernel" ]; then
1533     download_ofed
1534     unpack_ofed || fatal 1 "Error unpacking OFED tarball"
1535 fi
1536
1537 # make sure the RPM build environment is set up
1538 create_rpmbuild_dirs
1539
1540 trap '[ -n "$CCACHE" ] && ccache -s' EXIT
1541
1542 # if an unpacked kernel source tree was given on the command line
1543 # just build lustre with it (nothing distro kernel specific here)
1544 if [ -n "$LINUX" ]; then
1545     build_lustre
1546 else
1547     if [ -f "${0%/*}/lbuild-$DISTRO" ]; then
1548         seen_list=$(new_list)
1549         trap '(echo "Untrapped error"
1550 echo
1551 # have we seen this one
1552 echo "checking seen list for ${BASH_SOURCE[0]}:${BASH_LINENO[0]}"
1553
1554 if is_list_member "$seen_list" "${BASH_SOURCE[0]}:${BASH_LINENO[0]}"; then
1555   echo "seen this one already"
1556 else
1557   seen_list=$(add_list "$seen_list" "${BASH_SOURCE[0]}:${BASH_LINENO[0]}")
1558 fi
1559 backtrace
1560 echo
1561 echo "Environment:"
1562 set
1563 ) | tee >(mail -s "Untrapped error at ${BASH_SOURCE[0]##*/}:${BASH_LINENO[0]} on $HOSTNAME" brian@sun.com) >&2' ERR
1564         set -E
1565
1566         source ${0%/*}/lbuild-$DISTRO
1567
1568         build_with_srpm || fatal 1 "Failed to build_with_srpm"
1569     else
1570         source ${0%/*}/lbuild.old_school
1571
1572         old_school_download_kernel
1573
1574         build_success=false
1575         if $PATCHLESS; then
1576             patchless_build_sequence && build_success=true
1577         else
1578             [ "$DISTRO" = "sles9" ] && build_sequence_rpm_reuse && build_success=true
1579             if ! $build_success; then
1580                 build_sequence_reuse && build_success=true
1581                 if ! $build_success; then
1582                     build_sequence && build_success=true
1583                     if $build_success; then
1584                         store_for_reuse || echo "Cannot store for future reuse"
1585                     fi
1586                 fi
1587             fi
1588         fi
1589         ( $build_success ) || fatal 1 "Cannot build lustre"
1590     fi
1591 fi
1592
1593 stage