Add a helper function to abstract the actual location of the UUID, to
avoid the need for changes when UUIDs move around.

Remove redundant inode parameter from mds_fs_journal_data().

Add lustre_fsync() helper function.

Add last_committed, last_rcvd, and last_xid to the RPC mds_body.

Update journal callback patch so that we can tell if it is applied.

Add support for JBD journal callbacks to update MDS last_committed value.
This needs the most recent kernel patch in order to work properly.  If
the kernel patch isn't applied, you will get a message like:

"no journal callback kernel patch, faking it..."

Likewise, ext2 has "fake" support for commit callbacks.

Add callbacks from the JBD (journal) to allow async notification of when
a handle has been committed to disk.

Add client RPC xid to per-client last_rcvd data.  If the MDS dies but the
client lives, the on-disk xid tells the client which operations the MDS
has completed, even if the client never got a reply (hence no last_rcvd #).

Code to update the last_rcvd file within a transaction.

Minor fixups to avoid warnings on 64-bit platforms.

Nice change to the OBD_ALLOC and OBD_FREE macros - it prints the name of
the pointer which is being allocated or freed, to make debugging easier.

The code to read the last_rcvd file at MDS startup.

Don't print out bogus rootfid on error.

Add llcleanup.sh script.  This is the opposite of the llsetup.sh script,
and also needs a config file in order to work.  Some time soon when
network configuration is included, this will be able to do the network
cleanup, unlike the "llmountcleanup.sh" script.

Add in a bit of explanation to the config file documentation.  Also added
some notes about the 'runtests' test.

Update the new test configuration stuff to use the newly implemented obdctl
features (newdev, name2dev FOO, and setup $FOO).  Also changed the "runtests"
script over to using the new configuration setup so that it is easier to run
with both ext2/ext3 MDS and obdext2/obdfilter OBDs.

Fixups to handle error recovery when we are out of memory.  Some of them
need a bit closer inspection, but should be mostly correct.

Allow obdctl to use "$OBDDEV" to resolve a device number in setup.

This required changing the NAME2DEV ioctl so that it didn't change the
currently selected device when it was resolving a name.  Now the NAME2DEV
ioctl only resolves the name, and obdctl selects the returned device
explicitly (to user-space the "name2dev" command works exactly the same).

Cleaned up setup scripts to remove last vestiges of hard-coded device numbers.
Instead we use "setup $OBDDEV" (note that the '$' must be escaped from the
shell if using it in a shell script).

Added nesting of journaled operations to last_rcvd file.  Currently has a
no-op for the last_rcvd update.

Only set up the MDS service after the filesystem-specific stuff is set up.
Still working towards my broken tree - haven't hit the problem yet.

Small start to committing MDS changes.  Testing/committing in separate tree
to ensure they are not the cause of my problems.  This one just adds new
fields into the MDS structs (no functional change).

Change llext3.sh and llrmount.sh to use obdfilter, so that mount/remount
will work properly.  Fixes "fatal - invalid inode" bug Peter reported.

Commit minor cleanups to reduce size of outstanding changes in my tree.

More changes to OBDDEV so that cleanup works properly.

Another change to OBDDEV so that cleanup works properly.

Use debugging macros to aid in tracing.

Remove extraneous RSH_MDS from elan-server.cfg.
Use OBDDEV for llext3.sh setup script, so cleanup works.

Fix symlinks when building a new tree outside the source tree.

- newdev feature in obdctl

Description how to run the tests

Missed one of the "OBDDEV" changes to allow common cleanup in llecho.sh.

Cleanup - avoid extraneous indirection in ost_brw_write_cb().

Minor cleanups, get ready to make statfs not complain.

Add in UUID fields.

Add a couple of helper functions to get ll data from a superblock.

Update scripts to use name2dev.
For OST devices, use "OBDDEV" for all types (ext2obd,filterobd,echo) so that
you can clean them all up the same way.

Clean and restart up before running the removal test.

Use underscores instead of dashes in device environment variables.

Return an error from simple_mkdir() if the target exists and isn't a directory.

Clear the current device in the filehandle if name2dev fails.

64-bit warning fixes.  Someone should take a closer look at ext2_obd.c

Cosmetic cleanup.

Only put the ldlm connection if we are not connected locally.

Add mds_fs_journal_data() method to enable data journaling on last_rcvd file.

Fix minor error in error checking.

Fix MDS dir truncation bug.

- minor further changes to the test script:
 - add a fail function to common.sh to notify user that umount failed

- give all attaches a name.
- clean up llmountcleanup.sh with name2dev
- remove debugging printouts from obdctl

- small changes to name2dev:
  Usage:
    obdctl > attach osc THEOSC
    obdctl > quit
    mount -t lustre_lite -o device=`obdctl name2dev THEOSC` none /mnt/lustre

- free a tiny leak
- temporary fix to runfailure-net
- also add to obdctl the setting of an environment variable when
  setting the name of a device.  Not clear yet if this is useful.

- fix mds_connect memory leak
- install name parameter for jt_attach in obdctl
- add name2dev feature to find device by name

- rename ha_mgr to recovd
- rename connmgr_obd to recovd_obd
- pack fids as part of body_pack/body_unpack
- do body_pack/unpack for both requests and replies
- clean up 3 different groups of constants:
 - PTL_RPC_MSG_ERR/REQUEST -- into _idl: part of lustre_msg
 - PTL_RPC_FL_{TIMEOUT,REPLY...,} -- bitmask part of request->rq_flags
      will control the state machine for recovery somewhat
 - PTL_RPC_TYPE_REQUEST/REPLY -- request->rq_type:
      to determine what kind of packet is being sent
- ptlrpc_error: set the msg type field to an error message, otherwise
  the reply body is accidentally unpacked
- add a c_level field to the connection: the level will control what
  RPC's will go out during recovery and which ones are held up until
  recovery completes. This will be compared with an rq_level field
  (still to be added).
- mdc_connect further finished:
 - it gets the fid of ROOT on the MDS and
 - llite/super.c now uses that as the root inode. Didn't see major
   havoc.
 - the mds has a mds_rootfid field accordingly. This is set in
   mds_prep.

Initialize ldlm_resources at allocation time instead of at ldlm_setup()
time, so we don't oops if ldlm_setup has not been called yet.

It is pretty important that Lustre knows when the DLM for a given service is
running on the local machine.

Use a new ptlrpc_client->cli_lock to protect the cli lists.

- fixed some warnings in the DLM
- fixed the connection reference leak when bulk is used
- fixed, I hope, a race condition with the HA lists that was corrupting memory

The more controversial changes, although my tree finally works:

- if the enqueue_lock RPC doesn't return an immediately granted lock, go to
  sleep
- when the callback RPC is received, wake that process up
- LBUG if we try to free a lock that still has children
- set the completion_ast at the end of local_lock_enqueue, to avoid doing a
  spurious RPC in the case of an immediately granted lock
- removed ldlm_server_conn, in favour of using the MDS/OST connections that
  already exist.
- don't do remote locking RPCs if the lock is managed locally
- fixed some osc_setup error cases
- create a namespace at mount time

The noncontroversial portion of the last few days of changes:

- ENTRY/EXIT/RETURN cleanups
- extraneous header file removal
- made forgetting the 'setup' arguments in MDS/OST less fatal
- added the connection and token to the CONNECT RPC, so that we can do the
  pointer/token connection trick now
- fixed the 60 byte/-60 byte "leak"
- added ptlrpc and ldlm setup to llmount.sh, llrmount.sh, -client, and -server

Add mount_count file to hold the current MDS generation number.  Note that
you cannot read this file from userspace, because it will (mistakenly) think
that this file lives on the OST and LBUG if that inode isn't allocated, or
you will get garbage data.  The kernel code has no problem reading it, of
course.  This LBUG will go away with EAs and/or when we start mounting the
ROOT directory, at which point you will not be able to read the file at all.

Open/create the last_rcvd file for MDS at filesystem mount time and close it
when we unmount the filesystem.  Also check error returns from mkdir on FH
and ROOT directories (ignore EEXIST only).

Fix up thread exit status.  It _should_ be returning 0 from WIFEXITED() when
there was an error (well, according to the wait(2) man page), but instead it
appears to just tell is if this PID has exited or not.

tests/Makefile.am: remove ldaptest.c from build list, it doesn't build
tests/*.sh: add ptlrpc setup to config scripts
tests/runtests: use "sh ll*.sh" in case the script isn't executable

Grab the inode semaphore per VFS locking rules in the MDS reint path.

Optimize write-full-page so that we don't read in a page full of data we
are not going to use.  This should speed up the rewrite tests in iozone.

Split the lustre_get_page() into two functions - lustre_get_page_read()
and lustre_get_page_write().  The first one reads in the page, and the
second one just gets the page locked but without any data.

- new file

- added, may prove useful as the first 20 lines of code.

Fixed build break

Fixed build break

WARNING - if an RPC times out you will crash older UML's.

Update your user mode linux to the 2.4.18 um15 + extra patch
  take source from ftp.lustre.org:/pub/people/robert
[call_usermode_helper has a bug in older versions of UML]

- new infrastructure for MDS failover recovery
  - recovd replaces the ha daemon. Now located in RPC directory
  - this comes with a service daemon to answer connect calls
  - wrapped it in an obd, for management purposes, and to be able
    to run multiple daemons on one system eventually
- commit callback daemon added to the lustre_lite directory
- removed small amounts of dead code from the rpc directory
- this code has seen little testing
- added the configuration management section to the master document

Populate 'peer' before using it.

Fixed some thinkos in the remote connection/token stuff.  Fixed a typo in the
previous lock init fix.

ptlrpc_client->cli_lock moved to ptlrpc_connection->c_lock, but I'd forgotten
to move the spin_lock_init().  Fixed.

- added connection structure which encompasses some (but perhaps not enough yet)
HA elements and a lustre_peer.  see rpc/connection.c or lustre_net.h for the
very-simple API
- removed many duplicated structure entries from the RPC path
- broke local_lock_enqueue into two functions; create the lock, do the remote
operation, do the local operation.
- the shadow local lock tree is implemented, but not tested.

Add elan config files (not sure if they are correct, but someone will fix
that).

- add a new directory for extN file system: ext3 with new features
 - placed large directory patch in this directory.

Renamed a few of the config files so that they are grouped more logically
together.

A regression test for networking (probably using the echo device).

It runs test_getattrs, test_brw (read, then write).  First simple tests,
then increasing in size, threads, etc.

This uses the new config setup, so it needs to be run like:

runregression-net.sh local.cfg echo.cfg client-echo.cfg

Still doesn't work correctly (details to be worked on include proper
cleanup, remote setup of the server, remote debugging, etc).

Split out the various common configurations into simple config files.
These will be used by various scripts for configuration, and can be
copied, combined, edited for each user as desired.

The llsetup.sh script will do the appropriate configuration based on
the config scripts that are passed.  For example:

llmount.sh == llsetup.sh local.cfg client-mount.cfg mds.cfg obdext2.cfg
llecho.sh  == llsetup.sh local.cfg client-echo.cfg echo.cfg
llmount-server.sh = llsetup.sh server-net.cfg mds.cfg obdext2.cfg
llmount-client.sh = llsetup.sh client-net.cfg client-mount.cfg

It is of course possible to combine several of the config files into a
single file for ease of typing, these ones are just the basics, e.g.

llsetup.sh peter.cfg
llsetup.sh adilger.cfg

By default it will also check in $HOME/.lustrerc for configuration before
parsing the specified config files.

None of the other scripts have been moved over to this config setup yet.

Still TODO: remote server setup

Consolidate verbose flag parsing.

Change the "silent" handling code to be "verbose" handling.  The devault is
still to print each item as it happens, but now there are more options.

- you can use letters 's' or 'q' to be silent/quiet
- you can use letter 'v' to be verbose (default, print each item)
- you can use positive numbers to show each Nth item (default = 1, like 'v')
- you can use negative numbers to show output every -N seconds

The "--threads" command now takes a mandatory "verbose" flag because with
large numbers of threads it is too much output.  Note that this flag only
applies to the spawning of the threads and not the individual commands
(which can have their verbosity specified separately).

Example:

          device number-v v-command    v------v-command args
obdctl --threads 100 20 2 test_getattr 10000 -5
    threads count-^   ^-threads verbosity     ^-test_getattr verbosity

- run 100 threads, and print status for each 20th thread started
- on device 2 run test_getattr for 10000 attrs and print status once per 5sec

Mention new --device flag for running obdctl commands instead of old way.

We already create /mnt/lustre in setup_lustre if it doesn't exist.

- More Peter's additions for the ha manager. This doesn't seem to break much -
  but this code hasn't been tested much.

No new functionality outside of the DLM.  ptlrpc_client no longer contains
a peer, so the peer is passed in and managed separately.

- All of the DLM calls are hooked up to the RPC system now
- Some unmaintained local processing code removed
- Added ldlm network-related bits to the test scripts

Support for running multiple threads with a single command.  This adds
the "--threads" parameter, which takes as arguments the number of threads
to fork, the device number, and the command (and optional arguments) to run.
Usage is similar to the "--device" command, with an additional argument.
("--threads 1 X <foo>" does about the same thing as "--device X <foo>").

Usage example:

# tests/llecho.sh

# utils/obdctl --threads 5 2 test_getattr 5000 q
--threads: starting 5 threads on device 2 running test_getattr
--threads: thread 1 (PID 6029) started
--threads: thread 2 (PID 6030) started
test_getattr-1: 5000 attrs (testing only): Tue Apr  9 22:45:25 2002
test_getattr-2: 5000 attrs (testing only): Tue Apr  9 22:45:25 2002
test_getattr-3: 5000 attrs (testing only): Tue Apr  9 22:45:25 2002
--threads: thread 3 (PID 6031) started
--threads: thread 4 (PID 6032) started
--threads: thread 5 (PID 6033) started
test_getattr-5: 5000 attrs (testing only): Tue Apr  9 22:45:25 2002
test_getattr-4: 5000 attrs (testing only): Tue Apr  9 22:45:25 2002
test_getattr-2: 5000 attrs in 17.24s (290.1 attr/s): Tue Apr  9 22:45:42 2002
test_getattr-3: 5000 attrs in 17.26s (289.7 attr/s): Tue Apr  9 22:45:42 2002
test_getattr-1: 5000 attrs in 17.29s (289.2 attr/s): Tue Apr  9 22:45:42 2002
test_getattr-4: 5000 attrs in 17.26s (289.8 attr/s): Tue Apr  9 22:45:42 2002
test_getattr-5: 5000 attrs in 17.31s (288.9 attr/s): Tue Apr  9 22:45:42 2002

# utils/obdctl --threads 5 2 test_brw 5000 w q
--threads: starting 5 threads on device 2 running test_brw
--threads: thread 1 (PID 5997) started
--threads: thread 2 (PID 5998) started
test_brw-2: reading 5000 (1x1 pages) (testing only): Tue Apr 9 22:37:28 2002
test_brw-1: reading 5000 (1x1 pages) (testing only): Tue Apr 9 22:37:28 2002
--threads: thread 3 (PID 5999) started
--threads: thread 4 (PID 6000) started
test_brw-3: reading 5000 (1x1 pages) (testing only): Tue Apr 9 22:37:28 2002
--threads: thread 5 (PID 6001) started
test_brw-4: reading 5000 (1x1 pages) (testing only): Tue Apr 9 22:37:28 2002
test_brw-5: reading 5000 (1x1 pages) (testing only): Tue Apr 9 22:37:28 2002
test_brw-1: read 1x1x5000 pages in 32.7s (152.9 pg/s): Tue Apr 9 22:38:01 2002
test_brw-2: read 1x1x5000 pages in 32.73s (152.8 pg/s): Tue Apr 9 22:38:01 2002
test_brw-3: read 1x1x5000 pages in 32.73s (152.8 pg/s): Tue Apr 9 22:38:01 2002
test_brw-4: read 1x1x5000 pages in 32.72s (152.8 pg/s): Tue Apr 9 22:38:01 2002
test_brw-5: read 1x1x5000 pages in 32.72s (152.8 pg/s): Tue Apr 9 22:38:01 2002

The first example runs 5 threads doing 5000 test_getattrs on device 2.
The second example runs 5 threads doing 5000 test_brw writes on device 2.

All output is prepended with the command and thread number which is running
that command, like "test_getattr-1", "test_getattr-2", etc.  This is done
via the "cmdline()" helper function, which should now be used at all times
for obdctl output instead of "argv[0]".  If we are not running with threads,
cmdline("foo") degenerates to just "foo".

Add new command to allow obdctl usage from command-line.
usage: --device <devno> <command [args ...]>

This is exactly the same thing as:
obdctl <<- EOF
device <devno>
connect
command [args ...]
disconnect
EOF

You can use it to run simple obdctl commands, for example:

tests/llecho.sh
util/obdctl --device 2 test_getattr 1000 q
util/obdctl --device 2 test_brw 1000 w q
tests/llmountcleanup.sh

Clean up obdctl code:
- all errors are now written to stderr, and have "error:" at the start
- all functions return non-zero on error (-1 = usage, -2 = params, +ve errno)

Start to abstract out the location of modules for LUSTRE and PORTALS.  It
doesn't actually do anything differently yet, but at least we have isolated
the paths into a single location.

Use "$(PORTALS)" and "$(top_srcdir)" instead of ".." so that we can build
in a different directory from the source tree (for UML and kernel builds).

osc/osc_request.c: replace "n" with "pages", as "n" is not defined anywhere.
others: minor cleanups.

Only try to run setup if there isn't already a Lustre filesystem set up.

Minor change - rename "run" to "test_fail" to match runfailure-mds.

common.sh: move all of the portals setup from setup() to setup_portals().
- make the NAL module conditional upon the network connection type.
- rename setup() to be setup_lustre().
all others:
- you need to call setup_portals() before setup_lustre() now.

Fix typo "lusre" -> "lustre"

- name switch:  "light" --> "lite"
                "/mnt/obd" --> "/mnt/lustre"
- small changes to RPC code to handle request packet freeing later,
  separate connection initialization and connect.
- rename event handlers and queues, add separate request_out and
  reply_out queue

Removes all traces of mds_req, mds_rep, ost_req, and ost_rep.  All subsystems
now use the functions in rpc/pack_generic.c, which are based around
struct lustre_msg.  That file is small and easily understood, see it for more
details.

Now that everyone uses the same functions, the code can probably be refactored
more sensibly.  This is left as an exercise for the reader.

Other, cleanups:
- we don't need to memset() after OBD_ALLOC
- the MDS and OST request and reply packets were so similar that they've been
merged, into struct mds_body and ost_body respectively.

Ensure that the file type is valid.

Remove use of ext2-specific inode flags to signal objid-in-i_data.  Just
use the check whether it is a regular file.

Also don't use memcpy when saving objid into inode - it should be endian
converted beforehand.

Ensure we undo everything in ll_read_super() on error.

Add a check in new_fs() to try and avoid overwriting an in-use block device.
Not perfect, because it will only check for mounted filesystems, but better
than nothing.

Add open/close methods for filterobd.
Other minor cleanups to replace "ext2obd" with "filter" in unused codepaths.

- Don't start acceptor in the background anymore