Whamcloud - gitweb
b=2313
[fs/lustre-release.git] / lustre / ChangeLog
1 tbd         Cluster File Systems, Inc. <info@clusterfs.com>
2        * version 1.0.1
3        * bug fixes
4         - remove now-unused request->rq_obd (278)
5         - if an allocation fails, print out how much memory we've used (1933)
6         - use PORTAL_SLAB_ALLOC for structures, to get GFP_MEMALLOC (1933)
7         - add the "configurable stack size" patch to most series files (1256)
8         - ability to write large log records, for 100+ OST configs (2306)
9         - fix NULL deref when filter_prep fails (2314)
10         - fix operator precedence error in filter_sync
11         - dynamic allocation of socknal TX descriptors (2315)
12         - fix a missed case in the GFP_MEMALLOC patch, can cause deadlock (2310)
13         - fix gcc 2.96 compilation problem in xattr kernel patch (2294)
14         - ensure that CWARN messages in Portals always get to the syslog
15         - __init/__exit are not for prototype decls (ldlm_init/exit)
16         - x86-64 compile warning fixes
17         - fix gateway LMC keyword conflict (2318)
18         - fix MDS lock inversions in getattr/reint paths (1844)
19         - fix a rare lock re-ordering bug, which caused deadlock (2322)
20         - fix i_sem/journal inversion in fsfilt_ext3_write_record (2306)
21         - protect MDS inode fsdata with stronger locking (2313)
22        * miscellania
23         - allow configurable automake binary, for testing new versions
24         - small update to the lfs documentation
25
26 2003-12-03  Cluster File Systems, Inc. <info@clusterfs.com>
27        * version 1.0.0
28        * fix negative export reference count in fsfilt_sync (2312)
29
30 2003-12-01  Cluster File Systems, Inc. <info@clusterfs.com>
31        * release candidate 0.9.1
32        * bug fixes
33         - orphans are moved into the PENDING directory for possible recovery
34         - replayed opens now open by fid for orphan/rename safety (1042)
35         - last close of an orphan inode generates a transno (683)
36         - chdir() and mount() now pin the directory entry (1020)
37         - avoid CERROR in normal ll_setattr_raw() error case (1500)
38         - discard very old requests without processing them (1502)
39         - remove some common, well-understood CERRORs (1505)
40         - require O_DIRECT I/O to be page-sized to workaround IA64 crash (1609)
41         - clear "grant" flags in OST replies until OST grant code lands (1644)
42         - fix read performance by not clobbering i_blksize on client (1598)
43         - fix __ldlm_handle2lock oops by not dereferencing lock after PUT (1625)
44         - make LRU size a /proc tunable, clears locks when reduced (707)
45         - fix some lprocfs rot that prevented ptlbd from loading (1732)
46         - server locks take references on exports now (1558)
47         - build fixes for 2.4.20-rh trees (1663)
48         - return an error from lov_create if all OSCs are inactive (1751)
49         - fix import levels when a reconnect happens without a timeout (1597)
50         - exit early from mds_open if we get a lookup error (1749)
51         - partial page read at EOF wouldn't wait for disk before sending (1642)
52         - avoid NULL deref in obdfilter when reading page past EOF (1592)
53         - avoid LASSERT in ll_intent_lock if server failed very early (1090)
54         - fix LBUG in ll_it_open_error with rc = -2 (1861)
55         - write/truncate lock inversion (1639)
56         - Don't auto-load obdclass, portals modules during cleanup (1495)
57         - fix timestamps from jumping to "now" (1763)
58         - extra journal assertions (1648)
59         - add an extra multiunlink test (1771)
60         - fix read_record/write_record API (1776)
61         - fix leak of offset_extent, possible incorrect i_size later (1772)
62         - fix lasserts in mis-matched transnos during open-unlink testing (1541)
63         - Debugging for the kqswnal_get_idle_tx problems (1820)
64         - Allow recovery to be attempted multiple times (1536)
65         - Write out MDS last_rcvd file after it is first created (1600)
66         - Fix tx_descriptor leak in failed transmit situations (1827)
67         - ext3 journaling fixes for assertion failure after IO error (1871)
68         - class_export_put() on freed export after completion AST error (1896)
69         - Fix revalidate looping in VFS (1322)
70         - Don't access a freed export during MDS_REINT timeout (1521)
71         - Add open-unlink recovery support on the MDS (1673,1764)
72         - Return an error if no MDS data was read from last_rcvd (1946)
73         - Fix for lookup "." or ".." crash on error (1932,1931,1935)
74         - Don't setup a disk device that doesn't match exported UUID (317)
75         - Reduce bulk RPC timeout to avoid cascading client/OST failures (1845)
76         - avoid committing NULL handle in force close
77         - local.sh is now a one-stripe LOV configuration
78         - POSIX utime.4 -EPERM on FIFO not owned by user (56)
79         - fix ext3 htree duplicate directory entry corruption (1516)
80         - POSIX creat.13, fstat.1, open.18, stat.3 new file atime/mtime (2020)
81         - update to new LOV EA format (2097)
82         - interoperability for different PAGE_SIZE/wordsize (686,1821,1343,2042)
83
84 2003-06-15  Phil Schwan  <phil@clusterfs.com>
85        * version v0_7
86        * bug fixes
87         - imports and exports cleanup too early, need refcounts (349, 879, 1045)
88         - per-import/export recovery handling (958, 931, 959)
89         - multiple last-rcvd slots, for serving multiple FSes (949)
90         - connections are again shared between multiple imp/exports (963, 964)
91         - "umount -f" would hang if any requests needed to be sent (393, 978)
92         - avoid pinning large req buffer by copying for queued messages (989)
93         - add "uuid" to "lctl device" command to help upcalls (991)
94         - "open" RPCs with transnos would confuse recovery counters (1037)
95         - do proper endian conversion of all wire messages (288, 340, 891)
96         - remove OST bulk get LBUGs, fix ost_brw_write cleanup (1126)
97         - call waiting locks callback from LDLM recovery thread (1127, 1151)
98         - fix ptlrpc_connection leak in target_handle_connect (1174)
99         - fix import refcounting bug in OST and MDS cleanup (1134)
100         - if an invalid-at-open-time OSC returned before close(), LBUG (1150)
101         - fix very unlikely obd_types race condition (501)
102         - remove osc_open hack for echo_client (1187)
103         - we leaked exports/dlmimps for forcibly disconnected clients (1143)
104         - a failure in read_inode2 leads to deadlock (1139)
105         - cancel ack-locks as soon as transaction is committed (1072)
106         - fix major leaks and crashes in the bulk I/O path (937, 1057)
107         - make sure to commitrw after any preprw to avoid deadlock (1162)
108         - failing to execute a file in a lustre FS would lock inode (1203)
109         - small DEBUG_REQ fix to avoid dereferencing a NULL (1227)
110         - don't ASSERT while cleaning up an incompletely-setup obd (1248)
111         - obd_uuid2tgt would walk off the end of the list (1255)
112         - on IA64 the osc would give portals incorrect bulk size (1258)
113         - fix debug daemon ioctl interface; allows daemon on ia64 (1274)
114         - fix lock inversion caused by new llite matching code (1282)
115         - limit the number of dirty pages on a client to 10MB (1286)
116         - timed out locks were not being corrected cancelled (1289)
117         - fix O_DIRECT above 4GB on IA-32 (1292)
118        * major user-visible changes
119         - fail out/fail over policy now controlled by the upcall (993)
120        * protocol changes
121         - add OBD_PING to check server availability and failure (954)
122         - lustre messages are now sent in sending host order (288, 340, 891)
123         - add eadatalen to MDS getattr reply (340)
124         - OST read replies may contain second buffer, with per-page status (593)
125
126 2003-03-11  Phil Schwan  <phil@clusterfs.com>
127        * version v0_6
128        * bug fixes
129         - LDLM_DEBUG macro fix, for gcc 3.2 (850)
130         - failed open()s could cause deadlock; fixed (867, 869)
131         - stop cancelling OST locks when files are closed (481)
132         - overlapping XID spaces caused network corruption (851, 853)
133         - fix unsafe fsfilt counter arithmetic; change to atomic_t
134         - setattr_raw added, to do single-RPC, server-side setattrs
135         - lmc/lconf syntax change for OST UUIDs
136         - fix crashy race condition between ptlrpc_free_req and osc_close
137         - don't use request in mdc_enqueue if we hit a timeout (889)
138         - don't set the inode i_size for regular files from the MDS (896)
139         - handle out of order completion AST (842)
140         - don't LBUG if a lock request times out after receiving AST (913)
141         - avoid d_rehash race in ll_find_alias by rehashing inside dcache_lock
142         - if a bad lock AST arrives, send an error instead of dropping entirely
143         - return 0 from revalidate2 if ll_intent_lock returns -EINTR (912)
144         - fix leak in bulk IO when only partially completed (899, 900, 926)
145         - fix O_DIRECT for ia64 (55)
146         - (almost) eliminate Lustre-kernel-thread effects on load average (722)
147         - C-z after timeout could hang a process forever; fixed (977)
148        * Features
149         - client-side I/O cache (678, 924, 929, 941, 970)
150        * protocol changes
151         - READPAGE and SETATTRs which don't take server-side locks get
152           their own portal
153
154 2003-02-11  Phil Schwan  <phil@clusterfs.com>
155         * version v0_5_20
156         * bug fixes
157          - Fix ldlm_lock_match on the MDS to avoid matching remote locks (592)
158          - Fix fsfilt_extN_readpage() to read a full page of directory
159            entries, or fake the remainder if PAGE_SIZE != blocksize (500)
160          - Avoid extra mdc_getattr() in ll_intent_lock when possible (534, 604)
161          - Fix imbalanced LOV object allocation and out-of-bound access (469)
162          - Most intent operations were removed, in favour of a new RPC mode
163            that does a single RPC to the server and bypasses most of the VFS
164          - All LDLM resource ID arrays were removed in favour of ldlm_res_id
165          - Aggressively cancel local locks on DLM servers
166          - mds_reint_unlink sends EA to the client if it's the last nlink.
167            client uses that EA to unlink OST objects.
168          - mds_reint_{rename,unlink,link} were rewritten to take ordered locks
169          - recursive symlinks were fixed (439)
170          - fixed NULL deref in DEBUG_REQ
171          - filter_update_lastobjid no longer calls sync, which annoyed extN
172          - fixed multi-client small-writes to a single file problem (445)
173          - fixed mtime updates during file writes (607)
174          - fixed vector writes on obdfilter causing problems when ENOSPC (670)
175          - fixed bug in obd_brw_read/write() (under guise of testing 367)
176          - fixed Linux OST size reporting problem (444, 656)
177          - OST now updates object mtime with writes or setattr (607, 619)
178          - client verifies file size before zeroing page past EOF (445)
179          - OST now writes last allocated objid to disk with allocation (108)
180          - LOV on echo now works (409)
181         * protocol changes
182          - mds_reint_unlink sends a new buffer, with the EA included.  this
183            buffer is only valid if body->valid & OBD_MD_FLEASIZE, which is only
184            set if a regular file was being unlinked, and it was the last link
185          - use PtlGet from the target for bulk writes (315)
186          - OST now updates object mtime with writes or setattr (607, 619)
187          - LDLM now has a grant-time callback to revalidate locked items, if
188            necessary (604)
189          - Many MDS operations were reorganized to combat race conditions
190         * other changes
191          - Merge b_intel branch (updated lprocfs code) - now at /proc/fs/lustre
192          - configure check to avoid gcc version 2.96 20000731-2.96-98) (606)
193
194 2003-01-06  Andreas Dilger  <adilger@clusterfs.com>
195         * version v0_5_19
196         * bug fixes
197          - Fully reactivate OST imports after reconnection (512, others)
198          - Make sure client sees our -ENOTCONN from mds_handle (513 - partial)
199          - More graceful error handling for truncating on dead OST (515)
200          - Don't error out unless we're actually accessing dead stripes (474)
201          - Fix garbage sizes when stripes are missing (410)
202          - LRU counters were broken, causing constant lock purge (433, 432)
203          - garbage on read from stripes with failed OSTs (441)
204          - mark OSCs as active before reconnecting during recovery (438)
205          - lov_enqueue and lov_cancel need to handle inactive OSTs (403)
206          - lfind did not preserve OST order in output (443)
207          - symlinks cause hung clients, incorrect data (439)
208          - stop dereferencing request after dropping refcount (457)
209          - don't LASSERT(spin_is_locked) on non-SMP (455)
210          - fixes for many rename() bugs
211          - fstat didn't correctly synchronize attributes (399)
212          - server must handle lock cancellation during blocking AST prep (487)
213          - bulk descriptors were free()d too soon (511)
214          - fix paths in lconf, which would load incorrect modules (451, 507)
215          - fix confusing lconf 'host not found' error message (386)
216          - fix lock order deadlock on OST (O/R i_sem before journal ops, 478)
217          - fix race condition in mdc_blocking_ast() for inode access (526)
218          - fix lov_unpackmd() unpacking wrong number of stripes (537)
219          - fix lov_set_osc_active() marking wrong OSC inactive (440)
220          - fix bad lstripe lov_unpackmd() assertion (fix layering too) (527)
221          - fix multiple writes of stripe MD to MDS (358, maybe 519)
222          - fix lstripe in several ways (kernel side) (527)
223          - fix request leak in ldlm_cli_enqueue (262)
224          - incorrect OSC was marked inactive after OST failure
225          - call mds_fs_cleanup before unmounting filesystem (524)
226          - fix races between taking ns_lock and ldlm_lock_change_resource
227          - fix races updating LOV export open file list
228          - fix lov_enqueue error path, avoid decref-ing bad lock handle
229          - fix recovery NULL deref in ldlm_cli_cancel_unused
230          - fix some DLM races by using new hash table for lock handles (419)
231          - permit the client to specify desired inodes, at replay
232          - duplicate requests when we queue them for replay reintegration
233          - fix last_rcvd offset calculation
234          - sync after each recovered transaction, so we always make progress
235          - never, not always, ERESTART requests without transnos
236          - store the lov_desc in the MDS, so we don't depend on getlovinfo to
237            set it
238          - skip replay if the MDS says that the client is already connected
239          - don't check for a recovery-enabled export to match lctl's UUID
240          - don't INC_USE_COUNT for phantom exports
241          - don't crash when cleaning up phantom exports (567)
242          - don't double-finish or set replay data for errored mdc_open requests
243          - abort requests when they time out, so we don't get old replies
244          - send/receive replies for AST messages again
245          - if the client says that it doesn't have the lock, cancel it on the
246            server
247          - if we timeout during I/O, don't try to cancel an in-use lock; instead
248            mark it as destroyed, it will all work out when decref is called
249          - fix module use counts (22, 581)
250         * protocol changes
251          - ASTs now expect a reply (server cancels lock on error reply)
252
253 2002-12-02  Andreas Dilger  <adilger@clusterfs.com>
254         * version v0_5_18
255         * bug fixes
256           - fix many simultaneous client startup (392)
257           - fix dentry->d_it clobbering
258           - credentials weren't being shipped for readdir/getattr operations
259           - remove invalid assertions triggered during some concurrent MD
260             updates
261           - proper Lustre versions added (336, 389)
262           - fix memory leak for create error case (398)
263           - fix LOV locking bug that would get cli/srv out of sync
264           - fix echo client over LOV (409)
265           - fix dbench 2, extN refcount problem (170, 258, 356, 418)
266           - fix double-O_EXCL intent crash (424)
267           - avoid sending multiple lock CANCELs (352)
268         * Features 
269           - MDS can do multi-client recovery (modulo bugs in new code)
270         * Documentation 
271           - many updates, edits, cleanups
272
273 2002-11-18  Phil Schwan  <phil@clusterfs.com>
274         * version v0_5_17
275         * bug fixes
276           - fix null d_it dereference (346)
277           - fix full OST/dbench hang (333)
278           - fix permission problem with file removal (286)
279           - fix removal of OSCs from LOV when they fail
280           - fix NULL deref during bulk timeout (214)
281           - fix problems related to multiple filesystems on one MDS (241)
282           - fixed serious subtle metadata locking bugs
283           - free locks on clients when inodes are removed due to memory
284             pressure (201)
285           - fix inode pointer in lock data (285)
286           - partial support for multiple MDS on a single host (241)
287           - data locks weren't cancelled at clear_inode time (290, 311)
288           - intent locks could lead to unbounded lock growth (205)
289           - added a maximum lock count, an LRU list, and a flusher
290           - fix multiple rename (365)
291           - properly abstracted the echo client
292           - OSC locked 1 byte too many; fixed
293           - rewrote brw callback code:
294             - fixed recovery bugs related to LOVs (306)
295             - fixed too-many-pages-in-one-write crash (191)
296             - fixed (again) crash in sync_io_timeout (214)
297             - probably fixed callback-related race (385)
298         * protocol change
299           - Add capability to MDS protocol
300           - LDLM cancellations and callbacks on different portals
301
302 2002-10-28  Andreas Dilger  <adilger@clusterfs.com>
303         * version v0_5_16
304         * bug fixes:
305           - limit client IOV size to PTL_MD_MAX_IOV (611336, 191)
306           - defer open object destruction to close time (601981, 138)
307           - open/close OST file handle in obdo (OBD_MD_FLHANDLE) (601981, 138)
308           - move LDLM_ENQUEUE/CONVERT back to MDS portal (625069)
309           - abstract ll_lookup2, fix ll_revalidate2 to use abstraction (256)
310           - don't call obd_setattr in ll_file_release for destroyed objects
311         * protocol change to lustre_msg: move |version| and add |flags|
312         * protocol change to osc_punch: "start" in "o_size", "end" in "o_blocks"
313         * lock replay: for LDLM_FL_REPLAY trust client to do right thing
314         * added replay of create, unlink, link and rename operations during
315           MDS failover; recovery should be much more robust now
316         * remove failed OSCs from LOVs (only lov_create uses this so far)
317         * the lustre-HOWTO was brought (more) up to date (582544)
318
319 2002-10-23  Phil Schwan  <phil@clusterfs.com>
320         * version v0_5_15
321         * bug fixes:
322           - in-use dentries weren't being reused properly (617851)
323           - prevent multiple LDLM setup (599178)
324           - fix LOV size calculations for truncate (617853)
325           - fix client handling of MDS intent errors (POSIX)
326           - fix permission bug in lovstripe.c test (624321)
327           - fix MDS thread deadlock - move LDLM handler to DLM portal (625069)
328           - truncate past end of file could corrupt data
329           - proper cleanup after timeouts, crashes, etc (592524, 550815)
330           - a race in recovery could return ETIMEDOUT to apps (623947)
331           - building outside the source directory was fixed
332         * the lustre-HOWTO was brought (more) up to date (582544)
333         * major progress was made on recovery functionality
334
335 2002-10-10  Phil Schwan  <phil@clusterfs.com>
336         * version v0_5_14
337         * bug fixes:
338           - recovery deadlock fix
339           - rm -rf causes LBUG fix (617817)
340           - file open by multiple tasks fix (618962)
341           - directory permissions bugs (602707 and 620007)
342           - journal_stop fixed with locking (611313)
343           - O_APPEND failures resolved (618273, perhaps 614459)
344           - lconf PATH fix (619770)
345           - IA64 build fix (621450)
346           - RPC buffer sizes scale with amount of memory
347
348 2002-10-01  Phil Schwan  <phil@clusterfs.com>
349         * version v0_5_13
350         * bug fixes:
351           - locks would be cancelled without throwing away data pages,
352             resulting in inconsistent data (605627)
353           - inode attributes were not always being refreshed (605627, 612449)
354           - lconf now continues to cleanup after lctl reports an error
355           - MDS now enforces user permissions (602707)
356           - lprocfs cleanup fixed, but not yet enabled (614157)
357           - fixed infinite server hang, should a client not respond to an AST
358           - avoid going into recovery if user calls readlink() with a buffer
359             that's too small (613941)
360           - AST RPCs no longer require replies (614867) -- this may be changed
361           - don't crash server if client sends an IOV that's too big (611336)
362           - fixed lock conversion deadlock (611892)
363           - fixed the following of symlinks (614622)
364         * recovery: the server can remove locks from a client that dies, other
365           clients can make progress
366         * more extN patch fixes
367         * compile-time configurable ptlrpc buffer allocations
368         * documentation
369           - collaborative read cache document
370           - Lustre Lite Performance CDR document-in-progress
371
372 2002-09-20  Andreas Dilger  <adilger@clusterfs.com>
373         * version v0_5_12
374         * bug fix
375           - fix typo in patch-2.4.18
376
377 2002-09-20  Andreas Dilger  <adilger@clusterfs.com>
378         * version v0_5_11
379         * bug fixes
380           - clear ptlrpc request each time in handle_incoming_request()
381           - unlink of files now destroys the object on the OST
382
383 2002-09-19  Peter Braam  <braam@clusterfs.com>
384         * version 0_5_10
385         * add hard link support
386         * change obdfile creation method
387         * kernel patch changed
388         
389 2002-09-19  Peter Braam  <braam@clusterfs.com>
390         * version 0_5_9
391         * bug fix
392           - stack overflow bug in extN fixed
393
394 2002-09-18  Andreas Dilger  <adilger@clusterfs.com>
395         * version 0_5_8
396         * documentation updates
397           - add man pages for config tools
398           - update tests/README to describe testing with new config tools
399           - finish metadata API descriptions
400         * bug fixes and cleanups
401           - statfs workaround for 16TB limit
402           - LOV stripe allocation improved, can stripe on subset of OSTs
403           - LOV file size/IO offset was wrong for files > 4GB in size
404           - object EA data was being dropped, caused files to be unreadable
405           - memory overflow with non-LOV OST caused memory corruption
406           - fixed regression tests to work with new config tools, obdfilter
407           - fixed bug when directory size became larger than 1 block
408           - fixed bug (for single client case) when PWD was deleted
409           - invalidate local directory pages when doing intent-based ops
410           - avoid LDLM oops when lock callback contained bad data
411
412 2002-09-09  Andreas Dilger  <adilger@clusterfs.com>
413         * version 0_5_7
414         * documentation updates
415         * bug fixes and cleanups
416           - configuration tools
417           - LOV
418           - imports/exports
419           - 64-bit compile warnings
420           - 64-bit internal statfs data
421           - many more
422         * test_brw on persistent OST devices
423         * MDS recovery
424         * lprocfs (disabled)
425
426 2002-09-04  Andreas Dilger  <adilger@clusterfs.com>
427         * version 0_5_6
428         * documentation updates
429         * bug fixes and cleanups
430         * configuration tools
431
432 2002-08-30  Peter J. Braam  <braam@clusterfs.com>
433
434         * version v0_5_5
435         * many small fixes to 0_5_4
436         * io/network handling
437         * thinkos in MDS operations
438
439 2002-08-24  Peter J. Braam  <braam@clusterfs.com>
440
441         * version v0_5_4
442         * crucial basic fixes to 0.5.3
443         * IOR, Iozone work over Elan
444         * EOF locks added
445
446 2002-08-07  Phil Schwan  <phil@clusterfs.com>
447         * version 0_5_3, our first alpha
448         * we use the new Portals iovs
449         * documentation updates
450         * bug fixes and cleanups
451         * small changes in the DLM wire protocol
452
453 2002-07-25  Peter J. Braam  <braam@clusterfs.com>
454         * version 0_5_1 with some initial stability, 
455         * locking on MD and file I/O. 
456         * documentation updates
457         * several bug fixes since 0.5.0
458         * small changes in wire protocol
459
460 2002-07-18  Phil Schwan  <phil@clusterfs.com>
461         * version v0_4_5
462         * delivered as Lustre Light Alpha
463         * fixed a crash after handling invalid MDS requests
464         * fixed directory pages for architectures with non-4k pages sizes
465
466 2002-07-11  Andreas Dilger  <adilger@clusterfs.com>
467         * release version v0_4_4
468         * Moves TCP acceptor to be on port 2432 (unused Coda port) instead
469           of 1234.
470         * Fixes a number of interruption problems with OST operations.
471         * Update documentation for portals header changes
472         * Move all wire protocol structs/defines to lustre_idl.h
473         * Fixes symlink length bug.
474         * Add tcpdump to repository.
475
476 2002-07-05  Andreas Dilger  <adilger@clusterfs.com>
477         * release version v0_4_3
478         * Fixes statfs for inodes on extN.
479         * Fixes bug in runtests which would delete /etc/hosts.
480         * Use 64-bit object IDs wherever possible (not into VFS though)
481           Remove ost_get_info, which is unused by lustre, and out of date.
482
483 2002-07-03  Peter Braam  <braam@clusterfs.com>
484         * release version v0_4_2   Fixes a lookup error (type not passed)
485         * move forward to head of Portals
486         * move forward to latest Lustre kernel
487
488 2002-06-25  Peter Braam  <braam@clusterfs.com>
489         * release version v0_4_1.  Hopefully stable on single node use.