Whamcloud - gitweb
LU-7085 lov: trying smaller memory allocations
[fs/lustre-release.git] / lustre / llite / dcache.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
19  *
20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
21  * CA 95054 USA or visit www.sun.com if you need additional information or
22  * have any questions.
23  *
24  * GPL HEADER END
25  */
26 /*
27  * Copyright (c) 2002, 2010, Oracle and/or its affiliates. All rights reserved.
28  * Use is subject to license terms.
29  *
30  * Copyright (c) 2011, 2015, Intel Corporation.
31  */
32 /*
33  * This file is part of Lustre, http://www.lustre.org/
34  * Lustre is a trademark of Sun Microsystems, Inc.
35  */
36
37 #include <linux/fs.h>
38 #include <linux/sched.h>
39 #include <linux/quotaops.h>
40 #include <linux/kernel.h>
41
42 #define DEBUG_SUBSYSTEM S_LLITE
43
44 #include <obd_support.h>
45 #include <lustre/lustre_idl.h>
46 #include <lustre_dlm.h>
47
48 #include "llite_internal.h"
49
50 static void free_dentry_data(struct rcu_head *head)
51 {
52         struct ll_dentry_data *lld;
53
54         lld = container_of(head, struct ll_dentry_data, lld_rcu_head);
55         OBD_FREE_PTR(lld);
56 }
57
58 /* should NOT be called with the dcache lock, see fs/dcache.c */
59 static void ll_release(struct dentry *de)
60 {
61         struct ll_dentry_data *lld;
62         ENTRY;
63         LASSERT(de != NULL);
64         lld = ll_d2d(de);
65         if (lld == NULL) /* NFS copies the de->d_op methods (bug 4655) */
66                 RETURN_EXIT;
67
68         if (lld->lld_it) {
69                 ll_intent_release(lld->lld_it);
70                 OBD_FREE(lld->lld_it, sizeof(*lld->lld_it));
71         }
72
73         de->d_fsdata = NULL;
74         call_rcu(&lld->lld_rcu_head, free_dentry_data);
75
76         EXIT;
77 }
78
79 /* Compare if two dentries are the same.  Don't match if the existing dentry
80  * is marked invalid.  Returns 1 if different, 0 if the same.
81  *
82  * This avoids a race where ll_lookup_it() instantiates a dentry, but we get
83  * an AST before calling d_revalidate_it().  The dentry still exists (marked
84  * INVALID) so d_lookup() matches it, but we have no lock on it (so
85  * lock_match() fails) and we spin around real_lookup(). */
86 #ifdef HAVE_D_COMPARE_7ARGS
87 static int ll_dcompare(const struct dentry *parent, const struct inode *pinode,
88                        const struct dentry *dentry, const struct inode *inode,
89                        unsigned int len, const char *str,
90                        const struct qstr *name)
91 #elif defined(HAVE_D_COMPARE_5ARGS)
92 static int ll_dcompare(const struct dentry *parent, const struct dentry *dentry,
93                        unsigned int len, const char *str,
94                        const struct qstr *name)
95 #else
96 static int ll_dcompare(struct dentry *parent, struct qstr *d_name,
97                        struct qstr *name)
98 #endif
99 {
100 #if !defined(HAVE_D_COMPARE_7ARGS) && !defined(HAVE_D_COMPARE_5ARGS)
101         /* XXX: (ugh !) d_name must be in-dentry structure */
102         struct dentry *dentry = container_of(d_name, struct dentry, d_name);
103         unsigned int len = d_name->len;
104         const char *str = d_name->name;
105 #endif
106         ENTRY;
107
108         if (len != name->len)
109                 RETURN(1);
110
111         if (memcmp(str, name->name, len))
112                 RETURN(1);
113
114         CDEBUG(D_DENTRY, "found name %.*s(%p) flags %#x refc %d\n",
115                name->len, name->name, dentry, dentry->d_flags,
116                ll_d_count(dentry));
117
118         /* mountpoint is always valid */
119         if (d_mountpoint((struct dentry *)dentry))
120                 RETURN(0);
121
122         if (d_lustre_invalid(dentry))
123                 RETURN(1);
124
125         RETURN(0);
126 }
127
128 static inline int return_if_equal(struct ldlm_lock *lock, void *data)
129 {
130         return (ldlm_is_canceling(lock) && ldlm_is_discard_data(lock)) ?
131                 LDLM_ITER_CONTINUE : LDLM_ITER_STOP;
132 }
133
134 /* find any ldlm lock of the inode in mdc and lov
135  * return 0    not find
136  *        1    find one
137  *      < 0    error */
138 static int find_cbdata(struct inode *inode)
139 {
140         struct lu_env                   *env;
141         __u16                           refcheck;
142         struct ll_sb_info               *sbi = ll_i2sbi(inode);
143         int                             rc = 0;
144         ENTRY;
145
146         LASSERT(inode);
147         rc = md_find_cbdata(sbi->ll_md_exp, ll_inode2fid(inode),
148                             return_if_equal, NULL);
149         if (rc != 0)
150                 RETURN(rc);
151
152         if (ll_i2info(inode)->lli_clob != NULL) {
153                 env = cl_env_get(&refcheck);
154                 if (IS_ERR(env))
155                         RETURN(PTR_ERR(env));
156
157                 rc = cl_object_find_cbdata(env, ll_i2info(inode)->lli_clob,
158                                            return_if_equal, NULL);
159                 cl_env_put(env, &refcheck);
160         }
161
162         RETURN(rc);
163 }
164
165 /**
166  * Called when last reference to a dentry is dropped and dcache wants to know
167  * whether or not it should cache it:
168  * - return 1 to delete the dentry immediately
169  * - return 0 to cache the dentry
170  * Should NOT be called with the dcache lock, see fs/dcache.c
171  */
172 static int ll_ddelete(HAVE_D_DELETE_CONST struct dentry *de)
173 {
174         ENTRY;
175         LASSERT(de);
176
177         CDEBUG(D_DENTRY, "%s dentry %.*s (%p, parent %p, inode %p) %s%s\n",
178                d_lustre_invalid((struct dentry *)de) ? "deleting" : "keeping",
179                de->d_name.len, de->d_name.name, de, de->d_parent, de->d_inode,
180                d_unhashed((struct dentry *)de) ? "" : "hashed,",
181                list_empty(&de->d_subdirs) ? "" : "subdirs");
182
183 #ifdef HAVE_DCACHE_LOCK
184         LASSERT(ll_d_count(de) == 0);
185 #else
186         /* kernel >= 2.6.38 last refcount is decreased after this function. */
187         LASSERT(ll_d_count(de) == 1);
188 #endif
189
190         /* Disable this piece of code temproarily because this is called
191          * inside dcache_lock so it's not appropriate to do lots of work
192          * here. ATTENTION: Before this piece of code enabling, LU-2487 must be
193          * resolved. */
194 #if 0
195         /* if not ldlm lock for this inode, set i_nlink to 0 so that
196          * this inode can be recycled later b=20433 */
197         if (de->d_inode && !find_cbdata(de->d_inode))
198                 clear_nlink(de->d_inode);
199 #endif
200
201         if (d_lustre_invalid((struct dentry *)de))
202                 RETURN(1);
203         RETURN(0);
204 }
205
206 int ll_d_init(struct dentry *de)
207 {
208         ENTRY;
209         LASSERT(de != NULL);
210
211         CDEBUG(D_DENTRY, "ldd on dentry %.*s (%p) parent %p inode %p refc %d\n",
212                 de->d_name.len, de->d_name.name, de, de->d_parent, de->d_inode,
213                 ll_d_count(de));
214
215         if (de->d_fsdata == NULL) {
216                 struct ll_dentry_data *lld;
217
218                 OBD_ALLOC_PTR(lld);
219                 if (likely(lld != NULL)) {
220                         spin_lock(&de->d_lock);
221                         if (likely(de->d_fsdata == NULL)) {
222                                 de->d_fsdata = lld;
223                                 __d_lustre_invalidate(de);
224 #ifdef HAVE_DCACHE_LOCK
225                                 /* kernel >= 2.6.38 d_op is set in d_alloc() */
226                                 de->d_op = &ll_d_ops;
227 #endif
228                         } else {
229                                 OBD_FREE_PTR(lld);
230                         }
231                         spin_unlock(&de->d_lock);
232                 } else {
233                         RETURN(-ENOMEM);
234                 }
235         }
236         LASSERT(de->d_op == &ll_d_ops);
237
238         RETURN(0);
239 }
240
241 void ll_intent_drop_lock(struct lookup_intent *it)
242 {
243         if (it->it_op && it->d.lustre.it_lock_mode) {
244                 struct lustre_handle handle;
245
246                 handle.cookie = it->d.lustre.it_lock_handle;
247
248                 CDEBUG(D_DLMTRACE, "releasing lock with cookie "LPX64
249                        " from it %p\n", handle.cookie, it);
250                 ldlm_lock_decref(&handle, it->d.lustre.it_lock_mode);
251
252                 /* bug 494: intent_release may be called multiple times, from
253                  * this thread and we don't want to double-decref this lock */
254                 it->d.lustre.it_lock_mode = 0;
255                 if (it->d.lustre.it_remote_lock_mode != 0) {
256                         handle.cookie = it->d.lustre.it_remote_lock_handle;
257
258                         CDEBUG(D_DLMTRACE, "releasing remote lock with cookie"
259                                LPX64" from it %p\n", handle.cookie, it);
260                         ldlm_lock_decref(&handle,
261                                          it->d.lustre.it_remote_lock_mode);
262                         it->d.lustre.it_remote_lock_mode = 0;
263                 }
264         }
265 }
266
267 void ll_intent_release(struct lookup_intent *it)
268 {
269         ENTRY;
270
271         CDEBUG(D_INFO, "intent %p released\n", it);
272         ll_intent_drop_lock(it);
273         /* We are still holding extra reference on a request, need to free it */
274         if (it_disposition(it, DISP_ENQ_OPEN_REF))
275                 ptlrpc_req_finished(it->d.lustre.it_data); /* ll_file_open */
276
277         if (it_disposition(it, DISP_ENQ_CREATE_REF)) /* create rec */
278                 ptlrpc_req_finished(it->d.lustre.it_data);
279
280         it->d.lustre.it_disposition = 0;
281         it->d.lustre.it_data = NULL;
282         EXIT;
283 }
284
285 void ll_invalidate_aliases(struct inode *inode)
286 {
287         struct dentry *dentry;
288         DECLARE_LL_D_HLIST_NODE_PTR(p);
289         ENTRY;
290
291         LASSERT(inode != NULL);
292
293         CDEBUG(D_INODE, "marking dentries for inode "DFID"(%p) invalid\n",
294                PFID(ll_inode2fid(inode)), inode);
295
296         ll_lock_dcache(inode);
297         ll_d_hlist_for_each_entry(dentry, p, &inode->i_dentry) {
298                 CDEBUG(D_DENTRY, "dentry in drop %.*s (%p) parent %p "
299                        "inode %p flags %d\n", dentry->d_name.len,
300                        dentry->d_name.name, dentry, dentry->d_parent,
301                        dentry->d_inode, dentry->d_flags);
302
303                 if (unlikely(dentry == dentry->d_sb->s_root)) {
304                         CERROR("%s: called on root dentry=%p, fid="DFID"\n",
305                                ll_get_fsname(dentry->d_sb, NULL, 0),
306                                dentry, PFID(ll_inode2fid(inode)));
307                         lustre_dump_dentry(dentry, 1);
308                         libcfs_debug_dumpstack(NULL);
309                 }
310
311                 d_lustre_invalidate(dentry, 0);
312         }
313         ll_unlock_dcache(inode);
314
315         EXIT;
316 }
317
318 int ll_revalidate_it_finish(struct ptlrpc_request *request,
319                             struct lookup_intent *it,
320                             struct dentry *de)
321 {
322         int rc = 0;
323         ENTRY;
324
325         if (!request)
326                 RETURN(0);
327
328         if (it_disposition(it, DISP_LOOKUP_NEG))
329                 RETURN(-ENOENT);
330
331         rc = ll_prep_inode(&de->d_inode, request, NULL, it);
332
333         RETURN(rc);
334 }
335
336 void ll_lookup_finish_locks(struct lookup_intent *it, struct dentry *dentry)
337 {
338         LASSERT(it != NULL);
339         LASSERT(dentry != NULL);
340
341         if (it->d.lustre.it_lock_mode && dentry->d_inode != NULL) {
342                 struct inode *inode = dentry->d_inode;
343                 struct ll_sb_info *sbi = ll_i2sbi(dentry->d_inode);
344
345                 CDEBUG(D_DLMTRACE, "setting l_data to inode "DFID"(%p)\n",
346                        PFID(ll_inode2fid(inode)), inode);
347                 ll_set_lock_data(sbi->ll_md_exp, inode, it, NULL);
348         }
349
350         /* drop lookup or getattr locks immediately */
351         if (it->it_op == IT_LOOKUP || it->it_op == IT_GETATTR) {
352                 /* on 2.6 there are situation when several lookups and
353                  * revalidations may be requested during single operation.
354                  * therefore, we don't release intent here -bzzz */
355                 ll_intent_drop_lock(it);
356         }
357 }
358
359 static int ll_revalidate_dentry(struct dentry *dentry,
360                                 unsigned int lookup_flags)
361 {
362         struct inode *dir = dentry->d_parent->d_inode;
363
364         /* If this is intermediate component path lookup and we were able to get
365          * to this dentry, then its lock has not been revoked and the
366          * path component is valid. */
367         if (lookup_flags & (LOOKUP_CONTINUE | LOOKUP_PARENT))
368                 return 1;
369
370         /* Symlink - always valid as long as the dentry was found */
371         if (dentry->d_inode && dentry->d_inode->i_op->follow_link)
372                 return 1;
373
374         /* Last path component lookup for open or create - we always
375          * return 0 here to go through re-lookup and properly signal
376          * MDS whenever we do or do not want an open-cache to be engaged.
377          * For create we also ensure the entry is really created no matter
378          * what races might have happened.
379          * LU-4367 */
380         if (lookup_flags & (LOOKUP_OPEN | LOOKUP_CREATE))
381                 return 0;
382
383         if (!dentry_may_statahead(dir, dentry))
384                 return 1;
385
386 #ifndef HAVE_DCACHE_LOCK
387         if (lookup_flags & LOOKUP_RCU)
388                 return -ECHILD;
389 #endif
390
391         ll_statahead(dir, &dentry, dentry->d_inode == NULL);
392         return 1;
393 }
394
395 /*
396  * Always trust cached dentries. Update statahead window if necessary.
397  */
398 #ifdef HAVE_IOP_ATOMIC_OPEN
399 static int ll_revalidate_nd(struct dentry *dentry, unsigned int flags)
400 {
401         int rc;
402         ENTRY;
403
404         CDEBUG(D_VFSTRACE, "VFS Op:name=%s, flags=%u\n",
405                dentry->d_name.name, flags);
406
407         rc = ll_revalidate_dentry(dentry, flags);
408         RETURN(rc);
409 }
410 #else
411 static int ll_revalidate_nd(struct dentry *dentry, struct nameidata *nd)
412 {
413         int rc;
414         ENTRY;
415
416         /*
417          * this is normally called from NFS export, and we don't know whether
418          * this is the last component.
419          */
420         if (nd == NULL)
421                 RETURN(1);
422
423         CDEBUG(D_VFSTRACE, "VFS Op:name=%s, flags=%u\n",
424                dentry->d_name.name, nd->flags);
425
426         rc = ll_revalidate_dentry(dentry, nd->flags);
427         RETURN(rc);
428 }
429 #endif
430
431 static void ll_d_iput(struct dentry *de, struct inode *inode)
432 {
433         LASSERT(inode);
434         if (!find_cbdata(inode))
435                 clear_nlink(inode);
436         iput(inode);
437 }
438
439 const struct dentry_operations ll_d_ops = {
440         .d_revalidate = ll_revalidate_nd,
441         .d_release = ll_release,
442         .d_delete  = ll_ddelete,
443         .d_iput    = ll_d_iput,
444         .d_compare = ll_dcompare,
445 };