Whamcloud - gitweb
LU-8891 llite: rcu-walk check should not depend on statahead
[fs/lustre-release.git] / lustre / llite / dcache.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.gnu.org/licenses/gpl-2.0.html
19  *
20  * GPL HEADER END
21  */
22 /*
23  * Copyright (c) 2002, 2010, Oracle and/or its affiliates. All rights reserved.
24  * Use is subject to license terms.
25  *
26  * Copyright (c) 2011, 2016, Intel Corporation.
27  */
28 /*
29  * This file is part of Lustre, http://www.lustre.org/
30  * Lustre is a trademark of Sun Microsystems, Inc.
31  */
32
33 #include <linux/fs.h>
34 #include <linux/sched.h>
35 #include <linux/quotaops.h>
36 #include <linux/kernel.h>
37
38 #define DEBUG_SUBSYSTEM S_LLITE
39
40 #include <obd_support.h>
41 #include <lustre/lustre_idl.h>
42 #include <lustre_dlm.h>
43
44 #include "llite_internal.h"
45
46 static void free_dentry_data(struct rcu_head *head)
47 {
48         struct ll_dentry_data *lld;
49
50         lld = container_of(head, struct ll_dentry_data, lld_rcu_head);
51         OBD_FREE_PTR(lld);
52 }
53
54 /* should NOT be called with the dcache lock, see fs/dcache.c */
55 static void ll_release(struct dentry *de)
56 {
57         struct ll_dentry_data *lld;
58         ENTRY;
59         LASSERT(de != NULL);
60         lld = ll_d2d(de);
61         if (lld == NULL) /* NFS copies the de->d_op methods (bug 4655) */
62                 RETURN_EXIT;
63
64         if (lld->lld_it) {
65                 ll_intent_release(lld->lld_it);
66                 OBD_FREE(lld->lld_it, sizeof(*lld->lld_it));
67         }
68
69         de->d_fsdata = NULL;
70         call_rcu(&lld->lld_rcu_head, free_dentry_data);
71
72         EXIT;
73 }
74
75 /* Compare if two dentries are the same.  Don't match if the existing dentry
76  * is marked invalid.  Returns 1 if different, 0 if the same.
77  *
78  * This avoids a race where ll_lookup_it() instantiates a dentry, but we get
79  * an AST before calling d_revalidate_it().  The dentry still exists (marked
80  * INVALID) so d_lookup() matches it, but we have no lock on it (so
81  * lock_match() fails) and we spin around real_lookup(). */
82 #ifdef HAVE_D_COMPARE_7ARGS
83 static int ll_dcompare(const struct dentry *parent, const struct inode *pinode,
84                        const struct dentry *dentry, const struct inode *inode,
85                        unsigned int len, const char *str,
86                        const struct qstr *name)
87 #elif defined(HAVE_D_COMPARE_5ARGS)
88 static int ll_dcompare(const struct dentry *parent, const struct dentry *dentry,
89                        unsigned int len, const char *str,
90                        const struct qstr *name)
91 #elif defined(HAVE_D_COMPARE_4ARGS)
92 static int ll_dcompare(const struct dentry *dentry, unsigned int len,
93                        const char *str, const struct qstr *name)
94 #else
95 static int ll_dcompare(struct dentry *parent, struct qstr *d_name,
96                        struct qstr *name)
97 #endif
98 {
99 #if !defined(HAVE_D_COMPARE_7ARGS) && !defined(HAVE_D_COMPARE_5ARGS) && !defined(HAVE_D_COMPARE_4ARGS)
100         /* XXX: (ugh !) d_name must be in-dentry structure */
101         struct dentry *dentry = container_of(d_name, struct dentry, d_name);
102         unsigned int len = d_name->len;
103         const char *str = d_name->name;
104 #endif
105         ENTRY;
106
107         if (len != name->len)
108                 RETURN(1);
109
110         if (memcmp(str, name->name, len))
111                 RETURN(1);
112
113         CDEBUG(D_DENTRY, "found name %.*s(%p) flags %#x refc %d\n",
114                name->len, name->name, dentry, dentry->d_flags,
115                ll_d_count(dentry));
116
117         /* mountpoint is always valid */
118         if (d_mountpoint((struct dentry *)dentry))
119                 RETURN(0);
120
121         if (d_lustre_invalid(dentry))
122                 RETURN(1);
123
124         RETURN(0);
125 }
126
127 /**
128  * Called when last reference to a dentry is dropped and dcache wants to know
129  * whether or not it should cache it:
130  * - return 1 to delete the dentry immediately
131  * - return 0 to cache the dentry
132  * Should NOT be called with the dcache lock, see fs/dcache.c
133  */
134 static int ll_ddelete(HAVE_D_DELETE_CONST struct dentry *de)
135 {
136         ENTRY;
137         LASSERT(de);
138
139         CDEBUG(D_DENTRY, "%s dentry %.*s (%p, parent %p, inode %p) %s%s\n",
140                d_lustre_invalid((struct dentry *)de) ? "deleting" : "keeping",
141                de->d_name.len, de->d_name.name, de, de->d_parent, de->d_inode,
142                d_unhashed((struct dentry *)de) ? "" : "hashed,",
143                list_empty(&de->d_subdirs) ? "" : "subdirs");
144
145 #ifdef HAVE_DCACHE_LOCK
146         LASSERT(ll_d_count(de) == 0);
147 #else
148         /* kernel >= 2.6.38 last refcount is decreased after this function. */
149         LASSERT(ll_d_count(de) == 1);
150 #endif
151
152         if (d_lustre_invalid((struct dentry *)de))
153                 RETURN(1);
154         RETURN(0);
155 }
156
157 int ll_d_init(struct dentry *de)
158 {
159         ENTRY;
160         LASSERT(de != NULL);
161
162         CDEBUG(D_DENTRY, "ldd on dentry %.*s (%p) parent %p inode %p refc %d\n",
163                 de->d_name.len, de->d_name.name, de, de->d_parent, de->d_inode,
164                 ll_d_count(de));
165
166         if (de->d_fsdata == NULL) {
167                 struct ll_dentry_data *lld;
168
169                 OBD_ALLOC_PTR(lld);
170                 if (likely(lld != NULL)) {
171                         spin_lock(&de->d_lock);
172                         if (likely(de->d_fsdata == NULL)) {
173 #ifdef HAVE_DCACHE_LOCK
174                                 /* kernel >= 2.6.38 d_op is set in d_alloc() */
175                                 de->d_op = &ll_d_ops;
176                                 smp_mb();
177 #endif
178                                 de->d_fsdata = lld;
179                                 __d_lustre_invalidate(de);
180                         } else {
181                                 OBD_FREE_PTR(lld);
182                         }
183                         spin_unlock(&de->d_lock);
184                 } else {
185                         RETURN(-ENOMEM);
186                 }
187         }
188         LASSERT(de->d_op == &ll_d_ops);
189
190         RETURN(0);
191 }
192
193 void ll_intent_drop_lock(struct lookup_intent *it)
194 {
195         if (it->it_op && it->it_lock_mode) {
196                 struct lustre_handle handle;
197
198                 handle.cookie = it->it_lock_handle;
199
200                 CDEBUG(D_DLMTRACE, "releasing lock with cookie %#llx from it %p\n",
201                        handle.cookie, it);
202                 ldlm_lock_decref(&handle, it->it_lock_mode);
203
204                 /* bug 494: intent_release may be called multiple times, from
205                  * this thread and we don't want to double-decref this lock */
206                 it->it_lock_mode = 0;
207                 if (it->it_remote_lock_mode != 0) {
208                         handle.cookie = it->it_remote_lock_handle;
209
210                         CDEBUG(D_DLMTRACE, "releasing remote lock with cookie"
211                                "%#llx from it %p\n", handle.cookie, it);
212                         ldlm_lock_decref(&handle,
213                                          it->it_remote_lock_mode);
214                         it->it_remote_lock_mode = 0;
215                 }
216         }
217 }
218
219 void ll_intent_release(struct lookup_intent *it)
220 {
221         ENTRY;
222
223         CDEBUG(D_INFO, "intent %p released\n", it);
224         ll_intent_drop_lock(it);
225         /* We are still holding extra reference on a request, need to free it */
226         if (it_disposition(it, DISP_ENQ_OPEN_REF))
227                 ptlrpc_req_finished(it->it_request); /* ll_file_open */
228
229         if (it_disposition(it, DISP_ENQ_CREATE_REF)) /* create rec */
230                 ptlrpc_req_finished(it->it_request);
231
232         it->it_disposition = 0;
233         it->it_request = NULL;
234         EXIT;
235 }
236
237 void ll_invalidate_aliases(struct inode *inode)
238 {
239         struct dentry *dentry;
240         DECLARE_LL_D_HLIST_NODE_PTR(p);
241         ENTRY;
242
243         LASSERT(inode != NULL);
244
245         CDEBUG(D_INODE, "marking dentries for inode "DFID"(%p) invalid\n",
246                PFID(ll_inode2fid(inode)), inode);
247
248         ll_lock_dcache(inode);
249         ll_d_hlist_for_each_entry(dentry, p, &inode->i_dentry) {
250                 CDEBUG(D_DENTRY, "dentry in drop %.*s (%p) parent %p "
251                        "inode %p flags %d\n", dentry->d_name.len,
252                        dentry->d_name.name, dentry, dentry->d_parent,
253                        dentry->d_inode, dentry->d_flags);
254
255                 d_lustre_invalidate(dentry, 0);
256         }
257         ll_unlock_dcache(inode);
258
259         EXIT;
260 }
261
262 int ll_revalidate_it_finish(struct ptlrpc_request *request,
263                             struct lookup_intent *it,
264                             struct dentry *de)
265 {
266         int rc = 0;
267         ENTRY;
268
269         if (!request)
270                 RETURN(0);
271
272         if (it_disposition(it, DISP_LOOKUP_NEG))
273                 RETURN(-ENOENT);
274
275         rc = ll_prep_inode(&de->d_inode, request, NULL, it);
276
277         RETURN(rc);
278 }
279
280 void ll_lookup_finish_locks(struct lookup_intent *it, struct dentry *dentry)
281 {
282         LASSERT(it != NULL);
283         LASSERT(dentry != NULL);
284
285         if (it->it_lock_mode && dentry->d_inode != NULL) {
286                 struct inode *inode = dentry->d_inode;
287                 struct ll_sb_info *sbi = ll_i2sbi(dentry->d_inode);
288
289                 CDEBUG(D_DLMTRACE, "setting l_data to inode "DFID"(%p)\n",
290                        PFID(ll_inode2fid(inode)), inode);
291                 ll_set_lock_data(sbi->ll_md_exp, inode, it, NULL);
292         }
293
294         /* drop lookup or getattr locks immediately */
295         if (it->it_op == IT_LOOKUP || it->it_op == IT_GETATTR) {
296                 /* on 2.6 there are situation when several lookups and
297                  * revalidations may be requested during single operation.
298                  * therefore, we don't release intent here -bzzz */
299                 ll_intent_drop_lock(it);
300         }
301 }
302
303 static int ll_revalidate_dentry(struct dentry *dentry,
304                                 unsigned int lookup_flags)
305 {
306         struct inode *dir = dentry->d_parent->d_inode;
307
308         /* If this is intermediate component path lookup and we were able to get
309          * to this dentry, then its lock has not been revoked and the
310          * path component is valid. */
311         if (lookup_flags & (LOOKUP_CONTINUE | LOOKUP_PARENT))
312                 return 1;
313
314         /* Symlink - always valid as long as the dentry was found */
315 #ifdef HAVE_IOP_GET_LINK
316         if (dentry->d_inode && dentry->d_inode->i_op->get_link)
317 #else
318         if (dentry->d_inode && dentry->d_inode->i_op->follow_link)
319 #endif
320                 return 1;
321
322         /*
323          * VFS warns us that this is the second go around and previous
324          * operation failed (most likely open|creat), so this time
325          * we better talk to the server via the lookup path by name,
326          * not by fid.
327          */
328         if (lookup_flags & LOOKUP_REVAL)
329                 return 0;
330
331 #ifndef HAVE_DCACHE_LOCK
332         if (lookup_flags & LOOKUP_RCU)
333                 return -ECHILD;
334 #endif
335
336         if (dentry_may_statahead(dir, dentry))
337                 ll_statahead(dir, &dentry, dentry->d_inode == NULL);
338
339         return 1;
340 }
341
342 /*
343  * Always trust cached dentries. Update statahead window if necessary.
344  */
345 #ifdef HAVE_IOP_ATOMIC_OPEN
346 static int ll_revalidate_nd(struct dentry *dentry, unsigned int flags)
347 {
348         int rc;
349         ENTRY;
350
351         CDEBUG(D_VFSTRACE, "VFS Op:name=%s, flags=%u\n",
352                dentry->d_name.name, flags);
353
354         rc = ll_revalidate_dentry(dentry, flags);
355         RETURN(rc);
356 }
357 #else
358 static int ll_revalidate_nd(struct dentry *dentry, struct nameidata *nd)
359 {
360         int rc;
361         ENTRY;
362
363         /*
364          * this is normally called from NFS export, and we don't know whether
365          * this is the last component.
366          */
367         if (nd == NULL)
368                 RETURN(1);
369
370         CDEBUG(D_VFSTRACE, "VFS Op:name=%s, flags=%u\n",
371                dentry->d_name.name, nd->flags);
372
373         rc = ll_revalidate_dentry(dentry, nd->flags);
374         RETURN(rc);
375 }
376 #endif
377
378 const struct dentry_operations ll_d_ops = {
379         .d_revalidate = ll_revalidate_nd,
380         .d_release = ll_release,
381         .d_delete  = ll_ddelete,
382         .d_compare = ll_dcompare,
383 };