Whamcloud - gitweb
LU-15880 quota: fix issues in reserving quota
[fs/lustre-release.git] / lustre / mdd / mdd_object.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.gnu.org/licenses/gpl-2.0.html
19  *
20  * GPL HEADER END
21  */
22 /*
23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
24  * Use is subject to license terms.
25  *
26  * Copyright (c) 2011, 2017, Intel Corporation.
27  */
28 /*
29  * This file is part of Lustre, http://www.lustre.org/
30  *
31  * lustre/mdd/mdd_object.c
32  *
33  * Lustre Metadata Server (mdd) routines
34  *
35  * Author: Wang Di <wangdi@clusterfs.com>
36  */
37
38 #define DEBUG_SUBSYSTEM S_MDS
39
40 #include <linux/module.h>
41 #include <obd.h>
42 #include <obd_class.h>
43 #include <obd_support.h>
44 #include <lprocfs_status.h>
45 /* fid_be_cpu(), fid_cpu_to_be(). */
46 #include <lustre_fid.h>
47 #include <lustre_idmap.h>
48 #include <uapi/linux/lustre/lustre_param.h>
49 #include <lustre_mds.h>
50
51 #include "mdd_internal.h"
52
53 static const struct lu_object_operations mdd_lu_obj_ops;
54
55 struct mdd_object_user {
56         struct list_head        mou_list;       /**< linked off mod_users */
57         u64                     mou_open_flags; /**< open mode by client */
58         __u64                   mou_uidgid;     /**< uid_gid on client */
59         int                     mou_opencount;  /**< # opened */
60         ktime_t                 mou_deniednext; /**< time of next access denied
61                                                  * notfication
62                                                  */
63 };
64
65 static int mdd_xattr_get(const struct lu_env *env,
66                          struct md_object *obj, struct lu_buf *buf,
67                          const char *name);
68
69 static int mdd_changelog_data_store_by_fid(const struct lu_env *env,
70                                            struct mdd_device *mdd,
71                                            enum changelog_rec_type type,
72                                            enum changelog_rec_flags clf_flags,
73                                            const struct lu_fid *fid,
74                                            const struct lu_fid *pfid,
75                                            const char *xattr_name,
76                                            struct thandle *handle);
77
78 static inline bool has_prefix(const char *str, const char *prefix);
79
80
81 static u32 flags_helper(u64 open_flags)
82 {
83         u32 open_mode = 0;
84
85         if (open_flags & MDS_FMODE_EXEC) {
86                 open_mode = MDS_FMODE_EXEC;
87         } else {
88                 if (open_flags & MDS_FMODE_READ)
89                         open_mode = MDS_FMODE_READ;
90                 if (open_flags &
91                     (MDS_FMODE_WRITE | MDS_OPEN_TRUNC | MDS_OPEN_APPEND))
92                         open_mode |= MDS_FMODE_WRITE;
93         }
94
95         return open_mode;
96 }
97
98 /** Allocate/init a user and its sub-structures.
99  *
100  * \param flags [IN]
101  * \param uid [IN]
102  * \param gid [IN]
103  * \retval mou [OUT] success valid structure
104  * \retval mou [OUT]
105  */
106 static struct mdd_object_user *mdd_obj_user_alloc(u64 open_flags,
107                                                   uid_t uid, gid_t gid)
108 {
109         struct mdd_object_user *mou;
110
111         ENTRY;
112
113         OBD_SLAB_ALLOC_PTR(mou, mdd_object_kmem);
114         if (mou == NULL)
115                 RETURN(ERR_PTR(-ENOMEM));
116
117         mou->mou_open_flags = open_flags;
118         mou->mou_uidgid = ((__u64)uid << 32) | gid;
119         mou->mou_opencount = 0;
120         mou->mou_deniednext = ktime_set(0, 0);
121
122         RETURN(mou);
123 }
124
125 /**
126  * Free a user and its sub-structures.
127  *
128  * \param mou [IN]  user to be freed.
129  */
130 static void mdd_obj_user_free(struct mdd_object_user *mou)
131 {
132         OBD_SLAB_FREE_PTR(mou, mdd_object_kmem);
133 }
134
135 /**
136  * Find if UID/GID already has this file open
137  *
138  * Caller should have write-locked \param mdd_obj.
139  * \param mdd_obj [IN] mdd_obj
140  * \param uid [IN] client uid
141  * \param gid [IN] client gid
142  * \retval user pointer or NULL if not found
143  */
144 static
145 struct mdd_object_user *mdd_obj_user_find(struct mdd_object *mdd_obj,
146                                           uid_t uid, gid_t gid,
147                                           u64 open_flags)
148 {
149         struct mdd_object_user *mou;
150         __u64 uidgid;
151
152         ENTRY;
153
154         uidgid = ((__u64)uid << 32) | gid;
155         list_for_each_entry(mou, &mdd_obj->mod_users, mou_list) {
156                 if (mou->mou_uidgid == uidgid &&
157                     flags_helper(mou->mou_open_flags) ==
158                     flags_helper(open_flags))
159                         RETURN(mou);
160         }
161         RETURN(NULL);
162 }
163
164 /**
165  * Add a user to the list of openers for this file
166  *
167  * Caller should have write-locked \param mdd_obj.
168  * \param mdd_obj [IN] mdd_obj
169  * \param mou [IN] user
170  * \retval 0 success
171  * \retval -ve failure
172  */
173 static int mdd_obj_user_add(struct mdd_object *mdd_obj,
174                             struct mdd_object_user *mou,
175                             bool denied)
176 {
177         struct mdd_device *mdd = mdd_obj2mdd_dev(mdd_obj);
178         struct mdd_object_user *tmp;
179         __u32 uid = mou->mou_uidgid >> 32;
180         __u32 gid = mou->mou_uidgid & ((1UL << 32) - 1);
181
182         ENTRY;
183         tmp = mdd_obj_user_find(mdd_obj, uid, gid, mou->mou_open_flags);
184         if (tmp != NULL)
185                 RETURN(-EEXIST);
186
187         list_add_tail(&mou->mou_list, &mdd_obj->mod_users);
188
189         if (denied)
190                 /* next 'access denied' notification cannot happen before
191                  * mou_deniednext
192                  */
193                 mou->mou_deniednext =
194                         ktime_add(ktime_get(),
195                                   ktime_set(mdd->mdd_cl.mc_deniednext, 0));
196         else
197                 mou->mou_opencount++;
198
199         RETURN(0);
200 }
201 /**
202  * Remove UID from the list
203  *
204  * Caller should have write-locked \param mdd_obj.
205  * \param mdd_obj [IN] mdd_obj
206  * \param uid [IN] user
207  * \retval -ve failure
208  */
209 static int mdd_obj_user_remove(struct mdd_object *mdd_obj,
210                                struct mdd_object_user *mou)
211 {
212         ENTRY;
213
214         if (mou == NULL)
215                 RETURN(-ENOENT);
216
217         list_del_init(&mou->mou_list);
218
219         mdd_obj_user_free(mou);
220
221         RETURN(0);
222 }
223 int mdd_la_get(const struct lu_env *env, struct mdd_object *obj,
224                struct lu_attr *la)
225 {
226         int rc;
227
228         if (mdd_object_exists(obj) == 0)
229                 return -ENOENT;
230
231         rc = mdo_attr_get(env, obj, la);
232         if (unlikely(rc != 0)) {
233                 if (rc == -ENOENT)
234                         obj->mod_flags |= DEAD_OBJ;
235                 return rc;
236         }
237
238         if (la->la_valid & LA_FLAGS && la->la_flags & LUSTRE_ORPHAN_FL)
239                 obj->mod_flags |= ORPHAN_OBJ | DEAD_OBJ;
240
241         return 0;
242 }
243
244 struct mdd_thread_info *mdd_env_info(const struct lu_env *env)
245 {
246         return lu_env_info(env, &mdd_thread_key);
247 }
248
249 struct lu_buf *mdd_buf_get(const struct lu_env *env, void *area, ssize_t len)
250 {
251         struct lu_buf *buf;
252
253         buf = &mdd_env_info(env)->mdi_buf[0];
254         buf->lb_buf = area;
255         buf->lb_len = len;
256         return buf;
257 }
258
259 const struct lu_buf *mdd_buf_get_const(const struct lu_env *env,
260                                        const void *area, ssize_t len)
261 {
262         struct lu_buf *buf;
263
264         buf = &mdd_env_info(env)->mdi_buf[0];
265         buf->lb_buf = (void *)area;
266         buf->lb_len = len;
267         return buf;
268 }
269
270 struct lu_object *mdd_object_alloc(const struct lu_env *env,
271                                    const struct lu_object_header *hdr,
272                                    struct lu_device *d)
273 {
274         struct mdd_object *mdd_obj;
275         struct lu_object *o;
276
277         OBD_SLAB_ALLOC_PTR_GFP(mdd_obj, mdd_object_kmem, GFP_NOFS);
278         if (!mdd_obj)
279                 return NULL;
280
281         o = mdd2lu_obj(mdd_obj);
282         lu_object_init(o, NULL, d);
283         mdd_obj->mod_obj.mo_ops = &mdd_obj_ops;
284         mdd_obj->mod_obj.mo_dir_ops = &mdd_dir_ops;
285         mdd_obj->mod_count = 0;
286         o->lo_ops = &mdd_lu_obj_ops;
287         INIT_LIST_HEAD(&mdd_obj->mod_users);
288
289         return o;
290 }
291
292 static int mdd_object_init(const struct lu_env *env, struct lu_object *o,
293                            const struct lu_object_conf *unused)
294 {
295         struct mdd_device *d = lu2mdd_dev(o->lo_dev);
296         struct mdd_object *mdd_obj = lu2mdd_obj(o);
297         struct lu_object  *below;
298         struct lu_device  *under;
299         ENTRY;
300
301         mdd_obj->mod_cltime = ktime_set(0, 0);
302         under = &d->mdd_child->dd_lu_dev;
303         below = under->ld_ops->ldo_object_alloc(env, o->lo_header, under);
304         if (IS_ERR(below))
305                 RETURN(PTR_ERR(below));
306
307         lu_object_add(o, below);
308
309         RETURN(0);
310 }
311
312 static int mdd_object_start(const struct lu_env *env, struct lu_object *o)
313 {
314         int rc = 0;
315
316         if (lu_object_exists(o)) {
317                 struct mdd_object *mdd_obj = lu2mdd_obj(o);
318                 struct lu_attr *attr = MDD_ENV_VAR(env, la_for_start);
319
320                 rc = mdd_la_get(env, mdd_obj, attr);
321         }
322
323         return rc;
324 }
325
326 static void mdd_object_free(const struct lu_env *env, struct lu_object *o)
327 {
328         struct mdd_object *mdd = lu2mdd_obj(o);
329         struct mdd_object_user *mou, *tmp2;
330
331         /* free user list */
332         list_for_each_entry_safe(mou, tmp2, &mdd->mod_users, mou_list) {
333                 list_del(&mou->mou_list);
334                 mdd_obj_user_free(mou);
335         }
336
337         lu_object_fini(o);
338         /* mdd doesn't contain an lu_object_header, so don't need call_rcu */
339         OBD_SLAB_FREE_PTR(mdd, mdd_object_kmem);
340 }
341
342 static int mdd_object_print(const struct lu_env *env, void *cookie,
343                             lu_printer_t p, const struct lu_object *o)
344 {
345         struct mdd_object *mdd = lu2mdd_obj((struct lu_object *)o);
346
347         return (*p)(env, cookie,
348                     LUSTRE_MDD_NAME"-object@%p(open_count=%d, valid=%x, cltime=%lldns, flags=%lx)",
349                     mdd, mdd->mod_count, mdd->mod_valid,
350                     ktime_to_ns(mdd->mod_cltime), mdd->mod_flags);
351 }
352
353 static const struct lu_object_operations mdd_lu_obj_ops = {
354         .loo_object_init    = mdd_object_init,
355         .loo_object_start   = mdd_object_start,
356         .loo_object_free    = mdd_object_free,
357         .loo_object_print   = mdd_object_print,
358 };
359
360 struct mdd_object *mdd_object_find(const struct lu_env *env,
361                                    struct mdd_device *d,
362                                    const struct lu_fid *f)
363 {
364         return md2mdd_obj(md_object_find_slice(env, &d->mdd_md_dev, f));
365 }
366
367 /*
368  * No permission check is needed.
369  */
370 int mdd_attr_get(const struct lu_env *env, struct md_object *obj,
371                  struct md_attr *ma)
372 {
373         struct mdd_object *mdd_obj = md2mdd_obj(obj);
374         int               rc;
375
376         ENTRY;
377
378         rc = mdd_la_get(env, mdd_obj, &ma->ma_attr);
379         if ((ma->ma_need & MA_INODE) != 0 && mdd_is_dead_obj(mdd_obj))
380                 ma->ma_attr.la_nlink = 0;
381
382         RETURN(rc);
383 }
384
385 /*
386  * No permission check is needed.
387  */
388 static int mdd_xattr_get(const struct lu_env *env,
389                          struct md_object *obj, struct lu_buf *buf,
390                          const char *name)
391 {
392         struct mdd_object *mdd_obj = md2mdd_obj(obj);
393         struct mdd_device *mdd;
394         int rc;
395
396         ENTRY;
397
398         if (mdd_object_exists(mdd_obj) == 0) {
399                 CERROR("%s: object "DFID" not found: rc = -2\n",
400                        mdd_obj_dev_name(mdd_obj),
401                        PFID(mdd_object_fid(mdd_obj)));
402                 return -ENOENT;
403         }
404
405         /* If the object has been destroyed, then do not get LMVEA, because
406          * it needs to load stripes from the iteration of the master object,
407          * and it will cause problem if master object has been destroyed, see
408          * LU-6427 */
409         if (unlikely((mdd_obj->mod_flags & DEAD_OBJ) &&
410                      !(mdd_obj->mod_flags & ORPHAN_OBJ) &&
411                       strcmp(name, XATTR_NAME_LMV) == 0))
412                 RETURN(-ENOENT);
413
414         /* If the object has been delete from the namespace, then
415          * get linkEA should return -ENOENT as well */
416         if (unlikely((mdd_obj->mod_flags & (DEAD_OBJ | ORPHAN_OBJ)) &&
417                       strcmp(name, XATTR_NAME_LINK) == 0))
418                 RETURN(-ENOENT);
419
420         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
421         rc = mdo_xattr_get(env, mdd_obj, buf, name);
422         mdd_read_unlock(env, mdd_obj);
423
424         mdd = mdo2mdd(obj);
425
426         /* record only getting user xattrs and acls */
427         if (rc >= 0 && buf->lb_buf &&
428             mdd_changelog_enabled(env, mdd, CL_GETXATTR) &&
429             (has_prefix(name, XATTR_USER_PREFIX) ||
430              has_prefix(name, XATTR_NAME_POSIX_ACL_ACCESS) ||
431              has_prefix(name, XATTR_NAME_POSIX_ACL_DEFAULT))) {
432                 struct thandle *handle;
433                 int rc2;
434
435                 LASSERT(mdd_object_fid(mdd_obj) != NULL);
436
437                 handle = mdd_trans_create(env, mdd);
438                 if (IS_ERR(handle))
439                         RETURN(PTR_ERR(handle));
440
441                 rc2 = mdd_declare_changelog_store(env, mdd, CL_GETXATTR, NULL,
442                                                   NULL, handle);
443                 if (rc2)
444                         GOTO(stop, rc2);
445
446                 rc2 = mdd_trans_start(env, mdd, handle);
447                 if (rc2)
448                         GOTO(stop, rc2);
449
450                 rc2 = mdd_changelog_data_store_by_fid(env, mdd, CL_GETXATTR, 0,
451                                                       mdd_object_fid(mdd_obj),
452                                                       NULL, name, handle);
453
454 stop:
455                 rc2 = mdd_trans_stop(env, mdd, rc2, handle);
456                 if (rc2)
457                         rc = rc2;
458         }
459
460         RETURN(rc);
461 }
462
463 /*
464  * Permission check is done when open,
465  * no need check again.
466  */
467 int mdd_readlink(const struct lu_env *env, struct md_object *obj,
468                  struct lu_buf *buf)
469 {
470         struct mdd_object *mdd_obj = md2mdd_obj(obj);
471         struct dt_object  *next;
472         loff_t             pos = 0;
473         int                rc;
474         ENTRY;
475
476         if (mdd_object_exists(mdd_obj) == 0) {
477                 CERROR("%s: object "DFID" not found: rc = -2\n",
478                        mdd_obj_dev_name(mdd_obj),PFID(mdd_object_fid(mdd_obj)));
479                 return -ENOENT;
480         }
481
482         next = mdd_object_child(mdd_obj);
483         LASSERT(next != NULL);
484         LASSERT(next->do_body_ops != NULL);
485         LASSERT(next->do_body_ops->dbo_read != NULL);
486         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
487         rc = dt_read(env, next, buf, &pos);
488         mdd_read_unlock(env, mdd_obj);
489         RETURN(rc);
490 }
491
492 /*
493  * No permission check is needed.
494  */
495 static int mdd_xattr_list(const struct lu_env *env, struct md_object *obj,
496                           struct lu_buf *buf)
497 {
498         struct mdd_object *mdd_obj = md2mdd_obj(obj);
499         int rc;
500
501         ENTRY;
502
503         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
504         rc = mdo_xattr_list(env, mdd_obj, buf);
505         mdd_read_unlock(env, mdd_obj);
506
507         /* If the buffer is NULL then we are only here to get the
508          * length of the xattr name list. */
509         if (rc < 0 || buf->lb_buf == NULL)
510                 RETURN(rc);
511
512         /*
513          * Filter out XATTR_NAME_LINK if this is an orphan object.  See
514          * mdd_xattr_get().
515          */
516         if (unlikely(mdd_obj->mod_flags & (DEAD_OBJ | ORPHAN_OBJ))) {
517                 char   *end = (char *)buf->lb_buf + rc;
518                 char   *p = buf->lb_buf;
519
520                 while (p < end) {
521                         char   *next = p + strlen(p) + 1;
522
523                         if (strcmp(p, XATTR_NAME_LINK) == 0) {
524                                 if (end - next > 0)
525                                         memmove(p, next, end - next);
526                                 rc -= next - p;
527                                 CDEBUG(D_INFO, "Filtered out "XATTR_NAME_LINK
528                                        " of orphan "DFID"\n",
529                                        PFID(mdd_object_fid(mdd_obj)));
530                                 break;
531                         }
532
533                         p = next;
534                 }
535         }
536
537         RETURN(rc);
538 }
539
540 int mdd_invalidate(const struct lu_env *env, struct md_object *obj)
541 {
542         return mdo_invalidate(env, md2mdd_obj(obj));
543 }
544
545 int mdd_declare_create_object_internal(const struct lu_env *env,
546                                        struct mdd_object *p,
547                                        struct mdd_object *c,
548                                        struct lu_attr *attr,
549                                        struct thandle *handle,
550                                        const struct md_op_spec *spec,
551                                        struct dt_allocation_hint *hint)
552 {
553         struct dt_object_format *dof = &mdd_env_info(env)->mdi_dof;
554         const struct dt_index_features *feat = spec->sp_feat;
555         int rc;
556         ENTRY;
557
558         if (feat != &dt_directory_features && feat != NULL) {
559                 dof->dof_type = DFT_INDEX;
560                 dof->u.dof_idx.di_feat = feat;
561         } else {
562                 dof->dof_type = dt_mode_to_dft(attr->la_mode);
563                 if (dof->dof_type == DFT_REGULAR) {
564                         dof->u.dof_reg.striped =
565                                 md_should_create(spec->sp_cr_flags);
566                         if (spec->sp_cr_flags & MDS_OPEN_HAS_EA)
567                                 dof->u.dof_reg.striped = 0;
568                         /* is this replay? */
569                         if (spec->no_create)
570                                 dof->u.dof_reg.striped = 0;
571                 }
572         }
573
574         rc = mdo_declare_create_object(env, c, attr, hint, dof, handle);
575
576         RETURN(rc);
577 }
578
579 int mdd_create_object_internal(const struct lu_env *env, struct mdd_object *p,
580                                struct mdd_object *c, struct lu_attr *attr,
581                                struct thandle *handle,
582                                const struct md_op_spec *spec,
583                                struct dt_allocation_hint *hint)
584 {
585         struct dt_object_format *dof = &mdd_env_info(env)->mdi_dof;
586         int rc;
587         ENTRY;
588
589         LASSERT(!mdd_object_exists(c));
590
591         rc = mdo_create_object(env, c, attr, hint, dof, handle);
592
593         RETURN(rc);
594 }
595
596 int mdd_attr_set_internal(const struct lu_env *env, struct mdd_object *obj,
597                           const struct lu_attr *attr, struct thandle *handle,
598                           int needacl)
599 {
600         int rc;
601         ENTRY;
602
603         rc = mdo_attr_set(env, obj, attr, handle);
604 #ifdef CONFIG_LUSTRE_FS_POSIX_ACL
605         if (!rc && (attr->la_valid & LA_MODE) && needacl)
606                 rc = mdd_acl_chmod(env, obj, attr->la_mode, handle);
607 #endif
608         RETURN(rc);
609 }
610
611 int mdd_update_time(const struct lu_env *env, struct mdd_object *obj,
612                     const struct lu_attr *oattr, struct lu_attr *attr,
613                     struct thandle *handle)
614 {
615         int rc = 0;
616         ENTRY;
617
618         LASSERT(attr->la_valid & LA_CTIME);
619         LASSERT(oattr != NULL);
620
621         /* Make sure the ctime is increased only, however, it's not strictly
622          * reliable at here because there is not guarantee to hold lock on
623          * object, so we just bypass some unnecessary cmtime setting first
624          * and OSD has to check it again. */
625         if (attr->la_ctime < oattr->la_ctime)
626                 attr->la_valid &= ~(LA_MTIME | LA_CTIME);
627         else if (attr->la_valid == LA_CTIME &&
628                  attr->la_ctime == oattr->la_ctime)
629                 attr->la_valid &= ~LA_CTIME;
630
631         if (attr->la_valid != 0)
632                 rc = mdd_attr_set_internal(env, obj, attr, handle, 0);
633         RETURN(rc);
634 }
635
636
637 static bool is_project_state_change(const struct lu_attr *oattr,
638                                     struct lu_attr *la)
639 {
640         if (la->la_valid & LA_PROJID &&
641             oattr->la_projid != la->la_projid)
642                 return true;
643
644         if ((la->la_valid & LA_FLAGS) &&
645             (la->la_flags & LUSTRE_PROJINHERIT_FL) !=
646             (oattr->la_flags & LUSTRE_PROJINHERIT_FL))
647                 return true;
648
649         return false;
650 }
651
652 /*
653  * This gives the same functionality as the code between
654  * sys_chmod and inode_setattr
655  * chown_common and inode_setattr
656  * utimes and inode_setattr
657  * This API is ported from mds_fix_attr but remove some unnecesssary stuff.
658  */
659 static int mdd_fix_attr(const struct lu_env *env, struct mdd_object *obj,
660                         const struct lu_attr *oattr, struct lu_attr *la,
661                         const struct md_attr *ma)
662 {
663         struct lu_ucred  *uc;
664         int               rc = 0;
665         const unsigned long flags = ma->ma_attr_flags;
666
667         ENTRY;
668
669         if (!la->la_valid)
670                 RETURN(0);
671
672         /* Do not permit change file type */
673         if (la->la_valid & LA_TYPE)
674                 RETURN(-EPERM);
675
676         /* They should not be processed by setattr */
677         if (la->la_valid & (LA_NLINK | LA_RDEV | LA_BLKSIZE))
678                 RETURN(-EPERM);
679
680         LASSERT(oattr != NULL);
681
682         uc = lu_ucred_check(env);
683         if (uc == NULL)
684                 RETURN(0);
685
686         if (is_project_state_change(oattr, la)) {
687                 if (!cap_raised(uc->uc_cap, CAP_SYS_RESOURCE) &&
688                     !lustre_in_group_p(uc, ma->ma_enable_chprojid_gid) &&
689                     !(ma->ma_enable_chprojid_gid == -1 &&
690                       mdd_permission_internal(env, obj, oattr, MAY_WRITE)))
691                         RETURN(-EPERM);
692         }
693
694         if (la->la_valid == LA_CTIME) {
695                 if (!(flags & MDS_PERM_BYPASS))
696                         /* This is only for set ctime when rename's source is
697                          * on remote MDS. */
698                         rc = mdd_may_delete(env, NULL, NULL, obj, oattr, NULL,
699                                             1, 0);
700                 if (rc == 0 && la->la_ctime <= oattr->la_ctime)
701                         la->la_valid &= ~LA_CTIME;
702                 RETURN(rc);
703         }
704
705         if (flags & MDS_CLOSE_UPDATE_TIMES &&
706             la->la_valid & (LA_ATIME | LA_MTIME | LA_CTIME)) {
707                 /* This is an atime/mtime/ctime attribute update for
708                  * close RPCs.
709                  */
710                 if (la->la_valid & LA_ATIME &&
711                     la->la_atime <= (oattr->la_atime +
712                                 mdd_obj2mdd_dev(obj)->mdd_atime_diff))
713                         la->la_valid &= ~LA_ATIME;
714                 if (la->la_valid & LA_CTIME && la->la_ctime <= oattr->la_ctime)
715                         la->la_valid &= ~LA_CTIME;
716                 if (la->la_valid & LA_MTIME && la->la_mtime <= oattr->la_mtime)
717                         la->la_valid &= ~LA_MTIME;
718                 RETURN(0);
719         }
720
721         /* Check if flags change. */
722         if (la->la_valid & LA_FLAGS) {
723                 unsigned int oldflags = oattr->la_flags &
724                                 (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL);
725                 unsigned int newflags = la->la_flags &
726                                 (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL);
727
728                 if ((uc->uc_fsuid != oattr->la_uid) &&
729                     !cap_raised(uc->uc_cap, CAP_FOWNER))
730                         RETURN(-EPERM);
731
732                 /* The IMMUTABLE and APPEND_ONLY flags can
733                  * only be changed by the relevant capability. */
734                 if ((oldflags ^ newflags) &&
735                     !cap_raised(uc->uc_cap, CAP_LINUX_IMMUTABLE))
736                         RETURN(-EPERM);
737
738                 if (!S_ISDIR(oattr->la_mode)) {
739                         la->la_flags &= ~(LUSTRE_DIRSYNC_FL | LUSTRE_TOPDIR_FL);
740                 } else if (la->la_flags & LUSTRE_ENCRYPT_FL) {
741                         /* when trying to add encryption flag on dir,
742                          * make sure it is empty
743                          */
744                         rc = mdd_dir_is_empty(env, obj);
745                         if (rc)
746                                 RETURN(rc);
747                         rc = 0;
748                 }
749         }
750
751         if (oattr->la_flags & (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL) &&
752             (la->la_valid & ~LA_FLAGS) &&
753             !(flags & MDS_PERM_BYPASS))
754                 RETURN(-EPERM);
755
756         /* Check for setting the obj time. */
757         if ((la->la_valid & (LA_MTIME | LA_ATIME | LA_CTIME)) &&
758             !(la->la_valid & ~(LA_MTIME | LA_ATIME | LA_CTIME))) {
759                 if ((uc->uc_fsuid != oattr->la_uid) &&
760                     !cap_raised(uc->uc_cap, CAP_FOWNER)) {
761                         rc = mdd_permission_internal(env, obj, oattr,
762                                                      MAY_WRITE);
763                         if (rc)
764                                 RETURN(rc);
765                 }
766         }
767
768         if (la->la_valid & LA_KILL_SUID) {
769                 la->la_valid &= ~LA_KILL_SUID;
770                 if ((oattr->la_mode & S_ISUID) &&
771                     !(la->la_valid & LA_MODE)) {
772                         la->la_mode = oattr->la_mode;
773                         la->la_valid |= LA_MODE;
774                 }
775                 la->la_mode &= ~S_ISUID;
776         }
777
778         if (la->la_valid & LA_KILL_SGID) {
779                 la->la_valid &= ~LA_KILL_SGID;
780                 if (((oattr->la_mode & (S_ISGID | S_IXGRP)) ==
781                         (S_ISGID | S_IXGRP)) &&
782                     !(la->la_valid & LA_MODE)) {
783                         la->la_mode = oattr->la_mode;
784                         la->la_valid |= LA_MODE;
785                 }
786                 la->la_mode &= ~S_ISGID;
787         }
788
789         /* Make sure a caller can chmod. */
790         if (la->la_valid & LA_MODE) {
791                 if (!(flags & MDS_PERM_BYPASS) &&
792                     (uc->uc_fsuid != oattr->la_uid) &&
793                     !cap_raised(uc->uc_cap, CAP_FOWNER))
794                         RETURN(-EPERM);
795
796                 if (la->la_mode == (umode_t) -1)
797                         la->la_mode = oattr->la_mode;
798                 else
799                         la->la_mode = (la->la_mode & S_IALLUGO) |
800                                         (oattr->la_mode & ~S_IALLUGO);
801
802                 /* Also check the setgid bit! */
803                 if (!lustre_in_group_p(uc, (la->la_valid & LA_GID) ?
804                                        la->la_gid : oattr->la_gid) &&
805                     !cap_raised(uc->uc_cap, CAP_FSETID))
806                         la->la_mode &= ~S_ISGID;
807         } else {
808                la->la_mode = oattr->la_mode;
809         }
810
811         /* Make sure a caller can chown. */
812         if (la->la_valid & LA_UID) {
813                 if (la->la_uid == (uid_t) -1)
814                         la->la_uid = oattr->la_uid;
815                 if (((uc->uc_fsuid != oattr->la_uid) ||
816                      (la->la_uid != oattr->la_uid)) &&
817                     !cap_raised(uc->uc_cap, CAP_CHOWN))
818                         RETURN(-EPERM);
819
820                 /* If the user or group of a non-directory has been
821                  * changed by a non-root user, remove the setuid bit.
822                  * 19981026 David C Niemi <niemi@tux.org>
823                  *
824                  * Changed this to apply to all users, including root,
825                  * to avoid some races. This is the behavior we had in
826                  * 2.0. The check for non-root was definitely wrong
827                  * for 2.2 anyway, as it should have been using
828                  * CAP_FSETID rather than fsuid -- 19990830 SD. */
829                 if (((oattr->la_mode & S_ISUID) == S_ISUID) &&
830                 !S_ISDIR(oattr->la_mode)) {
831                         la->la_mode &= ~S_ISUID;
832                         la->la_valid |= LA_MODE;
833                 }
834         }
835
836         /* Make sure caller can chgrp. */
837         if (la->la_valid & LA_GID) {
838                 if (la->la_gid == (gid_t) -1)
839                         la->la_gid = oattr->la_gid;
840                 if (((uc->uc_fsuid != oattr->la_uid) ||
841                      ((la->la_gid != oattr->la_gid) &&
842                       !lustre_in_group_p(uc, la->la_gid))) &&
843                     !cap_raised(uc->uc_cap, CAP_CHOWN))
844                         RETURN(-EPERM);
845
846                 /* Likewise, if the user or group of a non-directory
847                  * has been changed by a non-root user, remove the
848                  * setgid bit UNLESS there is no group execute bit
849                  * (this would be a file marked for mandatory
850                  * locking).  19981026 David C Niemi <niemi@tux.org>
851                  *
852                  * Removed the fsuid check (see the comment above) --
853                  * 19990830 SD. */
854                 if (((oattr->la_mode & (S_ISGID | S_IXGRP)) ==
855                     (S_ISGID | S_IXGRP)) && !S_ISDIR(oattr->la_mode)) {
856                         la->la_mode &= ~S_ISGID;
857                         la->la_valid |= LA_MODE;
858                 }
859         }
860
861         if (la->la_valid & (LA_SIZE | LA_BLOCKS)) {
862                 if (!((flags & MDS_OWNEROVERRIDE) &&
863                       (uc->uc_fsuid == oattr->la_uid)) &&
864                     !(flags & MDS_PERM_BYPASS)) {
865                         rc = mdd_permission_internal(env, obj, oattr,
866                                                      MAY_WRITE);
867                         if (rc != 0)
868                                 RETURN(rc);
869                 }
870         }
871
872         if (la->la_valid & LA_CTIME) {
873                 /**
874                  * The pure setattr, it has the priority over what is
875                  * already set, do not drop it if ctime is equal.
876                  */
877                 if (la->la_ctime < oattr->la_ctime)
878                         la->la_valid &= ~(LA_ATIME | LA_MTIME | LA_CTIME);
879         }
880
881         RETURN(0);
882 }
883
884 static int mdd_changelog_data_store_by_fid(const struct lu_env *env,
885                                            struct mdd_device *mdd,
886                                            enum changelog_rec_type type,
887                                            enum changelog_rec_flags clf_flags,
888                                            const struct lu_fid *fid,
889                                            const struct lu_fid *pfid,
890                                            const char *xattr_name,
891                                            struct thandle *handle)
892 {
893         const struct lu_ucred *uc = lu_ucred(env);
894         enum changelog_rec_extra_flags xflags = CLFE_INVALID;
895         struct llog_changelog_rec *rec;
896         struct lu_buf *buf;
897         int reclen;
898         int rc;
899
900         clf_flags = (clf_flags & CLF_FLAGMASK) | CLF_VERSION | CLF_EXTRA_FLAGS;
901
902         if (uc) {
903                 if (uc->uc_jobid[0] != '\0')
904                         clf_flags |= CLF_JOBID;
905                 xflags |= CLFE_UIDGID;
906                 xflags |= CLFE_NID;
907         }
908         if (type == CL_OPEN || type == CL_DN_OPEN)
909                 xflags |= CLFE_OPEN;
910         if (type == CL_SETXATTR || type == CL_GETXATTR)
911                 xflags |= CLFE_XATTR;
912
913         reclen = llog_data_len(LLOG_CHANGELOG_HDR_SZ +
914                                changelog_rec_offset(clf_flags & CLF_SUPPORTED,
915                                                     xflags & CLFE_SUPPORTED));
916         buf = lu_buf_check_and_alloc(&mdd_env_info(env)->mdi_chlg_buf, reclen);
917         if (buf->lb_buf == NULL)
918                 RETURN(-ENOMEM);
919         rec = buf->lb_buf;
920
921         rec->cr_hdr.lrh_len = reclen;
922         rec->cr.cr_flags = clf_flags;
923         rec->cr.cr_type = (__u32)type;
924         rec->cr.cr_tfid = *fid;
925         if (pfid)
926                 rec->cr.cr_pfid = *pfid;
927         rec->cr.cr_namelen = 0;
928
929         if (clf_flags & CLF_JOBID)
930                 mdd_changelog_rec_ext_jobid(&rec->cr, uc->uc_jobid);
931
932         if (clf_flags & CLF_EXTRA_FLAGS) {
933                 mdd_changelog_rec_ext_extra_flags(&rec->cr, xflags);
934                 if (xflags & CLFE_UIDGID)
935                         mdd_changelog_rec_extra_uidgid(&rec->cr,
936                                                        uc->uc_uid, uc->uc_gid);
937                 if (xflags & CLFE_NID)
938                         mdd_changelog_rec_extra_nid(&rec->cr, uc->uc_nid);
939                 if (xflags & CLFE_OPEN)
940                         mdd_changelog_rec_extra_omode(&rec->cr, clf_flags);
941                 if (xflags & CLFE_XATTR) {
942                         if (xattr_name == NULL)
943                                 RETURN(-EINVAL);
944                         mdd_changelog_rec_extra_xattr(&rec->cr, xattr_name);
945                 }
946         }
947
948         rc = mdd_changelog_store(env, mdd, rec, handle);
949         RETURN(rc);
950 }
951
952
953 /** Store a data change changelog record
954  * If this fails, we must fail the whole transaction; we don't
955  * want the change to commit without the log entry.
956  * \param mdd_obj - mdd_object of change
957  * \param handle - transaction handle
958  * \param pfid - parent FID for CL_MTIME changelogs
959  */
960 int mdd_changelog_data_store(const struct lu_env *env, struct mdd_device *mdd,
961                              enum changelog_rec_type type,
962                              enum changelog_rec_flags clf_flags,
963                              struct mdd_object *mdd_obj, struct thandle *handle,
964                              const struct lu_fid *pfid)
965 {
966         int                              rc;
967
968         LASSERT(mdd_obj != NULL);
969         LASSERT(handle != NULL);
970
971         if (!mdd_changelog_enabled(env, mdd, type))
972                 RETURN(0);
973
974         if (mdd_is_volatile_obj(mdd_obj))
975                 RETURN(0);
976
977         if ((type >= CL_MTIME) && (type <= CL_ATIME) &&
978             ktime_before(mdd->mdd_cl.mc_starttime, mdd_obj->mod_cltime)) {
979                 /* Don't need multiple updates in this log */
980                 /* Don't check under lock - no big deal if we get an extra
981                    entry */
982                 RETURN(0);
983         }
984
985         rc = mdd_changelog_data_store_by_fid(env, mdd, type, clf_flags,
986                                              mdd_object_fid(mdd_obj), pfid,
987                                              NULL, handle);
988         if (rc == 0)
989                 mdd_obj->mod_cltime = ktime_get();
990
991         RETURN(rc);
992 }
993
994 int mdd_changelog_data_store_xattr(const struct lu_env *env,
995                                    struct mdd_device *mdd,
996                                    enum changelog_rec_type type,
997                                    enum changelog_rec_flags clf_flags,
998                                    struct mdd_object *mdd_obj,
999                                    const char *xattr_name,
1000                                    struct thandle *handle)
1001 {
1002         int rc;
1003
1004         LASSERT(mdd_obj != NULL);
1005         LASSERT(handle != NULL);
1006
1007         if (!mdd_changelog_enabled(env, mdd, type))
1008                 RETURN(0);
1009
1010         if (mdd_is_volatile_obj(mdd_obj))
1011                 RETURN(0);
1012
1013         if ((type >= CL_MTIME) && (type <= CL_ATIME) &&
1014             ktime_before(mdd->mdd_cl.mc_starttime, mdd_obj->mod_cltime)) {
1015                 /* Don't need multiple updates in this log */
1016                 /* Don't check under lock - no big deal if we get an extra
1017                  * entry
1018                  */
1019                 RETURN(0);
1020         }
1021
1022         rc = mdd_changelog_data_store_by_fid(env, mdd, type, clf_flags,
1023                                              mdd_object_fid(mdd_obj), NULL,
1024                                              xattr_name, handle);
1025         if (rc == 0)
1026                 mdd_obj->mod_cltime = ktime_get();
1027
1028         RETURN(rc);
1029 }
1030
1031 /* only the bottom CLF_FLAGSHIFT bits of @flags are stored in the record,
1032  * except for open flags have a dedicated record to store 32 bits of flags */
1033 static int mdd_changelog(const struct lu_env *env, enum changelog_rec_type type,
1034                          enum changelog_rec_flags clf_flags,
1035                          struct md_device *m, const struct lu_fid *fid)
1036 {
1037         struct thandle *handle;
1038         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
1039         int rc;
1040         ENTRY;
1041
1042         LASSERT(fid != NULL);
1043
1044         /* We'll check this again below, but we check now before we
1045          * start a transaction. */
1046         if (!mdd_changelog_enabled(env, mdd, type))
1047                 RETURN(0);
1048
1049         handle = mdd_trans_create(env, mdd);
1050         if (IS_ERR(handle))
1051                 RETURN(PTR_ERR(handle));
1052
1053         rc = mdd_declare_changelog_store(env, mdd, type, NULL, NULL, handle);
1054         if (rc)
1055                 GOTO(stop, rc);
1056
1057         rc = mdd_trans_start(env, mdd, handle);
1058         if (rc)
1059                 GOTO(stop, rc);
1060
1061         rc = mdd_changelog_data_store_by_fid(env, mdd, type, clf_flags,
1062                                              fid, NULL, NULL, handle);
1063
1064 stop:
1065         rc = mdd_trans_stop(env, mdd, rc, handle);
1066
1067         RETURN(rc);
1068 }
1069
1070 /**
1071  * Save LMA extended attributes with data from \a ma.
1072  *
1073  * HSM and Size-On-MDS data will be extracted from \ma if they are valid, if
1074  * not, LMA EA will be first read from disk, modified and write back.
1075  *
1076  */
1077 /* Precedence for choosing record type when multiple
1078  * attributes change: setattr > mtime > ctime > atime
1079  * (ctime changes when mtime does, plus chmod/chown.
1080  * atime and ctime are independent.) */
1081 static int mdd_attr_set_changelog(const struct lu_env *env,
1082                                   struct md_object *obj, struct thandle *handle,
1083                                   const struct lu_fid *pfid, __u64 valid)
1084 {
1085         struct mdd_device *mdd = mdo2mdd(obj);
1086         int bits, type = 0;
1087
1088         bits =  (valid & LA_SIZE)  ? BIT(CL_TRUNC) : 0;
1089         bits |= (valid & ~(LA_CTIME|LA_MTIME|LA_ATIME)) ? BIT(CL_SETATTR) : 0;
1090         bits |= (valid & LA_MTIME) ? BIT(CL_MTIME) : 0;
1091         bits |= (valid & LA_CTIME) ? BIT(CL_CTIME) : 0;
1092         bits |= (valid & LA_ATIME) ? BIT(CL_ATIME) : 0;
1093         bits = bits & mdd->mdd_cl.mc_current_mask;
1094         /* This is an implementation limit rather than a protocol limit */
1095         BUILD_BUG_ON(CL_LAST > sizeof(int) * 8);
1096         if (bits == 0)
1097                 return 0;
1098
1099         /* The record type is the lowest non-masked set bit */
1100         type = __ffs(bits);
1101
1102         /* XXX: we only store the low CLF_FLAGMASK bits of la_valid */
1103         return mdd_changelog_data_store(env, mdd, type, valid, md2mdd_obj(obj),
1104                                         handle, pfid);
1105 }
1106
1107 static int mdd_declare_attr_set(const struct lu_env *env,
1108                                 struct mdd_device *mdd,
1109                                 struct mdd_object *obj,
1110                                 const struct lu_attr *attr,
1111                                 struct thandle *handle)
1112 {
1113         int rc;
1114
1115         rc = mdo_declare_attr_set(env, obj, attr, handle);
1116         if (rc)
1117                 return rc;
1118
1119 #ifdef CONFIG_LUSTRE_FS_POSIX_ACL
1120         if (attr->la_valid & LA_MODE) {
1121                 mdd_read_lock(env, obj, DT_TGT_CHILD);
1122                 rc = mdo_xattr_get(env, obj, &LU_BUF_NULL,
1123                                    XATTR_NAME_ACL_ACCESS);
1124                 mdd_read_unlock(env, obj);
1125                 if (rc == -EOPNOTSUPP || rc == -ENODATA)
1126                         rc = 0;
1127                 else if (rc < 0)
1128                         return rc;
1129
1130                 if (rc != 0) {
1131                         struct lu_buf *buf = mdd_buf_get(env, NULL, rc);
1132                         rc = mdo_declare_xattr_set(env, obj, buf,
1133                                                    XATTR_NAME_ACL_ACCESS, 0,
1134                                                    handle);
1135                         if (rc)
1136                                 return rc;
1137                 }
1138         }
1139 #endif
1140
1141         rc = mdd_declare_changelog_store(env, mdd, CL_SETXATTR, NULL, NULL,
1142                                          handle);
1143         return rc;
1144 }
1145
1146 /*
1147  * LU-3671
1148  * LU-7239
1149  *
1150  * permission changes may require sync operation, to mitigate performance
1151  * impact, only do this for dir and when permission is reduced.
1152  *
1153  * For regular files, version is updated with permission change (see VBR), async
1154  * permission won't cause any issue, while missing permission change on
1155  * directory may affect accessibility of other objects after recovery.
1156  */
1157 static inline bool permission_needs_sync(const struct lu_attr *old,
1158                                          const struct lu_attr *new)
1159 {
1160         if (!S_ISDIR(old->la_mode))
1161                 return false;
1162
1163         if (new->la_valid & LA_UID && old->la_uid != new->la_uid)
1164                 return true;
1165
1166         if (new->la_valid & LA_GID && old->la_gid != new->la_gid)
1167                 return true;
1168
1169         if (new->la_valid & LA_MODE) {
1170                 /* turned on sticky bit */
1171                 if (!(old->la_mode & S_ISVTX) && (new->la_mode & S_ISVTX))
1172                         return true;
1173
1174                 /* set-GID has no impact on what is allowed, not checked */
1175
1176                 /* turned off setuid bit, or one of rwx for someone */
1177                 if (((new->la_mode & old->la_mode) & (0777 | S_ISUID)) !=
1178                      (old->la_mode & (0777 | S_ISUID)))
1179                         return true;
1180         }
1181
1182         return false;
1183 }
1184
1185 static inline __u64 mdd_lmm_dom_size(void *buf)
1186 {
1187         struct lov_mds_md *lmm = buf;
1188         struct lov_comp_md_v1 *comp_v1;
1189         struct lov_mds_md *v1;
1190         __u32 off;
1191
1192         if (lmm == NULL)
1193                 return 0;
1194
1195         if (le32_to_cpu(lmm->lmm_magic) != LOV_MAGIC_COMP_V1)
1196                 return 0;
1197
1198         comp_v1 = (struct lov_comp_md_v1 *)lmm;
1199         off = le32_to_cpu(comp_v1->lcm_entries[0].lcme_offset);
1200         v1 = (struct lov_mds_md *)((char *)comp_v1 + off);
1201
1202         /* DoM entry is the first entry always */
1203         if (lov_pattern(le32_to_cpu(v1->lmm_pattern)) == LOV_PATTERN_MDT)
1204                 return le64_to_cpu(comp_v1->lcm_entries[0].lcme_extent.e_end);
1205
1206         return 0;
1207 }
1208
1209 /* set attr and LOV EA at once, return updated attr */
1210 int mdd_attr_set(const struct lu_env *env, struct md_object *obj,
1211                  const struct md_attr *ma)
1212 {
1213         struct mdd_object *mdd_obj = md2mdd_obj(obj);
1214         struct mdd_device *mdd = mdo2mdd(obj);
1215         struct thandle *handle = NULL;
1216         struct lu_attr *la_copy = &mdd_env_info(env)->mdi_la_for_fix;
1217         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
1218         const struct lu_attr *la = &ma->ma_attr;
1219         struct lu_ucred  *uc;
1220         struct lquota_id_info qi;
1221         bool quota_reserved = false;
1222         bool chrgrp_by_unprivileged_user = false;
1223         int rc;
1224         ENTRY;
1225
1226         /* we do not use ->attr_set() for LOV/HSM EA any more */
1227         LASSERT((ma->ma_valid & MA_LOV) == 0);
1228         LASSERT((ma->ma_valid & MA_HSM) == 0);
1229
1230         rc = mdd_la_get(env, mdd_obj, attr);
1231         if (rc)
1232                 RETURN(rc);
1233
1234         *la_copy = ma->ma_attr;
1235         rc = mdd_fix_attr(env, mdd_obj, attr, la_copy, ma);
1236         if (rc)
1237                 RETURN(rc);
1238
1239         /* no need to setattr anymore */
1240         if (la_copy->la_valid == 0) {
1241                 CDEBUG(D_INODE,
1242                        "%s: no valid attribute on "DFID", previous was %#llx\n",
1243                        mdd_obj_dev_name(mdd_obj),
1244                        PFID(mdd_object_fid(mdd_obj)), la->la_valid);
1245
1246                 RETURN(0);
1247         }
1248
1249         /* If an unprivileged user changes group of some file,
1250          * the setattr operation will be processed synchronously to
1251          * honor the quota limit of the corresponding group. see LU-5152 */
1252         uc = lu_ucred_check(env);
1253         memset(&qi, 0, sizeof(qi));
1254         if (S_ISREG(attr->la_mode) && la->la_valid & LA_GID &&
1255             la->la_gid != attr->la_gid && uc != NULL && uc->uc_fsuid != 0) {
1256                 CDEBUG(D_QUOTA, "%s: reserve quota for changing group: gid=%u size=%llu\n",
1257                        mdd2obd_dev(mdd)->obd_name, la->la_gid, la->la_size);
1258
1259                 if (la->la_valid & LA_BLOCKS)
1260                         qi.lqi_space = la->la_blocks << 9;
1261                 else if (la->la_valid & LA_SIZE)
1262                         qi.lqi_space = la->la_size;
1263                 /* use local attr gotten above */
1264                 else if (attr->la_valid & LA_BLOCKS)
1265                         qi.lqi_space = attr->la_blocks << 9;
1266                 else if (attr->la_valid & LA_SIZE)
1267                         qi.lqi_space = attr->la_size;
1268
1269                 if (qi.lqi_space > 0) {
1270                         qi.lqi_id.qid_gid = la->la_gid;
1271                         qi.lqi_type = GRPQUOTA;
1272                         qi.lqi_space = toqb(qi.lqi_space);
1273                         qi.lqi_is_blk = true;
1274                         rc = dt_reserve_or_free_quota(env, mdd->mdd_bottom,
1275                                                       &qi);
1276
1277                         if (rc) {
1278                                 CDEBUG(D_QUOTA, "%s: failed to reserve quota for gid %d size %llu\n",
1279                                        mdd2obd_dev(mdd)->obd_name,
1280                                        la->la_gid, qi.lqi_space);
1281
1282                                 GOTO(out, rc);
1283                         }
1284
1285                         quota_reserved = true;
1286                         la_copy->la_valid |= LA_FLAGS;
1287                 }
1288
1289                 chrgrp_by_unprivileged_user = true;
1290
1291                 /* Flush the possible existing client setattr requests to OSTs
1292                  * to keep the order with the current setattr operation that
1293                  * will be sent directly to OSTs. see LU-5152 */
1294                 /* LU-11303 disable sync as this is too heavyweight.
1295                  * This should be replaced with a sync only for the object
1296                  * being modified here, not the whole filesystem.
1297                 rc = dt_sync(env, mdd->mdd_child);
1298                 if (rc)
1299                         GOTO(out, rc);
1300                  */
1301         }
1302
1303         handle = mdd_trans_create(env, mdd);
1304         if (IS_ERR(handle)) {
1305                 rc = PTR_ERR(handle);
1306                 handle = NULL;
1307
1308                 GOTO(out, rc);
1309         }
1310
1311         rc = mdd_declare_attr_set(env, mdd, mdd_obj, la_copy, handle);
1312         if (rc)
1313                 GOTO(out, rc);
1314
1315         rc = mdd_trans_start(env, mdd, handle);
1316         if (rc)
1317                 GOTO(out, rc);
1318
1319         if (!chrgrp_by_unprivileged_user && mdd->mdd_sync_permission &&
1320             permission_needs_sync(attr, la))
1321                 handle->th_sync = 1;
1322
1323         if (la->la_valid & (LA_MTIME | LA_CTIME))
1324                 CDEBUG(D_INODE, "setting mtime %llu, ctime %llu\n",
1325                        la->la_mtime, la->la_ctime);
1326
1327         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
1328
1329         /* LU-10509: setattr of LA_SIZE should be skipped case of DOM,
1330          * otherwise following truncate will do nothing and truncated
1331          * data may be read again. This is a quick fix until LU-11033
1332          * will be resolved.
1333          */
1334         if (la_copy->la_valid & LA_SIZE) {
1335                 struct lu_buf *lov_buf = mdd_buf_get(env, NULL, 0);
1336
1337                 rc = mdd_stripe_get(env, mdd_obj, lov_buf, XATTR_NAME_LOV);
1338                 if (rc) {
1339                         rc = 0;
1340                 } else {
1341                         if (mdd_lmm_dom_size(lov_buf->lb_buf) > 0)
1342                                 la_copy->la_valid &= ~LA_SIZE;
1343                         lu_buf_free(lov_buf);
1344                 }
1345         }
1346
1347         if (la_copy->la_valid) {
1348                 rc = mdd_attr_set_internal(env, mdd_obj, la_copy, handle, 1);
1349
1350                 if (rc == -EDQUOT && la_copy->la_flags & LUSTRE_SET_SYNC_FL) {
1351                         /* rollback to the original gid */
1352                         la_copy->la_flags &= ~LUSTRE_SET_SYNC_FL;
1353                         la_copy->la_gid = attr->la_gid;
1354                         mdd_attr_set_internal(env, mdd_obj, la_copy, handle, 1);
1355                 }
1356         }
1357         mdd_write_unlock(env, mdd_obj);
1358
1359 out:
1360         if (rc == 0)
1361                 rc = mdd_attr_set_changelog(env, obj, handle, &ma->ma_pfid,
1362                                             la_copy->la_valid);
1363
1364         if (rc == 0 && quota_reserved) {
1365                 struct thandle *sub_th;
1366
1367                 sub_th = thandle_get_sub_by_dt(env, handle, mdd->mdd_bottom);
1368                 if (unlikely(IS_ERR(sub_th))) {
1369                         qi.lqi_space *= -1;
1370                         dt_reserve_or_free_quota(env, mdd->mdd_bottom, &qi);
1371                 } else {
1372                         sub_th->th_reserved_quota = qi;
1373                 }
1374         } else if (quota_reserved) {
1375                 qi.lqi_space *= -1;
1376                 dt_reserve_or_free_quota(env, mdd->mdd_bottom, &qi);
1377         }
1378
1379         if (handle != NULL)
1380                 rc = mdd_trans_stop(env, mdd, rc, handle);
1381
1382         return rc;
1383 }
1384
1385 static int mdd_xattr_sanity_check(const struct lu_env *env,
1386                                   struct mdd_object *obj,
1387                                   const struct lu_attr *attr,
1388                                   const char *name)
1389 {
1390         struct lu_ucred *uc     = lu_ucred_assert(env);
1391         ENTRY;
1392
1393         if (attr->la_flags & (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL))
1394                 RETURN(-EPERM);
1395
1396         if (strncmp(XATTR_USER_PREFIX, name,
1397                     sizeof(XATTR_USER_PREFIX) - 1) == 0) {
1398                 /* For sticky directories, only the owner and privileged user
1399                  * can write attributes. */
1400                 if (S_ISDIR(attr->la_mode) && (attr->la_mode & S_ISVTX) &&
1401                     (uc->uc_fsuid != attr->la_uid) &&
1402                     !cap_raised(uc->uc_cap, CAP_FOWNER))
1403                         RETURN(-EPERM);
1404         } else if (strcmp(name, XATTR_NAME_SOM) != 0 &&
1405                    (uc->uc_fsuid != attr->la_uid) &&
1406                    !cap_raised(uc->uc_cap, CAP_FOWNER)) {
1407                 RETURN(-EPERM);
1408         }
1409
1410         RETURN(0);
1411 }
1412
1413 /**
1414  * Check if a string begins with a given prefix.
1415  *
1416  * \param str     String to check
1417  * \param prefix  Substring to check at the beginning of \a str
1418  * \return true/false whether the condition is verified.
1419  */
1420 static inline bool has_prefix(const char *str, const char *prefix)
1421 {
1422         return strncmp(prefix, str, strlen(prefix)) == 0;
1423 }
1424
1425 /**
1426  * Indicate the kind of changelog to store (if any) for a xattr set/del.
1427  *
1428  * \param[in]  xattr_name  Full extended attribute name.
1429  *
1430  * \return type of changelog to use, or CL_NONE if no changelog is to be emitted
1431  */
1432 static enum changelog_rec_type
1433 mdd_xattr_changelog_type(const struct lu_env *env, struct mdd_device *mdd,
1434                          const char *xattr_name)
1435 {
1436         /* Layout changes systematically recorded */
1437         if (strcmp(XATTR_NAME_LOV, xattr_name) == 0 ||
1438             strcmp(XATTR_LUSTRE_LOV, xattr_name) == 0 ||
1439             allowed_lustre_lov(xattr_name))
1440                 return CL_LAYOUT;
1441
1442         /* HSM information changes systematically recorded */
1443         if (strcmp(XATTR_NAME_HSM, xattr_name) == 0)
1444                 return CL_HSM;
1445
1446         /* Avoid logging SOM xattr for every file */
1447         if (strcmp(XATTR_NAME_SOM, xattr_name) == 0)
1448                 return CL_NONE;
1449
1450         if (has_prefix(xattr_name, XATTR_USER_PREFIX) ||
1451             has_prefix(xattr_name, XATTR_NAME_POSIX_ACL_ACCESS) ||
1452             has_prefix(xattr_name, XATTR_NAME_POSIX_ACL_DEFAULT) ||
1453             has_prefix(xattr_name, XATTR_TRUSTED_PREFIX) ||
1454             has_prefix(xattr_name, XATTR_SECURITY_PREFIX))
1455                 return CL_SETXATTR;
1456
1457         return CL_NONE;
1458 }
1459
1460 static int mdd_declare_xattr_set(const struct lu_env *env,
1461                                  struct mdd_device *mdd,
1462                                  struct mdd_object *obj,
1463                                  const struct lu_buf *buf,
1464                                  const char *name,
1465                                  int fl, struct thandle *handle)
1466 {
1467         enum changelog_rec_type type;
1468         int rc;
1469
1470         rc = mdo_declare_xattr_set(env, obj, buf, name, fl, handle);
1471         if (rc)
1472                 return rc;
1473
1474         type = mdd_xattr_changelog_type(env, mdd, name);
1475         if (type < 0)
1476                 return 0; /* no changelog to store */
1477
1478         return mdd_declare_changelog_store(env, mdd, type, NULL, NULL, handle);
1479 }
1480
1481 /*
1482  * Compare current and future data of HSM EA and add a changelog if needed.
1483  *
1484  * Caller should have write-locked \param obj.
1485  *
1486  * \param buf - Future HSM EA content.
1487  * \retval 0 if no changelog is needed or changelog was added properly.
1488  * \retval -ve errno if there was a problem
1489  */
1490 static int mdd_hsm_update_locked(const struct lu_env *env,
1491                                  struct md_object *obj,
1492                                  const struct lu_buf *buf,
1493                                  struct thandle *handle,
1494                                  enum changelog_rec_flags *clf_flags)
1495 {
1496         struct mdd_thread_info *info = mdd_env_info(env);
1497         struct mdd_object *mdd_obj = md2mdd_obj(obj);
1498         struct lu_buf *current_buf;
1499         struct md_hsm *current_mh;
1500         struct md_hsm *new_mh;
1501         int rc;
1502
1503         ENTRY;
1504         OBD_ALLOC_PTR(current_mh);
1505         if (current_mh == NULL)
1506                 RETURN(-ENOMEM);
1507
1508         /* Read HSM attrs from disk */
1509         current_buf = lu_buf_check_and_alloc(&info->mdi_xattr_buf,
1510                         min_t(unsigned int,
1511                               mdd_obj2mdd_dev(mdd_obj)->mdd_dt_conf.ddp_max_ea_size,
1512                             XATTR_SIZE_MAX));
1513         rc = mdo_xattr_get(env, mdd_obj, current_buf, XATTR_NAME_HSM);
1514         rc = lustre_buf2hsm(current_buf->lb_buf, rc, current_mh);
1515         if (rc < 0 && rc != -ENODATA)
1516                 GOTO(free, rc);
1517         else if (rc == -ENODATA)
1518                 current_mh->mh_flags = 0;
1519
1520         /* Map future HSM xattr */
1521         OBD_ALLOC_PTR(new_mh);
1522         if (new_mh == NULL)
1523                 GOTO(free, rc = -ENOMEM);
1524         lustre_buf2hsm(buf->lb_buf, buf->lb_len, new_mh);
1525
1526         rc = 0;
1527
1528         /* Flags differ, set flags for the changelog that will be added */
1529         if (current_mh->mh_flags != new_mh->mh_flags) {
1530                 hsm_set_cl_event(clf_flags, HE_STATE);
1531                 if (new_mh->mh_flags & HS_DIRTY)
1532                         hsm_set_cl_flags(clf_flags, CLF_HSM_DIRTY);
1533         }
1534
1535         OBD_FREE_PTR(new_mh);
1536         EXIT;
1537 free:
1538         OBD_FREE_PTR(current_mh);
1539         return rc;
1540 }
1541
1542 static int mdd_object_pfid_replace(const struct lu_env *env,
1543                                    struct mdd_object *o)
1544 {
1545         struct mdd_device *mdd = mdo2mdd(&o->mod_obj);
1546         struct thandle *handle;
1547         int rc;
1548
1549         handle = mdd_trans_create(env, mdd);
1550         if (IS_ERR(handle))
1551                 RETURN(PTR_ERR(handle));
1552
1553         handle->th_complex = 1;
1554
1555         /* it doesn't need to track the PFID update via llog, because LFSCK
1556          * will repair it even it goes wrong */
1557         rc = mdd_declare_xattr_set(env, mdd, o, NULL, XATTR_NAME_FID,
1558                                    0, handle);
1559         if (rc)
1560                 GOTO(out, rc);
1561
1562         rc = mdd_trans_start(env, mdd, handle);
1563         if (rc != 0)
1564                 GOTO(out, rc);
1565
1566         rc = mdo_xattr_set(env, o, NULL, XATTR_NAME_FID, 0, handle);
1567         if (rc)
1568                 GOTO(out, rc);
1569
1570 out:
1571         mdd_trans_stop(env, mdd, rc, handle);
1572         return rc;
1573 }
1574
1575
1576 static int mdd_declare_xattr_del(const struct lu_env *env,
1577                                  struct mdd_device *mdd,
1578                                  struct mdd_object *obj,
1579                                  const char *name,
1580                                  struct thandle *handle);
1581
1582 static int mdd_xattr_del(const struct lu_env *env, struct md_object *obj,
1583                          const char *name);
1584
1585 static int mdd_xattr_merge(const struct lu_env *env, struct md_object *md_obj,
1586                            struct md_object *md_vic)
1587 {
1588         struct mdd_device *mdd = mdo2mdd(md_obj);
1589         struct mdd_object *obj = md2mdd_obj(md_obj);
1590         struct mdd_object *vic = md2mdd_obj(md_vic);
1591         struct lu_buf *buf = &mdd_env_info(env)->mdi_buf[0];
1592         struct lu_buf *buf_vic = &mdd_env_info(env)->mdi_buf[1];
1593         struct lov_mds_md *lmm;
1594         struct thandle *handle;
1595         int rc, lock_order;
1596         ENTRY;
1597
1598         lock_order = lu_fid_cmp(mdd_object_fid(obj), mdd_object_fid(vic));
1599         if (lock_order == 0) /* same fid */
1600                 RETURN(-EPERM);
1601
1602         handle = mdd_trans_create(env, mdd);
1603         if (IS_ERR(handle))
1604                 RETURN(PTR_ERR(handle));
1605
1606         /* get EA of victim file */
1607         memset(buf_vic, 0, sizeof(*buf_vic));
1608         rc = mdd_stripe_get(env, vic, buf_vic, XATTR_NAME_LOV);
1609         if (rc < 0) {
1610                 if (rc == -ENODATA)
1611                         rc = 0;
1612                 GOTO(stop, rc);
1613         }
1614
1615         /* parse the layout of victim file */
1616         lmm = buf_vic->lb_buf;
1617         if (le32_to_cpu(lmm->lmm_magic) != LOV_MAGIC_COMP_V1)
1618                 GOTO(stop, rc = -EINVAL);
1619
1620         /* save EA of target file for restore */
1621         memset(buf, 0, sizeof(*buf));
1622         rc = mdd_stripe_get(env, obj, buf, XATTR_NAME_LOV);
1623         if (rc < 0)
1624                 GOTO(stop, rc);
1625
1626         /* Get rid of the layout from victim object */
1627         rc = mdd_declare_xattr_del(env, mdd, vic, XATTR_NAME_LOV, handle);
1628         if (rc)
1629                 GOTO(stop, rc);
1630
1631         rc = mdd_declare_xattr_set(env, mdd, obj, buf_vic, XATTR_NAME_LOV,
1632                                    LU_XATTR_MERGE, handle);
1633         if (rc)
1634                 GOTO(stop, rc);
1635
1636         rc = mdd_trans_start(env, mdd, handle);
1637         if (rc != 0)
1638                 GOTO(stop, rc);
1639
1640         if (lock_order > 0) {
1641                 mdd_write_lock(env, obj, DT_TGT_CHILD);
1642                 mdd_write_lock(env, vic, DT_TGT_CHILD);
1643         } else {
1644                 mdd_write_lock(env, vic, DT_TGT_CHILD);
1645                 mdd_write_lock(env, obj, DT_TGT_CHILD);
1646         }
1647
1648         rc = mdo_xattr_set(env, obj, buf_vic, XATTR_NAME_LOV, LU_XATTR_MERGE,
1649                            handle);
1650         if (rc)
1651                 GOTO(out, rc);
1652
1653         rc = mdo_xattr_del(env, vic, XATTR_NAME_LOV, handle);
1654         if (rc) /* wtf? */
1655                 GOTO(out_restore, rc);
1656
1657         (void)mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle,
1658                                        NULL);
1659         (void)mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, vic, handle,
1660                                        NULL);
1661         EXIT;
1662
1663 out_restore:
1664         if (rc) {
1665                 int rc2 = mdo_xattr_set(env, obj, buf, XATTR_NAME_LOV,
1666                                         LU_XATTR_REPLACE, handle);
1667                 if (rc2)
1668                         CERROR("%s: failed rollback of "DFID" layout: file state unknown: rc = %d\n",
1669                                mdd_obj_dev_name(obj),
1670                                PFID(mdd_object_fid(obj)), rc2);
1671         }
1672
1673 out:
1674         mdd_write_unlock(env, obj);
1675         mdd_write_unlock(env, vic);
1676 stop:
1677         mdd_trans_stop(env, mdd, rc, handle);
1678         lu_buf_free(buf);
1679         lu_buf_free(buf_vic);
1680
1681         if (!rc)
1682                 (void) mdd_object_pfid_replace(env, obj);
1683
1684         return rc;
1685 }
1686
1687 /**
1688  * Extract the mirror with specified mirror id, and store the splitted
1689  * mirror layout to @buf.
1690  *
1691  * \param[in] comp_v1   mirrored layout
1692  * \param[in] mirror_id the mirror with mirror_id to be extracted
1693  * \param[out] buf      store the layout excluding the extracted mirror,
1694  *                      caller free the buffer we allocated in this function
1695  * \param[out] buf_vic  store the extracted layout, caller free the buffer
1696  *                      we allocated in this function
1697  *
1698  * \retval      0 on success; < 0 if error happens
1699  */
1700 static int mdd_split_ea(struct lov_comp_md_v1 *comp_v1, __u16 mirror_id,
1701                         struct lu_buf *buf, struct lu_buf *buf_vic)
1702 {
1703         struct lov_comp_md_v1 *comp_rem;
1704         struct lov_comp_md_v1 *comp_vic;
1705         struct lov_comp_md_entry_v1 *entry;
1706         struct lov_comp_md_entry_v1 *entry_rem;
1707         struct lov_comp_md_entry_v1 *entry_vic;
1708         __u16 mirror_cnt;
1709         __u16 comp_cnt, count = 0;
1710         int lmm_size, lmm_size_vic = 0;
1711         int i, j, k;
1712         int offset, offset_rem, offset_vic;
1713
1714         mirror_cnt = le16_to_cpu(comp_v1->lcm_mirror_count) + 1;
1715         /* comp_v1 should contains more than 1 mirror */
1716         if (mirror_cnt <= 1)
1717                 return -EINVAL;
1718         comp_cnt = le16_to_cpu(comp_v1->lcm_entry_count);
1719         lmm_size = le32_to_cpu(comp_v1->lcm_size);
1720
1721         for (i = 0; i < comp_cnt; i++) {
1722                 entry = &comp_v1->lcm_entries[i];
1723                 if (mirror_id_of(le32_to_cpu(entry->lcme_id)) == mirror_id) {
1724                         count++;
1725                         lmm_size_vic += sizeof(*entry);
1726                         lmm_size_vic += le32_to_cpu(entry->lcme_size);
1727                 } else if (count > 0) {
1728                         /* find the specified mirror */
1729                         break;
1730                 }
1731         }
1732
1733         if (count == 0)
1734                 return -EINVAL;
1735
1736         lu_buf_alloc(buf, lmm_size - lmm_size_vic);
1737         if (!buf->lb_buf)
1738                 return -ENOMEM;
1739
1740         lu_buf_alloc(buf_vic, sizeof(*comp_vic) + lmm_size_vic);
1741         if (!buf_vic->lb_buf) {
1742                 lu_buf_free(buf);
1743                 return -ENOMEM;
1744         }
1745
1746         comp_rem = (struct lov_comp_md_v1 *)buf->lb_buf;
1747         comp_vic = (struct lov_comp_md_v1 *)buf_vic->lb_buf;
1748
1749         memcpy(comp_rem, comp_v1, sizeof(*comp_v1));
1750         comp_rem->lcm_mirror_count = cpu_to_le16(mirror_cnt - 2);
1751         comp_rem->lcm_entry_count = cpu_to_le32(comp_cnt - count);
1752         comp_rem->lcm_size = cpu_to_le32(lmm_size - lmm_size_vic);
1753         if (!comp_rem->lcm_mirror_count)
1754                 comp_rem->lcm_flags = cpu_to_le16(LCM_FL_NONE);
1755
1756         memset(comp_vic, 0, sizeof(*comp_v1));
1757         comp_vic->lcm_magic = cpu_to_le32(LOV_MAGIC_COMP_V1);
1758         comp_vic->lcm_mirror_count = 0;
1759         comp_vic->lcm_entry_count = cpu_to_le32(count);
1760         comp_vic->lcm_size = cpu_to_le32(lmm_size_vic + sizeof(*comp_vic));
1761         comp_vic->lcm_flags = cpu_to_le16(LCM_FL_NONE);
1762         comp_vic->lcm_layout_gen = 0;
1763
1764         offset = sizeof(*comp_v1) + sizeof(*entry) * comp_cnt;
1765         offset_rem = sizeof(*comp_rem) +
1766                      sizeof(*entry_rem) * (comp_cnt - count);
1767         offset_vic = sizeof(*comp_vic) + sizeof(*entry_vic) * count;
1768         for (i = j = k = 0; i < comp_cnt; i++) {
1769                 struct lov_mds_md *lmm, *lmm_dst;
1770                 bool vic = false;
1771
1772                 entry = &comp_v1->lcm_entries[i];
1773                 entry_vic = &comp_vic->lcm_entries[j];
1774                 entry_rem = &comp_rem->lcm_entries[k];
1775
1776                 if (mirror_id_of(le32_to_cpu(entry->lcme_id)) == mirror_id)
1777                         vic = true;
1778
1779                 /* copy component entry */
1780                 if (vic) {
1781                         memcpy(entry_vic, entry, sizeof(*entry));
1782                         entry_vic->lcme_flags &= cpu_to_le32(LCME_FL_INIT);
1783                         entry_vic->lcme_offset = cpu_to_le32(offset_vic);
1784                         j++;
1785                 } else {
1786                         memcpy(entry_rem, entry, sizeof(*entry));
1787                         entry_rem->lcme_offset = cpu_to_le32(offset_rem);
1788                         k++;
1789                 }
1790
1791                 lmm = (struct lov_mds_md *)((char *)comp_v1 + offset);
1792                 if (vic)
1793                         lmm_dst = (struct lov_mds_md *)
1794                                         ((char *)comp_vic + offset_vic);
1795                 else
1796                         lmm_dst = (struct lov_mds_md *)
1797                                         ((char *)comp_rem + offset_rem);
1798
1799                 /* copy component entry blob */
1800                 memcpy(lmm_dst, lmm, le32_to_cpu(entry->lcme_size));
1801
1802                 /* blob offset advance */
1803                 offset += le32_to_cpu(entry->lcme_size);
1804                 if (vic)
1805                         offset_vic += le32_to_cpu(entry->lcme_size);
1806                 else
1807                         offset_rem += le32_to_cpu(entry->lcme_size);
1808         }
1809
1810         return 0;
1811 }
1812
1813 static int mdd_dom_data_truncate(const struct lu_env *env,
1814                                  struct mdd_device *mdd, struct mdd_object *mo);
1815
1816 static int mdd_xattr_split(const struct lu_env *env, struct md_object *md_obj,
1817                            struct md_rejig_data *mrd)
1818 {
1819         struct mdd_device *mdd = mdo2mdd(md_obj);
1820         struct mdd_object *obj = md2mdd_obj(md_obj);
1821         struct mdd_object *vic = NULL;
1822         struct lu_buf *buf = &mdd_env_info(env)->mdi_buf[0];
1823         struct lu_buf *buf_save = &mdd_env_info(env)->mdi_buf[1];
1824         struct lu_buf *buf_vic = &mdd_env_info(env)->mdi_buf[2];
1825         struct lov_comp_md_v1 *lcm;
1826         struct thandle *handle;
1827         int rc;
1828         bool dom_stripe = false;
1829
1830         ENTRY;
1831
1832         /**
1833          * NULL @mrd_obj means mirror deleting, and use NULL vic to indicate
1834          * mirror deleting
1835          */
1836         if (mrd->mrd_obj)
1837                 vic = md2mdd_obj(mrd->mrd_obj);
1838
1839         handle = mdd_trans_create(env, mdd);
1840         if (IS_ERR(handle))
1841                 RETURN(PTR_ERR(handle));
1842
1843         /* get EA of mirrored file */
1844         memset(buf_save, 0, sizeof(*buf));
1845         rc = mdd_stripe_get(env, obj, buf_save, XATTR_NAME_LOV);
1846         if (rc < 0)
1847                 GOTO(stop, rc);
1848
1849         lcm = buf_save->lb_buf;
1850         if (le32_to_cpu(lcm->lcm_magic) != LOV_MAGIC_COMP_V1)
1851                 GOTO(stop, rc = -EINVAL);
1852
1853         /**
1854          * Extract the mirror with specified mirror id, and store the splitted
1855          * mirror layout to the victim buffer.
1856          */
1857         memset(buf, 0, sizeof(*buf));
1858         memset(buf_vic, 0, sizeof(*buf_vic));
1859         rc = mdd_split_ea(lcm, mrd->mrd_mirror_id, buf, buf_vic);
1860         if (rc < 0)
1861                 GOTO(stop, rc);
1862         /**
1863          * @buf stores layout w/o the specified mirror, @buf_vic stores the
1864          * splitted mirror
1865          */
1866
1867         dom_stripe = mdd_lmm_dom_size(buf_vic->lb_buf) > 0;
1868
1869         if (vic) {
1870                 /**
1871                  * non delete mirror split
1872                  *
1873                  * declare obj set remaining layout in @buf, will set obj's
1874                  * in-memory layout
1875                  */
1876                 rc = mdd_declare_xattr_set(env, mdd, obj, buf, XATTR_NAME_LOV,
1877                                            LU_XATTR_SPLIT, handle);
1878                 if (rc)
1879                         GOTO(stop, rc);
1880
1881                 /* declare vic set splitted layout in @buf_vic */
1882                 rc = mdd_declare_xattr_set(env, mdd, vic, buf_vic,
1883                                            XATTR_NAME_LOV, LU_XATTR_SPLIT,
1884                                            handle);
1885                 if (rc)
1886                         GOTO(stop, rc);
1887         } else {
1888                 /**
1889                  * declare delete mirror objects in @buf_vic, will change obj's
1890                  * in-memory layout
1891                  */
1892                 rc = mdd_declare_xattr_set(env, mdd, obj, buf_vic,
1893                                            XATTR_NAME_LOV, LU_XATTR_PURGE,
1894                                            handle);
1895                 if (rc)
1896                         GOTO(stop, rc);
1897
1898                 /* declare obj set remaining layout in @buf */
1899                 rc = mdd_declare_xattr_set(env, mdd, obj, buf,
1900                                            XATTR_NAME_LOV, LU_XATTR_SPLIT,
1901                                            handle);
1902                 if (rc)
1903                         GOTO(stop, rc);
1904         }
1905
1906         rc = mdd_trans_start(env, mdd, handle);
1907         if (rc)
1908                 GOTO(stop, rc);
1909
1910         if (vic) {
1911                 /* don't use the same file to save the splitted mirror */
1912                 rc = lu_fid_cmp(mdd_object_fid(obj), mdd_object_fid(vic));
1913                 if (rc == 0)
1914                         GOTO(stop, rc = -EPERM);
1915
1916                 if (rc > 0) {
1917                         mdd_write_lock(env, obj, DT_TGT_CHILD);
1918                         mdd_write_lock(env, vic, DT_TGT_CHILD);
1919                 } else {
1920                         mdd_write_lock(env, vic, DT_TGT_CHILD);
1921                         mdd_write_lock(env, obj, DT_TGT_CHILD);
1922                 }
1923         } else {
1924                 mdd_write_lock(env, obj, DT_TGT_CHILD);
1925         }
1926
1927         /* set obj's layout in @buf */
1928         rc = mdo_xattr_set(env, obj, buf, XATTR_NAME_LOV, LU_XATTR_SPLIT,
1929                            handle);
1930         if (rc)
1931                 GOTO(unlock, rc);
1932
1933         if (vic) {
1934                 /* set vic's layout in @buf_vic */
1935                 rc = mdo_xattr_set(env, vic, buf_vic, XATTR_NAME_LOV,
1936                                    LU_XATTR_CREATE, handle);
1937                 if (rc)
1938                         GOTO(out_restore, rc);
1939         } else {
1940                 /* delete mirror objects */
1941                 rc = mdo_xattr_set(env, obj, buf_vic, XATTR_NAME_LOV,
1942                                    LU_XATTR_PURGE, handle);
1943                 if (rc)
1944                         GOTO(out_restore, rc);
1945         }
1946
1947         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle,
1948                                       NULL);
1949         if (rc)
1950                 GOTO(out_restore, rc);
1951
1952         if (vic) {
1953                 rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, vic,
1954                                               handle, NULL);
1955                 if (rc)
1956                         GOTO(out_restore, rc);
1957         }
1958
1959 out_restore:
1960         if (rc) {
1961                 /* restore obj's in-memory and on-disk layout */
1962                 int rc2 = mdo_xattr_set(env, obj, buf_save, XATTR_NAME_LOV,
1963                                         LU_XATTR_REPLACE, handle);
1964                 if (rc2)
1965                         CERROR("%s: failed rollback "DFID
1966                                " layout: file state unknown: rc = %d\n",
1967                                mdd_obj_dev_name(obj),
1968                                PFID(mdd_object_fid(obj)), rc);
1969         }
1970
1971 unlock:
1972         mdd_write_unlock(env, obj);
1973         if (vic)
1974                 mdd_write_unlock(env, vic);
1975 stop:
1976         rc = mdd_trans_stop(env, mdd, rc, handle);
1977
1978         /* Truncate local DOM data if all went well */
1979         if (!rc && dom_stripe)
1980                 mdd_dom_data_truncate(env, mdd, obj);
1981
1982         lu_buf_free(buf_save);
1983         lu_buf_free(buf);
1984         lu_buf_free(buf_vic);
1985
1986         if (!rc)
1987                 (void) mdd_object_pfid_replace(env, obj);
1988
1989         return rc;
1990 }
1991
1992 static int mdd_layout_merge_allowed(const struct lu_env *env,
1993                                     struct md_object *target,
1994                                     struct md_object *victim)
1995 {
1996         struct mdd_object *o1 = md2mdd_obj(target);
1997
1998         /* cannot extend directory's LOVEA */
1999         if (S_ISDIR(mdd_object_type(o1))) {
2000                 CERROR("%s: Don't extend directory's LOVEA, just set it.\n",
2001                        mdd_obj_dev_name(o1));
2002                 RETURN(-EISDIR);
2003         }
2004
2005         RETURN(0);
2006 }
2007
2008 /**
2009  * The caller should guarantee to update the object ctime
2010  * after xattr_set if needed.
2011  */
2012 static int mdd_xattr_set(const struct lu_env *env, struct md_object *obj,
2013                          const struct lu_buf *buf, const char *name,
2014                          int fl)
2015 {
2016         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2017         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
2018         struct mdd_device *mdd = mdo2mdd(obj);
2019         struct thandle *handle;
2020         enum changelog_rec_type  cl_type;
2021         enum changelog_rec_flags clf_flags = 0;
2022         int rc;
2023         ENTRY;
2024
2025         rc = mdd_la_get(env, mdd_obj, attr);
2026         if (rc)
2027                 RETURN(rc);
2028
2029         rc = mdd_xattr_sanity_check(env, mdd_obj, attr, name);
2030         if (rc)
2031                 RETURN(rc);
2032
2033         if (strcmp(name, XATTR_LUSTRE_LOV) == 0 &&
2034             (fl == LU_XATTR_MERGE || fl == LU_XATTR_SPLIT)) {
2035                 struct md_rejig_data *mrd = buf->lb_buf;
2036                 struct md_object *victim = mrd->mrd_obj;
2037
2038                 if (buf->lb_len != sizeof(*mrd))
2039                         RETURN(-EINVAL);
2040
2041
2042                 if (fl == LU_XATTR_MERGE) {
2043                         rc = mdd_layout_merge_allowed(env, obj, victim);
2044                         if (rc)
2045                                 RETURN(rc);
2046                         /* merge layout of victim as a mirror of obj's. */
2047                         rc = mdd_xattr_merge(env, obj, victim);
2048                 } else {
2049                         rc = mdd_xattr_split(env, obj, mrd);
2050                 }
2051                 RETURN(rc);
2052         }
2053
2054         if (strcmp(name, XATTR_NAME_ACL_ACCESS) == 0 ||
2055             strcmp(name, XATTR_NAME_ACL_DEFAULT) == 0) {
2056                 struct posix_acl *acl;
2057
2058                 /* user may set empty ACL, which should be treated as removing
2059                  * ACL. */
2060                 acl = posix_acl_from_xattr(&init_user_ns, buf->lb_buf,
2061                                            buf->lb_len);
2062                 if (IS_ERR(acl))
2063                         RETURN(PTR_ERR(acl));
2064                 if (acl == NULL) {
2065                         rc = mdd_xattr_del(env, obj, name);
2066                         RETURN(rc);
2067                 }
2068                 posix_acl_release(acl);
2069         }
2070
2071         if (!strcmp(name, XATTR_NAME_ACL_ACCESS)) {
2072                 rc = mdd_acl_set(env, mdd_obj, attr, buf, fl);
2073                 RETURN(rc);
2074         }
2075
2076         handle = mdd_trans_create(env, mdd);
2077         if (IS_ERR(handle))
2078                 RETURN(PTR_ERR(handle));
2079
2080         rc = mdd_declare_xattr_set(env, mdd, mdd_obj, buf, name, fl, handle);
2081         if (rc)
2082                 GOTO(stop, rc);
2083
2084         rc = mdd_trans_start(env, mdd, handle);
2085         if (rc)
2086                 GOTO(stop, rc);
2087
2088         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
2089
2090         if (strcmp(XATTR_NAME_HSM, name) == 0) {
2091                 rc = mdd_hsm_update_locked(env, obj, buf, handle, &clf_flags);
2092                 if (rc) {
2093                         mdd_write_unlock(env, mdd_obj);
2094                         GOTO(stop, rc);
2095                 }
2096         }
2097
2098         rc = mdo_xattr_set(env, mdd_obj, buf, name, fl, handle);
2099         mdd_write_unlock(env, mdd_obj);
2100         if (rc)
2101                 GOTO(stop, rc);
2102
2103         cl_type = mdd_xattr_changelog_type(env, mdd, name);
2104         if (cl_type < 0)
2105                 GOTO(stop, rc = 0);
2106
2107         rc = mdd_changelog_data_store_xattr(env, mdd, cl_type, clf_flags,
2108                                             mdd_obj, name, handle);
2109
2110         EXIT;
2111 stop:
2112         return mdd_trans_stop(env, mdd, rc, handle);
2113 }
2114
2115 static int mdd_declare_xattr_del(const struct lu_env *env,
2116                                  struct mdd_device *mdd,
2117                                  struct mdd_object *obj,
2118                                  const char *name,
2119                                  struct thandle *handle)
2120 {
2121         enum changelog_rec_type type;
2122         int rc;
2123
2124         rc = mdo_declare_xattr_del(env, obj, name, handle);
2125         if (rc)
2126                 return rc;
2127
2128         type = mdd_xattr_changelog_type(env, mdd, name);
2129         if (type < 0)
2130                 return 0; /* no changelog to store */
2131
2132         return mdd_declare_changelog_store(env, mdd, type, NULL, NULL, handle);
2133 }
2134
2135 /**
2136  * The caller should guarantee to update the object ctime
2137  * after xattr_set if needed.
2138  */
2139 static int mdd_xattr_del(const struct lu_env *env, struct md_object *obj,
2140                          const char *name)
2141 {
2142         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2143         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
2144         struct mdd_device *mdd = mdo2mdd(obj);
2145         struct thandle *handle;
2146         int rc;
2147         ENTRY;
2148
2149         rc = mdd_la_get(env, mdd_obj, attr);
2150         if (rc)
2151                 RETURN(rc);
2152
2153         rc = mdd_xattr_sanity_check(env, mdd_obj, attr, name);
2154         if (rc)
2155                 RETURN(rc);
2156
2157         handle = mdd_trans_create(env, mdd);
2158         if (IS_ERR(handle))
2159                 RETURN(PTR_ERR(handle));
2160
2161         rc = mdd_declare_xattr_del(env, mdd, mdd_obj, name, handle);
2162         if (rc)
2163                 GOTO(stop, rc);
2164
2165         rc = mdd_trans_start(env, mdd, handle);
2166         if (rc)
2167                 GOTO(stop, rc);
2168
2169         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
2170         rc = mdo_xattr_del(env, mdd_obj, name, handle);
2171         mdd_write_unlock(env, mdd_obj);
2172         if (rc)
2173                 GOTO(stop, rc);
2174
2175         if (mdd_xattr_changelog_type(env, mdd, name) < 0)
2176                 GOTO(stop, rc = 0);
2177
2178         rc = mdd_changelog_data_store_xattr(env, mdd, CL_SETXATTR, 0, mdd_obj,
2179                                             name, handle);
2180
2181         EXIT;
2182 stop:
2183         return mdd_trans_stop(env, mdd, rc, handle);
2184 }
2185
2186 /*
2187  * read lov/lmv EA of an object
2188  * return the lov/lmv EA in an allocated lu_buf
2189  */
2190 int mdd_stripe_get(const struct lu_env *env, struct mdd_object *obj,
2191                    struct lu_buf *lmm_buf, const char *name)
2192 {
2193         struct lu_buf *buf = &mdd_env_info(env)->mdi_big_buf;
2194         int rc;
2195
2196         ENTRY;
2197
2198         if (buf->lb_buf == NULL) {
2199                 buf = lu_buf_check_and_alloc(buf, 4096);
2200                 if (buf->lb_buf == NULL)
2201                         RETURN(-ENOMEM);
2202         }
2203
2204 repeat:
2205         rc = mdo_xattr_get(env, obj, buf, name);
2206         if (rc == -ERANGE) {
2207                 /* mdi_big_buf is allocated but is too small
2208                  * we need to increase it */
2209                 buf = lu_buf_check_and_alloc(&mdd_env_info(env)->mdi_big_buf,
2210                                              buf->lb_len * 2);
2211                 if (buf->lb_buf == NULL)
2212                         RETURN(-ENOMEM);
2213                 goto repeat;
2214         } else if (rc < 0) {
2215                 RETURN(rc);
2216         } else if (rc == 0) {
2217                 RETURN(-ENODATA);
2218         }
2219
2220         lu_buf_alloc(lmm_buf, rc);
2221         if (lmm_buf->lb_buf == NULL)
2222                 RETURN(-ENOMEM);
2223
2224         /*
2225          * we don't use lmm_buf directly, because we don't know xattr size, so
2226          * by using mdi_big_buf we can avoid calling mdo_xattr_get() twice.
2227          */
2228         memcpy(lmm_buf->lb_buf, buf->lb_buf, rc);
2229
2230         RETURN(0);
2231 }
2232
2233 static int mdd_xattr_hsm_replace(const struct lu_env *env,
2234                                  struct mdd_object *o, struct lu_buf *buf,
2235                                  struct thandle *handle)
2236 {
2237         struct hsm_attrs *attrs;
2238         enum hsm_states hsm_flags;
2239         enum changelog_rec_flags clf_flags = 0;
2240         int rc;
2241         ENTRY;
2242
2243         rc = mdo_xattr_set(env, o, buf, XATTR_NAME_HSM, LU_XATTR_REPLACE,
2244                            handle);
2245         if (rc != 0)
2246                 RETURN(rc);
2247
2248         attrs = buf->lb_buf;
2249         hsm_flags = le32_to_cpu(attrs->hsm_flags);
2250         if (!(hsm_flags & HS_RELEASED) || mdd_is_dead_obj(o))
2251                 RETURN(0);
2252
2253         /* Add a changelog record for release. */
2254         hsm_set_cl_event(&clf_flags, HE_RELEASE);
2255         rc = mdd_changelog_data_store(env, mdo2mdd(&o->mod_obj), CL_HSM,
2256                                       clf_flags, o, handle, NULL);
2257         RETURN(rc);
2258 }
2259
2260 /*
2261  *  check if layout swapping between 2 objects is allowed
2262  *  the rules are:
2263  *  - only normal FIDs or non-system IGIFs
2264  *  - same type of objects
2265  *  - same owner/group (so quotas are still valid) unless this is from HSM
2266  *    release.
2267  */
2268 static int mdd_layout_swap_allowed(const struct lu_env *env,
2269                                    struct mdd_object *o1,
2270                                    const struct lu_attr *attr1,
2271                                    struct mdd_object *o2,
2272                                    const struct lu_attr *attr2,
2273                                    __u64 flags)
2274 {
2275         const struct lu_fid *fid1, *fid2;
2276         ENTRY;
2277
2278         fid1 = mdd_object_fid(o1);
2279         fid2 = mdd_object_fid(o2);
2280
2281         if (!fid_is_norm(fid1) &&
2282             (!fid_is_igif(fid1) || IS_ERR(mdd_links_get(env, o1))))
2283                 RETURN(-EBADF);
2284
2285         if (!fid_is_norm(fid2) &&
2286             (!fid_is_igif(fid2) || IS_ERR(mdd_links_get(env, o2))))
2287                 RETURN(-EBADF);
2288
2289         if (mdd_object_type(o1) != mdd_object_type(o2)) {
2290                 if (S_ISDIR(mdd_object_type(o1)))
2291                         RETURN(-ENOTDIR);
2292                 if (S_ISREG(mdd_object_type(o1)))
2293                         RETURN(-EISDIR);
2294                 RETURN(-EBADF);
2295         }
2296
2297         if (flags & SWAP_LAYOUTS_MDS_HSM)
2298                 RETURN(0);
2299
2300         if ((attr1->la_uid != attr2->la_uid) ||
2301             (attr1->la_gid != attr2->la_gid))
2302                 RETURN(-EPERM);
2303
2304         RETURN(0);
2305 }
2306
2307 /* XXX To set the proper lmm_oi & lmm_layout_gen when swap layouts, we have to
2308  *     look into the layout in MDD layer. */
2309 static int mdd_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi, bool get)
2310 {
2311         struct lov_comp_md_v1   *comp_v1;
2312         struct lov_mds_md       *v1;
2313         int                      i, ent_count;
2314         __u32                    off;
2315
2316         if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_COMP_V1) {
2317                 comp_v1 = (struct lov_comp_md_v1 *)lmm;
2318                 ent_count = le16_to_cpu(comp_v1->lcm_entry_count);
2319
2320                 if (ent_count == 0)
2321                         return -EINVAL;
2322
2323                 if (get) {
2324                         off = le32_to_cpu(comp_v1->lcm_entries[0].lcme_offset);
2325                         v1 = (struct lov_mds_md *)((char *)comp_v1 + off);
2326                         *oi = v1->lmm_oi;
2327                 } else {
2328                         for (i = 0; i < le32_to_cpu(ent_count); i++) {
2329                                 off = le32_to_cpu(comp_v1->lcm_entries[i].
2330                                                 lcme_offset);
2331                                 v1 = (struct lov_mds_md *)((char *)comp_v1 +
2332                                                 off);
2333                                 v1->lmm_oi = *oi;
2334                         }
2335                 }
2336         } else if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V1 ||
2337                    le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V3) {
2338                 if (get)
2339                         *oi = lmm->lmm_oi;
2340                 else
2341                         lmm->lmm_oi = *oi;
2342         } else {
2343                 return -EINVAL;
2344         }
2345         return 0;
2346 }
2347
2348 static inline int mdd_get_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi)
2349 {
2350         return mdd_lmm_oi(lmm, oi, true);
2351 }
2352
2353 static inline int mdd_set_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi)
2354 {
2355         return mdd_lmm_oi(lmm, oi, false);
2356 }
2357
2358 static int mdd_lmm_gen(struct lov_mds_md *lmm, __u32 *gen, bool get)
2359 {
2360         struct lov_comp_md_v1 *comp_v1;
2361
2362         if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_COMP_V1) {
2363                 comp_v1 = (struct lov_comp_md_v1 *)lmm;
2364                 if (get)
2365                         *gen = le32_to_cpu(comp_v1->lcm_layout_gen);
2366                 else
2367                         comp_v1->lcm_layout_gen = cpu_to_le32(*gen);
2368         } else if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V1 ||
2369                    le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V3) {
2370                 __u16 tmp_gen = *gen;
2371                 if (get)
2372                         *gen = le16_to_cpu(lmm->lmm_layout_gen);
2373                 else
2374                         lmm->lmm_layout_gen = cpu_to_le16(tmp_gen);
2375         } else {
2376                 return -EINVAL;
2377         }
2378         return 0;
2379 }
2380
2381 static inline int mdd_get_lmm_gen(struct lov_mds_md *lmm, __u32 *gen)
2382 {
2383         return mdd_lmm_gen(lmm, gen, true);
2384 }
2385
2386 static inline int mdd_set_lmm_gen(struct lov_mds_md *lmm, __u32 *gen)
2387 {
2388         return mdd_lmm_gen(lmm, gen, false);
2389 }
2390
2391 static int mdd_dom_data_truncate(const struct lu_env *env,
2392                                  struct mdd_device *mdd, struct mdd_object *mo)
2393 {
2394         struct thandle *th;
2395         struct dt_object *dom;
2396         int rc;
2397
2398         dom = dt_object_locate(mdd_object_child(mo), mdd->mdd_bottom);
2399         if (!dom)
2400                 GOTO(out, rc = -ENODATA);
2401
2402         th = dt_trans_create(env, mdd->mdd_bottom);
2403         if (IS_ERR(th))
2404                 GOTO(out, rc = PTR_ERR(th));
2405
2406         rc = dt_declare_punch(env, dom, 0, OBD_OBJECT_EOF, th);
2407         if (rc)
2408                 GOTO(stop, rc);
2409
2410         rc = dt_trans_start_local(env, mdd->mdd_bottom, th);
2411         if (rc != 0)
2412                 GOTO(stop, rc);
2413
2414         rc = dt_punch(env, dom, 0, OBD_OBJECT_EOF, th);
2415 stop:
2416         dt_trans_stop(env, mdd->mdd_bottom, th);
2417 out:
2418         /* Ignore failure but report the error */
2419         if (rc)
2420                 CERROR("%s: can't truncate DOM inode "DFID" data: rc = %d\n",
2421                        mdd_obj_dev_name(mo), PFID(mdd_object_fid(mo)), rc);
2422         return rc;
2423 }
2424
2425 /**
2426  * swap layouts between 2 lustre objects
2427  */
2428 static int mdd_swap_layouts(const struct lu_env *env, struct md_object *obj1,
2429                             struct md_object *obj2, __u64 flags)
2430 {
2431         struct mdd_thread_info *info = mdd_env_info(env);
2432         struct mdd_object *fst_o = md2mdd_obj(obj1);
2433         struct mdd_object *snd_o = md2mdd_obj(obj2);
2434         struct lu_attr *fst_la = MDD_ENV_VAR(env, cattr);
2435         struct lu_attr *snd_la = MDD_ENV_VAR(env, tattr);
2436         struct mdd_device *mdd = mdo2mdd(obj1);
2437         struct lov_mds_md *fst_lmm, *snd_lmm;
2438         struct lu_buf *fst_buf = &info->mdi_buf[0];
2439         struct lu_buf *snd_buf = &info->mdi_buf[1];
2440         struct lu_buf *fst_hsm_buf = &info->mdi_buf[2];
2441         struct lu_buf *snd_hsm_buf = &info->mdi_buf[3];
2442         struct ost_id *saved_oi = NULL;
2443         struct thandle *handle;
2444         struct mdd_object *dom_o = NULL;
2445         __u64 domsize_dom, domsize_vlt;
2446         __u32 fst_gen, snd_gen, saved_gen;
2447         int fst_fl;
2448         int rc, rc2;
2449
2450         ENTRY;
2451
2452         BUILD_BUG_ON(ARRAY_SIZE(info->mdi_buf) < 4);
2453         memset(info->mdi_buf, 0, sizeof(info->mdi_buf));
2454
2455         /* we have to sort the 2 obj, so locking will always
2456          * be in the same order, even in case of 2 concurrent swaps */
2457         rc = lu_fid_cmp(mdd_object_fid(fst_o), mdd_object_fid(snd_o));
2458         if (rc == 0) /* same fid ? */
2459                 RETURN(-EPERM);
2460
2461         if (rc < 0)
2462                 swap(fst_o, snd_o);
2463
2464         rc = mdd_la_get(env, fst_o, fst_la);
2465         if (rc != 0)
2466                 RETURN(rc);
2467
2468         rc = mdd_la_get(env, snd_o, snd_la);
2469         if (rc != 0)
2470                 RETURN(rc);
2471
2472         /* check if layout swapping is allowed */
2473         rc = mdd_layout_swap_allowed(env, fst_o, fst_la, snd_o, snd_la, flags);
2474         if (rc != 0)
2475                 RETURN(rc);
2476
2477         handle = mdd_trans_create(env, mdd);
2478         if (IS_ERR(handle))
2479                 RETURN(PTR_ERR(handle));
2480
2481         /* objects are already sorted */
2482         mdd_write_lock(env, fst_o, DT_TGT_CHILD);
2483         mdd_write_lock(env, snd_o, DT_TGT_CHILD);
2484
2485         rc = mdd_stripe_get(env, fst_o, fst_buf, XATTR_NAME_LOV);
2486         if (rc < 0 && rc != -ENODATA)
2487                 GOTO(stop, rc);
2488
2489         rc = mdd_stripe_get(env, snd_o, snd_buf, XATTR_NAME_LOV);
2490         if (rc < 0 && rc != -ENODATA)
2491                 GOTO(stop, rc);
2492
2493         /* check if file has DoM. DoM file can be migrated only to another
2494          * DoM layout with the same DoM component size or to an non-DOM
2495          * layout. After migration to OSTs layout, local MDT inode data
2496          * should be truncated.
2497          * Objects are sorted by FIDs, considering that original file's FID
2498          * is always smaller the snd_o is always original file we are migrating
2499          * from.
2500          */
2501         domsize_dom = mdd_lmm_dom_size(snd_buf->lb_buf);
2502         domsize_vlt = mdd_lmm_dom_size(fst_buf->lb_buf);
2503
2504         /* Only migration is supported for DoM files, not 'swap_layouts' so
2505          * target file must be volatile and orphan.
2506          */
2507         if (fst_o->mod_flags & (ORPHAN_OBJ | VOLATILE_OBJ)) {
2508                 dom_o = domsize_dom ? snd_o : NULL;
2509         } else if (snd_o->mod_flags & (ORPHAN_OBJ | VOLATILE_OBJ)) {
2510                 swap(domsize_dom, domsize_vlt);
2511                 dom_o = domsize_dom ? fst_o : NULL;
2512         } else if (domsize_dom > 0 || domsize_vlt > 0) {
2513                 /* 'lfs swap_layouts' case, neither file should have DoM */
2514                 rc = -EOPNOTSUPP;
2515                 CDEBUG(D_LAYOUT, "cannot swap layouts with DOM component, "
2516                        "use migration instead: rc = %d\n", rc);
2517                 GOTO(stop, rc);
2518         }
2519
2520         if (domsize_vlt > 0 && domsize_dom == 0) {
2521                 rc = -EOPNOTSUPP;
2522                 CDEBUG(D_LAYOUT,
2523                        "%s: cannot swap "DFID" layout: OST to DOM migration not supported: rc = %d\n",
2524                        mdd_obj_dev_name(snd_o),
2525                        PFID(mdd_object_fid(snd_o)), rc);
2526                 GOTO(stop, rc);
2527         } else if (domsize_vlt > 0 && domsize_dom != domsize_vlt) {
2528                 rc = -EOPNOTSUPP;
2529                 CDEBUG(D_LAYOUT,
2530                        "%s: cannot swap "DFID" layout: new layout must have same DoM component size: rc = %d\n",
2531                        mdd_obj_dev_name(fst_o),
2532                        PFID(mdd_object_fid(fst_o)), rc);
2533                 GOTO(stop, rc);
2534         } else if (domsize_vlt > 0) {
2535                 /* Migration with the same DOM component size, no need to
2536                  * truncate local data, it is still being used */
2537                 dom_o = NULL;
2538         }
2539
2540         /* swapping 2 non existant layouts is a success */
2541         if (fst_buf->lb_buf == NULL && snd_buf->lb_buf == NULL)
2542                 GOTO(stop, rc = 0);
2543
2544         /* to help inode migration between MDT, it is better to
2545          * start by the no layout file (if one), so we order the swap */
2546         if (snd_buf->lb_buf == NULL) {
2547                 swap(fst_o, snd_o);
2548                 swap(fst_buf, snd_buf);
2549         }
2550
2551         fst_gen = snd_gen = 0;
2552         /* lmm and generation layout initialization */
2553         if (fst_buf->lb_buf != NULL) {
2554                 fst_lmm = fst_buf->lb_buf;
2555                 mdd_get_lmm_gen(fst_lmm, &fst_gen);
2556                 fst_fl  = LU_XATTR_REPLACE;
2557         } else {
2558                 fst_lmm = NULL;
2559                 fst_gen = 0;
2560                 fst_fl  = LU_XATTR_CREATE;
2561         }
2562
2563         snd_lmm = snd_buf->lb_buf;
2564         mdd_get_lmm_gen(snd_lmm, &snd_gen);
2565
2566         saved_gen = fst_gen;
2567         /* increase the generation layout numbers */
2568         snd_gen++;
2569         fst_gen++;
2570
2571         /*
2572          * XXX The layout generation is used to generate component IDs for
2573          *     the composite file, we have to do some special tweaks to make
2574          *     sure the layout generation is always adequate for that job.
2575          */
2576
2577         /* Skip invalid generation number for composite layout */
2578         if ((snd_gen & LCME_ID_MASK) == 0)
2579                 snd_gen++;
2580         if ((fst_gen & LCME_ID_MASK) == 0)
2581                 fst_gen++;
2582         /* Make sure the generation is greater than all the component IDs */
2583         if (fst_gen < snd_gen)
2584                 fst_gen = snd_gen;
2585         else if (fst_gen > snd_gen)
2586                 snd_gen = fst_gen;
2587
2588         /* set the file specific informations in lmm */
2589         if (fst_lmm != NULL) {
2590                 struct ost_id temp_oi;
2591
2592                 saved_oi = &info->mdi_oa.o_oi;
2593                 mdd_get_lmm_oi(fst_lmm, saved_oi);
2594                 mdd_get_lmm_oi(snd_lmm, &temp_oi);
2595                 mdd_set_lmm_gen(fst_lmm, &snd_gen);
2596                 mdd_set_lmm_oi(fst_lmm, &temp_oi);
2597                 mdd_set_lmm_oi(snd_lmm, saved_oi);
2598         } else {
2599                 if ((snd_lmm->lmm_magic & cpu_to_le32(LOV_MAGIC_MASK)) ==
2600                     cpu_to_le32(LOV_MAGIC_MAGIC))
2601                         snd_lmm->lmm_magic |= cpu_to_le32(LOV_MAGIC_DEFINED);
2602                 else
2603                         GOTO(stop, rc = -EPROTO);
2604         }
2605         mdd_set_lmm_gen(snd_lmm, &fst_gen);
2606
2607         /* Prepare HSM attribute if it's required */
2608         if (flags & SWAP_LAYOUTS_MDS_HSM) {
2609                 const int buflen = sizeof(struct hsm_attrs);
2610
2611                 lu_buf_alloc(fst_hsm_buf, buflen);
2612                 lu_buf_alloc(snd_hsm_buf, buflen);
2613                 if (fst_hsm_buf->lb_buf == NULL || snd_hsm_buf->lb_buf == NULL)
2614                         GOTO(stop, rc = -ENOMEM);
2615
2616                 /* Read HSM attribute */
2617                 rc = mdo_xattr_get(env, fst_o, fst_hsm_buf, XATTR_NAME_HSM);
2618                 if (rc < 0)
2619                         GOTO(stop, rc);
2620
2621                 rc = mdo_xattr_get(env, snd_o, snd_hsm_buf, XATTR_NAME_HSM);
2622                 if (rc < 0)
2623                         GOTO(stop, rc);
2624
2625                 rc = mdd_declare_xattr_set(env, mdd, fst_o, snd_hsm_buf,
2626                                            XATTR_NAME_HSM, LU_XATTR_REPLACE,
2627                                            handle);
2628                 if (rc < 0)
2629                         GOTO(stop, rc);
2630
2631                 rc = mdd_declare_xattr_set(env, mdd, snd_o, fst_hsm_buf,
2632                                            XATTR_NAME_HSM, LU_XATTR_REPLACE,
2633                                            handle);
2634                 if (rc < 0)
2635                         GOTO(stop, rc);
2636         }
2637
2638         /* prepare transaction */
2639         rc = mdd_declare_xattr_set(env, mdd, fst_o, snd_buf, XATTR_NAME_LOV,
2640                                    fst_fl, handle);
2641         if (rc != 0)
2642                 GOTO(stop, rc);
2643
2644         if (fst_buf->lb_buf != NULL)
2645                 rc = mdd_declare_xattr_set(env, mdd, snd_o, fst_buf,
2646                                            XATTR_NAME_LOV, LU_XATTR_REPLACE,
2647                                            handle);
2648         else
2649                 rc = mdd_declare_xattr_del(env, mdd, snd_o, XATTR_NAME_LOV,
2650                                            handle);
2651         if (rc != 0)
2652                 GOTO(stop, rc);
2653
2654         rc = mdd_trans_start(env, mdd, handle);
2655         if (rc != 0)
2656                 GOTO(stop, rc);
2657
2658         if (flags & SWAP_LAYOUTS_MDS_HSM) {
2659                 rc = mdd_xattr_hsm_replace(env, fst_o, snd_hsm_buf, handle);
2660                 if (rc < 0)
2661                         GOTO(stop, rc);
2662
2663                 rc = mdd_xattr_hsm_replace(env, snd_o, fst_hsm_buf, handle);
2664                 if (rc < 0) {
2665                         rc2 = mdd_xattr_hsm_replace(env, fst_o, fst_hsm_buf,
2666                                                     handle);
2667                         if (rc2 < 0)
2668                                 CERROR("%s: HSM error restoring "DFID": rc = %d/%d\n",
2669                                        mdd_obj_dev_name(fst_o),
2670                                        PFID(mdd_object_fid(fst_o)), rc, rc2);
2671                         GOTO(stop, rc);
2672                 }
2673         }
2674
2675         rc = mdo_xattr_set(env, fst_o, snd_buf, XATTR_NAME_LOV, fst_fl, handle);
2676         if (rc != 0)
2677                 GOTO(stop, rc);
2678
2679         if (unlikely(OBD_FAIL_CHECK(OBD_FAIL_MDS_HSM_SWAP_LAYOUTS))) {
2680                 rc = -EOPNOTSUPP;
2681         } else {
2682                 if (fst_buf->lb_buf != NULL)
2683                         rc = mdo_xattr_set(env, snd_o, fst_buf, XATTR_NAME_LOV,
2684                                            LU_XATTR_REPLACE, handle);
2685                 else
2686                         rc = mdo_xattr_del(env, snd_o, XATTR_NAME_LOV, handle);
2687         }
2688         if (rc != 0)
2689                 GOTO(out_restore, rc);
2690
2691         /* Issue one changelog record per file */
2692         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, fst_o, handle,
2693                                       NULL);
2694         if (rc)
2695                 GOTO(stop, rc);
2696
2697         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, snd_o, handle,
2698                                       NULL);
2699         if (rc)
2700                 GOTO(stop, rc);
2701         EXIT;
2702
2703 out_restore:
2704         if (rc != 0) {
2705                 int steps = 0;
2706
2707                 /* failure on second file, but first was done, so we have
2708                  * to roll back first. */
2709                 if (fst_buf->lb_buf != NULL) {
2710                         mdd_set_lmm_oi(fst_lmm, saved_oi);
2711                         mdd_set_lmm_gen(fst_lmm, &saved_gen);
2712                         rc2 = mdo_xattr_set(env, fst_o, fst_buf, XATTR_NAME_LOV,
2713                                             LU_XATTR_REPLACE, handle);
2714                 } else {
2715                         rc2 = mdo_xattr_del(env, fst_o, XATTR_NAME_LOV, handle);
2716                 }
2717                 if (rc2 < 0)
2718                         goto do_lbug;
2719
2720                 if (flags & SWAP_LAYOUTS_MDS_HSM) {
2721                         ++steps;
2722                         rc2 = mdd_xattr_hsm_replace(env, fst_o, fst_hsm_buf,
2723                                                     handle);
2724                         if (rc2 < 0)
2725                                 goto do_lbug;
2726
2727                         ++steps;
2728                         rc2 = mdd_xattr_hsm_replace(env, snd_o, snd_hsm_buf,
2729                                                     handle);
2730                 }
2731
2732         do_lbug:
2733                 if (rc2 < 0) {
2734                         /* very bad day */
2735                         CERROR("%s: unable to roll back layout swap of "DFID" and "DFID", steps: %d: rc = %d/%d\n",
2736                                mdd_obj_dev_name(fst_o),
2737                                PFID(mdd_object_fid(snd_o)),
2738                                PFID(mdd_object_fid(fst_o)),
2739                                rc, rc2, steps);
2740                         /* a solution to avoid journal commit is to panic,
2741                          * but it has strong consequences so we use LBUG to
2742                          * allow sysdamin to choose to panic or not
2743                          */
2744                         LBUG();
2745                 }
2746         }
2747
2748 stop:
2749         rc = mdd_trans_stop(env, mdd, rc, handle);
2750
2751         /* Truncate local DOM data if all went well */
2752         if (!rc && dom_o)
2753                 mdd_dom_data_truncate(env, mdd, dom_o);
2754
2755         mdd_write_unlock(env, snd_o);
2756         mdd_write_unlock(env, fst_o);
2757
2758         lu_buf_free(fst_buf);
2759         lu_buf_free(snd_buf);
2760         lu_buf_free(fst_hsm_buf);
2761         lu_buf_free(snd_hsm_buf);
2762
2763         if (!rc) {
2764                 (void) mdd_object_pfid_replace(env, fst_o);
2765                 (void) mdd_object_pfid_replace(env, snd_o);
2766         }
2767         return rc;
2768 }
2769
2770 static int mdd_declare_layout_change(const struct lu_env *env,
2771                                      struct mdd_device *mdd,
2772                                      struct mdd_object *obj,
2773                                      struct md_layout_change *mlc,
2774                                      struct thandle *handle)
2775 {
2776         int rc;
2777
2778         rc = mdo_declare_layout_change(env, obj, mlc, handle);
2779         if (rc)
2780                 return rc;
2781
2782         return mdd_declare_changelog_store(env, mdd, CL_LAYOUT, NULL, NULL,
2783                                            handle);
2784 }
2785
2786 /* For PFL, this is used to instantiate necessary component objects. */
2787 static int
2788 mdd_layout_instantiate_component(const struct lu_env *env,
2789                 struct mdd_object *obj, struct md_layout_change *mlc,
2790                 struct thandle *handle)
2791 {
2792         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
2793         int rc;
2794         ENTRY;
2795
2796         if (mlc->mlc_opc != MD_LAYOUT_WRITE)
2797                 RETURN(-ENOTSUPP);
2798
2799         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
2800         /**
2801          * It's possible that another layout write intent has already
2802          * instantiated our objects, so a -EALREADY returned, and we need to
2803          * do nothing.
2804          */
2805         if (rc)
2806                 RETURN(rc == -EALREADY ? 0 : rc);
2807
2808         rc = mdd_trans_start(env, mdd, handle);
2809         if (rc)
2810                 RETURN(rc);
2811
2812         mdd_write_lock(env, obj, DT_TGT_CHILD);
2813         rc = mdo_layout_change(env, obj, mlc, handle);
2814         mdd_write_unlock(env, obj);
2815         if (rc)
2816                 RETURN(rc);
2817
2818         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle,
2819                                       NULL);
2820         RETURN(rc);
2821 }
2822
2823 /**
2824  * Change the FLR layout from RDONLY to WRITE_PENDING.
2825  *
2826  * It picks the primary mirror, and bumps the layout version, and set
2827  * layout version xattr to OST objects in a sync tx. In order to facilitate
2828  * the handling of phantom writers from evicted clients, the clients carry
2829  * layout version of the file with write RPC, so that the OSTs can verify
2830  * if the write RPCs are legitimate, meaning not from evicted clients.
2831  */
2832 static int
2833 mdd_layout_update_rdonly(const struct lu_env *env, struct mdd_object *obj,
2834                          struct md_layout_change *mlc, struct thandle *handle)
2835 {
2836         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
2837         struct lu_buf *som_buf = &mdd_env_info(env)->mdi_buf[1];
2838         struct lustre_som_attrs *som = &mlc->mlc_som;
2839         int fl = 0;
2840         int rc;
2841         ENTRY;
2842
2843         /* Verify acceptable operations */
2844         switch (mlc->mlc_opc) {
2845         case MD_LAYOUT_WRITE:
2846         case MD_LAYOUT_RESYNC:
2847                 /* these are legal operations - this represents the case that
2848                  * a few mirrors were missed in the last resync. */
2849                 break;
2850         case MD_LAYOUT_RESYNC_DONE:
2851         default:
2852                 RETURN(0);
2853         }
2854
2855         som_buf->lb_buf = som;
2856         som_buf->lb_len = sizeof(*som);
2857         rc = mdo_xattr_get(env, obj, som_buf, XATTR_NAME_SOM);
2858         if (rc < 0 && rc != -ENODATA)
2859                 RETURN(rc);
2860
2861         if (rc > 0) {
2862                 lustre_som_swab(som);
2863                 if (som->lsa_valid & SOM_FL_STRICT)
2864                         fl = LU_XATTR_REPLACE;
2865
2866                 if (mlc->mlc_opc == MD_LAYOUT_WRITE &&
2867                     mlc->mlc_intent->li_extent.e_end > som->lsa_size) {
2868                         som->lsa_size = mlc->mlc_intent->li_extent.e_end + 1;
2869                         fl = LU_XATTR_REPLACE;
2870                 }
2871         }
2872
2873         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
2874         if (rc)
2875                 GOTO(out, rc);
2876
2877         if (fl) {
2878                 rc = mdd_declare_xattr_set(env, mdd, obj, som_buf,
2879                                            XATTR_NAME_SOM, fl, handle);
2880                 if (rc)
2881                         GOTO(out, rc);
2882         }
2883
2884         /* record a changelog for data mover to consume */
2885         rc = mdd_declare_changelog_store(env, mdd, CL_FLRW, NULL, NULL, handle);
2886         if (rc)
2887                 GOTO(out, rc);
2888
2889         rc = mdd_trans_start(env, mdd, handle);
2890         if (rc)
2891                 GOTO(out, rc);
2892
2893         /* it needs a sync tx to make FLR to work properly */
2894         handle->th_sync = 1;
2895
2896         mdd_write_lock(env, obj, DT_TGT_CHILD);
2897         rc = mdo_layout_change(env, obj, mlc, handle);
2898         if (!rc && fl) {
2899                 /* SOM state transition from STRICT to STALE */
2900                 som->lsa_valid = SOM_FL_STALE;
2901                 lustre_som_swab(som);
2902                 rc = mdo_xattr_set(env, obj, som_buf, XATTR_NAME_SOM,
2903                                    fl, handle);
2904         }
2905         mdd_write_unlock(env, obj);
2906         if (rc)
2907                 GOTO(out, rc);
2908
2909         rc = mdd_changelog_data_store(env, mdd, CL_FLRW, 0, obj, handle, NULL);
2910         if (rc)
2911                 GOTO(out, rc);
2912
2913         EXIT;
2914
2915 out:
2916         return rc;
2917 }
2918
2919 /**
2920  * Handle mirrored file state transition when it's in WRITE_PENDING.
2921  *
2922  * Only MD_LAYOUT_RESYNC, which represents start of resync, is allowed when
2923  * the file is in WRITE_PENDING state. If everything goes fine, the file's
2924  * layout version will be increased, and the file's state will be changed to
2925  * SYNC_PENDING.
2926  */
2927 static int
2928 mdd_layout_update_write_pending(const struct lu_env *env,
2929                 struct mdd_object *obj, struct md_layout_change *mlc,
2930                 struct thandle *handle)
2931 {
2932         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
2933         struct lu_buf *som_buf = &mdd_env_info(env)->mdi_buf[1];
2934         struct lustre_som_attrs *som = &mlc->mlc_som;
2935         int fl = 0;
2936         int rc;
2937         ENTRY;
2938
2939         switch (mlc->mlc_opc) {
2940         case MD_LAYOUT_RESYNC:
2941                 /* Upon receiving the resync request, it should
2942                  * instantiate all stale components right away to get ready
2943                  * for mirror copy. In order to avoid layout version change,
2944                  * client should avoid sending LAYOUT_WRITE request at the
2945                  * resync state. */
2946                 break;
2947         case MD_LAYOUT_WRITE:
2948                 /**
2949                  * legal race for concurrent write, the file state has been
2950                  * changed by another client. Or a jump over file size and
2951                  * write.
2952                  */
2953                 som_buf->lb_buf = som;
2954                 som_buf->lb_len = sizeof(*som);
2955                 rc = mdo_xattr_get(env, obj, som_buf, XATTR_NAME_SOM);
2956                 if (rc < 0 && rc != -ENODATA)
2957                         RETURN(rc);
2958
2959                 if (rc > 0) {
2960                         lustre_som_swab(som);
2961                         if (mlc->mlc_intent->li_extent.e_end > som->lsa_size) {
2962                                 som->lsa_size =
2963                                         mlc->mlc_intent->li_extent.e_end + 1;
2964                                 fl = LU_XATTR_REPLACE;
2965                         }
2966                 }
2967                 break;
2968         default:
2969                 RETURN(-EBUSY);
2970         }
2971
2972         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
2973         if (rc)
2974                 GOTO(out, rc);
2975
2976         if (fl) {
2977                 rc = mdd_declare_xattr_set(env, mdd, obj, som_buf,
2978                                            XATTR_NAME_SOM, fl, handle);
2979                 if (rc)
2980                         GOTO(out, rc);
2981         }
2982
2983         rc = mdd_trans_start(env, mdd, handle);
2984         if (rc)
2985                 GOTO(out, rc);
2986
2987         /* it needs a sync tx to make FLR to work properly */
2988         handle->th_sync = 1;
2989
2990         mdd_write_lock(env, obj, DT_TGT_CHILD);
2991         rc = mdo_layout_change(env, obj, mlc, handle);
2992         if (!rc && fl) {
2993                 som->lsa_valid = SOM_FL_STALE;
2994                 lustre_som_swab(som);
2995                 rc = mdo_xattr_set(env, obj, som_buf, XATTR_NAME_SOM,
2996                                    fl, handle);
2997         }
2998         mdd_write_unlock(env, obj);
2999         if (rc)
3000                 GOTO(out, rc);
3001
3002         EXIT;
3003
3004 out:
3005         return rc;
3006 }
3007
3008 /**
3009  * Handle the requests when a FLR file's state is in SYNC_PENDING.
3010  *
3011  * Only concurrent write and sync complete requests are possible when the
3012  * file is in SYNC_PENDING. For the latter request, it will pass in the
3013  * mirrors that have been synchronized, then the stale bit will be cleared
3014  * to make the file's state turn into RDONLY.
3015  * For concurrent write reqeust, it just needs to change the file's state
3016  * to WRITE_PENDING in a sync tx. It doesn't have to change the layout
3017  * version because the version will be increased in the transition to
3018  * SYNC_PENDING later so that it can deny the write request from potential
3019  * evicted SYNC clients. */
3020 static int
3021 mdd_object_update_sync_pending(const struct lu_env *env, struct mdd_object *obj,
3022                 struct md_layout_change *mlc, struct thandle *handle)
3023 {
3024         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
3025         struct lu_buf *som_buf = &mdd_env_info(env)->mdi_buf[1];
3026         int fl = 0;
3027         int rc;
3028         ENTRY;
3029
3030         /* operation validation */
3031         switch (mlc->mlc_opc) {
3032         case MD_LAYOUT_RESYNC_DONE:
3033                 /* resync complete. */
3034         case MD_LAYOUT_WRITE:
3035                 /* concurrent write. */
3036                 break;
3037         case MD_LAYOUT_RESYNC:
3038                 /* resync again, most likely the previous run failed.
3039                  * no-op if it's already in SYNC_PENDING state */
3040                 RETURN(0);
3041         default:
3042                 RETURN(-EBUSY);
3043         }
3044
3045         if (mlc->mlc_som.lsa_valid & SOM_FL_STRICT) {
3046                 rc = mdo_xattr_get(env, obj, &LU_BUF_NULL, XATTR_NAME_SOM);
3047                 if (rc < 0 && rc != -ENODATA)
3048                         RETURN(rc);
3049
3050                 fl = rc == -ENODATA ? LU_XATTR_CREATE : LU_XATTR_REPLACE;
3051                 lustre_som_swab(&mlc->mlc_som);
3052                 som_buf->lb_buf = &mlc->mlc_som;
3053                 som_buf->lb_len = sizeof(mlc->mlc_som);
3054         }
3055
3056         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
3057         if (rc)
3058                 GOTO(out, rc);
3059
3060         /* record a changelog for the completion of resync */
3061         rc = mdd_declare_changelog_store(env, mdd, CL_RESYNC, NULL, NULL,
3062                                          handle);
3063         if (rc)
3064                 GOTO(out, rc);
3065
3066         /* RESYNC_DONE has piggybacked size and blocks */
3067         if (fl) {
3068                 rc = mdd_declare_xattr_set(env, mdd, obj, som_buf,
3069                                            XATTR_NAME_SOM, fl, handle);
3070                 if (rc)
3071                         GOTO(out, rc);
3072         }
3073
3074         rc = mdd_trans_start(env, mdd, handle);
3075         if (rc)
3076                 GOTO(out, rc);
3077
3078         /* it needs a sync tx to make FLR to work properly */
3079         handle->th_sync = 1;
3080
3081         rc = mdo_layout_change(env, obj, mlc, handle);
3082         if (rc)
3083                 GOTO(out, rc);
3084
3085         if (fl) {
3086                 rc = mdo_xattr_set(env, obj, som_buf, XATTR_NAME_SOM,
3087                                    fl, handle);
3088                 if (rc)
3089                         GOTO(out, rc);
3090         }
3091
3092         rc = mdd_changelog_data_store(env, mdd, CL_RESYNC, 0, obj, handle,
3093                                       NULL);
3094         if (rc)
3095                 GOTO(out, rc);
3096         EXIT;
3097 out:
3098         return rc;
3099 }
3100
3101 /**
3102  * Layout change callback for object.
3103  *
3104  * This is only used by FLR for now. In the future, it can be exteneded to
3105  * handle all layout change.
3106  */
3107 static int
3108 mdd_layout_change(const struct lu_env *env, struct md_object *o,
3109                   struct md_layout_change *mlc)
3110 {
3111         struct mdd_object       *obj = md2mdd_obj(o);
3112         struct mdd_device       *mdd = mdd_obj2mdd_dev(obj);
3113         struct lu_buf           *buf = mdd_buf_get(env, NULL, 0);
3114         struct lov_comp_md_v1   *lcm;
3115         struct thandle          *handle;
3116         int flr_state;
3117         int rc;
3118
3119         ENTRY;
3120
3121         if (S_ISDIR(mdd_object_type(obj))) {
3122                 switch (mlc->mlc_opc) {
3123                 case MD_LAYOUT_SHRINK:
3124                         rc = mdd_dir_layout_shrink(env, o, mlc);
3125                         break;
3126                 case MD_LAYOUT_SPLIT:
3127                         rc = mdd_dir_layout_split(env, o, mlc);
3128                         break;
3129                 default:
3130                         LBUG();
3131                 }
3132
3133                 RETURN(rc);
3134         }
3135
3136         /* Verify acceptable operations */
3137         switch (mlc->mlc_opc) {
3138         case MD_LAYOUT_WRITE:
3139         case MD_LAYOUT_RESYNC:
3140         case MD_LAYOUT_RESYNC_DONE:
3141                 break;
3142         default:
3143                 RETURN(-ENOTSUPP);
3144         }
3145
3146         handle = mdd_trans_create(env, mdd);
3147         if (IS_ERR(handle))
3148                 RETURN(PTR_ERR(handle));
3149
3150         rc = mdd_stripe_get(env, obj, buf, XATTR_NAME_LOV);
3151         if (rc < 0) {
3152                 if (rc == -ENODATA)
3153                         rc = -EINVAL;
3154                 GOTO(out, rc);
3155         }
3156
3157         /* analyze the layout to make sure it's a FLR file */
3158         lcm = buf->lb_buf;
3159         if (le32_to_cpu(lcm->lcm_magic) != LOV_MAGIC_COMP_V1)
3160                 GOTO(out, rc = -EINVAL);
3161
3162         flr_state = le16_to_cpu(lcm->lcm_flags) & LCM_FL_FLR_MASK;
3163
3164         /* please refer to HLD of FLR for state transition */
3165         switch (flr_state) {
3166         case LCM_FL_NONE:
3167                 rc = mdd_layout_instantiate_component(env, obj, mlc, handle);
3168                 break;
3169         case LCM_FL_WRITE_PENDING:
3170                 rc = mdd_layout_update_write_pending(env, obj, mlc, handle);
3171                 break;
3172         case LCM_FL_RDONLY:
3173                 rc = mdd_layout_update_rdonly(env, obj, mlc, handle);
3174                 break;
3175         case LCM_FL_SYNC_PENDING:
3176                 rc = mdd_object_update_sync_pending(env, obj, mlc, handle);
3177                 break;
3178         default:
3179                 rc = 0;
3180                 break;
3181         }
3182         EXIT;
3183
3184 out:
3185         mdd_trans_stop(env, mdd, rc, handle);
3186         lu_buf_free(buf);
3187         return rc;
3188 }
3189
3190 void mdd_object_make_hint(const struct lu_env *env, struct mdd_object *parent,
3191                           struct mdd_object *child, const struct lu_attr *attr,
3192                           const struct md_op_spec *spec,
3193                           struct dt_allocation_hint *hint)
3194 {
3195         struct dt_object *np = parent ?  mdd_object_child(parent) : NULL;
3196         struct mdd_device *mdd = mdd_obj2mdd_dev(child);
3197         struct dt_object *nc = mdd_object_child(child);
3198
3199         memset(hint, 0, sizeof(*hint));
3200
3201         /* For striped directory, give striping EA to lod_ah_init, which will
3202          * decide the stripe_offset and stripe count by it. */
3203         if (S_ISDIR(attr->la_mode) &&
3204             unlikely(spec != NULL && spec->sp_cr_flags & MDS_OPEN_HAS_EA)) {
3205                 hint->dah_eadata = spec->u.sp_ea.eadata;
3206                 hint->dah_eadata_len = spec->u.sp_ea.eadatalen;
3207         } else if (S_ISREG(attr->la_mode) &&
3208                    spec->sp_cr_flags & MDS_OPEN_APPEND) {
3209                 hint->dah_append_stripe_count = mdd->mdd_append_stripe_count;
3210                 hint->dah_append_pool = mdd->mdd_append_pool;
3211         }
3212
3213         CDEBUG(D_INFO, DFID" eadata %p len %d\n", PFID(mdd_object_fid(child)),
3214                hint->dah_eadata, hint->dah_eadata_len);
3215         /* @hint will be initialized by underlying device. */
3216         nc->do_ops->do_ah_init(env, hint, np, nc, attr->la_mode & S_IFMT);
3217 }
3218
3219 static int mdd_accmode(const struct lu_env *env, const struct lu_attr *la,
3220                        u64 open_flags)
3221 {
3222         /* Sadly, NFSD reopens a file repeatedly during operation, so the
3223          * "acc_mode = 0" allowance for newly-created files isn't honoured.
3224          * NFSD uses the MDS_OPEN_OWNEROVERRIDE flag to say that a file
3225          * owner can write to a file even if it is marked readonly to hide
3226          * its brokenness. (bug 5781) */
3227         if (open_flags & MDS_OPEN_OWNEROVERRIDE) {
3228                 struct lu_ucred *uc = lu_ucred_check(env);
3229
3230                 if ((uc == NULL) || (la->la_uid == uc->uc_fsuid))
3231                         return 0;
3232         }
3233
3234         return mds_accmode(open_flags);
3235 }
3236
3237 static int mdd_open_sanity_check(const struct lu_env *env,
3238                                  struct mdd_object *obj,
3239                                  const struct lu_attr *attr, u64 open_flags,
3240                                  int is_replay)
3241 {
3242         unsigned int may_mask;
3243         int rc;
3244         ENTRY;
3245
3246         /* EEXIST check, also opening of *open* orphans is allowed so we can
3247          * open-by-handle unlinked files
3248          */
3249         if (mdd_is_dead_obj(obj) && !is_replay &&
3250             likely(!(mdd_is_orphan_obj(obj) && obj->mod_count > 0)))
3251                 RETURN(-ENOENT);
3252
3253         if (S_ISLNK(attr->la_mode))
3254                 RETURN(-ELOOP);
3255
3256         may_mask = mdd_accmode(env, attr, open_flags);
3257
3258         if (S_ISDIR(attr->la_mode) && (may_mask & MAY_WRITE))
3259                 RETURN(-EISDIR);
3260
3261         if (!(open_flags & MDS_OPEN_CREATED)) {
3262                 rc = mdd_permission_internal(env, obj, attr, may_mask);
3263                 if (rc)
3264                         RETURN(rc);
3265         }
3266
3267         if (S_ISFIFO(attr->la_mode) || S_ISSOCK(attr->la_mode) ||
3268             S_ISBLK(attr->la_mode) || S_ISCHR(attr->la_mode))
3269                 open_flags &= ~MDS_OPEN_TRUNC;
3270
3271         /* For writing append-only file must open it with append mode. */
3272         if (attr->la_flags & LUSTRE_APPEND_FL) {
3273                 if ((open_flags & MDS_FMODE_WRITE) &&
3274                     !(open_flags & MDS_OPEN_APPEND))
3275                         RETURN(-EPERM);
3276                 if (open_flags & MDS_OPEN_TRUNC)
3277                         RETURN(-EPERM);
3278         }
3279
3280         RETURN(0);
3281 }
3282
3283 static int mdd_open(const struct lu_env *env, struct md_object *obj,
3284                     u64 open_flags, struct md_op_spec *spec)
3285 {
3286         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3287         struct md_device *md_dev = lu2md_dev(mdd2lu_dev(mdo2mdd(obj)));
3288         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
3289         struct mdd_object_user *mou = NULL;
3290         const struct lu_ucred *uc = lu_ucred(env);
3291         struct mdd_device *mdd = mdo2mdd(obj);
3292         enum changelog_rec_type type = CL_OPEN;
3293         int rc = 0;
3294         ENTRY;
3295
3296         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
3297
3298         rc = mdd_la_get(env, mdd_obj, attr);
3299         if (rc != 0)
3300                 GOTO(out, rc);
3301
3302         rc = mdd_open_sanity_check(env, mdd_obj, attr, open_flags,
3303                                    spec->no_create);
3304         if ((rc == -EACCES) && (mdd->mdd_cl.mc_current_mask & BIT(CL_DN_OPEN)))
3305                 type = CL_DN_OPEN;
3306         else if (rc != 0)
3307                 GOTO(out, rc);
3308         else
3309                 mdd_obj->mod_count++;
3310
3311         if (!mdd_changelog_enabled(env, mdd, type))
3312                 GOTO(out, rc);
3313
3314 find:
3315         /* look for existing opener in list under mdd_write_lock */
3316         mou = mdd_obj_user_find(mdd_obj, uc->uc_uid, uc->uc_gid, open_flags);
3317
3318         if (!mou) {
3319                 int rc2;
3320
3321                 /* add user to list */
3322                 mou = mdd_obj_user_alloc(open_flags, uc->uc_uid, uc->uc_gid);
3323                 if (IS_ERR(mou)) {
3324                         if (rc == 0)
3325                                 rc = PTR_ERR(mou);
3326                         GOTO(out, rc);
3327                 }
3328                 rc2 = mdd_obj_user_add(mdd_obj, mou, type == CL_DN_OPEN);
3329                 if (rc2 != 0) {
3330                         mdd_obj_user_free(mou);
3331                         if (rc2 == -EEXIST)
3332                                 GOTO(find, rc2);
3333                 }
3334         } else {
3335                 if (type == CL_DN_OPEN) {
3336                         if (ktime_before(ktime_get(), mou->mou_deniednext))
3337                                 /* same user denied again same access within
3338                                  * time interval: do not record
3339                                  */
3340                                 GOTO(out, rc);
3341
3342                         /* this user already denied, but some time ago:
3343                          * update denied time
3344                          */
3345                         mou->mou_deniednext =
3346                                 ktime_add(ktime_get(),
3347                                           ktime_set(mdd->mdd_cl.mc_deniednext,
3348                                                     0));
3349                 } else {
3350                         mou->mou_opencount++;
3351                         /* same user opening file again with same flags:
3352                          * don't record
3353                          */
3354                         GOTO(out, rc);
3355                 }
3356         }
3357
3358         /* FYI, only the bottom 32 bits of open_flags are recorded */
3359         mdd_changelog(env, type, open_flags, md_dev, mdd_object_fid(mdd_obj));
3360
3361         EXIT;
3362 out:
3363         mdd_write_unlock(env, mdd_obj);
3364         return rc;
3365 }
3366
3367 static int mdd_declare_close(const struct lu_env *env, struct mdd_object *obj,
3368                              struct md_attr *ma, struct thandle *handle)
3369 {
3370         int rc;
3371
3372         rc = mdd_orphan_declare_delete(env, obj, handle);
3373         if (rc)
3374                 return rc;
3375
3376         return mdo_declare_destroy(env, obj, handle);
3377 }
3378
3379 /*
3380  * No permission check is needed.
3381  */
3382 static int mdd_close(const struct lu_env *env, struct md_object *obj,
3383                      struct md_attr *ma, u64 open_flags)
3384 {
3385         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3386         struct mdd_device *mdd = mdo2mdd(obj);
3387         struct thandle *handle = NULL;
3388         int is_orphan = 0;
3389         int rc;
3390         bool blocked = false;
3391         bool last_close_by_uid = false;
3392         const struct lu_ucred *uc = lu_ucred(env);
3393         ENTRY;
3394
3395         if (ma->ma_valid & MA_FLAGS && ma->ma_attr_flags & MDS_KEEP_ORPHAN) {
3396                 mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
3397                 mdd_obj->mod_count--;
3398                 mdd_write_unlock(env, mdd_obj);
3399
3400                 if (mdd_obj->mod_flags & ORPHAN_OBJ && !mdd_obj->mod_count)
3401                         CDEBUG(D_HA, "Object "DFID" is retained in orphan "
3402                                 "list\n", PFID(mdd_object_fid(mdd_obj)));
3403                 RETURN(0);
3404         }
3405
3406         /* mdd_finish_unlink() will always set orphan object as DEAD_OBJ, but
3407          * it might fail to add the object to orphan list (w/o ORPHAN_OBJ). */
3408         /* check without any lock */
3409         is_orphan = mdd_obj->mod_count == 1 &&
3410                     (mdd_obj->mod_flags & (ORPHAN_OBJ | DEAD_OBJ)) != 0;
3411
3412 again:
3413         if (is_orphan) {
3414                 /* mdd_trans_create() maybe failed because of barrier_entry(),
3415                  * under such case, the orphan MDT-object will be left in the
3416                  * orphan list, and when the MDT remount next time, the unused
3417                  * orphans will be destroyed automatically.
3418                  *
3419                  * One exception: the former mdd_finish_unlink may failed to
3420                  * add the orphan MDT-object to the orphan list, then if the
3421                  * mdd_trans_create() failed because of barrier_entry(), the
3422                  * MDT-object will become real orphan that is neither in the
3423                  * namespace nor in the orphan list. Such bad case should be
3424                  * very rare and will be handled by e2fsck/lfsck. */
3425                 handle = mdd_trans_create(env, mdo2mdd(obj));
3426                 if (IS_ERR(handle)) {
3427                         rc = PTR_ERR(handle);
3428                         if (rc != -EINPROGRESS)
3429                                 GOTO(stop, rc);
3430
3431                         handle = NULL;
3432                         blocked = true;
3433                         goto cont;
3434                 }
3435
3436                 rc = mdd_declare_close(env, mdd_obj, ma, handle);
3437                 if (rc)
3438                         GOTO(stop, rc);
3439
3440                 rc = mdd_declare_changelog_store(env, mdd, CL_CLOSE, NULL, NULL,
3441                                                  handle);
3442                 if (rc)
3443                         GOTO(stop, rc);
3444
3445                 rc = mdd_trans_start(env, mdo2mdd(obj), handle);
3446                 if (rc)
3447                         GOTO(stop, rc);
3448         }
3449
3450 cont:
3451         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
3452         rc = mdd_la_get(env, mdd_obj, &ma->ma_attr);
3453         if (rc != 0) {
3454                 CERROR("%s: failed to get lu_attr of "DFID": rc = %d\n",
3455                        lu_dev_name(mdd2lu_dev(mdd)),
3456                        PFID(mdd_object_fid(mdd_obj)), rc);
3457                 GOTO(out, rc);
3458         }
3459
3460         /* check again with lock */
3461         is_orphan = (mdd_obj->mod_count == 1) &&
3462                     ((mdd_obj->mod_flags & (ORPHAN_OBJ | DEAD_OBJ)) != 0 ||
3463                      ma->ma_attr.la_nlink == 0);
3464
3465         if (is_orphan && !handle && !blocked) {
3466                 mdd_write_unlock(env, mdd_obj);
3467                 goto again;
3468         }
3469
3470         mdd_obj->mod_count--; /*release open count */
3471
3472         /* under mdd write lock */
3473         /* If recording, see if we need to remove UID from list. uc is not
3474          * initialized if the client has been evicted. */
3475         if (mdd_changelog_enabled(env, mdd, CL_OPEN) && uc) {
3476                 struct mdd_object_user *mou;
3477
3478                 /* look for UID in list */
3479                 /* If mou is NULL, it probably means logging was enabled after
3480                  * the user had the file open. So the corresponding close
3481                  * will not be logged.
3482                  */
3483                 mou = mdd_obj_user_find(mdd_obj, uc->uc_uid, uc->uc_gid,
3484                                         open_flags);
3485                 if (mou) {
3486                         mou->mou_opencount--;
3487                         if (mou->mou_opencount == 0) {
3488                                 mdd_obj_user_remove(mdd_obj, mou);
3489                                 last_close_by_uid = true;
3490                         }
3491                 }
3492         }
3493
3494         if (!is_orphan || blocked)
3495                 GOTO(out, rc = 0);
3496
3497         /* Orphan object */
3498         /* NB: Object maybe not in orphan list originally, it is rare case for
3499          * mdd_finish_unlink() failure, in that case, the object doesn't have
3500          * ORPHAN_OBJ flag */
3501         if ((mdd_obj->mod_flags & ORPHAN_OBJ) != 0) {
3502                 /* remove link to object from orphan index */
3503                 LASSERT(handle != NULL);
3504                 rc = mdd_orphan_delete(env, mdd_obj, handle);
3505                 if (rc != 0) {
3506                         CERROR("%s: unable to delete "DFID" from orphan list: "
3507                                "rc = %d\n", lu_dev_name(mdd2lu_dev(mdd)),
3508                                PFID(mdd_object_fid(mdd_obj)), rc);
3509                         /* If object was not deleted from orphan list, do not
3510                          * destroy OSS objects, which will be done when next
3511                          * recovery. */
3512                         GOTO(out, rc);
3513                 }
3514
3515                 CDEBUG(D_HA, "Object "DFID" is deleted from orphan "
3516                        "list, OSS objects to be destroyed.\n",
3517                        PFID(mdd_object_fid(mdd_obj)));
3518         }
3519
3520         rc = mdo_destroy(env, mdd_obj, handle);
3521
3522         if (rc != 0) {
3523                 CERROR("%s: unable to delete "DFID" from orphan list: "
3524                        "rc = %d\n", lu_dev_name(mdd2lu_dev(mdd)),
3525                        PFID(mdd_object_fid(mdd_obj)), rc);
3526         }
3527         EXIT;
3528
3529 out:
3530         mdd_write_unlock(env, mdd_obj);
3531
3532         if (rc != 0 || blocked ||
3533             !mdd_changelog_enabled(env, mdd, CL_CLOSE))
3534                 GOTO(stop, rc);
3535
3536         /* Record CL_CLOSE in changelog only if file was opened in write mode,
3537          * or if CL_OPEN was recorded and it's last close by user.
3538          * Changelogs mask may change between open and close operations, but
3539          * this is not a big deal if we have a CL_CLOSE entry with no matching
3540          * CL_OPEN. Plus Changelogs mask may not change often.
3541          */
3542         if (((!(mdd->mdd_cl.mc_current_mask & BIT(CL_OPEN)) &&
3543               (open_flags & (MDS_FMODE_WRITE | MDS_OPEN_APPEND |
3544                              MDS_OPEN_TRUNC))) ||
3545              ((mdd->mdd_cl.mc_current_mask & BIT(CL_OPEN)) &&
3546               last_close_by_uid)) &&
3547             !(ma->ma_valid & MA_FLAGS && ma->ma_attr_flags & MDS_RECOV_OPEN)) {
3548                 if (handle == NULL) {
3549                         handle = mdd_trans_create(env, mdo2mdd(obj));
3550                         if (IS_ERR(handle))
3551                                 GOTO(stop, rc = PTR_ERR(handle));
3552
3553                         rc = mdd_declare_changelog_store(env, mdd, CL_CLOSE,
3554                                                          NULL, NULL, handle);
3555                         if (rc)
3556                                 GOTO(stop, rc);
3557
3558                         rc = mdd_trans_start(env, mdo2mdd(obj), handle);
3559                         if (rc)
3560                                 GOTO(stop, rc);
3561                 }
3562
3563                 /* FYI, only the bottom 32 bits of open_flags are recorded */
3564                 mdd_changelog_data_store(env, mdd, CL_CLOSE, open_flags,
3565                                          mdd_obj, handle, NULL);
3566         }
3567
3568 stop:
3569         if (handle != NULL && !IS_ERR(handle))
3570                 rc = mdd_trans_stop(env, mdd, rc, handle);
3571
3572         return rc;
3573 }
3574
3575 /*
3576  * Permission check is done when open,
3577  * no need check again.
3578  */
3579 static int mdd_readpage_sanity_check(const struct lu_env *env,
3580                                      struct mdd_object *obj)
3581 {
3582         struct dt_object *next = mdd_object_child(obj);
3583         int rc;
3584         ENTRY;
3585
3586         if (S_ISDIR(mdd_object_type(obj)) && dt_try_as_dir(env, next))
3587                 rc = 0;
3588         else
3589                 rc = -ENOTDIR;
3590
3591         RETURN(rc);
3592 }
3593
3594 static int mdd_dir_page_build(const struct lu_env *env, struct dt_object *obj,
3595                               union lu_page *lp, size_t bytes,
3596                               const struct dt_it_ops *iops,
3597                               struct dt_it *it, __u32 attr, void *arg)
3598 {
3599         struct lu_dirpage *dp = &lp->lp_dir;
3600         void *area = dp;
3601         __u64 hash = 0;
3602         struct lu_dirent *ent;
3603         struct lu_dirent *last = NULL;
3604         struct lu_fid fid;
3605         int first = 1;
3606         int result;
3607
3608         if (bytes < sizeof(*dp))
3609                 GOTO(out_err, result = -EOVERFLOW);
3610
3611         memset(area, 0, sizeof(*dp));
3612         area += sizeof(*dp);
3613         bytes -= sizeof(*dp);
3614
3615         ent = area;
3616         do {
3617                 int len;
3618                 size_t recsize;
3619
3620                 len = iops->key_size(env, it);
3621
3622                 /* IAM iterator can return record with zero len. */
3623                 if (len == 0)
3624                         GOTO(next, 0);
3625
3626                 hash = iops->store(env, it);
3627                 if (unlikely(first)) {
3628                         first = 0;
3629                         dp->ldp_hash_start = cpu_to_le64(hash);
3630                 }
3631
3632                 /* calculate max space required for lu_dirent */
3633                 recsize = lu_dirent_calc_size(len, attr);
3634
3635                 if (bytes >= recsize &&
3636                     !OBD_FAIL_CHECK(OBD_FAIL_MDS_DIR_PAGE_WALK)) {
3637                         result = iops->rec(env, it, (struct dt_rec *)ent, attr);
3638                         if (result == -ESTALE)
3639                                 GOTO(next, result);
3640                         if (result != 0)
3641                                 GOTO(out, result);
3642
3643                         /* OSD might not able to pack all attributes, so
3644                          * recheck record length had room to store FID
3645                          */
3646                         recsize = le16_to_cpu(ent->lde_reclen);
3647
3648                         if (le32_to_cpu(ent->lde_attrs) & LUDA_FID) {
3649                                 fid_le_to_cpu(&fid, &ent->lde_fid);
3650                                 if (fid_is_dot_lustre(&fid))
3651                                         GOTO(next, recsize);
3652                         }
3653                 } else {
3654                         result = (last != NULL) ? 0 : -EBADSLT;
3655                         GOTO(out, result);
3656                 }
3657                 last = ent;
3658                 ent = (void *)ent + recsize;
3659                 bytes -= recsize;
3660
3661 next:
3662                 result = iops->next(env, it);
3663                 if (result == -ESTALE)
3664                         GOTO(next, result);
3665         } while (result == 0);
3666
3667 out:
3668         dp->ldp_hash_end = cpu_to_le64(hash);
3669         if (last != NULL) {
3670                 if (last->lde_hash == dp->ldp_hash_end)
3671                         dp->ldp_flags |= cpu_to_le32(LDF_COLLIDE);
3672                 last->lde_reclen = 0; /* end mark */
3673         }
3674 out_err:
3675         if (result > 0)
3676                 /* end of directory */
3677                 dp->ldp_hash_end = cpu_to_le64(MDS_DIR_END_OFF);
3678         else if (result < 0)
3679                 CWARN("%s: build page failed for "DFID": rc = %d\n",
3680                       lu_dev_name(obj->do_lu.lo_dev),
3681                       PFID(lu_object_fid(&obj->do_lu)), result);
3682
3683         return result;
3684 }
3685
3686 int mdd_readpage(const struct lu_env *env, struct md_object *obj,
3687                  const struct lu_rdpg *rdpg)
3688 {
3689         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3690         int rc;
3691         ENTRY;
3692
3693         if (mdd_object_exists(mdd_obj) == 0) {
3694                 CERROR("%s: object "DFID" not found: rc = -2\n",
3695                        mdd_obj_dev_name(mdd_obj),PFID(mdd_object_fid(mdd_obj)));
3696                 return -ENOENT;
3697         }
3698
3699         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
3700         rc = mdd_readpage_sanity_check(env, mdd_obj);
3701         if (rc)
3702                 GOTO(out_unlock, rc);
3703
3704         if (mdd_is_dead_obj(mdd_obj)) {
3705                 struct page *pg;
3706                 struct lu_dirpage *dp;
3707
3708                 /*
3709                  * According to POSIX, please do not return any entry to client:
3710                  * even dot and dotdot should not be returned.
3711                  */
3712                 CDEBUG(D_INODE, "readdir from dead object: "DFID"\n",
3713                        PFID(mdd_object_fid(mdd_obj)));
3714
3715                 if (rdpg->rp_count <= 0)
3716                         GOTO(out_unlock, rc = -EFAULT);
3717                 LASSERT(rdpg->rp_pages != NULL);
3718
3719                 pg = rdpg->rp_pages[0];
3720                 dp = (struct lu_dirpage *)kmap(pg);
3721                 memset(dp, 0 , sizeof(struct lu_dirpage));
3722                 dp->ldp_hash_start = cpu_to_le64(rdpg->rp_hash);
3723                 dp->ldp_hash_end   = cpu_to_le64(MDS_DIR_END_OFF);
3724                 dp->ldp_flags = cpu_to_le32(LDF_EMPTY);
3725                 kunmap(pg);
3726                 GOTO(out_unlock, rc = LU_PAGE_SIZE);
3727         }
3728
3729         rc = dt_index_walk(env, mdd_object_child(mdd_obj), rdpg,
3730                            mdd_dir_page_build, NULL);
3731         if (rc >= 0) {
3732                 struct lu_dirpage       *dp;
3733
3734                 dp = kmap(rdpg->rp_pages[0]);
3735                 dp->ldp_hash_start = cpu_to_le64(rdpg->rp_hash);
3736                 if (rc == 0) {
3737                         /*
3738                          * No pages were processed, mark this for first page
3739                          * and send back.
3740                          */
3741                         dp->ldp_hash_end = cpu_to_le64(MDS_DIR_END_OFF);
3742                         dp->ldp_flags = cpu_to_le32(LDF_EMPTY);
3743                         rc = min_t(unsigned int, LU_PAGE_SIZE, rdpg->rp_count);
3744                 }
3745                 kunmap(rdpg->rp_pages[0]);
3746         }
3747
3748         GOTO(out_unlock, rc);
3749 out_unlock:
3750         mdd_read_unlock(env, mdd_obj);
3751         return rc;
3752 }
3753
3754 static int mdd_object_sync(const struct lu_env *env, struct md_object *obj)
3755 {
3756         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3757
3758         if (mdd_object_exists(mdd_obj) == 0) {
3759                 int rc = -ENOENT;
3760
3761                 CERROR("%s: object "DFID" not found: rc = %d\n",
3762                        mdd_obj_dev_name(mdd_obj),
3763                        PFID(mdd_object_fid(mdd_obj)), rc);
3764                 return rc;
3765         }
3766         return dt_object_sync(env, mdd_object_child(mdd_obj),
3767                               0, OBD_OBJECT_EOF);
3768 }
3769
3770 static int mdd_object_lock(const struct lu_env *env,
3771                            struct md_object *obj,
3772                            struct lustre_handle *lh,
3773                            struct ldlm_enqueue_info *einfo,
3774                            union ldlm_policy_data *policy)
3775 {
3776         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3777         return dt_object_lock(env, mdd_object_child(mdd_obj), lh,
3778                               einfo, policy);
3779 }
3780
3781 static int mdd_object_unlock(const struct lu_env *env,
3782                              struct md_object *obj,
3783                              struct ldlm_enqueue_info *einfo,
3784                              union ldlm_policy_data *policy)
3785 {
3786         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3787         return dt_object_unlock(env, mdd_object_child(mdd_obj), einfo, policy);
3788 }
3789
3790 const struct md_object_operations mdd_obj_ops = {
3791         .moo_permission         = mdd_permission,
3792         .moo_attr_get           = mdd_attr_get,
3793         .moo_attr_set           = mdd_attr_set,
3794         .moo_xattr_get          = mdd_xattr_get,
3795         .moo_xattr_set          = mdd_xattr_set,
3796         .moo_xattr_list         = mdd_xattr_list,
3797         .moo_invalidate         = mdd_invalidate,
3798         .moo_xattr_del          = mdd_xattr_del,
3799         .moo_swap_layouts       = mdd_swap_layouts,
3800         .moo_open               = mdd_open,
3801         .moo_close              = mdd_close,
3802         .moo_readpage           = mdd_readpage,
3803         .moo_readlink           = mdd_readlink,
3804         .moo_changelog          = mdd_changelog,
3805         .moo_object_sync        = mdd_object_sync,
3806         .moo_object_lock        = mdd_object_lock,
3807         .moo_object_unlock      = mdd_object_unlock,
3808         .moo_layout_change      = mdd_layout_change,
3809 };