lustre/mdd/mdd_object.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2017, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  *
  31  * lustre/mdd/mdd_object.c
  32  *
  33  * Lustre Metadata Server (mdd) routines
  34  *
  35  * Author: Wang Di <wangdi@clusterfs.com>
  36  */
  37
  38 #define DEBUG_SUBSYSTEM S_MDS
  39
  40 #include <linux/module.h>
  41 #include <obd.h>
  42 #include <obd_class.h>
  43 #include <obd_support.h>
  44 #include <lprocfs_status.h>
  45 /* fid_be_cpu(), fid_cpu_to_be(). */
  46 #include <lustre_fid.h>
  47 #include <lustre_idmap.h>
  48 #include <uapi/linux/lustre/lustre_param.h>
  49 #include <lustre_mds.h>
  50
  51 #include "mdd_internal.h"
  52
  53 static const struct lu_object_operations mdd_lu_obj_ops;
  54
  55 struct mdd_object_user {
  56         struct list_head        mou_list;       /**< linked off mod_users */
  57         u64                     mou_open_flags; /**< open mode by client */
  58         __u64                   mou_uidgid;     /**< uid_gid on client */
  59         int                     mou_opencount;  /**< # opened */
  60         ktime_t                 mou_deniednext; /**< time of next access denied
  61                                                  * notfication
  62                                                  */
  63 };
  64
  65 static int mdd_xattr_get(const struct lu_env *env,
  66                          struct md_object *obj, struct lu_buf *buf,
  67                          const char *name);
  68
  69 static int mdd_changelog_data_store_by_fid(const struct lu_env *env,
  70                                            struct mdd_device *mdd,
  71                                            enum changelog_rec_type type,
  72                                            enum changelog_rec_flags clf_flags,
  73                                            const struct lu_fid *fid,
  74                                            const struct lu_fid *pfid,
  75                                            const char *xattr_name,
  76                                            struct thandle *handle);
  77
  78 static inline bool has_prefix(const char *str, const char *prefix);
  79
  80
  81 static u32 flags_helper(u64 open_flags)
  82 {
  83         u32 open_mode = 0;
  84
  85         if (open_flags & MDS_FMODE_EXEC) {
  86                 open_mode = MDS_FMODE_EXEC;
  87         } else {
  88                 if (open_flags & MDS_FMODE_READ)
  89                         open_mode = MDS_FMODE_READ;
  90                 if (open_flags &
  91                     (MDS_FMODE_WRITE | MDS_OPEN_TRUNC | MDS_OPEN_APPEND))
  92                         open_mode |= MDS_FMODE_WRITE;
  93         }
  94
  95         return open_mode;
  96 }
  97
  98 /** Allocate/init a user and its sub-structures.
  99  *
 100  * \param flags [IN]
 101  * \param uid [IN]
 102  * \param gid [IN]
 103  * \retval mou [OUT] success valid structure
 104  * \retval mou [OUT]
 105  */
 106 static struct mdd_object_user *mdd_obj_user_alloc(u64 open_flags,
 107                                                   uid_t uid, gid_t gid)
 108 {
 109         struct mdd_object_user *mou;
 110
 111         ENTRY;
 112
 113         OBD_SLAB_ALLOC_PTR(mou, mdd_object_kmem);
 114         if (mou == NULL)
 115                 RETURN(ERR_PTR(-ENOMEM));
 116
 117         mou->mou_open_flags = open_flags;
 118         mou->mou_uidgid = ((__u64)uid << 32) | gid;
 119         mou->mou_opencount = 0;
 120         mou->mou_deniednext = ktime_set(0, 0);
 121
 122         RETURN(mou);
 123 }
 124
 125 /**
 126  * Free a user and its sub-structures.
 127  *
 128  * \param mou [IN]  user to be freed.
 129  */
 130 static void mdd_obj_user_free(struct mdd_object_user *mou)
 131 {
 132         OBD_SLAB_FREE_PTR(mou, mdd_object_kmem);
 133 }
 134
 135 /**
 136  * Find if UID/GID already has this file open
 137  *
 138  * Caller should have write-locked \param mdd_obj.
 139  * \param mdd_obj [IN] mdd_obj
 140  * \param uid [IN] client uid
 141  * \param gid [IN] client gid
 142  * \retval user pointer or NULL if not found
 143  */
 144 static
 145 struct mdd_object_user *mdd_obj_user_find(struct mdd_object *mdd_obj,
 146                                           uid_t uid, gid_t gid,
 147                                           u64 open_flags)
 148 {
 149         struct mdd_object_user *mou;
 150         __u64 uidgid;
 151
 152         ENTRY;
 153
 154         uidgid = ((__u64)uid << 32) | gid;
 155         list_for_each_entry(mou, &mdd_obj->mod_users, mou_list) {
 156                 if (mou->mou_uidgid == uidgid &&
 157                     flags_helper(mou->mou_open_flags) ==
 158                     flags_helper(open_flags))
 159                         RETURN(mou);
 160         }
 161         RETURN(NULL);
 162 }
 163
 164 /**
 165  * Add a user to the list of openers for this file
 166  *
 167  * Caller should have write-locked \param mdd_obj.
 168  * \param mdd_obj [IN] mdd_obj
 169  * \param mou [IN] user
 170  * \retval 0 success
 171  * \retval -ve failure
 172  */
 173 static int mdd_obj_user_add(struct mdd_object *mdd_obj,
 174                             struct mdd_object_user *mou,
 175                             bool denied)
 176 {
 177         struct mdd_device *mdd = mdd_obj2mdd_dev(mdd_obj);
 178         struct mdd_object_user *tmp;
 179         __u32 uid = mou->mou_uidgid >> 32;
 180         __u32 gid = mou->mou_uidgid & ((1UL << 32) - 1);
 181
 182         ENTRY;
 183         tmp = mdd_obj_user_find(mdd_obj, uid, gid, mou->mou_open_flags);
 184         if (tmp != NULL)
 185                 RETURN(-EEXIST);
 186
 187         list_add_tail(&mou->mou_list, &mdd_obj->mod_users);
 188
 189         if (denied)
 190                 /* next 'access denied' notification cannot happen before
 191                  * mou_deniednext
 192                  */
 193                 mou->mou_deniednext =
 194                         ktime_add(ktime_get(),
 195                                   ktime_set(mdd->mdd_cl.mc_deniednext, 0));
 196         else
 197                 mou->mou_opencount++;
 198
 199         RETURN(0);
 200 }
 201 /**
 202  * Remove UID from the list
 203  *
 204  * Caller should have write-locked \param mdd_obj.
 205  * \param mdd_obj [IN] mdd_obj
 206  * \param uid [IN] user
 207  * \retval -ve failure
 208  */
 209 static int mdd_obj_user_remove(struct mdd_object *mdd_obj,
 210                                struct mdd_object_user *mou)
 211 {
 212         ENTRY;
 213
 214         if (mou == NULL)
 215                 RETURN(-ENOENT);
 216
 217         list_del_init(&mou->mou_list);
 218
 219         mdd_obj_user_free(mou);
 220
 221         RETURN(0);
 222 }
 223 int mdd_la_get(const struct lu_env *env, struct mdd_object *obj,
 224                struct lu_attr *la)
 225 {
 226         int rc;
 227
 228         if (mdd_object_exists(obj) == 0)
 229                 return -ENOENT;
 230
 231         rc = mdo_attr_get(env, obj, la);
 232         if (unlikely(rc != 0)) {
 233                 if (rc == -ENOENT)
 234                         obj->mod_flags |= DEAD_OBJ;
 235                 return rc;
 236         }
 237
 238         if (la->la_valid & LA_FLAGS && la->la_flags & LUSTRE_ORPHAN_FL)
 239                 obj->mod_flags |= ORPHAN_OBJ | DEAD_OBJ;
 240
 241         return 0;
 242 }
 243
 244 struct mdd_thread_info *mdd_env_info(const struct lu_env *env)
 245 {
 246         return lu_env_info(env, &mdd_thread_key);
 247 }
 248
 249 struct lu_buf *mdd_buf_get(const struct lu_env *env, void *area, ssize_t len)
 250 {
 251         struct lu_buf *buf;
 252
 253         buf = &mdd_env_info(env)->mdi_buf[0];
 254         buf->lb_buf = area;
 255         buf->lb_len = len;
 256         return buf;
 257 }
 258
 259 const struct lu_buf *mdd_buf_get_const(const struct lu_env *env,
 260                                        const void *area, ssize_t len)
 261 {
 262         struct lu_buf *buf;
 263
 264         buf = &mdd_env_info(env)->mdi_buf[0];
 265         buf->lb_buf = (void *)area;
 266         buf->lb_len = len;
 267         return buf;
 268 }
 269
 270 struct lu_object *mdd_object_alloc(const struct lu_env *env,
 271                                    const struct lu_object_header *hdr,
 272                                    struct lu_device *d)
 273 {
 274         struct mdd_device *mdd = lu2mdd_dev(d);
 275         struct mdd_object *mdd_obj;
 276         struct lu_object *o;
 277
 278         OBD_SLAB_ALLOC_PTR_GFP(mdd_obj, mdd_object_kmem, GFP_NOFS);
 279         if (!mdd_obj)
 280                 return NULL;
 281
 282         o = mdd2lu_obj(mdd_obj);
 283         lu_object_init(o, NULL, d);
 284         mdd_obj->mod_obj.mo_ops = &mdd_obj_ops;
 285         mdd_obj->mod_obj.mo_dir_ops = &mdd_dir_ops;
 286         mdd_obj->mod_count = 0;
 287         obd_obt_init(mdd2obd_dev(mdd));
 288         o->lo_ops = &mdd_lu_obj_ops;
 289         INIT_LIST_HEAD(&mdd_obj->mod_users);
 290
 291         return o;
 292 }
 293
 294 static int mdd_object_init(const struct lu_env *env, struct lu_object *o,
 295                            const struct lu_object_conf *unused)
 296 {
 297         struct mdd_device *d = lu2mdd_dev(o->lo_dev);
 298         struct mdd_object *mdd_obj = lu2mdd_obj(o);
 299         struct lu_object  *below;
 300         struct lu_device  *under;
 301         ENTRY;
 302
 303         mdd_obj->mod_cltime = ktime_set(0, 0);
 304         under = &d->mdd_child->dd_lu_dev;
 305         below = under->ld_ops->ldo_object_alloc(env, o->lo_header, under);
 306         if (IS_ERR(below))
 307                 RETURN(PTR_ERR(below));
 308
 309         lu_object_add(o, below);
 310
 311         RETURN(0);
 312 }
 313
 314 static int mdd_object_start(const struct lu_env *env, struct lu_object *o)
 315 {
 316         int rc = 0;
 317
 318         if (lu_object_exists(o)) {
 319                 struct mdd_object *mdd_obj = lu2mdd_obj(o);
 320                 struct lu_attr *attr = MDD_ENV_VAR(env, la_for_start);
 321
 322                 rc = mdd_la_get(env, mdd_obj, attr);
 323         }
 324
 325         return rc;
 326 }
 327
 328 static void mdd_object_free(const struct lu_env *env, struct lu_object *o)
 329 {
 330         struct mdd_object *mdd = lu2mdd_obj(o);
 331         struct mdd_object_user *mou, *tmp2;
 332
 333         /* free user list */
 334         list_for_each_entry_safe(mou, tmp2, &mdd->mod_users, mou_list) {
 335                 list_del(&mou->mou_list);
 336                 mdd_obj_user_free(mou);
 337         }
 338
 339         lu_object_fini(o);
 340         /* mdd doesn't contain an lu_object_header, so don't need call_rcu */
 341         OBD_SLAB_FREE_PTR(mdd, mdd_object_kmem);
 342 }
 343
 344 static int mdd_object_print(const struct lu_env *env, void *cookie,
 345                             lu_printer_t p, const struct lu_object *o)
 346 {
 347         struct mdd_object *mdd = lu2mdd_obj((struct lu_object *)o);
 348
 349         return (*p)(env, cookie,
 350                     LUSTRE_MDD_NAME"-object@%p(open_count=%d, valid=%x, cltime=%lldns, flags=%lx)",
 351                     mdd, mdd->mod_count, mdd->mod_valid,
 352                     ktime_to_ns(mdd->mod_cltime), mdd->mod_flags);
 353 }
 354
 355 static const struct lu_object_operations mdd_lu_obj_ops = {
 356         .loo_object_init    = mdd_object_init,
 357         .loo_object_start   = mdd_object_start,
 358         .loo_object_free    = mdd_object_free,
 359         .loo_object_print   = mdd_object_print,
 360 };
 361
 362 struct mdd_object *mdd_object_find(const struct lu_env *env,
 363                                    struct mdd_device *d,
 364                                    const struct lu_fid *f)
 365 {
 366         return md2mdd_obj(md_object_find_slice(env, &d->mdd_md_dev, f));
 367 }
 368
 369 /*
 370  * No permission check is needed.
 371  */
 372 int mdd_attr_get(const struct lu_env *env, struct md_object *obj,
 373                  struct md_attr *ma)
 374 {
 375         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 376         int               rc;
 377
 378         ENTRY;
 379
 380         rc = mdd_la_get(env, mdd_obj, &ma->ma_attr);
 381         if ((ma->ma_need & MA_INODE) != 0 && mdd_is_dead_obj(mdd_obj))
 382                 ma->ma_attr.la_nlink = 0;
 383
 384         RETURN(rc);
 385 }
 386
 387 /*
 388  * No permission check is needed.
 389  */
 390 static int mdd_xattr_get(const struct lu_env *env,
 391                          struct md_object *obj, struct lu_buf *buf,
 392                          const char *name)
 393 {
 394         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 395         struct mdd_device *mdd;
 396         int rc;
 397
 398         ENTRY;
 399
 400         if (mdd_object_exists(mdd_obj) == 0) {
 401                 CERROR("%s: object "DFID" not found: rc = -2\n",
 402                        mdd_obj_dev_name(mdd_obj),
 403                        PFID(mdd_object_fid(mdd_obj)));
 404                 return -ENOENT;
 405         }
 406
 407         /* If the object has been destroyed, then do not get LMVEA, because
 408          * it needs to load stripes from the iteration of the master object,
 409          * and it will cause problem if master object has been destroyed, see
 410          * LU-6427 */
 411         if (unlikely((mdd_obj->mod_flags & DEAD_OBJ) &&
 412                      !(mdd_obj->mod_flags & ORPHAN_OBJ) &&
 413                       strcmp(name, XATTR_NAME_LMV) == 0))
 414                 RETURN(-ENOENT);
 415
 416         /* If the object has been delete from the namespace, then
 417          * get linkEA should return -ENOENT as well */
 418         if (unlikely((mdd_obj->mod_flags & (DEAD_OBJ | ORPHAN_OBJ)) &&
 419                       strcmp(name, XATTR_NAME_LINK) == 0))
 420                 RETURN(-ENOENT);
 421
 422         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
 423         rc = mdo_xattr_get(env, mdd_obj, buf, name);
 424         mdd_read_unlock(env, mdd_obj);
 425
 426         mdd = mdo2mdd(obj);
 427
 428         /* record only getting user xattrs and acls */
 429         if (rc >= 0 && buf->lb_buf &&
 430             mdd_changelog_enabled(env, mdd, CL_GETXATTR) &&
 431             (has_prefix(name, XATTR_USER_PREFIX) ||
 432              has_prefix(name, XATTR_NAME_POSIX_ACL_ACCESS) ||
 433              has_prefix(name, XATTR_NAME_POSIX_ACL_DEFAULT))) {
 434                 struct thandle *handle;
 435                 int rc2;
 436
 437                 LASSERT(mdd_object_fid(mdd_obj) != NULL);
 438
 439                 handle = mdd_trans_create(env, mdd);
 440                 if (IS_ERR(handle))
 441                         RETURN(PTR_ERR(handle));
 442
 443                 rc2 = mdd_declare_changelog_store(env, mdd, CL_GETXATTR, NULL,
 444                                                   NULL, handle);
 445                 if (rc2)
 446                         GOTO(stop, rc2);
 447
 448                 rc2 = mdd_trans_start(env, mdd, handle);
 449                 if (rc2)
 450                         GOTO(stop, rc2);
 451
 452                 rc2 = mdd_changelog_data_store_by_fid(env, mdd, CL_GETXATTR, 0,
 453                                                       mdd_object_fid(mdd_obj),
 454                                                       NULL, name, handle);
 455
 456 stop:
 457                 rc2 = mdd_trans_stop(env, mdd, rc2, handle);
 458                 if (rc2)
 459                         rc = rc2;
 460         }
 461
 462         RETURN(rc);
 463 }
 464
 465 /*
 466  * Permission check is done when open,
 467  * no need check again.
 468  */
 469 int mdd_readlink(const struct lu_env *env, struct md_object *obj,
 470                  struct lu_buf *buf)
 471 {
 472         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 473         struct dt_object  *next;
 474         loff_t             pos = 0;
 475         int                rc;
 476         ENTRY;
 477
 478         if (mdd_object_exists(mdd_obj) == 0) {
 479                 CERROR("%s: object "DFID" not found: rc = -2\n",
 480                        mdd_obj_dev_name(mdd_obj),PFID(mdd_object_fid(mdd_obj)));
 481                 return -ENOENT;
 482         }
 483
 484         next = mdd_object_child(mdd_obj);
 485         LASSERT(next != NULL);
 486         LASSERT(next->do_body_ops != NULL);
 487         LASSERT(next->do_body_ops->dbo_read != NULL);
 488         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
 489         rc = dt_read(env, next, buf, &pos);
 490         mdd_read_unlock(env, mdd_obj);
 491         RETURN(rc);
 492 }
 493
 494 /*
 495  * No permission check is needed.
 496  */
 497 static int mdd_xattr_list(const struct lu_env *env, struct md_object *obj,
 498                           struct lu_buf *buf)
 499 {
 500         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 501         int rc;
 502
 503         ENTRY;
 504
 505         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
 506         rc = mdo_xattr_list(env, mdd_obj, buf);
 507         mdd_read_unlock(env, mdd_obj);
 508
 509         /* If the buffer is NULL then we are only here to get the
 510          * length of the xattr name list. */
 511         if (rc < 0 || buf->lb_buf == NULL)
 512                 RETURN(rc);
 513
 514         /*
 515          * Filter out XATTR_NAME_LINK if this is an orphan object.  See
 516          * mdd_xattr_get().
 517          */
 518         if (unlikely(mdd_obj->mod_flags & (DEAD_OBJ | ORPHAN_OBJ))) {
 519                 char   *end = (char *)buf->lb_buf + rc;
 520                 char   *p = buf->lb_buf;
 521
 522                 while (p < end) {
 523                         char   *next = p + strlen(p) + 1;
 524
 525                         if (strcmp(p, XATTR_NAME_LINK) == 0) {
 526                                 if (end - next > 0)
 527                                         memmove(p, next, end - next);
 528                                 rc -= next - p;
 529                                 CDEBUG(D_INFO, "Filtered out "XATTR_NAME_LINK
 530                                        " of orphan "DFID"\n",
 531                                        PFID(mdd_object_fid(mdd_obj)));
 532                                 break;
 533                         }
 534
 535                         p = next;
 536                 }
 537         }
 538
 539         RETURN(rc);
 540 }
 541
 542 int mdd_invalidate(const struct lu_env *env, struct md_object *obj)
 543 {
 544         return mdo_invalidate(env, md2mdd_obj(obj));
 545 }
 546
 547 int mdd_declare_create_object_internal(const struct lu_env *env,
 548                                        struct mdd_object *p,
 549                                        struct mdd_object *c,
 550                                        struct lu_attr *attr,
 551                                        struct thandle *handle,
 552                                        const struct md_op_spec *spec,
 553                                        struct dt_allocation_hint *hint)
 554 {
 555         struct dt_object_format *dof = &mdd_env_info(env)->mdi_dof;
 556         const struct dt_index_features *feat = spec->sp_feat;
 557         int rc;
 558         ENTRY;
 559
 560         if (feat != &dt_directory_features && feat != NULL) {
 561                 dof->dof_type = DFT_INDEX;
 562                 dof->u.dof_idx.di_feat = feat;
 563         } else {
 564                 dof->dof_type = dt_mode_to_dft(attr->la_mode);
 565                 if (dof->dof_type == DFT_REGULAR) {
 566                         dof->u.dof_reg.striped =
 567                                 md_should_create(spec->sp_cr_flags);
 568                         if (spec->sp_cr_flags & MDS_OPEN_HAS_EA)
 569                                 dof->u.dof_reg.striped = 0;
 570                         /* is this replay? */
 571                         if (spec->no_create)
 572                                 dof->u.dof_reg.striped = 0;
 573                 }
 574         }
 575
 576         rc = mdo_declare_create_object(env, c, attr, hint, dof, handle);
 577
 578         RETURN(rc);
 579 }
 580
 581 int mdd_create_object_internal(const struct lu_env *env, struct mdd_object *p,
 582                                struct mdd_object *c, struct lu_attr *attr,
 583                                struct thandle *handle,
 584                                const struct md_op_spec *spec,
 585                                struct dt_allocation_hint *hint)
 586 {
 587         struct dt_object_format *dof = &mdd_env_info(env)->mdi_dof;
 588         int rc;
 589         ENTRY;
 590
 591         LASSERT(!mdd_object_exists(c));
 592
 593         rc = mdo_create_object(env, c, attr, hint, dof, handle);
 594
 595         RETURN(rc);
 596 }
 597
 598 int mdd_attr_set_internal(const struct lu_env *env, struct mdd_object *obj,
 599                           const struct lu_attr *attr, struct thandle *handle,
 600                           int needacl)
 601 {
 602         int rc;
 603         ENTRY;
 604
 605         rc = mdo_attr_set(env, obj, attr, handle);
 606 #ifdef CONFIG_LUSTRE_FS_POSIX_ACL
 607         if (!rc && (attr->la_valid & LA_MODE) && needacl)
 608                 rc = mdd_acl_chmod(env, obj, attr->la_mode, handle);
 609 #endif
 610         RETURN(rc);
 611 }
 612
 613 int mdd_update_time(const struct lu_env *env, struct mdd_object *obj,
 614                     const struct lu_attr *oattr, struct lu_attr *attr,
 615                     struct thandle *handle)
 616 {
 617         int rc = 0;
 618         ENTRY;
 619
 620         LASSERT(attr->la_valid & LA_CTIME);
 621         LASSERT(oattr != NULL);
 622
 623         /* Make sure the ctime is increased only, however, it's not strictly
 624          * reliable at here because there is not guarantee to hold lock on
 625          * object, so we just bypass some unnecessary cmtime setting first
 626          * and OSD has to check it again. */
 627         if (attr->la_ctime < oattr->la_ctime)
 628                 attr->la_valid &= ~(LA_MTIME | LA_CTIME);
 629         else if (attr->la_valid == LA_CTIME &&
 630                  attr->la_ctime == oattr->la_ctime)
 631                 attr->la_valid &= ~LA_CTIME;
 632
 633         if (attr->la_valid != 0)
 634                 rc = mdd_attr_set_internal(env, obj, attr, handle, 0);
 635         RETURN(rc);
 636 }
 637
 638
 639 static bool is_project_state_change(const struct lu_attr *oattr,
 640                                     struct lu_attr *la)
 641 {
 642         if (la->la_valid & LA_PROJID &&
 643             oattr->la_projid != la->la_projid)
 644                 return true;
 645
 646         if ((la->la_valid & LA_FLAGS) &&
 647             (la->la_flags & LUSTRE_PROJINHERIT_FL) !=
 648             (oattr->la_flags & LUSTRE_PROJINHERIT_FL))
 649                 return true;
 650
 651         return false;
 652 }
 653
 654 /**
 655  * This gives the same functionality as the code between
 656  * sys_chmod and inode_setattr
 657  * chown_common and inode_setattr
 658  * utimes and inode_setattr
 659  * This API is ported from mds_fix_attr but remove some unnecesssary stuff.
 660  *
 661  * @param[in]     oattr  Original, current object attributes.
 662  * @param[in,out] la     New attributes to be evaluated and potentially
 663  *                       modified depending on oattr content and other rules.
 664  * @param[in]     ma     md_attr to be evaluated for that object.
 665  */
 666 static int mdd_fix_attr(const struct lu_env *env, struct mdd_object *obj,
 667                         const struct lu_attr *oattr, struct lu_attr *la,
 668                         const struct md_attr *ma)
 669 {
 670         struct lu_ucred  *uc;
 671         int               rc = 0;
 672         const unsigned long flags = ma->ma_attr_flags;
 673
 674         ENTRY;
 675
 676         if (!la->la_valid)
 677                 RETURN(0);
 678
 679         /* Do not permit change file type */
 680         if (la->la_valid & LA_TYPE)
 681                 RETURN(-EPERM);
 682
 683         /* They should not be processed by setattr */
 684         if (la->la_valid & (LA_NLINK | LA_RDEV | LA_BLKSIZE))
 685                 RETURN(-EPERM);
 686
 687         LASSERT(oattr != NULL);
 688
 689         uc = lu_ucred_check(env);
 690         if (uc == NULL)
 691                 RETURN(0);
 692
 693         if (is_project_state_change(oattr, la)) {
 694                 /* we want rbac roles to have precedence over any other
 695                  * permission or capability checks
 696                  */
 697                 if (!uc->uc_rbac_file_perms ||
 698                     (!cap_raised(uc->uc_cap, CAP_SYS_RESOURCE) &&
 699                      !lustre_in_group_p(uc, ma->ma_enable_chprojid_gid) &&
 700                      !(ma->ma_enable_chprojid_gid == -1 &&
 701                        mdd_permission_internal(env, obj, oattr, MAY_WRITE))))
 702                         RETURN(-EPERM);
 703         }
 704
 705         if (la->la_valid == LA_CTIME) {
 706                 if (!(flags & MDS_PERM_BYPASS))
 707                         /* This is only for set ctime when rename's source is
 708                          * on remote MDS. */
 709                         rc = mdd_may_delete(env, NULL, NULL, obj, oattr, NULL,
 710                                             1, 0);
 711                 if (rc == 0 && la->la_ctime <= oattr->la_ctime)
 712                         la->la_valid &= ~LA_CTIME;
 713                 RETURN(rc);
 714         }
 715
 716         if (flags & MDS_CLOSE_UPDATE_TIMES &&
 717             la->la_valid & (LA_ATIME | LA_MTIME | LA_CTIME)) {
 718                 /* This is an atime/mtime/ctime attribute update for
 719                  * close RPCs.
 720                  */
 721                 if (la->la_valid & LA_ATIME &&
 722                     la->la_atime <= (oattr->la_atime +
 723                                 mdd_obj2mdd_dev(obj)->mdd_atime_diff))
 724                         la->la_valid &= ~LA_ATIME;
 725                 if (la->la_valid & LA_CTIME && la->la_ctime <= oattr->la_ctime)
 726                         la->la_valid &= ~LA_CTIME;
 727                 if (la->la_valid & LA_MTIME && la->la_mtime <= oattr->la_mtime)
 728                         la->la_valid &= ~LA_MTIME;
 729                 RETURN(0);
 730         }
 731
 732         /* Check if flags change. */
 733         if (la->la_valid & LA_FLAGS) {
 734                 unsigned int oldflags = oattr->la_flags &
 735                                 (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL);
 736                 unsigned int newflags = la->la_flags &
 737                                 (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL);
 738
 739                 if ((uc->uc_fsuid != oattr->la_uid) &&
 740                     !cap_raised(uc->uc_cap, CAP_FOWNER))
 741                         RETURN(-EPERM);
 742
 743                 /* The IMMUTABLE and APPEND_ONLY flags can
 744                  * only be changed by the relevant capability. */
 745                 if ((oldflags ^ newflags) &&
 746                     !cap_raised(uc->uc_cap, CAP_LINUX_IMMUTABLE))
 747                         RETURN(-EPERM);
 748
 749                 if (!S_ISDIR(oattr->la_mode)) {
 750                         la->la_flags &= ~(LUSTRE_DIRSYNC_FL | LUSTRE_TOPDIR_FL);
 751                 } else if (la->la_flags & LUSTRE_ENCRYPT_FL) {
 752                         /* when trying to add encryption flag on dir,
 753                          * make sure it is empty
 754                          */
 755                         rc = mdd_dir_is_empty(env, obj);
 756                         if (rc)
 757                                 RETURN(rc);
 758                         rc = 0;
 759                 }
 760         }
 761
 762         if (oattr->la_flags & (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL) &&
 763             (la->la_valid & ~LA_FLAGS) &&
 764             !(flags & MDS_PERM_BYPASS))
 765                 RETURN(-EPERM);
 766
 767         /* Check for setting the obj time. */
 768         if ((la->la_valid & (LA_MTIME | LA_ATIME | LA_CTIME)) &&
 769             !(la->la_valid & ~(LA_MTIME | LA_ATIME | LA_CTIME))) {
 770                 if ((uc->uc_fsuid != oattr->la_uid) &&
 771                     !cap_raised(uc->uc_cap, CAP_FOWNER)) {
 772                         rc = mdd_permission_internal(env, obj, oattr,
 773                                                      MAY_WRITE);
 774                         if (rc)
 775                                 RETURN(rc);
 776                 }
 777         }
 778
 779         if (la->la_valid & LA_KILL_SUID) {
 780                 la->la_valid &= ~LA_KILL_SUID;
 781                 if ((oattr->la_mode & S_ISUID) &&
 782                     !(la->la_valid & LA_MODE)) {
 783                         la->la_mode = oattr->la_mode;
 784                         la->la_valid |= LA_MODE;
 785                 }
 786                 la->la_mode &= ~S_ISUID;
 787         }
 788
 789         if (la->la_valid & LA_KILL_SGID) {
 790                 la->la_valid &= ~LA_KILL_SGID;
 791                 if (((oattr->la_mode & (S_ISGID | S_IXGRP)) ==
 792                         (S_ISGID | S_IXGRP)) &&
 793                     !(la->la_valid & LA_MODE)) {
 794                         la->la_mode = oattr->la_mode;
 795                         la->la_valid |= LA_MODE;
 796                 }
 797                 la->la_mode &= ~S_ISGID;
 798         }
 799
 800         /* Make sure a caller can chmod. */
 801         if (la->la_valid & LA_MODE) {
 802                 /* we want rbac roles to have precedence over any other
 803                  * permission or capability checks
 804                  */
 805                 if (!uc->uc_rbac_file_perms ||
 806                     (!(flags & MDS_PERM_BYPASS) &&
 807                      (uc->uc_fsuid != oattr->la_uid) &&
 808                      !cap_raised(uc->uc_cap, CAP_FOWNER)))
 809                         RETURN(-EPERM);
 810
 811                 if (la->la_mode == (umode_t) -1)
 812                         la->la_mode = oattr->la_mode;
 813                 else
 814                         la->la_mode = (la->la_mode & S_IALLUGO) |
 815                                         (oattr->la_mode & ~S_IALLUGO);
 816
 817                 /* Also check the setgid bit! */
 818                 if (!lustre_in_group_p(uc, (la->la_valid & LA_GID) ?
 819                                        la->la_gid : oattr->la_gid) &&
 820                     !cap_raised(uc->uc_cap, CAP_FSETID))
 821                         la->la_mode &= ~S_ISGID;
 822         } else {
 823                la->la_mode = oattr->la_mode;
 824         }
 825
 826         /* Make sure a caller can chown. */
 827         if (la->la_valid & LA_UID) {
 828                 if (la->la_uid == (uid_t) -1)
 829                         la->la_uid = oattr->la_uid;
 830                 /* we want rbac roles to have precedence over any other
 831                  * permission or capability checks
 832                  */
 833                 if (!uc->uc_rbac_file_perms ||
 834                     ((uc->uc_fsuid != oattr->la_uid ||
 835                       la->la_uid != oattr->la_uid) &&
 836                      !cap_raised(uc->uc_cap, CAP_CHOWN)))
 837                         RETURN(-EPERM);
 838
 839                 /* If the user or group of a non-directory has been
 840                  * changed by a non-root user, remove the setuid bit.
 841                  * 19981026 David C Niemi <niemi@tux.org>
 842                  *
 843                  * Changed this to apply to all users, including root,
 844                  * to avoid some races. This is the behavior we had in
 845                  * 2.0. The check for non-root was definitely wrong
 846                  * for 2.2 anyway, as it should have been using
 847                  * CAP_FSETID rather than fsuid -- 19990830 SD. */
 848                 if (((oattr->la_mode & S_ISUID) == S_ISUID) &&
 849                 !S_ISDIR(oattr->la_mode)) {
 850                         la->la_mode &= ~S_ISUID;
 851                         la->la_valid |= LA_MODE;
 852                 }
 853         }
 854
 855         /* Make sure caller can chgrp. */
 856         if (la->la_valid & LA_GID) {
 857                 if (la->la_gid == (gid_t) -1)
 858                         la->la_gid = oattr->la_gid;
 859                 /* we want rbac roles to have precedence over any other
 860                  * permission or capability checks
 861                  */
 862                 if (!uc->uc_rbac_file_perms ||
 863                     ((uc->uc_fsuid != oattr->la_uid ||
 864                       (la->la_gid != oattr->la_gid &&
 865                        !lustre_in_group_p(uc, la->la_gid))) &&
 866                      !cap_raised(uc->uc_cap, CAP_CHOWN)))
 867                         RETURN(-EPERM);
 868
 869                 /* Likewise, if the user or group of a non-directory
 870                  * has been changed by a non-root user, remove the
 871                  * setgid bit UNLESS there is no group execute bit
 872                  * (this would be a file marked for mandatory
 873                  * locking).  19981026 David C Niemi <niemi@tux.org>
 874                  *
 875                  * Removed the fsuid check (see the comment above) --
 876                  * 19990830 SD. */
 877                 if (((oattr->la_mode & (S_ISGID | S_IXGRP)) ==
 878                     (S_ISGID | S_IXGRP)) && !S_ISDIR(oattr->la_mode)) {
 879                         la->la_mode &= ~S_ISGID;
 880                         la->la_valid |= LA_MODE;
 881                 }
 882         }
 883
 884         if (la->la_valid & (LA_SIZE | LA_BLOCKS)) {
 885                 if (!((flags & MDS_OWNEROVERRIDE) &&
 886                       (uc->uc_fsuid == oattr->la_uid)) &&
 887                     !(flags & MDS_PERM_BYPASS)) {
 888                         rc = mdd_permission_internal(env, obj, oattr,
 889                                                      MAY_WRITE);
 890                         if (rc != 0)
 891                                 RETURN(rc);
 892                 }
 893         }
 894
 895         if (la->la_valid & LA_CTIME) {
 896                 /**
 897                  * The pure setattr, it has the priority over what is
 898                  * already set, do not drop it if ctime is equal.
 899                  */
 900                 if (la->la_ctime < oattr->la_ctime)
 901                         la->la_valid &= ~(LA_ATIME | LA_MTIME | LA_CTIME);
 902         }
 903
 904         RETURN(0);
 905 }
 906
 907 static int mdd_changelog_data_store_by_fid(const struct lu_env *env,
 908                                            struct mdd_device *mdd,
 909                                            enum changelog_rec_type type,
 910                                            enum changelog_rec_flags clf_flags,
 911                                            const struct lu_fid *fid,
 912                                            const struct lu_fid *pfid,
 913                                            const char *xattr_name,
 914                                            struct thandle *handle)
 915 {
 916         const struct lu_ucred *uc = lu_ucred(env);
 917         enum changelog_rec_extra_flags xflags = CLFE_INVALID;
 918         struct llog_changelog_rec *rec;
 919         struct lu_buf *buf;
 920         int reclen;
 921         int rc;
 922
 923         clf_flags = (clf_flags & CLF_FLAGMASK) | CLF_VERSION | CLF_EXTRA_FLAGS;
 924
 925         if (uc) {
 926                 if (uc->uc_jobid[0] != '\0')
 927                         clf_flags |= CLF_JOBID;
 928                 xflags |= CLFE_UIDGID;
 929                 xflags |= CLFE_NID;
 930         }
 931         if (type == CL_OPEN || type == CL_DN_OPEN)
 932                 xflags |= CLFE_OPEN;
 933         if (type == CL_SETXATTR || type == CL_GETXATTR)
 934                 xflags |= CLFE_XATTR;
 935
 936         reclen = llog_data_len(LLOG_CHANGELOG_HDR_SZ +
 937                                changelog_rec_offset(clf_flags & CLF_SUPPORTED,
 938                                                     xflags & CLFE_SUPPORTED));
 939         buf = lu_buf_check_and_alloc(&mdd_env_info(env)->mdi_chlg_buf, reclen);
 940         if (buf->lb_buf == NULL)
 941                 RETURN(-ENOMEM);
 942         rec = buf->lb_buf;
 943
 944         rec->cr_hdr.lrh_len = reclen;
 945         rec->cr.cr_flags = clf_flags;
 946         rec->cr.cr_type = (__u32)type;
 947         rec->cr.cr_tfid = *fid;
 948         if (pfid)
 949                 rec->cr.cr_pfid = *pfid;
 950         rec->cr.cr_namelen = 0;
 951
 952         if (clf_flags & CLF_JOBID)
 953                 mdd_changelog_rec_ext_jobid(&rec->cr, uc->uc_jobid);
 954
 955         if (clf_flags & CLF_EXTRA_FLAGS) {
 956                 mdd_changelog_rec_ext_extra_flags(&rec->cr, xflags);
 957                 if (xflags & CLFE_UIDGID)
 958                         mdd_changelog_rec_extra_uidgid(&rec->cr,
 959                                                        uc->uc_uid, uc->uc_gid);
 960                 if (xflags & CLFE_NID)
 961                         mdd_changelog_rec_extra_nid(&rec->cr, uc->uc_nid);
 962                 if (xflags & CLFE_OPEN)
 963                         mdd_changelog_rec_extra_omode(&rec->cr, clf_flags);
 964                 if (xflags & CLFE_XATTR) {
 965                         if (xattr_name == NULL)
 966                                 RETURN(-EINVAL);
 967                         mdd_changelog_rec_extra_xattr(&rec->cr, xattr_name);
 968                 }
 969         }
 970
 971         rc = mdd_changelog_store(env, mdd, rec, handle);
 972         RETURN(rc);
 973 }
 974
 975
 976 /** Store a data change changelog record
 977  * If this fails, we must fail the whole transaction; we don't
 978  * want the change to commit without the log entry.
 979  * \param mdd_obj - mdd_object of change
 980  * \param handle - transaction handle
 981  * \param pfid - parent FID for CL_MTIME changelogs
 982  */
 983 int mdd_changelog_data_store(const struct lu_env *env, struct mdd_device *mdd,
 984                              enum changelog_rec_type type,
 985                              enum changelog_rec_flags clf_flags,
 986                              struct mdd_object *mdd_obj, struct thandle *handle,
 987                              const struct lu_fid *pfid)
 988 {
 989         int                              rc;
 990
 991         LASSERT(mdd_obj != NULL);
 992         LASSERT(handle != NULL);
 993
 994         if (!mdd_changelog_enabled(env, mdd, type))
 995                 RETURN(0);
 996
 997         if (mdd_is_volatile_obj(mdd_obj))
 998                 RETURN(0);
 999
1000         if ((type >= CL_MTIME) && (type <= CL_ATIME) &&
1001             ktime_before(mdd->mdd_cl.mc_starttime, mdd_obj->mod_cltime)) {
1002                 /* Don't need multiple updates in this log */
1003                 /* Don't check under lock - no big deal if we get an extra
1004                    entry */
1005                 RETURN(0);
1006         }
1007
1008         rc = mdd_changelog_data_store_by_fid(env, mdd, type, clf_flags,
1009                                              mdd_object_fid(mdd_obj), pfid,
1010                                              NULL, handle);
1011         if (rc == 0)
1012                 mdd_obj->mod_cltime = ktime_get();
1013
1014         RETURN(rc);
1015 }
1016
1017 int mdd_changelog_data_store_xattr(const struct lu_env *env,
1018                                    struct mdd_device *mdd,
1019                                    enum changelog_rec_type type,
1020                                    enum changelog_rec_flags clf_flags,
1021                                    struct mdd_object *mdd_obj,
1022                                    const char *xattr_name,
1023                                    struct thandle *handle)
1024 {
1025         int rc;
1026
1027         LASSERT(mdd_obj != NULL);
1028         LASSERT(handle != NULL);
1029
1030         if (!mdd_changelog_enabled(env, mdd, type))
1031                 RETURN(0);
1032
1033         if (mdd_is_volatile_obj(mdd_obj))
1034                 RETURN(0);
1035
1036         if ((type >= CL_MTIME) && (type <= CL_ATIME) &&
1037             ktime_before(mdd->mdd_cl.mc_starttime, mdd_obj->mod_cltime)) {
1038                 /* Don't need multiple updates in this log */
1039                 /* Don't check under lock - no big deal if we get an extra
1040                  * entry
1041                  */
1042                 RETURN(0);
1043         }
1044
1045         rc = mdd_changelog_data_store_by_fid(env, mdd, type, clf_flags,
1046                                              mdd_object_fid(mdd_obj), NULL,
1047                                              xattr_name, handle);
1048         if (rc == 0)
1049                 mdd_obj->mod_cltime = ktime_get();
1050
1051         RETURN(rc);
1052 }
1053
1054 /* Only the bottom CLF_FLAGMASK bits of @flags are stored in the record,
1055  * except for open flags have a dedicated record to store 32 bits of flags.
1056  */
1057 static int mdd_changelog(const struct lu_env *env, enum changelog_rec_type type,
1058                          enum changelog_rec_flags clf_flags,
1059                          struct md_device *m, const struct lu_fid *fid)
1060 {
1061         struct thandle *handle;
1062         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
1063         int rc;
1064         ENTRY;
1065
1066         LASSERT(fid != NULL);
1067
1068         /* We'll check this again below, but we check now before we
1069          * start a transaction. */
1070         if (!mdd_changelog_enabled(env, mdd, type))
1071                 RETURN(0);
1072
1073         handle = mdd_trans_create(env, mdd);
1074         if (IS_ERR(handle))
1075                 RETURN(PTR_ERR(handle));
1076
1077         rc = mdd_declare_changelog_store(env, mdd, type, NULL, NULL, handle);
1078         if (rc)
1079                 GOTO(stop, rc);
1080
1081         rc = mdd_trans_start(env, mdd, handle);
1082         if (rc)
1083                 GOTO(stop, rc);
1084
1085         /* note we only store the low CLF_FLAGMASK bits of la_valid */
1086         rc = mdd_changelog_data_store_by_fid(env, mdd, type,
1087                                              clf_flags & CLF_FLAGMASK,
1088                                              fid, NULL, NULL, handle);
1089
1090 stop:
1091         rc = mdd_trans_stop(env, mdd, rc, handle);
1092
1093         RETURN(rc);
1094 }
1095
1096 /**
1097  * Save LMA extended attributes with data from \a ma.
1098  *
1099  * HSM and Size-On-MDS data will be extracted from \ma if they are valid, if
1100  * not, LMA EA will be first read from disk, modified and write back.
1101  *
1102  */
1103 /* Precedence for choosing record type when multiple
1104  * attributes change: setattr > mtime > ctime > atime
1105  * (ctime changes when mtime does, plus chmod/chown.
1106  * atime and ctime are independent.) */
1107 static int mdd_attr_set_changelog(const struct lu_env *env,
1108                                   struct md_object *obj, struct thandle *handle,
1109                                   const struct lu_fid *pfid, __u64 valid)
1110 {
1111         struct mdd_device *mdd = mdo2mdd(obj);
1112         int bits, type = 0;
1113
1114         bits =  (valid & LA_SIZE)  ? BIT(CL_TRUNC) : 0;
1115         bits |= (valid & ~(LA_CTIME|LA_MTIME|LA_ATIME)) ? BIT(CL_SETATTR) : 0;
1116         bits |= (valid & LA_MTIME) ? BIT(CL_MTIME) : 0;
1117         bits |= (valid & LA_CTIME) ? BIT(CL_CTIME) : 0;
1118         bits |= (valid & LA_ATIME) ? BIT(CL_ATIME) : 0;
1119         bits = bits & mdd->mdd_cl.mc_current_mask;
1120         /* This is an implementation limit rather than a protocol limit */
1121         BUILD_BUG_ON(CL_LAST > sizeof(int) * 8);
1122         if (bits == 0)
1123                 return 0;
1124
1125         /* The record type is the lowest non-masked set bit */
1126         type = __ffs(bits);
1127
1128         /* only the low CLF_FLAGMASK bits of la_valid are stored */
1129         return mdd_changelog_data_store(env, mdd, type, valid & CLF_FLAGMASK,
1130                                         md2mdd_obj(obj), handle, pfid);
1131 }
1132
1133 static int mdd_declare_attr_set(const struct lu_env *env,
1134                                 struct mdd_device *mdd,
1135                                 struct mdd_object *obj,
1136                                 const struct lu_attr *attr,
1137                                 struct thandle *handle)
1138 {
1139         int rc;
1140
1141         rc = mdo_declare_attr_set(env, obj, attr, handle);
1142         if (rc)
1143                 return rc;
1144
1145 #ifdef CONFIG_LUSTRE_FS_POSIX_ACL
1146         if (attr->la_valid & LA_MODE) {
1147                 mdd_read_lock(env, obj, DT_TGT_CHILD);
1148                 rc = mdo_xattr_get(env, obj, &LU_BUF_NULL,
1149                                    XATTR_NAME_ACL_ACCESS);
1150                 mdd_read_unlock(env, obj);
1151                 if (rc == -EOPNOTSUPP || rc == -ENODATA)
1152                         rc = 0;
1153                 else if (rc < 0)
1154                         return rc;
1155
1156                 if (rc != 0) {
1157                         struct lu_buf *buf = mdd_buf_get(env, NULL, rc);
1158                         rc = mdo_declare_xattr_set(env, obj, buf,
1159                                                    XATTR_NAME_ACL_ACCESS, 0,
1160                                                    handle);
1161                         if (rc)
1162                                 return rc;
1163                 }
1164         }
1165 #endif
1166
1167         rc = mdd_declare_changelog_store(env, mdd, CL_SETXATTR, NULL, NULL,
1168                                          handle);
1169         return rc;
1170 }
1171
1172 /*
1173  * LU-3671
1174  * LU-7239
1175  *
1176  * permission changes may require sync operation, to mitigate performance
1177  * impact, only do this for dir and when permission is reduced.
1178  *
1179  * For regular files, version is updated with permission change (see VBR), async
1180  * permission won't cause any issue, while missing permission change on
1181  * directory may affect accessibility of other objects after recovery.
1182  */
1183 static inline bool permission_needs_sync(const struct lu_attr *old,
1184                                          const struct lu_attr *new)
1185 {
1186         if (!S_ISDIR(old->la_mode))
1187                 return false;
1188
1189         if (new->la_valid & LA_UID && old->la_uid != new->la_uid)
1190                 return true;
1191
1192         if (new->la_valid & LA_GID && old->la_gid != new->la_gid)
1193                 return true;
1194
1195         if (new->la_valid & LA_MODE) {
1196                 /* turned on sticky bit */
1197                 if (!(old->la_mode & S_ISVTX) && (new->la_mode & S_ISVTX))
1198                         return true;
1199
1200                 /* set-GID has no impact on what is allowed, not checked */
1201
1202                 /* turned off setuid bit, or one of rwx for someone */
1203                 if (((new->la_mode & old->la_mode) & (0777 | S_ISUID)) !=
1204                      (old->la_mode & (0777 | S_ISUID)))
1205                         return true;
1206         }
1207
1208         return false;
1209 }
1210
1211 static inline __u64 mdd_lmm_dom_size(void *buf)
1212 {
1213         struct lov_mds_md *lmm = buf;
1214         struct lov_comp_md_v1 *comp_v1;
1215         struct lov_mds_md *v1;
1216         __u32 off;
1217
1218         if (lmm == NULL)
1219                 return 0;
1220
1221         if (le32_to_cpu(lmm->lmm_magic) != LOV_MAGIC_COMP_V1)
1222                 return 0;
1223
1224         comp_v1 = (struct lov_comp_md_v1 *)lmm;
1225         off = le32_to_cpu(comp_v1->lcm_entries[0].lcme_offset);
1226         v1 = (struct lov_mds_md *)((char *)comp_v1 + off);
1227
1228         /* DoM entry is the first entry always */
1229         if (lov_pattern(le32_to_cpu(v1->lmm_pattern)) & LOV_PATTERN_MDT)
1230                 return le64_to_cpu(comp_v1->lcm_entries[0].lcme_extent.e_end);
1231
1232         return 0;
1233 }
1234
1235 /* set attr and LOV EA at once, return updated attr */
1236 int mdd_attr_set(const struct lu_env *env, struct md_object *obj,
1237                  const struct md_attr *ma)
1238 {
1239         struct mdd_object *mdd_obj = md2mdd_obj(obj);
1240         struct mdd_device *mdd = mdo2mdd(obj);
1241         struct thandle *handle = NULL;
1242         struct lu_attr *la_copy = &mdd_env_info(env)->mdi_la_for_fix;
1243         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
1244         const struct lu_attr *la = &ma->ma_attr;
1245         struct lu_ucred  *uc;
1246         struct lquota_id_info qi;
1247         bool quota_reserved = false;
1248         bool chrgrp_by_unprivileged_user = false;
1249         int rc;
1250         ENTRY;
1251
1252         /* we do not use ->attr_set() for LOV/HSM EA any more */
1253         LASSERT((ma->ma_valid & MA_LOV) == 0);
1254         LASSERT((ma->ma_valid & MA_HSM) == 0);
1255
1256         rc = mdd_la_get(env, mdd_obj, attr);
1257         if (rc)
1258                 RETURN(rc);
1259
1260         *la_copy = ma->ma_attr;
1261         rc = mdd_fix_attr(env, mdd_obj, attr, la_copy, ma);
1262         if (rc)
1263                 RETURN(rc);
1264
1265         /* no need to setattr anymore */
1266         if (la_copy->la_valid == 0) {
1267                 CDEBUG(D_INODE,
1268                        "%s: no valid attribute on "DFID", previous was %#llx\n",
1269                        mdd_obj_dev_name(mdd_obj),
1270                        PFID(mdd_object_fid(mdd_obj)), la->la_valid);
1271
1272                 RETURN(0);
1273         }
1274
1275         /* If an unprivileged user changes group of some file,
1276          * the setattr operation will be processed synchronously to
1277          * honor the quota limit of the corresponding group. see LU-5152 */
1278         uc = lu_ucred_check(env);
1279         memset(&qi, 0, sizeof(qi));
1280         if (S_ISREG(attr->la_mode) && la->la_valid & LA_GID &&
1281             la->la_gid != attr->la_gid && uc != NULL && uc->uc_fsuid != 0) {
1282                 CDEBUG(D_QUOTA, "%s: reserve quota for changing group: gid=%u size=%llu\n",
1283                        mdd2obd_dev(mdd)->obd_name, la->la_gid, la->la_size);
1284
1285                 if (la->la_valid & LA_BLOCKS)
1286                         qi.lqi_space = la->la_blocks << 9;
1287                 else if (la->la_valid & LA_SIZE)
1288                         qi.lqi_space = la->la_size;
1289                 /* use local attr gotten above */
1290                 else if (attr->la_valid & LA_BLOCKS)
1291                         qi.lqi_space = attr->la_blocks << 9;
1292                 else if (attr->la_valid & LA_SIZE)
1293                         qi.lqi_space = attr->la_size;
1294
1295                 if (qi.lqi_space > 0) {
1296                         qi.lqi_id.qid_gid = la->la_gid;
1297                         qi.lqi_type = GRPQUOTA;
1298                         qi.lqi_space = toqb(qi.lqi_space);
1299                         qi.lqi_is_blk = true;
1300                         rc = dt_reserve_or_free_quota(env, mdd->mdd_bottom,
1301                                                       &qi);
1302
1303                         if (rc) {
1304                                 CDEBUG(D_QUOTA, "%s: failed to reserve quota for gid %d size %llu\n",
1305                                        mdd2obd_dev(mdd)->obd_name,
1306                                        la->la_gid, qi.lqi_space);
1307
1308                                 GOTO(out, rc);
1309                         }
1310
1311                         quota_reserved = true;
1312                         la_copy->la_valid |= LA_FLAGS;
1313                 }
1314
1315                 chrgrp_by_unprivileged_user = true;
1316
1317                 /* Flush the possible existing client setattr requests to OSTs
1318                  * to keep the order with the current setattr operation that
1319                  * will be sent directly to OSTs. see LU-5152 */
1320                 /* LU-11303 disable sync as this is too heavyweight.
1321                  * This should be replaced with a sync only for the object
1322                  * being modified here, not the whole filesystem.
1323                 rc = dt_sync(env, mdd->mdd_child);
1324                 if (rc)
1325                         GOTO(out, rc);
1326                  */
1327         }
1328
1329         handle = mdd_trans_create(env, mdd);
1330         if (IS_ERR(handle)) {
1331                 rc = PTR_ERR(handle);
1332                 handle = NULL;
1333
1334                 GOTO(out, rc);
1335         }
1336
1337         rc = mdd_declare_attr_set(env, mdd, mdd_obj, la_copy, handle);
1338         if (rc)
1339                 GOTO(out, rc);
1340
1341         rc = mdd_trans_start(env, mdd, handle);
1342         if (rc)
1343                 GOTO(out, rc);
1344
1345         if (!chrgrp_by_unprivileged_user && mdd->mdd_sync_permission &&
1346             permission_needs_sync(attr, la))
1347                 handle->th_sync = 1;
1348
1349         if (la->la_valid & (LA_MTIME | LA_CTIME))
1350                 CDEBUG(D_INODE, "setting mtime %llu, ctime %llu\n",
1351                        la->la_mtime, la->la_ctime);
1352
1353         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
1354
1355         /* LU-10509: setattr of LA_SIZE should be skipped case of DOM,
1356          * otherwise following truncate will do nothing and truncated
1357          * data may be read again. This is a quick fix until LU-11033
1358          * will be resolved.
1359          */
1360         if (la_copy->la_valid & LA_SIZE) {
1361                 struct lu_buf *lov_buf = mdd_buf_get(env, NULL, 0);
1362
1363                 rc = mdd_stripe_get(env, mdd_obj, lov_buf, XATTR_NAME_LOV);
1364                 if (rc) {
1365                         rc = 0;
1366                 } else {
1367                         if (mdd_lmm_dom_size(lov_buf->lb_buf) > 0)
1368                                 la_copy->la_valid &= ~LA_SIZE;
1369                         lu_buf_free(lov_buf);
1370                 }
1371         }
1372
1373         if (la_copy->la_valid) {
1374                 rc = mdd_attr_set_internal(env, mdd_obj, la_copy, handle, 1);
1375
1376                 if (rc == -EDQUOT && la_copy->la_flags & LUSTRE_SET_SYNC_FL) {
1377                         /* rollback to the original gid */
1378                         la_copy->la_flags &= ~LUSTRE_SET_SYNC_FL;
1379                         la_copy->la_gid = attr->la_gid;
1380                         mdd_attr_set_internal(env, mdd_obj, la_copy, handle, 1);
1381                 }
1382         }
1383         mdd_write_unlock(env, mdd_obj);
1384
1385 out:
1386         if (rc == 0)
1387                 rc = mdd_attr_set_changelog(env, obj, handle, &ma->ma_pfid,
1388                                             la_copy->la_valid);
1389
1390         if (rc == 0 && quota_reserved) {
1391                 struct thandle *sub_th;
1392
1393                 sub_th = thandle_get_sub_by_dt(env, handle, mdd->mdd_bottom);
1394                 if (unlikely(IS_ERR(sub_th))) {
1395                         qi.lqi_space *= -1;
1396                         dt_reserve_or_free_quota(env, mdd->mdd_bottom, &qi);
1397                 } else {
1398                         sub_th->th_reserved_quota = qi;
1399                 }
1400         } else if (quota_reserved) {
1401                 qi.lqi_space *= -1;
1402                 dt_reserve_or_free_quota(env, mdd->mdd_bottom, &qi);
1403         }
1404
1405         if (handle != NULL)
1406                 rc = mdd_trans_stop(env, mdd, rc, handle);
1407
1408         return rc;
1409 }
1410
1411 static int mdd_xattr_sanity_check(const struct lu_env *env,
1412                                   struct mdd_object *obj,
1413                                   const struct lu_attr *attr,
1414                                   const char *name)
1415 {
1416         struct lu_ucred *uc     = lu_ucred_assert(env);
1417         ENTRY;
1418
1419         if (attr->la_flags & (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL))
1420                 RETURN(-EPERM);
1421
1422         if (strncmp(XATTR_USER_PREFIX, name,
1423                     sizeof(XATTR_USER_PREFIX) - 1) == 0) {
1424                 /* For sticky directories, only the owner and privileged user
1425                  * can write attributes. */
1426                 if (S_ISDIR(attr->la_mode) && (attr->la_mode & S_ISVTX) &&
1427                     (uc->uc_fsuid != attr->la_uid) &&
1428                     !cap_raised(uc->uc_cap, CAP_FOWNER))
1429                         RETURN(-EPERM);
1430         } else if (strcmp(name, XATTR_NAME_SOM) != 0 &&
1431                    (uc->uc_fsuid != attr->la_uid) &&
1432                    !cap_raised(uc->uc_cap, CAP_FOWNER)) {
1433                 RETURN(-EPERM);
1434         }
1435
1436         RETURN(0);
1437 }
1438
1439 /**
1440  * Check if a string begins with a given prefix.
1441  *
1442  * \param str     String to check
1443  * \param prefix  Substring to check at the beginning of \a str
1444  * \return true/false whether the condition is verified.
1445  */
1446 static inline bool has_prefix(const char *str, const char *prefix)
1447 {
1448         return strncmp(prefix, str, strlen(prefix)) == 0;
1449 }
1450
1451 /**
1452  * Indicate the kind of changelog to store (if any) for a xattr set/del.
1453  *
1454  * \param[in]  xattr_name  Full extended attribute name.
1455  *
1456  * \return type of changelog to use, or CL_NONE if no changelog is to be emitted
1457  */
1458 static enum changelog_rec_type
1459 mdd_xattr_changelog_type(const struct lu_env *env, struct mdd_device *mdd,
1460                          const char *xattr_name)
1461 {
1462         /* Layout changes systematically recorded */
1463         if (strcmp(XATTR_NAME_LOV, xattr_name) == 0 ||
1464             strcmp(XATTR_LUSTRE_LOV, xattr_name) == 0 ||
1465             allowed_lustre_lov(xattr_name))
1466                 return CL_LAYOUT;
1467
1468         /* HSM information changes systematically recorded */
1469         if (strcmp(XATTR_NAME_HSM, xattr_name) == 0)
1470                 return CL_HSM;
1471
1472         /* Avoid logging SOM xattr for every file */
1473         if (strcmp(XATTR_NAME_SOM, xattr_name) == 0)
1474                 return CL_NONE;
1475
1476         if (has_prefix(xattr_name, XATTR_USER_PREFIX) ||
1477             has_prefix(xattr_name, XATTR_NAME_POSIX_ACL_ACCESS) ||
1478             has_prefix(xattr_name, XATTR_NAME_POSIX_ACL_DEFAULT) ||
1479             has_prefix(xattr_name, XATTR_TRUSTED_PREFIX) ||
1480             has_prefix(xattr_name, XATTR_SECURITY_PREFIX))
1481                 return CL_SETXATTR;
1482
1483         return CL_NONE;
1484 }
1485
1486 static int mdd_declare_xattr_set(const struct lu_env *env,
1487                                  struct mdd_device *mdd,
1488                                  struct mdd_object *obj,
1489                                  const struct lu_buf *buf,
1490                                  const char *name,
1491                                  int fl, struct thandle *handle)
1492 {
1493         enum changelog_rec_type type;
1494         int rc;
1495
1496         rc = mdo_declare_xattr_set(env, obj, buf, name, fl, handle);
1497         if (rc)
1498                 return rc;
1499
1500         type = mdd_xattr_changelog_type(env, mdd, name);
1501         if (type < 0)
1502                 return 0; /* no changelog to store */
1503
1504         return mdd_declare_changelog_store(env, mdd, type, NULL, NULL, handle);
1505 }
1506
1507 /*
1508  * Compare current and future data of HSM EA and add a changelog if needed.
1509  *
1510  * Caller should have write-locked \param obj.
1511  *
1512  * \param buf - Future HSM EA content.
1513  * \retval 0 if no changelog is needed or changelog was added properly.
1514  * \retval -ve errno if there was a problem
1515  */
1516 static int mdd_hsm_update_locked(const struct lu_env *env,
1517                                  struct md_object *obj,
1518                                  const struct lu_buf *buf,
1519                                  struct thandle *handle,
1520                                  enum changelog_rec_flags *clf_flags)
1521 {
1522         struct mdd_thread_info *info = mdd_env_info(env);
1523         struct mdd_object *mdd_obj = md2mdd_obj(obj);
1524         struct lu_buf *current_buf;
1525         struct md_hsm *current_mh;
1526         struct md_hsm *new_mh;
1527         int rc;
1528
1529         ENTRY;
1530         OBD_ALLOC_PTR(current_mh);
1531         if (current_mh == NULL)
1532                 RETURN(-ENOMEM);
1533
1534         /* Read HSM attrs from disk */
1535         current_buf = lu_buf_check_and_alloc(&info->mdi_xattr_buf,
1536                         min_t(unsigned int,
1537                               mdd_obj2mdd_dev(mdd_obj)->mdd_dt_conf.ddp_max_ea_size,
1538                             XATTR_SIZE_MAX));
1539         rc = mdo_xattr_get(env, mdd_obj, current_buf, XATTR_NAME_HSM);
1540         rc = lustre_buf2hsm(current_buf->lb_buf, rc, current_mh);
1541         if (rc < 0 && rc != -ENODATA)
1542                 GOTO(free, rc);
1543         else if (rc == -ENODATA)
1544                 current_mh->mh_flags = 0;
1545
1546         /* Map future HSM xattr */
1547         OBD_ALLOC_PTR(new_mh);
1548         if (new_mh == NULL)
1549                 GOTO(free, rc = -ENOMEM);
1550         lustre_buf2hsm(buf->lb_buf, buf->lb_len, new_mh);
1551
1552         rc = 0;
1553
1554         /* Flags differ, set flags for the changelog that will be added */
1555         if (current_mh->mh_flags != new_mh->mh_flags) {
1556                 hsm_set_cl_event(clf_flags, HE_STATE);
1557                 if (new_mh->mh_flags & HS_DIRTY)
1558                         hsm_set_cl_flags(clf_flags, CLF_HSM_DIRTY);
1559         }
1560
1561         OBD_FREE_PTR(new_mh);
1562         EXIT;
1563 free:
1564         OBD_FREE_PTR(current_mh);
1565         return rc;
1566 }
1567
1568 static int mdd_object_pfid_replace(const struct lu_env *env,
1569                                    struct mdd_object *o)
1570 {
1571         struct mdd_device *mdd = mdo2mdd(&o->mod_obj);
1572         struct thandle *handle;
1573         int rc;
1574
1575         handle = mdd_trans_create(env, mdd);
1576         if (IS_ERR(handle))
1577                 RETURN(PTR_ERR(handle));
1578
1579         handle->th_complex = 1;
1580
1581         /* it doesn't need to track the PFID update via llog, because LFSCK
1582          * will repair it even it goes wrong */
1583         rc = mdd_declare_xattr_set(env, mdd, o, NULL, XATTR_NAME_FID,
1584                                    0, handle);
1585         if (rc)
1586                 GOTO(out, rc);
1587
1588         rc = mdd_trans_start(env, mdd, handle);
1589         if (rc != 0)
1590                 GOTO(out, rc);
1591
1592         rc = mdo_xattr_set(env, o, NULL, XATTR_NAME_FID, 0, handle);
1593         if (rc)
1594                 GOTO(out, rc);
1595
1596 out:
1597         mdd_trans_stop(env, mdd, rc, handle);
1598         return rc;
1599 }
1600
1601
1602 static int mdd_declare_xattr_del(const struct lu_env *env,
1603                                  struct mdd_device *mdd,
1604                                  struct mdd_object *obj,
1605                                  const char *name,
1606                                  struct thandle *handle);
1607
1608 static int mdd_xattr_del(const struct lu_env *env, struct md_object *obj,
1609                          const char *name);
1610
1611 static int mdd_xattr_merge(const struct lu_env *env, struct md_object *md_obj,
1612                            struct md_object *md_vic)
1613 {
1614         struct mdd_device *mdd = mdo2mdd(md_obj);
1615         struct mdd_object *obj = md2mdd_obj(md_obj);
1616         struct mdd_object *vic = md2mdd_obj(md_vic);
1617         struct lu_buf *buf;
1618         struct lu_buf *buf_vic;
1619         struct lov_mds_md *lmm;
1620         struct thandle *handle;
1621         struct lu_attr *cattr = MDD_ENV_VAR(env, cattr);
1622         struct lu_attr *tattr = MDD_ENV_VAR(env, tattr);
1623         bool is_same_projid;
1624         int rc;
1625         int retried = 0;
1626
1627         ENTRY;
1628
1629         rc = mdd_la_get(env, obj, cattr);
1630         if (rc)
1631                 RETURN(rc);
1632
1633         rc = mdd_la_get(env, vic, tattr);
1634         if (rc)
1635                 RETURN(rc);
1636
1637         is_same_projid = cattr->la_projid == tattr->la_projid;
1638
1639         if (lu_fid_cmp(mdd_object_fid(obj), mdd_object_fid(vic)) == 0)
1640                 RETURN(-EPERM);
1641 retry:
1642         handle = mdd_trans_create(env, mdd);
1643         if (IS_ERR(handle))
1644                 RETURN(PTR_ERR(handle));
1645
1646         buf = &mdd_env_info(env)->mdi_buf[0];
1647         buf_vic = &mdd_env_info(env)->mdi_buf[1];
1648
1649         if (!is_same_projid) {
1650                 rc = mdd_declare_attr_set(env, mdd, vic, cattr, handle);
1651                 if (rc)
1652                         GOTO(stop, rc);
1653         }
1654
1655         /* get EA of victim file */
1656         memset(buf_vic, 0, sizeof(*buf_vic));
1657         rc = mdd_stripe_get(env, vic, buf_vic, XATTR_NAME_LOV);
1658         if (rc < 0) {
1659                 if (rc == -ENODATA)
1660                         rc = 0;
1661                 GOTO(stop, rc);
1662         }
1663
1664         /* parse the layout of victim file */
1665         lmm = buf_vic->lb_buf;
1666         if (le32_to_cpu(lmm->lmm_magic) != LOV_MAGIC_COMP_V1)
1667                 GOTO(stop, rc = -EINVAL);
1668
1669         /* save EA of target file for restore */
1670         memset(buf, 0, sizeof(*buf));
1671         rc = mdd_stripe_get(env, obj, buf, XATTR_NAME_LOV);
1672         if (rc < 0)
1673                 GOTO(stop, rc);
1674
1675         /* Get rid of the layout from victim object */
1676         rc = mdd_declare_xattr_del(env, mdd, vic, XATTR_NAME_LOV, handle);
1677         if (rc)
1678                 GOTO(stop, rc);
1679
1680         rc = mdd_declare_xattr_set(env, mdd, obj, buf_vic, XATTR_NAME_LOV,
1681                                    LU_XATTR_MERGE, handle);
1682         if (rc)
1683                 GOTO(stop, rc);
1684
1685         rc = mdd_trans_start(env, mdd, handle);
1686         if (rc != 0)
1687                 GOTO(stop, rc);
1688
1689         rc = mdd_write_lock_two_objects(env, obj, vic);
1690         if (rc)
1691                 GOTO(stop, rc);
1692
1693         if (!is_same_projid) {
1694                 cattr->la_valid = LA_PROJID;
1695                 rc = mdd_attr_set_internal(env, vic, cattr, handle, 0);
1696                 if (rc)
1697                         GOTO(out, rc);
1698         }
1699
1700         rc = mdo_xattr_set(env, obj, buf_vic, XATTR_NAME_LOV, LU_XATTR_MERGE,
1701                            handle);
1702         if (rc)
1703                 GOTO(out, rc);
1704
1705         rc = mdo_xattr_del(env, vic, XATTR_NAME_LOV, handle);
1706         if (rc)
1707                 GOTO(out_restore, rc);
1708
1709         (void)mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle,
1710                                        NULL);
1711         (void)mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, vic, handle,
1712                                        NULL);
1713
1714 out_restore:
1715         if (rc) {
1716                 int rc2 = mdo_xattr_set(env, obj, buf, XATTR_NAME_LOV,
1717                                         LU_XATTR_REPLACE, handle);
1718                 if (rc2)
1719                         CERROR("%s: failed rollback of "DFID" layout: file state unknown: rc = %d\n",
1720                                mdd_obj_dev_name(obj),
1721                                PFID(mdd_object_fid(obj)), rc2);
1722         }
1723
1724 out:
1725         mdd_write_unlock_two_objects(env, obj, vic);
1726 stop:
1727         mdd_trans_stop(env, mdd, rc, handle);
1728         lu_buf_free(buf);
1729         lu_buf_free(buf_vic);
1730
1731         /**
1732          * -EAGAIN means transaction execution phase detect the layout
1733          * has been changed by others.
1734          */
1735         if (!rc)
1736                 (void) mdd_object_pfid_replace(env, obj);
1737         else if (rc == -EAGAIN && retried++ < MAX_TRANS_RETRIED)
1738                 GOTO(retry, retried);
1739
1740         RETURN(rc);
1741 }
1742
1743 /**
1744  * Extract the mirror with specified mirror id, and store the splitted
1745  * mirror layout to @buf.
1746  *
1747  * \param[in] comp_v1   mirrored layout
1748  * \param[in] mirror_id the mirror with mirror_id to be extracted
1749  * \param[out] buf      store the layout excluding the extracted mirror,
1750  *                      caller free the buffer we allocated in this function
1751  * \param[out] buf_vic  store the extracted layout, caller free the buffer
1752  *                      we allocated in this function
1753  *
1754  * \retval      0 on success; < 0 if error happens
1755  */
1756 static int mdd_split_ea(struct lov_comp_md_v1 *comp_v1, __u16 mirror_id,
1757                         struct lu_buf *buf, struct lu_buf *buf_vic)
1758 {
1759         struct lov_comp_md_v1 *comp_rem;
1760         struct lov_comp_md_v1 *comp_vic;
1761         struct lov_comp_md_entry_v1 *entry;
1762         struct lov_comp_md_entry_v1 *entry_rem;
1763         struct lov_comp_md_entry_v1 *entry_vic;
1764         __u16 mirror_cnt;
1765         __u16 comp_cnt, count = 0;
1766         int lmm_size, lmm_size_vic = 0;
1767         int i, j, k;
1768         int offset, offset_rem, offset_vic;
1769
1770         mirror_cnt = le16_to_cpu(comp_v1->lcm_mirror_count) + 1;
1771         /* comp_v1 should contains more than 1 mirror */
1772         if (mirror_cnt <= 1)
1773                 return -EINVAL;
1774         comp_cnt = le16_to_cpu(comp_v1->lcm_entry_count);
1775         lmm_size = le32_to_cpu(comp_v1->lcm_size);
1776
1777         for (i = 0; i < comp_cnt; i++) {
1778                 entry = &comp_v1->lcm_entries[i];
1779                 if (mirror_id_of(le32_to_cpu(entry->lcme_id)) == mirror_id) {
1780                         count++;
1781                         lmm_size_vic += sizeof(*entry);
1782                         lmm_size_vic += le32_to_cpu(entry->lcme_size);
1783                 } else if (count > 0) {
1784                         /* find the specified mirror */
1785                         break;
1786                 }
1787         }
1788
1789         if (count == 0)
1790                 return -EINVAL;
1791
1792         lu_buf_alloc(buf, lmm_size - lmm_size_vic);
1793         if (!buf->lb_buf)
1794                 return -ENOMEM;
1795
1796         lu_buf_alloc(buf_vic, sizeof(*comp_vic) + lmm_size_vic);
1797         if (!buf_vic->lb_buf) {
1798                 lu_buf_free(buf);
1799                 return -ENOMEM;
1800         }
1801
1802         comp_rem = (struct lov_comp_md_v1 *)buf->lb_buf;
1803         comp_vic = (struct lov_comp_md_v1 *)buf_vic->lb_buf;
1804
1805         memcpy(comp_rem, comp_v1, sizeof(*comp_v1));
1806         comp_rem->lcm_mirror_count = cpu_to_le16(mirror_cnt - 2);
1807         comp_rem->lcm_entry_count = cpu_to_le32(comp_cnt - count);
1808         comp_rem->lcm_size = cpu_to_le32(lmm_size - lmm_size_vic);
1809         if (!comp_rem->lcm_mirror_count)
1810                 comp_rem->lcm_flags = cpu_to_le16(LCM_FL_NONE);
1811
1812         memset(comp_vic, 0, sizeof(*comp_v1));
1813         comp_vic->lcm_magic = cpu_to_le32(LOV_MAGIC_COMP_V1);
1814         comp_vic->lcm_mirror_count = 0;
1815         comp_vic->lcm_entry_count = cpu_to_le32(count);
1816         comp_vic->lcm_size = cpu_to_le32(lmm_size_vic + sizeof(*comp_vic));
1817         comp_vic->lcm_flags = cpu_to_le16(LCM_FL_NONE);
1818         comp_vic->lcm_layout_gen = 0;
1819
1820         offset = sizeof(*comp_v1) + sizeof(*entry) * comp_cnt;
1821         offset_rem = sizeof(*comp_rem) +
1822                      sizeof(*entry_rem) * (comp_cnt - count);
1823         offset_vic = sizeof(*comp_vic) + sizeof(*entry_vic) * count;
1824         for (i = j = k = 0; i < comp_cnt; i++) {
1825                 struct lov_mds_md *lmm, *lmm_dst;
1826                 bool vic = false;
1827
1828                 entry = &comp_v1->lcm_entries[i];
1829                 entry_vic = &comp_vic->lcm_entries[j];
1830                 entry_rem = &comp_rem->lcm_entries[k];
1831
1832                 if (mirror_id_of(le32_to_cpu(entry->lcme_id)) == mirror_id)
1833                         vic = true;
1834
1835                 /* copy component entry */
1836                 if (vic) {
1837                         memcpy(entry_vic, entry, sizeof(*entry));
1838                         entry_vic->lcme_flags &= cpu_to_le32(LCME_FL_INIT);
1839                         entry_vic->lcme_offset = cpu_to_le32(offset_vic);
1840                         j++;
1841                 } else {
1842                         memcpy(entry_rem, entry, sizeof(*entry));
1843                         entry_rem->lcme_offset = cpu_to_le32(offset_rem);
1844                         k++;
1845                 }
1846
1847                 lmm = (struct lov_mds_md *)((char *)comp_v1 + offset);
1848                 if (vic)
1849                         lmm_dst = (struct lov_mds_md *)
1850                                         ((char *)comp_vic + offset_vic);
1851                 else
1852                         lmm_dst = (struct lov_mds_md *)
1853                                         ((char *)comp_rem + offset_rem);
1854
1855                 /* copy component entry blob */
1856                 memcpy(lmm_dst, lmm, le32_to_cpu(entry->lcme_size));
1857
1858                 /* blob offset advance */
1859                 offset += le32_to_cpu(entry->lcme_size);
1860                 if (vic)
1861                         offset_vic += le32_to_cpu(entry->lcme_size);
1862                 else
1863                         offset_rem += le32_to_cpu(entry->lcme_size);
1864         }
1865
1866         return 0;
1867 }
1868
1869 static int mdd_xattr_split(const struct lu_env *env, struct md_object *md_obj,
1870                            struct md_rejig_data *mrd)
1871 {
1872         struct mdd_device *mdd = mdo2mdd(md_obj);
1873         struct mdd_object *obj = md2mdd_obj(md_obj);
1874         struct mdd_object *vic = NULL;
1875         struct lu_buf *buf;
1876         struct lu_buf *buf_save;
1877         struct lu_buf *buf_vic;
1878         struct lov_comp_md_v1 *lcm;
1879         struct thandle *handle;
1880         int rc;
1881         bool dom_stripe = false;
1882         int retried = 0;
1883
1884         ENTRY;
1885
1886         /**
1887          * NULL @mrd_obj means mirror deleting, and use NULL vic to indicate
1888          * mirror deleting
1889          */
1890         if (mrd->mrd_obj)
1891                 vic = md2mdd_obj(mrd->mrd_obj);
1892
1893 retry:
1894         buf = &mdd_env_info(env)->mdi_buf[0];
1895         buf_save = &mdd_env_info(env)->mdi_buf[1];
1896         buf_vic = &mdd_env_info(env)->mdi_buf[2];
1897
1898         handle = mdd_trans_create(env, mdd);
1899         if (IS_ERR(handle))
1900                 RETURN(PTR_ERR(handle));
1901
1902         /* get EA of mirrored file */
1903         memset(buf_save, 0, sizeof(*buf));
1904         rc = mdd_stripe_get(env, obj, buf_save, XATTR_NAME_LOV);
1905         if (rc < 0)
1906                 GOTO(stop, rc);
1907
1908         lcm = buf_save->lb_buf;
1909         if (le32_to_cpu(lcm->lcm_magic) != LOV_MAGIC_COMP_V1)
1910                 GOTO(stop, rc = -EINVAL);
1911
1912         /**
1913          * Extract the mirror with specified mirror id, and store the splitted
1914          * mirror layout to the victim buffer.
1915          */
1916         memset(buf, 0, sizeof(*buf));
1917         memset(buf_vic, 0, sizeof(*buf_vic));
1918         rc = mdd_split_ea(lcm, mrd->mrd_mirror_id, buf, buf_vic);
1919         if (rc < 0)
1920                 GOTO(stop, rc);
1921         /**
1922          * @buf stores layout w/o the specified mirror, @buf_vic stores the
1923          * splitted mirror
1924          */
1925
1926         dom_stripe = mdd_lmm_dom_size(buf_vic->lb_buf) > 0;
1927
1928         if (vic) {
1929                 /**
1930                  * non delete mirror split
1931                  *
1932                  * declare obj set remaining layout in @buf, will set obj's
1933                  * in-memory layout
1934                  */
1935                 rc = mdd_declare_xattr_set(env, mdd, obj, buf, XATTR_NAME_LOV,
1936                                            LU_XATTR_SPLIT, handle);
1937                 if (rc)
1938                         GOTO(stop, rc);
1939
1940                 /* declare vic set splitted layout in @buf_vic */
1941                 rc = mdd_declare_xattr_set(env, mdd, vic, buf_vic,
1942                                            XATTR_NAME_LOV, LU_XATTR_SPLIT,
1943                                            handle);
1944                 if (rc)
1945                         GOTO(stop, rc);
1946         } else {
1947                 /**
1948                  * declare delete mirror objects in @buf_vic, will change obj's
1949                  * in-memory layout
1950                  */
1951                 rc = mdd_declare_xattr_set(env, mdd, obj, buf_vic,
1952                                            XATTR_NAME_LOV, LU_XATTR_PURGE,
1953                                            handle);
1954                 if (rc)
1955                         GOTO(stop, rc);
1956
1957                 /* declare obj set remaining layout in @buf */
1958                 rc = mdd_declare_xattr_set(env, mdd, obj, buf,
1959                                            XATTR_NAME_LOV, LU_XATTR_SPLIT,
1960                                            handle);
1961                 if (rc)
1962                         GOTO(stop, rc);
1963         }
1964
1965         rc = mdd_trans_start(env, mdd, handle);
1966         if (rc)
1967                 GOTO(stop, rc);
1968
1969         rc = mdd_write_lock_two_objects(env, obj, vic);
1970         if (rc)
1971                 GOTO(stop, rc);
1972
1973         /* set obj's layout in @buf */
1974         rc = mdo_xattr_set(env, obj, buf, XATTR_NAME_LOV, LU_XATTR_SPLIT,
1975                            handle);
1976         if (rc)
1977                 GOTO(unlock, rc);
1978
1979         if (vic) {
1980                 /* set vic's layout in @buf_vic */
1981                 rc = mdo_xattr_set(env, vic, buf_vic, XATTR_NAME_LOV,
1982                                    LU_XATTR_CREATE, handle);
1983                 if (rc)
1984                         GOTO(out_restore, rc);
1985         } else {
1986                 /* delete mirror objects */
1987                 rc = mdo_xattr_set(env, obj, buf_vic, XATTR_NAME_LOV,
1988                                    LU_XATTR_PURGE, handle);
1989                 if (rc)
1990                         GOTO(out_restore, rc);
1991         }
1992
1993         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle,
1994                                       NULL);
1995         if (rc)
1996                 GOTO(out_restore, rc);
1997
1998         if (vic) {
1999                 rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, vic,
2000                                               handle, NULL);
2001                 if (rc)
2002                         GOTO(out_restore, rc);
2003         }
2004
2005 out_restore:
2006         if (rc) {
2007                 /* restore obj's in-memory and on-disk layout */
2008                 int rc2 = mdo_xattr_set(env, obj, buf_save, XATTR_NAME_LOV,
2009                                         LU_XATTR_REPLACE, handle);
2010                 if (rc2)
2011                         CERROR("%s: failed rollback "DFID
2012                                " layout: file state unknown: rc = %d\n",
2013                                mdd_obj_dev_name(obj),
2014                                PFID(mdd_object_fid(obj)), rc);
2015         }
2016
2017 unlock:
2018         mdd_write_unlock_two_objects(env, obj, vic);
2019 stop:
2020         rc = mdd_trans_stop(env, mdd, rc, handle);
2021
2022         /* Truncate local DOM data if all went well */
2023         if (!rc && dom_stripe)
2024                 mdd_dom_fixup(env, mdd, obj, NULL);
2025
2026         lu_buf_free(buf_save);
2027         lu_buf_free(buf);
2028         lu_buf_free(buf_vic);
2029
2030         /**
2031          * -EAGAIN means transaction execution phase detect the layout
2032          * has been changed by others.
2033          */
2034         if (!rc)
2035                 (void) mdd_object_pfid_replace(env, obj);
2036         else if (rc == -EAGAIN && retried++ < MAX_TRANS_RETRIED)
2037                 GOTO(retry, retried);
2038
2039         RETURN(rc);
2040 }
2041
2042 static int mdd_layout_merge_allowed(const struct lu_env *env,
2043                                     struct md_object *target,
2044                                     struct md_object *victim)
2045 {
2046         struct mdd_object *o1 = md2mdd_obj(target);
2047
2048         /* cannot extend directory's LOVEA */
2049         if (S_ISDIR(mdd_object_type(o1))) {
2050                 CERROR("%s: Don't extend directory's LOVEA, just set it.\n",
2051                        mdd_obj_dev_name(o1));
2052                 RETURN(-EISDIR);
2053         }
2054
2055         RETURN(0);
2056 }
2057
2058 /**
2059  * The caller should guarantee to update the object ctime
2060  * after xattr_set if needed.
2061  */
2062 static int mdd_xattr_set(const struct lu_env *env, struct md_object *obj,
2063                          const struct lu_buf *buf, const char *name,
2064                          int fl)
2065 {
2066         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2067         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
2068         struct mdd_device *mdd = mdo2mdd(obj);
2069         struct thandle *handle;
2070         enum changelog_rec_type  cl_type;
2071         enum changelog_rec_flags clf_flags = 0;
2072         int retried = 0;
2073         int rc;
2074
2075         ENTRY;
2076
2077 retry:
2078         rc = mdd_la_get(env, mdd_obj, attr);
2079         if (rc)
2080                 RETURN(rc);
2081
2082         rc = mdd_xattr_sanity_check(env, mdd_obj, attr, name);
2083         if (rc)
2084                 RETURN(rc);
2085
2086         if (strcmp(name, XATTR_LUSTRE_LOV) == 0 &&
2087             (fl == LU_XATTR_MERGE || fl == LU_XATTR_SPLIT)) {
2088                 struct md_rejig_data *mrd = buf->lb_buf;
2089                 struct md_object *victim = mrd->mrd_obj;
2090
2091                 if (buf->lb_len != sizeof(*mrd))
2092                         RETURN(-EINVAL);
2093
2094
2095                 if (fl == LU_XATTR_MERGE) {
2096                         rc = mdd_layout_merge_allowed(env, obj, victim);
2097                         if (rc)
2098                                 RETURN(rc);
2099                         /* merge layout of victim as a mirror of obj's. */
2100                         rc = mdd_xattr_merge(env, obj, victim);
2101                 } else {
2102                         rc = mdd_xattr_split(env, obj, mrd);
2103                 }
2104                 RETURN(rc);
2105         }
2106
2107         if (strcmp(name, XATTR_NAME_ACL_ACCESS) == 0 ||
2108             strcmp(name, XATTR_NAME_ACL_DEFAULT) == 0) {
2109                 struct posix_acl *acl;
2110
2111                 /* user may set empty ACL, which should be treated as removing
2112                  * ACL. */
2113                 acl = posix_acl_from_xattr(&init_user_ns, buf->lb_buf,
2114                                            buf->lb_len);
2115                 if (IS_ERR(acl))
2116                         RETURN(PTR_ERR(acl));
2117                 if (acl == NULL) {
2118                         rc = mdd_xattr_del(env, obj, name);
2119                         RETURN(rc);
2120                 }
2121                 posix_acl_release(acl);
2122         }
2123
2124         if (!strcmp(name, XATTR_NAME_ACL_ACCESS)) {
2125                 rc = mdd_acl_set(env, mdd_obj, attr, buf, fl);
2126                 RETURN(rc);
2127         }
2128
2129         handle = mdd_trans_create(env, mdd);
2130         if (IS_ERR(handle))
2131                 RETURN(PTR_ERR(handle));
2132
2133         rc = mdd_declare_xattr_set(env, mdd, mdd_obj, buf, name, fl, handle);
2134         if (rc)
2135                 GOTO(stop, rc);
2136
2137         rc = mdd_trans_start(env, mdd, handle);
2138         if (rc)
2139                 GOTO(stop, rc);
2140
2141         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
2142
2143         if (strcmp(XATTR_NAME_HSM, name) == 0) {
2144                 rc = mdd_hsm_update_locked(env, obj, buf, handle, &clf_flags);
2145                 if (rc)
2146                         GOTO(out_unlock, rc);
2147         }
2148
2149         rc = mdo_xattr_set(env, mdd_obj, buf, name, fl, handle);
2150 out_unlock:
2151         mdd_write_unlock(env, mdd_obj);
2152         if (rc)
2153                 GOTO(stop, rc);
2154
2155         cl_type = mdd_xattr_changelog_type(env, mdd, name);
2156         if (cl_type != CL_NONE)
2157                 rc = mdd_changelog_data_store_xattr(env, mdd, cl_type,
2158                                                     clf_flags, mdd_obj, name,
2159                                                     handle);
2160
2161 stop:
2162         rc = mdd_trans_stop(env, mdd, rc, handle);
2163
2164         /**
2165          * -EAGAIN means transaction execution phase detect the layout
2166          * has been changed by others.
2167          */
2168         if (rc == -EAGAIN && retried++ < MAX_TRANS_RETRIED)
2169                 GOTO(retry, retried);
2170
2171         RETURN(rc);
2172 }
2173
2174 static int mdd_declare_xattr_del(const struct lu_env *env,
2175                                  struct mdd_device *mdd,
2176                                  struct mdd_object *obj,
2177                                  const char *name,
2178                                  struct thandle *handle)
2179 {
2180         enum changelog_rec_type type;
2181         int rc;
2182
2183         rc = mdo_declare_xattr_del(env, obj, name, handle);
2184         if (rc)
2185                 return rc;
2186
2187         type = mdd_xattr_changelog_type(env, mdd, name);
2188         if (type < 0)
2189                 return 0; /* no changelog to store */
2190
2191         return mdd_declare_changelog_store(env, mdd, type, NULL, NULL, handle);
2192 }
2193
2194 /**
2195  * The caller should guarantee to update the object ctime
2196  * after xattr_set if needed.
2197  */
2198 static int mdd_xattr_del(const struct lu_env *env, struct md_object *obj,
2199                          const char *name)
2200 {
2201         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2202         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
2203         struct mdd_device *mdd = mdo2mdd(obj);
2204         struct thandle *handle;
2205         int rc;
2206         ENTRY;
2207
2208         rc = mdd_la_get(env, mdd_obj, attr);
2209         if (rc)
2210                 RETURN(rc);
2211
2212         rc = mdd_xattr_sanity_check(env, mdd_obj, attr, name);
2213         if (rc)
2214                 RETURN(rc);
2215
2216         handle = mdd_trans_create(env, mdd);
2217         if (IS_ERR(handle))
2218                 RETURN(PTR_ERR(handle));
2219
2220         rc = mdd_declare_xattr_del(env, mdd, mdd_obj, name, handle);
2221         if (rc)
2222                 GOTO(stop, rc);
2223
2224         rc = mdd_trans_start(env, mdd, handle);
2225         if (rc)
2226                 GOTO(stop, rc);
2227
2228         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
2229         rc = mdo_xattr_del(env, mdd_obj, name, handle);
2230         mdd_write_unlock(env, mdd_obj);
2231         if (rc)
2232                 GOTO(stop, rc);
2233
2234         if (mdd_xattr_changelog_type(env, mdd, name) < 0)
2235                 GOTO(stop, rc = 0);
2236
2237         rc = mdd_changelog_data_store_xattr(env, mdd, CL_SETXATTR, 0, mdd_obj,
2238                                             name, handle);
2239
2240         EXIT;
2241 stop:
2242         return mdd_trans_stop(env, mdd, rc, handle);
2243 }
2244
2245 /*
2246  * read lov/lmv EA of an object
2247  * return the lov/lmv EA in an allocated lu_buf
2248  */
2249 int mdd_stripe_get(const struct lu_env *env, struct mdd_object *obj,
2250                    struct lu_buf *lmm_buf, const char *name)
2251 {
2252         struct lu_buf *buf = &mdd_env_info(env)->mdi_big_buf;
2253         int rc;
2254
2255         ENTRY;
2256
2257         if (buf->lb_buf == NULL) {
2258                 buf = lu_buf_check_and_alloc(buf, 4096);
2259                 if (buf->lb_buf == NULL)
2260                         RETURN(-ENOMEM);
2261         }
2262
2263 repeat:
2264         rc = mdo_xattr_get(env, obj, buf, name);
2265         if (rc == -ERANGE) {
2266                 /* mdi_big_buf is allocated but is too small
2267                  * we need to increase it */
2268                 buf = lu_buf_check_and_alloc(&mdd_env_info(env)->mdi_big_buf,
2269                                              buf->lb_len * 2);
2270                 if (buf->lb_buf == NULL)
2271                         RETURN(-ENOMEM);
2272                 goto repeat;
2273         } else if (rc < 0) {
2274                 RETURN(rc);
2275         } else if (rc == 0) {
2276                 RETURN(-ENODATA);
2277         }
2278
2279         lu_buf_alloc(lmm_buf, rc);
2280         if (lmm_buf->lb_buf == NULL)
2281                 RETURN(-ENOMEM);
2282
2283         /*
2284          * we don't use lmm_buf directly, because we don't know xattr size, so
2285          * by using mdi_big_buf we can avoid calling mdo_xattr_get() twice.
2286          */
2287         memcpy(lmm_buf->lb_buf, buf->lb_buf, rc);
2288
2289         RETURN(0);
2290 }
2291
2292 static int emit_changelog_after_swap_layout(const struct lu_env *env,
2293                                             struct thandle *handle,
2294                                             struct mdd_object *o,
2295                                             struct lu_buf *hsm_buf)
2296 {
2297         enum changelog_rec_flags flags = 0;
2298         enum changelog_rec_type type;
2299         enum hsm_states hsm_flags;
2300         struct hsm_attrs *attrs;
2301
2302         attrs = hsm_buf->lb_buf;
2303         hsm_flags = le32_to_cpu(attrs->hsm_flags);
2304
2305         if ((hsm_flags & HS_RELEASED) && !mdd_is_dead_obj(o)) {
2306                 hsm_set_cl_event(&flags, HE_RELEASE);
2307                 type = CL_HSM;
2308         } else {
2309                 type = CL_LAYOUT;
2310         }
2311
2312         return mdd_changelog_data_store(env, mdo2mdd(&o->mod_obj), type,
2313                                         flags, o, handle, NULL);
2314 }
2315
2316 /*
2317  *  check if layout swapping between 2 objects is allowed
2318  *  the rules are:
2319  *  - only normal FIDs or non-system IGIFs
2320  *  - same type of objects
2321  *  - same owner/group (so quotas are still valid) unless this is from HSM
2322  *    release.
2323  */
2324 static int mdd_layout_swap_allowed(const struct lu_env *env,
2325                                    struct mdd_object *o1,
2326                                    const struct lu_attr *attr1,
2327                                    struct mdd_object *o2,
2328                                    const struct lu_attr *attr2,
2329                                    __u64 flags)
2330 {
2331         const struct lu_fid *fid1, *fid2;
2332         ENTRY;
2333
2334         fid1 = mdd_object_fid(o1);
2335         fid2 = mdd_object_fid(o2);
2336
2337         if (!fid_is_norm(fid1) &&
2338             (!fid_is_igif(fid1) || IS_ERR(mdd_links_get(env, o1))))
2339                 RETURN(-EBADF);
2340
2341         if (!fid_is_norm(fid2) &&
2342             (!fid_is_igif(fid2) || IS_ERR(mdd_links_get(env, o2))))
2343                 RETURN(-EBADF);
2344
2345         if (mdd_object_type(o1) != mdd_object_type(o2)) {
2346                 if (S_ISDIR(mdd_object_type(o1)))
2347                         RETURN(-ENOTDIR);
2348                 if (S_ISREG(mdd_object_type(o1)))
2349                         RETURN(-EISDIR);
2350                 RETURN(-EBADF);
2351         }
2352
2353         /* Do not check uid/gid for release since the orphan is created as root
2354          */
2355         if (flags & SWAP_LAYOUTS_MDS_RELEASE)
2356                 RETURN(0);
2357
2358         if ((attr1->la_uid != attr2->la_uid) ||
2359             (attr1->la_gid != attr2->la_gid))
2360                 RETURN(-EPERM);
2361
2362         RETURN(0);
2363 }
2364
2365 /* XXX To set the proper lmm_oi & lmm_layout_gen when swap layouts, we have to
2366  *     look into the layout in MDD layer.
2367  */
2368 static int mdd_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi, bool get)
2369 {
2370         struct lov_comp_md_v1   *comp_v1;
2371         struct lov_mds_md       *v1;
2372         int                      i, ent_count;
2373         __u32                    off;
2374
2375         if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_COMP_V1) {
2376                 comp_v1 = (struct lov_comp_md_v1 *)lmm;
2377                 ent_count = le16_to_cpu(comp_v1->lcm_entry_count);
2378
2379                 if (ent_count == 0)
2380                         return -EINVAL;
2381
2382                 if (get) {
2383                         int i = 0;
2384
2385                         off = le32_to_cpu(comp_v1->lcm_entries[i].lcme_offset);
2386                         v1 = (struct lov_mds_md *)((char *)comp_v1 + off);
2387                         if (le32_to_cpu(v1->lmm_magic) != LOV_MAGIC_FOREIGN) {
2388                                 *oi = v1->lmm_oi;
2389                         } else {
2390                                 if (ent_count == 1)
2391                                         return -EINVAL;
2392
2393                                 i = 1;
2394                                 off = le32_to_cpu(
2395                                         comp_v1->lcm_entries[i].lcme_offset);
2396                                 v1 = (struct lov_mds_md *)((char *)comp_v1 +
2397                                                            off);
2398                                 if (le32_to_cpu(v1->lmm_magic) ==
2399                                                         LOV_MAGIC_FOREIGN)
2400                                         return -EINVAL;
2401
2402                                 *oi = v1->lmm_oi;
2403                         }
2404                 } else {
2405                         for (i = 0; i < le32_to_cpu(ent_count); i++) {
2406                                 off = le32_to_cpu(comp_v1->lcm_entries[i].
2407                                                 lcme_offset);
2408                                 v1 = (struct lov_mds_md *)((char *)comp_v1 +
2409                                                 off);
2410                                 if (le32_to_cpu(v1->lmm_magic) !=
2411                                                         LOV_MAGIC_FOREIGN)
2412                                         v1->lmm_oi = *oi;
2413                         }
2414                 }
2415         } else if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V1 ||
2416                    le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V3) {
2417                 if (get)
2418                         *oi = lmm->lmm_oi;
2419                 else
2420                         lmm->lmm_oi = *oi;
2421         } else {
2422                 return -EINVAL;
2423         }
2424         return 0;
2425 }
2426
2427 static inline int mdd_get_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi)
2428 {
2429         return mdd_lmm_oi(lmm, oi, true);
2430 }
2431
2432 static inline int mdd_set_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi)
2433 {
2434         return mdd_lmm_oi(lmm, oi, false);
2435 }
2436
2437 static int mdd_lmm_gen(struct lov_mds_md *lmm, __u32 *gen, bool get)
2438 {
2439         struct lov_comp_md_v1 *comp_v1;
2440
2441         if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_COMP_V1) {
2442                 comp_v1 = (struct lov_comp_md_v1 *)lmm;
2443                 if (get)
2444                         *gen = le32_to_cpu(comp_v1->lcm_layout_gen);
2445                 else
2446                         comp_v1->lcm_layout_gen = cpu_to_le32(*gen);
2447         } else if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V1 ||
2448                    le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V3) {
2449                 __u16 tmp_gen = *gen;
2450                 if (get)
2451                         *gen = le16_to_cpu(lmm->lmm_layout_gen);
2452                 else
2453                         lmm->lmm_layout_gen = cpu_to_le16(tmp_gen);
2454         } else {
2455                 return -EINVAL;
2456         }
2457         return 0;
2458 }
2459
2460 static inline int mdd_get_lmm_gen(struct lov_mds_md *lmm, __u32 *gen)
2461 {
2462         return mdd_lmm_gen(lmm, gen, true);
2463 }
2464
2465 static inline int mdd_set_lmm_gen(struct lov_mds_md *lmm, __u32 *gen)
2466 {
2467         return mdd_lmm_gen(lmm, gen, false);
2468 }
2469
2470 int mdd_dom_fixup(const struct lu_env *env, struct mdd_device *mdd,
2471                   struct mdd_object *mo, struct mdd_object *vo)
2472 {
2473         struct dt_object *dom, *vlt;
2474         dt_obj_version_t dv = 0;
2475         struct thandle *th;
2476         int rc;
2477
2478         ENTRY;
2479
2480         if (vo) {
2481                 vlt = dt_object_locate(mdd_object_child(vo), mdd->mdd_bottom);
2482                 if (!vlt)
2483                         GOTO(out, rc = -ENOENT);
2484                 dv = dt_data_version_get(env, vlt);
2485                 if (!dv)
2486                         GOTO(out, rc = -ENODATA);
2487         }
2488
2489         dom = dt_object_locate(mdd_object_child(mo), mdd->mdd_bottom);
2490
2491         th = dt_trans_create(env, mdd->mdd_bottom);
2492         if (IS_ERR(th))
2493                 GOTO(out, rc = PTR_ERR(th));
2494
2495         if (vo) {
2496                 rc = dt_declare_data_version_set(env, dom, th);
2497                 if (rc)
2498                         GOTO(stop, rc);
2499         } else {
2500                 rc = dt_declare_data_version_del(env, dom, th);
2501                 if (rc)
2502                         GOTO(stop, rc);
2503                 rc = dt_declare_punch(env, dom, 0, OBD_OBJECT_EOF, th);
2504                 if (rc)
2505                         GOTO(stop, rc);
2506         }
2507
2508         rc = dt_trans_start_local(env, mdd->mdd_bottom, th);
2509         if (rc != 0)
2510                 GOTO(stop, rc);
2511
2512         if (vo) {
2513                 dt_data_version_set(env, dom, dv, th);
2514         } else {
2515                 dt_data_version_del(env, dom, th);
2516                 rc = dt_punch(env, dom, 0, OBD_OBJECT_EOF, th);
2517         }
2518
2519 stop:
2520         dt_trans_stop(env, mdd->mdd_bottom, th);
2521 out:
2522         /* Ignore failure but report the error */
2523         if (rc)
2524                 CERROR("%s: can't manage DOM file "DFID" data: rc = %d\n",
2525                        mdd_obj_dev_name(mo), PFID(mdd_object_fid(mo)), rc);
2526         return rc;
2527 }
2528
2529 /* Swap Layout HSM object information: every information needed to decide how
2530  * to update the HSM xattr flag during a layout swap.
2531  */
2532 struct sl_hsm_object_info {
2533         struct mdd_object *o;   /* the object whose HSM attribute to check */
2534         struct lu_buf *hsm_buf; /* buffer initialized with the content of the
2535                                  * HSM xattr.
2536                                  */
2537         int xattr_flags;        /* 0: do not update HSM xattr
2538                                  * LU_XATTR_REPLACE or LU_XATTR_CREATE: update
2539                                  * the xattr with this flag
2540                                  */
2541         __u64 dv;               /* dataversion of the object */
2542 };
2543
2544 /* Read the HSM xattr and store its content into \p hsm_buf. */
2545 static int fetch_hsm_xattr(const struct lu_env *env, struct mdd_object *o,
2546                            struct lu_buf *hsm_buf)
2547 {
2548         int rc;
2549
2550         lu_buf_alloc(hsm_buf, sizeof(struct hsm_attrs));
2551         if (hsm_buf->lb_buf == NULL)
2552                 return -ENOMEM;
2553
2554         rc = mdo_xattr_get(env, o, hsm_buf, XATTR_NAME_HSM);
2555         if (rc < 0)
2556                 return rc;
2557
2558         return 0;
2559 }
2560
2561 /* return true if HSM xattr needs update */
2562 static bool swap_hsm_set_dirty(struct lu_buf *out_buf, struct lu_buf *src_buf)
2563 {
2564         struct md_hsm src_hsm;
2565
2566         lustre_buf2hsm(src_buf->lb_buf, src_buf->lb_len, &src_hsm);
2567         if (!(src_hsm.mh_flags & (HS_ARCHIVED | HS_EXISTS)) ||
2568             src_hsm.mh_flags & HS_DIRTY)
2569                 /* do not update HSM attr of non archived or dirty files */
2570                 return false;
2571
2572         src_hsm.mh_flags |= HS_DIRTY;
2573         lustre_hsm2buf(out_buf->lb_buf, &src_hsm);
2574
2575         return true;
2576 }
2577
2578 /* return 1 HSM xattr needs update
2579  *        0 do not update HSM xattr
2580  *   -EPERM data version mismatch, no swap
2581  */
2582 static int swap_hsm_update_version(struct lu_buf *out_buf, __u64 out_dv,
2583                                    struct lu_buf *src_buf, __u64 src_dv)
2584 {
2585         struct md_hsm src_hsm;
2586
2587         /* Put lb_len as a second argument since we know that src_buf is a valid
2588          * HSM xattr buffer.
2589          */
2590         lustre_buf2hsm(src_buf->lb_buf, src_buf->lb_len, &src_hsm);
2591
2592         if (!(src_hsm.mh_flags & (HS_ARCHIVED | HS_EXISTS)) ||
2593             src_hsm.mh_flags & HS_DIRTY)
2594                 return 0;
2595
2596         /* migration with old client -> set the dirty flag */
2597         if (!src_dv || !out_dv) {
2598                 src_hsm.mh_flags |= HS_DIRTY;
2599                 goto hsm2buf;
2600         }
2601
2602         if (src_hsm.mh_arch_ver != src_dv) {
2603                 CDEBUG(D_HSM,
2604                        "HSM archive version and previous data version mismatch (arch_ver=%llu, prev_ver=%llu, new_ver=%llu)\n",
2605                        src_hsm.mh_arch_ver, src_dv, out_dv);
2606                 return -EPERM;
2607         }
2608
2609         src_hsm.mh_arch_ver = out_dv;
2610 hsm2buf:
2611         lustre_hsm2buf(out_buf->lb_buf, &src_hsm);
2612
2613         return 1;
2614 }
2615
2616 /* Allow HSM xattr swap only with volatile/orphan files.
2617  * This is used by HSM release/restore.
2618  */
2619 static inline bool swap_hsm_xattr_allowed(bool fst_has_hsm, bool snd_has_hsm,
2620                                           unsigned long o_fst_flag,
2621                                           unsigned long o_snd_flag)
2622 {
2623         return (fst_has_hsm && snd_has_hsm &&
2624                 ((o_fst_flag | o_snd_flag) & (ORPHAN_OBJ | VOLATILE_OBJ)));
2625 }
2626
2627 /* Read and update the data version of both objects if necessary. If they have
2628  * to be updated, declare the update.
2629  * \p xattr_flags will be updated if necessary to be used by mdo_xattr_set
2630  *
2631  * \p dv contains the data version of the file before and after the migration.
2632  *       It can be NULL when swapping layouts in other contexts (HSM or
2633  *       lfs swap_layout).
2634  */
2635 static int swap_layouts_prepare_hsm_attr(const struct lu_env *env,
2636                                          struct mdd_device *mdd,
2637                                          struct thandle *handle,
2638                                          struct sl_hsm_object_info *fst,
2639                                          struct sl_hsm_object_info *snd)
2640 {
2641         unsigned long o_fst_fl;
2642         unsigned long o_snd_fl;
2643         int rc2;
2644         int rc;
2645
2646         fst->xattr_flags = 0;
2647         snd->xattr_flags = 0;
2648
2649         rc = fetch_hsm_xattr(env, fst->o, fst->hsm_buf);
2650         if (rc != -ENODATA && rc != 0)
2651                 return rc;
2652
2653         rc2 = fetch_hsm_xattr(env, snd->o, snd->hsm_buf);
2654         if (rc2 != -ENODATA && rc2 != 0)
2655                 return rc2;
2656
2657         /* if nothing to swap, not an error */
2658         if (rc && rc2)
2659                 return 0;
2660
2661         /* swap if the first object have no HSM xattr */
2662         if (rc && !rc2) {
2663                 swap(fst, snd);
2664                 swap(rc, rc2);
2665         }
2666
2667         o_fst_fl = fst->o->mod_flags;
2668         o_snd_fl = snd->o->mod_flags;
2669
2670         if ((o_snd_fl & VOLATILE_OBJ) && rc2) {
2671                 /* migration of fst */
2672                 rc = swap_hsm_update_version(snd->hsm_buf, snd->dv,
2673                                              fst->hsm_buf, fst->dv);
2674                 if (rc == 0)
2675                         return 0;
2676                 if (rc < 0)
2677                         return rc;
2678
2679                 fst->xattr_flags = LU_XATTR_REPLACE;
2680
2681         } else if (swap_hsm_xattr_allowed(!rc, !rc2, o_fst_fl, o_snd_fl)) {
2682                 /* HSM release/restore -> HSM xattr swap */
2683                 fst->xattr_flags = LU_XATTR_REPLACE;
2684                 snd->xattr_flags = LU_XATTR_REPLACE;
2685
2686         } else if (!rc && !rc2) {
2687                 /* swap on 2 archived files is not supported (no rollback) */
2688                 return -EPERM;
2689
2690         } else if (rc2) {
2691                 /* swap layout with HSM fst and non-HSM snd */
2692                 if (!swap_hsm_set_dirty(snd->hsm_buf, fst->hsm_buf))
2693                         return 0;
2694
2695                 fst->xattr_flags = LU_XATTR_REPLACE;
2696         }
2697
2698         if (fst->xattr_flags) {
2699                 rc = mdd_declare_xattr_set(env, mdd, fst->o, snd->hsm_buf,
2700                                            XATTR_NAME_HSM, fst->xattr_flags,
2701                                            handle);
2702                 if (rc < 0)
2703                         return rc;
2704         }
2705
2706         if (snd->xattr_flags) {
2707                 rc = mdd_declare_xattr_set(env, mdd, snd->o, fst->hsm_buf,
2708                                            XATTR_NAME_HSM, snd->xattr_flags,
2709                                            handle);
2710                 if (rc < 0)
2711                         return rc;
2712         }
2713
2714         return 0;
2715 }
2716
2717 /**
2718  * swap layouts between 2 lustre objects
2719  */
2720 static int mdd_swap_layouts(const struct lu_env *env,
2721                             struct md_object *obj1, struct md_object *obj2,
2722                             __u64 dv1, __u64 dv2, __u64 flags)
2723 {
2724         struct mdd_thread_info *info = mdd_env_info(env);
2725         struct mdd_object *fst_o = md2mdd_obj(obj1);
2726         struct mdd_object *snd_o = md2mdd_obj(obj2);
2727         struct lu_attr *fst_la = MDD_ENV_VAR(env, cattr);
2728         struct lu_attr *snd_la = MDD_ENV_VAR(env, tattr);
2729         struct mdd_device *mdd = mdo2mdd(obj1);
2730         struct lov_mds_md *fst_lmm, *snd_lmm;
2731         struct sl_hsm_object_info fst_info;
2732         struct sl_hsm_object_info snd_info;
2733         struct mdd_object *vlt_o = NULL;
2734         struct mdd_object *dom_o = NULL;
2735         struct ost_id *saved_oi = NULL;
2736         struct lu_buf *fst_hsm_buf;
2737         struct lu_buf *snd_hsm_buf;
2738         struct lu_buf *fst_buf;
2739         struct lu_buf *snd_buf;
2740         struct thandle *handle;
2741         __u64 domsize_dom;
2742         __u64 domsize_vlt;
2743         __u32 saved_gen;
2744         int retried = 0;
2745         __u32 fst_gen;
2746         __u32 snd_gen;
2747         int fst_fl;
2748         int rc2;
2749         int rc;
2750
2751         ENTRY;
2752
2753         BUILD_BUG_ON(ARRAY_SIZE(info->mdi_buf) < 4);
2754 retry:
2755         fst_buf = &info->mdi_buf[0];
2756         snd_buf = &info->mdi_buf[1];
2757         fst_hsm_buf = &info->mdi_buf[2];
2758         snd_hsm_buf = &info->mdi_buf[3];
2759
2760         memset(info->mdi_buf, 0, sizeof(info->mdi_buf));
2761
2762         /* we have to sort the 2 obj, so locking will always
2763          * be in the same order, even in case of 2 concurrent swaps */
2764         rc = lu_fid_cmp(mdd_object_fid(fst_o), mdd_object_fid(snd_o));
2765         if (rc == 0) /* same fid ? */
2766                 RETURN(-EPERM);
2767
2768         if (rc < 0) {
2769                 swap(fst_o, snd_o);
2770                 swap(dv1, dv2);
2771         }
2772
2773         rc = mdd_la_get(env, fst_o, fst_la);
2774         if (rc != 0)
2775                 RETURN(rc);
2776
2777         rc = mdd_la_get(env, snd_o, snd_la);
2778         if (rc != 0)
2779                 RETURN(rc);
2780
2781         /* check if layout swapping is allowed */
2782         rc = mdd_layout_swap_allowed(env, fst_o, fst_la, snd_o, snd_la, flags);
2783         if (rc != 0)
2784                 RETURN(rc);
2785
2786         handle = mdd_trans_create(env, mdd);
2787         if (IS_ERR(handle))
2788                 RETURN(PTR_ERR(handle));
2789
2790         rc = mdd_stripe_get(env, fst_o, fst_buf, XATTR_NAME_LOV);
2791         if (rc < 0 && rc != -ENODATA)
2792                 GOTO(stop, rc);
2793
2794         rc = mdd_stripe_get(env, snd_o, snd_buf, XATTR_NAME_LOV);
2795         if (rc < 0 && rc != -ENODATA)
2796                 GOTO(stop, rc);
2797
2798         /* check if file has DoM. DoM file can be migrated only to another
2799          * DoM layout with the same DoM component size or to an non-DOM
2800          * layout. After migration to OSTs layout, local MDT inode data
2801          * should be truncated.
2802          * Objects are sorted by FIDs, considering that original file's FID
2803          * is always smaller the snd_o is always original file we are migrating
2804          * from.
2805          */
2806         domsize_dom = mdd_lmm_dom_size(snd_buf->lb_buf);
2807         domsize_vlt = mdd_lmm_dom_size(fst_buf->lb_buf);
2808
2809         /* Only migration is supported for DoM files, not 'swap_layouts' so
2810          * target file must be volatile and orphan.
2811          */
2812         if (fst_o->mod_flags & (ORPHAN_OBJ | VOLATILE_OBJ)) {
2813                 vlt_o = domsize_vlt ? fst_o : NULL;
2814                 dom_o = domsize_dom ? snd_o : NULL;
2815         } else if (snd_o->mod_flags & (ORPHAN_OBJ | VOLATILE_OBJ)) {
2816                 swap(domsize_dom, domsize_vlt);
2817                 vlt_o = domsize_vlt ? snd_o : NULL;
2818                 dom_o = domsize_dom ? fst_o : NULL;
2819         } else if (domsize_dom > 0 || domsize_vlt > 0) {
2820                 /* 'lfs swap_layouts' case, neither file should have DoM */
2821                 rc = -EOPNOTSUPP;
2822                 CDEBUG(D_LAYOUT, "cannot swap layouts with DOM component, "
2823                        "use migration instead: rc = %d\n", rc);
2824                 GOTO(stop, rc);
2825         }
2826
2827         if (domsize_vlt > 0 && domsize_dom == 0) {
2828                 rc = -EOPNOTSUPP;
2829                 CDEBUG(D_LAYOUT,
2830                        "%s: cannot swap "DFID" layout: OST to DOM migration not supported: rc = %d\n",
2831                        mdd_obj_dev_name(snd_o),
2832                        PFID(mdd_object_fid(snd_o)), rc);
2833                 GOTO(stop, rc);
2834         } else if (domsize_vlt > 0 && domsize_dom != domsize_vlt) {
2835                 rc = -EOPNOTSUPP;
2836                 CDEBUG(D_LAYOUT,
2837                        "%s: cannot swap "DFID" layout: new layout must have same DoM component size: rc = %d\n",
2838                        mdd_obj_dev_name(fst_o),
2839                        PFID(mdd_object_fid(fst_o)), rc);
2840                 GOTO(stop, rc);
2841         }
2842
2843         /* swapping 2 non existant layouts is a success */
2844         if (fst_buf->lb_buf == NULL && snd_buf->lb_buf == NULL)
2845                 GOTO(stop, rc = 0);
2846
2847         /* to help inode migration between MDT, it is better to
2848          * start by the no layout file (if one), so we order the swap */
2849         if (snd_buf->lb_buf == NULL) {
2850                 swap(fst_o, snd_o);
2851                 swap(fst_buf, snd_buf);
2852                 swap(dv1, dv2);
2853         }
2854
2855         fst_gen = snd_gen = 0;
2856         /* lmm and generation layout initialization */
2857         if (fst_buf->lb_buf != NULL) {
2858                 fst_lmm = fst_buf->lb_buf;
2859                 mdd_get_lmm_gen(fst_lmm, &fst_gen);
2860                 fst_fl  = LU_XATTR_REPLACE;
2861         } else {
2862                 fst_lmm = NULL;
2863                 fst_gen = 0;
2864                 fst_fl  = LU_XATTR_CREATE;
2865         }
2866
2867         snd_lmm = snd_buf->lb_buf;
2868         mdd_get_lmm_gen(snd_lmm, &snd_gen);
2869
2870         saved_gen = fst_gen;
2871         /* increase the generation layout numbers */
2872         snd_gen++;
2873         fst_gen++;
2874
2875         /*
2876          * XXX The layout generation is used to generate component IDs for
2877          *     the composite file, we have to do some special tweaks to make
2878          *     sure the layout generation is always adequate for that job.
2879          */
2880
2881         /* Skip invalid generation number for composite layout */
2882         if ((snd_gen & LCME_ID_MASK) == 0)
2883                 snd_gen++;
2884         if ((fst_gen & LCME_ID_MASK) == 0)
2885                 fst_gen++;
2886         /* Make sure the generation is greater than all the component IDs */
2887         if (fst_gen < snd_gen)
2888                 fst_gen = snd_gen;
2889         else if (fst_gen > snd_gen)
2890                 snd_gen = fst_gen;
2891
2892         /* set the file specific informations in lmm */
2893         if (fst_lmm != NULL) {
2894                 struct ost_id temp_oi;
2895
2896                 saved_oi = &info->mdi_oa.o_oi;
2897                 mdd_get_lmm_oi(fst_lmm, saved_oi);
2898                 mdd_get_lmm_oi(snd_lmm, &temp_oi);
2899                 mdd_set_lmm_gen(fst_lmm, &snd_gen);
2900                 mdd_set_lmm_oi(fst_lmm, &temp_oi);
2901                 mdd_set_lmm_oi(snd_lmm, saved_oi);
2902         } else {
2903                 if ((snd_lmm->lmm_magic & cpu_to_le32(LOV_MAGIC_MASK)) ==
2904                     cpu_to_le32(LOV_MAGIC_MAGIC))
2905                         snd_lmm->lmm_magic |= cpu_to_le32(LOV_MAGIC_DEFINED);
2906                 else
2907                         GOTO(stop, rc = -EPROTO);
2908         }
2909         mdd_set_lmm_gen(snd_lmm, &fst_gen);
2910
2911         fst_info.o = fst_o;
2912         fst_info.hsm_buf = fst_hsm_buf;
2913         fst_info.dv = dv1;
2914
2915         snd_info.o = snd_o;
2916         snd_info.hsm_buf = snd_hsm_buf;
2917         snd_info.dv = dv2;
2918         rc = swap_layouts_prepare_hsm_attr(env, mdd, handle, &fst_info,
2919                                            &snd_info);
2920         if (rc)
2921                 GOTO(stop, rc);
2922
2923         /* prepare transaction */
2924         rc = mdd_declare_xattr_set(env, mdd, fst_o, snd_buf, XATTR_NAME_LOV,
2925                                    fst_fl, handle);
2926         if (rc != 0)
2927                 GOTO(stop, rc);
2928
2929         if (fst_buf->lb_buf != NULL)
2930                 rc = mdd_declare_xattr_set(env, mdd, snd_o, fst_buf,
2931                                            XATTR_NAME_LOV, LU_XATTR_REPLACE,
2932                                            handle);
2933         else
2934                 rc = mdd_declare_xattr_del(env, mdd, snd_o, XATTR_NAME_LOV,
2935                                            handle);
2936         if (rc != 0)
2937                 GOTO(stop, rc);
2938
2939         rc = mdd_trans_start(env, mdd, handle);
2940         if (rc != 0)
2941                 GOTO(stop, rc);
2942
2943         rc = mdd_write_lock_two_objects(env, fst_o, snd_o);
2944         if (rc < 0)
2945                 GOTO(stop, rc);
2946
2947         if (!mdd_object_exists(fst_o))
2948                 GOTO(unlock, rc = -ENOENT);
2949         if (!mdd_object_exists(snd_o))
2950                 GOTO(unlock, rc = -ENOENT);
2951
2952         if (fst_info.xattr_flags) {
2953                 rc = mdo_xattr_set(env, fst_o, snd_info.hsm_buf,
2954                                    XATTR_NAME_HSM, fst_info.xattr_flags,
2955                                    handle);
2956                 if (rc < 0)
2957                         GOTO(unlock, rc);
2958         }
2959
2960         if (snd_info.xattr_flags) {
2961                 rc = mdo_xattr_set(env, snd_o, fst_info.hsm_buf,
2962                                    XATTR_NAME_HSM, snd_info.xattr_flags,
2963                                    handle);
2964                 if (rc < 0)
2965                         GOTO(out_restore_hsm_fst, rc);
2966         }
2967
2968         rc = mdo_xattr_set(env, fst_o, snd_buf, XATTR_NAME_LOV, fst_fl, handle);
2969         if (rc != 0)
2970                 GOTO(out_restore_hsm, rc);
2971
2972         if (unlikely(CFS_FAIL_CHECK(OBD_FAIL_MDS_HSM_SWAP_LAYOUTS))) {
2973                 rc = -EOPNOTSUPP;
2974         } else {
2975                 if (fst_buf->lb_buf != NULL)
2976                         rc = mdo_xattr_set(env, snd_o, fst_buf, XATTR_NAME_LOV,
2977                                            LU_XATTR_REPLACE, handle);
2978                 else
2979                         rc = mdo_xattr_del(env, snd_o, XATTR_NAME_LOV, handle);
2980         }
2981         if (rc != 0)
2982                 GOTO(out_restore, rc);
2983
2984         /* Issue one changelog record per file */
2985         rc = emit_changelog_after_swap_layout(env, handle, fst_o, fst_hsm_buf);
2986         if (rc)
2987                 GOTO(unlock, rc);
2988
2989         rc = emit_changelog_after_swap_layout(env, handle, snd_o, snd_hsm_buf);
2990         if (rc)
2991                 GOTO(unlock, rc);
2992         EXIT;
2993
2994 out_restore:
2995         if (rc != 0) {
2996                 int steps = 0;
2997
2998                 /* failure on second file, but first was done, so we have
2999                  * to roll back first. */
3000                 if (fst_buf->lb_buf != NULL) {
3001                         mdd_set_lmm_oi(fst_lmm, saved_oi);
3002                         mdd_set_lmm_gen(fst_lmm, &saved_gen);
3003                         rc2 = mdo_xattr_set(env, fst_o, fst_buf, XATTR_NAME_LOV,
3004                                             LU_XATTR_REPLACE, handle);
3005                 } else {
3006                         rc2 = mdo_xattr_del(env, fst_o, XATTR_NAME_LOV, handle);
3007                 }
3008                 if (rc2 < 0)
3009                         goto do_lbug;
3010
3011 out_restore_hsm:
3012                 if (snd_info.xattr_flags) {
3013                         /* roll back swap HSM */
3014                         steps = 1;
3015                         rc2 = mdo_xattr_set(env, snd_o, snd_hsm_buf,
3016                                             XATTR_NAME_HSM, LU_XATTR_REPLACE,
3017                                             handle);
3018                         if (rc2 < 0)
3019                                 goto do_lbug;
3020                 }
3021
3022 out_restore_hsm_fst:
3023                 if (fst_info.xattr_flags) {
3024                         steps = 2;
3025                         rc2 = mdo_xattr_set(env, fst_o, fst_hsm_buf,
3026                                             XATTR_NAME_HSM, LU_XATTR_REPLACE,
3027                                             handle);
3028                 }
3029
3030         do_lbug:
3031                 if (rc2 < 0) {
3032                         /* very bad day */
3033                         CERROR("%s: unable to roll back layout swap of "DFID" and "DFID", steps: %d: rc = %d/%d\n",
3034                                mdd_obj_dev_name(fst_o),
3035                                PFID(mdd_object_fid(snd_o)),
3036                                PFID(mdd_object_fid(fst_o)),
3037                                rc, rc2, steps);
3038                         /* a solution to avoid journal commit is to panic,
3039                          * but it has strong consequences so we use LBUG to
3040                          * allow sysdamin to choose to panic or not
3041                          */
3042                         LBUG();
3043                 }
3044         }
3045
3046 unlock:
3047         mdd_write_unlock_two_objects(env, fst_o, snd_o);
3048
3049 stop:
3050         rc = mdd_trans_stop(env, mdd, rc, handle);
3051
3052         /* Truncate local DOM data if all went well, except migration case
3053          * with the same DOM component size. In that case a local data is
3054          * still in use and shouldn't be deleted.
3055          */
3056         if (!rc && dom_o)
3057                 mdd_dom_fixup(env, mdd, dom_o, vlt_o);
3058
3059         lu_buf_free(fst_buf);
3060         lu_buf_free(snd_buf);
3061         lu_buf_free(fst_hsm_buf);
3062         lu_buf_free(snd_hsm_buf);
3063
3064         if (!rc) {
3065                 (void) mdd_object_pfid_replace(env, fst_o);
3066                 (void) mdd_object_pfid_replace(env, snd_o);
3067         } else if (rc == -EAGAIN && retried++ < MAX_TRANS_RETRIED) {
3068                 /**
3069                  * -EAGAIN means transaction execution phase detect the layout
3070                  * has been changed by others.
3071                  */
3072                 GOTO(retry, retried);
3073         }
3074
3075         RETURN(rc);
3076 }
3077
3078 static int mdd_declare_layout_change(const struct lu_env *env,
3079                                      struct mdd_device *mdd,
3080                                      struct mdd_object *obj,
3081                                      struct md_layout_change *mlc,
3082                                      struct thandle *handle)
3083 {
3084         int rc;
3085
3086         rc = mdo_declare_layout_change(env, obj, mlc, handle);
3087         if (rc)
3088                 return rc;
3089
3090         return mdd_declare_changelog_store(env, mdd, CL_LAYOUT, NULL, NULL,
3091                                            handle);
3092 }
3093
3094 /* For PFL, this is used to instantiate necessary component objects. */
3095 static int
3096 mdd_layout_instantiate_component(const struct lu_env *env,
3097                 struct mdd_object *obj, struct md_layout_change *mlc,
3098                 struct thandle *handle)
3099 {
3100         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
3101         int rc;
3102         ENTRY;
3103
3104         if (mlc->mlc_opc != MD_LAYOUT_WRITE)
3105                 RETURN(-ENOTSUPP);
3106
3107         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
3108         /**
3109          * It's possible that another layout write intent has already
3110          * instantiated our objects, so a -EALREADY returned, and we need to
3111          * do nothing.
3112          */
3113         if (rc)
3114                 RETURN(rc == -EALREADY ? 0 : rc);
3115
3116         rc = mdd_trans_start(env, mdd, handle);
3117         if (rc)
3118                 RETURN(rc);
3119
3120         mdd_write_lock(env, obj, DT_TGT_CHILD);
3121         rc = mdo_layout_change(env, obj, mlc, handle);
3122         mdd_write_unlock(env, obj);
3123         if (rc)
3124                 RETURN(rc);
3125
3126         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle,
3127                                       NULL);
3128         RETURN(rc);
3129 }
3130
3131 /**
3132  * Change the FLR layout from RDONLY to WRITE_PENDING.
3133  *
3134  * It picks the primary mirror, and bumps the layout version, and set
3135  * layout version xattr to OST objects in a sync tx. In order to facilitate
3136  * the handling of phantom writers from evicted clients, the clients carry
3137  * layout version of the file with write RPC, so that the OSTs can verify
3138  * if the write RPCs are legitimate, meaning not from evicted clients.
3139  */
3140 static int
3141 mdd_layout_update_rdonly(const struct lu_env *env, struct mdd_object *obj,
3142                          struct md_layout_change *mlc, struct thandle *handle)
3143 {
3144         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
3145         struct lu_buf *som_buf = &mdd_env_info(env)->mdi_buf[1];
3146         struct lustre_som_attrs *som = &mlc->mlc_som;
3147         int fl = 0;
3148         int rc;
3149         ENTRY;
3150
3151         /* Verify acceptable operations */
3152         switch (mlc->mlc_opc) {
3153         case MD_LAYOUT_WRITE:
3154         case MD_LAYOUT_RESYNC:
3155                 /* these are legal operations - this represents the case that
3156                  * a few mirrors were missed in the last resync. */
3157                 break;
3158         case MD_LAYOUT_RESYNC_DONE:
3159         default:
3160                 RETURN(0);
3161         }
3162
3163         som_buf->lb_buf = som;
3164         som_buf->lb_len = sizeof(*som);
3165         rc = mdo_xattr_get(env, obj, som_buf, XATTR_NAME_SOM);
3166         if (rc < 0 && rc != -ENODATA)
3167                 RETURN(rc);
3168
3169         if (rc > 0) {
3170                 lustre_som_swab(som);
3171                 if (som->lsa_valid & SOM_FL_STRICT)
3172                         fl = LU_XATTR_REPLACE;
3173
3174                 if (mlc->mlc_opc == MD_LAYOUT_WRITE &&
3175                     mlc->mlc_intent->lai_extent.e_end > som->lsa_size) {
3176                         som->lsa_size = mlc->mlc_intent->lai_extent.e_end + 1;
3177                         fl = LU_XATTR_REPLACE;
3178                 }
3179         }
3180
3181         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
3182         if (rc)
3183                 GOTO(out, rc);
3184
3185         if (fl) {
3186                 rc = mdd_declare_xattr_set(env, mdd, obj, som_buf,
3187                                            XATTR_NAME_SOM, fl, handle);
3188                 if (rc)
3189                         GOTO(out, rc);
3190         }
3191
3192         /* record a changelog for data mover to consume */
3193         rc = mdd_declare_changelog_store(env, mdd, CL_FLRW, NULL, NULL, handle);
3194         if (rc)
3195                 GOTO(out, rc);
3196
3197         rc = mdd_trans_start(env, mdd, handle);
3198         if (rc)
3199                 GOTO(out, rc);
3200
3201         /* it needs a sync tx to make FLR to work properly */
3202         handle->th_sync = 1;
3203
3204         mdd_write_lock(env, obj, DT_TGT_CHILD);
3205         rc = mdo_layout_change(env, obj, mlc, handle);
3206         if (!rc && fl) {
3207                 /* SOM state transition from STRICT to STALE */
3208                 som->lsa_valid = SOM_FL_STALE;
3209                 lustre_som_swab(som);
3210                 rc = mdo_xattr_set(env, obj, som_buf, XATTR_NAME_SOM,
3211                                    fl, handle);
3212         }
3213         mdd_write_unlock(env, obj);
3214         if (rc)
3215                 GOTO(out, rc);
3216
3217         rc = mdd_changelog_data_store(env, mdd, CL_FLRW, 0, obj, handle, NULL);
3218
3219 out:
3220         RETURN(rc);
3221 }
3222
3223 /**
3224  * Handle mirrored file state transition when it's in WRITE_PENDING.
3225  *
3226  * Only MD_LAYOUT_RESYNC, which represents start of resync, is allowed when
3227  * the file is in WRITE_PENDING state. If everything goes fine, the file's
3228  * layout version will be increased, and the file's state will be changed to
3229  * SYNC_PENDING.
3230  */
3231 static int
3232 mdd_layout_update_write_pending(const struct lu_env *env,
3233                 struct mdd_object *obj, struct md_layout_change *mlc,
3234                 struct thandle *handle)
3235 {
3236         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
3237         struct lu_buf *som_buf = &mdd_env_info(env)->mdi_buf[1];
3238         struct lustre_som_attrs *som = &mlc->mlc_som;
3239         int fl = 0;
3240         int rc;
3241         ENTRY;
3242
3243         switch (mlc->mlc_opc) {
3244         case MD_LAYOUT_RESYNC:
3245                 /* Upon receiving the resync request, it should
3246                  * instantiate all stale components right away to get ready
3247                  * for mirror copy. In order to avoid layout version change,
3248                  * client should avoid sending LAYOUT_WRITE request at the
3249                  * resync state. */
3250                 break;
3251         case MD_LAYOUT_WRITE:
3252                 /**
3253                  * legal race for concurrent write, the file state has been
3254                  * changed by another client. Or a jump over file size and
3255                  * write.
3256                  */
3257                 som_buf->lb_buf = som;
3258                 som_buf->lb_len = sizeof(*som);
3259                 rc = mdo_xattr_get(env, obj, som_buf, XATTR_NAME_SOM);
3260                 if (rc < 0 && rc != -ENODATA)
3261                         RETURN(rc);
3262
3263                 if (rc > 0) {
3264                         lustre_som_swab(som);
3265                         if (mlc->mlc_intent->lai_extent.e_end > som->lsa_size) {
3266                                 som->lsa_size =
3267                                         mlc->mlc_intent->lai_extent.e_end + 1;
3268                                 fl = LU_XATTR_REPLACE;
3269                         }
3270                 }
3271                 break;
3272         default:
3273                 RETURN(-EBUSY);
3274         }
3275
3276         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
3277         if (rc)
3278                 GOTO(out, rc);
3279
3280         if (fl) {
3281                 rc = mdd_declare_xattr_set(env, mdd, obj, som_buf,
3282                                            XATTR_NAME_SOM, fl, handle);
3283                 if (rc)
3284                         GOTO(out, rc);
3285         }
3286
3287         rc = mdd_trans_start(env, mdd, handle);
3288         if (rc)
3289                 GOTO(out, rc);
3290
3291         /* it needs a sync tx to make FLR to work properly */
3292         handle->th_sync = 1;
3293
3294         mdd_write_lock(env, obj, DT_TGT_CHILD);
3295         rc = mdo_layout_change(env, obj, mlc, handle);
3296         if (!rc && fl) {
3297                 som->lsa_valid = SOM_FL_STALE;
3298                 lustre_som_swab(som);
3299                 rc = mdo_xattr_set(env, obj, som_buf, XATTR_NAME_SOM,
3300                                    fl, handle);
3301         }
3302         mdd_write_unlock(env, obj);
3303
3304 out:
3305         RETURN(rc);
3306 }
3307
3308 /**
3309  * Handle the requests when a FLR file's state is in SYNC_PENDING.
3310  *
3311  * Only concurrent write and sync complete requests are possible when the
3312  * file is in SYNC_PENDING. For the latter request, it will pass in the
3313  * mirrors that have been synchronized, then the stale bit will be cleared
3314  * to make the file's state turn into RDONLY.
3315  * For concurrent write reqeust, it just needs to change the file's state
3316  * to WRITE_PENDING in a sync tx. It doesn't have to change the layout
3317  * version because the version will be increased in the transition to
3318  * SYNC_PENDING later so that it can deny the write request from potential
3319  * evicted SYNC clients. */
3320 static int
3321 mdd_object_update_sync_pending(const struct lu_env *env, struct mdd_object *obj,
3322                 struct md_layout_change *mlc, struct thandle *handle)
3323 {
3324         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
3325         struct lu_buf *som_buf = &mdd_env_info(env)->mdi_buf[1];
3326         int fl = 0;
3327         int rc;
3328         ENTRY;
3329
3330         /* operation validation */
3331         switch (mlc->mlc_opc) {
3332         case MD_LAYOUT_RESYNC_DONE:
3333                 /* resync complete. */
3334         case MD_LAYOUT_WRITE:
3335                 /* concurrent write. */
3336                 break;
3337         case MD_LAYOUT_RESYNC:
3338                 /* resync again, most likely the previous run failed.
3339                  * no-op if it's already in SYNC_PENDING state */
3340                 RETURN(0);
3341         default:
3342                 RETURN(-EBUSY);
3343         }
3344
3345         if (mlc->mlc_som.lsa_valid & SOM_FL_STRICT) {
3346                 rc = mdo_xattr_get(env, obj, &LU_BUF_NULL, XATTR_NAME_SOM);
3347                 if (rc < 0 && rc != -ENODATA)
3348                         RETURN(rc);
3349
3350                 fl = rc == -ENODATA ? LU_XATTR_CREATE : LU_XATTR_REPLACE;
3351                 lustre_som_swab(&mlc->mlc_som);
3352                 som_buf->lb_buf = &mlc->mlc_som;
3353                 som_buf->lb_len = sizeof(mlc->mlc_som);
3354         }
3355
3356         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
3357         if (rc)
3358                 GOTO(out, rc);
3359
3360         /* record a changelog for the completion of resync */
3361         rc = mdd_declare_changelog_store(env, mdd, CL_RESYNC, NULL, NULL,
3362                                          handle);
3363         if (rc)
3364                 GOTO(out, rc);
3365
3366         /* RESYNC_DONE has piggybacked size and blocks */
3367         if (fl) {
3368                 rc = mdd_declare_xattr_set(env, mdd, obj, som_buf,
3369                                            XATTR_NAME_SOM, fl, handle);
3370                 if (rc)
3371                         GOTO(out, rc);
3372         }
3373
3374         rc = mdd_trans_start(env, mdd, handle);
3375         if (rc)
3376                 GOTO(out, rc);
3377
3378         /* it needs a sync tx to make FLR to work properly */
3379         handle->th_sync = 1;
3380
3381         mdd_write_lock(env, obj, DT_TGT_CHILD);
3382         rc = mdo_layout_change(env, obj, mlc, handle);
3383         mdd_write_unlock(env, obj);
3384         if (rc)
3385                 GOTO(out, rc);
3386
3387         if (fl) {
3388                 rc = mdo_xattr_set(env, obj, som_buf, XATTR_NAME_SOM,
3389                                    fl, handle);
3390                 if (rc)
3391                         GOTO(out, rc);
3392         }
3393
3394         rc = mdd_changelog_data_store(env, mdd, CL_RESYNC, 0, obj, handle,
3395                                       NULL);
3396 out:
3397         RETURN(rc);
3398 }
3399
3400 /**
3401  *  Update the layout for PCC-RO.
3402  */
3403 static int
3404 mdd_layout_update_pccro(const struct lu_env *env, struct md_object *o,
3405                         struct md_layout_change *mlc)
3406 {
3407         struct mdd_object *obj = md2mdd_obj(o);
3408         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
3409         struct thandle *handle;
3410         int rc;
3411
3412         ENTRY;
3413
3414         handle = mdd_trans_create(env, mdd);
3415         if (IS_ERR(handle))
3416                 RETURN(PTR_ERR(handle));
3417
3418         /* TODO: Set SOM strict correct when the file is PCC-RO cached. */
3419         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
3420         /**
3421          * It is possible that another layout write intent has already
3422          * set/cleared read-only flag on the object, so as to return
3423          * -EALREADY, and we need to do nothing in this case.
3424          */
3425         if (rc)
3426                 GOTO(out, rc == -EALREADY ? rc = 0 : rc);
3427
3428         rc = mdd_trans_start(env, mdd, handle);
3429         if (rc != 0)
3430                 GOTO(out, rc);
3431
3432         mdd_write_lock(env, obj, DT_TGT_CHILD);
3433         rc = mdo_layout_change(env, obj, mlc, handle);
3434         mdd_write_unlock(env, obj);
3435         if (rc != 0)
3436                 GOTO(out, rc);
3437
3438         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle,
3439                                       NULL);
3440 out:
3441         mdd_trans_stop(env, mdd, rc, handle);
3442
3443         RETURN(rc);
3444 }
3445
3446 /**
3447  * Layout change callback for object.
3448  *
3449  * This is only used by FLR and PCC-RO for now. In the future, it can be
3450  * exteneded to handle all layout change.
3451  */
3452 static int
3453 mdd_layout_change(const struct lu_env *env, struct md_object *o,
3454                   struct md_layout_change *mlc)
3455 {
3456         struct mdd_object       *obj = md2mdd_obj(o);
3457         struct mdd_device       *mdd = mdd_obj2mdd_dev(obj);
3458         struct lu_buf           *buf = mdd_buf_get(env, NULL, 0);
3459         struct lov_comp_md_v1   *lcm;
3460         struct thandle          *handle;
3461         int flr_state;
3462         int retried = 0;
3463         int rc;
3464
3465         ENTRY;
3466
3467         if (S_ISDIR(mdd_object_type(obj))) {
3468                 switch (mlc->mlc_opc) {
3469                 case MD_LAYOUT_SHRINK:
3470                         rc = mdd_dir_layout_shrink(env, o, mlc);
3471                         break;
3472                 case MD_LAYOUT_SPLIT:
3473                         rc = mdd_dir_layout_split(env, o, mlc);
3474                         break;
3475                 default:
3476                         LBUG();
3477                 }
3478
3479                 RETURN(rc);
3480         }
3481
3482         /* Verify acceptable operations */
3483         switch (mlc->mlc_opc) {
3484         case MD_LAYOUT_WRITE: {
3485                 struct layout_intent *intent = mlc->mlc_intent;
3486
3487                 if (intent->lai_opc == LAYOUT_INTENT_PCCRO_SET ||
3488                     intent->lai_opc == LAYOUT_INTENT_PCCRO_CLEAR)
3489                         RETURN(mdd_layout_update_pccro(env, o, mlc));
3490         }
3491         case MD_LAYOUT_RESYNC:
3492         case MD_LAYOUT_RESYNC_DONE:
3493                 break;
3494         default:
3495                 RETURN(-ENOTSUPP);
3496         }
3497
3498 retry:
3499         handle = mdd_trans_create(env, mdd);
3500         if (IS_ERR(handle))
3501                 RETURN(PTR_ERR(handle));
3502
3503         rc = mdd_stripe_get(env, obj, buf, XATTR_NAME_LOV);
3504         if (rc < 0) {
3505                 if (rc == -ENODATA)
3506                         rc = -EINVAL;
3507                 GOTO(out, rc);
3508         }
3509
3510         /* analyze the layout to make sure it's a FLR file */
3511         lcm = buf->lb_buf;
3512         if (le32_to_cpu(lcm->lcm_magic) != LOV_MAGIC_COMP_V1)
3513                 GOTO(out, rc = -EINVAL);
3514
3515         flr_state = le16_to_cpu(lcm->lcm_flags) & LCM_FL_FLR_MASK;
3516
3517         /* please refer to HLD of FLR for state transition */
3518         switch (flr_state) {
3519         case LCM_FL_NONE:
3520                 rc = mdd_layout_instantiate_component(env, obj, mlc, handle);
3521                 break;
3522         case LCM_FL_WRITE_PENDING:
3523                 rc = mdd_layout_update_write_pending(env, obj, mlc, handle);
3524                 break;
3525         case LCM_FL_RDONLY:
3526                 rc = mdd_layout_update_rdonly(env, obj, mlc, handle);
3527                 break;
3528         case LCM_FL_SYNC_PENDING:
3529                 rc = mdd_object_update_sync_pending(env, obj, mlc, handle);
3530                 break;
3531         default:
3532                 rc = 0;
3533                 break;
3534         }
3535         EXIT;
3536
3537 out:
3538         mdd_trans_stop(env, mdd, rc, handle);
3539         lu_buf_free(buf);
3540
3541         /**
3542          * -EAGAIN means transaction execution phase detect the layout
3543          * has been changed by others.
3544          */
3545         if (rc == -EAGAIN && retried++ < MAX_TRANS_RETRIED)
3546                 GOTO(retry, retried);
3547
3548         return rc;
3549 }
3550
3551 void mdd_object_make_hint(const struct lu_env *env, struct mdd_object *parent,
3552                           struct mdd_object *child, const struct lu_attr *attr,
3553                           const struct md_op_spec *spec,
3554                           struct dt_allocation_hint *hint)
3555 {
3556         struct dt_object *np = parent ?  mdd_object_child(parent) : NULL;
3557         struct mdd_device *mdd = mdd_obj2mdd_dev(child);
3558         struct dt_object *nc = mdd_object_child(child);
3559
3560         memset(hint, 0, sizeof(*hint));
3561
3562         /* For striped directory, give striping EA to lod_ah_init, which will
3563          * decide the stripe_offset and stripe count by it. */
3564         if (S_ISDIR(attr->la_mode) && spec) {
3565                 if (unlikely(spec->sp_cr_flags & MDS_OPEN_HAS_EA)) {
3566                         hint->dah_eadata = spec->u.sp_ea.eadata;
3567                         hint->dah_eadata_len = spec->u.sp_ea.eadatalen;
3568                         if (spec->sp_cr_flags & MDS_OPEN_DEFAULT_LMV)
3569                                 hint->dah_eadata_is_dmv = 1;
3570                 }
3571                 hint->dah_dmv_imp_inherit = spec->sp_dmv_imp_inherit;
3572         } else if (S_ISREG(attr->la_mode) &&
3573                    spec->sp_cr_flags & MDS_OPEN_APPEND) {
3574                 hint->dah_append_stripe_count = mdd->mdd_append_stripe_count;
3575                 hint->dah_append_pool = mdd->mdd_append_pool;
3576         }
3577
3578         CDEBUG(D_INFO, DFID" eadata %p len %d\n", PFID(mdd_object_fid(child)),
3579                hint->dah_eadata, hint->dah_eadata_len);
3580         /* @hint will be initialized by underlying device. */
3581         nc->do_ops->do_ah_init(env, hint, np, nc, attr->la_mode & S_IFMT);
3582 }
3583
3584 static int mdd_accmode(const struct lu_env *env, const struct lu_attr *la,
3585                        u64 open_flags)
3586 {
3587         /* Sadly, NFSD reopens a file repeatedly during operation, so the
3588          * "acc_mode = 0" allowance for newly-created files isn't honoured.
3589          * NFSD uses the MDS_OPEN_OWNEROVERRIDE flag to say that a file
3590          * owner can write to a file even if it is marked readonly to hide
3591          * its brokenness. (bug 5781) */
3592         if (open_flags & MDS_OPEN_OWNEROVERRIDE) {
3593                 struct lu_ucred *uc = lu_ucred_check(env);
3594
3595                 if ((uc == NULL) || (la->la_uid == uc->uc_fsuid))
3596                         return 0;
3597         }
3598
3599         return mds_accmode(open_flags);
3600 }
3601
3602 static int mdd_open_sanity_check(const struct lu_env *env,
3603                                  struct mdd_object *obj,
3604                                  const struct lu_attr *attr, u64 open_flags,
3605                                  int is_replay)
3606 {
3607         unsigned int may_mask;
3608         int rc;
3609         ENTRY;
3610
3611         /* EEXIST check, also opening of *open* orphans is allowed so we can
3612          * open-by-handle unlinked files
3613          */
3614         if (mdd_is_dead_obj(obj) && !is_replay &&
3615             likely(!(mdd_is_orphan_obj(obj) && obj->mod_count > 0)))
3616                 RETURN(-ENOENT);
3617
3618         if (S_ISLNK(attr->la_mode))
3619                 RETURN(-ELOOP);
3620
3621         may_mask = mdd_accmode(env, attr, open_flags);
3622
3623         if (S_ISDIR(attr->la_mode) && (may_mask & MAY_WRITE))
3624                 RETURN(-EISDIR);
3625
3626         if (!(open_flags & MDS_OPEN_CREATED)) {
3627                 rc = mdd_permission_internal(env, obj, attr, may_mask);
3628                 if (rc)
3629                         RETURN(rc);
3630         }
3631
3632         if (S_ISFIFO(attr->la_mode) || S_ISSOCK(attr->la_mode) ||
3633             S_ISBLK(attr->la_mode) || S_ISCHR(attr->la_mode))
3634                 open_flags &= ~MDS_OPEN_TRUNC;
3635
3636         /* For writing append-only file must open it with append mode. */
3637         if (attr->la_flags & LUSTRE_APPEND_FL) {
3638                 if ((open_flags & MDS_FMODE_WRITE) &&
3639                     !(open_flags & MDS_OPEN_APPEND))
3640                         RETURN(-EPERM);
3641                 if (open_flags & MDS_OPEN_TRUNC)
3642                         RETURN(-EPERM);
3643         }
3644
3645         RETURN(0);
3646 }
3647
3648 static int mdd_open(const struct lu_env *env, struct md_object *obj,
3649                     u64 open_flags, struct md_op_spec *spec)
3650 {
3651         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3652         struct md_device *md_dev = lu2md_dev(mdd2lu_dev(mdo2mdd(obj)));
3653         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
3654         struct mdd_object_user *mou = NULL;
3655         const struct lu_ucred *uc = lu_ucred(env);
3656         struct mdd_device *mdd = mdo2mdd(obj);
3657         enum changelog_rec_type type = CL_OPEN;
3658         int rc = 0;
3659         ENTRY;
3660
3661         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
3662
3663         rc = mdd_la_get(env, mdd_obj, attr);
3664         if (rc != 0)
3665                 GOTO(out, rc);
3666
3667         rc = mdd_open_sanity_check(env, mdd_obj, attr, open_flags,
3668                                    spec->no_create);
3669         if ((rc == -EACCES) && (mdd->mdd_cl.mc_current_mask & BIT(CL_DN_OPEN)))
3670                 type = CL_DN_OPEN;
3671         else if (rc != 0)
3672                 GOTO(out, rc);
3673         else
3674                 mdd_obj->mod_count++;
3675
3676         if (!mdd_changelog_enabled(env, mdd, type))
3677                 GOTO(out, rc);
3678
3679 find:
3680         /* look for existing opener in list under mdd_write_lock */
3681         mou = mdd_obj_user_find(mdd_obj, uc->uc_uid, uc->uc_gid, open_flags);
3682
3683         if (!mou) {
3684                 int rc2;
3685
3686                 /* add user to list */
3687                 mou = mdd_obj_user_alloc(open_flags, uc->uc_uid, uc->uc_gid);
3688                 if (IS_ERR(mou)) {
3689                         if (rc == 0)
3690                                 rc = PTR_ERR(mou);
3691                         GOTO(out, rc);
3692                 }
3693                 rc2 = mdd_obj_user_add(mdd_obj, mou, type == CL_DN_OPEN);
3694                 if (rc2 != 0) {
3695                         mdd_obj_user_free(mou);
3696                         if (rc2 == -EEXIST)
3697                                 GOTO(find, rc2);
3698                 }
3699         } else {
3700                 if (type == CL_DN_OPEN) {
3701                         if (ktime_before(ktime_get(), mou->mou_deniednext))
3702                                 /* same user denied again same access within
3703                                  * time interval: do not record
3704                                  */
3705                                 GOTO(out, rc);
3706
3707                         /* this user already denied, but some time ago:
3708                          * update denied time
3709                          */
3710                         mou->mou_deniednext =
3711                                 ktime_add(ktime_get(),
3712                                           ktime_set(mdd->mdd_cl.mc_deniednext,
3713                                                     0));
3714                 } else {
3715                         mou->mou_opencount++;
3716                         /* same user opening file again with same flags:
3717                          * don't record
3718                          */
3719                         GOTO(out, rc);
3720                 }
3721         }
3722
3723         /* we can't hold object lock over transaction start
3724          * and we don't actually need the object to be locked */
3725         mdd_write_unlock(env, mdd_obj);
3726
3727         /* FYI, only the bottom 32 bits of open_flags are recorded */
3728         /* only the low CLF_FLAGMASK bits of la_valid are stored*/
3729         mdd_changelog(env, type, open_flags & CLF_FLAGMASK, md_dev,
3730                       mdd_object_fid(mdd_obj));
3731
3732         GOTO(unlocked, rc);
3733
3734 out:
3735         mdd_write_unlock(env, mdd_obj);
3736 unlocked:
3737         return rc;
3738 }
3739
3740 static int mdd_declare_close(const struct lu_env *env, struct mdd_object *obj,
3741                              struct md_attr *ma, struct thandle *handle)
3742 {
3743         int rc;
3744
3745         rc = mdd_orphan_declare_delete(env, obj, handle);
3746         if (rc)
3747                 return rc;
3748
3749         return mdo_declare_destroy(env, obj, handle);
3750 }
3751
3752 /*
3753  * No permission check is needed.
3754  */
3755 static int mdd_close(const struct lu_env *env, struct md_object *obj,
3756                      struct md_attr *ma, u64 open_flags)
3757 {
3758         struct mdd_object *mdd_obj = md2mdd_obj(obj);
3759         struct mdd_device *mdd = mdo2mdd(obj);
3760         struct thandle *handle = NULL;
3761         int is_orphan = 0;
3762         int rc;
3763         bool blocked = false;
3764         bool last_close_by_uid = false;
3765         const struct lu_ucred *uc = lu_ucred(env);
3766         ENTRY;
3767
3768         if (ma->ma_valid & MA_FLAGS && ma->ma_attr_flags & MDS_KEEP_ORPHAN) {
3769                 mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
3770                 mdd_obj->mod_count--;
3771                 mdd_write_unlock(env, mdd_obj);
3772
3773                 if (mdd_obj->mod_flags & ORPHAN_OBJ && !mdd_obj->mod_count)
3774                         CDEBUG(D_HA, "Object "DFID" is retained in orphan "
3775                                 "list\n", PFID(mdd_object_fid(mdd_obj)));
3776                 RETURN(0);
3777         }
3778
3779         /* mdd_finish_unlink() will always set orphan object as DEAD_OBJ, but
3780          * it might fail to add the object to orphan list (w/o ORPHAN_OBJ). */
3781         /* check without any lock */
3782         is_orphan = mdd_obj->mod_count == 1 &&
3783                     (mdd_obj->mod_flags & (ORPHAN_OBJ | DEAD_OBJ)) != 0;
3784
3785 again:
3786         if (is_orphan) {
3787                 /* mdd_trans_create() maybe failed because of barrier_entry(),
3788                  * under such case, the orphan MDT-object will be left in the
3789                  * orphan list, and when the MDT remount next time, the unused
3790                  * orphans will be destroyed automatically.
3791                  *
3792                  * One exception: the former mdd_finish_unlink may failed to
3793                  * add the orphan MDT-object to the orphan list, then if the
3794                  * mdd_trans_create() failed because of barrier_entry(), the
3795                  * MDT-object will become real orphan that is neither in the
3796                  * namespace nor in the orphan list. Such bad case should be
3797                  * very rare and will be handled by e2fsck/lfsck. */
3798                 handle = mdd_trans_create(env, mdo2mdd(obj));
3799                 if (IS_ERR(handle)) {
3800                         rc = PTR_ERR(handle);
3801                         if (rc != -EINPROGRESS)
3802                                 GOTO(stop, rc);
3803
3804                         handle = NULL;
3805                         blocked = true;
3806                         goto cont;
3807                 }
3808
3809                 rc = mdd_declare_close(env, mdd_obj, ma, handle);
3810                 if (rc)
3811                         GOTO(stop, rc);
3812
3813                 rc = mdd_declare_changelog_store(env, mdd, CL_CLOSE, NULL, NULL,
3814                                                  handle);
3815                 if (rc)
3816                         GOTO(stop, rc);
3817
3818                 rc = mdd_trans_start(env, mdo2mdd(obj), handle);
3819                 if (rc)
3820                         GOTO(stop, rc);
3821         }
3822
3823 cont:
3824         mdd_write_lock(env, mdd_obj, DT_TGT_CHILD);
3825         rc = mdd_la_get(env, mdd_obj, &ma->ma_attr);
3826         if (rc != 0) {
3827                 CERROR("%s: failed to get lu_attr of "DFID": rc = %d\n",
3828                        lu_dev_name(mdd2lu_dev(mdd)),
3829                        PFID(mdd_object_fid(mdd_obj)), rc);
3830                 GOTO(out, rc);
3831         }
3832
3833         /* check again with lock */
3834         is_orphan = (mdd_obj->mod_count == 1) &&
3835                     ((mdd_obj->mod_flags & (ORPHAN_OBJ | DEAD_OBJ)) != 0 ||
3836                      ma->ma_attr.la_nlink == 0);
3837
3838         if (is_orphan && !handle && !blocked) {
3839                 mdd_write_unlock(env, mdd_obj);
3840                 goto again;
3841         }
3842
3843         mdd_obj->mod_count--; /*release open count */
3844
3845         /* under mdd write lock */
3846         /* If recording, see if we need to remove UID from list. uc is not
3847          * initialized if the client has been evicted. */
3848         if (mdd_changelog_enabled(env, mdd, CL_OPEN) && uc) {
3849                 struct mdd_object_user *mou;
3850
3851                 /* look for UID in list */
3852                 /* If mou is NULL, it probably means logging was enabled after
3853                  * the user had the file open. So the corresponding close
3854                  * will not be logged.
3855                  */
3856                 mou = mdd_obj_user_find(mdd_obj, uc->uc_uid, uc->uc_gid,
3857                                         open_flags);
3858                 if (mou) {
3859                         mou->mou_opencount--;
3860                         if (mou->mou_opencount == 0) {
3861                                 mdd_obj_user_remove(mdd_obj, mou);
3862                                 last_close_by_uid = true;
3863                         }
3864                 }
3865         }
3866
3867         if (!is_orphan || blocked)
3868                 GOTO(out, rc = 0);
3869
3870         /* Orphan object */
3871         /* NB: Object maybe not in orphan list originally, it is rare case for
3872          * mdd_finish_unlink() failure, in that case, the object doesn't have
3873          * ORPHAN_OBJ flag */
3874         if ((mdd_obj->mod_flags & ORPHAN_OBJ) != 0) {
3875                 /* remove link to object from orphan index */
3876                 LASSERT(handle != NULL);
3877                 rc = mdd_orphan_delete(env, mdd_obj, handle);
3878                 if (rc != 0) {
3879                         CERROR("%s: unable to delete "DFID" from orphan list: "
3880                                "rc = %d\n", lu_dev_name(mdd2lu_dev(mdd)),
3881                                PFID(mdd_object_fid(mdd_obj)), rc);
3882                         /* If object was not deleted from orphan list, do not
3883                          * destroy OSS objects, which will be done when next
3884                          * recovery. */
3885                         GOTO(out, rc);
3886                 }
3887
3888                 CDEBUG(D_HA, "Object "DFID" is deleted from orphan "
3889                        "list, OSS objects to be destroyed.\n",
3890                        PFID(mdd_object_fid(mdd_obj)));
3891         }
3892
3893         rc = mdo_destroy(env, mdd_obj, handle);
3894
3895         if (rc != 0) {
3896                 CERROR("%s: unable to delete "DFID" from orphan list: "
3897                        "rc = %d\n", lu_dev_name(mdd2lu_dev(mdd)),
3898                        PFID(mdd_object_fid(mdd_obj)), rc);
3899         }
3900         EXIT;
3901
3902 out:
3903         mdd_write_unlock(env, mdd_obj);
3904
3905         if (rc != 0 || blocked ||
3906             !mdd_changelog_enabled(env, mdd, CL_CLOSE))
3907                 GOTO(stop, rc);
3908
3909         /* Record CL_CLOSE in changelog only if file was opened in write mode,
3910          * or if CL_OPEN was recorded and it's last close by user.
3911          * Changelogs mask may change between open and close operations, but
3912          * this is not a big deal if we have a CL_CLOSE entry with no matching
3913          * CL_OPEN. Plus Changelogs mask may not change often.
3914          */
3915         if (((!(mdd->mdd_cl.mc_current_mask & BIT(CL_OPEN)) &&
3916               (open_flags & (MDS_FMODE_WRITE | MDS_OPEN_APPEND |
3917                              MDS_OPEN_TRUNC))) ||
3918              ((mdd->mdd_cl.mc_current_mask & BIT(CL_OPEN)) &&
3919               last_close_by_uid)) &&
3920             !(ma->ma_valid & MA_FLAGS && ma->ma_attr_flags & MDS_RECOV_OPEN)) {
3921                 if (handle == NULL) {
3922                         handle = mdd_trans_create(env, mdo2mdd(obj));
3923                         if (IS_ERR(handle))
3924                                 GOTO(stop, rc = PTR_ERR(handle));
3925
3926                         rc = mdd_declare_changelog_store(env, mdd, CL_CLOSE,
3927                                                          NULL, NULL, handle);
3928                         if (rc)
3929                                 GOTO(stop, rc);
3930
3931                         rc = mdd_trans_start(env, mdo2mdd(obj), handle);
3932                         if (rc)
3933                                 GOTO(stop, rc);
3934                 }
3935
3936                 /* FYI, only the bottom 32 bits of open_flags are recorded */
3937                 mdd_changelog_data_store(env, mdd, CL_CLOSE, open_flags,
3938                                          mdd_obj, handle, NULL);
3939         }
3940
3941 stop:
3942         if (handle != NULL && !IS_ERR(handle))
3943                 rc = mdd_trans_stop(env, mdd, rc, handle);
3944
3945         return rc;
3946 }
3947
3948 /*
3949  * Permission check is done when open,
3950  * no need check again.
3951  */
3952 static int mdd_readpage_sanity_check(const struct lu_env *env,
3953                                      struct mdd_object *obj)
3954 {
3955         if (!dt_try_as_dir(env, mdd_object_child(obj), true))
3956                 return -ENOTDIR;
3957
3958         return 0;
3959 }
3960
3961 static int mdd_dir_page_build(const struct lu_env *env, struct dt_object *obj,
3962                               union lu_page *lp, size_t bytes,
3963                               const struct dt_it_ops *iops,
3964                               struct dt_it *it, __u32 attr, void *arg)
3965 {
3966         struct lu_dirpage *dp = &lp->lp_dir;
3967         void *area = dp;
3968         __u64 hash = 0;
3969         struct lu_dirent *ent;
3970         struct lu_dirent *last = NULL;
3971         struct lu_fid fid;
3972         int first = 1;
3973         int result;
3974
3975         if (bytes < sizeof(*dp))
3976                 GOTO(out_err, result = -EOVERFLOW);
3977
3978         memset(area, 0, sizeof(*dp));
3979         area += sizeof(*dp);
3980         bytes -= sizeof(*dp);
3981
3982         ent = area;
3983         do {
3984                 int len;
3985                 size_t recsize;
3986
3987                 len = iops->key_size(env, it);
3988
3989                 /* IAM iterator can return record with zero len. */
3990                 if (len == 0)
3991                         GOTO(next, 0);
3992
3993                 hash = iops->store(env, it);
3994                 if (unlikely(first)) {
3995                         first = 0;
3996                         dp->ldp_hash_start = cpu_to_le64(hash);
3997                 }
3998
3999                 /* calculate max space required for lu_dirent */
4000                 recsize = lu_dirent_calc_size(len, attr);
4001
4002                 if (bytes >= recsize &&
4003                     !CFS_FAIL_CHECK(OBD_FAIL_MDS_DIR_PAGE_WALK)) {
4004                         result = iops->rec(env, it, (struct dt_rec *)ent, attr);
4005                         if (result == -ESTALE)
4006                                 GOTO(next, result);
4007                         if (result != 0)
4008                                 GOTO(out, result);
4009
4010                         /* OSD might not able to pack all attributes, so
4011                          * recheck record length had room to store FID
4012                          */
4013                         recsize = le16_to_cpu(ent->lde_reclen);
4014
4015                         if (le32_to_cpu(ent->lde_attrs) & LUDA_FID) {
4016                                 fid_le_to_cpu(&fid, &ent->lde_fid);
4017                                 if (fid_is_dot_lustre(&fid))
4018                                         GOTO(next, recsize);
4019                         }
4020                 } else {
4021                         result = (last != NULL) ? 0 : -EBADSLT;
4022                         GOTO(out, result);
4023                 }
4024                 last = ent;
4025                 ent = (void *)ent + recsize;
4026                 bytes -= recsize;
4027
4028 next:
4029                 result = iops->next(env, it);
4030                 if (result == -ESTALE)
4031                         GOTO(next, result);
4032         } while (result == 0);
4033
4034 out:
4035         dp->ldp_hash_end = cpu_to_le64(hash);
4036         if (last != NULL) {
4037                 if (last->lde_hash == dp->ldp_hash_end)
4038                         dp->ldp_flags |= cpu_to_le32(LDF_COLLIDE);
4039                 last->lde_reclen = 0; /* end mark */
4040         }
4041 out_err:
4042         if (result > 0)
4043                 /* end of directory */
4044                 dp->ldp_hash_end = cpu_to_le64(MDS_DIR_END_OFF);
4045         else if (result < 0)
4046                 CWARN("%s: build page failed for "DFID": rc = %d\n",
4047                       lu_dev_name(obj->do_lu.lo_dev),
4048                       PFID(lu_object_fid(&obj->do_lu)), result);
4049
4050         return result;
4051 }
4052
4053 int mdd_readpage(const struct lu_env *env, struct md_object *obj,
4054                  const struct lu_rdpg *rdpg)
4055 {
4056         struct mdd_object *mdd_obj = md2mdd_obj(obj);
4057         int rc;
4058         ENTRY;
4059
4060         if (mdd_object_exists(mdd_obj) == 0) {
4061                 CERROR("%s: object "DFID" not found: rc = -2\n",
4062                        mdd_obj_dev_name(mdd_obj),PFID(mdd_object_fid(mdd_obj)));
4063                 return -ENOENT;
4064         }
4065
4066         mdd_read_lock(env, mdd_obj, DT_TGT_CHILD);
4067         rc = mdd_readpage_sanity_check(env, mdd_obj);
4068         if (rc)
4069                 GOTO(out_unlock, rc);
4070
4071         if (mdd_is_dead_obj(mdd_obj)) {
4072                 struct page *pg;
4073                 struct lu_dirpage *dp;
4074
4075                 /*
4076                  * According to POSIX, please do not return any entry to client:
4077                  * even dot and dotdot should not be returned.
4078                  */
4079                 CDEBUG(D_INODE, "readdir from dead object: "DFID"\n",
4080                        PFID(mdd_object_fid(mdd_obj)));
4081
4082                 if (rdpg->rp_count <= 0)
4083                         GOTO(out_unlock, rc = -EFAULT);
4084                 LASSERT(rdpg->rp_pages != NULL);
4085
4086                 pg = rdpg->rp_pages[0];
4087                 dp = (struct lu_dirpage *)kmap(pg);
4088                 memset(dp, 0 , sizeof(struct lu_dirpage));
4089                 dp->ldp_hash_start = cpu_to_le64(rdpg->rp_hash);
4090                 dp->ldp_hash_end   = cpu_to_le64(MDS_DIR_END_OFF);
4091                 dp->ldp_flags = cpu_to_le32(LDF_EMPTY);
4092                 kunmap(pg);
4093                 GOTO(out_unlock, rc = LU_PAGE_SIZE);
4094         }
4095
4096         rc = dt_index_walk(env, mdd_object_child(mdd_obj), rdpg,
4097                            mdd_dir_page_build, NULL);
4098         if (rc >= 0) {
4099                 struct lu_dirpage       *dp;
4100
4101                 dp = kmap(rdpg->rp_pages[0]);
4102                 dp->ldp_hash_start = cpu_to_le64(rdpg->rp_hash);
4103                 if (rc == 0) {
4104                         /*
4105                          * No pages were processed, mark this for first page
4106                          * and send back.
4107                          */
4108                         dp->ldp_hash_end = cpu_to_le64(MDS_DIR_END_OFF);
4109                         dp->ldp_flags = cpu_to_le32(LDF_EMPTY);
4110                         rc = min_t(unsigned int, LU_PAGE_SIZE, rdpg->rp_count);
4111                 }
4112                 kunmap(rdpg->rp_pages[0]);
4113         }
4114
4115         GOTO(out_unlock, rc);
4116 out_unlock:
4117         mdd_read_unlock(env, mdd_obj);
4118         return rc;
4119 }
4120
4121 static int mdd_object_sync(const struct lu_env *env, struct md_object *obj)
4122 {
4123         struct mdd_object *mdd_obj = md2mdd_obj(obj);
4124
4125         if (mdd_object_exists(mdd_obj) == 0) {
4126                 int rc = -ENOENT;
4127
4128                 CERROR("%s: object "DFID" not found: rc = %d\n",
4129                        mdd_obj_dev_name(mdd_obj),
4130                        PFID(mdd_object_fid(mdd_obj)), rc);
4131                 return rc;
4132         }
4133         return dt_object_sync(env, mdd_object_child(mdd_obj),
4134                               0, OBD_OBJECT_EOF);
4135 }
4136
4137 static int mdd_object_lock(const struct lu_env *env,
4138                            struct md_object *obj,
4139                            struct lustre_handle *lh,
4140                            struct ldlm_enqueue_info *einfo,
4141                            union ldlm_policy_data *policy)
4142 {
4143         struct mdd_object *mdd_obj = md2mdd_obj(obj);
4144         return dt_object_lock(env, mdd_object_child(mdd_obj), lh,
4145                               einfo, policy);
4146 }
4147
4148 static int mdd_object_unlock(const struct lu_env *env,
4149                              struct md_object *obj,
4150                              struct ldlm_enqueue_info *einfo,
4151                              union ldlm_policy_data *policy)
4152 {
4153         struct mdd_object *mdd_obj = md2mdd_obj(obj);
4154         return dt_object_unlock(env, mdd_object_child(mdd_obj), einfo, policy);
4155 }
4156
4157 const struct md_object_operations mdd_obj_ops = {
4158         .moo_permission         = mdd_permission,
4159         .moo_attr_get           = mdd_attr_get,
4160         .moo_attr_set           = mdd_attr_set,
4161         .moo_xattr_get          = mdd_xattr_get,
4162         .moo_xattr_set          = mdd_xattr_set,
4163         .moo_xattr_list         = mdd_xattr_list,
4164         .moo_invalidate         = mdd_invalidate,
4165         .moo_xattr_del          = mdd_xattr_del,
4166         .moo_swap_layouts       = mdd_swap_layouts,
4167         .moo_open               = mdd_open,
4168         .moo_close              = mdd_close,
4169         .moo_readpage           = mdd_readpage,
4170         .moo_readlink           = mdd_readlink,
4171         .moo_changelog          = mdd_changelog,
4172         .moo_object_sync        = mdd_object_sync,
4173         .moo_object_lock        = mdd_object_lock,
4174         .moo_object_unlock      = mdd_object_unlock,
4175         .moo_layout_change      = mdd_layout_change,
4176 };