lustre/mdd/mdd_object.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2017, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  * Lustre is a trademark of Sun Microsystems, Inc.
  31  *
  32  * lustre/mdd/mdd_object.c
  33  *
  34  * Lustre Metadata Server (mdd) routines
  35  *
  36  * Author: Wang Di <wangdi@clusterfs.com>
  37  */
  38
  39 #define DEBUG_SUBSYSTEM S_MDS
  40
  41 #include <linux/module.h>
  42 #include <obd.h>
  43 #include <obd_class.h>
  44 #include <obd_support.h>
  45 #include <lprocfs_status.h>
  46 /* fid_be_cpu(), fid_cpu_to_be(). */
  47 #include <lustre_fid.h>
  48 #include <lustre_idmap.h>
  49 #include <uapi/linux/lustre/lustre_param.h>
  50 #include <lustre_mds.h>
  51
  52 #include "mdd_internal.h"
  53
  54 static const struct lu_object_operations mdd_lu_obj_ops;
  55
  56 static int mdd_xattr_get(const struct lu_env *env,
  57                          struct md_object *obj, struct lu_buf *buf,
  58                          const char *name);
  59
  60 int mdd_la_get(const struct lu_env *env, struct mdd_object *obj,
  61                struct lu_attr *la)
  62 {
  63         int rc;
  64
  65         if (mdd_object_exists(obj) == 0)
  66                 return -ENOENT;
  67
  68         rc = mdo_attr_get(env, obj, la);
  69         if (unlikely(rc != 0)) {
  70                 if (rc == -ENOENT)
  71                         obj->mod_flags |= DEAD_OBJ;
  72                 return rc;
  73         }
  74
  75         if (la->la_valid & LA_FLAGS &&
  76             la->la_flags & LUSTRE_ORPHAN_FL)
  77                 obj->mod_flags |= ORPHAN_OBJ | DEAD_OBJ;
  78
  79         return 0;
  80 }
  81
  82 struct mdd_thread_info *mdd_env_info(const struct lu_env *env)
  83 {
  84         struct mdd_thread_info *info;
  85
  86         lu_env_refill((struct lu_env *)env);
  87         info = lu_context_key_get(&env->le_ctx, &mdd_thread_key);
  88         LASSERT(info != NULL);
  89         return info;
  90 }
  91
  92 struct lu_buf *mdd_buf_get(const struct lu_env *env, void *area, ssize_t len)
  93 {
  94         struct lu_buf *buf;
  95
  96         buf = &mdd_env_info(env)->mti_buf[0];
  97         buf->lb_buf = area;
  98         buf->lb_len = len;
  99         return buf;
 100 }
 101
 102 const struct lu_buf *mdd_buf_get_const(const struct lu_env *env,
 103                                        const void *area, ssize_t len)
 104 {
 105         struct lu_buf *buf;
 106
 107         buf = &mdd_env_info(env)->mti_buf[0];
 108         buf->lb_buf = (void *)area;
 109         buf->lb_len = len;
 110         return buf;
 111 }
 112
 113 struct lu_object *mdd_object_alloc(const struct lu_env *env,
 114                                    const struct lu_object_header *hdr,
 115                                    struct lu_device *d)
 116 {
 117         struct mdd_object *mdd_obj;
 118
 119         OBD_SLAB_ALLOC_PTR_GFP(mdd_obj, mdd_object_kmem, GFP_NOFS);
 120         if (mdd_obj != NULL) {
 121                 struct lu_object *o;
 122
 123                 o = mdd2lu_obj(mdd_obj);
 124                 lu_object_init(o, NULL, d);
 125                 mdd_obj->mod_obj.mo_ops = &mdd_obj_ops;
 126                 mdd_obj->mod_obj.mo_dir_ops = &mdd_dir_ops;
 127                 mdd_obj->mod_count = 0;
 128                 o->lo_ops = &mdd_lu_obj_ops;
 129                 return o;
 130         } else {
 131                 return NULL;
 132         }
 133 }
 134
 135 static int mdd_object_init(const struct lu_env *env, struct lu_object *o,
 136                            const struct lu_object_conf *unused)
 137 {
 138         struct mdd_device *d = lu2mdd_dev(o->lo_dev);
 139         struct mdd_object *mdd_obj = lu2mdd_obj(o);
 140         struct lu_object  *below;
 141         struct lu_device  *under;
 142         ENTRY;
 143
 144         mdd_obj->mod_cltime = ktime_set(0, 0);
 145         under = &d->mdd_child->dd_lu_dev;
 146         below = under->ld_ops->ldo_object_alloc(env, o->lo_header, under);
 147         if (IS_ERR(below))
 148                 RETURN(PTR_ERR(below));
 149
 150         lu_object_add(o, below);
 151
 152         RETURN(0);
 153 }
 154
 155 static int mdd_object_start(const struct lu_env *env, struct lu_object *o)
 156 {
 157         int rc = 0;
 158
 159         if (lu_object_exists(o)) {
 160                 struct mdd_object *mdd_obj = lu2mdd_obj(o);
 161                 struct lu_attr *attr = MDD_ENV_VAR(env, la_for_start);
 162
 163                 rc = mdd_la_get(env, mdd_obj, attr);
 164         }
 165
 166         return rc;
 167 }
 168
 169 static void mdd_object_free(const struct lu_env *env, struct lu_object *o)
 170 {
 171         struct mdd_object *mdd = lu2mdd_obj(o);
 172
 173         lu_object_fini(o);
 174         OBD_SLAB_FREE_PTR(mdd, mdd_object_kmem);
 175 }
 176
 177 static int mdd_object_print(const struct lu_env *env, void *cookie,
 178                             lu_printer_t p, const struct lu_object *o)
 179 {
 180         struct mdd_object *mdd = lu2mdd_obj((struct lu_object *)o);
 181
 182         return (*p)(env, cookie,
 183                     LUSTRE_MDD_NAME"-object@%p(open_count=%d, valid=%x, cltime=%lldns, flags=%lx)",
 184                     mdd, mdd->mod_count, mdd->mod_valid,
 185                     ktime_to_ns(mdd->mod_cltime), mdd->mod_flags);
 186 }
 187
 188 static const struct lu_object_operations mdd_lu_obj_ops = {
 189         .loo_object_init    = mdd_object_init,
 190         .loo_object_start   = mdd_object_start,
 191         .loo_object_free    = mdd_object_free,
 192         .loo_object_print   = mdd_object_print,
 193 };
 194
 195 struct mdd_object *mdd_object_find(const struct lu_env *env,
 196                                    struct mdd_device *d,
 197                                    const struct lu_fid *f)
 198 {
 199         return md2mdd_obj(md_object_find_slice(env, &d->mdd_md_dev, f));
 200 }
 201
 202 /*
 203  * No permission check is needed.
 204  */
 205 int mdd_attr_get(const struct lu_env *env, struct md_object *obj,
 206                  struct md_attr *ma)
 207 {
 208         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 209         int               rc;
 210
 211         ENTRY;
 212
 213         rc = mdd_la_get(env, mdd_obj, &ma->ma_attr);
 214         if ((ma->ma_need & MA_INODE) != 0 && mdd_is_dead_obj(mdd_obj))
 215                 ma->ma_attr.la_nlink = 0;
 216
 217         RETURN(rc);
 218 }
 219
 220 /*
 221  * No permission check is needed.
 222  */
 223 static int mdd_xattr_get(const struct lu_env *env,
 224                          struct md_object *obj, struct lu_buf *buf,
 225                          const char *name)
 226 {
 227         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 228         int rc;
 229
 230         ENTRY;
 231
 232         if (mdd_object_exists(mdd_obj) == 0) {
 233                 CERROR("%s: object "DFID" not found: rc = -2\n",
 234                        mdd_obj_dev_name(mdd_obj),PFID(mdd_object_fid(mdd_obj)));
 235                 return -ENOENT;
 236         }
 237
 238         /* If the object has been destroyed, then do not get LMVEA, because
 239          * it needs to load stripes from the iteration of the master object,
 240          * and it will cause problem if master object has been destroyed, see
 241          * LU-6427 */
 242         if (unlikely((mdd_obj->mod_flags & DEAD_OBJ) &&
 243                      !(mdd_obj->mod_flags & ORPHAN_OBJ) &&
 244                       strcmp(name, XATTR_NAME_LMV) == 0))
 245                 RETURN(-ENOENT);
 246
 247         /* If the object has been delete from the namespace, then
 248          * get linkEA should return -ENOENT as well */
 249         if (unlikely((mdd_obj->mod_flags & (DEAD_OBJ | ORPHAN_OBJ)) &&
 250                       strcmp(name, XATTR_NAME_LINK) == 0))
 251                 RETURN(-ENOENT);
 252
 253         mdd_read_lock(env, mdd_obj, MOR_TGT_CHILD);
 254         rc = mdo_xattr_get(env, mdd_obj, buf, name);
 255         mdd_read_unlock(env, mdd_obj);
 256
 257         RETURN(rc);
 258 }
 259
 260 /*
 261  * Permission check is done when open,
 262  * no need check again.
 263  */
 264 int mdd_readlink(const struct lu_env *env, struct md_object *obj,
 265                  struct lu_buf *buf)
 266 {
 267         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 268         struct dt_object  *next;
 269         loff_t             pos = 0;
 270         int                rc;
 271         ENTRY;
 272
 273         if (mdd_object_exists(mdd_obj) == 0) {
 274                 CERROR("%s: object "DFID" not found: rc = -2\n",
 275                        mdd_obj_dev_name(mdd_obj),PFID(mdd_object_fid(mdd_obj)));
 276                 return -ENOENT;
 277         }
 278
 279         next = mdd_object_child(mdd_obj);
 280         LASSERT(next != NULL);
 281         LASSERT(next->do_body_ops != NULL);
 282         LASSERT(next->do_body_ops->dbo_read != NULL);
 283         mdd_read_lock(env, mdd_obj, MOR_TGT_CHILD);
 284         rc = dt_read(env, next, buf, &pos);
 285         mdd_read_unlock(env, mdd_obj);
 286         RETURN(rc);
 287 }
 288
 289 /*
 290  * No permission check is needed.
 291  */
 292 static int mdd_xattr_list(const struct lu_env *env, struct md_object *obj,
 293                           struct lu_buf *buf)
 294 {
 295         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 296         int rc;
 297
 298         ENTRY;
 299
 300         mdd_read_lock(env, mdd_obj, MOR_TGT_CHILD);
 301         rc = mdo_xattr_list(env, mdd_obj, buf);
 302         mdd_read_unlock(env, mdd_obj);
 303
 304         /* If the buffer is NULL then we are only here to get the
 305          * length of the xattr name list. */
 306         if (rc < 0 || buf->lb_buf == NULL)
 307                 RETURN(rc);
 308
 309         /*
 310          * Filter out XATTR_NAME_LINK if this is an orphan object.  See
 311          * mdd_xattr_get().
 312          */
 313         if (unlikely(mdd_obj->mod_flags & (DEAD_OBJ | ORPHAN_OBJ))) {
 314                 char   *end = (char *)buf->lb_buf + rc;
 315                 char   *p = buf->lb_buf;
 316
 317                 while (p < end) {
 318                         char   *next = p + strlen(p) + 1;
 319
 320                         if (strcmp(p, XATTR_NAME_LINK) == 0) {
 321                                 if (end - next > 0)
 322                                         memmove(p, next, end - next);
 323                                 rc -= next - p;
 324                                 CDEBUG(D_INFO, "Filtered out "XATTR_NAME_LINK
 325                                        " of orphan "DFID"\n",
 326                                        PFID(mdd_object_fid(mdd_obj)));
 327                                 break;
 328                         }
 329
 330                         p = next;
 331                 }
 332         }
 333
 334         RETURN(rc);
 335 }
 336
 337 int mdd_invalidate(const struct lu_env *env, struct md_object *obj)
 338 {
 339         return mdo_invalidate(env, md2mdd_obj(obj));
 340 }
 341
 342 int mdd_declare_create_object_internal(const struct lu_env *env,
 343                                        struct mdd_object *p,
 344                                        struct mdd_object *c,
 345                                        struct lu_attr *attr,
 346                                        struct thandle *handle,
 347                                        const struct md_op_spec *spec,
 348                                        struct dt_allocation_hint *hint)
 349 {
 350         struct dt_object_format *dof = &mdd_env_info(env)->mti_dof;
 351         const struct dt_index_features *feat = spec->sp_feat;
 352         int rc;
 353         ENTRY;
 354
 355         if (feat != &dt_directory_features && feat != NULL) {
 356                 dof->dof_type = DFT_INDEX;
 357                 dof->u.dof_idx.di_feat = feat;
 358         } else {
 359                 dof->dof_type = dt_mode_to_dft(attr->la_mode);
 360                 if (dof->dof_type == DFT_REGULAR) {
 361                         dof->u.dof_reg.striped =
 362                                 md_should_create(spec->sp_cr_flags);
 363                         if (spec->sp_cr_flags & MDS_OPEN_HAS_EA)
 364                                 dof->u.dof_reg.striped = 0;
 365                         /* is this replay? */
 366                         if (spec->no_create)
 367                                 dof->u.dof_reg.striped = 0;
 368                 }
 369         }
 370
 371         rc = mdo_declare_create_object(env, c, attr, hint, dof, handle);
 372
 373         RETURN(rc);
 374 }
 375
 376 int mdd_create_object_internal(const struct lu_env *env, struct mdd_object *p,
 377                                struct mdd_object *c, struct lu_attr *attr,
 378                                struct thandle *handle,
 379                                const struct md_op_spec *spec,
 380                                struct dt_allocation_hint *hint)
 381 {
 382         struct dt_object_format *dof = &mdd_env_info(env)->mti_dof;
 383         int rc;
 384         ENTRY;
 385
 386         LASSERT(!mdd_object_exists(c));
 387
 388         rc = mdo_create_object(env, c, attr, hint, dof, handle);
 389
 390         RETURN(rc);
 391 }
 392
 393 int mdd_attr_set_internal(const struct lu_env *env, struct mdd_object *obj,
 394                           const struct lu_attr *attr, struct thandle *handle,
 395                           int needacl)
 396 {
 397         int rc;
 398         ENTRY;
 399
 400         rc = mdo_attr_set(env, obj, attr, handle);
 401 #ifdef CONFIG_FS_POSIX_ACL
 402         if (!rc && (attr->la_valid & LA_MODE) && needacl)
 403                 rc = mdd_acl_chmod(env, obj, attr->la_mode, handle);
 404 #endif
 405         RETURN(rc);
 406 }
 407
 408 int mdd_update_time(const struct lu_env *env, struct mdd_object *obj,
 409                     const struct lu_attr *oattr, struct lu_attr *attr,
 410                     struct thandle *handle)
 411 {
 412         int rc = 0;
 413         ENTRY;
 414
 415         LASSERT(attr->la_valid & LA_CTIME);
 416         LASSERT(oattr != NULL);
 417
 418         /* Make sure the ctime is increased only, however, it's not strictly
 419          * reliable at here because there is not guarantee to hold lock on
 420          * object, so we just bypass some unnecessary cmtime setting first
 421          * and OSD has to check it again. */
 422         if (attr->la_ctime < oattr->la_ctime)
 423                 attr->la_valid &= ~(LA_MTIME | LA_CTIME);
 424         else if (attr->la_valid == LA_CTIME &&
 425                  attr->la_ctime == oattr->la_ctime)
 426                 attr->la_valid &= ~LA_CTIME;
 427
 428         if (attr->la_valid != 0)
 429                 rc = mdd_attr_set_internal(env, obj, attr, handle, 0);
 430         RETURN(rc);
 431 }
 432
 433 /*
 434  * This gives the same functionality as the code between
 435  * sys_chmod and inode_setattr
 436  * chown_common and inode_setattr
 437  * utimes and inode_setattr
 438  * This API is ported from mds_fix_attr but remove some unnecesssary stuff.
 439  */
 440 static int mdd_fix_attr(const struct lu_env *env, struct mdd_object *obj,
 441                         const struct lu_attr *oattr, struct lu_attr *la,
 442                         const unsigned long flags)
 443 {
 444         struct lu_ucred  *uc;
 445         int               rc = 0;
 446         ENTRY;
 447
 448         if (!la->la_valid)
 449                 RETURN(0);
 450
 451         /* Do not permit change file type */
 452         if (la->la_valid & LA_TYPE)
 453                 RETURN(-EPERM);
 454
 455         /* They should not be processed by setattr */
 456         if (la->la_valid & (LA_NLINK | LA_RDEV | LA_BLKSIZE))
 457                 RETURN(-EPERM);
 458
 459         LASSERT(oattr != NULL);
 460
 461         uc = lu_ucred_check(env);
 462         if (uc == NULL)
 463                 RETURN(0);
 464
 465         if (la->la_valid == LA_CTIME) {
 466                 if (!(flags & MDS_PERM_BYPASS))
 467                         /* This is only for set ctime when rename's source is
 468                          * on remote MDS. */
 469                         rc = mdd_may_delete(env, NULL, NULL, obj, oattr, NULL,
 470                                             1, 0);
 471                 if (rc == 0 && la->la_ctime <= oattr->la_ctime)
 472                         la->la_valid &= ~LA_CTIME;
 473                 RETURN(rc);
 474         }
 475
 476         if (la->la_valid == LA_ATIME) {
 477                 /* This is an atime-only attribute update for close RPCs. */
 478                 if (la->la_atime < (oattr->la_atime +
 479                                 mdd_obj2mdd_dev(obj)->mdd_atime_diff))
 480                         la->la_valid &= ~LA_ATIME;
 481                 RETURN(0);
 482         }
 483
 484         /* Check if flags change. */
 485         if (la->la_valid & LA_FLAGS) {
 486                 unsigned int oldflags = oattr->la_flags &
 487                                 (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL);
 488                 unsigned int newflags = la->la_flags &
 489                                 (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL);
 490
 491                 if ((uc->uc_fsuid != oattr->la_uid) &&
 492                     !md_capable(uc, CFS_CAP_FOWNER))
 493                         RETURN(-EPERM);
 494
 495                 /* The IMMUTABLE and APPEND_ONLY flags can
 496                  * only be changed by the relevant capability. */
 497                 if ((oldflags ^ newflags) &&
 498                     !md_capable(uc, CFS_CAP_LINUX_IMMUTABLE))
 499                         RETURN(-EPERM);
 500
 501                 if (!S_ISDIR(oattr->la_mode))
 502                         la->la_flags &= ~(LUSTRE_DIRSYNC_FL | LUSTRE_TOPDIR_FL);
 503         }
 504
 505         if (oattr->la_flags & (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL) &&
 506             (la->la_valid & ~LA_FLAGS) &&
 507             !(flags & MDS_PERM_BYPASS))
 508                 RETURN(-EPERM);
 509
 510         /* Check for setting the obj time. */
 511         if ((la->la_valid & (LA_MTIME | LA_ATIME | LA_CTIME)) &&
 512             !(la->la_valid & ~(LA_MTIME | LA_ATIME | LA_CTIME))) {
 513                 if ((uc->uc_fsuid != oattr->la_uid) &&
 514                     !md_capable(uc, CFS_CAP_FOWNER)) {
 515                         rc = mdd_permission_internal(env, obj, oattr,
 516                                                      MAY_WRITE);
 517                         if (rc)
 518                                 RETURN(rc);
 519                 }
 520         }
 521
 522         if (la->la_valid & LA_KILL_SUID) {
 523                 la->la_valid &= ~LA_KILL_SUID;
 524                 if ((oattr->la_mode & S_ISUID) &&
 525                     !(la->la_valid & LA_MODE)) {
 526                         la->la_mode = oattr->la_mode;
 527                         la->la_valid |= LA_MODE;
 528                 }
 529                 la->la_mode &= ~S_ISUID;
 530         }
 531
 532         if (la->la_valid & LA_KILL_SGID) {
 533                 la->la_valid &= ~LA_KILL_SGID;
 534                 if (((oattr->la_mode & (S_ISGID | S_IXGRP)) ==
 535                         (S_ISGID | S_IXGRP)) &&
 536                     !(la->la_valid & LA_MODE)) {
 537                         la->la_mode = oattr->la_mode;
 538                         la->la_valid |= LA_MODE;
 539                 }
 540                 la->la_mode &= ~S_ISGID;
 541         }
 542
 543         /* Make sure a caller can chmod. */
 544         if (la->la_valid & LA_MODE) {
 545                 if (!(flags & MDS_PERM_BYPASS) &&
 546                     (uc->uc_fsuid != oattr->la_uid) &&
 547                     !md_capable(uc, CFS_CAP_FOWNER))
 548                         RETURN(-EPERM);
 549
 550                 if (la->la_mode == (umode_t) -1)
 551                         la->la_mode = oattr->la_mode;
 552                 else
 553                         la->la_mode = (la->la_mode & S_IALLUGO) |
 554                                         (oattr->la_mode & ~S_IALLUGO);
 555
 556                 /* Also check the setgid bit! */
 557                 if (!lustre_in_group_p(uc, (la->la_valid & LA_GID) ?
 558                                        la->la_gid : oattr->la_gid) &&
 559                     !md_capable(uc, CFS_CAP_FSETID))
 560                         la->la_mode &= ~S_ISGID;
 561         } else {
 562                la->la_mode = oattr->la_mode;
 563         }
 564
 565         /* Make sure a caller can chown. */
 566         if (la->la_valid & LA_UID) {
 567                 if (la->la_uid == (uid_t) -1)
 568                         la->la_uid = oattr->la_uid;
 569                 if (((uc->uc_fsuid != oattr->la_uid) ||
 570                      (la->la_uid != oattr->la_uid)) &&
 571                     !md_capable(uc, CFS_CAP_CHOWN))
 572                         RETURN(-EPERM);
 573
 574                 /* If the user or group of a non-directory has been
 575                  * changed by a non-root user, remove the setuid bit.
 576                  * 19981026 David C Niemi <niemi@tux.org>
 577                  *
 578                  * Changed this to apply to all users, including root,
 579                  * to avoid some races. This is the behavior we had in
 580                  * 2.0. The check for non-root was definitely wrong
 581                  * for 2.2 anyway, as it should have been using
 582                  * CAP_FSETID rather than fsuid -- 19990830 SD. */
 583                 if (((oattr->la_mode & S_ISUID) == S_ISUID) &&
 584                 !S_ISDIR(oattr->la_mode)) {
 585                         la->la_mode &= ~S_ISUID;
 586                         la->la_valid |= LA_MODE;
 587                 }
 588         }
 589
 590         /* Make sure caller can chgrp. */
 591         if (la->la_valid & LA_GID) {
 592                 if (la->la_gid == (gid_t) -1)
 593                         la->la_gid = oattr->la_gid;
 594                 if (((uc->uc_fsuid != oattr->la_uid) ||
 595                      ((la->la_gid != oattr->la_gid) &&
 596                       !lustre_in_group_p(uc, la->la_gid))) &&
 597                     !md_capable(uc, CFS_CAP_CHOWN))
 598                         RETURN(-EPERM);
 599
 600                 /* Likewise, if the user or group of a non-directory
 601                  * has been changed by a non-root user, remove the
 602                  * setgid bit UNLESS there is no group execute bit
 603                  * (this would be a file marked for mandatory
 604                  * locking).  19981026 David C Niemi <niemi@tux.org>
 605                  *
 606                  * Removed the fsuid check (see the comment above) --
 607                  * 19990830 SD. */
 608                 if (((oattr->la_mode & (S_ISGID | S_IXGRP)) ==
 609                     (S_ISGID | S_IXGRP)) && !S_ISDIR(oattr->la_mode)) {
 610                         la->la_mode &= ~S_ISGID;
 611                         la->la_valid |= LA_MODE;
 612                 }
 613         }
 614
 615         if (la->la_valid & (LA_SIZE | LA_BLOCKS)) {
 616                 if (!((flags & MDS_OWNEROVERRIDE) &&
 617                       (uc->uc_fsuid == oattr->la_uid)) &&
 618                     !(flags & MDS_PERM_BYPASS)) {
 619                         rc = mdd_permission_internal(env, obj, oattr,
 620                                                      MAY_WRITE);
 621                         if (rc != 0)
 622                                 RETURN(rc);
 623                 }
 624         }
 625
 626         if (la->la_valid & LA_CTIME) {
 627                 /* The pure setattr, it has the priority over what is
 628                  * already set, do not drop it if ctime is equal. */
 629                 if (la->la_ctime < oattr->la_ctime)
 630                         la->la_valid &= ~(LA_ATIME | LA_MTIME | LA_CTIME);
 631         }
 632
 633         RETURN(0);
 634 }
 635
 636 static int mdd_changelog_data_store_by_fid(const struct lu_env *env,
 637                                     struct mdd_device *mdd,
 638                                     enum changelog_rec_type type, int flags,
 639                                     const struct lu_fid *fid,
 640                                     struct thandle *handle)
 641 {
 642         const struct lu_ucred *uc = lu_ucred(env);
 643         struct llog_changelog_rec *rec;
 644         struct lu_buf *buf;
 645         int reclen;
 646         int xflags = CLFE_INVALID;
 647         int rc;
 648
 649         flags = (flags & CLF_FLAGMASK) | CLF_VERSION | CLF_EXTRA_FLAGS;
 650
 651         if (uc) {
 652                 if (uc->uc_jobid[0] != '\0')
 653                         flags |= CLF_JOBID;
 654                 xflags |= CLFE_UIDGID;
 655                 xflags |= CLFE_NID;
 656         }
 657         if (type == CL_OPEN)
 658                 xflags |= CLFE_OPEN;
 659
 660         reclen = llog_data_len(LLOG_CHANGELOG_HDR_SZ +
 661                                changelog_rec_offset(flags & CLF_SUPPORTED,
 662                                                     xflags & CLFE_SUPPORTED));
 663         buf = lu_buf_check_and_alloc(&mdd_env_info(env)->mti_big_buf, reclen);
 664         if (buf->lb_buf == NULL)
 665                 RETURN(-ENOMEM);
 666         rec = buf->lb_buf;
 667
 668         rec->cr_hdr.lrh_len = reclen;
 669         rec->cr.cr_flags = flags;
 670         rec->cr.cr_type = (__u32)type;
 671         rec->cr.cr_tfid = *fid;
 672         rec->cr.cr_namelen = 0;
 673
 674         if (flags & CLF_JOBID)
 675                 mdd_changelog_rec_ext_jobid(&rec->cr, uc->uc_jobid);
 676
 677         if (flags & CLF_EXTRA_FLAGS) {
 678                 mdd_changelog_rec_ext_extra_flags(&rec->cr, xflags);
 679                 if (xflags & CLFE_UIDGID)
 680                         mdd_changelog_rec_extra_uidgid(&rec->cr,
 681                                                        uc->uc_uid, uc->uc_gid);
 682                 if (xflags & CLFE_NID)
 683                         mdd_changelog_rec_extra_nid(&rec->cr, uc->uc_nid);
 684                 if (xflags & CLFE_OPEN)
 685                         mdd_changelog_rec_extra_omode(&rec->cr, flags);
 686         }
 687
 688         rc = mdd_changelog_store(env, mdd, rec, handle);
 689         RETURN(rc);
 690 }
 691
 692
 693 /** Store a data change changelog record
 694  * If this fails, we must fail the whole transaction; we don't
 695  * want the change to commit without the log entry.
 696  * \param mdd_obj - mdd_object of change
 697  * \param handle - transaction handle
 698  */
 699 int mdd_changelog_data_store(const struct lu_env *env, struct mdd_device *mdd,
 700                              enum changelog_rec_type type, int flags,
 701                              struct mdd_object *mdd_obj, struct thandle *handle)
 702 {
 703         int                              rc;
 704
 705         LASSERT(mdd_obj != NULL);
 706         LASSERT(handle != NULL);
 707
 708         /* Not recording */
 709         if (!(mdd->mdd_cl.mc_flags & CLM_ON))
 710                 RETURN(0);
 711         if ((mdd->mdd_cl.mc_mask & (1 << type)) == 0)
 712                 RETURN(0);
 713
 714         if (mdd_is_volatile_obj(mdd_obj))
 715                 RETURN(0);
 716
 717         if ((type >= CL_MTIME) && (type <= CL_ATIME) &&
 718             ktime_before(mdd->mdd_cl.mc_starttime, mdd_obj->mod_cltime)) {
 719                 /* Don't need multiple updates in this log */
 720                 /* Don't check under lock - no big deal if we get an extra
 721                    entry */
 722                 RETURN(0);
 723         }
 724
 725         rc = mdd_changelog_data_store_by_fid(env, mdd, type, flags,
 726                                              mdo2fid(mdd_obj), handle);
 727         if (rc == 0)
 728                 mdd_obj->mod_cltime = ktime_get();
 729
 730         RETURN(rc);
 731 }
 732
 733 static int mdd_changelog(const struct lu_env *env, enum changelog_rec_type type,
 734                   int flags, struct md_device *m, const struct lu_fid *fid)
 735 {
 736         struct thandle *handle;
 737         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
 738         int rc;
 739         ENTRY;
 740
 741         /* Not recording */
 742         if (!(mdd->mdd_cl.mc_flags & CLM_ON))
 743                 RETURN(0);
 744         if (!(mdd->mdd_cl.mc_mask & (1 << type)))
 745                 RETURN(0);
 746
 747         LASSERT(fid != NULL);
 748
 749         handle = mdd_trans_create(env, mdd);
 750         if (IS_ERR(handle))
 751                 RETURN(PTR_ERR(handle));
 752
 753         rc = mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
 754         if (rc)
 755                 GOTO(stop, rc);
 756
 757         rc = mdd_trans_start(env, mdd, handle);
 758         if (rc)
 759                 GOTO(stop, rc);
 760
 761         rc = mdd_changelog_data_store_by_fid(env, mdd, type, flags,
 762                                                      fid, handle);
 763
 764 stop:
 765         rc = mdd_trans_stop(env, mdd, rc, handle);
 766
 767         RETURN(rc);
 768 }
 769
 770 /**
 771  * Save LMA extended attributes with data from \a ma.
 772  *
 773  * HSM and Size-On-MDS data will be extracted from \ma if they are valid, if
 774  * not, LMA EA will be first read from disk, modified and write back.
 775  *
 776  */
 777 /* Precedence for choosing record type when multiple
 778  * attributes change: setattr > mtime > ctime > atime
 779  * (ctime changes when mtime does, plus chmod/chown.
 780  * atime and ctime are independent.) */
 781 static int mdd_attr_set_changelog(const struct lu_env *env,
 782                                   struct md_object *obj, struct thandle *handle,
 783                                   __u64 valid)
 784 {
 785         struct mdd_device *mdd = mdo2mdd(obj);
 786         int bits, type = 0;
 787
 788         bits =  (valid & LA_SIZE)  ? 1 << CL_TRUNC : 0;
 789         bits |= (valid & ~(LA_CTIME|LA_MTIME|LA_ATIME)) ? 1 << CL_SETATTR : 0;
 790         bits |= (valid & LA_MTIME) ? 1 << CL_MTIME : 0;
 791         bits |= (valid & LA_CTIME) ? 1 << CL_CTIME : 0;
 792         bits |= (valid & LA_ATIME) ? 1 << CL_ATIME : 0;
 793         bits = bits & mdd->mdd_cl.mc_mask;
 794         /* This is an implementation limit rather than a protocol limit */
 795         CLASSERT(CL_LAST <= sizeof(int) * 8);
 796         if (bits == 0)
 797                 return 0;
 798
 799         /* The record type is the lowest non-masked set bit */
 800         type = __ffs(bits);
 801
 802         /* FYI we only store the first CLF_FLAGMASK bits of la_valid */
 803         return mdd_changelog_data_store(env, mdd, type, (int)valid,
 804                                         md2mdd_obj(obj), handle);
 805 }
 806
 807 static int mdd_declare_attr_set(const struct lu_env *env,
 808                                 struct mdd_device *mdd,
 809                                 struct mdd_object *obj,
 810                                 const struct lu_attr *attr,
 811                                 struct thandle *handle)
 812 {
 813         int rc;
 814
 815         rc = mdo_declare_attr_set(env, obj, attr, handle);
 816         if (rc)
 817                 return rc;
 818
 819 #ifdef CONFIG_FS_POSIX_ACL
 820         if (attr->la_valid & LA_MODE) {
 821                 mdd_read_lock(env, obj, MOR_TGT_CHILD);
 822                 rc = mdo_xattr_get(env, obj, &LU_BUF_NULL,
 823                                    XATTR_NAME_ACL_ACCESS);
 824                 mdd_read_unlock(env, obj);
 825                 if (rc == -EOPNOTSUPP || rc == -ENODATA)
 826                         rc = 0;
 827                 else if (rc < 0)
 828                         return rc;
 829
 830                 if (rc != 0) {
 831                         struct lu_buf *buf = mdd_buf_get(env, NULL, rc);
 832                         rc = mdo_declare_xattr_set(env, obj, buf,
 833                                                    XATTR_NAME_ACL_ACCESS, 0,
 834                                                    handle);
 835                         if (rc)
 836                                 return rc;
 837                 }
 838         }
 839 #endif
 840
 841         rc = mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
 842         return rc;
 843 }
 844
 845 /*
 846  * LU-3671
 847  *
 848  * permission changes may require sync operation, to mitigate performance
 849  * impact, only do this for dir and when permission is reduced.
 850  *
 851  * For regular files, version is updated with permission change (see VBR), async
 852  * permission won't cause any issue, while missing permission change on
 853  * directory may affect accessibility of other objects after recovery.
 854  */
 855 static inline bool permission_needs_sync(const struct lu_attr *old,
 856                                          const struct lu_attr *new)
 857 {
 858         if (!S_ISDIR(old->la_mode))
 859                 return false;
 860
 861         if (new->la_valid & (LA_UID | LA_GID))
 862                 return true;
 863
 864         if (new->la_valid & LA_MODE &&
 865             new->la_mode & (S_ISUID | S_ISGID | S_ISVTX))
 866                 return true;
 867
 868         if ((new->la_valid & LA_MODE) &&
 869             ((new->la_mode & old->la_mode) & S_IRWXUGO) !=
 870              (old->la_mode & S_IRWXUGO))
 871                 return true;
 872
 873         return false;
 874 }
 875
 876 /* set attr and LOV EA at once, return updated attr */
 877 int mdd_attr_set(const struct lu_env *env, struct md_object *obj,
 878                  const struct md_attr *ma)
 879 {
 880         struct mdd_object *mdd_obj = md2mdd_obj(obj);
 881         struct mdd_device *mdd = mdo2mdd(obj);
 882         struct thandle *handle = NULL;
 883         struct lu_attr *la_copy = &mdd_env_info(env)->mti_la_for_fix;
 884         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
 885         const struct lu_attr *la = &ma->ma_attr;
 886         struct lu_ucred  *uc;
 887         int rc;
 888         ENTRY;
 889
 890         /* we do not use ->attr_set() for LOV/HSM EA any more */
 891         LASSERT((ma->ma_valid & MA_LOV) == 0);
 892         LASSERT((ma->ma_valid & MA_HSM) == 0);
 893
 894         rc = mdd_la_get(env, mdd_obj, attr);
 895         if (rc)
 896                 RETURN(rc);
 897
 898         *la_copy = ma->ma_attr;
 899         rc = mdd_fix_attr(env, mdd_obj, attr, la_copy, ma->ma_attr_flags);
 900         if (rc)
 901                 RETURN(rc);
 902
 903         /* no need to setattr anymore */
 904         if (la_copy->la_valid == 0) {
 905                 CDEBUG(D_INODE, "%s: no valid attribute on "DFID", previous"
 906                        "valid is %#llx\n", mdd2obd_dev(mdd)->obd_name,
 907                        PFID(mdo2fid(mdd_obj)), la->la_valid);
 908
 909                 RETURN(0);
 910         }
 911
 912         /* If an unprivileged user changes group of some file,
 913          * the setattr operation will be processed synchronously to
 914          * honor the quota limit of the corresponding group. see LU-5152 */
 915         uc = lu_ucred_check(env);
 916         if (S_ISREG(attr->la_mode) && la->la_valid & LA_GID &&
 917             la->la_gid != attr->la_gid && uc != NULL && uc->uc_fsuid != 0) {
 918                 la_copy->la_valid |= LA_FLAGS;
 919                 la_copy->la_flags |= LUSTRE_SET_SYNC_FL;
 920
 921                 /* Flush the possible existing sync requests to OSTs to
 922                  * keep the order of sync for the current setattr operation
 923                  * will be sent directly to OSTs. see LU-5152 */
 924                 rc = dt_sync(env, mdd->mdd_child);
 925                 if (rc)
 926                         GOTO(out, rc);
 927         }
 928
 929         handle = mdd_trans_create(env, mdd);
 930         if (IS_ERR(handle)) {
 931                 rc = PTR_ERR(handle);
 932                 handle = NULL;
 933
 934                 GOTO(out, rc);
 935         }
 936
 937         rc = mdd_declare_attr_set(env, mdd, mdd_obj, la_copy, handle);
 938         if (rc)
 939                 GOTO(out, rc);
 940
 941         rc = mdd_trans_start(env, mdd, handle);
 942         if (rc)
 943                 GOTO(out, rc);
 944
 945         if (mdd->mdd_sync_permission && permission_needs_sync(attr, la))
 946                 handle->th_sync = 1;
 947
 948         if (la->la_valid & (LA_MTIME | LA_CTIME))
 949                 CDEBUG(D_INODE, "setting mtime %llu, ctime %llu\n",
 950                        la->la_mtime, la->la_ctime);
 951
 952         mdd_write_lock(env, mdd_obj, MOR_TGT_CHILD);
 953         if (la_copy->la_valid) {
 954                 rc = mdd_attr_set_internal(env, mdd_obj, la_copy, handle, 1);
 955
 956                 if (rc == -EDQUOT && la_copy->la_flags & LUSTRE_SET_SYNC_FL) {
 957                         /* rollback to the original gid */
 958                         la_copy->la_flags &= ~LUSTRE_SET_SYNC_FL;
 959                         la_copy->la_gid = attr->la_gid;
 960                         mdd_attr_set_internal(env, mdd_obj, la_copy, handle, 1);
 961                 }
 962         }
 963         mdd_write_unlock(env, mdd_obj);
 964
 965 out:
 966         if (rc == 0)
 967                 rc = mdd_attr_set_changelog(env, obj, handle,
 968                                             la_copy->la_valid);
 969
 970         if (handle != NULL)
 971                 rc = mdd_trans_stop(env, mdd, rc, handle);
 972
 973         return rc;
 974 }
 975
 976 static int mdd_xattr_sanity_check(const struct lu_env *env,
 977                                   struct mdd_object *obj,
 978                                   const struct lu_attr *attr,
 979                                   const char *name)
 980 {
 981         struct lu_ucred *uc     = lu_ucred_assert(env);
 982         ENTRY;
 983
 984         if (attr->la_flags & (LUSTRE_IMMUTABLE_FL | LUSTRE_APPEND_FL))
 985                 RETURN(-EPERM);
 986
 987         if (strncmp(XATTR_USER_PREFIX, name,
 988                     sizeof(XATTR_USER_PREFIX) - 1) == 0) {
 989                 /* For sticky directories, only the owner and privileged user
 990                  * can write attributes. */
 991                 if (S_ISDIR(attr->la_mode) && (attr->la_mode & S_ISVTX) &&
 992                     (uc->uc_fsuid != attr->la_uid) &&
 993                     !md_capable(uc, CFS_CAP_FOWNER))
 994                         RETURN(-EPERM);
 995         } else {
 996                 if ((uc->uc_fsuid != attr->la_uid) &&
 997                     !md_capable(uc, CFS_CAP_FOWNER))
 998                         RETURN(-EPERM);
 999         }
1000
1001         RETURN(0);
1002 }
1003
1004 /**
1005  * Check if a string begins with a given prefix.
1006  *
1007  * \param str     String to check
1008  * \param prefix  Substring to check at the beginning of \a str
1009  * \return true/false whether the condition is verified.
1010  */
1011 static inline bool has_prefix(const char *str, const char *prefix)
1012 {
1013         return strncmp(prefix, str, strlen(prefix)) == 0;
1014 }
1015
1016 /**
1017  * Indicate the kind of changelog to store (if any) for a xattr set/del.
1018  *
1019  * \param[in]  xattr_name  Full extended attribute name.
1020  *
1021  * \return The type of changelog to use, or -1 if no changelog is to be emitted.
1022  */
1023 static enum changelog_rec_type
1024 mdd_xattr_changelog_type(const struct lu_env *env, struct mdd_device *mdd,
1025                          const char *xattr_name)
1026 {
1027         /* Layout changes systematically recorded */
1028         if (strcmp(XATTR_NAME_LOV, xattr_name) == 0 ||
1029             strncmp(XATTR_LUSTRE_LOV, xattr_name,
1030                     strlen(XATTR_LUSTRE_LOV)) == 0)
1031                 return CL_LAYOUT;
1032
1033         /* HSM information changes systematically recorded */
1034         if (strcmp(XATTR_NAME_HSM, xattr_name) == 0)
1035                 return CL_HSM;
1036
1037         if (has_prefix(xattr_name, XATTR_USER_PREFIX) ||
1038             has_prefix(xattr_name, XATTR_NAME_POSIX_ACL_ACCESS) ||
1039             has_prefix(xattr_name, XATTR_NAME_POSIX_ACL_DEFAULT))
1040                 return CL_XATTR;
1041
1042         return -1;
1043 }
1044
1045 static int mdd_declare_xattr_set(const struct lu_env *env,
1046                                  struct mdd_device *mdd,
1047                                  struct mdd_object *obj,
1048                                  const struct lu_buf *buf,
1049                                  const char *name,
1050                                  int fl, struct thandle *handle)
1051 {
1052         int     rc;
1053
1054         rc = mdo_declare_xattr_set(env, obj, buf, name, fl, handle);
1055         if (rc)
1056                 return rc;
1057
1058         if (mdd_xattr_changelog_type(env, mdd, name) < 0)
1059                 return 0; /* no changelog to store */
1060
1061         return mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
1062 }
1063
1064 /*
1065  * Compare current and future data of HSM EA and add a changelog if needed.
1066  *
1067  * Caller should have write-locked \param obj.
1068  *
1069  * \param buf - Future HSM EA content.
1070  * \retval 0 if no changelog is needed or changelog was added properly.
1071  * \retval -ve errno if there was a problem
1072  */
1073 static int mdd_hsm_update_locked(const struct lu_env *env,
1074                                  struct md_object *obj,
1075                                  const struct lu_buf *buf,
1076                                  struct thandle *handle, int *cl_flags)
1077 {
1078         struct mdd_thread_info *info = mdd_env_info(env);
1079         struct mdd_object      *mdd_obj = md2mdd_obj(obj);
1080         struct lu_buf          *current_buf;
1081         struct md_hsm          *current_mh;
1082         struct md_hsm          *new_mh;
1083         int                     rc;
1084         ENTRY;
1085
1086         OBD_ALLOC_PTR(current_mh);
1087         if (current_mh == NULL)
1088                 RETURN(-ENOMEM);
1089
1090         /* Read HSM attrs from disk */
1091         current_buf = lu_buf_check_and_alloc(&info->mti_xattr_buf,
1092                                 mdo2mdd(obj)->mdd_dt_conf.ddp_max_ea_size);
1093         rc = mdo_xattr_get(env, mdd_obj, current_buf, XATTR_NAME_HSM);
1094         rc = lustre_buf2hsm(current_buf->lb_buf, rc, current_mh);
1095         if (rc < 0 && rc != -ENODATA)
1096                 GOTO(free, rc);
1097         else if (rc == -ENODATA)
1098                 current_mh->mh_flags = 0;
1099
1100         /* Map future HSM xattr */
1101         OBD_ALLOC_PTR(new_mh);
1102         if (new_mh == NULL)
1103                 GOTO(free, rc = -ENOMEM);
1104         lustre_buf2hsm(buf->lb_buf, buf->lb_len, new_mh);
1105
1106         rc = 0;
1107
1108         /* Flags differ, set flags for the changelog that will be added */
1109         if (current_mh->mh_flags != new_mh->mh_flags) {
1110                 hsm_set_cl_event(cl_flags, HE_STATE);
1111                 if (new_mh->mh_flags & HS_DIRTY)
1112                         hsm_set_cl_flags(cl_flags, CLF_HSM_DIRTY);
1113         }
1114
1115         OBD_FREE_PTR(new_mh);
1116         EXIT;
1117 free:
1118         OBD_FREE_PTR(current_mh);
1119         return rc;
1120 }
1121
1122 static int mdd_object_pfid_replace(const struct lu_env *env,
1123                                    struct mdd_object *o)
1124 {
1125         struct mdd_device *mdd = mdo2mdd(&o->mod_obj);
1126         struct thandle *handle;
1127         int rc;
1128
1129         handle = mdd_trans_create(env, mdd);
1130         if (IS_ERR(handle))
1131                 RETURN(PTR_ERR(handle));
1132
1133         handle->th_complex = 1;
1134
1135         /* it doesn't need to track the PFID update via llog, because LFSCK
1136          * will repair it even it goes wrong */
1137         rc = mdd_declare_xattr_set(env, mdd, o, NULL, XATTR_NAME_FID,
1138                                    0, handle);
1139         if (rc)
1140                 GOTO(out, rc);
1141
1142         rc = mdd_trans_start(env, mdd, handle);
1143         if (rc != 0)
1144                 GOTO(out, rc);
1145
1146         rc = mdo_xattr_set(env, o, NULL, XATTR_NAME_FID, 0, handle);
1147         if (rc)
1148                 GOTO(out, rc);
1149
1150 out:
1151         mdd_trans_stop(env, mdd, rc, handle);
1152         return rc;
1153 }
1154
1155
1156 static int mdd_declare_xattr_del(const struct lu_env *env,
1157                                  struct mdd_device *mdd,
1158                                  struct mdd_object *obj,
1159                                  const char *name,
1160                                  struct thandle *handle);
1161
1162 static int mdd_xattr_del(const struct lu_env *env, struct md_object *obj,
1163                          const char *name);
1164
1165 static int mdd_xattr_merge(const struct lu_env *env, struct md_object *md_obj,
1166                            struct md_object *md_vic)
1167 {
1168         struct mdd_device *mdd = mdo2mdd(md_obj);
1169         struct mdd_object *obj = md2mdd_obj(md_obj);
1170         struct mdd_object *vic = md2mdd_obj(md_vic);
1171         struct lu_buf *buf = &mdd_env_info(env)->mti_buf[0];
1172         struct lu_buf *buf_vic = &mdd_env_info(env)->mti_buf[1];
1173         struct lov_mds_md *lmm;
1174         struct thandle *handle;
1175         int rc;
1176         ENTRY;
1177
1178         rc = lu_fid_cmp(mdo2fid(obj), mdo2fid(vic));
1179         if (rc == 0) /* same fid */
1180                 RETURN(-EPERM);
1181
1182         handle = mdd_trans_create(env, mdd);
1183         if (IS_ERR(handle))
1184                 RETURN(PTR_ERR(handle));
1185
1186         if (rc > 0) {
1187                 mdd_write_lock(env, obj, MOR_TGT_CHILD);
1188                 mdd_write_lock(env, vic, MOR_TGT_CHILD);
1189         } else {
1190                 mdd_write_lock(env, vic, MOR_TGT_CHILD);
1191                 mdd_write_lock(env, obj, MOR_TGT_CHILD);
1192         }
1193
1194         /* get EA of victim file */
1195         memset(buf_vic, 0, sizeof(*buf_vic));
1196         rc = mdd_get_lov_ea(env, vic, buf_vic);
1197         if (rc < 0) {
1198                 if (rc == -ENODATA)
1199                         rc = 0;
1200                 GOTO(out, rc);
1201         }
1202
1203         /* parse the layout of victim file */
1204         lmm = buf_vic->lb_buf;
1205         if (le32_to_cpu(lmm->lmm_magic) != LOV_MAGIC_COMP_V1)
1206                 GOTO(out, rc = -EINVAL);
1207
1208         /* save EA of target file for restore */
1209         memset(buf, 0, sizeof(*buf));
1210         rc = mdd_get_lov_ea(env, obj, buf);
1211         if (rc < 0)
1212                 GOTO(out, rc);
1213
1214         /* Get rid of the layout from victim object */
1215         rc = mdd_declare_xattr_del(env, mdd, vic, XATTR_NAME_LOV, handle);
1216         if (rc)
1217                 GOTO(out, rc);
1218
1219         rc = mdd_declare_xattr_set(env, mdd, obj, buf_vic, XATTR_LUSTRE_LOV,
1220                                    LU_XATTR_MERGE, handle);
1221         if (rc)
1222                 GOTO(out, rc);
1223
1224         rc = mdd_trans_start(env, mdd, handle);
1225         if (rc != 0)
1226                 GOTO(out, rc);
1227
1228         rc = mdo_xattr_set(env, obj, buf_vic, XATTR_LUSTRE_LOV, LU_XATTR_MERGE,
1229                            handle);
1230         if (rc)
1231                 GOTO(out, rc);
1232
1233         rc = mdo_xattr_del(env, vic, XATTR_NAME_LOV, handle);
1234         if (rc) /* wtf? */
1235                 GOTO(out_restore, rc);
1236
1237         (void)mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle);
1238         (void)mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, vic, handle);
1239         EXIT;
1240
1241 out_restore:
1242         if (rc) {
1243                 int rc2 = mdo_xattr_set(env, obj, buf, XATTR_NAME_LOV,
1244                                         LU_XATTR_REPLACE, handle);
1245                 if (rc2)
1246                         CERROR("%s: failed to rollback of layout of: "DFID
1247                                ": %d, file state unknown\n",
1248                                mdd_obj_dev_name(obj), PFID(mdo2fid(obj)), rc2);
1249         }
1250
1251 out:
1252         mdd_trans_stop(env, mdd, rc, handle);
1253         mdd_write_unlock(env, obj);
1254         mdd_write_unlock(env, vic);
1255         lu_buf_free(buf);
1256         lu_buf_free(buf_vic);
1257
1258         if (!rc)
1259                 (void) mdd_object_pfid_replace(env, obj);
1260
1261         return rc;
1262 }
1263
1264 static int mdd_layout_merge_allowed(const struct lu_env *env,
1265                                     struct md_object *target,
1266                                     struct md_object *victim)
1267 {
1268         struct mdd_object *o1 = md2mdd_obj(target);
1269
1270         /* cannot extend directory's LOVEA */
1271         if (S_ISDIR(mdd_object_type(o1))) {
1272                 CERROR("%s: Don't extend directory's LOVEA, just set it.\n",
1273                        mdd_obj_dev_name(o1));
1274                 RETURN(-EISDIR);
1275         }
1276
1277         RETURN(0);
1278 }
1279
1280 /**
1281  * The caller should guarantee to update the object ctime
1282  * after xattr_set if needed.
1283  */
1284 static int mdd_xattr_set(const struct lu_env *env, struct md_object *obj,
1285                          const struct lu_buf *buf, const char *name,
1286                          int fl)
1287 {
1288         struct mdd_object       *mdd_obj = md2mdd_obj(obj);
1289         struct lu_attr          *attr = MDD_ENV_VAR(env, cattr);
1290         struct mdd_device       *mdd = mdo2mdd(obj);
1291         struct thandle          *handle;
1292         enum changelog_rec_type  cl_type;
1293         int                      cl_flags = 0;
1294         int                      rc;
1295         ENTRY;
1296
1297         rc = mdd_la_get(env, mdd_obj, attr);
1298         if (rc)
1299                 RETURN(rc);
1300
1301         rc = mdd_xattr_sanity_check(env, mdd_obj, attr, name);
1302         if (rc)
1303                 RETURN(rc);
1304
1305         if (strcmp(name, XATTR_LUSTRE_LOV) == 0 && fl == LU_XATTR_MERGE) {
1306                 struct md_object *victim = buf->lb_buf;
1307
1308                 if (buf->lb_len != sizeof(victim))
1309                         RETURN(-EINVAL);
1310
1311                 rc = mdd_layout_merge_allowed(env, obj, victim);
1312                 if (rc)
1313                         RETURN(rc);
1314
1315                 /* merge layout of victim as a mirror of obj's. */
1316                 rc = mdd_xattr_merge(env, obj, victim);
1317                 RETURN(rc);
1318         }
1319
1320         if (strcmp(name, XATTR_NAME_ACL_ACCESS) == 0 ||
1321             strcmp(name, XATTR_NAME_ACL_DEFAULT) == 0) {
1322                 struct posix_acl *acl;
1323
1324                 /* user may set empty ACL, which should be treated as removing
1325                  * ACL. */
1326                 acl = posix_acl_from_xattr(&init_user_ns, buf->lb_buf,
1327                                            buf->lb_len);
1328                 if (IS_ERR(acl))
1329                         RETURN(PTR_ERR(acl));
1330                 if (acl == NULL) {
1331                         rc = mdd_xattr_del(env, obj, name);
1332                         RETURN(rc);
1333                 }
1334                 posix_acl_release(acl);
1335         }
1336
1337         if (!strcmp(name, XATTR_NAME_ACL_ACCESS)) {
1338                 rc = mdd_acl_set(env, mdd_obj, attr, buf, fl);
1339                 RETURN(rc);
1340         }
1341
1342         handle = mdd_trans_create(env, mdd);
1343         if (IS_ERR(handle))
1344                 RETURN(PTR_ERR(handle));
1345
1346         rc = mdd_declare_xattr_set(env, mdd, mdd_obj, buf, name, fl, handle);
1347         if (rc)
1348                 GOTO(stop, rc);
1349
1350         rc = mdd_trans_start(env, mdd, handle);
1351         if (rc)
1352                 GOTO(stop, rc);
1353
1354         mdd_write_lock(env, mdd_obj, MOR_TGT_CHILD);
1355
1356         if (strcmp(XATTR_NAME_HSM, name) == 0) {
1357                 rc = mdd_hsm_update_locked(env, obj, buf, handle, &cl_flags);
1358                 if (rc) {
1359                         mdd_write_unlock(env, mdd_obj);
1360                         GOTO(stop, rc);
1361                 }
1362         }
1363
1364         rc = mdo_xattr_set(env, mdd_obj, buf, name, fl, handle);
1365         mdd_write_unlock(env, mdd_obj);
1366         if (rc)
1367                 GOTO(stop, rc);
1368
1369         cl_type = mdd_xattr_changelog_type(env, mdd, name);
1370         if (cl_type < 0)
1371                 GOTO(stop, rc = 0);
1372
1373         rc = mdd_changelog_data_store(env, mdd, cl_type, cl_flags, mdd_obj,
1374                                       handle);
1375
1376         EXIT;
1377 stop:
1378         return mdd_trans_stop(env, mdd, rc, handle);
1379 }
1380
1381 static int mdd_declare_xattr_del(const struct lu_env *env,
1382                                  struct mdd_device *mdd,
1383                                  struct mdd_object *obj,
1384                                  const char *name,
1385                                  struct thandle *handle)
1386 {
1387         int rc;
1388
1389         rc = mdo_declare_xattr_del(env, obj, name, handle);
1390         if (rc)
1391                 return rc;
1392
1393         if (mdd_xattr_changelog_type(env, mdd, name) < 0)
1394                 return 0; /* no changelog to store */
1395
1396         return mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
1397 }
1398
1399 /**
1400  * The caller should guarantee to update the object ctime
1401  * after xattr_set if needed.
1402  */
1403 static int mdd_xattr_del(const struct lu_env *env, struct md_object *obj,
1404                          const char *name)
1405 {
1406         struct mdd_object *mdd_obj = md2mdd_obj(obj);
1407         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
1408         struct mdd_device *mdd = mdo2mdd(obj);
1409         struct thandle *handle;
1410         int rc;
1411         ENTRY;
1412
1413         rc = mdd_la_get(env, mdd_obj, attr);
1414         if (rc)
1415                 RETURN(rc);
1416
1417         rc = mdd_xattr_sanity_check(env, mdd_obj, attr, name);
1418         if (rc)
1419                 RETURN(rc);
1420
1421         handle = mdd_trans_create(env, mdd);
1422         if (IS_ERR(handle))
1423                 RETURN(PTR_ERR(handle));
1424
1425         rc = mdd_declare_xattr_del(env, mdd, mdd_obj, name, handle);
1426         if (rc)
1427                 GOTO(stop, rc);
1428
1429         rc = mdd_trans_start(env, mdd, handle);
1430         if (rc)
1431                 GOTO(stop, rc);
1432
1433         mdd_write_lock(env, mdd_obj, MOR_TGT_CHILD);
1434         rc = mdo_xattr_del(env, mdd_obj, name, handle);
1435         mdd_write_unlock(env, mdd_obj);
1436         if (rc)
1437                 GOTO(stop, rc);
1438
1439         if (mdd_xattr_changelog_type(env, mdd, name) < 0)
1440                 GOTO(stop, rc = 0);
1441
1442         rc = mdd_changelog_data_store(env, mdd, CL_XATTR, 0, mdd_obj, handle);
1443
1444         EXIT;
1445 stop:
1446         return mdd_trans_stop(env, mdd, rc, handle);
1447 }
1448
1449 /*
1450  * read lov EA of an object
1451  * return the lov EA in an allocated lu_buf
1452  */
1453 int mdd_get_lov_ea(const struct lu_env *env, struct mdd_object *obj,
1454                    struct lu_buf *lmm_buf)
1455 {
1456         struct lu_buf   *buf = &mdd_env_info(env)->mti_big_buf;
1457         int              rc, bufsize;
1458         ENTRY;
1459
1460 repeat:
1461         rc = mdo_xattr_get(env, obj, buf, XATTR_NAME_LOV);
1462
1463         if (rc == -ERANGE) {
1464                 /* mti_big_buf is allocated but is too small
1465                  * we need to increase it */
1466                 buf = lu_buf_check_and_alloc(&mdd_env_info(env)->mti_big_buf,
1467                                              buf->lb_len * 2);
1468                 if (buf->lb_buf == NULL)
1469                         GOTO(out, rc = -ENOMEM);
1470                 goto repeat;
1471         }
1472
1473         if (rc < 0)
1474                 RETURN(rc);
1475
1476         if (rc == 0)
1477                 RETURN(-ENODATA);
1478
1479         bufsize = rc;
1480         if (memcmp(buf, &LU_BUF_NULL, sizeof(*buf)) == 0) {
1481                 /* mti_big_buf was not allocated, so we have to
1482                  * allocate it based on the ea size */
1483                 buf = lu_buf_check_and_alloc(&mdd_env_info(env)->mti_big_buf,
1484                                              bufsize);
1485                 if (buf->lb_buf == NULL)
1486                         GOTO(out, rc = -ENOMEM);
1487                 goto repeat;
1488         }
1489
1490         lu_buf_alloc(lmm_buf, bufsize);
1491         if (lmm_buf->lb_buf == NULL)
1492                 GOTO(out, rc = -ENOMEM);
1493
1494         memcpy(lmm_buf->lb_buf, buf->lb_buf, bufsize);
1495         rc = 0;
1496         EXIT;
1497
1498 out:
1499         if (rc < 0)
1500                 lu_buf_free(lmm_buf);
1501         return rc;
1502 }
1503
1504 static int mdd_xattr_hsm_replace(const struct lu_env *env,
1505                                  struct mdd_object *o, struct lu_buf *buf,
1506                                  struct thandle *handle)
1507 {
1508         struct hsm_attrs *attrs;
1509         __u32 hsm_flags;
1510         int flags = 0;
1511         int rc;
1512         ENTRY;
1513
1514         rc = mdo_xattr_set(env, o, buf, XATTR_NAME_HSM, LU_XATTR_REPLACE,
1515                            handle);
1516         if (rc != 0)
1517                 RETURN(rc);
1518
1519         attrs = buf->lb_buf;
1520         hsm_flags = le32_to_cpu(attrs->hsm_flags);
1521         if (!(hsm_flags & HS_RELEASED) || mdd_is_dead_obj(o))
1522                 RETURN(0);
1523
1524         /* Add a changelog record for release. */
1525         hsm_set_cl_event(&flags, HE_RELEASE);
1526         rc = mdd_changelog_data_store(env, mdo2mdd(&o->mod_obj), CL_HSM,
1527                                       flags, o, handle);
1528         RETURN(rc);
1529 }
1530
1531 /*
1532  *  check if layout swapping between 2 objects is allowed
1533  *  the rules are:
1534  *  - only normal FIDs or non-system IGIFs
1535  *  - same type of objects
1536  *  - same owner/group (so quotas are still valid) unless this is from HSM
1537  *    release.
1538  */
1539 static int mdd_layout_swap_allowed(const struct lu_env *env,
1540                                    struct mdd_object *o1,
1541                                    const struct lu_attr *attr1,
1542                                    struct mdd_object *o2,
1543                                    const struct lu_attr *attr2,
1544                                    __u64 flags)
1545 {
1546         const struct lu_fid     *fid1, *fid2;
1547         ENTRY;
1548
1549         fid1 = mdo2fid(o1);
1550         fid2 = mdo2fid(o2);
1551
1552         if (!fid_is_norm(fid1) &&
1553             (!fid_is_igif(fid1) || IS_ERR(mdd_links_get(env, o1))))
1554                 RETURN(-EBADF);
1555
1556         if (!fid_is_norm(fid2) &&
1557             (!fid_is_igif(fid2) || IS_ERR(mdd_links_get(env, o2))))
1558                 RETURN(-EBADF);
1559
1560         if (mdd_object_type(o1) != mdd_object_type(o2)) {
1561                 if (S_ISDIR(mdd_object_type(o1)))
1562                         RETURN(-ENOTDIR);
1563                 if (S_ISREG(mdd_object_type(o1)))
1564                         RETURN(-EISDIR);
1565                 RETURN(-EBADF);
1566         }
1567
1568         if (flags & SWAP_LAYOUTS_MDS_HSM)
1569                 RETURN(0);
1570
1571         if ((attr1->la_uid != attr2->la_uid) ||
1572             (attr1->la_gid != attr2->la_gid))
1573                 RETURN(-EPERM);
1574
1575         RETURN(0);
1576 }
1577
1578 /* XXX To set the proper lmm_oi & lmm_layout_gen when swap layouts, we have to
1579  *     look into the layout in MDD layer. */
1580 static int mdd_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi, bool get)
1581 {
1582         struct lov_comp_md_v1   *comp_v1;
1583         struct lov_mds_md       *v1;
1584         int                      i, ent_count;
1585         __u32                    off;
1586
1587         if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_COMP_V1) {
1588                 comp_v1 = (struct lov_comp_md_v1 *)lmm;
1589                 ent_count = le16_to_cpu(comp_v1->lcm_entry_count);
1590
1591                 if (ent_count == 0)
1592                         return -EINVAL;
1593
1594                 if (get) {
1595                         off = le32_to_cpu(comp_v1->lcm_entries[0].lcme_offset);
1596                         v1 = (struct lov_mds_md *)((char *)comp_v1 + off);
1597                         *oi = v1->lmm_oi;
1598                 } else {
1599                         for (i = 0; i < le32_to_cpu(ent_count); i++) {
1600                                 off = le32_to_cpu(comp_v1->lcm_entries[i].
1601                                                 lcme_offset);
1602                                 v1 = (struct lov_mds_md *)((char *)comp_v1 +
1603                                                 off);
1604                                 v1->lmm_oi = *oi;
1605                         }
1606                 }
1607         } else if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V1 ||
1608                    le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V3) {
1609                 if (get)
1610                         *oi = lmm->lmm_oi;
1611                 else
1612                         lmm->lmm_oi = *oi;
1613         } else {
1614                 return -EINVAL;
1615         }
1616         return 0;
1617 }
1618
1619 static inline int mdd_get_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi)
1620 {
1621         return mdd_lmm_oi(lmm, oi, true);
1622 }
1623
1624 static inline int mdd_set_lmm_oi(struct lov_mds_md *lmm, struct ost_id *oi)
1625 {
1626         return mdd_lmm_oi(lmm, oi, false);
1627 }
1628
1629 static int mdd_lmm_gen(struct lov_mds_md *lmm, __u32 *gen, bool get)
1630 {
1631         struct lov_comp_md_v1 *comp_v1;
1632
1633         if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_COMP_V1) {
1634                 comp_v1 = (struct lov_comp_md_v1 *)lmm;
1635                 if (get)
1636                         *gen = le32_to_cpu(comp_v1->lcm_layout_gen);
1637                 else
1638                         comp_v1->lcm_layout_gen = cpu_to_le32(*gen);
1639         } else if (le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V1 ||
1640                    le32_to_cpu(lmm->lmm_magic) == LOV_MAGIC_V3) {
1641                 __u16 tmp_gen = *gen;
1642                 if (get)
1643                         *gen = le16_to_cpu(lmm->lmm_layout_gen);
1644                 else
1645                         lmm->lmm_layout_gen = cpu_to_le16(tmp_gen);
1646         } else {
1647                 return -EINVAL;
1648         }
1649         return 0;
1650 }
1651
1652 static inline int mdd_get_lmm_gen(struct lov_mds_md *lmm, __u32 *gen)
1653 {
1654         return mdd_lmm_gen(lmm, gen, true);
1655 }
1656
1657 static inline int mdd_set_lmm_gen(struct lov_mds_md *lmm, __u32 *gen)
1658 {
1659         return mdd_lmm_gen(lmm, gen, false);
1660 }
1661
1662 /**
1663  * swap layouts between 2 lustre objects
1664  */
1665 static int mdd_swap_layouts(const struct lu_env *env, struct md_object *obj1,
1666                             struct md_object *obj2, __u64 flags)
1667 {
1668         struct mdd_thread_info  *info = mdd_env_info(env);
1669         struct mdd_object       *fst_o = md2mdd_obj(obj1);
1670         struct mdd_object       *snd_o = md2mdd_obj(obj2);
1671         struct lu_attr          *fst_la = MDD_ENV_VAR(env, cattr);
1672         struct lu_attr          *snd_la = MDD_ENV_VAR(env, tattr);
1673         struct mdd_device       *mdd = mdo2mdd(obj1);
1674         struct lov_mds_md       *fst_lmm, *snd_lmm;
1675         struct lu_buf           *fst_buf = &info->mti_buf[0];
1676         struct lu_buf           *snd_buf = &info->mti_buf[1];
1677         struct lu_buf           *fst_hsm_buf = &info->mti_buf[2];
1678         struct lu_buf           *snd_hsm_buf = &info->mti_buf[3];
1679         struct ost_id           *saved_oi = NULL;
1680         struct thandle          *handle;
1681         __u32                    fst_gen, snd_gen, saved_gen;
1682         int                      fst_fl;
1683         int                      rc;
1684         int                      rc2;
1685         ENTRY;
1686
1687         CLASSERT(ARRAY_SIZE(info->mti_buf) >= 4);
1688         memset(info->mti_buf, 0, sizeof(info->mti_buf));
1689
1690         /* we have to sort the 2 obj, so locking will always
1691          * be in the same order, even in case of 2 concurrent swaps */
1692         rc = lu_fid_cmp(mdo2fid(fst_o), mdo2fid(snd_o));
1693         if (rc == 0) /* same fid ? */
1694                 RETURN(-EPERM);
1695
1696         if (rc < 0)
1697                 swap(fst_o, snd_o);
1698
1699         rc = mdd_la_get(env, fst_o, fst_la);
1700         if (rc != 0)
1701                 RETURN(rc);
1702
1703         rc = mdd_la_get(env, snd_o, snd_la);
1704         if (rc != 0)
1705                 RETURN(rc);
1706
1707         /* check if layout swapping is allowed */
1708         rc = mdd_layout_swap_allowed(env, fst_o, fst_la, snd_o, snd_la, flags);
1709         if (rc != 0)
1710                 RETURN(rc);
1711
1712         handle = mdd_trans_create(env, mdd);
1713         if (IS_ERR(handle))
1714                 RETURN(PTR_ERR(handle));
1715
1716         /* objects are already sorted */
1717         mdd_write_lock(env, fst_o, MOR_TGT_CHILD);
1718         mdd_write_lock(env, snd_o, MOR_TGT_CHILD);
1719
1720         rc = mdd_get_lov_ea(env, fst_o, fst_buf);
1721         if (rc < 0 && rc != -ENODATA)
1722                 GOTO(stop, rc);
1723
1724         rc = mdd_get_lov_ea(env, snd_o, snd_buf);
1725         if (rc < 0 && rc != -ENODATA)
1726                 GOTO(stop, rc);
1727
1728         /* swapping 2 non existant layouts is a success */
1729         if (fst_buf->lb_buf == NULL && snd_buf->lb_buf == NULL)
1730                 GOTO(stop, rc = 0);
1731
1732         /* to help inode migration between MDT, it is better to
1733          * start by the no layout file (if one), so we order the swap */
1734         if (snd_buf->lb_buf == NULL) {
1735                 swap(fst_o, snd_o);
1736                 swap(fst_buf, snd_buf);
1737         }
1738
1739         fst_gen = snd_gen = 0;
1740         /* lmm and generation layout initialization */
1741         if (fst_buf->lb_buf != NULL) {
1742                 fst_lmm = fst_buf->lb_buf;
1743                 mdd_get_lmm_gen(fst_lmm, &fst_gen);
1744                 fst_fl  = LU_XATTR_REPLACE;
1745         } else {
1746                 fst_lmm = NULL;
1747                 fst_gen = 0;
1748                 fst_fl  = LU_XATTR_CREATE;
1749         }
1750
1751         snd_lmm = snd_buf->lb_buf;
1752         mdd_get_lmm_gen(snd_lmm, &snd_gen);
1753
1754         saved_gen = fst_gen;
1755         /* increase the generation layout numbers */
1756         snd_gen++;
1757         fst_gen++;
1758
1759         /*
1760          * XXX The layout generation is used to generate component IDs for
1761          *     the composite file, we have to do some special tweaks to make
1762          *     sure the layout generation is always adequate for that job.
1763          */
1764
1765         /* Skip invalid generation number for composite layout */
1766         if ((snd_gen & LCME_ID_MASK) == 0)
1767                 snd_gen++;
1768         if ((fst_gen & LCME_ID_MASK) == 0)
1769                 fst_gen++;
1770         /* Make sure the generation is greater than all the component IDs */
1771         if (fst_gen < snd_gen)
1772                 fst_gen = snd_gen;
1773         else if (fst_gen > snd_gen)
1774                 snd_gen = fst_gen;
1775
1776         /* set the file specific informations in lmm */
1777         if (fst_lmm != NULL) {
1778                 saved_oi = &info->mti_oa.o_oi;
1779                 mdd_get_lmm_oi(fst_lmm, saved_oi);
1780                 mdd_set_lmm_gen(fst_lmm, &snd_gen);
1781                 mdd_set_lmm_oi(fst_lmm, &snd_lmm->lmm_oi);
1782                 mdd_set_lmm_oi(snd_lmm, saved_oi);
1783         } else {
1784                 if ((snd_lmm->lmm_magic & cpu_to_le32(LOV_MAGIC_MASK)) ==
1785                     cpu_to_le32(LOV_MAGIC_MAGIC))
1786                         snd_lmm->lmm_magic |= cpu_to_le32(LOV_MAGIC_DEFINED);
1787                 else
1788                         GOTO(stop, rc = -EPROTO);
1789         }
1790         mdd_set_lmm_gen(snd_lmm, &fst_gen);
1791
1792         /* Prepare HSM attribute if it's required */
1793         if (flags & SWAP_LAYOUTS_MDS_HSM) {
1794                 const int buflen = sizeof(struct hsm_attrs);
1795
1796                 lu_buf_alloc(fst_hsm_buf, buflen);
1797                 lu_buf_alloc(snd_hsm_buf, buflen);
1798                 if (fst_hsm_buf->lb_buf == NULL || snd_hsm_buf->lb_buf == NULL)
1799                         GOTO(stop, rc = -ENOMEM);
1800
1801                 /* Read HSM attribute */
1802                 rc = mdo_xattr_get(env, fst_o, fst_hsm_buf, XATTR_NAME_HSM);
1803                 if (rc < 0)
1804                         GOTO(stop, rc);
1805
1806                 rc = mdo_xattr_get(env, snd_o, snd_hsm_buf, XATTR_NAME_HSM);
1807                 if (rc < 0)
1808                         GOTO(stop, rc);
1809
1810                 rc = mdd_declare_xattr_set(env, mdd, fst_o, snd_hsm_buf,
1811                                            XATTR_NAME_HSM, LU_XATTR_REPLACE,
1812                                            handle);
1813                 if (rc < 0)
1814                         GOTO(stop, rc);
1815
1816                 rc = mdd_declare_xattr_set(env, mdd, snd_o, fst_hsm_buf,
1817                                            XATTR_NAME_HSM, LU_XATTR_REPLACE,
1818                                            handle);
1819                 if (rc < 0)
1820                         GOTO(stop, rc);
1821         }
1822
1823         /* prepare transaction */
1824         rc = mdd_declare_xattr_set(env, mdd, fst_o, snd_buf, XATTR_NAME_LOV,
1825                                    fst_fl, handle);
1826         if (rc != 0)
1827                 GOTO(stop, rc);
1828
1829         if (fst_buf->lb_buf != NULL)
1830                 rc = mdd_declare_xattr_set(env, mdd, snd_o, fst_buf,
1831                                            XATTR_NAME_LOV, LU_XATTR_REPLACE,
1832                                            handle);
1833         else
1834                 rc = mdd_declare_xattr_del(env, mdd, snd_o, XATTR_NAME_LOV,
1835                                            handle);
1836         if (rc != 0)
1837                 GOTO(stop, rc);
1838
1839         rc = mdd_trans_start(env, mdd, handle);
1840         if (rc != 0)
1841                 GOTO(stop, rc);
1842
1843         if (flags & SWAP_LAYOUTS_MDS_HSM) {
1844                 rc = mdd_xattr_hsm_replace(env, fst_o, snd_hsm_buf, handle);
1845                 if (rc < 0)
1846                         GOTO(stop, rc);
1847
1848                 rc = mdd_xattr_hsm_replace(env, snd_o, fst_hsm_buf, handle);
1849                 if (rc < 0) {
1850                         rc2 = mdd_xattr_hsm_replace(env, fst_o, fst_hsm_buf,
1851                                                     handle);
1852                         if (rc2 < 0)
1853                                 CERROR("%s: restore "DFID" HSM error: %d/%d\n",
1854                                        mdd_obj_dev_name(fst_o),
1855                                        PFID(mdo2fid(fst_o)), rc, rc2);
1856                         GOTO(stop, rc);
1857                 }
1858         }
1859
1860         rc = mdo_xattr_set(env, fst_o, snd_buf, XATTR_NAME_LOV, fst_fl, handle);
1861         if (rc != 0)
1862                 GOTO(stop, rc);
1863
1864         if (unlikely(OBD_FAIL_CHECK(OBD_FAIL_MDS_HSM_SWAP_LAYOUTS))) {
1865                 rc = -EOPNOTSUPP;
1866         } else {
1867                 if (fst_buf->lb_buf != NULL)
1868                         rc = mdo_xattr_set(env, snd_o, fst_buf, XATTR_NAME_LOV,
1869                                            LU_XATTR_REPLACE, handle);
1870                 else
1871                         rc = mdo_xattr_del(env, snd_o, XATTR_NAME_LOV, handle);
1872         }
1873         if (rc != 0)
1874                 GOTO(out_restore, rc);
1875
1876         /* Issue one changelog record per file */
1877         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, fst_o, handle);
1878         if (rc)
1879                 GOTO(stop, rc);
1880
1881         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, snd_o, handle);
1882         if (rc)
1883                 GOTO(stop, rc);
1884         EXIT;
1885
1886 out_restore:
1887         if (rc != 0) {
1888                 int steps = 0;
1889
1890                 /* failure on second file, but first was done, so we have
1891                  * to roll back first. */
1892                 if (fst_buf->lb_buf != NULL) {
1893                         mdd_set_lmm_oi(fst_lmm, saved_oi);
1894                         mdd_set_lmm_gen(fst_lmm, &saved_gen);
1895                         rc2 = mdo_xattr_set(env, fst_o, fst_buf, XATTR_NAME_LOV,
1896                                             LU_XATTR_REPLACE, handle);
1897                 } else {
1898                         rc2 = mdo_xattr_del(env, fst_o, XATTR_NAME_LOV, handle);
1899                 }
1900                 if (rc2 < 0)
1901                         goto do_lbug;
1902
1903                 ++steps;
1904                 rc2 = mdd_xattr_hsm_replace(env, fst_o, fst_hsm_buf, handle);
1905                 if (rc2 < 0)
1906                         goto do_lbug;
1907
1908                 ++steps;
1909                 rc2 = mdd_xattr_hsm_replace(env, snd_o, snd_hsm_buf, handle);
1910
1911         do_lbug:
1912                 if (rc2 < 0) {
1913                         /* very bad day */
1914                         CERROR("%s: unable to roll back layout swap. FIDs: "
1915                                DFID" and "DFID "error: %d/%d, steps: %d\n",
1916                                mdd_obj_dev_name(fst_o),
1917                                PFID(mdo2fid(snd_o)), PFID(mdo2fid(fst_o)),
1918                                rc, rc2, steps);
1919                         /* a solution to avoid journal commit is to panic,
1920                          * but it has strong consequences so we use LBUG to
1921                          * allow sysdamin to choose to panic or not
1922                          */
1923                         LBUG();
1924                 }
1925         }
1926
1927 stop:
1928         rc = mdd_trans_stop(env, mdd, rc, handle);
1929
1930         mdd_write_unlock(env, snd_o);
1931         mdd_write_unlock(env, fst_o);
1932
1933         lu_buf_free(fst_buf);
1934         lu_buf_free(snd_buf);
1935         lu_buf_free(fst_hsm_buf);
1936         lu_buf_free(snd_hsm_buf);
1937
1938         if (!rc) {
1939                 (void) mdd_object_pfid_replace(env, fst_o);
1940                 (void) mdd_object_pfid_replace(env, snd_o);
1941         }
1942         return rc;
1943 }
1944
1945 static int mdd_declare_layout_change(const struct lu_env *env,
1946                                      struct mdd_device *mdd,
1947                                      struct mdd_object *obj,
1948                                      struct md_layout_change *mlc,
1949                                      struct thandle *handle)
1950 {
1951         int rc;
1952
1953         rc = mdo_declare_layout_change(env, obj, mlc, handle);
1954         if (rc)
1955                 return rc;
1956
1957         return mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
1958 }
1959
1960 /* For PFL, this is used to instantiate necessary component objects. */
1961 static int
1962 mdd_layout_instantiate_component(const struct lu_env *env,
1963                 struct mdd_object *obj, struct md_layout_change *mlc,
1964                 struct thandle *handle)
1965 {
1966         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
1967         int rc;
1968         ENTRY;
1969
1970         if (mlc->mlc_opc != MD_LAYOUT_WRITE)
1971                 RETURN(-ENOTSUPP);
1972
1973         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
1974         /**
1975          * It's possible that another layout write intent has already
1976          * instantiated our objects, so a -EALREADY returned, and we need to
1977          * do nothing.
1978          */
1979         if (rc)
1980                 RETURN(rc == -EALREADY ? 0 : rc);
1981
1982         rc = mdd_trans_start(env, mdd, handle);
1983         if (rc)
1984                 RETURN(rc);
1985
1986         mdd_write_lock(env, obj, MOR_TGT_CHILD);
1987         rc = mdo_layout_change(env, obj, mlc, handle);
1988         mdd_write_unlock(env, obj);
1989         if (rc)
1990                 RETURN(rc);
1991
1992         rc = mdd_changelog_data_store(env, mdd, CL_LAYOUT, 0, obj, handle);
1993         RETURN(rc);
1994 }
1995
1996 /**
1997  * Change the FLR layout from RDONLY to WRITE_PENDING.
1998  *
1999  * It picks the primary mirror, and bumps the layout version, and set
2000  * layout version xattr to OST objects in a sync tx. In order to facilitate
2001  * the handling of phantom writers from evicted clients, the clients carry
2002  * layout version of the file with write RPC, so that the OSTs can verify
2003  * if the write RPCs are legitimate, meaning not from evicted clients.
2004  */
2005 static int
2006 mdd_layout_update_rdonly(const struct lu_env *env, struct mdd_object *obj,
2007                          struct md_layout_change *mlc, struct thandle *handle)
2008 {
2009         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
2010         int rc;
2011         ENTRY;
2012
2013         /* Verify acceptable operations */
2014         switch (mlc->mlc_opc) {
2015         case MD_LAYOUT_WRITE:
2016                 break;
2017         case MD_LAYOUT_RESYNC:
2018                 /* these are legal operations - this represents the case that
2019                  * a few mirrors were missed in the last resync.
2020                  * XXX: it will be supported later */
2021         case MD_LAYOUT_RESYNC_DONE:
2022         default:
2023                 RETURN(0);
2024         }
2025
2026         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
2027         if (rc)
2028                 GOTO(out, rc);
2029
2030         rc = mdd_declare_xattr_del(env, mdd, obj, XATTR_NAME_SOM, handle);
2031         if (rc)
2032                 GOTO(out, rc);
2033
2034         /* record a changelog for data mover to consume */
2035         rc = mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
2036         if (rc)
2037                 GOTO(out, rc);
2038
2039         rc = mdd_trans_start(env, mdd, handle);
2040         if (rc)
2041                 GOTO(out, rc);
2042
2043         /* it needs a sync tx to make FLR to work properly */
2044         handle->th_sync = 1;
2045
2046         mdd_write_lock(env, obj, MOR_TGT_CHILD);
2047         rc = mdo_layout_change(env, obj, mlc, handle);
2048         if (!rc) {
2049                 rc = mdo_xattr_del(env, obj, XATTR_NAME_SOM, handle);
2050                 if (rc == -ENODATA)
2051                         rc = 0;
2052         }
2053         mdd_write_unlock(env, obj);
2054         if (rc)
2055                 GOTO(out, rc);
2056
2057         rc = mdd_changelog_data_store(env, mdd, CL_FLRW, 0, obj, handle);
2058         if (rc)
2059                 GOTO(out, rc);
2060
2061         EXIT;
2062
2063 out:
2064         return rc;
2065 }
2066
2067 /**
2068  * Handle mirrored file state transition when it's in WRITE_PENDING.
2069  *
2070  * Only MD_LAYOUT_RESYNC, which represents start of resync, is allowed when
2071  * the file is in WRITE_PENDING state. If everything goes fine, the file's
2072  * layout version will be increased, and the file's state will be changed to
2073  * SYNC_PENDING.
2074  */
2075 static int
2076 mdd_layout_update_write_pending(const struct lu_env *env,
2077                 struct mdd_object *obj, struct md_layout_change *mlc,
2078                 struct thandle *handle)
2079 {
2080         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
2081         int rc;
2082         ENTRY;
2083
2084         switch (mlc->mlc_opc) {
2085         case MD_LAYOUT_RESYNC:
2086                 /* Upon receiving the resync request, it should
2087                  * instantiate all stale components right away to get ready
2088                  * for mirror copy. In order to avoid layout version change,
2089                  * client should avoid sending LAYOUT_WRITE request at the
2090                  * resync state. */
2091                 break;
2092         case MD_LAYOUT_WRITE:
2093                 /* legal race for concurrent write, the file state has been
2094                  * changed by another client. */
2095                 break;
2096         default:
2097                 RETURN(-EBUSY);
2098         }
2099
2100         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
2101         if (rc)
2102                 GOTO(out, rc);
2103
2104         rc = mdd_trans_start(env, mdd, handle);
2105         if (rc)
2106                 GOTO(out, rc);
2107
2108         /* it needs a sync tx to make FLR to work properly */
2109         handle->th_sync = 1;
2110
2111         mdd_write_lock(env, obj, MOR_TGT_CHILD);
2112         rc = mdo_layout_change(env, obj, mlc, handle);
2113         mdd_write_unlock(env, obj);
2114         if (rc)
2115                 GOTO(out, rc);
2116
2117         EXIT;
2118
2119 out:
2120         return rc;
2121 }
2122
2123 /**
2124  * Handle the requests when a FLR file's state is in SYNC_PENDING.
2125  *
2126  * Only concurrent write and sync complete requests are possible when the
2127  * file is in SYNC_PENDING. For the latter request, it will pass in the
2128  * mirrors that have been synchronized, then the stale bit will be cleared
2129  * to make the file's state turn into RDONLY.
2130  * For concurrent write reqeust, it just needs to change the file's state
2131  * to WRITE_PENDING in a sync tx. It doesn't have to change the layout
2132  * version because the version will be increased in the transition to
2133  * SYNC_PENDING later so that it can deny the write request from potential
2134  * evicted SYNC clients. */
2135 static int
2136 mdd_object_update_sync_pending(const struct lu_env *env, struct mdd_object *obj,
2137                 struct md_layout_change *mlc, struct thandle *handle)
2138 {
2139         struct mdd_device *mdd = mdd_obj2mdd_dev(obj);
2140         struct lu_buf *som_buf = &mdd_env_info(env)->mti_buf[1];
2141         int fl = 0;
2142         int rc;
2143         ENTRY;
2144
2145         /* operation validation */
2146         switch (mlc->mlc_opc) {
2147         case MD_LAYOUT_RESYNC_DONE:
2148                 /* resync complete. */
2149         case MD_LAYOUT_WRITE:
2150                 /* concurrent write. */
2151                 break;
2152         case MD_LAYOUT_RESYNC:
2153                 /* resync again, most likely the previous run failed.
2154                  * no-op if it's already in SYNC_PENDING state */
2155                 RETURN(0);
2156         default:
2157                 RETURN(-EBUSY);
2158         }
2159
2160         if (mlc->mlc_som.lsa_valid & LSOM_FL_VALID) {
2161                 rc = mdo_xattr_get(env, obj, &LU_BUF_NULL, XATTR_NAME_SOM);
2162                 if (rc && rc != -ENODATA)
2163                         RETURN(rc);
2164
2165                 fl = rc == -ENODATA ? LU_XATTR_CREATE : LU_XATTR_REPLACE;
2166                 som_buf->lb_buf = &mlc->mlc_som;
2167                 som_buf->lb_len = sizeof(mlc->mlc_som);
2168         }
2169
2170         rc = mdd_declare_layout_change(env, mdd, obj, mlc, handle);
2171         if (rc)
2172                 GOTO(out, rc);
2173
2174         /* record a changelog for the completion of resync */
2175         rc = mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
2176         if (rc)
2177                 GOTO(out, rc);
2178
2179         /* RESYNC_DONE has piggybacked size and blocks */
2180         if (fl) {
2181                 rc = mdd_declare_xattr_set(env, mdd, obj, som_buf,
2182                                            XATTR_NAME_SOM, fl, handle);
2183                 if (rc)
2184                         GOTO(out, rc);
2185         }
2186
2187         rc = mdd_trans_start(env, mdd, handle);
2188         if (rc)
2189                 GOTO(out, rc);
2190
2191         /* it needs a sync tx to make FLR to work properly */
2192         handle->th_sync = 1;
2193
2194         rc = mdo_layout_change(env, obj, mlc, handle);
2195         if (rc)
2196                 GOTO(out, rc);
2197
2198         if (fl) {
2199                 rc = mdo_xattr_set(env, obj, som_buf, XATTR_NAME_SOM,
2200                                    fl, handle);
2201                 if (rc)
2202                         GOTO(out, rc);
2203         }
2204
2205         rc = mdd_changelog_data_store(env, mdd, CL_RESYNC, 0, obj, handle);
2206         if (rc)
2207                 GOTO(out, rc);
2208         EXIT;
2209 out:
2210         return rc;
2211 }
2212
2213 /**
2214  * Layout change callback for object.
2215  *
2216  * This is only used by FLR for now. In the future, it can be exteneded to
2217  * handle all layout change.
2218  */
2219 static int
2220 mdd_layout_change(const struct lu_env *env, struct md_object *o,
2221                   struct md_layout_change *mlc)
2222 {
2223         struct mdd_object       *obj = md2mdd_obj(o);
2224         struct mdd_device       *mdd = mdd_obj2mdd_dev(obj);
2225         struct lu_buf           *buf = mdd_buf_get(env, NULL, 0);
2226         struct lov_comp_md_v1   *lcm;
2227         struct thandle          *handle;
2228         int flr_state;
2229         int rc;
2230         ENTRY;
2231
2232         /* Verify acceptable operations */
2233         switch (mlc->mlc_opc) {
2234         case MD_LAYOUT_WRITE:
2235         case MD_LAYOUT_RESYNC:
2236         case MD_LAYOUT_RESYNC_DONE:
2237                 break;
2238         default:
2239                 RETURN(-ENOTSUPP);
2240         }
2241
2242         handle = mdd_trans_create(env, mdd);
2243         if (IS_ERR(handle))
2244                 RETURN(PTR_ERR(handle));
2245
2246         rc = mdd_get_lov_ea(env, obj, buf);
2247         if (rc < 0) {
2248                 if (rc == -ENODATA)
2249                         rc = -EINVAL;
2250                 GOTO(out, rc);
2251         }
2252
2253         /* analyze the layout to make sure it's a FLR file */
2254         lcm = buf->lb_buf;
2255         if (le32_to_cpu(lcm->lcm_magic) != LOV_MAGIC_COMP_V1)
2256                 GOTO(out, rc = -EINVAL);
2257
2258         flr_state = le16_to_cpu(lcm->lcm_flags) & LCM_FL_FLR_MASK;
2259
2260         /* please refer to HLD of FLR for state transition */
2261         switch (flr_state) {
2262         case LCM_FL_NOT_FLR:
2263                 rc = mdd_layout_instantiate_component(env, obj, mlc, handle);
2264                 break;
2265         case LCM_FL_WRITE_PENDING:
2266                 rc = mdd_layout_update_write_pending(env, obj, mlc, handle);
2267                 break;
2268         case LCM_FL_RDONLY:
2269                 rc = mdd_layout_update_rdonly(env, obj, mlc, handle);
2270                 break;
2271         case LCM_FL_SYNC_PENDING:
2272                 rc = mdd_object_update_sync_pending(env, obj, mlc, handle);
2273                 break;
2274         default:
2275                 rc = 0;
2276                 break;
2277         }
2278         EXIT;
2279
2280 out:
2281         mdd_trans_stop(env, mdd, rc, handle);
2282         lu_buf_free(buf);
2283         return rc;
2284 }
2285
2286 void mdd_object_make_hint(const struct lu_env *env, struct mdd_object *parent,
2287                           struct mdd_object *child, const struct lu_attr *attr,
2288                           const struct md_op_spec *spec,
2289                           struct dt_allocation_hint *hint)
2290 {
2291         struct dt_object *np = parent ?  mdd_object_child(parent) : NULL;
2292         struct dt_object *nc = mdd_object_child(child);
2293
2294         memset(hint, 0, sizeof(*hint));
2295
2296         /* For striped directory, give striping EA to lod_ah_init, which will
2297          * decide the stripe_offset and stripe count by it. */
2298         if (S_ISDIR(attr->la_mode) &&
2299             unlikely(spec != NULL && spec->sp_cr_flags & MDS_OPEN_HAS_EA)) {
2300                 hint->dah_eadata = spec->u.sp_ea.eadata;
2301                 hint->dah_eadata_len = spec->u.sp_ea.eadatalen;
2302         } else {
2303                 hint->dah_eadata = NULL;
2304                 hint->dah_eadata_len = 0;
2305         }
2306
2307         CDEBUG(D_INFO, DFID" eadata %p len %d\n", PFID(mdd_object_fid(child)),
2308                hint->dah_eadata, hint->dah_eadata_len);
2309         /* @hint will be initialized by underlying device. */
2310         nc->do_ops->do_ah_init(env, hint, np, nc, attr->la_mode & S_IFMT);
2311 }
2312
2313 /*
2314  * do NOT or the MAY_*'s, you'll get the weakest
2315  */
2316 int accmode(const struct lu_env *env, const struct lu_attr *la, int flags)
2317 {
2318         int res = 0;
2319
2320         /* Sadly, NFSD reopens a file repeatedly during operation, so the
2321          * "acc_mode = 0" allowance for newly-created files isn't honoured.
2322          * NFSD uses the MDS_OPEN_OWNEROVERRIDE flag to say that a file
2323          * owner can write to a file even if it is marked readonly to hide
2324          * its brokenness. (bug 5781) */
2325         if (flags & MDS_OPEN_OWNEROVERRIDE) {
2326                 struct lu_ucred *uc = lu_ucred_check(env);
2327
2328                 if ((uc == NULL) || (la->la_uid == uc->uc_fsuid))
2329                         return 0;
2330         }
2331
2332         if (flags & FMODE_READ)
2333                 res |= MAY_READ;
2334         if (flags & (FMODE_WRITE | MDS_OPEN_TRUNC | MDS_OPEN_APPEND))
2335                 res |= MAY_WRITE;
2336         if (flags & MDS_FMODE_EXEC)
2337                 res = MAY_EXEC;
2338         return res;
2339 }
2340
2341 static int mdd_open_sanity_check(const struct lu_env *env,
2342                                 struct mdd_object *obj,
2343                                 const struct lu_attr *attr, int flag)
2344 {
2345         int mode, rc;
2346         ENTRY;
2347
2348         /* EEXIST check */
2349         if (mdd_is_dead_obj(obj))
2350                 RETURN(-ENOENT);
2351
2352         if (S_ISLNK(attr->la_mode))
2353                 RETURN(-ELOOP);
2354
2355         mode = accmode(env, attr, flag);
2356
2357         if (S_ISDIR(attr->la_mode) && (mode & MAY_WRITE))
2358                 RETURN(-EISDIR);
2359
2360         if (!(flag & MDS_OPEN_CREATED)) {
2361                 rc = mdd_permission_internal(env, obj, attr, mode);
2362                 if (rc)
2363                         RETURN(rc);
2364         }
2365
2366         if (S_ISFIFO(attr->la_mode) || S_ISSOCK(attr->la_mode) ||
2367             S_ISBLK(attr->la_mode) || S_ISCHR(attr->la_mode))
2368                 flag &= ~MDS_OPEN_TRUNC;
2369
2370         /* For writing append-only file must open it with append mode. */
2371         if (attr->la_flags & LUSTRE_APPEND_FL) {
2372                 if ((flag & FMODE_WRITE) && !(flag & MDS_OPEN_APPEND))
2373                         RETURN(-EPERM);
2374                 if (flag & MDS_OPEN_TRUNC)
2375                         RETURN(-EPERM);
2376         }
2377
2378         RETURN(0);
2379 }
2380
2381 static int mdd_open(const struct lu_env *env, struct md_object *obj,
2382                     int flags)
2383 {
2384         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2385         struct md_device *md_dev = lu2md_dev(mdd2lu_dev(mdo2mdd(obj)));
2386         struct lu_attr *attr = MDD_ENV_VAR(env, cattr);
2387         int rc = 0;
2388
2389         mdd_write_lock(env, mdd_obj, MOR_TGT_CHILD);
2390
2391         rc = mdd_la_get(env, mdd_obj, attr);
2392         if (rc != 0)
2393                 GOTO(out, rc);
2394
2395         rc = mdd_open_sanity_check(env, mdd_obj, attr, flags);
2396         if (rc != 0)
2397                 GOTO(out, rc);
2398
2399         mdd_obj->mod_count++;
2400
2401         mdd_changelog(env, CL_OPEN, flags, md_dev, mdo2fid(mdd_obj));
2402
2403         EXIT;
2404 out:
2405         mdd_write_unlock(env, mdd_obj);
2406         return rc;
2407 }
2408
2409 static int mdd_declare_close(const struct lu_env *env,
2410                              struct mdd_object *obj,
2411                              struct md_attr *ma,
2412                              struct thandle *handle)
2413 {
2414         int rc;
2415
2416         rc = orph_declare_index_delete(env, obj, handle);
2417         if (rc)
2418                 return rc;
2419
2420         return mdo_declare_destroy(env, obj, handle);
2421 }
2422
2423 /*
2424  * No permission check is needed.
2425  */
2426 static int mdd_close(const struct lu_env *env, struct md_object *obj,
2427                      struct md_attr *ma, int mode)
2428 {
2429         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2430         struct mdd_device *mdd = mdo2mdd(obj);
2431         struct thandle *handle = NULL;
2432         int is_orphan = 0;
2433         int rc;
2434         bool blocked = false;
2435         ENTRY;
2436
2437         if (ma->ma_valid & MA_FLAGS && ma->ma_attr_flags & MDS_KEEP_ORPHAN) {
2438                 mdd_write_lock(env, mdd_obj, MOR_TGT_CHILD);
2439                 mdd_obj->mod_count--;
2440                 mdd_write_unlock(env, mdd_obj);
2441
2442                 if (mdd_obj->mod_flags & ORPHAN_OBJ && !mdd_obj->mod_count)
2443                         CDEBUG(D_HA, "Object "DFID" is retained in orphan "
2444                                 "list\n", PFID(mdd_object_fid(mdd_obj)));
2445                 RETURN(0);
2446         }
2447
2448         /* mdd_finish_unlink() will always set orphan object as DEAD_OBJ, but
2449          * it might fail to add the object to orphan list (w/o ORPHAN_OBJ). */
2450         /* check without any lock */
2451         is_orphan = mdd_obj->mod_count == 1 &&
2452                     (mdd_obj->mod_flags & (ORPHAN_OBJ | DEAD_OBJ)) != 0;
2453
2454 again:
2455         if (is_orphan) {
2456                 /* mdd_trans_create() maybe failed because of barrier_entry(),
2457                  * under such case, the orphan MDT-object will be left in the
2458                  * orphan list, and when the MDT remount next time, the unused
2459                  * orphans will be destroyed automatically.
2460                  *
2461                  * One exception: the former mdd_finish_unlink may failed to
2462                  * add the orphan MDT-object to the orphan list, then if the
2463                  * mdd_trans_create() failed because of barrier_entry(), the
2464                  * MDT-object will become real orphan that is neither in the
2465                  * namespace nor in the orphan list. Such bad case should be
2466                  * very rare and will be handled by e2fsck/lfsck. */
2467                 handle = mdd_trans_create(env, mdo2mdd(obj));
2468                 if (IS_ERR(handle)) {
2469                         rc = PTR_ERR(handle);
2470                         if (rc != -EINPROGRESS)
2471                                 GOTO(stop, rc);
2472
2473                         handle = NULL;
2474                         blocked = true;
2475                         goto cont;
2476                 }
2477
2478                 rc = mdd_declare_close(env, mdd_obj, ma, handle);
2479                 if (rc)
2480                         GOTO(stop, rc);
2481
2482                 rc = mdd_declare_changelog_store(env, mdd, NULL, NULL, handle);
2483                 if (rc)
2484                         GOTO(stop, rc);
2485
2486                 rc = mdd_trans_start(env, mdo2mdd(obj), handle);
2487                 if (rc)
2488                         GOTO(stop, rc);
2489         }
2490
2491 cont:
2492         mdd_write_lock(env, mdd_obj, MOR_TGT_CHILD);
2493         rc = mdd_la_get(env, mdd_obj, &ma->ma_attr);
2494         if (rc != 0) {
2495                 CERROR("Failed to get lu_attr of "DFID": %d\n",
2496                        PFID(mdd_object_fid(mdd_obj)), rc);
2497                 GOTO(out, rc);
2498         }
2499
2500         /* check again with lock */
2501         is_orphan = (mdd_obj->mod_count == 1) &&
2502                     ((mdd_obj->mod_flags & (ORPHAN_OBJ | DEAD_OBJ)) != 0 ||
2503                      ma->ma_attr.la_nlink == 0);
2504
2505         if (is_orphan && !handle && !blocked) {
2506                 mdd_write_unlock(env, mdd_obj);
2507                 goto again;
2508         }
2509
2510         mdd_obj->mod_count--; /*release open count */
2511
2512         if (!is_orphan || blocked)
2513                 GOTO(out, rc = 0);
2514
2515         /* Orphan object */
2516         /* NB: Object maybe not in orphan list originally, it is rare case for
2517          * mdd_finish_unlink() failure, in that case, the object doesn't have
2518          * ORPHAN_OBJ flag */
2519         if ((mdd_obj->mod_flags & ORPHAN_OBJ) != 0) {
2520                 /* remove link to object from orphan index */
2521                 LASSERT(handle != NULL);
2522                 rc = __mdd_orphan_del(env, mdd_obj, handle);
2523                 if (rc != 0) {
2524                         CERROR("%s: unable to delete "DFID" from orphan list: "
2525                                "rc = %d\n", lu_dev_name(mdd2lu_dev(mdd)),
2526                                PFID(mdd_object_fid(mdd_obj)), rc);
2527                         /* If object was not deleted from orphan list, do not
2528                          * destroy OSS objects, which will be done when next
2529                          * recovery. */
2530                         GOTO(out, rc);
2531                 }
2532
2533                 CDEBUG(D_HA, "Object "DFID" is deleted from orphan "
2534                        "list, OSS objects to be destroyed.\n",
2535                        PFID(mdd_object_fid(mdd_obj)));
2536         }
2537
2538         rc = mdo_destroy(env, mdd_obj, handle);
2539
2540         if (rc != 0) {
2541                 CERROR("%s: unable to delete "DFID" from orphan list: "
2542                        "rc = %d\n", lu_dev_name(mdd2lu_dev(mdd)),
2543                        PFID(mdd_object_fid(mdd_obj)), rc);
2544         }
2545         EXIT;
2546
2547 out:
2548         mdd_write_unlock(env, mdd_obj);
2549
2550         /* Record CL_CLOSE in changelog only if file was opened in write mode,
2551          * or if CL_OPEN was recorded.
2552          * Changelogs mask may change between open and close operations, but
2553          * this is not a big deal if we have a CL_CLOSE entry with no matching
2554          * CL_OPEN. Plus Changelogs mask may not change often.
2555          */
2556         if (!rc && !blocked &&
2557             ((mode & (FMODE_WRITE | MDS_OPEN_APPEND | MDS_OPEN_TRUNC)) ||
2558              (mdd->mdd_cl.mc_mask & (1 << CL_OPEN))) &&
2559             !(ma->ma_valid & MA_FLAGS && ma->ma_attr_flags & MDS_RECOV_OPEN)) {
2560                 if (handle == NULL) {
2561                         handle = mdd_trans_create(env, mdo2mdd(obj));
2562                         if (IS_ERR(handle))
2563                                 GOTO(stop, rc = PTR_ERR(handle));
2564
2565                         rc = mdd_declare_changelog_store(env, mdd, NULL, NULL,
2566                                                          handle);
2567                         if (rc)
2568                                 GOTO(stop, rc);
2569
2570                         rc = mdd_trans_start(env, mdo2mdd(obj), handle);
2571                         if (rc)
2572                                 GOTO(stop, rc);
2573                 }
2574
2575                 mdd_changelog_data_store(env, mdd, CL_CLOSE, mode,
2576                                          mdd_obj, handle);
2577         }
2578
2579 stop:
2580         if (handle != NULL && !IS_ERR(handle))
2581                 rc = mdd_trans_stop(env, mdd, rc, handle);
2582
2583         return rc;
2584 }
2585
2586 /*
2587  * Permission check is done when open,
2588  * no need check again.
2589  */
2590 static int mdd_readpage_sanity_check(const struct lu_env *env,
2591                                      struct mdd_object *obj)
2592 {
2593         struct dt_object *next = mdd_object_child(obj);
2594         int rc;
2595         ENTRY;
2596
2597         if (S_ISDIR(mdd_object_type(obj)) && dt_try_as_dir(env, next))
2598                 rc = 0;
2599         else
2600                 rc = -ENOTDIR;
2601
2602         RETURN(rc);
2603 }
2604
2605 static int mdd_dir_page_build(const struct lu_env *env, union lu_page *lp,
2606                               size_t nob, const struct dt_it_ops *iops,
2607                               struct dt_it *it, __u32 attr, void *arg)
2608 {
2609         struct lu_dirpage       *dp = &lp->lp_dir;
2610         void                    *area = dp;
2611         int                      result;
2612         __u64                    hash = 0;
2613         struct lu_dirent        *ent;
2614         struct lu_dirent        *last = NULL;
2615         struct lu_fid            fid;
2616         int                      first = 1;
2617
2618         if (nob < sizeof(*dp))
2619                 return -EINVAL;
2620
2621         memset(area, 0, sizeof (*dp));
2622         area += sizeof (*dp);
2623         nob  -= sizeof (*dp);
2624
2625         ent  = area;
2626         do {
2627                 int    len;
2628                 size_t recsize;
2629
2630                 len = iops->key_size(env, it);
2631
2632                 /* IAM iterator can return record with zero len. */
2633                 if (len == 0)
2634                         goto next;
2635
2636                 hash = iops->store(env, it);
2637                 if (unlikely(first)) {
2638                         first = 0;
2639                         dp->ldp_hash_start = cpu_to_le64(hash);
2640                 }
2641
2642                 /* calculate max space required for lu_dirent */
2643                 recsize = lu_dirent_calc_size(len, attr);
2644
2645                 if (nob >= recsize) {
2646                         result = iops->rec(env, it, (struct dt_rec *)ent, attr);
2647                         if (result == -ESTALE)
2648                                 goto next;
2649                         if (result != 0)
2650                                 goto out;
2651
2652                         /* osd might not able to pack all attributes,
2653                          * so recheck rec length */
2654                         recsize = le16_to_cpu(ent->lde_reclen);
2655
2656                         if (le32_to_cpu(ent->lde_attrs) & LUDA_FID) {
2657                                 fid_le_to_cpu(&fid, &ent->lde_fid);
2658                                 if (fid_is_dot_lustre(&fid))
2659                                         goto next;
2660                         }
2661                 } else {
2662                         result = (last != NULL) ? 0 :-EINVAL;
2663                         goto out;
2664                 }
2665                 last = ent;
2666                 ent = (void *)ent + recsize;
2667                 nob -= recsize;
2668
2669 next:
2670                 result = iops->next(env, it);
2671                 if (result == -ESTALE)
2672                         goto next;
2673         } while (result == 0);
2674
2675 out:
2676         dp->ldp_hash_end = cpu_to_le64(hash);
2677         if (last != NULL) {
2678                 if (last->lde_hash == dp->ldp_hash_end)
2679                         dp->ldp_flags |= cpu_to_le32(LDF_COLLIDE);
2680                 last->lde_reclen = 0; /* end mark */
2681         }
2682         if (result > 0)
2683                 /* end of directory */
2684                 dp->ldp_hash_end = cpu_to_le64(MDS_DIR_END_OFF);
2685         else if (result < 0)
2686                 CWARN("build page failed: %d!\n", result);
2687         return result;
2688 }
2689
2690 int mdd_readpage(const struct lu_env *env, struct md_object *obj,
2691                  const struct lu_rdpg *rdpg)
2692 {
2693         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2694         int rc;
2695         ENTRY;
2696
2697         if (mdd_object_exists(mdd_obj) == 0) {
2698                 CERROR("%s: object "DFID" not found: rc = -2\n",
2699                        mdd_obj_dev_name(mdd_obj),PFID(mdd_object_fid(mdd_obj)));
2700                 return -ENOENT;
2701         }
2702
2703         mdd_read_lock(env, mdd_obj, MOR_TGT_CHILD);
2704         rc = mdd_readpage_sanity_check(env, mdd_obj);
2705         if (rc)
2706                 GOTO(out_unlock, rc);
2707
2708         if (mdd_is_dead_obj(mdd_obj)) {
2709                 struct page *pg;
2710                 struct lu_dirpage *dp;
2711
2712                 /*
2713                  * According to POSIX, please do not return any entry to client:
2714                  * even dot and dotdot should not be returned.
2715                  */
2716                 CDEBUG(D_INODE, "readdir from dead object: "DFID"\n",
2717                        PFID(mdd_object_fid(mdd_obj)));
2718
2719                 if (rdpg->rp_count <= 0)
2720                         GOTO(out_unlock, rc = -EFAULT);
2721                 LASSERT(rdpg->rp_pages != NULL);
2722
2723                 pg = rdpg->rp_pages[0];
2724                 dp = (struct lu_dirpage *)kmap(pg);
2725                 memset(dp, 0 , sizeof(struct lu_dirpage));
2726                 dp->ldp_hash_start = cpu_to_le64(rdpg->rp_hash);
2727                 dp->ldp_hash_end   = cpu_to_le64(MDS_DIR_END_OFF);
2728                 dp->ldp_flags = cpu_to_le32(LDF_EMPTY);
2729                 kunmap(pg);
2730                 GOTO(out_unlock, rc = LU_PAGE_SIZE);
2731         }
2732
2733         rc = dt_index_walk(env, mdd_object_child(mdd_obj), rdpg,
2734                            mdd_dir_page_build, NULL);
2735         if (rc >= 0) {
2736                 struct lu_dirpage       *dp;
2737
2738                 dp = kmap(rdpg->rp_pages[0]);
2739                 dp->ldp_hash_start = cpu_to_le64(rdpg->rp_hash);
2740                 if (rc == 0) {
2741                         /*
2742                          * No pages were processed, mark this for first page
2743                          * and send back.
2744                          */
2745                         dp->ldp_hash_end = cpu_to_le64(MDS_DIR_END_OFF);
2746                         dp->ldp_flags = cpu_to_le32(LDF_EMPTY);
2747                         rc = min_t(unsigned int, LU_PAGE_SIZE, rdpg->rp_count);
2748                 }
2749                 kunmap(rdpg->rp_pages[0]);
2750         }
2751
2752         GOTO(out_unlock, rc);
2753 out_unlock:
2754         mdd_read_unlock(env, mdd_obj);
2755         return rc;
2756 }
2757
2758 static int mdd_object_sync(const struct lu_env *env, struct md_object *obj)
2759 {
2760         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2761
2762         if (mdd_object_exists(mdd_obj) == 0) {
2763                 int rc = -ENOENT;
2764
2765                 CERROR("%s: object "DFID" not found: rc = %d\n",
2766                        mdd_obj_dev_name(mdd_obj),
2767                        PFID(mdd_object_fid(mdd_obj)), rc);
2768                 return rc;
2769         }
2770         return dt_object_sync(env, mdd_object_child(mdd_obj),
2771                               0, OBD_OBJECT_EOF);
2772 }
2773
2774 static int mdd_object_lock(const struct lu_env *env,
2775                            struct md_object *obj,
2776                            struct lustre_handle *lh,
2777                            struct ldlm_enqueue_info *einfo,
2778                            union ldlm_policy_data *policy)
2779 {
2780         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2781         return dt_object_lock(env, mdd_object_child(mdd_obj), lh,
2782                               einfo, policy);
2783 }
2784
2785 static int mdd_object_unlock(const struct lu_env *env,
2786                              struct md_object *obj,
2787                              struct ldlm_enqueue_info *einfo,
2788                              union ldlm_policy_data *policy)
2789 {
2790         struct mdd_object *mdd_obj = md2mdd_obj(obj);
2791         return dt_object_unlock(env, mdd_object_child(mdd_obj), einfo, policy);
2792 }
2793
2794 const struct md_object_operations mdd_obj_ops = {
2795         .moo_permission         = mdd_permission,
2796         .moo_attr_get           = mdd_attr_get,
2797         .moo_attr_set           = mdd_attr_set,
2798         .moo_xattr_get          = mdd_xattr_get,
2799         .moo_xattr_set          = mdd_xattr_set,
2800         .moo_xattr_list         = mdd_xattr_list,
2801         .moo_invalidate         = mdd_invalidate,
2802         .moo_xattr_del          = mdd_xattr_del,
2803         .moo_swap_layouts       = mdd_swap_layouts,
2804         .moo_open               = mdd_open,
2805         .moo_close              = mdd_close,
2806         .moo_readpage           = mdd_readpage,
2807         .moo_readlink           = mdd_readlink,
2808         .moo_changelog          = mdd_changelog,
2809         .moo_object_sync        = mdd_object_sync,
2810         .moo_object_lock        = mdd_object_lock,
2811         .moo_object_unlock      = mdd_object_unlock,
2812         .moo_layout_change      = mdd_layout_change,
2813 };