lustre/mdt/mdt_reint.c

   1 /* -*- mode: c; c-basic-offset: 8; indent-tabs-mode: nil; -*-
   2  * vim:expandtab:shiftwidth=8:tabstop=8:
   3  *
   4  * GPL HEADER START
   5  *
   6  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   7  *
   8  * This program is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License version 2 only,
  10  * as published by the Free Software Foundation.
  11  *
  12  * This program is distributed in the hope that it will be useful, but
  13  * WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * General Public License version 2 for more details (a copy is included
  16  * in the LICENSE file that accompanied this code).
  17  *
  18  * You should have received a copy of the GNU General Public License
  19  * version 2 along with this program; If not, see
  20  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
  21  *
  22  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
  23  * CA 95054 USA or visit www.sun.com if you need additional information or
  24  * have any questions.
  25  *
  26  * GPL HEADER END
  27  */
  28 /*
  29  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  30  * Use is subject to license terms.
  31  *
  32  * Copyright (c) 2011, 2012, Whamcloud, Inc.
  33  */
  34 /*
  35  * This file is part of Lustre, http://www.lustre.org/
  36  * Lustre is a trademark of Sun Microsystems, Inc.
  37  *
  38  * lustre/mdt/mdt_reint.c
  39  *
  40  * Lustre Metadata Target (mdt) reintegration routines
  41  *
  42  * Author: Peter Braam <braam@clusterfs.com>
  43  * Author: Andreas Dilger <adilger@clusterfs.com>
  44  * Author: Phil Schwan <phil@clusterfs.com>
  45  * Author: Huang Hua <huanghua@clusterfs.com>
  46  * Author: Yury Umanets <umka@clusterfs.com>
  47  */
  48
  49 #ifndef EXPORT_SYMTAB
  50 # define EXPORT_SYMTAB
  51 #endif
  52 #define DEBUG_SUBSYSTEM S_MDS
  53
  54 #include "mdt_internal.h"
  55 #include "lu_time.h"
  56
  57 static inline void mdt_reint_init_ma(struct mdt_thread_info *info,
  58                                      struct md_attr *ma)
  59 {
  60         ma->ma_lmm = req_capsule_server_get(info->mti_pill, &RMF_MDT_MD);
  61         ma->ma_lmm_size = req_capsule_get_size(info->mti_pill,
  62                                                &RMF_MDT_MD, RCL_SERVER);
  63
  64         ma->ma_cookie = req_capsule_server_get(info->mti_pill,
  65                                                &RMF_LOGCOOKIES);
  66         ma->ma_cookie_size = req_capsule_get_size(info->mti_pill,
  67                                                   &RMF_LOGCOOKIES,
  68                                                   RCL_SERVER);
  69
  70         ma->ma_need = MA_INODE | MA_LOV | MA_COOKIE;
  71         ma->ma_valid = 0;
  72 }
  73
  74 static int mdt_create_pack_capa(struct mdt_thread_info *info, int rc,
  75                                 struct mdt_object *object,
  76                                 struct mdt_body *repbody)
  77 {
  78         ENTRY;
  79
  80         /* for cross-ref mkdir, mds capa has been fetched from remote obj, then
  81          * we won't go to below*/
  82         if (repbody->valid & OBD_MD_FLMDSCAPA)
  83                 RETURN(rc);
  84
  85         if (rc == 0 && info->mti_mdt->mdt_opts.mo_mds_capa &&
  86             info->mti_exp->exp_connect_flags & OBD_CONNECT_MDS_CAPA) {
  87                 struct lustre_capa *capa;
  88
  89                 capa = req_capsule_server_get(info->mti_pill, &RMF_CAPA1);
  90                 LASSERT(capa);
  91                 capa->lc_opc = CAPA_OPC_MDS_DEFAULT;
  92                 rc = mo_capa_get(info->mti_env, mdt_object_child(object), capa,
  93                                  0);
  94                 if (rc == 0)
  95                         repbody->valid |= OBD_MD_FLMDSCAPA;
  96         }
  97
  98         RETURN(rc);
  99 }
 100
 101 /**
 102  * Get version of object by fid.
 103  *
 104  * Return real version or ENOENT_VERSION if object doesn't exist
 105  */
 106 static void mdt_obj_version_get(struct mdt_thread_info *info,
 107                                 struct mdt_object *o, __u64 *version)
 108 {
 109         LASSERT(o);
 110         LASSERT(mdt_object_exists(o) >= 0);
 111         if (mdt_object_exists(o) > 0)
 112                 *version = dt_version_get(info->mti_env, mdt_obj2dt(o));
 113         else
 114                 *version = ENOENT_VERSION;
 115         CDEBUG(D_INODE, "FID "DFID" version is "LPX64"\n",
 116                PFID(mdt_object_fid(o)), *version);
 117 }
 118
 119 /**
 120  * Check version is correct.
 121  *
 122  * Should be called only during replay.
 123  */
 124 static int mdt_version_check(struct ptlrpc_request *req,
 125                              __u64 version, int idx)
 126 {
 127         __u64 *pre_ver = lustre_msg_get_versions(req->rq_reqmsg);
 128         ENTRY;
 129
 130         if (!exp_connect_vbr(req->rq_export))
 131                 RETURN(0);
 132
 133         LASSERT(req_is_replay(req));
 134         /** VBR: version is checked always because costs nothing */
 135         LASSERT(idx < PTLRPC_NUM_VERSIONS);
 136         /** Sanity check for malformed buffers */
 137         if (pre_ver == NULL) {
 138                 CERROR("No versions in request buffer\n");
 139                 cfs_spin_lock(&req->rq_export->exp_lock);
 140                 req->rq_export->exp_vbr_failed = 1;
 141                 cfs_spin_unlock(&req->rq_export->exp_lock);
 142                 RETURN(-EOVERFLOW);
 143         } else if (pre_ver[idx] != version) {
 144                 CDEBUG(D_INODE, "Version mismatch "LPX64" != "LPX64"\n",
 145                        pre_ver[idx], version);
 146                 cfs_spin_lock(&req->rq_export->exp_lock);
 147                 req->rq_export->exp_vbr_failed = 1;
 148                 cfs_spin_unlock(&req->rq_export->exp_lock);
 149                 RETURN(-EOVERFLOW);
 150         }
 151         RETURN(0);
 152 }
 153
 154 /**
 155  * Save pre-versions in reply.
 156  */
 157 static void mdt_version_save(struct ptlrpc_request *req, __u64 version,
 158                              int idx)
 159 {
 160         __u64 *reply_ver;
 161
 162         if (!exp_connect_vbr(req->rq_export))
 163                 return;
 164
 165         LASSERT(!req_is_replay(req));
 166         LASSERT(req->rq_repmsg != NULL);
 167         reply_ver = lustre_msg_get_versions(req->rq_repmsg);
 168         if (reply_ver)
 169                 reply_ver[idx] = version;
 170 }
 171
 172 /**
 173  * Save enoent version, it is needed when it is obvious that object doesn't
 174  * exist, e.g. child during create.
 175  */
 176 static void mdt_enoent_version_save(struct mdt_thread_info *info, int idx)
 177 {
 178         /* save version of file name for replay, it must be ENOENT here */
 179         if (!req_is_replay(mdt_info_req(info))) {
 180                 info->mti_ver[idx] = ENOENT_VERSION;
 181                 mdt_version_save(mdt_info_req(info), info->mti_ver[idx], idx);
 182         }
 183 }
 184
 185 /**
 186  * Get version from disk and save in reply buffer.
 187  *
 188  * Versions are saved in reply only during normal operations not replays.
 189  */
 190 void mdt_version_get_save(struct mdt_thread_info *info,
 191                           struct mdt_object *mto, int idx)
 192 {
 193         /* don't save versions during replay */
 194         if (!req_is_replay(mdt_info_req(info))) {
 195                 mdt_obj_version_get(info, mto, &info->mti_ver[idx]);
 196                 mdt_version_save(mdt_info_req(info), info->mti_ver[idx], idx);
 197         }
 198 }
 199
 200 /**
 201  * Get version from disk and check it, no save in reply.
 202  */
 203 int mdt_version_get_check(struct mdt_thread_info *info,
 204                           struct mdt_object *mto, int idx)
 205 {
 206         /* only check versions during replay */
 207         if (!req_is_replay(mdt_info_req(info)))
 208                 return 0;
 209
 210         mdt_obj_version_get(info, mto, &info->mti_ver[idx]);
 211         return mdt_version_check(mdt_info_req(info), info->mti_ver[idx], idx);
 212 }
 213
 214 /**
 215  * Get version from disk and check if recovery or just save.
 216  */
 217 int mdt_version_get_check_save(struct mdt_thread_info *info,
 218                                struct mdt_object *mto, int idx)
 219 {
 220         int rc = 0;
 221
 222         mdt_obj_version_get(info, mto, &info->mti_ver[idx]);
 223         if (req_is_replay(mdt_info_req(info)))
 224                 rc = mdt_version_check(mdt_info_req(info), info->mti_ver[idx],
 225                                        idx);
 226         else
 227                 mdt_version_save(mdt_info_req(info), info->mti_ver[idx], idx);
 228         return rc;
 229 }
 230
 231 /**
 232  * Lookup with version checking.
 233  *
 234  * This checks version of 'name'. Many reint functions uses 'name' for child not
 235  * FID, therefore we need to get object by name and check its version.
 236  */
 237 int mdt_lookup_version_check(struct mdt_thread_info *info,
 238                              struct mdt_object *p, struct lu_name *lname,
 239                              struct lu_fid *fid, int idx)
 240 {
 241         int rc, vbrc;
 242
 243         rc = mdo_lookup(info->mti_env, mdt_object_child(p), lname, fid,
 244                         &info->mti_spec);
 245         /* Check version only during replay */
 246         if (!req_is_replay(mdt_info_req(info)))
 247                 return rc;
 248
 249         info->mti_ver[idx] = ENOENT_VERSION;
 250         if (rc == 0) {
 251                 struct mdt_object *child;
 252                 child = mdt_object_find(info->mti_env, info->mti_mdt, fid);
 253                 if (likely(!IS_ERR(child))) {
 254                         mdt_obj_version_get(info, child, &info->mti_ver[idx]);
 255                         mdt_object_put(info->mti_env, child);
 256                 }
 257         }
 258         vbrc = mdt_version_check(mdt_info_req(info), info->mti_ver[idx], idx);
 259         return vbrc ? vbrc : rc;
 260
 261 }
 262
 263 /*
 264  * VBR: we save three versions in reply:
 265  * 0 - parent. Check that parent version is the same during replay.
 266  * 1 - name. Version of 'name' if file exists with the same name or
 267  * ENOENT_VERSION, it is needed because file may appear due to missed replays.
 268  * 2 - child. Version of child by FID. Must be ENOENT. It is mostly sanity
 269  * check.
 270  */
 271 static int mdt_md_create(struct mdt_thread_info *info)
 272 {
 273         struct mdt_device       *mdt = info->mti_mdt;
 274         struct mdt_object       *parent;
 275         struct mdt_object       *child;
 276         struct mdt_lock_handle  *lh;
 277         struct mdt_body         *repbody;
 278         struct md_attr          *ma = &info->mti_attr;
 279         struct mdt_reint_record *rr = &info->mti_rr;
 280         struct lu_name          *lname;
 281         int rc;
 282         ENTRY;
 283
 284         DEBUG_REQ(D_INODE, mdt_info_req(info), "Create  (%s->"DFID") in "DFID,
 285                   rr->rr_name, PFID(rr->rr_fid2), PFID(rr->rr_fid1));
 286
 287         repbody = req_capsule_server_get(info->mti_pill, &RMF_MDT_BODY);
 288
 289         lh = &info->mti_lh[MDT_LH_PARENT];
 290         mdt_lock_pdo_init(lh, LCK_PW, rr->rr_name, rr->rr_namelen);
 291
 292         parent = mdt_object_find_lock(info, rr->rr_fid1, lh,
 293                                       MDS_INODELOCK_UPDATE);
 294         if (IS_ERR(parent))
 295                 RETURN(PTR_ERR(parent));
 296
 297         if (mdt_object_obf(parent))
 298                 GOTO(out_put_parent, rc = -EPERM);
 299
 300         rc = mdt_version_get_check_save(info, parent, 0);
 301         if (rc)
 302                 GOTO(out_put_parent, rc);
 303
 304         /*
 305          * Check child name version during replay.
 306          * During create replay a file may exist with same name.
 307          */
 308         lname = mdt_name(info->mti_env, (char *)rr->rr_name, rr->rr_namelen);
 309         rc = mdt_lookup_version_check(info, parent, lname,
 310                                       &info->mti_tmp_fid1, 1);
 311         /* -ENOENT is expected here */
 312         if (rc != 0 && rc != -ENOENT)
 313                 GOTO(out_put_parent, rc);
 314
 315         /* save version of file name for replay, it must be ENOENT here */
 316         mdt_enoent_version_save(info, 1);
 317
 318         child = mdt_object_find(info->mti_env, mdt, rr->rr_fid2);
 319         if (likely(!IS_ERR(child))) {
 320                 struct md_object *next = mdt_object_child(parent);
 321
 322                 ma->ma_need = MA_INODE;
 323                 ma->ma_valid = 0;
 324                 /* capa for cross-ref will be stored here */
 325                 ma->ma_capa = req_capsule_server_get(info->mti_pill,
 326                                                      &RMF_CAPA1);
 327                 LASSERT(ma->ma_capa);
 328
 329                 mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 330                                OBD_FAIL_MDS_REINT_CREATE_WRITE);
 331
 332                 /* Version of child will be updated on disk. */
 333                 info->mti_mos = child;
 334                 rc = mdt_version_get_check_save(info, child, 2);
 335                 if (rc)
 336                         GOTO(out_put_child, rc);
 337
 338                 /* Let lower layer know current lock mode. */
 339                 info->mti_spec.sp_cr_mode =
 340                         mdt_dlm_mode2mdl_mode(lh->mlh_pdo_mode);
 341
 342                 /*
 343                  * Do perform lookup sanity check. We do not know if name exists
 344                  * or not.
 345                  */
 346                 info->mti_spec.sp_cr_lookup = 1;
 347                 info->mti_spec.sp_feat = &dt_directory_features;
 348
 349                 rc = mdo_create(info->mti_env, next, lname,
 350                                 mdt_object_child(child),
 351                                 &info->mti_spec, ma);
 352                 if (rc == 0) {
 353                         /* Return fid & attr to client. */
 354                         if (ma->ma_valid & MA_INODE)
 355                                 mdt_pack_attr2body(info, repbody, &ma->ma_attr,
 356                                                    mdt_object_fid(child));
 357                 }
 358 out_put_child:
 359                 mdt_object_put(info->mti_env, child);
 360         } else {
 361                 rc = PTR_ERR(child);
 362         }
 363         mdt_create_pack_capa(info, rc, child, repbody);
 364 out_put_parent:
 365         mdt_object_unlock_put(info, parent, lh, rc);
 366         RETURN(rc);
 367 }
 368
 369 /* Partial request to create object only */
 370 static int mdt_md_mkobj(struct mdt_thread_info *info)
 371 {
 372         struct mdt_device      *mdt = info->mti_mdt;
 373         struct mdt_object      *o;
 374         struct mdt_body        *repbody;
 375         struct md_attr         *ma = &info->mti_attr;
 376         int rc;
 377         ENTRY;
 378
 379         DEBUG_REQ(D_INODE, mdt_info_req(info), "Partial create "DFID"",
 380                   PFID(info->mti_rr.rr_fid2));
 381
 382         repbody = req_capsule_server_get(info->mti_pill, &RMF_MDT_BODY);
 383
 384         o = mdt_object_find(info->mti_env, mdt, info->mti_rr.rr_fid2);
 385         if (!IS_ERR(o)) {
 386                 struct md_object *next = mdt_object_child(o);
 387
 388                 ma->ma_need = MA_INODE;
 389                 ma->ma_valid = 0;
 390
 391                 /*
 392                  * Cross-ref create can encounter already created obj in case of
 393                  * recovery, just get attr in that case.
 394                  */
 395                 if (mdt_object_exists(o) == 1) {
 396                         rc = mo_attr_get(info->mti_env, next, ma);
 397                 } else {
 398                         /*
 399                          * Here, NO permission check for object_create,
 400                          * such check has been done on the original MDS.
 401                          */
 402                         rc = mo_object_create(info->mti_env, next,
 403                                               &info->mti_spec, ma);
 404                 }
 405                 if (rc == 0) {
 406                         /* Return fid & attr to client. */
 407                         if (ma->ma_valid & MA_INODE)
 408                                 mdt_pack_attr2body(info, repbody, &ma->ma_attr,
 409                                                    mdt_object_fid(o));
 410                 }
 411                 mdt_object_put(info->mti_env, o);
 412         } else
 413                 rc = PTR_ERR(o);
 414
 415         mdt_create_pack_capa(info, rc, o, repbody);
 416         RETURN(rc);
 417 }
 418
 419 int mdt_attr_set(struct mdt_thread_info *info, struct mdt_object *mo,
 420                  struct md_attr *ma, int flags)
 421 {
 422         struct mdt_lock_handle  *lh;
 423         int do_vbr = ma->ma_attr.la_valid & (LA_MODE|LA_UID|LA_GID|LA_FLAGS);
 424         __u64 lockpart = MDS_INODELOCK_UPDATE;
 425         int rc;
 426         ENTRY;
 427
 428         /* attr shouldn't be set on remote object */
 429         LASSERT(mdt_object_exists(mo) >= 0);
 430
 431         lh = &info->mti_lh[MDT_LH_PARENT];
 432         mdt_lock_reg_init(lh, LCK_PW);
 433
 434         if (ma->ma_attr.la_valid & (LA_MODE|LA_UID|LA_GID))
 435                 lockpart |= MDS_INODELOCK_LOOKUP;
 436
 437         rc = mdt_object_lock(info, mo, lh, lockpart, MDT_LOCAL_LOCK);
 438         if (rc != 0)
 439                 RETURN(rc);
 440
 441         if (mdt_object_exists(mo) == 0)
 442                 GOTO(out_unlock, rc = -ENOENT);
 443
 444         /* all attrs are packed into mti_attr in unpack_setattr */
 445         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 446                        OBD_FAIL_MDS_REINT_SETATTR_WRITE);
 447
 448         /* This is only for set ctime when rename's source is on remote MDS. */
 449         if (unlikely(ma->ma_attr.la_valid == LA_CTIME))
 450                 ma->ma_attr_flags |= MDS_VTX_BYPASS;
 451
 452         /* VBR: update version if attr changed are important for recovery */
 453         if (do_vbr) {
 454                 /* update on-disk version of changed object */
 455                 info->mti_mos = mo;
 456                 rc = mdt_version_get_check_save(info, mo, 0);
 457                 if (rc)
 458                         GOTO(out_unlock, rc);
 459         }
 460
 461         /* all attrs are packed into mti_attr in unpack_setattr */
 462         rc = mo_attr_set(info->mti_env, mdt_object_child(mo), ma);
 463         if (rc != 0)
 464                 GOTO(out_unlock, rc);
 465
 466         EXIT;
 467 out_unlock:
 468         mdt_object_unlock(info, mo, lh, rc);
 469         return rc;
 470 }
 471
 472 static int mdt_reint_setattr(struct mdt_thread_info *info,
 473                              struct mdt_lock_handle *lhc)
 474 {
 475         struct md_attr          *ma = &info->mti_attr;
 476         struct mdt_reint_record *rr = &info->mti_rr;
 477         struct ptlrpc_request   *req = mdt_info_req(info);
 478         struct mdt_export_data  *med = &req->rq_export->exp_mdt_data;
 479         struct mdt_file_data    *mfd;
 480         struct mdt_object       *mo;
 481         struct md_object        *next;
 482         struct mdt_body         *repbody;
 483         int                      som_au, rc;
 484         ENTRY;
 485
 486         DEBUG_REQ(D_INODE, req, "setattr "DFID" %x", PFID(rr->rr_fid1),
 487                   (unsigned int)ma->ma_attr.la_valid);
 488
 489         if (info->mti_dlm_req)
 490                 ldlm_request_cancel(req, info->mti_dlm_req, 0);
 491
 492         repbody = req_capsule_server_get(info->mti_pill, &RMF_MDT_BODY);
 493         mo = mdt_object_find(info->mti_env, info->mti_mdt, rr->rr_fid1);
 494         if (IS_ERR(mo))
 495                 GOTO(out, rc = PTR_ERR(mo));
 496
 497         /* start a log jounal handle if needed */
 498         if (!(mdt_conn_flags(info) & OBD_CONNECT_SOM)) {
 499                 if ((ma->ma_attr.la_valid & LA_SIZE) ||
 500                     (rr->rr_flags & MRF_OPEN_TRUNC)) {
 501                         /* Check write access for the O_TRUNC case */
 502                         if (mdt_write_read(mo) < 0)
 503                                 GOTO(out_put, rc = -ETXTBSY);
 504                 }
 505         } else if (info->mti_ioepoch &&
 506                    (info->mti_ioepoch->flags & MF_EPOCH_OPEN)) {
 507                 /* Truncate case. IOEpoch is opened. */
 508                 rc = mdt_write_get(mo);
 509                 if (rc)
 510                         GOTO(out_put, rc);
 511
 512                 mfd = mdt_mfd_new();
 513                 if (mfd == NULL) {
 514                         mdt_write_put(mo);
 515                         GOTO(out_put, rc = -ENOMEM);
 516                 }
 517
 518                 mdt_ioepoch_open(info, mo, 0);
 519                 repbody->ioepoch = mo->mot_ioepoch;
 520
 521                 mdt_object_get(info->mti_env, mo);
 522                 mdt_mfd_set_mode(mfd, MDS_FMODE_TRUNC);
 523                 mfd->mfd_object = mo;
 524                 mfd->mfd_xid = req->rq_xid;
 525
 526                 cfs_spin_lock(&med->med_open_lock);
 527                 cfs_list_add(&mfd->mfd_list, &med->med_open_head);
 528                 cfs_spin_unlock(&med->med_open_lock);
 529                 repbody->handle.cookie = mfd->mfd_handle.h_cookie;
 530         }
 531
 532         som_au = info->mti_ioepoch && info->mti_ioepoch->flags & MF_SOM_CHANGE;
 533         if (som_au) {
 534                 /* SOM Attribute update case. Find the proper mfd and update
 535                  * SOM attributes on the proper object. */
 536                 LASSERT(mdt_conn_flags(info) & OBD_CONNECT_SOM);
 537                 LASSERT(info->mti_ioepoch);
 538
 539                 cfs_spin_lock(&med->med_open_lock);
 540                 mfd = mdt_handle2mfd(info, &info->mti_ioepoch->handle);
 541                 if (mfd == NULL) {
 542                         cfs_spin_unlock(&med->med_open_lock);
 543                         CDEBUG(D_INODE, "no handle for file close: "
 544                                "fid = "DFID": cookie = "LPX64"\n",
 545                                PFID(info->mti_rr.rr_fid1),
 546                                info->mti_ioepoch->handle.cookie);
 547                         GOTO(out_put, rc = -ESTALE);
 548                 }
 549                 LASSERT(mfd->mfd_mode == MDS_FMODE_SOM);
 550                 LASSERT(!(info->mti_ioepoch->flags & MF_EPOCH_CLOSE));
 551
 552                 class_handle_unhash(&mfd->mfd_handle);
 553                 cfs_list_del_init(&mfd->mfd_list);
 554                 cfs_spin_unlock(&med->med_open_lock);
 555
 556                 /* Close the found mfd, update attributes. */
 557                 ma->ma_lmm_size = info->mti_mdt->mdt_max_mdsize;
 558                 OBD_ALLOC_LARGE(ma->ma_lmm, info->mti_mdt->mdt_max_mdsize);
 559                 if (ma->ma_lmm == NULL)
 560                         GOTO(out_put, rc = -ENOMEM);
 561
 562                 mdt_mfd_close(info, mfd);
 563
 564                 OBD_FREE_LARGE(ma->ma_lmm, info->mti_mdt->mdt_max_mdsize);
 565         } else {
 566                 rc = mdt_attr_set(info, mo, ma, rr->rr_flags);
 567                 if (rc)
 568                         GOTO(out_put, rc);
 569         }
 570
 571         ma->ma_need = MA_INODE;
 572         ma->ma_valid = 0;
 573         next = mdt_object_child(mo);
 574         rc = mo_attr_get(info->mti_env, next, ma);
 575         if (rc != 0)
 576                 GOTO(out_put, rc);
 577
 578         mdt_pack_attr2body(info, repbody, &ma->ma_attr, mdt_object_fid(mo));
 579
 580         if (info->mti_mdt->mdt_opts.mo_oss_capa &&
 581             info->mti_exp->exp_connect_flags & OBD_CONNECT_OSS_CAPA &&
 582             S_ISREG(lu_object_attr(&mo->mot_obj.mo_lu)) &&
 583             (ma->ma_attr.la_valid & LA_SIZE) && !som_au) {
 584                 struct lustre_capa *capa;
 585
 586                 capa = req_capsule_server_get(info->mti_pill, &RMF_CAPA2);
 587                 LASSERT(capa);
 588                 capa->lc_opc = CAPA_OPC_OSS_DEFAULT | CAPA_OPC_OSS_TRUNC;
 589                 rc = mo_capa_get(info->mti_env, mdt_object_child(mo), capa, 0);
 590                 if (rc)
 591                         GOTO(out_put, rc);
 592                 repbody->valid |= OBD_MD_FLOSSCAPA;
 593         }
 594
 595         EXIT;
 596 out_put:
 597         mdt_object_put(info->mti_env, mo);
 598 out:
 599         if (rc == 0)
 600                 mdt_counter_incr(req->rq_export, LPROC_MDT_SETATTR);
 601
 602         mdt_client_compatibility(info);
 603         mdt_shrink_reply(info);
 604         return rc;
 605 }
 606
 607 static int mdt_reint_create(struct mdt_thread_info *info,
 608                             struct mdt_lock_handle *lhc)
 609 {
 610         struct ptlrpc_request   *req = mdt_info_req(info);
 611         int                     rc;
 612         ENTRY;
 613
 614         if (OBD_FAIL_CHECK(OBD_FAIL_MDS_REINT_CREATE))
 615                 RETURN(err_serious(-ESTALE));
 616
 617         if (info->mti_dlm_req)
 618                 ldlm_request_cancel(mdt_info_req(info), info->mti_dlm_req, 0);
 619
 620         switch (info->mti_attr.ma_attr.la_mode & S_IFMT) {
 621         case S_IFDIR:{
 622                 /* Cross-ref case. */
 623                 /* TODO: we can add LPROC_MDT_CROSS for cross-ref stats */
 624                 if (info->mti_cross_ref) {
 625                         rc = mdt_md_mkobj(info);
 626                 } else {
 627                         LASSERT(info->mti_rr.rr_namelen > 0);
 628                         mdt_counter_incr(req->rq_export, LPROC_MDT_MKDIR);
 629                         rc = mdt_md_create(info);
 630                 }
 631                 break;
 632         }
 633         case S_IFREG:
 634         case S_IFLNK:
 635         case S_IFCHR:
 636         case S_IFBLK:
 637         case S_IFIFO:
 638         case S_IFSOCK:{
 639                 /* Special file should stay on the same node as parent. */
 640                 LASSERT(info->mti_rr.rr_namelen > 0);
 641                 mdt_counter_incr(req->rq_export, LPROC_MDT_MKNOD);
 642                 rc = mdt_md_create(info);
 643                 break;
 644         }
 645         default:
 646                 rc = err_serious(-EOPNOTSUPP);
 647         }
 648         RETURN(rc);
 649 }
 650
 651 /*
 652  * VBR: save parent version in reply and child version getting by its name.
 653  * Version of child is getting and checking during its lookup. If
 654  */
 655 static int mdt_reint_unlink(struct mdt_thread_info *info,
 656                             struct mdt_lock_handle *lhc)
 657 {
 658         struct mdt_reint_record *rr = &info->mti_rr;
 659         struct ptlrpc_request   *req = mdt_info_req(info);
 660         struct md_attr          *ma = &info->mti_attr;
 661         struct lu_fid           *child_fid = &info->mti_tmp_fid1;
 662         struct mdt_object       *mp;
 663         struct mdt_object       *mc;
 664         struct mdt_lock_handle  *parent_lh;
 665         struct mdt_lock_handle  *child_lh;
 666         struct lu_name          *lname;
 667         int                      rc;
 668         ENTRY;
 669
 670         DEBUG_REQ(D_INODE, req, "unlink "DFID"/%s", PFID(rr->rr_fid1),
 671                   rr->rr_name);
 672
 673         if (info->mti_dlm_req)
 674                 ldlm_request_cancel(req, info->mti_dlm_req, 0);
 675
 676         if (OBD_FAIL_CHECK(OBD_FAIL_MDS_REINT_UNLINK))
 677                 RETURN(err_serious(-ENOENT));
 678
 679         /*
 680          * step 1: lock the parent. Note, this may be child in case of
 681          * remote operation denoted by ->mti_cross_ref flag.
 682          */
 683         parent_lh = &info->mti_lh[MDT_LH_PARENT];
 684         if (info->mti_cross_ref) {
 685                 /*
 686                  * Init reg lock for cross ref case when we need to do only
 687                  * ref del locally.
 688                  */
 689                 mdt_lock_reg_init(parent_lh, LCK_PW);
 690         } else {
 691                 mdt_lock_pdo_init(parent_lh, LCK_PW, rr->rr_name,
 692                                   rr->rr_namelen);
 693         }
 694         mp = mdt_object_find_lock(info, rr->rr_fid1, parent_lh,
 695                                   MDS_INODELOCK_UPDATE);
 696         if (IS_ERR(mp)) {
 697                 rc = PTR_ERR(mp);
 698                 /* errors are possible here in cross-ref cases, see below */
 699                 if (info->mti_cross_ref)
 700                         rc = 0;
 701                 GOTO(out, rc);
 702         }
 703
 704         if (mdt_object_obf(mp))
 705                 GOTO(out_unlock_parent, rc = -EPERM);
 706
 707         rc = mdt_version_get_check_save(info, mp, 0);
 708         if (rc)
 709                 GOTO(out_unlock_parent, rc);
 710
 711         mdt_reint_init_ma(info, ma);
 712         if (!ma->ma_lmm || !ma->ma_cookie)
 713                 GOTO(out_unlock_parent, rc = -EINVAL);
 714
 715         if (info->mti_cross_ref) {
 716                 /*
 717                  * Remote partial operation. It is possible that replay may
 718                  * happen on parent MDT and this operation will be repeated.
 719                  * Therefore the object absense is allowed case and nothing
 720                  * should be done here.
 721                  */
 722                 if (mdt_object_exists(mp) > 0) {
 723                         mdt_set_capainfo(info, 0, rr->rr_fid1, BYPASS_CAPA);
 724                         rc = mo_ref_del(info->mti_env,
 725                                         mdt_object_child(mp), ma);
 726                         if (rc == 0)
 727                                 mdt_handle_last_unlink(info, mp, ma);
 728                 } else
 729                         rc = 0;
 730                 GOTO(out_unlock_parent, rc);
 731         }
 732
 733         /* step 2: find & lock the child */
 734         lname = mdt_name(info->mti_env, (char *)rr->rr_name, rr->rr_namelen);
 735         /* lookup child object along with version checking */
 736         fid_zero(child_fid);
 737         rc = mdt_lookup_version_check(info, mp, lname, child_fid, 1);
 738         if (rc != 0)
 739                  GOTO(out_unlock_parent, rc);
 740
 741         /* We will lock the child regardless it is local or remote. No harm. */
 742         mc = mdt_object_find(info->mti_env, info->mti_mdt, child_fid);
 743         if (IS_ERR(mc))
 744                 GOTO(out_unlock_parent, rc = PTR_ERR(mc));
 745         child_lh = &info->mti_lh[MDT_LH_CHILD];
 746         mdt_lock_reg_init(child_lh, LCK_EX);
 747         rc = mdt_object_lock(info, mc, child_lh, MDS_INODELOCK_FULL,
 748                              MDT_CROSS_LOCK);
 749         if (rc != 0) {
 750                 mdt_object_put(info->mti_env, mc);
 751                 GOTO(out_unlock_parent, rc);
 752         }
 753
 754         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 755                        OBD_FAIL_MDS_REINT_UNLINK_WRITE);
 756         /* save version when object is locked */
 757         mdt_version_get_save(info, mc, 1);
 758         /*
 759          * Now we can only make sure we need MA_INODE, in mdd layer, will check
 760          * whether need MA_LOV and MA_COOKIE.
 761          */
 762         ma->ma_need = MA_INODE;
 763         ma->ma_valid = 0;
 764         mdt_set_capainfo(info, 1, child_fid, BYPASS_CAPA);
 765         rc = mdo_unlink(info->mti_env, mdt_object_child(mp),
 766                         mdt_object_child(mc), lname, ma);
 767         if (rc == 0)
 768                 mdt_handle_last_unlink(info, mc, ma);
 769
 770         if (ma->ma_valid & MA_INODE) {
 771                 switch (ma->ma_attr.la_mode & S_IFMT) {
 772                 case S_IFDIR:
 773                         mdt_counter_incr(req->rq_export, LPROC_MDT_RMDIR);
 774                         break;
 775                 case S_IFREG:
 776                 case S_IFLNK:
 777                 case S_IFCHR:
 778                 case S_IFBLK:
 779                 case S_IFIFO:
 780                 case S_IFSOCK:
 781                         mdt_counter_incr(req->rq_export, LPROC_MDT_UNLINK);
 782                         break;
 783                 default:
 784                         LASSERTF(0, "bad file type %o unlinking\n",
 785                                  ma->ma_attr.la_mode);
 786                 }
 787         }
 788
 789         EXIT;
 790
 791         mdt_object_unlock_put(info, mc, child_lh, rc);
 792 out_unlock_parent:
 793         mdt_object_unlock_put(info, mp, parent_lh, rc);
 794 out:
 795         return rc;
 796 }
 797
 798 /*
 799  * VBR: save versions in reply: 0 - parent; 1 - child by fid; 2 - target by
 800  * name.
 801  */
 802 static int mdt_reint_link(struct mdt_thread_info *info,
 803                           struct mdt_lock_handle *lhc)
 804 {
 805         struct mdt_reint_record *rr = &info->mti_rr;
 806         struct ptlrpc_request   *req = mdt_info_req(info);
 807         struct md_attr          *ma = &info->mti_attr;
 808         struct mdt_object       *ms;
 809         struct mdt_object       *mp;
 810         struct mdt_lock_handle  *lhs;
 811         struct mdt_lock_handle  *lhp;
 812         struct lu_name          *lname;
 813         int rc;
 814         ENTRY;
 815
 816         DEBUG_REQ(D_INODE, req, "link "DFID" to "DFID"/%s",
 817                   PFID(rr->rr_fid1), PFID(rr->rr_fid2), rr->rr_name);
 818
 819         if (OBD_FAIL_CHECK(OBD_FAIL_MDS_REINT_LINK))
 820                 RETURN(err_serious(-ENOENT));
 821
 822         if (info->mti_dlm_req)
 823                 ldlm_request_cancel(req, info->mti_dlm_req, 0);
 824
 825         if (info->mti_cross_ref) {
 826                 /* MDT holding name ask us to add ref. */
 827                 lhs = &info->mti_lh[MDT_LH_CHILD];
 828                 mdt_lock_reg_init(lhs, LCK_EX);
 829                 ms = mdt_object_find_lock(info, rr->rr_fid1, lhs,
 830                                           MDS_INODELOCK_UPDATE);
 831                 if (IS_ERR(ms))
 832                         RETURN(PTR_ERR(ms));
 833
 834                 mdt_set_capainfo(info, 0, rr->rr_fid1, BYPASS_CAPA);
 835                 rc = mo_ref_add(info->mti_env, mdt_object_child(ms), ma);
 836                 mdt_object_unlock_put(info, ms, lhs, rc);
 837                 RETURN(rc);
 838         }
 839
 840         /* Invalid case so return error immediately instead of
 841          * processing it */
 842         if (lu_fid_eq(rr->rr_fid1, rr->rr_fid2))
 843                 RETURN(-EPERM);
 844
 845         /* step 1: find & lock the target parent dir */
 846         lhp = &info->mti_lh[MDT_LH_PARENT];
 847         mdt_lock_pdo_init(lhp, LCK_PW, rr->rr_name,
 848                           rr->rr_namelen);
 849         mp = mdt_object_find_lock(info, rr->rr_fid2, lhp,
 850                                   MDS_INODELOCK_UPDATE);
 851         if (IS_ERR(mp))
 852                 RETURN(PTR_ERR(mp));
 853
 854         if (mdt_object_obf(mp))
 855                 GOTO(out_unlock_parent, rc = -EPERM);
 856
 857         rc = mdt_version_get_check_save(info, mp, 0);
 858         if (rc)
 859                 GOTO(out_unlock_parent, rc);
 860
 861         /* step 2: find & lock the source */
 862         lhs = &info->mti_lh[MDT_LH_CHILD];
 863         mdt_lock_reg_init(lhs, LCK_EX);
 864
 865         ms = mdt_object_find(info->mti_env, info->mti_mdt, rr->rr_fid1);
 866         if (IS_ERR(ms))
 867                 GOTO(out_unlock_parent, rc = PTR_ERR(ms));
 868
 869         rc = mdt_object_lock(info, ms, lhs, MDS_INODELOCK_UPDATE,
 870                             MDT_CROSS_LOCK);
 871         if (rc != 0) {
 872                 mdt_object_put(info->mti_env, ms);
 873                 GOTO(out_unlock_parent, rc);
 874         }
 875
 876         /* step 3: link it */
 877         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 878                        OBD_FAIL_MDS_REINT_LINK_WRITE);
 879
 880         info->mti_mos = ms;
 881         rc = mdt_version_get_check_save(info, ms, 1);
 882         if (rc)
 883                 GOTO(out_unlock_child, rc);
 884
 885         lname = mdt_name(info->mti_env, (char *)rr->rr_name, rr->rr_namelen);
 886         /** check target version by name during replay */
 887         rc = mdt_lookup_version_check(info, mp, lname, &info->mti_tmp_fid1, 2);
 888         if (rc != 0 && rc != -ENOENT)
 889                 GOTO(out_unlock_child, rc);
 890         /* save version of file name for replay, it must be ENOENT here */
 891         if (!req_is_replay(mdt_info_req(info))) {
 892                 info->mti_ver[2] = ENOENT_VERSION;
 893                 mdt_version_save(mdt_info_req(info), info->mti_ver[2], 2);
 894         }
 895
 896         rc = mdo_link(info->mti_env, mdt_object_child(mp),
 897                       mdt_object_child(ms), lname, ma);
 898
 899         if (rc == 0)
 900                 mdt_counter_incr(req->rq_export, LPROC_MDT_LINK);
 901
 902         EXIT;
 903 out_unlock_child:
 904         mdt_object_unlock_put(info, ms, lhs, rc);
 905 out_unlock_parent:
 906         mdt_object_unlock_put(info, mp, lhp, rc);
 907         return rc;
 908 }
 909 /**
 910  * lock the part of the directory according to the hash of the name
 911  * (lh->mlh_pdo_hash) in parallel directory lock.
 912  */
 913 static int mdt_pdir_hash_lock(struct mdt_thread_info *info,
 914                        struct mdt_lock_handle *lh,
 915                        struct mdt_object *obj, __u64 ibits)
 916 {
 917         struct ldlm_res_id *res_id = &info->mti_res_id;
 918         struct ldlm_namespace *ns = info->mti_mdt->mdt_namespace;
 919         ldlm_policy_data_t *policy = &info->mti_policy;
 920         int rc;
 921
 922         /*
 923          * Finish res_id initializing by name hash marking part of
 924          * directory which is taking modification.
 925          */
 926         LASSERT(lh->mlh_pdo_hash != 0);
 927         fid_build_pdo_res_name(mdt_object_fid(obj), lh->mlh_pdo_hash, res_id);
 928         memset(policy, 0, sizeof(*policy));
 929         policy->l_inodebits.bits = ibits;
 930         /*
 931          * Use LDLM_FL_LOCAL_ONLY for this lock. We do not know yet if it is
 932          * going to be sent to client. If it is - mdt_intent_policy() path will
 933          * fix it up and turn FL_LOCAL flag off.
 934          */
 935         rc = mdt_fid_lock(ns, &lh->mlh_reg_lh, lh->mlh_reg_mode, policy,
 936                           res_id, LDLM_FL_LOCAL_ONLY | LDLM_FL_ATOMIC_CB,
 937                           &info->mti_exp->exp_handle.h_cookie);
 938         return rc;
 939 }
 940
 941 /* partial operation for rename */
 942 static int mdt_reint_rename_tgt(struct mdt_thread_info *info)
 943 {
 944         struct mdt_reint_record *rr = &info->mti_rr;
 945         struct ptlrpc_request   *req = mdt_info_req(info);
 946         struct md_attr          *ma = &info->mti_attr;
 947         struct mdt_object       *mtgtdir;
 948         struct mdt_object       *mtgt = NULL;
 949         struct mdt_lock_handle  *lh_tgtdir;
 950         struct mdt_lock_handle  *lh_tgt = NULL;
 951         struct lu_fid           *tgt_fid = &info->mti_tmp_fid1;
 952         struct lu_name          *lname;
 953         int                      rc;
 954         ENTRY;
 955
 956         DEBUG_REQ(D_INODE, req, "rename_tgt: insert (%s->"DFID") in "DFID,
 957                   rr->rr_tgt, PFID(rr->rr_fid2), PFID(rr->rr_fid1));
 958
 959         /* step 1: lookup & lock the tgt dir. */
 960         lh_tgtdir = &info->mti_lh[MDT_LH_PARENT];
 961         mdt_lock_pdo_init(lh_tgtdir, LCK_PW, rr->rr_tgt,
 962                           rr->rr_tgtlen);
 963         mtgtdir = mdt_object_find_lock(info, rr->rr_fid1, lh_tgtdir,
 964                                        MDS_INODELOCK_UPDATE);
 965         if (IS_ERR(mtgtdir))
 966                 RETURN(PTR_ERR(mtgtdir));
 967
 968         /* step 2: find & lock the target object if exists. */
 969         mdt_set_capainfo(info, 0, rr->rr_fid1, BYPASS_CAPA);
 970         lname = mdt_name(info->mti_env, (char *)rr->rr_tgt, rr->rr_tgtlen);
 971         rc = mdo_lookup(info->mti_env, mdt_object_child(mtgtdir),
 972                         lname, tgt_fid, &info->mti_spec);
 973         if (rc != 0 && rc != -ENOENT) {
 974                 GOTO(out_unlock_tgtdir, rc);
 975         } else if (rc == 0) {
 976                 /*
 977                  * In case of replay that name can be already inserted, check
 978                  * that and do nothing if so.
 979                  */
 980                 if (lu_fid_eq(tgt_fid, rr->rr_fid2))
 981                         GOTO(out_unlock_tgtdir, rc);
 982
 983                 lh_tgt = &info->mti_lh[MDT_LH_CHILD];
 984                 mdt_lock_reg_init(lh_tgt, LCK_EX);
 985
 986                 mtgt = mdt_object_find_lock(info, tgt_fid, lh_tgt,
 987                                             MDS_INODELOCK_LOOKUP);
 988                 if (IS_ERR(mtgt))
 989                         GOTO(out_unlock_tgtdir, rc = PTR_ERR(mtgt));
 990
 991                 mdt_reint_init_ma(info, ma);
 992                 if (!ma->ma_lmm || !ma->ma_cookie)
 993                         GOTO(out_unlock_tgt, rc = -EINVAL);
 994
 995                 rc = mdo_rename_tgt(info->mti_env, mdt_object_child(mtgtdir),
 996                                     mdt_object_child(mtgt), rr->rr_fid2,
 997                                     lname, ma);
 998         } else /* -ENOENT */ {
 999                 rc = mdo_name_insert(info->mti_env, mdt_object_child(mtgtdir),
1000                                      lname, rr->rr_fid2, ma);
1001         }
1002
1003         /* handle last link of tgt object */
1004         if (rc == 0 && mtgt)
1005                 mdt_handle_last_unlink(info, mtgt, ma);
1006
1007         EXIT;
1008 out_unlock_tgt:
1009         if (mtgt)
1010                 mdt_object_unlock_put(info, mtgt, lh_tgt, rc);
1011 out_unlock_tgtdir:
1012         mdt_object_unlock_put(info, mtgtdir, lh_tgtdir, rc);
1013         return rc;
1014 }
1015
1016 static int mdt_rename_lock(struct mdt_thread_info *info,
1017                            struct lustre_handle *lh)
1018 {
1019         struct ldlm_namespace *ns     = info->mti_mdt->mdt_namespace;
1020         ldlm_policy_data_t    *policy = &info->mti_policy;
1021         struct ldlm_res_id    *res_id = &info->mti_res_id;
1022         struct md_site        *ms;
1023         int rc;
1024         ENTRY;
1025
1026         ms = mdt_md_site(info->mti_mdt);
1027         fid_build_reg_res_name(&LUSTRE_BFL_FID, res_id);
1028
1029         memset(policy, 0, sizeof *policy);
1030         policy->l_inodebits.bits = MDS_INODELOCK_UPDATE;
1031
1032         if (ms->ms_control_exp == NULL) {
1033                 int flags = LDLM_FL_LOCAL_ONLY | LDLM_FL_ATOMIC_CB;
1034
1035                 /*
1036                  * Current node is controller, that is mdt0, where we should
1037                  * take BFL lock.
1038                  */
1039                 rc = ldlm_cli_enqueue_local(ns, res_id, LDLM_IBITS, policy,
1040                                             LCK_EX, &flags, ldlm_blocking_ast,
1041                                             ldlm_completion_ast, NULL, NULL, 0,
1042                                             &info->mti_exp->exp_handle.h_cookie,
1043                                             lh);
1044         } else {
1045                 struct ldlm_enqueue_info einfo = { LDLM_IBITS, LCK_EX,
1046                      ldlm_blocking_ast, ldlm_completion_ast, NULL, NULL, NULL };
1047                 int flags = 0;
1048
1049                 /*
1050                  * This is the case mdt0 is remote node, issue DLM lock like
1051                  * other clients.
1052                  */
1053                 rc = ldlm_cli_enqueue(ms->ms_control_exp, NULL, &einfo, res_id,
1054                                       policy, &flags, NULL, 0, lh, 0);
1055         }
1056
1057         RETURN(rc);
1058 }
1059
1060 static void mdt_rename_unlock(struct lustre_handle *lh)
1061 {
1062         ENTRY;
1063         LASSERT(lustre_handle_is_used(lh));
1064         ldlm_lock_decref(lh, LCK_EX);
1065         EXIT;
1066 }
1067
1068 /*
1069  * This is is_subdir() variant, it is CMD if cmm forwards it to correct
1070  * target. Source should not be ancestor of target dir. May be other rename
1071  * checks can be moved here later.
1072  */
1073 static int mdt_rename_sanity(struct mdt_thread_info *info, struct lu_fid *fid)
1074 {
1075         struct mdt_reint_record *rr = &info->mti_rr;
1076         struct lu_fid dst_fid = *rr->rr_fid2;
1077         struct mdt_object *dst;
1078         int rc = 0;
1079         ENTRY;
1080
1081         do {
1082                 LASSERT(fid_is_sane(&dst_fid));
1083                 dst = mdt_object_find(info->mti_env, info->mti_mdt, &dst_fid);
1084                 if (!IS_ERR(dst)) {
1085                         rc = mdo_is_subdir(info->mti_env,
1086                                            mdt_object_child(dst), fid,
1087                                            &dst_fid);
1088                         mdt_object_put(info->mti_env, dst);
1089                         if (rc != -EREMOTE && rc < 0) {
1090                                 CERROR("Failed mdo_is_subdir(), rc %d\n", rc);
1091                         } else {
1092                                 /* check the found fid */
1093                                 if (lu_fid_eq(&dst_fid, fid))
1094                                         rc = -EINVAL;
1095                         }
1096                 } else {
1097                         rc = PTR_ERR(dst);
1098                 }
1099         } while (rc == -EREMOTE);
1100
1101         RETURN(rc);
1102 }
1103
1104 /*
1105  * VBR: rename versions in reply: 0 - src parent; 1 - tgt parent;
1106  * 2 - src child; 3 - tgt child.
1107  * Update on disk version of src child.
1108  */
1109 static int mdt_reint_rename(struct mdt_thread_info *info,
1110                             struct mdt_lock_handle *lhc)
1111 {
1112         struct mdt_reint_record *rr = &info->mti_rr;
1113         struct md_attr          *ma = &info->mti_attr;
1114         struct ptlrpc_request   *req = mdt_info_req(info);
1115         struct mdt_object       *msrcdir;
1116         struct mdt_object       *mtgtdir;
1117         struct mdt_object       *mold;
1118         struct mdt_object       *mnew = NULL;
1119         struct mdt_lock_handle  *lh_srcdirp;
1120         struct mdt_lock_handle  *lh_tgtdirp;
1121         struct mdt_lock_handle  *lh_oldp;
1122         struct mdt_lock_handle  *lh_newp;
1123         struct lu_fid           *old_fid = &info->mti_tmp_fid1;
1124         struct lu_fid           *new_fid = &info->mti_tmp_fid2;
1125         struct lustre_handle     rename_lh = { 0 };
1126         struct lu_name           slname = { 0 };
1127         struct lu_name          *lname;
1128         int                      rc;
1129         ENTRY;
1130
1131         if (info->mti_dlm_req)
1132                 ldlm_request_cancel(req, info->mti_dlm_req, 0);
1133
1134         if (info->mti_cross_ref) {
1135                 rc = mdt_reint_rename_tgt(info);
1136                 RETURN(rc);
1137         }
1138
1139         DEBUG_REQ(D_INODE, req, "rename "DFID"/%s to "DFID"/%s",
1140                   PFID(rr->rr_fid1), rr->rr_name,
1141                   PFID(rr->rr_fid2), rr->rr_tgt);
1142
1143         rc = mdt_rename_lock(info, &rename_lh);
1144         if (rc) {
1145                 CERROR("Can't lock FS for rename, rc %d\n", rc);
1146                 RETURN(rc);
1147         }
1148
1149         lh_newp = &info->mti_lh[MDT_LH_NEW];
1150
1151         /* step 1: lock the source dir. */
1152         lh_srcdirp = &info->mti_lh[MDT_LH_PARENT];
1153         mdt_lock_pdo_init(lh_srcdirp, LCK_PW, rr->rr_name,
1154                           rr->rr_namelen);
1155         msrcdir = mdt_object_find_lock(info, rr->rr_fid1, lh_srcdirp,
1156                                        MDS_INODELOCK_UPDATE);
1157         if (IS_ERR(msrcdir))
1158                 GOTO(out_rename_lock, rc = PTR_ERR(msrcdir));
1159
1160         if (mdt_object_obf(msrcdir))
1161                 GOTO(out_unlock_source, rc = -EPERM);
1162
1163         rc = mdt_version_get_check_save(info, msrcdir, 0);
1164         if (rc)
1165                 GOTO(out_unlock_source, rc);
1166
1167         /* step 2: find & lock the target dir. */
1168         lh_tgtdirp = &info->mti_lh[MDT_LH_CHILD];
1169         mdt_lock_pdo_init(lh_tgtdirp, LCK_PW, rr->rr_tgt,
1170                           rr->rr_tgtlen);
1171         if (lu_fid_eq(rr->rr_fid1, rr->rr_fid2)) {
1172                 mdt_object_get(info->mti_env, msrcdir);
1173                 mtgtdir = msrcdir;
1174                 if (lh_tgtdirp->mlh_pdo_hash != lh_srcdirp->mlh_pdo_hash) {
1175                          rc = mdt_pdir_hash_lock(info, lh_tgtdirp, mtgtdir,
1176                                                  MDS_INODELOCK_UPDATE);
1177                          if (rc)
1178                                  GOTO(out_unlock_source, rc);
1179                          OBD_FAIL_TIMEOUT(OBD_FAIL_MDS_PDO_LOCK2, 10);
1180                 }
1181         } else {
1182                 mtgtdir = mdt_object_find(info->mti_env, info->mti_mdt,
1183                                           rr->rr_fid2);
1184                 if (IS_ERR(mtgtdir))
1185                         GOTO(out_unlock_source, rc = PTR_ERR(mtgtdir));
1186
1187                 if (mdt_object_obf(mtgtdir))
1188                         GOTO(out_put_target, rc = -EPERM);
1189
1190                 /* check early, the real version will be saved after locking */
1191                 rc = mdt_version_get_check(info, mtgtdir, 1);
1192                 if (rc)
1193                         GOTO(out_put_target, rc);
1194
1195                 rc = mdt_object_exists(mtgtdir);
1196                 if (rc == 0) {
1197                         GOTO(out_put_target, rc = -ESTALE);
1198                 } else if (rc > 0) {
1199                         /* we lock the target dir if it is local */
1200                         rc = mdt_object_lock(info, mtgtdir, lh_tgtdirp,
1201                                              MDS_INODELOCK_UPDATE,
1202                                              MDT_LOCAL_LOCK);
1203                         if (rc != 0)
1204                                 GOTO(out_put_target, rc);
1205                         /* get and save correct version after locking */
1206                         mdt_version_get_save(info, mtgtdir, 1);
1207                 }
1208         }
1209
1210         /* step 3: find & lock the old object. */
1211         lname = mdt_name(info->mti_env, (char *)rr->rr_name, rr->rr_namelen);
1212         mdt_name_copy(&slname, lname);
1213         fid_zero(old_fid);
1214         rc = mdt_lookup_version_check(info, msrcdir, &slname, old_fid, 2);
1215         if (rc != 0)
1216                 GOTO(out_unlock_target, rc);
1217
1218         if (lu_fid_eq(old_fid, rr->rr_fid1) || lu_fid_eq(old_fid, rr->rr_fid2))
1219                 GOTO(out_unlock_target, rc = -EINVAL);
1220
1221         mold = mdt_object_find(info->mti_env, info->mti_mdt, old_fid);
1222         if (IS_ERR(mold))
1223                 GOTO(out_unlock_target, rc = PTR_ERR(mold));
1224
1225         lh_oldp = &info->mti_lh[MDT_LH_OLD];
1226         mdt_lock_reg_init(lh_oldp, LCK_EX);
1227         rc = mdt_object_lock(info, mold, lh_oldp, MDS_INODELOCK_LOOKUP,
1228                              MDT_CROSS_LOCK);
1229         if (rc != 0) {
1230                 mdt_object_put(info->mti_env, mold);
1231                 GOTO(out_unlock_target, rc);
1232         }
1233
1234         info->mti_mos = mold;
1235         /* save version after locking */
1236         mdt_version_get_save(info, mold, 2);
1237         mdt_set_capainfo(info, 2, old_fid, BYPASS_CAPA);
1238
1239         /* step 4: find & lock the new object. */
1240         /* new target object may not exist now */
1241         lname = mdt_name(info->mti_env, (char *)rr->rr_tgt, rr->rr_tgtlen);
1242         /* lookup with version checking */
1243         fid_zero(new_fid);
1244         rc = mdt_lookup_version_check(info, mtgtdir, lname, new_fid, 3);
1245         if (rc == 0) {
1246                 /* the new_fid should have been filled at this moment */
1247                 if (lu_fid_eq(old_fid, new_fid))
1248                        GOTO(out_unlock_old, rc);
1249
1250                 if (lu_fid_eq(new_fid, rr->rr_fid1) ||
1251                     lu_fid_eq(new_fid, rr->rr_fid2))
1252                         GOTO(out_unlock_old, rc = -EINVAL);
1253
1254                 mdt_lock_reg_init(lh_newp, LCK_EX);
1255                 mnew = mdt_object_find(info->mti_env, info->mti_mdt, new_fid);
1256                 if (IS_ERR(mnew))
1257                         GOTO(out_unlock_old, rc = PTR_ERR(mnew));
1258
1259                 rc = mdt_object_lock(info, mnew, lh_newp,
1260                                      MDS_INODELOCK_FULL, MDT_CROSS_LOCK);
1261                 if (rc != 0) {
1262                         mdt_object_put(info->mti_env, mnew);
1263                         GOTO(out_unlock_old, rc);
1264                 }
1265                 /* get and save version after locking */
1266                 mdt_version_get_save(info, mnew, 3);
1267                 mdt_set_capainfo(info, 3, new_fid, BYPASS_CAPA);
1268         } else if (rc != -EREMOTE && rc != -ENOENT) {
1269                 GOTO(out_unlock_old, rc);
1270         } else {
1271                 mdt_enoent_version_save(info, 3);
1272         }
1273
1274         /* step 5: rename it */
1275         mdt_reint_init_ma(info, ma);
1276         if (!ma->ma_lmm || !ma->ma_cookie)
1277                 GOTO(out_unlock_new, rc = -EINVAL);
1278
1279         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
1280                        OBD_FAIL_MDS_REINT_RENAME_WRITE);
1281
1282
1283         /* Check if @dst is subdir of @src. */
1284         rc = mdt_rename_sanity(info, old_fid);
1285         if (rc)
1286                 GOTO(out_unlock_new, rc);
1287
1288         rc = mdo_rename(info->mti_env, mdt_object_child(msrcdir),
1289                         mdt_object_child(mtgtdir), old_fid, &slname,
1290                         (mnew ? mdt_object_child(mnew) : NULL),
1291                         lname, ma);
1292
1293         /* handle last link of tgt object */
1294         if (rc == 0) {
1295                 mdt_counter_incr(req->rq_export, LPROC_MDT_RENAME);
1296                 if (mnew)
1297                         mdt_handle_last_unlink(info, mnew, ma);
1298
1299                 mdt_rename_counter_tally(info, info->mti_mdt, req->rq_export,
1300                                          msrcdir, mtgtdir);
1301         }
1302
1303         EXIT;
1304 out_unlock_new:
1305         if (mnew)
1306                 mdt_object_unlock_put(info, mnew, lh_newp, rc);
1307 out_unlock_old:
1308         mdt_object_unlock_put(info, mold, lh_oldp, rc);
1309 out_unlock_target:
1310         mdt_object_unlock(info, mtgtdir, lh_tgtdirp, rc);
1311 out_put_target:
1312         mdt_object_put(info->mti_env, mtgtdir);
1313 out_unlock_source:
1314         mdt_object_unlock_put(info, msrcdir, lh_srcdirp, rc);
1315 out_rename_lock:
1316         mdt_rename_unlock(&rename_lh);
1317         return rc;
1318 }
1319
1320 typedef int (*mdt_reinter)(struct mdt_thread_info *info,
1321                            struct mdt_lock_handle *lhc);
1322
1323 static mdt_reinter reinters[REINT_MAX] = {
1324         [REINT_SETATTR]  = mdt_reint_setattr,
1325         [REINT_CREATE]   = mdt_reint_create,
1326         [REINT_LINK]     = mdt_reint_link,
1327         [REINT_UNLINK]   = mdt_reint_unlink,
1328         [REINT_RENAME]   = mdt_reint_rename,
1329         [REINT_OPEN]     = mdt_reint_open,
1330         [REINT_SETXATTR] = mdt_reint_setxattr
1331 };
1332
1333 int mdt_reint_rec(struct mdt_thread_info *info,
1334                   struct mdt_lock_handle *lhc)
1335 {
1336         int rc;
1337         ENTRY;
1338
1339         rc = reinters[info->mti_rr.rr_opcode](info, lhc);
1340
1341         RETURN(rc);
1342 }