lustre/mdt/mdt_reint.c

   1 /* -*- mode: c; c-basic-offset: 8; indent-tabs-mode: nil; -*-
   2  * vim:expandtab:shiftwidth=8:tabstop=8:
   3  *
   4  *  linux/mdt/mdt_reint.c
   5  *  Lustre Metadata Target (mdt) reintegration routines
   6  *
   7  *  Copyright (C) 2002-2006 Cluster File Systems, Inc.
   8  *   Author: Peter Braam <braam@clusterfs.com>
   9  *   Author: Andreas Dilger <adilger@clusterfs.com>
  10  *   Author: Phil Schwan <phil@clusterfs.com>
  11  *   Author: Huang Hua <huanghua@clusterfs.com>
  12  *   Author: Yury Umanets <umka@clusterfs.com>
  13  *
  14  *   This file is part of the Lustre file system, http://www.lustre.org
  15  *   Lustre is a trademark of Cluster File Systems, Inc.
  16  *
  17  *   You may have signed or agreed to another license before downloading
  18  *   this software.  If so, you are bound by the terms and conditions
  19  *   of that agreement, and the following does not apply to you.  See the
  20  *   LICENSE file included with this distribution for more information.
  21  *
  22  *   If you did not agree to a different license, then this copy of Lustre
  23  *   is open source software; you can redistribute it and/or modify it
  24  *   under the terms of version 2 of the GNU General Public License as
  25  *   published by the Free Software Foundation.
  26  *
  27  *   In either case, Lustre is distributed in the hope that it will be
  28  *   useful, but WITHOUT ANY WARRANTY; without even the implied warranty
  29  *   of MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  30  *   license text for more details.
  31  */
  32
  33 #ifndef EXPORT_SYMTAB
  34 # define EXPORT_SYMTAB
  35 #endif
  36 #define DEBUG_SUBSYSTEM S_MDS
  37
  38 #include "mdt_internal.h"
  39 #include "lu_time.h"
  40
  41 static inline void mdt_reint_init_ma(struct mdt_thread_info *info,
  42                                      struct md_attr *ma)
  43 {
  44         ma->ma_lmm = req_capsule_server_get(&info->mti_pill, &RMF_MDT_MD);
  45         ma->ma_lmm_size = req_capsule_get_size(&info->mti_pill,
  46                                                &RMF_MDT_MD, RCL_SERVER);
  47
  48         ma->ma_cookie = req_capsule_server_get(&info->mti_pill,
  49                                                &RMF_LOGCOOKIES);
  50         ma->ma_cookie_size = req_capsule_get_size(&info->mti_pill,
  51                                                   &RMF_LOGCOOKIES,
  52                                                   RCL_SERVER);
  53
  54         ma->ma_need = MA_INODE | MA_LOV | MA_COOKIE;
  55         ma->ma_valid = 0;
  56 }
  57
  58 static int mdt_create_pack_capa(struct mdt_thread_info *info, int rc,
  59                                 struct mdt_object *object,
  60                                 struct mdt_body *repbody)
  61 {
  62         ENTRY;
  63
  64         /* for cross-ref mkdir, mds capa has been fetched from remote obj, then
  65          * we won't go to below*/
  66         if (repbody->valid & OBD_MD_FLMDSCAPA)
  67                 RETURN(rc);
  68
  69         if (rc == 0 && info->mti_mdt->mdt_opts.mo_mds_capa) {
  70                 struct lustre_capa *capa;
  71
  72                 capa = req_capsule_server_get(&info->mti_pill, &RMF_CAPA1);
  73                 LASSERT(capa);
  74                 capa->lc_opc = CAPA_OPC_MDS_DEFAULT;
  75                 rc = mo_capa_get(info->mti_env, mdt_object_child(object), capa,
  76                                  0);
  77                 if (rc == 0)
  78                         repbody->valid |= OBD_MD_FLMDSCAPA;
  79         }
  80         if (!(repbody->valid & OBD_MD_FLMDSCAPA))
  81                 lustre_shrink_reply(mdt_info_req(info), REPLY_REC_OFF+1, 0, 1);
  82
  83         RETURN(rc);
  84 }
  85
  86 static int mdt_md_create(struct mdt_thread_info *info)
  87 {
  88         struct mdt_device       *mdt = info->mti_mdt;
  89         struct mdt_object       *parent;
  90         struct mdt_object       *child;
  91         struct mdt_lock_handle  *lh;
  92         struct mdt_body         *repbody;
  93         struct md_attr          *ma = &info->mti_attr;
  94         struct mdt_reint_record *rr = &info->mti_rr;
  95         struct lu_name          *lname;
  96         int rc;
  97         ENTRY;
  98
  99         DEBUG_REQ(D_INODE, mdt_info_req(info), "Create  (%s->"DFID") in "DFID,
 100                   rr->rr_name, PFID(rr->rr_fid2), PFID(rr->rr_fid1));
 101
 102         repbody = req_capsule_server_get(&info->mti_pill, &RMF_MDT_BODY);
 103
 104         lh = &info->mti_lh[MDT_LH_PARENT];
 105         mdt_lock_pdo_init(lh, LCK_PW, rr->rr_name, rr->rr_namelen);
 106
 107         parent = mdt_object_find_lock(info, rr->rr_fid1, lh,
 108                                       MDS_INODELOCK_UPDATE);
 109         if (IS_ERR(parent))
 110                 RETURN(PTR_ERR(parent));
 111
 112         child = mdt_object_find(info->mti_env, mdt, rr->rr_fid2);
 113         if (likely(!IS_ERR(child))) {
 114                 struct md_object *next = mdt_object_child(parent);
 115
 116                 ma->ma_need = MA_INODE;
 117                 ma->ma_valid = 0;
 118                 /* capa for cross-ref will be stored here */
 119                 ma->ma_capa = req_capsule_server_get(&info->mti_pill,
 120                                                      &RMF_CAPA1);
 121                 LASSERT(ma->ma_capa);
 122
 123                 mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 124                                OBD_FAIL_MDS_REINT_CREATE_WRITE);
 125
 126                 /* Let lower layer know current lock mode. */
 127                 info->mti_spec.sp_cr_mode =
 128                         mdt_dlm_mode2mdl_mode(lh->mlh_pdo_mode);
 129
 130                 /*
 131                  * Do perform lookup sanity check. We do not know if name exists
 132                  * or not.
 133                  */
 134                 info->mti_spec.sp_cr_lookup = 1;
 135
 136                 lname = mdt_name(info->mti_env, (char *)rr->rr_name,
 137                                  rr->rr_namelen);
 138                 rc = mdo_create(info->mti_env, next, lname,
 139                                 mdt_object_child(child),
 140                                 &info->mti_spec, ma);
 141                 if (rc == 0) {
 142                         /* Return fid & attr to client. */
 143                         if (ma->ma_valid & MA_INODE)
 144                                 mdt_pack_attr2body(info, repbody, &ma->ma_attr,
 145                                                    mdt_object_fid(child));
 146                 }
 147                 mdt_object_put(info->mti_env, child);
 148         } else
 149                 rc = PTR_ERR(child);
 150
 151         mdt_create_pack_capa(info, rc, child, repbody);
 152         mdt_object_unlock_put(info, parent, lh, rc);
 153         RETURN(rc);
 154 }
 155
 156 /* Partial request to create object only */
 157 static int mdt_md_mkobj(struct mdt_thread_info *info)
 158 {
 159         struct mdt_device      *mdt = info->mti_mdt;
 160         struct mdt_object      *o;
 161         struct mdt_body        *repbody;
 162         struct md_attr         *ma = &info->mti_attr;
 163         int rc;
 164         ENTRY;
 165
 166         DEBUG_REQ(D_INODE, mdt_info_req(info), "Partial create "DFID"",
 167                   PFID(info->mti_rr.rr_fid2));
 168
 169         repbody = req_capsule_server_get(&info->mti_pill, &RMF_MDT_BODY);
 170
 171         o = mdt_object_find(info->mti_env, mdt, info->mti_rr.rr_fid2);
 172         if (!IS_ERR(o)) {
 173                 struct md_object *next = mdt_object_child(o);
 174
 175                 ma->ma_need = MA_INODE;
 176                 ma->ma_valid = 0;
 177
 178                 /*
 179                  * Cross-ref create can encounter already created obj in case of
 180                  * recovery, just get attr in that case.
 181                  */
 182                 if (mdt_object_exists(o) == 1) {
 183                         rc = mo_attr_get(info->mti_env, next, ma);
 184                 } else {
 185                         /*
 186                          * Here, NO permission check for object_create,
 187                          * such check has been done on the original MDS.
 188                          */
 189                         rc = mo_object_create(info->mti_env, next,
 190                                               &info->mti_spec, ma);
 191                 }
 192                 if (rc == 0) {
 193                         /* Return fid & attr to client. */
 194                         if (ma->ma_valid & MA_INODE)
 195                                 mdt_pack_attr2body(info, repbody, &ma->ma_attr,
 196                                                    mdt_object_fid(o));
 197                 }
 198                 mdt_object_put(info->mti_env, o);
 199         } else
 200                 rc = PTR_ERR(o);
 201
 202         mdt_create_pack_capa(info, rc, o, repbody);
 203         RETURN(rc);
 204 }
 205
 206 /* In the raw-setattr case, we lock the child inode.
 207  * In the write-back case or if being called from open,
 208  *               the client holds a lock already.
 209  * We use the ATTR_FROM_OPEN (translated into MRF_SETATTR_LOCKED by
 210  * mdt_setattr_unpack()) flag to tell these cases apart. */
 211 int mdt_attr_set(struct mdt_thread_info *info, struct mdt_object *mo, int flags)
 212 {
 213         struct md_attr          *ma = &info->mti_attr;
 214         struct mdt_lock_handle  *lh;
 215         int som_update = 0;
 216         int rc;
 217         ENTRY;
 218
 219         /* attr shouldn't be set on remote object */
 220         LASSERT(mdt_object_exists(mo) >= 0);
 221
 222         if (info->mti_epoch)
 223                 som_update = (info->mti_epoch->flags & MF_SOM_CHANGE);
 224
 225         /* Try to avoid object_lock if another epoch has been started
 226          * already. */
 227         if (som_update && (info->mti_epoch->ioepoch != mo->mot_ioepoch))
 228                 RETURN(0);
 229
 230         lh = &info->mti_lh[MDT_LH_PARENT];
 231         mdt_lock_reg_init(lh, LCK_PW);
 232
 233         if (!(flags & MRF_SETATTR_LOCKED)) {
 234                 __u64 lockpart = MDS_INODELOCK_UPDATE;
 235                 if (ma->ma_attr.la_valid & (LA_MODE|LA_UID|LA_GID))
 236                         lockpart |= MDS_INODELOCK_LOOKUP;
 237
 238                 rc = mdt_object_lock(info, mo, lh, lockpart, MDT_LOCAL_LOCK);
 239                 if (rc != 0)
 240                         RETURN(rc);
 241         }
 242
 243         /* Setattrs are syncronized through dlm lock taken above. If another
 244          * epoch started, its attributes may be already flushed on disk,
 245          * skip setattr. */
 246         if (som_update && (info->mti_epoch->ioepoch != mo->mot_ioepoch))
 247                 GOTO(out_unlock, rc = 0);
 248
 249         if (mdt_object_exists(mo) == 0)
 250                 GOTO(out_unlock, rc = -ENOENT);
 251
 252         /* all attrs are packed into mti_attr in unpack_setattr */
 253         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 254                        OBD_FAIL_MDS_REINT_SETATTR_WRITE);
 255
 256         /* This is only for set ctime when rename's source is on remote MDS. */
 257         if (unlikely(ma->ma_attr.la_valid == LA_CTIME))
 258                 ma->ma_attr_flags |= MDS_VTX_BYPASS;
 259
 260         /* all attrs are packed into mti_attr in unpack_setattr */
 261         rc = mo_attr_set(info->mti_env, mdt_object_child(mo), ma);
 262         if (rc != 0)
 263                 GOTO(out_unlock, rc);
 264
 265         /* Re-enable SIZEONMDS. */
 266         if (som_update) {
 267                 CDEBUG(D_INODE, "Closing epoch "LPU64" on "DFID". Count %d\n",
 268                        mo->mot_ioepoch, PFID(mdt_object_fid(mo)),
 269                        mo->mot_epochcount);
 270                 mdt_sizeonmds_enable(info, mo);
 271         }
 272
 273         EXIT;
 274 out_unlock:
 275         mdt_object_unlock(info, mo, lh, rc);
 276         return rc;
 277 }
 278
 279 static int mdt_reint_setattr(struct mdt_thread_info *info,
 280                              struct mdt_lock_handle *lhc)
 281 {
 282         struct mdt_device       *mdt = info->mti_mdt;
 283         struct md_attr          *ma = &info->mti_attr;
 284         struct mdt_reint_record *rr = &info->mti_rr;
 285         struct ptlrpc_request   *req = mdt_info_req(info);
 286         struct mdt_export_data  *med = &req->rq_export->exp_mdt_data;
 287         struct mdt_file_data    *mfd;
 288         struct mdt_object       *mo;
 289         struct md_object        *next;
 290         struct mdt_body         *repbody;
 291         int                      rc;
 292         ENTRY;
 293
 294         DEBUG_REQ(D_INODE, req, "setattr "DFID" %x", PFID(rr->rr_fid1),
 295                   (unsigned int)ma->ma_attr.la_valid);
 296
 297         if (info->mti_dlm_req)
 298                 ldlm_request_cancel(req, info->mti_dlm_req, 0);
 299
 300         repbody = req_capsule_server_get(&info->mti_pill, &RMF_MDT_BODY);
 301         mo = mdt_object_find(info->mti_env, info->mti_mdt, rr->rr_fid1);
 302         if (IS_ERR(mo))
 303                 GOTO(out, rc = PTR_ERR(mo));
 304
 305         if (!(mdt_conn_flags(info) & OBD_CONNECT_SOM)) {
 306                 if ((ma->ma_attr.la_valid & LA_SIZE) ||
 307                     (rr->rr_flags & MRF_SETATTR_LOCKED)) {
 308                         /* Check write access for the O_TRUNC case */
 309                         if (mdt_write_read(info->mti_mdt, mo) < 0)
 310                                 GOTO(out_put, rc = -ETXTBSY);
 311                 }
 312         } else if (info->mti_epoch &&
 313                     (info->mti_epoch->flags & MF_EPOCH_OPEN)) {
 314                 /* Truncate case. */
 315                 rc = mdt_write_get(info->mti_mdt, mo);
 316                 if (rc)
 317                         GOTO(out_put, rc);
 318
 319                 mfd = mdt_mfd_new();
 320                 if (mfd == NULL)
 321                         GOTO(out_put, rc = -ENOMEM);
 322
 323                 mdt_epoch_open(info, mo);
 324                 repbody->ioepoch = mo->mot_ioepoch;
 325
 326                 mdt_object_get(info->mti_env, mo);
 327                 mdt_mfd_set_mode(mfd, FMODE_EPOCHLCK);
 328                 mfd->mfd_object = mo;
 329                 mfd->mfd_xid = req->rq_xid;
 330
 331                 spin_lock(&med->med_open_lock);
 332                 list_add(&mfd->mfd_list, &med->med_open_head);
 333                 spin_unlock(&med->med_open_lock);
 334                 repbody->handle.cookie = mfd->mfd_handle.h_cookie;
 335         }
 336
 337         rc = mdt_attr_set(info, mo, rr->rr_flags);
 338         if (rc)
 339                 GOTO(out_put, rc);
 340
 341         if (info->mti_epoch && (info->mti_epoch->flags & MF_SOM_CHANGE)) {
 342                 LASSERT(mdt_conn_flags(info) & OBD_CONNECT_SOM);
 343                 LASSERT(info->mti_epoch);
 344
 345                 spin_lock(&med->med_open_lock);
 346                 /* Size-on-MDS Update. Find and free mfd. */
 347                 mfd = mdt_handle2mfd(info, &info->mti_epoch->handle);
 348                 if (mfd == NULL) {
 349                         spin_unlock(&med->med_open_lock);
 350                         CDEBUG(D_INODE | D_ERROR, "no handle for file close: "
 351                                         "fid = "DFID": cookie = "LPX64"\n",
 352                                         PFID(info->mti_rr.rr_fid1),
 353                                         info->mti_epoch->handle.cookie);
 354                         GOTO(out_put, rc = -ESTALE);
 355                 }
 356                 LASSERT(mfd->mfd_mode == FMODE_SOM);
 357                 LASSERT(!(info->mti_epoch->flags & MF_EPOCH_CLOSE));
 358
 359                 class_handle_unhash(&mfd->mfd_handle);
 360                 list_del_init(&mfd->mfd_list);
 361                 spin_unlock(&med->med_open_lock);
 362
 363                 mdt_mfd_close(info, mfd);
 364         }
 365
 366         ma->ma_need = MA_INODE;
 367         ma->ma_valid = 0;
 368         next = mdt_object_child(mo);
 369         rc = mo_attr_get(info->mti_env, next, ma);
 370         if (rc != 0)
 371                 GOTO(out_put, rc);
 372
 373         mdt_pack_attr2body(info, repbody, &ma->ma_attr, mdt_object_fid(mo));
 374
 375         if (mdt->mdt_opts.mo_oss_capa &&
 376             S_ISREG(lu_object_attr(&mo->mot_obj.mo_lu)) &&
 377             (ma->ma_attr.la_valid & LA_SIZE)) {
 378                 struct lustre_capa *capa;
 379
 380                 capa = req_capsule_server_get(&info->mti_pill, &RMF_CAPA1);
 381                 LASSERT(capa);
 382                 capa->lc_opc = CAPA_OPC_OSS_DEFAULT | CAPA_OPC_OSS_TRUNC;
 383                 rc = mo_capa_get(info->mti_env, mdt_object_child(mo), capa, 0);
 384                 if (rc)
 385                         GOTO(out_put, rc);
 386                 repbody->valid |= OBD_MD_FLOSSCAPA;
 387         }
 388
 389         EXIT;
 390 out_put:
 391         mdt_object_put(info->mti_env, mo);
 392 out:
 393         return rc;
 394 }
 395
 396 static int mdt_reint_create(struct mdt_thread_info *info,
 397                             struct mdt_lock_handle *lhc)
 398 {
 399         int rc;
 400         ENTRY;
 401
 402         if (OBD_FAIL_CHECK(OBD_FAIL_MDS_REINT_CREATE))
 403                 GOTO(out, rc = err_serious(-ESTALE));
 404
 405         if (info->mti_dlm_req)
 406                 ldlm_request_cancel(mdt_info_req(info), info->mti_dlm_req, 0);
 407
 408         switch (info->mti_attr.ma_attr.la_mode & S_IFMT) {
 409         case S_IFDIR:{
 410                 /* Cross-ref case. */
 411                 if (info->mti_cross_ref) {
 412                         rc = mdt_md_mkobj(info);
 413                         break;
 414                 }
 415         }
 416         case S_IFREG:
 417         case S_IFLNK:
 418         case S_IFCHR:
 419         case S_IFBLK:
 420         case S_IFIFO:
 421         case S_IFSOCK:{
 422                 /* Special file should stay on the same node as parent. */
 423                 LASSERT(info->mti_rr.rr_namelen > 0);
 424                 rc = mdt_md_create(info);
 425                 break;
 426         }
 427         default:
 428                 rc = err_serious(-EOPNOTSUPP);
 429         }
 430         EXIT;
 431 out:
 432         return rc;
 433 }
 434
 435 static int mdt_reint_unlink(struct mdt_thread_info *info,
 436                             struct mdt_lock_handle *lhc)
 437 {
 438         struct mdt_reint_record *rr = &info->mti_rr;
 439         struct ptlrpc_request   *req = mdt_info_req(info);
 440         struct md_attr          *ma = &info->mti_attr;
 441         struct lu_fid           *child_fid = &info->mti_tmp_fid1;
 442         struct mdt_object       *mp;
 443         struct mdt_object       *mc;
 444         struct mdt_lock_handle  *parent_lh;
 445         struct mdt_lock_handle  *child_lh;
 446         struct lu_name          *lname;
 447         int                      rc;
 448         ENTRY;
 449
 450         DEBUG_REQ(D_INODE, req, "unlink "DFID"/%s", PFID(rr->rr_fid1),
 451                   rr->rr_name);
 452
 453         if (info->mti_dlm_req)
 454                 ldlm_request_cancel(req, info->mti_dlm_req, 0);
 455
 456         if (OBD_FAIL_CHECK(OBD_FAIL_MDS_REINT_UNLINK))
 457                 GOTO(out, rc = err_serious(-ENOENT));
 458
 459         /* step 1: lock the parent */
 460         parent_lh = &info->mti_lh[MDT_LH_PARENT];
 461         mdt_lock_pdo_init(parent_lh, LCK_PW, rr->rr_name,
 462                           rr->rr_namelen);
 463
 464         mp = mdt_object_find_lock(info, rr->rr_fid1, parent_lh,
 465                                   MDS_INODELOCK_UPDATE);
 466         if (IS_ERR(mp)) {
 467                 rc = PTR_ERR(mp);
 468                 /* errors are possible here in cross-ref cases, see below */
 469                 if (info->mti_cross_ref)
 470                         rc = 0;
 471                 GOTO(out, rc);
 472         }
 473
 474         mdt_reint_init_ma(info, ma);
 475         if (!ma->ma_lmm || !ma->ma_cookie)
 476                 GOTO(out_unlock_parent, rc = -EINVAL);
 477
 478         if (info->mti_cross_ref) {
 479                 /*
 480                  * Remote partial operation. It is possible that replay may
 481                  * happen on parent MDT and this operation will be repeated.
 482                  * Therefore the object absense is allowed case and nothing
 483                  * should be done here.
 484                  */
 485                 if (mdt_object_exists(mp) > 0) {
 486                         mdt_set_capainfo(info, 0, rr->rr_fid1, BYPASS_CAPA);
 487                         rc = mo_ref_del(info->mti_env,
 488                                         mdt_object_child(mp), ma);
 489                         mdt_handle_last_unlink(info, mp, ma);
 490                 } else
 491                         rc = 0;
 492                 GOTO(out_unlock_parent, rc);
 493         }
 494
 495         /* step 2: find & lock the child */
 496         lname = mdt_name(info->mti_env, (char *)rr->rr_name, rr->rr_namelen);
 497         rc = mdo_lookup(info->mti_env, mdt_object_child(mp),
 498                         lname, child_fid, &info->mti_spec);
 499         if (rc != 0)
 500                  GOTO(out_unlock_parent, rc);
 501
 502         /* We will lock the child regardless it is local or remote. No harm. */
 503         mc = mdt_object_find(info->mti_env, info->mti_mdt, child_fid);
 504         if (IS_ERR(mc))
 505                 GOTO(out_unlock_parent, rc = PTR_ERR(mc));
 506         child_lh = &info->mti_lh[MDT_LH_CHILD];
 507         mdt_lock_reg_init(child_lh, LCK_EX);
 508         rc = mdt_object_lock(info, mc, child_lh, MDS_INODELOCK_FULL,
 509                              MDT_CROSS_LOCK);
 510         if (rc != 0) {
 511                 mdt_object_put(info->mti_env, mc);
 512                 GOTO(out_unlock_parent, rc);
 513         }
 514
 515         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 516                        OBD_FAIL_MDS_REINT_UNLINK_WRITE);
 517
 518         /*
 519          * Now we can only make sure we need MA_INODE, in mdd layer, will check
 520          * whether need MA_LOV and MA_COOKIE.
 521          */
 522         ma->ma_need = MA_INODE;
 523         ma->ma_valid = 0;
 524         mdt_set_capainfo(info, 1, child_fid, BYPASS_CAPA);
 525         rc = mdo_unlink(info->mti_env, mdt_object_child(mp),
 526                         mdt_object_child(mc), lname, ma);
 527         if (rc == 0)
 528                 mdt_handle_last_unlink(info, mc, ma);
 529
 530         EXIT;
 531         mdt_object_unlock_put(info, mc, child_lh, rc);
 532 out_unlock_parent:
 533         mdt_object_unlock_put(info, mp, parent_lh, rc);
 534 out:
 535         mdt_shrink_reply(info);
 536         return rc;
 537 }
 538
 539 static int mdt_reint_link(struct mdt_thread_info *info,
 540                           struct mdt_lock_handle *lhc)
 541 {
 542         struct mdt_reint_record *rr = &info->mti_rr;
 543         struct ptlrpc_request   *req = mdt_info_req(info);
 544         struct md_attr          *ma = &info->mti_attr;
 545         struct mdt_object       *ms;
 546         struct mdt_object       *mp;
 547         struct mdt_lock_handle  *lhs;
 548         struct mdt_lock_handle  *lhp;
 549         struct lu_name          *lname;
 550         int rc;
 551         ENTRY;
 552
 553         DEBUG_REQ(D_INODE, req, "link "DFID" to "DFID"/%s",
 554                   PFID(rr->rr_fid1), PFID(rr->rr_fid2), rr->rr_name);
 555
 556         if (OBD_FAIL_CHECK(OBD_FAIL_MDS_REINT_LINK))
 557                 GOTO(out, rc = err_serious(-ENOENT));
 558
 559         if (info->mti_dlm_req)
 560                 ldlm_request_cancel(req, info->mti_dlm_req, 0);
 561
 562         if (info->mti_cross_ref) {
 563                 /* MDT holding name ask us to add ref. */
 564                 lhs = &info->mti_lh[MDT_LH_CHILD];
 565                 mdt_lock_reg_init(lhs, LCK_EX);
 566                 ms = mdt_object_find_lock(info, rr->rr_fid1, lhs,
 567                                           MDS_INODELOCK_UPDATE);
 568                 if (IS_ERR(ms))
 569                         GOTO(out, rc = PTR_ERR(ms));
 570
 571                 mdt_set_capainfo(info, 0, rr->rr_fid1, BYPASS_CAPA);
 572                 rc = mo_ref_add(info->mti_env, mdt_object_child(ms), ma);
 573                 mdt_object_unlock_put(info, ms, lhs, rc);
 574                 GOTO(out, rc);
 575         }
 576
 577         /* Invalid case so return error immediately instead of
 578          * processing it */
 579         if (lu_fid_eq(rr->rr_fid1, rr->rr_fid2))
 580                 GOTO(out, rc = -EPERM);
 581
 582         /* step 1: find & lock the target parent dir */
 583         lhp = &info->mti_lh[MDT_LH_PARENT];
 584         mdt_lock_pdo_init(lhp, LCK_EX, rr->rr_name,
 585                           rr->rr_namelen);
 586         mp = mdt_object_find_lock(info, rr->rr_fid2, lhp,
 587                                   MDS_INODELOCK_UPDATE);
 588         if (IS_ERR(mp))
 589                 GOTO(out, rc = PTR_ERR(mp));
 590
 591         /* step 2: find & lock the source */
 592         lhs = &info->mti_lh[MDT_LH_CHILD];
 593         mdt_lock_reg_init(lhs, LCK_EX);
 594
 595         ms = mdt_object_find(info->mti_env, info->mti_mdt, rr->rr_fid1);
 596         if (IS_ERR(ms))
 597                 GOTO(out_unlock_parent, rc = PTR_ERR(ms));
 598
 599         rc = mdt_object_lock(info, ms, lhs, MDS_INODELOCK_UPDATE,
 600                             MDT_CROSS_LOCK);
 601         if (rc != 0) {
 602                 mdt_object_put(info->mti_env, ms);
 603                 GOTO(out_unlock_parent, rc);
 604         }
 605
 606         /* step 3: link it */
 607         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 608                        OBD_FAIL_MDS_REINT_LINK_WRITE);
 609
 610         lname = mdt_name(info->mti_env, (char *)rr->rr_name, rr->rr_namelen);
 611         rc = mdo_link(info->mti_env, mdt_object_child(mp),
 612                       mdt_object_child(ms), lname, ma);
 613
 614         EXIT;
 615         mdt_object_unlock_put(info, ms, lhs, rc);
 616 out_unlock_parent:
 617         mdt_object_unlock_put(info, mp, lhp, rc);
 618 out:
 619         return rc;
 620 }
 621
 622 /* partial operation for rename */
 623 static int mdt_reint_rename_tgt(struct mdt_thread_info *info)
 624 {
 625         struct mdt_reint_record *rr = &info->mti_rr;
 626         struct ptlrpc_request   *req = mdt_info_req(info);
 627         struct md_attr          *ma = &info->mti_attr;
 628         struct mdt_object       *mtgtdir;
 629         struct mdt_object       *mtgt = NULL;
 630         struct mdt_lock_handle  *lh_tgtdir;
 631         struct mdt_lock_handle  *lh_tgt = NULL;
 632         struct lu_fid           *tgt_fid = &info->mti_tmp_fid1;
 633         struct lu_name          *lname;
 634         int                      rc;
 635         ENTRY;
 636
 637         DEBUG_REQ(D_INODE, req, "rename_tgt: insert (%s->"DFID") in "DFID,
 638                   rr->rr_tgt, PFID(rr->rr_fid2), PFID(rr->rr_fid1));
 639
 640         /* step 1: lookup & lock the tgt dir. */
 641         lh_tgtdir = &info->mti_lh[MDT_LH_PARENT];
 642         mdt_lock_pdo_init(lh_tgtdir, LCK_PW, rr->rr_tgt,
 643                           rr->rr_tgtlen);
 644         mtgtdir = mdt_object_find_lock(info, rr->rr_fid1, lh_tgtdir,
 645                                        MDS_INODELOCK_UPDATE);
 646         if (IS_ERR(mtgtdir))
 647                 GOTO(out, rc = PTR_ERR(mtgtdir));
 648
 649         /* step 2: find & lock the target object if exists. */
 650         mdt_set_capainfo(info, 0, rr->rr_fid1, BYPASS_CAPA);
 651         lname = mdt_name(info->mti_env, (char *)rr->rr_tgt, rr->rr_tgtlen);
 652         rc = mdo_lookup(info->mti_env, mdt_object_child(mtgtdir),
 653                         lname, tgt_fid, &info->mti_spec);
 654         if (rc != 0 && rc != -ENOENT) {
 655                 GOTO(out_unlock_tgtdir, rc);
 656         } else if (rc == 0) {
 657                 /*
 658                  * In case of replay that name can be already inserted, check
 659                  * that and do nothing if so.
 660                  */
 661                 if (lu_fid_eq(tgt_fid, rr->rr_fid2))
 662                         GOTO(out_unlock_tgtdir, rc);
 663
 664                 lh_tgt = &info->mti_lh[MDT_LH_CHILD];
 665                 mdt_lock_reg_init(lh_tgt, LCK_EX);
 666
 667                 mtgt = mdt_object_find_lock(info, tgt_fid, lh_tgt,
 668                                             MDS_INODELOCK_LOOKUP);
 669                 if (IS_ERR(mtgt))
 670                         GOTO(out_unlock_tgtdir, rc = PTR_ERR(mtgt));
 671
 672                 mdt_reint_init_ma(info, ma);
 673                 if (!ma->ma_lmm || !ma->ma_cookie)
 674                         GOTO(out_unlock_tgt, rc = -EINVAL);
 675
 676                 rc = mdo_rename_tgt(info->mti_env, mdt_object_child(mtgtdir),
 677                                     mdt_object_child(mtgt), rr->rr_fid2,
 678                                     lname, ma);
 679         } else /* -ENOENT */ {
 680                 rc = mdo_name_insert(info->mti_env, mdt_object_child(mtgtdir),
 681                                      lname, rr->rr_fid2, ma);
 682         }
 683
 684         /* handle last link of tgt object */
 685         if (rc == 0 && mtgt)
 686                 mdt_handle_last_unlink(info, mtgt, ma);
 687
 688         EXIT;
 689 out_unlock_tgt:
 690         if (mtgt)
 691                 mdt_object_unlock_put(info, mtgt, lh_tgt, rc);
 692 out_unlock_tgtdir:
 693         mdt_object_unlock_put(info, mtgtdir, lh_tgtdir, rc);
 694 out:
 695         mdt_shrink_reply(info);
 696         return rc;
 697 }
 698
 699 static int mdt_rename_lock(struct mdt_thread_info *info,
 700                            struct lustre_handle *lh)
 701 {
 702         struct ldlm_namespace *ns     = info->mti_mdt->mdt_namespace;
 703         ldlm_policy_data_t    *policy = &info->mti_policy;
 704         struct ldlm_res_id    *res_id = &info->mti_res_id;
 705         struct lu_site        *ls;
 706         int rc;
 707         ENTRY;
 708
 709         /*
 710          * Disable global rename BFL lock temporarily because
 711          * when a mds do rename recoverying, which might enqueue
 712          * BFL lock to the controller mds. and this req might be
 713          * replay req for controller mds. but we did not have
 714          * such handling in controller mds. XXX
 715          */
 716         RETURN(0);
 717         ls = info->mti_mdt->mdt_md_dev.md_lu_dev.ld_site;
 718         fid_build_reg_res_name(&LUSTRE_BFL_FID, res_id);
 719
 720         memset(policy, 0, sizeof *policy);
 721         policy->l_inodebits.bits = MDS_INODELOCK_UPDATE;
 722
 723         if (ls->ls_control_exp == NULL) {
 724                 int flags = LDLM_FL_LOCAL_ONLY | LDLM_FL_ATOMIC_CB;
 725
 726                 /*
 727                  * Current node is controller, that is mdt0, where we should
 728                  * take BFL lock.
 729                  */
 730                 rc = ldlm_cli_enqueue_local(ns, res_id, LDLM_IBITS, policy,
 731                                             LCK_EX, &flags, ldlm_blocking_ast,
 732                                             ldlm_completion_ast, NULL, NULL, 0,
 733                                             NULL, lh);
 734         } else {
 735                 struct ldlm_enqueue_info einfo = { LDLM_IBITS, LCK_EX,
 736                         ldlm_blocking_ast, ldlm_completion_ast, NULL, NULL };
 737                 int flags = 0;
 738
 739                 /*
 740                  * This is the case mdt0 is remote node, issue DLM lock like
 741                  * other clients.
 742                  */
 743                 rc = ldlm_cli_enqueue(ls->ls_control_exp, NULL, &einfo, res_id,
 744                                       policy, &flags, NULL, 0, NULL, lh, 0);
 745         }
 746
 747         RETURN(rc);
 748 }
 749
 750 static void mdt_rename_unlock(struct lustre_handle *lh)
 751 {
 752         ENTRY;
 753         /* Disable global rename BFL lock temporarily. see above XXX*/
 754         EXIT;
 755         return;
 756         LASSERT(lustre_handle_is_used(lh));
 757         ldlm_lock_decref(lh, LCK_EX);
 758         EXIT;
 759 }
 760
 761 /*
 762  * This is is_subdir() variant, it is CMD if cmm forwards it to correct
 763  * target. Source should not be ancestor of target dir. May be other rename
 764  * checks can be moved here later.
 765  */
 766 static int mdt_rename_sanity(struct mdt_thread_info *info, struct lu_fid *fid)
 767 {
 768         struct mdt_reint_record *rr = &info->mti_rr;
 769         struct lu_fid dst_fid = *rr->rr_fid2;
 770         struct mdt_object *dst;
 771         int rc = 0;
 772         ENTRY;
 773
 774         do {
 775                 LASSERT(fid_is_sane(&dst_fid));
 776                 dst = mdt_object_find(info->mti_env, info->mti_mdt, &dst_fid);
 777                 if (!IS_ERR(dst)) {
 778                         rc = mdo_is_subdir(info->mti_env,
 779                                            mdt_object_child(dst), fid,
 780                                            &dst_fid);
 781                         mdt_object_put(info->mti_env, dst);
 782                         if (rc != -EREMOTE && rc < 0) {
 783                                 CERROR("Failed mdo_is_subdir(), rc %d\n", rc);
 784                         } else {
 785                                 /* check the found fid */
 786                                 if (lu_fid_eq(&dst_fid, fid))
 787                                         rc = -EINVAL;
 788                         }
 789                 } else {
 790                         rc = PTR_ERR(dst);
 791                 }
 792         } while (rc == -EREMOTE);
 793
 794         RETURN(rc);
 795 }
 796
 797 static int mdt_reint_rename(struct mdt_thread_info *info,
 798                             struct mdt_lock_handle *lhc)
 799 {
 800         struct mdt_reint_record *rr = &info->mti_rr;
 801         struct md_attr          *ma = &info->mti_attr;
 802         struct ptlrpc_request   *req = mdt_info_req(info);
 803         struct mdt_object       *msrcdir;
 804         struct mdt_object       *mtgtdir;
 805         struct mdt_object       *mold;
 806         struct mdt_object       *mnew = NULL;
 807         struct mdt_lock_handle  *lh_srcdirp;
 808         struct mdt_lock_handle  *lh_tgtdirp;
 809         struct mdt_lock_handle  *lh_oldp;
 810         struct mdt_lock_handle  *lh_newp;
 811         struct lu_fid           *old_fid = &info->mti_tmp_fid1;
 812         struct lu_fid           *new_fid = &info->mti_tmp_fid2;
 813         struct lustre_handle     rename_lh = { 0 };
 814         struct lu_name           slname = { 0 };
 815         struct lu_name          *lname;
 816         int                      rc;
 817         ENTRY;
 818
 819         if (info->mti_dlm_req)
 820                 ldlm_request_cancel(mdt_info_req(info), info->mti_dlm_req, 0);
 821
 822         if (info->mti_cross_ref) {
 823                 rc = mdt_reint_rename_tgt(info);
 824                 RETURN(rc);
 825         }
 826
 827         DEBUG_REQ(D_INODE, req, "rename "DFID"/%s to "DFID"/%s",
 828                   PFID(rr->rr_fid1), rr->rr_name,
 829                   PFID(rr->rr_fid2), rr->rr_tgt);
 830
 831         rc = mdt_rename_lock(info, &rename_lh);
 832         if (rc) {
 833                 CERROR("Can't lock FS for rename, rc %d\n", rc);
 834                 GOTO(out, rc);
 835         }
 836
 837         lh_newp = &info->mti_lh[MDT_LH_NEW];
 838
 839         /* step 1: lock the source dir. */
 840         lh_srcdirp = &info->mti_lh[MDT_LH_PARENT];
 841         mdt_lock_pdo_init(lh_srcdirp, LCK_PW, rr->rr_name,
 842                           rr->rr_namelen);
 843         msrcdir = mdt_object_find_lock(info, rr->rr_fid1, lh_srcdirp,
 844                                        MDS_INODELOCK_UPDATE);
 845         if (IS_ERR(msrcdir))
 846                 GOTO(out_rename_lock, rc = PTR_ERR(msrcdir));
 847
 848         /* step 2: find & lock the target dir. */
 849         lh_tgtdirp = &info->mti_lh[MDT_LH_CHILD];
 850         mdt_lock_pdo_init(lh_tgtdirp, LCK_PW, rr->rr_tgt,
 851                           rr->rr_tgtlen);
 852         if (lu_fid_eq(rr->rr_fid1, rr->rr_fid2)) {
 853                 mdt_object_get(info->mti_env, msrcdir);
 854                 mtgtdir = msrcdir;
 855         } else {
 856                 mtgtdir = mdt_object_find(info->mti_env, info->mti_mdt,
 857                                           rr->rr_fid2);
 858                 if (IS_ERR(mtgtdir))
 859                         GOTO(out_unlock_source, rc = PTR_ERR(mtgtdir));
 860
 861                 rc = mdt_object_exists(mtgtdir);
 862                 if (rc == 0)
 863                         GOTO(out_unlock_target, rc = -ESTALE);
 864                 else if (rc > 0) {
 865                         /* we lock the target dir if it is local */
 866                         rc = mdt_object_lock(info, mtgtdir, lh_tgtdirp,
 867                                              MDS_INODELOCK_UPDATE,
 868                                              MDT_LOCAL_LOCK);
 869                         if (rc != 0)
 870                                 GOTO(out_unlock_target, rc);
 871                 }
 872         }
 873
 874         /* step 3: find & lock the old object. */
 875         lname = mdt_name(info->mti_env, (char *)rr->rr_name, rr->rr_namelen);
 876         mdt_name_copy(&slname, lname);
 877         rc = mdo_lookup(info->mti_env, mdt_object_child(msrcdir),
 878                         &slname, old_fid, &info->mti_spec);
 879         if (rc != 0)
 880                 GOTO(out_unlock_target, rc);
 881
 882         if (lu_fid_eq(old_fid, rr->rr_fid1) || lu_fid_eq(old_fid, rr->rr_fid2))
 883                 GOTO(out_unlock_target, rc = -EINVAL);
 884
 885         mold = mdt_object_find(info->mti_env, info->mti_mdt, old_fid);
 886         if (IS_ERR(mold))
 887                 GOTO(out_unlock_target, rc = PTR_ERR(mold));
 888
 889         lh_oldp = &info->mti_lh[MDT_LH_OLD];
 890         mdt_lock_reg_init(lh_oldp, LCK_EX);
 891         rc = mdt_object_lock(info, mold, lh_oldp, MDS_INODELOCK_LOOKUP,
 892                              MDT_CROSS_LOCK);
 893         if (rc != 0) {
 894                 mdt_object_put(info->mti_env, mold);
 895                 GOTO(out_unlock_target, rc);
 896         }
 897         mdt_set_capainfo(info, 2, old_fid, BYPASS_CAPA);
 898
 899         /* step 4: find & lock the new object. */
 900         /* new target object may not exist now */
 901         lname = mdt_name(info->mti_env, (char *)rr->rr_tgt, rr->rr_tgtlen);
 902         rc = mdo_lookup(info->mti_env, mdt_object_child(mtgtdir),
 903                         lname, new_fid, &info->mti_spec);
 904         if (rc == 0) {
 905                 /* the new_fid should have been filled at this moment */
 906                 if (lu_fid_eq(old_fid, new_fid))
 907                        GOTO(out_unlock_old, rc);
 908
 909                 if (lu_fid_eq(new_fid, rr->rr_fid1) ||
 910                     lu_fid_eq(new_fid, rr->rr_fid2))
 911                         GOTO(out_unlock_old, rc = -EINVAL);
 912
 913                 mdt_lock_reg_init(lh_newp, LCK_EX);
 914                 mnew = mdt_object_find(info->mti_env, info->mti_mdt, new_fid);
 915                 if (IS_ERR(mnew))
 916                         GOTO(out_unlock_old, rc = PTR_ERR(mnew));
 917
 918                 rc = mdt_object_lock(info, mnew, lh_newp,
 919                                      MDS_INODELOCK_FULL, MDT_CROSS_LOCK);
 920                 if (rc != 0) {
 921                         mdt_object_put(info->mti_env, mnew);
 922                         GOTO(out_unlock_old, rc);
 923                 }
 924                 mdt_set_capainfo(info, 3, new_fid, BYPASS_CAPA);
 925         } else if (rc != -EREMOTE && rc != -ENOENT)
 926                 GOTO(out_unlock_old, rc);
 927
 928         /* step 5: rename it */
 929         mdt_reint_init_ma(info, ma);
 930         if (!ma->ma_lmm || !ma->ma_cookie)
 931                 GOTO(out_unlock_new, rc = -EINVAL);
 932
 933         mdt_fail_write(info->mti_env, info->mti_mdt->mdt_bottom,
 934                        OBD_FAIL_MDS_REINT_RENAME_WRITE);
 935
 936
 937         /* Check if @dst is subdir of @src. */
 938         rc = mdt_rename_sanity(info, old_fid);
 939         if (rc)
 940                 GOTO(out_unlock_new, rc);
 941
 942         rc = mdo_rename(info->mti_env, mdt_object_child(msrcdir),
 943                         mdt_object_child(mtgtdir), old_fid, &slname,
 944                         (mnew ? mdt_object_child(mnew) : NULL),
 945                         lname, ma);
 946
 947         /* handle last link of tgt object */
 948         if (rc == 0 && mnew)
 949                 mdt_handle_last_unlink(info, mnew, ma);
 950
 951         EXIT;
 952 out_unlock_new:
 953         if (mnew)
 954                 mdt_object_unlock_put(info, mnew, lh_newp, rc);
 955 out_unlock_old:
 956         mdt_object_unlock_put(info, mold, lh_oldp, rc);
 957 out_unlock_target:
 958         mdt_object_unlock_put(info, mtgtdir, lh_tgtdirp, rc);
 959 out_unlock_source:
 960         mdt_object_unlock_put(info, msrcdir, lh_srcdirp, rc);
 961 out_rename_lock:
 962         mdt_rename_unlock(&rename_lh);
 963 out:
 964         mdt_shrink_reply(info);
 965         return rc;
 966 }
 967
 968 typedef int (*mdt_reinter)(struct mdt_thread_info *info,
 969                            struct mdt_lock_handle *lhc);
 970
 971 static mdt_reinter reinters[REINT_MAX] = {
 972         [REINT_SETATTR]  = mdt_reint_setattr,
 973         [REINT_CREATE] = mdt_reint_create,
 974         [REINT_LINK] = mdt_reint_link,
 975         [REINT_UNLINK] = mdt_reint_unlink,
 976         [REINT_RENAME] = mdt_reint_rename,
 977         [REINT_OPEN] = mdt_reint_open
 978 };
 979
 980 int mdt_reint_rec(struct mdt_thread_info *info,
 981                   struct mdt_lock_handle *lhc)
 982 {
 983         int rc;
 984         ENTRY;
 985
 986         rc = reinters[info->mti_rr.rr_opcode](info, lhc);
 987
 988         RETURN(rc);
 989 }