lustre/mdc/mdc_reint.c

   1 /* -*- mode: c; c-basic-offset: 8; indent-tabs-mode: nil; -*-
   2  * vim:expandtab:shiftwidth=8:tabstop=8:
   3  *
   4  * GPL HEADER START
   5  *
   6  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   7  *
   8  * This program is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License version 2 only,
  10  * as published by the Free Software Foundation.
  11  *
  12  * This program is distributed in the hope that it will be useful, but
  13  * WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * General Public License version 2 for more details (a copy is included
  16  * in the LICENSE file that accompanied this code).
  17  *
  18  * You should have received a copy of the GNU General Public License
  19  * version 2 along with this program; If not, see
  20  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
  21  *
  22  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
  23  * CA 95054 USA or visit www.sun.com if you need additional information or
  24  * have any questions.
  25  *
  26  * GPL HEADER END
  27  */
  28 /*
  29  * Copyright  2008 Sun Microsystems, Inc. All rights reserved
  30  * Use is subject to license terms.
  31  */
  32 /*
  33  * This file is part of Lustre, http://www.lustre.org/
  34  * Lustre is a trademark of Sun Microsystems, Inc.
  35  */
  36
  37 #ifndef EXPORT_SYMTAB
  38 # define EXPORT_SYMTAB
  39 #endif
  40 #define DEBUG_SUBSYSTEM S_MDC
  41
  42 #ifdef __KERNEL__
  43 #ifndef AUTOCONF_INCLUDED
  44 # include <linux/config.h>
  45 #endif
  46 # include <linux/module.h>
  47 # include <linux/kernel.h>
  48 #else
  49 # include <liblustre.h>
  50 #endif
  51
  52 #include <obd_class.h>
  53 #include "mdc_internal.h"
  54 #include <lustre_fid.h>
  55
  56 /* mdc_setattr does its own semaphore handling */
  57 static int mdc_reint(struct ptlrpc_request *request,
  58                      struct mdc_rpc_lock *rpc_lock,
  59                      int level)
  60 {
  61         int rc;
  62
  63         request->rq_send_state = level;
  64
  65         mdc_get_rpc_lock(rpc_lock, NULL);
  66         rc = ptlrpc_queue_wait(request);
  67         mdc_put_rpc_lock(rpc_lock, NULL);
  68         if (rc)
  69                 CDEBUG(D_INFO, "error in handling %d\n", rc);
  70         else if (!req_capsule_server_get(&request->rq_pill, &RMF_MDT_BODY)) {
  71                 rc = -EPROTO;
  72         }
  73         return rc;
  74 }
  75
  76 /* Find and cancel locally locks matched by inode @bits & @mode in the resource
  77  * found by @fid. Found locks are added into @cancel list. Returns the amount of
  78  * locks added to @cancels list. */
  79 int mdc_resource_get_unused(struct obd_export *exp, struct lu_fid *fid,
  80                             struct list_head *cancels, ldlm_mode_t mode,
  81                             __u64 bits)
  82 {
  83         ldlm_policy_data_t policy = {{0}};
  84         struct ldlm_res_id res_id;
  85         struct ldlm_resource *res;
  86         int count;
  87         ENTRY;
  88
  89         fid_build_reg_res_name(fid, &res_id);
  90         res = ldlm_resource_get(exp->exp_obd->obd_namespace,
  91                                 NULL, &res_id, 0, 0);
  92         if (res == NULL)
  93                 RETURN(0);
  94         LDLM_RESOURCE_ADDREF(res);
  95         /* Initialize ibits lock policy. */
  96         policy.l_inodebits.bits = bits;
  97         count = ldlm_cancel_resource_local(res, cancels, &policy,
  98                                            mode, 0, 0, NULL);
  99         LDLM_RESOURCE_DELREF(res);
 100         ldlm_resource_putref(res);
 101         RETURN(count);
 102 }
 103
 104 static int mdc_prep_elc_req(struct obd_export *exp, struct ptlrpc_request *req,
 105                             struct list_head *cancels, int count)
 106 {
 107         return ldlm_prep_elc_req(exp, req, LUSTRE_MDS_VERSION, MDS_REINT,
 108                                  0, cancels, count);
 109 }
 110
 111 /* If mdc_setattr is called with an 'iattr', then it is a normal RPC that
 112  * should take the normal semaphore and go to the normal portal.
 113  *
 114  * If it is called with iattr->ia_valid & ATTR_FROM_OPEN, then it is a
 115  * magic open-path setattr that should take the setattr semaphore and
 116  * go to the setattr portal. */
 117 int mdc_setattr(struct obd_export *exp, struct md_op_data *op_data,
 118                 void *ea, int ealen, void *ea2, int ea2len,
 119                 struct ptlrpc_request **request, struct md_open_data **mod)
 120 {
 121         CFS_LIST_HEAD(cancels);
 122         struct ptlrpc_request *req;
 123         struct mdc_rpc_lock *rpc_lock;
 124         struct obd_device *obd = exp->exp_obd;
 125         int count = 0, rc;
 126         __u64 bits;
 127         ENTRY;
 128
 129         LASSERT(op_data != NULL);
 130
 131         bits = MDS_INODELOCK_UPDATE;
 132         if (op_data->op_attr.ia_valid & (ATTR_MODE|ATTR_UID|ATTR_GID))
 133                 bits |= MDS_INODELOCK_LOOKUP;
 134         if ((op_data->op_flags & MF_MDC_CANCEL_FID1) &&
 135             (fid_is_sane(&op_data->op_fid1)))
 136                 count = mdc_resource_get_unused(exp, &op_data->op_fid1,
 137                                                 &cancels, LCK_EX, bits);
 138         req = ptlrpc_request_alloc(class_exp2cliimp(exp),
 139                                    &RQF_MDS_REINT_SETATTR);
 140         if (req == NULL) {
 141                 ldlm_lock_list_put(&cancels, l_bl_ast, count);
 142                 RETURN(-ENOMEM);
 143         }
 144         mdc_set_capa_size(req, &RMF_CAPA1, op_data->op_capa1);
 145         if ((op_data->op_flags & (MF_SOM_CHANGE | MF_EPOCH_OPEN)) == 0)
 146                 req_capsule_set_size(&req->rq_pill, &RMF_MDT_EPOCH, RCL_CLIENT,
 147                                      0);
 148         req_capsule_set_size(&req->rq_pill, &RMF_EADATA, RCL_CLIENT, ealen);
 149         req_capsule_set_size(&req->rq_pill, &RMF_LOGCOOKIES, RCL_CLIENT,
 150                              ea2len);
 151
 152         rc = mdc_prep_elc_req(exp, req, &cancels, count);
 153         if (rc) {
 154                 ptlrpc_request_free(req);
 155                 RETURN(rc);
 156         }
 157
 158         if (op_data->op_attr.ia_valid & ATTR_FROM_OPEN) {
 159                 req->rq_request_portal = MDS_SETATTR_PORTAL;
 160                 ptlrpc_at_set_req_timeout(req);
 161                 rpc_lock = obd->u.cli.cl_setattr_lock;
 162         } else {
 163                 rpc_lock = obd->u.cli.cl_rpc_lock;
 164         }
 165
 166         if (op_data->op_attr.ia_valid & (ATTR_MTIME | ATTR_CTIME))
 167                 CDEBUG(D_INODE, "setting mtime "CFS_TIME_T
 168                        ", ctime "CFS_TIME_T"\n",
 169                        LTIME_S(op_data->op_attr.ia_mtime),
 170                        LTIME_S(op_data->op_attr.ia_ctime));
 171         mdc_setattr_pack(req, op_data, ea, ealen, ea2, ea2len);
 172
 173         ptlrpc_request_set_replen(req);
 174         if (mod && (op_data->op_flags & MF_EPOCH_OPEN) &&
 175             req->rq_import->imp_replayable)
 176         {
 177                 LASSERT(*mod == NULL);
 178
 179                 OBD_ALLOC_PTR(*mod);
 180                 if (*mod == NULL) {
 181                         DEBUG_REQ(D_ERROR, req, "Can't allocate "
 182                                   "md_open_data");
 183                 } else {
 184                         CFS_INIT_LIST_HEAD(&(*mod)->mod_replay_list);
 185                 }
 186         }
 187         if (mod && *mod) {
 188                 req->rq_cb_data = *mod;
 189                 req->rq_commit_cb = mdc_commit_delayed;
 190                 list_add_tail(&req->rq_mod_list, &(*mod)->mod_replay_list);
 191                 /* This is not the last request in sequence for truncate. */
 192                 if (op_data->op_flags & MF_EPOCH_OPEN)
 193                         req->rq_replay = 1;
 194                 else
 195                         req->rq_sequence = 1;
 196         }
 197
 198         rc = mdc_reint(req, rpc_lock, LUSTRE_IMP_FULL);
 199         *request = req;
 200         if (rc == -ERESTARTSYS)
 201                 rc = 0;
 202         if (rc && req->rq_commit_cb)
 203                 req->rq_commit_cb(req);
 204         RETURN(rc);
 205 }
 206
 207 int mdc_create(struct obd_export *exp, struct md_op_data *op_data,
 208                const void *data, int datalen, int mode, __u32 uid, __u32 gid,
 209                cfs_cap_t cap_effective, __u64 rdev,
 210                struct ptlrpc_request **request)
 211 {
 212         struct ptlrpc_request *req;
 213         int level, rc;
 214         int count = 0;
 215         CFS_LIST_HEAD(cancels);
 216         ENTRY;
 217
 218         /* For case if upper layer did not alloc fid, do it now. */
 219         if (!fid_is_sane(&op_data->op_fid2)) {
 220                 /*
 221                  * mdc_fid_alloc() may return errno 1 in case of switch to new
 222                  * sequence, handle this.
 223                  */
 224                 rc = mdc_fid_alloc(exp, &op_data->op_fid2, op_data);
 225                 if (rc < 0) {
 226                         CERROR("Can't alloc new fid, rc %d\n", rc);
 227                         RETURN(rc);
 228                 }
 229         }
 230
 231         if ((op_data->op_flags & MF_MDC_CANCEL_FID1) &&
 232             (fid_is_sane(&op_data->op_fid1)))
 233                 count = mdc_resource_get_unused(exp, &op_data->op_fid1,
 234                                                 &cancels, LCK_EX,
 235                                                 MDS_INODELOCK_UPDATE);
 236
 237         req = ptlrpc_request_alloc(class_exp2cliimp(exp),
 238                                    &RQF_MDS_REINT_CREATE_RMT_ACL);
 239         if (req == NULL) {
 240                 ldlm_lock_list_put(&cancels, l_bl_ast, count);
 241                 RETURN(-ENOMEM);
 242         }
 243         mdc_set_capa_size(req, &RMF_CAPA1, op_data->op_capa1);
 244         req_capsule_set_size(&req->rq_pill, &RMF_NAME, RCL_CLIENT,
 245                              op_data->op_namelen + 1);
 246         req_capsule_set_size(&req->rq_pill, &RMF_EADATA, RCL_CLIENT,
 247                              data && datalen ? datalen : 0);
 248
 249         rc = mdc_prep_elc_req(exp, req, &cancels, count);
 250         if (rc) {
 251                 ptlrpc_request_free(req);
 252                 RETURN(rc);
 253         }
 254
 255         /*
 256          * mdc_create_pack() fills msg->bufs[1] with name and msg->bufs[2] with
 257          * tgt, for symlinks or lov MD data.
 258          */
 259         mdc_create_pack(req, op_data, data, datalen, mode, uid,
 260                         gid, cap_effective, rdev);
 261
 262         ptlrpc_request_set_replen(req);
 263
 264         level = LUSTRE_IMP_FULL;
 265  resend:
 266         rc = mdc_reint(req, exp->exp_obd->u.cli.cl_rpc_lock, level);
 267
 268         /* Resend if we were told to. */
 269         if (rc == -ERESTARTSYS) {
 270                 level = LUSTRE_IMP_RECOVER;
 271                 goto resend;
 272         } else if (rc == 0) {
 273                 struct mdt_body *body;
 274                 struct lustre_capa *capa;
 275
 276                 body = req_capsule_server_get(&req->rq_pill, &RMF_MDT_BODY);
 277                 LASSERT(body);
 278                 if (body->valid & OBD_MD_FLMDSCAPA) {
 279                         capa = req_capsule_server_get(&req->rq_pill,
 280                                                       &RMF_CAPA1);
 281                         if (capa == NULL)
 282                                 rc = -EPROTO;
 283                 }
 284         }
 285
 286         *request = req;
 287         RETURN(rc);
 288 }
 289
 290 int mdc_unlink(struct obd_export *exp, struct md_op_data *op_data,
 291                struct ptlrpc_request **request)
 292 {
 293         CFS_LIST_HEAD(cancels);
 294         struct obd_device *obd = class_exp2obd(exp);
 295         struct ptlrpc_request *req = *request;
 296         int count = 0, rc;
 297         ENTRY;
 298
 299         LASSERT(req == NULL);
 300
 301         if ((op_data->op_flags & MF_MDC_CANCEL_FID1) &&
 302             (fid_is_sane(&op_data->op_fid1)))
 303                 count = mdc_resource_get_unused(exp, &op_data->op_fid1,
 304                                                 &cancels, LCK_EX,
 305                                                 MDS_INODELOCK_UPDATE);
 306         if ((op_data->op_flags & MF_MDC_CANCEL_FID3) &&
 307             (fid_is_sane(&op_data->op_fid3)))
 308                 count += mdc_resource_get_unused(exp, &op_data->op_fid3,
 309                                                  &cancels, LCK_EX,
 310                                                  MDS_INODELOCK_FULL);
 311         req = ptlrpc_request_alloc(class_exp2cliimp(exp),
 312                                    &RQF_MDS_REINT_UNLINK);
 313         if (req == NULL) {
 314                 ldlm_lock_list_put(&cancels, l_bl_ast, count);
 315                 RETURN(-ENOMEM);
 316         }
 317         mdc_set_capa_size(req, &RMF_CAPA1, op_data->op_capa1);
 318         req_capsule_set_size(&req->rq_pill, &RMF_NAME, RCL_CLIENT,
 319                              op_data->op_namelen + 1);
 320
 321         rc = mdc_prep_elc_req(exp, req, &cancels, count);
 322         if (rc) {
 323                 ptlrpc_request_free(req);
 324                 RETURN(rc);
 325         }
 326
 327         mdc_unlink_pack(req, op_data);
 328
 329         req_capsule_set_size(&req->rq_pill, &RMF_MDT_MD, RCL_SERVER,
 330                              obd->u.cli.cl_max_mds_easize);
 331         req_capsule_set_size(&req->rq_pill, &RMF_LOGCOOKIES, RCL_SERVER,
 332                              obd->u.cli.cl_max_mds_cookiesize);
 333         ptlrpc_request_set_replen(req);
 334
 335         *request = req;
 336
 337         rc = mdc_reint(req, obd->u.cli.cl_rpc_lock, LUSTRE_IMP_FULL);
 338         if (rc == -ERESTARTSYS)
 339                 rc = 0;
 340         RETURN(rc);
 341 }
 342
 343 int mdc_link(struct obd_export *exp, struct md_op_data *op_data,
 344              struct ptlrpc_request **request)
 345 {
 346         CFS_LIST_HEAD(cancels);
 347         struct obd_device *obd = exp->exp_obd;
 348         struct ptlrpc_request *req;
 349         int count = 0, rc;
 350         ENTRY;
 351
 352         if ((op_data->op_flags & MF_MDC_CANCEL_FID2) &&
 353             (fid_is_sane(&op_data->op_fid2)))
 354                 count = mdc_resource_get_unused(exp, &op_data->op_fid2,
 355                                                 &cancels, LCK_EX,
 356                                                 MDS_INODELOCK_UPDATE);
 357         if ((op_data->op_flags & MF_MDC_CANCEL_FID1) &&
 358             (fid_is_sane(&op_data->op_fid1)))
 359                 count += mdc_resource_get_unused(exp, &op_data->op_fid1,
 360                                                  &cancels, LCK_EX,
 361                                                  MDS_INODELOCK_UPDATE);
 362
 363         req = ptlrpc_request_alloc(class_exp2cliimp(exp), &RQF_MDS_REINT_LINK);
 364         if (req == NULL) {
 365                 ldlm_lock_list_put(&cancels, l_bl_ast, count);
 366                 RETURN(-ENOMEM);
 367         }
 368         mdc_set_capa_size(req, &RMF_CAPA1, op_data->op_capa1);
 369         mdc_set_capa_size(req, &RMF_CAPA2, op_data->op_capa2);
 370         req_capsule_set_size(&req->rq_pill, &RMF_NAME, RCL_CLIENT,
 371                              op_data->op_namelen + 1);
 372
 373         rc = mdc_prep_elc_req(exp, req, &cancels, count);
 374         if (rc) {
 375                 ptlrpc_request_free(req);
 376                 RETURN(rc);
 377         }
 378
 379         mdc_link_pack(req, op_data);
 380         ptlrpc_request_set_replen(req);
 381
 382         rc = mdc_reint(req, obd->u.cli.cl_rpc_lock, LUSTRE_IMP_FULL);
 383         *request = req;
 384         if (rc == -ERESTARTSYS)
 385                 rc = 0;
 386
 387         RETURN(rc);
 388 }
 389
 390 int mdc_rename(struct obd_export *exp, struct md_op_data *op_data,
 391                const char *old, int oldlen, const char *new, int newlen,
 392                struct ptlrpc_request **request)
 393 {
 394         CFS_LIST_HEAD(cancels);
 395         struct obd_device *obd = exp->exp_obd;
 396         struct ptlrpc_request *req;
 397         int count = 0, rc;
 398         ENTRY;
 399
 400         if ((op_data->op_flags & MF_MDC_CANCEL_FID1) &&
 401             (fid_is_sane(&op_data->op_fid1)))
 402                 count = mdc_resource_get_unused(exp, &op_data->op_fid1,
 403                                                 &cancels, LCK_EX,
 404                                                 MDS_INODELOCK_UPDATE);
 405         if ((op_data->op_flags & MF_MDC_CANCEL_FID2) &&
 406             (fid_is_sane(&op_data->op_fid2)))
 407                 count += mdc_resource_get_unused(exp, &op_data->op_fid2,
 408                                                  &cancels, LCK_EX,
 409                                                  MDS_INODELOCK_UPDATE);
 410         if ((op_data->op_flags & MF_MDC_CANCEL_FID3) &&
 411             (fid_is_sane(&op_data->op_fid3)))
 412                 count += mdc_resource_get_unused(exp, &op_data->op_fid3,
 413                                                  &cancels, LCK_EX,
 414                                                  MDS_INODELOCK_LOOKUP);
 415         if ((op_data->op_flags & MF_MDC_CANCEL_FID4) &&
 416              (fid_is_sane(&op_data->op_fid4)))
 417                 count += mdc_resource_get_unused(exp, &op_data->op_fid4,
 418                                                  &cancels, LCK_EX,
 419                                                  MDS_INODELOCK_FULL);
 420
 421         req = ptlrpc_request_alloc(class_exp2cliimp(exp),
 422                                    &RQF_MDS_REINT_RENAME);
 423         if (req == NULL) {
 424                 ldlm_lock_list_put(&cancels, l_bl_ast, count);
 425                 RETURN(-ENOMEM);
 426         }
 427
 428         mdc_set_capa_size(req, &RMF_CAPA1, op_data->op_capa1);
 429         mdc_set_capa_size(req, &RMF_CAPA2, op_data->op_capa2);
 430         req_capsule_set_size(&req->rq_pill, &RMF_NAME, RCL_CLIENT, oldlen + 1);
 431         req_capsule_set_size(&req->rq_pill, &RMF_SYMTGT, RCL_CLIENT, newlen+1);
 432
 433         rc = mdc_prep_elc_req(exp, req, &cancels, count);
 434         if (rc) {
 435                 ptlrpc_request_free(req);
 436                 RETURN(rc);
 437         }
 438
 439         if (exp_connect_cancelset(exp) && req)
 440                 ldlm_cli_cancel_list(&cancels, count, req, 0);
 441
 442         mdc_rename_pack(req, op_data, old, oldlen, new, newlen);
 443
 444         req_capsule_set_size(&req->rq_pill, &RMF_MDT_MD, RCL_SERVER,
 445                              obd->u.cli.cl_max_mds_easize);
 446         req_capsule_set_size(&req->rq_pill, &RMF_LOGCOOKIES, RCL_SERVER,
 447                              obd->u.cli.cl_max_mds_cookiesize);
 448         ptlrpc_request_set_replen(req);
 449
 450         rc = mdc_reint(req, obd->u.cli.cl_rpc_lock, LUSTRE_IMP_FULL);
 451         *request = req;
 452         if (rc == -ERESTARTSYS)
 453                 rc = 0;
 454
 455         RETURN(rc);
 456 }