Whamcloud - gitweb
LU-4975 ofd: documenting ofd_io.c
[fs/lustre-release.git] / lustre / ofd / ofd_io.c
index cdc5940..eede5f2 100644 (file)
  *
  * You should have received a copy of the GNU General Public License
  * version 2 along with this program; If not, see
- * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
- *
- * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
- * CA 95054 USA or visit www.sun.com if you need additional information or
- * have any questions.
+ * http://www.gnu.org/licenses/gpl-2.0.html
  *
  * GPL HEADER END
  */
@@ -27,7 +23,7 @@
  * Copyright (c) 2009, 2010, Oracle and/or its affiliates. All rights reserved.
  * Use is subject to license terms.
  *
- * Copyright (c) 2012, 2013, Intel Corporation.
+ * Copyright (c) 2012, 2014 Intel Corporation.
  */
 /*
  * This file is part of Lustre, http://www.lustre.org/
  *
  * lustre/ofd/ofd_io.c
  *
- * Author: Alex Tomas <bzzz@whamcloud.com>
+ * This file provides functions to handle IO requests from clients and
+ * also LFSCK routines to check parent file identifier (PFID) consistency.
+ *
+ * Author: Alexey Zhuravlev <alexey.zhuravlev@intel.com>
+ * Author: Fan Yong <fan.yong@intel.com>
  */
 
 #define DEBUG_SUBSYSTEM S_FILTER
@@ -48,6 +48,19 @@ struct ofd_inconsistency_item {
        struct lu_fid            oii_pfid;
 };
 
+/**
+ * Verify single object for parent FID consistency.
+ *
+ * Part of LFSCK processing which checks single object PFID stored in extended
+ * attribute (XATTR) against real FID of MDT parent object received by LFSCK.
+ * This verifies that the OST object is being referenced by only a single MDT
+ * object.
+ *
+ * \param[in] env      execution environment
+ * \param[in] ofd      OFD device
+ * \param[in] oii      object-related local data
+ * \param[in] lr       LFSCK request data
+ */
 static void ofd_inconsistency_verify_one(const struct lu_env *env,
                                         struct ofd_device *ofd,
                                         struct ofd_inconsistency_item *oii,
@@ -74,8 +87,7 @@ static void ofd_inconsistency_verify_one(const struct lu_env *env,
                        CDEBUG(D_LFSCK, "%s: fail to verify OST local stored "
                               "PFID xattr for "DFID", the client given PFID "
                               DFID", OST local stored PFID "DFID": rc = %d\n",
-                              ofd_obd(ofd)->obd_name,
-                              PFID(&fo->ofo_header.loh_fid),
+                              ofd_name(ofd), PFID(&fo->ofo_header.loh_fid),
                               PFID(&oii->oii_pfid), PFID(pfid), rc);
                else
                        fo->ofo_pfid_verified = 1;
@@ -88,16 +100,14 @@ static void ofd_inconsistency_verify_one(const struct lu_env *env,
                        CDEBUG(D_LFSCK, "%s: fail to verify the client given "
                               "PFID for "DFID", the client given PFID "DFID
                               ", local stored PFID "DFID": rc = %d\n",
-                              ofd_obd(ofd)->obd_name,
-                              PFID(&fo->ofo_header.loh_fid),
+                              ofd_name(ofd), PFID(&fo->ofo_header.loh_fid),
                               PFID(&oii->oii_pfid), PFID(pfid), rc);
                else
                        CDEBUG(D_LFSCK, "%s: both the client given PFID and "
                               "the OST local stored PFID are stale for the "
                               "OST-object "DFID", client given PFID is "DFID
                               ", local stored PFID is "DFID"\n",
-                              ofd_obd(ofd)->obd_name,
-                              PFID(&fo->ofo_header.loh_fid),
+                              ofd_name(ofd), PFID(&fo->ofo_header.loh_fid),
                               PFID(&oii->oii_pfid), PFID(pfid));
                break;
        case LPVS_INCONSISTENT_TOFIX:
@@ -107,15 +117,13 @@ static void ofd_inconsistency_verify_one(const struct lu_env *env,
                        CDEBUG(D_LFSCK, "%s: fixed the staled OST PFID xattr "
                               "for "DFID", with the client given PFID "DFID
                               ", the old stored PFID "DFID"\n",
-                              ofd_obd(ofd)->obd_name,
-                              PFID(&fo->ofo_header.loh_fid),
+                              ofd_name(ofd), PFID(&fo->ofo_header.loh_fid),
                               PFID(&oii->oii_pfid), PFID(pfid));
                } else {
                        CDEBUG(D_LFSCK, "%s: fail to fix the OST PFID xattr "
                               "for "DFID", client given PFID "DFID", local "
                               "stored PFID "DFID": rc = %d\n",
-                              ofd_obd(ofd)->obd_name,
-                              PFID(&fo->ofo_header.loh_fid),
+                              ofd_name(ofd), PFID(&fo->ofo_header.loh_fid),
                               PFID(&oii->oii_pfid), PFID(pfid), rc);
                }
                *pfid = oii->oii_pfid;
@@ -131,6 +139,17 @@ static void ofd_inconsistency_verify_one(const struct lu_env *env,
        OBD_FREE_PTR(oii);
 }
 
+/**
+ * Verification thread to check parent FID consistency.
+ *
+ * Kernel thread to check consistency of parent FID for any
+ * new item added for checking by ofd_add_inconsistency_item().
+ *
+ * \param[in] args     OFD device
+ *
+ * \retval             0 on successful thread termination
+ * \retval             negative value if thread can't start
+ */
 static int ofd_inconsistency_verification_main(void *args)
 {
        struct lu_env                  env;
@@ -155,7 +174,7 @@ static int ofd_inconsistency_verification_main(void *args)
                GOTO(out, rc = -ENOMEM);
 
        lr->lr_event = LE_PAIRS_VERIFY;
-       lr->lr_active = LT_LAYOUT;
+       lr->lr_active = LFSCK_TYPE_LAYOUT;
 
        spin_lock(&ofd->ofd_inconsistency_lock);
        while (1) {
@@ -212,6 +231,16 @@ out:
        return rc;
 }
 
+/**
+ * Start parent FID verification thread.
+ *
+ * See ofd_inconsistency_verification_main().
+ *
+ * \param[in] ofd      OFD device
+ *
+ * \retval             0 on successful start of thread
+ * \retval             negative value on error
+ */
 int ofd_start_inconsistency_verification_thread(struct ofd_device *ofd)
 {
        struct ptlrpc_thread    *thread = &ofd->ofd_inconsistency_thread;
@@ -233,7 +262,7 @@ int ofd_start_inconsistency_verification_thread(struct ofd_device *ofd)
        if (IS_ERR(task)) {
                rc = PTR_ERR(task);
                CERROR("%s: cannot start self_repair thread: rc = %d\n",
-                      ofd_obd(ofd)->obd_name, rc);
+                      ofd_name(ofd), rc);
        } else {
                rc = 0;
                l_wait_event(thread->t_ctl_waitq,
@@ -245,6 +274,14 @@ int ofd_start_inconsistency_verification_thread(struct ofd_device *ofd)
        return rc;
 }
 
+/**
+ * Stop parent FID verification thread.
+ *
+ * \param[in] ofd      OFD device
+ *
+ * \retval             0 on successful start of thread
+ * \retval             -EALREADY if thread is already stopped
+ */
 int ofd_stop_inconsistency_verification_thread(struct ofd_device *ofd)
 {
        struct ptlrpc_thread    *thread = &ofd->ofd_inconsistency_thread;
@@ -267,6 +304,16 @@ int ofd_stop_inconsistency_verification_thread(struct ofd_device *ofd)
        return 0;
 }
 
+/**
+ * Add new item for parent FID verification.
+ *
+ * Prepare new verification item and pass it to the dedicated
+ * verification thread for further processing.
+ *
+ * \param[in] env      execution environment
+ * \param[in] fo       OFD object
+ * \param[in] oa       OBDO structure with PFID
+ */
 static void ofd_add_inconsistency_item(const struct lu_env *env,
                                       struct ofd_object *fo, struct obdo *oa)
 {
@@ -275,16 +322,8 @@ static void ofd_add_inconsistency_item(const struct lu_env *env,
        bool                             wakeup = false;
 
        OBD_ALLOC_PTR(oii);
-       if (oii == NULL) {
-               CERROR("%s: cannot alloc memory for verify OST-object "
-                      "consistency for "DFID", client given PFID "DFID
-                      ", local stored PFID "DFID"\n",
-                      ofd_obd(ofd)->obd_name, PFID(&fo->ofo_header.loh_fid),
-                      oa->o_parent_seq, oa->o_parent_oid, oa->o_stripe_idx,
-                      PFID(&fo->ofo_pfid));
-
+       if (oii == NULL)
                return;
-       }
 
        INIT_LIST_HEAD(&oii->oii_list);
        lu_object_get(&fo->ofo_obj.do_lu);
@@ -319,6 +358,20 @@ static void ofd_add_inconsistency_item(const struct lu_env *env,
         *      inconsistency within the whole system. */
 }
 
+/**
+ * Verify parent FID of an object.
+ *
+ * Check the parent FID is sane and start extended
+ * verification procedure otherwise.
+ *
+ * \param[in] env      execution environment
+ * \param[in] fo       OFD object
+ * \param[in] oa       OBDO structure with PFID
+ *
+ * \retval             0 on successful verification
+ * \retval             -EINPROGRESS if PFID is being repaired
+ * \retval             -EPERM if PFID was verified but still insane
+ */
 int ofd_verify_ff(const struct lu_env *env, struct ofd_object *fo,
                  struct obdo *oa)
 {
@@ -360,6 +413,27 @@ int ofd_verify_ff(const struct lu_env *env, struct ofd_object *fo,
        RETURN(-EINPROGRESS);
 }
 
+/**
+ * Prepare buffers for read request processing.
+ *
+ * This function converts remote buffers from client to local buffers
+ * and prepares the latter.
+ *
+ * \param[in] env      execution environment
+ * \param[in] exp      OBD export of client
+ * \param[in] ofd      OFD device
+ * \param[in] fid      FID of object
+ * \param[in] la       object attributes
+ * \param[in] oa       OBDO structure from client
+ * \param[in] niocount number of remote buffers
+ * \param[in] rnb      remote buffers
+ * \param[in] nr_local number of local buffers
+ * \param[in] lnb      local buffers
+ * \param[in] jobid    job ID name
+ *
+ * \retval             0 on successful prepare
+ * \retval             negative value on error
+ */
 static int ofd_preprw_read(const struct lu_env *env, struct obd_export *exp,
                           struct ofd_device *ofd, const struct lu_fid *fid,
                           struct lu_attr *la, struct obdo *oa, int niocount,
@@ -387,7 +461,6 @@ static int ofd_preprw_read(const struct lu_env *env, struct obd_export *exp,
                        GOTO(unlock, rc);
        }
 
-       /* parse remote buffers to local buffers and prepare the latter */
        *nr_local = 0;
        for (i = 0, j = 0; i < niocount; i++) {
                rc = dt_bufs_get(env, ofd_object_child(fo), rnb + i,
@@ -423,6 +496,29 @@ unlock:
        return rc;
 }
 
+/**
+ * Prepare buffers for write request processing.
+ *
+ * This function converts remote buffers from client to local buffers
+ * and prepares the latter. If there is recovery in progress and required
+ * object is missing then it can be re-created before write.
+ *
+ * \param[in] env      execution environment
+ * \param[in] exp      OBD export of client
+ * \param[in] ofd      OFD device
+ * \param[in] fid      FID of object
+ * \param[in] la       object attributes
+ * \param[in] oa       OBDO structure from client
+ * \param[in] objcount always 1
+ * \param[in] obj      object data
+ * \param[in] rnb      remote buffers
+ * \param[in] nr_local number of local buffers
+ * \param[in] lnb      local buffers
+ * \param[in] jobid    job ID name
+ *
+ * \retval             0 on successful prepare
+ * \retval             negative value on error
+ */
 static int ofd_preprw_write(const struct lu_env *env, struct obd_export *exp,
                            struct ofd_device *ofd, const struct lu_fid *fid,
                            struct lu_attr *la, struct obdo *oa,
@@ -565,6 +661,27 @@ out:
        return rc;
 }
 
+/**
+ * Prepare bulk IO requests for processing.
+ *
+ * This function does initial checks of IO and calls corresponding
+ * functions for read/write processing.
+ *
+ * \param[in] env      execution environment
+ * \param[in] cmd      IO type (read/write)
+ * \param[in] exp      OBD export of client
+ * \param[in] oa       OBDO structure from request
+ * \param[in] objcount always 1
+ * \param[in] obj      object data
+ * \param[in] rnb      remote buffers
+ * \param[in] nr_local number of local buffers
+ * \param[in] lnb      local buffers
+ * \param[in] oti      request data from OST
+ * \param[in] capa     capability
+ *
+ * \retval             0 on successful prepare
+ * \retval             negative value on error
+ */
 int ofd_preprw(const struct lu_env *env, int cmd, struct obd_export *exp,
               struct obdo *oa, int objcount, struct obd_ioobj *obj,
               struct niobuf_remote *rnb, int *nr_local,
@@ -589,7 +706,7 @@ int ofd_preprw(const struct lu_env *env, int cmd, struct obd_export *exp,
                LASSERT(oti != NULL);
                info = ofd_info_init(env, exp);
                ofd_oti2info(info, oti);
-               jobid = oti->oti_jobid;
+               jobid = NULL;
        } else {
                info = tsi2ofd_info(tsi);
                jobid = tsi->tsi_jobid;
@@ -649,6 +766,21 @@ int ofd_preprw(const struct lu_env *env, int cmd, struct obd_export *exp,
        RETURN(rc);
 }
 
+/**
+ * Drop reference on local buffers for read bulk IO.
+ *
+ * This will free all local buffers use by this read request.
+ *
+ * \param[in] env      execution environment
+ * \param[in] ofd      OFD device
+ * \param[in] fid      object FID
+ * \param[in] objcount always 1
+ * \param[in] niocount number of local buffers
+ * \param[in] lnb      local buffers
+ *
+ * \retval             0 on successful execution
+ * \retval             negative value on error
+ */
 static int
 ofd_commitrw_read(const struct lu_env *env, struct ofd_device *ofd,
                  const struct lu_fid *fid, int objcount, int niocount,
@@ -675,6 +807,21 @@ ofd_commitrw_read(const struct lu_env *env, struct ofd_device *ofd,
        RETURN(0);
 }
 
+/**
+ * Set attributes of object during write bulk IO processing.
+ *
+ * Change object attributes and write parent FID into extended
+ * attributes when needed.
+ *
+ * \param[in] env      execution environment
+ * \param[in] ofd      OFD device
+ * \param[in] ofd_obj  OFD object
+ * \param[in] la       object attributes
+ * \param[in] ff       parent FID
+ *
+ * \retval             0 on successful attributes update
+ * \retval             negative value on error
+ */
 static int
 ofd_write_attr_set(const struct lu_env *env, struct ofd_device *ofd,
                   struct ofd_object *ofd_obj, struct lu_attr *la,
@@ -784,6 +931,17 @@ struct ofd_soft_sync_callback {
        struct obd_export       *ossc_exp;
 };
 
+/**
+ * Callback function for "soft sync" update.
+ *
+ * Reset fed_soft_sync_count upon committing the "soft_sync" update.
+ * See ofd_soft_sync_cb_add() below for more details on soft sync.
+ *
+ * \param[in] env      execution environment
+ * \param[in] th       transaction handle
+ * \param[in] cb       callback data
+ * \param[in] err      error code
+ */
 static void ofd_cb_soft_sync(struct lu_env *env, struct thandle *th,
                             struct dt_txn_commit_cb *cb, int err)
 {
@@ -798,6 +956,22 @@ static void ofd_cb_soft_sync(struct lu_env *env, struct thandle *th,
        OBD_FREE_PTR(ossc);
 }
 
+/**
+ * Add callback for "soft sync" processing.
+ *
+ * The "soft sync" mechanism does asynchronous commit when OBD_BRW_SOFT_SYNC
+ * flag is set in client buffers. The intention is for this operation to
+ * commit pages belonging to a client which has "too many" outstanding
+ * unstable pages in its cache. See LU-2139 for details.
+ *
+ * This function adds callback to be called when commit is done.
+ *
+ * \param[in] th       transaction handle
+ * \param[in] exp      OBD export of client
+ *
+ * \retval             0 on successful callback adding
+ * \retval             negative value on error
+ */
 static int ofd_soft_sync_cb_add(struct thandle *th, struct obd_export *exp)
 {
        struct ofd_soft_sync_callback           *ossc;
@@ -812,9 +986,8 @@ static int ofd_soft_sync_cb_add(struct thandle *th, struct obd_export *exp)
 
        dcb = &ossc->ossc_cb;
        dcb->dcb_func = ofd_cb_soft_sync;
-       CFS_INIT_LIST_HEAD(&dcb->dcb_linkage);
-       strncpy(dcb->dcb_name, "ofd_cb_soft_sync", MAX_COMMIT_CB_STR_LEN);
-       dcb->dcb_name[MAX_COMMIT_CB_STR_LEN - 1] = '\0';
+       INIT_LIST_HEAD(&dcb->dcb_linkage);
+       strlcpy(dcb->dcb_name, "ofd_cb_soft_sync", sizeof(dcb->dcb_name));
 
        rc = dt_trans_cb_add(th, dcb);
        if (rc) {
@@ -825,6 +998,26 @@ static int ofd_soft_sync_cb_add(struct thandle *th, struct obd_export *exp)
        return rc;
 }
 
+/**
+ * Commit bulk IO buffers to the storage.
+ *
+ * This function finalizes write IO processing by writing data to the disk.
+ * That write can be synchronous or asynchronous depending on buffers flags.
+ *
+ * \param[in] env      execution environment
+ * \param[in] exp      OBD export of client
+ * \param[in] ofd      OFD device
+ * \param[in] fid      FID of object
+ * \param[in] la       object attributes
+ * \param[in] ff       parent FID of object
+ * \param[in] objcount always 1
+ * \param[in] niocount number of local buffers
+ * \param[in] lnb      local buffers
+ * \param[in] old_rc   result of processing at this point
+ *
+ * \retval             0 on successful commit
+ * \retval             negative value on error
+ */
 static int
 ofd_commitrw_write(const struct lu_env *env, struct obd_export *exp,
                   struct ofd_device *ofd, const struct lu_fid *fid,
@@ -952,6 +1145,29 @@ out:
        RETURN(rc);
 }
 
+/**
+ * Commit bulk IO to the storage.
+ *
+ * This is companion function to the ofd_preprw(). It finishes bulk IO
+ * request processing by committing buffers to the storage (WRITE) and/or
+ * freeing those buffers (read/write). See ofd_commitrw_read() and
+ * ofd_commitrw_write() for details about each type of IO.
+ *
+ * \param[in] env      execution environment
+ * \param[in] cmd      IO type (READ/WRITE)
+ * \param[in] exp      OBD export of client
+ * \param[in] oa       OBDO structure from client
+ * \param[in] objcount always 1
+ * \param[in] obj      object data
+ * \param[in] rnb      remote buffers
+ * \param[in] npages   number of local buffers
+ * \param[in] lnb      local buffers
+ * \param[in] oti      request data from OST
+ * \param[in] old_rc   result of processing at this point
+ *
+ * \retval             0 on successful commit
+ * \retval             negative value on error
+ */
 int ofd_commitrw(const struct lu_env *env, int cmd, struct obd_export *exp,
                 struct obdo *oa, int objcount, struct obd_ioobj *obj,
                 struct niobuf_remote *rnb, int npages,
@@ -1030,8 +1246,8 @@ int ofd_commitrw(const struct lu_env *env, int cmd, struct obd_export *exp,
                        ost_fid_build_resid(fid, &info->fti_resid);
                        rs = ldlm_resource_get(ns, NULL, &info->fti_resid,
                                               LDLM_EXTENT, 0);
-                       if (rs != NULL) {
-                               ns->ns_lvbo->lvbo_update(rs, NULL, 1);
+                       if (!IS_ERR(rs)) {
+                               ldlm_res_lvbo_update(rs, NULL, 1);
                                ldlm_resource_putref(rs);
                        }
                }