Whamcloud - gitweb
LU-8569 lfsck: handle linkEA overflow
[fs/lustre-release.git] / lustre / lfsck / lfsck_internal.h
index 21163e8..dd89553 100644 (file)
@@ -20,7 +20,7 @@
  * GPL HEADER END
  */
 /*
- * Copyright (c) 2013, 2014, Intel Corporation.
+ * Copyright (c) 2013, 2016, Intel Corporation.
  */
 /*
  * lustre/lfsck/lfsck_internal.h
@@ -111,7 +111,6 @@ struct lfsck_bookmark {
 enum lfsck_namespace_trace_flags {
        LNTF_CHECK_LINKEA       = 0x01,
        LNTF_CHECK_PARENT       = 0x02,
-       LNTF_SKIP_NLINK         = 0x04,
        LNTF_CHECK_ORPHAN       = 0x08,
        LNTF_UNCERTAIN_LMV      = 0x10,
        LNTF_RECHECK_NAME_HASH  = 0x20,
@@ -274,9 +273,14 @@ struct lfsck_namespace {
         * the MDTs that contain non-verified MDT-objects. */
        __u32   ln_bitmap_size;
 
-       __u32   ln_reserved_1;
+       /* Time for the latest LFSCK scan in seconds from the beginning. */
+       __u32   ln_time_latest_reset;
+
+       /* How many linkEA overflow timestamp have been cleared. */
+       __u64   ln_linkea_overflow_cleared;
+
        /* For further using. 256-bytes aligned now. */
-       __u64   ln_reserved[15];
+       __u64   ln_reserved[14];
 };
 
 enum lfsck_layout_inconsistency_type {
@@ -411,9 +415,9 @@ struct lfsck_operations {
                          int result,
                          bool init);
 
-       int (*lfsck_dump)(const struct lu_env *env,
-                         struct lfsck_component *com,
-                         struct seq_file *m);
+       void (*lfsck_dump)(const struct lu_env *env,
+                          struct lfsck_component *com,
+                          struct seq_file *m);
 
        int (*lfsck_double_scan)(const struct lu_env *env,
                                 struct lfsck_component *com);
@@ -430,7 +434,10 @@ struct lfsck_operations {
                               struct thandle *th);
 
        int (*lfsck_query)(const struct lu_env *env,
-                          struct lfsck_component *com);
+                          struct lfsck_component *com,
+                          struct lfsck_request *req,
+                          struct lfsck_reply *rep,
+                          struct lfsck_query *que, int idx);
 
        int (*lfsck_join)(const struct lu_env *env,
                          struct lfsck_component *com,
@@ -449,6 +456,10 @@ struct lfsck_tgt_desc {
        struct list_head   ltd_layout_phase_list;
        struct list_head   ltd_namespace_list;
        struct list_head   ltd_namespace_phase_list;
+       __u32              ltd_layout_status;
+       __u32              ltd_namespace_status;
+       __u64              ltd_layout_repaired;
+       __u64              ltd_namespace_repaired;
        atomic_t           ltd_ref;
        __u32              ltd_index;
        __u32              ltd_layout_gen;
@@ -468,7 +479,7 @@ struct lfsck_tgt_descs {
        struct lfsck_tgt_desc_idx       *ltd_tgts_idx[TGT_PTRS];
 
        /* bitmap of TGTs available */
-       cfs_bitmap_t                    *ltd_tgts_bitmap;
+       struct cfs_bitmap                       *ltd_tgts_bitmap;
 
        /* for lfsck_tgt_desc::ltd_xxx_list */
        spinlock_t                       ltd_lock;
@@ -483,12 +494,30 @@ struct lfsck_tgt_descs {
        __u32                            ltd_tgtnr;
 };
 
-#define LTD_TGT(ltd, index)    \
-       ((ltd)->ltd_tgts_idx[(index) / TGT_PTRS_PER_BLOCK]->\
-        ldi_tgts[(index) % TGT_PTRS_PER_BLOCK])
+static inline struct lfsck_tgt_desc *
+lfsck_ltd2tgt(struct lfsck_tgt_descs *ltd, __u32 index)
+{
+       __u32 idx1 = index / TGT_PTRS_PER_BLOCK;
+       __u32 idx2 = index % TGT_PTRS_PER_BLOCK;
+       struct lfsck_tgt_desc *__tgt = NULL;
 
-#define OST_TGT(lfsck, index)   LTD_TGT(&lfsck->li_ost_descs, index)
-#define MDT_TGT(lfsck, index)   LTD_TGT(&lfsck->li_mdt_descs, index)
+       if (unlikely(idx1 >= TGT_PTRS))
+               CDEBUG(D_LFSCK, "The target idx %u is invalid.\n", index);
+       else if (likely(ltd->ltd_tgts_idx[idx1] != NULL))
+               __tgt = ltd->ltd_tgts_idx[idx1]->ldi_tgts[idx2];
+
+       return __tgt;
+}
+
+static inline void lfsck_assign_tgt(struct lfsck_tgt_descs *ltd,
+                                   struct lfsck_tgt_desc *tgt, __u32 index)
+{
+       __u32 idx1 = index / TGT_PTRS_PER_BLOCK;
+       __u32 idx2 = index % TGT_PTRS_PER_BLOCK;
+
+       if (likely(idx1 < TGT_PTRS && ltd->ltd_tgts_idx[idx1] != NULL))
+               ltd->ltd_tgts_idx[idx1]->ldi_tgts[idx2] = tgt;
+}
 
 #define LFSCK_STF_BITS 4
 /* If want to adjust the LFSCK_STF_COUNT, please change LFSCK_STF_BITS. */
@@ -580,7 +609,7 @@ struct lfsck_lmv {
                                         ll_inline:1,
                                         ll_failed:1,
                                         ll_ignore:1;
-       struct lfsck_slave_lmv_rec      *ll_lslr;
+       struct lfsck_slave_lmv_rec      *ll_lslr; /* may be vmalloc'd */
 };
 
 /* If the namespace LFSCK finds that the master MDT-object of a striped
@@ -785,7 +814,7 @@ struct lfsck_assistant_data {
        /* list for the ost targets in phase1 scanning. */
        struct list_head                         lad_ost_phase1_list;
 
-       /* list for the ost targets in phase1 scanning. */
+       /* list for the ost targets in phase2 scanning. */
        struct list_head                         lad_ost_phase2_list;
 
        /* list for the mdt targets involve LFSCK. */
@@ -794,15 +823,16 @@ struct lfsck_assistant_data {
        /* list for the mdt targets in phase1 scanning. */
        struct list_head                         lad_mdt_phase1_list;
 
-       /* list for the mdt targets in phase1 scanning. */
+       /* list for the mdt targets in phase2 scanning. */
        struct list_head                         lad_mdt_phase2_list;
 
        const char                              *lad_name;
        struct ptlrpc_thread                     lad_thread;
+       struct task_struct                      *lad_task;
 
        struct lfsck_assistant_operations       *lad_ops;
 
-       cfs_bitmap_t                            *lad_bitmap;
+       struct cfs_bitmap                               *lad_bitmap;
 
        __u32                                    lad_touch_gen;
        int                                      lad_prefetched;
@@ -813,6 +843,7 @@ struct lfsck_assistant_data {
                                                 lad_in_double_scan:1,
                                                 lad_exit:1,
                                                 lad_incomplete:1;
+       bool                                     lad_advance_lock;
 };
 
 #define LFSCK_TMPBUF_LEN       64
@@ -820,8 +851,8 @@ struct lfsck_assistant_data {
 struct lfsck_lock_handle {
        struct lustre_handle    llh_pdo_lh;
        struct lustre_handle    llh_reg_lh;
-       ldlm_mode_t             llh_pdo_mode;
-       ldlm_mode_t             llh_reg_mode;
+       enum ldlm_mode          llh_pdo_mode;
+       enum ldlm_mode          llh_reg_mode;
 };
 
 struct lfsck_thread_info {
@@ -853,7 +884,7 @@ struct lfsck_thread_info {
        struct lfsck_async_interpret_args lti_laia2;
        struct lfsck_start      lti_start;
        struct lfsck_stop       lti_stop;
-       ldlm_policy_data_t      lti_policy;
+       union ldlm_policy_data  lti_policy;
        struct ldlm_enqueue_info lti_einfo;
        struct ldlm_res_id      lti_resid;
        union {
@@ -878,11 +909,11 @@ int lfsck_fid_alloc(const struct lu_env *env, struct lfsck_instance *lfsck,
                    struct lu_fid *fid, bool locked);
 int lfsck_ibits_lock(const struct lu_env *env, struct lfsck_instance *lfsck,
                     struct dt_object *obj, struct lustre_handle *lh,
-                    __u64 bits, ldlm_mode_t mode);
-void lfsck_ibits_unlock(struct lustre_handle *lh, ldlm_mode_t mode);
+                    __u64 bits, enum ldlm_mode mode);
+void lfsck_ibits_unlock(struct lustre_handle *lh, enum ldlm_mode mode);
 int lfsck_lock(const struct lu_env *env, struct lfsck_instance *lfsck,
               struct dt_object *obj, const char *name,
-              struct lfsck_lock_handle *llh, __u64 bits, ldlm_mode_t mode);
+              struct lfsck_lock_handle *llh, __u64 bits, enum ldlm_mode mode);
 void lfsck_unlock(struct lfsck_lock_handle *llh);
 int lfsck_find_mdt_idx_by_fid(const struct lu_env *env,
                              struct lfsck_instance *lfsck,
@@ -892,16 +923,15 @@ struct lfsck_instance *lfsck_instance_find(struct dt_device *key, bool ref,
                                           bool unlink);
 struct lfsck_component *lfsck_component_find(struct lfsck_instance *lfsck,
                                             __u16 type);
-const char *lfsck_status2names(enum lfsck_status status);
 void lfsck_component_cleanup(const struct lu_env *env,
                             struct lfsck_component *com);
 void lfsck_instance_cleanup(const struct lu_env *env,
                            struct lfsck_instance *lfsck);
-int lfsck_bits_dump(struct seq_file *m, int bits, const char *names[],
+void lfsck_bits_dump(struct seq_file *m, int bits, const char *names[],
+                    const char *prefix);
+void lfsck_time_dump(struct seq_file *m, __u64 time, const char *name);
+void lfsck_pos_dump(struct seq_file *m, struct lfsck_position *pos,
                    const char *prefix);
-int lfsck_time_dump(struct seq_file *m, __u64 time, const char *name);
-int lfsck_pos_dump(struct seq_file *m, struct lfsck_position *pos,
-                  const char *prefix);
 void lfsck_pos_fill(const struct lu_env *env, struct lfsck_instance *lfsck,
                    struct lfsck_position *pos, bool init);
 bool __lfsck_set_speed(struct lfsck_instance *lfsck, __u32 limit);
@@ -927,6 +957,7 @@ int lfsck_async_request(const struct lu_env *env, struct obd_export *exp,
                        struct ptlrpc_request_set *set,
                        ptlrpc_interpterer_t interpterer,
                        void *args, int request);
+int lfsck_query_all(const struct lu_env *env, struct lfsck_component *com);
 int lfsck_start_assistant(const struct lu_env *env, struct lfsck_component *com,
                          struct lfsck_start_param *lsp);
 int lfsck_checkpoint_generic(const struct lu_env *env,
@@ -966,7 +997,7 @@ int lfsck_namespace_check_exist(const struct lu_env *env,
                                struct dt_object *dir,
                                struct dt_object *obj, const char *name);
 int __lfsck_links_read(const struct lu_env *env, struct dt_object *obj,
-                      struct linkea_data *ldata);
+                      struct linkea_data *ldata, bool with_rec);
 int lfsck_namespace_rebuild_linkea(const struct lu_env *env,
                                   struct lfsck_component *com,
                                   struct dt_object *obj,
@@ -1207,6 +1238,16 @@ static inline u32 lfsck_dev_idx(struct lfsck_instance *lfsck)
 }
 
 static inline struct dt_object *
+lfsck_object_find_by_dev_new(const struct lu_env *env, struct dt_device *dev,
+                            const struct lu_fid *fid)
+{
+       struct lu_object_conf   *conf = &lfsck_env_info(env)->lti_conf;
+
+       conf->loc_flags = LOC_F_NEW;
+       return lu2dt(lu_object_find_slice(env, dt2lu_dev(dev), fid, conf));
+}
+
+static inline struct dt_object *
 lfsck_object_find_by_dev_nowait(const struct lu_env *env, struct dt_device *dev,
                                const struct lu_fid *fid)
 {
@@ -1242,7 +1283,7 @@ lfsck_find_dev_by_fid(const struct lu_env *env, struct lfsck_instance *lfsck,
        } else {
                struct lfsck_tgt_desc *ltd;
 
-               ltd = LTD_TGT(&lfsck->li_mdt_descs, idx);
+               ltd = lfsck_ltd2tgt(&lfsck->li_mdt_descs, idx);
                if (unlikely(ltd == NULL))
                        return ERR_PTR(-ENODEV);
 
@@ -1280,6 +1321,20 @@ lfsck_object_find_bottom_nowait(const struct lu_env *env,
 }
 
 static inline struct dt_object *
+lfsck_object_find_bottom_new(const struct lu_env *env,
+                            struct lfsck_instance *lfsck,
+                            const struct lu_fid *fid)
+{
+       struct dt_device *dev;
+
+       dev = lfsck_find_dev_by_fid(env, lfsck, fid);
+       if (IS_ERR(dev))
+               return (struct dt_object *)dev;
+
+       return lfsck_object_find_by_dev_new(env, dev, fid);
+}
+
+static inline struct dt_object *
 lfsck_object_locate(struct dt_device *dev, struct dt_object *obj)
 {
        if (lfsck_obj2dev(obj) == dev) {
@@ -1301,7 +1356,7 @@ static inline struct lfsck_tgt_desc *lfsck_tgt_get(struct lfsck_tgt_descs *ltds,
 {
        struct lfsck_tgt_desc *ltd;
 
-       ltd = LTD_TGT(ltds, index);
+       ltd = lfsck_ltd2tgt(ltds, index);
        if (ltd != NULL)
                atomic_inc(&ltd->ltd_ref);
 
@@ -1378,7 +1433,7 @@ static inline void lfsck_lad_set_bitmap(const struct lu_env *env,
                                        __u32 index)
 {
        struct lfsck_assistant_data     *lad    = com->lc_data;
-       cfs_bitmap_t                    *bitmap = lad->lad_bitmap;
+       struct cfs_bitmap               *bitmap = lad->lad_bitmap;
 
        LASSERT(com->lc_lfsck->li_master);
        LASSERT(bitmap != NULL);
@@ -1399,20 +1454,33 @@ static inline int lfsck_links_read(const struct lu_env *env,
 {
        ldata->ld_buf =
                lu_buf_check_and_alloc(&lfsck_env_info(env)->lti_linkea_buf,
-                                      PAGE_CACHE_SIZE);
+                                      MAX_LINKEA_SIZE);
+
+       return __lfsck_links_read(env, obj, ldata, false);
+}
+
+/* Read linkEA for the given object, the linkEA should contain
+ * at least one entry, otherwise, -ENODATA will be returned. */
+static inline int lfsck_links_read_with_rec(const struct lu_env *env,
+                                           struct dt_object *obj,
+                                           struct linkea_data *ldata)
+{
+       ldata->ld_buf =
+               lu_buf_check_and_alloc(&lfsck_env_info(env)->lti_linkea_buf,
+                                      MAX_LINKEA_SIZE);
 
-       return __lfsck_links_read(env, obj, ldata);
+       return __lfsck_links_read(env, obj, ldata, true);
 }
 
-static inline int lfsck_links_read2(const struct lu_env *env,
-                                   struct dt_object *obj,
-                                   struct linkea_data *ldata)
+static inline int lfsck_links_read2_with_rec(const struct lu_env *env,
+                                            struct dt_object *obj,
+                                            struct linkea_data *ldata)
 {
        ldata->ld_buf =
                lu_buf_check_and_alloc(&lfsck_env_info(env)->lti_linkea_buf2,
-                                      PAGE_CACHE_SIZE);
+                                      MAX_LINKEA_SIZE);
 
-       return __lfsck_links_read(env, obj, ldata);
+       return __lfsck_links_read(env, obj, ldata, true);
 }
 
 static inline struct lfsck_lmv *lfsck_lmv_get(struct lfsck_lmv *llmv)