lustre/mgs/mgs_internal.h

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
  19  *
  20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
  21  * CA 95054 USA or visit www.sun.com if you need additional information or
  22  * have any questions.
  23  *
  24  * GPL HEADER END
  25  */
  26 /*
  27  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  28  * Use is subject to license terms.
  29  *
  30  * Copyright (c) 2011, Whamcloud, Inc.
  31  */
  32 /*
  33  * This file is part of Lustre, http://www.lustre.org/
  34  * Lustre is a trademark of Sun Microsystems, Inc.
  35  */
  36
  37 #ifndef _MGS_INTERNAL_H
  38 #define _MGS_INTERNAL_H
  39
  40 #ifdef __KERNEL__
  41 # include <linux/fs.h>
  42 #endif
  43 #include <libcfs/libcfs.h>
  44 #include <lustre/lustre_idl.h>
  45 #include <lustre_lib.h>
  46 #include <lustre_dlm.h>
  47 #include <lustre_log.h>
  48 #include <lustre_export.h>
  49
  50 #define MGSSELF_NAME    "_mgs"
  51
  52 #define MGS_SERVICE_WATCHDOG_FACTOR 2
  53
  54 /* -- imperative recovery control data structures -- */
  55 /**
  56  * restarting targets.
  57  */
  58 struct mgs_nidtbl;
  59 struct mgs_nidtbl_target {
  60         cfs_list_t              mnt_list;
  61         struct mgs_nidtbl      *mnt_fs;
  62         u64                     mnt_version;
  63         int                     mnt_type; /* OST or MDT */
  64         cfs_time_t              mnt_last_active;
  65         struct mgs_target_info  mnt_mti;
  66 };
  67
  68 enum {
  69         IR_FULL = 0,
  70         IR_STARTUP,
  71         IR_DISABLED,
  72         IR_PARTIAL
  73 };
  74
  75 #define IR_STRINGS { "full", "startup", "disabled", "partial" }
  76
  77 /**
  78  */
  79 struct fs_db;
  80
  81 /**
  82  * maintain fs client nodes of mgs.
  83  */
  84 struct mgs_fsc {
  85         struct fs_db      *mfc_fsdb;
  86         /**
  87          * Where the fs client comes from.
  88          */
  89         struct obd_export *mfc_export;
  90         /**
  91          * list of fs clients from the same export,
  92          * protected by mgs_export_data->med_lock
  93          */
  94         cfs_list_t         mfc_export_list;
  95         /**
  96          * list of fs clients in the same fsdb, protected by fsdb->fsdb_mutex
  97          */
  98         cfs_list_t        mfc_fsdb_list;
  99         unsigned          mfc_ir_capable:1;
 100 };
 101
 102 struct mgs_nidtbl {
 103         struct fs_db *mn_fsdb;
 104         struct file  *mn_version_file;
 105         cfs_mutex_t   mn_lock;
 106         u64           mn_version;
 107         int           mn_nr_targets;
 108         cfs_list_t    mn_targets;
 109 };
 110
 111 struct mgs_tgt_srpc_conf {
 112         struct mgs_tgt_srpc_conf  *mtsc_next;
 113         char                      *mtsc_tgt;
 114         struct sptlrpc_rule_set    mtsc_rset;
 115 };
 116
 117 #define INDEX_MAP_SIZE  8192     /* covers indicies to FFFF */
 118
 119 #define FSDB_LOG_EMPTY          (0)  /* missing client log */
 120 #define FSDB_OLDLOG14           (1)  /* log starts in old (1.4) style */
 121 #define FSDB_REVOKING_LOCK      (2)  /* DLM lock is being revoked */
 122 #define FSDB_MGS_SELF           (3)  /* for '_mgs', used by sptlrpc */
 123 #define FSDB_OSCNAME18          (4)  /* old 1.8 style OSC naming */
 124 #define FSDB_UDESC              (5)  /* sptlrpc user desc, will be obsolete */
 125
 126 struct fs_db {
 127         char              fsdb_name[9];
 128         cfs_list_t        fsdb_list;           /* list of databases */
 129         cfs_mutex_t       fsdb_mutex;
 130         void             *fsdb_ost_index_map;  /* bitmap of used indicies */
 131         void             *fsdb_mdt_index_map;  /* bitmap of used indicies */
 132         int               fsdb_mdt_count;
 133         char             *fsdb_clilov;       /* COMPAT_146 client lov name */
 134         char             *fsdb_clilmv;
 135         unsigned long     fsdb_flags;
 136         __u32             fsdb_gen;
 137
 138         /* in-memory copy of the srpc rules, guarded by fsdb_lock */
 139         struct sptlrpc_rule_set   fsdb_srpc_gen;
 140         struct mgs_tgt_srpc_conf *fsdb_srpc_tgt;
 141
 142         /* list of fs clients, mgs_fsc. protected by mgs_mutex */
 143         cfs_list_t           fsdb_clients;
 144         int                  fsdb_nonir_clients;
 145         int                  fsdb_ir_state;
 146
 147         /* Target NIDs Table */
 148         struct mgs_nidtbl    fsdb_nidtbl;
 149
 150         /* async thread to notify clients */
 151         struct obd_device   *fsdb_obd;
 152         struct mgs_device   *fsdb_mgs;
 153         cfs_waitq_t          fsdb_notify_waitq;
 154         cfs_completion_t     fsdb_notify_comp;
 155         cfs_time_t           fsdb_notify_start;
 156         cfs_atomic_t         fsdb_notify_phase;
 157         volatile int         fsdb_notify_async:1,
 158                              fsdb_notify_stop:1;
 159         /* statistic data */
 160         unsigned int         fsdb_notify_total;
 161         unsigned int         fsdb_notify_max;
 162         unsigned int         fsdb_notify_count;
 163 };
 164
 165 /* mgs_llog.c */
 166 int class_dentry_readdir(const struct lu_env *env,
 167                          struct mgs_device *mgs, cfs_list_t *list);
 168
 169 int mgs_init_fsdb_list(struct mgs_device *mgs);
 170 int mgs_cleanup_fsdb_list(struct mgs_device *mgs);
 171 int mgs_find_or_make_fsdb(const struct lu_env *env, struct mgs_device *mgs, char *name,
 172                           struct fs_db **dbh);
 173 struct fs_db *mgs_find_fsdb(struct mgs_device *mgs, char *fsname);
 174 int mgs_get_fsdb_srpc_from_llog(const struct lu_env *env, struct mgs_device *mgs, struct fs_db *fsdb);
 175 int mgs_check_index(const struct lu_env *env, struct mgs_device *mgs, struct mgs_target_info *mti);
 176 int mgs_check_failnid(const struct lu_env *env, struct mgs_device *mgs, struct mgs_target_info *mti);
 177 int mgs_write_log_target(const struct lu_env *env, struct mgs_device *mgs, struct mgs_target_info *mti,
 178                          struct fs_db *fsdb);
 179 int mgs_upgrade_sv_14(const struct lu_env *env, struct mgs_device *mgs,
 180                       struct mgs_target_info *mti, struct fs_db *fsdb);
 181 int mgs_erase_log(const struct lu_env *env, struct mgs_device *mgs,
 182                   char *name);
 183 int mgs_erase_logs(const struct lu_env *env, struct mgs_device *mgs,
 184                    char *fsname);
 185 int mgs_setparam(const struct lu_env *env, struct mgs_device *mgs,
 186                  struct lustre_cfg *lcfg, char *fsname);
 187 int mgs_list_logs(const struct lu_env *env, struct mgs_device *mgs,
 188                   struct obd_ioctl_data *data);
 189 int mgs_pool_cmd(const struct lu_env *env, struct mgs_device *mgs,
 190                  enum lcfg_command_type cmd, char *poolname, char *fsname,
 191                  char *ostname);
 192
 193 /* mgs_handler.c */
 194 int  mgs_get_lock(struct obd_device *obd, struct ldlm_res_id *res,
 195                   struct lustre_handle *lockh);
 196 int  mgs_put_lock(struct lustre_handle *lockh);
 197 void mgs_revoke_lock(struct mgs_device *mgs, struct fs_db *fsdb, int type);
 198
 199 /* mgs_nids.c */
 200 int  mgs_ir_update(const struct lu_env *env, struct mgs_device *mgs,
 201                    struct mgs_target_info *mti);
 202 int mgs_ir_init_fs(const struct lu_env *env, struct mgs_device *mgs,
 203                    struct fs_db *fsdb);
 204 void mgs_ir_fini_fs(struct mgs_device *mgs, struct fs_db *fsdb);
 205 void mgs_ir_notify_complete(struct fs_db *fsdb);
 206 int  mgs_get_ir_logs(struct ptlrpc_request *req);
 207 int  lprocfs_wr_ir_state(struct file *file, const char *buffer,
 208                            unsigned long count, void *data);
 209 int  lprocfs_rd_ir_state(struct seq_file *seq, void *data);
 210 int  lprocfs_wr_ir_timeout(struct file *file, const char *buffer,
 211                            unsigned long count, void *data);
 212 int  lprocfs_rd_ir_timeout(char *page, char **start, off_t off, int count,
 213                            int *eof, void *data);
 214 void mgs_fsc_cleanup(struct obd_export *exp);
 215 void mgs_fsc_cleanup_by_fsdb(struct fs_db *fsdb);
 216 int  mgs_fsc_attach(const struct lu_env *env, struct obd_export *exp,
 217                     char *fsname);
 218
 219 /* mgs_fs.c */
 220 int mgs_export_stats_init(struct obd_device *obd, struct obd_export *exp,
 221                           void *localdata);
 222 int mgs_client_free(struct obd_export *exp);
 223 int mgs_fs_setup(struct obd_device *obd, struct vfsmount *mnt);
 224 int mgs_fs_cleanup(struct obd_device *obddev);
 225
 226 #define strsuf(buf, suffix) (strcmp((buf)+strlen(buf)-strlen(suffix), (suffix)))
 227 #ifdef LPROCFS
 228 int lproc_mgs_setup(struct mgs_device *mgs);
 229 int lproc_mgs_cleanup(struct mgs_device *mgs);
 230 int lproc_mgs_add_live(struct mgs_device *mgs, struct fs_db *fsdb);
 231 int lproc_mgs_del_live(struct mgs_device *mgs, struct fs_db *fsdb);
 232 void lprocfs_mgs_init_vars(struct lprocfs_static_vars *lvars);
 233 #else
 234 static inline int lproc_mgs_setup(struct obd_device *dev)
 235 {return 0;}
 236 static inline int lproc_mgs_cleanup(struct obd_device *obd)
 237 {return 0;}
 238 static inline int lproc_mgs_add_live(struct mgs_device *obd, struct fs_db *fsdb)
 239 {return 0;}
 240 static inline int lproc_mgs_del_live(struct mgs_device *obd, struct fs_db *fsdb)
 241 {return 0;}
 242 static void lprocfs_mgs_init_vars(struct lprocfs_static_vars *lvars)
 243 {
 244         memset(lvars, 0, sizeof(*lvars));
 245 }
 246 #endif
 247
 248 /* mgs/lproc_mgs.c */
 249 enum {
 250         LPROC_MGS_CONNECT = 0,
 251         LPROC_MGS_DISCONNECT,
 252         LPROC_MGS_EXCEPTION,
 253         LPROC_MGS_TARGET_REG,
 254         LPROC_MGS_TARGET_DEL,
 255         LPROC_MGS_LAST
 256 };
 257 void mgs_counter_incr(struct obd_export *exp, int opcode);
 258 void mgs_stats_counter_init(struct lprocfs_stats *stats);
 259
 260 struct temp_comp
 261 {
 262         struct mgs_target_info  *comp_tmti;
 263         struct mgs_target_info  *comp_mti;
 264         struct fs_db            *comp_fsdb;
 265         struct mgs_device       *comp_mgs;
 266         const struct lu_env     *comp_env;
 267 };
 268
 269 struct mgs_thread_info {
 270         struct lustre_cfg_bufs  mgi_bufs;
 271         char                    mgi_fsname[MTI_NAME_MAXLEN];
 272         struct cfg_marker       mgi_marker;
 273         struct temp_comp        mgi_comp;
 274 };
 275
 276 extern struct lu_context_key mgs_thread_key;
 277
 278 static inline struct mgs_thread_info *mgs_env_info(const struct lu_env *env)
 279 {
 280         struct mgs_thread_info *info;
 281
 282         info = lu_context_key_get(&env->le_ctx, &mgs_thread_key);
 283         LASSERT(info != NULL);
 284         return info;
 285 }
 286
 287 static inline struct mgs_device *exp2mgs_dev(struct obd_export *exp)
 288 {
 289         return &exp->exp_obd->u.mgs;
 290 }
 291
 292 #endif /* _MGS_INTERNAL_H */