lustre/mgs/mgs_fs.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2017, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  *
  31  * lustre/mgs/mgs_fs.c
  32  *
  33  * Lustre Management Server (MGS) filesystem interface code
  34  *
  35  * Author: Nathan Rutman <nathan@clusterfs.com>
  36  * Author: Alex Zhuravlev <bzzz@whamcloud.com>
  37  */
  38
  39 #define DEBUG_SUBSYSTEM S_MGS
  40
  41 #include <lustre_fid.h>
  42 #include "mgs_internal.h"
  43
  44 /**
  45  * Initialize MGS per-export statistics.
  46  *
  47  * This function sets up procfs entries for various MGS export counters. These
  48  * counters are for per-client statistics tracked on the server.
  49  *
  50  * \param[in] obd       OBD device
  51  * \param[in] exp       OBD export
  52  * \param[in] localdata NID of client
  53  *
  54  * \retval              0 if successful
  55  * \retval              negative value on error
  56  */
  57 int mgs_export_stats_init(struct obd_device *obd, struct obd_export *exp,
  58                           void *localdata)
  59 {
  60         lnet_nid_t *client_nid = localdata;
  61         struct nid_stat *stats;
  62         int rc;
  63
  64         ENTRY;
  65
  66         rc = lprocfs_exp_setup(exp, client_nid);
  67         if (rc != 0)
  68                 /* Mask error for already created /proc entries */
  69                 RETURN(rc == -EALREADY ? 0 : rc);
  70
  71         stats = exp->exp_nid_stats;
  72         stats->nid_stats = lprocfs_alloc_stats(LPROC_MGS_LAST,
  73                                                LPROCFS_STATS_FLAG_NOPERCPU);
  74         if (stats->nid_stats == NULL)
  75                 RETURN(-ENOMEM);
  76
  77         mgs_stats_counter_init(stats->nid_stats);
  78
  79         rc = lprocfs_register_stats(stats->nid_proc, "stats", stats->nid_stats);
  80         if (rc != 0) {
  81                 lprocfs_free_stats(&stats->nid_stats);
  82                 GOTO(out, rc);
  83         }
  84
  85         rc = lprocfs_nid_ldlm_stats_init(stats);
  86         if (rc != 0)
  87                 GOTO(out, rc);
  88
  89 out:
  90         RETURN(rc);
  91 }
  92
  93 /**
  94  * Add client export data to the MGS.  This data is currently NOT stored on
  95  * disk in the last_rcvd file or anywhere else.  In the event of a MGS
  96  * crash all connections are treated as new connections.
  97  */
  98 int mgs_client_add(struct obd_device *obd, struct obd_export *exp,
  99                    void *localdata)
 100 {
 101         return 0;
 102 }
 103
 104 /* Remove client export data from the MGS */
 105 int mgs_client_free(struct obd_export *exp)
 106 {
 107         return 0;
 108 }
 109
 110 int mgs_fs_setup(const struct lu_env *env, struct mgs_device *mgs)
 111 {
 112         struct lu_fid fid;
 113         struct dt_object *o;
 114         struct lu_fid rfid;
 115         struct dt_object *root;
 116         struct dt_object *nm_config_file_obj;
 117         struct nm_config_file *nm_config_file;
 118         int rc;
 119
 120         ENTRY;
 121
 122         OBD_SET_CTXT_MAGIC(&mgs->mgs_obd->obd_lvfs_ctxt);
 123         mgs->mgs_obd->obd_lvfs_ctxt.dt = mgs->mgs_bottom;
 124
 125         /* XXX: fix when support for N:1 layering is implemented */
 126         LASSERT(mgs->mgs_dt_dev.dd_lu_dev.ld_site);
 127         mgs->mgs_dt_dev.dd_lu_dev.ld_site->ls_top_dev =
 128                 &mgs->mgs_dt_dev.dd_lu_dev;
 129
 130         /* Setup the configs dir */
 131         fid.f_seq = FID_SEQ_LOCAL_NAME;
 132         fid.f_oid = 1;
 133         fid.f_ver = 0;
 134         rc = local_oid_storage_init(env, mgs->mgs_bottom, &fid, &mgs->mgs_los);
 135         if (rc)
 136                 GOTO(out, rc);
 137
 138         rc = dt_root_get(env, mgs->mgs_bottom, &rfid);
 139         if (rc)
 140                 GOTO(out_los, rc);
 141
 142         root = dt_locate_at(env, mgs->mgs_bottom, &rfid,
 143                             &mgs->mgs_dt_dev.dd_lu_dev, NULL);
 144         if (unlikely(IS_ERR(root)))
 145                 GOTO(out_los, rc = PTR_ERR(root));
 146
 147         o = local_file_find_or_create(env, mgs->mgs_los, root,
 148                                       MOUNT_CONFIGS_DIR,
 149                                       S_IFDIR | 0755);
 150         if (IS_ERR(o))
 151                 GOTO(out_root, rc = PTR_ERR(o));
 152
 153         if (!dt_try_as_dir(env, o)) {
 154                 dt_object_put(env, o);
 155                 GOTO(out_root, rc = -ENOTDIR);
 156         }
 157
 158         mgs->mgs_configs_dir = o;
 159
 160         /* colocated MDT will cache config in target root dir */
 161         nm_config_file_obj = local_index_find_or_create(env, mgs->mgs_los,
 162                                                         mgs->mgs_configs_dir,
 163                                                         LUSTRE_NODEMAP_NAME,
 164                                                         S_IFREG | 0644,
 165                                                         &dt_nodemap_features);
 166         if (IS_ERR(nm_config_file_obj))
 167                 GOTO(out_configs, rc = PTR_ERR(nm_config_file_obj));
 168
 169         if (nm_config_file_obj->do_index_ops == NULL) {
 170                 rc = nm_config_file_obj->do_ops->do_index_try(env,
 171                                                         nm_config_file_obj,
 172                                                         &dt_nodemap_features);
 173                 if (rc < 0) {
 174                         dt_object_put(env, nm_config_file_obj);
 175                         GOTO(out_configs, rc);
 176                 }
 177         }
 178         nm_config_file = nm_config_file_register_mgs(env, nm_config_file_obj,
 179                                                      mgs->mgs_los);
 180         dt_object_put(env, nm_config_file_obj);
 181         if (IS_ERR(nm_config_file)) {
 182                 CERROR("%s: error loading nodemap config file, file must be "
 183                        "removed via ldiskfs: rc = %ld\n",
 184                        mgs->mgs_obd->obd_name, PTR_ERR(nm_config_file));
 185                 GOTO(out_configs, rc = PTR_ERR(nm_config_file));
 186         }
 187         mgs->mgs_obd->u.obt.obt_nodemap_config_file = nm_config_file;
 188
 189         /* create directory to store nid table versions */
 190         o = local_file_find_or_create(env, mgs->mgs_los, root, MGS_NIDTBL_DIR,
 191                                       S_IFDIR | 0755);
 192         if (IS_ERR(o))
 193                 GOTO(out_nm, rc = PTR_ERR(o));
 194
 195         mgs->mgs_nidtbl_dir = o;
 196
 197 out_nm:
 198         if (rc < 0) {
 199                 nm_config_file_deregister_mgs(env, nm_config_file);
 200                 mgs->mgs_obd->u.obt.obt_nodemap_config_file = NULL;
 201         }
 202 out_configs:
 203         if (rc < 0) {
 204                 dt_object_put(env, mgs->mgs_configs_dir);
 205                 mgs->mgs_configs_dir = NULL;
 206         }
 207 out_root:
 208         dt_object_put(env, root);
 209 out_los:
 210         if (rc) {
 211                 local_oid_storage_fini(env, mgs->mgs_los);
 212                 mgs->mgs_los = NULL;
 213         }
 214 out:
 215         mgs->mgs_dt_dev.dd_lu_dev.ld_site->ls_top_dev = NULL;
 216
 217         return rc;
 218 }
 219
 220 int mgs_fs_cleanup(const struct lu_env *env, struct mgs_device *mgs)
 221 {
 222         struct lustre_cfg_bufs bufs;
 223         struct lustre_cfg *lcfg;
 224
 225         /*
 226          * For the MGS on independent device from MDT, it notifies the lower
 227          * layer OSD to backup index before the umount via LCFG_PRE_CLEANUP.
 228          */
 229         lustre_cfg_bufs_reset(&bufs, mgs->mgs_obd->obd_name);
 230         lustre_cfg_bufs_set_string(&bufs, 1, NULL);
 231         OBD_ALLOC(lcfg, lustre_cfg_len(bufs.lcfg_bufcount, bufs.lcfg_buflen));
 232         if (!lcfg) {
 233                 CERROR("%s: failed to trigger LCFG_PRE_CLEANUP\n",
 234                        mgs->mgs_obd->obd_name);
 235         } else {
 236                 struct lu_device *l = &mgs->mgs_bottom->dd_lu_dev;
 237
 238                 lustre_cfg_init(lcfg, LCFG_PRE_CLEANUP, &bufs);
 239                 l->ld_ops->ldo_process_config(env, l, lcfg);
 240                 OBD_FREE(lcfg, lustre_cfg_len(lcfg->lcfg_bufcount,
 241                                               lcfg->lcfg_buflens));
 242         }
 243
 244         if (mgs->mgs_configs_dir) {
 245                 dt_object_put(env, mgs->mgs_configs_dir);
 246                 mgs->mgs_configs_dir = NULL;
 247         }
 248         if (mgs->mgs_nidtbl_dir) {
 249                 dt_object_put(env, mgs->mgs_nidtbl_dir);
 250                 mgs->mgs_nidtbl_dir = NULL;
 251         }
 252         if (mgs->mgs_obd->u.obt.obt_nodemap_config_file != NULL) {
 253                 struct nm_config_file *ncf;
 254
 255                 ncf = mgs->mgs_obd->u.obt.obt_nodemap_config_file;
 256                 nm_config_file_deregister_mgs(env, ncf);
 257                 mgs->mgs_obd->u.obt.obt_nodemap_config_file = NULL;
 258         }
 259
 260         if (mgs->mgs_los) {
 261                 local_oid_storage_fini(env, mgs->mgs_los);
 262                 mgs->mgs_los = NULL;
 263         }
 264
 265         return 0;
 266 }