lustre/mdd/mdd_device.c

   1 /* -*- MODE: c; c-basic-offset: 8; indent-tabs-mode: nil; -*-
   2  * vim:expandtab:shiftwidth=8:tabstop=8:
   3  *
   4  *  mdd/mdd_handler.c
   5  *  Lustre Metadata Server (mdd) routines
   6  *
   7  *  Copyright (C) 2006 Cluster File Systems, Inc.
   8  *   Author: Wang Di <wangdi@clusterfs.com>
   9  *
  10  *   This file is part of the Lustre file system, http://www.lustre.org
  11  *   Lustre is a trademark of Cluster File Systems, Inc.
  12  *
  13  *   You may have signed or agreed to another license before downloading
  14  *   this software.  If so, you are bound by the terms and conditions
  15  *   of that agreement, and the following does not apply to you.  See the
  16  *   LICENSE file included with this distribution for more information.
  17  *
  18  *   If you did not agree to a different license, then this copy of Lustre
  19  *   is open source software; you can redistribute it and/or modify it
  20  *   under the terms of version 2 of the GNU General Public License as
  21  *   published by the Free Software Foundation.
  22  *
  23  *   In either case, Lustre is distributed in the hope that it will be
  24  *   useful, but WITHOUT ANY WARRANTY; without even the implied warranty
  25  *   of MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  26  *   license text for more details.
  27  */
  28 #ifndef EXPORT_SYMTAB
  29 # define EXPORT_SYMTAB
  30 #endif
  31 #define DEBUG_SUBSYSTEM S_MDS
  32
  33 #include <linux/module.h>
  34 #include <linux/jbd.h>
  35 #include <obd.h>
  36 #include <obd_class.h>
  37 #include <lustre_ver.h>
  38 #include <obd_support.h>
  39 #include <lprocfs_status.h>
  40
  41 #include <linux/ldiskfs_fs.h>
  42 #include <lustre_mds.h>
  43 #include <lustre/lustre_idl.h>
  44
  45 #include "mdd_internal.h"
  46
  47 struct md_device_operations mdd_ops;
  48
  49 static const char *mdd_root_dir_name = "root";
  50 static int mdd_device_init(const struct lu_env *env, struct lu_device *d,
  51                            const char *name, struct lu_device *next)
  52 {
  53         struct mdd_device *mdd = lu2mdd_dev(d);
  54         int rc;
  55         ENTRY;
  56
  57         mdd->mdd_child = lu2dt_dev(next);
  58
  59         /* Prepare transactions callbacks. */
  60         mdd->mdd_txn_cb.dtc_txn_start = mdd_txn_start_cb;
  61         mdd->mdd_txn_cb.dtc_txn_stop = mdd_txn_stop_cb;
  62         mdd->mdd_txn_cb.dtc_txn_commit = mdd_txn_commit_cb;
  63         mdd->mdd_txn_cb.dtc_cookie = mdd;
  64         INIT_LIST_HEAD(&mdd->mdd_txn_cb.dtc_linkage);
  65         rc = mdd_procfs_init(mdd, name);
  66         RETURN(rc);
  67 }
  68
  69 static struct lu_device *mdd_device_fini(const struct lu_env *env,
  70                                          struct lu_device *d)
  71 {
  72         struct mdd_device *mdd = lu2mdd_dev(d);
  73         struct lu_device *next = &mdd->mdd_child->dd_lu_dev;
  74         int rc;
  75
  76         rc = mdd_procfs_fini(mdd);
  77         if (rc) {
  78                 CERROR("proc fini error %d \n", rc);
  79                 return ERR_PTR(rc);
  80         }
  81         return next;
  82 }
  83
  84 static int mdd_mount(const struct lu_env *env, struct mdd_device *mdd)
  85 {
  86         int rc;
  87         struct dt_object *root;
  88         ENTRY;
  89
  90         dt_txn_callback_add(mdd->mdd_child, &mdd->mdd_txn_cb);
  91         root = dt_store_open(env, mdd->mdd_child, mdd_root_dir_name,
  92                              &mdd->mdd_root_fid);
  93         if (!IS_ERR(root)) {
  94                 LASSERT(root != NULL);
  95                 lu_object_put(env, &root->do_lu);
  96                 rc = orph_index_init(env, mdd);
  97         } else
  98                 rc = PTR_ERR(root);
  99
 100         RETURN(rc);
 101 }
 102
 103 static void mdd_device_shutdown(const struct lu_env *env,
 104                                 struct mdd_device *m, struct lustre_cfg *cfg)
 105 {
 106         ENTRY;
 107         dt_txn_callback_del(m->mdd_child, &m->mdd_txn_cb);
 108         if (m->mdd_obd_dev)
 109                 mdd_fini_obd(env, m, cfg);
 110         orph_index_fini(env, m);
 111         /* remove upcall device*/
 112         md_upcall_fini(&m->mdd_md_dev);
 113         EXIT;
 114 }
 115
 116 static int mdd_process_config(const struct lu_env *env,
 117                               struct lu_device *d, struct lustre_cfg *cfg)
 118 {
 119         struct mdd_device *m    = lu2mdd_dev(d);
 120         struct dt_device  *dt   = m->mdd_child;
 121         struct lu_device  *next = &dt->dd_lu_dev;
 122         int rc;
 123         ENTRY;
 124
 125         switch (cfg->lcfg_command) {
 126         case LCFG_SETUP:
 127                 rc = next->ld_ops->ldo_process_config(env, next, cfg);
 128                 if (rc)
 129                         GOTO(out, rc);
 130                 dt->dd_ops->dt_conf_get(env, dt, &m->mdd_dt_conf);
 131
 132                 rc = mdd_init_obd(env, m, cfg);
 133                 if (rc) {
 134                         CERROR("lov init error %d \n", rc);
 135                         GOTO(out, rc);
 136                 }
 137                 rc = mdd_mount(env, m);
 138                 if (rc)
 139                         GOTO(out, rc);
 140                 rc = mdd_txn_init_credits(env, m);
 141                 break;
 142         case LCFG_CLEANUP:
 143                 mdd_device_shutdown(env, m, cfg);
 144         default:
 145                 rc = next->ld_ops->ldo_process_config(env, next, cfg);
 146                 break;
 147         }
 148 out:
 149         RETURN(rc);
 150 }
 151 #if 0
 152 static int mdd_lov_set_nextid(const struct lu_env *env,
 153                               struct mdd_device *mdd)
 154 {
 155         struct mds_obd *mds = &mdd->mdd_obd_dev->u.mds;
 156         int rc;
 157         ENTRY;
 158
 159         LASSERT(mds->mds_lov_objids != NULL);
 160         rc = obd_set_info_async(mds->mds_osc_exp, strlen(KEY_NEXT_ID),
 161                                 KEY_NEXT_ID, mds->mds_lov_desc.ld_tgt_count,
 162                                 mds->mds_lov_objids, NULL);
 163
 164         RETURN(rc);
 165 }
 166
 167 static int mdd_cleanup_unlink_llog(const struct lu_env *env,
 168                                    struct mdd_device *mdd)
 169 {
 170         /* XXX: to be implemented! */
 171         return 0;
 172 }
 173 #endif
 174
 175 static int mdd_recovery_complete(const struct lu_env *env,
 176                                  struct lu_device *d)
 177 {
 178         struct mdd_device *mdd = lu2mdd_dev(d);
 179         struct lu_device *next = &mdd->mdd_child->dd_lu_dev;
 180         struct obd_device *obd = mdd2obd_dev(mdd);
 181         int rc;
 182         ENTRY;
 183
 184         LASSERT(mdd != NULL);
 185         LASSERT(obd != NULL);
 186 #if 0
 187         /* XXX: Do we need this in new stack? */
 188         rc = mdd_lov_set_nextid(env, mdd);
 189         if (rc) {
 190                 CERROR("mdd_lov_set_nextid() failed %d\n",
 191                        rc);
 192                 RETURN(rc);
 193         }
 194
 195         /* XXX: cleanup unlink. */
 196         rc = mdd_cleanup_unlink_llog(env, mdd);
 197         if (rc) {
 198                 CERROR("mdd_cleanup_unlink_llog() failed %d\n",
 199                        rc);
 200                 RETURN(rc);
 201         }
 202 #endif
 203         /* Call that with obd_recovering = 1 just to update objids */
 204         obd_notify(obd->u.mds.mds_osc_obd, NULL, (obd->obd_async_recov ?
 205                     OBD_NOTIFY_SYNC_NONBLOCK : OBD_NOTIFY_SYNC), NULL);
 206
 207         /* Drop obd_recovering to 0 and call o_postrecov to recover mds_lov */
 208         obd->obd_recovering = 0;
 209         obd->obd_type->typ_dt_ops->o_postrecov(obd);
 210
 211         /* XXX: orphans handling. */
 212         __mdd_orphan_cleanup(env, mdd);
 213         rc = next->ld_ops->ldo_recovery_complete(env, next);
 214
 215         RETURN(rc);
 216 }
 217
 218 struct lu_device_operations mdd_lu_ops = {
 219         .ldo_object_alloc      = mdd_object_alloc,
 220         .ldo_process_config    = mdd_process_config,
 221         .ldo_recovery_complete = mdd_recovery_complete
 222 };
 223
 224 /*
 225  * No permission check is needed.
 226  */
 227 static int mdd_root_get(const struct lu_env *env,
 228                         struct md_device *m, struct lu_fid *f)
 229 {
 230         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
 231
 232         ENTRY;
 233         *f = mdd->mdd_root_fid;
 234         RETURN(0);
 235 }
 236
 237 /*
 238  * No permission check is needed.
 239  */
 240 static int mdd_statfs(const struct lu_env *env, struct md_device *m,
 241                       struct kstatfs *sfs)
 242 {
 243         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
 244         int rc;
 245
 246         ENTRY;
 247
 248         rc = mdd_child_ops(mdd)->dt_statfs(env, mdd->mdd_child, sfs);
 249
 250         RETURN(rc);
 251 }
 252
 253 /*
 254  * No permission check is needed.
 255  */
 256 static int mdd_maxsize_get(const struct lu_env *env, struct md_device *m,
 257                            int *md_size, int *cookie_size)
 258 {
 259         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
 260         ENTRY;
 261
 262         *md_size = mdd_lov_mdsize(env, mdd);
 263         *cookie_size = mdd_lov_cookiesize(env, mdd);
 264
 265         RETURN(0);
 266 }
 267
 268 static int mdd_init_capa_ctxt(const struct lu_env *env, struct md_device *m,
 269                               int mode, unsigned long timeout, __u32 alg,
 270                               struct lustre_capa_key *keys)
 271 {
 272         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
 273         struct mds_obd    *mds = &mdd2obd_dev(mdd)->u.mds;
 274         int rc;
 275         ENTRY;
 276
 277         mds->mds_capa_keys = keys;
 278         rc = mdd_child_ops(mdd)->dt_init_capa_ctxt(env, mdd->mdd_child, mode,
 279                                                    timeout, alg, keys);
 280         RETURN(rc);
 281 }
 282
 283 static int mdd_update_capa_key(const struct lu_env *env,
 284                                struct md_device *m,
 285                                struct lustre_capa_key *key)
 286 {
 287         struct mdd_device *mdd = lu2mdd_dev(&m->md_lu_dev);
 288         struct obd_export *lov_exp = mdd2obd_dev(mdd)->u.mds.mds_osc_exp;
 289         int rc;
 290         ENTRY;
 291
 292         rc = obd_set_info_async(lov_exp, strlen(KEY_CAPA_KEY), KEY_CAPA_KEY,
 293                                 sizeof(*key), key, NULL);
 294         RETURN(rc);
 295 }
 296
 297 static struct lu_device *mdd_device_alloc(const struct lu_env *env,
 298                                           struct lu_device_type *t,
 299                                           struct lustre_cfg *lcfg)
 300 {
 301         struct lu_device  *l;
 302         struct mdd_device *m;
 303
 304         OBD_ALLOC_PTR(m);
 305         if (m == NULL) {
 306                 l = ERR_PTR(-ENOMEM);
 307         } else {
 308                 md_device_init(&m->mdd_md_dev, t);
 309                 l = mdd2lu_dev(m);
 310                 l->ld_ops = &mdd_lu_ops;
 311                 m->mdd_md_dev.md_ops = &mdd_ops;
 312                 md_upcall_init(&m->mdd_md_dev, NULL);
 313         }
 314
 315         return l;
 316 }
 317
 318 static void mdd_device_free(const struct lu_env *env,
 319                             struct lu_device *lu)
 320 {
 321         struct mdd_device *m = lu2mdd_dev(lu);
 322
 323         LASSERT(atomic_read(&lu->ld_ref) == 0);
 324         md_device_fini(&m->mdd_md_dev);
 325         OBD_FREE_PTR(m);
 326 }
 327
 328 static struct obd_ops mdd_obd_device_ops = {
 329         .o_owner = THIS_MODULE
 330 };
 331
 332 static void *mdd_ucred_key_init(const struct lu_context *ctx,
 333                                 struct lu_context_key *key)
 334 {
 335         struct md_ucred *uc;
 336
 337         OBD_ALLOC_PTR(uc);
 338         if (uc == NULL)
 339                 uc = ERR_PTR(-ENOMEM);
 340         return uc;
 341 }
 342
 343 static void mdd_ucred_key_fini(const struct lu_context *ctx,
 344                              struct lu_context_key *key, void *data)
 345 {
 346         struct md_ucred *uc = data;
 347         if (!IS_ERR(uc))
 348                 OBD_FREE_PTR(uc);
 349 }
 350
 351 static struct lu_context_key mdd_ucred_key = {
 352         .lct_tags = LCT_SESSION,
 353         .lct_init = mdd_ucred_key_init,
 354         .lct_fini = mdd_ucred_key_fini
 355 };
 356
 357 struct md_ucred *md_ucred(const struct lu_env *env)
 358 {
 359         LASSERT(env->le_ses != NULL);
 360         return lu_context_key_get(env->le_ses, &mdd_ucred_key);
 361 }
 362 EXPORT_SYMBOL(md_ucred);
 363
 364 static void *mdd_capainfo_key_init(const struct lu_context *ctx,
 365                                    struct lu_context_key *key)
 366 {
 367         struct md_capainfo *ci;
 368
 369         OBD_ALLOC_PTR(ci);
 370         if (ci == NULL)
 371                 ci = ERR_PTR(-ENOMEM);
 372         return ci;
 373 }
 374
 375 static void mdd_capainfo_key_fini(const struct lu_context *ctx,
 376                                   struct lu_context_key *key, void *data)
 377 {
 378         struct md_capainfo *ci = data;
 379         if (!IS_ERR(ci))
 380                 OBD_FREE_PTR(ci);
 381 }
 382
 383 struct lu_context_key mdd_capainfo_key = {
 384         .lct_tags = LCT_SESSION,
 385         .lct_init = mdd_capainfo_key_init,
 386         .lct_fini = mdd_capainfo_key_fini
 387 };
 388
 389 struct md_capainfo *md_capainfo(const struct lu_env *env)
 390 {
 391         /* NB, in mdt_init0 */
 392         if (env->le_ses == NULL)
 393                 return NULL;
 394         return lu_context_key_get(env->le_ses, &mdd_capainfo_key);
 395 }
 396 EXPORT_SYMBOL(md_capainfo);
 397
 398 static int mdd_type_init(struct lu_device_type *t)
 399 {
 400         int result;
 401
 402         LU_CONTEXT_KEY_INIT(&mdd_thread_key);
 403         result = lu_context_key_register(&mdd_thread_key);
 404         if (result == 0) {
 405                 LU_CONTEXT_KEY_INIT(&mdd_ucred_key);
 406                 result = lu_context_key_register(&mdd_ucred_key);
 407         }
 408         if (result == 0) {
 409                 LU_CONTEXT_KEY_INIT(&mdd_capainfo_key);
 410                 result = lu_context_key_register(&mdd_capainfo_key);
 411         }
 412         return result;
 413 }
 414
 415 static void mdd_type_fini(struct lu_device_type *t)
 416 {
 417         lu_context_key_degister(&mdd_capainfo_key);
 418         lu_context_key_degister(&mdd_ucred_key);
 419         lu_context_key_degister(&mdd_thread_key);
 420 }
 421
 422 struct md_device_operations mdd_ops = {
 423         .mdo_statfs         = mdd_statfs,
 424         .mdo_root_get       = mdd_root_get,
 425         .mdo_maxsize_get    = mdd_maxsize_get,
 426         .mdo_init_capa_ctxt = mdd_init_capa_ctxt,
 427         .mdo_update_capa_key= mdd_update_capa_key,
 428 };
 429
 430 static struct lu_device_type_operations mdd_device_type_ops = {
 431         .ldto_init = mdd_type_init,
 432         .ldto_fini = mdd_type_fini,
 433
 434         .ldto_device_alloc = mdd_device_alloc,
 435         .ldto_device_free  = mdd_device_free,
 436
 437         .ldto_device_init    = mdd_device_init,
 438         .ldto_device_fini    = mdd_device_fini
 439 };
 440
 441 static struct lu_device_type mdd_device_type = {
 442         .ldt_tags     = LU_DEVICE_MD,
 443         .ldt_name     = LUSTRE_MDD_NAME,
 444         .ldt_ops      = &mdd_device_type_ops,
 445         .ldt_ctx_tags = LCT_MD_THREAD
 446 };
 447
 448 static void *mdd_key_init(const struct lu_context *ctx,
 449                           struct lu_context_key *key)
 450 {
 451         struct mdd_thread_info *info;
 452
 453         OBD_ALLOC_PTR(info);
 454         if (info == NULL)
 455                 info = ERR_PTR(-ENOMEM);
 456         return info;
 457 }
 458
 459 static void mdd_key_fini(const struct lu_context *ctx,
 460                          struct lu_context_key *key, void *data)
 461 {
 462         struct mdd_thread_info *info = data;
 463         if (info->mti_max_lmm != NULL)
 464                 OBD_FREE(info->mti_max_lmm, info->mti_max_lmm_size);
 465         if (info->mti_max_cookie != NULL)
 466                 OBD_FREE(info->mti_max_cookie, info->mti_max_cookie_size);
 467         OBD_FREE_PTR(info);
 468 }
 469
 470 struct lu_context_key mdd_thread_key = {
 471         .lct_tags = LCT_MD_THREAD,
 472         .lct_init = mdd_key_init,
 473         .lct_fini = mdd_key_fini
 474 };
 475
 476 struct lprocfs_vars lprocfs_mdd_obd_vars[] = {
 477         { 0 }
 478 };
 479
 480 struct lprocfs_vars lprocfs_mdd_module_vars[] = {
 481         { 0 }
 482 };
 483
 484 LPROCFS_INIT_VARS(mdd, lprocfs_mdd_module_vars, lprocfs_mdd_obd_vars);
 485
 486 static int __init mdd_mod_init(void)
 487 {
 488         struct lprocfs_static_vars lvars;
 489         lprocfs_init_vars(mdd, &lvars);
 490         return class_register_type(&mdd_obd_device_ops, NULL, lvars.module_vars,
 491                                    LUSTRE_MDD_NAME, &mdd_device_type);
 492 }
 493
 494 static void __exit mdd_mod_exit(void)
 495 {
 496         class_unregister_type(LUSTRE_MDD_NAME);
 497 }
 498
 499 MODULE_AUTHOR("Cluster File Systems, Inc. <info@clusterfs.com>");
 500 MODULE_DESCRIPTION("Lustre Meta-data Device Prototype ("LUSTRE_MDD_NAME")");
 501 MODULE_LICENSE("GPL");
 502
 503 cfs_module(mdd, "0.1.0", mdd_mod_init, mdd_mod_exit);