lustre/include/lustre_log.h

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2012, 2015, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  *
  31  * lustre/include/lustre_log.h
  32  *
  33  * Generic infrastructure for managing a collection of logs.
  34  * These logs are used for:
  35  *
  36  * - orphan recovery: OST adds record on create
  37  * - mtime/size consistency: the OST adds a record on first write
  38  * - open/unlinked objects: OST adds a record on destroy
  39  *
  40  * - mds unlink log: the MDS adds an entry upon delete
  41  *
  42  * - raid1 replication log between OST's
  43  * - MDS replication logs
  44  */
  45
  46 #ifndef _LUSTRE_LOG_H
  47 #define _LUSTRE_LOG_H
  48
  49 /** \defgroup log log
  50  *
  51  * @{
  52  */
  53
  54 #include <obd_class.h>
  55 #include <lustre/lustre_idl.h>
  56 #include <dt_object.h>
  57 #include <lustre_log_user.h>
  58
  59 #define LOG_NAME_LIMIT(logname, name)                   \
  60         snprintf(logname, sizeof(logname), "LOGS/%s", name)
  61 #define LLOG_EEMPTY 4711
  62
  63 enum llog_open_param {
  64         LLOG_OPEN_EXISTS        = 0x0000,
  65         LLOG_OPEN_NEW           = 0x0001,
  66 };
  67
  68 struct plain_handle_data {
  69         struct list_head        phd_entry;
  70         struct llog_handle      *phd_cat_handle;
  71         /* cookie of this log in its cat */
  72         struct llog_cookie      phd_cookie;
  73 };
  74
  75 struct cat_handle_data {
  76         struct list_head        chd_head;
  77         struct llog_handle     *chd_current_log;/* currently open log */
  78         struct llog_handle     *chd_next_log;   /* llog to be used next */
  79 };
  80
  81 struct llog_handle;
  82
  83 /* llog.c  -  general API */
  84 int llog_init_handle(const struct lu_env *env, struct llog_handle *handle,
  85                      int flags, struct obd_uuid *uuid);
  86 int llog_copy_handler(const struct lu_env *env, struct llog_handle *llh,
  87                       struct llog_rec_hdr *rec, void *data);
  88 int llog_process(const struct lu_env *env, struct llog_handle *loghandle,
  89                  llog_cb_t cb, void *data, void *catdata);
  90 int llog_process_or_fork(const struct lu_env *env,
  91                          struct llog_handle *loghandle,
  92                          llog_cb_t cb, void *data, void *catdata, bool fork);
  93 int llog_reverse_process(const struct lu_env *env,
  94                          struct llog_handle *loghandle, llog_cb_t cb,
  95                          void *data, void *catdata);
  96 int llog_cancel_rec(const struct lu_env *env, struct llog_handle *loghandle,
  97                     int index);
  98 int llog_open(const struct lu_env *env, struct llog_ctxt *ctxt,
  99               struct llog_handle **lgh, struct llog_logid *logid,
 100               char *name, enum llog_open_param open_param);
 101 int llog_close(const struct lu_env *env, struct llog_handle *cathandle);
 102 int llog_is_empty(const struct lu_env *env, struct llog_ctxt *ctxt,
 103                   char *name);
 104 int llog_backup(const struct lu_env *env, struct obd_device *obd,
 105                 struct llog_ctxt *ctxt, struct llog_ctxt *bak_ctxt,
 106                 char *name, char *backup);
 107 int llog_read_header(const struct lu_env *env, struct llog_handle *handle,
 108                      const struct obd_uuid *uuid);
 109 __u64 llog_size(const struct lu_env *env, struct llog_handle *llh);
 110
 111 /* llog_process flags */
 112 #define LLOG_FLAG_NODEAMON 0x0001
 113
 114 /* llog_cat.c - catalog api */
 115 struct llog_process_data {
 116         /**
 117          * Any useful data needed while processing catalog. This is
 118          * passed later to process callback.
 119          */
 120         void                *lpd_data;
 121         /**
 122          * Catalog process callback function, called for each record
 123          * in catalog.
 124          */
 125         llog_cb_t            lpd_cb;
 126         /**
 127          * Start processing the catalog from startcat/startidx
 128          */
 129         int                  lpd_startcat;
 130         int                  lpd_startidx;
 131 };
 132
 133 struct llog_process_cat_data {
 134         /**
 135          * Temporary stored first_idx while scanning log.
 136          */
 137         int                  lpcd_first_idx;
 138         /**
 139          * Temporary stored last_idx while scanning log.
 140          */
 141         int                  lpcd_last_idx;
 142 };
 143
 144 int llog_cat_close(const struct lu_env *env, struct llog_handle *cathandle);
 145 int llog_cat_add_rec(const struct lu_env *env, struct llog_handle *cathandle,
 146                      struct llog_rec_hdr *rec, struct llog_cookie *reccookie,
 147                      struct thandle *th);
 148 int llog_cat_declare_add_rec(const struct lu_env *env,
 149                              struct llog_handle *cathandle,
 150                              struct llog_rec_hdr *rec, struct thandle *th);
 151 int llog_cat_add(const struct lu_env *env, struct llog_handle *cathandle,
 152                  struct llog_rec_hdr *rec, struct llog_cookie *reccookie);
 153 int llog_cat_cancel_records(const struct lu_env *env,
 154                             struct llog_handle *cathandle, int count,
 155                             struct llog_cookie *cookies);
 156 int llog_cat_process_or_fork(const struct lu_env *env,
 157                              struct llog_handle *cat_llh, llog_cb_t cat_cb,
 158                              llog_cb_t cb, void *data, int startcat,
 159                              int startidx, bool fork);
 160 int llog_cat_process(const struct lu_env *env, struct llog_handle *cat_llh,
 161                      llog_cb_t cb, void *data, int startcat, int startidx);
 162 __u64 llog_cat_size(const struct lu_env *env, struct llog_handle *cat_llh);
 163 int llog_cat_reverse_process(const struct lu_env *env,
 164                              struct llog_handle *cat_llh, llog_cb_t cb,
 165                              void *data);
 166 int llog_cat_init_and_process(const struct lu_env *env,
 167                               struct llog_handle *llh);
 168
 169 /* llog_obd.c */
 170 int llog_setup(const struct lu_env *env, struct obd_device *obd,
 171                struct obd_llog_group *olg, int index,
 172                struct obd_device *disk_obd, struct llog_operations *op);
 173 int __llog_ctxt_put(const struct lu_env *env, struct llog_ctxt *ctxt);
 174 int llog_cleanup(const struct lu_env *env, struct llog_ctxt *);
 175 int llog_sync(struct llog_ctxt *ctxt, struct obd_export *exp, int flags);
 176 int llog_cancel(const struct lu_env *env, struct llog_ctxt *ctxt,
 177                 struct llog_cookie *cookies, int flags);
 178
 179 /* llog_ioctl.c */
 180 struct obd_ioctl_data;
 181 int llog_ioctl(const struct lu_env *env, struct llog_ctxt *ctxt, int cmd,
 182                struct obd_ioctl_data *data);
 183 int llog_catalog_list(const struct lu_env *env, struct dt_device *d,
 184                       int count, struct obd_ioctl_data *data,
 185                       const struct lu_fid *fid);
 186
 187 /* llog_net.c */
 188 int llog_initiator_connect(struct llog_ctxt *ctxt);
 189
 190 struct llog_operations {
 191         int (*lop_declare_destroy)(const struct lu_env *env,
 192                            struct llog_handle *handle, struct thandle *th);
 193         int (*lop_destroy)(const struct lu_env *env,
 194                            struct llog_handle *handle, struct thandle *th);
 195         int (*lop_next_block)(const struct lu_env *env, struct llog_handle *h,
 196                               int *curr_idx, int next_idx, __u64 *offset,
 197                               void *buf, int len);
 198         int (*lop_prev_block)(const struct lu_env *env, struct llog_handle *h,
 199                               int prev_idx, void *buf, int len);
 200         int (*lop_read_header)(const struct lu_env *env,
 201                                struct llog_handle *handle);
 202         int (*lop_setup)(const struct lu_env *env, struct obd_device *obd,
 203                          struct obd_llog_group *olg, int ctxt_idx,
 204                          struct obd_device *disk_obd);
 205         int (*lop_sync)(struct llog_ctxt *ctxt, struct obd_export *exp,
 206                         int flags);
 207         int (*lop_cleanup)(const struct lu_env *env, struct llog_ctxt *ctxt);
 208         int (*lop_cancel)(const struct lu_env *env, struct llog_ctxt *ctxt,
 209                           struct llog_cookie *cookies, int flags);
 210         int (*lop_connect)(struct llog_ctxt *ctxt, struct llog_logid *logid,
 211                            struct llog_gen *gen, struct obd_uuid *uuid);
 212         /**
 213          * Any llog file must be opened first using llog_open().  Llog can be
 214          * opened by name, logid or without both, in last case the new logid
 215          * will be generated.
 216          */
 217         int (*lop_open)(const struct lu_env *env, struct llog_handle *lgh,
 218                         struct llog_logid *logid, char *name,
 219                         enum llog_open_param);
 220         /**
 221          * Opened llog may not exist and this must be checked where needed using
 222          * the llog_exist() call.
 223          */
 224         int (*lop_exist)(struct llog_handle *lgh);
 225         /**
 226          * Close llog file and calls llog_free_handle() implicitly.
 227          * Any opened llog must be closed by llog_close() call.
 228          */
 229         int (*lop_close)(const struct lu_env *env, struct llog_handle *handle);
 230         /**
 231          * Create new llog file. The llog must be opened.
 232          * Must be used only for local llog operations.
 233          */
 234         int (*lop_declare_create)(const struct lu_env *env,
 235                                   struct llog_handle *handle,
 236                                   struct thandle *th);
 237         int (*lop_create)(const struct lu_env *env, struct llog_handle *handle,
 238                           struct thandle *th);
 239         /**
 240          * write new record in llog. It appends records usually but can edit
 241          * existing records too.
 242          */
 243         int (*lop_declare_write_rec)(const struct lu_env *env,
 244                                      struct llog_handle *lgh,
 245                                      struct llog_rec_hdr *rec,
 246                                      int idx, struct thandle *th);
 247         int (*lop_write_rec)(const struct lu_env *env,
 248                              struct llog_handle *loghandle,
 249                              struct llog_rec_hdr *rec,
 250                              struct llog_cookie *cookie,
 251                              int idx, struct thandle *th);
 252         /**
 253          * Add new record in llog catalog. Does the same as llog_write_rec()
 254          * but using llog catalog.
 255          */
 256         int (*lop_declare_add)(const struct lu_env *env,
 257                                struct llog_handle *lgh,
 258                                struct llog_rec_hdr *rec, struct thandle *th);
 259         int (*lop_add)(const struct lu_env *env, struct llog_handle *lgh,
 260                        struct llog_rec_hdr *rec, struct llog_cookie *cookie,
 261                        struct thandle *th);
 262 };
 263
 264 /* In-memory descriptor for a log object or log catalog */
 265 struct llog_handle {
 266         struct rw_semaphore      lgh_lock;
 267         struct mutex             lgh_hdr_mutex; /* protect lgh_hdr data */
 268         struct llog_logid        lgh_id; /* id of this log */
 269         struct llog_log_hdr     *lgh_hdr; /* may be vmalloc'd */
 270         size_t                  lgh_hdr_size;
 271         struct dt_object        *lgh_obj;
 272         /* For a Catalog, is the last/newest used index for a plain slot.
 273          * Used in conjunction with llh_cat_idx to handle Catalog wrap-around
 274          * case, after it will have reached LLOG_HDR_BITMAP_SIZE, llh_cat_idx
 275          * will become its upper limit */
 276         int                      lgh_last_idx;
 277         int                      lgh_cur_idx; /* used during llog_process */
 278         __u64                    lgh_cur_offset; /* used during llog_process */
 279         /* used during llog_osd_write_rec */
 280         __u64                    lgh_write_offset;
 281         struct llog_ctxt        *lgh_ctxt;
 282         union {
 283                 struct plain_handle_data         phd;
 284                 struct cat_handle_data           chd;
 285         } u;
 286         char                    *lgh_name;
 287         void                    *private_data;
 288         struct llog_operations  *lgh_logops;
 289         atomic_t                 lgh_refcount;
 290
 291         __u32                   lgh_stale:1;
 292 };
 293
 294 /* llog_osd.c */
 295 extern struct llog_operations llog_osd_ops;
 296 extern struct llog_operations llog_common_cat_ops;
 297 int llog_osd_get_cat_list(const struct lu_env *env, struct dt_device *d,
 298                           int idx, int count, struct llog_catid *idarray,
 299                           const struct lu_fid *fid);
 300 int llog_osd_put_cat_list(const struct lu_env *env, struct dt_device *d,
 301                           int idx, int count, struct llog_catid *idarray,
 302                           const struct lu_fid *fid);
 303
 304 #define LLOG_CTXT_FLAG_UNINITIALIZED     0x00000001
 305 #define LLOG_CTXT_FLAG_STOP              0x00000002
 306
 307 /* Indicate the llog objects under this context are normal FID objects,
 308  * instead of objects with local FID. */
 309 #define LLOG_CTXT_FLAG_NORMAL_FID        0x00000004
 310
 311 struct llog_ctxt {
 312         int                      loc_idx; /* my index the obd array of ctxt's */
 313         struct obd_device       *loc_obd; /* points back to the containing obd*/
 314         struct obd_llog_group   *loc_olg; /* group containing that ctxt */
 315         struct obd_export       *loc_exp; /* parent "disk" export (e.g. MDS) */
 316         struct obd_import       *loc_imp; /* to use in RPC's: can be backward
 317                                              pointing import */
 318         struct llog_operations  *loc_logops;
 319         struct llog_handle      *loc_handle;
 320         struct mutex             loc_mutex; /* protect loc_imp */
 321         atomic_t                 loc_refcount;
 322         long                     loc_flags; /* flags, see above defines */
 323         struct dt_object        *loc_dir;
 324         struct local_oid_storage *loc_los_nameless;
 325         struct local_oid_storage *loc_los_named;
 326         /* llog chunk size, and llog record size can not be bigger than
 327          * loc_chunk_size */
 328         __u32                    loc_chunk_size;
 329 };
 330
 331 #define LLOG_PROC_BREAK 0x0001
 332 #define LLOG_DEL_RECORD 0x0002
 333 #define LLOG_DEL_PLAIN  0x0003
 334
 335 static inline int llog_obd2ops(struct llog_ctxt *ctxt,
 336                                struct llog_operations **lop)
 337 {
 338         if (ctxt == NULL)
 339                 return -ENOTCONN;
 340
 341         *lop = ctxt->loc_logops;
 342         if (*lop == NULL)
 343                 return -EOPNOTSUPP;
 344
 345         return 0;
 346 }
 347
 348 static inline int llog_handle2ops(struct llog_handle *loghandle,
 349                                   struct llog_operations **lop)
 350 {
 351         if (loghandle == NULL || loghandle->lgh_logops == NULL)
 352                 return -EINVAL;
 353
 354         *lop = loghandle->lgh_logops;
 355         return 0;
 356 }
 357
 358 static inline int llog_data_len(int len)
 359 {
 360         return cfs_size_round(len);
 361 }
 362
 363 static inline int llog_get_size(struct llog_handle *loghandle)
 364 {
 365         if (loghandle && loghandle->lgh_hdr)
 366                 return loghandle->lgh_hdr->llh_count;
 367         return 0;
 368 }
 369
 370 static inline struct llog_ctxt *llog_ctxt_get(struct llog_ctxt *ctxt)
 371 {
 372         atomic_inc(&ctxt->loc_refcount);
 373         CDEBUG(D_INFO, "GETting ctxt %p : new refcount %d\n", ctxt,
 374                atomic_read(&ctxt->loc_refcount));
 375         return ctxt;
 376 }
 377
 378 static inline void llog_ctxt_put(struct llog_ctxt *ctxt)
 379 {
 380         if (ctxt == NULL)
 381                 return;
 382         LASSERT_ATOMIC_GT_LT(&ctxt->loc_refcount, 0, LI_POISON);
 383         CDEBUG(D_INFO, "PUTting ctxt %p : new refcount %d\n", ctxt,
 384                atomic_read(&ctxt->loc_refcount) - 1);
 385         __llog_ctxt_put(NULL, ctxt);
 386 }
 387
 388 static inline void llog_group_init(struct obd_llog_group *olg)
 389 {
 390         init_waitqueue_head(&olg->olg_waitq);
 391         spin_lock_init(&olg->olg_lock);
 392         mutex_init(&olg->olg_cat_processing);
 393 }
 394
 395 static inline int llog_group_set_ctxt(struct obd_llog_group *olg,
 396                                       struct llog_ctxt *ctxt, int index)
 397 {
 398         LASSERT(index >= 0 && index < LLOG_MAX_CTXTS);
 399
 400         spin_lock(&olg->olg_lock);
 401         if (olg->olg_ctxts[index] != NULL) {
 402                 spin_unlock(&olg->olg_lock);
 403                 return -EEXIST;
 404         }
 405         olg->olg_ctxts[index] = ctxt;
 406         spin_unlock(&olg->olg_lock);
 407         return 0;
 408 }
 409
 410 static inline struct llog_ctxt *llog_group_get_ctxt(struct obd_llog_group *olg,
 411                                                     int index)
 412 {
 413         struct llog_ctxt *ctxt;
 414
 415         LASSERT(index >= 0 && index < LLOG_MAX_CTXTS);
 416
 417         spin_lock(&olg->olg_lock);
 418         if (olg->olg_ctxts[index] == NULL)
 419                 ctxt = NULL;
 420         else
 421                 ctxt = llog_ctxt_get(olg->olg_ctxts[index]);
 422         spin_unlock(&olg->olg_lock);
 423         return ctxt;
 424 }
 425
 426 static inline void llog_group_clear_ctxt(struct obd_llog_group *olg, int index)
 427 {
 428         LASSERT(index >= 0 && index < LLOG_MAX_CTXTS);
 429         spin_lock(&olg->olg_lock);
 430         olg->olg_ctxts[index] = NULL;
 431         spin_unlock(&olg->olg_lock);
 432 }
 433
 434 static inline struct llog_ctxt *llog_get_context(struct obd_device *obd,
 435                                                  int index)
 436 {
 437         return llog_group_get_ctxt(&obd->obd_olg, index);
 438 }
 439
 440 static inline int llog_group_ctxt_null(struct obd_llog_group *olg, int index)
 441 {
 442         return (olg->olg_ctxts[index] == NULL);
 443 }
 444
 445 static inline int llog_ctxt_null(struct obd_device *obd, int index)
 446 {
 447         return (llog_group_ctxt_null(&obd->obd_olg, index));
 448 }
 449
 450 static inline int llog_next_block(const struct lu_env *env,
 451                                   struct llog_handle *loghandle, int *cur_idx,
 452                                   int next_idx, __u64 *cur_offset, void *buf,
 453                                   int len)
 454 {
 455         struct llog_operations *lop;
 456         int rc;
 457
 458         ENTRY;
 459
 460         rc = llog_handle2ops(loghandle, &lop);
 461         if (rc)
 462                 RETURN(rc);
 463         if (lop->lop_next_block == NULL)
 464                 RETURN(-EOPNOTSUPP);
 465
 466         rc = lop->lop_next_block(env, loghandle, cur_idx, next_idx,
 467                                  cur_offset, buf, len);
 468         RETURN(rc);
 469 }
 470
 471 static inline int llog_prev_block(const struct lu_env *env,
 472                                   struct llog_handle *loghandle,
 473                                   int prev_idx, void *buf, int len)
 474 {
 475         struct llog_operations *lop;
 476         int rc;
 477
 478         ENTRY;
 479
 480         rc = llog_handle2ops(loghandle, &lop);
 481         if (rc)
 482                 RETURN(rc);
 483         if (lop->lop_prev_block == NULL)
 484                 RETURN(-EOPNOTSUPP);
 485
 486         rc = lop->lop_prev_block(env, loghandle, prev_idx, buf, len);
 487         RETURN(rc);
 488 }
 489
 490 static inline int llog_connect(struct llog_ctxt *ctxt,
 491                                struct llog_logid *logid, struct llog_gen *gen,
 492                                struct obd_uuid *uuid)
 493 {
 494         struct llog_operations  *lop;
 495         int                      rc;
 496
 497         ENTRY;
 498
 499         rc = llog_obd2ops(ctxt, &lop);
 500         if (rc)
 501                 RETURN(rc);
 502         if (lop->lop_connect == NULL)
 503                 RETURN(-EOPNOTSUPP);
 504
 505         rc = lop->lop_connect(ctxt, logid, gen, uuid);
 506         RETURN(rc);
 507 }
 508
 509 static inline int llog_is_full(struct llog_handle *llh)
 510 {
 511         return llh->lgh_last_idx >= LLOG_HDR_BITMAP_SIZE(llh->lgh_hdr) - 1;
 512 }
 513
 514 struct llog_cfg_rec {
 515         struct llog_rec_hdr     lcr_hdr;
 516         struct lustre_cfg       lcr_cfg;
 517         struct llog_rec_tail    lcr_tail;
 518 };
 519
 520 struct llog_cfg_rec *lustre_cfg_rec_new(int cmd, struct lustre_cfg_bufs *bufs);
 521 void lustre_cfg_rec_free(struct llog_cfg_rec *lcr);
 522
 523 enum {
 524         LLOG_NEXT_IDX = -1,
 525         LLOG_HEADER_IDX = 0,
 526 };
 527
 528 /* llog.c */
 529 int llog_exist(struct llog_handle *loghandle);
 530 int llog_declare_create(const struct lu_env *env,
 531                         struct llog_handle *loghandle, struct thandle *th);
 532 int llog_create(const struct lu_env *env, struct llog_handle *handle,
 533                 struct thandle *th);
 534 int llog_trans_destroy(const struct lu_env *env, struct llog_handle *handle,
 535                        struct thandle *th);
 536 int llog_destroy(const struct lu_env *env, struct llog_handle *handle);
 537
 538 int llog_declare_write_rec(const struct lu_env *env,
 539                            struct llog_handle *handle,
 540                            struct llog_rec_hdr *rec, int idx,
 541                            struct thandle *th);
 542 int llog_write_rec(const struct lu_env *env, struct llog_handle *handle,
 543                    struct llog_rec_hdr *rec, struct llog_cookie *logcookies,
 544                    int idx, struct thandle *th);
 545 int llog_add(const struct lu_env *env, struct llog_handle *lgh,
 546              struct llog_rec_hdr *rec, struct llog_cookie *logcookies,
 547              struct thandle *th);
 548 int llog_declare_add(const struct lu_env *env, struct llog_handle *lgh,
 549                      struct llog_rec_hdr *rec, struct thandle *th);
 550 int lustre_process_log(struct super_block *sb, char *logname,
 551                        struct config_llog_instance *cfg);
 552 int lustre_end_log(struct super_block *sb, char *logname,
 553                    struct config_llog_instance *cfg);
 554 int llog_open_create(const struct lu_env *env, struct llog_ctxt *ctxt,
 555                      struct llog_handle **res, struct llog_logid *logid,
 556                      char *name);
 557 int llog_erase(const struct lu_env *env, struct llog_ctxt *ctxt,
 558                struct llog_logid *logid, char *name);
 559 int llog_write(const struct lu_env *env, struct llog_handle *loghandle,
 560                struct llog_rec_hdr *rec, int idx);
 561
 562 /** @} log */
 563
 564 #endif