Whamcloud - gitweb
7b7a812924ab4e66ea04022f11c4c9cdddc2dc26
[fs/lustre-release.git] / lustre / include / lustre_log.h
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
19  *
20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
21  * CA 95054 USA or visit www.sun.com if you need additional information or
22  * have any questions.
23  *
24  * GPL HEADER END
25  */
26 /*
27  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
28  * Use is subject to license terms.
29  *
30  * Copyright (c) 2012, 2013, Intel Corporation.
31  */
32 /*
33  * This file is part of Lustre, http://www.lustre.org/
34  * Lustre is a trademark of Sun Microsystems, Inc.
35  *
36  * lustre/include/lustre_log.h
37  *
38  * Generic infrastructure for managing a collection of logs.
39  * These logs are used for:
40  *
41  * - orphan recovery: OST adds record on create
42  * - mtime/size consistency: the OST adds a record on first write
43  * - open/unlinked objects: OST adds a record on destroy
44  *
45  * - mds unlink log: the MDS adds an entry upon delete
46  *
47  * - raid1 replication log between OST's
48  * - MDS replication logs
49  */
50
51 #ifndef _LUSTRE_LOG_H
52 #define _LUSTRE_LOG_H
53
54 /** \defgroup log log
55  *
56  * @{
57  */
58
59 #if defined(__linux__)
60 #include <linux/lustre_log.h>
61 #elif defined(__APPLE__)
62 #include <darwin/lustre_log.h>
63 #elif defined(__WINNT__)
64 #include <winnt/lustre_log.h>
65 #else
66 #error Unsupported operating system.
67 #endif
68
69 #include <obd_class.h>
70 #include <lustre/lustre_idl.h>
71 #include <dt_object.h>
72
73 #define LOG_NAME_LIMIT(logname, name)                   \
74         snprintf(logname, sizeof(logname), "LOGS/%s", name)
75 #define LLOG_EEMPTY 4711
76
77 enum llog_open_param {
78         LLOG_OPEN_EXISTS        = 0x0000,
79         LLOG_OPEN_NEW           = 0x0001,
80 };
81
82 struct plain_handle_data {
83         cfs_list_t          phd_entry;
84         struct llog_handle *phd_cat_handle;
85         struct llog_cookie  phd_cookie; /* cookie of this log in its cat */
86 };
87
88 struct cat_handle_data {
89         cfs_list_t              chd_head;
90         struct llog_handle     *chd_current_log; /* currently open log */
91         struct llog_handle      *chd_next_log; /* llog to be used next */
92 };
93
94 static inline void logid_to_fid(struct llog_logid *id, struct lu_fid *fid)
95 {
96         /* For compatibility purposes we identify pre-OSD (~< 2.3.51 MDS)
97          * logid's by non-zero ogen (inode generation) and convert them
98          * into IGIF */
99         if (id->lgl_ogen == 0) {
100                 fid->f_seq = id->lgl_oi.oi.oi_seq;
101                 fid->f_oid = id->lgl_oi.oi.oi_id;
102                 fid->f_ver = 0;
103         } else {
104                 lu_igif_build(fid, id->lgl_oi.oi.oi_id, id->lgl_ogen);
105         }
106 }
107
108 static inline void fid_to_logid(struct lu_fid *fid, struct llog_logid *id)
109 {
110         id->lgl_oi.oi.oi_seq = fid->f_seq;
111         id->lgl_oi.oi.oi_id = fid->f_oid;
112         id->lgl_ogen = 0;
113 }
114
115 static inline void logid_set_id(struct llog_logid *log_id, __u64 id)
116 {
117         log_id->lgl_oi.oi.oi_id = id;
118 }
119
120 static inline __u64 logid_id(struct llog_logid *log_id)
121 {
122         return log_id->lgl_oi.oi.oi_id;
123 }
124
125 struct llog_handle;
126
127 /* llog.c  -  general API */
128 int llog_init_handle(const struct lu_env *env, struct llog_handle *handle,
129                      int flags, struct obd_uuid *uuid);
130 int llog_copy_handler(const struct lu_env *env, struct llog_handle *llh,
131                       struct llog_rec_hdr *rec, void *data);
132 int llog_process(const struct lu_env *env, struct llog_handle *loghandle,
133                  llog_cb_t cb, void *data, void *catdata);
134 int llog_process_or_fork(const struct lu_env *env,
135                          struct llog_handle *loghandle,
136                          llog_cb_t cb, void *data, void *catdata, bool fork);
137 int llog_reverse_process(const struct lu_env *env,
138                          struct llog_handle *loghandle, llog_cb_t cb,
139                          void *data, void *catdata);
140 int llog_cancel_rec(const struct lu_env *env, struct llog_handle *loghandle,
141                     int index);
142 int llog_open(const struct lu_env *env, struct llog_ctxt *ctxt,
143               struct llog_handle **lgh, struct llog_logid *logid,
144               char *name, enum llog_open_param open_param);
145 int llog_close(const struct lu_env *env, struct llog_handle *cathandle);
146 int llog_is_empty(const struct lu_env *env, struct llog_ctxt *ctxt,
147                   char *name);
148 int llog_backup(const struct lu_env *env, struct obd_device *obd,
149                 struct llog_ctxt *ctxt, struct llog_ctxt *bak_ctxt,
150                 char *name, char *backup);
151
152 /* llog_process flags */
153 #define LLOG_FLAG_NODEAMON 0x0001
154
155 /* llog_cat.c - catalog api */
156 struct llog_process_data {
157         /**
158          * Any useful data needed while processing catalog. This is
159          * passed later to process callback.
160          */
161         void                *lpd_data;
162         /**
163          * Catalog process callback function, called for each record
164          * in catalog.
165          */
166         llog_cb_t            lpd_cb;
167         /**
168          * Start processing the catalog from startcat/startidx
169          */
170         int                  lpd_startcat;
171         int                  lpd_startidx;
172 };
173
174 struct llog_process_cat_data {
175         /**
176          * Temporary stored first_idx while scanning log.
177          */
178         int                  lpcd_first_idx;
179         /**
180          * Temporary stored last_idx while scanning log.
181          */
182         int                  lpcd_last_idx;
183 };
184
185 int llog_cat_close(const struct lu_env *env, struct llog_handle *cathandle);
186 int llog_cat_add_rec(const struct lu_env *env, struct llog_handle *cathandle,
187                      struct llog_rec_hdr *rec, struct llog_cookie *reccookie,
188                      void *buf, struct thandle *th);
189 int llog_cat_declare_add_rec(const struct lu_env *env,
190                              struct llog_handle *cathandle,
191                              struct llog_rec_hdr *rec, struct thandle *th);
192 int llog_cat_add(const struct lu_env *env, struct llog_handle *cathandle,
193                  struct llog_rec_hdr *rec, struct llog_cookie *reccookie,
194                  void *buf);
195 int llog_cat_cancel_records(const struct lu_env *env,
196                             struct llog_handle *cathandle, int count,
197                             struct llog_cookie *cookies);
198 int llog_cat_process_or_fork(const struct lu_env *env,
199                              struct llog_handle *cat_llh, llog_cb_t cb,
200                              void *data, int startcat, int startidx, bool fork);
201 int llog_cat_process(const struct lu_env *env, struct llog_handle *cat_llh,
202                      llog_cb_t cb, void *data, int startcat, int startidx);
203 int llog_cat_reverse_process(const struct lu_env *env,
204                              struct llog_handle *cat_llh, llog_cb_t cb,
205                              void *data);
206 int llog_cat_init_and_process(const struct lu_env *env,
207                               struct llog_handle *llh);
208
209 /* llog_obd.c */
210 int llog_setup(const struct lu_env *env, struct obd_device *obd,
211                struct obd_llog_group *olg, int index,
212                struct obd_device *disk_obd, struct llog_operations *op);
213 int __llog_ctxt_put(const struct lu_env *env, struct llog_ctxt *ctxt);
214 int llog_cleanup(const struct lu_env *env, struct llog_ctxt *);
215 int llog_sync(struct llog_ctxt *ctxt, struct obd_export *exp, int flags);
216 int llog_cancel(const struct lu_env *env, struct llog_ctxt *ctxt,
217                 struct llog_cookie *cookies, int flags);
218
219 int obd_llog_init(struct obd_device *obd, struct obd_llog_group *olg,
220                   struct obd_device *disk_obd, int *idx);
221
222 int obd_llog_finish(struct obd_device *obd, int count);
223
224 /* llog_ioctl.c */
225 struct obd_ioctl_data;
226 int llog_ioctl(const struct lu_env *env, struct llog_ctxt *ctxt, int cmd,
227                struct obd_ioctl_data *data);
228 int llog_catalog_list(const struct lu_env *env, struct dt_device *d,
229                       int count, struct obd_ioctl_data *data,
230                       const struct lu_fid *fid);
231
232 /* llog_net.c */
233 int llog_initiator_connect(struct llog_ctxt *ctxt);
234
235 struct llog_operations {
236         int (*lop_destroy)(const struct lu_env *env,
237                            struct llog_handle *handle);
238         int (*lop_next_block)(const struct lu_env *env, struct llog_handle *h,
239                               int *curr_idx, int next_idx, __u64 *offset,
240                               void *buf, int len);
241         int (*lop_prev_block)(const struct lu_env *env, struct llog_handle *h,
242                               int prev_idx, void *buf, int len);
243         int (*lop_read_header)(const struct lu_env *env,
244                                struct llog_handle *handle);
245         int (*lop_setup)(const struct lu_env *env, struct obd_device *obd,
246                          struct obd_llog_group *olg, int ctxt_idx,
247                          struct obd_device *disk_obd);
248         int (*lop_sync)(struct llog_ctxt *ctxt, struct obd_export *exp,
249                         int flags);
250         int (*lop_cleanup)(const struct lu_env *env, struct llog_ctxt *ctxt);
251         int (*lop_cancel)(const struct lu_env *env, struct llog_ctxt *ctxt,
252                           struct llog_cookie *cookies, int flags);
253         int (*lop_connect)(struct llog_ctxt *ctxt, struct llog_logid *logid,
254                            struct llog_gen *gen, struct obd_uuid *uuid);
255         /**
256          * Any llog file must be opened first using llog_open().  Llog can be
257          * opened by name, logid or without both, in last case the new logid
258          * will be generated.
259          */
260         int (*lop_open)(const struct lu_env *env, struct llog_handle *lgh,
261                         struct llog_logid *logid, char *name,
262                         enum llog_open_param);
263         /**
264          * Opened llog may not exist and this must be checked where needed using
265          * the llog_exist() call.
266          */
267         int (*lop_exist)(struct llog_handle *lgh);
268         /**
269          * Close llog file and calls llog_free_handle() implicitly.
270          * Any opened llog must be closed by llog_close() call.
271          */
272         int (*lop_close)(const struct lu_env *env, struct llog_handle *handle);
273         /**
274          * Create new llog file. The llog must be opened.
275          * Must be used only for local llog operations.
276          */
277         int (*lop_declare_create)(const struct lu_env *env,
278                                   struct llog_handle *handle,
279                                   struct thandle *th);
280         int (*lop_create)(const struct lu_env *env, struct llog_handle *handle,
281                           struct thandle *th);
282         /**
283          * write new record in llog. It appends records usually but can edit
284          * existing records too.
285          */
286         int (*lop_declare_write_rec)(const struct lu_env *env,
287                                      struct llog_handle *lgh,
288                                      struct llog_rec_hdr *rec,
289                                      int idx, struct thandle *th);
290         int (*lop_write_rec)(const struct lu_env *env,
291                              struct llog_handle *loghandle,
292                              struct llog_rec_hdr *rec,
293                              struct llog_cookie *cookie, int cookiecount,
294                              void *buf, int idx, struct thandle *th);
295         /**
296          * Add new record in llog catalog. Does the same as llog_write_rec()
297          * but using llog catalog.
298          */
299         int (*lop_declare_add)(const struct lu_env *env,
300                                struct llog_handle *lgh,
301                                struct llog_rec_hdr *rec, struct thandle *th);
302         int (*lop_add)(const struct lu_env *env, struct llog_handle *lgh,
303                        struct llog_rec_hdr *rec, struct llog_cookie *cookie,
304                        void *buf, struct thandle *th);
305 };
306
307 /* In-memory descriptor for a log object or log catalog */
308 struct llog_handle {
309         struct rw_semaphore      lgh_lock;
310         spinlock_t               lgh_hdr_lock; /* protect lgh_hdr data */
311         struct llog_logid        lgh_id; /* id of this log */
312         struct llog_log_hdr     *lgh_hdr;
313         struct dt_object        *lgh_obj;
314         int                      lgh_last_idx;
315         int                      lgh_cur_idx; /* used during llog_process */
316         __u64                    lgh_cur_offset; /* used during llog_process */
317         struct llog_ctxt        *lgh_ctxt;
318         union {
319                 struct plain_handle_data         phd;
320                 struct cat_handle_data           chd;
321         } u;
322         char                    *lgh_name;
323         void                    *private_data;
324         struct llog_operations  *lgh_logops;
325         atomic_t                 lgh_refcount;
326 };
327
328 /* llog_osd.c */
329 extern struct llog_operations llog_osd_ops;
330 int llog_osd_get_cat_list(const struct lu_env *env, struct dt_device *d,
331                           int idx, int count, struct llog_catid *idarray,
332                           const struct lu_fid *fid);
333 int llog_osd_put_cat_list(const struct lu_env *env, struct dt_device *d,
334                           int idx, int count, struct llog_catid *idarray,
335                           const struct lu_fid *fid);
336
337 #define LLOG_CTXT_FLAG_UNINITIALIZED     0x00000001
338 #define LLOG_CTXT_FLAG_STOP              0x00000002
339
340 struct llog_ctxt {
341         int                      loc_idx; /* my index the obd array of ctxt's */
342         struct obd_device       *loc_obd; /* points back to the containing obd*/
343         struct obd_llog_group   *loc_olg; /* group containing that ctxt */
344         struct obd_export       *loc_exp; /* parent "disk" export (e.g. MDS) */
345         struct obd_import       *loc_imp; /* to use in RPC's: can be backward
346                                              pointing import */
347         struct llog_operations  *loc_logops;
348         struct llog_handle      *loc_handle;
349         struct mutex             loc_mutex; /* protect loc_imp */
350         atomic_t                 loc_refcount;
351         long                     loc_flags; /* flags, see above defines */
352         struct dt_object        *loc_dir;
353         struct local_oid_storage *loc_los_nameless;
354         struct local_oid_storage *loc_los_named;
355 };
356
357 #define LLOG_PROC_BREAK 0x0001
358 #define LLOG_DEL_RECORD 0x0002
359 #define LLOG_DEL_PLAIN  0x0003
360
361 static inline int llog_obd2ops(struct llog_ctxt *ctxt,
362                                struct llog_operations **lop)
363 {
364         if (ctxt == NULL)
365                 return -ENOTCONN;
366
367         *lop = ctxt->loc_logops;
368         if (*lop == NULL)
369                 return -EOPNOTSUPP;
370
371         return 0;
372 }
373
374 static inline int llog_handle2ops(struct llog_handle *loghandle,
375                                   struct llog_operations **lop)
376 {
377         if (loghandle == NULL || loghandle->lgh_logops == NULL)
378                 return -EINVAL;
379
380         *lop = loghandle->lgh_logops;
381         return 0;
382 }
383
384 static inline int llog_data_len(int len)
385 {
386         return cfs_size_round(len);
387 }
388
389 static inline int llog_get_size(struct llog_handle *loghandle)
390 {
391         if (loghandle && loghandle->lgh_hdr)
392                 return loghandle->lgh_hdr->llh_count;
393         return 0;
394 }
395
396 static inline struct llog_ctxt *llog_ctxt_get(struct llog_ctxt *ctxt)
397 {
398         atomic_inc(&ctxt->loc_refcount);
399         CDEBUG(D_INFO, "GETting ctxt %p : new refcount %d\n", ctxt,
400                atomic_read(&ctxt->loc_refcount));
401         return ctxt;
402 }
403
404 static inline void llog_ctxt_put(struct llog_ctxt *ctxt)
405 {
406         if (ctxt == NULL)
407                 return;
408         LASSERT_ATOMIC_GT_LT(&ctxt->loc_refcount, 0, LI_POISON);
409         CDEBUG(D_INFO, "PUTting ctxt %p : new refcount %d\n", ctxt,
410                atomic_read(&ctxt->loc_refcount) - 1);
411         __llog_ctxt_put(NULL, ctxt);
412 }
413
414 static inline void llog_group_init(struct obd_llog_group *olg, int group)
415 {
416         init_waitqueue_head(&olg->olg_waitq);
417         spin_lock_init(&olg->olg_lock);
418         mutex_init(&olg->olg_cat_processing);
419         olg->olg_seq = group;
420 }
421
422 static inline int llog_group_set_ctxt(struct obd_llog_group *olg,
423                                       struct llog_ctxt *ctxt, int index)
424 {
425         LASSERT(index >= 0 && index < LLOG_MAX_CTXTS);
426
427         spin_lock(&olg->olg_lock);
428         if (olg->olg_ctxts[index] != NULL) {
429                 spin_unlock(&olg->olg_lock);
430                 return -EEXIST;
431         }
432         olg->olg_ctxts[index] = ctxt;
433         spin_unlock(&olg->olg_lock);
434         return 0;
435 }
436
437 static inline struct llog_ctxt *llog_group_get_ctxt(struct obd_llog_group *olg,
438                                                     int index)
439 {
440         struct llog_ctxt *ctxt;
441
442         LASSERT(index >= 0 && index < LLOG_MAX_CTXTS);
443
444         spin_lock(&olg->olg_lock);
445         if (olg->olg_ctxts[index] == NULL)
446                 ctxt = NULL;
447         else
448                 ctxt = llog_ctxt_get(olg->olg_ctxts[index]);
449         spin_unlock(&olg->olg_lock);
450         return ctxt;
451 }
452
453 static inline void llog_group_clear_ctxt(struct obd_llog_group *olg, int index)
454 {
455         LASSERT(index >= 0 && index < LLOG_MAX_CTXTS);
456         spin_lock(&olg->olg_lock);
457         olg->olg_ctxts[index] = NULL;
458         spin_unlock(&olg->olg_lock);
459 }
460
461 static inline struct llog_ctxt *llog_get_context(struct obd_device *obd,
462                                                  int index)
463 {
464         return llog_group_get_ctxt(&obd->obd_olg, index);
465 }
466
467 static inline int llog_group_ctxt_null(struct obd_llog_group *olg, int index)
468 {
469         return (olg->olg_ctxts[index] == NULL);
470 }
471
472 static inline int llog_ctxt_null(struct obd_device *obd, int index)
473 {
474         return (llog_group_ctxt_null(&obd->obd_olg, index));
475 }
476
477 static inline int llog_destroy(const struct lu_env *env,
478                                struct llog_handle *handle)
479 {
480         struct llog_operations *lop;
481         int rc;
482
483         ENTRY;
484
485         rc = llog_handle2ops(handle, &lop);
486         if (rc)
487                 RETURN(rc);
488         if (lop->lop_destroy == NULL)
489                 RETURN(-EOPNOTSUPP);
490
491         rc = lop->lop_destroy(env, handle);
492         RETURN(rc);
493 }
494
495 static inline int llog_next_block(const struct lu_env *env,
496                                   struct llog_handle *loghandle, int *cur_idx,
497                                   int next_idx, __u64 *cur_offset, void *buf,
498                                   int len)
499 {
500         struct llog_operations *lop;
501         int rc;
502
503         ENTRY;
504
505         rc = llog_handle2ops(loghandle, &lop);
506         if (rc)
507                 RETURN(rc);
508         if (lop->lop_next_block == NULL)
509                 RETURN(-EOPNOTSUPP);
510
511         rc = lop->lop_next_block(env, loghandle, cur_idx, next_idx,
512                                  cur_offset, buf, len);
513         RETURN(rc);
514 }
515
516 static inline int llog_prev_block(const struct lu_env *env,
517                                   struct llog_handle *loghandle,
518                                   int prev_idx, void *buf, int len)
519 {
520         struct llog_operations *lop;
521         int rc;
522
523         ENTRY;
524
525         rc = llog_handle2ops(loghandle, &lop);
526         if (rc)
527                 RETURN(rc);
528         if (lop->lop_prev_block == NULL)
529                 RETURN(-EOPNOTSUPP);
530
531         rc = lop->lop_prev_block(env, loghandle, prev_idx, buf, len);
532         RETURN(rc);
533 }
534
535 static inline int llog_connect(struct llog_ctxt *ctxt,
536                                struct llog_logid *logid, struct llog_gen *gen,
537                                struct obd_uuid *uuid)
538 {
539         struct llog_operations  *lop;
540         int                      rc;
541
542         ENTRY;
543
544         rc = llog_obd2ops(ctxt, &lop);
545         if (rc)
546                 RETURN(rc);
547         if (lop->lop_connect == NULL)
548                 RETURN(-EOPNOTSUPP);
549
550         rc = lop->lop_connect(ctxt, logid, gen, uuid);
551         RETURN(rc);
552 }
553
554 /* llog.c */
555 int llog_exist(struct llog_handle *loghandle);
556 int llog_declare_create(const struct lu_env *env,
557                         struct llog_handle *loghandle, struct thandle *th);
558 int llog_create(const struct lu_env *env, struct llog_handle *handle,
559                 struct thandle *th);
560 int llog_declare_write_rec(const struct lu_env *env,
561                            struct llog_handle *handle,
562                            struct llog_rec_hdr *rec, int idx,
563                            struct thandle *th);
564 int llog_write_rec(const struct lu_env *env, struct llog_handle *handle,
565                    struct llog_rec_hdr *rec, struct llog_cookie *logcookies,
566                    int numcookies, void *buf, int idx, struct thandle *th);
567 int llog_add(const struct lu_env *env, struct llog_handle *lgh,
568              struct llog_rec_hdr *rec, struct llog_cookie *logcookies,
569              void *buf, struct thandle *th);
570 int llog_declare_add(const struct lu_env *env, struct llog_handle *lgh,
571                      struct llog_rec_hdr *rec, struct thandle *th);
572 int lustre_process_log(struct super_block *sb, char *logname,
573                        struct config_llog_instance *cfg);
574 int lustre_end_log(struct super_block *sb, char *logname,
575                    struct config_llog_instance *cfg);
576 int llog_open_create(const struct lu_env *env, struct llog_ctxt *ctxt,
577                      struct llog_handle **res, struct llog_logid *logid,
578                      char *name);
579 int llog_erase(const struct lu_env *env, struct llog_ctxt *ctxt,
580                struct llog_logid *logid, char *name);
581 int llog_write(const struct lu_env *env, struct llog_handle *loghandle,
582                struct llog_rec_hdr *rec, struct llog_cookie *reccookie,
583                int cookiecount, void *buf, int idx);
584
585 /** @} log */
586
587 #endif