Whamcloud - gitweb
bc006c98877993595dc93b18bc34f542d6b4628c
[fs/lustre-release.git] / lustre / mgs / mgs_nids.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
19  *
20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
21  * CA 95054 USA or visit www.sun.com if you need additional information or
22  * have any questions.
23  *
24  * GPL HEADER END
25  */
26 /*
27  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
28  * Use is subject to license terms.
29  *
30  * Copyright (c) 2011, 2012, Intel Corporation.
31  */
32 /*
33  * This file is part of Lustre, http://www.lustre.org/
34  * Lustre is a trademark of Sun Microsystems, Inc.
35  *
36  * lustre/mgs/mgs_nids.c
37  *
38  * NID table management for lustre.
39  *
40  * Author: Jinshan Xiong <jinshan.xiong@whamcloud.com>
41  */
42
43 #define DEBUG_SUBSYSTEM S_MGS
44 #define D_MGS D_CONFIG
45
46 #include <linux/pagemap.h>
47
48 #include <obd.h>
49 #include <obd_class.h>
50 #include <lustre_disk.h>
51
52 #include "mgs_internal.h"
53
54 static unsigned int ir_timeout;
55
56 static int nidtbl_is_sane(struct mgs_nidtbl *tbl)
57 {
58         struct mgs_nidtbl_target *tgt;
59         int version = 0;
60
61         LASSERT(mutex_is_locked(&tbl->mn_lock));
62         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
63                 if (!tgt->mnt_version)
64                         continue;
65
66                 if (version >= tgt->mnt_version)
67                         return 0;
68
69                 version = tgt->mnt_version;
70         }
71         return 1;
72 }
73
74 /**
75  * Fetch nidtbl entries whose version are not less than @version
76  * nidtbl entries will be packed in @pages by @unit_size units - entries
77  * shouldn't cross unit boundaries.
78  */
79 static int mgs_nidtbl_read(struct obd_export *exp, struct mgs_nidtbl *tbl,
80                            struct mgs_config_res *res, struct page **pages,
81                            int nrpages, int units_total, int unit_size)
82 {
83         struct mgs_nidtbl_target *tgt;
84         struct mgs_nidtbl_entry  *entry;
85         struct mgs_nidtbl_entry  *last_in_unit = NULL;
86         struct mgs_target_info   *mti;
87         __u64 version = res->mcr_offset;
88         bool nobuf = false;
89         void *buf = NULL;
90         int bytes_in_unit = 0;
91         int units_in_page = 0;
92         int index = 0;
93         int rc = 0;
94         ENTRY;
95
96         /* make sure unit_size is power 2 */
97         LASSERT((unit_size & (unit_size - 1)) == 0);
98         LASSERT(nrpages << PAGE_CACHE_SHIFT >= units_total * unit_size);
99
100         mutex_lock(&tbl->mn_lock);
101         LASSERT(nidtbl_is_sane(tbl));
102
103         /* no more entries ? */
104         if (version > tbl->mn_version) {
105                 version = tbl->mn_version;
106                 goto out;
107         }
108
109         /* iterate over all targets to compose a bitmap by the type of llog.
110          * If the llog is for MDTs, llog entries for OSTs will be returned;
111          * otherwise, it's for clients, then llog entries for both OSTs and
112          * MDTs will be returned.
113          */
114         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
115                 int entry_len = sizeof(*entry);
116
117                 if (tgt->mnt_version < version)
118                         continue;
119
120                 /* write target recover information */
121                 mti  = &tgt->mnt_mti;
122                 LASSERT(mti->mti_nid_count < MTI_NIDS_MAX);
123                 entry_len += mti->mti_nid_count * sizeof(lnet_nid_t);
124
125                 if (entry_len > unit_size) {
126                         CWARN("nidtbl: too large entry: entry length %d,"
127                               "unit size: %d\n", entry_len, unit_size);
128                         GOTO(out, rc = -EOVERFLOW);
129                 }
130
131                 if (bytes_in_unit < entry_len) {
132                         if (units_total == 0) {
133                                 nobuf = true;
134                                 break;
135                         }
136
137                         /* check if we need to consume remaining bytes. */
138                         if (last_in_unit != NULL && bytes_in_unit) {
139 #if LUSTRE_VERSION_CODE < OBD_OCD_VERSION(2, 6, 53, 0)
140                                 /* May need to swab back to update the length.*/
141                                 if (exp->exp_need_mne_swab)
142                                         lustre_swab_mgs_nidtbl_entry(last_in_unit);
143 #endif
144                                 last_in_unit->mne_length += bytes_in_unit;
145 #if LUSTRE_VERSION_CODE < OBD_OCD_VERSION(2, 6, 53, 0)
146                                 if (exp->exp_need_mne_swab)
147                                         lustre_swab_mgs_nidtbl_entry(last_in_unit);
148 #endif
149                                 rc  += bytes_in_unit;
150                                 buf += bytes_in_unit;
151                                 last_in_unit = NULL;
152                         }
153                         LASSERT((rc & (unit_size - 1)) == 0);
154
155                         if (units_in_page == 0) {
156                                 /* allocate a new page */
157                                 pages[index] = alloc_page(GFP_IOFS);
158                                 if (pages[index] == NULL) {
159                                         rc = -ENOMEM;
160                                         break;
161                                 }
162
163                                 /* destroy previous map */
164                                 if (index > 0)
165                                         kunmap(pages[index - 1]);
166
167                                 /* reassign buffer */
168                                 buf = kmap(pages[index]);
169                                 ++index;
170
171                                 units_in_page = PAGE_CACHE_SIZE / unit_size;
172                                 LASSERT(units_in_page > 0);
173                         }
174
175                         /* allocate an unit */
176                         LASSERT(((long)buf & (unit_size - 1)) == 0);
177                         bytes_in_unit = unit_size;
178                         --units_in_page;
179                         --units_total;
180                 }
181
182                 /* fill in entry. */
183                 entry = (struct mgs_nidtbl_entry *)buf;
184                 entry->mne_version   = tgt->mnt_version;
185                 entry->mne_instance  = mti->mti_instance;
186                 entry->mne_index     = mti->mti_stripe_index;
187                 entry->mne_length    = entry_len;
188                 entry->mne_type      = tgt->mnt_type;
189                 entry->mne_nid_type  = 0;
190                 entry->mne_nid_size  = sizeof(lnet_nid_t);
191                 entry->mne_nid_count = mti->mti_nid_count;
192                 memcpy(entry->u.nids, mti->mti_nids,
193                        mti->mti_nid_count * sizeof(lnet_nid_t));
194
195 #if LUSTRE_VERSION_CODE < OBD_OCD_VERSION(2, 6, 53, 0)
196                 /* For LU-1644, swab entry for 2.2 clients. */
197                 if (exp->exp_need_mne_swab)
198                         lustre_swab_mgs_nidtbl_entry(entry);
199 #endif
200
201                 version = tgt->mnt_version;
202                 rc     += entry_len;
203                 buf    += entry_len;
204
205                 bytes_in_unit -= entry_len;
206                 last_in_unit   = entry;
207
208                 CDEBUG(D_MGS, "fsname %s, entry size %d, pages %d/%d/%d/%d.\n",
209                        tbl->mn_fsdb->fsdb_name, entry_len,
210                        bytes_in_unit, index, nrpages, units_total);
211         }
212         if (index > 0)
213                 kunmap(pages[index - 1]);
214 out:
215         LASSERT(version <= tbl->mn_version);
216         res->mcr_size = tbl->mn_version;
217         res->mcr_offset = nobuf ? version : tbl->mn_version;
218         mutex_unlock(&tbl->mn_lock);
219         LASSERT(ergo(version == 1, rc == 0)); /* get the log first time */
220
221         CDEBUG(D_MGS, "Read IR logs %s return with %d, version %llu\n",
222                tbl->mn_fsdb->fsdb_name, rc, version);
223         RETURN(rc);
224 }
225
226 static int nidtbl_update_version(const struct lu_env *env,
227                                  struct mgs_device *mgs,
228                                  struct mgs_nidtbl *tbl)
229 {
230         struct dt_object *fsdb;
231         struct thandle   *th;
232         u64               version;
233         struct lu_buf     buf = {
234                                 .lb_buf = &version,
235                                 .lb_len = sizeof(version)
236                           };
237         loff_t            off = 0;
238         int               rc;
239         ENTRY;
240
241         LASSERT(mutex_is_locked(&tbl->mn_lock));
242
243         fsdb = local_file_find_or_create(env, mgs->mgs_los, mgs->mgs_nidtbl_dir,
244                                          tbl->mn_fsdb->fsdb_name,
245                                          S_IFREG | S_IRUGO | S_IWUSR);
246         if (IS_ERR(fsdb))
247                 RETURN(PTR_ERR(fsdb));
248
249         th = dt_trans_create(env, mgs->mgs_bottom);
250         if (IS_ERR(th))
251                 GOTO(out_put, rc = PTR_ERR(th));
252
253         th->th_sync = 1; /* update table synchronously */
254         rc = dt_declare_record_write(env, fsdb, &buf, off, th);
255         if (rc)
256                 GOTO(out, rc);
257
258         rc = dt_trans_start_local(env, mgs->mgs_bottom, th);
259         if (rc)
260                 GOTO(out, rc);
261
262         version = cpu_to_le64(tbl->mn_version);
263         rc = dt_record_write(env, fsdb, &buf, &off, th);
264
265 out:
266         dt_trans_stop(env, mgs->mgs_bottom, th);
267 out_put:
268         lu_object_put(env, &fsdb->do_lu);
269         RETURN(rc);
270 }
271
272 #define MGS_NIDTBL_VERSION_INIT 2
273
274 static int nidtbl_read_version(const struct lu_env *env,
275                                struct mgs_device *mgs, struct mgs_nidtbl *tbl,
276                                u64 *version)
277 {
278         struct dt_object *fsdb;
279         struct lu_fid     fid;
280         u64               tmpver;
281         struct lu_buf     buf = {
282                                 .lb_buf = &tmpver,
283                                 .lb_len = sizeof(tmpver)
284                           };
285         loff_t               off = 0;
286         int                  rc;
287         ENTRY;
288
289         LASSERT(mutex_is_locked(&tbl->mn_lock));
290
291         LASSERT(mgs->mgs_nidtbl_dir);
292         rc = dt_lookup_dir(env, mgs->mgs_nidtbl_dir, tbl->mn_fsdb->fsdb_name,
293                            &fid);
294         if (rc == -ENOENT) {
295                 *version = MGS_NIDTBL_VERSION_INIT;
296                 RETURN(0);
297         } else if (rc < 0) {
298                 RETURN(rc);
299         }
300
301         fsdb = dt_locate_at(env, mgs->mgs_bottom, &fid,
302                             &mgs->mgs_dt_dev.dd_lu_dev, NULL);
303         if (IS_ERR(fsdb))
304                 RETURN(PTR_ERR(fsdb));
305
306         rc = dt_read(env, fsdb, &buf, &off);
307         if (rc == buf.lb_len) {
308                 *version = le64_to_cpu(tmpver);
309                 rc = 0;
310         } else if (rc == 0) {
311                 *version = MGS_NIDTBL_VERSION_INIT;
312         } else {
313                 CERROR("%s: read version file %s error %d\n",
314                        mgs->mgs_obd->obd_name, tbl->mn_fsdb->fsdb_name, rc);
315         }
316         lu_object_put(env, &fsdb->do_lu);
317         RETURN(rc);
318 }
319
320 static int mgs_nidtbl_write(const struct lu_env *env, struct fs_db *fsdb,
321                             struct mgs_target_info *mti)
322 {
323         struct mgs_nidtbl        *tbl;
324         struct mgs_nidtbl_target *tgt;
325         bool found = false;
326         int type   = mti->mti_flags & LDD_F_SV_TYPE_MASK;
327         int rc     = 0;
328         ENTRY;
329
330         type &= ~LDD_F_SV_TYPE_MGS;
331         LASSERT(type != 0);
332
333         tbl = &fsdb->fsdb_nidtbl;
334         mutex_lock(&tbl->mn_lock);
335         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
336                 struct mgs_target_info *info = &tgt->mnt_mti;
337
338                 if (type == tgt->mnt_type &&
339                     mti->mti_stripe_index == info->mti_stripe_index) {
340                         found = true;
341                         break;
342                 }
343         }
344         if (!found) {
345                 OBD_ALLOC_PTR(tgt);
346                 if (tgt == NULL)
347                         GOTO(out, rc = -ENOMEM);
348
349                 INIT_LIST_HEAD(&tgt->mnt_list);
350                 tgt->mnt_fs      = tbl;
351                 tgt->mnt_version = 0;   /* 0 means invalid */
352                 tgt->mnt_type    = type;
353
354                 ++tbl->mn_nr_targets;
355         }
356
357         tgt->mnt_version = ++tbl->mn_version;
358         tgt->mnt_mti     = *mti;
359
360         list_move_tail(&tgt->mnt_list, &tbl->mn_targets);
361
362         rc = nidtbl_update_version(env, fsdb->fsdb_mgs, tbl);
363         EXIT;
364
365 out:
366         mutex_unlock(&tbl->mn_lock);
367         if (rc)
368                 CERROR("Write NID table version for file system %s error %d\n",
369                        fsdb->fsdb_name, rc);
370         return rc;
371 }
372
373 static void mgs_nidtbl_fini_fs(struct fs_db *fsdb)
374 {
375         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
376         struct list_head head = LIST_HEAD_INIT(head);
377
378         mutex_lock(&tbl->mn_lock);
379         tbl->mn_nr_targets = 0;
380         list_splice_init(&tbl->mn_targets, &head);
381         mutex_unlock(&tbl->mn_lock);
382
383         while (!list_empty(&head)) {
384                 struct mgs_nidtbl_target *tgt;
385                 tgt = list_entry(head.next, struct mgs_nidtbl_target, mnt_list);
386                 list_del(&tgt->mnt_list);
387                 OBD_FREE_PTR(tgt);
388         }
389 }
390
391 static int mgs_nidtbl_init_fs(const struct lu_env *env, struct fs_db *fsdb)
392 {
393         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
394         int rc;
395
396         INIT_LIST_HEAD(&tbl->mn_targets);
397         mutex_init(&tbl->mn_lock);
398         tbl->mn_nr_targets = 0;
399         tbl->mn_fsdb = fsdb;
400         mutex_lock(&tbl->mn_lock);
401         rc = nidtbl_read_version(env, fsdb->fsdb_mgs, tbl, &tbl->mn_version);
402         mutex_unlock(&tbl->mn_lock);
403         if (rc < 0)
404                 CERROR("%s: IR: failed to read current version, rc = %d\n",
405                        fsdb->fsdb_mgs->mgs_obd->obd_name, rc);
406         else
407                 CDEBUG(D_MGS, "IR: current version is %llu\n",
408                        tbl->mn_version);
409
410         return rc;
411 }
412
413 /* --------- Imperative Recovery relies on nidtbl stuff ------- */
414 void mgs_ir_notify_complete(struct fs_db *fsdb)
415 {
416         struct timeval tv;
417         cfs_duration_t delta;
418
419         atomic_set(&fsdb->fsdb_notify_phase, 0);
420
421         /* do statistic */
422         fsdb->fsdb_notify_count++;
423         delta = cfs_time_sub(cfs_time_current(), fsdb->fsdb_notify_start);
424         fsdb->fsdb_notify_total += delta;
425         if (delta > fsdb->fsdb_notify_max)
426                 fsdb->fsdb_notify_max = delta;
427
428         cfs_duration_usec(delta, &tv);
429         CDEBUG(D_MGS, "Revoke recover lock of %s completed after %ld.%06lds\n",
430                fsdb->fsdb_name, tv.tv_sec, tv.tv_usec);
431 }
432
433 static int mgs_ir_notify(void *arg)
434 {
435         struct fs_db      *fsdb   = arg;
436         struct ldlm_res_id resid;
437
438         char name[sizeof(fsdb->fsdb_name) + 20];
439
440         LASSERTF(sizeof(name) < 32, "name is too large to be in stack.\n");
441         sprintf(name, "mgs_%s_notify", fsdb->fsdb_name);
442
443         complete(&fsdb->fsdb_notify_comp);
444
445         set_user_nice(current, -2);
446
447         mgc_fsname2resid(fsdb->fsdb_name, &resid, CONFIG_T_RECOVER);
448         while (1) {
449                 struct l_wait_info   lwi = { 0 };
450
451                 l_wait_event(fsdb->fsdb_notify_waitq,
452                              fsdb->fsdb_notify_stop ||
453                              atomic_read(&fsdb->fsdb_notify_phase),
454                              &lwi);
455                 if (fsdb->fsdb_notify_stop)
456                         break;
457
458                 CDEBUG(D_MGS, "%s woken up, phase is %d\n",
459                        name, atomic_read(&fsdb->fsdb_notify_phase));
460
461                 fsdb->fsdb_notify_start = cfs_time_current();
462                 mgs_revoke_lock(fsdb->fsdb_mgs, fsdb, CONFIG_T_RECOVER);
463         }
464
465         complete(&fsdb->fsdb_notify_comp);
466         return 0;
467 }
468
469 int mgs_ir_init_fs(const struct lu_env *env, struct mgs_device *mgs,
470                    struct fs_db *fsdb)
471 {
472         struct task_struct *task;
473
474         if (!ir_timeout)
475                 ir_timeout = OBD_IR_MGS_TIMEOUT;
476
477         fsdb->fsdb_ir_state = IR_FULL;
478         if (cfs_time_before(cfs_time_current_sec(),
479                             mgs->mgs_start_time + ir_timeout))
480                 fsdb->fsdb_ir_state = IR_STARTUP;
481         fsdb->fsdb_nonir_clients = 0;
482         INIT_LIST_HEAD(&fsdb->fsdb_clients);
483
484         /* start notify thread */
485         fsdb->fsdb_mgs = mgs;
486         atomic_set(&fsdb->fsdb_notify_phase, 0);
487         init_waitqueue_head(&fsdb->fsdb_notify_waitq);
488         init_completion(&fsdb->fsdb_notify_comp);
489
490         task = kthread_run(mgs_ir_notify, fsdb,
491                                "mgs_%s_notify", fsdb->fsdb_name);
492         if (!IS_ERR(task))
493                 wait_for_completion(&fsdb->fsdb_notify_comp);
494         else
495                 CERROR("Start notify thread error %ld\n", PTR_ERR(task));
496
497         mgs_nidtbl_init_fs(env, fsdb);
498         return 0;
499 }
500
501 void mgs_ir_fini_fs(struct mgs_device *mgs, struct fs_db *fsdb)
502 {
503         if (test_bit(FSDB_MGS_SELF, &fsdb->fsdb_flags))
504                 return;
505
506         mgs_fsc_cleanup_by_fsdb(fsdb);
507
508         mgs_nidtbl_fini_fs(fsdb);
509
510         LASSERT(list_empty(&fsdb->fsdb_clients));
511
512         fsdb->fsdb_notify_stop = 1;
513         wake_up(&fsdb->fsdb_notify_waitq);
514         wait_for_completion(&fsdb->fsdb_notify_comp);
515 }
516
517 /* caller must have held fsdb_mutex */
518 static inline void ir_state_graduate(struct fs_db *fsdb)
519 {
520         if (fsdb->fsdb_ir_state == IR_STARTUP) {
521                 if (cfs_time_before(fsdb->fsdb_mgs->mgs_start_time + ir_timeout,
522                                     cfs_time_current_sec())) {
523                         fsdb->fsdb_ir_state = IR_FULL;
524                         if (fsdb->fsdb_nonir_clients)
525                                 fsdb->fsdb_ir_state = IR_PARTIAL;
526                 }
527         }
528 }
529
530 int mgs_ir_update(const struct lu_env *env, struct mgs_device *mgs,
531                   struct mgs_target_info *mti)
532 {
533         struct fs_db *fsdb;
534         bool notify = true;
535         int rc;
536
537         if (mti->mti_instance == 0)
538                 return -EINVAL;
539
540         rc = mgs_find_or_make_fsdb(env, mgs, mti->mti_fsname, &fsdb);
541         if (rc)
542                 return rc;
543
544         rc = mgs_nidtbl_write(env, fsdb, mti);
545         if (rc)
546                 return rc;
547
548         /* check ir state */
549         mutex_lock(&fsdb->fsdb_mutex);
550         ir_state_graduate(fsdb);
551         switch (fsdb->fsdb_ir_state) {
552         case IR_FULL:
553                 mti->mti_flags |= LDD_F_IR_CAPABLE;
554                 break;
555         case IR_DISABLED:
556                 notify = false;
557         case IR_STARTUP:
558         case IR_PARTIAL:
559                 break;
560         default:
561                 LBUG();
562         }
563         mutex_unlock(&fsdb->fsdb_mutex);
564
565         LASSERT(ergo(mti->mti_flags & LDD_F_IR_CAPABLE, notify));
566         if (notify) {
567                 CDEBUG(D_MGS, "Try to revoke recover lock of %s\n",
568                        fsdb->fsdb_name);
569                 atomic_inc(&fsdb->fsdb_notify_phase);
570                 wake_up(&fsdb->fsdb_notify_waitq);
571         }
572         return 0;
573 }
574
575 /* NID table can be cached by two entities: Clients and MDTs */
576 enum {
577         IR_CLIENT  = 1,
578         IR_MDT     = 2
579 };
580
581 static int delogname(char *logname, char *fsname, int *typ)
582 {
583         char *ptr;
584         int   type;
585         int   len;
586
587         ptr = strrchr(logname, '-');
588         if (ptr == NULL)
589                 return -EINVAL;
590
591         /* decouple file system name. The llog name may be:
592          * - "prefix-fsname", prefix is "cliir" or "mdtir"
593          */
594         if (strncmp(ptr, "-mdtir", 6) == 0)
595                 type = IR_MDT;
596         else if (strncmp(ptr, "-cliir", 6) == 0)
597                 type = IR_CLIENT;
598         else
599                 return -EINVAL;
600
601         len = ptr - logname;
602         if (len == 0)
603                 return -EINVAL;
604
605         memcpy(fsname, logname, len);
606         fsname[len] = 0;
607         if (typ)
608                 *typ = type;
609         return 0;
610 }
611
612 int mgs_get_ir_logs(struct ptlrpc_request *req)
613 {
614         struct lu_env     *env = req->rq_svc_thread->t_env;
615         struct mgs_device *mgs = exp2mgs_dev(req->rq_export);
616         struct fs_db      *fsdb;
617         struct mgs_config_body  *body;
618         struct mgs_config_res   *res;
619         struct ptlrpc_bulk_desc *desc;
620         struct l_wait_info lwi;
621         char               fsname[16];
622         long               bufsize;
623         int                unit_size;
624         int                type;
625         int                rc = 0;
626         int                i;
627         int                bytes;
628         int                page_count;
629         int                nrpages;
630         struct page       **pages = NULL;
631         ENTRY;
632
633         body = req_capsule_client_get(&req->rq_pill, &RMF_MGS_CONFIG_BODY);
634         if (body == NULL)
635                 RETURN(-EINVAL);
636
637         if (body->mcb_type != CONFIG_T_RECOVER)
638                 RETURN(-EINVAL);
639
640         rc = delogname(body->mcb_name, fsname, &type);
641         if (rc)
642                 RETURN(rc);
643
644         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
645         if (rc)
646                 RETURN(rc);
647
648         bufsize = body->mcb_units << body->mcb_bits;
649         nrpages = (bufsize + PAGE_CACHE_SIZE - 1) >> PAGE_CACHE_SHIFT;
650         if (nrpages > PTLRPC_MAX_BRW_PAGES)
651                 RETURN(-EINVAL);
652
653         CDEBUG(D_MGS, "Reading IR log %s bufsize %ld.\n",
654                body->mcb_name, bufsize);
655
656         OBD_ALLOC(pages, sizeof(*pages) * nrpages);
657         if (pages == NULL)
658                 RETURN(-ENOMEM);
659
660         res = req_capsule_server_get(&req->rq_pill, &RMF_MGS_CONFIG_RES);
661         if (res == NULL)
662                 GOTO(out, rc = -EINVAL);
663
664         res->mcr_offset = body->mcb_offset;
665         unit_size = min_t(int, 1 << body->mcb_bits, PAGE_CACHE_SIZE);
666         bytes = mgs_nidtbl_read(req->rq_export, &fsdb->fsdb_nidtbl, res,
667                                 pages, nrpages, bufsize / unit_size, unit_size);
668         if (bytes < 0)
669                 GOTO(out, rc = bytes);
670
671         /* start bulk transfer */
672         page_count = (bytes + PAGE_CACHE_SIZE - 1) >> PAGE_CACHE_SHIFT;
673         LASSERT(page_count <= nrpages);
674         desc = ptlrpc_prep_bulk_exp(req, page_count, 1,
675                                     BULK_PUT_SOURCE, MGS_BULK_PORTAL);
676         if (desc == NULL)
677                 GOTO(out, rc = -ENOMEM);
678
679         for (i = 0; i < page_count && bytes > 0; i++) {
680                 ptlrpc_prep_bulk_page_pin(desc, pages[i], 0,
681                                           min_t(int, bytes, PAGE_CACHE_SIZE));
682                 bytes -= PAGE_CACHE_SIZE;
683         }
684
685         rc = target_bulk_io(req->rq_export, desc, &lwi);
686         ptlrpc_free_bulk_pin(desc);
687
688 out:
689         for (i = 0; i < nrpages; i++) {
690                 if (pages[i] == NULL)
691                         break;
692                 __free_page(pages[i]);
693         }
694         OBD_FREE(pages, sizeof(*pages) * nrpages);
695         return rc;
696 }
697
698 static int lprocfs_ir_set_state(struct fs_db *fsdb, const char *buf)
699 {
700         const char *strings[] = IR_STRINGS;
701         int         state = -1;
702         int         i;
703
704         for (i = 0; i < ARRAY_SIZE(strings); i++) {
705                 if (strcmp(strings[i], buf) == 0) {
706                         state = i;
707                         break;
708                 }
709         }
710         if (state < 0)
711                 return -EINVAL;
712
713         CDEBUG(D_MGS, "change fsr state of %s from %s to %s\n",
714                fsdb->fsdb_name, strings[fsdb->fsdb_ir_state], strings[state]);
715         mutex_lock(&fsdb->fsdb_mutex);
716         if (state == IR_FULL && fsdb->fsdb_nonir_clients)
717                 state = IR_PARTIAL;
718         fsdb->fsdb_ir_state = state;
719         mutex_unlock(&fsdb->fsdb_mutex);
720
721         return 0;
722 }
723
724 static int lprocfs_ir_set_timeout(struct fs_db *fsdb, const char *buf)
725 {
726         return -EINVAL;
727 }
728
729 static int lprocfs_ir_clear_stats(struct fs_db *fsdb, const char *buf)
730 {
731         if (*buf)
732                 return -EINVAL;
733
734         fsdb->fsdb_notify_total = 0;
735         fsdb->fsdb_notify_max   = 0;
736         fsdb->fsdb_notify_count = 0;
737         return 0;
738 }
739
740 static struct lproc_ir_cmd {
741         char *name;
742         int   namelen;
743         int (*handler)(struct fs_db *, const char *);
744 } ir_cmds[] = {
745         { "state=",   6, lprocfs_ir_set_state },
746         { "timeout=", 8, lprocfs_ir_set_timeout },
747         { "0",        1, lprocfs_ir_clear_stats }
748 };
749
750 int lprocfs_wr_ir_state(struct file *file, const char __user *buffer,
751                         size_t count, void *data)
752 {
753         struct fs_db *fsdb = data;
754         char *kbuf;
755         char *ptr;
756         int rc = 0;
757
758         if (count == 0 || count >= PAGE_CACHE_SIZE)
759                 return -EINVAL;
760
761         OBD_ALLOC(kbuf, count + 1);
762         if (kbuf == NULL)
763                 return -ENOMEM;
764
765         if (copy_from_user(kbuf, buffer, count)) {
766                 OBD_FREE(kbuf, count + 1);
767                 return -EFAULT;
768         }
769
770         kbuf[count] = 0; /* buffer is supposed to end with 0 */
771         if (kbuf[count - 1] == '\n')
772                 kbuf[count - 1] = 0;
773         ptr = kbuf;
774
775         /* fsname=<file system name> must be the 1st entry */
776         while (ptr != NULL) {
777                 char *tmpptr;
778                 int i;
779
780                 tmpptr = strchr(ptr, ';');
781                 if (tmpptr)
782                         *tmpptr++ = 0;
783
784                 rc = -EINVAL;
785                 for (i = 0; i < ARRAY_SIZE(ir_cmds); i++) {
786                         struct lproc_ir_cmd *cmd;
787                         int cmdlen;
788
789                         cmd    = &ir_cmds[i];
790                         cmdlen = cmd->namelen;
791                         if (strncmp(cmd->name, ptr, cmdlen) == 0) {
792                                 ptr += cmdlen;
793                                 rc = cmd->handler(fsdb, ptr);
794                                 break;
795                         }
796                 }
797                 if (rc)
798                         break;
799
800                 ptr = tmpptr;
801         }
802         if (rc)
803                 CERROR("Unable to process command: %s(%d)\n", ptr, rc);
804         OBD_FREE(kbuf, count + 1);
805         return rc ?: count;
806 }
807
808 int lprocfs_rd_ir_state(struct seq_file *seq, void *data)
809 {
810         struct fs_db      *fsdb = data;
811         struct mgs_nidtbl *tbl  = &fsdb->fsdb_nidtbl;
812         const char        *ir_strings[] = IR_STRINGS;
813         struct timeval     tv_max;
814         struct timeval     tv;
815
816         /* mgs_live_seq_show() already holds fsdb_mutex. */
817         ir_state_graduate(fsdb);
818
819         seq_printf(seq, "\nimperative_recovery_state:\n");
820         seq_printf(seq,
821                    "    state: %s\n"
822                    "    nonir_clients: %d\n"
823                    "    nidtbl_version: %lld\n",
824                    ir_strings[fsdb->fsdb_ir_state], fsdb->fsdb_nonir_clients,
825                    tbl->mn_version);
826
827         cfs_duration_usec(fsdb->fsdb_notify_total, &tv);
828         cfs_duration_usec(fsdb->fsdb_notify_max, &tv_max);
829
830         seq_printf(seq, "    notify_duration_total: %lu.%06lu\n"
831                         "    notify_duation_max: %lu.%06lu\n"
832                         "    notify_count: %u\n",
833                    tv.tv_sec, tv.tv_usec,
834                    tv_max.tv_sec, tv_max.tv_usec,
835                    fsdb->fsdb_notify_count);
836
837         return 0;
838 }
839
840 int lprocfs_ir_timeout_seq_show(struct seq_file *m, void *data)
841 {
842         return lprocfs_uint_seq_show(m, &ir_timeout);
843 }
844
845 ssize_t lprocfs_ir_timeout_seq_write(struct file *file,
846                                      const char __user *buffer,
847                                      size_t count, loff_t *off)
848 {
849         return lprocfs_wr_uint(file, buffer, count, &ir_timeout);
850 }
851
852 /* --------------- Handle non IR support clients --------------- */
853 /* attach a lustre file system to an export */
854 int mgs_fsc_attach(const struct lu_env *env, struct obd_export *exp,
855                    char *fsname)
856 {
857         struct mgs_export_data *data = &exp->u.eu_mgs_data;
858         struct mgs_device *mgs = exp2mgs_dev(exp);
859         struct fs_db      *fsdb;
860         struct mgs_fsc    *fsc     = NULL;
861         struct mgs_fsc    *new_fsc = NULL;
862         bool               found   = false;
863         int                rc;
864         ENTRY;
865
866         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
867         if (rc)
868                 RETURN(rc);
869
870         /* allocate a new fsc in case we need it in spinlock. */
871         OBD_ALLOC_PTR(new_fsc);
872         if (new_fsc == NULL)
873                 RETURN(-ENOMEM);
874
875         INIT_LIST_HEAD(&new_fsc->mfc_export_list);
876         INIT_LIST_HEAD(&new_fsc->mfc_fsdb_list);
877         new_fsc->mfc_fsdb       = fsdb;
878         new_fsc->mfc_export     = class_export_get(exp);
879         new_fsc->mfc_ir_capable = !!(exp_connect_flags(exp) &
880                                      OBD_CONNECT_IMP_RECOV);
881
882         rc = -EEXIST;
883         mutex_lock(&fsdb->fsdb_mutex);
884
885         /* tend to find it in export list because this list is shorter. */
886         spin_lock(&data->med_lock);
887         list_for_each_entry(fsc, &data->med_clients, mfc_export_list) {
888                 if (strcmp(fsname, fsc->mfc_fsdb->fsdb_name) == 0) {
889                         found = true;
890                         break;
891                 }
892         }
893         if (!found) {
894                 fsc = new_fsc;
895                 new_fsc = NULL;
896
897                 /* add it into export list. */
898                 list_add(&fsc->mfc_export_list, &data->med_clients);
899
900                 /* add into fsdb list. */
901                 list_add(&fsc->mfc_fsdb_list, &fsdb->fsdb_clients);
902                 if (!fsc->mfc_ir_capable) {
903                         ++fsdb->fsdb_nonir_clients;
904                         if (fsdb->fsdb_ir_state == IR_FULL)
905                                 fsdb->fsdb_ir_state = IR_PARTIAL;
906                 }
907                 rc = 0;
908         }
909         spin_unlock(&data->med_lock);
910         mutex_unlock(&fsdb->fsdb_mutex);
911
912         if (new_fsc) {
913                 class_export_put(new_fsc->mfc_export);
914                 OBD_FREE_PTR(new_fsc);
915         }
916         RETURN(rc);
917 }
918
919 void mgs_fsc_cleanup(struct obd_export *exp)
920 {
921         struct mgs_export_data *data = &exp->u.eu_mgs_data;
922         struct mgs_fsc *fsc, *tmp;
923         struct list_head head = LIST_HEAD_INIT(head);
924
925         spin_lock(&data->med_lock);
926         list_splice_init(&data->med_clients, &head);
927         spin_unlock(&data->med_lock);
928
929         list_for_each_entry_safe(fsc, tmp, &head, mfc_export_list) {
930                 struct fs_db *fsdb = fsc->mfc_fsdb;
931
932                 LASSERT(fsc->mfc_export == exp);
933
934                 mutex_lock(&fsdb->fsdb_mutex);
935                 list_del_init(&fsc->mfc_fsdb_list);
936                 if (fsc->mfc_ir_capable == 0) {
937                         --fsdb->fsdb_nonir_clients;
938                         LASSERT(fsdb->fsdb_ir_state != IR_FULL);
939                         if (fsdb->fsdb_nonir_clients == 0 &&
940                             fsdb->fsdb_ir_state == IR_PARTIAL)
941                                 fsdb->fsdb_ir_state = IR_FULL;
942                 }
943                 mutex_unlock(&fsdb->fsdb_mutex);
944                 list_del_init(&fsc->mfc_export_list);
945                 class_export_put(fsc->mfc_export);
946                 OBD_FREE_PTR(fsc);
947         }
948 }
949
950 /* must be called with fsdb->fsdb_mutex held */
951 void mgs_fsc_cleanup_by_fsdb(struct fs_db *fsdb)
952 {
953         struct mgs_fsc *fsc, *tmp;
954
955         list_for_each_entry_safe(fsc, tmp, &fsdb->fsdb_clients,
956                                      mfc_fsdb_list) {
957                 struct mgs_export_data *data = &fsc->mfc_export->u.eu_mgs_data;
958
959                 LASSERT(fsdb == fsc->mfc_fsdb);
960                 list_del_init(&fsc->mfc_fsdb_list);
961
962                 spin_lock(&data->med_lock);
963                 list_del_init(&fsc->mfc_export_list);
964                 spin_unlock(&data->med_lock);
965                 class_export_put(fsc->mfc_export);
966                 OBD_FREE_PTR(fsc);
967         }
968
969         fsdb->fsdb_nonir_clients = 0;
970         if (fsdb->fsdb_ir_state == IR_PARTIAL)
971                 fsdb->fsdb_ir_state = IR_FULL;
972 }