Whamcloud - gitweb
LU-4423 lnet: Better cookie gen
[fs/lustre-release.git] / lustre / mgs / mgs_nids.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.gnu.org/licenses/gpl-2.0.html
19  *
20  * GPL HEADER END
21  */
22 /*
23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
24  * Use is subject to license terms.
25  *
26  * Copyright (c) 2011, 2015, Intel Corporation.
27  */
28 /*
29  * This file is part of Lustre, http://www.lustre.org/
30  * Lustre is a trademark of Sun Microsystems, Inc.
31  *
32  * lustre/mgs/mgs_nids.c
33  *
34  * NID table management for lustre.
35  *
36  * Author: Jinshan Xiong <jinshan.xiong@whamcloud.com>
37  */
38
39 #define DEBUG_SUBSYSTEM S_MGS
40 #define D_MGS D_CONFIG
41
42 #include <linux/kthread.h>
43 #include <linux/pagemap.h>
44
45 #include <obd.h>
46 #include <obd_class.h>
47 #include <lustre_disk.h>
48
49 #include "mgs_internal.h"
50
51 static unsigned int ir_timeout;
52
53 static int nidtbl_is_sane(struct mgs_nidtbl *tbl)
54 {
55         struct mgs_nidtbl_target *tgt;
56         int version = 0;
57
58         LASSERT(mutex_is_locked(&tbl->mn_lock));
59         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
60                 if (!tgt->mnt_version)
61                         continue;
62
63                 if (version >= tgt->mnt_version)
64                         return 0;
65
66                 version = tgt->mnt_version;
67         }
68         return 1;
69 }
70
71 /**
72  * Fetch nidtbl entries whose version are not less than @version
73  * nidtbl entries will be packed in @pages by @unit_size units - entries
74  * shouldn't cross unit boundaries.
75  */
76 static int mgs_nidtbl_read(struct obd_export *exp, struct mgs_nidtbl *tbl,
77                            struct mgs_config_res *res, struct page **pages,
78                            int nrpages, int units_total, int unit_size)
79 {
80         struct mgs_nidtbl_target *tgt;
81         struct mgs_nidtbl_entry  *entry;
82         struct mgs_nidtbl_entry  *last_in_unit = NULL;
83         struct mgs_target_info   *mti;
84         __u64 version = res->mcr_offset;
85         bool nobuf = false;
86         void *buf = NULL;
87         int bytes_in_unit = 0;
88         int units_in_page = 0;
89         int index = 0;
90         int rc = 0;
91         ENTRY;
92
93         /* make sure unit_size is power 2 */
94         LASSERT((unit_size & (unit_size - 1)) == 0);
95         LASSERT(nrpages << PAGE_SHIFT >= units_total * unit_size);
96
97         mutex_lock(&tbl->mn_lock);
98         LASSERT(nidtbl_is_sane(tbl));
99
100         /* no more entries ? */
101         if (version > tbl->mn_version) {
102                 version = tbl->mn_version;
103                 goto out;
104         }
105
106         /* iterate over all targets to compose a bitmap by the type of llog.
107          * If the llog is for MDTs, llog entries for OSTs will be returned;
108          * otherwise, it's for clients, then llog entries for both OSTs and
109          * MDTs will be returned.
110          */
111         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
112                 int entry_len = sizeof(*entry);
113
114                 if (tgt->mnt_version < version)
115                         continue;
116
117                 /* write target recover information */
118                 mti  = &tgt->mnt_mti;
119                 LASSERT(mti->mti_nid_count < MTI_NIDS_MAX);
120                 entry_len += mti->mti_nid_count * sizeof(lnet_nid_t);
121
122                 if (entry_len > unit_size) {
123                         CWARN("nidtbl: too large entry: entry length %d,"
124                               "unit size: %d\n", entry_len, unit_size);
125                         GOTO(out, rc = -EOVERFLOW);
126                 }
127
128                 if (bytes_in_unit < entry_len) {
129                         if (units_total == 0) {
130                                 nobuf = true;
131                                 break;
132                         }
133
134                         /* check if we need to consume remaining bytes. */
135                         if (last_in_unit != NULL && bytes_in_unit) {
136                                 last_in_unit->mne_length += bytes_in_unit;
137                                 rc  += bytes_in_unit;
138                                 buf += bytes_in_unit;
139                                 last_in_unit = NULL;
140                         }
141                         LASSERT((rc & (unit_size - 1)) == 0);
142
143                         if (units_in_page == 0) {
144                                 /* allocate a new page */
145                                 pages[index] = alloc_page(GFP_KERNEL);
146                                 if (pages[index] == NULL) {
147                                         rc = -ENOMEM;
148                                         break;
149                                 }
150
151                                 /* destroy previous map */
152                                 if (index > 0)
153                                         kunmap(pages[index - 1]);
154
155                                 /* reassign buffer */
156                                 buf = kmap(pages[index]);
157                                 ++index;
158
159                                 units_in_page = PAGE_SIZE / unit_size;
160                                 LASSERT(units_in_page > 0);
161                         }
162
163                         /* allocate an unit */
164                         LASSERT(((long)buf & (unit_size - 1)) == 0);
165                         bytes_in_unit = unit_size;
166                         --units_in_page;
167                         --units_total;
168                 }
169
170                 /* fill in entry. */
171                 entry = (struct mgs_nidtbl_entry *)buf;
172                 entry->mne_version   = tgt->mnt_version;
173                 entry->mne_instance  = mti->mti_instance;
174                 entry->mne_index     = mti->mti_stripe_index;
175                 entry->mne_length    = entry_len;
176                 entry->mne_type      = tgt->mnt_type;
177                 entry->mne_nid_type  = 0;
178                 entry->mne_nid_size  = sizeof(lnet_nid_t);
179                 entry->mne_nid_count = mti->mti_nid_count;
180                 memcpy(entry->u.nids, mti->mti_nids,
181                        mti->mti_nid_count * sizeof(lnet_nid_t));
182
183                 version = tgt->mnt_version;
184                 rc     += entry_len;
185                 buf    += entry_len;
186
187                 bytes_in_unit -= entry_len;
188                 last_in_unit   = entry;
189
190                 CDEBUG(D_MGS, "fsname %s, entry size %d, pages %d/%d/%d/%d.\n",
191                        tbl->mn_fsdb->fsdb_name, entry_len,
192                        bytes_in_unit, index, nrpages, units_total);
193         }
194         if (index > 0)
195                 kunmap(pages[index - 1]);
196 out:
197         LASSERT(version <= tbl->mn_version);
198         res->mcr_size = tbl->mn_version;
199         res->mcr_offset = nobuf ? version : tbl->mn_version;
200         mutex_unlock(&tbl->mn_lock);
201         LASSERT(ergo(version == 1, rc == 0)); /* get the log first time */
202
203         CDEBUG(D_MGS, "Read IR logs %s return with %d, version %llu\n",
204                tbl->mn_fsdb->fsdb_name, rc, version);
205         RETURN(rc);
206 }
207
208 static int nidtbl_update_version(const struct lu_env *env,
209                                  struct mgs_device *mgs,
210                                  struct mgs_nidtbl *tbl)
211 {
212         struct dt_object *fsdb;
213         struct thandle   *th;
214         u64               version;
215         struct lu_buf     buf = {
216                                 .lb_buf = &version,
217                                 .lb_len = sizeof(version)
218                           };
219         loff_t            off = 0;
220         int               rc;
221         ENTRY;
222
223         LASSERT(mutex_is_locked(&tbl->mn_lock));
224
225         fsdb = local_file_find_or_create(env, mgs->mgs_los, mgs->mgs_nidtbl_dir,
226                                          tbl->mn_fsdb->fsdb_name,
227                                          S_IFREG | S_IRUGO | S_IWUSR);
228         if (IS_ERR(fsdb))
229                 RETURN(PTR_ERR(fsdb));
230
231         th = dt_trans_create(env, mgs->mgs_bottom);
232         if (IS_ERR(th))
233                 GOTO(out_put, rc = PTR_ERR(th));
234
235         th->th_sync = 1; /* update table synchronously */
236         rc = dt_declare_record_write(env, fsdb, &buf, off, th);
237         if (rc)
238                 GOTO(out, rc);
239
240         rc = dt_trans_start_local(env, mgs->mgs_bottom, th);
241         if (rc)
242                 GOTO(out, rc);
243
244         version = cpu_to_le64(tbl->mn_version);
245         rc = dt_record_write(env, fsdb, &buf, &off, th);
246
247 out:
248         dt_trans_stop(env, mgs->mgs_bottom, th);
249 out_put:
250         lu_object_put(env, &fsdb->do_lu);
251         RETURN(rc);
252 }
253
254 #define MGS_NIDTBL_VERSION_INIT 2
255
256 static int nidtbl_read_version(const struct lu_env *env,
257                                struct mgs_device *mgs, struct mgs_nidtbl *tbl,
258                                u64 *version)
259 {
260         struct dt_object *fsdb;
261         struct lu_fid     fid;
262         u64               tmpver;
263         struct lu_buf     buf = {
264                                 .lb_buf = &tmpver,
265                                 .lb_len = sizeof(tmpver)
266                           };
267         loff_t               off = 0;
268         int                  rc;
269         ENTRY;
270
271         LASSERT(mutex_is_locked(&tbl->mn_lock));
272
273         LASSERT(mgs->mgs_nidtbl_dir);
274         rc = dt_lookup_dir(env, mgs->mgs_nidtbl_dir, tbl->mn_fsdb->fsdb_name,
275                            &fid);
276         if (rc == -ENOENT) {
277                 *version = MGS_NIDTBL_VERSION_INIT;
278                 RETURN(0);
279         } else if (rc < 0) {
280                 RETURN(rc);
281         }
282
283         fsdb = dt_locate_at(env, mgs->mgs_bottom, &fid,
284                             &mgs->mgs_dt_dev.dd_lu_dev, NULL);
285         if (IS_ERR(fsdb))
286                 RETURN(PTR_ERR(fsdb));
287
288         rc = dt_read(env, fsdb, &buf, &off);
289         if (rc == buf.lb_len) {
290                 *version = le64_to_cpu(tmpver);
291                 rc = 0;
292         } else if (rc == 0) {
293                 *version = MGS_NIDTBL_VERSION_INIT;
294         } else {
295                 CERROR("%s: read version file %s error %d\n",
296                        mgs->mgs_obd->obd_name, tbl->mn_fsdb->fsdb_name, rc);
297         }
298         lu_object_put(env, &fsdb->do_lu);
299         RETURN(rc);
300 }
301
302 static int mgs_nidtbl_write(const struct lu_env *env, struct fs_db *fsdb,
303                             struct mgs_target_info *mti)
304 {
305         struct mgs_nidtbl        *tbl;
306         struct mgs_nidtbl_target *tgt;
307         bool found = false;
308         int type   = mti->mti_flags & LDD_F_SV_TYPE_MASK;
309         int rc     = 0;
310         ENTRY;
311
312         type &= ~LDD_F_SV_TYPE_MGS;
313         LASSERT(type != 0);
314
315         tbl = &fsdb->fsdb_nidtbl;
316         mutex_lock(&tbl->mn_lock);
317         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
318                 struct mgs_target_info *info = &tgt->mnt_mti;
319
320                 if (type == tgt->mnt_type &&
321                     mti->mti_stripe_index == info->mti_stripe_index) {
322                         found = true;
323                         break;
324                 }
325         }
326         if (!found) {
327                 OBD_ALLOC_PTR(tgt);
328                 if (tgt == NULL)
329                         GOTO(out, rc = -ENOMEM);
330
331                 INIT_LIST_HEAD(&tgt->mnt_list);
332                 tgt->mnt_fs      = tbl;
333                 tgt->mnt_version = 0;   /* 0 means invalid */
334                 tgt->mnt_type    = type;
335
336                 ++tbl->mn_nr_targets;
337         }
338
339         tgt->mnt_version = ++tbl->mn_version;
340         tgt->mnt_mti     = *mti;
341
342         list_move_tail(&tgt->mnt_list, &tbl->mn_targets);
343
344         rc = nidtbl_update_version(env, fsdb->fsdb_mgs, tbl);
345         EXIT;
346
347 out:
348         mutex_unlock(&tbl->mn_lock);
349         if (rc)
350                 CERROR("Write NID table version for file system %s error %d\n",
351                        fsdb->fsdb_name, rc);
352         return rc;
353 }
354
355 static void mgs_nidtbl_fini_fs(struct fs_db *fsdb)
356 {
357         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
358         struct list_head head = LIST_HEAD_INIT(head);
359
360         mutex_lock(&tbl->mn_lock);
361         tbl->mn_nr_targets = 0;
362         list_splice_init(&tbl->mn_targets, &head);
363         mutex_unlock(&tbl->mn_lock);
364
365         while (!list_empty(&head)) {
366                 struct mgs_nidtbl_target *tgt;
367                 tgt = list_entry(head.next, struct mgs_nidtbl_target, mnt_list);
368                 list_del(&tgt->mnt_list);
369                 OBD_FREE_PTR(tgt);
370         }
371 }
372
373 static int mgs_nidtbl_init_fs(const struct lu_env *env, struct fs_db *fsdb)
374 {
375         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
376         int rc;
377
378         INIT_LIST_HEAD(&tbl->mn_targets);
379         mutex_init(&tbl->mn_lock);
380         tbl->mn_nr_targets = 0;
381         tbl->mn_fsdb = fsdb;
382         mutex_lock(&tbl->mn_lock);
383         rc = nidtbl_read_version(env, fsdb->fsdb_mgs, tbl, &tbl->mn_version);
384         mutex_unlock(&tbl->mn_lock);
385         if (rc < 0)
386                 CERROR("%s: IR: failed to read current version, rc = %d\n",
387                        fsdb->fsdb_mgs->mgs_obd->obd_name, rc);
388         else
389                 CDEBUG(D_MGS, "IR: current version is %llu\n",
390                        tbl->mn_version);
391
392         return rc;
393 }
394
395 /* --------- Imperative Recovery relies on nidtbl stuff ------- */
396 void mgs_ir_notify_complete(struct fs_db *fsdb)
397 {
398         struct timeval tv;
399         cfs_duration_t delta;
400
401         atomic_set(&fsdb->fsdb_notify_phase, 0);
402
403         /* do statistic */
404         fsdb->fsdb_notify_count++;
405         delta = cfs_time_sub(cfs_time_current(), fsdb->fsdb_notify_start);
406         fsdb->fsdb_notify_total += delta;
407         if (delta > fsdb->fsdb_notify_max)
408                 fsdb->fsdb_notify_max = delta;
409
410         cfs_duration_usec(delta, &tv);
411         CDEBUG(D_MGS, "Revoke recover lock of %s completed after %ld.%06lds\n",
412                fsdb->fsdb_name, tv.tv_sec, tv.tv_usec);
413 }
414
415 static int mgs_ir_notify(void *arg)
416 {
417         struct fs_db      *fsdb   = arg;
418         struct ldlm_res_id resid;
419
420         char name[sizeof(fsdb->fsdb_name) + 20];
421
422         LASSERTF(sizeof(name) < 32, "name is too large to be in stack.\n");
423         sprintf(name, "mgs_%s_notify", fsdb->fsdb_name);
424
425         complete(&fsdb->fsdb_notify_comp);
426
427         set_user_nice(current, -2);
428
429         mgc_fsname2resid(fsdb->fsdb_name, &resid, CONFIG_T_RECOVER);
430         while (1) {
431                 struct l_wait_info   lwi = { 0 };
432
433                 l_wait_event(fsdb->fsdb_notify_waitq,
434                              fsdb->fsdb_notify_stop ||
435                              atomic_read(&fsdb->fsdb_notify_phase),
436                              &lwi);
437                 if (fsdb->fsdb_notify_stop)
438                         break;
439
440                 CDEBUG(D_MGS, "%s woken up, phase is %d\n",
441                        name, atomic_read(&fsdb->fsdb_notify_phase));
442
443                 fsdb->fsdb_notify_start = cfs_time_current();
444                 mgs_revoke_lock(fsdb->fsdb_mgs, fsdb, CONFIG_T_RECOVER);
445         }
446
447         complete(&fsdb->fsdb_notify_comp);
448         return 0;
449 }
450
451 int mgs_ir_init_fs(const struct lu_env *env, struct mgs_device *mgs,
452                    struct fs_db *fsdb)
453 {
454         struct task_struct *task;
455
456         if (!ir_timeout)
457                 ir_timeout = OBD_IR_MGS_TIMEOUT;
458
459         fsdb->fsdb_ir_state = IR_FULL;
460         if (cfs_time_before(cfs_time_current_sec(),
461                             mgs->mgs_start_time + ir_timeout))
462                 fsdb->fsdb_ir_state = IR_STARTUP;
463         fsdb->fsdb_nonir_clients = 0;
464         INIT_LIST_HEAD(&fsdb->fsdb_clients);
465
466         /* start notify thread */
467         fsdb->fsdb_mgs = mgs;
468         atomic_set(&fsdb->fsdb_notify_phase, 0);
469         init_waitqueue_head(&fsdb->fsdb_notify_waitq);
470         init_completion(&fsdb->fsdb_notify_comp);
471
472         task = kthread_run(mgs_ir_notify, fsdb,
473                                "mgs_%s_notify", fsdb->fsdb_name);
474         if (!IS_ERR(task))
475                 wait_for_completion(&fsdb->fsdb_notify_comp);
476         else
477                 CERROR("Start notify thread error %ld\n", PTR_ERR(task));
478
479         mgs_nidtbl_init_fs(env, fsdb);
480         return 0;
481 }
482
483 void mgs_ir_fini_fs(struct mgs_device *mgs, struct fs_db *fsdb)
484 {
485         if (test_bit(FSDB_MGS_SELF, &fsdb->fsdb_flags))
486                 return;
487
488         mgs_fsc_cleanup_by_fsdb(fsdb);
489
490         mgs_nidtbl_fini_fs(fsdb);
491
492         LASSERT(list_empty(&fsdb->fsdb_clients));
493
494         fsdb->fsdb_notify_stop = 1;
495         wake_up(&fsdb->fsdb_notify_waitq);
496         wait_for_completion(&fsdb->fsdb_notify_comp);
497 }
498
499 /* caller must have held fsdb_mutex */
500 static inline void ir_state_graduate(struct fs_db *fsdb)
501 {
502         if (fsdb->fsdb_ir_state == IR_STARTUP) {
503                 if (cfs_time_before(fsdb->fsdb_mgs->mgs_start_time + ir_timeout,
504                                     cfs_time_current_sec())) {
505                         fsdb->fsdb_ir_state = IR_FULL;
506                         if (fsdb->fsdb_nonir_clients)
507                                 fsdb->fsdb_ir_state = IR_PARTIAL;
508                 }
509         }
510 }
511
512 int mgs_ir_update(const struct lu_env *env, struct mgs_device *mgs,
513                   struct mgs_target_info *mti)
514 {
515         struct fs_db *fsdb;
516         bool notify = true;
517         int rc;
518
519         if (mti->mti_instance == 0)
520                 return -EINVAL;
521
522         rc = mgs_find_or_make_fsdb(env, mgs, mti->mti_fsname, &fsdb);
523         if (rc)
524                 return rc;
525
526         rc = mgs_nidtbl_write(env, fsdb, mti);
527         if (rc)
528                 return rc;
529
530         /* check ir state */
531         mutex_lock(&fsdb->fsdb_mutex);
532         ir_state_graduate(fsdb);
533         switch (fsdb->fsdb_ir_state) {
534         case IR_FULL:
535                 mti->mti_flags |= LDD_F_IR_CAPABLE;
536                 break;
537         case IR_DISABLED:
538                 notify = false;
539         case IR_STARTUP:
540         case IR_PARTIAL:
541                 break;
542         default:
543                 LBUG();
544         }
545         mutex_unlock(&fsdb->fsdb_mutex);
546
547         LASSERT(ergo(mti->mti_flags & LDD_F_IR_CAPABLE, notify));
548         if (notify) {
549                 CDEBUG(D_MGS, "Try to revoke recover lock of %s\n",
550                        fsdb->fsdb_name);
551                 atomic_inc(&fsdb->fsdb_notify_phase);
552                 wake_up(&fsdb->fsdb_notify_waitq);
553         }
554         return 0;
555 }
556
557 /* NID table can be cached by two entities: Clients and MDTs */
558 enum {
559         IR_CLIENT  = 1,
560         IR_MDT     = 2
561 };
562
563 static int delogname(char *logname, char *fsname, int *typ)
564 {
565         char *ptr;
566         int   type;
567         int   len;
568
569         ptr = strrchr(logname, '-');
570         if (ptr == NULL)
571                 return -EINVAL;
572
573         /* decouple file system name. The llog name may be:
574          * - "prefix-fsname", prefix is "cliir" or "mdtir"
575          */
576         if (strncmp(ptr, "-mdtir", 6) == 0)
577                 type = IR_MDT;
578         else if (strncmp(ptr, "-cliir", 6) == 0)
579                 type = IR_CLIENT;
580         else
581                 return -EINVAL;
582
583         len = ptr - logname;
584         if (len == 0)
585                 return -EINVAL;
586
587         memcpy(fsname, logname, len);
588         fsname[len] = 0;
589         if (typ)
590                 *typ = type;
591         return 0;
592 }
593
594 int mgs_get_ir_logs(struct ptlrpc_request *req)
595 {
596         struct lu_env     *env = req->rq_svc_thread->t_env;
597         struct mgs_device *mgs = exp2mgs_dev(req->rq_export);
598         struct fs_db      *fsdb;
599         struct mgs_config_body  *body;
600         struct mgs_config_res   *res;
601         struct ptlrpc_bulk_desc *desc;
602         struct l_wait_info lwi;
603         char               fsname[16];
604         long               bufsize;
605         int                unit_size;
606         int                type;
607         int                rc = 0;
608         int                i;
609         int                bytes;
610         int                page_count;
611         int                nrpages;
612         struct page       **pages = NULL;
613         ENTRY;
614
615         body = req_capsule_client_get(&req->rq_pill, &RMF_MGS_CONFIG_BODY);
616         if (body == NULL)
617                 RETURN(-EINVAL);
618
619         if (body->mcb_type != CONFIG_T_RECOVER)
620                 RETURN(-EINVAL);
621
622         rc = delogname(body->mcb_name, fsname, &type);
623         if (rc)
624                 RETURN(rc);
625
626         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
627         if (rc)
628                 RETURN(rc);
629
630         bufsize = body->mcb_units << body->mcb_bits;
631         nrpages = (bufsize + PAGE_SIZE - 1) >> PAGE_SHIFT;
632         if (nrpages > PTLRPC_MAX_BRW_PAGES)
633                 RETURN(-EINVAL);
634
635         CDEBUG(D_MGS, "Reading IR log %s bufsize %ld.\n",
636                body->mcb_name, bufsize);
637
638         OBD_ALLOC(pages, sizeof(*pages) * nrpages);
639         if (pages == NULL)
640                 RETURN(-ENOMEM);
641
642         res = req_capsule_server_get(&req->rq_pill, &RMF_MGS_CONFIG_RES);
643         if (res == NULL)
644                 GOTO(out, rc = -EINVAL);
645
646         res->mcr_offset = body->mcb_offset;
647         unit_size = min_t(int, 1 << body->mcb_bits, PAGE_SIZE);
648         bytes = mgs_nidtbl_read(req->rq_export, &fsdb->fsdb_nidtbl, res,
649                                 pages, nrpages, bufsize / unit_size, unit_size);
650         if (bytes < 0)
651                 GOTO(out, rc = bytes);
652
653         /* start bulk transfer */
654         page_count = (bytes + PAGE_SIZE - 1) >> PAGE_SHIFT;
655         LASSERT(page_count <= nrpages);
656         desc = ptlrpc_prep_bulk_exp(req, page_count, 1,
657                                     PTLRPC_BULK_PUT_SOURCE |
658                                         PTLRPC_BULK_BUF_KIOV,
659                                     MGS_BULK_PORTAL,
660                                     &ptlrpc_bulk_kiov_pin_ops);
661         if (desc == NULL)
662                 GOTO(out, rc = -ENOMEM);
663
664         for (i = 0; i < page_count && bytes > 0; i++) {
665                 desc->bd_frag_ops->add_kiov_frag(desc, pages[i], 0,
666                                                  min_t(int, bytes,
667                                                       PAGE_SIZE));
668                 bytes -= PAGE_SIZE;
669         }
670
671         rc = target_bulk_io(req->rq_export, desc, &lwi);
672         ptlrpc_free_bulk(desc);
673
674 out:
675         for (i = 0; i < nrpages; i++) {
676                 if (pages[i] == NULL)
677                         break;
678                 __free_page(pages[i]);
679         }
680         OBD_FREE(pages, sizeof(*pages) * nrpages);
681         return rc;
682 }
683
684 static int lprocfs_ir_set_state(struct fs_db *fsdb, const char *buf)
685 {
686         const char *strings[] = IR_STRINGS;
687         int         state = -1;
688         int         i;
689
690         for (i = 0; i < ARRAY_SIZE(strings); i++) {
691                 if (strcmp(strings[i], buf) == 0) {
692                         state = i;
693                         break;
694                 }
695         }
696         if (state < 0)
697                 return -EINVAL;
698
699         CDEBUG(D_MGS, "change fsr state of %s from %s to %s\n",
700                fsdb->fsdb_name, strings[fsdb->fsdb_ir_state], strings[state]);
701         mutex_lock(&fsdb->fsdb_mutex);
702         if (state == IR_FULL && fsdb->fsdb_nonir_clients)
703                 state = IR_PARTIAL;
704         fsdb->fsdb_ir_state = state;
705         mutex_unlock(&fsdb->fsdb_mutex);
706
707         return 0;
708 }
709
710 static int lprocfs_ir_set_timeout(struct fs_db *fsdb, const char *buf)
711 {
712         return -EINVAL;
713 }
714
715 static int lprocfs_ir_clear_stats(struct fs_db *fsdb, const char *buf)
716 {
717         if (*buf)
718                 return -EINVAL;
719
720         fsdb->fsdb_notify_total = 0;
721         fsdb->fsdb_notify_max   = 0;
722         fsdb->fsdb_notify_count = 0;
723         return 0;
724 }
725
726 static struct lproc_ir_cmd {
727         char *name;
728         int   namelen;
729         int (*handler)(struct fs_db *, const char *);
730 } ir_cmds[] = {
731         { "state=",   6, lprocfs_ir_set_state },
732         { "timeout=", 8, lprocfs_ir_set_timeout },
733         { "0",        1, lprocfs_ir_clear_stats }
734 };
735
736 int lprocfs_wr_ir_state(struct file *file, const char __user *buffer,
737                         size_t count, void *data)
738 {
739         struct fs_db *fsdb = data;
740         char *kbuf;
741         char *ptr;
742         int rc = 0;
743
744         if (count == 0 || count >= PAGE_SIZE)
745                 return -EINVAL;
746
747         OBD_ALLOC(kbuf, count + 1);
748         if (kbuf == NULL)
749                 return -ENOMEM;
750
751         if (copy_from_user(kbuf, buffer, count)) {
752                 OBD_FREE(kbuf, count + 1);
753                 return -EFAULT;
754         }
755
756         kbuf[count] = 0; /* buffer is supposed to end with 0 */
757         if (kbuf[count - 1] == '\n')
758                 kbuf[count - 1] = 0;
759         ptr = kbuf;
760
761         /* fsname=<file system name> must be the 1st entry */
762         while (ptr != NULL) {
763                 char *tmpptr;
764                 int i;
765
766                 tmpptr = strchr(ptr, ';');
767                 if (tmpptr)
768                         *tmpptr++ = 0;
769
770                 rc = -EINVAL;
771                 for (i = 0; i < ARRAY_SIZE(ir_cmds); i++) {
772                         struct lproc_ir_cmd *cmd;
773                         int cmdlen;
774
775                         cmd    = &ir_cmds[i];
776                         cmdlen = cmd->namelen;
777                         if (strncmp(cmd->name, ptr, cmdlen) == 0) {
778                                 ptr += cmdlen;
779                                 rc = cmd->handler(fsdb, ptr);
780                                 break;
781                         }
782                 }
783                 if (rc)
784                         break;
785
786                 ptr = tmpptr;
787         }
788         if (rc)
789                 CERROR("Unable to process command: %s(%d)\n", ptr, rc);
790         OBD_FREE(kbuf, count + 1);
791         return rc ?: count;
792 }
793
794 int lprocfs_rd_ir_state(struct seq_file *seq, void *data)
795 {
796         struct fs_db      *fsdb = data;
797         struct mgs_nidtbl *tbl  = &fsdb->fsdb_nidtbl;
798         const char        *ir_strings[] = IR_STRINGS;
799         struct timeval     tv_max;
800         struct timeval     tv;
801
802         /* mgs_live_seq_show() already holds fsdb_mutex. */
803         ir_state_graduate(fsdb);
804
805         seq_printf(seq, "\nimperative_recovery_state:\n");
806         seq_printf(seq,
807                    "    state: %s\n"
808                    "    nonir_clients: %d\n"
809                    "    nidtbl_version: %lld\n",
810                    ir_strings[fsdb->fsdb_ir_state], fsdb->fsdb_nonir_clients,
811                    tbl->mn_version);
812
813         cfs_duration_usec(fsdb->fsdb_notify_total, &tv);
814         cfs_duration_usec(fsdb->fsdb_notify_max, &tv_max);
815
816         seq_printf(seq, "    notify_duration_total: %lu.%06lu\n"
817                         "    notify_duation_max: %lu.%06lu\n"
818                         "    notify_count: %u\n",
819                    tv.tv_sec, tv.tv_usec,
820                    tv_max.tv_sec, tv_max.tv_usec,
821                    fsdb->fsdb_notify_count);
822
823         return 0;
824 }
825
826 int lprocfs_ir_timeout_seq_show(struct seq_file *m, void *data)
827 {
828         return lprocfs_uint_seq_show(m, &ir_timeout);
829 }
830
831 ssize_t lprocfs_ir_timeout_seq_write(struct file *file,
832                                      const char __user *buffer,
833                                      size_t count, loff_t *off)
834 {
835         return lprocfs_wr_uint(file, buffer, count, &ir_timeout);
836 }
837
838 /* --------------- Handle non IR support clients --------------- */
839 /* attach a lustre file system to an export */
840 int mgs_fsc_attach(const struct lu_env *env, struct obd_export *exp,
841                    char *fsname)
842 {
843         struct mgs_export_data *data = &exp->u.eu_mgs_data;
844         struct mgs_device *mgs = exp2mgs_dev(exp);
845         struct fs_db      *fsdb;
846         struct mgs_fsc    *fsc     = NULL;
847         struct mgs_fsc    *new_fsc = NULL;
848         bool               found   = false;
849         int                rc;
850         ENTRY;
851
852         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
853         if (rc)
854                 RETURN(rc);
855
856         /* allocate a new fsc in case we need it in spinlock. */
857         OBD_ALLOC_PTR(new_fsc);
858         if (new_fsc == NULL)
859                 RETURN(-ENOMEM);
860
861         INIT_LIST_HEAD(&new_fsc->mfc_export_list);
862         INIT_LIST_HEAD(&new_fsc->mfc_fsdb_list);
863         new_fsc->mfc_fsdb       = fsdb;
864         new_fsc->mfc_export     = class_export_get(exp);
865         new_fsc->mfc_ir_capable = !!(exp_connect_flags(exp) &
866                                      OBD_CONNECT_IMP_RECOV);
867
868         rc = -EEXIST;
869         mutex_lock(&fsdb->fsdb_mutex);
870
871         /* tend to find it in export list because this list is shorter. */
872         spin_lock(&data->med_lock);
873         list_for_each_entry(fsc, &data->med_clients, mfc_export_list) {
874                 if (strcmp(fsname, fsc->mfc_fsdb->fsdb_name) == 0) {
875                         found = true;
876                         break;
877                 }
878         }
879         if (!found) {
880                 fsc = new_fsc;
881                 new_fsc = NULL;
882
883                 /* add it into export list. */
884                 list_add(&fsc->mfc_export_list, &data->med_clients);
885
886                 /* add into fsdb list. */
887                 list_add(&fsc->mfc_fsdb_list, &fsdb->fsdb_clients);
888                 if (!fsc->mfc_ir_capable) {
889                         ++fsdb->fsdb_nonir_clients;
890                         if (fsdb->fsdb_ir_state == IR_FULL)
891                                 fsdb->fsdb_ir_state = IR_PARTIAL;
892                 }
893                 rc = 0;
894         }
895         spin_unlock(&data->med_lock);
896         mutex_unlock(&fsdb->fsdb_mutex);
897
898         if (new_fsc) {
899                 class_export_put(new_fsc->mfc_export);
900                 OBD_FREE_PTR(new_fsc);
901         }
902         RETURN(rc);
903 }
904
905 void mgs_fsc_cleanup(struct obd_export *exp)
906 {
907         struct mgs_export_data *data = &exp->u.eu_mgs_data;
908         struct mgs_fsc *fsc, *tmp;
909         struct list_head head = LIST_HEAD_INIT(head);
910
911         spin_lock(&data->med_lock);
912         list_splice_init(&data->med_clients, &head);
913         spin_unlock(&data->med_lock);
914
915         list_for_each_entry_safe(fsc, tmp, &head, mfc_export_list) {
916                 struct fs_db *fsdb = fsc->mfc_fsdb;
917
918                 LASSERT(fsc->mfc_export == exp);
919
920                 mutex_lock(&fsdb->fsdb_mutex);
921                 list_del_init(&fsc->mfc_fsdb_list);
922                 if (fsc->mfc_ir_capable == 0) {
923                         --fsdb->fsdb_nonir_clients;
924                         LASSERT(fsdb->fsdb_ir_state != IR_FULL);
925                         if (fsdb->fsdb_nonir_clients == 0 &&
926                             fsdb->fsdb_ir_state == IR_PARTIAL)
927                                 fsdb->fsdb_ir_state = IR_FULL;
928                 }
929                 mutex_unlock(&fsdb->fsdb_mutex);
930                 list_del_init(&fsc->mfc_export_list);
931                 class_export_put(fsc->mfc_export);
932                 OBD_FREE_PTR(fsc);
933         }
934 }
935
936 /* must be called with fsdb->fsdb_mutex held */
937 void mgs_fsc_cleanup_by_fsdb(struct fs_db *fsdb)
938 {
939         struct mgs_fsc *fsc, *tmp;
940
941         list_for_each_entry_safe(fsc, tmp, &fsdb->fsdb_clients,
942                                      mfc_fsdb_list) {
943                 struct mgs_export_data *data = &fsc->mfc_export->u.eu_mgs_data;
944
945                 LASSERT(fsdb == fsc->mfc_fsdb);
946                 list_del_init(&fsc->mfc_fsdb_list);
947
948                 spin_lock(&data->med_lock);
949                 list_del_init(&fsc->mfc_export_list);
950                 spin_unlock(&data->med_lock);
951                 class_export_put(fsc->mfc_export);
952                 OBD_FREE_PTR(fsc);
953         }
954
955         fsdb->fsdb_nonir_clients = 0;
956         if (fsdb->fsdb_ir_state == IR_PARTIAL)
957                 fsdb->fsdb_ir_state = IR_FULL;
958 }