Whamcloud - gitweb
LU-8721 tests: add parallel-scale fio test
[fs/lustre-release.git] / lustre / mgs / mgs_nids.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.gnu.org/licenses/gpl-2.0.html
19  *
20  * GPL HEADER END
21  */
22 /*
23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
24  * Use is subject to license terms.
25  *
26  * Copyright (c) 2011, 2015, Intel Corporation.
27  */
28 /*
29  * This file is part of Lustre, http://www.lustre.org/
30  * Lustre is a trademark of Sun Microsystems, Inc.
31  *
32  * lustre/mgs/mgs_nids.c
33  *
34  * NID table management for lustre.
35  *
36  * Author: Jinshan Xiong <jinshan.xiong@whamcloud.com>
37  */
38
39 #define DEBUG_SUBSYSTEM S_MGS
40 #define D_MGS D_CONFIG
41
42 #include <linux/kthread.h>
43 #include <linux/pagemap.h>
44
45 #include <obd.h>
46 #include <obd_class.h>
47 #include <lustre_disk.h>
48
49 #include "mgs_internal.h"
50
51 static time64_t ir_timeout;
52
53 static int nidtbl_is_sane(struct mgs_nidtbl *tbl)
54 {
55         struct mgs_nidtbl_target *tgt;
56         int version = 0;
57
58         LASSERT(mutex_is_locked(&tbl->mn_lock));
59         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
60                 if (!tgt->mnt_version)
61                         continue;
62
63                 if (version >= tgt->mnt_version)
64                         return 0;
65
66                 version = tgt->mnt_version;
67         }
68         return 1;
69 }
70
71 /**
72  * Fetch nidtbl entries whose version are not less than @version
73  * nidtbl entries will be packed in @pages by @unit_size units - entries
74  * shouldn't cross unit boundaries.
75  */
76 static int mgs_nidtbl_read(struct obd_export *exp, struct mgs_nidtbl *tbl,
77                            struct mgs_config_res *res, struct page **pages,
78                            int nrpages, int units_total, int unit_size)
79 {
80         struct mgs_nidtbl_target *tgt;
81         struct mgs_nidtbl_entry  *entry;
82         struct mgs_nidtbl_entry  *last_in_unit = NULL;
83         struct mgs_target_info   *mti;
84         __u64 version = res->mcr_offset;
85         bool nobuf = false;
86         void *buf = NULL;
87         int bytes_in_unit = 0;
88         int units_in_page = 0;
89         int index = 0;
90         int rc = 0;
91         ENTRY;
92
93         /* make sure unit_size is power 2 */
94         LASSERT((unit_size & (unit_size - 1)) == 0);
95         LASSERT(nrpages << PAGE_SHIFT >= units_total * unit_size);
96
97         mutex_lock(&tbl->mn_lock);
98         LASSERT(nidtbl_is_sane(tbl));
99
100         /* no more entries ? */
101         if (version > tbl->mn_version) {
102                 version = tbl->mn_version;
103                 goto out;
104         }
105
106         /* iterate over all targets to compose a bitmap by the type of llog.
107          * If the llog is for MDTs, llog entries for OSTs will be returned;
108          * otherwise, it's for clients, then llog entries for both OSTs and
109          * MDTs will be returned.
110          */
111         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
112                 int entry_len = sizeof(*entry);
113
114                 if (tgt->mnt_version < version)
115                         continue;
116
117                 /* write target recover information */
118                 mti  = &tgt->mnt_mti;
119                 LASSERT(mti->mti_nid_count < MTI_NIDS_MAX);
120                 entry_len += mti->mti_nid_count * sizeof(lnet_nid_t);
121
122                 if (entry_len > unit_size) {
123                         CWARN("nidtbl: too large entry: entry length %d,"
124                               "unit size: %d\n", entry_len, unit_size);
125                         GOTO(out, rc = -EOVERFLOW);
126                 }
127
128                 if (bytes_in_unit < entry_len) {
129                         if (units_total == 0) {
130                                 nobuf = true;
131                                 break;
132                         }
133
134                         /* check if we need to consume remaining bytes. */
135                         if (last_in_unit != NULL && bytes_in_unit) {
136                                 last_in_unit->mne_length += bytes_in_unit;
137                                 rc  += bytes_in_unit;
138                                 buf += bytes_in_unit;
139                                 last_in_unit = NULL;
140                         }
141                         LASSERT((rc & (unit_size - 1)) == 0);
142
143                         if (units_in_page == 0) {
144                                 /* allocate a new page */
145                                 pages[index] = alloc_page(GFP_KERNEL);
146                                 if (pages[index] == NULL) {
147                                         rc = -ENOMEM;
148                                         break;
149                                 }
150
151                                 /* destroy previous map */
152                                 if (index > 0)
153                                         kunmap(pages[index - 1]);
154
155                                 /* reassign buffer */
156                                 buf = kmap(pages[index]);
157                                 ++index;
158
159                                 units_in_page = PAGE_SIZE / unit_size;
160                                 LASSERT(units_in_page > 0);
161                         }
162
163                         /* allocate an unit */
164                         LASSERT(((long)buf & (unit_size - 1)) == 0);
165                         bytes_in_unit = unit_size;
166                         --units_in_page;
167                         --units_total;
168                 }
169
170                 /* fill in entry. */
171                 entry = (struct mgs_nidtbl_entry *)buf;
172                 entry->mne_version   = tgt->mnt_version;
173                 entry->mne_instance  = mti->mti_instance;
174                 entry->mne_index     = mti->mti_stripe_index;
175                 entry->mne_length    = entry_len;
176                 entry->mne_type      = tgt->mnt_type;
177                 entry->mne_nid_type  = 0;
178                 entry->mne_nid_size  = sizeof(lnet_nid_t);
179                 entry->mne_nid_count = mti->mti_nid_count;
180                 memcpy(entry->u.nids, mti->mti_nids,
181                        mti->mti_nid_count * sizeof(lnet_nid_t));
182
183                 version = tgt->mnt_version;
184                 rc     += entry_len;
185                 buf    += entry_len;
186
187                 bytes_in_unit -= entry_len;
188                 last_in_unit   = entry;
189
190                 CDEBUG(D_MGS, "fsname %s, entry size %d, pages %d/%d/%d/%d.\n",
191                        tbl->mn_fsdb->fsdb_name, entry_len,
192                        bytes_in_unit, index, nrpages, units_total);
193         }
194         if (index > 0)
195                 kunmap(pages[index - 1]);
196 out:
197         LASSERT(version <= tbl->mn_version);
198         res->mcr_size = tbl->mn_version;
199         res->mcr_offset = nobuf ? version : tbl->mn_version;
200         mutex_unlock(&tbl->mn_lock);
201         LASSERT(ergo(version == 1, rc == 0)); /* get the log first time */
202
203         CDEBUG(D_MGS, "Read IR logs %s return with %d, version %llu\n",
204                tbl->mn_fsdb->fsdb_name, rc, version);
205         RETURN(rc);
206 }
207
208 static int nidtbl_update_version(const struct lu_env *env,
209                                  struct mgs_device *mgs,
210                                  struct mgs_nidtbl *tbl)
211 {
212         struct dt_object *fsdb;
213         struct thandle   *th;
214         u64               version;
215         struct lu_buf     buf = {
216                                 .lb_buf = &version,
217                                 .lb_len = sizeof(version)
218                           };
219         loff_t            off = 0;
220         int               rc;
221         ENTRY;
222
223         if (mgs->mgs_bottom->dd_rdonly)
224                 RETURN(0);
225
226         LASSERT(mutex_is_locked(&tbl->mn_lock));
227
228         fsdb = local_file_find_or_create(env, mgs->mgs_los, mgs->mgs_nidtbl_dir,
229                                          tbl->mn_fsdb->fsdb_name,
230                                          S_IFREG | S_IRUGO | S_IWUSR);
231         if (IS_ERR(fsdb))
232                 RETURN(PTR_ERR(fsdb));
233
234         th = dt_trans_create(env, mgs->mgs_bottom);
235         if (IS_ERR(th))
236                 GOTO(out_put, rc = PTR_ERR(th));
237
238         th->th_sync = 1; /* update table synchronously */
239         rc = dt_declare_record_write(env, fsdb, &buf, off, th);
240         if (rc)
241                 GOTO(out, rc);
242
243         rc = dt_trans_start_local(env, mgs->mgs_bottom, th);
244         if (rc)
245                 GOTO(out, rc);
246
247         version = cpu_to_le64(tbl->mn_version);
248         rc = dt_record_write(env, fsdb, &buf, &off, th);
249
250 out:
251         dt_trans_stop(env, mgs->mgs_bottom, th);
252 out_put:
253         dt_object_put(env, fsdb);
254         RETURN(rc);
255 }
256
257 #define MGS_NIDTBL_VERSION_INIT 2
258
259 static int nidtbl_read_version(const struct lu_env *env,
260                                struct mgs_device *mgs, struct mgs_nidtbl *tbl,
261                                u64 *version)
262 {
263         struct dt_object *fsdb;
264         struct lu_fid     fid;
265         u64               tmpver;
266         struct lu_buf     buf = {
267                                 .lb_buf = &tmpver,
268                                 .lb_len = sizeof(tmpver)
269                           };
270         loff_t               off = 0;
271         int                  rc;
272         ENTRY;
273
274         LASSERT(mutex_is_locked(&tbl->mn_lock));
275
276         LASSERT(mgs->mgs_nidtbl_dir);
277         rc = dt_lookup_dir(env, mgs->mgs_nidtbl_dir, tbl->mn_fsdb->fsdb_name,
278                            &fid);
279         if (rc == -ENOENT) {
280                 *version = MGS_NIDTBL_VERSION_INIT;
281                 RETURN(0);
282         } else if (rc < 0) {
283                 RETURN(rc);
284         }
285
286         fsdb = dt_locate_at(env, mgs->mgs_bottom, &fid,
287                             &mgs->mgs_dt_dev.dd_lu_dev, NULL);
288         if (IS_ERR(fsdb))
289                 RETURN(PTR_ERR(fsdb));
290
291         rc = dt_read(env, fsdb, &buf, &off);
292         if (rc == buf.lb_len) {
293                 *version = le64_to_cpu(tmpver);
294                 rc = 0;
295         } else if (rc == 0) {
296                 *version = MGS_NIDTBL_VERSION_INIT;
297         } else {
298                 CERROR("%s: read version file %s error %d\n",
299                        mgs->mgs_obd->obd_name, tbl->mn_fsdb->fsdb_name, rc);
300         }
301         dt_object_put(env, fsdb);
302         RETURN(rc);
303 }
304
305 static int mgs_nidtbl_write(const struct lu_env *env, struct fs_db *fsdb,
306                             struct mgs_target_info *mti)
307 {
308         struct mgs_nidtbl        *tbl;
309         struct mgs_nidtbl_target *tgt;
310         bool found = false;
311         int type   = mti->mti_flags & LDD_F_SV_TYPE_MASK;
312         int rc     = 0;
313         ENTRY;
314
315         type &= ~LDD_F_SV_TYPE_MGS;
316         LASSERT(type != 0);
317
318         tbl = &fsdb->fsdb_nidtbl;
319         mutex_lock(&tbl->mn_lock);
320         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
321                 struct mgs_target_info *info = &tgt->mnt_mti;
322
323                 if (type == tgt->mnt_type &&
324                     mti->mti_stripe_index == info->mti_stripe_index) {
325                         found = true;
326                         break;
327                 }
328         }
329         if (!found) {
330                 OBD_ALLOC_PTR(tgt);
331                 if (tgt == NULL)
332                         GOTO(out, rc = -ENOMEM);
333
334                 INIT_LIST_HEAD(&tgt->mnt_list);
335                 tgt->mnt_fs      = tbl;
336                 tgt->mnt_version = 0;   /* 0 means invalid */
337                 tgt->mnt_type    = type;
338
339                 ++tbl->mn_nr_targets;
340         }
341
342         tgt->mnt_version = ++tbl->mn_version;
343         tgt->mnt_mti     = *mti;
344
345         list_move_tail(&tgt->mnt_list, &tbl->mn_targets);
346
347         rc = nidtbl_update_version(env, fsdb->fsdb_mgs, tbl);
348         EXIT;
349
350 out:
351         mutex_unlock(&tbl->mn_lock);
352         if (rc)
353                 CERROR("Write NID table version for file system %s error %d\n",
354                        fsdb->fsdb_name, rc);
355         return rc;
356 }
357
358 static void mgs_nidtbl_fini_fs(struct fs_db *fsdb)
359 {
360         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
361         struct list_head head = LIST_HEAD_INIT(head);
362
363         mutex_lock(&tbl->mn_lock);
364         tbl->mn_nr_targets = 0;
365         list_splice_init(&tbl->mn_targets, &head);
366         mutex_unlock(&tbl->mn_lock);
367
368         while (!list_empty(&head)) {
369                 struct mgs_nidtbl_target *tgt;
370                 tgt = list_entry(head.next, struct mgs_nidtbl_target, mnt_list);
371                 list_del(&tgt->mnt_list);
372                 OBD_FREE_PTR(tgt);
373         }
374 }
375
376 static int mgs_nidtbl_init_fs(const struct lu_env *env, struct fs_db *fsdb)
377 {
378         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
379         int rc;
380
381         INIT_LIST_HEAD(&tbl->mn_targets);
382         mutex_init(&tbl->mn_lock);
383         tbl->mn_nr_targets = 0;
384         tbl->mn_fsdb = fsdb;
385         mutex_lock(&tbl->mn_lock);
386         rc = nidtbl_read_version(env, fsdb->fsdb_mgs, tbl, &tbl->mn_version);
387         mutex_unlock(&tbl->mn_lock);
388         if (rc < 0)
389                 CERROR("%s: IR: failed to read current version, rc = %d\n",
390                        fsdb->fsdb_mgs->mgs_obd->obd_name, rc);
391         else
392                 CDEBUG(D_MGS, "IR: current version is %llu\n",
393                        tbl->mn_version);
394
395         return rc;
396 }
397
398 /* --------- Imperative Recovery relies on nidtbl stuff ------- */
399 void mgs_ir_notify_complete(struct fs_db *fsdb)
400 {
401         struct timespec64 ts;
402         ktime_t delta;
403
404         atomic_set(&fsdb->fsdb_notify_phase, 0);
405
406         /* do statistic */
407         fsdb->fsdb_notify_count++;
408         delta = ktime_sub(ktime_get(), fsdb->fsdb_notify_start);
409         fsdb->fsdb_notify_total = ktime_add(fsdb->fsdb_notify_total, delta);
410         if (ktime_after(delta, fsdb->fsdb_notify_max))
411                 fsdb->fsdb_notify_max = delta;
412
413         ts = ktime_to_timespec64(fsdb->fsdb_notify_max);
414         CDEBUG(D_MGS, "Revoke recover lock of %s completed after %lld.%09lds\n",
415                fsdb->fsdb_name, (s64)ts.tv_sec, ts.tv_nsec);
416 }
417
418 static int mgs_ir_notify(void *arg)
419 {
420         struct fs_db *fsdb = arg;
421         struct ldlm_res_id resid;
422         char name[sizeof(fsdb->fsdb_name) + 16];
423
424         LASSERTF(sizeof(name) < 40, "name is too large to be in stack.\n");
425
426         snprintf(name, sizeof(name) - 1, "mgs_%s_notify", fsdb->fsdb_name);
427         complete(&fsdb->fsdb_notify_comp);
428         set_user_nice(current, -2);
429         mgc_fsname2resid(fsdb->fsdb_name, &resid, CONFIG_T_RECOVER);
430         while (1) {
431                 struct l_wait_info   lwi = { 0 };
432
433                 l_wait_event(fsdb->fsdb_notify_waitq,
434                              fsdb->fsdb_notify_stop ||
435                              atomic_read(&fsdb->fsdb_notify_phase),
436                              &lwi);
437                 if (fsdb->fsdb_notify_stop)
438                         break;
439
440                 CDEBUG(D_MGS, "%s woken up, phase is %d\n",
441                        name, atomic_read(&fsdb->fsdb_notify_phase));
442
443                 fsdb->fsdb_notify_start = ktime_get();
444                 mgs_revoke_lock(fsdb->fsdb_mgs, fsdb, CONFIG_T_RECOVER);
445         }
446
447         complete(&fsdb->fsdb_notify_comp);
448         return 0;
449 }
450
451 int mgs_ir_init_fs(const struct lu_env *env, struct mgs_device *mgs,
452                    struct fs_db *fsdb)
453 {
454         struct task_struct *task;
455
456         if (!ir_timeout)
457                 ir_timeout = (time64_t)OBD_IR_MGS_TIMEOUT;
458
459         fsdb->fsdb_ir_state = IR_FULL;
460         if (mgs->mgs_start_time + ir_timeout > ktime_get_real_seconds())
461                 fsdb->fsdb_ir_state = IR_STARTUP;
462         fsdb->fsdb_nonir_clients = 0;
463         /* start notify thread */
464         fsdb->fsdb_mgs = mgs;
465         task = kthread_run(mgs_ir_notify, fsdb,
466                                "mgs_%s_notify", fsdb->fsdb_name);
467         if (!IS_ERR(task))
468                 wait_for_completion(&fsdb->fsdb_notify_comp);
469         else
470                 CERROR("Start notify thread error %ld\n", PTR_ERR(task));
471
472         mgs_nidtbl_init_fs(env, fsdb);
473         return 0;
474 }
475
476 void mgs_ir_fini_fs(struct mgs_device *mgs, struct fs_db *fsdb)
477 {
478         if (test_bit(FSDB_MGS_SELF, &fsdb->fsdb_flags))
479                 return;
480
481         mgs_fsc_cleanup_by_fsdb(fsdb);
482
483         mgs_nidtbl_fini_fs(fsdb);
484
485         LASSERT(list_empty(&fsdb->fsdb_clients));
486
487         fsdb->fsdb_notify_stop = 1;
488         wake_up(&fsdb->fsdb_notify_waitq);
489         wait_for_completion(&fsdb->fsdb_notify_comp);
490 }
491
492 /* caller must have held fsdb_mutex */
493 static inline void ir_state_graduate(struct fs_db *fsdb)
494 {
495         if (fsdb->fsdb_ir_state == IR_STARTUP) {
496                 if (ktime_get_real_seconds() >
497                     fsdb->fsdb_mgs->mgs_start_time + ir_timeout) {
498                         fsdb->fsdb_ir_state = IR_FULL;
499                         if (fsdb->fsdb_nonir_clients)
500                                 fsdb->fsdb_ir_state = IR_PARTIAL;
501                 }
502         }
503 }
504
505 int mgs_ir_update(const struct lu_env *env, struct mgs_device *mgs,
506                   struct mgs_target_info *mti)
507 {
508         struct fs_db *fsdb;
509         bool notify = true;
510         int rc;
511
512         if (mti->mti_instance == 0)
513                 return -EINVAL;
514
515         rc = mgs_find_or_make_fsdb(env, mgs, mti->mti_fsname, &fsdb);
516         if (rc)
517                 return rc;
518
519         rc = mgs_nidtbl_write(env, fsdb, mti);
520         if (rc)
521                 GOTO(out, rc);
522
523         /* check ir state */
524         mutex_lock(&fsdb->fsdb_mutex);
525         ir_state_graduate(fsdb);
526         switch (fsdb->fsdb_ir_state) {
527         case IR_FULL:
528                 mti->mti_flags |= LDD_F_IR_CAPABLE;
529                 break;
530         case IR_DISABLED:
531                 notify = false;
532         case IR_STARTUP:
533         case IR_PARTIAL:
534                 break;
535         default:
536                 LBUG();
537         }
538         mutex_unlock(&fsdb->fsdb_mutex);
539
540         LASSERT(ergo(mti->mti_flags & LDD_F_IR_CAPABLE, notify));
541         if (notify) {
542                 CDEBUG(D_MGS, "Try to revoke recover lock of %s\n",
543                        fsdb->fsdb_name);
544                 atomic_inc(&fsdb->fsdb_notify_phase);
545                 wake_up(&fsdb->fsdb_notify_waitq);
546         }
547
548 out:
549         mgs_put_fsdb(mgs, fsdb);
550         return rc;
551 }
552
553 /* NID table can be cached by two entities: Clients and MDTs */
554 enum {
555         IR_CLIENT  = 1,
556         IR_MDT     = 2
557 };
558
559 static int delogname(char *logname, char *fsname, int *typ)
560 {
561         char *ptr;
562         int   type;
563         int   len;
564
565         ptr = strrchr(logname, '-');
566         if (ptr == NULL)
567                 return -EINVAL;
568
569         /* decouple file system name. The llog name may be:
570          * - "prefix-fsname", prefix is "cliir" or "mdtir"
571          */
572         if (strncmp(ptr, "-mdtir", 6) == 0)
573                 type = IR_MDT;
574         else if (strncmp(ptr, "-cliir", 6) == 0)
575                 type = IR_CLIENT;
576         else
577                 return -EINVAL;
578
579         len = ptr - logname;
580         if (len == 0)
581                 return -EINVAL;
582
583         memcpy(fsname, logname, len);
584         fsname[len] = 0;
585         if (typ)
586                 *typ = type;
587         return 0;
588 }
589
590 int mgs_get_ir_logs(struct ptlrpc_request *req)
591 {
592         struct lu_env     *env = req->rq_svc_thread->t_env;
593         struct mgs_device *mgs = exp2mgs_dev(req->rq_export);
594         struct fs_db *fsdb = NULL;
595         struct mgs_config_body  *body;
596         struct mgs_config_res   *res;
597         struct ptlrpc_bulk_desc *desc;
598         struct l_wait_info lwi;
599         char               fsname[16];
600         long               bufsize;
601         int                unit_size;
602         int                type;
603         int                rc = 0;
604         int                i;
605         int                bytes;
606         int                page_count;
607         int                nrpages;
608         struct page       **pages = NULL;
609         ENTRY;
610
611         body = req_capsule_client_get(&req->rq_pill, &RMF_MGS_CONFIG_BODY);
612         if (body == NULL)
613                 RETURN(-EINVAL);
614
615         if (body->mcb_type != CONFIG_T_RECOVER)
616                 RETURN(-EINVAL);
617
618         rc = delogname(body->mcb_name, fsname, &type);
619         if (rc)
620                 RETURN(rc);
621
622         bufsize = body->mcb_units << body->mcb_bits;
623         nrpages = (bufsize + PAGE_SIZE - 1) >> PAGE_SHIFT;
624         if (nrpages > PTLRPC_MAX_BRW_PAGES)
625                 RETURN(-EINVAL);
626
627         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
628         if (rc)
629                 RETURN(rc);
630
631         CDEBUG(D_MGS, "Reading IR log %s bufsize %ld.\n",
632                body->mcb_name, bufsize);
633
634         OBD_ALLOC(pages, sizeof(*pages) * nrpages);
635         if (!pages)
636                 GOTO(out, rc = -ENOMEM);
637
638         res = req_capsule_server_get(&req->rq_pill, &RMF_MGS_CONFIG_RES);
639         if (!res)
640                 GOTO(out, rc = -EINVAL);
641
642         res->mcr_offset = body->mcb_offset;
643         unit_size = min_t(int, 1 << body->mcb_bits, PAGE_SIZE);
644         bytes = mgs_nidtbl_read(req->rq_export, &fsdb->fsdb_nidtbl, res,
645                                 pages, nrpages, bufsize / unit_size, unit_size);
646         if (bytes < 0)
647                 GOTO(out, rc = bytes);
648
649         /* start bulk transfer */
650         page_count = (bytes + PAGE_SIZE - 1) >> PAGE_SHIFT;
651         LASSERT(page_count <= nrpages);
652         desc = ptlrpc_prep_bulk_exp(req, page_count, 1,
653                                     PTLRPC_BULK_PUT_SOURCE |
654                                         PTLRPC_BULK_BUF_KIOV,
655                                     MGS_BULK_PORTAL,
656                                     &ptlrpc_bulk_kiov_pin_ops);
657         if (!desc)
658                 GOTO(out, rc = -ENOMEM);
659
660         for (i = 0; i < page_count && bytes > 0; i++) {
661                 desc->bd_frag_ops->add_kiov_frag(desc, pages[i], 0,
662                                                  min_t(int, bytes,
663                                                       PAGE_SIZE));
664                 bytes -= PAGE_SIZE;
665         }
666
667         rc = target_bulk_io(req->rq_export, desc, &lwi);
668         ptlrpc_free_bulk(desc);
669
670         GOTO(out, rc);
671
672 out:
673         if (pages) {
674                 for (i = 0; i < nrpages; i++) {
675                         if (!pages[i])
676                                 break;
677
678                         __free_page(pages[i]);
679                 }
680
681                 OBD_FREE(pages, sizeof(*pages) * nrpages);
682         }
683
684         if (fsdb)
685                 mgs_put_fsdb(mgs, fsdb);
686
687         return rc;
688 }
689
690 static int lprocfs_ir_set_state(struct fs_db *fsdb, const char *buf)
691 {
692         const char *strings[] = IR_STRINGS;
693         int         state = -1;
694         int         i;
695
696         for (i = 0; i < ARRAY_SIZE(strings); i++) {
697                 if (strcmp(strings[i], buf) == 0) {
698                         state = i;
699                         break;
700                 }
701         }
702         if (state < 0)
703                 return -EINVAL;
704
705         CDEBUG(D_MGS, "change fsr state of %s from %s to %s\n",
706                fsdb->fsdb_name, strings[fsdb->fsdb_ir_state], strings[state]);
707         mutex_lock(&fsdb->fsdb_mutex);
708         if (state == IR_FULL && fsdb->fsdb_nonir_clients)
709                 state = IR_PARTIAL;
710         fsdb->fsdb_ir_state = state;
711         mutex_unlock(&fsdb->fsdb_mutex);
712
713         return 0;
714 }
715
716 static int lprocfs_ir_set_timeout(struct fs_db *fsdb, const char *buf)
717 {
718         return -EINVAL;
719 }
720
721 static int lprocfs_ir_clear_stats(struct fs_db *fsdb, const char *buf)
722 {
723         if (*buf)
724                 return -EINVAL;
725
726         fsdb->fsdb_notify_total = ktime_set(0, 0);
727         fsdb->fsdb_notify_max = ktime_set(0, 0);
728         fsdb->fsdb_notify_count = 0;
729         return 0;
730 }
731
732 static struct lproc_ir_cmd {
733         char *name;
734         int   namelen;
735         int (*handler)(struct fs_db *, const char *);
736 } ir_cmds[] = {
737         { "state=",   6, lprocfs_ir_set_state },
738         { "timeout=", 8, lprocfs_ir_set_timeout },
739         { "0",        1, lprocfs_ir_clear_stats }
740 };
741
742 int lprocfs_wr_ir_state(struct file *file, const char __user *buffer,
743                         size_t count, void *data)
744 {
745         struct fs_db *fsdb = data;
746         char *kbuf;
747         char *ptr;
748         int rc = 0;
749
750         if (count == 0 || count >= PAGE_SIZE)
751                 return -EINVAL;
752
753         OBD_ALLOC(kbuf, count + 1);
754         if (kbuf == NULL)
755                 return -ENOMEM;
756
757         if (copy_from_user(kbuf, buffer, count)) {
758                 OBD_FREE(kbuf, count + 1);
759                 return -EFAULT;
760         }
761
762         kbuf[count] = 0; /* buffer is supposed to end with 0 */
763         if (kbuf[count - 1] == '\n')
764                 kbuf[count - 1] = 0;
765         ptr = kbuf;
766
767         /* fsname=<file system name> must be the 1st entry */
768         while (ptr != NULL) {
769                 char *tmpptr;
770                 int i;
771
772                 tmpptr = strchr(ptr, ';');
773                 if (tmpptr)
774                         *tmpptr++ = 0;
775
776                 rc = -EINVAL;
777                 for (i = 0; i < ARRAY_SIZE(ir_cmds); i++) {
778                         struct lproc_ir_cmd *cmd;
779                         int cmdlen;
780
781                         cmd    = &ir_cmds[i];
782                         cmdlen = cmd->namelen;
783                         if (strncmp(cmd->name, ptr, cmdlen) == 0) {
784                                 ptr += cmdlen;
785                                 rc = cmd->handler(fsdb, ptr);
786                                 break;
787                         }
788                 }
789                 if (rc)
790                         break;
791
792                 ptr = tmpptr;
793         }
794         if (rc)
795                 CERROR("Unable to process command: %s(%d)\n", ptr, rc);
796         OBD_FREE(kbuf, count + 1);
797         return rc ?: count;
798 }
799
800 int lprocfs_rd_ir_state(struct seq_file *seq, void *data)
801 {
802         struct fs_db *fsdb = data;
803         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
804         const char *ir_strings[] = IR_STRINGS;
805         struct timespec64 ts_max;
806         struct timespec64 ts;
807
808         /* mgs_live_seq_show() already holds fsdb_mutex. */
809         ir_state_graduate(fsdb);
810
811         seq_printf(seq, "\nimperative_recovery_state:\n");
812         seq_printf(seq,
813                    "    state: %s\n"
814                    "    nonir_clients: %d\n"
815                    "    nidtbl_version: %lld\n",
816                    ir_strings[fsdb->fsdb_ir_state], fsdb->fsdb_nonir_clients,
817                    tbl->mn_version);
818
819         ts = ktime_to_timespec64(fsdb->fsdb_notify_total);
820         ts_max = ktime_to_timespec64(fsdb->fsdb_notify_max);
821
822         seq_printf(seq, "    notify_duration_total: %lld.%09ld\n"
823                         "    notify_duation_max: %lld.%09ld\n"
824                         "    notify_count: %u\n",
825                    (s64)ts.tv_sec, ts.tv_nsec,
826                    (s64)ts_max.tv_sec, ts_max.tv_nsec,
827                    fsdb->fsdb_notify_count);
828
829         return 0;
830 }
831
832 int lprocfs_ir_timeout_seq_show(struct seq_file *m, void *data)
833 {
834         return lprocfs_u64_seq_show(m, &ir_timeout);
835 }
836
837 ssize_t lprocfs_ir_timeout_seq_write(struct file *file,
838                                      const char __user *buffer,
839                                      size_t count, loff_t *off)
840 {
841         return lprocfs_wr_uint(file, buffer, count, &ir_timeout);
842 }
843
844 /* --------------- Handle non IR support clients --------------- */
845 /* attach a lustre file system to an export */
846 int mgs_fsc_attach(const struct lu_env *env, struct obd_export *exp,
847                    char *fsname)
848 {
849         struct mgs_export_data *data = &exp->u.eu_mgs_data;
850         struct mgs_device *mgs = exp2mgs_dev(exp);
851         struct fs_db *fsdb = NULL;
852         struct mgs_fsc    *fsc     = NULL;
853         struct mgs_fsc    *new_fsc = NULL;
854         bool               found   = false;
855         int                rc;
856         ENTRY;
857
858         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
859         if (rc)
860                 RETURN(rc);
861
862         /* allocate a new fsc in case we need it in spinlock. */
863         OBD_ALLOC_PTR(new_fsc);
864         if (!new_fsc)
865                 GOTO(out, rc = -ENOMEM);
866
867         INIT_LIST_HEAD(&new_fsc->mfc_export_list);
868         INIT_LIST_HEAD(&new_fsc->mfc_fsdb_list);
869         new_fsc->mfc_fsdb       = fsdb;
870         new_fsc->mfc_export     = class_export_get(exp);
871         new_fsc->mfc_ir_capable = !!(exp_connect_flags(exp) &
872                                      OBD_CONNECT_IMP_RECOV);
873
874         rc = -EEXIST;
875         mutex_lock(&fsdb->fsdb_mutex);
876
877         /* tend to find it in export list because this list is shorter. */
878         spin_lock(&data->med_lock);
879         list_for_each_entry(fsc, &data->med_clients, mfc_export_list) {
880                 if (strcmp(fsname, fsc->mfc_fsdb->fsdb_name) == 0) {
881                         found = true;
882                         break;
883                 }
884         }
885         if (!found) {
886                 fsc = new_fsc;
887                 new_fsc = NULL;
888
889                 /* add it into export list. */
890                 list_add(&fsc->mfc_export_list, &data->med_clients);
891
892                 /* add into fsdb list. */
893                 list_add(&fsc->mfc_fsdb_list, &fsdb->fsdb_clients);
894                 if (!fsc->mfc_ir_capable) {
895                         ++fsdb->fsdb_nonir_clients;
896                         if (fsdb->fsdb_ir_state == IR_FULL)
897                                 fsdb->fsdb_ir_state = IR_PARTIAL;
898                 }
899                 rc = 0;
900         }
901         spin_unlock(&data->med_lock);
902         mutex_unlock(&fsdb->fsdb_mutex);
903
904         if (new_fsc) {
905                 class_export_put(new_fsc->mfc_export);
906                 OBD_FREE_PTR(new_fsc);
907         }
908
909 out:
910         mgs_put_fsdb(mgs, fsdb);
911         RETURN(rc);
912 }
913
914 void mgs_fsc_cleanup(struct obd_export *exp)
915 {
916         struct mgs_export_data *data = &exp->u.eu_mgs_data;
917         struct mgs_fsc *fsc, *tmp;
918         struct list_head head = LIST_HEAD_INIT(head);
919
920         spin_lock(&data->med_lock);
921         list_splice_init(&data->med_clients, &head);
922         spin_unlock(&data->med_lock);
923
924         list_for_each_entry_safe(fsc, tmp, &head, mfc_export_list) {
925                 struct fs_db *fsdb = fsc->mfc_fsdb;
926
927                 LASSERT(fsc->mfc_export == exp);
928
929                 mutex_lock(&fsdb->fsdb_mutex);
930                 list_del_init(&fsc->mfc_fsdb_list);
931                 if (fsc->mfc_ir_capable == 0) {
932                         --fsdb->fsdb_nonir_clients;
933                         LASSERT(fsdb->fsdb_ir_state != IR_FULL);
934                         if (fsdb->fsdb_nonir_clients == 0 &&
935                             fsdb->fsdb_ir_state == IR_PARTIAL)
936                                 fsdb->fsdb_ir_state = IR_FULL;
937                 }
938                 mutex_unlock(&fsdb->fsdb_mutex);
939                 list_del_init(&fsc->mfc_export_list);
940                 class_export_put(fsc->mfc_export);
941                 OBD_FREE_PTR(fsc);
942         }
943 }
944
945 /* must be called with fsdb->fsdb_mutex held */
946 void mgs_fsc_cleanup_by_fsdb(struct fs_db *fsdb)
947 {
948         struct mgs_fsc *fsc, *tmp;
949
950         list_for_each_entry_safe(fsc, tmp, &fsdb->fsdb_clients,
951                                      mfc_fsdb_list) {
952                 struct mgs_export_data *data = &fsc->mfc_export->u.eu_mgs_data;
953
954                 LASSERT(fsdb == fsc->mfc_fsdb);
955                 list_del_init(&fsc->mfc_fsdb_list);
956
957                 spin_lock(&data->med_lock);
958                 list_del_init(&fsc->mfc_export_list);
959                 spin_unlock(&data->med_lock);
960                 class_export_put(fsc->mfc_export);
961                 OBD_FREE_PTR(fsc);
962         }
963
964         fsdb->fsdb_nonir_clients = 0;
965         if (fsdb->fsdb_ir_state == IR_PARTIAL)
966                 fsdb->fsdb_ir_state = IR_FULL;
967 }