lustre/mgs/mgs_nids.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2017, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  *
  31  * lustre/mgs/mgs_nids.c
  32  *
  33  * NID table management for lustre.
  34  *
  35  * Author: Jinshan Xiong <jinshan.xiong@whamcloud.com>
  36  */
  37
  38 #define DEBUG_SUBSYSTEM S_MGS
  39 #define D_MGS D_CONFIG
  40
  41 #include <linux/kthread.h>
  42 #include <linux/pagemap.h>
  43
  44 #include <obd.h>
  45 #include <obd_class.h>
  46 #include <lustre_disk.h>
  47
  48 #include "mgs_internal.h"
  49
  50 static time64_t ir_timeout;
  51
  52 static int nidtbl_is_sane(struct mgs_nidtbl *tbl)
  53 {
  54         struct mgs_nidtbl_target *tgt;
  55         int version = 0;
  56
  57         LASSERT(mutex_is_locked(&tbl->mn_lock));
  58         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
  59                 if (!tgt->mnt_version)
  60                         continue;
  61
  62                 if (version >= tgt->mnt_version)
  63                         return 0;
  64
  65                 version = tgt->mnt_version;
  66         }
  67         return 1;
  68 }
  69
  70 /**
  71  * Fetch nidtbl entries whose version are not less than @version
  72  * nidtbl entries will be packed in @pages by @unit_size units - entries
  73  * shouldn't cross unit boundaries.
  74  */
  75 static int mgs_nidtbl_read(struct obd_export *exp, struct mgs_nidtbl *tbl,
  76                            struct mgs_config_res *res, struct page **pages,
  77                            int nrpages, int units_total, int unit_size)
  78 {
  79         struct mgs_nidtbl_target *tgt;
  80         struct mgs_nidtbl_entry *entry;
  81         struct mgs_nidtbl_entry *last_in_unit = NULL;
  82         struct mgs_target_info *mti;
  83         __u64 version = res->mcr_offset;
  84         bool nobuf = false;
  85         void *buf = NULL;
  86         int bytes_in_unit = 0;
  87         int units_in_page = 0;
  88         int index = 0;
  89         int rc = 0;
  90
  91         ENTRY;
  92
  93         /* make sure unit_size is power 2 */
  94         LASSERT((unit_size & (unit_size - 1)) == 0);
  95         LASSERT(nrpages << PAGE_SHIFT >= units_total * unit_size);
  96
  97         mutex_lock(&tbl->mn_lock);
  98         LASSERT(nidtbl_is_sane(tbl));
  99
 100         /* no more entries ? */
 101         if (version > tbl->mn_version) {
 102                 version = tbl->mn_version;
 103                 goto out;
 104         }
 105
 106         /*
 107          * iterate over all targets to compose a bitmap by the type of llog.
 108          * If the llog is for MDTs, llog entries for OSTs will be returned;
 109          * otherwise, it's for clients, then llog entries for both OSTs and
 110          * MDTs will be returned.
 111          */
 112         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
 113                 int entry_len = sizeof(*entry);
 114
 115                 if (tgt->mnt_version < version)
 116                         continue;
 117
 118                 /* write target recover information */
 119                 mti  = &tgt->mnt_mti;
 120                 LASSERT(mti->mti_nid_count < MTI_NIDS_MAX);
 121                 entry_len += mti->mti_nid_count * sizeof(lnet_nid_t);
 122
 123                 if (entry_len > unit_size) {
 124                         CWARN("nidtbl: too large entry: entry length %d, unit size: %d\n",
 125                               entry_len, unit_size);
 126                         GOTO(out, rc = -EOVERFLOW);
 127                 }
 128
 129                 if (bytes_in_unit < entry_len) {
 130                         if (units_total == 0) {
 131                                 nobuf = true;
 132                                 break;
 133                         }
 134
 135                         /* check if we need to consume remaining bytes. */
 136                         if (last_in_unit && bytes_in_unit) {
 137                                 last_in_unit->mne_length += bytes_in_unit;
 138                                 rc  += bytes_in_unit;
 139                                 buf += bytes_in_unit;
 140                                 last_in_unit = NULL;
 141                         }
 142                         LASSERT((rc & (unit_size - 1)) == 0);
 143
 144                         if (units_in_page == 0) {
 145                                 /* allocate a new page */
 146                                 pages[index] = alloc_page(GFP_KERNEL);
 147                                 if (!pages[index]) {
 148                                         rc = -ENOMEM;
 149                                         break;
 150                                 }
 151
 152                                 /* destroy previous map */
 153                                 if (index > 0)
 154                                         kunmap(pages[index - 1]);
 155
 156                                 /* reassign buffer */
 157                                 buf = kmap(pages[index]);
 158                                 ++index;
 159
 160                                 units_in_page = PAGE_SIZE / unit_size;
 161                                 LASSERT(units_in_page > 0);
 162                         }
 163
 164                         /* allocate an unit */
 165                         LASSERT(((long)buf & (unit_size - 1)) == 0);
 166                         bytes_in_unit = unit_size;
 167                         --units_in_page;
 168                         --units_total;
 169                 }
 170
 171                 /* fill in entry. */
 172                 entry = (struct mgs_nidtbl_entry *)buf;
 173                 entry->mne_version   = tgt->mnt_version;
 174                 entry->mne_instance  = mti->mti_instance;
 175                 entry->mne_index     = mti->mti_stripe_index;
 176                 entry->mne_length    = entry_len;
 177                 entry->mne_type      = tgt->mnt_type;
 178                 entry->mne_nid_type  = 0;
 179                 entry->mne_nid_size  = sizeof(lnet_nid_t);
 180                 entry->mne_nid_count = mti->mti_nid_count;
 181                 memcpy(entry->u.nids, mti->mti_nids,
 182                        mti->mti_nid_count * sizeof(lnet_nid_t));
 183
 184                 version = tgt->mnt_version;
 185                 rc     += entry_len;
 186                 buf    += entry_len;
 187
 188                 bytes_in_unit -= entry_len;
 189                 last_in_unit   = entry;
 190
 191                 CDEBUG(D_MGS, "fsname %s, entry size %d, pages %d/%d/%d/%d.\n",
 192                        tbl->mn_fsdb->fsdb_name, entry_len,
 193                        bytes_in_unit, index, nrpages, units_total);
 194         }
 195         if (index > 0)
 196                 kunmap(pages[index - 1]);
 197 out:
 198         LASSERT(version <= tbl->mn_version);
 199         res->mcr_size = tbl->mn_version;
 200         res->mcr_offset = nobuf ? version : tbl->mn_version;
 201         mutex_unlock(&tbl->mn_lock);
 202         LASSERT(ergo(version == 1, rc == 0)); /* get the log first time */
 203
 204         CDEBUG(D_MGS, "Read IR logs %s return with %d, version %llu\n",
 205                tbl->mn_fsdb->fsdb_name, rc, version);
 206         RETURN(rc);
 207 }
 208
 209 static int nidtbl_update_version(const struct lu_env *env,
 210                                  struct mgs_device *mgs,
 211                                  struct mgs_nidtbl *tbl)
 212 {
 213         struct dt_object *fsdb;
 214         struct thandle *th;
 215         u64 version;
 216         struct lu_buf buf = {
 217                         .lb_buf = &version,
 218                         .lb_len = sizeof(version)
 219         };
 220         loff_t off = 0;
 221         int rc;
 222
 223         ENTRY;
 224
 225         if (mgs->mgs_bottom->dd_rdonly)
 226                 RETURN(0);
 227
 228         LASSERT(mutex_is_locked(&tbl->mn_lock));
 229
 230         fsdb = local_file_find_or_create(env, mgs->mgs_los, mgs->mgs_nidtbl_dir,
 231                                          tbl->mn_fsdb->fsdb_name,
 232                                          S_IFREG | S_IRUGO | S_IWUSR);
 233         if (IS_ERR(fsdb))
 234                 RETURN(PTR_ERR(fsdb));
 235
 236         th = dt_trans_create(env, mgs->mgs_bottom);
 237         if (IS_ERR(th))
 238                 GOTO(out_put, rc = PTR_ERR(th));
 239
 240         th->th_sync = 1; /* update table synchronously */
 241         rc = dt_declare_record_write(env, fsdb, &buf, off, th);
 242         if (rc)
 243                 GOTO(out, rc);
 244
 245         rc = dt_trans_start_local(env, mgs->mgs_bottom, th);
 246         if (rc)
 247                 GOTO(out, rc);
 248
 249         version = cpu_to_le64(tbl->mn_version);
 250         rc = dt_record_write(env, fsdb, &buf, &off, th);
 251
 252 out:
 253         dt_trans_stop(env, mgs->mgs_bottom, th);
 254 out_put:
 255         dt_object_put(env, fsdb);
 256         RETURN(rc);
 257 }
 258
 259 #define MGS_NIDTBL_VERSION_INIT 2
 260
 261 static int nidtbl_read_version(const struct lu_env *env,
 262                                struct mgs_device *mgs, struct mgs_nidtbl *tbl,
 263                                u64 *version)
 264 {
 265         struct dt_object *fsdb;
 266         struct lu_fid fid;
 267         u64 tmpver;
 268         struct lu_buf buf = {
 269                 .lb_buf = &tmpver,
 270                 .lb_len = sizeof(tmpver)
 271         };
 272         loff_t off = 0;
 273         int rc;
 274
 275         ENTRY;
 276
 277         LASSERT(mutex_is_locked(&tbl->mn_lock));
 278
 279         LASSERT(mgs->mgs_nidtbl_dir);
 280         rc = dt_lookup_dir(env, mgs->mgs_nidtbl_dir, tbl->mn_fsdb->fsdb_name,
 281                            &fid);
 282         if (rc == -ENOENT) {
 283                 *version = MGS_NIDTBL_VERSION_INIT;
 284                 RETURN(0);
 285         } else if (rc < 0) {
 286                 RETURN(rc);
 287         }
 288
 289         fsdb = dt_locate_at(env, mgs->mgs_bottom, &fid,
 290                             &mgs->mgs_dt_dev.dd_lu_dev, NULL);
 291         if (IS_ERR(fsdb))
 292                 RETURN(PTR_ERR(fsdb));
 293
 294         rc = dt_read(env, fsdb, &buf, &off);
 295         if (rc == buf.lb_len) {
 296                 *version = le64_to_cpu(tmpver);
 297                 rc = 0;
 298         } else if (rc == 0) {
 299                 *version = MGS_NIDTBL_VERSION_INIT;
 300         } else {
 301                 CERROR("%s: read version file %s error %d\n",
 302                        mgs->mgs_obd->obd_name, tbl->mn_fsdb->fsdb_name, rc);
 303         }
 304         dt_object_put(env, fsdb);
 305         RETURN(rc);
 306 }
 307
 308 static int mgs_nidtbl_write(const struct lu_env *env, struct fs_db *fsdb,
 309                             struct mgs_target_info *mti)
 310 {
 311         struct mgs_nidtbl *tbl;
 312         struct mgs_nidtbl_target *tgt;
 313         bool found = false;
 314         int type = mti->mti_flags & LDD_F_SV_TYPE_MASK;
 315         int rc = 0;
 316
 317         ENTRY;
 318
 319         type &= ~LDD_F_SV_TYPE_MGS;
 320         LASSERT(type != 0);
 321
 322         tbl = &fsdb->fsdb_nidtbl;
 323         mutex_lock(&tbl->mn_lock);
 324         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
 325                 struct mgs_target_info *info = &tgt->mnt_mti;
 326
 327                 if (type == tgt->mnt_type &&
 328                     mti->mti_stripe_index == info->mti_stripe_index) {
 329                         found = true;
 330                         break;
 331                 }
 332         }
 333         if (!found) {
 334                 OBD_ALLOC_PTR(tgt);
 335                 if (!tgt)
 336                         GOTO(out, rc = -ENOMEM);
 337
 338                 INIT_LIST_HEAD(&tgt->mnt_list);
 339                 tgt->mnt_fs = tbl;
 340                 tgt->mnt_version = 0; /* 0 means invalid */
 341                 tgt->mnt_type = type;
 342
 343                 ++tbl->mn_nr_targets;
 344         }
 345
 346         tgt->mnt_version = ++tbl->mn_version;
 347         tgt->mnt_mti     = *mti;
 348
 349         list_move_tail(&tgt->mnt_list, &tbl->mn_targets);
 350
 351         rc = nidtbl_update_version(env, fsdb->fsdb_mgs, tbl);
 352         EXIT;
 353
 354 out:
 355         mutex_unlock(&tbl->mn_lock);
 356         if (rc)
 357                 CERROR("Write NID table version for file system %s error %d\n",
 358                        fsdb->fsdb_name, rc);
 359         return rc;
 360 }
 361
 362 static void mgs_nidtbl_fini_fs(struct fs_db *fsdb)
 363 {
 364         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
 365         LIST_HEAD(head);
 366
 367         mutex_lock(&tbl->mn_lock);
 368         tbl->mn_nr_targets = 0;
 369         list_splice_init(&tbl->mn_targets, &head);
 370         mutex_unlock(&tbl->mn_lock);
 371
 372         while (!list_empty(&head)) {
 373                 struct mgs_nidtbl_target *tgt;
 374
 375                 tgt = list_entry(head.next, struct mgs_nidtbl_target, mnt_list);
 376                 list_del(&tgt->mnt_list);
 377                 OBD_FREE_PTR(tgt);
 378         }
 379 }
 380
 381 static int mgs_nidtbl_init_fs(const struct lu_env *env, struct fs_db *fsdb)
 382 {
 383         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
 384         int rc;
 385
 386         INIT_LIST_HEAD(&tbl->mn_targets);
 387         mutex_init(&tbl->mn_lock);
 388         tbl->mn_nr_targets = 0;
 389         tbl->mn_fsdb = fsdb;
 390         mutex_lock(&tbl->mn_lock);
 391         rc = nidtbl_read_version(env, fsdb->fsdb_mgs, tbl, &tbl->mn_version);
 392         mutex_unlock(&tbl->mn_lock);
 393         if (rc < 0)
 394                 CERROR("%s: IR: failed to read current version, rc = %d\n",
 395                        fsdb->fsdb_mgs->mgs_obd->obd_name, rc);
 396         else
 397                 CDEBUG(D_MGS, "IR: current version is %llu\n",
 398                        tbl->mn_version);
 399
 400         return rc;
 401 }
 402
 403 /* --------- Imperative Recovery relies on nidtbl stuff ------- */
 404 void mgs_ir_notify_complete(struct fs_db *fsdb)
 405 {
 406         struct timespec64 ts;
 407         ktime_t delta;
 408
 409         atomic_set(&fsdb->fsdb_notify_phase, 0);
 410
 411         /* do statistic */
 412         fsdb->fsdb_notify_count++;
 413         delta = ktime_sub(ktime_get(), fsdb->fsdb_notify_start);
 414         fsdb->fsdb_notify_total = ktime_add(fsdb->fsdb_notify_total, delta);
 415         if (ktime_after(delta, fsdb->fsdb_notify_max))
 416                 fsdb->fsdb_notify_max = delta;
 417
 418         ts = ktime_to_timespec64(fsdb->fsdb_notify_max);
 419         CDEBUG(D_MGS, "Revoke recover lock of %s completed after %lld.%09lds\n",
 420                fsdb->fsdb_name, (s64)ts.tv_sec, ts.tv_nsec);
 421 }
 422
 423 static int mgs_ir_notify(void *arg)
 424 {
 425         struct fs_db *fsdb = arg;
 426         struct ldlm_res_id resid;
 427         char name[sizeof(fsdb->fsdb_name) + 16];
 428
 429         BUILD_BUG_ON(sizeof(name) >= 40); /* name is too large to be on stack */
 430
 431         snprintf(name, sizeof(name) - 1, "mgs_%s_notify", fsdb->fsdb_name);
 432         complete(&fsdb->fsdb_notify_comp);
 433         set_user_nice(current, -2);
 434         mgc_fsname2resid(fsdb->fsdb_name, &resid, CONFIG_T_RECOVER);
 435         while (1) {
 436                 wait_event_idle(fsdb->fsdb_notify_waitq,
 437                                 fsdb->fsdb_notify_stop ||
 438                                 atomic_read(&fsdb->fsdb_notify_phase));
 439
 440                 if (fsdb->fsdb_notify_stop)
 441                         break;
 442
 443                 CDEBUG(D_MGS, "%s woken up, phase is %d\n",
 444                        name, atomic_read(&fsdb->fsdb_notify_phase));
 445
 446                 fsdb->fsdb_notify_start = ktime_get();
 447                 mgs_revoke_lock(fsdb->fsdb_mgs, fsdb, CONFIG_T_RECOVER);
 448         }
 449
 450         complete(&fsdb->fsdb_notify_comp);
 451         return 0;
 452 }
 453
 454 int mgs_ir_init_fs(const struct lu_env *env, struct mgs_device *mgs,
 455                    struct fs_db *fsdb)
 456 {
 457         struct task_struct *task;
 458
 459         if (!ir_timeout)
 460                 ir_timeout = (time64_t)OBD_IR_MGS_TIMEOUT;
 461
 462         fsdb->fsdb_ir_state = IR_FULL;
 463         if (mgs->mgs_start_time + ir_timeout > ktime_get_real_seconds())
 464                 fsdb->fsdb_ir_state = IR_STARTUP;
 465         fsdb->fsdb_nonir_clients = 0;
 466         /* start notify thread */
 467         fsdb->fsdb_mgs = mgs;
 468         task = kthread_run(mgs_ir_notify, fsdb,
 469                                "mgs_%s_notify", fsdb->fsdb_name);
 470         if (!IS_ERR(task))
 471                 wait_for_completion(&fsdb->fsdb_notify_comp);
 472         else
 473                 CERROR("Start notify thread error %ld\n", PTR_ERR(task));
 474
 475         mgs_nidtbl_init_fs(env, fsdb);
 476         return 0;
 477 }
 478
 479 void mgs_ir_fini_fs(struct mgs_device *mgs, struct fs_db *fsdb)
 480 {
 481         if (test_bit(FSDB_MGS_SELF, &fsdb->fsdb_flags))
 482                 return;
 483
 484         mgs_fsc_cleanup_by_fsdb(fsdb);
 485
 486         mgs_nidtbl_fini_fs(fsdb);
 487
 488         LASSERT(list_empty(&fsdb->fsdb_clients));
 489
 490         fsdb->fsdb_notify_stop = 1;
 491         wake_up(&fsdb->fsdb_notify_waitq);
 492         wait_for_completion(&fsdb->fsdb_notify_comp);
 493 }
 494
 495 /* caller must have held fsdb_mutex */
 496 static inline void ir_state_graduate(struct fs_db *fsdb)
 497 {
 498         if (fsdb->fsdb_ir_state == IR_STARTUP) {
 499                 if (ktime_get_real_seconds() >
 500                     fsdb->fsdb_mgs->mgs_start_time + ir_timeout) {
 501                         fsdb->fsdb_ir_state = IR_FULL;
 502                         if (fsdb->fsdb_nonir_clients)
 503                                 fsdb->fsdb_ir_state = IR_PARTIAL;
 504                 }
 505         }
 506 }
 507
 508 int mgs_ir_update(const struct lu_env *env, struct mgs_device *mgs,
 509                   struct mgs_target_info *mti)
 510 {
 511         struct fs_db *fsdb;
 512         bool notify = true;
 513         int rc;
 514
 515         if (mti->mti_instance == 0)
 516                 return -EINVAL;
 517
 518         rc = mgs_find_or_make_fsdb(env, mgs, mti->mti_fsname, &fsdb);
 519         if (rc)
 520                 return rc;
 521
 522         rc = mgs_nidtbl_write(env, fsdb, mti);
 523         if (rc)
 524                 GOTO(out, rc);
 525
 526         /* check ir state */
 527         mutex_lock(&fsdb->fsdb_mutex);
 528         ir_state_graduate(fsdb);
 529         switch (fsdb->fsdb_ir_state) {
 530         case IR_FULL:
 531                 mti->mti_flags |= LDD_F_IR_CAPABLE;
 532                 break;
 533         case IR_DISABLED:
 534                 notify = false;
 535         case IR_STARTUP:
 536         case IR_PARTIAL:
 537                 break;
 538         default:
 539                 LBUG();
 540         }
 541         mutex_unlock(&fsdb->fsdb_mutex);
 542
 543         LASSERT(ergo(mti->mti_flags & LDD_F_IR_CAPABLE, notify));
 544         if (notify) {
 545                 CDEBUG(D_MGS, "Try to revoke recover lock of %s\n",
 546                        fsdb->fsdb_name);
 547                 atomic_inc(&fsdb->fsdb_notify_phase);
 548                 wake_up(&fsdb->fsdb_notify_waitq);
 549         }
 550
 551 out:
 552         mgs_put_fsdb(mgs, fsdb);
 553         return rc;
 554 }
 555
 556 /* NID table can be cached by two entities: Clients and MDTs */
 557 enum {
 558         IR_CLIENT  = 1,
 559         IR_MDT     = 2
 560 };
 561
 562 static int delogname(char *logname, char *fsname, int *typ)
 563 {
 564         char *ptr;
 565         int type;
 566         int len;
 567
 568         ptr = strrchr(logname, '-');
 569         if (!ptr)
 570                 return -EINVAL;
 571
 572         /*
 573          * decouple file system name. The llog name may be:
 574          * - "prefix-fsname", prefix is "cliir" or "mdtir"
 575          */
 576         if (strncmp(ptr, "-mdtir", 6) == 0)
 577                 type = IR_MDT;
 578         else if (strncmp(ptr, "-cliir", 6) == 0)
 579                 type = IR_CLIENT;
 580         else
 581                 return -EINVAL;
 582
 583         len = ptr - logname;
 584         if (len == 0)
 585                 return -EINVAL;
 586
 587         memcpy(fsname, logname, len);
 588         fsname[len] = 0;
 589         if (typ)
 590                 *typ = type;
 591         return 0;
 592 }
 593
 594 int mgs_get_ir_logs(struct ptlrpc_request *req)
 595 {
 596         struct lu_env *env = req->rq_svc_thread->t_env;
 597         struct mgs_device *mgs = exp2mgs_dev(req->rq_export);
 598         struct fs_db *fsdb = NULL;
 599         struct mgs_config_body *body;
 600         struct mgs_config_res *res;
 601         struct ptlrpc_bulk_desc *desc;
 602         char fsname[16];
 603         long bufsize;
 604         int unit_size;
 605         int type;
 606         int rc = 0;
 607         int i;
 608         int bytes;
 609         int page_count;
 610         int nrpages;
 611         struct page **pages = NULL;
 612
 613         ENTRY;
 614
 615         body = req_capsule_client_get(&req->rq_pill, &RMF_MGS_CONFIG_BODY);
 616         if (!body)
 617                 RETURN(-EINVAL);
 618
 619         if (body->mcb_type != CONFIG_T_RECOVER)
 620                 RETURN(-EINVAL);
 621
 622         rc = delogname(body->mcb_name, fsname, &type);
 623         if (rc)
 624                 RETURN(rc);
 625
 626         bufsize = body->mcb_units << body->mcb_bits;
 627         nrpages = (bufsize + PAGE_SIZE - 1) >> PAGE_SHIFT;
 628         if (nrpages > PTLRPC_MAX_BRW_PAGES)
 629                 RETURN(-EINVAL);
 630
 631         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
 632         if (rc)
 633                 RETURN(rc);
 634
 635         CDEBUG(D_MGS, "Reading IR log %s bufsize %ld.\n",
 636                body->mcb_name, bufsize);
 637
 638         OBD_ALLOC_PTR_ARRAY_LARGE(pages, nrpages);
 639         if (!pages)
 640                 GOTO(out, rc = -ENOMEM);
 641
 642         res = req_capsule_server_get(&req->rq_pill, &RMF_MGS_CONFIG_RES);
 643         if (!res)
 644                 GOTO(out, rc = -EINVAL);
 645
 646         res->mcr_offset = body->mcb_offset;
 647         unit_size = min_t(int, 1 << body->mcb_bits, PAGE_SIZE);
 648         bytes = mgs_nidtbl_read(req->rq_export, &fsdb->fsdb_nidtbl, res,
 649                                 pages, nrpages, bufsize / unit_size, unit_size);
 650         if (bytes < 0)
 651                 GOTO(out, rc = bytes);
 652
 653         /* start bulk transfer */
 654         page_count = (bytes + PAGE_SIZE - 1) >> PAGE_SHIFT;
 655         LASSERT(page_count <= nrpages);
 656         desc = ptlrpc_prep_bulk_exp(req, page_count, 1,
 657                                     PTLRPC_BULK_PUT_SOURCE,
 658                                     MGS_BULK_PORTAL,
 659                                     &ptlrpc_bulk_kiov_pin_ops);
 660         if (!desc)
 661                 GOTO(out, rc = -ENOMEM);
 662
 663         for (i = 0; i < page_count && bytes > 0; i++) {
 664                 desc->bd_frag_ops->add_kiov_frag(desc, pages[i], 0,
 665                                                  min_t(int, bytes,
 666                                                       PAGE_SIZE));
 667                 bytes -= PAGE_SIZE;
 668         }
 669
 670         rc = target_bulk_io(req->rq_export, desc);
 671         ptlrpc_free_bulk(desc);
 672
 673         GOTO(out, rc);
 674
 675 out:
 676         if (pages) {
 677                 for (i = 0; i < nrpages; i++) {
 678                         if (!pages[i])
 679                                 break;
 680
 681                         __free_page(pages[i]);
 682                 }
 683
 684                 OBD_FREE_PTR_ARRAY_LARGE(pages, nrpages);
 685         }
 686
 687         if (fsdb)
 688                 mgs_put_fsdb(mgs, fsdb);
 689
 690         return rc;
 691 }
 692
 693 static int lprocfs_ir_set_state(struct fs_db *fsdb, const char *buf)
 694 {
 695         const char *const strings[] = IR_STRINGS;
 696         int state = -1;
 697         int i;
 698
 699         for (i = 0; i < ARRAY_SIZE(strings); i++) {
 700                 if (strcmp(strings[i], buf) == 0) {
 701                         state = i;
 702                         break;
 703                 }
 704         }
 705         if (state < 0)
 706                 return -EINVAL;
 707
 708         CDEBUG(D_MGS, "change fsr state of %s from %s to %s\n",
 709                fsdb->fsdb_name, strings[fsdb->fsdb_ir_state], strings[state]);
 710         mutex_lock(&fsdb->fsdb_mutex);
 711         if (state == IR_FULL && fsdb->fsdb_nonir_clients)
 712                 state = IR_PARTIAL;
 713         fsdb->fsdb_ir_state = state;
 714         mutex_unlock(&fsdb->fsdb_mutex);
 715
 716         return 0;
 717 }
 718
 719 static int lprocfs_ir_set_timeout(struct fs_db *fsdb, const char *buf)
 720 {
 721         return -EINVAL;
 722 }
 723
 724 static int lprocfs_ir_clear_stats(struct fs_db *fsdb, const char *buf)
 725 {
 726         if (*buf)
 727                 return -EINVAL;
 728
 729         fsdb->fsdb_notify_total = ktime_set(0, 0);
 730         fsdb->fsdb_notify_max = ktime_set(0, 0);
 731         fsdb->fsdb_notify_count = 0;
 732         return 0;
 733 }
 734
 735 static struct lproc_ir_cmd {
 736         char *name;
 737         int namelen;
 738         int (*handler)(struct fs_db *, const char *);
 739 } ir_cmds[] = {
 740         { "state=",   6, lprocfs_ir_set_state },
 741         { "timeout=", 8, lprocfs_ir_set_timeout },
 742         { "0",        1, lprocfs_ir_clear_stats }
 743 };
 744
 745 int lprocfs_wr_ir_state(struct file *file, const char __user *buffer,
 746                         size_t count, void *data)
 747 {
 748         struct fs_db *fsdb = data;
 749         char *kbuf;
 750         char *ptr;
 751         int rc = 0;
 752
 753         if (count == 0 || count >= PAGE_SIZE)
 754                 return -EINVAL;
 755
 756         OBD_ALLOC(kbuf, count + 1);
 757         if (!kbuf)
 758                 return -ENOMEM;
 759
 760         if (copy_from_user(kbuf, buffer, count)) {
 761                 OBD_FREE(kbuf, count + 1);
 762                 return -EFAULT;
 763         }
 764
 765         kbuf[count] = 0; /* buffer is supposed to end with 0 */
 766         if (kbuf[count - 1] == '\n')
 767                 kbuf[count - 1] = 0;
 768         ptr = kbuf;
 769
 770         /* fsname=<file system name> must be the 1st entry */
 771         while (ptr) {
 772                 char *tmpptr;
 773                 int i;
 774
 775                 tmpptr = strchr(ptr, ';');
 776                 if (tmpptr)
 777                         *tmpptr++ = 0;
 778
 779                 rc = -EINVAL;
 780                 for (i = 0; i < ARRAY_SIZE(ir_cmds); i++) {
 781                         struct lproc_ir_cmd *cmd;
 782                         int cmdlen;
 783
 784                         cmd    = &ir_cmds[i];
 785                         cmdlen = cmd->namelen;
 786                         if (strncmp(cmd->name, ptr, cmdlen) == 0) {
 787                                 ptr += cmdlen;
 788                                 rc = cmd->handler(fsdb, ptr);
 789                                 break;
 790                         }
 791                 }
 792                 if (rc)
 793                         break;
 794
 795                 ptr = tmpptr;
 796         }
 797         if (rc)
 798                 CERROR("Unable to process command: %s(%d)\n", ptr, rc);
 799         OBD_FREE(kbuf, count + 1);
 800         return rc ?: count;
 801 }
 802
 803 int lprocfs_rd_ir_state(struct seq_file *seq, void *data)
 804 {
 805         struct fs_db *fsdb = data;
 806         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
 807         const char *const ir_strings[] = IR_STRINGS;
 808         struct timespec64 ts_max;
 809         struct timespec64 ts;
 810
 811         /* mgs_live_seq_show() already holds fsdb_mutex. */
 812         ir_state_graduate(fsdb);
 813
 814         seq_printf(seq, "\nimperative_recovery_state:\n");
 815         seq_printf(seq,
 816                    "    state: %s\n"
 817                    "    nonir_clients: %d\n"
 818                    "    nidtbl_version: %lld\n",
 819                    ir_strings[fsdb->fsdb_ir_state], fsdb->fsdb_nonir_clients,
 820                    tbl->mn_version);
 821
 822         ts = ktime_to_timespec64(fsdb->fsdb_notify_total);
 823         ts_max = ktime_to_timespec64(fsdb->fsdb_notify_max);
 824
 825         seq_printf(seq, "    notify_duration_total: %lld.%09ld\n"
 826                         "    notify_duation_max: %lld.%09ld\n"
 827                         "    notify_count: %u\n",
 828                    (s64)ts.tv_sec, ts.tv_nsec,
 829                    (s64)ts_max.tv_sec, ts_max.tv_nsec,
 830                    fsdb->fsdb_notify_count);
 831
 832         return 0;
 833 }
 834
 835 int lprocfs_ir_timeout_seq_show(struct seq_file *m, void *data)
 836 {
 837         seq_printf(m, "%lld\n", ir_timeout);
 838         return 0;
 839 }
 840
 841 ssize_t lprocfs_ir_timeout_seq_write(struct file *file,
 842                                      const char __user *buffer,
 843                                      size_t count, loff_t *off)
 844 {
 845         return kstrtoll_from_user(buffer, count, 0, &ir_timeout);
 846 }
 847
 848 /* --------------- Handle non IR support clients --------------- */
 849 /* attach a lustre file system to an export */
 850 int mgs_fsc_attach(const struct lu_env *env, struct obd_export *exp,
 851                    char *fsname)
 852 {
 853         struct mgs_export_data *data = &exp->u.eu_mgs_data;
 854         struct mgs_device *mgs = exp2mgs_dev(exp);
 855         struct fs_db *fsdb = NULL;
 856         struct mgs_fsc *fsc = NULL;
 857         struct mgs_fsc *new_fsc = NULL;
 858         bool found = false;
 859         int rc;
 860
 861         ENTRY;
 862
 863         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
 864         if (rc)
 865                 RETURN(rc);
 866
 867         /* allocate a new fsc in case we need it in spinlock. */
 868         OBD_ALLOC_PTR(new_fsc);
 869         if (!new_fsc)
 870                 GOTO(out, rc = -ENOMEM);
 871
 872         INIT_LIST_HEAD(&new_fsc->mfc_export_list);
 873         INIT_LIST_HEAD(&new_fsc->mfc_fsdb_list);
 874         new_fsc->mfc_fsdb       = fsdb;
 875         new_fsc->mfc_export     = class_export_get(exp);
 876         new_fsc->mfc_ir_capable = !!(exp_connect_flags(exp) &
 877                                      OBD_CONNECT_IMP_RECOV);
 878
 879         rc = -EEXIST;
 880         mutex_lock(&fsdb->fsdb_mutex);
 881
 882         /* tend to find it in export list because this list is shorter. */
 883         spin_lock(&data->med_lock);
 884         list_for_each_entry(fsc, &data->med_clients, mfc_export_list) {
 885                 if (strcmp(fsname, fsc->mfc_fsdb->fsdb_name) == 0) {
 886                         found = true;
 887                         break;
 888                 }
 889         }
 890         if (!found) {
 891                 fsc = new_fsc;
 892                 new_fsc = NULL;
 893
 894                 /* add it into export list. */
 895                 list_add(&fsc->mfc_export_list, &data->med_clients);
 896
 897                 /* add into fsdb list. */
 898                 list_add(&fsc->mfc_fsdb_list, &fsdb->fsdb_clients);
 899                 if (!fsc->mfc_ir_capable) {
 900                         ++fsdb->fsdb_nonir_clients;
 901                         if (fsdb->fsdb_ir_state == IR_FULL)
 902                                 fsdb->fsdb_ir_state = IR_PARTIAL;
 903                 }
 904                 rc = 0;
 905         }
 906         spin_unlock(&data->med_lock);
 907         mutex_unlock(&fsdb->fsdb_mutex);
 908
 909         if (new_fsc) {
 910                 class_export_put(new_fsc->mfc_export);
 911                 OBD_FREE_PTR(new_fsc);
 912         }
 913
 914 out:
 915         mgs_put_fsdb(mgs, fsdb);
 916         RETURN(rc);
 917 }
 918
 919 void mgs_fsc_cleanup(struct obd_export *exp)
 920 {
 921         struct mgs_export_data *data = &exp->u.eu_mgs_data;
 922         struct mgs_fsc *fsc, *tmp;
 923         LIST_HEAD(head);
 924
 925         spin_lock(&data->med_lock);
 926         list_splice_init(&data->med_clients, &head);
 927         spin_unlock(&data->med_lock);
 928
 929         list_for_each_entry_safe(fsc, tmp, &head, mfc_export_list) {
 930                 struct fs_db *fsdb = fsc->mfc_fsdb;
 931
 932                 LASSERT(fsc->mfc_export == exp);
 933
 934                 mutex_lock(&fsdb->fsdb_mutex);
 935                 list_del_init(&fsc->mfc_fsdb_list);
 936                 if (fsc->mfc_ir_capable == 0) {
 937                         --fsdb->fsdb_nonir_clients;
 938                         LASSERT(fsdb->fsdb_ir_state != IR_FULL);
 939                         if (fsdb->fsdb_nonir_clients == 0 &&
 940                             fsdb->fsdb_ir_state == IR_PARTIAL)
 941                                 fsdb->fsdb_ir_state = IR_FULL;
 942                 }
 943                 mutex_unlock(&fsdb->fsdb_mutex);
 944                 list_del_init(&fsc->mfc_export_list);
 945                 class_export_put(fsc->mfc_export);
 946                 OBD_FREE_PTR(fsc);
 947         }
 948 }
 949
 950 /* must be called with fsdb->fsdb_mutex held */
 951 void mgs_fsc_cleanup_by_fsdb(struct fs_db *fsdb)
 952 {
 953         struct mgs_fsc *fsc, *tmp;
 954
 955         list_for_each_entry_safe(fsc, tmp, &fsdb->fsdb_clients,
 956                                      mfc_fsdb_list) {
 957                 struct mgs_export_data *data = &fsc->mfc_export->u.eu_mgs_data;
 958
 959                 LASSERT(fsdb == fsc->mfc_fsdb);
 960                 list_del_init(&fsc->mfc_fsdb_list);
 961
 962                 spin_lock(&data->med_lock);
 963                 list_del_init(&fsc->mfc_export_list);
 964                 spin_unlock(&data->med_lock);
 965                 class_export_put(fsc->mfc_export);
 966                 OBD_FREE_PTR(fsc);
 967         }
 968
 969         fsdb->fsdb_nonir_clients = 0;
 970         if (fsdb->fsdb_ir_state == IR_PARTIAL)
 971                 fsdb->fsdb_ir_state = IR_FULL;
 972 }