lustre/mgs/mgs_nids.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2015, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  * Lustre is a trademark of Sun Microsystems, Inc.
  31  *
  32  * lustre/mgs/mgs_nids.c
  33  *
  34  * NID table management for lustre.
  35  *
  36  * Author: Jinshan Xiong <jinshan.xiong@whamcloud.com>
  37  */
  38
  39 #define DEBUG_SUBSYSTEM S_MGS
  40 #define D_MGS D_CONFIG
  41
  42 #include <linux/kthread.h>
  43 #include <linux/pagemap.h>
  44
  45 #include <obd.h>
  46 #include <obd_class.h>
  47 #include <lustre_disk.h>
  48
  49 #include "mgs_internal.h"
  50
  51 static unsigned int ir_timeout;
  52
  53 static int nidtbl_is_sane(struct mgs_nidtbl *tbl)
  54 {
  55         struct mgs_nidtbl_target *tgt;
  56         int version = 0;
  57
  58         LASSERT(mutex_is_locked(&tbl->mn_lock));
  59         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
  60                 if (!tgt->mnt_version)
  61                         continue;
  62
  63                 if (version >= tgt->mnt_version)
  64                         return 0;
  65
  66                 version = tgt->mnt_version;
  67         }
  68         return 1;
  69 }
  70
  71 /**
  72  * Fetch nidtbl entries whose version are not less than @version
  73  * nidtbl entries will be packed in @pages by @unit_size units - entries
  74  * shouldn't cross unit boundaries.
  75  */
  76 static int mgs_nidtbl_read(struct obd_export *exp, struct mgs_nidtbl *tbl,
  77                            struct mgs_config_res *res, struct page **pages,
  78                            int nrpages, int units_total, int unit_size)
  79 {
  80         struct mgs_nidtbl_target *tgt;
  81         struct mgs_nidtbl_entry  *entry;
  82         struct mgs_nidtbl_entry  *last_in_unit = NULL;
  83         struct mgs_target_info   *mti;
  84         __u64 version = res->mcr_offset;
  85         bool nobuf = false;
  86         void *buf = NULL;
  87         int bytes_in_unit = 0;
  88         int units_in_page = 0;
  89         int index = 0;
  90         int rc = 0;
  91         ENTRY;
  92
  93         /* make sure unit_size is power 2 */
  94         LASSERT((unit_size & (unit_size - 1)) == 0);
  95         LASSERT(nrpages << PAGE_SHIFT >= units_total * unit_size);
  96
  97         mutex_lock(&tbl->mn_lock);
  98         LASSERT(nidtbl_is_sane(tbl));
  99
 100         /* no more entries ? */
 101         if (version > tbl->mn_version) {
 102                 version = tbl->mn_version;
 103                 goto out;
 104         }
 105
 106         /* iterate over all targets to compose a bitmap by the type of llog.
 107          * If the llog is for MDTs, llog entries for OSTs will be returned;
 108          * otherwise, it's for clients, then llog entries for both OSTs and
 109          * MDTs will be returned.
 110          */
 111         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
 112                 int entry_len = sizeof(*entry);
 113
 114                 if (tgt->mnt_version < version)
 115                         continue;
 116
 117                 /* write target recover information */
 118                 mti  = &tgt->mnt_mti;
 119                 LASSERT(mti->mti_nid_count < MTI_NIDS_MAX);
 120                 entry_len += mti->mti_nid_count * sizeof(lnet_nid_t);
 121
 122                 if (entry_len > unit_size) {
 123                         CWARN("nidtbl: too large entry: entry length %d,"
 124                               "unit size: %d\n", entry_len, unit_size);
 125                         GOTO(out, rc = -EOVERFLOW);
 126                 }
 127
 128                 if (bytes_in_unit < entry_len) {
 129                         if (units_total == 0) {
 130                                 nobuf = true;
 131                                 break;
 132                         }
 133
 134                         /* check if we need to consume remaining bytes. */
 135                         if (last_in_unit != NULL && bytes_in_unit) {
 136                                 last_in_unit->mne_length += bytes_in_unit;
 137                                 rc  += bytes_in_unit;
 138                                 buf += bytes_in_unit;
 139                                 last_in_unit = NULL;
 140                         }
 141                         LASSERT((rc & (unit_size - 1)) == 0);
 142
 143                         if (units_in_page == 0) {
 144                                 /* allocate a new page */
 145                                 pages[index] = alloc_page(GFP_KERNEL);
 146                                 if (pages[index] == NULL) {
 147                                         rc = -ENOMEM;
 148                                         break;
 149                                 }
 150
 151                                 /* destroy previous map */
 152                                 if (index > 0)
 153                                         kunmap(pages[index - 1]);
 154
 155                                 /* reassign buffer */
 156                                 buf = kmap(pages[index]);
 157                                 ++index;
 158
 159                                 units_in_page = PAGE_SIZE / unit_size;
 160                                 LASSERT(units_in_page > 0);
 161                         }
 162
 163                         /* allocate an unit */
 164                         LASSERT(((long)buf & (unit_size - 1)) == 0);
 165                         bytes_in_unit = unit_size;
 166                         --units_in_page;
 167                         --units_total;
 168                 }
 169
 170                 /* fill in entry. */
 171                 entry = (struct mgs_nidtbl_entry *)buf;
 172                 entry->mne_version   = tgt->mnt_version;
 173                 entry->mne_instance  = mti->mti_instance;
 174                 entry->mne_index     = mti->mti_stripe_index;
 175                 entry->mne_length    = entry_len;
 176                 entry->mne_type      = tgt->mnt_type;
 177                 entry->mne_nid_type  = 0;
 178                 entry->mne_nid_size  = sizeof(lnet_nid_t);
 179                 entry->mne_nid_count = mti->mti_nid_count;
 180                 memcpy(entry->u.nids, mti->mti_nids,
 181                        mti->mti_nid_count * sizeof(lnet_nid_t));
 182
 183                 version = tgt->mnt_version;
 184                 rc     += entry_len;
 185                 buf    += entry_len;
 186
 187                 bytes_in_unit -= entry_len;
 188                 last_in_unit   = entry;
 189
 190                 CDEBUG(D_MGS, "fsname %s, entry size %d, pages %d/%d/%d/%d.\n",
 191                        tbl->mn_fsdb->fsdb_name, entry_len,
 192                        bytes_in_unit, index, nrpages, units_total);
 193         }
 194         if (index > 0)
 195                 kunmap(pages[index - 1]);
 196 out:
 197         LASSERT(version <= tbl->mn_version);
 198         res->mcr_size = tbl->mn_version;
 199         res->mcr_offset = nobuf ? version : tbl->mn_version;
 200         mutex_unlock(&tbl->mn_lock);
 201         LASSERT(ergo(version == 1, rc == 0)); /* get the log first time */
 202
 203         CDEBUG(D_MGS, "Read IR logs %s return with %d, version %llu\n",
 204                tbl->mn_fsdb->fsdb_name, rc, version);
 205         RETURN(rc);
 206 }
 207
 208 static int nidtbl_update_version(const struct lu_env *env,
 209                                  struct mgs_device *mgs,
 210                                  struct mgs_nidtbl *tbl)
 211 {
 212         struct dt_object *fsdb;
 213         struct thandle   *th;
 214         u64               version;
 215         struct lu_buf     buf = {
 216                                 .lb_buf = &version,
 217                                 .lb_len = sizeof(version)
 218                           };
 219         loff_t            off = 0;
 220         int               rc;
 221         ENTRY;
 222
 223         LASSERT(mutex_is_locked(&tbl->mn_lock));
 224
 225         fsdb = local_file_find_or_create(env, mgs->mgs_los, mgs->mgs_nidtbl_dir,
 226                                          tbl->mn_fsdb->fsdb_name,
 227                                          S_IFREG | S_IRUGO | S_IWUSR);
 228         if (IS_ERR(fsdb))
 229                 RETURN(PTR_ERR(fsdb));
 230
 231         th = dt_trans_create(env, mgs->mgs_bottom);
 232         if (IS_ERR(th))
 233                 GOTO(out_put, rc = PTR_ERR(th));
 234
 235         th->th_sync = 1; /* update table synchronously */
 236         rc = dt_declare_record_write(env, fsdb, &buf, off, th);
 237         if (rc)
 238                 GOTO(out, rc);
 239
 240         rc = dt_trans_start_local(env, mgs->mgs_bottom, th);
 241         if (rc)
 242                 GOTO(out, rc);
 243
 244         version = cpu_to_le64(tbl->mn_version);
 245         rc = dt_record_write(env, fsdb, &buf, &off, th);
 246
 247 out:
 248         dt_trans_stop(env, mgs->mgs_bottom, th);
 249 out_put:
 250         lu_object_put(env, &fsdb->do_lu);
 251         RETURN(rc);
 252 }
 253
 254 #define MGS_NIDTBL_VERSION_INIT 2
 255
 256 static int nidtbl_read_version(const struct lu_env *env,
 257                                struct mgs_device *mgs, struct mgs_nidtbl *tbl,
 258                                u64 *version)
 259 {
 260         struct dt_object *fsdb;
 261         struct lu_fid     fid;
 262         u64               tmpver;
 263         struct lu_buf     buf = {
 264                                 .lb_buf = &tmpver,
 265                                 .lb_len = sizeof(tmpver)
 266                           };
 267         loff_t               off = 0;
 268         int                  rc;
 269         ENTRY;
 270
 271         LASSERT(mutex_is_locked(&tbl->mn_lock));
 272
 273         LASSERT(mgs->mgs_nidtbl_dir);
 274         rc = dt_lookup_dir(env, mgs->mgs_nidtbl_dir, tbl->mn_fsdb->fsdb_name,
 275                            &fid);
 276         if (rc == -ENOENT) {
 277                 *version = MGS_NIDTBL_VERSION_INIT;
 278                 RETURN(0);
 279         } else if (rc < 0) {
 280                 RETURN(rc);
 281         }
 282
 283         fsdb = dt_locate_at(env, mgs->mgs_bottom, &fid,
 284                             &mgs->mgs_dt_dev.dd_lu_dev, NULL);
 285         if (IS_ERR(fsdb))
 286                 RETURN(PTR_ERR(fsdb));
 287
 288         rc = dt_read(env, fsdb, &buf, &off);
 289         if (rc == buf.lb_len) {
 290                 *version = le64_to_cpu(tmpver);
 291                 rc = 0;
 292         } else if (rc == 0) {
 293                 *version = MGS_NIDTBL_VERSION_INIT;
 294         } else {
 295                 CERROR("%s: read version file %s error %d\n",
 296                        mgs->mgs_obd->obd_name, tbl->mn_fsdb->fsdb_name, rc);
 297         }
 298         lu_object_put(env, &fsdb->do_lu);
 299         RETURN(rc);
 300 }
 301
 302 static int mgs_nidtbl_write(const struct lu_env *env, struct fs_db *fsdb,
 303                             struct mgs_target_info *mti)
 304 {
 305         struct mgs_nidtbl        *tbl;
 306         struct mgs_nidtbl_target *tgt;
 307         bool found = false;
 308         int type   = mti->mti_flags & LDD_F_SV_TYPE_MASK;
 309         int rc     = 0;
 310         ENTRY;
 311
 312         type &= ~LDD_F_SV_TYPE_MGS;
 313         LASSERT(type != 0);
 314
 315         tbl = &fsdb->fsdb_nidtbl;
 316         mutex_lock(&tbl->mn_lock);
 317         list_for_each_entry(tgt, &tbl->mn_targets, mnt_list) {
 318                 struct mgs_target_info *info = &tgt->mnt_mti;
 319
 320                 if (type == tgt->mnt_type &&
 321                     mti->mti_stripe_index == info->mti_stripe_index) {
 322                         found = true;
 323                         break;
 324                 }
 325         }
 326         if (!found) {
 327                 OBD_ALLOC_PTR(tgt);
 328                 if (tgt == NULL)
 329                         GOTO(out, rc = -ENOMEM);
 330
 331                 INIT_LIST_HEAD(&tgt->mnt_list);
 332                 tgt->mnt_fs      = tbl;
 333                 tgt->mnt_version = 0;   /* 0 means invalid */
 334                 tgt->mnt_type    = type;
 335
 336                 ++tbl->mn_nr_targets;
 337         }
 338
 339         tgt->mnt_version = ++tbl->mn_version;
 340         tgt->mnt_mti     = *mti;
 341
 342         list_move_tail(&tgt->mnt_list, &tbl->mn_targets);
 343
 344         rc = nidtbl_update_version(env, fsdb->fsdb_mgs, tbl);
 345         EXIT;
 346
 347 out:
 348         mutex_unlock(&tbl->mn_lock);
 349         if (rc)
 350                 CERROR("Write NID table version for file system %s error %d\n",
 351                        fsdb->fsdb_name, rc);
 352         return rc;
 353 }
 354
 355 static void mgs_nidtbl_fini_fs(struct fs_db *fsdb)
 356 {
 357         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
 358         struct list_head head = LIST_HEAD_INIT(head);
 359
 360         mutex_lock(&tbl->mn_lock);
 361         tbl->mn_nr_targets = 0;
 362         list_splice_init(&tbl->mn_targets, &head);
 363         mutex_unlock(&tbl->mn_lock);
 364
 365         while (!list_empty(&head)) {
 366                 struct mgs_nidtbl_target *tgt;
 367                 tgt = list_entry(head.next, struct mgs_nidtbl_target, mnt_list);
 368                 list_del(&tgt->mnt_list);
 369                 OBD_FREE_PTR(tgt);
 370         }
 371 }
 372
 373 static int mgs_nidtbl_init_fs(const struct lu_env *env, struct fs_db *fsdb)
 374 {
 375         struct mgs_nidtbl *tbl = &fsdb->fsdb_nidtbl;
 376         int rc;
 377
 378         INIT_LIST_HEAD(&tbl->mn_targets);
 379         mutex_init(&tbl->mn_lock);
 380         tbl->mn_nr_targets = 0;
 381         tbl->mn_fsdb = fsdb;
 382         mutex_lock(&tbl->mn_lock);
 383         rc = nidtbl_read_version(env, fsdb->fsdb_mgs, tbl, &tbl->mn_version);
 384         mutex_unlock(&tbl->mn_lock);
 385         if (rc < 0)
 386                 CERROR("%s: IR: failed to read current version, rc = %d\n",
 387                        fsdb->fsdb_mgs->mgs_obd->obd_name, rc);
 388         else
 389                 CDEBUG(D_MGS, "IR: current version is %llu\n",
 390                        tbl->mn_version);
 391
 392         return rc;
 393 }
 394
 395 /* --------- Imperative Recovery relies on nidtbl stuff ------- */
 396 void mgs_ir_notify_complete(struct fs_db *fsdb)
 397 {
 398         struct timeval tv;
 399         cfs_duration_t delta;
 400
 401         atomic_set(&fsdb->fsdb_notify_phase, 0);
 402
 403         /* do statistic */
 404         fsdb->fsdb_notify_count++;
 405         delta = cfs_time_sub(cfs_time_current(), fsdb->fsdb_notify_start);
 406         fsdb->fsdb_notify_total += delta;
 407         if (delta > fsdb->fsdb_notify_max)
 408                 fsdb->fsdb_notify_max = delta;
 409
 410         cfs_duration_usec(delta, &tv);
 411         CDEBUG(D_MGS, "Revoke recover lock of %s completed after %ld.%06lds\n",
 412                fsdb->fsdb_name, tv.tv_sec, tv.tv_usec);
 413 }
 414
 415 static int mgs_ir_notify(void *arg)
 416 {
 417         struct fs_db      *fsdb   = arg;
 418         struct ldlm_res_id resid;
 419
 420         char name[sizeof(fsdb->fsdb_name) + 20];
 421
 422         LASSERTF(sizeof(name) < 32, "name is too large to be in stack.\n");
 423         sprintf(name, "mgs_%s_notify", fsdb->fsdb_name);
 424
 425         complete(&fsdb->fsdb_notify_comp);
 426
 427         set_user_nice(current, -2);
 428
 429         mgc_fsname2resid(fsdb->fsdb_name, &resid, CONFIG_T_RECOVER);
 430         while (1) {
 431                 struct l_wait_info   lwi = { 0 };
 432
 433                 l_wait_event(fsdb->fsdb_notify_waitq,
 434                              fsdb->fsdb_notify_stop ||
 435                              atomic_read(&fsdb->fsdb_notify_phase),
 436                              &lwi);
 437                 if (fsdb->fsdb_notify_stop)
 438                         break;
 439
 440                 CDEBUG(D_MGS, "%s woken up, phase is %d\n",
 441                        name, atomic_read(&fsdb->fsdb_notify_phase));
 442
 443                 fsdb->fsdb_notify_start = cfs_time_current();
 444                 mgs_revoke_lock(fsdb->fsdb_mgs, fsdb, CONFIG_T_RECOVER);
 445         }
 446
 447         complete(&fsdb->fsdb_notify_comp);
 448         return 0;
 449 }
 450
 451 int mgs_ir_init_fs(const struct lu_env *env, struct mgs_device *mgs,
 452                    struct fs_db *fsdb)
 453 {
 454         struct task_struct *task;
 455
 456         if (!ir_timeout)
 457                 ir_timeout = OBD_IR_MGS_TIMEOUT;
 458
 459         fsdb->fsdb_ir_state = IR_FULL;
 460         if (cfs_time_before(cfs_time_current_sec(),
 461                             mgs->mgs_start_time + ir_timeout))
 462                 fsdb->fsdb_ir_state = IR_STARTUP;
 463         fsdb->fsdb_nonir_clients = 0;
 464         /* start notify thread */
 465         fsdb->fsdb_mgs = mgs;
 466         task = kthread_run(mgs_ir_notify, fsdb,
 467                                "mgs_%s_notify", fsdb->fsdb_name);
 468         if (!IS_ERR(task))
 469                 wait_for_completion(&fsdb->fsdb_notify_comp);
 470         else
 471                 CERROR("Start notify thread error %ld\n", PTR_ERR(task));
 472
 473         mgs_nidtbl_init_fs(env, fsdb);
 474         return 0;
 475 }
 476
 477 void mgs_ir_fini_fs(struct mgs_device *mgs, struct fs_db *fsdb)
 478 {
 479         if (test_bit(FSDB_MGS_SELF, &fsdb->fsdb_flags))
 480                 return;
 481
 482         mgs_fsc_cleanup_by_fsdb(fsdb);
 483
 484         mgs_nidtbl_fini_fs(fsdb);
 485
 486         LASSERT(list_empty(&fsdb->fsdb_clients));
 487
 488         fsdb->fsdb_notify_stop = 1;
 489         wake_up(&fsdb->fsdb_notify_waitq);
 490         wait_for_completion(&fsdb->fsdb_notify_comp);
 491 }
 492
 493 /* caller must have held fsdb_mutex */
 494 static inline void ir_state_graduate(struct fs_db *fsdb)
 495 {
 496         if (fsdb->fsdb_ir_state == IR_STARTUP) {
 497                 if (cfs_time_before(fsdb->fsdb_mgs->mgs_start_time + ir_timeout,
 498                                     cfs_time_current_sec())) {
 499                         fsdb->fsdb_ir_state = IR_FULL;
 500                         if (fsdb->fsdb_nonir_clients)
 501                                 fsdb->fsdb_ir_state = IR_PARTIAL;
 502                 }
 503         }
 504 }
 505
 506 int mgs_ir_update(const struct lu_env *env, struct mgs_device *mgs,
 507                   struct mgs_target_info *mti)
 508 {
 509         struct fs_db *fsdb;
 510         bool notify = true;
 511         int rc;
 512
 513         if (mti->mti_instance == 0)
 514                 return -EINVAL;
 515
 516         rc = mgs_find_or_make_fsdb(env, mgs, mti->mti_fsname, &fsdb);
 517         if (rc)
 518                 return rc;
 519
 520         rc = mgs_nidtbl_write(env, fsdb, mti);
 521         if (rc)
 522                 GOTO(out, rc);
 523
 524         /* check ir state */
 525         mutex_lock(&fsdb->fsdb_mutex);
 526         ir_state_graduate(fsdb);
 527         switch (fsdb->fsdb_ir_state) {
 528         case IR_FULL:
 529                 mti->mti_flags |= LDD_F_IR_CAPABLE;
 530                 break;
 531         case IR_DISABLED:
 532                 notify = false;
 533         case IR_STARTUP:
 534         case IR_PARTIAL:
 535                 break;
 536         default:
 537                 LBUG();
 538         }
 539         mutex_unlock(&fsdb->fsdb_mutex);
 540
 541         LASSERT(ergo(mti->mti_flags & LDD_F_IR_CAPABLE, notify));
 542         if (notify) {
 543                 CDEBUG(D_MGS, "Try to revoke recover lock of %s\n",
 544                        fsdb->fsdb_name);
 545                 atomic_inc(&fsdb->fsdb_notify_phase);
 546                 wake_up(&fsdb->fsdb_notify_waitq);
 547         }
 548
 549 out:
 550         mgs_put_fsdb(mgs, fsdb);
 551         return rc;
 552 }
 553
 554 /* NID table can be cached by two entities: Clients and MDTs */
 555 enum {
 556         IR_CLIENT  = 1,
 557         IR_MDT     = 2
 558 };
 559
 560 static int delogname(char *logname, char *fsname, int *typ)
 561 {
 562         char *ptr;
 563         int   type;
 564         int   len;
 565
 566         ptr = strrchr(logname, '-');
 567         if (ptr == NULL)
 568                 return -EINVAL;
 569
 570         /* decouple file system name. The llog name may be:
 571          * - "prefix-fsname", prefix is "cliir" or "mdtir"
 572          */
 573         if (strncmp(ptr, "-mdtir", 6) == 0)
 574                 type = IR_MDT;
 575         else if (strncmp(ptr, "-cliir", 6) == 0)
 576                 type = IR_CLIENT;
 577         else
 578                 return -EINVAL;
 579
 580         len = ptr - logname;
 581         if (len == 0)
 582                 return -EINVAL;
 583
 584         memcpy(fsname, logname, len);
 585         fsname[len] = 0;
 586         if (typ)
 587                 *typ = type;
 588         return 0;
 589 }
 590
 591 int mgs_get_ir_logs(struct ptlrpc_request *req)
 592 {
 593         struct lu_env     *env = req->rq_svc_thread->t_env;
 594         struct mgs_device *mgs = exp2mgs_dev(req->rq_export);
 595         struct fs_db *fsdb = NULL;
 596         struct mgs_config_body  *body;
 597         struct mgs_config_res   *res;
 598         struct ptlrpc_bulk_desc *desc;
 599         struct l_wait_info lwi;
 600         char               fsname[16];
 601         long               bufsize;
 602         int                unit_size;
 603         int                type;
 604         int                rc = 0;
 605         int                i;
 606         int                bytes;
 607         int                page_count;
 608         int                nrpages;
 609         struct page       **pages = NULL;
 610         ENTRY;
 611
 612         body = req_capsule_client_get(&req->rq_pill, &RMF_MGS_CONFIG_BODY);
 613         if (body == NULL)
 614                 RETURN(-EINVAL);
 615
 616         if (body->mcb_type != CONFIG_T_RECOVER)
 617                 RETURN(-EINVAL);
 618
 619         rc = delogname(body->mcb_name, fsname, &type);
 620         if (rc)
 621                 RETURN(rc);
 622
 623         bufsize = body->mcb_units << body->mcb_bits;
 624         nrpages = (bufsize + PAGE_SIZE - 1) >> PAGE_SHIFT;
 625         if (nrpages > PTLRPC_MAX_BRW_PAGES)
 626                 RETURN(-EINVAL);
 627
 628         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
 629         if (rc)
 630                 RETURN(rc);
 631
 632         CDEBUG(D_MGS, "Reading IR log %s bufsize %ld.\n",
 633                body->mcb_name, bufsize);
 634
 635         OBD_ALLOC(pages, sizeof(*pages) * nrpages);
 636         if (!pages)
 637                 GOTO(out, rc = -ENOMEM);
 638
 639         res = req_capsule_server_get(&req->rq_pill, &RMF_MGS_CONFIG_RES);
 640         if (!res)
 641                 GOTO(out, rc = -EINVAL);
 642
 643         res->mcr_offset = body->mcb_offset;
 644         unit_size = min_t(int, 1 << body->mcb_bits, PAGE_SIZE);
 645         bytes = mgs_nidtbl_read(req->rq_export, &fsdb->fsdb_nidtbl, res,
 646                                 pages, nrpages, bufsize / unit_size, unit_size);
 647         if (bytes < 0)
 648                 GOTO(out, rc = bytes);
 649
 650         /* start bulk transfer */
 651         page_count = (bytes + PAGE_SIZE - 1) >> PAGE_SHIFT;
 652         LASSERT(page_count <= nrpages);
 653         desc = ptlrpc_prep_bulk_exp(req, page_count, 1,
 654                                     PTLRPC_BULK_PUT_SOURCE |
 655                                         PTLRPC_BULK_BUF_KIOV,
 656                                     MGS_BULK_PORTAL,
 657                                     &ptlrpc_bulk_kiov_pin_ops);
 658         if (!desc)
 659                 GOTO(out, rc = -ENOMEM);
 660
 661         for (i = 0; i < page_count && bytes > 0; i++) {
 662                 desc->bd_frag_ops->add_kiov_frag(desc, pages[i], 0,
 663                                                  min_t(int, bytes,
 664                                                       PAGE_SIZE));
 665                 bytes -= PAGE_SIZE;
 666         }
 667
 668         rc = target_bulk_io(req->rq_export, desc, &lwi);
 669         ptlrpc_free_bulk(desc);
 670
 671         GOTO(out, rc);
 672
 673 out:
 674         if (pages) {
 675                 for (i = 0; i < nrpages; i++) {
 676                         if (!pages[i])
 677                                 break;
 678
 679                         __free_page(pages[i]);
 680                 }
 681
 682                 OBD_FREE(pages, sizeof(*pages) * nrpages);
 683         }
 684
 685         if (fsdb)
 686                 mgs_put_fsdb(mgs, fsdb);
 687
 688         return rc;
 689 }
 690
 691 static int lprocfs_ir_set_state(struct fs_db *fsdb, const char *buf)
 692 {
 693         const char *strings[] = IR_STRINGS;
 694         int         state = -1;
 695         int         i;
 696
 697         for (i = 0; i < ARRAY_SIZE(strings); i++) {
 698                 if (strcmp(strings[i], buf) == 0) {
 699                         state = i;
 700                         break;
 701                 }
 702         }
 703         if (state < 0)
 704                 return -EINVAL;
 705
 706         CDEBUG(D_MGS, "change fsr state of %s from %s to %s\n",
 707                fsdb->fsdb_name, strings[fsdb->fsdb_ir_state], strings[state]);
 708         mutex_lock(&fsdb->fsdb_mutex);
 709         if (state == IR_FULL && fsdb->fsdb_nonir_clients)
 710                 state = IR_PARTIAL;
 711         fsdb->fsdb_ir_state = state;
 712         mutex_unlock(&fsdb->fsdb_mutex);
 713
 714         return 0;
 715 }
 716
 717 static int lprocfs_ir_set_timeout(struct fs_db *fsdb, const char *buf)
 718 {
 719         return -EINVAL;
 720 }
 721
 722 static int lprocfs_ir_clear_stats(struct fs_db *fsdb, const char *buf)
 723 {
 724         if (*buf)
 725                 return -EINVAL;
 726
 727         fsdb->fsdb_notify_total = 0;
 728         fsdb->fsdb_notify_max   = 0;
 729         fsdb->fsdb_notify_count = 0;
 730         return 0;
 731 }
 732
 733 static struct lproc_ir_cmd {
 734         char *name;
 735         int   namelen;
 736         int (*handler)(struct fs_db *, const char *);
 737 } ir_cmds[] = {
 738         { "state=",   6, lprocfs_ir_set_state },
 739         { "timeout=", 8, lprocfs_ir_set_timeout },
 740         { "0",        1, lprocfs_ir_clear_stats }
 741 };
 742
 743 int lprocfs_wr_ir_state(struct file *file, const char __user *buffer,
 744                         size_t count, void *data)
 745 {
 746         struct fs_db *fsdb = data;
 747         char *kbuf;
 748         char *ptr;
 749         int rc = 0;
 750
 751         if (count == 0 || count >= PAGE_SIZE)
 752                 return -EINVAL;
 753
 754         OBD_ALLOC(kbuf, count + 1);
 755         if (kbuf == NULL)
 756                 return -ENOMEM;
 757
 758         if (copy_from_user(kbuf, buffer, count)) {
 759                 OBD_FREE(kbuf, count + 1);
 760                 return -EFAULT;
 761         }
 762
 763         kbuf[count] = 0; /* buffer is supposed to end with 0 */
 764         if (kbuf[count - 1] == '\n')
 765                 kbuf[count - 1] = 0;
 766         ptr = kbuf;
 767
 768         /* fsname=<file system name> must be the 1st entry */
 769         while (ptr != NULL) {
 770                 char *tmpptr;
 771                 int i;
 772
 773                 tmpptr = strchr(ptr, ';');
 774                 if (tmpptr)
 775                         *tmpptr++ = 0;
 776
 777                 rc = -EINVAL;
 778                 for (i = 0; i < ARRAY_SIZE(ir_cmds); i++) {
 779                         struct lproc_ir_cmd *cmd;
 780                         int cmdlen;
 781
 782                         cmd    = &ir_cmds[i];
 783                         cmdlen = cmd->namelen;
 784                         if (strncmp(cmd->name, ptr, cmdlen) == 0) {
 785                                 ptr += cmdlen;
 786                                 rc = cmd->handler(fsdb, ptr);
 787                                 break;
 788                         }
 789                 }
 790                 if (rc)
 791                         break;
 792
 793                 ptr = tmpptr;
 794         }
 795         if (rc)
 796                 CERROR("Unable to process command: %s(%d)\n", ptr, rc);
 797         OBD_FREE(kbuf, count + 1);
 798         return rc ?: count;
 799 }
 800
 801 int lprocfs_rd_ir_state(struct seq_file *seq, void *data)
 802 {
 803         struct fs_db      *fsdb = data;
 804         struct mgs_nidtbl *tbl  = &fsdb->fsdb_nidtbl;
 805         const char        *ir_strings[] = IR_STRINGS;
 806         struct timeval     tv_max;
 807         struct timeval     tv;
 808
 809         /* mgs_live_seq_show() already holds fsdb_mutex. */
 810         ir_state_graduate(fsdb);
 811
 812         seq_printf(seq, "\nimperative_recovery_state:\n");
 813         seq_printf(seq,
 814                    "    state: %s\n"
 815                    "    nonir_clients: %d\n"
 816                    "    nidtbl_version: %lld\n",
 817                    ir_strings[fsdb->fsdb_ir_state], fsdb->fsdb_nonir_clients,
 818                    tbl->mn_version);
 819
 820         cfs_duration_usec(fsdb->fsdb_notify_total, &tv);
 821         cfs_duration_usec(fsdb->fsdb_notify_max, &tv_max);
 822
 823         seq_printf(seq, "    notify_duration_total: %lu.%06lu\n"
 824                         "    notify_duation_max: %lu.%06lu\n"
 825                         "    notify_count: %u\n",
 826                    tv.tv_sec, tv.tv_usec,
 827                    tv_max.tv_sec, tv_max.tv_usec,
 828                    fsdb->fsdb_notify_count);
 829
 830         return 0;
 831 }
 832
 833 int lprocfs_ir_timeout_seq_show(struct seq_file *m, void *data)
 834 {
 835         return lprocfs_uint_seq_show(m, &ir_timeout);
 836 }
 837
 838 ssize_t lprocfs_ir_timeout_seq_write(struct file *file,
 839                                      const char __user *buffer,
 840                                      size_t count, loff_t *off)
 841 {
 842         return lprocfs_wr_uint(file, buffer, count, &ir_timeout);
 843 }
 844
 845 /* --------------- Handle non IR support clients --------------- */
 846 /* attach a lustre file system to an export */
 847 int mgs_fsc_attach(const struct lu_env *env, struct obd_export *exp,
 848                    char *fsname)
 849 {
 850         struct mgs_export_data *data = &exp->u.eu_mgs_data;
 851         struct mgs_device *mgs = exp2mgs_dev(exp);
 852         struct fs_db *fsdb = NULL;
 853         struct mgs_fsc    *fsc     = NULL;
 854         struct mgs_fsc    *new_fsc = NULL;
 855         bool               found   = false;
 856         int                rc;
 857         ENTRY;
 858
 859         rc = mgs_find_or_make_fsdb(env, mgs, fsname, &fsdb);
 860         if (rc)
 861                 RETURN(rc);
 862
 863         /* allocate a new fsc in case we need it in spinlock. */
 864         OBD_ALLOC_PTR(new_fsc);
 865         if (!new_fsc)
 866                 GOTO(out, rc = -ENOMEM);
 867
 868         INIT_LIST_HEAD(&new_fsc->mfc_export_list);
 869         INIT_LIST_HEAD(&new_fsc->mfc_fsdb_list);
 870         new_fsc->mfc_fsdb       = fsdb;
 871         new_fsc->mfc_export     = class_export_get(exp);
 872         new_fsc->mfc_ir_capable = !!(exp_connect_flags(exp) &
 873                                      OBD_CONNECT_IMP_RECOV);
 874
 875         rc = -EEXIST;
 876         mutex_lock(&fsdb->fsdb_mutex);
 877
 878         /* tend to find it in export list because this list is shorter. */
 879         spin_lock(&data->med_lock);
 880         list_for_each_entry(fsc, &data->med_clients, mfc_export_list) {
 881                 if (strcmp(fsname, fsc->mfc_fsdb->fsdb_name) == 0) {
 882                         found = true;
 883                         break;
 884                 }
 885         }
 886         if (!found) {
 887                 fsc = new_fsc;
 888                 new_fsc = NULL;
 889
 890                 /* add it into export list. */
 891                 list_add(&fsc->mfc_export_list, &data->med_clients);
 892
 893                 /* add into fsdb list. */
 894                 list_add(&fsc->mfc_fsdb_list, &fsdb->fsdb_clients);
 895                 if (!fsc->mfc_ir_capable) {
 896                         ++fsdb->fsdb_nonir_clients;
 897                         if (fsdb->fsdb_ir_state == IR_FULL)
 898                                 fsdb->fsdb_ir_state = IR_PARTIAL;
 899                 }
 900                 rc = 0;
 901         }
 902         spin_unlock(&data->med_lock);
 903         mutex_unlock(&fsdb->fsdb_mutex);
 904
 905         if (new_fsc) {
 906                 class_export_put(new_fsc->mfc_export);
 907                 OBD_FREE_PTR(new_fsc);
 908         }
 909
 910 out:
 911         mgs_put_fsdb(mgs, fsdb);
 912         RETURN(rc);
 913 }
 914
 915 void mgs_fsc_cleanup(struct obd_export *exp)
 916 {
 917         struct mgs_export_data *data = &exp->u.eu_mgs_data;
 918         struct mgs_fsc *fsc, *tmp;
 919         struct list_head head = LIST_HEAD_INIT(head);
 920
 921         spin_lock(&data->med_lock);
 922         list_splice_init(&data->med_clients, &head);
 923         spin_unlock(&data->med_lock);
 924
 925         list_for_each_entry_safe(fsc, tmp, &head, mfc_export_list) {
 926                 struct fs_db *fsdb = fsc->mfc_fsdb;
 927
 928                 LASSERT(fsc->mfc_export == exp);
 929
 930                 mutex_lock(&fsdb->fsdb_mutex);
 931                 list_del_init(&fsc->mfc_fsdb_list);
 932                 if (fsc->mfc_ir_capable == 0) {
 933                         --fsdb->fsdb_nonir_clients;
 934                         LASSERT(fsdb->fsdb_ir_state != IR_FULL);
 935                         if (fsdb->fsdb_nonir_clients == 0 &&
 936                             fsdb->fsdb_ir_state == IR_PARTIAL)
 937                                 fsdb->fsdb_ir_state = IR_FULL;
 938                 }
 939                 mutex_unlock(&fsdb->fsdb_mutex);
 940                 list_del_init(&fsc->mfc_export_list);
 941                 class_export_put(fsc->mfc_export);
 942                 OBD_FREE_PTR(fsc);
 943         }
 944 }
 945
 946 /* must be called with fsdb->fsdb_mutex held */
 947 void mgs_fsc_cleanup_by_fsdb(struct fs_db *fsdb)
 948 {
 949         struct mgs_fsc *fsc, *tmp;
 950
 951         list_for_each_entry_safe(fsc, tmp, &fsdb->fsdb_clients,
 952                                      mfc_fsdb_list) {
 953                 struct mgs_export_data *data = &fsc->mfc_export->u.eu_mgs_data;
 954
 955                 LASSERT(fsdb == fsc->mfc_fsdb);
 956                 list_del_init(&fsc->mfc_fsdb_list);
 957
 958                 spin_lock(&data->med_lock);
 959                 list_del_init(&fsc->mfc_export_list);
 960                 spin_unlock(&data->med_lock);
 961                 class_export_put(fsc->mfc_export);
 962                 OBD_FREE_PTR(fsc);
 963         }
 964
 965         fsdb->fsdb_nonir_clients = 0;
 966         if (fsdb->fsdb_ir_state == IR_PARTIAL)
 967                 fsdb->fsdb_ir_state = IR_FULL;
 968 }