lustre/obdclass/obd_mount.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2017, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  *
  31  * lustre/obdclass/obd_mount.c
  32  *
  33  * Client mount routines
  34  *
  35  * Author: Nathan Rutman <nathan@clusterfs.com>
  36  */
  37
  38
  39 #define DEBUG_SUBSYSTEM S_CLASS
  40 #define D_MOUNT (D_SUPER|D_CONFIG/*|D_WARNING */)
  41 #define PRINT_CMD CDEBUG
  42
  43 #include <obd.h>
  44 #include <obd_class.h>
  45 #include <linux/random.h>
  46 #include <libcfs/linux/linux-uuid.h>
  47 #include <linux/version.h>
  48 #include <lustre_log.h>
  49 #include <lustre_disk.h>
  50 #include <uapi/linux/lustre/lustre_param.h>
  51 #include <libcfs/crypto/llcrypt.h>
  52
  53 /**************** config llog ********************/
  54
  55 /**
  56  * Get a config log from the MGS and process it.
  57  * This func is called for both clients and servers.
  58  * Continue to process new statements appended to the logs
  59  * (whenever the config lock is revoked) until lustre_end_log
  60  * is called.
  61  *
  62  * @param sb The superblock is used by the MGC to write to the local copy of
  63  *   the config log
  64  * @param logname The name of the llog to replicate from the MGS
  65  * @param cfg Since the same MGC may be used to follow multiple config logs
  66  *   (e.g. ost1, ost2, client), the config_llog_instance keeps the state for
  67  *   this log, and is added to the mgc's list of logs to follow.
  68  */
  69 int lustre_process_log(struct super_block *sb, char *logname,
  70                        struct config_llog_instance *cfg)
  71 {
  72         struct lustre_cfg *lcfg;
  73         struct lustre_cfg_bufs *bufs;
  74         struct lustre_sb_info *lsi = s2lsi(sb);
  75         struct obd_device *mgc = lsi->lsi_mgc;
  76         int rc;
  77
  78         ENTRY;
  79
  80         LASSERT(mgc);
  81         LASSERT(cfg);
  82
  83         OBD_ALLOC_PTR(bufs);
  84         if (bufs == NULL)
  85                 RETURN(-ENOMEM);
  86
  87         /* mgc_process_config */
  88         lustre_cfg_bufs_reset(bufs, mgc->obd_name);
  89         lustre_cfg_bufs_set_string(bufs, 1, logname);
  90         lustre_cfg_bufs_set(bufs, 2, cfg, sizeof(*cfg));
  91         lustre_cfg_bufs_set(bufs, 3, &sb, sizeof(sb));
  92         OBD_ALLOC(lcfg, lustre_cfg_len(bufs->lcfg_bufcount, bufs->lcfg_buflen));
  93         if (!lcfg)
  94                 GOTO(out, rc = -ENOMEM);
  95         lustre_cfg_init(lcfg, LCFG_LOG_START, bufs);
  96
  97         rc = obd_process_config(mgc, sizeof(*lcfg), lcfg);
  98         OBD_FREE(lcfg, lustre_cfg_len(lcfg->lcfg_bufcount, lcfg->lcfg_buflens));
  99 out:
 100         OBD_FREE_PTR(bufs);
 101
 102         if (rc == -EINVAL)
 103                 LCONSOLE_ERROR_MSG(0x15b,
 104                                    "%s: Configuration from log %s failed from MGS %d. Check client and MGS are on compatible version.\n",
 105                                    mgc->obd_name, logname, rc);
 106         else if (rc != 0)
 107                 LCONSOLE_ERROR_MSG(0x15c,
 108                                    "%s: Confguration from log %s failed from MGS %d. Communication error between node & MGS, a bad configuration, or other errors. See syslog for more info\n",
 109                                    mgc->obd_name, logname, rc);
 110
 111         /* class_obd_list(); */
 112         RETURN(rc);
 113 }
 114 EXPORT_SYMBOL(lustre_process_log);
 115
 116 /* Stop watching this config log for updates */
 117 int lustre_end_log(struct super_block *sb, char *logname,
 118                    struct config_llog_instance *cfg)
 119 {
 120         struct lustre_cfg *lcfg;
 121         struct lustre_cfg_bufs bufs;
 122         struct lustre_sb_info *lsi = s2lsi(sb);
 123         struct obd_device *mgc = lsi->lsi_mgc;
 124         int rc;
 125
 126         ENTRY;
 127
 128         if (!mgc)
 129                 RETURN(-ENOENT);
 130
 131         /* mgc_process_config */
 132         lustre_cfg_bufs_reset(&bufs, mgc->obd_name);
 133         lustre_cfg_bufs_set_string(&bufs, 1, logname);
 134         if (cfg)
 135                 lustre_cfg_bufs_set(&bufs, 2, cfg, sizeof(*cfg));
 136         OBD_ALLOC(lcfg, lustre_cfg_len(bufs.lcfg_bufcount, bufs.lcfg_buflen));
 137         if (!lcfg)
 138                 RETURN(-ENOMEM);
 139         lustre_cfg_init(lcfg, LCFG_LOG_END, &bufs);
 140         rc = obd_process_config(mgc, sizeof(*lcfg), lcfg);
 141         OBD_FREE(lcfg, lustre_cfg_len(lcfg->lcfg_bufcount, lcfg->lcfg_buflens));
 142         RETURN(rc);
 143 }
 144 EXPORT_SYMBOL(lustre_end_log);
 145
 146 /**************** OBD start *******************/
 147
 148 /**
 149  * lustre_cfg_bufs are a holdover from 1.4; we can still set these up from
 150  * lctl (and do for echo cli/srv.
 151  */
 152 static int do_lcfg(char *cfgname, lnet_nid_t nid, int cmd,
 153                    char *s1, char *s2, char *s3, char *s4)
 154 {
 155         struct lustre_cfg_bufs bufs;
 156         struct lustre_cfg *lcfg = NULL;
 157         int rc;
 158
 159         CDEBUG(D_TRACE, "lcfg %s %#x %s %s %s %s\n", cfgname,
 160                cmd, s1, s2, s3, s4);
 161
 162         lustre_cfg_bufs_reset(&bufs, cfgname);
 163         if (s1)
 164                 lustre_cfg_bufs_set_string(&bufs, 1, s1);
 165         if (s2)
 166                 lustre_cfg_bufs_set_string(&bufs, 2, s2);
 167         if (s3)
 168                 lustre_cfg_bufs_set_string(&bufs, 3, s3);
 169         if (s4)
 170                 lustre_cfg_bufs_set_string(&bufs, 4, s4);
 171
 172         OBD_ALLOC(lcfg, lustre_cfg_len(bufs.lcfg_bufcount, bufs.lcfg_buflen));
 173         if (!lcfg)
 174                 return -ENOMEM;
 175         lustre_cfg_init(lcfg, cmd, &bufs);
 176         lcfg->lcfg_nid = nid;
 177         rc = class_process_config(lcfg);
 178         OBD_FREE(lcfg, lustre_cfg_len(lcfg->lcfg_bufcount, lcfg->lcfg_buflens));
 179         return rc;
 180 }
 181
 182 /**
 183  * Call class_attach and class_setup.  These methods in turn call
 184  * OBD type-specific methods.
 185  */
 186 int lustre_start_simple(char *obdname, char *type, char *uuid,
 187                         char *s1, char *s2, char *s3, char *s4)
 188 {
 189         int rc;
 190
 191         CDEBUG(D_MOUNT, "Starting OBD %s (typ=%s)\n", obdname, type);
 192
 193         rc = do_lcfg(obdname, 0, LCFG_ATTACH, type, uuid, NULL, NULL);
 194         if (rc) {
 195                 CERROR("%s attach error %d\n", obdname, rc);
 196                 return rc;
 197         }
 198         rc = do_lcfg(obdname, 0, LCFG_SETUP, s1, s2, s3, s4);
 199         if (rc) {
 200                 CERROR("%s setup error %d\n", obdname, rc);
 201                 do_lcfg(obdname, 0, LCFG_DETACH, NULL, NULL, NULL, NULL);
 202         }
 203         return rc;
 204 }
 205
 206 static DEFINE_MUTEX(mgc_start_lock);
 207
 208 /**
 209  * Set up a MGC OBD to process startup logs
 210  *
 211  * \param sb [in] super block of the MGC OBD
 212  *
 213  * \retval 0 success, otherwise error code
 214  */
 215 int lustre_start_mgc(struct super_block *sb)
 216 {
 217         struct obd_connect_data *data = NULL;
 218         struct lustre_sb_info *lsi = s2lsi(sb);
 219         struct obd_device *obd;
 220         struct obd_export *exp;
 221         struct obd_uuid *uuid = NULL;
 222         uuid_t uuidc;
 223         lnet_nid_t nid;
 224         char nidstr[LNET_NIDSTR_SIZE];
 225         char *mgcname = NULL, *niduuid = NULL, *mgssec = NULL;
 226         char *ptr;
 227         int rc = 0, i = 0, j;
 228         size_t len;
 229
 230         ENTRY;
 231
 232         LASSERT(lsi->lsi_lmd);
 233
 234         /* Find the first non-lo MGS NID for our MGC name */
 235         if (IS_SERVER(lsi)) {
 236                 /* mount -o mgsnode=nid */
 237                 ptr = lsi->lsi_lmd->lmd_mgs;
 238                 if (lsi->lsi_lmd->lmd_mgs &&
 239                     (class_parse_nid(lsi->lsi_lmd->lmd_mgs, &nid, &ptr) == 0)) {
 240                         i++;
 241                 } else if (IS_MGS(lsi)) {
 242                         struct lnet_process_id id;
 243
 244                         while ((rc = LNetGetId(i++, &id)) != -ENOENT) {
 245                                 if (id.nid == LNET_NID_LO_0)
 246                                         continue;
 247                                 nid = id.nid;
 248                                 i++;
 249                                 break;
 250                         }
 251                 }
 252         } else { /* client */
 253                 /* Use NIDs from mount line: uml1,1@elan:uml2,2@elan:/lustre */
 254                 ptr = lsi->lsi_lmd->lmd_dev;
 255                 if (class_parse_nid(ptr, &nid, &ptr) == 0)
 256                         i++;
 257         }
 258         if (i == 0) {
 259                 CERROR("No valid MGS NIDs found.\n");
 260                 RETURN(-EINVAL);
 261         }
 262
 263         mutex_lock(&mgc_start_lock);
 264
 265         libcfs_nid2str_r(nid, nidstr, sizeof(nidstr));
 266         len = strlen(LUSTRE_MGC_OBDNAME) + strlen(nidstr) + 1;
 267         OBD_ALLOC(mgcname, len);
 268         OBD_ALLOC(niduuid, len + 2);
 269         if (mgcname == NULL || niduuid == NULL)
 270                 GOTO(out_free, rc = -ENOMEM);
 271         snprintf(mgcname, len, "%s%s", LUSTRE_MGC_OBDNAME, nidstr);
 272
 273         mgssec = lsi->lsi_lmd->lmd_mgssec ? lsi->lsi_lmd->lmd_mgssec : "";
 274
 275         OBD_ALLOC_PTR(data);
 276         if (data == NULL)
 277                 GOTO(out_free, rc = -ENOMEM);
 278
 279         obd = class_name2obd(mgcname);
 280         if (obd && !obd->obd_stopping) {
 281                 int recov_bk;
 282
 283                 rc = obd_set_info_async(NULL, obd->obd_self_export,
 284                                         strlen(KEY_MGSSEC), KEY_MGSSEC,
 285                                         strlen(mgssec), mgssec, NULL);
 286                 if (rc)
 287                         GOTO(out_free, rc);
 288
 289                 /* Re-using an existing MGC */
 290                 atomic_inc(&obd->u.cli.cl_mgc_refcount);
 291
 292                 /* IR compatibility check, only for clients */
 293                 if (lmd_is_client(lsi->lsi_lmd)) {
 294                         int has_ir;
 295                         int vallen = sizeof(*data);
 296                         __u32 *flags = &lsi->lsi_lmd->lmd_flags;
 297
 298                         rc = obd_get_info(NULL, obd->obd_self_export,
 299                                           strlen(KEY_CONN_DATA), KEY_CONN_DATA,
 300                                           &vallen, data);
 301                         LASSERT(rc == 0);
 302                         has_ir = OCD_HAS_FLAG(data, IMP_RECOV);
 303                         if (has_ir ^ !(*flags & LMD_FLG_NOIR)) {
 304                                 /* LMD_FLG_NOIR is for test purpose only */
 305                                 LCONSOLE_WARN(
 306                                               "Mounting client with IR setting not compatible with current MGC. Using MGC setting that is IR %s",
 307                                               has_ir ? "enabled" : "disabled");
 308                                 if (has_ir)
 309                                         *flags &= ~LMD_FLG_NOIR;
 310                                 else
 311                                         *flags |= LMD_FLG_NOIR;
 312                         }
 313                 }
 314
 315                 recov_bk = 0;
 316                 /*
 317                  * If we are restarting the MGS, don't try to keep the MGC's
 318                  * old connection, or registration will fail.
 319                  */
 320                 if (IS_MGS(lsi)) {
 321                         CDEBUG(D_MOUNT, "New MGS with live MGC\n");
 322                         recov_bk = 1;
 323                 }
 324
 325                 /*
 326                  * Try all connections, but only once (again).
 327                  * We don't want to block another target from starting
 328                  * (using its local copy of the log), but we do want to connect
 329                  * if at all possible.
 330                  */
 331                 recov_bk++;
 332                 CDEBUG(D_MOUNT, "%s:Set MGC reconnect %d\n", mgcname, recov_bk);
 333                 rc = obd_set_info_async(NULL, obd->obd_self_export,
 334                                         sizeof(KEY_INIT_RECOV_BACKUP),
 335                                         KEY_INIT_RECOV_BACKUP,
 336                                         sizeof(recov_bk), &recov_bk, NULL);
 337                 GOTO(out, rc = 0);
 338         }
 339
 340         CDEBUG(D_MOUNT, "Start MGC '%s'\n", mgcname);
 341
 342         /* Add the primary NIDs for the MGS */
 343         i = 0;
 344         snprintf(niduuid, len + 2, "%s_%x", mgcname, i);
 345         if (IS_SERVER(lsi)) {
 346                 ptr = lsi->lsi_lmd->lmd_mgs;
 347                 CDEBUG(D_MOUNT, "mgs NIDs %s.\n", ptr);
 348                 if (IS_MGS(lsi)) {
 349                         /* Use local NIDs (including LO) */
 350                         struct lnet_process_id id;
 351
 352                         while ((rc = LNetGetId(i++, &id)) != -ENOENT) {
 353                                 rc = do_lcfg(mgcname, id.nid, LCFG_ADD_UUID,
 354                                              niduuid, NULL, NULL, NULL);
 355                         }
 356                 } else {
 357                         /* Use mgsnode= nids */
 358                         /* mount -o mgsnode=nid */
 359                         if (lsi->lsi_lmd->lmd_mgs) {
 360                                 ptr = lsi->lsi_lmd->lmd_mgs;
 361                         } else if (class_find_param(ptr, PARAM_MGSNODE,
 362                                                     &ptr) != 0) {
 363                                 CERROR("No MGS NIDs given.\n");
 364                                 GOTO(out_free, rc = -EINVAL);
 365                         }
 366                         /*
 367                          * Add primary MGS NID(s).
 368                          * Multiple NIDs on one MGS node are separated
 369                          * by commas.
 370                          */
 371                         while (class_parse_nid(ptr, &nid, &ptr) == 0) {
 372                                 rc = do_lcfg(mgcname, nid, LCFG_ADD_UUID,
 373                                              niduuid, NULL, NULL, NULL);
 374                                 if (rc == 0)
 375                                         ++i;
 376                                 /* Stop at the first failover NID */
 377                                 if (*ptr == ':')
 378                                         break;
 379                         }
 380                 }
 381         } else { /* client */
 382                 /* Use NIDs from mount line: uml1,1@elan:uml2,2@elan:/lustre */
 383                 ptr = lsi->lsi_lmd->lmd_dev;
 384                 while (class_parse_nid(ptr, &nid, &ptr) == 0) {
 385                         rc = do_lcfg(mgcname, nid, LCFG_ADD_UUID,
 386                                      niduuid, NULL, NULL, NULL);
 387                         if (rc == 0)
 388                                 ++i;
 389                         /* Stop at the first failover NID */
 390                         if (*ptr == ':')
 391                                 break;
 392                 }
 393         }
 394         if (i == 0) {
 395                 CERROR("No valid MGS NIDs found.\n");
 396                 GOTO(out_free, rc = -EINVAL);
 397         }
 398         lsi->lsi_lmd->lmd_mgs_failnodes = 1;
 399
 400         /* Random uuid for MGC allows easier reconnects */
 401         OBD_ALLOC_PTR(uuid);
 402         if (uuid == NULL)
 403                 GOTO(out_free, rc = -ENOMEM);
 404
 405         generate_random_uuid(uuidc.b);
 406         snprintf(uuid->uuid, sizeof(*uuid), "%pU", uuidc.b);
 407
 408         /* Start the MGC */
 409         rc = lustre_start_simple(mgcname, LUSTRE_MGC_NAME,
 410                                  (char *)uuid->uuid, LUSTRE_MGS_OBDNAME,
 411                                  niduuid, NULL, NULL);
 412         if (rc)
 413                 GOTO(out_free, rc);
 414
 415         /* Add any failover MGS NIDs */
 416         i = 1;
 417         while (ptr && ((*ptr == ':' ||
 418                class_find_param(ptr, PARAM_MGSNODE, &ptr) == 0))) {
 419                 /* New failover node */
 420                 sprintf(niduuid, "%s_%x", mgcname, i);
 421                 j = 0;
 422                 while (class_parse_nid_quiet(ptr, &nid, &ptr) == 0) {
 423                         rc = do_lcfg(mgcname, nid, LCFG_ADD_UUID,
 424                                      niduuid, NULL, NULL, NULL);
 425                         if (rc == 0)
 426                                 ++j;
 427                         if (*ptr == ':')
 428                                 break;
 429                 }
 430                 if (j > 0) {
 431                         rc = do_lcfg(mgcname, 0, LCFG_ADD_CONN,
 432                                      niduuid, NULL, NULL, NULL);
 433                         if (rc == 0)
 434                                 ++i;
 435                 } else {
 436                         /* at ":/fsname" */
 437                         break;
 438                 }
 439         }
 440         lsi->lsi_lmd->lmd_mgs_failnodes = i;
 441
 442         obd = class_name2obd(mgcname);
 443         if (!obd) {
 444                 CERROR("Can't find mgcobd %s\n", mgcname);
 445                 GOTO(out_free, rc = -ENOTCONN);
 446         }
 447
 448         rc = obd_set_info_async(NULL, obd->obd_self_export,
 449                                 strlen(KEY_MGSSEC), KEY_MGSSEC,
 450                                 strlen(mgssec), mgssec, NULL);
 451         if (rc)
 452                 GOTO(out_free, rc);
 453
 454         /*
 455          * Keep a refcount of servers/clients who started with "mount",
 456          * so we know when we can get rid of the mgc.
 457          */
 458         atomic_set(&obd->u.cli.cl_mgc_refcount, 1);
 459
 460         /* We connect to the MGS at setup, and don't disconnect until cleanup */
 461         data->ocd_connect_flags = OBD_CONNECT_VERSION | OBD_CONNECT_AT |
 462                                   OBD_CONNECT_FULL20 | OBD_CONNECT_IMP_RECOV |
 463                                   OBD_CONNECT_LVB_TYPE |
 464                                   OBD_CONNECT_BULK_MBITS | OBD_CONNECT_BARRIER |
 465                                   OBD_CONNECT_FLAGS2;
 466         data->ocd_connect_flags2 = OBD_CONNECT2_REP_MBITS;
 467
 468         if (lmd_is_client(lsi->lsi_lmd) &&
 469             lsi->lsi_lmd->lmd_flags & LMD_FLG_NOIR)
 470                 data->ocd_connect_flags &= ~OBD_CONNECT_IMP_RECOV;
 471         data->ocd_version = LUSTRE_VERSION_CODE;
 472         rc = obd_connect(NULL, &exp, obd, uuid, data, NULL);
 473         if (rc) {
 474                 CERROR("connect failed %d\n", rc);
 475                 GOTO(out, rc);
 476         }
 477
 478         obd->u.cli.cl_mgc_mgsexp = exp;
 479
 480 out:
 481         /*
 482          * Keep the MGC info in the sb. Note that many lsi's can point
 483          * to the same mgc.
 484          */
 485         lsi->lsi_mgc = obd;
 486 out_free:
 487         mutex_unlock(&mgc_start_lock);
 488
 489         if (uuid)
 490                 OBD_FREE_PTR(uuid);
 491         if (data)
 492                 OBD_FREE_PTR(data);
 493         if (mgcname)
 494                 OBD_FREE(mgcname, len);
 495         if (niduuid)
 496                 OBD_FREE(niduuid, len + 2);
 497         RETURN(rc);
 498 }
 499 EXPORT_SYMBOL(lustre_start_mgc);
 500
 501 static int lustre_stop_mgc(struct super_block *sb)
 502 {
 503         struct lustre_sb_info *lsi = s2lsi(sb);
 504         struct obd_device *obd;
 505         char niduuid[MAX_OBD_NAME + 6], *ptr = NULL;
 506         int i, rc = 0;
 507
 508         ENTRY;
 509
 510         if (!lsi)
 511                 RETURN(-ENOENT);
 512         obd = lsi->lsi_mgc;
 513         if (!obd)
 514                 RETURN(-ENOENT);
 515         lsi->lsi_mgc = NULL;
 516
 517         mutex_lock(&mgc_start_lock);
 518         LASSERT(atomic_read(&obd->u.cli.cl_mgc_refcount) > 0);
 519         if (!atomic_dec_and_test(&obd->u.cli.cl_mgc_refcount)) {
 520                 /*
 521                  * This is not fatal, every client that stops
 522                  * will call in here.
 523                  */
 524                 CDEBUG(D_MOUNT, "MGC still has %d references.\n",
 525                        atomic_read(&obd->u.cli.cl_mgc_refcount));
 526                 GOTO(out, rc = -EBUSY);
 527         }
 528
 529         /*
 530          * The MGC has no recoverable data in any case.
 531          * force shotdown set in umount_begin
 532          */
 533         obd->obd_no_recov = 1;
 534
 535         if (obd->u.cli.cl_mgc_mgsexp) {
 536                 /*
 537                  * An error is not fatal, if we are unable to send the
 538                  * disconnect mgs ping evictor cleans up the export
 539                  */
 540                 rc = obd_disconnect(obd->u.cli.cl_mgc_mgsexp);
 541                 if (rc)
 542                         CDEBUG(D_MOUNT, "disconnect failed %d\n", rc);
 543         }
 544
 545         /*
 546          * Cache the obdname for cleaning the nid uuids, which are
 547          * obdname_XX before calling class_manual_cleanup
 548          */
 549         strcpy(niduuid, obd->obd_name);
 550         ptr = niduuid + strlen(niduuid);
 551
 552         rc = class_manual_cleanup(obd);
 553         if (rc)
 554                 GOTO(out, rc);
 555
 556         for (i = 0; i < lsi->lsi_lmd->lmd_mgs_failnodes; i++) {
 557                 sprintf(ptr, "_%x", i);
 558                 rc = do_lcfg(LUSTRE_MGC_OBDNAME, 0, LCFG_DEL_UUID,
 559                              niduuid, NULL, NULL, NULL);
 560                 if (rc)
 561                         CERROR("del MDC UUID %s failed: rc = %d\n",
 562                                niduuid, rc);
 563         }
 564 out:
 565         /* class_import_put will get rid of the additional connections */
 566         mutex_unlock(&mgc_start_lock);
 567         RETURN(rc);
 568 }
 569
 570 /***************** lustre superblock **************/
 571
 572 struct lustre_sb_info *lustre_init_lsi(struct super_block *sb)
 573 {
 574         struct lustre_sb_info *lsi;
 575
 576         ENTRY;
 577
 578         OBD_ALLOC_PTR(lsi);
 579         if (!lsi)
 580                 RETURN(NULL);
 581         OBD_ALLOC_PTR(lsi->lsi_lmd);
 582         if (!lsi->lsi_lmd) {
 583                 OBD_FREE_PTR(lsi);
 584                 RETURN(NULL);
 585         }
 586
 587         s2lsi_nocast(sb) = lsi;
 588         /* we take 1 extra ref for our setup */
 589         atomic_set(&lsi->lsi_mounts, 1);
 590
 591         /* Default umount style */
 592         lsi->lsi_flags = LSI_UMOUNT_FAILOVER;
 593         INIT_LIST_HEAD(&lsi->lsi_lwp_list);
 594         mutex_init(&lsi->lsi_lwp_mutex);
 595
 596         RETURN(lsi);
 597 }
 598 EXPORT_SYMBOL(lustre_init_lsi);
 599
 600 static int lustre_free_lsi(struct super_block *sb)
 601 {
 602         struct lustre_sb_info *lsi = s2lsi(sb);
 603
 604         ENTRY;
 605
 606         LASSERT(lsi != NULL);
 607         CDEBUG(D_MOUNT, "Freeing lsi %p\n", lsi);
 608
 609         /* someone didn't call server_put_mount. */
 610         LASSERT(atomic_read(&lsi->lsi_mounts) == 0);
 611
 612         llcrypt_sb_free(sb);
 613         if (lsi->lsi_lmd != NULL) {
 614                 if (lsi->lsi_lmd->lmd_dev != NULL)
 615                         OBD_FREE(lsi->lsi_lmd->lmd_dev,
 616                                 strlen(lsi->lsi_lmd->lmd_dev) + 1);
 617                 if (lsi->lsi_lmd->lmd_profile != NULL)
 618                         OBD_FREE(lsi->lsi_lmd->lmd_profile,
 619                                 strlen(lsi->lsi_lmd->lmd_profile) + 1);
 620                 if (lsi->lsi_lmd->lmd_fileset != NULL)
 621                         OBD_FREE(lsi->lsi_lmd->lmd_fileset,
 622                                 strlen(lsi->lsi_lmd->lmd_fileset) + 1);
 623                 if (lsi->lsi_lmd->lmd_mgssec != NULL)
 624                         OBD_FREE(lsi->lsi_lmd->lmd_mgssec,
 625                                 strlen(lsi->lsi_lmd->lmd_mgssec) + 1);
 626                 if (lsi->lsi_lmd->lmd_opts != NULL)
 627                         OBD_FREE(lsi->lsi_lmd->lmd_opts,
 628                                 strlen(lsi->lsi_lmd->lmd_opts) + 1);
 629                 if (lsi->lsi_lmd->lmd_exclude_count)
 630                         OBD_FREE(lsi->lsi_lmd->lmd_exclude,
 631                                 sizeof(lsi->lsi_lmd->lmd_exclude[0]) *
 632                                 lsi->lsi_lmd->lmd_exclude_count);
 633                 if (lsi->lsi_lmd->lmd_mgs != NULL)
 634                         OBD_FREE(lsi->lsi_lmd->lmd_mgs,
 635                                  strlen(lsi->lsi_lmd->lmd_mgs) + 1);
 636                 if (lsi->lsi_lmd->lmd_osd_type != NULL)
 637                         OBD_FREE(lsi->lsi_lmd->lmd_osd_type,
 638                                  strlen(lsi->lsi_lmd->lmd_osd_type) + 1);
 639                 if (lsi->lsi_lmd->lmd_params != NULL)
 640                         OBD_FREE(lsi->lsi_lmd->lmd_params, 4096);
 641                 if (lsi->lsi_lmd->lmd_nidnet != NULL)
 642                         OBD_FREE(lsi->lsi_lmd->lmd_nidnet,
 643                                 strlen(lsi->lsi_lmd->lmd_nidnet) + 1);
 644
 645                 OBD_FREE_PTR(lsi->lsi_lmd);
 646         }
 647
 648         LASSERT(lsi->lsi_llsbi == NULL);
 649         OBD_FREE_PTR(lsi);
 650         s2lsi_nocast(sb) = NULL;
 651
 652         RETURN(0);
 653 }
 654
 655 /*
 656  * The lsi has one reference for every server that is using the disk -
 657  * e.g. MDT, MGS, and potentially MGC
 658  */
 659 int lustre_put_lsi(struct super_block *sb)
 660 {
 661         struct lustre_sb_info *lsi = s2lsi(sb);
 662
 663         ENTRY;
 664
 665         LASSERT(lsi != NULL);
 666
 667         CDEBUG(D_MOUNT, "put %p %d\n", sb, atomic_read(&lsi->lsi_mounts));
 668         if (atomic_dec_and_test(&lsi->lsi_mounts)) {
 669                 if (IS_SERVER(lsi) && lsi->lsi_osd_exp) {
 670                         lu_device_put(&lsi->lsi_dt_dev->dd_lu_dev);
 671                         lsi->lsi_osd_exp->exp_obd->obd_lvfs_ctxt.dt = NULL;
 672                         lsi->lsi_dt_dev = NULL;
 673                         obd_disconnect(lsi->lsi_osd_exp);
 674                         /* wait till OSD is gone */
 675                         obd_zombie_barrier();
 676                 }
 677                 lustre_free_lsi(sb);
 678                 RETURN(1);
 679         }
 680         RETURN(0);
 681 }
 682 EXPORT_SYMBOL(lustre_put_lsi);
 683
 684 /*
 685  * The goal of this function is to extract the file system name
 686  * from the OBD name. This can come in two flavors. One is
 687  * fsname-MDTXXXX or fsname-XXXXXXX were X is a hexadecimal
 688  * number. In both cases we should return fsname. If it is
 689  * not a valid OBD name it is assumed to be the file system
 690  * name itself.
 691  */
 692 void obdname2fsname(const char *tgt, char *fsname, size_t buflen)
 693 {
 694         const char *ptr;
 695         const char *tmp;
 696         size_t len = 0;
 697
 698         /*
 699          * First we have to see if the @tgt has '-' at all. It is
 700          * valid for the user to request something like
 701          * lctl set_param -P llite.lustre*.xattr_cache=0
 702          */
 703         ptr = strrchr(tgt, '-');
 704         if (!ptr) {
 705                 /* No '-' means it could end in '*' */
 706                 ptr = strchr(tgt, '*');
 707                 if (!ptr) {
 708                         /* No '*' either. Assume tgt = fsname */
 709                         len = strlen(tgt);
 710                         goto valid_obd_name;
 711                 }
 712                 len = ptr - tgt;
 713                 goto valid_obd_name;
 714         }
 715
 716         /* tgt format fsname-MDT0000-* */
 717         if ((!strncmp(ptr, "-MDT", 4) ||
 718              !strncmp(ptr, "-OST", 4)) &&
 719              (isxdigit(ptr[4]) && isxdigit(ptr[5]) &&
 720               isxdigit(ptr[6]) && isxdigit(ptr[7]))) {
 721                 len = ptr - tgt;
 722                 goto valid_obd_name;
 723         }
 724
 725         /*
 726          * tgt_format fsname-cli'dev'-'uuid' except for the llite case
 727          * which are named fsname-'uuid'. Examples:
 728          *
 729          * lustre-clilov-ffff88104db5b800
 730          * lustre-ffff88104db5b800  (for llite device)
 731          *
 732          * The length of the OBD uuid can vary on different platforms.
 733          * This test if any invalid characters are in string. Allow
 734          * wildcards with '*' character.
 735          */
 736         ptr++;
 737         if (!strspn(ptr, "0123456789abcdefABCDEF*")) {
 738                 len = 0;
 739                 goto no_fsname;
 740         }
 741
 742         /*
 743          * Now that we validated the device name lets extract the
 744          * file system name. Most of the names in this class will
 745          * have '-cli' in its name which needs to be dropped. If
 746          * it doesn't have '-cli' then its a llite device which
 747          * ptr already points to the start of the uuid string.
 748          */
 749         tmp = strstr(tgt, "-cli");
 750         if (tmp)
 751                 ptr = tmp;
 752         else
 753                 ptr--;
 754         len = ptr - tgt;
 755 valid_obd_name:
 756         len = min_t(size_t, len, LUSTRE_MAXFSNAME);
 757         snprintf(fsname, buflen, "%.*s", (int)len, tgt);
 758 no_fsname:
 759         fsname[len] = '\0';
 760 }
 761 EXPORT_SYMBOL(obdname2fsname);
 762
 763 /**
 764  * SERVER NAME ***
 765  * <FSNAME><SEPARATOR><TYPE><INDEX>
 766  * FSNAME is between 1 and 8 characters (inclusive).
 767  *      Excluded characters are '/' and ':'
 768  * SEPARATOR is either ':' or '-'
 769  * TYPE: "OST", "MDT", etc.
 770  * INDEX: Hex representation of the index
 771  */
 772
 773 /**
 774  * Get the fsname ("lustre") from the server name ("lustre-OST003F").
 775  * @param [in] svname server name including type and index
 776  * @param [out] fsname Buffer to copy filesystem name prefix into.
 777  *  Must have at least 'strlen(fsname) + 1' chars.
 778  * @param [out] endptr if endptr isn't NULL it is set to end of fsname
 779  * rc < 0  on error
 780  */
 781 int server_name2fsname(const char *svname, char *fsname, const char **endptr)
 782 {
 783         const char *dash;
 784
 785         dash = svname + strnlen(svname, LUSTRE_MAXFSNAME);
 786         for (; dash > svname && *dash != '-' && *dash != ':'; dash--)
 787                 ;
 788         if (dash == svname)
 789                 return -EINVAL;
 790
 791         if (fsname != NULL) {
 792                 strncpy(fsname, svname, dash - svname);
 793                 fsname[dash - svname] = '\0';
 794         }
 795
 796         if (endptr != NULL)
 797                 *endptr = dash;
 798
 799         return 0;
 800 }
 801 EXPORT_SYMBOL(server_name2fsname);
 802
 803 /**
 804  * Get service name (svname) from string
 805  * rc < 0 on error
 806  * if endptr isn't NULL it is set to end of fsname *
 807  */
 808 int server_name2svname(const char *label, char *svname, const char **endptr,
 809                        size_t svsize)
 810 {
 811         int rc;
 812         const char *dash;
 813
 814         /* We use server_name2fsname() just for parsing */
 815         rc = server_name2fsname(label, NULL, &dash);
 816         if (rc != 0)
 817                 return rc;
 818
 819         if (endptr != NULL)
 820                 *endptr = dash;
 821
 822         if (strlcpy(svname, dash + 1, svsize) >= svsize)
 823                 return -E2BIG;
 824
 825         return 0;
 826 }
 827 EXPORT_SYMBOL(server_name2svname);
 828
 829 /**
 830  * check server name is OST.
 831  **/
 832 int server_name_is_ost(const char *svname)
 833 {
 834         const char *dash;
 835         int rc;
 836
 837         /* We use server_name2fsname() just for parsing */
 838         rc = server_name2fsname(svname, NULL, &dash);
 839         if (rc != 0)
 840                 return rc;
 841
 842         dash++;
 843
 844         if (strncmp(dash, "OST", 3) == 0)
 845                 return 1;
 846         return 0;
 847 }
 848 EXPORT_SYMBOL(server_name_is_ost);
 849
 850 /**
 851  * Get the index from the target name MDTXXXX/OSTXXXX
 852  * rc = server type, or rc < 0  on error
 853  **/
 854 int target_name2index(const char *tgtname, __u32 *idx, const char **endptr)
 855 {
 856         const char *dash = tgtname;
 857         unsigned long index;
 858         int rc;
 859
 860         if (strncmp(dash, "MDT", 3) == 0)
 861                 rc = LDD_F_SV_TYPE_MDT;
 862         else if (strncmp(dash, "OST", 3) == 0)
 863                 rc = LDD_F_SV_TYPE_OST;
 864         else
 865                 return -EINVAL;
 866
 867         dash += 3;
 868
 869         if (strncmp(dash, "all", 3) == 0) {
 870                 if (endptr != NULL)
 871                         *endptr = dash + 3;
 872                 return rc | LDD_F_SV_ALL;
 873         }
 874
 875         index = simple_strtoul(dash, (char **)endptr, 16);
 876         if (idx != NULL)
 877                 *idx = index;
 878
 879         if (index > 0xffff)
 880                 return -ERANGE;
 881
 882         return rc;
 883 }
 884 EXPORT_SYMBOL(target_name2index);
 885
 886 /*
 887  * Get the index from the OBD name.
 888  * rc = server type, or
 889  * rc < 0  on error
 890  * if endptr isn't NULL it is set to end of name
 891  */
 892 int server_name2index(const char *svname, __u32 *idx, const char **endptr)
 893 {
 894         const char *dash;
 895         int rc;
 896
 897         /* We use server_name2fsname() just for parsing */
 898         rc = server_name2fsname(svname, NULL, &dash);
 899         if (rc != 0)
 900                 return rc;
 901
 902         dash++;
 903         rc = target_name2index(dash, idx, endptr);
 904         if (rc < 0)
 905                 return rc;
 906
 907         /* Account for -mdc after index that is possible when specifying mdt */
 908         if (endptr != NULL && strncmp(LUSTRE_MDC_NAME, *endptr + 1,
 909                                       sizeof(LUSTRE_MDC_NAME)-1) == 0)
 910                 *endptr += sizeof(LUSTRE_MDC_NAME);
 911
 912         return rc;
 913 }
 914 EXPORT_SYMBOL(server_name2index);
 915
 916 /*************** mount common betweeen server and client ***************/
 917
 918 /* Common umount */
 919 int lustre_common_put_super(struct super_block *sb)
 920 {
 921         int rc;
 922
 923         ENTRY;
 924
 925         CDEBUG(D_MOUNT, "dropping sb %p\n", sb);
 926
 927         /* Drop a ref to the MGC */
 928         rc = lustre_stop_mgc(sb);
 929         if (rc && (rc != -ENOENT)) {
 930                 if (rc != -EBUSY) {
 931                         CERROR("Can't stop MGC: %d\n", rc);
 932                         RETURN(rc);
 933                 }
 934                 /*
 935                  * BUSY just means that there's some other OBD that
 936                  * needs the mgc.  Let him clean it up.
 937                  */
 938                 CDEBUG(D_MOUNT, "MGC still in use\n");
 939         }
 940         /* Drop a ref to the mounted disk */
 941         lustre_put_lsi(sb);
 942
 943         RETURN(rc);
 944 }
 945 EXPORT_SYMBOL(lustre_common_put_super);
 946
 947 static void lmd_print(struct lustre_mount_data *lmd)
 948 {
 949         int i;
 950
 951         PRINT_CMD(D_MOUNT, "  mount data:\n");
 952         if (lmd_is_client(lmd))
 953                 PRINT_CMD(D_MOUNT, "profile: %s\n", lmd->lmd_profile);
 954         PRINT_CMD(D_MOUNT, "device:  %s\n", lmd->lmd_dev);
 955         PRINT_CMD(D_MOUNT, "flags:   %x\n", lmd->lmd_flags);
 956
 957         if (lmd->lmd_opts)
 958                 PRINT_CMD(D_MOUNT, "options: %s\n", lmd->lmd_opts);
 959
 960         if (lmd->lmd_recovery_time_soft)
 961                 PRINT_CMD(D_MOUNT, "recovery time soft: %d\n",
 962                           lmd->lmd_recovery_time_soft);
 963
 964         if (lmd->lmd_recovery_time_hard)
 965                 PRINT_CMD(D_MOUNT, "recovery time hard: %d\n",
 966                           lmd->lmd_recovery_time_hard);
 967
 968         for (i = 0; i < lmd->lmd_exclude_count; i++) {
 969                 PRINT_CMD(D_MOUNT, "exclude %d:  OST%04x\n", i,
 970                           lmd->lmd_exclude[i]);
 971         }
 972 }
 973
 974 /* Is this server on the exclusion list */
 975 int lustre_check_exclusion(struct super_block *sb, char *svname)
 976 {
 977         struct lustre_sb_info *lsi = s2lsi(sb);
 978         struct lustre_mount_data *lmd = lsi->lsi_lmd;
 979         __u32 index;
 980         int i, rc;
 981
 982         ENTRY;
 983
 984         rc = server_name2index(svname, &index, NULL);
 985         if (rc != LDD_F_SV_TYPE_OST)
 986                 /* Only exclude OSTs */
 987                 RETURN(0);
 988
 989         CDEBUG(D_MOUNT, "Check exclusion %s (%d) in %d of %s\n", svname,
 990                index, lmd->lmd_exclude_count, lmd->lmd_dev);
 991
 992         for (i = 0; i < lmd->lmd_exclude_count; i++) {
 993                 if (index == lmd->lmd_exclude[i]) {
 994                         CWARN("Excluding %s (on exclusion list)\n", svname);
 995                         RETURN(1);
 996                 }
 997         }
 998         RETURN(0);
 999 }
1000
1001 /* mount -v  -o exclude=lustre-OST0001:lustre-OST0002 -t lustre ... */
1002 static int lmd_make_exclusion(struct lustre_mount_data *lmd, const char *ptr)
1003 {
1004         const char *s1 = ptr, *s2;
1005         __u32 *exclude_list;
1006         __u32 index = 0;
1007         int rc = 0, devmax;
1008
1009         ENTRY;
1010
1011         /*
1012          * The shortest an ost name can be is 8 chars: -OST0000.
1013          * We don't actually know the fsname at this time, so in fact
1014          * a user could specify any fsname.
1015          */
1016         devmax = strlen(ptr) / 8 + 1;
1017
1018         /* temp storage until we figure out how many we have */
1019         OBD_ALLOC_PTR_ARRAY(exclude_list, devmax);
1020         if (!exclude_list)
1021                 RETURN(-ENOMEM);
1022
1023         /* we enter this fn pointing at the '=' */
1024         while (*s1 && *s1 != ' ' && *s1 != ',') {
1025                 s1++;
1026                 rc = server_name2index(s1, &index, &s2);
1027                 if (rc < 0) {
1028                         CERROR("Can't parse server name '%s': rc = %d\n",
1029                                s1, rc);
1030                         break;
1031                 }
1032                 if (rc == LDD_F_SV_TYPE_OST)
1033                         exclude_list[lmd->lmd_exclude_count++] = index;
1034                 else
1035                         CDEBUG(D_MOUNT, "ignoring exclude %.*s: type = %#x\n",
1036                                (uint)(s2-s1), s1, rc);
1037                 s1 = s2;
1038                 /*
1039                  * now we are pointing at ':' (next exclude)
1040                  * or ',' (end of excludes)
1041                  */
1042                 if (lmd->lmd_exclude_count >= devmax)
1043                         break;
1044         }
1045         if (rc >= 0) /* non-err */
1046                 rc = 0;
1047
1048         if (lmd->lmd_exclude_count) {
1049                 /* permanent, freed in lustre_free_lsi */
1050                 OBD_ALLOC_PTR_ARRAY(lmd->lmd_exclude,
1051                                     lmd->lmd_exclude_count);
1052                 if (lmd->lmd_exclude) {
1053                         memcpy(lmd->lmd_exclude, exclude_list,
1054                                sizeof(index) * lmd->lmd_exclude_count);
1055                 } else {
1056                         rc = -ENOMEM;
1057                         lmd->lmd_exclude_count = 0;
1058                 }
1059         }
1060         OBD_FREE_PTR_ARRAY(exclude_list, devmax);
1061         RETURN(rc);
1062 }
1063
1064 static int lmd_parse_mgssec(struct lustre_mount_data *lmd, char *ptr)
1065 {
1066         char *tail;
1067         int length;
1068
1069         if (lmd->lmd_mgssec != NULL) {
1070                 OBD_FREE(lmd->lmd_mgssec, strlen(lmd->lmd_mgssec) + 1);
1071                 lmd->lmd_mgssec = NULL;
1072         }
1073
1074         tail = strchr(ptr, ',');
1075         if (tail == NULL)
1076                 length = strlen(ptr);
1077         else
1078                 length = tail - ptr;
1079
1080         OBD_ALLOC(lmd->lmd_mgssec, length + 1);
1081         if (lmd->lmd_mgssec == NULL)
1082                 return -ENOMEM;
1083
1084         memcpy(lmd->lmd_mgssec, ptr, length);
1085         lmd->lmd_mgssec[length] = '\0';
1086         return 0;
1087 }
1088
1089 static int lmd_parse_network(struct lustre_mount_data *lmd, char *ptr)
1090 {
1091         char *tail;
1092         int length;
1093
1094         if (lmd->lmd_nidnet != NULL) {
1095                 OBD_FREE(lmd->lmd_nidnet, strlen(lmd->lmd_nidnet) + 1);
1096                 lmd->lmd_nidnet = NULL;
1097         }
1098
1099         tail = strchr(ptr, ',');
1100         if (tail == NULL)
1101                 length = strlen(ptr);
1102         else
1103                 length = tail - ptr;
1104
1105         OBD_ALLOC(lmd->lmd_nidnet, length + 1);
1106         if (lmd->lmd_nidnet == NULL)
1107                 return -ENOMEM;
1108
1109         memcpy(lmd->lmd_nidnet, ptr, length);
1110         lmd->lmd_nidnet[length] = '\0';
1111         return 0;
1112 }
1113
1114 static int lmd_parse_string(char **handle, char *ptr)
1115 {
1116         char *tail;
1117         int length;
1118
1119         if ((handle == NULL) || (ptr == NULL))
1120                 return -EINVAL;
1121
1122         if (*handle != NULL) {
1123                 OBD_FREE(*handle, strlen(*handle) + 1);
1124                 *handle = NULL;
1125         }
1126
1127         tail = strchr(ptr, ',');
1128         if (tail == NULL)
1129                 length = strlen(ptr);
1130         else
1131                 length = tail - ptr;
1132
1133         OBD_ALLOC(*handle, length + 1);
1134         if (*handle == NULL)
1135                 return -ENOMEM;
1136
1137         memcpy(*handle, ptr, length);
1138         (*handle)[length] = '\0';
1139
1140         return 0;
1141 }
1142
1143 /* Collect multiple values for mgsnid specifiers */
1144 static int lmd_parse_mgs(struct lustre_mount_data *lmd, char **ptr)
1145 {
1146         lnet_nid_t nid;
1147         char *tail = *ptr;
1148         char *mgsnid;
1149         int length;
1150         int oldlen = 0;
1151
1152         /* Find end of NID-list */
1153         while (class_parse_nid_quiet(tail, &nid, &tail) == 0)
1154                 ; /* do nothing */
1155
1156         length = tail - *ptr;
1157         if (length == 0) {
1158                 LCONSOLE_ERROR_MSG(0x159, "Can't parse NID '%s'\n", *ptr);
1159                 return -EINVAL;
1160         }
1161
1162         if (lmd->lmd_mgs != NULL)
1163                 oldlen = strlen(lmd->lmd_mgs) + 1;
1164
1165         OBD_ALLOC(mgsnid, oldlen + length + 1);
1166         if (mgsnid == NULL)
1167                 return -ENOMEM;
1168
1169         if (lmd->lmd_mgs != NULL) {
1170                 /* Multiple mgsnid= are taken to mean failover locations */
1171                 memcpy(mgsnid, lmd->lmd_mgs, oldlen);
1172                 mgsnid[oldlen - 1] = ':';
1173                 OBD_FREE(lmd->lmd_mgs, oldlen);
1174         }
1175         memcpy(mgsnid + oldlen, *ptr, length);
1176         mgsnid[oldlen + length] = '\0';
1177         lmd->lmd_mgs = mgsnid;
1178         *ptr = tail;
1179
1180         return 0;
1181 }
1182
1183 /**
1184  * Find the first delimiter (comma or colon) from the specified \a buf and
1185  * make \a *endh point to the string starting with the delimiter. The commas
1186  * in expression list [...] will be skipped.
1187  *
1188  * @buf         a delimiter-separated string
1189  * @endh        a pointer to a pointer that will point to the string
1190  *              starting with the delimiter
1191  *
1192  * RETURNS      true if delimiter is found, false if delimiter is not found
1193  */
1194 static bool lmd_find_delimiter(char *buf, char **endh)
1195 {
1196         char *c = buf;
1197         size_t pos;
1198         bool found;
1199
1200         if (!buf)
1201                 return false;
1202 try_again:
1203         if (*c == ',' || *c == ':')
1204                 return true;
1205
1206         pos = strcspn(c, "[:,]");
1207         if (!pos)
1208                 return false;
1209
1210         /* Not a valid mount string */
1211         if (*c == ']') {
1212                 CWARN("invalid mount string format\n");
1213                 return false;
1214         }
1215
1216         c += pos;
1217         if (*c == '[') {
1218                 c = strchr(c, ']');
1219
1220                 /* invalid mount string */
1221                 if (!c) {
1222                         CWARN("invalid mount string format\n");
1223                         return false;
1224                 }
1225                 c++;
1226                 goto try_again;
1227         }
1228
1229         found = *c != '\0';
1230         if (found && endh)
1231                 *endh = c;
1232
1233         return found;
1234 }
1235
1236 /**
1237  * Find the first valid string delimited by comma or colon from the specified
1238  * \a buf and parse it to see whether it's a valid NID list. If yes, \a *endh
1239  * will point to the next string starting with the delimiter.
1240  *
1241  * \param[in] buf       a delimiter-separated string
1242  * \param[in] endh      a pointer to a pointer that will point to the string
1243  *                      starting with the delimiter
1244  *
1245  * \retval 0            if the string is a valid NID list
1246  * \retval 1            if the string is not a valid NID list
1247  */
1248 static int lmd_parse_nidlist(char *buf, char **endh)
1249 {
1250         LIST_HEAD(nidlist);
1251         char *endp = buf;
1252         char tmp;
1253         int rc = 0;
1254
1255         if (buf == NULL)
1256                 return 1;
1257         while (*buf == ',' || *buf == ':')
1258                 buf++;
1259         if (*buf == ' ' || *buf == '/' || *buf == '\0')
1260                 return 1;
1261
1262         if (!lmd_find_delimiter(buf, &endp))
1263                 endp = buf + strlen(buf);
1264
1265         tmp = *endp;
1266         *endp = '\0';
1267
1268         if (cfs_parse_nidlist(buf, strlen(buf), &nidlist) <= 0)
1269                 rc = 1;
1270         cfs_free_nidlist(&nidlist);
1271
1272         *endp = tmp;
1273         if (rc != 0)
1274                 return rc;
1275         if (endh != NULL)
1276                 *endh = endp;
1277         return 0;
1278 }
1279
1280 /**
1281  * Parse mount line options
1282  * e.g. mount -v -t lustre -o abort_recov uml1:uml2:/lustre-client /mnt/lustre
1283  * dev is passed as device=uml1:/lustre by mount.lustre_tgt
1284  */
1285 int lmd_parse(char *options, struct lustre_mount_data *lmd)
1286 {
1287         char *s1, *s2, *devname = NULL;
1288         struct lustre_mount_data *raw = (struct lustre_mount_data *)options;
1289         int rc = 0;
1290
1291         ENTRY;
1292
1293         LASSERT(lmd);
1294         if (!options) {
1295                 LCONSOLE_ERROR_MSG(0x162,
1296                                    "Missing mount data: check /sbin/mount.lustre_tgt is installed.\n");
1297                 RETURN(-EINVAL);
1298         }
1299
1300         /* Options should be a string - try to detect old lmd data */
1301         if ((raw->lmd_magic & 0xffffff00) == (LMD_MAGIC & 0xffffff00)) {
1302                 LCONSOLE_ERROR_MSG(0x163,
1303                                    "Using an old version of /sbin/mount.lustre. Please install version %s\n",
1304                                    LUSTRE_VERSION_STRING);
1305                 RETURN(-EINVAL);
1306         }
1307         lmd->lmd_magic = LMD_MAGIC;
1308
1309         OBD_ALLOC(lmd->lmd_params, LMD_PARAMS_MAXLEN);
1310         if (lmd->lmd_params == NULL)
1311                 RETURN(-ENOMEM);
1312         lmd->lmd_params[0] = '\0';
1313
1314         /* Set default flags here */
1315
1316         s1 = options;
1317         while (*s1) {
1318                 int clear = 0;
1319                 int time_min = OBD_RECOVERY_TIME_MIN;
1320                 char *s3;
1321
1322                 /* Skip whitespace and extra commas */
1323                 while (*s1 == ' ' || *s1 == ',')
1324                         s1++;
1325                 s3 = s1;
1326
1327                 /*
1328                  * Client options are parsed in ll_options: eg. flock,
1329                  * user_xattr, acl
1330                  */
1331
1332                 /*
1333                  * Parse non-ldiskfs options here. Rather than modifying
1334                  * ldiskfs, we just zero these out here
1335                  */
1336                 if (strncmp(s1, "abort_recov", 11) == 0) {
1337                         lmd->lmd_flags |= LMD_FLG_ABORT_RECOV;
1338                         clear++;
1339                 } else if (strncmp(s1, "abort_recov_mdt", 15) == 0) {
1340                         lmd->lmd_flags |= LMD_FLG_ABORT_RECOV_MDT;
1341                         clear++;
1342                 } else if (strncmp(s1, "recovery_time_soft=", 19) == 0) {
1343                         lmd->lmd_recovery_time_soft =
1344                                 max_t(int, simple_strtoul(s1 + 19, NULL, 10),
1345                                       time_min);
1346                         clear++;
1347                 } else if (strncmp(s1, "recovery_time_hard=", 19) == 0) {
1348                         lmd->lmd_recovery_time_hard =
1349                                 max_t(int, simple_strtoul(s1 + 19, NULL, 10),
1350                                       time_min);
1351                         clear++;
1352                 } else if (strncmp(s1, "no_precreate", 12) == 0) {
1353                         lmd->lmd_flags |= LMD_FLG_NO_PRECREATE;
1354                         clear++;
1355                 } else if (strncmp(s1, "noir", 4) == 0) {
1356                         lmd->lmd_flags |= LMD_FLG_NOIR; /* test purpose only. */
1357                         clear++;
1358                 } else if (strncmp(s1, "nosvc", 5) == 0) {
1359                         lmd->lmd_flags |= LMD_FLG_NOSVC;
1360                         clear++;
1361                 } else if (strncmp(s1, "nomgs", 5) == 0) {
1362                         lmd->lmd_flags |= LMD_FLG_NOMGS;
1363                         clear++;
1364                 } else if (strncmp(s1, "noscrub", 7) == 0) {
1365                         lmd->lmd_flags |= LMD_FLG_NOSCRUB;
1366                         clear++;
1367                 } else if (strncmp(s1, "skip_lfsck", 10) == 0) {
1368                         lmd->lmd_flags |= LMD_FLG_SKIP_LFSCK;
1369                         clear++;
1370                 } else if (strncmp(s1, "rdonly_dev", 10) == 0) {
1371                         lmd->lmd_flags |= LMD_FLG_DEV_RDONLY;
1372                         clear++;
1373                 } else if (strncmp(s1, PARAM_MGSNODE,
1374                                    sizeof(PARAM_MGSNODE) - 1) == 0) {
1375                         s2 = s1 + sizeof(PARAM_MGSNODE) - 1;
1376                         /*
1377                          * Assume the next mount opt is the first
1378                          * invalid NID we get to.
1379                          */
1380                         rc = lmd_parse_mgs(lmd, &s2);
1381                         if (rc)
1382                                 goto invalid;
1383                         s3 = s2;
1384                         clear++;
1385                 } else if (strncmp(s1, "writeconf", 9) == 0) {
1386                         lmd->lmd_flags |= LMD_FLG_WRITECONF;
1387                         clear++;
1388                 } else if (strncmp(s1, "nolocallogs", 11) == 0) {
1389                         lmd->lmd_flags |= LMD_FLG_NO_LOCAL_LOGS;
1390                         clear++;
1391                 } else if (strncmp(s1, "update", 6) == 0) {
1392                         lmd->lmd_flags |= LMD_FLG_UPDATE;
1393                         clear++;
1394                 } else if (strncmp(s1, "virgin", 6) == 0) {
1395                         lmd->lmd_flags |= LMD_FLG_VIRGIN;
1396                         clear++;
1397                 } else if (strncmp(s1, "noprimnode", 10) == 0) {
1398                         lmd->lmd_flags |= LMD_FLG_NO_PRIMNODE;
1399                         clear++;
1400                 } else if (strncmp(s1, "mgssec=", 7) == 0) {
1401                         rc = lmd_parse_mgssec(lmd, s1 + 7);
1402                         if (rc)
1403                                 goto invalid;
1404                         clear++;
1405                         /* ost exclusion list */
1406                 } else if (strncmp(s1, "exclude=", 8) == 0) {
1407                         rc = lmd_make_exclusion(lmd, s1 + 7);
1408                         if (rc)
1409                                 goto invalid;
1410                         clear++;
1411                 } else if (strncmp(s1, "mgs", 3) == 0) {
1412                         /* We are an MGS */
1413                         lmd->lmd_flags |= LMD_FLG_MGS;
1414                         clear++;
1415                 } else if (strncmp(s1, "svname=", 7) == 0) {
1416                         rc = lmd_parse_string(&lmd->lmd_profile, s1 + 7);
1417                         if (rc)
1418                                 goto invalid;
1419                         clear++;
1420                 } else if (strncmp(s1, "param=", 6) == 0) {
1421                         size_t length, params_length;
1422                         char  *tail = s1;
1423
1424                         if (lmd_find_delimiter(s1 + 6, &tail)) {
1425                                 char *param_str = tail + 1;
1426                                 int   supplementary = 1;
1427
1428                                 while (lmd_parse_nidlist(param_str,
1429                                                          &param_str) == 0) {
1430                                         supplementary = 0;
1431                                 }
1432                                 length = param_str - s1 - supplementary;
1433                         } else {
1434                                 length = strlen(s1);
1435                         }
1436                         length -= 6;
1437                         params_length = strlen(lmd->lmd_params);
1438                         if (params_length + length + 1 >= LMD_PARAMS_MAXLEN)
1439                                 RETURN(-E2BIG);
1440                         strncat(lmd->lmd_params, s1 + 6, length);
1441                         lmd->lmd_params[params_length + length] = '\0';
1442                         strlcat(lmd->lmd_params, " ", LMD_PARAMS_MAXLEN);
1443                         s3 = s1 + 6 + length;
1444                         clear++;
1445                 } else if (strncmp(s1, "localrecov", 10) == 0) {
1446                         lmd->lmd_flags |= LMD_FLG_LOCAL_RECOV;
1447                         clear++;
1448                 } else if (strncmp(s1, "osd=", 4) == 0) {
1449                         rc = lmd_parse_string(&lmd->lmd_osd_type, s1 + 4);
1450                         if (rc)
1451                                 goto invalid;
1452                         clear++;
1453                 }
1454                 /*
1455                  * Linux 2.4 doesn't pass the device, so we stuck it at
1456                  * the end of the options.
1457                  */
1458                 else if (strncmp(s1, "device=", 7) == 0) {
1459                         devname = s1 + 7;
1460                         /*
1461                          * terminate options right before device.  device
1462                          * must be the last one.
1463                          */
1464                         *s1 = '\0';
1465                         break;
1466                 } else if (strncmp(s1, "network=", 8) == 0) {
1467                         rc = lmd_parse_network(lmd, s1 + 8);
1468                         if (rc)
1469                                 goto invalid;
1470
1471                         /* check if LNet dynamic peer discovery is activated */
1472                         if (LNetGetPeerDiscoveryStatus()) {
1473                                 CERROR("LNet Dynamic Peer Discovery is enabled "
1474                                        "on this node. 'network' mount option "
1475                                        "cannot be taken into account.\n");
1476                                 goto invalid;
1477                         }
1478
1479                         clear++;
1480                 }
1481
1482                 /* Find next opt */
1483                 s2 = strchr(s3, ',');
1484                 if (s2 == NULL) {
1485                         if (clear)
1486                                 *s1 = '\0';
1487                         break;
1488                 }
1489                 s2++;
1490                 if (clear)
1491                         memmove(s1, s2, strlen(s2) + 1);
1492                 else
1493                         s1 = s2;
1494         }
1495
1496         if (!devname) {
1497                 LCONSOLE_ERROR_MSG(0x164,
1498                                    "Can't find device name (need mount option 'device=...')\n");
1499                 goto invalid;
1500         }
1501
1502         s1 = strstr(devname, ":/");
1503         if (s1) {
1504                 ++s1;
1505                 lmd->lmd_flags |= LMD_FLG_CLIENT;
1506                 /* Remove leading /s from fsname */
1507                 while (*++s1 == '/')
1508                         ;
1509                 s2 = s1;
1510                 while (*s2 != '/' && *s2 != '\0')
1511                         s2++;
1512                 /* Freed in lustre_free_lsi */
1513                 OBD_ALLOC(lmd->lmd_profile, s2 - s1 + 8);
1514                 if (!lmd->lmd_profile)
1515                         RETURN(-ENOMEM);
1516
1517                 strncat(lmd->lmd_profile, s1, s2 - s1);
1518                 strncat(lmd->lmd_profile, "-client", 7);
1519
1520                 s1 = s2;
1521                 s2 = s1 + strlen(s1) - 1;
1522                 /* Remove padding /s from fileset */
1523                 while (*s2 == '/')
1524                         s2--;
1525                 if (s2 > s1) {
1526                         OBD_ALLOC(lmd->lmd_fileset, s2 - s1 + 2);
1527                         if (lmd->lmd_fileset == NULL) {
1528                                 OBD_FREE(lmd->lmd_profile,
1529                                          strlen(lmd->lmd_profile) + 1);
1530                                 RETURN(-ENOMEM);
1531                         }
1532                         strncat(lmd->lmd_fileset, s1, s2 - s1 + 1);
1533                 }
1534         } else {
1535                 /* server mount */
1536                 if (lmd->lmd_nidnet != NULL) {
1537                         /* 'network=' mount option forbidden for server */
1538                         OBD_FREE(lmd->lmd_nidnet, strlen(lmd->lmd_nidnet) + 1);
1539                         lmd->lmd_nidnet = NULL;
1540                         rc = -EINVAL;
1541                         CERROR(
1542                                "%s: option 'network=' not allowed for Lustre servers: rc = %d\n",
1543                                devname, rc);
1544                         RETURN(rc);
1545                 }
1546         }
1547
1548         /* Freed in lustre_free_lsi */
1549         OBD_ALLOC(lmd->lmd_dev, strlen(devname) + 1);
1550         if (!lmd->lmd_dev)
1551                 RETURN(-ENOMEM);
1552         strncpy(lmd->lmd_dev, devname, strlen(devname)+1);
1553
1554         /* Save mount options */
1555         s1 = options + strlen(options) - 1;
1556         while (s1 >= options && (*s1 == ',' || *s1 == ' '))
1557                 *s1-- = 0;
1558         while (*options && (*options == ',' || *options == ' '))
1559                 options++;
1560         if (*options != 0) {
1561                 /* Freed in lustre_free_lsi */
1562                 OBD_ALLOC(lmd->lmd_opts, strlen(options) + 1);
1563                 if (!lmd->lmd_opts)
1564                         RETURN(-ENOMEM);
1565                 strncpy(lmd->lmd_opts, options, strlen(options)+1);
1566         }
1567
1568         lmd_print(lmd);
1569         lmd->lmd_magic = LMD_MAGIC;
1570
1571         RETURN(rc);
1572
1573 invalid:
1574         CERROR("Bad mount options %s\n", options);
1575         RETURN(-EINVAL);
1576 }
1577 EXPORT_SYMBOL(lmd_parse);
1578
1579 #ifdef HAVE_SERVER_SUPPORT
1580 /**
1581  * This is the entry point for the mount call into Lustre.
1582  * This is called when a server target is mounted,
1583  * and this is where we start setting things up.
1584  * @param data Mount options (e.g. -o flock,abort_recov)
1585  */
1586 static int lustre_tgt_fill_super(struct super_block *sb, void *lmd2_data,
1587                                  int silent)
1588 {
1589         struct lustre_mount_data *lmd;
1590         struct lustre_sb_info *lsi;
1591         int rc;
1592
1593         ENTRY;
1594
1595         CDEBUG(D_MOUNT|D_VFSTRACE, "VFS Op: sb %p\n", sb);
1596
1597         lsi = lustre_init_lsi(sb);
1598         if (!lsi)
1599                 RETURN(-ENOMEM);
1600         lmd = lsi->lsi_lmd;
1601
1602         /*
1603          * Disable lockdep during mount, because mount locking patterns are
1604          * 'special'.
1605          */
1606         lockdep_off();
1607
1608         /*
1609          * LU-639: the OBD cleanup of last mount may not finish yet, wait here.
1610          */
1611         obd_zombie_barrier();
1612
1613         /* Figure out the lmd from the mount options */
1614         if (lmd_parse(lmd2_data, lmd)) {
1615                 lustre_put_lsi(sb);
1616                 GOTO(out, rc = -EINVAL);
1617         }
1618
1619         if (lmd_is_client(lmd)) {
1620                 rc = -ENODEV;
1621                 CERROR("%s: attempting to mount a client with -t lustre_tgt' which is only for server-side mounts: rc = %d\n",
1622                        lmd->lmd_dev, rc);
1623                 lustre_put_lsi(sb);
1624                 GOTO(out, rc);
1625         }
1626
1627         CDEBUG(D_MOUNT, "Mounting server from %s\n", lmd->lmd_dev);
1628         rc = server_fill_super(sb);
1629         /*
1630          * server_fill_super calls lustre_start_mgc after the mount
1631          * because we need the MGS NIDs which are stored on disk.
1632          * Plus, we may need to start the MGS first.
1633          *
1634          * server_fill_super will call server_put_super on failure
1635          *
1636          * If error happens in fill_super() call, @lsi will be killed there.
1637          * This is why we do not put it here.
1638          */
1639 out:
1640         if (rc) {
1641                 CERROR("Unable to mount %s (%d)\n",
1642                        s2lsi(sb) ? lmd->lmd_dev : "", rc);
1643         } else {
1644                 CDEBUG(D_SUPER, "Mount %s complete\n",
1645                        lmd->lmd_dev);
1646         }
1647         lockdep_on();
1648         return rc;
1649 }
1650
1651 /***************** FS registration ******************/
1652 static struct dentry *lustre_tgt_mount(struct file_system_type *fs_type,
1653                                        int flags, const char *devname,
1654                                        void *data)
1655 {
1656         return mount_nodev(fs_type, flags, data, lustre_tgt_fill_super);
1657 }
1658
1659 /* Register the "lustre_tgt" fs type.
1660  *
1661  * Right now this isn't any different than the normal "lustre" filesystem
1662  * type, but it is added so that there is some compatibility to allow
1663  * changing documentation and scripts to start using the "lustre_tgt" type
1664  * at mount time. That will simplify test interop, and in case of upgrades
1665  * that change to the new type and then need to roll back for some reason.
1666  *
1667  * The long-term goal is to disentangle the client and server mount code.
1668  */
1669 static struct file_system_type lustre_tgt_fstype = {
1670         .owner          = THIS_MODULE,
1671         .name           = "lustre_tgt",
1672         .mount          = lustre_tgt_mount,
1673         .kill_sb        = kill_anon_super,
1674         .fs_flags       = FS_REQUIRES_DEV | FS_RENAME_DOES_D_MOVE,
1675 };
1676 MODULE_ALIAS_FS("lustre_tgt");
1677
1678 int lustre_tgt_register_fs(void)
1679 {
1680         return register_filesystem(&lustre_tgt_fstype);
1681 }
1682
1683 void lustre_tgt_unregister_fs(void)
1684 {
1685         unregister_filesystem(&lustre_tgt_fstype);
1686 }
1687
1688 #endif /* HAVE_SERVER_SUPPORT */