lustre/utils/liblustreapi.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2003, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2017, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  * Lustre is a trademark of Sun Microsystems, Inc.
  31  *
  32  * lustre/utils/liblustreapi.c
  33  *
  34  * Author: Peter J. Braam <braam@clusterfs.com>
  35  * Author: Phil Schwan <phil@clusterfs.com>
  36  * Author: Robert Read <rread@clusterfs.com>
  37  */
  38
  39 /* for O_DIRECTORY */
  40 #ifndef _GNU_SOURCE
  41 #define _GNU_SOURCE
  42 #endif
  43
  44 #include <ctype.h>
  45 #include <mntent.h>
  46 #include <stdlib.h>
  47 #include <stdio.h>
  48 #include <string.h>
  49 #include <stddef.h>
  50 #include <sys/ioctl.h>
  51 #include <unistd.h>
  52 #include <fcntl.h>
  53 #include <errno.h>
  54 #include <dirent.h>
  55 #include <stdarg.h>
  56 #include <sys/stat.h>
  57 #include <sys/statfs.h>
  58 #include <sys/syscall.h>
  59 #include <sys/time.h>
  60 #include <sys/types.h>
  61 #include <sys/xattr.h>
  62 #include <sys/sysmacros.h>
  63 #include <time.h>
  64 #include <fnmatch.h>
  65 #include <libgen.h> /* for dirname() */
  66 #include <linux/limits.h>
  67 #ifdef HAVE_LINUX_UNISTD_H
  68 #include <linux/unistd.h>
  69 #else
  70 #include <unistd.h>
  71 #endif
  72 #include <poll.h>
  73 #include <time.h>
  74 #include <inttypes.h>
  75
  76 #include <libcfs/util/ioctl.h>
  77 #include <libcfs/util/param.h>
  78 #include <libcfs/util/string.h>
  79 #include <linux/lnet/lnetctl.h>
  80 #include <lustre/lustreapi.h>
  81 #include <linux/lustre/lustre_ostid.h>
  82 #include <linux/lustre/lustre_ioctl.h>
  83 #include "lustreapi_internal.h"
  84 #include "lstddef.h"
  85
  86 static int llapi_msg_level = LLAPI_MSG_MAX;
  87 const char *liblustreapi_cmd;
  88
  89 char *mdt_hash_name[] = { "none",
  90                           LMV_HASH_NAME_ALL_CHARS,
  91                           LMV_HASH_NAME_FNV_1A_64,
  92                           LMV_HASH_NAME_CRUSH,
  93 };
  94
  95 struct lustre_foreign_type lu_foreign_types[] = {
  96         {.lft_type = LU_FOREIGN_TYPE_NONE, .lft_name = "none"},
  97         {.lft_type = LU_FOREIGN_TYPE_DAOS, .lft_name = "daos"},
  98         /* must be the last element */
  99         {.lft_type = LU_FOREIGN_TYPE_UNKNOWN, .lft_name = NULL}
 100         /* array max dimension must be <= UINT32_MAX */
 101 };
 102
 103 void llapi_msg_set_level(int level)
 104 {
 105         /* ensure level is in the good range */
 106         if (level < LLAPI_MSG_OFF)
 107                 llapi_msg_level = LLAPI_MSG_OFF;
 108         else if (level > LLAPI_MSG_MAX)
 109                 llapi_msg_level = LLAPI_MSG_MAX;
 110         else
 111                 llapi_msg_level = level;
 112 }
 113
 114 int llapi_msg_get_level(void)
 115 {
 116         return llapi_msg_level;
 117 }
 118
 119 void llapi_set_command_name(const char *cmd)
 120 {
 121         liblustreapi_cmd = cmd;
 122 }
 123
 124 void llapi_clear_command_name(void)
 125 {
 126         liblustreapi_cmd = NULL;
 127 }
 128
 129 static void error_callback_default(enum llapi_message_level level, int err,
 130                                    const char *fmt, va_list ap)
 131 {
 132         bool has_nl = strchr(fmt, '\n') != NULL;
 133
 134         if (liblustreapi_cmd != NULL)
 135                 fprintf(stderr, "%s %s: ", program_invocation_short_name,
 136                         liblustreapi_cmd);
 137         else
 138                 fprintf(stderr, "%s: ", program_invocation_short_name);
 139
 140
 141         if (level & LLAPI_MSG_NO_ERRNO) {
 142                 vfprintf(stderr, fmt, ap);
 143                 if (!has_nl)
 144                         fprintf(stderr, "\n");
 145         } else {
 146                 char *newfmt;
 147
 148                 /*
 149                  * Remove trailing linefeed so error string can be appended.
 150                  * @fmt is a const string, so we can't modify it directly.
 151                  */
 152                 if (has_nl && (newfmt = strdup(fmt)))
 153                         *strrchr(newfmt, '\n') = '\0';
 154                 else
 155                         newfmt = (char *)fmt;
 156
 157                 vfprintf(stderr, newfmt, ap);
 158                 if (newfmt != fmt)
 159                         free(newfmt);
 160                 fprintf(stderr, ": %s (%d)\n", strerror(err), err);
 161         }
 162 }
 163
 164 static void info_callback_default(enum llapi_message_level level, int err,
 165                                   const char *fmt, va_list ap)
 166 {
 167         if (err != 0) {
 168                 if (liblustreapi_cmd != NULL) {
 169                         fprintf(stdout, "%s %s: ",
 170                                 program_invocation_short_name,
 171                                 liblustreapi_cmd);
 172                 } else {
 173                         fprintf(stdout, "%s: ", program_invocation_short_name);
 174                 }
 175         }
 176         vfprintf(stdout, fmt, ap);
 177 }
 178
 179 static llapi_log_callback_t llapi_error_callback = error_callback_default;
 180 static llapi_log_callback_t llapi_info_callback = info_callback_default;
 181
 182
 183 /* llapi_error will preserve errno */
 184 void llapi_error(enum llapi_message_level level, int err, const char *fmt, ...)
 185 {
 186         va_list  args;
 187         int      tmp_errno = errno;
 188
 189         if ((level & LLAPI_MSG_MASK) > llapi_msg_level)
 190                 return;
 191
 192         va_start(args, fmt);
 193         llapi_error_callback(level, abs(err), fmt, args);
 194         va_end(args);
 195         errno = tmp_errno;
 196 }
 197
 198 /* llapi_printf will preserve errno */
 199 void llapi_printf(enum llapi_message_level level, const char *fmt, ...)
 200 {
 201         va_list  args;
 202         int      tmp_errno = errno;
 203
 204         if ((level & LLAPI_MSG_MASK) > llapi_msg_level)
 205                 return;
 206
 207         va_start(args, fmt);
 208         llapi_info_callback(level, 0, fmt, args);
 209         va_end(args);
 210         errno = tmp_errno;
 211 }
 212
 213 /**
 214  * Set a custom error logging function. Passing in NULL will reset the logging
 215  * callback to its default value.
 216  *
 217  * This function returns the value of the old callback.
 218  */
 219 llapi_log_callback_t llapi_error_callback_set(llapi_log_callback_t cb)
 220 {
 221         llapi_log_callback_t    old = llapi_error_callback;
 222
 223         if (cb != NULL)
 224                 llapi_error_callback = cb;
 225         else
 226                 llapi_error_callback = error_callback_default;
 227
 228         return old;
 229 }
 230
 231 /**
 232  * Set a custom info logging function. Passing in NULL will reset the logging
 233  * callback to its default value.
 234  *
 235  * This function returns the value of the old callback.
 236  */
 237 llapi_log_callback_t llapi_info_callback_set(llapi_log_callback_t cb)
 238 {
 239         llapi_log_callback_t    old = llapi_info_callback;
 240
 241         if (cb != NULL)
 242                 llapi_info_callback = cb;
 243         else
 244                 llapi_info_callback = info_callback_default;
 245
 246         return old;
 247 }
 248
 249 /**
 250  * size_units is to be initialized (or zeroed) by caller.
 251  */
 252 int llapi_parse_size(const char *optarg, unsigned long long *size,
 253                      unsigned long long *size_units, int bytes_spec)
 254 {
 255         char *end;
 256         char *argbuf = (char *)optarg;
 257         unsigned long long frac = 0, frac_d = 1;
 258
 259         if (strncmp(optarg, "-", 1) == 0)
 260                 return -1;
 261
 262         if (*size_units == 0)
 263                 *size_units = 1;
 264
 265         *size = strtoull(argbuf, &end, 0);
 266         if (end != NULL && *end == '.') {
 267                 int i;
 268
 269                 argbuf = end + 1;
 270                 frac = strtoull(argbuf, &end, 10);
 271                 /* count decimal places */
 272                 for (i = 0; i < (end - argbuf); i++)
 273                         frac_d *= 10;
 274         }
 275
 276         if (*end != '\0') {
 277                 if ((*end == 'b') && *(end + 1) == '\0' &&
 278                     (*size & (~0ULL << (64 - 9))) == 0 &&
 279                     !bytes_spec) {
 280                         *size_units = 1 << 9;
 281                 } else if ((*end == 'b') &&
 282                            *(end + 1) == '\0' &&
 283                            bytes_spec) {
 284                         *size_units = 1;
 285                 } else if ((*end == 'k' || *end == 'K') &&
 286                            *(end + 1) == '\0' &&
 287                            (*size & (~0ULL << (64 - 10))) == 0) {
 288                         *size_units = 1 << 10;
 289                 } else if ((*end == 'm' || *end == 'M') &&
 290                            *(end + 1) == '\0' &&
 291                            (*size & (~0ULL << (64 - 20))) == 0) {
 292                         *size_units = 1 << 20;
 293                 } else if ((*end == 'g' || *end == 'G') &&
 294                            *(end + 1) == '\0' &&
 295                            (*size & (~0ULL << (64 - 30))) == 0) {
 296                         *size_units = 1 << 30;
 297                 } else if ((*end == 't' || *end == 'T') &&
 298                            *(end + 1) == '\0' &&
 299                            (*size & (~0ULL << (64 - 40))) == 0) {
 300                         *size_units = 1ULL << 40;
 301                 } else if ((*end == 'p' || *end == 'P') &&
 302                            *(end + 1) == '\0' &&
 303                            (*size & (~0ULL << (64 - 50))) == 0) {
 304                         *size_units = 1ULL << 50;
 305                 } else if ((*end == 'e' || *end == 'E') &&
 306                            *(end + 1) == '\0' &&
 307                            (*size & (~0ULL << (64 - 60))) == 0) {
 308                         *size_units = 1ULL << 60;
 309                 } else {
 310                         return -1;
 311                 }
 312         }
 313         *size = *size * *size_units + frac * *size_units / frac_d;
 314
 315         return 0;
 316 }
 317
 318 int llapi_ioctl_pack(struct obd_ioctl_data *data, char **pbuf, int max_len)
 319 {
 320         struct obd_ioctl_data *overlay;
 321         char *ptr;
 322
 323         data->ioc_len = obd_ioctl_packlen(data);
 324         data->ioc_version = OBD_IOCTL_VERSION;
 325
 326         if (*pbuf != NULL && data->ioc_len > max_len) {
 327                 llapi_error(LLAPI_MSG_ERROR, -EINVAL,
 328                             "pbuf = %p, ioc_len = %u, max_len = %d",
 329                             *pbuf, data->ioc_len, max_len);
 330                 return -EINVAL;
 331         }
 332
 333         if (*pbuf == NULL)
 334                 *pbuf = malloc(data->ioc_len);
 335
 336         if (*pbuf == NULL)
 337                 return -ENOMEM;
 338
 339         overlay = (struct obd_ioctl_data *)*pbuf;
 340         memcpy(*pbuf, data, sizeof(*data));
 341
 342         ptr = overlay->ioc_bulk;
 343         if (data->ioc_inlbuf1) {
 344                 memcpy(ptr, data->ioc_inlbuf1, data->ioc_inllen1);
 345                 ptr += __ALIGN_KERNEL(data->ioc_inllen1, 8);
 346         }
 347
 348         if (data->ioc_inlbuf2) {
 349                 memcpy(ptr, data->ioc_inlbuf2, data->ioc_inllen2);
 350                 ptr += __ALIGN_KERNEL(data->ioc_inllen2, 8);
 351         }
 352
 353         if (data->ioc_inlbuf3) {
 354                 memcpy(ptr, data->ioc_inlbuf3, data->ioc_inllen3);
 355                 ptr += __ALIGN_KERNEL(data->ioc_inllen3, 8);
 356         }
 357
 358         if (data->ioc_inlbuf4) {
 359                 memcpy(ptr, data->ioc_inlbuf4, data->ioc_inllen4);
 360                 ptr += __ALIGN_KERNEL(data->ioc_inllen4, 8);
 361         }
 362
 363         return 0;
 364 }
 365
 366 int llapi_ioctl_unpack(struct obd_ioctl_data *data, char *pbuf, int max_len)
 367 {
 368         struct obd_ioctl_data *overlay;
 369         char *ptr;
 370
 371         if (pbuf == NULL)
 372                 return 1;
 373
 374         overlay = (struct obd_ioctl_data *)pbuf;
 375
 376         /* Preserve the caller's buffer pointers */
 377         overlay->ioc_inlbuf1 = data->ioc_inlbuf1;
 378         overlay->ioc_inlbuf2 = data->ioc_inlbuf2;
 379         overlay->ioc_inlbuf3 = data->ioc_inlbuf3;
 380         overlay->ioc_inlbuf4 = data->ioc_inlbuf4;
 381
 382         memcpy(data, pbuf, sizeof(*data));
 383
 384         ptr = overlay->ioc_bulk;
 385         if (data->ioc_inlbuf1) {
 386                 memcpy(data->ioc_inlbuf1, ptr, data->ioc_inllen1);
 387                 ptr += __ALIGN_KERNEL(data->ioc_inllen1, 8);
 388         }
 389
 390         if (data->ioc_inlbuf2) {
 391                 memcpy(data->ioc_inlbuf2, ptr, data->ioc_inllen2);
 392                 ptr += __ALIGN_KERNEL(data->ioc_inllen2, 8);
 393         }
 394
 395         if (data->ioc_inlbuf3) {
 396                 memcpy(data->ioc_inlbuf3, ptr, data->ioc_inllen3);
 397                 ptr += __ALIGN_KERNEL(data->ioc_inllen3, 8);
 398         }
 399
 400         if (data->ioc_inlbuf4) {
 401                 memcpy(data->ioc_inlbuf4, ptr, data->ioc_inllen4);
 402                 ptr += __ALIGN_KERNEL(data->ioc_inllen4, 8);
 403         }
 404
 405         return 0;
 406 }
 407
 408 /* XXX: llapi_xxx() functions return negative values upon failure */
 409
 410 int llapi_stripe_limit_check(unsigned long long stripe_size, int stripe_offset,
 411                                 int stripe_count, int stripe_pattern)
 412 {
 413         static int page_size;
 414         int rc = 0;
 415
 416         if (page_size == 0) {
 417                 /*
 418                  * 64 KB is the largest common page size (on ia64/PPC/ARM),
 419                  * but check the local page size just in case. The page_size
 420                  * will not change for the lifetime of this process at least.
 421                  */
 422                 page_size = LOV_MIN_STRIPE_SIZE;
 423                 if (getpagesize() > page_size) {
 424                         page_size = getpagesize();
 425                         llapi_err_noerrno(LLAPI_MSG_WARN,
 426                                           "warning: page size (%u) larger than expected (%u)",
 427                                           page_size, LOV_MIN_STRIPE_SIZE);
 428                 }
 429         }
 430         if (!llapi_stripe_size_is_aligned(stripe_size)) {
 431                 rc = -EINVAL;
 432                 llapi_error(LLAPI_MSG_ERROR, rc,
 433                             "error: bad stripe_size %llu, must be an even multiple of %d bytes",
 434                             (unsigned long long)stripe_size, page_size);
 435                 goto out;
 436         }
 437         if (!llapi_stripe_index_is_valid(stripe_offset)) {
 438                 rc = -EINVAL;
 439                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad stripe offset %d",
 440                                 stripe_offset);
 441                 goto out;
 442         }
 443         if (!llapi_stripe_count_is_valid(stripe_count)) {
 444                 rc = -EINVAL;
 445                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad stripe count %d",
 446                                 stripe_count);
 447                 goto out;
 448         }
 449         if (llapi_stripe_size_is_too_big(stripe_size)) {
 450                 rc = -EINVAL;
 451                 llapi_error(LLAPI_MSG_ERROR, rc,
 452                             "error: stripe size '%llu' over 4GB limit",
 453                             (unsigned long long)stripe_size);
 454                 goto out;
 455         }
 456
 457 out:
 458         errno = -rc;
 459         return rc;
 460 }
 461
 462 int llapi_dir_stripe_limit_check(int stripe_offset, int stripe_count,
 463                                  int hash_type)
 464 {
 465         int rc;
 466
 467         if (!llapi_dir_stripe_index_is_valid(stripe_offset)) {
 468                 rc = -EINVAL;
 469                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad stripe offset %d",
 470                                 stripe_offset);
 471                 return rc;
 472         }
 473         if (!llapi_dir_stripe_count_is_valid(stripe_count)) {
 474                 rc = -EINVAL;
 475                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad stripe count %d",
 476                                 stripe_count);
 477                 return rc;
 478         }
 479
 480         if (!llapi_dir_hash_type_is_valid(hash_type)) {
 481                 rc = -EINVAL;
 482                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad hash type %d",
 483                                 hash_type);
 484                 return rc;
 485         }
 486         return 0;
 487 }
 488
 489 /*
 490  * Trim a trailing newline from a string, if it exists.
 491  */
 492 int llapi_chomp_string(char *buf)
 493 {
 494         if (!buf || !*buf)
 495                 return 0;
 496
 497         while (buf[1])
 498                 buf++;
 499
 500         if (*buf != '\n')
 501                 return 0;
 502
 503         *buf = '\0';
 504         return '\n';
 505 }
 506
 507 /*
 508  * Wrapper to grab parameter settings for lov.*-clilov-*.* values
 509  */
 510 static int get_param_lov(const char *path, const char *param,
 511                          char *buf, size_t buf_size)
 512 {
 513         struct obd_uuid uuid;
 514         int rc;
 515
 516         rc = llapi_file_get_lov_uuid(path, &uuid);
 517         if (rc != 0)
 518                 return rc;
 519
 520         return get_lustre_param_value("lov", uuid.uuid, FILTER_BY_EXACT, param,
 521                                       buf, buf_size);
 522 }
 523
 524 /*
 525  * Wrapper to grab parameter settings for lmv.*-clilov-*.* values
 526  */
 527 static int get_param_lmv(const char *path, const char *param,
 528                          char *buf, size_t buf_size)
 529 {
 530         struct obd_uuid uuid;
 531         int rc;
 532
 533         rc = llapi_file_get_lmv_uuid(path, &uuid);
 534         if (rc != 0)
 535                 return rc;
 536
 537         return get_lustre_param_value("lmv", uuid.uuid, FILTER_BY_EXACT, param,
 538                                buf, buf_size);
 539 }
 540
 541 static int get_mds_md_size(const char *path)
 542 {
 543         int md_size = lov_user_md_size(LOV_MAX_STRIPE_COUNT, LOV_USER_MAGIC_V3);
 544
 545         /*
 546          * Rather than open the file and do the ioctl to get the
 547          * instance name and close the file and search for the param
 548          * file and open the param file and read the param file and
 549          * parse the value and close the param file, let's just return
 550          * a large enough value. It's 2020, RAM is cheap and this is
 551          * much faster.
 552          */
 553
 554         if (md_size < XATTR_SIZE_MAX)
 555                 md_size = XATTR_SIZE_MAX;
 556
 557         return md_size;
 558 }
 559
 560 int llapi_get_agent_uuid(char *path, char *buf, size_t bufsize)
 561 {
 562         return get_param_lmv(path, "uuid", buf, bufsize);
 563 }
 564
 565 /**
 566  * Open a Lustre file.
 567  *
 568  * \param name     the name of the file to be opened
 569  * \param flags    access mode, see flags in open(2)
 570  * \param mode     permission of the file if it is created, see mode in open(2)
 571  * \param param    stripe pattern of the newly created file
 572  *
 573  * \retval         file descriptor of opened file
 574  * \retval         negative errno on failure
 575  */
 576 int llapi_file_open_param(const char *name, int flags, mode_t mode,
 577                           const struct llapi_stripe_param *param)
 578 {
 579         char fsname[MAX_OBD_NAME + 1] = { 0 };
 580         char *pool_name = param->lsp_pool;
 581         struct lov_user_md *lum = NULL;
 582         size_t lum_size = sizeof(*lum);
 583         int fd, rc;
 584
 585         /* Make sure we are on a Lustre file system */
 586         rc = llapi_search_fsname(name, fsname);
 587         if (rc) {
 588                 llapi_error(LLAPI_MSG_ERROR, rc,
 589                             "'%s' is not on a Lustre filesystem",
 590                             name);
 591                 return rc;
 592         }
 593
 594         /* Check if the stripe pattern is sane. */
 595         rc = llapi_stripe_limit_check(param->lsp_stripe_size,
 596                                       param->lsp_stripe_offset,
 597                                       param->lsp_stripe_count,
 598                                       param->lsp_stripe_pattern);
 599         if (rc != 0)
 600                 return rc;
 601
 602         /* Make sure we have a good pool */
 603         if (pool_name != NULL) {
 604                 /*
 605                  * in case user gives the full pool name <fsname>.<poolname>,
 606                  * strip the fsname
 607                  */
 608                 char *ptr = strchr(pool_name, '.');
 609
 610                 if (ptr != NULL) {
 611                         *ptr = '\0';
 612                         if (strcmp(pool_name, fsname) != 0) {
 613                                 *ptr = '.';
 614                                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 615                                         "Pool '%s' is not on filesystem '%s'",
 616                                         pool_name, fsname);
 617                                 return -EINVAL;
 618                         }
 619                         pool_name = ptr + 1;
 620                 }
 621
 622                 /* Make sure the pool exists and is non-empty */
 623                 rc = llapi_search_ost(fsname, pool_name, NULL);
 624                 if (rc < 1) {
 625                         char *err = rc == 0 ? "has no OSTs" : "does not exist";
 626
 627                         llapi_err_noerrno(LLAPI_MSG_ERROR, "pool '%s.%s' %s",
 628                                           fsname, pool_name, err);
 629                         return -EINVAL;
 630                 }
 631
 632                 lum_size = sizeof(struct lov_user_md_v3);
 633         }
 634
 635         /* sanity check of target list */
 636         if (param->lsp_is_specific) {
 637                 char ostname[MAX_OBD_NAME + 64];
 638                 bool found = false;
 639                 int i;
 640
 641                 for (i = 0; i < param->lsp_stripe_count; i++) {
 642                         snprintf(ostname, sizeof(ostname), "%s-OST%04x_UUID",
 643                                  fsname, param->lsp_osts[i]);
 644                         rc = llapi_search_ost(fsname, pool_name, ostname);
 645                         if (rc <= 0) {
 646                                 if (rc == 0)
 647                                         rc = -ENODEV;
 648
 649                                 llapi_error(LLAPI_MSG_ERROR, rc,
 650                                             "%s: cannot find OST %s in %s",
 651                                             __func__, ostname,
 652                                             pool_name != NULL ?
 653                                             "pool" : "system");
 654                                 return rc;
 655                         }
 656
 657                         /* Make sure stripe offset is in OST list. */
 658                         if (param->lsp_osts[i] == param->lsp_stripe_offset)
 659                                 found = true;
 660                 }
 661                 if (!found) {
 662                         llapi_error(LLAPI_MSG_ERROR, -EINVAL,
 663                                     "%s: stripe offset '%d' is not in the target list",
 664                                     __func__, param->lsp_stripe_offset);
 665                         return -EINVAL;
 666                 }
 667
 668                 lum_size = lov_user_md_size(param->lsp_stripe_count,
 669                                             LOV_USER_MAGIC_SPECIFIC);
 670         }
 671
 672         lum = calloc(1, lum_size);
 673         if (lum == NULL)
 674                 return -ENOMEM;
 675
 676 retry_open:
 677         fd = open(name, flags | O_LOV_DELAY_CREATE, mode);
 678         if (fd < 0) {
 679                 if (errno == EISDIR && !(flags & O_DIRECTORY)) {
 680                         flags = O_DIRECTORY | O_RDONLY;
 681                         goto retry_open;
 682                 }
 683         }
 684
 685         if (fd < 0) {
 686                 rc = -errno;
 687                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'", name);
 688                 free(lum);
 689                 return rc;
 690         }
 691
 692         /*  Initialize IOCTL striping pattern structure */
 693         lum->lmm_magic = LOV_USER_MAGIC_V1;
 694         lum->lmm_pattern = param->lsp_stripe_pattern;
 695         lum->lmm_stripe_size = param->lsp_stripe_size;
 696         lum->lmm_stripe_count = param->lsp_stripe_count;
 697         lum->lmm_stripe_offset = param->lsp_stripe_offset;
 698         if (pool_name != NULL) {
 699                 struct lov_user_md_v3 *lumv3 = (void *)lum;
 700
 701                 lumv3->lmm_magic = LOV_USER_MAGIC_V3;
 702                 strncpy(lumv3->lmm_pool_name, pool_name, LOV_MAXPOOLNAME);
 703         }
 704         if (param->lsp_is_specific) {
 705                 struct lov_user_md_v3 *lumv3 = (void *)lum;
 706                 int i;
 707
 708                 lumv3->lmm_magic = LOV_USER_MAGIC_SPECIFIC;
 709                 if (pool_name == NULL) {
 710                         /*
 711                          * LOV_USER_MAGIC_SPECIFIC uses v3 format plus specified
 712                          * OST list, therefore if pool is not specified we have
 713                          * to pack a null pool name for placeholder.
 714                          */
 715                         memset(lumv3->lmm_pool_name, 0, LOV_MAXPOOLNAME);
 716                 }
 717
 718                 for (i = 0; i < param->lsp_stripe_count; i++)
 719                         lumv3->lmm_objects[i].l_ost_idx = param->lsp_osts[i];
 720         }
 721
 722         if (ioctl(fd, LL_IOC_LOV_SETSTRIPE, lum) != 0) {
 723                 char errmsg[512] = "stripe already set";
 724
 725                 rc = -errno;
 726                 if (errno != EEXIST && errno != EALREADY)
 727                         strncpy(errmsg, strerror(errno), sizeof(errmsg) - 1);
 728                 if (rc == -EREMOTEIO)
 729                         snprintf(errmsg, sizeof(errmsg),
 730                                  "inactive OST among your specified %d OST(s)",
 731                                  param->lsp_stripe_count);
 732
 733                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 734                                   "setstripe error for '%s': %s", name, errmsg);
 735
 736                 close(fd);
 737                 fd = rc;
 738         }
 739
 740         free(lum);
 741
 742         return fd;
 743 }
 744
 745 int llapi_file_open_pool(const char *name, int flags, int mode,
 746                          unsigned long long stripe_size, int stripe_offset,
 747                          int stripe_count, int stripe_pattern, char *pool_name)
 748 {
 749         const struct llapi_stripe_param param = {
 750                 .lsp_stripe_size = stripe_size,
 751                 .lsp_stripe_count = stripe_count,
 752                 .lsp_stripe_pattern = stripe_pattern,
 753                 .lsp_stripe_offset = stripe_offset,
 754                 .lsp_pool = pool_name
 755         };
 756         return llapi_file_open_param(name, flags, mode, &param);
 757 }
 758
 759 int llapi_file_open(const char *name, int flags, int mode,
 760                     unsigned long long stripe_size, int stripe_offset,
 761                     int stripe_count, int stripe_pattern)
 762 {
 763         return llapi_file_open_pool(name, flags, mode, stripe_size,
 764                                     stripe_offset, stripe_count,
 765                                     stripe_pattern, NULL);
 766 }
 767
 768 int llapi_file_create_foreign(const char *name, mode_t mode, __u32 type,
 769                               __u32 flags, char *foreign_lov)
 770 {
 771         size_t len;
 772         struct lov_foreign_md *lfm;
 773         int fd, rc;
 774
 775         if (foreign_lov == NULL) {
 776                 rc = -EINVAL;
 777                 llapi_error(LLAPI_MSG_ERROR, rc,
 778                             "foreign LOV EA content must be provided");
 779                 goto out_err;
 780         }
 781
 782         len = strlen(foreign_lov);
 783         if (len > XATTR_SIZE_MAX - offsetof(struct lov_foreign_md, lfm_value) ||
 784             len <= 0) {
 785                 rc = -EINVAL;
 786                 llapi_error(LLAPI_MSG_ERROR, rc,
 787                             "foreign LOV EA size %zu (must be 0 < len < %zu)",
 788                             len, XATTR_SIZE_MAX -
 789                             offsetof(struct lov_foreign_md, lfm_value));
 790                 goto out_err;
 791         }
 792
 793         lfm = malloc(len + offsetof(struct lov_foreign_md, lfm_value));
 794         if (lfm == NULL) {
 795                 rc = -ENOMEM;
 796                 llapi_error(LLAPI_MSG_ERROR, rc,
 797                             "failed to allocate lov_foreign_md");
 798                 goto out_err;
 799         }
 800
 801         fd = open(name, O_WRONLY|O_CREAT|O_LOV_DELAY_CREATE, mode);
 802         if (fd == -1) {
 803                 fd = -errno;
 804                 llapi_error(LLAPI_MSG_ERROR, fd, "open '%s' failed", name);
 805                 goto out_free;
 806         }
 807
 808         lfm->lfm_magic = LOV_USER_MAGIC_FOREIGN;
 809         lfm->lfm_length = len;
 810         lfm->lfm_type = type;
 811         lfm->lfm_flags = flags;
 812         memcpy(lfm->lfm_value, foreign_lov, len);
 813
 814         if (ioctl(fd, LL_IOC_LOV_SETSTRIPE, lfm) != 0) {
 815                 char *errmsg = "stripe already set";
 816
 817                 rc = -errno;
 818                 if (errno == ENOTTY)
 819                         errmsg = "not on a Lustre filesystem";
 820                 else if (errno == EEXIST || errno == EALREADY)
 821                         errmsg = "stripe already set";
 822                 else
 823                         errmsg = strerror(errno);
 824
 825                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 826                                   "setstripe error for '%s': %s", name, errmsg);
 827
 828                 close(fd);
 829                 fd = rc;
 830         }
 831
 832 out_free:
 833         free(lfm);
 834
 835         return fd;
 836
 837 out_err:
 838         errno = -rc;
 839         return rc;
 840 }
 841
 842 int llapi_file_create(const char *name, unsigned long long stripe_size,
 843                       int stripe_offset, int stripe_count, int stripe_pattern)
 844 {
 845         int fd;
 846
 847         fd = llapi_file_open_pool(name, O_CREAT | O_WRONLY, 0644, stripe_size,
 848                                   stripe_offset, stripe_count, stripe_pattern,
 849                                   NULL);
 850         if (fd < 0)
 851                 return fd;
 852
 853         close(fd);
 854         return 0;
 855 }
 856
 857 int llapi_file_create_pool(const char *name, unsigned long long stripe_size,
 858                            int stripe_offset, int stripe_count,
 859                            int stripe_pattern, char *pool_name)
 860 {
 861         int fd;
 862
 863         fd = llapi_file_open_pool(name, O_CREAT | O_WRONLY, 0644, stripe_size,
 864                                   stripe_offset, stripe_count, stripe_pattern,
 865                                   pool_name);
 866         if (fd < 0)
 867                 return fd;
 868
 869         close(fd);
 870         return 0;
 871 }
 872
 873 static int verify_dir_param(const char *name,
 874                             const struct llapi_stripe_param *param)
 875 {
 876         char fsname[MAX_OBD_NAME + 1] = { 0 };
 877         char *pool_name = param->lsp_pool;
 878         int rc;
 879
 880         /* Make sure we are on a Lustre file system */
 881         rc = llapi_search_fsname(name, fsname);
 882         if (rc) {
 883                 llapi_error(LLAPI_MSG_ERROR, rc,
 884                             "'%s' is not on a Lustre filesystem",
 885                             name);
 886                 return rc;
 887         }
 888
 889         /* Check if the stripe pattern is sane. */
 890         rc = llapi_dir_stripe_limit_check(param->lsp_stripe_offset,
 891                                           param->lsp_stripe_count,
 892                                           param->lsp_stripe_pattern);
 893         if (rc != 0)
 894                 return rc;
 895
 896         /* Make sure we have a good pool */
 897         if (pool_name != NULL) {
 898                 /*
 899                  * in case user gives the full pool name <fsname>.<poolname>,
 900                  * strip the fsname
 901                  */
 902                 char *ptr = strchr(pool_name, '.');
 903
 904                 if (ptr != NULL) {
 905                         *ptr = '\0';
 906                         if (strcmp(pool_name, fsname) != 0) {
 907                                 *ptr = '.';
 908                                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 909                                         "Pool '%s' is not on filesystem '%s'",
 910                                         pool_name, fsname);
 911                                 return -EINVAL;
 912                         }
 913                         pool_name = ptr + 1;
 914                 }
 915
 916                 /* Make sure the pool exists and is non-empty */
 917                 rc = llapi_search_tgt(fsname, pool_name, NULL, true);
 918                 if (rc < 1) {
 919                         char *err = rc == 0 ? "has no OSTs" : "does not exist";
 920
 921                         llapi_err_noerrno(LLAPI_MSG_ERROR, "pool '%s.%s' %s",
 922                                           fsname, pool_name, err);
 923                         return -EINVAL;
 924                 }
 925         }
 926
 927         /* sanity check of target list */
 928         if (param->lsp_is_specific) {
 929                 char mdtname[MAX_OBD_NAME + 64];
 930                 bool found = false;
 931                 int i;
 932
 933                 for (i = 0; i < param->lsp_stripe_count; i++) {
 934                         snprintf(mdtname, sizeof(mdtname), "%s-MDT%04x_UUID",
 935                                  fsname, param->lsp_tgts[i]);
 936                         rc = llapi_search_tgt(fsname, pool_name, mdtname, true);
 937                         if (rc <= 0) {
 938                                 if (rc == 0)
 939                                         rc = -ENODEV;
 940
 941                                 llapi_error(LLAPI_MSG_ERROR, rc,
 942                                             "%s: cannot find MDT %s in %s",
 943                                             __func__, mdtname,
 944                                             pool_name != NULL ?
 945                                             "pool" : "system");
 946                                 return rc;
 947                         }
 948
 949                         /* Make sure stripe offset is in MDT list. */
 950                         if (param->lsp_tgts[i] == param->lsp_stripe_offset)
 951                                 found = true;
 952                 }
 953                 if (!found) {
 954                         llapi_error(LLAPI_MSG_ERROR, -EINVAL,
 955                                     "%s: stripe offset '%d' is not in the target list",
 956                                     __func__, param->lsp_stripe_offset);
 957                         return -EINVAL;
 958                 }
 959         }
 960
 961         return 0;
 962 }
 963
 964 static inline void param2lmu(struct lmv_user_md *lmu,
 965                              const struct llapi_stripe_param *param)
 966 {
 967         lmu->lum_magic = param->lsp_is_specific ? LMV_USER_MAGIC_SPECIFIC :
 968                                                   LMV_USER_MAGIC;
 969         lmu->lum_stripe_count = param->lsp_stripe_count;
 970         lmu->lum_stripe_offset = param->lsp_stripe_offset;
 971         lmu->lum_hash_type = param->lsp_stripe_pattern;
 972         if (param->lsp_pool != NULL)
 973                 strncpy(lmu->lum_pool_name, param->lsp_pool, LOV_MAXPOOLNAME);
 974         if (param->lsp_is_specific) {
 975                 int i;
 976
 977                 for (i = 0; i < param->lsp_stripe_count; i++)
 978                         lmu->lum_objects[i].lum_mds = param->lsp_tgts[i];
 979         }
 980 }
 981
 982 int llapi_dir_set_default_lmv(const char *name,
 983                               const struct llapi_stripe_param *param)
 984 {
 985         struct lmv_user_md lmu = { 0 };
 986         int fd;
 987         int rc = 0;
 988
 989         rc = verify_dir_param(name, param);
 990         if (rc)
 991                 return rc;
 992
 993         /* TODO: default lmv doesn't support specific targets yet */
 994         if (param->lsp_is_specific)
 995                 return -EINVAL;
 996
 997         param2lmu(&lmu, param);
 998
 999         fd = open(name, O_DIRECTORY | O_RDONLY);
1000         if (fd < 0) {
1001                 rc = -errno;
1002                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'", name);
1003                 return rc;
1004         }
1005
1006         rc = ioctl(fd, LL_IOC_LMV_SET_DEFAULT_STRIPE, &lmu);
1007         if (rc < 0) {
1008                 char *errmsg = "stripe already set";
1009
1010                 rc = -errno;
1011                 if (errno != EEXIST && errno != EALREADY)
1012                         errmsg = strerror(errno);
1013
1014                 llapi_err_noerrno(LLAPI_MSG_ERROR,
1015                                   "default dirstripe error on '%s': %s",
1016                                   name, errmsg);
1017         }
1018         close(fd);
1019         return rc;
1020 }
1021
1022 int llapi_dir_set_default_lmv_stripe(const char *name, int stripe_offset,
1023                                      int stripe_count, int stripe_pattern,
1024                                      const char *pool_name)
1025 {
1026         const struct llapi_stripe_param param = {
1027                 .lsp_stripe_count = stripe_count,
1028                 .lsp_stripe_offset = stripe_offset,
1029                 .lsp_stripe_pattern = stripe_pattern,
1030                 .lsp_pool = (char *)pool_name
1031         };
1032
1033         return llapi_dir_set_default_lmv(name, &param);
1034 }
1035
1036 /**
1037  * Create a Lustre directory.
1038  *
1039  * \param name     the name of the directory to be created
1040  * \param mode     permission of the file if it is created, see mode in open(2)
1041  * \param param    stripe pattern of the newly created directory
1042  *
1043  * \retval         0 on success
1044  * \retval         negative errno on failure
1045  */
1046 int llapi_dir_create(const char *name, mode_t mode,
1047                      const struct llapi_stripe_param *param)
1048 {
1049         struct lmv_user_md *lmu = NULL;
1050         size_t lmu_size;
1051         struct obd_ioctl_data data = { 0 };
1052         char rawbuf[8192];
1053         char *buf = rawbuf;
1054         char *dirpath = NULL;
1055         char *namepath = NULL;
1056         char *dir;
1057         char *filename;
1058         int fd, rc;
1059
1060         rc = verify_dir_param(name, param);
1061         if (rc)
1062                 return rc;
1063
1064         lmu_size = lmv_user_md_size(param->lsp_stripe_count,
1065                                     param->lsp_is_specific ?
1066                                          LMV_USER_MAGIC_SPECIFIC :
1067                                          LMV_USER_MAGIC);
1068
1069         lmu = calloc(1, lmu_size);
1070         if (lmu == NULL)
1071                 return -ENOMEM;
1072
1073         dirpath = strdup(name);
1074         if (!dirpath) {
1075                 free(lmu);
1076                 return -ENOMEM;
1077         }
1078
1079         namepath = strdup(name);
1080         if (!namepath) {
1081                 free(dirpath);
1082                 free(lmu);
1083                 return -ENOMEM;
1084         }
1085
1086         param2lmu(lmu, param);
1087
1088         filename = basename(namepath);
1089         dir = dirname(dirpath);
1090
1091         data.ioc_inlbuf1 = (char *)filename;
1092         data.ioc_inllen1 = strlen(filename) + 1;
1093         data.ioc_inlbuf2 = (char *)lmu;
1094         data.ioc_inllen2 = lmu_size;
1095         data.ioc_type = mode;
1096         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1097         if (rc) {
1098                 llapi_error(LLAPI_MSG_ERROR, rc,
1099                             "error: LL_IOC_LMV_SETSTRIPE pack failed '%s'.",
1100                             name);
1101                 goto out;
1102         }
1103
1104         fd = open(dir, O_DIRECTORY | O_RDONLY);
1105         if (fd < 0) {
1106                 rc = -errno;
1107                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'", name);
1108                 goto out;
1109         }
1110
1111         if (ioctl(fd, LL_IOC_LMV_SETSTRIPE, buf)) {
1112                 char *errmsg = "stripe already set";
1113
1114                 rc = -errno;
1115                 if (errno != EEXIST && errno != EALREADY)
1116                         errmsg = strerror(errno);
1117
1118                 llapi_err_noerrno(LLAPI_MSG_ERROR,
1119                                   "dirstripe error on '%s': %s", name, errmsg);
1120         }
1121         close(fd);
1122 out:
1123         free(namepath);
1124         free(dirpath);
1125         free(lmu);
1126         return rc;
1127 }
1128
1129 /**
1130  * Create a foreign directory.
1131  *
1132  * \param name     the name of the directory to be created
1133  * \param mode     permission of the file if it is created, see mode in open(2)
1134  * \param type     foreign type to be set in LMV EA
1135  * \param flags    foreign flags to be set in LMV EA
1136  * \param value    foreign pattern to be set in LMV EA
1137  *
1138  * \retval         0 on success
1139  * \retval         negative errno on failure
1140  */
1141 int llapi_dir_create_foreign(const char *name, mode_t mode, __u32 type,
1142                              __u32 flags, const char *value)
1143 {
1144         struct lmv_foreign_md *lfm = NULL;
1145         size_t lfm_size, len;
1146         struct obd_ioctl_data data = { 0 };
1147         char rawbuf[8192];
1148         char *buf = rawbuf;
1149         char *dirpath = NULL;
1150         char *namepath = NULL;
1151         char *dir;
1152         char *filename;
1153         int fd, rc;
1154
1155         len = strlen(value);
1156         if (len > XATTR_SIZE_MAX - offsetof(struct lmv_foreign_md, lfm_value) ||
1157             len <= 0) {
1158                 rc = -EINVAL;
1159                 llapi_error(LLAPI_MSG_ERROR, rc,
1160                             "invalid LOV EA length %zu (must be 0 < len < %zu)",
1161                             len, XATTR_SIZE_MAX -
1162                             offsetof(struct lmv_foreign_md, lfm_value));
1163                 return rc;
1164         }
1165         lfm_size = len + offsetof(struct lmv_foreign_md, lfm_value);
1166         lfm = calloc(1, lfm_size);
1167         if (lfm == NULL)
1168                 return -ENOMEM;
1169
1170         dirpath = strdup(name);
1171         if (!dirpath) {
1172                 free(lfm);
1173                 return -ENOMEM;
1174         }
1175
1176         namepath = strdup(name);
1177         if (!namepath) {
1178                 free(dirpath);
1179                 free(lfm);
1180                 return -ENOMEM;
1181         }
1182
1183         lfm->lfm_magic = LMV_MAGIC_FOREIGN;
1184         lfm->lfm_length = len;
1185         lfm->lfm_type = type;
1186         lfm->lfm_flags = flags;
1187         memcpy(lfm->lfm_value, value, len);
1188
1189         filename = basename(namepath);
1190         dir = dirname(dirpath);
1191
1192         data.ioc_inlbuf1 = (char *)filename;
1193         data.ioc_inllen1 = strlen(filename) + 1;
1194         data.ioc_inlbuf2 = (char *)lfm;
1195         data.ioc_inllen2 = lfm_size;
1196         data.ioc_type = mode;
1197         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1198         if (rc) {
1199                 llapi_error(LLAPI_MSG_ERROR, rc,
1200                             "error: LL_IOC_LMV_SETSTRIPE pack failed '%s'.",
1201                             name);
1202                 goto out;
1203         }
1204
1205         fd = open(dir, O_DIRECTORY | O_RDONLY);
1206         if (fd < 0) {
1207                 rc = -errno;
1208                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'", name);
1209                 goto out;
1210         }
1211
1212         if (ioctl(fd, LL_IOC_LMV_SETSTRIPE, buf)) {
1213                 char *errmsg = "stripe already set";
1214
1215                 rc = -errno;
1216                 if (errno != EEXIST && errno != EALREADY)
1217                         errmsg = strerror(errno);
1218
1219                 llapi_err_noerrno(LLAPI_MSG_ERROR,
1220                                   "dirstripe error on '%s': %s", name, errmsg);
1221         }
1222         close(fd);
1223 out:
1224         free(namepath);
1225         free(dirpath);
1226         free(lfm);
1227         return rc;
1228 }
1229
1230 int llapi_dir_create_pool(const char *name, int mode, int stripe_offset,
1231                           int stripe_count, int stripe_pattern,
1232                           const char *pool_name)
1233 {
1234         const struct llapi_stripe_param param = {
1235                 .lsp_stripe_count = stripe_count,
1236                 .lsp_stripe_offset = stripe_offset,
1237                 .lsp_stripe_pattern = stripe_pattern,
1238                 .lsp_pool = (char *)pool_name
1239         };
1240
1241         return llapi_dir_create(name, mode, &param);
1242 }
1243
1244 int llapi_direntry_remove(char *dname)
1245 {
1246         char *dirpath = NULL;
1247         char *namepath = NULL;
1248         char *dir;
1249         char *filename;
1250         int fd = -1;
1251         int rc = 0;
1252
1253         dirpath = strdup(dname);
1254         namepath = strdup(dname);
1255         if (!dirpath || !namepath)
1256                 return -ENOMEM;
1257
1258         filename = basename(namepath);
1259
1260         dir = dirname(dirpath);
1261
1262         fd = open(dir, O_DIRECTORY | O_RDONLY);
1263         if (fd < 0) {
1264                 rc = -errno;
1265                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'",
1266                             filename);
1267                 goto out;
1268         }
1269
1270         if (ioctl(fd, LL_IOC_REMOVE_ENTRY, filename))
1271                 llapi_error(LLAPI_MSG_ERROR, errno,
1272                             "error on ioctl %#lx for '%s' (%d)",
1273                             (long)LL_IOC_LMV_SETSTRIPE, filename, fd);
1274 out:
1275         free(dirpath);
1276         free(namepath);
1277         if (fd != -1)
1278                 close(fd);
1279         return rc;
1280 }
1281
1282 /*
1283  * Find the fsname, the full path, and/or an open fd.
1284  * Either the fsname or path must not be NULL
1285  */
1286 int get_root_path(int want, char *fsname, int *outfd, char *path, int index)
1287 {
1288         struct mntent mnt;
1289         char buf[PATH_MAX], mntdir[PATH_MAX];
1290         char *ptr, *ptr_end;
1291         FILE *fp;
1292         int idx = 0, mntlen = 0, fd;
1293         int rc = -ENODEV;
1294         int fsnamelen, mountlen;
1295
1296         /* get the mount point */
1297         fp = setmntent(PROC_MOUNTS, "r");
1298         if (fp == NULL) {
1299                 rc = -EIO;
1300                 llapi_error(LLAPI_MSG_ERROR, rc,
1301                             "cannot retrieve filesystem mount point");
1302                 return rc;
1303         }
1304         while (1) {
1305                 if (getmntent_r(fp, &mnt, buf, sizeof(buf)) == NULL)
1306                         break;
1307
1308                 if (!llapi_is_lustre_mnt(&mnt))
1309                         continue;
1310
1311                 if ((want & WANT_INDEX) && (idx++ != index))
1312                         continue;
1313
1314                 mntlen = strlen(mnt.mnt_dir);
1315                 ptr = strchr(mnt.mnt_fsname, '/');
1316                 while (ptr && *ptr == '/')
1317                         ptr++;
1318                 /*
1319                  * thanks to the call to llapi_is_lustre_mnt() above,
1320                  * we are sure that mnt.mnt_fsname contains ":/",
1321                  * so ptr should never be NULL
1322                  */
1323                 if (ptr == NULL)
1324                         continue;
1325                 ptr_end = ptr;
1326                 while (*ptr_end != '/' && *ptr_end != '\0')
1327                         ptr_end++;
1328
1329                 /* Check the fsname for a match, if given */
1330                 mountlen = ptr_end - ptr;
1331                 if (!(want & WANT_FSNAME) && fsname != NULL &&
1332                     (fsnamelen = strlen(fsname)) > 0 &&
1333                     (fsnamelen != mountlen ||
1334                     (strncmp(ptr, fsname, mountlen) != 0)))
1335                         continue;
1336
1337                 /* If the path isn't set return the first one we find */
1338                 if (path == NULL || strlen(path) == 0) {
1339                         strncpy(mntdir, mnt.mnt_dir, sizeof(mntdir) - 1);
1340                         mntdir[sizeof(mntdir) - 1] = '\0';
1341                         if ((want & WANT_FSNAME) && fsname != NULL) {
1342                                 strncpy(fsname, ptr, mountlen);
1343                                 fsname[mountlen] = '\0';
1344                         }
1345                         rc = 0;
1346                         break;
1347                 /* Otherwise find the longest matching path */
1348                 } else if ((strlen(path) >= mntlen) &&
1349                            (strncmp(mnt.mnt_dir, path, mntlen) == 0)) {
1350                         /* check the path format */
1351                         if (strlen(path) > mntlen && path[mntlen] != '/')
1352                                 continue;
1353                         strncpy(mntdir, mnt.mnt_dir, sizeof(mntdir) - 1);
1354                         mntdir[sizeof(mntdir) - 1] = '\0';
1355                         if ((want & WANT_FSNAME) && fsname != NULL) {
1356                                 strncpy(fsname, ptr, mountlen);
1357                                 fsname[mountlen] = '\0';
1358                         }
1359                         rc = 0;
1360                         break;
1361                 }
1362         }
1363         endmntent(fp);
1364
1365         /* Found it */
1366         if (rc == 0) {
1367                 if ((want & WANT_PATH) && path != NULL) {
1368                         strncpy(path, mntdir, mntlen);
1369                         path[mntlen] = '\0';
1370                 }
1371                 if (want & WANT_FD) {
1372                         fd = open(mntdir, O_RDONLY | O_DIRECTORY | O_NONBLOCK);
1373                         if (fd < 0) {
1374                                 rc = -errno;
1375                                 llapi_error(LLAPI_MSG_ERROR, rc,
1376                                             "cannot open '%s'", mntdir);
1377
1378                         } else {
1379                                 *outfd = fd;
1380                         }
1381                 }
1382         } else if (want & WANT_ERROR)
1383                 llapi_err_noerrno(LLAPI_MSG_ERROR,
1384                                   "'%s' not on a mounted Lustre filesystem",
1385                                   (want & WANT_PATH) ? fsname : path);
1386         return rc;
1387 }
1388
1389 /*
1390  * search lustre mounts
1391  *
1392  * Calling this function will return to the user the mount point, mntdir, and
1393  * the file system name, fsname, if the user passed a buffer to this routine.
1394  *
1395  * The user inputs are pathname and index. If the pathname is supplied then
1396  * the value of the index will be ignored. The pathname will return data if
1397  * the pathname is located on a lustre mount. Index is used to pick which
1398  * mount point you want in the case of multiple mounted lustre file systems.
1399  * See function lfs_osts in lfs.c for an example of the index use.
1400  */
1401 int llapi_search_mounts(const char *pathname, int index, char *mntdir,
1402                         char *fsname)
1403 {
1404         int want = WANT_PATH, idx = -1;
1405
1406         if (!pathname || pathname[0] == '\0') {
1407                 want |= WANT_INDEX;
1408                 idx = index;
1409         } else {
1410                 strcpy(mntdir, pathname);
1411         }
1412
1413         if (fsname)
1414                 want |= WANT_FSNAME;
1415         return get_root_path(want, fsname, NULL, mntdir, idx);
1416 }
1417
1418 /* Given a path, find the corresponding Lustre fsname */
1419 int llapi_search_fsname(const char *pathname, char *fsname)
1420 {
1421         char *path;
1422         int rc;
1423
1424         path = realpath(pathname, NULL);
1425         if (path == NULL) {
1426                 char tmp[PATH_MAX - 1];
1427                 char buf[PATH_MAX];
1428                 char *ptr;
1429
1430                 tmp[0] = '\0';
1431                 buf[0] = '\0';
1432                 if (pathname[0] != '/') {
1433                         /*
1434                          * Need an absolute path, but realpath() only works for
1435                          * pathnames that actually exist.  We go through the
1436                          * extra hurdle of dirname(getcwd() + pathname) in
1437                          * case the relative pathname contains ".." in it.
1438                          */
1439                         char realpath[PATH_MAX - 1];
1440
1441                         if (getcwd(realpath, sizeof(realpath) - 2) == NULL) {
1442                                 rc = -errno;
1443                                 llapi_error(LLAPI_MSG_ERROR, rc,
1444                                             "cannot get current working directory");
1445                                 return rc;
1446                         }
1447
1448                         rc = snprintf(tmp, sizeof(tmp), "%s/", realpath);
1449                         if (rc >= sizeof(tmp)) {
1450                                 rc = -E2BIG;
1451                                 llapi_error(LLAPI_MSG_ERROR, rc,
1452                                             "invalid parent path '%s'",
1453                                             tmp);
1454                                 return rc;
1455                         }
1456                 }
1457
1458                 rc = snprintf(buf, sizeof(buf), "%s%s", tmp, pathname);
1459                 if (rc >= sizeof(buf)) {
1460                         rc = -E2BIG;
1461                         llapi_error(LLAPI_MSG_ERROR, rc,
1462                                     "invalid path '%s'", pathname);
1463                         return rc;
1464                 }
1465                 path = realpath(buf, NULL);
1466                 if (path == NULL) {
1467                         ptr = strrchr(buf, '/');
1468                         if (ptr == NULL) {
1469                                 llapi_error(LLAPI_MSG_ERROR |
1470                                             LLAPI_MSG_NO_ERRNO, 0,
1471                                             "cannot resolve path '%s'",
1472                                             buf);
1473                                 return -ENOENT;
1474                         }
1475                         *ptr = '\0';
1476                         path = realpath(buf, NULL);
1477                         if (path == NULL) {
1478                                 rc = -errno;
1479                                 llapi_error(LLAPI_MSG_ERROR, rc,
1480                                             "cannot resolve path '%s'",
1481                                              pathname);
1482                                 return rc;
1483                         }
1484                 }
1485         }
1486         rc = get_root_path(WANT_FSNAME | WANT_ERROR, fsname, NULL, path, -1);
1487         free(path);
1488         return rc;
1489 }
1490
1491 int llapi_search_rootpath(char *pathname, const char *fsname)
1492 {
1493         /*
1494          * pathname can be used as an argument by get_root_path(),
1495          * clear it for safety
1496          */
1497         pathname[0] = 0;
1498         return get_root_path(WANT_PATH, (char *)fsname, NULL, pathname, -1);
1499 }
1500
1501 /**
1502  * Get the list of pool members.
1503  * \param poolname    string of format \<fsname\>.\<poolname\>
1504  * \param members     caller-allocated array of char*
1505  * \param list_size   size of the members array
1506  * \param buffer      caller-allocated buffer for storing OST names
1507  * \param buffer_size size of the buffer
1508  *
1509  * \return number of members retrieved for this pool
1510  * \retval -error failure
1511  */
1512 int llapi_get_poolmembers(const char *poolname, char **members,
1513                           int list_size, char *buffer, int buffer_size)
1514 {
1515         char fsname[PATH_MAX];
1516         char *pool, *tmp;
1517         glob_t pathname;
1518         char buf[PATH_MAX];
1519         FILE *fd;
1520         int rc = 0;
1521         int nb_entries = 0;
1522         int used = 0;
1523
1524         /* name is FSNAME.POOLNAME */
1525         if (strlen(poolname) >= sizeof(fsname))
1526                 return -EOVERFLOW;
1527
1528         snprintf(fsname, sizeof(fsname), "%s", poolname);
1529         pool = strchr(fsname, '.');
1530         if (pool == NULL)
1531                 return -EINVAL;
1532
1533         *pool = '\0';
1534         pool++;
1535
1536         rc = poolpath(&pathname, fsname, NULL);
1537         if (rc != 0) {
1538                 llapi_error(LLAPI_MSG_ERROR, rc,
1539                             "Lustre filesystem '%s' not found",
1540                             fsname);
1541                 return rc;
1542         }
1543
1544         llapi_printf(LLAPI_MSG_NORMAL, "Pool: %s.%s\n", fsname, pool);
1545         rc = snprintf(buf, sizeof(buf), "%s/%s", pathname.gl_pathv[0], pool);
1546         cfs_free_param_data(&pathname);
1547         if (rc >= sizeof(buf))
1548                 return -EOVERFLOW;
1549         fd = fopen(buf, "r");
1550         if (fd == NULL) {
1551                 rc = -errno;
1552                 llapi_error(LLAPI_MSG_ERROR, rc, "cannot open %s", buf);
1553                 return rc;
1554         }
1555
1556         rc = 0;
1557         while (fgets(buf, sizeof(buf), fd) != NULL) {
1558                 if (nb_entries >= list_size) {
1559                         rc = -EOVERFLOW;
1560                         break;
1561                 }
1562                 buf[sizeof(buf) - 1] = '\0';
1563                 /* remove '\n' */
1564                 tmp = strchr(buf, '\n');
1565                 if (tmp != NULL)
1566                         *tmp = '\0';
1567                 if (used + strlen(buf) + 1 > buffer_size) {
1568                         rc = -EOVERFLOW;
1569                         break;
1570                 }
1571
1572                 strcpy(buffer + used, buf);
1573                 members[nb_entries] = buffer + used;
1574                 used += strlen(buf) + 1;
1575                 nb_entries++;
1576                 rc = nb_entries;
1577         }
1578
1579         fclose(fd);
1580         return rc;
1581 }
1582
1583 /**
1584  * Get the list of pools in a filesystem.
1585  * \param name        filesystem name or path
1586  * \param poollist    caller-allocated array of char*
1587  * \param list_size   size of the poollist array
1588  * \param buffer      caller-allocated buffer for storing pool names
1589  * \param buffer_size size of the buffer
1590  *
1591  * \return number of pools retrieved for this filesystem
1592  * \retval -error failure
1593  */
1594 int llapi_get_poollist(const char *name, char **poollist, int list_size,
1595                        char *buffer, int buffer_size)
1596 {
1597         glob_t pathname;
1598         char *fsname;
1599         char *ptr;
1600         DIR *dir;
1601         struct dirent *pool;
1602         int rc = 0;
1603         unsigned int nb_entries = 0;
1604         unsigned int used = 0;
1605         unsigned int i;
1606
1607         /* initialize output array */
1608         for (i = 0; i < list_size; i++)
1609                 poollist[i] = NULL;
1610
1611         /* is name a pathname ? */
1612         ptr = strchr(name, '/');
1613         if (ptr != NULL) {
1614                 char fsname_buf[MAXNAMLEN];
1615
1616                 /* We will need fsname for printing later */
1617                 rc = llapi_getname(name, fsname_buf, sizeof(fsname_buf));
1618                 if (rc)
1619                         return rc;
1620
1621                 ptr = strrchr(fsname_buf, '-');
1622                 if (ptr)
1623                         *ptr = '\0';
1624
1625                 fsname = strdup(fsname_buf);
1626                 if (!fsname)
1627                         return -ENOMEM;
1628         } else {
1629                 /* name is FSNAME */
1630                 fsname = strdup(name);
1631                 if (!fsname)
1632                         return -ENOMEM;
1633         }
1634
1635         rc = poolpath(&pathname, fsname, NULL);
1636         if (rc != 0) {
1637                 llapi_error(LLAPI_MSG_ERROR, rc,
1638                             "Lustre filesystem '%s' not found", name);
1639                 goto free_path;
1640         }
1641
1642         dir = opendir(pathname.gl_pathv[0]);
1643         if (dir == NULL) {
1644                 rc = -errno;
1645                 llapi_error(LLAPI_MSG_ERROR, rc,
1646                             "Could not open pool list for '%s'",
1647                             name);
1648                 goto free_path;
1649         }
1650
1651         do {
1652                 errno = 0;
1653                 pool = readdir(dir);
1654                 if (pool == NULL) {
1655                         rc = -errno;
1656                         goto free_dir;
1657                 }
1658
1659                 /* ignore . and .. */
1660                 if (!strcmp(pool->d_name, ".") || !strcmp(pool->d_name, ".."))
1661                         continue;
1662
1663                 /* check output bounds */
1664                 if (nb_entries >= list_size) {
1665                         rc = -EOVERFLOW;
1666                         goto free_dir_no_msg;
1667                 }
1668
1669                 /* +2 for '.' and final '\0' */
1670                 if (used + strlen(pool->d_name) + strlen(fsname) + 2
1671                     > buffer_size) {
1672                         rc = -EOVERFLOW;
1673                         goto free_dir_no_msg;
1674                 }
1675
1676                 sprintf(buffer + used, "%s.%s", fsname, pool->d_name);
1677                 poollist[nb_entries] = buffer + used;
1678                 used += strlen(pool->d_name) + strlen(fsname) + 2;
1679                 nb_entries++;
1680         } while (1);
1681
1682 free_dir:
1683         if (rc)
1684                 llapi_error(LLAPI_MSG_ERROR, rc,
1685                             "Error reading pool list for '%s'", name);
1686         else
1687                 llapi_printf(LLAPI_MSG_NORMAL, "Pools from %s:\n", fsname);
1688
1689 free_dir_no_msg:
1690         closedir(dir);
1691 free_path:
1692         cfs_free_param_data(&pathname);
1693         if (fsname)
1694                 free(fsname);
1695         return rc != 0 ? rc : nb_entries;
1696 }
1697
1698 /* wrapper for lfs.c and obd.c */
1699 int llapi_poollist(const char *name)
1700 {
1701         /*
1702          * list of pool names (assume that pool count is smaller
1703          * than OST count)
1704          */
1705         char **list, *buffer = NULL, *fsname = (char *)name;
1706         char *poolname = NULL, *tmp = NULL, data[16];
1707         enum param_filter type = FILTER_BY_PATH;
1708         int obdcount, bufsize, rc, nb, i;
1709
1710         if (name == NULL)
1711                 return -EINVAL;
1712
1713         if (name[0] != '/') {
1714                 fsname = strdup(name);
1715                 if (fsname == NULL)
1716                         return -ENOMEM;
1717
1718                 poolname = strchr(fsname, '.');
1719                 if (poolname)
1720                         *poolname = '\0';
1721                 type = FILTER_BY_FS_NAME;
1722         }
1723
1724         rc = get_lustre_param_value("lov", fsname, type, "numobd",
1725                                     data, sizeof(data));
1726         if (rc < 0)
1727                 goto err;
1728         obdcount = atoi(data);
1729
1730         /*
1731          * Allocate space for each fsname-OST0000_UUID, 1 per OST,
1732          * and also an array to store the pointers for all that
1733          * allocated space.
1734          */
1735 retry_get_pools:
1736         bufsize = sizeof(struct obd_uuid) * obdcount;
1737         buffer = realloc(tmp, bufsize + sizeof(*list) * obdcount);
1738         if (buffer == NULL) {
1739                 rc = -ENOMEM;
1740                 goto err;
1741         }
1742         list = (char **) (buffer + bufsize);
1743
1744         if (!poolname) {
1745                 /* name is a path or fsname */
1746                 nb = llapi_get_poollist(name, list, obdcount,
1747                                         buffer, bufsize);
1748         } else {
1749                 /* name is a pool name (<fsname>.<poolname>) */
1750                 nb = llapi_get_poolmembers(name, list, obdcount,
1751                                            buffer, bufsize);
1752         }
1753
1754         if (nb == -EOVERFLOW) {
1755                 obdcount *= 2;
1756                 tmp = buffer;
1757                 goto retry_get_pools;
1758         }
1759
1760         for (i = 0; i < nb; i++)
1761                 llapi_printf(LLAPI_MSG_NORMAL, "%s\n", list[i]);
1762         rc = (nb < 0 ? nb : 0);
1763 err:
1764         if (buffer)
1765                 free(buffer);
1766         if (fsname != NULL && type == FILTER_BY_FS_NAME)
1767                 free(fsname);
1768         return rc;
1769 }
1770
1771 typedef int (semantic_func_t)(char *path, DIR *parent, DIR **d,
1772                               void *data, struct dirent64 *de);
1773
1774 #define OBD_NOT_FOUND           (-1)
1775
1776 static void find_param_fini(struct find_param *param)
1777 {
1778         if (param->fp_migrate)
1779                 return;
1780
1781         if (param->fp_obd_indexes) {
1782                 free(param->fp_obd_indexes);
1783                 param->fp_obd_indexes = NULL;
1784         }
1785
1786         if (param->fp_lmd) {
1787                 free(param->fp_lmd);
1788                 param->fp_lmd = NULL;
1789         }
1790
1791         if (param->fp_lmv_md) {
1792                 free(param->fp_lmv_md);
1793                 param->fp_lmv_md = NULL;
1794         }
1795 }
1796
1797 static int common_param_init(struct find_param *param, char *path)
1798 {
1799         int lum_size = get_mds_md_size(path);
1800
1801         if (lum_size < 0)
1802                 return lum_size;
1803
1804         /* migrate has fp_lmv_md initialized outside */
1805         if (param->fp_migrate)
1806                 return 0;
1807
1808         if (lum_size < PATH_MAX + 1)
1809                 lum_size = PATH_MAX + 1;
1810
1811         param->fp_lum_size = lum_size;
1812         param->fp_lmd = calloc(1, offsetof(typeof(*param->fp_lmd), lmd_lmm) +
1813                                lum_size);
1814         if (param->fp_lmd == NULL) {
1815                 llapi_error(LLAPI_MSG_ERROR, -ENOMEM,
1816                             "error: allocate %zu bytes for layout failed",
1817                             sizeof(lstat_t) + param->fp_lum_size);
1818                 return -ENOMEM;
1819         }
1820
1821         param->fp_lmv_stripe_count = 256;
1822         param->fp_lmv_md = calloc(1,
1823                                   lmv_user_md_size(param->fp_lmv_stripe_count,
1824                                                    LMV_USER_MAGIC_SPECIFIC));
1825         if (param->fp_lmv_md == NULL) {
1826                 llapi_error(LLAPI_MSG_ERROR, -ENOMEM,
1827                             "error: allocation of %d bytes for ioctl",
1828                             lmv_user_md_size(param->fp_lmv_stripe_count,
1829                                              LMV_USER_MAGIC_SPECIFIC));
1830                 find_param_fini(param);
1831                 return -ENOMEM;
1832         }
1833
1834         param->fp_got_uuids = 0;
1835         param->fp_obd_indexes = NULL;
1836         param->fp_obd_index = OBD_NOT_FOUND;
1837         param->fp_mdt_index = OBD_NOT_FOUND;
1838         return 0;
1839 }
1840
1841 static int cb_common_fini(char *path, DIR *parent, DIR **dirp, void *data,
1842                           struct dirent64 *de)
1843 {
1844         struct find_param *param = data;
1845
1846         param->fp_depth--;
1847         return 0;
1848 }
1849
1850 /* set errno upon failure */
1851 static DIR *opendir_parent(const char *path)
1852 {
1853         char *path_copy;
1854         char *parent_path;
1855         DIR *parent;
1856
1857         path_copy = strdup(path);
1858         if (path_copy == NULL)
1859                 return NULL;
1860
1861         parent_path = dirname(path_copy);
1862         parent = opendir(parent_path);
1863         free(path_copy);
1864
1865         return parent;
1866 }
1867
1868 static int cb_get_dirstripe(char *path, DIR *d, struct find_param *param)
1869 {
1870         int ret;
1871
1872 again:
1873         param->fp_lmv_md->lum_stripe_count = param->fp_lmv_stripe_count;
1874         if (param->fp_get_default_lmv)
1875                 param->fp_lmv_md->lum_magic = LMV_USER_MAGIC;
1876         else
1877                 param->fp_lmv_md->lum_magic = LMV_MAGIC_V1;
1878
1879         ret = ioctl(dirfd(d), LL_IOC_LMV_GETSTRIPE, param->fp_lmv_md);
1880         if (errno == E2BIG && ret != 0) {
1881                 int stripe_count;
1882                 int lmv_size;
1883
1884                 /* if foreign LMV case, fake stripes number */
1885                 if (param->fp_lmv_md->lum_magic == LMV_MAGIC_FOREIGN) {
1886                         struct lmv_foreign_md *lfm;
1887
1888                         lfm = (struct lmv_foreign_md *)param->fp_lmv_md;
1889                         if (lfm->lfm_length < XATTR_SIZE_MAX -
1890                             offsetof(typeof(*lfm), lfm_value)) {
1891                                 uint32_t size = lfm->lfm_length +
1892                                              offsetof(typeof(*lfm), lfm_value);
1893
1894                                 stripe_count = lmv_foreign_to_md_stripes(size);
1895                         } else {
1896                                 llapi_error(LLAPI_MSG_ERROR, -EINVAL,
1897                                             "error: invalid %d foreign size returned from ioctl",
1898                                             lfm->lfm_length);
1899                                 return -EINVAL;
1900                         }
1901                 } else {
1902                         stripe_count = param->fp_lmv_md->lum_stripe_count;
1903                 }
1904                 if (stripe_count <= param->fp_lmv_stripe_count)
1905                         return ret;
1906
1907                 free(param->fp_lmv_md);
1908                 param->fp_lmv_stripe_count = stripe_count;
1909                 lmv_size = lmv_user_md_size(stripe_count,
1910                                             LMV_USER_MAGIC_SPECIFIC);
1911                 param->fp_lmv_md = malloc(lmv_size);
1912                 if (param->fp_lmv_md == NULL) {
1913                         llapi_error(LLAPI_MSG_ERROR, -ENOMEM,
1914                                     "error: allocation of %d bytes for ioctl",
1915                                     lmv_user_md_size(param->fp_lmv_stripe_count,
1916                                                      LMV_USER_MAGIC_SPECIFIC));
1917                         return -ENOMEM;
1918                 }
1919                 goto again;
1920         }
1921         return ret;
1922 }
1923
1924 static void convert_lmd_statx(struct lov_user_mds_data *lmd_v2, lstat_t *st,
1925                               bool strict)
1926 {
1927         memset(&lmd_v2->lmd_stx, 0, sizeof(lmd_v2->lmd_stx));
1928         lmd_v2->lmd_stx.stx_blksize = st->st_blksize;
1929         lmd_v2->lmd_stx.stx_nlink = st->st_nlink;
1930         lmd_v2->lmd_stx.stx_uid = st->st_uid;
1931         lmd_v2->lmd_stx.stx_gid = st->st_gid;
1932         lmd_v2->lmd_stx.stx_mode = st->st_mode;
1933         lmd_v2->lmd_stx.stx_ino = st->st_ino;
1934         lmd_v2->lmd_stx.stx_size = st->st_size;
1935         lmd_v2->lmd_stx.stx_blocks = st->st_blocks;
1936         lmd_v2->lmd_stx.stx_atime.tv_sec = st->st_atime;
1937         lmd_v2->lmd_stx.stx_ctime.tv_sec = st->st_ctime;
1938         lmd_v2->lmd_stx.stx_mtime.tv_sec = st->st_mtime;
1939         lmd_v2->lmd_stx.stx_rdev_major = major(st->st_rdev);
1940         lmd_v2->lmd_stx.stx_rdev_minor = minor(st->st_rdev);
1941         lmd_v2->lmd_stx.stx_dev_major = major(st->st_dev);
1942         lmd_v2->lmd_stx.stx_dev_minor = minor(st->st_dev);
1943         lmd_v2->lmd_stx.stx_mask |= STATX_BASIC_STATS;
1944
1945         lmd_v2->lmd_flags = 0;
1946         if (strict) {
1947                 lmd_v2->lmd_flags |= OBD_MD_FLSIZE | OBD_MD_FLBLOCKS;
1948         } else {
1949                 lmd_v2->lmd_stx.stx_mask &= ~(STATX_SIZE | STATX_BLOCKS);
1950                 if (lmd_v2->lmd_stx.stx_size)
1951                         lmd_v2->lmd_flags |= OBD_MD_FLLAZYSIZE;
1952                 if (lmd_v2->lmd_stx.stx_blocks)
1953                         lmd_v2->lmd_flags |= OBD_MD_FLLAZYBLOCKS;
1954         }
1955         lmd_v2->lmd_flags |= OBD_MD_FLATIME | OBD_MD_FLMTIME | OBD_MD_FLCTIME |
1956                              OBD_MD_FLBLKSZ | OBD_MD_FLMODE | OBD_MD_FLTYPE |
1957                              OBD_MD_FLUID | OBD_MD_FLGID | OBD_MD_FLNLINK |
1958                              OBD_MD_FLRDEV;
1959
1960 }
1961
1962 static int convert_lmdbuf_v1v2(void *lmdbuf, int lmdlen)
1963 {
1964         struct lov_user_mds_data_v1 *lmd_v1 = lmdbuf;
1965         struct lov_user_mds_data *lmd_v2 = lmdbuf;
1966         lstat_t st;
1967         int size;
1968
1969         size = lov_comp_md_size((struct lov_comp_md_v1 *)&lmd_v1->lmd_lmm);
1970         if (size < 0)
1971                 return size;
1972
1973         if (lmdlen < sizeof(lmd_v1->lmd_st) + size)
1974                 return -EOVERFLOW;
1975
1976         st = lmd_v1->lmd_st;
1977         memmove(&lmd_v2->lmd_lmm, &lmd_v1->lmd_lmm,
1978                 lmdlen - (&lmd_v2->lmd_lmm - &lmd_v1->lmd_lmm));
1979         convert_lmd_statx(lmd_v2, &st, false);
1980         lmd_v2->lmd_lmmsize = 0;
1981         lmd_v2->lmd_padding = 0;
1982
1983         return 0;
1984 }
1985
1986 int get_lmd_info_fd(const char *path, int parent_fd, int dir_fd,
1987                     void *lmdbuf, int lmdlen, enum get_lmd_info_type type)
1988 {
1989         struct lov_user_mds_data *lmd = lmdbuf;
1990         static bool use_old_ioctl;
1991         unsigned long cmd;
1992         int ret = 0;
1993
1994         if (parent_fd < 0 && dir_fd < 0)
1995                 return -EINVAL;
1996         if (type != GET_LMD_INFO && type != GET_LMD_STRIPE)
1997                 return -EINVAL;
1998
1999         if (dir_fd >= 0) {
2000                 /*
2001                  * LL_IOC_MDC_GETINFO operates on the current directory inode
2002                  * and returns struct lov_user_mds_data, while
2003                  * LL_IOC_LOV_GETSTRIPE returns only struct lov_user_md.
2004                  */
2005                 if (type == GET_LMD_INFO)
2006                         cmd = use_old_ioctl ? LL_IOC_MDC_GETINFO_V1 :
2007                                               LL_IOC_MDC_GETINFO_V2;
2008                 else
2009                         cmd = LL_IOC_LOV_GETSTRIPE;
2010
2011 retry_getinfo:
2012                 ret = ioctl(dir_fd, cmd, lmdbuf);
2013                 if (ret < 0 && errno == ENOTTY &&
2014                     cmd == LL_IOC_MDC_GETINFO_V2) {
2015                         cmd = LL_IOC_MDC_GETINFO_V1;
2016                         use_old_ioctl = true;
2017                         goto retry_getinfo;
2018                 }
2019
2020                 if (cmd == LL_IOC_MDC_GETINFO_V1 && !ret)
2021                         ret = convert_lmdbuf_v1v2(lmdbuf, lmdlen);
2022         } else if (parent_fd >= 0) {
2023                 const char *fname = strrchr(path, '/');
2024
2025                 /*
2026                  * IOC_MDC_GETFILEINFO takes as input the filename (relative to
2027                  * the parent directory) and returns struct lov_user_mds_data,
2028                  * while IOC_MDC_GETFILESTRIPE returns only struct lov_user_md.
2029                  *
2030                  * This avoids opening, locking, and closing each file on the
2031                  * client if that is not needed. Multiple of these ioctl() can
2032                  * be done on the parent dir with a single open for all
2033                  * files in that directory, and it also doesn't pollute the
2034                  * client dcache with millions of dentries when traversing
2035                  * a large filesystem.
2036                  */
2037                 fname = (fname == NULL ? path : fname + 1);
2038
2039                 ret = snprintf(lmdbuf, lmdlen, "%s", fname);
2040                 if (ret < 0)
2041                         errno = -ret;
2042                 else if (ret >= lmdlen || ret++ == 0)
2043                         errno = EINVAL;
2044                 else {
2045                         if (type == GET_LMD_INFO)
2046                                 cmd = use_old_ioctl ? IOC_MDC_GETFILEINFO_V1 :
2047                                                       IOC_MDC_GETFILEINFO_V2;
2048                         else
2049                                 cmd = IOC_MDC_GETFILESTRIPE;
2050
2051 retry_getfileinfo:
2052                         ret = ioctl(parent_fd, cmd, lmdbuf);
2053                         if (ret < 0 && errno == ENOTTY &&
2054                             cmd == IOC_MDC_GETFILEINFO_V2) {
2055                                 cmd = IOC_MDC_GETFILEINFO_V1;
2056                                 use_old_ioctl = true;
2057                                 goto retry_getfileinfo;
2058                         }
2059
2060                         if (cmd == IOC_MDC_GETFILEINFO_V1 && !ret)
2061                                 ret = convert_lmdbuf_v1v2(lmdbuf, lmdlen);
2062                 }
2063         }
2064
2065         if (ret && type == GET_LMD_INFO) {
2066                 if (errno == ENOTTY) {
2067                         lstat_t st;
2068
2069                         /*
2070                          * ioctl is not supported, it is not a lustre fs.
2071                          * Do the regular lstat(2) instead.
2072                          */
2073                         ret = lstat_f(path, &st);
2074                         if (ret) {
2075                                 ret = -errno;
2076                                 llapi_error(LLAPI_MSG_ERROR, ret,
2077                                             "error: %s: lstat failed for %s",
2078                                             __func__, path);
2079                         }
2080
2081                         convert_lmd_statx(lmd, &st, true);
2082                         /*
2083                          * It may be wrong to set use_old_ioctl with true as
2084                          * the file is not a lustre fs. So reset it with false
2085                          * directly here.
2086                          */
2087                         use_old_ioctl = false;
2088                 } else if (errno == ENOENT) {
2089                         ret = -errno;
2090                         llapi_error(LLAPI_MSG_WARN, ret,
2091                                     "warning: %s does not exist", path);
2092                 } else if (errno != EISDIR && errno != ENODATA) {
2093                         ret = -errno;
2094                         llapi_error(LLAPI_MSG_ERROR, ret,
2095                                     "%s ioctl failed for %s.",
2096                                     dir_fd >= 0 ? "LL_IOC_MDC_GETINFO" :
2097                                     "IOC_MDC_GETFILEINFO", path);
2098                 }
2099         }
2100
2101         return ret;
2102 }
2103
2104 static int get_lmd_info(char *path, DIR *parent, DIR *dir, void *lmdbuf,
2105                         int lmdlen, enum get_lmd_info_type type)
2106 {
2107         int parent_fd = -1;
2108         int dir_fd = -1;
2109
2110         if (parent)
2111                 parent_fd = dirfd(parent);
2112         if (dir)
2113                 dir_fd = dirfd(dir);
2114
2115         return get_lmd_info_fd(path, parent_fd, dir_fd, lmdbuf, lmdlen, type);
2116 }
2117
2118 static int llapi_semantic_traverse(char *path, int size, DIR *parent,
2119                                    semantic_func_t sem_init,
2120                                    semantic_func_t sem_fini, void *data,
2121                                    struct dirent64 *de)
2122 {
2123         struct find_param *param = (struct find_param *)data;
2124         struct dirent64 *dent;
2125         int len, ret;
2126         DIR *d, *p = NULL;
2127
2128         ret = 0;
2129         len = strlen(path);
2130
2131         d = opendir(path);
2132         if (!d && errno != ENOTDIR) {
2133                 ret = -errno;
2134                 llapi_error(LLAPI_MSG_ERROR, ret, "%s: Failed to open '%s'",
2135                             __func__, path);
2136                 return ret;
2137         } else if (!d && !parent) {
2138                 /* ENOTDIR. Open the parent dir. */
2139                 p = opendir_parent(path);
2140                 if (!p) {
2141                         ret = -errno;
2142                         goto out;
2143                 }
2144         }
2145
2146         if (sem_init && (ret = sem_init(path, parent ?: p, &d, data, de)))
2147                 goto err;
2148
2149         if (d == NULL)
2150                 goto out;
2151
2152         while ((dent = readdir64(d)) != NULL) {
2153                 int rc;
2154
2155                 if (!strcmp(dent->d_name, ".") || !strcmp(dent->d_name, ".."))
2156                         continue;
2157
2158                 path[len] = 0;
2159                 if ((len + dent->d_reclen + 2) > size) {
2160                         llapi_err_noerrno(LLAPI_MSG_ERROR,
2161                                           "error: %s: string buffer too small",
2162                                           __func__);
2163                         break;
2164                 }
2165                 strcat(path, "/");
2166                 strcat(path, dent->d_name);
2167
2168                 if (dent->d_type == DT_UNKNOWN) {
2169                         struct lov_user_mds_data *lmd = param->fp_lmd;
2170
2171                         rc = get_lmd_info(path, d, NULL, lmd,
2172                                           param->fp_lum_size, GET_LMD_INFO);
2173                         if (rc == 0)
2174                                 dent->d_type = IFTODT(lmd->lmd_stx.stx_mode);
2175                         else if (ret == 0)
2176                                 ret = rc;
2177
2178                         if (rc == -ENOENT)
2179                                 continue;
2180                 }
2181                 switch (dent->d_type) {
2182                 case DT_UNKNOWN:
2183                         llapi_err_noerrno(LLAPI_MSG_ERROR,
2184                                           "error: %s: '%s' is UNKNOWN type %d",
2185                                           __func__, dent->d_name, dent->d_type);
2186                         break;
2187                 case DT_DIR:
2188                         rc = llapi_semantic_traverse(path, size, d, sem_init,
2189                                                       sem_fini, data, dent);
2190                         if (rc != 0 && ret == 0)
2191                                 ret = rc;
2192                         break;
2193                 default:
2194                         rc = 0;
2195                         if (sem_init) {
2196                                 rc = sem_init(path, d, NULL, data, dent);
2197                                 if (rc < 0 && ret == 0) {
2198                                         ret = rc;
2199                                         break;
2200                                 }
2201                         }
2202                         if (sem_fini && rc == 0)
2203                                 sem_fini(path, d, NULL, data, dent);
2204                 }
2205         }
2206
2207 out:
2208         path[len] = 0;
2209
2210         if (sem_fini)
2211                 sem_fini(path, parent, &d, data, de);
2212 err:
2213         if (d)
2214                 closedir(d);
2215         if (p)
2216                 closedir(p);
2217         return ret;
2218 }
2219
2220 static int param_callback(char *path, semantic_func_t sem_init,
2221                           semantic_func_t sem_fini, struct find_param *param)
2222 {
2223         int ret, len = strlen(path);
2224         char *buf;
2225
2226         if (len > PATH_MAX) {
2227                 ret = -EINVAL;
2228                 llapi_error(LLAPI_MSG_ERROR, ret,
2229                             "Path name '%s' is too long", path);
2230                 return ret;
2231         }
2232
2233         buf = (char *)malloc(PATH_MAX + 1);
2234         if (!buf)
2235                 return -ENOMEM;
2236
2237         snprintf(buf, PATH_MAX + 1, "%s", path);
2238         ret = common_param_init(param, buf);
2239         if (ret)
2240                 goto out;
2241
2242         param->fp_depth = 0;
2243
2244         ret = llapi_semantic_traverse(buf, PATH_MAX + 1, NULL, sem_init,
2245                                       sem_fini, param, NULL);
2246 out:
2247         find_param_fini(param);
2248         free(buf);
2249         return ret < 0 ? ret : 0;
2250 }
2251
2252 int llapi_file_fget_lov_uuid(int fd, struct obd_uuid *lov_name)
2253 {
2254         int rc = ioctl(fd, OBD_IOC_GETNAME, lov_name);
2255
2256         if (rc) {
2257                 rc = -errno;
2258                 llapi_error(LLAPI_MSG_ERROR, rc, "cannot get lov name");
2259         }
2260         return rc;
2261 }
2262
2263 int llapi_file_fget_lmv_uuid(int fd, struct obd_uuid *lov_name)
2264 {
2265         int rc = ioctl(fd, OBD_IOC_GETMDNAME, lov_name);
2266
2267         if (rc) {
2268                 rc = -errno;
2269                 llapi_error(LLAPI_MSG_ERROR, rc, "error: can't get lmv name.");
2270         }
2271         return rc;
2272 }
2273
2274 int llapi_file_get_lov_uuid(const char *path, struct obd_uuid *lov_uuid)
2275 {
2276         int fd, rc;
2277
2278         fd = open(path, O_RDONLY | O_NONBLOCK);
2279         if (fd < 0) {
2280                 rc = -errno;
2281                 llapi_error(LLAPI_MSG_ERROR, rc, "cannot open '%s'", path);
2282                 return rc;
2283         }
2284
2285         rc = llapi_file_fget_lov_uuid(fd, lov_uuid);
2286
2287         close(fd);
2288         return rc;
2289 }
2290
2291 int llapi_file_get_lmv_uuid(const char *path, struct obd_uuid *lov_uuid)
2292 {
2293         int fd, rc;
2294
2295         fd = open(path, O_RDONLY | O_NONBLOCK);
2296         if (fd < 0) {
2297                 rc = -errno;
2298                 llapi_error(LLAPI_MSG_ERROR, rc, "error opening %s", path);
2299                 return rc;
2300         }
2301
2302         rc = llapi_file_fget_lmv_uuid(fd, lov_uuid);
2303
2304         close(fd);
2305         return rc;
2306 }
2307
2308 enum tgt_type {
2309         LOV_TYPE = 1,
2310         LMV_TYPE
2311 };
2312
2313 /*
2314  * If uuidp is NULL, return the number of available obd uuids.
2315  * If uuidp is non-NULL, then it will return the uuids of the obds. If
2316  * there are more OSTs than allocated to uuidp, then an error is returned with
2317  * the ost_count set to number of available obd uuids.
2318  */
2319 static int llapi_get_target_uuids(int fd, struct obd_uuid *uuidp,
2320                                   int *ost_count, enum tgt_type type)
2321 {
2322         char buf[PATH_MAX], format[32];
2323         int rc = 0, index = 0;
2324         struct obd_uuid name;
2325         glob_t param;
2326         FILE *fp;
2327
2328         /* Get the lov name */
2329         if (type == LOV_TYPE)
2330                 rc = llapi_file_fget_lov_uuid(fd, &name);
2331         else
2332                 rc = llapi_file_fget_lmv_uuid(fd, &name);
2333         if (rc != 0)
2334                 return rc;
2335
2336         /* Now get the ost uuids */
2337         rc = get_lustre_param_path(type == LOV_TYPE ? "lov" : "lmv", name.uuid,
2338                                    FILTER_BY_EXACT, "target_obd", &param);
2339         if (rc != 0)
2340                 return -ENOENT;
2341
2342         fp = fopen(param.gl_pathv[0], "r");
2343         if (fp == NULL) {
2344                 rc = -errno;
2345                 llapi_error(LLAPI_MSG_ERROR, rc, "error: opening '%s'",
2346                             param.gl_pathv[0]);
2347                 goto free_param;
2348         }
2349
2350         snprintf(format, sizeof(format),
2351                  "%%d: %%%zus", sizeof(uuidp[0].uuid) - 1);
2352         while (fgets(buf, sizeof(buf), fp) != NULL) {
2353                 if (uuidp && (index < *ost_count)) {
2354                         if (sscanf(buf, format, &index, uuidp[index].uuid) < 2)
2355                                 break;
2356                 }
2357                 index++;
2358         }
2359
2360         fclose(fp);
2361
2362         if (uuidp && (index > *ost_count))
2363                 rc = -EOVERFLOW;
2364
2365         *ost_count = index;
2366 free_param:
2367         cfs_free_param_data(&param);
2368         return rc;
2369 }
2370
2371 int llapi_lov_get_uuids(int fd, struct obd_uuid *uuidp, int *ost_count)
2372 {
2373         return llapi_get_target_uuids(fd, uuidp, ost_count, LOV_TYPE);
2374 }
2375
2376 int llapi_get_obd_count(char *mnt, int *count, int is_mdt)
2377 {
2378         int root;
2379         int rc;
2380
2381         root = open(mnt, O_RDONLY | O_DIRECTORY);
2382         if (root < 0) {
2383                 rc = -errno;
2384                 llapi_error(LLAPI_MSG_ERROR, rc, "open %s failed", mnt);
2385                 return rc;
2386         }
2387
2388         *count = is_mdt;
2389         rc = ioctl(root, LL_IOC_GETOBDCOUNT, count);
2390         if (rc < 0)
2391                 rc = -errno;
2392
2393         close(root);
2394         return rc;
2395 }
2396
2397 /*
2398  * Check if user specified value matches a real uuid.  Ignore _UUID,
2399  * -osc-4ba41334, other trailing gunk in comparison.
2400  * @param real_uuid ends in "_UUID"
2401  * @param search_uuid may or may not end in "_UUID"
2402  */
2403 int llapi_uuid_match(char *real_uuid, char *search_uuid)
2404 {
2405         int cmplen = strlen(real_uuid);
2406         int searchlen = strlen(search_uuid);
2407
2408         if (cmplen > 5 && strcmp(real_uuid + cmplen - 5, "_UUID") == 0)
2409                 cmplen -= 5;
2410         if (searchlen > 5 && strcmp(search_uuid + searchlen - 5, "_UUID") == 0)
2411                 searchlen -= 5;
2412
2413         /*
2414          * The UUIDs may legitimately be different lengths, if
2415          * the system was upgraded from an older version.
2416          */
2417         if (cmplen != searchlen)
2418                 return 0;
2419
2420         return (strncmp(search_uuid, real_uuid, cmplen) == 0);
2421 }
2422
2423 /*
2424  * Here, param->fp_obd_uuid points to a single obduuid, the index of which is
2425  * returned in param->fp_obd_index
2426  */
2427 static int setup_obd_uuid(int fd, char *dname, struct find_param *param)
2428 {
2429         struct obd_uuid obd_uuid;
2430         char buf[PATH_MAX];
2431         glob_t param_data;
2432         char format[32];
2433         int rc = 0;
2434         FILE *fp;
2435
2436         if (param->fp_got_uuids)
2437                 return rc;
2438
2439         /* Get the lov/lmv name */
2440         if (param->fp_get_lmv)
2441                 rc = llapi_file_fget_lmv_uuid(fd, &obd_uuid);
2442         else
2443                 rc = llapi_file_fget_lov_uuid(fd, &obd_uuid);
2444         if (rc) {
2445                 if (rc != -ENOTTY) {
2446                         llapi_error(LLAPI_MSG_ERROR, rc,
2447                                     "error: can't get %s name: %s",
2448                                     param->fp_get_lmv ? "lmv" : "lov",
2449                                     dname);
2450                 } else {
2451                         rc = 0;
2452                 }
2453                 return rc;
2454         }
2455
2456         param->fp_got_uuids = 1;
2457
2458         /* Now get the ost uuids */
2459         rc = get_lustre_param_path(param->fp_get_lmv ? "lmv" : "lov",
2460                                    obd_uuid.uuid, FILTER_BY_EXACT,
2461                                    "target_obd", &param_data);
2462         if (rc != 0)
2463                 return -ENOENT;
2464
2465         fp = fopen(param_data.gl_pathv[0], "r");
2466         if (fp == NULL) {
2467                 rc = -errno;
2468                 llapi_error(LLAPI_MSG_ERROR, rc, "error: opening '%s'",
2469                             param_data.gl_pathv[0]);
2470                 goto free_param;
2471         }
2472
2473         if (!param->fp_obd_uuid && !param->fp_quiet && !param->fp_obds_printed)
2474                 llapi_printf(LLAPI_MSG_NORMAL, "%s:\n",
2475                              param->fp_get_lmv ? "MDTS" : "OBDS");
2476
2477         snprintf(format, sizeof(format),
2478                  "%%d: %%%zus", sizeof(obd_uuid.uuid) - 1);
2479         while (fgets(buf, sizeof(buf), fp) != NULL) {
2480                 int index;
2481
2482                 if (sscanf(buf, format, &index, obd_uuid.uuid) < 2)
2483                         break;
2484
2485                 if (param->fp_obd_uuid) {
2486                         if (llapi_uuid_match(obd_uuid.uuid,
2487                                              param->fp_obd_uuid->uuid)) {
2488                                 param->fp_obd_index = index;
2489                                 break;
2490                         }
2491                 } else if (!param->fp_quiet && !param->fp_obds_printed) {
2492                         /* Print everything */
2493                         llapi_printf(LLAPI_MSG_NORMAL, "%s", buf);
2494                 }
2495         }
2496         param->fp_obds_printed = 1;
2497
2498         fclose(fp);
2499
2500         if (param->fp_obd_uuid && (param->fp_obd_index == OBD_NOT_FOUND)) {
2501                 llapi_err_noerrno(LLAPI_MSG_ERROR,
2502                                   "error: %s: unknown obduuid: %s",
2503                                   __func__, param->fp_obd_uuid->uuid);
2504                 rc = -EINVAL;
2505         }
2506 free_param:
2507         cfs_free_param_data(&param_data);
2508         return rc;
2509 }
2510
2511 /*
2512  * In this case, param->fp_obd_uuid will be an array of obduuids and
2513  * obd index for all these obduuids will be returned in
2514  * param->fp_obd_indexes
2515  */
2516 static int setup_indexes(DIR *dir, char *path, struct obd_uuid *obduuids,
2517                          int num_obds, int **obdindexes, int *obdindex,
2518                          enum tgt_type type)
2519 {
2520         int ret, obdcount, obd_valid = 0, obdnum;
2521         long i;
2522         struct obd_uuid *uuids = NULL;
2523         char buf[16];
2524         int *indexes;
2525
2526         if (type == LOV_TYPE)
2527                 ret = get_param_lov(path, "numobd", buf, sizeof(buf));
2528         else
2529                 ret = get_param_lmv(path, "numobd", buf, sizeof(buf));
2530         if (ret != 0)
2531                 return ret;
2532
2533         obdcount = atoi(buf);
2534         uuids = malloc(obdcount * sizeof(struct obd_uuid));
2535         if (uuids == NULL)
2536                 return -ENOMEM;
2537
2538 retry_get_uuids:
2539         ret = llapi_get_target_uuids(dirfd(dir), uuids, &obdcount, type);
2540         if (ret) {
2541                 if (ret == -EOVERFLOW) {
2542                         struct obd_uuid *uuids_temp;
2543
2544                         uuids_temp = realloc(uuids, obdcount *
2545                                              sizeof(struct obd_uuid));
2546                         if (uuids_temp != NULL) {
2547                                 uuids = uuids_temp;
2548                                 goto retry_get_uuids;
2549                         }
2550                         ret = -ENOMEM;
2551                 }
2552
2553                 llapi_error(LLAPI_MSG_ERROR, ret, "cannot get ost uuid");
2554                 goto out_free;
2555         }
2556
2557         indexes = malloc(num_obds * sizeof(*obdindex));
2558         if (indexes == NULL) {
2559                 ret = -ENOMEM;
2560                 goto out_free;
2561         }
2562
2563         for (obdnum = 0; obdnum < num_obds; obdnum++) {
2564                 char *end = NULL;
2565
2566                 /* The user may have specified a simple index */
2567                 i = strtol(obduuids[obdnum].uuid, &end, 0);
2568                 if (end && *end == '\0' && i < obdcount) {
2569                         indexes[obdnum] = i;
2570                         obd_valid++;
2571                 } else {
2572                         for (i = 0; i < obdcount; i++) {
2573                                 if (llapi_uuid_match(uuids[i].uuid,
2574                                                      obduuids[obdnum].uuid)) {
2575                                         indexes[obdnum] = i;
2576                                         obd_valid++;
2577                                         break;
2578                                 }
2579                         }
2580                 }
2581                 if (i >= obdcount) {
2582                         indexes[obdnum] = OBD_NOT_FOUND;
2583                         llapi_err_noerrno(LLAPI_MSG_ERROR,
2584                                           "invalid obduuid '%s'",
2585                                           obduuids[obdnum].uuid);
2586                         ret = -EINVAL;
2587                 }
2588         }
2589
2590         if (obd_valid == 0)
2591                 *obdindex = OBD_NOT_FOUND;
2592         else
2593                 *obdindex = obd_valid;
2594
2595         *obdindexes = indexes;
2596 out_free:
2597         if (uuids)
2598                 free(uuids);
2599
2600         return ret;
2601 }
2602
2603 static int setup_target_indexes(DIR *dir, char *path, struct find_param *param)
2604 {
2605         int ret = 0;
2606
2607         if (param->fp_mdt_uuid) {
2608                 ret = setup_indexes(dir, path, param->fp_mdt_uuid,
2609                                     param->fp_num_mdts,
2610                                     &param->fp_mdt_indexes,
2611                                     &param->fp_mdt_index, LMV_TYPE);
2612                 if (ret)
2613                         return ret;
2614         }
2615
2616         if (param->fp_obd_uuid) {
2617                 ret = setup_indexes(dir, path, param->fp_obd_uuid,
2618                                     param->fp_num_obds,
2619                                     &param->fp_obd_indexes,
2620                                     &param->fp_obd_index, LOV_TYPE);
2621                 if (ret)
2622                         return ret;
2623         }
2624
2625         param->fp_got_uuids = 1;
2626
2627         return ret;
2628 }
2629
2630 int llapi_ostlist(char *path, struct find_param *param)
2631 {
2632         int fd;
2633         int ret;
2634
2635         fd = open(path, O_RDONLY | O_DIRECTORY);
2636         if (fd < 0)
2637                 return -errno;
2638
2639         ret = setup_obd_uuid(fd, path, param);
2640         close(fd);
2641
2642         return ret;
2643 }
2644
2645 /*
2646  * Tries to determine the default stripe attributes for a given filesystem. The
2647  * filesystem to check should be specified by fsname, or will be determined
2648  * using pathname.
2649  */
2650 static int sattr_get_defaults(const char *const fsname,
2651                               unsigned int *scount,
2652                               unsigned int *ssize,
2653                               unsigned int *soffset)
2654 {
2655         char val[PATH_MAX];
2656         int rc;
2657
2658         if (scount) {
2659                 rc = get_lustre_param_value("lov", fsname, FILTER_BY_FS_NAME,
2660                                             "stripecount", val, sizeof(val));
2661                 if (rc != 0)
2662                         return rc;
2663                 *scount = atoi(val);
2664         }
2665
2666         if (ssize) {
2667                 rc = get_lustre_param_value("lov", fsname, FILTER_BY_FS_NAME,
2668                                             "stripesize", val, sizeof(val));
2669                 if (rc != 0)
2670                         return rc;
2671                 *ssize = atoi(val);
2672         }
2673
2674         if (soffset) {
2675                 rc = get_lustre_param_value("lov", fsname, FILTER_BY_FS_NAME,
2676                                             "stripeoffset", val, sizeof(val));
2677                 if (rc != 0)
2678                         return rc;
2679                 *soffset = atoi(val);
2680         }
2681
2682         return 0;
2683 }
2684
2685 /*
2686  * Tries to gather the default stripe attributes for a given filesystem. If
2687  * the attributes can be determined, they are cached for easy retreival the
2688  * next time they are needed. Only a single filesystem's attributes are
2689  * cached at a time.
2690  */
2691 int sattr_cache_get_defaults(const char *const fsname,
2692                              const char *const pathname, unsigned int *scount,
2693                              unsigned int *ssize, unsigned int *soffset)
2694 {
2695         static struct {
2696                 char fsname[PATH_MAX + 1];
2697                 unsigned int stripecount;
2698                 unsigned int stripesize;
2699                 unsigned int stripeoffset;
2700         } cache = {
2701                 .fsname = {'\0'}
2702         };
2703
2704         int rc;
2705         char fsname_buf[PATH_MAX + 1];
2706         unsigned int tmp[3];
2707
2708         if (fsname == NULL) {
2709                 rc = llapi_search_fsname(pathname, fsname_buf);
2710                 if (rc)
2711                         return rc;
2712         } else {
2713                 snprintf(fsname_buf, sizeof(fsname_buf), "%s", fsname);
2714         }
2715
2716         if (strncmp(fsname_buf, cache.fsname, sizeof(fsname_buf) - 1) != 0) {
2717                 /*
2718                  * Ensure all 3 sattrs (count, size, and offset) are
2719                  * successfully retrieved and stored in tmp before writing to
2720                  * cache.
2721                  */
2722                 rc = sattr_get_defaults(fsname_buf, &tmp[0], &tmp[1], &tmp[2]);
2723                 if (rc != 0)
2724                         return rc;
2725
2726                 cache.stripecount = tmp[0];
2727                 cache.stripesize = tmp[1];
2728                 cache.stripeoffset = tmp[2];
2729                 snprintf(cache.fsname, sizeof(cache.fsname), "%s", fsname_buf);
2730         }
2731
2732         if (scount)
2733                 *scount = cache.stripecount;
2734         if (ssize)
2735                 *ssize = cache.stripesize;
2736         if (soffset)
2737                 *soffset = cache.stripeoffset;
2738
2739         return 0;
2740 }
2741
2742 static char *layout2name(__u32 layout_pattern)
2743 {
2744         if (layout_pattern & LOV_PATTERN_F_RELEASED)
2745                 return "released";
2746         else if (layout_pattern == LOV_PATTERN_MDT)
2747                 return "mdt";
2748         else if (layout_pattern == LOV_PATTERN_RAID0)
2749                 return "raid0";
2750         else if (layout_pattern ==
2751                         (LOV_PATTERN_RAID0 | LOV_PATTERN_OVERSTRIPING))
2752                 return "raid0,overstriped";
2753         else
2754                 return "unknown";
2755 }
2756
2757 enum lov_dump_flags {
2758         LDF_IS_DIR      = 0x0001,
2759         LDF_IS_RAW      = 0x0002,
2760         LDF_INDENT      = 0x0004,
2761         LDF_SKIP_OBJS   = 0x0008,
2762         LDF_YAML        = 0x0010,
2763         LDF_EXTENSION   = 0x0020,
2764 };
2765
2766 static void lov_dump_user_lmm_header(struct lov_user_md *lum, char *path,
2767                                      struct lov_user_ost_data_v1 *objects,
2768                                      enum llapi_layout_verbose verbose,
2769                                      int depth, char *pool_name,
2770                                      enum lov_dump_flags flags)
2771 {
2772         bool is_dir = flags & LDF_IS_DIR;
2773         bool is_raw = flags & LDF_IS_RAW;
2774         bool indent = flags & LDF_INDENT;
2775         bool yaml = flags & LDF_YAML;
2776         bool skip_objs = flags & LDF_SKIP_OBJS;
2777         bool extension = flags & LDF_EXTENSION;
2778         char *prefix = is_dir ? "" : "lmm_";
2779         char *separator = "";
2780         char *space = indent ? "      " : "";
2781         int rc;
2782
2783         if (is_dir && lmm_oi_seq(&lum->lmm_oi) == FID_SEQ_LOV_DEFAULT) {
2784                 lmm_oi_set_seq(&lum->lmm_oi, 0);
2785                 if (!indent && (verbose & VERBOSE_DETAIL))
2786                         llapi_printf(LLAPI_MSG_NORMAL, "%s(Default) ", space);
2787         }
2788
2789         if (!yaml && !indent && depth && path &&
2790             ((verbose != VERBOSE_OBJID) || !is_dir))
2791                 llapi_printf(LLAPI_MSG_NORMAL, "%s\n", path);
2792
2793         if ((verbose & VERBOSE_DETAIL) && !is_dir) {
2794                 llapi_printf(LLAPI_MSG_NORMAL, "%s%smagic:         0x%08X\n",
2795                              space, prefix, lum->lmm_magic);
2796                 llapi_printf(LLAPI_MSG_NORMAL, "%s%sseq:           %#jx\n",
2797                              space, prefix,
2798                              (uintmax_t)lmm_oi_seq(&lum->lmm_oi));
2799                 llapi_printf(LLAPI_MSG_NORMAL, "%s%sobject_id:     %#jx\n",
2800                              space, prefix,
2801                              (uintmax_t)lmm_oi_id(&lum->lmm_oi));
2802         }
2803         if ((verbose & (VERBOSE_DETAIL | VERBOSE_DFID)) && !is_dir) {
2804                 __u64 seq;
2805                 __u32 oid;
2806                 __u32 ver;
2807
2808                 if (verbose & ~VERBOSE_DFID)
2809                         llapi_printf(LLAPI_MSG_NORMAL, "%slmm_fid:           ",
2810                                      space);
2811                 /*
2812                  * This needs a bit of hand-holding since old 1.x lmm_oi
2813                  * have { oi.oi_id = mds_inum, oi.oi_seq = 0 } and 2.x lmm_oi
2814                  * have { oi.oi_id = mds_oid, oi.oi_seq = mds_seq } instead of
2815                  * a real FID.  Ideally the 2.x code would have stored this
2816                  * like a FID with { oi_id = mds_seq, oi_seq = mds_oid } so the
2817                  * ostid union lu_fid { f_seq = mds_seq, f_oid = mds_oid }
2818                  * worked properly (especially since IGIF FIDs use mds_inum as
2819                  * the FID SEQ), but unfortunately that didn't happen.
2820                  *
2821                  * Print it to look like an IGIF FID, even though the fields
2822                  * are reversed on disk, so that it makes sense to userspace.
2823                  *
2824                  * Don't use ostid_id() and ostid_seq(), since they assume the
2825                  * oi_fid fields are in the right order.  This is why there are
2826                  * separate lmm_oi_seq() and lmm_oi_id() routines for this.
2827                  *
2828                  * For newer layout types hopefully this will be a real FID.
2829                  */
2830                 seq = lmm_oi_seq(&lum->lmm_oi) == 0 ?
2831                         lmm_oi_id(&lum->lmm_oi) : lmm_oi_seq(&lum->lmm_oi);
2832                 oid = lmm_oi_seq(&lum->lmm_oi) == 0 ?
2833                         0 : (__u32)lmm_oi_id(&lum->lmm_oi);
2834                 ver = (__u32)(lmm_oi_id(&lum->lmm_oi) >> 32);
2835                 if (yaml)
2836                         llapi_printf(LLAPI_MSG_NORMAL, DFID_NOBRACE"\n",
2837                                      (unsigned long long)seq, oid, ver);
2838                 else
2839                         llapi_printf(LLAPI_MSG_NORMAL, DFID"\n",
2840                                      (unsigned long long)seq, oid, ver);
2841         }
2842
2843         if (verbose & VERBOSE_STRIPE_COUNT) {
2844                 if (verbose & ~VERBOSE_STRIPE_COUNT)
2845                         llapi_printf(LLAPI_MSG_NORMAL, "%s%sstripe_count:  ",
2846                                      space, prefix);
2847                 if (is_dir) {
2848                         if (!is_raw && lum->lmm_stripe_count == 0 &&
2849                             lov_pattern(lum->lmm_pattern) != LOV_PATTERN_MDT) {
2850                                 unsigned int scount;
2851
2852                                 rc = sattr_cache_get_defaults(NULL, path,
2853                                                               &scount, NULL,
2854                                                               NULL);
2855                                 if (rc == 0)
2856                                         llapi_printf(LLAPI_MSG_NORMAL, "%d",
2857                                                      scount);
2858                                 else
2859                                         llapi_error(LLAPI_MSG_ERROR, rc,
2860                                                     "Cannot determine default stripe count.");
2861                         } else {
2862                                 llapi_printf(LLAPI_MSG_NORMAL, "%d",
2863                                              extension ? 0 :
2864                                              (__s16)lum->lmm_stripe_count);
2865                         }
2866                 } else {
2867                         llapi_printf(LLAPI_MSG_NORMAL, "%hd",
2868                                      extension ? 0 :
2869                                      (__s16)lum->lmm_stripe_count);
2870                 }
2871                 if (!yaml && is_dir)
2872                         separator = " ";
2873                 else
2874                         separator = "\n";
2875         }
2876
2877         if (((verbose & VERBOSE_STRIPE_SIZE) && !extension) ||
2878             ((verbose & VERBOSE_EXT_SIZE) && extension)) {
2879                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2880                 if (verbose & ~VERBOSE_EXT_SIZE && extension)
2881                         llapi_printf(LLAPI_MSG_NORMAL, "%s%sextension_size: ",
2882                                      space, prefix);
2883                 if (verbose & ~VERBOSE_STRIPE_SIZE && !extension)
2884                         llapi_printf(LLAPI_MSG_NORMAL, "%s%sstripe_size:   ",
2885                                      space, prefix);
2886                 if (is_dir && !is_raw && lum->lmm_stripe_size == 0) {
2887                         unsigned int ssize;
2888
2889                         rc = sattr_cache_get_defaults(NULL, path, NULL, &ssize,
2890                                                       NULL);
2891                         if (rc == 0)
2892                                 llapi_printf(LLAPI_MSG_NORMAL, "%u", ssize);
2893                         else
2894                                 llapi_error(LLAPI_MSG_ERROR, rc,
2895                                             "Cannot determine default stripe size.");
2896                 } else {
2897                         /* Extension size is in KiB */
2898                         llapi_printf(LLAPI_MSG_NORMAL, "%llu",
2899                                      extension ?
2900                                      (unsigned long long)(lum->lmm_stripe_size * SEL_UNIT_SIZE) :
2901                                      (unsigned long long)lum->lmm_stripe_size);
2902                 }
2903                 if (!yaml && is_dir)
2904                         separator = " ";
2905                 else
2906                         separator = "\n";
2907         }
2908
2909         if ((verbose & VERBOSE_PATTERN)) {
2910                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2911                 if (verbose & ~VERBOSE_PATTERN)
2912                         llapi_printf(LLAPI_MSG_NORMAL, "%s%spattern:       ",
2913                                      space, prefix);
2914                 if (lov_pattern_supported(lum->lmm_pattern))
2915                         llapi_printf(LLAPI_MSG_NORMAL, "%s",
2916                                      layout2name(lum->lmm_pattern));
2917                 else
2918                         llapi_printf(LLAPI_MSG_NORMAL, "%x", lum->lmm_pattern);
2919                 separator = (!yaml && is_dir) ? " " : "\n";
2920         }
2921
2922         if ((verbose & VERBOSE_GENERATION) && !is_dir) {
2923                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2924                 if (verbose & ~VERBOSE_GENERATION)
2925                         llapi_printf(LLAPI_MSG_NORMAL, "%s%slayout_gen:    ",
2926                                      space, prefix);
2927                 llapi_printf(LLAPI_MSG_NORMAL, "%u",
2928                              skip_objs ? 0 : (int)lum->lmm_layout_gen);
2929                 separator = "\n";
2930         }
2931
2932         if (verbose & VERBOSE_STRIPE_OFFSET) {
2933                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2934                 if (verbose & ~VERBOSE_STRIPE_OFFSET)
2935                         llapi_printf(LLAPI_MSG_NORMAL, "%s%sstripe_offset: ",
2936                                      space, prefix);
2937                 if (is_dir || skip_objs)
2938                         llapi_printf(LLAPI_MSG_NORMAL, "%d",
2939                                      lum->lmm_stripe_offset ==
2940                                      (typeof(lum->lmm_stripe_offset))(-1) ? -1 :
2941                                      lum->lmm_stripe_offset);
2942                 else if (lov_pattern(lum->lmm_pattern) == LOV_PATTERN_MDT)
2943                         llapi_printf(LLAPI_MSG_NORMAL, "0");
2944                 else
2945                         llapi_printf(LLAPI_MSG_NORMAL, "%u",
2946                                      objects[0].l_ost_idx);
2947                 if (!yaml && is_dir)
2948                         separator = " ";
2949                 else
2950                         separator = "\n";
2951         }
2952
2953         if ((verbose & VERBOSE_POOL) && pool_name && (pool_name[0] != '\0')) {
2954                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2955                 if (verbose & ~VERBOSE_POOL)
2956                         llapi_printf(LLAPI_MSG_NORMAL, "%s%spool:          ",
2957                                      space, prefix);
2958                 llapi_printf(LLAPI_MSG_NORMAL, "%s", pool_name);
2959                 if (!yaml && is_dir)
2960                         separator = " ";
2961                 else
2962                         separator = "\n";
2963         }
2964
2965         if (strlen(separator) != 0)
2966                 llapi_printf(LLAPI_MSG_NORMAL, "\n");
2967 }
2968
2969 void lov_dump_user_lmm_v1v3(struct lov_user_md *lum, char *pool_name,
2970                             struct lov_user_ost_data_v1 *objects,
2971                             char *path, int obdindex, int depth,
2972                             enum llapi_layout_verbose verbose,
2973                             enum lov_dump_flags flags)
2974 {
2975         bool is_dir = flags & LDF_IS_DIR;
2976         bool indent = flags & LDF_INDENT;
2977         bool skip_objs = flags & LDF_SKIP_OBJS;
2978         bool yaml = flags & LDF_YAML;
2979         bool obdstripe = obdindex == OBD_NOT_FOUND;
2980         int i;
2981
2982         if (!obdstripe && !skip_objs) {
2983                 for (i = 0; !is_dir && i < lum->lmm_stripe_count; i++) {
2984                         if (obdindex == objects[i].l_ost_idx) {
2985                                 obdstripe = true;
2986                                 break;
2987                         }
2988                 }
2989         }
2990
2991         if (!obdstripe)
2992                 return;
2993
2994         lov_dump_user_lmm_header(lum, path, objects, verbose, depth, pool_name,
2995                                  flags);
2996
2997         if (!is_dir && !skip_objs && (verbose & VERBOSE_OBJID) &&
2998             !(lum->lmm_pattern & LOV_PATTERN_F_RELEASED ||
2999               lov_pattern(lum->lmm_pattern) == LOV_PATTERN_MDT)) {
3000                 char *space = "      - ";
3001
3002                 if (indent)
3003                         llapi_printf(LLAPI_MSG_NORMAL,
3004                                      "%6slmm_objects:\n", " ");
3005                 else if (yaml)
3006                         llapi_printf(LLAPI_MSG_NORMAL, "lmm_objects:\n");
3007                 else
3008                         llapi_printf(LLAPI_MSG_NORMAL,
3009                                 "\tobdidx\t\t objid\t\t objid\t\t group\n");
3010
3011                 for (i = 0; i < lum->lmm_stripe_count; i++) {
3012                         int idx = objects[i].l_ost_idx;
3013                         long long oid = ostid_id(&objects[i].l_ost_oi);
3014                         long long gr = ostid_seq(&objects[i].l_ost_oi);
3015
3016                         if (obdindex != OBD_NOT_FOUND && obdindex != idx)
3017                                 continue;
3018
3019                         if (yaml) {
3020                                 struct lu_fid fid = { 0 };
3021
3022                                 ostid_to_fid(&fid, &objects[i].l_ost_oi, idx);
3023                                 llapi_printf(LLAPI_MSG_NORMAL,
3024                                     "%sl_ost_idx: %d\n", space, idx);
3025                                 llapi_printf(LLAPI_MSG_NORMAL,
3026                                     "%8sl_fid:     "DFID_NOBRACE"\n",
3027                                     " ", PFID(&fid));
3028                         } else if (indent) {
3029                                 struct lu_fid fid = { 0 };
3030
3031                                 ostid_to_fid(&fid, &objects[i].l_ost_oi, idx);
3032                                 llapi_printf(LLAPI_MSG_NORMAL,
3033                                     "%s%d: { l_ost_idx: %d, l_fid: "DFID" }\n",
3034                                     space, i, idx, PFID(&fid));
3035                         } else {
3036                                 char fmt[48];
3037
3038                                 sprintf(fmt, "%s%s%s\n",
3039                                         "\t%6u\t%14llu\t%#13llx\t",
3040                                         (fid_seq_is_rsvd(gr) ||
3041                                          fid_seq_is_mdt0(gr)) ?
3042                                          "%14llu" : "%#14llx", "%s");
3043                                 llapi_printf(LLAPI_MSG_NORMAL, fmt, idx, oid,
3044                                              oid, gr,
3045                                              obdindex == idx ? " *" : "");
3046                         }
3047                 }
3048         }
3049         llapi_printf(LLAPI_MSG_NORMAL, "\n");
3050 }
3051
3052 void lmv_dump_user_lmm(struct lmv_user_md *lum, char *pool_name,
3053                        char *path, int obdindex, int depth,
3054                        enum llapi_layout_verbose verbose,
3055                        enum lov_dump_flags flags)
3056 {
3057         struct lmv_user_mds_data *objects = lum->lum_objects;
3058         char *prefix = lum->lum_magic == LMV_USER_MAGIC ? "(Default)" : "";
3059         char *separator = "";
3060         bool yaml = flags & LDF_YAML;
3061         bool obdstripe = false;
3062         int i;
3063
3064         if (obdindex != OBD_NOT_FOUND) {
3065                 if (lum->lum_stripe_count == 0) {
3066                         if (obdindex == lum->lum_stripe_offset)
3067                                 obdstripe = true;
3068                 } else {
3069                         for (i = 0; i < lum->lum_stripe_count; i++) {
3070                                 if (obdindex == objects[i].lum_mds) {
3071                                         llapi_printf(LLAPI_MSG_NORMAL,
3072                                                      "%s%s\n", prefix,
3073                                                      path);
3074                                         obdstripe = true;
3075                                         break;
3076                                 }
3077                         }
3078                 }
3079         } else {
3080                 obdstripe = true;
3081         }
3082
3083         if (!obdstripe)
3084                 return;
3085
3086         /* show all information default */
3087         if (!verbose) {
3088                 if (lum->lum_magic == LMV_USER_MAGIC)
3089                         verbose = VERBOSE_POOL | VERBOSE_STRIPE_COUNT |
3090                                   VERBOSE_STRIPE_OFFSET | VERBOSE_HASH_TYPE;
3091                 else
3092                         verbose = VERBOSE_OBJID;
3093         }
3094
3095         if (depth && path && ((verbose != VERBOSE_OBJID)))
3096                 llapi_printf(LLAPI_MSG_NORMAL, "%s%s\n", prefix, path);
3097
3098         if (verbose & VERBOSE_STRIPE_COUNT) {
3099                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
3100                 if (verbose & ~VERBOSE_STRIPE_COUNT)
3101                         llapi_printf(LLAPI_MSG_NORMAL, "lmv_stripe_count: ");
3102                 llapi_printf(LLAPI_MSG_NORMAL, "%u",
3103                              (int)lum->lum_stripe_count);
3104                 if ((verbose & VERBOSE_STRIPE_OFFSET) && !yaml)
3105                         separator = " ";
3106                 else
3107                         separator = "\n";
3108         }
3109
3110         if (verbose & VERBOSE_STRIPE_OFFSET) {
3111                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
3112                 if (verbose & ~VERBOSE_STRIPE_OFFSET)
3113                         llapi_printf(LLAPI_MSG_NORMAL, "lmv_stripe_offset: ");
3114                 llapi_printf(LLAPI_MSG_NORMAL, "%d",
3115                              (int)lum->lum_stripe_offset);
3116                 if (verbose & VERBOSE_HASH_TYPE && !yaml)
3117                         separator = " ";
3118                 else
3119                         separator = "\n";
3120         }
3121
3122         if (verbose & VERBOSE_HASH_TYPE) {
3123                 unsigned int type = lum->lum_hash_type & LMV_HASH_TYPE_MASK;
3124                 unsigned int flags = lum->lum_hash_type & ~LMV_HASH_TYPE_MASK;
3125