lustre/utils/liblustreapi.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2003, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2011, 2016, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  * Lustre is a trademark of Sun Microsystems, Inc.
  31  *
  32  * lustre/utils/liblustreapi.c
  33  *
  34  * Author: Peter J. Braam <braam@clusterfs.com>
  35  * Author: Phil Schwan <phil@clusterfs.com>
  36  * Author: Robert Read <rread@clusterfs.com>
  37  */
  38
  39 /* for O_DIRECTORY */
  40 #ifndef _GNU_SOURCE
  41 #define _GNU_SOURCE
  42 #endif
  43
  44 #include <ctype.h>
  45 #include <mntent.h>
  46 #include <stdlib.h>
  47 #include <stdio.h>
  48 #include <string.h>
  49 #include <stddef.h>
  50 #include <sys/ioctl.h>
  51 #include <unistd.h>
  52 #include <fcntl.h>
  53 #include <errno.h>
  54 #include <dirent.h>
  55 #include <stdarg.h>
  56 #include <sys/stat.h>
  57 #include <sys/statfs.h>
  58 #include <sys/syscall.h>
  59 #include <sys/time.h>
  60 #include <sys/types.h>
  61 #include <sys/xattr.h>
  62 #include <time.h>
  63 #include <fnmatch.h>
  64 #include <libgen.h> /* for dirname() */
  65 #ifdef HAVE_LINUX_UNISTD_H
  66 #include <linux/unistd.h>
  67 #else
  68 #include <unistd.h>
  69 #endif
  70 #include <poll.h>
  71
  72 #include <libcfs/util/ioctl.h>
  73 #include <libcfs/util/param.h>
  74 #include <libcfs/util/string.h>
  75 #include <linux/lnet/lnetctl.h>
  76 #include <lustre/lustreapi.h>
  77 #include <linux/lustre/lustre_ostid.h>
  78 #include <linux/lustre/lustre_ioctl.h>
  79 #include "lustreapi_internal.h"
  80
  81 static int llapi_msg_level = LLAPI_MSG_MAX;
  82
  83 char *mdt_hash_name[] = { "none",
  84                           LMV_HASH_NAME_ALL_CHARS,
  85                           LMV_HASH_NAME_FNV_1A_64 };
  86
  87 void llapi_msg_set_level(int level)
  88 {
  89         /* ensure level is in the good range */
  90         if (level < LLAPI_MSG_OFF)
  91                 llapi_msg_level = LLAPI_MSG_OFF;
  92         else if (level > LLAPI_MSG_MAX)
  93                 llapi_msg_level = LLAPI_MSG_MAX;
  94         else
  95                 llapi_msg_level = level;
  96 }
  97
  98 int llapi_msg_get_level(void)
  99 {
 100         return llapi_msg_level;
 101 }
 102
 103 static void error_callback_default(enum llapi_message_level level, int err,
 104                                    const char *fmt, va_list ap)
 105 {
 106         vfprintf(stderr, fmt, ap);
 107         if (level & LLAPI_MSG_NO_ERRNO)
 108                 fprintf(stderr, "\n");
 109         else
 110                 fprintf(stderr, ": %s (%d)\n", strerror(err), err);
 111 }
 112
 113 static void info_callback_default(enum llapi_message_level level, int err,
 114                                   const char *fmt, va_list ap)
 115 {
 116         vfprintf(stdout, fmt, ap);
 117 }
 118
 119 static llapi_log_callback_t llapi_error_callback = error_callback_default;
 120 static llapi_log_callback_t llapi_info_callback = info_callback_default;
 121
 122
 123 /* llapi_error will preserve errno */
 124 void llapi_error(enum llapi_message_level level, int err, const char *fmt, ...)
 125 {
 126         va_list  args;
 127         int      tmp_errno = errno;
 128
 129         if ((level & LLAPI_MSG_MASK) > llapi_msg_level)
 130                 return;
 131
 132         va_start(args, fmt);
 133         llapi_error_callback(level, abs(err), fmt, args);
 134         va_end(args);
 135         errno = tmp_errno;
 136 }
 137
 138 /* llapi_printf will preserve errno */
 139 void llapi_printf(enum llapi_message_level level, const char *fmt, ...)
 140 {
 141         va_list  args;
 142         int      tmp_errno = errno;
 143
 144         if ((level & LLAPI_MSG_MASK) > llapi_msg_level)
 145                 return;
 146
 147         va_start(args, fmt);
 148         llapi_info_callback(level, 0, fmt, args);
 149         va_end(args);
 150         errno = tmp_errno;
 151 }
 152
 153 /**
 154  * Set a custom error logging function. Passing in NULL will reset the logging
 155  * callback to its default value.
 156  *
 157  * This function returns the value of the old callback.
 158  */
 159 llapi_log_callback_t llapi_error_callback_set(llapi_log_callback_t cb)
 160 {
 161         llapi_log_callback_t    old = llapi_error_callback;
 162
 163         if (cb != NULL)
 164                 llapi_error_callback = cb;
 165         else
 166                 llapi_error_callback = error_callback_default;
 167
 168         return old;
 169 }
 170
 171 /**
 172  * Set a custom info logging function. Passing in NULL will reset the logging
 173  * callback to its default value.
 174  *
 175  * This function returns the value of the old callback.
 176  */
 177 llapi_log_callback_t llapi_info_callback_set(llapi_log_callback_t cb)
 178 {
 179         llapi_log_callback_t    old = llapi_info_callback;
 180
 181         if (cb != NULL)
 182                 llapi_info_callback = cb;
 183         else
 184                 llapi_info_callback = info_callback_default;
 185
 186         return old;
 187 }
 188
 189 /**
 190  * size_units is to be initialized (or zeroed) by caller.
 191  */
 192 int llapi_parse_size(const char *optarg, unsigned long long *size,
 193                      unsigned long long *size_units, int bytes_spec)
 194 {
 195         char *end;
 196         char *argbuf = (char *)optarg;
 197         unsigned long long frac = 0, frac_d = 1;
 198
 199         if (strncmp(optarg, "-", 1) == 0)
 200                 return -1;
 201
 202         if (*size_units == 0)
 203                 *size_units = 1;
 204
 205         *size = strtoull(argbuf, &end, 0);
 206         if (end != NULL && *end == '.') {
 207                 int i;
 208
 209                 argbuf = end + 1;
 210                 frac = strtoull(argbuf, &end, 10);
 211                 /* count decimal places */
 212                 for (i = 0; i < (end - argbuf); i++)
 213                         frac_d *= 10;
 214         }
 215
 216         if (*end != '\0') {
 217                 if ((*end == 'b') && *(end + 1) == '\0' &&
 218                     (*size & (~0ULL << (64 - 9))) == 0 &&
 219                     !bytes_spec) {
 220                         *size_units = 1 << 9;
 221                 } else if ((*end == 'b') &&
 222                            *(end + 1) == '\0' &&
 223                            bytes_spec) {
 224                         *size_units = 1;
 225                 } else if ((*end == 'k' || *end == 'K') &&
 226                            *(end + 1) == '\0' &&
 227                            (*size & (~0ULL << (64 - 10))) == 0) {
 228                         *size_units = 1 << 10;
 229                 } else if ((*end == 'm' || *end == 'M') &&
 230                            *(end + 1) == '\0' &&
 231                            (*size & (~0ULL << (64 - 20))) == 0) {
 232                         *size_units = 1 << 20;
 233                 } else if ((*end == 'g' || *end == 'G') &&
 234                            *(end + 1) == '\0' &&
 235                            (*size & (~0ULL << (64 - 30))) == 0) {
 236                         *size_units = 1 << 30;
 237                 } else if ((*end == 't' || *end == 'T') &&
 238                            *(end + 1) == '\0' &&
 239                            (*size & (~0ULL << (64 - 40))) == 0) {
 240                         *size_units = 1ULL << 40;
 241                 } else if ((*end == 'p' || *end == 'P') &&
 242                            *(end + 1) == '\0' &&
 243                            (*size & (~0ULL << (64 - 50))) == 0) {
 244                         *size_units = 1ULL << 50;
 245                 } else if ((*end == 'e' || *end == 'E') &&
 246                            *(end + 1) == '\0' &&
 247                            (*size & (~0ULL << (64 - 60))) == 0) {
 248                         *size_units = 1ULL << 60;
 249                 } else {
 250                         return -1;
 251                 }
 252         }
 253         *size = *size * *size_units + frac * *size_units / frac_d;
 254
 255         return 0;
 256 }
 257
 258 int obd_ioctl_pack(struct obd_ioctl_data *data, char **pbuf, int max_len)
 259 {
 260         struct obd_ioctl_data *overlay;
 261         char *ptr;
 262
 263         data->ioc_len = obd_ioctl_packlen(data);
 264         data->ioc_version = OBD_IOCTL_VERSION;
 265
 266         if (*pbuf != NULL && data->ioc_len > max_len) {
 267                 fprintf(stderr, "pbuf = %p, ioc_len = %u, max_len = %d\n",
 268                         *pbuf, data->ioc_len, max_len);
 269                 return -EINVAL;
 270         }
 271
 272         if (*pbuf == NULL)
 273                 *pbuf = malloc(data->ioc_len);
 274
 275         if (*pbuf == NULL)
 276                 return -ENOMEM;
 277
 278         overlay = (struct obd_ioctl_data *)*pbuf;
 279         memcpy(*pbuf, data, sizeof(*data));
 280
 281         ptr = overlay->ioc_bulk;
 282         if (data->ioc_inlbuf1) {
 283                 memcpy(ptr, data->ioc_inlbuf1, data->ioc_inllen1);
 284                 ptr += cfs_size_round(data->ioc_inllen1);
 285         }
 286
 287         if (data->ioc_inlbuf2) {
 288                 memcpy(ptr, data->ioc_inlbuf2, data->ioc_inllen2);
 289                 ptr += cfs_size_round(data->ioc_inllen2);
 290         }
 291
 292         if (data->ioc_inlbuf3) {
 293                 memcpy(ptr, data->ioc_inlbuf3, data->ioc_inllen3);
 294                 ptr += cfs_size_round(data->ioc_inllen3);
 295         }
 296
 297         if (data->ioc_inlbuf4) {
 298                 memcpy(ptr, data->ioc_inlbuf4, data->ioc_inllen4);
 299                 ptr += cfs_size_round(data->ioc_inllen4);
 300         }
 301
 302         return 0;
 303 }
 304
 305 int obd_ioctl_unpack(struct obd_ioctl_data *data, char *pbuf, int max_len)
 306 {
 307         struct obd_ioctl_data *overlay;
 308         char *ptr;
 309
 310         if (pbuf == NULL)
 311                 return 1;
 312
 313         overlay = (struct obd_ioctl_data *)pbuf;
 314
 315         /* Preserve the caller's buffer pointers */
 316         overlay->ioc_inlbuf1 = data->ioc_inlbuf1;
 317         overlay->ioc_inlbuf2 = data->ioc_inlbuf2;
 318         overlay->ioc_inlbuf3 = data->ioc_inlbuf3;
 319         overlay->ioc_inlbuf4 = data->ioc_inlbuf4;
 320
 321         memcpy(data, pbuf, sizeof(*data));
 322
 323         ptr = overlay->ioc_bulk;
 324         if (data->ioc_inlbuf1) {
 325                 memcpy(data->ioc_inlbuf1, ptr, data->ioc_inllen1);
 326                 ptr += cfs_size_round(data->ioc_inllen1);
 327         }
 328
 329         if (data->ioc_inlbuf2) {
 330                 memcpy(data->ioc_inlbuf2, ptr, data->ioc_inllen2);
 331                 ptr += cfs_size_round(data->ioc_inllen2);
 332         }
 333
 334         if (data->ioc_inlbuf3) {
 335                 memcpy(data->ioc_inlbuf3, ptr, data->ioc_inllen3);
 336                 ptr += cfs_size_round(data->ioc_inllen3);
 337         }
 338
 339         if (data->ioc_inlbuf4) {
 340                 memcpy(data->ioc_inlbuf4, ptr, data->ioc_inllen4);
 341                 ptr += cfs_size_round(data->ioc_inllen4);
 342         }
 343
 344         return 0;
 345 }
 346
 347 /* XXX: llapi_xxx() functions return negative values upon failure */
 348
 349 int llapi_stripe_limit_check(unsigned long long stripe_size, int stripe_offset,
 350                                 int stripe_count, int stripe_pattern)
 351 {
 352         int page_size, rc;
 353
 354         /* 64 KB is the largest common page size I'm aware of (on ia64), but
 355          * check the local page size just in case. */
 356         page_size = LOV_MIN_STRIPE_SIZE;
 357         if (getpagesize() > page_size) {
 358                 page_size = getpagesize();
 359                 llapi_err_noerrno(LLAPI_MSG_WARN,
 360                                 "warning: your page size (%u) is "
 361                                 "larger than expected (%u)", page_size,
 362                                 LOV_MIN_STRIPE_SIZE);
 363         }
 364         if (!llapi_stripe_size_is_aligned(stripe_size)) {
 365                 rc = -EINVAL;
 366                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad stripe_size %llu, "
 367                                 "must be an even multiple of %d bytes",
 368                                 stripe_size, page_size);
 369                 return rc;
 370         }
 371         if (!llapi_stripe_index_is_valid(stripe_offset)) {
 372                 rc = -EINVAL;
 373                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad stripe offset %d",
 374                                 stripe_offset);
 375                 return rc;
 376         }
 377         if (!llapi_stripe_count_is_valid(stripe_count)) {
 378                 rc = -EINVAL;
 379                 llapi_error(LLAPI_MSG_ERROR, rc, "error: bad stripe count %d",
 380                                 stripe_count);
 381                 return rc;
 382         }
 383         if (llapi_stripe_size_is_too_big(stripe_size)) {
 384                 rc = -EINVAL;
 385                 llapi_error(LLAPI_MSG_ERROR, rc,
 386                                 "warning: stripe size 4G or larger "
 387                                 "is not currently supported and would wrap");
 388                 return rc;
 389         }
 390         return 0;
 391 }
 392
 393 /*
 394  * Trim a trailing newline from a string, if it exists.
 395  */
 396 int llapi_chomp_string(char *buf)
 397 {
 398         if (!buf || !*buf)
 399                 return 0;
 400
 401         while (buf[1])
 402                 buf++;
 403
 404         if (*buf != '\n')
 405                 return 0;
 406
 407         *buf = '\0';
 408         return '\n';
 409 }
 410
 411 /*
 412  * Wrapper to grab parameter settings for lov.*-clilov-*.* values
 413  */
 414 static int get_param_lov(const char *path, const char *param,
 415                          char *buf, size_t buf_size)
 416 {
 417         struct obd_uuid uuid;
 418         int rc;
 419
 420         rc = llapi_file_get_lov_uuid(path, &uuid);
 421         if (rc != 0)
 422                 return rc;
 423
 424         return get_lustre_param_value("lov", uuid.uuid, FILTER_BY_EXACT, param,
 425                                       buf, buf_size);
 426 }
 427
 428 /*
 429  * Wrapper to grab parameter settings for lmv.*-clilov-*.* values
 430  */
 431 static int get_param_lmv(const char *path, const char *param,
 432                          char *buf, size_t buf_size)
 433 {
 434         struct obd_uuid uuid;
 435         int rc;
 436
 437         rc = llapi_file_get_lmv_uuid(path, &uuid);
 438         if (rc != 0)
 439                 return rc;
 440
 441         return get_lustre_param_value("lmv", uuid.uuid, FILTER_BY_EXACT, param,
 442                                buf, buf_size);
 443 }
 444
 445 static int get_mds_md_size(const char *path)
 446 {
 447         char buf[PATH_MAX], inst[PATH_MAX];
 448         int md_size = lov_user_md_size(LOV_MAX_STRIPE_COUNT, LOV_USER_MAGIC_V3);
 449         int rc;
 450
 451         rc = llapi_getname(path, inst, sizeof(inst));
 452         if (rc != 0)
 453                 return md_size;
 454
 455         /* Get the max ea size from llite parameters. */
 456         rc = get_lustre_param_value("llite", inst, FILTER_BY_EXACT,
 457                                     "max_easize", buf, sizeof(buf));
 458         if (rc != 0)
 459                 return md_size;
 460
 461         rc = atoi(buf);
 462
 463         return rc > 0 ? rc : md_size;
 464 }
 465
 466 int llapi_get_agent_uuid(char *path, char *buf, size_t bufsize)
 467 {
 468         return get_param_lmv(path, "uuid", buf, bufsize);
 469 }
 470
 471 /*
 472  * if pool is NULL, search ostname in target_obd
 473  * if pool is not NULL:
 474  *  if pool not found returns errno < 0
 475  *  if ostname is NULL, returns 1 if pool is not empty and 0 if pool empty
 476  *  if ostname is not NULL, returns 1 if OST is in pool and 0 if not
 477  */
 478 int llapi_search_ost(char *fsname, char *poolname, char *ostname)
 479 {
 480         char buffer[PATH_MAX];
 481         size_t len = 0;
 482         glob_t param;
 483         FILE *fd;
 484         int rc;
 485
 486         /* You need one or the other */
 487         if (poolname == NULL && fsname == NULL)
 488                 return -EINVAL;
 489
 490         if (ostname != NULL)
 491                 len = strlen(ostname);
 492
 493         if (poolname == NULL && len == 0)
 494                 return -EINVAL;
 495
 496         /* Search by poolname and fsname if is not NULL */
 497         if (poolname != NULL) {
 498                 rc = poolpath(&param, fsname, NULL);
 499                 if (rc == 0) {
 500                         snprintf(buffer, sizeof(buffer), "%s/%s",
 501                                  param.gl_pathv[0], poolname);
 502                 }
 503         } else if (fsname != NULL) {
 504                 rc = get_lustre_param_path("lov", fsname,
 505                                            FILTER_BY_FS_NAME,
 506                                            "target_obd", &param);
 507                 if (rc == 0) {
 508                         strncpy(buffer, param.gl_pathv[0],
 509                                 sizeof(buffer));
 510                 }
 511         } else {
 512                 return -EINVAL;
 513         }
 514         cfs_free_param_data(&param);
 515         if (rc)
 516                 return rc;
 517
 518         fd = fopen(buffer, "r");
 519         if (fd == NULL)
 520                 return -errno;
 521
 522         while (fgets(buffer, sizeof(buffer), fd) != NULL) {
 523                 if (poolname == NULL) {
 524                         char *ptr;
 525                         /* Search for an ostname in the list of OSTs
 526                          Line format is IDX: fsname-OSTxxxx_UUID STATUS */
 527                         ptr = strchr(buffer, ' ');
 528                         if ((ptr != NULL) &&
 529                             (strncmp(ptr + 1, ostname, len) == 0)) {
 530                                 fclose(fd);
 531                                 return 1;
 532                         }
 533                 } else {
 534                         /* Search for an ostname in a pool,
 535                          (or an existing non-empty pool if no ostname) */
 536                         if ((ostname == NULL) ||
 537                             (strncmp(buffer, ostname, len) == 0)) {
 538                                 fclose(fd);
 539                                 return 1;
 540                         }
 541                 }
 542         }
 543         fclose(fd);
 544         return 0;
 545 }
 546
 547 /**
 548  * Open a Lustre file.
 549  *
 550  * \param name     the name of the file to be opened
 551  * \param flags    access mode, see flags in open(2)
 552  * \param mode     permission of the file if it is created, see mode in open(2)
 553  * \param param    stripe pattern of the newly created file
 554  *
 555  * \retval         file descriptor of opened file
 556  * \retval         negative errno on failure
 557  */
 558 int llapi_file_open_param(const char *name, int flags, mode_t mode,
 559                           const struct llapi_stripe_param *param)
 560 {
 561         char fsname[MAX_OBD_NAME + 1] = { 0 };
 562         char *pool_name = param->lsp_pool;
 563         struct lov_user_md *lum = NULL;
 564         size_t lum_size = sizeof(*lum);
 565         int fd, rc;
 566
 567         /* Make sure we are on a Lustre file system */
 568         rc = llapi_search_fsname(name, fsname);
 569         if (rc) {
 570                 llapi_error(LLAPI_MSG_ERROR, rc,
 571                             "'%s' is not on a Lustre filesystem",
 572                             name);
 573                 return rc;
 574         }
 575
 576         /* Check if the stripe pattern is sane. */
 577         rc = llapi_stripe_limit_check(param->lsp_stripe_size,
 578                                       param->lsp_stripe_offset,
 579                                       param->lsp_stripe_count,
 580                                       param->lsp_stripe_pattern);
 581         if (rc != 0)
 582                 return rc;
 583
 584         /* Make sure we have a good pool */
 585         if (pool_name != NULL) {
 586                 /* in case user gives the full pool name <fsname>.<poolname>,
 587                  * strip the fsname */
 588                 char *ptr = strchr(pool_name, '.');
 589                 if (ptr != NULL) {
 590                         *ptr = '\0';
 591                         if (strcmp(pool_name, fsname) != 0) {
 592                                 *ptr = '.';
 593                                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 594                                         "Pool '%s' is not on filesystem '%s'",
 595                                         pool_name, fsname);
 596                                 return -EINVAL;
 597                         }
 598                         pool_name = ptr + 1;
 599                 }
 600
 601                 /* Make sure the pool exists and is non-empty */
 602                 rc = llapi_search_ost(fsname, pool_name, NULL);
 603                 if (rc < 1) {
 604                         char *err = rc == 0 ? "has no OSTs" : "does not exist";
 605
 606                         llapi_err_noerrno(LLAPI_MSG_ERROR, "pool '%s.%s' %s",
 607                                           fsname, pool_name, err);
 608                         return -EINVAL;
 609                 }
 610
 611                 lum_size = sizeof(struct lov_user_md_v3);
 612         }
 613
 614         /* sanity check of target list */
 615         if (param->lsp_is_specific) {
 616                 char ostname[MAX_OBD_NAME + 1];
 617                 bool found = false;
 618                 int i;
 619
 620                 for (i = 0; i < param->lsp_stripe_count; i++) {
 621                         snprintf(ostname, sizeof(ostname), "%s-OST%04x_UUID",
 622                                  fsname, param->lsp_osts[i]);
 623                         rc = llapi_search_ost(fsname, pool_name, ostname);
 624                         if (rc <= 0) {
 625                                 if (rc == 0)
 626                                         rc = -ENODEV;
 627
 628                                 llapi_error(LLAPI_MSG_ERROR, rc,
 629                                             "%s: cannot find OST %s in %s",
 630                                             __func__, ostname,
 631                                             pool_name != NULL ?
 632                                             "pool" : "system");
 633                                 return rc;
 634                         }
 635
 636                         /* Make sure stripe offset is in OST list. */
 637                         if (param->lsp_osts[i] == param->lsp_stripe_offset)
 638                                 found = true;
 639                 }
 640                 if (!found) {
 641                         llapi_error(LLAPI_MSG_ERROR, -EINVAL,
 642                                     "%s: stripe offset '%d' is not in the "
 643                                     "target list",
 644                                     __func__, param->lsp_stripe_offset);
 645                         return -EINVAL;
 646                 }
 647
 648                 lum_size = lov_user_md_size(param->lsp_stripe_count,
 649                                             LOV_USER_MAGIC_SPECIFIC);
 650         }
 651
 652         lum = calloc(1, lum_size);
 653         if (lum == NULL)
 654                 return -ENOMEM;
 655
 656 retry_open:
 657         fd = open(name, flags | O_LOV_DELAY_CREATE, mode);
 658         if (fd < 0) {
 659                 if (errno == EISDIR && !(flags & O_DIRECTORY)) {
 660                         flags = O_DIRECTORY | O_RDONLY;
 661                         goto retry_open;
 662                 }
 663         }
 664
 665         if (fd < 0) {
 666                 rc = -errno;
 667                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'", name);
 668                 free(lum);
 669                 return rc;
 670         }
 671
 672         /*  Initialize IOCTL striping pattern structure */
 673         lum->lmm_magic = LOV_USER_MAGIC_V1;
 674         lum->lmm_pattern = param->lsp_stripe_pattern;
 675         lum->lmm_stripe_size = param->lsp_stripe_size;
 676         lum->lmm_stripe_count = param->lsp_stripe_count;
 677         lum->lmm_stripe_offset = param->lsp_stripe_offset;
 678         if (pool_name != NULL) {
 679                 struct lov_user_md_v3 *lumv3 = (void *)lum;
 680
 681                 lumv3->lmm_magic = LOV_USER_MAGIC_V3;
 682                 strncpy(lumv3->lmm_pool_name, pool_name, LOV_MAXPOOLNAME);
 683         }
 684         if (param->lsp_is_specific) {
 685                 struct lov_user_md_v3 *lumv3 = (void *)lum;
 686                 int i;
 687
 688                 lumv3->lmm_magic = LOV_USER_MAGIC_SPECIFIC;
 689                 if (pool_name == NULL) {
 690                         /* LOV_USER_MAGIC_SPECIFIC uses v3 format plus specified
 691                          * OST list, therefore if pool is not specified we have
 692                          * to pack a null pool name for placeholder. */
 693                         memset(lumv3->lmm_pool_name, 0, LOV_MAXPOOLNAME);
 694                 }
 695
 696                 for (i = 0; i < param->lsp_stripe_count; i++)
 697                         lumv3->lmm_objects[i].l_ost_idx = param->lsp_osts[i];
 698         }
 699
 700         if (ioctl(fd, LL_IOC_LOV_SETSTRIPE, lum) != 0) {
 701                 char *errmsg = "stripe already set";
 702
 703                 rc = -errno;
 704                 if (errno != EEXIST && errno != EALREADY)
 705                         errmsg = strerror(errno);
 706
 707                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 708                                   "error on ioctl %#jx for '%s' (%d): %s",
 709                                   (uintmax_t)LL_IOC_LOV_SETSTRIPE, name, fd,
 710                                   errmsg);
 711
 712                 close(fd);
 713                 fd = rc;
 714         }
 715
 716         free(lum);
 717
 718         return fd;
 719 }
 720
 721 int llapi_file_open_pool(const char *name, int flags, int mode,
 722                          unsigned long long stripe_size, int stripe_offset,
 723                          int stripe_count, int stripe_pattern, char *pool_name)
 724 {
 725         const struct llapi_stripe_param param = {
 726                 .lsp_stripe_size = stripe_size,
 727                 .lsp_stripe_count = stripe_count,
 728                 .lsp_stripe_pattern = stripe_pattern,
 729                 .lsp_stripe_offset = stripe_offset,
 730                 .lsp_pool = pool_name
 731         };
 732         return llapi_file_open_param(name, flags, mode, &param);
 733 }
 734
 735 int llapi_file_open(const char *name, int flags, int mode,
 736                     unsigned long long stripe_size, int stripe_offset,
 737                     int stripe_count, int stripe_pattern)
 738 {
 739         return llapi_file_open_pool(name, flags, mode, stripe_size,
 740                                     stripe_offset, stripe_count,
 741                                     stripe_pattern, NULL);
 742 }
 743
 744 int llapi_file_create(const char *name, unsigned long long stripe_size,
 745                       int stripe_offset, int stripe_count, int stripe_pattern)
 746 {
 747         int fd;
 748
 749         fd = llapi_file_open_pool(name, O_CREAT | O_WRONLY, 0644, stripe_size,
 750                                   stripe_offset, stripe_count, stripe_pattern,
 751                                   NULL);
 752         if (fd < 0)
 753                 return fd;
 754
 755         close(fd);
 756         return 0;
 757 }
 758
 759 int llapi_file_create_pool(const char *name, unsigned long long stripe_size,
 760                            int stripe_offset, int stripe_count,
 761                            int stripe_pattern, char *pool_name)
 762 {
 763         int fd;
 764
 765         fd = llapi_file_open_pool(name, O_CREAT | O_WRONLY, 0644, stripe_size,
 766                                   stripe_offset, stripe_count, stripe_pattern,
 767                                   pool_name);
 768         if (fd < 0)
 769                 return fd;
 770
 771         close(fd);
 772         return 0;
 773 }
 774
 775 int llapi_dir_set_default_lmv_stripe(const char *name, int stripe_offset,
 776                                      int stripe_count, int stripe_pattern,
 777                                      const char *pool_name)
 778 {
 779         struct lmv_user_md      lum = { 0 };
 780         int                     fd;
 781         int                     rc = 0;
 782
 783         lum.lum_magic = LMV_USER_MAGIC;
 784         lum.lum_stripe_offset = stripe_offset;
 785         lum.lum_stripe_count = stripe_count;
 786         lum.lum_hash_type = stripe_pattern;
 787         if (pool_name != NULL) {
 788                 if (strlen(pool_name) >= sizeof(lum.lum_pool_name)) {
 789                         llapi_err_noerrno(LLAPI_MSG_ERROR,
 790                                   "error LL_IOC_LMV_SET_DEFAULT_STRIPE '%s'"
 791                                   ": too large pool name: %s", name, pool_name);
 792                         return -E2BIG;
 793                 }
 794                 strncpy(lum.lum_pool_name, pool_name,
 795                         sizeof(lum.lum_pool_name));
 796         }
 797
 798         fd = open(name, O_DIRECTORY | O_RDONLY);
 799         if (fd < 0) {
 800                 rc = -errno;
 801                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'", name);
 802                 return rc;
 803         }
 804
 805         rc = ioctl(fd, LL_IOC_LMV_SET_DEFAULT_STRIPE, &lum);
 806         if (rc < 0) {
 807                 char *errmsg = "stripe already set";
 808                 rc = -errno;
 809                 if (errno != EEXIST && errno != EALREADY)
 810                         errmsg = strerror(errno);
 811
 812                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 813                                   "error on LL_IOC_LMV_SETSTRIPE '%s' (%d): %s",
 814                                   name, fd, errmsg);
 815         }
 816         close(fd);
 817         return rc;
 818 }
 819
 820 int llapi_dir_create_pool(const char *name, int mode, int stripe_offset,
 821                           int stripe_count, int stripe_pattern,
 822                           const char *pool_name)
 823 {
 824         struct lmv_user_md lmu = { 0 };
 825         struct obd_ioctl_data data = { 0 };
 826         char rawbuf[8192];
 827         char *buf = rawbuf;
 828         char *dirpath = NULL;
 829         char *namepath = NULL;
 830         char *dir;
 831         char *filename;
 832         int fd = -1;
 833         int rc;
 834
 835         dirpath = strdup(name);
 836         namepath = strdup(name);
 837         if (!dirpath || !namepath)
 838                 return -ENOMEM;
 839
 840         lmu.lum_magic = LMV_USER_MAGIC;
 841         lmu.lum_stripe_offset = stripe_offset;
 842         lmu.lum_stripe_count = stripe_count;
 843         lmu.lum_hash_type = stripe_pattern;
 844         if (pool_name != NULL) {
 845                 if (strlen(pool_name) > LOV_MAXPOOLNAME) {
 846                         llapi_err_noerrno(LLAPI_MSG_ERROR,
 847                                   "error LL_IOC_LMV_SETSTRIPE '%s' : too large"
 848                                   "pool name: %s", name, pool_name);
 849                         rc = -E2BIG;
 850                         goto out;
 851                 }
 852                 memcpy(lmu.lum_pool_name, pool_name, strlen(pool_name));
 853         }
 854
 855         filename = basename(namepath);
 856         dir = dirname(dirpath);
 857
 858         data.ioc_inlbuf1 = (char *)filename;
 859         data.ioc_inllen1 = strlen(filename) + 1;
 860         data.ioc_inlbuf2 = (char *)&lmu;
 861         data.ioc_inllen2 = sizeof(struct lmv_user_md);
 862         data.ioc_type = mode;
 863         rc = obd_ioctl_pack(&data, &buf, sizeof(rawbuf));
 864         if (rc) {
 865                 llapi_error(LLAPI_MSG_ERROR, rc,
 866                             "error: LL_IOC_LMV_SETSTRIPE pack failed '%s'.",
 867                             name);
 868                 goto out;
 869         }
 870
 871         fd = open(dir, O_DIRECTORY | O_RDONLY);
 872         if (fd < 0) {
 873                 rc = -errno;
 874                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'", name);
 875                 goto out;
 876         }
 877
 878         if (ioctl(fd, LL_IOC_LMV_SETSTRIPE, buf)) {
 879                 char *errmsg = "stripe already set";
 880                 rc = -errno;
 881                 if (errno != EEXIST && errno != EALREADY)
 882                         errmsg = strerror(errno);
 883
 884                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 885                                   "error on LL_IOC_LMV_SETSTRIPE '%s' (%d): %s",
 886                                   name, fd, errmsg);
 887         }
 888         close(fd);
 889 out:
 890         free(dirpath);
 891         free(namepath);
 892         return rc;
 893 }
 894
 895 int llapi_direntry_remove(char *dname)
 896 {
 897         char *dirpath = NULL;
 898         char *namepath = NULL;
 899         char *dir;
 900         char *filename;
 901         int fd = -1;
 902         int rc = 0;
 903
 904         dirpath = strdup(dname);
 905         namepath = strdup(dname);
 906         if (!dirpath || !namepath)
 907                 return -ENOMEM;
 908
 909         filename = basename(namepath);
 910
 911         dir = dirname(dirpath);
 912
 913         fd = open(dir, O_DIRECTORY | O_RDONLY);
 914         if (fd < 0) {
 915                 rc = -errno;
 916                 llapi_error(LLAPI_MSG_ERROR, rc, "unable to open '%s'",
 917                             filename);
 918                 goto out;
 919         }
 920
 921         if (ioctl(fd, LL_IOC_REMOVE_ENTRY, filename)) {
 922                 char *errmsg = strerror(errno);
 923                 llapi_err_noerrno(LLAPI_MSG_ERROR,
 924                                   "error on ioctl %#jx for '%s' (%d): %s",
 925                                   (uintmax_t)LL_IOC_LMV_SETSTRIPE, filename,
 926                                   fd, errmsg);
 927         }
 928 out:
 929         free(dirpath);
 930         free(namepath);
 931         if (fd != -1)
 932                 close(fd);
 933         return rc;
 934 }
 935
 936 /*
 937  * Find the fsname, the full path, and/or an open fd.
 938  * Either the fsname or path must not be NULL
 939  */
 940 int get_root_path(int want, char *fsname, int *outfd, char *path, int index)
 941 {
 942         struct mntent mnt;
 943         char buf[PATH_MAX], mntdir[PATH_MAX];
 944         char *ptr, *ptr_end;
 945         FILE *fp;
 946         int idx = 0, len = 0, mntlen, fd;
 947         int rc = -ENODEV;
 948
 949         /* get the mount point */
 950         fp = setmntent(PROC_MOUNTS, "r");
 951         if (fp == NULL) {
 952                 rc = -EIO;
 953                 llapi_error(LLAPI_MSG_ERROR, rc,
 954                             "setmntent(%s) failed", PROC_MOUNTS);
 955                 return rc;
 956         }
 957         while (1) {
 958                 if (getmntent_r(fp, &mnt, buf, sizeof(buf)) == NULL)
 959                         break;
 960
 961                 if (!llapi_is_lustre_mnt(&mnt))
 962                         continue;
 963
 964                 if ((want & WANT_INDEX) && (idx++ != index))
 965                         continue;
 966
 967                 mntlen = strlen(mnt.mnt_dir);
 968                 ptr = strchr(mnt.mnt_fsname, '/');
 969                 while (ptr && *ptr == '/')
 970                         ptr++;
 971                 /* thanks to the call to llapi_is_lustre_mnt() above,
 972                  * we are sure that mnt.mnt_fsname contains ":/",
 973                  * so ptr should never be NULL */
 974                 if (ptr == NULL)
 975                         continue;
 976                 ptr_end = ptr;
 977                 while (*ptr_end != '/' && *ptr_end != '\0')
 978                         ptr_end++;
 979
 980                 /* Check the fsname for a match, if given */
 981                 if (!(want & WANT_FSNAME) && fsname != NULL &&
 982                     (strlen(fsname) > 0) &&
 983                     (strncmp(ptr, fsname, ptr_end - ptr) != 0))
 984                         continue;
 985
 986                 /* If the path isn't set return the first one we find */
 987                 if (path == NULL || strlen(path) == 0) {
 988                         strncpy(mntdir, mnt.mnt_dir, strlen(mnt.mnt_dir));
 989                         mntdir[strlen(mnt.mnt_dir)] = '\0';
 990                         if ((want & WANT_FSNAME) && fsname != NULL) {
 991                                 strncpy(fsname, ptr, ptr_end - ptr);
 992                                 fsname[ptr_end - ptr] = '\0';
 993                         }
 994                         rc = 0;
 995                         break;
 996                 /* Otherwise find the longest matching path */
 997                 } else if ((strlen(path) >= mntlen) && (mntlen >= len) &&
 998                            (strncmp(mnt.mnt_dir, path, mntlen) == 0)) {
 999                         strncpy(mntdir, mnt.mnt_dir, strlen(mnt.mnt_dir));
1000                         mntdir[strlen(mnt.mnt_dir)] = '\0';
1001                         len = mntlen;
1002                         if ((want & WANT_FSNAME) && fsname != NULL) {
1003                                 strncpy(fsname, ptr, ptr_end - ptr);
1004                                 fsname[ptr_end - ptr] = '\0';
1005                         }
1006                         rc = 0;
1007                 }
1008         }
1009         endmntent(fp);
1010
1011         /* Found it */
1012         if (rc == 0) {
1013                 if ((want & WANT_PATH) && path != NULL) {
1014                         strncpy(path, mntdir, strlen(mntdir));
1015                         path[strlen(mntdir)] = '\0';
1016                 }
1017                 if (want & WANT_FD) {
1018                         fd = open(mntdir, O_RDONLY | O_DIRECTORY | O_NONBLOCK);
1019                         if (fd < 0) {
1020                                 rc = -errno;
1021                                 llapi_error(LLAPI_MSG_ERROR, rc,
1022                                             "error opening '%s'", mntdir);
1023
1024                         } else {
1025                                 *outfd = fd;
1026                         }
1027                 }
1028         } else if (want & WANT_ERROR)
1029                 llapi_err_noerrno(LLAPI_MSG_ERROR,
1030                                   "can't find fs root for '%s': %d",
1031                                   (want & WANT_PATH) ? fsname : path, rc);
1032         return rc;
1033 }
1034
1035 /*
1036  * search lustre mounts
1037  *
1038  * Calling this function will return to the user the mount point, mntdir, and
1039  * the file system name, fsname, if the user passed a buffer to this routine.
1040  *
1041  * The user inputs are pathname and index. If the pathname is supplied then
1042  * the value of the index will be ignored. The pathname will return data if
1043  * the pathname is located on a lustre mount. Index is used to pick which
1044  * mount point you want in the case of multiple mounted lustre file systems.
1045  * See function lfs_osts in lfs.c for an example of the index use.
1046  */
1047 int llapi_search_mounts(const char *pathname, int index, char *mntdir,
1048                         char *fsname)
1049 {
1050         int want = WANT_PATH, idx = -1;
1051
1052         if (!pathname || pathname[0] == '\0') {
1053                 want |= WANT_INDEX;
1054                 idx = index;
1055         } else
1056                 strcpy(mntdir, pathname);
1057
1058         if (fsname)
1059                 want |= WANT_FSNAME;
1060         return get_root_path(want, fsname, NULL, mntdir, idx);
1061 }
1062
1063 /* Given a path, find the corresponding Lustre fsname */
1064 int llapi_search_fsname(const char *pathname, char *fsname)
1065 {
1066         char *path;
1067         int rc;
1068
1069         path = realpath(pathname, NULL);
1070         if (path == NULL) {
1071                 char buf[PATH_MAX], *ptr;
1072
1073                 buf[0] = '\0';
1074                 if (pathname[0] != '/') {
1075                         /* Need an absolute path, but realpath() only works for
1076                          * pathnames that actually exist.  We go through the
1077                          * extra hurdle of dirname(getcwd() + pathname) in
1078                          * case the relative pathname contains ".." in it. */
1079                         if (getcwd(buf, sizeof(buf) - 2) == NULL)
1080                                 return -errno;
1081                         rc = strlcat(buf, "/", sizeof(buf));
1082                         if (rc >= sizeof(buf))
1083                                 return -E2BIG;
1084                 }
1085                 rc = strlcat(buf, pathname, sizeof(buf));
1086                 if (rc >= sizeof(buf))
1087                         return -E2BIG;
1088                 path = realpath(buf, NULL);
1089                 if (path == NULL) {
1090                         ptr = strrchr(buf, '/');
1091                         if (ptr == NULL)
1092                                 return -ENOENT;
1093                         *ptr = '\0';
1094                         path = realpath(buf, NULL);
1095                         if (path == NULL) {
1096                                 rc = -errno;
1097                                 llapi_error(LLAPI_MSG_ERROR, rc,
1098                                             "pathname '%s' cannot expand",
1099                                             pathname);
1100                                 return rc;
1101                         }
1102                 }
1103         }
1104         rc = get_root_path(WANT_FSNAME | WANT_ERROR, fsname, NULL, path, -1);
1105         free(path);
1106         return rc;
1107 }
1108
1109 int llapi_search_rootpath(char *pathname, const char *fsname)
1110 {
1111         return get_root_path(WANT_PATH, (char *)fsname, NULL, pathname, -1);
1112 }
1113
1114 int llapi_getname(const char *path, char *buf, size_t size)
1115 {
1116         struct obd_uuid uuid_buf;
1117         char *uuid = uuid_buf.uuid;
1118         int rc, nr;
1119
1120         memset(&uuid_buf, 0, sizeof(uuid_buf));
1121         rc = llapi_file_get_lov_uuid(path, &uuid_buf);
1122         if (rc)
1123                 return rc;
1124
1125         /* We want to turn lustre-clilov-ffff88002738bc00 into
1126          * lustre-ffff88002738bc00. */
1127
1128         nr = snprintf(buf, size, "%.*s-%s",
1129                       (int) (strlen(uuid) - 24), uuid,
1130                       uuid + strlen(uuid) - 16);
1131
1132         if (nr >= size)
1133                 rc = -ENAMETOOLONG;
1134
1135         return rc;
1136 }
1137
1138 /**
1139  * Get the list of pool members.
1140  * \param poolname    string of format \<fsname\>.\<poolname\>
1141  * \param members     caller-allocated array of char*
1142  * \param list_size   size of the members array
1143  * \param buffer      caller-allocated buffer for storing OST names
1144  * \param buffer_size size of the buffer
1145  *
1146  * \return number of members retrieved for this pool
1147  * \retval -error failure
1148  */
1149 int llapi_get_poolmembers(const char *poolname, char **members,
1150                           int list_size, char *buffer, int buffer_size)
1151 {
1152         char fsname[PATH_MAX];
1153         char *pool, *tmp;
1154         glob_t pathname;
1155         char buf[PATH_MAX];
1156         FILE *fd;
1157         int rc = 0;
1158         int nb_entries = 0;
1159         int used = 0;
1160
1161         /* name is FSNAME.POOLNAME */
1162         if (strlen(poolname) >= sizeof(fsname))
1163                 return -EOVERFLOW;
1164         strlcpy(fsname, poolname, sizeof(fsname));
1165         pool = strchr(fsname, '.');
1166         if (pool == NULL)
1167                 return -EINVAL;
1168
1169         *pool = '\0';
1170         pool++;
1171
1172         rc = poolpath(&pathname, fsname, NULL);
1173         if (rc != 0) {
1174                 llapi_error(LLAPI_MSG_ERROR, rc,
1175                             "Lustre filesystem '%s' not found",
1176                             fsname);
1177                 return rc;
1178         }
1179
1180         llapi_printf(LLAPI_MSG_NORMAL, "Pool: %s.%s\n", fsname, pool);
1181         rc = snprintf(buf, sizeof(buf), "%s/%s", pathname.gl_pathv[0], pool);
1182         cfs_free_param_data(&pathname);
1183         if (rc >= sizeof(buf))
1184                 return -EOVERFLOW;
1185         fd = fopen(buf, "r");
1186         if (fd == NULL) {
1187                 rc = -errno;
1188                 llapi_error(LLAPI_MSG_ERROR, rc, "cannot open %s", buf);
1189                 return rc;
1190         }
1191
1192         rc = 0;
1193         while (fgets(buf, sizeof(buf), fd) != NULL) {
1194                 if (nb_entries >= list_size) {
1195                         rc = -EOVERFLOW;
1196                         break;
1197                 }
1198                 buf[sizeof(buf) - 1] = '\0';
1199                 /* remove '\n' */
1200                 tmp = strchr(buf, '\n');
1201                 if (tmp != NULL)
1202                         *tmp='\0';
1203                 if (used + strlen(buf) + 1 > buffer_size) {
1204                         rc = -EOVERFLOW;
1205                         break;
1206                 }
1207
1208                 strcpy(buffer + used, buf);
1209                 members[nb_entries] = buffer + used;
1210                 used += strlen(buf) + 1;
1211                 nb_entries++;
1212                 rc = nb_entries;
1213         }
1214
1215         fclose(fd);
1216         return rc;
1217 }
1218
1219 /**
1220  * Get the list of pools in a filesystem.
1221  * \param name        filesystem name or path
1222  * \param poollist    caller-allocated array of char*
1223  * \param list_size   size of the poollist array
1224  * \param buffer      caller-allocated buffer for storing pool names
1225  * \param buffer_size size of the buffer
1226  *
1227  * \return number of pools retrieved for this filesystem
1228  * \retval -error failure
1229  */
1230 int llapi_get_poollist(const char *name, char **poollist, int list_size,
1231                        char *buffer, int buffer_size)
1232 {
1233         char rname[PATH_MAX];
1234         glob_t pathname;
1235         char *fsname;
1236         char *ptr;
1237         DIR *dir;
1238         struct dirent *pool;
1239         int rc = 0;
1240         unsigned int nb_entries = 0;
1241         unsigned int used = 0;
1242         unsigned int i;
1243
1244         /* initialize output array */
1245         for (i = 0; i < list_size; i++)
1246                 poollist[i] = NULL;
1247
1248         /* is name a pathname ? */
1249         ptr = strchr(name, '/');
1250         if (ptr != NULL) {
1251                 /* only absolute pathname is supported */
1252                 if (*name != '/')
1253                         return -EINVAL;
1254
1255                 if (!realpath(name, rname)) {
1256                         rc = -errno;
1257                         llapi_error(LLAPI_MSG_ERROR, rc, "invalid path '%s'",
1258                                     name);
1259                         return rc;
1260                 }
1261
1262                 fsname = strdup(rname);
1263                 if (!fsname)
1264                         return -ENOMEM;
1265
1266                 rc = poolpath(&pathname, NULL, rname);
1267         } else {
1268                 /* name is FSNAME */
1269                 fsname = strdup(name);
1270                 if (!fsname)
1271                         return -ENOMEM;
1272                 rc = poolpath(&pathname, fsname, NULL);
1273         }
1274         if (rc != 0) {
1275                 llapi_error(LLAPI_MSG_ERROR, rc,
1276                             "Lustre filesystem '%s' not found", name);
1277                 goto free_path;
1278         }
1279
1280         llapi_printf(LLAPI_MSG_NORMAL, "Pools from %s:\n", fsname);
1281         dir = opendir(pathname.gl_pathv[0]);
1282         if (dir == NULL) {
1283                 rc = -errno;
1284                 llapi_error(LLAPI_MSG_ERROR, rc,
1285                             "Could not open pool list for '%s'",
1286                             name);
1287                 goto free_path;
1288         }
1289
1290         do {
1291                 errno = 0;
1292                 pool = readdir(dir);
1293                 if (pool == NULL) {
1294                         rc = -errno;
1295                         goto free_dir;
1296                 }
1297
1298                 /* ignore . and .. */
1299                 if (!strcmp(pool->d_name, ".") || !strcmp(pool->d_name, ".."))
1300                         continue;
1301
1302                 /* check output bounds */
1303                 if (nb_entries >= list_size) {
1304                         rc = -EOVERFLOW;
1305                         goto free_dir;
1306                 }
1307
1308                 /* +2 for '.' and final '\0' */
1309                 if (used + strlen(pool->d_name) + strlen(fsname) + 2
1310                     > buffer_size) {
1311                         rc = -EOVERFLOW;
1312                         goto free_dir;
1313                 }
1314
1315                 sprintf(buffer + used, "%s.%s", fsname, pool->d_name);
1316                 poollist[nb_entries] = buffer + used;
1317                 used += strlen(pool->d_name) + strlen(fsname) + 2;
1318                 nb_entries++;
1319         } while (1);
1320
1321 free_dir:
1322         if (rc)
1323                 llapi_error(LLAPI_MSG_ERROR, rc,
1324                             "Error reading pool list for '%s'", name);
1325         closedir(dir);
1326 free_path:
1327         cfs_free_param_data(&pathname);
1328         if (fsname)
1329                 free(fsname);
1330         return rc != 0 ? rc : nb_entries;
1331 }
1332
1333 /* wrapper for lfs.c and obd.c */
1334 int llapi_poollist(const char *name)
1335 {
1336         /* list of pool names (assume that pool count is smaller
1337            than OST count) */
1338         char **list, *buffer = NULL, *fsname = (char *)name;
1339         char *poolname = NULL, *tmp = NULL, data[16];
1340         enum param_filter type = FILTER_BY_PATH;
1341         int obdcount, bufsize, rc, nb, i;
1342
1343         if (name == NULL)
1344                 return -EINVAL;
1345
1346         if (name[0] != '/') {
1347                 fsname = strdup(name);
1348                 if (fsname == NULL)
1349                         return -ENOMEM;
1350
1351                 poolname = strchr(fsname, '.');
1352                 if (poolname)
1353                         *poolname = '\0';
1354                 type = FILTER_BY_FS_NAME;
1355         }
1356
1357         rc = get_lustre_param_value("lov", fsname, type, "numobd",
1358                                     data, sizeof(data));
1359         if (rc < 0)
1360                 goto err;
1361         obdcount = atoi(data);
1362
1363         /* Allocate space for each fsname-OST0000_UUID, 1 per OST,
1364          * and also an array to store the pointers for all that
1365          * allocated space. */
1366 retry_get_pools:
1367         bufsize = sizeof(struct obd_uuid) * obdcount;
1368         buffer = realloc(tmp, bufsize + sizeof(*list) * obdcount);
1369         if (buffer == NULL) {
1370                 rc = -ENOMEM;
1371                 goto err;
1372         }
1373         list = (char **) (buffer + bufsize);
1374
1375         if (!poolname) {
1376                 /* name is a path or fsname */
1377                 nb = llapi_get_poollist(name, list, obdcount,
1378                                         buffer, bufsize);
1379         } else {
1380                 /* name is a pool name (<fsname>.<poolname>) */
1381                 nb = llapi_get_poolmembers(name, list, obdcount,
1382                                            buffer, bufsize);
1383         }
1384
1385         if (nb == -EOVERFLOW) {
1386                 obdcount *= 2;
1387                 tmp = buffer;
1388                 goto retry_get_pools;
1389         }
1390
1391         for (i = 0; i < nb; i++)
1392                 llapi_printf(LLAPI_MSG_NORMAL, "%s\n", list[i]);
1393         rc = (nb < 0 ? nb : 0);
1394 err:
1395         if (buffer)
1396                 free(buffer);
1397         if (fsname != NULL && type == FILTER_BY_FS_NAME)
1398                 free(fsname);
1399         return rc;
1400 }
1401
1402 typedef int (semantic_func_t)(char *path, DIR *parent, DIR **d,
1403                               void *data, struct dirent64 *de);
1404
1405 #define OBD_NOT_FOUND           (-1)
1406
1407 static int common_param_init(struct find_param *param, char *path)
1408 {
1409         int lum_size = get_mds_md_size(path);
1410
1411         if (lum_size < PATH_MAX + 1)
1412                 lum_size = PATH_MAX + 1;
1413
1414         param->fp_lum_size = lum_size;
1415         param->fp_lmd = calloc(1, sizeof(lstat_t) + param->fp_lum_size);
1416         if (param->fp_lmd == NULL) {
1417                 llapi_error(LLAPI_MSG_ERROR, -ENOMEM,
1418                             "error: allocation of %zu bytes for ioctl",
1419                             sizeof(lstat_t) + param->fp_lum_size);
1420                 return -ENOMEM;
1421         }
1422
1423         param->fp_lmv_stripe_count = 256;
1424         param->fp_lmv_md = calloc(1,
1425                                   lmv_user_md_size(param->fp_lmv_stripe_count,
1426                                                    LMV_MAGIC_V1));
1427         if (param->fp_lmv_md == NULL) {
1428                 llapi_error(LLAPI_MSG_ERROR, -ENOMEM,
1429                             "error: allocation of %d bytes for ioctl",
1430                             lmv_user_md_size(param->fp_lmv_stripe_count,
1431                                              LMV_MAGIC_V1));
1432                 return -ENOMEM;
1433         }
1434
1435         param->fp_got_uuids = 0;
1436         param->fp_obd_indexes = NULL;
1437         param->fp_obd_index = OBD_NOT_FOUND;
1438         if (!param->fp_migrate)
1439                 param->fp_mdt_index = OBD_NOT_FOUND;
1440         return 0;
1441 }
1442
1443 static void find_param_fini(struct find_param *param)
1444 {
1445         if (param->fp_obd_indexes)
1446                 free(param->fp_obd_indexes);
1447
1448         if (param->fp_lmd)
1449                 free(param->fp_lmd);
1450
1451         if (param->fp_lmv_md)
1452                 free(param->fp_lmv_md);
1453 }
1454
1455 static int cb_common_fini(char *path, DIR *parent, DIR **dirp, void *data,
1456                           struct dirent64 *de)
1457 {
1458         struct find_param *param = data;
1459         param->fp_depth--;
1460
1461         return 0;
1462 }
1463
1464 /* set errno upon failure */
1465 static DIR *opendir_parent(const char *path)
1466 {
1467         char *path_copy;
1468         char *parent_path;
1469         DIR *parent;
1470
1471         path_copy = strdup(path);
1472         if (path_copy == NULL)
1473                 return NULL;
1474
1475         parent_path = dirname(path_copy);
1476         parent = opendir(parent_path);
1477         free(path_copy);
1478
1479         return parent;
1480 }
1481
1482 static int cb_get_dirstripe(char *path, DIR *d, struct find_param *param)
1483 {
1484         int ret;
1485
1486 again:
1487         param->fp_lmv_md->lum_stripe_count = param->fp_lmv_stripe_count;
1488         if (param->fp_get_default_lmv)
1489                 param->fp_lmv_md->lum_magic = LMV_USER_MAGIC;
1490         else
1491                 param->fp_lmv_md->lum_magic = LMV_MAGIC_V1;
1492
1493         ret = ioctl(dirfd(d), LL_IOC_LMV_GETSTRIPE, param->fp_lmv_md);
1494         if (errno == E2BIG && ret != 0) {
1495                 int stripe_count;
1496                 int lmv_size;
1497
1498                 stripe_count = (__u32)param->fp_lmv_md->lum_stripe_count;
1499                 if (stripe_count <= param->fp_lmv_stripe_count)
1500                         return ret;
1501
1502                 free(param->fp_lmv_md);
1503                 param->fp_lmv_stripe_count = stripe_count;
1504                 lmv_size = lmv_user_md_size(stripe_count, LMV_MAGIC_V1);
1505                 param->fp_lmv_md = malloc(lmv_size);
1506                 if (param->fp_lmv_md == NULL) {
1507                         llapi_error(LLAPI_MSG_ERROR, -ENOMEM,
1508                                     "error: allocation of %d bytes for ioctl",
1509                                     lmv_user_md_size(param->fp_lmv_stripe_count,
1510                                                      LMV_MAGIC_V1));
1511                         return -ENOMEM;
1512                 }
1513                 goto again;
1514         }
1515         return ret;
1516 }
1517
1518 static int get_lmd_info(char *path, DIR *parent, DIR *dir,
1519                  struct lov_user_mds_data *lmd, int lumlen)
1520 {
1521         lstat_t *st = &lmd->lmd_st;
1522         int ret = 0;
1523
1524         if (parent == NULL && dir == NULL)
1525                 return -EINVAL;
1526
1527         if (dir) {
1528                 ret = ioctl(dirfd(dir), LL_IOC_MDC_GETINFO, (void *)lmd);
1529         } else if (parent) {
1530                 char *fname = strrchr(path, '/');
1531
1532                 /* To avoid opening, locking, and closing each file on the
1533                  * client if that is not needed. The GETFILEINFO ioctl can
1534                  * be done on the patent dir with a single open for all
1535                  * files in that directory, and it also doesn't pollute the
1536                  * client dcache with millions of dentries when traversing
1537                  * a large filesystem.  */
1538                 fname = (fname == NULL ? path : fname + 1);
1539                 /* retrieve needed file info */
1540                 strlcpy((char *)lmd, fname, lumlen);
1541                 ret = ioctl(dirfd(parent), IOC_MDC_GETFILEINFO, (void *)lmd);
1542         }
1543
1544         if (ret) {
1545                 if (errno == ENOTTY) {
1546                         /* ioctl is not supported, it is not a lustre fs.
1547                          * Do the regular lstat(2) instead. */
1548                         ret = lstat_f(path, st);
1549                         if (ret) {
1550                                 ret = -errno;
1551                                 llapi_error(LLAPI_MSG_ERROR, ret,
1552                                             "error: %s: lstat failed for %s",
1553                                             __func__, path);
1554                         }
1555                 } else if (errno == ENOENT) {
1556                         ret = -errno;
1557                         llapi_error(LLAPI_MSG_WARN, ret,
1558                                     "warning: %s: %s does not exist",
1559                                     __func__, path);
1560                 } else if (errno != EISDIR) {
1561                         ret = -errno;
1562                         llapi_error(LLAPI_MSG_ERROR, ret,
1563                                     "%s ioctl failed for %s.",
1564                                     dir ? "LL_IOC_MDC_GETINFO" :
1565                                     "IOC_MDC_GETFILEINFO", path);
1566                 } else {
1567                         ret = -errno;
1568                         llapi_error(LLAPI_MSG_ERROR, ret,
1569                                  "error: %s: IOC_MDC_GETFILEINFO failed for %s",
1570                                    __func__, path);
1571                 }
1572         }
1573         return ret;
1574 }
1575
1576 static int llapi_semantic_traverse(char *path, int size, DIR *parent,
1577                                    semantic_func_t sem_init,
1578                                    semantic_func_t sem_fini, void *data,
1579                                    struct dirent64 *de)
1580 {
1581         struct find_param *param = (struct find_param *)data;
1582         struct dirent64 *dent;
1583         int len, ret;
1584         DIR *d, *p = NULL;
1585
1586         ret = 0;
1587         len = strlen(path);
1588
1589         d = opendir(path);
1590         if (!d && errno != ENOTDIR) {
1591                 ret = -errno;
1592                 llapi_error(LLAPI_MSG_ERROR, ret, "%s: Failed to open '%s'",
1593                             __func__, path);
1594                 return ret;
1595         } else if (!d && !parent) {
1596                 /* ENOTDIR. Open the parent dir. */
1597                 p = opendir_parent(path);
1598                 if (!p) {
1599                         ret = -errno;
1600                         goto out;
1601                 }
1602         }
1603
1604         if (sem_init && (ret = sem_init(path, parent ?: p, &d, data, de)))
1605                 goto err;
1606
1607         if (d == NULL)
1608                 goto out;
1609
1610         while ((dent = readdir64(d)) != NULL) {
1611                 int rc;
1612
1613                 if (!strcmp(dent->d_name, ".") || !strcmp(dent->d_name, ".."))
1614                         continue;
1615
1616                 /* Don't traverse .lustre directory */
1617                 if (!(strcmp(dent->d_name, dot_lustre_name)))
1618                         continue;
1619
1620                 path[len] = 0;
1621                 if ((len + dent->d_reclen + 2) > size) {
1622                         llapi_err_noerrno(LLAPI_MSG_ERROR,
1623                                           "error: %s: string buffer is too small",
1624                                           __func__);
1625                         break;
1626                 }
1627                 strcat(path, "/");
1628                 strcat(path, dent->d_name);
1629
1630                 if (dent->d_type == DT_UNKNOWN) {
1631                         lstat_t *st = &param->fp_lmd->lmd_st;
1632
1633                         rc = get_lmd_info(path, d, NULL, param->fp_lmd,
1634                                            param->fp_lum_size);
1635                         if (rc == 0)
1636                                 dent->d_type = IFTODT(st->st_mode);
1637                         else if (ret == 0)
1638                                 ret = rc;
1639
1640                         if (rc == -ENOENT)
1641                                 continue;
1642                 }
1643                 switch (dent->d_type) {
1644                 case DT_UNKNOWN:
1645                         llapi_err_noerrno(LLAPI_MSG_ERROR,
1646                                           "error: %s: '%s' is UNKNOWN type %d",
1647                                           __func__, dent->d_name, dent->d_type);
1648                         break;
1649                 case DT_DIR:
1650                         rc = llapi_semantic_traverse(path, size, d, sem_init,
1651                                                       sem_fini, data, dent);
1652                         if (rc != 0 && ret == 0)
1653                                 ret = rc;
1654                         break;
1655                 default:
1656                         rc = 0;
1657                         if (sem_init) {
1658                                 rc = sem_init(path, d, NULL, data, dent);
1659                                 if (rc < 0 && ret == 0)
1660                                         ret = rc;
1661                         }
1662                         if (sem_fini && rc == 0)
1663                                 sem_fini(path, d, NULL, data, dent);
1664                 }
1665         }
1666
1667 out:
1668         path[len] = 0;
1669
1670         if (sem_fini)
1671                 sem_fini(path, parent, &d, data, de);
1672 err:
1673         if (d)
1674                 closedir(d);
1675         if (p)
1676                 closedir(p);
1677         return ret;
1678 }
1679
1680 static int param_callback(char *path, semantic_func_t sem_init,
1681                           semantic_func_t sem_fini, struct find_param *param)
1682 {
1683         int ret, len = strlen(path);
1684         char *buf;
1685
1686         if (len > PATH_MAX) {
1687                 ret = -EINVAL;
1688                 llapi_error(LLAPI_MSG_ERROR, ret,
1689                             "Path name '%s' is too long", path);
1690                 return ret;
1691         }
1692
1693         buf = (char *)malloc(PATH_MAX + 1);
1694         if (!buf)
1695                 return -ENOMEM;
1696
1697         strlcpy(buf, path, PATH_MAX + 1);
1698         ret = common_param_init(param, buf);
1699         if (ret)
1700                 goto out;
1701
1702         param->fp_depth = 0;
1703
1704         ret = llapi_semantic_traverse(buf, PATH_MAX + 1, NULL, sem_init,
1705                                       sem_fini, param, NULL);
1706 out:
1707         find_param_fini(param);
1708         free(buf);
1709         return ret < 0 ? ret : 0;
1710 }
1711
1712 int llapi_file_fget_lov_uuid(int fd, struct obd_uuid *lov_name)
1713 {
1714         int rc = ioctl(fd, OBD_IOC_GETNAME, lov_name);
1715         if (rc) {
1716                 rc = -errno;
1717                 llapi_error(LLAPI_MSG_ERROR, rc, "error: can't get lov name.");
1718         }
1719         return rc;
1720 }
1721
1722 int llapi_file_fget_lmv_uuid(int fd, struct obd_uuid *lov_name)
1723 {
1724         int rc = ioctl(fd, OBD_IOC_GETMDNAME, lov_name);
1725         if (rc) {
1726                 rc = -errno;
1727                 llapi_error(LLAPI_MSG_ERROR, rc, "error: can't get lmv name.");
1728         }
1729         return rc;
1730 }
1731
1732 int llapi_file_get_lov_uuid(const char *path, struct obd_uuid *lov_uuid)
1733 {
1734         int fd, rc;
1735
1736         fd = open(path, O_RDONLY | O_NONBLOCK);
1737         if (fd < 0) {
1738                 rc = -errno;
1739                 llapi_error(LLAPI_MSG_ERROR, rc, "error opening %s", path);
1740                 return rc;
1741         }
1742
1743         rc = llapi_file_fget_lov_uuid(fd, lov_uuid);
1744
1745         close(fd);
1746         return rc;
1747 }
1748
1749 int llapi_file_get_lmv_uuid(const char *path, struct obd_uuid *lov_uuid)
1750 {
1751         int fd, rc;
1752
1753         fd = open(path, O_RDONLY | O_NONBLOCK);
1754         if (fd < 0) {
1755                 rc = -errno;
1756                 llapi_error(LLAPI_MSG_ERROR, rc, "error opening %s", path);
1757                 return rc;
1758         }
1759
1760         rc = llapi_file_fget_lmv_uuid(fd, lov_uuid);
1761
1762         close(fd);
1763         return rc;
1764 }
1765
1766 enum tgt_type {
1767         LOV_TYPE = 1,
1768         LMV_TYPE
1769 };
1770
1771 /*
1772  * If uuidp is NULL, return the number of available obd uuids.
1773  * If uuidp is non-NULL, then it will return the uuids of the obds. If
1774  * there are more OSTs than allocated to uuidp, then an error is returned with
1775  * the ost_count set to number of available obd uuids.
1776  */
1777 static int llapi_get_target_uuids(int fd, struct obd_uuid *uuidp,
1778                                   int *ost_count, enum tgt_type type)
1779 {
1780         char buf[PATH_MAX], format[32];
1781         int rc = 0, index = 0;
1782         struct obd_uuid name;
1783         glob_t param;
1784         FILE *fp;
1785
1786         /* Get the lov name */
1787         if (type == LOV_TYPE)
1788                 rc = llapi_file_fget_lov_uuid(fd, &name);
1789         else
1790                 rc = llapi_file_fget_lmv_uuid(fd, &name);
1791         if (rc != 0)
1792                 return rc;
1793
1794         /* Now get the ost uuids */
1795         rc = get_lustre_param_path(type == LOV_TYPE ? "lov" : "lmv", name.uuid,
1796                                    FILTER_BY_EXACT, "target_obd", &param);
1797         if (rc != 0)
1798                 return -ENOENT;
1799
1800         fp = fopen(param.gl_pathv[0], "r");
1801         if (fp == NULL) {
1802                 rc = -errno;
1803                 llapi_error(LLAPI_MSG_ERROR, rc, "error: opening '%s'",
1804                             param.gl_pathv[0]);
1805                 goto free_param;
1806         }
1807
1808         snprintf(format, sizeof(format),
1809                  "%%d: %%%zus", sizeof(uuidp[0].uuid) - 1);
1810         while (fgets(buf, sizeof(buf), fp) != NULL) {
1811                 if (uuidp && (index < *ost_count)) {
1812                         if (sscanf(buf, format, &index, uuidp[index].uuid) < 2)
1813                                 break;
1814                 }
1815                 index++;
1816         }
1817
1818         fclose(fp);
1819
1820         if (uuidp && (index > *ost_count))
1821                 rc = -EOVERFLOW;
1822
1823         *ost_count = index;
1824 free_param:
1825         cfs_free_param_data(&param);
1826         return rc;
1827 }
1828
1829 int llapi_lov_get_uuids(int fd, struct obd_uuid *uuidp, int *ost_count)
1830 {
1831         return llapi_get_target_uuids(fd, uuidp, ost_count, LOV_TYPE);
1832 }
1833
1834 int llapi_get_obd_count(char *mnt, int *count, int is_mdt)
1835 {
1836         int root;
1837         int rc;
1838
1839         root = open(mnt, O_RDONLY | O_DIRECTORY);
1840         if (root < 0) {
1841                 rc = -errno;
1842                 llapi_error(LLAPI_MSG_ERROR, rc, "open %s failed", mnt);
1843                 return rc;
1844         }
1845
1846         *count = is_mdt;
1847         rc = ioctl(root, LL_IOC_GETOBDCOUNT, count);
1848         if (rc < 0)
1849                 rc = -errno;
1850
1851         close(root);
1852         return rc;
1853 }
1854
1855 /* Check if user specified value matches a real uuid.  Ignore _UUID,
1856  * -osc-4ba41334, other trailing gunk in comparison.
1857  * @param real_uuid ends in "_UUID"
1858  * @param search_uuid may or may not end in "_UUID"
1859  */
1860 int llapi_uuid_match(char *real_uuid, char *search_uuid)
1861 {
1862         int cmplen = strlen(real_uuid);
1863         int searchlen = strlen(search_uuid);
1864
1865         if (cmplen > 5 && strcmp(real_uuid + cmplen - 5, "_UUID") == 0)
1866                 cmplen -= 5;
1867         if (searchlen > 5 && strcmp(search_uuid + searchlen - 5, "_UUID") == 0)
1868                 searchlen -= 5;
1869
1870         /* The UUIDs may legitimately be different lengths, if
1871          * the system was upgraded from an older version. */
1872         if (cmplen != searchlen)
1873                 return 0;
1874
1875         return (strncmp(search_uuid, real_uuid, cmplen) == 0);
1876 }
1877
1878 /* Here, param->fp_obd_uuid points to a single obduuid, the index of which is
1879  * returned in param->fp_obd_index */
1880 static int setup_obd_uuid(int fd, char *dname, struct find_param *param)
1881 {
1882         struct obd_uuid obd_uuid;
1883         char buf[PATH_MAX];
1884         glob_t param_data;
1885         char format[32];
1886         int rc = 0;
1887         FILE *fp;
1888
1889         if (param->fp_got_uuids)
1890                 return rc;
1891
1892         /* Get the lov/lmv name */
1893         if (param->fp_get_lmv)
1894                 rc = llapi_file_fget_lmv_uuid(fd, &obd_uuid);
1895         else
1896                 rc = llapi_file_fget_lov_uuid(fd, &obd_uuid);
1897         if (rc) {
1898                 if (rc != -ENOTTY) {
1899                         llapi_error(LLAPI_MSG_ERROR, rc,
1900                                     "error: can't get %s name: %s",
1901                                     param->fp_get_lmv ? "lmv" : "lov",
1902                                     dname);
1903                 } else {
1904                         rc = 0;
1905                 }
1906                 return rc;
1907         }
1908
1909         param->fp_got_uuids = 1;
1910
1911         /* Now get the ost uuids */
1912         rc = get_lustre_param_path(param->fp_get_lmv ? "lmv" : "lov",
1913                                    obd_uuid.uuid, FILTER_BY_EXACT,
1914                                    "target_obd", &param_data);
1915         if (rc != 0)
1916                 return -ENOENT;
1917
1918         fp = fopen(param_data.gl_pathv[0], "r");
1919         if (fp == NULL) {
1920                 rc = -errno;
1921                 llapi_error(LLAPI_MSG_ERROR, rc, "error: opening '%s'",
1922                             param_data.gl_pathv[0]);
1923                 goto free_param;
1924         }
1925
1926         if (!param->fp_obd_uuid && !param->fp_quiet && !param->fp_obds_printed)
1927                 llapi_printf(LLAPI_MSG_NORMAL, "%s:\n",
1928                              param->fp_get_lmv ? "MDTS" : "OBDS");
1929
1930         snprintf(format, sizeof(format),
1931                  "%%d: %%%zus", sizeof(obd_uuid.uuid) - 1);
1932         while (fgets(buf, sizeof(buf), fp) != NULL) {
1933                 int index;
1934
1935                 if (sscanf(buf, format, &index, obd_uuid.uuid) < 2)
1936                         break;
1937
1938                 if (param->fp_obd_uuid) {
1939                         if (llapi_uuid_match(obd_uuid.uuid,
1940                                              param->fp_obd_uuid->uuid)) {
1941                                 param->fp_obd_index = index;
1942                                 break;
1943                         }
1944                 } else if (!param->fp_quiet && !param->fp_obds_printed) {
1945                         /* Print everything */
1946                         llapi_printf(LLAPI_MSG_NORMAL, "%s", buf);
1947                 }
1948         }
1949         param->fp_obds_printed = 1;
1950
1951         fclose(fp);
1952
1953         if (param->fp_obd_uuid && (param->fp_obd_index == OBD_NOT_FOUND)) {
1954                 llapi_err_noerrno(LLAPI_MSG_ERROR,
1955                                   "error: %s: unknown obduuid: %s",
1956                                   __func__, param->fp_obd_uuid->uuid);
1957                 rc = -EINVAL;
1958         }
1959 free_param:
1960         cfs_free_param_data(&param_data);
1961         return rc;
1962 }
1963
1964 /* In this case, param->fp_obd_uuid will be an array of obduuids and
1965  * obd index for all these obduuids will be returned in
1966  * param->fp_obd_indexes */
1967 static int setup_indexes(DIR *dir, char *path, struct obd_uuid *obduuids,
1968                          int num_obds, int **obdindexes, int *obdindex,
1969                          enum tgt_type type)
1970 {
1971         int ret, obdcount, obd_valid = 0, obdnum;
1972         long i;
1973         struct obd_uuid *uuids = NULL;
1974         char buf[16];
1975         int *indexes;
1976
1977         if (type == LOV_TYPE)
1978                 ret = get_param_lov(path, "numobd", buf, sizeof(buf));
1979         else
1980                 ret = get_param_lmv(path, "numobd", buf, sizeof(buf));
1981         if (ret != 0)
1982                 return ret;
1983
1984         obdcount = atoi(buf);
1985         uuids = malloc(obdcount * sizeof(struct obd_uuid));
1986         if (uuids == NULL)
1987                 return -ENOMEM;
1988
1989 retry_get_uuids:
1990         ret = llapi_get_target_uuids(dirfd(dir), uuids, &obdcount, type);
1991         if (ret) {
1992                 if (ret == -EOVERFLOW) {
1993                         struct obd_uuid *uuids_temp;
1994
1995                         uuids_temp = realloc(uuids, obdcount *
1996                                              sizeof(struct obd_uuid));
1997                         if (uuids_temp != NULL) {
1998                                 uuids = uuids_temp;
1999                                 goto retry_get_uuids;
2000                         }
2001                         ret = -ENOMEM;
2002                 }
2003
2004                 llapi_error(LLAPI_MSG_ERROR, ret, "get ost uuid failed");
2005                 goto out_free;
2006         }
2007
2008         indexes = malloc(num_obds * sizeof(*obdindex));
2009         if (indexes == NULL) {
2010                 ret = -ENOMEM;
2011                 goto out_free;
2012         }
2013
2014         for (obdnum = 0; obdnum < num_obds; obdnum++) {
2015                 char *end = NULL;
2016
2017                 /* The user may have specified a simple index */
2018                 i = strtol(obduuids[obdnum].uuid, &end, 0);
2019                 if (end && *end == '\0' && i < obdcount) {
2020                         indexes[obdnum] = i;
2021                         obd_valid++;
2022                 } else {
2023                         for (i = 0; i < obdcount; i++) {
2024                                 if (llapi_uuid_match(uuids[i].uuid,
2025                                                      obduuids[obdnum].uuid)) {
2026                                         indexes[obdnum] = i;
2027                                         obd_valid++;
2028                                         break;
2029                                 }
2030                         }
2031                 }
2032                 if (i >= obdcount) {
2033                         indexes[obdnum] = OBD_NOT_FOUND;
2034                         llapi_err_noerrno(LLAPI_MSG_ERROR,
2035                                           "error: %s: unknown obduuid: %s",
2036                                           __func__, obduuids[obdnum].uuid);
2037                         ret = -EINVAL;
2038                 }
2039         }
2040
2041         if (obd_valid == 0)
2042                 *obdindex = OBD_NOT_FOUND;
2043         else
2044                 *obdindex = obd_valid;
2045
2046         *obdindexes = indexes;
2047 out_free:
2048         if (uuids)
2049                 free(uuids);
2050
2051         return ret;
2052 }
2053
2054 static int setup_target_indexes(DIR *dir, char *path, struct find_param *param)
2055 {
2056         int ret = 0;
2057
2058         if (param->fp_mdt_uuid) {
2059                 ret = setup_indexes(dir, path, param->fp_mdt_uuid,
2060                                     param->fp_num_mdts,
2061                                     &param->fp_mdt_indexes,
2062                                     &param->fp_mdt_index, LMV_TYPE);
2063                 if (ret)
2064                         return ret;
2065         }
2066
2067         if (param->fp_obd_uuid) {
2068                 ret = setup_indexes(dir, path, param->fp_obd_uuid,
2069                                     param->fp_num_obds,
2070                                     &param->fp_obd_indexes,
2071                                     &param->fp_obd_index, LOV_TYPE);
2072                 if (ret)
2073                         return ret;
2074         }
2075
2076         param->fp_got_uuids = 1;
2077
2078         return ret;
2079 }
2080
2081 int llapi_ostlist(char *path, struct find_param *param)
2082 {
2083         int fd;
2084         int ret;
2085
2086         fd = open(path, O_RDONLY | O_DIRECTORY);
2087         if (fd < 0)
2088                 return -errno;
2089
2090         ret = setup_obd_uuid(fd, path, param);
2091         close(fd);
2092
2093         return ret;
2094 }
2095
2096 /*
2097  * Tries to determine the default stripe attributes for a given filesystem. The
2098  * filesystem to check should be specified by fsname, or will be determined
2099  * using pathname.
2100  */
2101 static int sattr_get_defaults(const char *const fsname,
2102                               unsigned int *scount,
2103                               unsigned int *ssize,
2104                               unsigned int *soffset)
2105 {
2106         char val[PATH_MAX];
2107         int rc;
2108
2109         if (scount) {
2110                 rc = get_lustre_param_value("lov", fsname, FILTER_BY_FS_NAME,
2111                                             "stripecount", val, sizeof(val));
2112                 if (rc != 0)
2113                         return rc;
2114                 *scount = atoi(val);
2115         }
2116
2117         if (ssize) {
2118                 rc = get_lustre_param_value("lov", fsname, FILTER_BY_FS_NAME,
2119                                             "stripesize", val, sizeof(val));
2120                 if (rc != 0)
2121                         return rc;
2122                 *ssize = atoi(val);
2123         }
2124
2125         if (soffset) {
2126                 rc = get_lustre_param_value("lov", fsname, FILTER_BY_FS_NAME,
2127                                             "stripeoffset", val, sizeof(val));
2128                 if (rc != 0)
2129                         return rc;
2130                 *soffset = atoi(val);
2131         }
2132
2133         return 0;
2134 }
2135
2136 /*
2137  * Tries to gather the default stripe attributes for a given filesystem. If
2138  * the attributes can be determined, they are cached for easy retreival the
2139  * next time they are needed. Only a single filesystem's attributes are
2140  * cached at a time.
2141  */
2142 int sattr_cache_get_defaults(const char *const fsname,
2143                              const char *const pathname, unsigned int *scount,
2144                              unsigned int *ssize, unsigned int *soffset)
2145 {
2146         static struct {
2147                 char fsname[PATH_MAX + 1];
2148                 unsigned int stripecount;
2149                 unsigned int stripesize;
2150                 unsigned int stripeoffset;
2151         } cache = {
2152                 .fsname = {'\0'}
2153         };
2154
2155         int rc;
2156         char fsname_buf[PATH_MAX + 1];
2157         unsigned int tmp[3];
2158
2159         if (fsname == NULL) {
2160                 rc = llapi_search_fsname(pathname, fsname_buf);
2161                 if (rc)
2162                         return rc;
2163         } else {
2164                 strlcpy(fsname_buf, fsname, sizeof(fsname_buf));
2165         }
2166
2167         if (strncmp(fsname_buf, cache.fsname, sizeof(fsname_buf) - 1) != 0) {
2168                 /*
2169                  * Ensure all 3 sattrs (count, size, and offset) are
2170                  * successfully retrieved and stored in tmp before writing to
2171                  * cache.
2172                  */
2173                 rc = sattr_get_defaults(fsname_buf, &tmp[0], &tmp[1], &tmp[2]);
2174                 if (rc != 0)
2175                         return rc;
2176
2177                 cache.stripecount = tmp[0];
2178                 cache.stripesize = tmp[1];
2179                 cache.stripeoffset = tmp[2];
2180                 strlcpy(cache.fsname, fsname_buf, sizeof(cache.fsname));
2181         }
2182
2183         if (scount)
2184                 *scount = cache.stripecount;
2185         if (ssize)
2186                 *ssize = cache.stripesize;
2187         if (soffset)
2188                 *soffset = cache.stripeoffset;
2189
2190         return 0;
2191 }
2192
2193 static char *layout2name(__u32 layout_pattern)
2194 {
2195         if (layout_pattern == LOV_PATTERN_MDT)
2196                 return "mdt";
2197         else if (layout_pattern == LOV_PATTERN_RAID0)
2198                 return "raid0";
2199         else if (layout_pattern == (LOV_PATTERN_RAID0 | LOV_PATTERN_F_RELEASED))
2200                 return "released";
2201         else
2202                 return "unknown";
2203 }
2204
2205 enum lov_dump_flags {
2206         LDF_IS_DIR      = 0x0001,
2207         LDF_IS_RAW      = 0x0002,
2208         LDF_INDENT      = 0x0004,
2209         LDF_SKIP_OBJS   = 0x0008,
2210         LDF_YAML        = 0x0010,
2211 };
2212
2213 static void lov_dump_user_lmm_header(struct lov_user_md *lum, char *path,
2214                                      struct lov_user_ost_data_v1 *objects,
2215                                      int verbose, int depth, char *pool_name,
2216                                      enum lov_dump_flags flags)
2217 {
2218         bool is_dir = flags & LDF_IS_DIR;
2219         bool is_raw = flags & LDF_IS_RAW;
2220         bool indent = flags & LDF_INDENT;
2221         bool yaml = flags & LDF_YAML;
2222         bool skip_objs = flags & LDF_SKIP_OBJS;
2223         char *prefix = is_dir ? "" : "lmm_";
2224         char *separator = "";
2225         char *space = indent ? "      " : "";
2226         int rc;
2227
2228         if (is_dir && lmm_oi_seq(&lum->lmm_oi) == FID_SEQ_LOV_DEFAULT) {
2229                 lmm_oi_set_seq(&lum->lmm_oi, 0);
2230                 if (!indent && (verbose & VERBOSE_DETAIL))
2231                         llapi_printf(LLAPI_MSG_NORMAL, "%s(Default) ", space);
2232         }
2233
2234         if (!yaml && !indent && depth && path &&
2235             ((verbose != VERBOSE_OBJID) || !is_dir))
2236                 llapi_printf(LLAPI_MSG_NORMAL, "%s\n", path);
2237
2238         if ((verbose & VERBOSE_DETAIL) && !is_dir) {
2239                 llapi_printf(LLAPI_MSG_NORMAL, "%s%smagic:         0x%08X\n",
2240                              space, prefix, lum->lmm_magic);
2241                 llapi_printf(LLAPI_MSG_NORMAL, "%s%sseq:           %#jx\n",
2242                              space, prefix,
2243                              (uintmax_t)lmm_oi_seq(&lum->lmm_oi));
2244                 llapi_printf(LLAPI_MSG_NORMAL, "%s%sobject_id:     %#jx\n",
2245                              space, prefix,
2246                              (uintmax_t)lmm_oi_id(&lum->lmm_oi));
2247         }
2248         if ((verbose & (VERBOSE_DETAIL | VERBOSE_DFID)) && !is_dir) {
2249                 __u64 seq;
2250                 __u32 oid;
2251                 __u32 ver;
2252
2253                 if (verbose & ~VERBOSE_DFID)
2254                         llapi_printf(LLAPI_MSG_NORMAL, "%slmm_fid:           ",
2255                                      space);
2256                 /* This needs a bit of hand-holding since old 1.x lmm_oi
2257                  * have { oi.oi_id = mds_inum, oi.oi_seq = 0 } and 2.x lmm_oi
2258                  * have { oi.oi_id = mds_oid, oi.oi_seq = mds_seq } instead of
2259                  * a real FID.  Ideally the 2.x code would have stored this
2260                  * like a FID with { oi_id = mds_seq, oi_seq = mds_oid } so the
2261                  * ostid union lu_fid { f_seq = mds_seq, f_oid = mds_oid }
2262                  * worked properly (especially since IGIF FIDs use mds_inum as
2263                  * the FID SEQ), but unfortunately that didn't happen.
2264                  *
2265                  * Print it to look like an IGIF FID, even though the fields
2266                  * are reversed on disk, so that it makes sense to userspace.
2267                  *
2268                  * Don't use ostid_id() and ostid_seq(), since they assume the
2269                  * oi_fid fields are in the right order.  This is why there are
2270                  * separate lmm_oi_seq() and lmm_oi_id() routines for this.
2271                  *
2272                  * For newer layout types hopefully this will be a real FID. */
2273                 seq = lmm_oi_seq(&lum->lmm_oi) == 0 ?
2274                         lmm_oi_id(&lum->lmm_oi) : lmm_oi_seq(&lum->lmm_oi);
2275                 oid = lmm_oi_seq(&lum->lmm_oi) == 0 ?
2276                         0 : (__u32)lmm_oi_id(&lum->lmm_oi);
2277                 ver = (__u32)(lmm_oi_id(&lum->lmm_oi) >> 32);
2278                 if (yaml)
2279                         llapi_printf(LLAPI_MSG_NORMAL, DFID_NOBRACE"\n",
2280                                      seq, oid, ver);
2281                 else
2282                         llapi_printf(LLAPI_MSG_NORMAL, DFID"\n",
2283                                      seq, oid, ver);
2284         }
2285
2286         if (verbose & VERBOSE_COUNT) {
2287                 if (verbose & ~VERBOSE_COUNT)
2288                         llapi_printf(LLAPI_MSG_NORMAL, "%s%sstripe_count:  ",
2289                                      space, prefix);
2290                 if (is_dir) {
2291                         if (!is_raw && lum->lmm_stripe_count == 0 &&
2292                             lov_pattern(lum->lmm_pattern) != LOV_PATTERN_MDT) {
2293                                 unsigned int scount;
2294                                 rc = sattr_cache_get_defaults(NULL, path,
2295                                                               &scount, NULL,
2296                                                               NULL);
2297                                 if (rc == 0)
2298                                         llapi_printf(LLAPI_MSG_NORMAL, "%d",
2299                                                      scount);
2300                                 else
2301                                         llapi_error(LLAPI_MSG_ERROR, rc,
2302                                                     "Cannot determine default"
2303                                                     " stripe count.");
2304                         } else {
2305                                 llapi_printf(LLAPI_MSG_NORMAL, "%d",
2306                                              lum->lmm_stripe_count ==
2307                                              (typeof(lum->lmm_stripe_count))(-1)
2308                                              ? -1 : lum->lmm_stripe_count);
2309                         }
2310                 } else {
2311                         llapi_printf(LLAPI_MSG_NORMAL, "%hd",
2312                                      (__s16)lum->lmm_stripe_count);
2313                 }
2314                 if (!yaml && is_dir)
2315                         separator = " ";
2316                 else
2317                         separator = "\n";
2318         }
2319
2320         if (verbose & VERBOSE_SIZE) {
2321                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2322                 if (verbose & ~VERBOSE_SIZE)
2323                         llapi_printf(LLAPI_MSG_NORMAL, "%s%sstripe_size:   ",
2324                                      space, prefix);
2325                 if (is_dir && !is_raw && lum->lmm_stripe_size == 0) {
2326                         unsigned int ssize;
2327                         rc = sattr_cache_get_defaults(NULL, path, NULL, &ssize,
2328                                                       NULL);
2329                         if (rc == 0)
2330                                 llapi_printf(LLAPI_MSG_NORMAL, "%u", ssize);
2331                         else
2332                                 llapi_error(LLAPI_MSG_ERROR, rc,
2333                                             "Cannot determine default"
2334                                             " stripe size.");
2335                 } else {
2336                         llapi_printf(LLAPI_MSG_NORMAL, "%u",
2337                                      lum->lmm_stripe_size);
2338                 }
2339                 if (!yaml && is_dir)
2340                         separator = " ";
2341                 else
2342                         separator = "\n";
2343         }
2344
2345         if ((verbose & VERBOSE_LAYOUT)) {
2346                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2347                 if (verbose & ~VERBOSE_LAYOUT)
2348                         llapi_printf(LLAPI_MSG_NORMAL, "%s%spattern:       ",
2349                                      space, prefix);
2350                 if (lov_pattern_supported(lum->lmm_pattern))
2351                         llapi_printf(LLAPI_MSG_NORMAL, "%s",
2352                                      layout2name(lum->lmm_pattern));
2353                 else
2354                         llapi_printf(LLAPI_MSG_NORMAL, "%.x", lum->lmm_pattern);
2355                 separator = is_dir ? " " : "\n";
2356         }
2357
2358         if ((verbose & VERBOSE_GENERATION) && !is_dir) {
2359                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2360                 if (verbose & ~VERBOSE_GENERATION)
2361                         llapi_printf(LLAPI_MSG_NORMAL, "%s%slayout_gen:    ",
2362                                      space, prefix);
2363                 llapi_printf(LLAPI_MSG_NORMAL, "%u",
2364                              (int)lum->lmm_layout_gen);
2365                 separator = "\n";
2366         }
2367
2368         if (verbose & VERBOSE_OFFSET) {
2369                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2370                 if (verbose & ~VERBOSE_OFFSET)
2371                         llapi_printf(LLAPI_MSG_NORMAL, "%s%sstripe_offset: ",
2372                                      space, prefix);
2373                 if (is_dir || skip_objs)
2374                         llapi_printf(LLAPI_MSG_NORMAL, "%d",
2375                                      lum->lmm_stripe_offset ==
2376                                      (typeof(lum->lmm_stripe_offset))(-1) ? -1 :
2377                                      lum->lmm_stripe_offset);
2378                 else
2379                         llapi_printf(LLAPI_MSG_NORMAL, "%u",
2380                                      objects[0].l_ost_idx);
2381                 if (!yaml && is_dir)
2382                         separator = " ";
2383                 else
2384                         separator = "\n";
2385         }
2386
2387         if ((verbose & VERBOSE_POOL) && pool_name && (pool_name[0] != '\0')) {
2388                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2389                 if (verbose & ~VERBOSE_POOL)
2390                         llapi_printf(LLAPI_MSG_NORMAL, "%s%spool:          ",
2391                                      space, prefix);
2392                 llapi_printf(LLAPI_MSG_NORMAL, "%s", pool_name);
2393                 if (!yaml && is_dir)
2394                         separator = " ";
2395                 else
2396                         separator = "\n";
2397         }
2398
2399         if (strlen(separator) != 0)
2400                 llapi_printf(LLAPI_MSG_NORMAL, "\n");
2401 }
2402
2403 void lov_dump_user_lmm_v1v3(struct lov_user_md *lum, char *pool_name,
2404                             struct lov_user_ost_data_v1 *objects,
2405                             char *path, int obdindex, int depth,
2406                             int header, enum lov_dump_flags flags)
2407 {
2408         bool is_dir = flags & LDF_IS_DIR;
2409         bool indent = flags & LDF_INDENT;
2410         bool skip_objs = flags & LDF_SKIP_OBJS;
2411         bool yaml = flags & LDF_YAML;
2412         int i, obdstripe = (obdindex != OBD_NOT_FOUND) ? 0 : 1;
2413
2414         if (!obdstripe) {
2415                 for (i = 0; !is_dir && i < lum->lmm_stripe_count; i++) {
2416                         if (obdindex == objects[i].l_ost_idx) {
2417                                 obdstripe = 1;
2418                                 break;
2419                         }
2420                 }
2421         }
2422
2423         if (obdstripe == 0)
2424                 return;
2425
2426         lov_dump_user_lmm_header(lum, path, objects, header, depth, pool_name,
2427                                  flags);
2428
2429         if (!is_dir && !skip_objs && (header & VERBOSE_OBJID) &&
2430             !(lum->lmm_pattern & LOV_PATTERN_F_RELEASED)) {
2431                 char *space = "      - ";
2432
2433                 if (indent)
2434                         llapi_printf(LLAPI_MSG_NORMAL,
2435                                      "%6slmm_objects:\n", " ");
2436                 else if (yaml)
2437                         llapi_printf(LLAPI_MSG_NORMAL, "lmm_objects:\n");
2438                 else
2439                         llapi_printf(LLAPI_MSG_NORMAL,
2440                                 "\tobdidx\t\t objid\t\t objid\t\t group\n");
2441
2442                 for (i = 0; i < lum->lmm_stripe_count; i++) {
2443                         int idx = objects[i].l_ost_idx;
2444                         long long oid = ostid_id(&objects[i].l_ost_oi);
2445                         long long gr = ostid_seq(&objects[i].l_ost_oi);
2446
2447                         if (obdindex != OBD_NOT_FOUND && obdindex != idx)
2448                                 continue;
2449
2450                         if (yaml) {
2451                                 struct lu_fid fid = { 0 };
2452
2453                                 ostid_to_fid(&fid, &objects[i].l_ost_oi, idx);
2454                                 llapi_printf(LLAPI_MSG_NORMAL,
2455                                     "%sl_ost_idx: %d\n", space, idx);
2456                                 llapi_printf(LLAPI_MSG_NORMAL,
2457                                     "%8sl_fid:     "DFID_NOBRACE"\n",
2458                                     " ", PFID(&fid));
2459                         } else if (indent) {
2460                                 struct lu_fid fid = { 0 };
2461
2462                                 ostid_to_fid(&fid, &objects[i].l_ost_oi, idx);
2463                                 llapi_printf(LLAPI_MSG_NORMAL,
2464                                     "%s%d: { l_ost_idx: %d, l_fid: "DFID" }\n",
2465                                     space, i, idx, PFID(&fid));
2466                         } else {
2467                                 char fmt[48];
2468                                 sprintf(fmt, "%s%s%s\n",
2469                                         "\t%6u\t%14llu\t%#13llx\t",
2470                                         (fid_seq_is_rsvd(gr) ||
2471                                          fid_seq_is_mdt0(gr)) ?
2472                                          "%14llu" : "%#14llx", "%s");
2473                                 llapi_printf(LLAPI_MSG_NORMAL, fmt, idx, oid,
2474                                              oid, gr,
2475                                              obdindex == idx ? " *" : "");
2476                         }
2477                 }
2478         }
2479         llapi_printf(LLAPI_MSG_NORMAL, "\n");
2480 }
2481
2482 void lmv_dump_user_lmm(struct lmv_user_md *lum, char *pool_name,
2483                        char *path, int obdindex, int depth, int verbose,
2484                        enum lov_dump_flags flags)
2485 {
2486         struct lmv_user_mds_data *objects = lum->lum_objects;
2487         char *prefix = lum->lum_magic == LMV_USER_MAGIC ? "(Default)" : "";
2488         int i, obdstripe = 0;
2489         char *separator = "";
2490         bool yaml = flags & LDF_YAML;
2491
2492         if (obdindex != OBD_NOT_FOUND) {
2493                 if (lum->lum_stripe_count == 0) {
2494                         if (obdindex == lum->lum_stripe_offset)
2495                                 obdstripe = 1;
2496                 } else {
2497                         for (i = 0; i < lum->lum_stripe_count; i++) {
2498                                 if (obdindex == objects[i].lum_mds) {
2499                                         llapi_printf(LLAPI_MSG_NORMAL,
2500                                                      "%s%s\n", prefix,
2501                                                      path);
2502                                         obdstripe = 1;
2503                                         break;
2504                                 }
2505                         }
2506                 }
2507         } else {
2508                 obdstripe = 1;
2509         }
2510
2511         if (!obdstripe)
2512                 return;
2513
2514         /* show all information default */
2515         if (!verbose) {
2516                 if (lum->lum_magic == LMV_USER_MAGIC)
2517                         verbose = VERBOSE_POOL | VERBOSE_COUNT |
2518                                   VERBOSE_OFFSET | VERBOSE_HASH_TYPE;
2519                 else
2520                         verbose = VERBOSE_OBJID;
2521         }
2522
2523         if (depth && path && ((verbose != VERBOSE_OBJID)))
2524                 llapi_printf(LLAPI_MSG_NORMAL, "%s%s\n", prefix, path);
2525
2526         if (verbose & VERBOSE_COUNT) {
2527                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2528                 if (verbose & ~VERBOSE_COUNT)
2529                         llapi_printf(LLAPI_MSG_NORMAL, "lmv_stripe_count: ");
2530                 llapi_printf(LLAPI_MSG_NORMAL, "%u",
2531                              (int)lum->lum_stripe_count);
2532                 if ((verbose & VERBOSE_OFFSET) && !yaml)
2533                         separator = " ";
2534                 else
2535                         separator = "\n";
2536         }
2537
2538         if (verbose & VERBOSE_OFFSET) {
2539                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2540                 if (verbose & ~VERBOSE_OFFSET)
2541                         llapi_printf(LLAPI_MSG_NORMAL, "lmv_stripe_offset: ");
2542                 llapi_printf(LLAPI_MSG_NORMAL, "%d",
2543                              (int)lum->lum_stripe_offset);
2544                 if (verbose & VERBOSE_HASH_TYPE && !yaml)
2545                         separator = " ";
2546                 else
2547                         separator = "\n";
2548         }
2549
2550         if (verbose & VERBOSE_HASH_TYPE) {
2551                 unsigned int type = lum->lum_hash_type;
2552
2553                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2554                 if (verbose & ~VERBOSE_HASH_TYPE)
2555                         llapi_printf(LLAPI_MSG_NORMAL, "lmv_hash_type: ");
2556                 if (type < LMV_HASH_TYPE_MAX)
2557                         llapi_printf(LLAPI_MSG_NORMAL, "%s",
2558                                      mdt_hash_name[type]);
2559                 else
2560                         llapi_printf(LLAPI_MSG_NORMAL, "%d",
2561                                      (int)type);
2562                 separator = "\n";
2563         }
2564
2565         if (verbose & VERBOSE_OBJID && lum->lum_magic != LMV_USER_MAGIC) {
2566                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2567                 if (obdstripe == 1 && lum->lum_stripe_count > 0)
2568                         llapi_printf(LLAPI_MSG_NORMAL,
2569                                      "mdtidx\t\t FID[seq:oid:ver]\n");
2570                 for (i = 0; i < lum->lum_stripe_count; i++) {
2571                         int idx = objects[i].lum_mds;
2572                         struct lu_fid *fid = &objects[i].lum_fid;
2573                         if ((obdindex == OBD_NOT_FOUND) || (obdindex == idx))
2574                                 llapi_printf(LLAPI_MSG_NORMAL,
2575                                              "%6u\t\t "DFID"\t\t%s\n",
2576                                             idx, PFID(fid),
2577                                             obdindex == idx ? " *" : "");
2578                 }
2579
2580         }
2581
2582         if ((verbose & VERBOSE_POOL) && pool_name != NULL &&
2583              pool_name[0] != '\0') {
2584                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2585                 if (verbose & ~VERBOSE_POOL)
2586                         llapi_printf(LLAPI_MSG_NORMAL, "%slmv_pool:           ",
2587                                      prefix);
2588                 llapi_printf(LLAPI_MSG_NORMAL, "%s%c ", pool_name, ' ');
2589                 separator = "\n";
2590         }
2591
2592         if (!(verbose & VERBOSE_OBJID) || lum->lum_magic == LMV_USER_MAGIC)
2593                 llapi_printf(LLAPI_MSG_NORMAL, "\n");
2594 }
2595
2596 static void lov_dump_comp_v1_header(struct find_param *param, char *path,
2597                                     enum lov_dump_flags flags)
2598 {
2599         struct lov_comp_md_v1 *comp_v1 = (void *)&param->fp_lmd->lmd_lmm;
2600         int depth = param->fp_max_depth;
2601         int verbose = param->fp_verbose;
2602         bool yaml = flags & LDF_YAML;
2603
2604         if (depth && path && ((verbose != VERBOSE_OBJID) ||
2605                               !(flags & LDF_IS_DIR)) && !yaml)
2606                 llapi_printf(LLAPI_MSG_NORMAL, "%s\n", path);
2607
2608         if (verbose & VERBOSE_DETAIL) {
2609                 llapi_printf(LLAPI_MSG_NORMAL, "composite_header:\n");
2610                 llapi_printf(LLAPI_MSG_NORMAL, "%2slcm_magic:         0x%08X\n",
2611                              " ", comp_v1->lcm_magic);
2612                 llapi_printf(LLAPI_MSG_NORMAL, "%2slcm_size:          %u\n",
2613                              " ", comp_v1->lcm_size);
2614                 if (flags & LDF_IS_DIR)
2615                         llapi_printf(LLAPI_MSG_NORMAL,
2616                                      "%2slcm_flags:         %s\n", " ",
2617                                      comp_v1->lcm_mirror_count > 0 ?
2618                                                         "mirrored" : "");
2619                 else
2620                         llapi_printf(LLAPI_MSG_NORMAL,
2621                                      "%2slcm_flags:         %s\n",
2622                                      " ", lcm_flags_string(comp_v1->lcm_flags));
2623         }
2624
2625         if (verbose & VERBOSE_GENERATION) {
2626                 if (verbose & ~VERBOSE_GENERATION)
2627                         llapi_printf(LLAPI_MSG_NORMAL, "%2slcm_layout_gen:    ",
2628                                      " ");
2629                 llapi_printf(LLAPI_MSG_NORMAL, "%u\n", comp_v1->lcm_layout_gen);
2630         }
2631
2632         if (verbose & VERBOSE_MIRROR_COUNT) {
2633                 if (verbose & ~VERBOSE_MIRROR_COUNT)
2634                         llapi_printf(LLAPI_MSG_NORMAL, "%2slcm_mirror_count:  ",
2635                                      " ");
2636                 llapi_printf(LLAPI_MSG_NORMAL, "%u\n",
2637                              comp_v1->lcm_magic == LOV_USER_MAGIC_COMP_V1 ?
2638                              comp_v1->lcm_mirror_count + 1 : 1);
2639         }
2640
2641         if (verbose & VERBOSE_COMP_COUNT) {
2642                 if (verbose & ~VERBOSE_COMP_COUNT)
2643                         llapi_printf(LLAPI_MSG_NORMAL, "%2slcm_entry_count:   ",
2644                                      " ");
2645                 llapi_printf(LLAPI_MSG_NORMAL, "%u\n",
2646                              comp_v1->lcm_magic == LOV_USER_MAGIC_COMP_V1 ?
2647                              comp_v1->lcm_entry_count : 0);
2648         }
2649
2650         if (verbose & VERBOSE_DETAIL && !yaml)
2651                 llapi_printf(LLAPI_MSG_NORMAL, "components:\n");
2652 }
2653
2654 static void lcme_flags2str(__u32 comp_flags)
2655 {
2656         bool found = false;
2657         int i = 0;
2658
2659         if (!comp_flags) {
2660                 llapi_printf(LLAPI_MSG_NORMAL, "0");
2661                 return;
2662         }
2663         for (i = 0; i < ARRAY_SIZE(comp_flags_table); i++) {
2664                 if (comp_flags & comp_flags_table[i].cfn_flag) {
2665                         if (found)
2666                                 llapi_printf(LLAPI_MSG_NORMAL, ",");
2667                         llapi_printf(LLAPI_MSG_NORMAL, "%s",
2668                                      comp_flags_table[i].cfn_name);
2669                         comp_flags &= ~comp_flags_table[i].cfn_flag;
2670                         found = true;
2671                 }
2672         }
2673         if (comp_flags) {
2674                 if (found)
2675                         llapi_printf(LLAPI_MSG_NORMAL, ",");
2676                 llapi_printf(LLAPI_MSG_NORMAL, "%#x", comp_flags);
2677         }
2678 }
2679
2680 static void lov_dump_comp_v1_entry(struct find_param *param,
2681                                    enum lov_dump_flags flags, int index)
2682 {
2683         struct lov_comp_md_v1 *comp_v1 = (void *)&param->fp_lmd->lmd_lmm;
2684         struct lov_comp_md_entry_v1 *entry;
2685         char *separator = "";
2686         int verbose = param->fp_verbose;
2687         bool yaml = flags & LDF_YAML;
2688
2689         entry = &comp_v1->lcm_entries[index];
2690
2691         if (yaml)
2692                 llapi_printf(LLAPI_MSG_NORMAL, "%2scomponent%d:\n", " ", index);
2693
2694         if (verbose & VERBOSE_COMP_ID) {
2695                 if (verbose & VERBOSE_DETAIL && !yaml)
2696                         llapi_printf(LLAPI_MSG_NORMAL,
2697                                      "%slcme_id:             ", "  - ");
2698                 else if (verbose & ~VERBOSE_COMP_ID)
2699                         llapi_printf(LLAPI_MSG_NORMAL,
2700                                      "%4slcme_id:             ", " ");
2701                 if (entry->lcme_id != LCME_ID_INVAL)
2702                         llapi_printf(LLAPI_MSG_NORMAL, "%u", entry->lcme_id);
2703                 else
2704                         llapi_printf(LLAPI_MSG_NORMAL, "N/A");
2705                 separator = "\n";
2706         }
2707
2708         if (verbose & VERBOSE_COMP_FLAGS) {
2709                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2710                 if (verbose & ~VERBOSE_COMP_FLAGS)
2711                         llapi_printf(LLAPI_MSG_NORMAL,
2712                                      "%4slcme_flags:          ", " ");
2713                 lcme_flags2str(entry->lcme_flags);
2714                 separator = "\n";
2715         }
2716
2717         if (verbose & VERBOSE_COMP_START) {
2718                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2719                 if (verbose & ~VERBOSE_COMP_START)
2720                         llapi_printf(LLAPI_MSG_NORMAL,
2721                                      "%4slcme_extent.e_start: ", " ");
2722                 llapi_printf(LLAPI_MSG_NORMAL, "%llu",
2723                              entry->lcme_extent.e_start);
2724                 separator = "\n";
2725         }
2726
2727         if (verbose & VERBOSE_COMP_END) {
2728                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2729                 if (verbose & ~VERBOSE_COMP_END)
2730                         llapi_printf(LLAPI_MSG_NORMAL,
2731                                      "%4slcme_extent.e_end:   ", " ");
2732                 if (entry->lcme_extent.e_end == LUSTRE_EOF)
2733                         llapi_printf(LLAPI_MSG_NORMAL, "%s", "EOF");
2734                 else
2735                         llapi_printf(LLAPI_MSG_NORMAL, "%llu",
2736                                         entry->lcme_extent.e_end);
2737                 separator = "\n";
2738         }
2739
2740         if (yaml) {
2741                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2742                 llapi_printf(LLAPI_MSG_NORMAL, "%4ssub_layout:\n", " ");
2743         } else if (verbose & VERBOSE_DETAIL) {
2744                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2745                 llapi_printf(LLAPI_MSG_NORMAL, "%4slcme_offset:         %u\n",
2746                              " ", entry->lcme_offset);
2747                 llapi_printf(LLAPI_MSG_NORMAL, "%4slcme_size:           %u\n",
2748                              " ", entry->lcme_size);
2749                 llapi_printf(LLAPI_MSG_NORMAL, "%4ssub_layout:\n", " ");
2750         } else {
2751                 llapi_printf(LLAPI_MSG_NORMAL, "%s", separator);
2752         }
2753 }
2754
2755 /* Check if the value matches 1 of the given criteria (e.g. --atime +/-N).
2756  * @mds indicates if this is MDS timestamps and there are attributes on OSTs.
2757  *
2758  * The result is -1 if it does not match, 0 if not yet clear, 1 if matches.
2759  * The table below gives the answers for the specified parameters (value and
2760  * sign), 1st column is the answer for the MDS value, the 2nd is for the OST:
2761  * --------------------------------------
2762  * 1 | file > limit; sign > 0 | -1 / -1 |
2763  * 2 | file = limit; sign > 0 | -1 / -1 |
2764  * 3 | file < limit; sign > 0 |  ? /  1 |
2765  * 4 | file > limit; sign = 0 | -1 / -1 |
2766  * 5 | file = limit; sign = 0 |  ? /  1 |  <- (see the Note below)
2767  * 6 | file < limit; sign = 0 |  ? / -1 |
2768  * 7 | file > limit; sign < 0 |  1 /  1 |
2769  * 8 | file = limit; sign < 0 |  ? / -1 |
2770  * 9 | file < limit; sign < 0 |  ? / -1 |
2771  * --------------------------------------
2772  * Note: 5th actually means that the value is within the interval
2773  * (limit - margin, limit]. */
2774 static int find_value_cmp(unsigned long long file, unsigned long long limit,
2775                           int sign, int negopt, unsigned long long margin,
2776                           int mds)
2777 {
2778         int ret = -1;
2779
2780         if (sign > 0) {
2781                 /* Drop the fraction of margin (of days). */
2782                 if (file + margin <= limit)
2783                         ret = mds ? 0 : 1;
2784         } else if (sign == 0) {
2785                 if (file <= limit && file + margin > limit)
2786                         ret = mds ? 0 : 1;
2787                 else if (file + margin <= limit)
2788                         ret = mds ? 0 : -1;
2789         } else if (sign < 0) {
2790                 if (file > limit)
2791                         ret = 1;
2792                 else if (mds)
2793                         ret = 0;
2794         }
2795
2796         return negopt ? ~ret + 1 : ret;
2797 }
2798
2799 static inline struct lov_user_md *
2800 lov_comp_entry(struct lov_comp_md_v1 *comp_v1, int ent_idx)
2801 {
2802         return (struct lov_user_md *)((char *)comp_v1 +
2803                         comp_v1->lcm_entries[ent_idx].lcme_offset);
2804 }
2805
2806 static inline struct lov_user_ost_data_v1 *
2807 lov_v1v3_objects(struct lov_user_md *v1)
2808 {
2809         if (v1->lmm_magic == LOV_USER_MAGIC_V3)
2810                 return ((struct lov_user_md_v3 *)v1)->lmm_objects;
2811         else
2812                 return v1->lmm_objects;
2813 }
2814
2815 static inline void
2816 lov_v1v3_pool_name(struct lov_user_md *v1, char *pool_name)
2817 {
2818         if (v1->lmm_magic == LOV_USER_MAGIC_V3)
2819                 strlcpy(pool_name, ((struct lov_user_md_v3 *)v1)->lmm_pool_name,
2820                         LOV_MAXPOOLNAME);
2821         else
2822                 pool_name[0] = '\0';
2823 }
2824
2825 static inline bool
2826 print_last_init_comp(struct find_param *param)
2827 {
2828         /* print all component info */
2829         if ((param->fp_verbose & VERBOSE_DEFAULT) == VERBOSE_DEFAULT)
2830                 return false;
2831
2832         /* print specific component info */
2833         if (param->fp_check_comp_id || param->fp_check_comp_flags ||
2834             param->fp_check_comp_start || param->fp_check_comp_end)
2835                 return false;
2836
2837         return true;
2838 }
2839
2840 static int find_comp_end_cmp(unsigned long long end, struct find_param *param)
2841 {
2842         int match;
2843
2844         if (param->fp_comp_end == LUSTRE_EOF) {
2845                 if (param->fp_comp_end_sign == 0) /* equal to EOF */
2846                         match = end == LUSTRE_EOF ? 1 : -1;
2847                 else if (param->fp_comp_end_sign > 0) /* at most EOF */
2848                         match = end == LUSTRE_EOF ? -1 : 1;
2849                 else /* at least EOF */
2850                         match = -1;
2851                 if (param->fp_exclude_comp_end)
2852                         match = ~match + 1;
2853         } else {
2854                 unsigned long long margin;
2855
2856                 margin = end == LUSTRE_EOF ? 0 : param->fp_comp_end_units;
2857                 match = find_value_cmp(end, param->fp_comp_end,
2858                                        param->fp_comp_end_sign,
2859                                        param->fp_exclude_comp_end, margin, 0);
2860         }
2861
2862         return match;
2863 }
2864
2865 /**
2866  * An example of "getstripe -v" for a two components PFL file:
2867  *
2868  * composite_header:
2869  * lcm_magic:       0x0BD60BD0
2870  * lcm_size:        264
2871  * lcm_flags:       0
2872  * lcm_layout_gen:  2
2873  * lcm_entry_count: 2
2874  * components:
2875  * - lcme_id:             1
2876  *   lcme_flags:          0x10
2877  *   lcme_extent.e_start: 0
2878  *   lcme_extent.e_end:   1048576
2879  *   lcme_offset:         128
2880  *   lcme_size:           56
2881  *   sub_layout:
2882  *     lmm_magic:         0x0BD10BD0
2883  *     lmm_seq:           0x200000401
2884  *     lmm_object_id:     0x1
2885  *     lmm_fid:           [0x200000401:0x1:0x0]
2886  *     lmm_stripe_count:  1
2887  *     lmm_stripe_size:   1048576
2888  *     lmm_pattern:       raid0
2889  *     lmm_layout_gen:    0
2890  *     lmm_stripe_offset: 0
2891  *     lmm_objects:
2892  *     - 0: { l_ost_idx: 0, l_fid: [0x100000000:0x2:0x0] }
2893  *
2894  * - lcme_id:             2
2895  *   lcme_flags:          0x10
2896  *   lcme_extent.e_start: 1048576
2897  *   lcme_extent.e_end:   EOF
2898  *   lcme_offset:         184
2899  *   lcme_size:           80
2900  *     sub_layout:
2901  *     lmm_magic:         0x0BD10BD0
2902  *     lmm_seq:           0x200000401
2903  *     lmm_object_id:     0x1
2904  *     lmm_fid:           [0x200000401:0x1:0x0]
2905  *     lmm_stripe_count:  2
2906  *     lmm_stripe_size:   1048576
2907  *     lmm_pattern:       raid0
2908  *     lmm_layout_gen:    0
2909  *     lmm_stripe_offset: 1
2910  *     lmm_objects:
2911  *     - 0: { l_ost_idx: 1, l_fid: [0x100010000:0x2:0x0] }
2912  *     - 1: { l_ost_idx: 0, l_fid: [0x100000000:0x3:0x0] }
2913  */
2914 static void lov_dump_comp_v1(struct find_param *param, char *path,
2915                              enum lov_dump_flags flags)
2916 {
2917         struct lov_comp_md_entry_v1 *entry;
2918         struct lov_user_ost_data_v1 *objects;
2919         struct lov_comp_md_v1 *comp_v1 = (void *)&param->fp_lmd->lmd_lmm;
2920         struct lov_user_md_v1 *v1;
2921         char pool_name[LOV_MAXPOOLNAME + 1];
2922         int obdindex = param->fp_obd_index;
2923         int i, j, match, obdstripe = 0;
2924
2925         if (obdindex != OBD_NOT_FOUND) {
2926                 for (i = 0; !(flags & LDF_IS_DIR) &&
2927                             i < comp_v1->lcm_entry_count; i++) {
2928                         if (!(comp_v1->lcm_entries[i].lcme_flags &
2929                               LCME_FL_INIT))
2930                                 continue;
2931
2932                         v1 = lov_comp_entry(comp_v1, i);
2933                         objects = lov_v1v3_objects(v1);
2934
2935                         for (j = 0; j < v1->lmm_stripe_count; j++) {
2936                                 if (obdindex == objects[j].l_ost_idx) {
2937                                         obdstripe = 1;
2938                                         break;
2939                                 }
2940                         }
2941                 }
2942         } else {
2943                 obdstripe = 1;
2944         }
2945
2946         if (obdstripe == 0)
2947                 return;
2948
2949         lov_dump_comp_v1_header(param, path, flags);
2950
2951         flags |= LDF_INDENT;
2952
2953         for (i = 0; i < comp_v1->lcm_entry_count; i++) {
2954                 entry = &comp_v1->lcm_entries[i];
2955
2956                 if (param->fp_check_comp_flags) {
2957                         if ((param->fp_exclude_comp_flags &&
2958                              (param->fp_comp_flags & entry->lcme_flags)) ||
2959                             (!param->fp_exclude_comp_flags &&
2960                              !(param->fp_comp_flags & entry->lcme_flags)))
2961                                 continue;
2962                 }
2963
2964                 if (param->fp_check_comp_id &&
2965                     param->fp_comp_id != entry->lcme_id)
2966                         continue;
2967
2968                 if (param->fp_check_comp_start) {
2969                         match = find_value_cmp(entry->lcme_extent.e_start,
2970                                                param->fp_comp_start,
2971                                                param->fp_comp_start_sign,
2972                                                0,
2973                                                param->fp_comp_start_units, 0);
2974                         if (match == -1)
2975                                 continue;
2976                 }
2977
2978                 if (param->fp_check_comp_end) {
2979                         match = find_comp_end_cmp(entry->lcme_extent.e_end,
2980                                                   param);
2981                         if (match == -1)
2982                                 continue;
2983                 }
2984
2985                 if (print_last_init_comp(param)) {
2986                         /**
2987                          * if part of stripe info is needed, we'd print only
2988                          * the last instantiated component info.
2989                          */
2990                         if (entry->lcme_flags & LCME_FL_INIT)
2991                                 continue;
2992                         else
2993                                 break;
2994                 }
2995
2996                 if (entry->lcme_flags & LCME_FL_INIT)
2997                         flags &= ~LDF_SKIP_OBJS;
2998                 else
2999                         flags |= LDF_SKIP_OBJS;
3000
3001                 lov_dump_comp_v1_entry(param, flags, i);
3002
3003                 v1 = lov_comp_entry(comp_v1, i);
3004                 objects = lov_v1v3_objects(v1);
3005                 lov_v1v3_pool_name(v1, pool_name);
3006
3007                 lov_dump_user_lmm_v1v3(v1, pool_name, objects, path, obdindex,
3008                                        param->fp_max_depth, param->fp_verbose,
3009                                        flags);
3010         }
3011         if (print_last_init_comp(param)) {
3012                 /**
3013                  * directory layout contains only layout template, print the
3014                  * last component.
3015                  */
3016                 if (i == 0)
3017                         i = comp_v1->lcm_entry_count - 1;
3018                 else
3019                         i--;
3020                 flags &= ~LDF_SKIP_OBJS;
3021
3022                 lov_dump_comp_v1_entry(param, flags, i);
3023
3024                 v1 = lov_comp_entry(comp_v1, i);
3025                 objects = lov_v1v3_objects(v1);
3026                 lov_v1v3_pool_name(v1, pool_name);
3027
3028                 lov_dump_user_lmm_v1v3(v1, pool_name, objects, path, obdindex,
3029                                        param->fp_max_depth, param->fp_verbose,
3030                                        flags);
3031         }
3032 }
3033
3034 #define VERBOSE_COMP_OPTS       (VERBOSE_COMP_COUNT | VERBOSE_COMP_ID | \
3035                                  VERBOSE_COMP_START | VERBOSE_COMP_END | \
3036                                  VERBOSE_COMP_FLAGS)
3037
3038 static inline bool has_any_comp_options(struct find_param *param)
3039 {
3040         int verbose = param->fp_verbose;
3041
3042         if (param->fp_check_comp_id || param->fp_check_comp_count ||
3043             param->fp_check_comp_start || param->fp_check_comp_end ||
3044             param->fp_check_comp_flags)
3045                 return true;
3046
3047         /* show full layout information, not component specific */
3048         if ((verbose & ~VERBOSE_DETAIL) == VERBOSE_DEFAULT)
3049                 return false;
3050
3051         return verbose & VERBOSE_COMP_OPTS;
3052 }
3053
3054 struct lov_user_mds_data *lov_forge_comp_v1(struct lov_user_mds_data *orig,
3055                                             bool is_dir)
3056 {
3057         struct lov_user_md *lum = &orig->lmd_lmm;
3058         struct lov_user_mds_data *new;
3059         struct lov_comp_md_v1 *comp_v1;
3060         struct lov_comp_md_entry_v1 *ent;
3061         int lum_off = sizeof(*comp_v1) + sizeof(*ent);
3062         int lum_size = lov_user_md_size(is_dir ? 0 : lum->lmm_stripe_count,
3063                                         lum->lmm_magic);
3064
3065         new = malloc(sizeof(lstat_t) + lum_off + lum_size);
3066         if (new == NULL) {
3067                 llapi_printf(LLAPI_MSG_NORMAL, "out of memory\n");
3068                 return new;
3069         }
3070
3071         memcpy(new, orig, sizeof(lstat_t));
3072
3073         comp_v1 = (struct lov_comp_md_v1 *)&new->lmd_lmm;
3074         comp_v1->lcm_magic = lum->lmm_magic;
3075         comp_v1->lcm_size = lum_off + lum_size;
3076         comp_v1->lcm_layout_gen = is_dir ? 0 : lum->lmm_layout_gen;
3077         comp_v1->lcm_flags = 0;
3078         comp_v1->lcm_entry_count = 1;
3079
3080         ent = &comp_v1->lcm_entries[0];
3081         ent->lcme_id = 0;
3082         ent->lcme_flags = is_dir ? 0 : LCME_FL_INIT;
3083         ent->lcme_extent.e_start = 0;
3084         ent->lcme_extent.e_end = LUSTRE_EOF;
3085         ent->lcme_offset = lum_off;
3086         ent->lcme_size = lum_size;
3087
3088         memcpy((char *)comp_v1 + lum_off, lum, lum_size);
3089
3090         return new;
3091 }
3092
3093 static void lov_dump_plain_user_lmm(struct find_param *param, char *path,
3094                                     enum lov_dump_flags flags)
3095 {
3096         __u32 magic = *(__u32 *)&param->fp_lmd->lmd_lmm;
3097
3098         if (has_any_comp_options(param)) {
3099                 struct lov_user_mds_data *new_lmd, *orig_lmd;
3100
3101                 orig_lmd = param->fp_lmd;
3102                 new_lmd = lov_forge_comp_v1(orig_lmd, flags & LDF_IS_DIR);
3103                 if (new_lmd != NULL) {
3104                         param->fp_lmd = new_lmd;
3105                         lov_dump_comp_v1(param, path, flags);
3106                         param->fp_lmd = orig_lmd;
3107                         free(new_lmd);
3108                 }
3109                 return;
3110         }
3111
3112         if (magic == LOV_USER_MAGIC_V1) {
3113                 lov_dump_user_lmm_v1v3(&param->fp_lmd->lmd_lmm, NULL,
3114                                        param->fp_lmd->lmd_lmm.lmm_objects,
3115                                        path, param->fp_obd_index,
3116                                        param->fp_max_depth, param->fp_verbose,
3117                                        flags);
3118         } else {
3119                 char pool_name[LOV_MAXPOOLNAME + 1];
3120                 struct lov_user_ost_data_v1 *objects;
3121                 struct lov_user_md_v3 *lmmv3 = (void *)&param->fp_lmd->lmd_lmm;
3122
3123                 strlcpy(pool_name, lmmv3->lmm_pool_name, sizeof(pool_name));
3124                 objects = lmmv3->lmm_objects;
3125                 lov_dump_user_lmm_v1v3(&param->fp_lmd->lmd_lmm, pool_name,
3126                                        objects, path, param->fp_obd_index,
3127                                        param->fp_max_depth, param->fp_verbose,
3128                                        flags);
3129         }
3130 }
3131
3132 static void llapi_lov_dump_user_lmm(struct find_param *param, char *path,
3133                                     enum lov_dump_flags flags)
3134 {
3135         __u32 magic;
3136
3137         if (param->fp_get_lmv || param->fp_get_default_lmv)
3138                 magic = (__u32)param->fp_lmv_md->lum_magic;
3139         else
3140                 magic = *(__u32 *)&param->fp_lmd->lmd_lmm; /* lum->lmm_magic */
3141
3142         if (param->fp_raw)
3143                 flags |= LDF_IS_RAW;
3144         if (param->fp_yaml)
3145                 flags |= LDF_YAML;
3146
3147         switch (magic) {
3148         case LOV_USER_MAGIC_V1:
3149         case LOV_USER_MAGIC_V3:
3150                 lov_dump_plain_user_lmm(param, path, flags);
3151                 break;
3152         case LMV_MAGIC_V1:
3153         case LMV_USER_MAGIC: {
3154                 char pool_name[LOV_MAXPOOLNAME + 1];
3155                 struct lmv_user_md *lum;
3156
3157                 lum = (struct lmv_user_md *)param->fp_lmv_md;
3158                 strlcpy(pool_name, lum->lum_pool_name, sizeof(pool_name));
3159                 lmv_dump_user_lmm(lum, pool_name, path, param->fp_obd_index,
3160                                   param->fp_max_depth, param->fp_verbose,
3161                                   flags);
3162                 break;
3163         }
3164         case LOV_USER_MAGIC_COMP_V1:
3165                 lov_dump_comp_v1(param, path, flags);
3166                 break;
3167         default:
3168                 llapi_printf(LLAPI_MSG_NORMAL, "unknown lmm_magic:  %#x "
3169                              "(expecting one of %#x %#x %#x %#x)\n",
3170                              *(__u32 *)&param->fp_lmd->lmd_lmm,
3171                              LOV_USER_MAGIC_V1, LOV_USER_MAGIC_V3,
3172                              LMV_USER_MAGIC, LMV_MAGIC_V1);
3173                 return;
3174         }
3175 }
3176
3177 int llapi_file_get_stripe(const char *path, struct lov_user_md *lum)
3178 {
3179         const char *fname;
3180         char *dname;
3181         int fd, rc = 0;
3182
3183         fname = strrchr(path, '/');
3184
3185         /* It should be a file (or other non-directory) */
3186         if (fname == NULL) {
3187                 dname = (char *)malloc(2);
3188                 if (dname == NULL)
3189                         return -ENOMEM;
3190                 strcpy(dname, ".");
3191                 fname = (char *)path;
3192         } else {
3193                 dname = (char *)malloc(fname - path + 1);
3194                 if (dname == NULL)
3195                         return -ENOMEM;
3196                 strncpy(dname, path, fname - path);
3197                 dname[fname - path] = '\0';
3198                 fname++;
3199         }
3200
3201         fd = open(dname, O_RDONLY | O_NONBLOCK);
3202         if (fd == -1) {
3203                 rc = -errno;
3204                 free(dname);
3205                 return rc;
3206         }
3207
3208         strcpy((char *)lum, fname);
3209         if (ioctl(fd, IOC_MDC_GETFILESTRIPE, (void *)lum) == -1)
3210                 rc = -errno;
3211
3212         if (close(fd) == -1 && rc == 0)
3213                 rc = -errno;
3214
3215         free(dname);
3216         return rc;
3217 }
3218
3219 int llapi_file_lookup(int dirfd, const char *name)
3220 {
3221         struct obd_ioctl_data data = { 0 };
3222         char rawbuf[8192];
3223         char *buf = rawbuf;
3224         int rc;
3225
3226         if (dirfd < 0 || name == NULL)
3227                 return -EINVAL;
3228
3229         data.ioc_version = OBD_IOCTL_VERSION;
3230         data.ioc_len = sizeof(data);
3231         data.ioc_inlbuf1 = (char *)name;
3232         data.ioc_inllen1 = strlen(name) + 1;
3233
3234         rc = obd_ioctl_pack(&data, &buf, sizeof(rawbuf));
3235         if (rc) {
3236                 llapi_error(LLAPI_MSG_ERROR, rc,
3237                             "error: IOC_MDC_LOOKUP pack failed for '%s': rc %d",
3238                             name, rc);
3239                 return rc;
3240         }
3241
3242         rc = ioctl(dirfd, IOC_MDC_LOOKUP, buf);
3243         if (rc < 0)
3244                 rc = -errno;
3245         return rc;
3246 }
3247
3248 /* Check if the file time matches all the given criteria (e.g. --atime +/-N).
3249  * Return -1 or 1 if file timestamp does not or does match the given criteria
3250  * correspondingly. Return 0 if the MDS time is being checked and there are
3251  * attributes on OSTs and it is not yet clear if the timespamp matches.
3252  *
3253  * If 0 is returned, we need to do another RPC to the OSTs to obtain the
3254  * updated timestamps. */
3255 static int find_time_check(lstat_t *st, struct find_param *param, int mds)
3256 {
3257         int rc = 1;
3258         int rc2;
3259
3260         /* Check if file is accepted. */
3261         if (param->fp_atime) {
3262                 rc2 = find_value_cmp(st->st_atime, param->fp_atime,
3263                                      param->fp_asign, param->fp_exclude_atime,
3264                                      24 * 60 * 60, mds);
3265                 if (rc2 < 0)
3266                         return rc2;
3267                 rc = rc2;
3268         }
3269
3270         if (param->fp_mtime) {
3271                 rc2 = find_value_cmp(st->st_mtime, param->fp_mtime,
3272                                      param->fp_msign, param->fp_exclude_mtime,
3273                                      24 * 60 * 60, mds);
3274                 if (rc2 < 0)
3275                         return rc2;
3276
3277                 /* If the previous check matches, but this one is not yet clear,
3278                  * we should return 0 to do an RPC on OSTs. */
3279                 if (rc == 1)
3280                         rc = rc2;
3281         }
3282
3283         if (param->fp_ctime) {
3284                 rc2 = find_value_cmp(st->st_ctime, param->fp_ctime,
3285                                      param->fp_csign, param->fp_exclude_ctime,
3286                                      24 * 60 * 60, mds);
3287                 if (rc2 < 0)
3288                         return rc2;
3289
3290                 /* If the previous check matches, but this one is not yet clear,
3291                  * we should return 0 to do an RPC on OSTs. */
3292                 if (rc == 1)
3293                         rc = rc2;
3294         }
3295
3296         return rc;
3297 }
3298
3299 /**
3300  * Check whether the stripes matches the indexes user provided
3301  *       1   : matched
3302  *       0   : Unmatched
3303  */
3304 static int check_obd_match(struct find_param *param)
3305 {
3306         struct lov_user_ost_data_v1 *objects;
3307         struct lov_comp_md_v1 *comp_v1 = NULL;
3308         struct lov_user_md_v1 *v1 = &param->fp_lmd->lmd_lmm;
3309         lstat_t *st = &param->fp_lmd->lmd_st;
3310         int i, j, k, count = 1;
3311
3312         if (param->fp_obd_uuid && param->fp_obd_index == OBD_NOT_FOUND)
3313                 return 0;
3314
3315         if (!S_ISREG(st->st_mode))
3316                 return 0;
3317
3318         /* Only those files should be accepted, which have a
3319          * stripe on the specified OST. */
3320         if (v1->lmm_magic == LOV_USER_MAGIC_COMP_V1) {
3321                 comp_v1 = (struct lov_comp_md_v1 *)v1;
3322                 count = comp_v1->lcm_entry_count;
3323         }
3324
3325         for (i = 0; i < count; i++) {
3326                 if (comp_v1)
3327                         v1 = lov_comp_entry(comp_v1, i);
3328
3329                 objects = lov_v1v3_objects(v1);
3330
3331                 for (j = 0; j < v1->lmm_stripe_count; j++) {
3332                         for (k = 0; k < param->fp_num_obds; k++) {
3333                                 if (param->fp_obd_indexes[k] ==
3334                                     objects[j].l_ost_idx)
3335                                         return !param->fp_exclude_obd;
3336                         }
3337                 }
3338         }
3339
3340         return param->fp_exclude_obd;
3341 }
3342
3343 static int check_mdt_match(struct find_param *param)
3344 {
3345         int i;
3346
3347         if (param->fp_mdt_uuid && param->fp_mdt_index == OBD_NOT_FOUND)
3348                 return 0;
3349
3350         /* FIXME: For striped dir, we should get stripe information and check */
3351         for (i = 0; i < param->fp_num_mdts; i++) {
3352                 if (param->fp_mdt_indexes[i] == param->fp_file_mdt_index)
3353                         return !param->fp_exclude_mdt;
3354         }
3355
3356         if (param->fp_exclude_mdt)
3357                 return 1;
3358
3359         return 0;
3360 }
3361
3362 /**
3363  * Check whether the obd is active or not, if it is
3364  * not active, just print the object affected by this
3365  * failed target
3366  **/
3367 static int print_failed_tgt(struct find_param *param, char *path, int type)
3368 {
3369         struct obd_statfs stat_buf;
3370         struct obd_uuid uuid_buf;
3371         int ret;
3372
3373         if (type != LL_STATFS_LOV && type != LL_STATFS_LMV)
3374                 return -EINVAL;
3375
3376         memset(&stat_buf, 0, sizeof(struct obd_statfs));
3377         memset(&uuid_buf, 0, sizeof(struct obd_uuid));
3378         ret = llapi_obd_statfs(path, type,
3379                                param->fp_obd_index, &stat_buf,
3380                                &uuid_buf);
3381         if (ret) {
3382                 llapi_printf(LLAPI_MSG_NORMAL,
3383                              "obd_uuid: %s failed %s ",
3384                              param->fp_obd_uuid->uuid,
3385                              strerror(errno));
3386         }
3387
3388         return ret;
3389 }
3390
3391 static int find_check_stripe_size(struct find_param *param)
3392 {
3393         struct lov_comp_md_v1 *comp_v1 = NULL;
3394         struct lov_user_md_v1 *v1 = &param->fp_lmd->lmd_lmm;
3395         int ret, i, count = 1;
3396
3397         if (v1->lmm_magic == LOV_USER_MAGIC_COMP_V1) {
3398                 comp_v1 = (struct lov_comp_md_v1 *)v1;
3399                 count = comp_v1->lcm_entry_count;
3400                 ret = param->fp_exclude_stripe_size ? 1 : -1;
3401         }
3402
3403         for (i = 0; i < count; i++) {
3404                 if (comp_v1)
3405                         v1 = lov_comp_entry(comp_v1, i);
3406
3407                 ret = find_value_cmp(v1->lmm_stripe_size, param->fp_stripe_size,
3408                                      param->fp_stripe_size_sign,
3409                                      param->fp_exclude_stripe_size,
3410                                      param->fp_stripe_size_units, 0);
3411                 /* If any stripe_size matches */
3412                 if (ret != -1)
3413                         break;
3414         }
3415
3416         return ret;
3417 }
3418
3419 static __u32 find_get_stripe_count(struct find_param *param)
3420 {
3421         struct lov_comp_md_v1 *comp_v1 = NULL;
3422         struct lov_user_md_v1 *v1 = &param->fp_lmd->lmd_lmm;
3423         int i, count = 1;
3424         __u32 stripe_count = 0;
3425
3426         if (v1->lmm_magic == LOV_USER_MAGIC_COMP_V1) {
3427                 comp_v1 = (struct lov_comp_md_v1 *)v1;
3428                 count = comp_v1->lcm_entry_count;
3429         }
3430
3431         for (i = 0; i < count; i++) {
3432                 if (comp_v1)
3433                         v1 = lov_comp_entry(comp_v1, i);
3434                 stripe_count += v1->lmm_stripe_count;
3435         }
3436
3437         return stripe_count;
3438 }
3439
3440 #define LOV_PATTERN_INVALID     0xFFFFFFFF
3441
3442 static int find_check_layout(struct find_param *param)
3443 {
3444         struct lov_comp_md_v1 *comp_v1 = NULL;
3445         struct lov_user_md_v1 *v1 = &param->fp_lmd->lmd_lmm;
3446         int i, count = 1;
3447         bool found = false, valid = false;
3448
3449         if (v1->lmm_magic == LOV_USER_MAGIC_COMP_V1) {
3450                 comp_v1 = (struct lov_comp_md_v1 *)v1;
3451                 count = comp_v1->lcm_entry_count;
3452         }
3453
3454         for (i = 0; i < count; i++) {
3455                 if (comp_v1)
3456                         v1 = lov_comp_entry(comp_v1, i);
3457
3458                 if (v1->lmm_pattern == LOV_PATTERN_INVALID)
3459                         continue;
3460
3461                 valid = true;
3462                 if (v1->lmm_pattern & param->fp_layout) {
3463                         found = true;
3464                         break;
3465                 }
3466         }
3467
3468         if (!valid)
3469                 return -1;
3470
3471         if ((found && !param->fp_exclude_layout) ||
3472             (!found && param->fp_exclude_layout))
3473                 return 1;
3474
3475         return -1;
3476 }
3477
3478 static int find_check_pool(struct find_param *param)
3479 {
3480         struct lov_comp_md_v1 *comp_v1 = NULL;
3481         struct lov_user_md_v1 *v1 = &param->fp_lmd->lmd_lmm;
3482         struct lov_user_md_v3 *v3 = (void *)v1;
3483         int i, count = 1;
3484         bool found = false;
3485
3486         if (v1->lmm_magic == LOV_USER_MAGIC_COMP_V1) {
3487                 comp_v1 = (struct lov_comp_md_v1 *)v1;
3488                 count = comp_v1->lcm_entry_count;
3489                 /* empty requested pool is taken as no pool search */
3490                 if (count == 0 && param->fp_poolname[0] == '\0')
3491                         found = true;
3492         }
3493
3494         for (i = 0; i < count; i++) {
3495                 if (comp_v1 != NULL)
3496                         v1 = lov_comp_entry(comp_v1, i);
3497
3498                 if (((v1->lmm_magic == LOV_USER_MAGIC_V1) &&
3499                      (param->fp_poolname[0] == '\0')) ||
3500                     ((v1->lmm_magic == LOV_USER_MAGIC_V3) &&
3501                      (strncmp(v3->lmm_pool_name,
3502                               param->fp_poolname, LOV_MAXPOOLNAME) == 0)) ||
3503                     ((v1->lmm_magic == LOV_USER_MAGIC_V3) &&
3504                      (strcmp(param->fp_poolname, "*") == 0))) {
3505                         found = true;
3506                         break;
3507                 }
3508         }
3509
3510         if ((found && !param->fp_exclude_pool) ||
3511             (!found && param->fp_exclude_pool))
3512                 return 1;
3513
3514         return -1;
3515 }
3516
3517 static int find_check_comp_options(struct find_param *param)
3518 {
3519         lstat_t *st = &param->fp_lmd->lmd_st;
3520         struct lov_comp_md_v1 *comp_v1, *forged_v1 = NULL;
3521         struct lov_user_md_v1 *v1 = &param->fp_lmd->lmd_lmm;
3522         struct lov_comp_md_entry_v1 *entry;
3523         int i, ret = 0;
3524
3525         if (v1->lmm_magic == LOV_USER_MAGIC_COMP_V1) {
3526                 comp_v1 = (struct lov_comp_md_v1 *)v1;
3527         } else {
3528                 forged_v1 = malloc(sizeof(*forged_v1) + sizeof(*entry));
3529                 if (forged_v1 == NULL)
3530                         return -1;
3531                 comp_v1 = forged_v1;
3532                 comp_v1->lcm_entry_count = 1;
3533                 entry = &comp_v1->lcm_entries[0];
3534                 entry->lcme_flags = S_ISDIR(st->st_mode) ? 0 : LCME_FL_INIT;
3535                 entry->lcme_extent.e_start = 0;
3536                 entry->lcme_extent.e_end = LUSTRE_EOF;
3537         }
3538
3539         /* invalid case, don't match for any kind of search. */
3540         if (comp_v1->lcm_entry_count == 0) {
3541                 ret = -1;
3542                 goto out;
3543         }
3544
3545         if (param->fp_check_comp_count) {
3546                 ret = find_value_cmp(forged_v1 ? 0 : comp_v1->lcm_entry_count,
3547                                      param->fp_comp_count,
3548                                      param->fp_comp_count_sign,
3549                                      param->fp_exclude_comp_count, 1, 0);
3550                 if (ret == -1)
3551                         goto out;
3552         }
3553
3554         ret = 1;
3555         for (i = 0; i < comp_v1->lcm_entry_count; i++) {
3556                 entry = &comp_v1->lcm_entries[i];
3557
3558                 if (param->fp_check_comp_flags) {
3559                         if (((entry->lcme_flags & param->fp_comp_flags) &&
3560                              param->fp_exclude_comp_flags) ||
3561                             (!(entry->lcme_flags & param->fp_comp_flags) &&
3562                              !param->fp_exclude_comp_flags))
3563                                 ret = -1;
3564                         else
3565                                 ret = 1;
3566
3567                         if (ret == -1)
3568                                 continue;
3569                 }
3570
3571                 if (param->fp_check_comp_start) {
3572                         ret = find_value_cmp(entry->lcme_extent.e_start,
3573                                              param->fp_comp_start,
3574                                              param->fp_comp_start_sign,
3575                                              param->fp_exclude_comp_start,
3576                                              param->fp_comp_start_units, 0);
3577                         if (ret == -1)
3578                                 continue;
3579                 }
3580
3581                 if (param->fp_check_comp_end) {
3582                         ret = find_comp_end_cmp(entry->lcme_extent.e_end,
3583                                                 param);
3584                         if (ret == -1)
3585                                 continue;
3586                 }
3587
3588                 /* the component matches all criteria */
3589                 break;
3590         }
3591 out:
3592         if (forged_v1 != NULL)
3593                 free(forged_v1);
3594         return ret;
3595 }
3596
3597 static bool find_check_lmm_info(struct find_param *param)
3598 {
3599         return param->fp_check_pool || param->fp_check_stripe_count ||
3600                param->fp_check_stripe_size || param->fp_check_layout ||
3601                param->fp_check_comp_count || param->fp_check_comp_end ||
3602                param->fp_check_comp_start || param->fp_check_comp_flags ||
3603                param->fp_check_projid;
3604 }
3605
3606 /*
3607  * Get file/directory project id.
3608  * by the open fd resides on.
3609  * Return 0 and project id on success, or -ve errno.
3610  */
3611 static int fget_projid(int fd, int *projid)
3612 {
3613         struct fsxattr fsx;
3614         int rc;
3615
3616         rc = ioctl(fd, LL_IOC_FSGETXATTR, &fsx);
3617         if (rc)
3618                 return -errno;
3619
3620         *projid = fsx.fsx_projid;
3621         return 0;
3622 }
3623
3624 static int cb_find_init(char *path, DIR *parent, DIR **dirp,
3625                         void *data, struct dirent64 *de)
3626 {
3627         struct find_param *param = (struct find_param *)data;
3628         DIR *dir = dirp == NULL ? NULL : *dirp;
3629         int decision = 1; /* 1 is accepted; -1 is rejected. */
3630         lstat_t *st = &param->fp_lmd->lmd_st;
3631         int lustre_fs = 1;
3632         int checked_type = 0;
3633         int ret = 0;
3634         __u32 stripe_count = 0;
3635         int fd = -2;
3636
3637         if (parent == NULL && dir == NULL)
3638                 return -EINVAL;
3639
3640         /* If a regular expression is presented, make the initial decision */
3641         if (param->fp_pattern != NULL) {
3642                 char *fname = strrchr(path, '/');
3643                 fname = (fname == NULL ? path : fname + 1);
3644                 ret = fnmatch(param->fp_pattern, fname, 0);
3645                 if ((ret == FNM_NOMATCH && !param->fp_exclude_pattern) ||
3646                     (ret == 0 && param->fp_exclude_pattern))
3647                         goto decided;
3648         }
3649
3650         /* See if we can check the file type from the dirent. */
3651         if (param->fp_type != 0 && de != NULL && de->d_type != DT_UNKNOWN) {
3652                 checked_type = 1;
3653
3654                 if (DTTOIF(de->d_type) == param->fp_type) {
3655                         if (param->fp_exclude_type)
3656                                 goto decided;
3657                 } else {
3658                         if (!param->fp_exclude_type)
3659                                 goto decided;
3660                 }
3661         }
3662
3663         ret = 0;
3664
3665         /* Request MDS for the stat info if some of these parameters need
3666          * to be compared. */
3667         if (param->fp_obd_uuid || param->fp_mdt_uuid ||
3668             param->fp_check_uid || param->fp_check_gid ||
3669             param->fp_atime || param->fp_mtime || param->fp_ctime ||
3670             param->fp_check_size || find_check_lmm_info(param) ||
3671             param->fp_check_mdt_count || param->fp_check_hash_type)
3672                 decision = 0;
3673
3674         if (param->fp_type != 0 && checked_type == 0)
3675                 decision = 0;
3676
3677         if (decision == 0) {
3678                 if (param->fp_check_mdt_count || param->fp_check_hash_type) {
3679                         param->fp_get_lmv = 1;
3680                         ret = cb_get_dirstripe(path, dir, param);
3681                         if (ret != 0)
3682                                 return ret;
3683                 }
3684
3685                 param->fp_lmd->lmd_lmm.lmm_magic = 0;
3686                 ret = get_lmd_info(path, parent, dir, param->fp_lmd,
3687                                    param->fp_lum_size);
3688                 if (ret == 0 && param->fp_lmd->lmd_lmm.lmm_magic == 0 &&
3689                     find_check_lmm_info(param)) {
3690                         struct lov_user_md *lmm = &param->fp_lmd->lmd_lmm;
3691
3692                         /* We need to "fake" the "use the default" values
3693                          * since the lmm struct is zeroed out at this point. */
3694                         lmm->lmm_magic = LOV_USER_MAGIC_V1;
3695                         lmm->lmm_pattern = LOV_PATTERN_DEFAULT;
3696                         if (!param->fp_raw)
3697                                 ostid_set_seq(&lmm->lmm_oi,
3698                                               FID_SEQ_LOV_DEFAULT);
3699                         lmm->lmm_stripe_size = 0;
3700                         lmm->lmm_stripe_count = 0;
3701                         lmm->lmm_stripe_offset = -1;
3702                 }
3703                 if (ret == 0 && param->fp_mdt_uuid != NULL) {
3704                         if (dir != NULL) {
3705                                 ret = llapi_file_fget_mdtidx(dirfd(dir),
3706                                                      &param->fp_file_mdt_index);
3707                         } else if (S_ISREG(st->st_mode)) {
3708                                 /* FIXME: we could get the MDT index from the
3709                                  * file's FID in lmd->lmd_lmm.lmm_oi without
3710                                  * opening the file, once we are sure that
3711                                  * LFSCK2 (2.6) has fixed up pre-2.0 LOV EAs.
3712                                  * That would still be an ioctl() to map the
3713                                  * FID to the MDT, but not an open RPC. */
3714                                 fd = open(path, O_RDONLY);
3715                                 if (fd > 0) {
3716                                         ret = llapi_file_fget_mdtidx(fd,
3717                                                      &param->fp_file_mdt_index);
3718                                 } else {
3719                                         ret = -errno;
3720                                 }
3721                         } else {
3722                                 /* For a special file, we assume it resides on
3723                                  * the same MDT as the parent directory. */
3724                                 ret = llapi_file_fget_mdtidx(dirfd(parent),
3725                                                      &param->fp_file_mdt_index);
3726                         }
3727                 }
3728                 if (ret != 0) {
3729                         if (ret == -ENOTTY)
3730                                 lustre_fs = 0;
3731                         if (ret == -ENOENT)
3732                                 goto decided;
3733
3734                         goto out;
3735                 } else {
3736                         stripe_count = find_get_stripe_count(param);
3737                 }
3738         }
3739
3740         if (param->fp_type && !checked_type) {
3741                 if ((st->st_mode & S_IFMT) == param->fp_type) {
3742                         if (param->fp_exclude_type)
3743                                 goto decided;
3744                 } else {
3745                         if (!param->fp_exclude_type)
3746                                 goto decided;
3747                 }
3748         }
3749
3750         /* Prepare odb. */
3751         if (param->fp_obd_uuid || param->fp_mdt_uuid) {
3752                 if (lustre_fs && param->fp_got_uuids &&
3753                     param->fp_dev != st->st_dev) {
3754                         /* A lustre/lustre mount point is crossed. */
3755                         param->fp_got_uuids = 0;
3756                         param->fp_obds_printed = 0;
3757                         param->fp_mdt_index = OBD_NOT_FOUND;
3758                         param->fp_obd_index = OBD_NOT_FOUND;
3759                 }
3760
3761                 if (lustre_fs && !param->fp_got_uuids) {
3762                         ret = setup_target_indexes(dir ? dir : parent, path,
3763                                                    param);
3764                         if (ret)
3765                                 goto out;
3766
3767                         param->fp_dev = st->st_dev;
3768                 } else if (!lustre_fs && param->fp_got_uuids) {
3769                         /* A lustre/non-lustre mount point is crossed. */
3770                         param->fp_got_uuids = 0;
3771                         param->fp_mdt_index = OBD_NOT_FOUND;
3772                         param->fp_obd_index = OBD_NOT_FOUND;
3773                 }
3774         }
3775
3776         if (param->fp_check_stripe_size) {
3777                 decision = find_check_stripe_size(param);
3778                 if (decision == -1)
3779                         goto decided;
3780         }
3781
3782         if (param->fp_check_stripe_count) {
3783                 decision = find_value_cmp(stripe_count, param->fp_stripe_count,
3784                                           param->fp_stripe_count_sign,
3785                                           param->fp_exclude_stripe_count, 1, 0);
3786                 if (decision == -1)
3787                         goto decided;
3788         }
3789
3790         if (param->fp_check_mdt_count) {
3791                 decision = find_value_cmp(
3792                                 param->fp_lmv_md->lum_stripe_count,
3793                                 param->fp_mdt_count,
3794                                 param->fp_mdt_count_sign,
3795                                 param->fp_exclude_mdt_count, 1, 0);
3796                 if (decision == -1)
3797                         goto decided;
3798         }
3799
3800         if (param->fp_check_layout) {
3801                 decision = find_check_layout(param);
3802                 if (decision == -1)
3803                         goto decided;
3804         }
3805
3806         if (param->fp_check_hash_type) {
3807                 __u32 found;
3808
3809                 found = param->fp_lmv_md->lum_hash_type & param->fp_hash_type;
3810                 if ((found && param->fp_exclude_hash_type) ||
3811                     (!found && !param->fp_exclude_hash_type)) {
3812                         decision = -1;
3813                         goto decided;
3814                 }
3815         }
3816
3817         /* If an OBD UUID is specified but none matches, skip this file. */
3818         if ((param->fp_obd_uuid && param->fp_obd_index == OBD_NOT_FOUND) ||
3819             (param->fp_mdt_uuid && param->fp_mdt_index == OBD_NOT_FOUND))
3820                 goto decided;
3821
3822         /* If an OST or MDT UUID is given, and some OST matches,
3823          * check it here. */
3824         if (param->fp_obd_index != OBD_NOT_FOUND ||
3825             param->fp_mdt_index != OBD_NOT_FOUND) {
3826                 if (param->fp_obd_uuid) {
3827                         if (check_obd_match(param)) {
3828                                 /* If no mdtuuid is given, we are done.
3829                                  * Otherwise, fall through to the mdtuuid
3830                                  * check below. */
3831                                 if (!param->fp_mdt_uuid)
3832                                         goto obd_matches;
3833                         } else {
3834                                 goto decided;
3835                         }
3836                 }
3837
3838                 if (param->fp_mdt_uuid) {
3839                         if (check_mdt_match(param))
3840                                 goto obd_matches;
3841                         goto decided;
3842                 }
3843         }
3844
3845 obd_matches:
3846         if (param->fp_check_uid) {
3847                 if (st->st_uid == param->fp_uid) {
3848                         if (param->fp_exclude_uid)
3849                                 goto decided;
3850                 } else {
3851                         if (!param->fp_exclude_uid)
3852                                 goto decided;
3853                 }
3854         }
3855
3856         if (param->fp_check_gid) {
3857                 if (st->st_gid == param->fp_gid) {
3858                         if (param->fp_exclude_gid)
3859                                 goto decided;
3860                 } else {
3861                         if (!param->fp_exclude_gid)
3862                                 goto decided;
3863                 }
3864         }
3865
3866         if (param->fp_check_projid) {
3867                 int projid = 0;
3868
3869                 if (fd == -2)
3870                         fd = open(path, O_RDONLY);
3871
3872                 if (fd > 0)
3873                         ret = fget_projid(fd, &projid);
3874                 else
3875                         ret = -errno;
3876                 if (ret)
3877                         goto out;
3878                 if (projid == param->fp_projid) {
3879                         if (param->fp_exclude_uid)
3880                                 goto decided;
3881                 } else {
3882                         if (!param->fp_exclude_projid)
3883                                 goto decided;
3884                 }
3885         }
3886
3887         if (param->fp_check_pool) {
3888                 decision = find_check_pool(param);
3889                 if (decision == -1)
3890                         goto decided;
3891         }
3892
3893         if (param->fp_check_comp_count || param->fp_check_comp_flags ||
3894             param->fp_check_comp_start || param->fp_check_comp_end) {
3895                 decision = find_check_comp_options(param);
3896                 if (decision == -1)
3897                         goto decided;
3898         }
3899
3900         /* Check the time on mds. */
3901         decision = 1;
3902         if (param->fp_atime || param->fp_mtime || param->fp_ctime) {
3903                 int for_mds;
3904
3905                 for_mds = lustre_fs ?
3906                         (S_ISREG(st->st_mode) && stripe_count) : 0;
3907                 decision = find_time_check(st, param, for_mds);
3908                 if (decision == -1)
3909                         goto decided;
3910         }
3911
3912         /* If file still fits the request, ask ost for updated info.
3913            The regular stat is almost of the same speed as some new
3914            'glimpse-size-ioctl'. */
3915
3916         if (param->fp_check_size && S_ISREG(st->st_mode) && stripe_count)
3917                 decision = 0;
3918
3919         if (param->fp_check_size && S_ISDIR(st->st_mode))
3920                 decision = 0;
3921
3922         if (!decision) {
3923                 /* For regular files with the stripe the decision may have not
3924                  * been taken yet if *time or size is to be checked. */
3925                 if (param->fp_obd_index != OBD_NOT_FOUND)
3926                         print_failed_tgt(param, path, LL_STATFS_LOV);
3927
3928                 if (param->fp_mdt_index != OBD_NOT_FOUND)
3929                         print_failed_tgt(param, path, LL_STATFS_LMV);
3930
3931                 if (dir != NULL)
3932                         ret = fstat_f(dirfd(dir), st);
3933                 else if (de != NULL)
3934                         ret = fstatat_f(dirfd(parent), de->d_name, st,
3935                                         AT_SYMLINK_NOFOLLOW);
3936                 else
3937                         ret = lstat_f(path, st);
3938
3939                 if (ret) {
3940                         if (errno == ENOENT) {
3941                                 llapi_error(LLAPI_MSG_ERROR, -ENOENT,
3942                                             "warning: %s: %s does not exist",
3943                                             __func__, path);
3944                                 goto decided;
3945                         } else {
3946                                 ret = -errno;
3947                                 llapi_error(LLAPI_MSG_ERROR, ret,
3948                                             "%s: IOC_LOV_GETINFO on %s failed",
3949                                             __func__, path);
3950                                 goto out;
3951                         }
3952                 }
3953
3954                 /* Check the time on osc. */
3955                 decision = find_time_check(st, param, 0);
3956                 if (decision == -1)
3957                         goto decided;
3958         }
3959
3960         if (param->fp_check_size)
3961                 decision = find_value_cmp(st->st_size, param->fp_size,
3962                                           param->fp_size_sign,
3963                                           param->fp_exclude_size,
3964                                           param->fp_size_units, 0);
3965
3966         if (decision != -1) {
3967                 llapi_printf(LLAPI_MSG_NORMAL, "%s", path);
3968                 if (param->fp_zero_end)
3969                         llapi_printf(LLAPI_MSG_NORMAL, "%c", '\0');
3970                 else
3971                         llapi_printf(LLAPI_MSG_NORMAL, "\n");
3972         }
3973
3974 decided:
3975         ret = 0;
3976         /* Do not get down anymore? */
3977         if (param->fp_depth == param->fp_max_depth) {
3978                 ret = 1;
3979                 goto out;
3980         }
3981         param->fp_depth++;
3982 out:
3983         if (fd > 0)
3984                 close(fd);
3985         return ret;
3986 }
3987
3988 static int cb_migrate_mdt_init(char *path, DIR *parent, DIR **dirp,
3989                                void *param_data, struct dirent64 *de)
3990 {
3991         struct find_param       *param = (struct find_param *)param_data;
3992         DIR                     *tmp_parent = parent;
3993         char                    raw[MAX_IOC_BUFLEN] = {'\0'};
3994         char                    *rawbuf = raw;
3995         struct obd_ioctl_data   data = { 0 };
3996         int                     fd;
3997         int                     ret;
3998         char                    *path_copy;
3999         char                    *filename;
4000         bool                    retry = false;
4001
4002         if (parent == NULL && dirp == NULL)
4003                 return -EINVAL;
4004
4005         if (dirp != NULL)
4006                 closedir(*dirp);
4007
4008         if (parent == NULL) {
4009                 tmp_parent = opendir_parent(path);
4010                 if (tmp_parent == NULL) {
4011                         *dirp = NULL;
4012                         ret = -errno;
4013                         llapi_error(LLAPI_MSG_ERROR, ret,
4014                                     "can not open %s", path);
4015                         return ret;
4016                 }
4017         }
4018
4019         fd = dirfd(tmp_parent);
4020
4021         path_copy = strdup(path);
4022         filename = basename(path_copy);
4023         data.ioc_inlbuf1 = (char *)filename;
4024         data.ioc_inllen1 = strlen(filename) + 1;
4025         data.ioc_inlbuf2 = (char *)&param->fp_mdt_index;
4026         data.ioc_inllen2 = sizeof(param->fp_mdt_index);
4027         ret = obd_ioctl_pack(&data, &rawbuf, sizeof(raw));
4028         if (ret != 0) {
4029                 llapi_error(LLAPI_MSG_ERROR, ret,
4030                             "llapi_obd_statfs: error packing ioctl data");
4031                 goto out;
4032         }
4033
4034 migrate:
4035         ret = ioctl(fd, LL_IOC_MIGRATE, rawbuf);
4036         if (ret != 0) {
4037                 if (errno == EBUSY && !retry) {
4038                         /* because migrate may not be able to lock all involved
4039                          * objects in order, for some of them it try lock, while
4040                          * there may be conflicting COS locks and cause migrate
4041                          * fail with EBUSY, hope a sync() could cause
4042                          * transaction commit and release these COS locks. */
4043                         sync();
4044                         retry = true;
4045                         goto migrate;
4046                 }
4047                 ret = -errno;
4048                 fprintf(stderr, "%s migrate failed: %s (%d)\n",
4049                         path, strerror(-ret), ret);
4050                 goto out;
4051         } else if (param->fp_verbose & VERBOSE_DETAIL) {
4052                 fprintf(stdout, "migrate %s to MDT%d\n",
4053                         path, param->fp_mdt_index);
4054         }
4055
4056 out:
4057         if (dirp != NULL) {
4058                 /* If the directory is being migration, we need
4059                  * close the directory after migration,
4060                  * so the old directory cache will be cleanup
4061                  * on the client side, and re-open to get the
4062                  * new directory handle */
4063                 *dirp = opendir(path);
4064                 if (*dirp == NULL) {
4065                         ret = -errno;
4066                         llapi_error(LLAPI_MSG_ERROR, ret,
4067                                     "%s: Failed to open '%s'", __func__, path);
4068                 }
4069         }
4070
4071         if (parent == NULL)
4072                 closedir(tmp_parent);
4073
4074         free(path_copy);
4075
4076         return ret;
4077 }
4078
4079 int llapi_migrate_mdt(char *path, struct find_param *param)
4080 {
4081         return param_callback(path, cb_migrate_mdt_init, cb_common_fini, param);
4082 }
4083
4084 int llapi_mv(char *path, struct find_param *param)
4085 {
4086 #if LUSTRE_VERSION_CODE > OBD_OCD_VERSION(2, 9, 59, 0)
4087         static bool printed;
4088
4089         if (!printed) {
4090                 llapi_error(LLAPI_MSG_ERROR, -ESTALE,
4091                             "llapi_mv() is deprecated, use llapi_migrate_mdt()\n");
4092                 printed = true;
4093         }
4094 #endif
4095         return llapi_migrate_mdt(path, param);
4096 }
4097
4098 int llapi_find(char *path, struct find_param *param)
4099 {
4100         return param_callback(path, cb_find_init, cb_common_fini, param);
4101 }
4102
4103 /*
4104  * Get MDT number that the file/directory inode referenced
4105  * by the open fd resides on.
4106  * Return 0 and mdtidx on success, or -ve errno.
4107  */
4108 int llapi_file_fget_mdtidx(int fd, int *mdtidx)
4109 {
4110         if (ioctl(fd, LL_IOC_GET_MDTIDX, mdtidx) < 0)
4111                 return -errno;
4112         return 0;
4113 }
4114
4115 static int cb_get_mdt_index(char *path, DIR *parent, DIR **dirp, void *data,
4116                             struct dirent64 *de)
4117 {
4118         struct find_param *param = (struct find_param *)data;
4119         DIR *d = dirp == NULL ? NULL : *dirp;
4120         int ret;
4121         int mdtidx;
4122
4123         if (parent == NULL && d == NULL)
4124                 return -EINVAL;
4125
4126         if (d != NULL) {
4127                 ret = llapi_file_fget_mdtidx(dirfd(d), &mdtidx);
4128         } else /* if (parent) */ {
4129                 int fd;
4130
4131                 fd = open(path, O_RDONLY | O_NOCTTY);
4132                 if (fd > 0) {
4133                         ret = llapi_file_fget_mdtidx(fd, &mdtidx);
4134                         close(fd);
4135                 } else {
4136                         ret = -errno;
4137                 }
4138         }
4139
4140         if (ret != 0) {
4141                 if (ret == -ENODATA) {
4142                         if (!param->fp_obd_uuid)
4143                                 llapi_printf(LLAPI_MSG_NORMAL,
4144                                              "'%s' has no stripe info\n", path);
4145                         goto out;
4146                 } else if (ret == -ENOENT) {
4147                         llapi_error(LLAPI_MSG_WARN, ret,
4148                                     "warning: %s: '%s' does not exist",
4149                                     __func__, path);
4150                         goto out;
4151                 } else if (ret == -ENOTTY) {
4152                         llapi_error(LLAPI_MSG_ERROR, ret,
4153                                     "%s: '%s' not on a Lustre fs",
4154                                     __func__, path);
4155                 } else {
4156                         llapi_error(LLAPI_MSG_ERROR, ret,
4157                                     "error: %s: '%s' failed get_mdtidx",
4158                                     __func__, path);
4159                 }
4160                 return ret;
4161         }
4162
4163         if (param->fp_quiet || !(param->fp_verbose & VERBOSE_DETAIL))
4164                 llapi_printf(LLAPI_MSG_NORMAL, "%d\n", mdtidx);
4165         else
4166                 llapi_printf(LLAPI_MSG_NORMAL, "%s\nmdt_index:\t%d\n",
4167                              path, mdtidx);
4168
4169 out:
4170         /* Do not go down anymore? */
4171         if (param->fp_depth == param->fp_max_depth)
4172                 return 1;
4173
4174         param->fp_depth++;
4175
4176         return 0;
4177 }
4178
4179 static int cb_getstripe(char *path, DIR *parent, DIR **dirp, void *data,
4180                         struct dirent64 *de)
4181 {
4182         struct find_param *param = (struct find_param *)data;
4183         DIR *d = dirp == NULL ? NULL : *dirp;
4184         int ret = 0;
4185
4186         if (parent == NULL && d == NULL)
4187                 return -EINVAL;
4188
4189         if (param->fp_obd_uuid) {
4190                 param->fp_quiet = 1;
4191                 ret = setup_obd_uuid(d ? dirfd(d) : dirfd(parent), path, param);
4192                 if (ret)
4193                         return ret;
4194         }
4195
4196         if (d) {
4197                 if (param->fp_get_lmv || param->fp_get_default_lmv) {
4198                         ret = cb_get_dirstripe(path, d, param);
4199                 } else {
4200                         ret = ioctl(dirfd(d), LL_IOC_LOV_GETSTRIPE,
4201                                      (void *)&param->fp_lmd->lmd_lmm);
4202                 }
4203
4204         } else if (parent && !param->fp_get_lmv && !param->fp_get_default_lmv) {
4205                 char *fname = strrchr(path, '/');
4206                 fname = (fname == NULL ? path : fname + 1);
4207
4208                 strlcpy((char *)&param->fp_lmd->lmd_lmm, fname,
4209                         param->fp_lum_size);
4210
4211                 ret = ioctl(dirfd(parent), IOC_MDC_GETFILESTRIPE,
4212                             (void *)&param->fp_lmd->lmd_lmm);
4213         } else {
4214                 return 0;
4215         }
4216
4217         if (ret) {
4218                 if (errno == ENODATA && d != NULL) {
4219                         /* We need to "fake" the "use the default" values
4220                          * since the lmm struct is zeroed out at this point.
4221                          * The magic needs to be set in order to satisfy
4222                          * a check later on in the code path.
4223                          * The object_seq needs to be set for the "(Default)"
4224                          * prefix to be displayed. */
4225                         if (param->fp_get_default_lmv) {
4226                                 struct lmv_user_md *lum = param->fp_lmv_md;
4227
4228                                 lum->lum_magic = LMV_USER_MAGIC;
4229                                 lum->lum_stripe_count = 0;
4230                                 lum->lum_stripe_offset = -1;
4231                                 goto dump;
4232                         } else if (param->fp_get_lmv) {
4233                                 struct lmv_user_md *lum = param->fp_lmv_md;
4234                                 int mdtidx;
4235
4236                                 ret = llapi_file_fget_mdtidx(dirfd(d), &mdtidx);
4237                                 if (ret != 0)
4238                                         goto err_out;
4239                                 lum->lum_magic = LMV_MAGIC_V1;
4240                                 lum->lum_stripe_count = 0;
4241                                 lum->lum_stripe_offset = mdtidx;
4242                                 goto dump;
4243                         } else {
4244                                 struct lov_user_md *lmm =
4245                                         &param->fp_lmd->lmd_lmm;
4246
4247                                 lmm->lmm_magic = LOV_USER_MAGIC_V1;
4248                                 if (!param->fp_raw)
4249                                         ostid_set_seq(&lmm->lmm_oi,
4250                                                       FID_SEQ_LOV_DEFAULT);
4251                                 lmm->lmm_stripe_count = 0;
4252                                 lmm->lmm_stripe_size = 0;
4253                                 lmm->lmm_stripe_offset = -1;
4254                                 goto dump;
4255                         }
4256                 } else if (errno == ENODATA && parent != NULL) {
4257                         if (!param->fp_obd_uuid && !param->fp_mdt_uuid)
4258                                 llapi_printf(LLAPI_MSG_NORMAL,
4259                                              "%s has no stripe info\n", path);
4260                         goto out;
4261                 } else if (errno == ENOENT) {
4262                         llapi_error(LLAPI_MSG_WARN, -ENOENT,
4263                                     "warning: %s: %s does not exist",
4264                                     __func__, path);
4265                         goto out;
4266                 } else if (errno == ENOTTY) {
4267                         ret = -errno;
4268                         llapi_error(LLAPI_MSG_ERROR, ret,
4269                                     "%s: '%s' not on a Lustre fs?",
4270                                     __func__, path);
4271                 } else {
4272                         ret = -errno;
4273 err_out:
4274                         llapi_error(LLAPI_MSG_ERROR, ret,
4275                                     "error: %s: %s failed for %s",
4276                                      __func__, d ? "LL_IOC_LOV_GETSTRIPE" :
4277                                     "IOC_MDC_GETFILESTRIPE", path);
4278                 }
4279
4280                 return ret;
4281         }
4282
4283 dump:
4284         if (!(param->fp_verbose & VERBOSE_MDTINDEX))
4285                 llapi_lov_dump_user_lmm(param, path, d ? LDF_IS_DIR : 0);
4286
4287 out:
4288         /* Do not get down anymore? */
4289         if (param->fp_depth == param->fp_max_depth)
4290                 return 1;
4291
4292         param->fp_depth++;
4293
4294         return 0;
4295 }
4296
4297 int llapi_getstripe(char *path, struct find_param *param)
4298 {
4299         return param_callback(path, (param->fp_verbose & VERBOSE_MDTINDEX) ?
4300                               cb_get_mdt_index : cb_getstripe,
4301                               cb_common_fini, param);
4302 }
4303
4304 int llapi_obd_fstatfs(int fd, __u32 type, __u32 index,
4305                       struct obd_statfs *stat_buf, struct obd_uuid *uuid_buf)
4306 {
4307         char raw[MAX_IOC_BUFLEN] = {'\0'};
4308         char *rawbuf = raw;
4309         struct obd_ioctl_data data = { 0 };
4310         int rc = 0;
4311
4312         data.ioc_inlbuf1 = (char *)&type;
4313         data.ioc_inllen1 = sizeof(__u32);
4314         data.ioc_inlbuf2 = (char *)&index;
4315         data.ioc_inllen2 = sizeof(__u32);
4316         data.ioc_pbuf1 = (char *)stat_buf;
4317         data.ioc_plen1 = sizeof(struct obd_statfs);
4318         data.ioc_pbuf2 = (char *)uuid_buf;
4319         data.ioc_plen2 = sizeof(struct obd_uuid);
4320
4321         rc = obd_ioctl_pack(&data, &rawbuf, sizeof(raw));
4322         if (rc != 0) {
4323                 llapi_error(LLAPI_MSG_ERROR, rc,
4324                             "llapi_obd_statfs: error packing ioctl data");
4325                 return rc;
4326         }
4327
4328         rc = ioctl(fd, IOC_OBD_STATFS, (void *)rawbuf);
4329
4330         return rc < 0 ? -errno : 0;
4331 }
4332
4333 int llapi_obd_statfs(char *path, __u32 type, __u32 index,
4334                      struct obd_statfs *stat_buf, struct obd_uuid *uuid_buf)
4335 {
4336         int fd;
4337         int rc;
4338
4339         fd = open(path, O_RDONLY);
4340         if (fd < 0) {
4341                 rc = -errno;
4342                 llapi_error(LLAPI_MSG_ERROR, rc, "error: %s: opening '%s'",
4343                             __func__, path);
4344                 /* If we can't even open a file on the filesystem (e.g. with
4345                  * -ESHUTDOWN), force caller to exit or it will loop forever. */
4346                 return -ENODEV;
4347         }
4348
4349         rc = llapi_obd_fstatfs(fd, type, index, stat_buf, uuid_buf);
4350
4351         close(fd);
4352
4353         return rc;
4354 }
4355
4356 #define MAX_STRING_SIZE 128
4357
4358 int llapi_ping(char *obd_type, char *obd_name)
4359 {
4360         glob_t path;
4361         char buf[1];
4362         int rc, fd;
4363
4364         rc = cfs_get_param_paths(&path, "%s/%s/ping",
4365                                 obd_type, obd_name);
4366         if (rc != 0)
4367                 return -errno;
4368
4369         fd = open(path.gl_pathv[0], O_WRONLY);
4370         if (fd < 0) {
4371                 rc = -errno;
4372                 llapi_error(LLAPI_MSG_ERROR, rc, "error opening %s",
4373                             path.gl_pathv[0]);
4374                 goto failed;
4375         }
4376
4377         /* The purpose is to send a byte as a ping, whatever this byte is. */
4378         /* coverity[uninit_use_in_call] */
4379         rc = write(fd, buf, 1);
4380         if (rc < 0)
4381                 rc = -errno;
4382         close(fd);
4383
4384         if (rc == 1)
4385                 rc = 0;
4386 failed:
4387         cfs_free_param_data(&path);
4388         return rc;
4389 }
4390
4391 int llapi_target_iterate(int type_num, char **obd_type,
4392                          void *args, llapi_cb_t cb)
4393 {
4394         char buf[MAX_STRING_SIZE];
4395         int i, rc = 0;
4396         glob_t param;
4397         FILE *fp;
4398
4399         rc = cfs_get_param_paths(&param, "devices");
4400         if (rc != 0)
4401                 return -ENOENT;
4402
4403         fp = fopen(param.gl_pathv[0], "r");
4404         if (fp == NULL) {
4405                 rc = -errno;
4406                 llapi_error(LLAPI_MSG_ERROR, rc, "error: opening '%s'",
4407                             param.gl_pathv[0]);
4408                 goto free_path;
4409         }
4410
4411         while (fgets(buf, sizeof(buf), fp) != NULL) {
4412                 char *obd_type_name = NULL;
4413                 char *obd_name = NULL;
4414                 char *obd_uuid = NULL;
4415                 char *bufp = buf;
4416                 struct obd_statfs osfs_buffer;
4417
4418                 while(bufp[0] == ' ')
4419                         ++bufp;
4420
4421                 for(i = 0; i < 3; i++) {
4422                         obd_type_name = strsep(&bufp, " ");
4423                 }
4424                 obd_name = strsep(&bufp, " ");
4425                 obd_uuid = strsep(&bufp, " ");
4426
4427                 memset(&osfs_buffer, 0, sizeof (osfs_buffer));
4428
4429                 for (i = 0; i < type_num; i++) {
4430                         if (strcmp(obd_type_name, obd_type[i]) != 0)
4431                                 continue;
4432
4433                         cb(obd_type_name, obd_name, obd_uuid, args);
4434                 }
4435         }
4436         fclose(fp);
4437 free_path:
4438         cfs_free_param_data(&param);
4439         return 0;
4440 }
4441
4442 static void do_target_check(char *obd_type_name, char *obd_name,
4443                             char *obd_uuid, void *args)
4444 {
4445         int rc;
4446
4447         rc = llapi_ping(obd_type_name, obd_name);
4448         if (rc == ENOTCONN) {
4449                 llapi_printf(LLAPI_MSG_NORMAL, "%s inactive.\n", obd_name);
4450         } else if (rc) {
4451                 llapi_error(LLAPI_MSG_ERROR, rc, "error: check '%s'", obd_name);
4452         } else {
4453                 llapi_printf(LLAPI_MSG_NORMAL, "%s active.\n", obd_name);
4454         }
4455 }
4456
4457 int llapi_target_check(int type_num, char **obd_type, char *dir)
4458 {
4459         return llapi_target_iterate(type_num, obd_type, NULL, do_target_check);
4460 }
4461
4462 #undef MAX_STRING_SIZE
4463
4464 /* Is this a lustre fs? */
4465 int llapi_is_lustre_mnttype(const char *type)
4466 {
4467         return (strcmp(type, "lustre") == 0 || strcmp(type,"lustre_lite") == 0);
4468 }
4469
4470 /* Is this a lustre client fs? */
4471 int llapi_is_lustre_mnt(struct mntent *mnt)
4472 {
4473         return (llapi_is_lustre_mnttype(mnt->mnt_type) &&
4474                 strstr(mnt->mnt_fsname, ":/") != NULL);
4475 }
4476
4477 int llapi_quotactl(char *mnt, struct if_quotactl *qctl)
4478 {
4479         char fsname[PATH_MAX + 1];
4480         int root;
4481         int rc;
4482
4483         rc = llapi_search_fsname(mnt, fsname);
4484         if (rc) {
4485                 llapi_err_noerrno(LLAPI_MSG_ERROR,
4486                                   "'%s' isn't on Lustre filesystem", mnt);
4487                 return rc;
4488         }
4489
4490         root = open(mnt, O_RDONLY | O_DIRECTORY);
4491         if (root < 0) {
4492                 rc = -errno;
4493                 llapi_error(LLAPI_MSG_ERROR, rc, "open %s failed", mnt);
4494                 return rc;
4495         }
4496
4497         rc = ioctl(root, OBD_IOC_QUOTACTL, qctl);
4498         if (rc < 0)
4499                 rc = -errno;
4500
4501         close(root);
4502         return rc;
4503 }
4504
4505 /* Print mdtname 'name' into 'buf' using 'format'.  Add -MDT0000 if needed.
4506  * format must have %s%s, buf must be > 16
4507  * Eg: if name = "lustre-MDT0000", "lustre", or "lustre-MDT0000_UUID"
4508  *     then buf = "lustre-MDT0000"
4509  */
4510 static int get_mdtname(char *name, char *format, char *buf)
4511 {
4512         char suffix[]="-MDT0000";
4513         int len = strlen(name);
4514
4515         if ((len > 5) && (strncmp(name + len - 5, "_UUID", 5) == 0)) {
4516                 name[len - 5] = '\0';
4517                 len -= 5;
4518         }
4519
4520         if (len > 8) {
4521                 if ((len <= 16) && strncmp(name + len - 8, "-MDT", 4) == 0) {
4522                         suffix[0] = '\0';
4523                 } else {
4524                         /* Not enough room to add suffix */
4525                         llapi_err_noerrno(LLAPI_MSG_ERROR,
4526                                           "Invalid MDT name |%s|", name);
4527                         return -EINVAL;
4528                 }
4529         }
4530
4531         return sprintf(buf, format, name, suffix);
4532 }
4533
4534 /** ioctl on filsystem root, with mdtindex sent as data
4535  * \param mdtname path, fsname, or mdtname (lutre-MDT0004)
4536  * \param mdtidxp pointer to integer within data to be filled in with the
4537  *    mdt index (0 if no mdt is specified).  NULL won't be filled.
4538  */
4539 int root_ioctl(const char *mdtname, int opc, void *data, int *mdtidxp,
4540                int want_error)
4541 {
4542         char fsname[20];
4543         char *ptr;
4544         int fd, rc;
4545         long index;
4546
4547         /* Take path, fsname, or MDTname.  Assume MDT0000 in the former cases.
4548          Open root and parse mdt index. */
4549         if (mdtname[0] == '/') {
4550                 index = 0;
4551                 rc = get_root_path(WANT_FD | want_error, NULL, &fd,
4552                                    (char *)mdtname, -1);
4553         } else {
4554                 if (get_mdtname((char *)mdtname, "%s%s", fsname) < 0)
4555                         return -EINVAL;
4556                 ptr = fsname + strlen(fsname) - 8;
4557                 *ptr = '\0';
4558                 index = strtol(ptr + 4, NULL, 16);
4559                 rc = get_root_path(WANT_FD | want_error, fsname, &fd, NULL, -1);
4560         }
4561         if (rc < 0) {
4562                 if (want_error)
4563                         llapi_err_noerrno(LLAPI_MSG_ERROR,
4564                                           "Can't open %s: %d\n", mdtname, rc);
4565                 return rc;
4566         }
4567
4568         if (mdtidxp)
4569                 *mdtidxp = index;
4570
4571         rc = ioctl(fd, opc, data);
4572         if (rc == -1)
4573                 rc = -errno;
4574         else
4575                 rc = 0;
4576         close(fd);
4577         return rc;
4578 }
4579
4580 int llapi_fid2path(const char *device, const char *fidstr, char *buf,
4581                    int buflen, long long *recno, int *linkno)
4582 {
4583         const char *fidstr_orig = fidstr;
4584         struct lu_fid fid;
4585         struct getinfo_fid2path *gf;
4586         char *a;
4587         char *b;
4588         int rc;
4589
4590         while (*fidstr == '[')
4591                 fidstr++;
4592
4593         sscanf(fidstr, SFID, RFID(&fid));
4594         if (!fid_is_sane(&fid)) {
4595                 llapi_err_noerrno(LLAPI_MSG_ERROR,
4596                                   "bad FID format '%s', should be [seq:oid:ver]"
4597                                   " (e.g. "DFID")\n", fidstr_orig,
4598                                   (unsigned long long)FID_SEQ_NORMAL, 2, 0);
4599                 return -EINVAL;
4600         }
4601
4602         gf = malloc(sizeof(*gf) + buflen);
4603         if (gf == NULL)
4604                 return -ENOMEM;
4605
4606         gf->gf_fid = fid;
4607         gf->gf_recno = *recno;
4608         gf->gf_linkno = *linkno;
4609         gf->gf_pathlen = buflen;
4610
4611         /* Take path or fsname */
4612         rc = root_ioctl(device, OBD_IOC_FID2PATH, gf, NULL, 0);
4613         if (rc)
4614                 goto out_free;
4615
4616         b = buf;
4617         /* strip out instances of // */
4618         for (a = gf->gf_u.gf_path; *a != '\0'; a++) {
4619                 if ((*a == '/') && (*(a + 1) == '/'))
4620                         continue;
4621                 *b = *a;
4622                 b++;
4623         }
4624         *b = '\0';
4625
4626         if (buf[0] == '\0') { /* ROOT path */
4627                 buf[0] = '/';
4628                 buf[1] = '\0';
4629         }
4630
4631         *recno = gf->gf_recno;
4632         *linkno = gf->gf_linkno;
4633
4634 out_free:
4635         free(gf);
4636         return rc;
4637 }
4638
4639 static int fid_from_lma(const char *path, int fd, struct lu_fid *fid)
4640 {
4641         char                     buf[512];
4642         struct lustre_mdt_attrs *lma;
4643         int                      rc;
4644
4645         if (path == NULL)
4646                 rc = fgetxattr(fd, XATTR_NAME_LMA, buf, sizeof(buf));
4647         else
4648                 rc = lgetxattr(path, XATTR_NAME_LMA, buf, sizeof(buf));
4649         if (rc < 0)
4650                 return -errno;
4651         lma = (struct lustre_mdt_attrs *)buf;
4652         fid_le_to_cpu(fid, &lma->lma_self_fid);
4653         return 0;
4654 }
4655
4656 int llapi_get_mdt_index_by_fid(int fd, const struct lu_fid *fid,
4657                                int *mdt_index)
4658 {
4659         int     rc;
4660
4661         rc = ioctl(fd, LL_IOC_FID2MDTIDX, fid);
4662         if (rc < 0)
4663                 return -errno;
4664
4665         *mdt_index = rc;
4666
4667         return rc;
4668 }
4669
4670 int llapi_fd2fid(int fd, struct lu_fid *fid)
4671 {
4672         int rc;
4673
4674         memset(fid, 0, sizeof(*fid));
4675
4676         rc = ioctl(fd, LL_IOC_PATH2FID, fid) < 0 ? -errno : 0;
4677         if (rc == -EINVAL || rc == -ENOTTY)
4678                 rc = fid_from_lma(NULL, fd, fid);
4679
4680         return rc;
4681 }
4682
4683 int llapi_path2fid(const char *path, struct lu_fid *fid)
4684 {
4685         int fd, rc;
4686
4687         memset(fid, 0, sizeof(*fid));
4688         fd = open(path, O_RDONLY | O_NONBLOCK | O_NOFOLLOW);
4689         if (fd < 0) {
4690                 if (errno == ELOOP || errno == ENXIO)
4691                         return fid_from_lma(path, -1, fid);
4692                 return -errno;
4693         }
4694
4695         rc = llapi_fd2fid(fd, fid);
4696         if (rc == -EINVAL || rc == -ENOTTY)
4697                 rc = fid_from_lma(path, -1, fid);
4698
4699         close(fd);
4700         return rc;
4701 }
4702
4703 int llapi_fd2parent(int fd, unsigned int linkno, struct lu_fid *parent_fid,
4704                     char *name, size_t name_size)
4705 {
4706         struct getparent        *gp;
4707         int                      rc;
4708
4709         gp = malloc(sizeof(*gp) + name_size);
4710         if (gp == NULL)
4711                 return -ENOMEM;
4712
4713         gp->gp_linkno = linkno;
4714         gp->gp_name_size = name_size;
4715
4716         rc = ioctl(fd, LL_IOC_GETPARENT, gp);
4717         if (rc < 0) {
4718                 rc = -errno;
4719                 goto err_free;
4720         }
4721
4722         *parent_fid = gp->gp_fid;
4723
4724         strncpy(name, gp->gp_name, name_size);
4725         name[name_size - 1] = '\0';
4726
4727 err_free:
4728         free(gp);
4729         return rc;
4730 }
4731
4732 int llapi_path2parent(const char *path, unsigned int linkno,
4733                       struct lu_fid *parent_fid, char *name, size_t name_size)
4734 {
4735         int     fd;
4736         int     rc;
4737
4738         fd = open(path, O_RDONLY | O_NONBLOCK | O_NOFOLLOW);
4739         if (fd < 0)
4740                 return -errno;
4741
4742         rc = llapi_fd2parent(fd, linkno, parent_fid, name, name_size);
4743         close(fd);
4744         return rc;
4745 }
4746
4747 int llapi_get_connect_flags(const char *mnt, __u64 *flags)
4748 {
4749         int root;
4750         int rc;
4751
4752         root = open(mnt, O_RDONLY | O_DIRECTORY);
4753         if (root < 0) {
4754                 rc = -errno;
4755                 llapi_error(LLAPI_MSG_ERROR, rc, "open %s failed", mnt);
4756                 return rc;
4757         }
4758
4759         rc = ioctl(root, LL_IOC_GET_CONNECT_FLAGS, flags);
4760         if (rc < 0) {
4761                 rc = -errno;
4762                 llapi_error(LLAPI_MSG_ERROR, rc,
4763                         "ioctl on %s for getting connect flags failed", mnt);
4764         }
4765         close(root);
4766         return rc;
4767 }
4768
4769 /**
4770  * Get a 64-bit value representing the version of file data pointed by fd.
4771  *
4772  * Each write or truncate, flushed on OST, will change this value. You can use
4773  * this value to verify if file data was modified. This only checks the file
4774  * data, not metadata.
4775  *
4776  * \param  flags  0: no flush pages, usually used it the process has already
4777  *                  taken locks;
4778  *                LL_DV_RD_FLUSH: OSTs will take LCK_PR to flush dirty pages
4779  *                  from clients;
4780  *                LL_DV_WR_FLUSH: OSTs will take LCK_PW to flush all caching
4781  *                  pages from clients.
4782  *
4783  * \retval 0 on success.
4784  * \retval -errno on error.
4785  */
4786 int llapi_get_data_version(int fd, __u64 *data_version, __u64 flags)
4787 {
4788         int rc;
4789         struct ioc_data_version idv;
4790
4791         idv.idv_flags = (__u32)flags;
4792
4793         rc = ioctl(fd, LL_IOC_DATA_VERSION, &idv);
4794         if (rc)
4795                 rc = -errno;
4796         else
4797                 *data_version = idv.idv_version;
4798
4799         return rc;
4800 }
4801
4802 /*
4803  * Fetch layout version from OST objects. Layout version on OST objects are
4804  * only set when the file is a mirrored file AND after the file has been
4805  * written at least once.
4806  *
4807  * It actually fetches the least layout version from the objects.
4808  */
4809 int llapi_get_ost_layout_version(int fd, __u32 *layout_version)
4810 {
4811         int rc;
4812         struct ioc_data_version idv = { 0 };
4813
4814         rc = ioctl(fd, LL_IOC_DATA_VERSION, &idv);
4815         if (rc)
4816                 rc = -errno;
4817         else
4818                 *layout_version = idv.idv_layout_version;
4819
4820         return rc;
4821 }
4822
4823 /*
4824  * Create a file without any name open it for read/write
4825  *
4826  * - file is created as if it were a standard file in the given \a directory
4827  * - file does not appear in \a directory and mtime does not change because
4828  *   the filename is handled specially by the Lustre MDS.
4829  * - file is removed at final close
4830  * - file modes are rw------- since it doesn't make sense to have a read-only
4831  *   or write-only file that cannot be opened again.
4832  * - if user wants another mode it must use fchmod() on the open file, no
4833  *   security problems arise because it cannot be opened by another process.
4834  *
4835  * \param[in]   directory       directory from which to inherit layout/MDT idx
4836  * \param[in]   idx             MDT index on which the file is created,
4837  *                              \a idx == -1 means no specific MDT is requested
4838  * \param[in]   open_flags      standard open(2) flags
4839  *
4840  * \retval      0 on success.
4841  * \retval      -errno on error.
4842  */
4843 int llapi_create_volatile_idx(char *directory, int idx, int open_flags)
4844 {
4845         char    file_path[PATH_MAX];
4846         char    filename[PATH_MAX];
4847         int     saved_errno = errno;
4848         int     fd;
4849         int     rnumber;
4850         int     rc;
4851
4852         do {
4853                 rnumber = random();
4854                 if (idx == -1)
4855                         snprintf(filename, sizeof(filename),
4856                                  LUSTRE_VOLATILE_HDR"::%.4X", rnumber);
4857                 else
4858                         snprintf(filename, sizeof(filename),
4859                                  LUSTRE_VOLATILE_HDR":%.4X:%.4X", idx, rnumber);
4860
4861                 rc = snprintf(file_path, sizeof(file_path),
4862                               "%s/%s", directory, filename);
4863                 if (rc >= sizeof(file_path))
4864                         return -E2BIG;
4865
4866                 fd = open(file_path,
4867                           O_RDWR | O_CREAT | O_EXCL | O_NOFOLLOW | open_flags,
4868                           S_IRUSR | S_IWUSR);
4869         } while (fd < 0 && errno == EEXIST);
4870
4871         if (fd < 0) {
4872                 llapi_error(LLAPI_MSG_ERROR, errno,
4873                             "Cannot create volatile file '%s' in '%s'",
4874                             filename + LUSTRE_VOLATILE_HDR_LEN,
4875                             directory);
4876                 return -errno;
4877         }
4878
4879         /* Unlink file in case this wasn't a Lustre filesystem and the
4880          * magic volatile filename wasn't handled as intended. The
4881          * effect is the same. If volatile open was supported then we
4882          * expect unlink() to return -ENOENT. */
4883         (void)unlink(file_path);
4884
4885         /* Since we are returning successfully we restore errno (and
4886          * mask out possible EEXIST from open() and ENOENT from
4887          * unlink(). */
4888         errno = saved_errno;
4889
4890         return fd;
4891 }
4892
4893 /**
4894  * Swap the layouts between 2 file descriptors
4895  * the 2 files must be open for writing
4896  * first fd received the ioctl, second fd is passed as arg
4897  * this is assymetric but avoid use of root path for ioctl
4898  */
4899 int llapi_fswap_layouts_grouplock(int fd1, int fd2, __u64 dv1, __u64 dv2,
4900                                   int gid, __u64 flags)
4901 {
4902         struct lustre_swap_layouts      lsl;
4903         struct stat                     st1;
4904         struct stat                     st2;
4905         int                             rc;
4906
4907         if (flags & (SWAP_LAYOUTS_KEEP_ATIME | SWAP_LAYOUTS_KEEP_MTIME)) {
4908                 rc = fstat(fd1, &st1);
4909                 if (rc < 0)
4910                         return -errno;
4911
4912                 rc = fstat(fd2, &st2);
4913                 if (rc < 0)
4914                         return -errno;
4915         }
4916         lsl.sl_fd = fd2;
4917         lsl.sl_flags = flags;
4918         lsl.sl_gid = gid;
4919         lsl.sl_dv1 = dv1;
4920         lsl.sl_dv2 = dv2;
4921         rc = ioctl(fd1, LL_IOC_LOV_SWAP_LAYOUTS, &lsl);
4922         if (rc < 0)
4923                 return -errno;
4924
4925         if (flags & (SWAP_LAYOUTS_KEEP_ATIME | SWAP_LAYOUTS_KEEP_MTIME)) {
4926                 struct timeval  tv1[2];
4927                 struct timeval  tv2[2];
4928
4929                 memset(tv1, 0, sizeof(tv1));
4930                 memset(tv2, 0, sizeof(tv2));
4931
4932                 if (flags & SWAP_LAYOUTS_KEEP_ATIME) {
4933                         tv1[0].tv_sec = st1.st_atime;
4934                         tv2[0].tv_sec = st2.st_atime;
4935                 } else {
4936                         tv1[0].tv_sec = st2.st_atime;
4937                         tv2[0].tv_sec = st1.st_atime;
4938                 }
4939
4940                 if (flags & SWAP_LAYOUTS_KEEP_MTIME) {
4941                         tv1[1].tv_sec = st1.st_mtime;
4942                         tv2[1].tv_sec = st2.st_mtime;
4943                 } else {
4944                         tv1[1].tv_sec = st2.st_mtime;
4945                         tv2[1].tv_sec = st1.st_mtime;
4946                 }
4947
4948                 rc = futimes(fd1, tv1);
4949                 if (rc < 0)
4950                         return -errno;
4951
4952                 rc = futimes(fd2, tv2);
4953                 if (rc < 0)
4954                         return -errno;
4955         }
4956
4957         return 0;
4958 }
4959
4960 int llapi_fswap_layouts(int fd1, int fd2, __u64 dv1, __u64 dv2, __u64 flags)
4961 {
4962         int     rc;
4963         int     grp_id;
4964
4965         do
4966                 grp_id = random();
4967         while (grp_id == 0);
4968
4969         rc = llapi_fswap_layouts_grouplock(fd1, fd2, dv1, dv2, grp_id, flags);
4970         if (rc < 0)
4971                 return rc;
4972
4973         return 0;
4974 }
4975
4976 /**
4977  * Swap the layouts between 2 files
4978  * the 2 files are open in write
4979  */
4980 int llapi_swap_layouts(const char *path1, const char *path2,
4981                        __u64 dv1, __u64 dv2, __u64 flags)
4982 {
4983         int     fd1, fd2, rc;
4984
4985         fd1 = open(path1, O_WRONLY | O_LOV_DELAY_CREATE);
4986         if (fd1 < 0) {
4987                 rc = -errno;
4988                 llapi_error(LLAPI_MSG_ERROR, rc,
4989                             "error: cannot open '%s' for write", path1);
4990                 goto out;
4991         }
4992
4993         fd2 = open(path2, O_WRONLY | O_LOV_DELAY_CREATE);
4994         if (fd2 < 0) {
4995                 rc = -errno;
4996                 llapi_error(LLAPI_MSG_ERROR, rc,
4997                             "error: cannot open '%s' for write", path2);
4998                 goto out_close;
4999         }
5000
5001         rc = llapi_fswap_layouts(fd1, fd2, dv1, dv2, flags);
5002         if (rc < 0)
5003                 llapi_error(LLAPI_MSG_ERROR, rc,
5004                             "error: cannot swap layout between '%s' and '%s'",
5005                             path1, path2);
5006
5007         close(fd2);
5008 out_close:
5009         close(fd1);
5010 out:
5011         return rc;
5012 }
5013
5014 /**
5015  * Attempt to open a file with Lustre file identifier \a fid
5016  * and return an open file descriptor.
5017  *
5018  * \param[in] lustre_dir        path within Lustre filesystem containing \a fid
5019  * \param[in] fid               Lustre file identifier of file to open
5020  * \param[in] flags             open() flags
5021  *
5022  * \retval                      non-negative file descriptor on successful open
5023  * \retval                      -1 if an error occurred
5024  */
5025 int llapi_open_by_fid(const char *lustre_dir, const struct lu_fid *fid,
5026                       int flags)
5027 {
5028         char mntdir[PATH_MAX];
5029         char path[PATH_MAX];
5030         int rc;
5031
5032         rc = llapi_search_mounts(lustre_dir, 0, mntdir, NULL);
5033         if (rc != 0)
5034                 return -1;
5035
5036         snprintf(path, sizeof(path), "%s/.lustre/fid/"DFID, mntdir, PFID(fid));
5037         return open(path, flags);
5038 }
5039
5040 /**
5041  * Take group lock.
5042  *
5043  * \param fd   File to lock.
5044  * \param gid  Group Identifier.
5045  *
5046  * \retval 0 on success.
5047  * \retval -errno on failure.
5048  */
5049 int llapi_group_lock(int fd, int gid)
5050 {
5051         int rc;
5052
5053         rc = ioctl(fd, LL_IOC_GROUP_LOCK, gid);
5054         if (rc < 0) {
5055                 rc = -errno;
5056                 llapi_error(LLAPI_MSG_ERROR, rc, "cannot get group lock");
5057         }
5058         return rc;
5059 }
5060
5061 /**
5062  * Put group lock.
5063  *
5064  * \param fd   File to unlock.
5065  * \param gid  Group Identifier.
5066  *
5067  * \retval 0 on success.
5068  * \retval -errno on failure.
5069  */
5070 int llapi_group_unlock(int fd, int gid)
5071 {
5072         int rc;
5073
5074         rc = ioctl(fd, LL_IOC_GROUP_UNLOCK, gid);
5075         if (rc < 0) {
5076                 rc = -errno;
5077                 llapi_error(LLAPI_MSG_ERROR, rc, "cannot put group lock");
5078         }
5079         return rc;
5080 }