Whamcloud - gitweb
Update copyrights on source files changed since 2010-02-15.
[fs/lustre-release.git] / lustre / utils / liblustreapi.c
1 /* -*- mode: c; c-basic-offset: 8; indent-tabs-mode: nil; -*-
2  * vim:expandtab:shiftwidth=8:tabstop=8:
3  *
4  * GPL HEADER START
5  *
6  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
7  *
8  * This program is free software; you can redistribute it and/or modify
9  * it under the terms of the GNU General Public License version 2 only,
10  * as published by the Free Software Foundation.
11  *
12  * This program is distributed in the hope that it will be useful, but
13  * WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  * General Public License version 2 for more details (a copy is included
16  * in the LICENSE file that accompanied this code).
17  *
18  * You should have received a copy of the GNU General Public License
19  * version 2 along with this program; If not, see
20  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
21  *
22  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
23  * CA 95054 USA or visit www.sun.com if you need additional information or
24  * have any questions.
25  *
26  * GPL HEADER END
27  */
28 /*
29  * Copyright (c) 2003, 2010, Oracle and/or its affiliates. All rights reserved.
30  * Use is subject to license terms.
31  */
32 /*
33  * This file is part of Lustre, http://www.lustre.org/
34  * Lustre is a trademark of Sun Microsystems, Inc.
35  *
36  * lustre/utils/liblustreapi.c
37  *
38  * Author: Peter J. Braam <braam@clusterfs.com>
39  * Author: Phil Schwan <phil@clusterfs.com>
40  * Author: Robert Read <rread@clusterfs.com>
41  */
42
43 /* for O_DIRECTORY */
44 #ifndef _GNU_SOURCE
45 #define _GNU_SOURCE
46 #endif
47
48 #include <stdlib.h>
49 #include <stdio.h>
50 #include <string.h>
51 #include <stddef.h>
52 #include <sys/ioctl.h>
53 #include <unistd.h>
54 #include <fcntl.h>
55 #include <errno.h>
56 #include <dirent.h>
57 #include <stdarg.h>
58 #include <sys/stat.h>
59 #include <sys/types.h>
60 #include <sys/syscall.h>
61 #include <sys/xattr.h>
62 #include <fnmatch.h>
63 #include <glob.h>
64 #ifdef HAVE_LINUX_UNISTD_H
65 #include <linux/unistd.h>
66 #else
67 #include <unistd.h>
68 #endif
69 #include <poll.h>
70
71 #include <liblustre.h>
72 #include <lnet/lnetctl.h>
73 #include <obd.h>
74 #include <lustre_lib.h>
75 #include <obd_lov.h>
76 #include <lustre/liblustreapi.h>
77
78 static unsigned llapi_dir_filetype_table[] = {
79         [DT_UNKNOWN]= 0,
80         [DT_FIFO]= S_IFIFO,
81         [DT_CHR] = S_IFCHR,
82         [DT_DIR] = S_IFDIR,
83         [DT_BLK] = S_IFBLK,
84         [DT_REG] = S_IFREG,
85         [DT_LNK] = S_IFLNK,
86         [DT_SOCK]= S_IFSOCK,
87 #if defined(DT_DOOR) && defined(S_IFDOOR)
88         [DT_DOOR]= S_IFDOOR,
89 #endif
90 };
91
92 #if defined(DT_DOOR) && defined(S_IFDOOR)
93 static const int DT_MAX = DT_DOOR;
94 #else
95 static const int DT_MAX = DT_SOCK;
96 #endif
97
98 static unsigned llapi_filetype_dir_table[] = {
99         [0]= DT_UNKNOWN,
100         [S_IFIFO]= DT_FIFO,
101         [S_IFCHR] = DT_CHR,
102         [S_IFDIR] = DT_DIR,
103         [S_IFBLK] = DT_BLK,
104         [S_IFREG] = DT_REG,
105         [S_IFLNK] = DT_LNK,
106         [S_IFSOCK]= DT_SOCK,
107 #if defined(DT_DOOR) && defined(S_IFDOOR)
108         [S_IFDOOR]= DT_DOOR,
109 #endif
110 };
111
112 #if defined(DT_DOOR) && defined(S_IFDOOR)
113 static const int S_IFMAX = DT_DOOR;
114 #else
115 static const int S_IFMAX = DT_SOCK;
116 #endif
117
118 /* liblustreapi message level */
119 static int llapi_msg_level = LLAPI_MSG_MAX;
120
121 void llapi_msg_set_level(int level)
122 {
123         /* ensure level is in the good range */
124         if (level < LLAPI_MSG_OFF)
125                 llapi_msg_level = LLAPI_MSG_OFF;
126         else if (level > LLAPI_MSG_MAX)
127                 llapi_msg_level = LLAPI_MSG_MAX;
128         else
129                 llapi_msg_level = level;
130 }
131
132 void llapi_err(int level, char *fmt, ...)
133 {
134         va_list args;
135         int tmp_errno = abs(errno);
136
137         if ((level & LLAPI_MSG_MASK) > llapi_msg_level)
138                 return;
139
140         va_start(args, fmt);
141         vfprintf(stderr, fmt, args);
142         va_end(args);
143
144         if (level & LLAPI_MSG_NO_ERRNO)
145                 fprintf(stderr, "\n");
146         else
147                 fprintf(stderr, ": %s (%d)\n", strerror(tmp_errno), tmp_errno);
148 }
149
150 #define llapi_err_noerrno(level, fmt, a...)                             \
151         llapi_err((level) | LLAPI_MSG_NO_ERRNO, fmt, ## a)
152
153 void llapi_printf(int level, char *fmt, ...)
154 {
155         va_list args;
156
157         if ((level & LLAPI_MSG_MASK) > llapi_msg_level)
158                 return;
159
160         va_start(args, fmt);
161         vfprintf(stdout, fmt, args);
162         va_end(args);
163 }
164
165 /**
166  * size_units is unchanged if no specifier used
167  */
168 int parse_size(char *optarg, unsigned long long *size,
169                unsigned long long *size_units, int bytes_spec)
170 {
171         char *end;
172
173         *size = strtoull(optarg, &end, 0);
174
175         if (*end != '\0') {
176                 if ((*end == 'b') && *(end+1) == '\0' &&
177                     (*size & (~0ULL << (64 - 9))) == 0 &&
178                     !bytes_spec) {
179                         *size <<= 9;
180                         *size_units = 1 << 9;
181                 } else if ((*end == 'b') && *(end+1) == '\0' &&
182                            bytes_spec) {
183                         *size_units = 1;
184                 } else if ((*end == 'k' || *end == 'K') &&
185                            *(end+1) == '\0' && (*size &
186                            (~0ULL << (64 - 10))) == 0) {
187                         *size <<= 10;
188                         *size_units = 1 << 10;
189                 } else if ((*end == 'm' || *end == 'M') &&
190                            *(end+1) == '\0' && (*size &
191                            (~0ULL << (64 - 20))) == 0) {
192                         *size <<= 20;
193                         *size_units = 1 << 20;
194                 } else if ((*end == 'g' || *end == 'G') &&
195                            *(end+1) == '\0' && (*size &
196                            (~0ULL << (64 - 30))) == 0) {
197                         *size <<= 30;
198                         *size_units = 1 << 30;
199                 } else if ((*end == 't' || *end == 'T') &&
200                            *(end+1) == '\0' && (*size &
201                            (~0ULL << (64 - 40))) == 0) {
202                         *size <<= 40;
203                         *size_units = 1ULL << 40;
204                 } else if ((*end == 'p' || *end == 'P') &&
205                            *(end+1) == '\0' && (*size &
206                            (~0ULL << (64 - 50))) == 0) {
207                         *size <<= 50;
208                         *size_units = 1ULL << 50;
209                 } else if ((*end == 'e' || *end == 'E') &&
210                            *(end+1) == '\0' && (*size &
211                            (~0ULL << (64 - 60))) == 0) {
212                         *size <<= 60;
213                         *size_units = 1ULL << 60;
214                 } else {
215                         return -1;
216                 }
217         }
218
219         return 0;
220 }
221
222 int llapi_stripe_limit_check(unsigned long long stripe_size, int stripe_offset,
223                              int stripe_count, int stripe_pattern)
224 {
225         int page_size;
226
227         /* 64 KB is the largest common page size I'm aware of (on ia64), but
228          * check the local page size just in case. */
229         page_size = LOV_MIN_STRIPE_SIZE;
230         if (getpagesize() > page_size) {
231                 page_size = getpagesize();
232                 llapi_err_noerrno(LLAPI_MSG_WARN,
233                                   "warning: your page size (%u) is "
234                                   "larger than expected (%u)", page_size,
235                                   LOV_MIN_STRIPE_SIZE);
236         }
237         if (stripe_size < 0 || (stripe_size & (LOV_MIN_STRIPE_SIZE - 1))) {
238                 llapi_err(LLAPI_MSG_ERROR, "error: bad stripe_size %lu, "
239                           "must be an even multiple of %d bytes",
240                           stripe_size, page_size);
241                 return -EINVAL;
242         }
243         if (stripe_offset < -1 || stripe_offset > MAX_OBD_DEVICES) {
244                 errno = -EINVAL;
245                 llapi_err(LLAPI_MSG_ERROR, "error: bad stripe offset %d",
246                           stripe_offset);
247                 return -EINVAL;
248         }
249         if (stripe_count < -1 || stripe_count > LOV_MAX_STRIPE_COUNT) {
250                 errno = -EINVAL;
251                 llapi_err(LLAPI_MSG_ERROR, "error: bad stripe count %d",
252                           stripe_count);
253                 return -EINVAL;
254         }
255         if (stripe_size >= (1ULL << 32)){
256                 errno = -EINVAL;
257                 llapi_err(LLAPI_MSG_ERROR, "warning: stripe size larger than 4G"
258                           " is not currently supported and would wrap");
259                 return -EINVAL;
260         }
261         return 0;
262 }
263
264 static int find_target_obdpath(char *fsname, char *path)
265 {
266         glob_t glob_info;
267         char pattern[PATH_MAX + 1];
268         int rc;
269
270         snprintf(pattern, PATH_MAX,
271                  "/proc/fs/lustre/lov/%s-*/target_obd",
272                  fsname);
273         rc = glob(pattern, GLOB_BRACE, NULL, &glob_info);
274         if (rc == GLOB_NOMATCH)
275                 return -ENODEV;
276         else if (rc)
277                 return -EINVAL;
278
279         strcpy(path, glob_info.gl_pathv[0]);
280         globfree(&glob_info);
281         return 0;
282 }
283
284 static int find_poolpath(char *fsname, char *poolname, char *poolpath)
285 {
286         glob_t glob_info;
287         char pattern[PATH_MAX + 1];
288         int rc;
289
290         snprintf(pattern, PATH_MAX,
291                  "/proc/fs/lustre/lov/%s-*/pools/%s",
292                  fsname, poolname);
293         rc = glob(pattern, GLOB_BRACE, NULL, &glob_info);
294         /* If no pools, make sure the lov is available */
295         if ((rc == GLOB_NOMATCH) &&
296             (find_target_obdpath(fsname, poolpath) == -ENODEV))
297                 return -ENODEV;
298         if (rc)
299                 return -EINVAL;
300
301         strcpy(poolpath, glob_info.gl_pathv[0]);
302         globfree(&glob_info);
303         return 0;
304 }
305
306 /*
307  * if pool is NULL, search ostname in target_obd
308  * if pool is not NULL:
309  *  if pool not found returns errno < 0
310  *  if ostname is NULL, returns 1 if pool is not empty and 0 if pool empty
311  *  if ostname is not NULL, returns 1 if OST is in pool and 0 if not
312  */
313 int llapi_search_ost(char *fsname, char *poolname, char *ostname)
314 {
315         FILE *fd;
316         char buffer[PATH_MAX + 1];
317         int len = 0, rc;
318
319         if (ostname != NULL)
320                 len = strlen(ostname);
321
322         if (poolname == NULL)
323                 rc = find_target_obdpath(fsname, buffer);
324         else
325                 rc = find_poolpath(fsname, poolname, buffer);
326         if (rc)
327                 return rc;
328
329         if ((fd = fopen(buffer, "r")) == NULL)
330                 return -EINVAL;
331
332         while (fgets(buffer, sizeof(buffer), fd) != NULL) {
333                 if (poolname == NULL) {
334                         char *ptr;
335                         /* Search for an ostname in the list of OSTs
336                          Line format is IDX: fsname-OSTxxxx_UUID STATUS */
337                         ptr = strchr(buffer, ' ');
338                         if ((ptr != NULL) &&
339                             (strncmp(ptr + 1, ostname, len) == 0)) {
340                                 fclose(fd);
341                                 return 1;
342                         }
343                 } else {
344                         /* Search for an ostname in a pool,
345                          (or an existing non-empty pool if no ostname) */
346                         if ((ostname == NULL) ||
347                             (strncmp(buffer, ostname, len) == 0)) {
348                                 fclose(fd);
349                                 return 1;
350                         }
351                 }
352         }
353         fclose(fd);
354         return 0;
355 }
356
357 int llapi_file_open_pool(const char *name, int flags, int mode,
358                          unsigned long long stripe_size, int stripe_offset,
359                          int stripe_count, int stripe_pattern, char *pool_name)
360 {
361         struct lov_user_md_v3 lum = { 0 };
362         int fd, rc = 0;
363         int isdir = 0;
364
365         /* Make sure we have a good pool */
366         if (pool_name != NULL) {
367                 char fsname[MAX_OBD_NAME + 1], *ptr;
368
369                 if (llapi_search_fsname(name, fsname)) {
370                     llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
371                               "'%s' is not on a Lustre filesystem", name);
372                     return -EINVAL;
373                 }
374
375                 /* in case user gives the full pool name <fsname>.<poolname>,
376                  * strip the fsname */
377                 ptr = strchr(pool_name, '.');
378                 if (ptr != NULL) {
379                         *ptr = '\0';
380                         if (strcmp(pool_name, fsname) != 0) {
381                                 *ptr = '.';
382                                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
383                                    "Pool '%s' is not on filesystem '%s'",
384                                    pool_name, fsname);
385                                 return -EINVAL;
386                         }
387                         pool_name = ptr + 1;
388                 }
389
390                 /* Make sure the pool exists and is non-empty */
391                 if ((rc = llapi_search_ost(fsname, pool_name, NULL)) < 1) {
392                         llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
393                                   "pool '%s.%s' %s", fsname, pool_name,
394                                   rc == 0 ? "has no OSTs" : "does not exist");
395                         return -EINVAL;
396                 }
397         }
398
399         fd = open(name, flags | O_LOV_DELAY_CREATE, mode);
400         if (fd < 0 && errno == EISDIR) {
401                 fd = open(name, O_DIRECTORY | O_RDONLY);
402                 isdir++;
403         }
404
405         if (fd < 0) {
406                 rc = -errno;
407                 llapi_err(LLAPI_MSG_ERROR, "unable to open '%s'", name);
408                 return rc;
409         }
410
411         if ((rc = llapi_stripe_limit_check(stripe_size, stripe_offset,
412                                            stripe_count, stripe_pattern)) != 0){
413                 errno = rc;
414                 goto out;
415         }
416
417         /*  Initialize IOCTL striping pattern structure */
418         lum.lmm_magic = LOV_USER_MAGIC_V3;
419         lum.lmm_pattern = stripe_pattern;
420         lum.lmm_stripe_size = stripe_size;
421         lum.lmm_stripe_count = stripe_count;
422         lum.lmm_stripe_offset = stripe_offset;
423         if (pool_name != NULL) {
424                 strncpy(lum.lmm_pool_name, pool_name, LOV_MAXPOOLNAME);
425         } else {
426                 /* If no pool is specified at all, use V1 request */
427                 lum.lmm_magic = LOV_USER_MAGIC_V1;
428         }
429
430         if (ioctl(fd, LL_IOC_LOV_SETSTRIPE, &lum)) {
431                 char *errmsg = "stripe already set";
432                 rc = -errno;
433                 if (errno != EEXIST && errno != EALREADY)
434                         errmsg = strerror(errno);
435
436                 llapi_err_noerrno(LLAPI_MSG_ERROR,
437                                   "error on ioctl "LPX64" for '%s' (%d): %s",
438                                   (__u64)LL_IOC_LOV_SETSTRIPE, name, fd,errmsg);
439         }
440 out:
441         if (rc) {
442                 close(fd);
443                 fd = rc;
444         }
445
446         return fd;
447 }
448
449 int llapi_file_open(const char *name, int flags, int mode,
450                     unsigned long long stripe_size, int stripe_offset,
451                     int stripe_count, int stripe_pattern)
452 {
453         return llapi_file_open_pool(name, flags, mode, stripe_size,
454                                     stripe_offset, stripe_count,
455                                     stripe_pattern, NULL);
456 }
457
458 int llapi_file_create(const char *name, unsigned long long stripe_size,
459                       int stripe_offset, int stripe_count, int stripe_pattern)
460 {
461         int fd;
462
463         fd = llapi_file_open_pool(name, O_CREAT | O_WRONLY, 0644, stripe_size,
464                                   stripe_offset, stripe_count, stripe_pattern,
465                                   NULL);
466         if (fd < 0)
467                 return fd;
468
469         close(fd);
470         return 0;
471 }
472
473 int llapi_file_create_pool(const char *name, unsigned long long stripe_size,
474                            int stripe_offset, int stripe_count,
475                            int stripe_pattern, char *pool_name)
476 {
477         int fd;
478
479         fd = llapi_file_open_pool(name, O_CREAT | O_WRONLY, 0644, stripe_size,
480                                   stripe_offset, stripe_count, stripe_pattern,
481                                   pool_name);
482         if (fd < 0)
483                 return fd;
484
485         close(fd);
486         return 0;
487 }
488
489 /*
490  * Find the fsname, the full path, and/or an open fd.
491  * Either the fsname or path must not be NULL
492  */
493 #define WANT_PATH   0x1
494 #define WANT_FSNAME 0x2
495 #define WANT_FD     0x4
496 #define WANT_INDEX  0x8
497 #define WANT_ERROR  0x10
498 static int get_root_path(int want, char *fsname, int *outfd, char *path,
499                          int index)
500 {
501         struct mntent mnt;
502         char buf[PATH_MAX], mntdir[PATH_MAX];
503         char *ptr;
504         FILE *fp;
505         int idx = 0, len = 0, mntlen, fd;
506         int rc = -ENODEV;
507
508         /* get the mount point */
509         fp = setmntent(MOUNTED, "r");
510         if (fp == NULL) {
511                  llapi_err(LLAPI_MSG_ERROR,
512                            "setmntent(%s) failed: %s:", MOUNTED,
513                            strerror (errno));
514                  return -EIO;
515         }
516         while (1) {
517                 if (getmntent_r(fp, &mnt, buf, sizeof(buf)) == NULL)
518                         break;
519
520                 if (!llapi_is_lustre_mnt(&mnt))
521                         continue;
522
523                 if ((want & WANT_INDEX) && (idx++ != index))
524                         continue;
525
526                 mntlen = strlen(mnt.mnt_dir);
527                 ptr = strrchr(mnt.mnt_fsname, '/');
528                 if (!ptr && !len) {
529                         rc = -EINVAL;
530                         break;
531                 }
532                 ptr++;
533
534                 /* Check the fsname for a match, if given */
535                 if (!(want & WANT_FSNAME) && fsname != NULL &&
536                     (strlen(fsname) > 0) && (strcmp(ptr, fsname) != 0))
537                         continue;
538
539                 /* If the path isn't set return the first one we find */
540                 if (path == NULL || strlen(path) == 0) {
541                         strcpy(mntdir, mnt.mnt_dir);
542                         if ((want & WANT_FSNAME) && fsname != NULL)
543                                 strcpy(fsname, ptr);
544                         rc = 0;
545                         break;
546                 /* Otherwise find the longest matching path */
547                 } else if ((strlen(path) >= mntlen) && (mntlen >= len) &&
548                            (strncmp(mnt.mnt_dir, path, mntlen) == 0)) {
549                         strcpy(mntdir, mnt.mnt_dir);
550                         len = mntlen;
551                         if ((want & WANT_FSNAME) && fsname != NULL)
552                                 strcpy(fsname, ptr);
553                         rc = 0;
554                 }
555         }
556         endmntent(fp);
557
558         /* Found it */
559         if (rc == 0) {
560                 if ((want & WANT_PATH) && path != NULL)
561                         strcpy(path, mntdir);
562                 if (want & WANT_FD) {
563                         fd = open(mntdir, O_RDONLY | O_DIRECTORY | O_NONBLOCK);
564                         if (fd < 0) {
565                                 perror("open");
566                                 rc = -errno;
567                         } else {
568                                 *outfd = fd;
569                         }
570                 }
571         } else if (want & WANT_ERROR)
572                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
573                           "can't find fs root for '%s': %d",
574                           (want & WANT_PATH) ? fsname : path, rc);
575         return rc;
576 }
577
578 /*
579  * search lustre mounts
580  *
581  * Calling this function will return to the user the mount point, mntdir, and
582  * the file system name, fsname, if the user passed a buffer to this routine.
583  *
584  * The user inputs are pathname and index. If the pathname is supplied then
585  * the value of the index will be ignored. The pathname will return data if
586  * the pathname is located on a lustre mount. Index is used to pick which
587  * mount point you want in the case of multiple mounted lustre file systems.
588  * See function lfs_osts in lfs.c for a example of the index use.
589  */
590 int llapi_search_mounts(const char *pathname, int index, char *mntdir,
591                         char *fsname)
592 {
593         int want = WANT_PATH, idx = -1;
594
595         if (!pathname) {
596                 want |= WANT_INDEX;
597                 idx = index;
598         } else
599                 strcpy(mntdir, pathname);
600
601         if (fsname)
602                 want |= WANT_FSNAME;
603         return get_root_path(want, fsname, NULL, mntdir, idx);
604 }
605
606 /* Given a path, find the corresponding Lustre fsname */
607 int llapi_search_fsname(const char *pathname, char *fsname)
608 {
609         char *path = (char*)pathname, buf[PATH_MAX + 1];
610
611         if (pathname[0] != '/') { /* Need a absolute path */
612                 memset(buf, '\0', sizeof(buf));
613                 if (realpath(pathname, buf) == NULL) {
614                         llapi_err(LLAPI_MSG_ERROR, "pathname '%s' cannot expand",
615                                   pathname);
616                         return -EINVAL;
617                 }
618                 path = buf;
619         }
620         return get_root_path(WANT_FSNAME | WANT_ERROR, fsname, NULL,
621                              path, -1);
622 }
623
624 /* return the first file matching this pattern */
625 static int first_match(char *pattern, char *buffer)
626 {
627         glob_t glob_info;
628
629         if (glob(pattern, GLOB_BRACE, NULL, &glob_info))
630                 return -ENOENT;
631
632         if (glob_info.gl_pathc < 1) {
633                 globfree(&glob_info);
634                 return -ENOENT;
635         }
636
637         strcpy(buffer, glob_info.gl_pathv[0]);
638
639         globfree(&glob_info);
640         return 0;
641 }
642
643 /*
644  * find the pool directory path under /proc
645  * (can be also used to test if a fsname is known)
646  */
647 static int poolpath(char *fsname, char *pathname, char *pool_pathname)
648 {
649         int rc = 0;
650         char pattern[PATH_MAX + 1];
651         char buffer[PATH_MAX];
652
653         if (fsname == NULL) {
654                 rc = llapi_search_fsname(pathname, buffer);
655                 if (rc != 0)
656                         return rc;
657                 fsname = buffer;
658                 strcpy(pathname, fsname);
659         }
660
661         snprintf(pattern, PATH_MAX, "/proc/fs/lustre/lov/%s-*/pools", fsname);
662         rc = first_match(pattern, buffer);
663         if (rc)
664                 return rc;
665
666         /* in fsname test mode, pool_pathname is NULL */
667         if (pool_pathname != NULL)
668                 strcpy(pool_pathname, buffer);
669
670         return 0;
671 }
672
673 /**
674  * Get the list of pool members.
675  * \param poolname    string of format \<fsname\>.\<poolname\>
676  * \param members     caller-allocated array of char*
677  * \param list_size   size of the members array
678  * \param buffer      caller-allocated buffer for storing OST names
679  * \param buffer_size size of the buffer
680  *
681  * \return number of members retrieved for this pool
682  * \retval -error failure
683  */
684 int llapi_get_poolmembers(const char *poolname, char **members,
685                           int list_size, char *buffer, int buffer_size)
686 {
687         char fsname[PATH_MAX + 1];
688         char *pool, *tmp;
689         char pathname[PATH_MAX + 1];
690         char path[PATH_MAX + 1];
691         char buf[1024];
692         FILE *fd;
693         int rc = 0;
694         int nb_entries = 0;
695         int used = 0;
696
697         /* name is FSNAME.POOLNAME */
698         if (strlen(poolname) > PATH_MAX)
699                 return -EOVERFLOW;
700         strcpy(fsname, poolname);
701         pool = strchr(fsname, '.');
702         if (pool == NULL)
703                 return -EINVAL;
704
705         *pool = '\0';
706         pool++;
707
708         rc = poolpath(fsname, NULL, pathname);
709         if (rc != 0) {
710                 errno = -rc;
711                 llapi_err(LLAPI_MSG_ERROR, "Lustre filesystem '%s' not found",
712                           fsname);
713                 return rc;
714         }
715
716         llapi_printf(LLAPI_MSG_NORMAL, "Pool: %s.%s\n", fsname, pool);
717         sprintf(path, "%s/%s", pathname, pool);
718         if ((fd = fopen(path, "r")) == NULL) {
719                 llapi_err(LLAPI_MSG_ERROR, "Cannot open %s", path);
720                 return -EINVAL;
721         }
722
723         rc = 0;
724         while (fgets(buf, sizeof(buf), fd) != NULL) {
725                 if (nb_entries >= list_size) {
726                         rc = -EOVERFLOW;
727                         break;
728                 }
729                 /* remove '\n' */
730                 if ((tmp = strchr(buf, '\n')) != NULL)
731                         *tmp='\0';
732                 if (used + strlen(buf) + 1 > buffer_size) {
733                         rc = -EOVERFLOW;
734                         break;
735                 }
736
737                 strcpy(buffer + used, buf);
738                 members[nb_entries] = buffer + used;
739                 used += strlen(buf) + 1;
740                 nb_entries++;
741                 rc = nb_entries;
742         }
743
744         fclose(fd);
745         return rc;
746 }
747
748 /**
749  * Get the list of pools in a filesystem.
750  * \param name        filesystem name or path
751  * \param poollist    caller-allocated array of char*
752  * \param list_size   size of the poollist array
753  * \param buffer      caller-allocated buffer for storing pool names
754  * \param buffer_size size of the buffer
755  *
756  * \return number of pools retrieved for this filesystem
757  * \retval -error failure
758  */
759 int llapi_get_poollist(const char *name, char **poollist, int list_size,
760                        char *buffer, int buffer_size)
761 {
762         char fsname[PATH_MAX + 1], rname[PATH_MAX + 1], pathname[PATH_MAX + 1];
763         char *ptr;
764         DIR *dir;
765         struct dirent pool;
766         struct dirent *cookie = NULL;
767         int rc = 0;
768         unsigned int nb_entries = 0;
769         unsigned int used = 0;
770         unsigned int i;
771
772         /* initilize output array */
773         for (i = 0; i < list_size; i++)
774                 poollist[i] = NULL;
775
776         /* is name a pathname ? */
777         ptr = strchr(name, '/');
778         if (ptr != NULL) {
779                 /* only absolute pathname is supported */
780                 if (*name != '/')
781                         return -EINVAL;
782                 if (!realpath(name, rname)) {
783                         rc = -errno;
784                         llapi_err(LLAPI_MSG_ERROR, "invalid path '%s'", name);
785                         return rc;
786                 }
787
788                 rc = poolpath(NULL, rname, pathname);
789                 if (rc != 0) {
790                         errno = -rc;
791                         llapi_err(LLAPI_MSG_ERROR, "'%s' is not"
792                                   " a Lustre filesystem", name);
793                         return rc;
794                 }
795                 strcpy(fsname, rname);
796         } else {
797                 /* name is FSNAME */
798                 strcpy(fsname, name);
799                 rc = poolpath(fsname, NULL, pathname);
800         }
801         if (rc != 0) {
802                 errno = -rc;
803                 llapi_err(LLAPI_MSG_ERROR, "Lustre filesystem '%s' not found",
804                           name);
805                 return rc;
806         }
807
808         llapi_printf(LLAPI_MSG_NORMAL, "Pools from %s:\n", fsname);
809         if ((dir = opendir(pathname)) == NULL) {
810                 llapi_err(LLAPI_MSG_ERROR, "Could not open pool list for '%s'",
811                           name);
812                 return -errno;
813         }
814
815         while(1) {
816                 rc = readdir_r(dir, &pool, &cookie);
817
818                 if (rc != 0) {
819                         llapi_err(LLAPI_MSG_ERROR,
820                                   "Error reading pool list for '%s'", name);
821                         return -errno;
822                 } else if ((rc == 0) && (cookie == NULL))
823                         /* end of directory */
824                         break;
825
826                 /* ignore . and .. */
827                 if (!strcmp(pool.d_name, ".") || !strcmp(pool.d_name, ".."))
828                         continue;
829
830                 /* check output bounds */
831                 if (nb_entries >= list_size)
832                         return -EOVERFLOW;
833
834                 /* +2 for '.' and final '\0' */
835                 if (used + strlen(pool.d_name) + strlen(fsname) + 2
836                     > buffer_size)
837                         return -EOVERFLOW;
838
839                 sprintf(buffer + used, "%s.%s", fsname, pool.d_name);
840                 poollist[nb_entries] = buffer + used;
841                 used += strlen(pool.d_name) + strlen(fsname) + 2;
842                 nb_entries++;
843         }
844
845         closedir(dir);
846         return nb_entries;
847 }
848
849 /* wrapper for lfs.c and obd.c */
850 int llapi_poollist(const char *name)
851 {
852         /* list of pool names (assume that pool count is smaller
853            than OST count) */
854         char *list[FIND_MAX_OSTS];
855         char *buffer;
856         /* fsname-OST0000_UUID < 32 char, 1 per OST */
857         int bufsize = FIND_MAX_OSTS * 32;
858         int i, nb;
859
860         buffer = malloc(bufsize);
861         if (buffer == NULL)
862                 return -ENOMEM;
863
864         if ((name[0] == '/') || (strchr(name, '.') == NULL))
865                 /* name is a path or fsname */
866                 nb = llapi_get_poollist(name, list, FIND_MAX_OSTS, buffer,
867                                         bufsize);
868         else
869                 /* name is a pool name (<fsname>.<poolname>) */
870                 nb = llapi_get_poolmembers(name, list, FIND_MAX_OSTS, buffer,
871                                            bufsize);
872
873         for (i = 0; i < nb; i++)
874                 llapi_printf(LLAPI_MSG_NORMAL, "%s\n", list[i]);
875
876         free(buffer);
877         return (nb < 0 ? nb : 0);
878 }
879
880
881 typedef int (semantic_func_t)(char *path, DIR *parent, DIR *d,
882                               void *data, cfs_dirent_t *de);
883
884 #define MAX_LOV_UUID_COUNT      max(LOV_MAX_STRIPE_COUNT, 1000)
885 #define OBD_NOT_FOUND           (-1)
886
887 static int common_param_init(struct find_param *param)
888 {
889         param->lumlen = lov_mds_md_size(MAX_LOV_UUID_COUNT, LOV_MAGIC_V3);
890         if ((param->lmd = malloc(sizeof(lstat_t) + param->lumlen)) == NULL) {
891                 llapi_err(LLAPI_MSG_ERROR,
892                           "error: allocation of %d bytes for ioctl",
893                           sizeof(lstat_t) + param->lumlen);
894                 return -ENOMEM;
895         }
896
897         param->got_uuids = 0;
898         param->obdindexes = NULL;
899         param->obdindex = OBD_NOT_FOUND;
900         return 0;
901 }
902
903 static void find_param_fini(struct find_param *param)
904 {
905         if (param->obdindexes)
906                 free(param->obdindexes);
907
908         if (param->lmd)
909                 free(param->lmd);
910 }
911
912 static int cb_common_fini(char *path, DIR *parent, DIR *d, void *data,
913                           cfs_dirent_t *de)
914 {
915         struct find_param *param = (struct find_param *)data;
916         param->depth--;
917         return 0;
918 }
919
920 static DIR *opendir_parent(char *path)
921 {
922         DIR *parent;
923         char *fname;
924         char c;
925
926         fname = strrchr(path, '/');
927         if (fname == NULL)
928                 return opendir(".");
929
930         c = fname[1];
931         fname[1] = '\0';
932         parent = opendir(path);
933         fname[1] = c;
934         return parent;
935 }
936
937 int llapi_mds_getfileinfo(char *path, DIR *parent,
938                           struct lov_user_mds_data *lmd)
939 {
940         lstat_t *st = &lmd->lmd_st;
941         char *fname = strrchr(path, '/');
942         int ret = 0;
943
944         if (parent == NULL)
945                 return -EINVAL;
946
947         fname = (fname == NULL ? path : fname + 1);
948         /* retrieve needed file info */
949         strncpy((char *)lmd, fname,
950                 lov_mds_md_size(MAX_LOV_UUID_COUNT, LOV_MAGIC));
951         ret = ioctl(dirfd(parent), IOC_MDC_GETFILEINFO, (void *)lmd);
952
953         if (ret) {
954                 if (errno == ENOTTY) {
955                         /* ioctl is not supported, it is not a lustre fs.
956                          * Do the regular lstat(2) instead. */
957                         ret = lstat_f(path, st);
958                         if (ret) {
959                                 llapi_err(LLAPI_MSG_ERROR,
960                                           "error: %s: lstat failed for %s",
961                                           __func__, path);
962                                 return ret;
963                         }
964                 } else if (errno == ENOENT) {
965                         llapi_err(LLAPI_MSG_WARN,
966                                   "warning: %s: %s does not exist",
967                                   __func__, path);
968                         return -ENOENT;
969                 } else {
970                         llapi_err(LLAPI_MSG_ERROR,
971                                  "error: %s: IOC_MDC_GETFILEINFO failed for %s",
972                                  __func__, path);
973                         return ret;
974                 }
975         }
976
977         return 0;
978 }
979
980 static int llapi_semantic_traverse(char *path, int size, DIR *parent,
981                                    semantic_func_t sem_init,
982                                    semantic_func_t sem_fini, void *data,
983                                    cfs_dirent_t *de)
984 {
985         cfs_dirent_t *dent;
986         int len, ret;
987         DIR *d, *p = NULL;
988
989         ret = 0;
990         len = strlen(path);
991
992         d = opendir(path);
993         if (!d && errno != ENOTDIR) {
994                 llapi_err(LLAPI_MSG_ERROR, "%s: Failed to open '%s'",
995                           __func__, path);
996                 return -EINVAL;
997         } else if (!d && !parent) {
998                 /* ENOTDIR. Open the parent dir. */
999                 p = opendir_parent(path);
1000                 if (!p)
1001                         GOTO(out, ret = -EINVAL);
1002         }
1003
1004         if (sem_init && (ret = sem_init(path, parent ?: p, d, data, de)))
1005                 goto err;
1006
1007         if (!d)
1008                 GOTO(out, ret = 0);
1009
1010         while ((dent = readdir64(d)) != NULL) {
1011                 ((struct find_param *)data)->have_fileinfo = 0;
1012
1013                 if (!strcmp(dent->d_name, ".") || !strcmp(dent->d_name, ".."))
1014                         continue;
1015
1016                 /* Don't traverse .lustre directory */
1017                 if (!(strcmp(dent->d_name, dot_lustre_name)))
1018                         continue;
1019
1020                 path[len] = 0;
1021                 if ((len + dent->d_reclen + 2) > size) {
1022                         llapi_err(LLAPI_MSG_ERROR,
1023                                   "error: %s: string buffer is too small",
1024                                   __func__);
1025                         break;
1026                 }
1027                 strcat(path, "/");
1028                 strcat(path, dent->d_name);
1029
1030                 if (dent->d_type == DT_UNKNOWN) {
1031                         lstat_t *st = &((struct find_param *)data)->lmd->lmd_st;
1032
1033                         ret = llapi_mds_getfileinfo(path, d,
1034                                              ((struct find_param *)data)->lmd);
1035                         if (ret == 0) {
1036                                 ((struct find_param *)data)->have_fileinfo = 1;
1037                                 dent->d_type =
1038                                         llapi_filetype_dir_table[st->st_mode &
1039                                                                  S_IFMT];
1040                         }
1041                         if (ret == -ENOENT)
1042                                 continue;
1043                 }
1044
1045                 switch (dent->d_type) {
1046                 case DT_UNKNOWN:
1047                         llapi_err(LLAPI_MSG_ERROR,
1048                                   "error: %s: '%s' is UNKNOWN type %d",
1049                                   __func__, dent->d_name, dent->d_type);
1050                         break;
1051                 case DT_DIR:
1052                         ret = llapi_semantic_traverse(path, size, d, sem_init,
1053                                                       sem_fini, data, dent);
1054                         if (ret < 0)
1055                                 goto out;
1056                         break;
1057                 default:
1058                         ret = 0;
1059                         if (sem_init) {
1060                                 ret = sem_init(path, d, NULL, data, dent);
1061                                 if (ret < 0)
1062                                         goto out;
1063                         }
1064                         if (sem_fini && ret == 0)
1065                                 sem_fini(path, d, NULL, data, dent);
1066                 }
1067         }
1068
1069 out:
1070         path[len] = 0;
1071
1072         if (sem_fini)
1073                 sem_fini(path, parent, d, data, de);
1074 err:
1075         if (d)
1076                 closedir(d);
1077         if (p)
1078                 closedir(p);
1079         return ret;
1080 }
1081
1082 static int param_callback(char *path, semantic_func_t sem_init,
1083                           semantic_func_t sem_fini, struct find_param *param)
1084 {
1085         int ret, len = strlen(path);
1086         char *buf;
1087
1088         if (len > PATH_MAX) {
1089                 llapi_err(LLAPI_MSG_ERROR, "Path name '%s' is too long", path);
1090                 return -EINVAL;
1091         }
1092
1093         buf = (char *)malloc(PATH_MAX + 1);
1094         if (!buf)
1095                 return -ENOMEM;
1096
1097         ret = common_param_init(param);
1098         if (ret)
1099                 goto out;
1100         param->depth = 0;
1101
1102         strncpy(buf, path, PATH_MAX + 1);
1103         ret = llapi_semantic_traverse(buf, PATH_MAX + 1, NULL, sem_init,
1104                                       sem_fini, param, NULL);
1105 out:
1106         find_param_fini(param);
1107         free(buf);
1108         return ret < 0 ? ret : 0;
1109 }
1110
1111 int llapi_file_fget_lov_uuid(int fd, struct obd_uuid *lov_name)
1112 {
1113         int rc = ioctl(fd, OBD_IOC_GETNAME, lov_name);
1114         if (rc) {
1115                 rc = errno;
1116                 llapi_err(LLAPI_MSG_ERROR, "error: can't get lov name.");
1117         }
1118         return rc;
1119 }
1120
1121 int llapi_file_get_lov_uuid(const char *path, struct obd_uuid *lov_uuid)
1122 {
1123         int fd, rc;
1124
1125         fd = open(path, O_RDONLY);
1126         if (fd < 0) {
1127                 rc = errno;
1128                 llapi_err(LLAPI_MSG_ERROR, "error opening %s", path);
1129                 return rc;
1130         }
1131
1132         rc = llapi_file_fget_lov_uuid(fd, lov_uuid);
1133
1134         close(fd);
1135
1136         return rc;
1137 }
1138
1139 /*
1140  * If uuidp is NULL, return the number of available obd uuids.
1141  * If uuidp is non-NULL, then it will return the uuids of the obds. If
1142  * there are more OSTs then allocated to uuidp, then an error is returned with
1143  * the ost_count set to number of available obd uuids.
1144  */
1145 int llapi_lov_get_uuids(int fd, struct obd_uuid *uuidp, int *ost_count)
1146 {
1147         struct obd_uuid lov_name;
1148         char buf[1024];
1149         FILE *fp;
1150         int rc = 0, index = 0;
1151
1152         /* Get the lov name */
1153         rc = llapi_file_fget_lov_uuid(fd, &lov_name);
1154         if (rc)
1155                 return rc;
1156
1157         /* Now get the ost uuids from /proc */
1158         snprintf(buf, sizeof(buf), "/proc/fs/lustre/lov/%s/target_obd",
1159                  lov_name.uuid);
1160         fp = fopen(buf, "r");
1161         if (fp == NULL) {
1162                 rc = errno;
1163                 llapi_err(LLAPI_MSG_ERROR, "error: opening '%s'", buf);
1164                 return rc;
1165         }
1166
1167         while (fgets(buf, sizeof(buf), fp) != NULL) {
1168                 if (uuidp && (index < *ost_count)) {
1169                         if (sscanf(buf, "%d: %s", &index, uuidp[index].uuid) <2)
1170                                 break;
1171                 }
1172                 index++;
1173         }
1174
1175         fclose(fp);
1176
1177         if (uuidp && (index >= *ost_count))
1178                 return -EOVERFLOW;
1179
1180         *ost_count = index;
1181         return rc;
1182 }
1183
1184 int llapi_get_obd_count(char *mnt, int *count, int is_mdt)
1185 {
1186         DIR *root;
1187         int rc;
1188
1189         root = opendir(mnt);
1190         if (!root) {
1191                 llapi_err(LLAPI_MSG_ERROR, "open %s failed", mnt);
1192                 return -1;
1193         }
1194
1195         *count = is_mdt;
1196         rc = ioctl(dirfd(root), LL_IOC_GETOBDCOUNT, count);
1197
1198         closedir(root);
1199         return rc;
1200 }
1201
1202 /* Check if user specified value matches a real uuid.  Ignore _UUID,
1203  * -osc-4ba41334, other trailing gunk in comparison.
1204  * @param real_uuid ends in "_UUID"
1205  * @param search_uuid may or may not end in "_UUID"
1206  */
1207 int llapi_uuid_match(char *real_uuid, char *search_uuid)
1208 {
1209         int cmplen = strlen(real_uuid);
1210         int searchlen = strlen(search_uuid);
1211
1212         if (cmplen > 5 && strcmp(real_uuid + cmplen - 5, "_UUID") == 0)
1213                 cmplen -= 5;
1214         if (searchlen > 5 && strcmp(search_uuid + searchlen - 5, "_UUID") == 0)
1215                 searchlen -= 5;
1216
1217         /* The UUIDs may legitimately be different lengths, if
1218          * the system was upgraded from an older version. */
1219         if (cmplen != searchlen)
1220                 return 0;
1221
1222         return (strncmp(search_uuid, real_uuid, cmplen) == 0);
1223 }
1224
1225 /* Here, param->obduuid points to a single obduuid, the index of which is
1226  * returned in param->obdindex */
1227 static int setup_obd_uuid(DIR *dir, char *dname, struct find_param *param)
1228 {
1229         struct obd_uuid lov_uuid;
1230         char uuid[sizeof(struct obd_uuid)];
1231         char buf[1024];
1232         FILE *fp;
1233         int rc = 0, index;
1234
1235         if (param->got_uuids)
1236                 return rc;
1237
1238         /* Get the lov name */
1239         rc = llapi_file_fget_lov_uuid(dirfd(dir), &lov_uuid);
1240         if (rc) {
1241                 if (errno != ENOTTY) {
1242                         rc = errno;
1243                         llapi_err(LLAPI_MSG_ERROR,
1244                                   "error: can't get lov name: %s", dname);
1245                 } else {
1246                         rc = 0;
1247                 }
1248                 return rc;
1249         }
1250
1251         param->got_uuids = 1;
1252
1253         /* Now get the ost uuids from /proc */
1254         snprintf(buf, sizeof(buf), "/proc/fs/lustre/lov/%s/target_obd",
1255                  lov_uuid.uuid);
1256         fp = fopen(buf, "r");
1257         if (fp == NULL) {
1258                 rc = errno;
1259                 llapi_err(LLAPI_MSG_ERROR, "error: opening '%s'", buf);
1260                 return rc;
1261         }
1262
1263         if (!param->obduuid && !param->quiet && !param->obds_printed)
1264                 llapi_printf(LLAPI_MSG_NORMAL, "OBDS:\n");
1265
1266         while (fgets(buf, sizeof(buf), fp) != NULL) {
1267                 if (sscanf(buf, "%d: %s", &index, uuid) < 2)
1268                         break;
1269
1270                 if (param->obduuid) {
1271                         if (llapi_uuid_match(uuid, param->obduuid->uuid)) {
1272                                 param->obdindex = index;
1273                                 break;
1274                         }
1275                 } else if (!param->quiet && !param->obds_printed) {
1276                         /* Print everything */
1277                         llapi_printf(LLAPI_MSG_NORMAL, "%s", buf);
1278                 }
1279         }
1280         param->obds_printed = 1;
1281
1282         fclose(fp);
1283
1284         if (param->obduuid && (param->obdindex == OBD_NOT_FOUND)) {
1285                 llapi_err_noerrno(LLAPI_MSG_ERROR,
1286                                   "error: %s: unknown obduuid: %s",
1287                                   __func__, param->obduuid->uuid);
1288                 rc = -EINVAL;
1289         }
1290
1291         return (rc);
1292 }
1293
1294 /* In this case, param->obduuid will be an array of obduuids and
1295  * obd index for all these obduuids will be returned in
1296  * param->obdindexes */
1297 static int setup_obd_indexes(DIR *dir, struct find_param *param)
1298 {
1299         struct obd_uuid *uuids = NULL;
1300         int obdcount = INIT_ALLOC_NUM_OSTS;
1301         int ret, obd_valid = 0, obdnum, i;
1302
1303         uuids = (struct obd_uuid *)malloc(INIT_ALLOC_NUM_OSTS *
1304                                           sizeof(struct obd_uuid));
1305         if (uuids == NULL)
1306                 return -ENOMEM;
1307
1308 retry_get_uuids:
1309         ret = llapi_lov_get_uuids(dirfd(dir), uuids,
1310                                   &obdcount);
1311         if (ret) {
1312                 struct obd_uuid *uuids_temp;
1313
1314                 if (ret == -EOVERFLOW) {
1315                         uuids_temp = realloc(uuids, obdcount *
1316                                              sizeof(struct obd_uuid));
1317                         if (uuids_temp != NULL)
1318                                 goto retry_get_uuids;
1319                         else
1320                                 ret = -ENOMEM;
1321                 }
1322
1323                 llapi_err(LLAPI_MSG_ERROR, "get ost uuid failed");
1324                 return ret;
1325         }
1326
1327         param->obdindexes = malloc(param->num_obds * sizeof(param->obdindex));
1328         if (param->obdindexes == NULL)
1329                 return -ENOMEM;
1330
1331         for (obdnum = 0; obdnum < param->num_obds; obdnum++) {
1332                 for (i = 0; i < obdcount; i++) {
1333                         if (llapi_uuid_match(uuids[i].uuid,
1334                                              param->obduuid[obdnum].uuid)) {
1335                                 param->obdindexes[obdnum] = i;
1336                                 obd_valid++;
1337                                 break;
1338                         }
1339                 }
1340                 if (i >= obdcount) {
1341                         param->obdindexes[obdnum] = OBD_NOT_FOUND;
1342                         llapi_err_noerrno(LLAPI_MSG_ERROR,
1343                                           "error: %s: unknown obduuid: %s",
1344                                           __func__,
1345                                           param->obduuid[obdnum].uuid);
1346                         ret = -EINVAL;
1347                 }
1348         }
1349
1350         if (obd_valid == 0)
1351                 param->obdindex = OBD_NOT_FOUND;
1352         else
1353                 param->obdindex = obd_valid;
1354
1355         param->got_uuids = 1;
1356
1357         return ret;
1358 }
1359
1360 static int cb_ostlist(char *path, DIR *parent, DIR *d, void *data,
1361                       struct dirent64 *de)
1362 {
1363         struct find_param *param = (struct find_param *)data;
1364
1365         LASSERT(parent != NULL || d != NULL);
1366
1367         /* Prepare odb. */
1368         return setup_obd_uuid(d ? d : parent, path, param);
1369 }
1370
1371 int llapi_ostlist(char *path, struct find_param *param)
1372 {
1373         return param_callback(path, cb_ostlist, cb_common_fini, param);
1374 }
1375
1376 static void lov_dump_user_lmm_header(struct lov_user_md *lum, char *path,
1377                                      int is_dir, int verbose, int depth,
1378                                      char *pool_name)
1379 {
1380         char *prefix = is_dir ? "" : "lmm_";
1381         char nl = is_dir ? ' ' : '\n';
1382
1383         if (is_dir && lum->lmm_object_seq == LOV_OBJECT_GROUP_DEFAULT) {
1384                 lum->lmm_object_seq = LOV_OBJECT_GROUP_CLEAR;
1385                 if (verbose & VERBOSE_DETAIL)
1386                         llapi_printf(LLAPI_MSG_NORMAL, "(Default) ");
1387         }
1388
1389         if (depth && path && ((verbose != VERBOSE_OBJID) || !is_dir))
1390                 llapi_printf(LLAPI_MSG_NORMAL, "%s\n", path);
1391
1392         if ((verbose & VERBOSE_DETAIL) && !is_dir) {
1393                 llapi_printf(LLAPI_MSG_NORMAL, "lmm_magic:          0x%08X\n",
1394                              lum->lmm_magic);
1395                 llapi_printf(LLAPI_MSG_NORMAL, "lmm_seq:            "LPX64"\n",
1396                              lum->lmm_object_seq);
1397                 llapi_printf(LLAPI_MSG_NORMAL, "lmm_object_id:      "LPX64"\n",
1398                              lum->lmm_object_id);
1399         }
1400
1401         if (verbose & VERBOSE_COUNT) {
1402                 if (verbose & ~VERBOSE_COUNT)
1403                         llapi_printf(LLAPI_MSG_NORMAL, "%sstripe_count:   ",
1404                                      prefix);
1405                 llapi_printf(LLAPI_MSG_NORMAL, "%hd%c",
1406                              (__s16)lum->lmm_stripe_count, nl);
1407         }
1408
1409         if (verbose & VERBOSE_SIZE) {
1410                 if (verbose & ~VERBOSE_SIZE)
1411                         llapi_printf(LLAPI_MSG_NORMAL, "%sstripe_size:    ",
1412                                      prefix);
1413                 llapi_printf(LLAPI_MSG_NORMAL, "%u%c", lum->lmm_stripe_size,
1414                              nl);
1415         }
1416
1417         if ((verbose & VERBOSE_DETAIL) && !is_dir) {
1418                 llapi_printf(LLAPI_MSG_NORMAL, "lmm_stripe_pattern: %x%c",
1419                              lum->lmm_pattern, nl);
1420         }
1421
1422         if (verbose & VERBOSE_OFFSET) {
1423                 if (verbose & ~VERBOSE_OFFSET)
1424                         llapi_printf(LLAPI_MSG_NORMAL, "%sstripe_offset:  ",
1425                                      prefix);
1426                 llapi_printf(LLAPI_MSG_NORMAL, "%u%c",
1427                              lum->lmm_objects[0].l_ost_idx, nl);
1428         }
1429
1430         if ((verbose & VERBOSE_POOL) && (pool_name != NULL)) {
1431                 llapi_printf(LLAPI_MSG_NORMAL, "pool: %s", pool_name);
1432                 is_dir = 1;
1433         }
1434
1435         if (is_dir && (verbose != VERBOSE_OBJID))
1436                 llapi_printf(LLAPI_MSG_NORMAL, "\n");
1437 }
1438
1439 void lov_dump_user_lmm_v1v3(struct lov_user_md *lum, char *pool_name,
1440                             struct lov_user_ost_data_v1 *objects,
1441                             char *path, int is_dir,
1442                             int obdindex, int depth, int header)
1443 {
1444         int i, obdstripe = (obdindex != OBD_NOT_FOUND) ? 0 : 1;
1445
1446         if (!obdstripe) {
1447                 for (i = 0; !is_dir && i < lum->lmm_stripe_count; i++) {
1448                         if (obdindex == objects[i].l_ost_idx) {
1449                                 obdstripe = 1;
1450                                 break;
1451                         }
1452                 }
1453         }
1454
1455         if (obdstripe == 1)
1456                 lov_dump_user_lmm_header(lum, path, is_dir, header, depth,
1457                                          pool_name);
1458
1459         if (!is_dir && (header & VERBOSE_OBJID)) {
1460                 if (obdstripe == 1)
1461                         llapi_printf(LLAPI_MSG_NORMAL,
1462                                      "\tobdidx\t\t objid\t\tobjid\t\t group\n");
1463
1464                 for (i = 0; i < lum->lmm_stripe_count; i++) {
1465                         int idx = objects[i].l_ost_idx;
1466                         long long oid = objects[i].l_object_id;
1467                         long long gr = objects[i].l_object_seq;
1468                         if ((obdindex == OBD_NOT_FOUND) || (obdindex == idx))
1469                                 llapi_printf(LLAPI_MSG_NORMAL,
1470                                            "\t%6u\t%14llu\t%#13llx\t%14llu%s\n",
1471                                            idx, oid, oid, gr,
1472                                            obdindex == idx ? " *" : "");
1473                 }
1474                 llapi_printf(LLAPI_MSG_NORMAL, "\n");
1475         }
1476 }
1477
1478 void llapi_lov_dump_user_lmm(struct find_param *param,
1479                              char *path, int is_dir)
1480 {
1481         switch(*(__u32 *)&param->lmd->lmd_lmm) { /* lum->lmm_magic */
1482         case LOV_USER_MAGIC_V1:
1483                 lov_dump_user_lmm_v1v3(&param->lmd->lmd_lmm, NULL,
1484                                        param->lmd->lmd_lmm.lmm_objects,
1485                                        path, is_dir,
1486                                        param->obdindex, param->maxdepth,
1487                                        param->verbose);
1488                 break;
1489         case LOV_USER_MAGIC_V3: {
1490                 char pool_name[LOV_MAXPOOLNAME + 1];
1491                 struct lov_user_ost_data_v1 *objects;
1492                 struct lov_user_md_v3 *lmmv3 = (void *)&param->lmd->lmd_lmm;
1493
1494                 strncpy(pool_name, lmmv3->lmm_pool_name, LOV_MAXPOOLNAME);
1495                 pool_name[LOV_MAXPOOLNAME] = '\0';
1496                 objects = lmmv3->lmm_objects;
1497                 lov_dump_user_lmm_v1v3(&param->lmd->lmd_lmm, pool_name,
1498                                        objects, path, is_dir,
1499                                        param->obdindex, param->maxdepth,
1500                                        param->verbose);
1501                 break;
1502         }
1503         default:
1504                 llapi_printf(LLAPI_MSG_NORMAL, "unknown lmm_magic:  %#x "
1505                              "(expecting one of %#x %#x %#x)\n",
1506                              *(__u32 *)&param->lmd->lmd_lmm,
1507                              LOV_USER_MAGIC_V1, LOV_USER_MAGIC_V3);
1508                 return;
1509         }
1510 }
1511
1512 int llapi_file_get_stripe(const char *path, struct lov_user_md *lum)
1513 {
1514         const char *fname;
1515         char *dname;
1516         int fd, rc = 0;
1517
1518         fname = strrchr(path, '/');
1519
1520         /* It should be a file (or other non-directory) */
1521         if (fname == NULL) {
1522                 dname = (char *)malloc(2);
1523                 if (dname == NULL)
1524                         return ENOMEM;
1525                 strcpy(dname, ".");
1526                 fname = (char *)path;
1527         } else {
1528                 dname = (char *)malloc(fname - path + 1);
1529                 if (dname == NULL)
1530                         return ENOMEM;
1531                 strncpy(dname, path, fname - path);
1532                 dname[fname - path] = '\0';
1533                 fname++;
1534         }
1535
1536         if ((fd = open(dname, O_RDONLY)) == -1) {
1537                 rc = errno;
1538                 free(dname);
1539                 return rc;
1540         }
1541
1542         strcpy((char *)lum, fname);
1543         if (ioctl(fd, IOC_MDC_GETFILESTRIPE, (void *)lum) == -1)
1544                 rc = errno;
1545
1546         if (close(fd) == -1 && rc == 0)
1547                 rc = errno;
1548
1549         free(dname);
1550
1551         return rc;
1552 }
1553
1554 int llapi_file_lookup(int dirfd, const char *name)
1555 {
1556         struct obd_ioctl_data data = { 0 };
1557         char rawbuf[8192];
1558         char *buf = rawbuf;
1559         int rc;
1560
1561         if (dirfd < 0 || name == NULL)
1562                 return -EINVAL;
1563
1564         data.ioc_version = OBD_IOCTL_VERSION;
1565         data.ioc_len = sizeof(data);
1566         data.ioc_inlbuf1 = (char *)name;
1567         data.ioc_inllen1 = strlen(name) + 1;
1568
1569         rc = obd_ioctl_pack(&data, &buf, sizeof(rawbuf));
1570         if (rc) {
1571                 llapi_err(LLAPI_MSG_ERROR,
1572                           "error: IOC_MDC_LOOKUP pack failed for '%s': rc %d",
1573                           name, rc);
1574                 return rc;
1575         }
1576
1577         return ioctl(dirfd, IOC_MDC_LOOKUP, buf);
1578 }
1579
1580 /* Check if the value matches 1 of the given criteria (e.g. --atime +/-N).
1581  * @mds indicates if this is MDS timestamps and there are attributes on OSTs.
1582  *
1583  * The result is -1 if it does not match, 0 if not yet clear, 1 if matches.
1584  * The table below gives the answers for the specified parameters (value and
1585  * sign), 1st column is the answer for the MDS value, the 2nd is for the OST:
1586  * --------------------------------------
1587  * 1 | file > limit; sign > 0 | -1 / -1 |
1588  * 2 | file = limit; sign > 0 |  ? /  1 |
1589  * 3 | file < limit; sign > 0 |  ? /  1 |
1590  * 4 | file > limit; sign = 0 | -1 / -1 |
1591  * 5 | file = limit; sign = 0 |  ? /  1 |  <- (see the Note below)
1592  * 6 | file < limit; sign = 0 |  ? / -1 |
1593  * 7 | file > limit; sign < 0 |  1 /  1 |
1594  * 8 | file = limit; sign < 0 |  ? / -1 |
1595  * 9 | file < limit; sign < 0 |  ? / -1 |
1596  * --------------------------------------
1597  * Note: 5th actually means that the value is within the interval
1598  * (limit - margin, limit]. */
1599 static int find_value_cmp(unsigned int file, unsigned int limit, int sign,
1600                           unsigned long long margin, int mds)
1601 {
1602         if (sign > 0) {
1603                 if (file < limit)
1604                         return mds ? 0 : 1;
1605         }
1606
1607         if (sign == 0) {
1608                 if (file <= limit && file + margin > limit)
1609                         return mds ? 0 : 1;
1610                 if (file + margin <= limit)
1611                         return mds ? 0 : -1;
1612         }
1613
1614         if (sign < 0) {
1615                 if (file > limit)
1616                         return 1;
1617                 if (mds)
1618                         return 0;
1619         }
1620
1621         return -1;
1622 }
1623
1624 /* Check if the file time matches all the given criteria (e.g. --atime +/-N).
1625  * Return -1 or 1 if file timestamp does not or does match the given criteria
1626  * correspondingly. Return 0 if the MDS time is being checked and there are
1627  * attributes on OSTs and it is not yet clear if the timespamp matches.
1628  *
1629  * If 0 is returned, we need to do another RPC to the OSTs to obtain the
1630  * updated timestamps. */
1631 static int find_time_check(lstat_t *st, struct find_param *param, int mds)
1632 {
1633         int ret;
1634         int rc = 0;
1635
1636         /* Check if file is accepted. */
1637         if (param->atime) {
1638                 ret = find_value_cmp(st->st_atime, param->atime,
1639                                      param->asign, 24 * 60 * 60, mds);
1640                 if (ret < 0)
1641                         return ret;
1642                 rc = ret;
1643         }
1644
1645         if (param->mtime) {
1646                 ret = find_value_cmp(st->st_mtime, param->mtime,
1647                                      param->msign, 24 * 60 * 60, mds);
1648                 if (ret < 0)
1649                         return ret;
1650
1651                 /* If the previous check matches, but this one is not yet clear,
1652                  * we should return 0 to do an RPC on OSTs. */
1653                 if (rc == 1)
1654                         rc = ret;
1655         }
1656
1657         if (param->ctime) {
1658                 ret = find_value_cmp(st->st_ctime, param->ctime,
1659                                      param->csign, 24 * 60 * 60, mds);
1660                 if (ret < 0)
1661                         return ret;
1662
1663                 /* If the previous check matches, but this one is not yet clear,
1664                  * we should return 0 to do an RPC on OSTs. */
1665                 if (rc == 1)
1666                         rc = ret;
1667         }
1668
1669         return rc;
1670 }
1671
1672 static int cb_find_init(char *path, DIR *parent, DIR *dir,
1673                         void *data, cfs_dirent_t *de)
1674 {
1675         struct find_param *param = (struct find_param *)data;
1676         int decision = 1; /* 1 is accepted; -1 is rejected. */
1677         lstat_t *st = &param->lmd->lmd_st;
1678         int lustre_fs = 1;
1679         int checked_type = 0;
1680         int ret = 0;
1681
1682         LASSERT(parent != NULL || dir != NULL);
1683
1684         param->lmd->lmd_lmm.lmm_stripe_count = 0;
1685
1686         /* If a regular expression is presented, make the initial decision */
1687         if (param->pattern != NULL) {
1688                 char *fname = strrchr(path, '/');
1689                 fname = (fname == NULL ? path : fname + 1);
1690                 ret = fnmatch(param->pattern, fname, 0);
1691                 if ((ret == FNM_NOMATCH && !param->exclude_pattern) ||
1692                     (ret == 0 && param->exclude_pattern))
1693                         goto decided;
1694         }
1695
1696         /* See if we can check the file type from the dirent. */
1697         if (param->type && de != NULL && de->d_type != DT_UNKNOWN &&
1698             de->d_type < DT_MAX) {
1699                 checked_type = 1;
1700                 if (llapi_dir_filetype_table[de->d_type] == param->type) {
1701                         if (param->exclude_type)
1702                                 goto decided;
1703                 } else {
1704                         if (!param->exclude_type)
1705                                 goto decided;
1706                 }
1707         }
1708
1709
1710         /* If a time or OST should be checked, the decision is not taken yet. */
1711         if (param->atime || param->ctime || param->mtime || param->obduuid ||
1712             param->size)
1713                 decision = 0;
1714
1715         ret = 0;
1716         /* Request MDS for the stat info. */
1717         if (param->have_fileinfo == 0) {
1718                 if (dir) {
1719                         /* retrieve needed file info */
1720                         ret = ioctl(dirfd(dir), LL_IOC_MDC_GETINFO,
1721                                     (void *)param->lmd);
1722                 } else {
1723                         char *fname = strrchr(path, '/');
1724                         fname = (fname == NULL ? path : fname + 1);
1725
1726                         /* retrieve needed file info */
1727                         strncpy((char *)param->lmd, fname, param->lumlen);
1728                         ret = ioctl(dirfd(parent), IOC_MDC_GETFILEINFO,
1729                                    (void *)param->lmd);
1730                 }
1731         }
1732
1733         if (ret) {
1734                 if (errno == ENOTTY) {
1735                         /* ioctl is not supported, it is not a lustre fs.
1736                          * Do the regular lstat(2) instead. */
1737                         lustre_fs = 0;
1738                         ret = lstat_f(path, st);
1739                         if (ret) {
1740                                 llapi_err(LLAPI_MSG_ERROR,
1741                                           "error: %s: lstat failed for %s",
1742                                           __func__, path);
1743                                 return ret;
1744                         }
1745                 } else if (errno == ENOENT) {
1746                         llapi_err(LLAPI_MSG_WARN,
1747                                   "warning: %s: %s does not exist",
1748                                   __func__, path);
1749                         goto decided;
1750                 } else {
1751                         llapi_err(LLAPI_MSG_ERROR,"error: %s: %s failed for %s",
1752                                   __func__, dir ? "LL_IOC_MDC_GETINFO" :
1753                                   "IOC_MDC_GETFILEINFO", path);
1754                         return ret;
1755                 }
1756         }
1757
1758         if (param->type && !checked_type) {
1759                 if ((st->st_mode & S_IFMT) == param->type) {
1760                         if (param->exclude_type)
1761                                 goto decided;
1762                 } else {
1763                         if (!param->exclude_type)
1764                                 goto decided;
1765                 }
1766         }
1767
1768         /* Prepare odb. */
1769         if (param->obduuid) {
1770                 if (lustre_fs && param->got_uuids &&
1771                     param->st_dev != st->st_dev) {
1772                         /* A lustre/lustre mount point is crossed. */
1773                         param->got_uuids = 0;
1774                         param->obds_printed = 0;
1775                         param->obdindex = OBD_NOT_FOUND;
1776                 }
1777
1778                 if (lustre_fs && !param->got_uuids) {
1779                         ret = setup_obd_indexes(dir ? dir : parent, param);
1780                         if (ret)
1781                                 return ret;
1782
1783                         param->st_dev = st->st_dev;
1784                 } else if (!lustre_fs && param->got_uuids) {
1785                         /* A lustre/non-lustre mount point is crossed. */
1786                         param->got_uuids = 0;
1787                         param->obdindex = OBD_NOT_FOUND;
1788                 }
1789         }
1790
1791         /* If an OBD UUID is specified but no one matches, skip this file. */
1792         if (param->obduuid && param->obdindex == OBD_NOT_FOUND)
1793                 goto decided;
1794
1795         /* If a OST UUID is given, and some OST matches, check it here. */
1796         if (param->obdindex != OBD_NOT_FOUND) {
1797                 if (!S_ISREG(st->st_mode))
1798                         goto decided;
1799
1800                 /* Only those files should be accepted, which have a
1801                  * stripe on the specified OST. */
1802                 if (!param->lmd->lmd_lmm.lmm_stripe_count) {
1803                         goto decided;
1804                 } else {
1805                         int i, j;
1806                         struct lov_user_ost_data_v1 *lmm_objects;
1807
1808                         if (param->lmd->lmd_lmm.lmm_magic ==
1809                             LOV_USER_MAGIC_V3) {
1810                                 struct lov_user_md_v3 *lmmv3 =
1811                                         (void *)&param->lmd->lmd_lmm;
1812
1813                                 lmm_objects = lmmv3->lmm_objects;
1814                         } else {
1815                                 lmm_objects = param->lmd->lmd_lmm.lmm_objects;
1816                         }
1817
1818                         for (i = 0;
1819                              i < param->lmd->lmd_lmm.lmm_stripe_count; i++) {
1820                                 for (j = 0; j < param->num_obds; j++) {
1821                                         if (param->obdindexes[j] ==
1822                                             lmm_objects[i].l_ost_idx) {
1823                                                 if (param->exclude_obd)
1824                                                         goto decided;
1825                                                 goto obd_matches;
1826                                         }
1827                                 }
1828                         }
1829
1830                         if (i == param->lmd->lmd_lmm.lmm_stripe_count) {
1831                                 if (param->exclude_obd)
1832                                         goto obd_matches;
1833                                 goto decided;
1834                         }
1835                 }
1836         }
1837
1838         if (param->check_uid) {
1839                 if (st->st_uid == param->uid) {
1840                         if (param->exclude_uid)
1841                                 goto decided;
1842                 } else {
1843                         if (!param->exclude_uid)
1844                                 goto decided;
1845                 }
1846         }
1847
1848         if (param->check_gid) {
1849                 if (st->st_gid == param->gid) {
1850                         if (param->exclude_gid)
1851                                 goto decided;
1852                 } else {
1853                         if (!param->exclude_gid)
1854                                 goto decided;
1855                 }
1856         }
1857
1858         if (param->check_pool) {
1859                 struct lov_user_md_v3 *lmmv3 = (void *)&param->lmd->lmd_lmm;
1860
1861                 /* empty requested pool is taken as no pool search => V1 */
1862                 if (((param->lmd->lmd_lmm.lmm_magic == LOV_USER_MAGIC_V1) &&
1863                      (param->poolname[0] == '\0')) ||
1864                     ((param->lmd->lmd_lmm.lmm_magic == LOV_USER_MAGIC_V3) &&
1865                      (strncmp(lmmv3->lmm_pool_name,
1866                               param->poolname, LOV_MAXPOOLNAME) == 0)) ||
1867                     ((param->lmd->lmd_lmm.lmm_magic == LOV_USER_MAGIC_V3) &&
1868                      (strcmp(param->poolname, "*") == 0))) {
1869                         if (param->exclude_pool)
1870                                 goto decided;
1871                 } else {
1872                         if (!param->exclude_pool)
1873                                 goto decided;
1874                 }
1875         }
1876
1877         /* Check the time on mds. */
1878         if (!decision) {
1879                 int for_mds;
1880
1881                 for_mds = lustre_fs ? (S_ISREG(st->st_mode) &&
1882                                        param->lmd->lmd_lmm.lmm_stripe_count)
1883                                     : 0;
1884                 decision = find_time_check(st, param, for_mds);
1885         }
1886
1887 obd_matches:
1888         /* If file still fits the request, ask ost for updated info.
1889            The regular stat is almost of the same speed as some new
1890            'glimpse-size-ioctl'. */
1891         if (!decision && S_ISREG(st->st_mode) &&
1892             param->lmd->lmd_lmm.lmm_stripe_count &&
1893             (param->size ||param->atime || param->mtime || param->ctime)) {
1894                 if (param->obdindex != OBD_NOT_FOUND) {
1895                         /* Check whether the obd is active or not, if it is
1896                          * not active, just print the object affected by this
1897                          * failed ost
1898                          * */
1899                         struct obd_statfs stat_buf;
1900                         struct obd_uuid uuid_buf;
1901
1902                         memset(&stat_buf, 0, sizeof(struct obd_statfs));
1903                         memset(&uuid_buf, 0, sizeof(struct obd_uuid));
1904                         ret = llapi_obd_statfs(path, LL_STATFS_LOV,
1905                                                param->obdindex, &stat_buf,
1906                                                &uuid_buf);
1907                         if (ret) {
1908                                 if (ret == -ENODATA || ret == -ENODEV
1909                                     || ret == -EIO)
1910                                         errno = EIO;
1911                                 llapi_printf(LLAPI_MSG_NORMAL,
1912                                              "obd_uuid: %s failed %s ",
1913                                              param->obduuid->uuid,
1914                                              strerror(errno));
1915                                 goto print_path;
1916                         }
1917                 }
1918                 if (dir) {
1919                         ret = ioctl(dirfd(dir), IOC_LOV_GETINFO,
1920                                     (void *)param->lmd);
1921                 } else if (parent) {
1922                         ret = ioctl(dirfd(parent), IOC_LOV_GETINFO,
1923                                     (void *)param->lmd);
1924                 }
1925
1926                 if (ret) {
1927                         if (errno == ENOENT) {
1928                                 llapi_err(LLAPI_MSG_ERROR,
1929                                           "warning: %s: %s does not exist",
1930                                           __func__, path);
1931                                 goto decided;
1932                         } else {
1933                                 llapi_err(LLAPI_MSG_ERROR,
1934                                           "%s: IOC_LOV_GETINFO on %s failed",
1935                                           __func__, path);
1936                                 return ret;
1937                         }
1938                 }
1939
1940                 /* Check the time on osc. */
1941                 decision = find_time_check(st, param, 0);
1942                 if (decision == -1)
1943                         goto decided;
1944         }
1945
1946         if (param->size)
1947                 decision = find_value_cmp(st->st_size, param->size,
1948                                           param->size_sign, param->size_units,
1949                                           0);
1950
1951 print_path:
1952         if (decision != -1) {
1953                 llapi_printf(LLAPI_MSG_NORMAL, "%s", path);
1954                 if (param->zeroend)
1955                         llapi_printf(LLAPI_MSG_NORMAL, "%c", '\0');
1956                 else
1957                         llapi_printf(LLAPI_MSG_NORMAL, "\n");
1958         }
1959
1960 decided:
1961         /* Do not get down anymore? */
1962         if (param->depth == param->maxdepth)
1963                 return 1;
1964
1965         param->depth++;
1966         return 0;
1967 }
1968
1969 int llapi_find(char *path, struct find_param *param)
1970 {
1971         return param_callback(path, cb_find_init, cb_common_fini, param);
1972 }
1973
1974 /*
1975  * Get MDT number that the file/directory inode referenced
1976  * by the open fd resides on.
1977  * Return 0 and mdtidx on success, or -ve errno.
1978  */
1979 int llapi_file_fget_mdtidx(int fd, int *mdtidx)
1980 {
1981         if (ioctl(fd, LL_IOC_GET_MDTIDX, &mdtidx) < 0)
1982                 return -errno;
1983         return 0;
1984 }
1985
1986 static int cb_get_mdt_index(char *path, DIR *parent, DIR *d, void *data,
1987                             cfs_dirent_t *de)
1988 {
1989         struct find_param *param = (struct find_param *)data;
1990         int ret = 0;
1991         int mdtidx;
1992
1993         LASSERT(parent != NULL || d != NULL);
1994
1995         if (d) {
1996                 ret = llapi_file_fget_mdtidx(dirfd(d), &mdtidx);
1997         } else if (parent) {
1998                 int fd;
1999
2000                 fd = open(path, O_RDONLY);
2001                 if (fd > 0) {
2002                         ret = llapi_file_fget_mdtidx(fd, &mdtidx);
2003                         close(fd);
2004                 } else {
2005                         ret = fd;
2006                 }
2007         }
2008
2009         if (ret) {
2010                 if (errno == ENODATA) {
2011                         if (!param->obduuid)
2012                                 llapi_printf(LLAPI_MSG_NORMAL,
2013                                              "%s has no stripe info\n", path);
2014                         goto out;
2015                 } else if (errno == ENOTTY) {
2016                         llapi_err(LLAPI_MSG_ERROR,
2017                                   "%s: '%s' not on a Lustre fs?",
2018                                   __func__, path);
2019                 } else if (errno == ENOENT) {
2020                         llapi_err(LLAPI_MSG_WARN,
2021                                   "warning: %s: %s does not exist",
2022                                   __func__, path);
2023                         goto out;
2024                 } else {
2025                         llapi_err(LLAPI_MSG_ERROR,
2026                                   "error: %s: LL_IOC_GET_MDTIDX failed for %s",
2027                                    __func__, path);
2028                 }
2029                 return ret;
2030         }
2031
2032         if (param->quiet)
2033                 llapi_printf(LLAPI_MSG_NORMAL, "%d\n", mdtidx);
2034         else
2035                 llapi_printf(LLAPI_MSG_NORMAL, "%s MDT index: %d\n",
2036                              path, mdtidx);
2037
2038 out:
2039         /* Do not get down anymore? */
2040         if (param->depth == param->maxdepth)
2041                 return 1;
2042
2043         param->depth++;
2044         return 0;
2045 }
2046
2047 static int cb_getstripe(char *path, DIR *parent, DIR *d, void *data,
2048                         cfs_dirent_t *de)
2049 {
2050         struct find_param *param = (struct find_param *)data;
2051         int ret = 0;
2052
2053         LASSERT(parent != NULL || d != NULL);
2054
2055         if (param->obduuid) {
2056                 param->quiet = 1;
2057                 ret = setup_obd_uuid(d ? d : parent, path, param);
2058                 if (ret)
2059                         return ret;
2060         }
2061
2062         if (d) {
2063                 ret = ioctl(dirfd(d), LL_IOC_LOV_GETSTRIPE,
2064                             (void *)&param->lmd->lmd_lmm);
2065         } else if (parent) {
2066                 char *fname = strrchr(path, '/');
2067                 fname = (fname == NULL ? path : fname + 1);
2068
2069                 strncpy((char *)&param->lmd->lmd_lmm, fname, param->lumlen);
2070
2071                 ret = ioctl(dirfd(parent), IOC_MDC_GETFILESTRIPE,
2072                             (void *)&param->lmd->lmd_lmm);
2073         }
2074
2075         if (ret) {
2076                 if (errno == ENODATA) {
2077                         if (!param->obduuid)
2078                                 llapi_printf(LLAPI_MSG_NORMAL,
2079                                              "%s has no stripe info\n", path);
2080                         goto out;
2081                 } else if (errno == ENOTTY) {
2082                         llapi_err(LLAPI_MSG_ERROR,
2083                                   "%s: '%s' not on a Lustre fs?",
2084                                   __func__, path);
2085                 } else if (errno == ENOENT) {
2086                         llapi_err(LLAPI_MSG_WARN,
2087                                   "warning: %s: %s does not exist",
2088                                   __func__, path);
2089                         goto out;
2090                 } else {
2091                         llapi_err(LLAPI_MSG_ERROR,
2092                                   "error: %s: %s failed for %s",
2093                                    __func__, d ? "LL_IOC_LOV_GETSTRIPE" :
2094                                   "IOC_MDC_GETFILESTRIPE", path);
2095                 }
2096
2097                 return ret;
2098         }
2099
2100         if (!param->get_mdt_index)
2101                 llapi_lov_dump_user_lmm(param, path, d ? 1 : 0);
2102
2103 out:
2104         /* Do not get down anymore? */
2105         if (param->depth == param->maxdepth)
2106                 return 1;
2107
2108         param->depth++;
2109         return 0;
2110 }
2111
2112 int llapi_getstripe(char *path, struct find_param *param)
2113 {
2114         return param_callback(path, param->get_mdt_index ?
2115                               cb_get_mdt_index : cb_getstripe,
2116                               cb_common_fini, param);
2117 }
2118
2119 int llapi_obd_statfs(char *path, __u32 type, __u32 index,
2120                      struct obd_statfs *stat_buf,
2121                      struct obd_uuid *uuid_buf)
2122 {
2123         int fd;
2124         char raw[OBD_MAX_IOCTL_BUFFER] = {'\0'};
2125         char *rawbuf = raw;
2126         struct obd_ioctl_data data = { 0 };
2127         int rc = 0;
2128
2129         data.ioc_inlbuf1 = (char *)&type;
2130         data.ioc_inllen1 = sizeof(__u32);
2131         data.ioc_inlbuf2 = (char *)&index;
2132         data.ioc_inllen2 = sizeof(__u32);
2133         data.ioc_pbuf1 = (char *)stat_buf;
2134         data.ioc_plen1 = sizeof(struct obd_statfs);
2135         data.ioc_pbuf2 = (char *)uuid_buf;
2136         data.ioc_plen2 = sizeof(struct obd_uuid);
2137
2138         if ((rc = obd_ioctl_pack(&data, &rawbuf, sizeof(raw))) != 0) {
2139                 llapi_err(LLAPI_MSG_ERROR,
2140                           "llapi_obd_statfs: error packing ioctl data");
2141                 return rc;
2142         }
2143
2144         fd = open(path, O_RDONLY);
2145         if (errno == EISDIR)
2146                 fd = open(path, O_DIRECTORY | O_RDONLY);
2147
2148         if (fd < 0) {
2149                 rc = errno ? -errno : -EBADF;
2150                 llapi_err(LLAPI_MSG_ERROR, "error: %s: opening '%s'",
2151                           __func__, path);
2152                 return rc;
2153         }
2154         rc = ioctl(fd, IOC_OBD_STATFS, (void *)rawbuf);
2155         if (rc)
2156                 rc = errno ? -errno : -EINVAL;
2157
2158         close(fd);
2159         return rc;
2160 }
2161
2162 #define MAX_STRING_SIZE 128
2163 #define DEVICES_LIST "/proc/fs/lustre/devices"
2164
2165 int llapi_ping(char *obd_type, char *obd_name)
2166 {
2167         char path[MAX_STRING_SIZE];
2168         char buf[1];
2169         int rc, fd;
2170
2171         snprintf(path, MAX_STRING_SIZE, "/proc/fs/lustre/%s/%s/ping",
2172                  obd_type, obd_name);
2173
2174         fd = open(path, O_WRONLY);
2175         if (fd < 0) {
2176                 rc = errno;
2177                 llapi_err(LLAPI_MSG_ERROR, "error opening %s", path);
2178                 return rc;
2179         }
2180
2181         rc = write(fd, buf, 1);
2182         close(fd);
2183
2184         if (rc == 1)
2185                 return 0;
2186         return rc;
2187 }
2188
2189 int llapi_target_iterate(int type_num, char **obd_type,void *args,llapi_cb_t cb)
2190 {
2191         char buf[MAX_STRING_SIZE];
2192         FILE *fp = fopen(DEVICES_LIST, "r");
2193         int i, rc = 0;
2194
2195         if (fp == NULL) {
2196                 rc = errno;
2197                 llapi_err(LLAPI_MSG_ERROR, "error: opening "DEVICES_LIST);
2198                 return rc;
2199         }
2200
2201         while (fgets(buf, sizeof(buf), fp) != NULL) {
2202                 char *obd_type_name = NULL;
2203                 char *obd_name = NULL;
2204                 char *obd_uuid = NULL;
2205                 char *bufp = buf;
2206                 struct obd_ioctl_data datal = { 0, };
2207                 struct obd_statfs osfs_buffer;
2208
2209                 while(bufp[0] == ' ')
2210                         ++bufp;
2211
2212                 for(i = 0; i < 3; i++) {
2213                         obd_type_name = strsep(&bufp, " ");
2214                 }
2215                 obd_name = strsep(&bufp, " ");
2216                 obd_uuid = strsep(&bufp, " ");
2217
2218                 memset(&osfs_buffer, 0, sizeof (osfs_buffer));
2219
2220                 datal.ioc_pbuf1 = (char *)&osfs_buffer;
2221                 datal.ioc_plen1 = sizeof(osfs_buffer);
2222
2223                 for (i = 0; i < type_num; i++) {
2224                         if (strcmp(obd_type_name, obd_type[i]) != 0)
2225                                 continue;
2226
2227                         cb(obd_type_name, obd_name, obd_uuid, args);
2228                 }
2229         }
2230         fclose(fp);
2231         return rc;
2232 }
2233
2234 static void do_target_check(char *obd_type_name, char *obd_name,
2235                             char *obd_uuid, void *args)
2236 {
2237         int rc;
2238
2239         rc = llapi_ping(obd_type_name, obd_name);
2240         if (rc == ENOTCONN) {
2241                 llapi_printf(LLAPI_MSG_NORMAL, "%s inactive.\n", obd_name);
2242         } else if (rc) {
2243                 llapi_err(LLAPI_MSG_ERROR, "error: check '%s'", obd_name);
2244         } else {
2245                 llapi_printf(LLAPI_MSG_NORMAL, "%s active.\n", obd_name);
2246         }
2247 }
2248
2249 int llapi_target_check(int type_num, char **obd_type, char *dir)
2250 {
2251         return llapi_target_iterate(type_num, obd_type, NULL, do_target_check);
2252 }
2253
2254 #undef MAX_STRING_SIZE
2255
2256 int llapi_catinfo(char *dir, char *keyword, char *node_name)
2257 {
2258         char raw[OBD_MAX_IOCTL_BUFFER];
2259         char out[LLOG_CHUNK_SIZE];
2260         char *buf = raw;
2261         struct obd_ioctl_data data = { 0 };
2262         char key[30];
2263         DIR *root;
2264         int rc;
2265
2266         sprintf(key, "%s", keyword);
2267         memset(raw, 0, sizeof(raw));
2268         memset(out, 0, sizeof(out));
2269         data.ioc_inlbuf1 = key;
2270         data.ioc_inllen1 = strlen(key) + 1;
2271         if (node_name) {
2272                 data.ioc_inlbuf2 = node_name;
2273                 data.ioc_inllen2 = strlen(node_name) + 1;
2274         }
2275         data.ioc_pbuf1 = out;
2276         data.ioc_plen1 = sizeof(out);
2277         rc = obd_ioctl_pack(&data, &buf, sizeof(raw));
2278         if (rc)
2279                 return rc;
2280
2281         root = opendir(dir);
2282         if (root == NULL) {
2283                 rc = errno;
2284                 llapi_err(LLAPI_MSG_ERROR, "open %s failed", dir);
2285                 return rc;
2286         }
2287
2288         rc = ioctl(dirfd(root), OBD_IOC_LLOG_CATINFO, buf);
2289         if (rc)
2290                 llapi_err(LLAPI_MSG_ERROR, "ioctl OBD_IOC_CATINFO failed");
2291         else
2292                 llapi_printf(LLAPI_MSG_NORMAL, "%s", data.ioc_pbuf1);
2293
2294         closedir(root);
2295         return rc;
2296 }
2297
2298 /* Is this a lustre fs? */
2299 int llapi_is_lustre_mnttype(const char *type)
2300 {
2301         return (strcmp(type, "lustre") == 0 || strcmp(type,"lustre_lite") == 0);
2302 }
2303
2304 /* Is this a lustre client fs? */
2305 int llapi_is_lustre_mnt(struct mntent *mnt)
2306 {
2307         return (llapi_is_lustre_mnttype(mnt->mnt_type) &&
2308                 strstr(mnt->mnt_fsname, ":/") != NULL);
2309 }
2310
2311 int llapi_quotacheck(char *mnt, int check_type)
2312 {
2313         DIR *root;
2314         int rc;
2315
2316         root = opendir(mnt);
2317         if (!root) {
2318                 llapi_err(LLAPI_MSG_ERROR, "open %s failed", mnt);
2319                 return -1;
2320         }
2321
2322         rc = ioctl(dirfd(root), LL_IOC_QUOTACHECK, check_type);
2323
2324         closedir(root);
2325         return rc;
2326 }
2327
2328 int llapi_poll_quotacheck(char *mnt, struct if_quotacheck *qchk)
2329 {
2330         DIR *root;
2331         int poll_intvl = 2;
2332         int rc;
2333
2334         root = opendir(mnt);
2335         if (!root) {
2336                 llapi_err(LLAPI_MSG_ERROR, "open %s failed", mnt);
2337                 return -1;
2338         }
2339
2340         while (1) {
2341                 rc = ioctl(dirfd(root), LL_IOC_POLL_QUOTACHECK, qchk);
2342                 if (!rc)
2343                         break;
2344                 sleep(poll_intvl);
2345                 if (poll_intvl < 30)
2346                         poll_intvl *= 2;
2347         }
2348
2349         closedir(root);
2350         return rc;
2351 }
2352
2353 int llapi_quotactl(char *mnt, struct if_quotactl *qctl)
2354 {
2355         DIR *root;
2356         int rc;
2357
2358         root = opendir(mnt);
2359         if (!root) {
2360                 llapi_err(LLAPI_MSG_ERROR, "open %s failed", mnt);
2361                 return -1;
2362         }
2363
2364         rc = ioctl(dirfd(root), LL_IOC_QUOTACTL, qctl);
2365
2366         closedir(root);
2367         return rc;
2368 }
2369
2370 static int cb_quotachown(char *path, DIR *parent, DIR *d, void *data,
2371                          cfs_dirent_t *de)
2372 {
2373         struct find_param *param = (struct find_param *)data;
2374         lstat_t *st;
2375         int rc;
2376
2377         LASSERT(parent != NULL || d != NULL);
2378
2379         if (d) {
2380                 rc = ioctl(dirfd(d), LL_IOC_MDC_GETINFO,
2381                            (void *)param->lmd);
2382         } else if (parent) {
2383                 char *fname = strrchr(path, '/');
2384                 fname = (fname == NULL ? path : fname + 1);
2385
2386                 strncpy((char *)param->lmd, fname, param->lumlen);
2387                 rc = ioctl(dirfd(parent), IOC_MDC_GETFILEINFO,
2388                            (void *)param->lmd);
2389         } else {
2390                 return 0;
2391         }
2392
2393         if (rc) {
2394                 if (errno == ENODATA) {
2395                         if (!param->obduuid && !param->quiet)
2396                                 llapi_err(LLAPI_MSG_ERROR,
2397                                           "%s has no stripe info", path);
2398                         rc = 0;
2399                 } else if (errno == ENOENT) {
2400                         llapi_err(LLAPI_MSG_ERROR,
2401                                   "warning: %s: %s does not exist",
2402                                   __func__, path);
2403                         rc = 0;
2404                 } else if (errno != EISDIR) {
2405                         rc = errno;
2406                         llapi_err(LLAPI_MSG_ERROR, "%s ioctl failed for %s.",
2407                                   d ? "LL_IOC_MDC_GETINFO" :
2408                                   "IOC_MDC_GETFILEINFO", path);
2409                 }
2410                 return rc;
2411         }
2412
2413         st = &param->lmd->lmd_st;
2414
2415         /* libc chown() will do extra check, and if the real owner is
2416          * the same as the ones to set, it won't fall into kernel, so
2417          * invoke syscall directly. */
2418         rc = syscall(SYS_chown, path, -1, -1);
2419         if (rc)
2420                 llapi_err(LLAPI_MSG_ERROR,"error: chown %s (%u,%u)", path);
2421
2422         rc = chmod(path, st->st_mode);
2423         if (rc)
2424                 llapi_err(LLAPI_MSG_ERROR, "error: chmod %s (%hu)",
2425                           path, st->st_mode);
2426
2427         return rc;
2428 }
2429
2430 int llapi_quotachown(char *path, int flag)
2431 {
2432         struct find_param param;
2433
2434         memset(&param, 0, sizeof(param));
2435         param.recursive = 1;
2436         param.verbose = 0;
2437         param.quiet = 1;
2438
2439         return param_callback(path, cb_quotachown, NULL, &param);
2440 }
2441
2442 #include <pwd.h>
2443 #include <grp.h>
2444 #include <mntent.h>
2445 #include <sys/wait.h>
2446 #include <errno.h>
2447 #include <ctype.h>
2448
2449 static int rmtacl_notify(int ops)
2450 {
2451         FILE *fp;
2452         struct mntent *mnt;
2453         int found = 0, fd, rc;
2454
2455         fp = setmntent(MOUNTED, "r");
2456         if (fp == NULL) {
2457                 perror("setmntent");
2458                 return -1;
2459         }
2460
2461         while (1) {
2462                 mnt = getmntent(fp);
2463                 if (!mnt)
2464                         break;
2465
2466                 if (!llapi_is_lustre_mnt(mnt))
2467                         continue;
2468
2469                 fd = open(mnt->mnt_dir, O_RDONLY | O_DIRECTORY);
2470                 if (fd < 0) {
2471                         perror("open");
2472                         return -1;
2473                 }
2474
2475                 rc = ioctl(fd, LL_IOC_RMTACL, ops);
2476                 if (rc < 0) {
2477                         perror("ioctl");
2478                 return -1;
2479                 }
2480
2481                 found++;
2482         }
2483         endmntent(fp);
2484         return found;
2485 }
2486
2487 static char *next_token(char *p, int div)
2488 {
2489         if (p == NULL)
2490                 return NULL;
2491
2492         if (div)
2493                 while (*p && *p != ':' && !isspace(*p))
2494                         p++;
2495         else
2496                 while (*p == ':' || isspace(*p))
2497                         p++;
2498
2499         return *p ? p : NULL;
2500 }
2501
2502 static int rmtacl_name2id(char *name, int is_user)
2503 {
2504         if (is_user) {
2505                 struct passwd *pw;
2506
2507                 if ((pw = getpwnam(name)) == NULL)
2508                         return INVALID_ID;
2509                 else
2510                         return (int)(pw->pw_uid);
2511         } else {
2512                 struct group *gr;
2513
2514                 if ((gr = getgrnam(name)) == NULL)
2515                         return INVALID_ID;
2516                 else
2517                         return (int)(gr->gr_gid);
2518         }
2519 }
2520
2521 static int isodigit(int c)
2522 {
2523         return (c >= '0' && c <= '7') ? 1 : 0;
2524 }
2525
2526 /*
2527  * Whether the name is just digits string (uid/gid) already or not.
2528  * Return value:
2529  * 1: str is id
2530  * 0: str is not id
2531  */
2532 static int str_is_id(char *str)
2533 {
2534         if (str == NULL)
2535                 return 0;
2536
2537         if (*str == '0') {
2538                 str++;
2539                 if (*str == 'x' || *str == 'X') { /* for Hex. */
2540                         if (!isxdigit(*(++str)))
2541                                 return 0;
2542
2543                         while (isxdigit(*(++str)));
2544                 } else if (isodigit(*str)) { /* for Oct. */
2545                         while (isodigit(*(++str)));
2546                 }
2547         } else if (isdigit(*str)) { /* for Dec. */
2548                 while (isdigit(*(++str)));
2549         }
2550
2551         return (*str == 0) ? 1 : 0;
2552 }
2553
2554 typedef struct {
2555         char *name;
2556         int   length;
2557         int   is_user;
2558         int   next_token;
2559 } rmtacl_name_t;
2560
2561 #define RMTACL_OPTNAME(name) name, sizeof(name) - 1
2562
2563 static rmtacl_name_t rmtacl_namelist[] = {
2564         { RMTACL_OPTNAME("user:"),            1,      0 },
2565         { RMTACL_OPTNAME("group:"),           0,      0 },
2566         { RMTACL_OPTNAME("default:user:"),    1,      0 },
2567         { RMTACL_OPTNAME("default:group:"),   0,      0 },
2568         /* for --tabular option */
2569         { RMTACL_OPTNAME("user"),             1,      1 },
2570         { RMTACL_OPTNAME("group"),            0,      1 },
2571         { 0 }
2572 };
2573
2574 static int rgetfacl_output(char *str)
2575 {
2576         char *start = NULL, *end = NULL;
2577         int is_user = 0, n, id;
2578         char c;
2579         rmtacl_name_t *rn;
2580
2581         if (str == NULL)
2582                 return -1;
2583
2584         for (rn = rmtacl_namelist; rn->name; rn++) {
2585                 if(strncmp(str, rn->name, rn->length) == 0) {
2586                         if (!rn->next_token)
2587                                 start = str + rn->length;
2588                         else
2589                                 start = next_token(str + rn->length, 0);
2590                         is_user = rn->is_user;
2591                         break;
2592                 }
2593         }
2594
2595         end = next_token(start, 1);
2596         if (end == NULL || start == end) {
2597                 n = printf("%s", str);
2598                 return n;
2599         }
2600
2601         c = *end;
2602         *end = 0;
2603         id = rmtacl_name2id(start, is_user);
2604         if (id == INVALID_ID) {
2605                 if (str_is_id(start)) {
2606                         *end = c;
2607                         n = printf("%s", str);
2608                 } else
2609                         return -1;
2610         } else if ((id == NOBODY_UID && is_user) ||
2611                    (id == NOBODY_GID && !is_user)) {
2612                 *end = c;
2613                 n = printf("%s", str);
2614         } else {
2615                 *end = c;
2616                 *start = 0;
2617                 n = printf("%s%d%s", str, id, end);
2618         }
2619         return n;
2620 }
2621
2622 static int child_status(int status)
2623 {
2624         return WIFEXITED(status) ? WEXITSTATUS(status) : -1;
2625 }
2626
2627 static int do_rmtacl(int argc, char *argv[], int ops, int (output_func)(char *))
2628 {
2629         pid_t pid = 0;
2630         int fd[2], status;
2631         FILE *fp;
2632         char buf[PIPE_BUF];
2633
2634         if (output_func) {
2635                 if (pipe(fd) < 0) {
2636                         perror("pipe");
2637                         return -1;
2638                 }
2639
2640                 if ((pid = fork()) < 0) {
2641                         perror("fork");
2642                         close(fd[0]);
2643                         close(fd[1]);
2644                         return -1;
2645                 } else if (!pid) {
2646                         /* child process redirects its output. */
2647                         close(fd[0]);
2648                         close(1);
2649                         if (dup2(fd[1], 1) < 0) {
2650                                 perror("dup2");
2651                                 close(fd[1]);
2652                                 return -1;
2653                         }
2654                 } else {
2655                         close(fd[1]);
2656                 }
2657         }
2658
2659         if (!pid) {
2660                 status = rmtacl_notify(ops);
2661                 if (status < 0)
2662                         return -1;
2663
2664                 exit(execvp(argv[0], argv));
2665         }
2666
2667         /* the following is parent process */
2668         if ((fp = fdopen(fd[0], "r")) == NULL) {
2669                 perror("fdopen");
2670                 kill(pid, SIGKILL);
2671                 close(fd[0]);
2672                 return -1;
2673         }
2674
2675         while (fgets(buf, PIPE_BUF, fp) != NULL) {
2676                 if (output_func(buf) < 0)
2677                         fprintf(stderr, "WARNING: unexpected error!\n[%s]\n",
2678                                 buf);
2679         }
2680         fclose(fp);
2681         close(fd[0]);
2682
2683         if (waitpid(pid, &status, 0) < 0) {
2684                 perror("waitpid");
2685                 return -1;
2686         }
2687
2688         return child_status(status);
2689 }
2690
2691 int llapi_lsetfacl(int argc, char *argv[])
2692 {
2693         return do_rmtacl(argc, argv, RMT_LSETFACL, NULL);
2694 }
2695
2696 int llapi_lgetfacl(int argc, char *argv[])
2697 {
2698         return do_rmtacl(argc, argv, RMT_LGETFACL, NULL);
2699 }
2700
2701 int llapi_rsetfacl(int argc, char *argv[])
2702 {
2703         return do_rmtacl(argc, argv, RMT_RSETFACL, NULL);
2704 }
2705
2706 int llapi_rgetfacl(int argc, char *argv[])
2707 {
2708         return do_rmtacl(argc, argv, RMT_RGETFACL, rgetfacl_output);
2709 }
2710
2711 int llapi_cp(int argc, char *argv[])
2712 {
2713         int rc;
2714
2715         rc = rmtacl_notify(RMT_RSETFACL);
2716         if (rc < 0)
2717                 return -1;
2718
2719         exit(execvp(argv[0], argv));
2720 }
2721
2722 int llapi_ls(int argc, char *argv[])
2723 {
2724         int rc;
2725
2726         rc = rmtacl_notify(RMT_LGETFACL);
2727         if (rc < 0)
2728                 return -1;
2729
2730         exit(execvp(argv[0], argv));
2731 }
2732
2733 /* Print mdtname 'name' into 'buf' using 'format'.  Add -MDT0000 if needed.
2734  * format must have %s%s, buf must be > 16
2735  * Eg: if name = "lustre-MDT0000", "lustre", or "lustre-MDT0000_UUID"
2736  *     then buf = "lustre-MDT0000"
2737  */
2738 static int get_mdtname(char *name, char *format, char *buf)
2739 {
2740         char suffix[]="-MDT0000";
2741         int len = strlen(name);
2742
2743         if ((len > 5) && (strncmp(name + len - 5, "_UUID", 5) == 0)) {
2744                 name[len - 5] = '\0';
2745                 len -= 5;
2746         }
2747
2748         if (len > 8) {
2749                 if ((len <= 16) && strncmp(name + len - 8, "-MDT", 4) == 0) {
2750                         suffix[0] = '\0';
2751                 } else {
2752                         /* Not enough room to add suffix */
2753                         llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
2754                                   "MDT name too long |%s|", name);
2755                         return -EINVAL;
2756                 }
2757         }
2758
2759         return sprintf(buf, format, name, suffix);
2760 }
2761
2762 /** ioctl on filsystem root, with mdtindex sent as data
2763  * \param mdtname path, fsname, or mdtname (lutre-MDT0004)
2764  * \param mdtidxp pointer to integer within data to be filled in with the
2765  *    mdt index (0 if no mdt is specified).  NULL won't be filled.
2766  */
2767 static int root_ioctl(const char *mdtname, int opc, void *data, int *mdtidxp,
2768                       int want_error)
2769 {
2770         char fsname[20];
2771         char *ptr;
2772         int fd, index, rc;
2773
2774         /* Take path, fsname, or MDTname.  Assume MDT0000 in the former cases.
2775          Open root and parse mdt index. */
2776         if (mdtname[0] == '/') {
2777                 index = 0;
2778                 rc = get_root_path(WANT_FD | want_error, NULL, &fd,
2779                                    (char *)mdtname, -1);
2780         } else {
2781                 if (get_mdtname((char *)mdtname, "%s%s", fsname) < 0)
2782                         return -EINVAL;
2783                 ptr = fsname + strlen(fsname) - 8;
2784                 *ptr = '\0';
2785                 index = strtol(ptr + 4, NULL, 10);
2786                 rc = get_root_path(WANT_FD | want_error, fsname, &fd, NULL, -1);
2787         }
2788         if (rc < 0) {
2789                 if (want_error)
2790                         llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
2791                                   "Can't open %s: %d\n", mdtname, rc);
2792                 return rc;
2793         }
2794
2795         if (mdtidxp)
2796                 *mdtidxp = index;
2797
2798         rc = ioctl(fd, opc, data);
2799         if (rc && want_error)
2800                 llapi_err(LLAPI_MSG_ERROR, "ioctl %d err %d", opc, rc);
2801
2802         close(fd);
2803         return rc;
2804 }
2805
2806 /****** Changelog API ********/
2807
2808 static int changelog_ioctl(const char *mdtname, int opc, int id,
2809                            long long recno, int flags)
2810 {
2811         struct ioc_changelog data;
2812         int *idx;
2813
2814         data.icc_id = id;
2815         data.icc_recno = recno;
2816         data.icc_flags = flags;
2817         idx = (int *)(&data.icc_mdtindex);
2818
2819         return root_ioctl(mdtname, opc, &data, idx, WANT_ERROR);
2820 }
2821
2822 #define CHANGELOG_PRIV_MAGIC 0xCA8E1080
2823 struct changelog_private {
2824         int magic;
2825         int flags;
2826         lustre_kernelcomm kuc;
2827         char *buf;
2828 };
2829
2830 /** Start reading from a changelog
2831  * @param priv Opaque private control structure
2832  * @param flags Start flags (e.g. CHANGELOG_FLAG_BLOCK)
2833  * @param device Report changes recorded on this MDT
2834  * @param startrec Report changes beginning with this record number
2835  * (just call llapi_changelog_fini when done; don't need an endrec)
2836  */
2837 int llapi_changelog_start(void **priv, int flags, const char *device,
2838                           long long startrec)
2839 {
2840         struct changelog_private *cp;
2841         int rc;
2842
2843         /* Set up the receiver control struct */
2844         cp = malloc(sizeof(*cp));
2845         if (cp == NULL)
2846                 return -ENOMEM;
2847
2848         cp->buf = malloc(CR_MAXSIZE);
2849         if (cp->buf == NULL) {
2850                 rc = -ENOMEM;
2851                 goto out_free;
2852         }
2853
2854         cp->magic = CHANGELOG_PRIV_MAGIC;
2855         cp->flags = flags;
2856
2857         /* Set up the receiver */
2858         rc = libcfs_ukuc_start(&cp->kuc, 0 /* no group registration */);
2859         if (rc < 0)
2860                 goto out_free;
2861
2862         *priv = cp;
2863
2864         /* Tell the kernel to start sending */
2865         rc = changelog_ioctl(device, OBD_IOC_CHANGELOG_SEND, cp->kuc.lk_wfd,
2866                              startrec, flags);
2867         /* Only the kernel reference keeps the write side open */
2868         close(cp->kuc.lk_wfd);
2869         cp->kuc.lk_wfd = 0;
2870         if (rc < 0) {
2871                 /* frees and clears priv */
2872                 llapi_changelog_fini(priv);
2873                 return rc;
2874         }
2875
2876         return 0;
2877
2878 out_free:
2879         if (cp->buf)
2880                 free(cp->buf);
2881         free(cp);
2882         return rc;
2883 }
2884
2885 /** Finish reading from a changelog */
2886 int llapi_changelog_fini(void **priv)
2887 {
2888         struct changelog_private *cp = (struct changelog_private *)*priv;
2889
2890         if (!cp || (cp->magic != CHANGELOG_PRIV_MAGIC))
2891                 return -EINVAL;
2892
2893         libcfs_ukuc_stop(&cp->kuc);
2894         free(cp->buf);
2895         free(cp);
2896         *priv = NULL;
2897         return 0;
2898 }
2899
2900 /** Read the next changelog entry
2901  * @param priv Opaque private control structure
2902  * @param rech Changelog record handle; record will be allocated here
2903  * @return 0 valid message received; rec is set
2904  *         <0 error code
2905  *         1 EOF
2906  */
2907 int llapi_changelog_recv(void *priv, struct changelog_rec **rech)
2908 {
2909         struct changelog_private *cp = (struct changelog_private *)priv;
2910         struct kuc_hdr *kuch;
2911         int rc = 0;
2912
2913         if (!cp || (cp->magic != CHANGELOG_PRIV_MAGIC))
2914                 return -EINVAL;
2915         if (rech == NULL)
2916                 return -EINVAL;
2917
2918 repeat:
2919         rc = libcfs_ukuc_msg_get(&cp->kuc, cp->buf, CR_MAXSIZE,
2920                                  KUC_TRANSPORT_CHANGELOG);
2921         if (rc < 0)
2922                 return rc;
2923
2924         kuch = (struct kuc_hdr *)cp->buf;
2925         if ((kuch->kuc_transport != KUC_TRANSPORT_CHANGELOG) ||
2926             ((kuch->kuc_msgtype != CL_RECORD) &&
2927              (kuch->kuc_msgtype != CL_EOF))) {
2928                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
2929                           "Unknown changelog message type %d:%d\n",
2930                           kuch->kuc_transport, kuch->kuc_msgtype);
2931                 rc = -EPROTO;
2932                 goto out_free;
2933         }
2934
2935         if (kuch->kuc_msgtype == CL_EOF) {
2936                 if (cp->flags & CHANGELOG_FLAG_FOLLOW) {
2937                         /* Ignore EOFs */
2938                         goto repeat;
2939                 } else {
2940                         rc = 1;
2941                         goto out_free;
2942                 }
2943         }
2944
2945         /* Our message is a changelog_rec */
2946         *rech = (struct changelog_rec *)(kuch + 1);
2947
2948         return 0;
2949
2950 out_free:
2951         *rech = NULL;
2952         return rc;
2953 }
2954
2955 /** Release the changelog record when done with it. */
2956 int llapi_changelog_free(struct changelog_rec **rech)
2957 {
2958         *rech = NULL;
2959         return 0;
2960 }
2961
2962 int llapi_changelog_clear(const char *mdtname, const char *idstr,
2963                           long long endrec)
2964 {
2965         int id;
2966
2967         if (endrec < 0) {
2968                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
2969                           "can't purge negative records\n");
2970                 return -EINVAL;
2971         }
2972
2973         id = strtol(idstr + strlen(CHANGELOG_USER_PREFIX), NULL, 10);
2974         if ((id == 0) || (strncmp(idstr, CHANGELOG_USER_PREFIX,
2975                                   strlen(CHANGELOG_USER_PREFIX)) != 0)) {
2976                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
2977                           "expecting id of the form '"CHANGELOG_USER_PREFIX
2978                           "<num>'; got '%s'\n", idstr);
2979                 return -EINVAL;
2980         }
2981
2982         return changelog_ioctl(mdtname, OBD_IOC_CHANGELOG_CLEAR, id, endrec, 0);
2983 }
2984
2985 int llapi_fid2path(const char *device, const char *fidstr, char *buf,
2986                    int buflen, long long *recno, int *linkno)
2987 {
2988         char path[PATH_MAX];
2989         struct lu_fid fid;
2990         struct getinfo_fid2path *gf;
2991         int fd, rc;
2992
2993         while (*fidstr == '[')
2994                 fidstr++;
2995
2996         sscanf(fidstr, SFID, RFID(&fid));
2997         if (!fid_is_sane(&fid)) {
2998                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
2999                           "bad FID format [%s], should be "DFID"\n",
3000                           fidstr, (__u64)1, 2, 0);
3001                 return -EINVAL;
3002         }
3003
3004         /* Take path or fsname */
3005         if (device[0] == '/') {
3006                 strcpy(path, device);
3007         } else {
3008                 rc = get_root_path(WANT_PATH | WANT_ERROR, (char *)device,
3009                                    NULL, path, -1);
3010                 if (rc < 0)
3011                         return rc;
3012         }
3013         sprintf(path, "%s/%s/fid/%s", path, dot_lustre_name, fidstr);
3014         fd = open(path, O_RDONLY | O_NONBLOCK);
3015         if (fd < 0)
3016                 return -errno;
3017
3018         gf = malloc(sizeof(*gf) + buflen);
3019         gf->gf_fid = fid;
3020         gf->gf_recno = *recno;
3021         gf->gf_linkno = *linkno;
3022         gf->gf_pathlen = buflen;
3023         rc = ioctl(fd, OBD_IOC_FID2PATH, gf);
3024         if (rc) {
3025                 llapi_err(LLAPI_MSG_ERROR, "ioctl err %d", rc);
3026         } else {
3027                 memcpy(buf, gf->gf_path, gf->gf_pathlen);
3028                 *recno = gf->gf_recno;
3029                 *linkno = gf->gf_linkno;
3030         }
3031
3032         free(gf);
3033         close(fd);
3034         return rc;
3035 }
3036
3037 static int path2fid_from_lma(const char *path, lustre_fid *fid)
3038 {
3039         char buf[512];
3040         struct lustre_mdt_attrs *lma;
3041         int rc;
3042
3043         rc = lgetxattr(path, XATTR_NAME_LMA, buf, sizeof(buf));
3044         if (rc < 0)
3045                 return -errno;
3046         lma = (struct lustre_mdt_attrs *)buf;
3047         fid_le_to_cpu(fid, &lma->lma_self_fid);
3048         return 0;
3049 }
3050
3051 int llapi_path2fid(const char *path, lustre_fid *fid)
3052 {
3053         int fd, rc;
3054
3055         memset(fid, 0, sizeof(*fid));
3056         fd = open(path, O_RDONLY | O_NONBLOCK | O_NOFOLLOW);
3057         if (fd < 0) {
3058                 if (errno == ELOOP) /* symbolic link */
3059                         return path2fid_from_lma(path, fid);
3060                 return -errno;
3061         }
3062
3063         rc = ioctl(fd, LL_IOC_PATH2FID, fid) < 0 ? -errno : 0;
3064         if (rc == -EINVAL) /* char special device */
3065                 rc = path2fid_from_lma(path, fid);
3066
3067         close(fd);
3068         return rc;
3069 }
3070
3071 /****** HSM Copytool API ********/
3072 #define CT_PRIV_MAGIC 0xC0BE2001
3073 struct copytool_private {
3074         int magic;
3075         char *buf;
3076         char *fsname;
3077         lustre_kernelcomm kuc;
3078         __u32 archives;
3079 };
3080
3081 #include <libcfs/libcfs.h>
3082
3083 /** Register a copytool
3084  * @param[out] priv Opaque private control structure
3085  * @param fsname Lustre filesystem
3086  * @param flags Open flags, currently unused (e.g. O_NONBLOCK)
3087  * @param archive_count
3088  * @param archives Which archive numbers this copytool is responsible for
3089  */
3090 int llapi_copytool_start(void **priv, char *fsname, int flags,
3091                          int archive_count, int *archives)
3092 {
3093         struct copytool_private *ct;
3094         int rc;
3095
3096         if (archive_count > 0 && archives == NULL) {
3097                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
3098                           "NULL archive numbers");
3099                 return -EINVAL;
3100         }
3101
3102         ct = malloc(sizeof(*ct));
3103         if (ct == NULL)
3104                 return -ENOMEM;
3105
3106         ct->buf = malloc(HAL_MAXSIZE);
3107         ct->fsname = malloc(strlen(fsname) + 1);
3108         if (ct->buf == NULL || ct->fsname == NULL) {
3109                 rc = -ENOMEM;
3110                 goto out_err;
3111         }
3112         strcpy(ct->fsname, fsname);
3113         ct->magic = CT_PRIV_MAGIC;
3114         ct->archives = 0;
3115         for (rc = 0; rc < archive_count; rc++) {
3116                 if (archives[rc] > sizeof(ct->archives)) {
3117                         llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
3118                                   "Maximum of %d archives supported",
3119                                   sizeof(ct->archives));
3120                         goto out_err;
3121                 }
3122                 ct->archives |= 1 << archives[rc];
3123         }
3124         /* special case: if no archives specified, default to archive #0. */
3125         if (ct->archives == 0)
3126                 ct->archives = 1;
3127
3128         rc = libcfs_ukuc_start(&ct->kuc, KUC_GRP_HSM);
3129         if (rc < 0)
3130                 goto out_err;
3131
3132         /* Storing archive(s) in lk_data; see mdc_ioc_hsm_ct_start */
3133         ct->kuc.lk_data = ct->archives;
3134         rc = root_ioctl(ct->fsname, LL_IOC_HSM_CT_START, &(ct->kuc), NULL,
3135                         WANT_ERROR);
3136         /* Only the kernel reference keeps the write side open */
3137         close(ct->kuc.lk_wfd);
3138         ct->kuc.lk_wfd = 0;
3139         if (rc < 0)
3140                 goto out_err;
3141
3142         *priv = ct;
3143         return 0;
3144
3145 out_err:
3146         if (ct->buf)
3147                 free(ct->buf);
3148         if (ct->fsname)
3149                 free(ct->fsname);
3150         free(ct);
3151         return rc;
3152 }
3153
3154 /** Deregister a copytool */
3155 int llapi_copytool_fini(void **priv)
3156 {
3157         struct copytool_private *ct = (struct copytool_private *)*priv;
3158
3159         if (!ct || (ct->magic != CT_PRIV_MAGIC))
3160                 return -EINVAL;
3161
3162         /* Tell the kernel to stop sending us messages */
3163         ct->kuc.lk_flags = LK_FLG_STOP;
3164         root_ioctl(ct->fsname, LL_IOC_HSM_CT_START, &(ct->kuc), NULL, 0);
3165
3166         /* Shut down the kernelcomms */
3167         libcfs_ukuc_stop(&ct->kuc);
3168
3169         free(ct->buf);
3170         free(ct->fsname);
3171         free(ct);
3172         *priv = NULL;
3173         return 0;
3174 }
3175
3176 /** Wait for the next hsm_action_list
3177  * @param priv Opaque private control structure
3178  * @param halh Action list handle, will be allocated here
3179  * @param msgsize Number of bytes in the message, will be set here
3180  * @return 0 valid message received; halh and msgsize are set
3181  *         <0 error code
3182  */
3183 int llapi_copytool_recv(void *priv, struct hsm_action_list **halh, int *msgsize)
3184 {
3185         struct copytool_private *ct = (struct copytool_private *)priv;
3186         struct kuc_hdr *kuch;
3187         struct hsm_action_list *hal;
3188         int rc = 0;
3189
3190         if (!ct || (ct->magic != CT_PRIV_MAGIC))
3191                 return -EINVAL;
3192         if (halh == NULL || msgsize == NULL)
3193                 return -EINVAL;
3194
3195         rc = libcfs_ukuc_msg_get(&ct->kuc, ct->buf, HAL_MAXSIZE,
3196                                  KUC_TRANSPORT_HSM);
3197         if (rc < 0)
3198                 return rc;
3199
3200         /* Handle generic messages */
3201         kuch = (struct kuc_hdr *)ct->buf;
3202         if (kuch->kuc_transport == KUC_TRANSPORT_GENERIC &&
3203             kuch->kuc_msgtype == KUC_MSG_SHUTDOWN) {
3204                 rc = -ESHUTDOWN;
3205                 goto out_free;
3206         }
3207
3208         if (kuch->kuc_transport != KUC_TRANSPORT_HSM ||
3209             kuch->kuc_msgtype != HMT_ACTION_LIST) {
3210                 llapi_err(LLAPI_MSG_ERROR | LLAPI_MSG_NO_ERRNO,
3211                           "Unknown HSM message type %d:%d\n",
3212                           kuch->kuc_transport, kuch->kuc_msgtype);
3213                 rc = -EPROTO;
3214                 goto out_free;
3215         }
3216
3217         /* Our message is an hsm_action_list */
3218
3219         hal = (struct hsm_action_list *)(kuch + 1);
3220
3221         /* Check that we have registered for this archive # */
3222         if (((1 << hal->hal_archive_num) & ct->archives) == 0) {
3223                     llapi_err(LLAPI_MSG_INFO | LLAPI_MSG_NO_ERRNO,
3224                           "Ignoring request for archive #%d (bitmask %#x)\n",
3225                           hal->hal_archive_num, ct->archives);
3226                 rc = 0;
3227                 goto out_free;
3228         }
3229
3230         *halh = hal;
3231         *msgsize = kuch->kuc_msglen - sizeof(*kuch);
3232         return 0;
3233
3234 out_free:
3235         *halh = NULL;
3236         *msgsize = 0;
3237         return rc;
3238 }
3239
3240 /** Release the action list when done with it. */
3241 int llapi_copytool_free(struct hsm_action_list **hal)
3242 {
3243         *hal = NULL;
3244         return 0;
3245 }
3246
3247 int llapi_get_connect_flags(const char *mnt, __u64 *flags)
3248 {
3249         DIR *root;
3250         int rc;
3251
3252         root = opendir(mnt);
3253         if (!root) {
3254                 llapi_err(LLAPI_MSG_ERROR, "open %s failed", mnt);
3255                 return -1;
3256         }
3257
3258         rc = ioctl(dirfd(root), LL_IOC_GET_CONNECT_FLAGS, flags);
3259         closedir(root);
3260         if (rc < 0)
3261                 llapi_err(LLAPI_MSG_ERROR,
3262                           "ioctl on %s for getting connect flags failed", mnt);
3263         return rc;
3264 }