Whamcloud - gitweb
b57d9046e4fd5c582a45b85afb544de79fb59c33
[fs/lustre-release.git] / lustre / utils / obd.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.gnu.org/licenses/gpl-2.0.html
19  *
20  * GPL HEADER END
21  */
22 /*
23  * Copyright (c) 2002, 2010, Oracle and/or its affiliates. All rights reserved.
24  * Use is subject to license terms.
25  *
26  * Copyright (c) 2011, 2017, Intel Corporation.
27  */
28 /*
29  * This file is part of Lustre, http://www.lustre.org/
30  * Lustre is a trademark of Sun Microsystems, Inc.
31  *
32  * lustre/utils/obd.c
33  *
34  * Author: Peter J. Braam <braam@clusterfs.com>
35  * Author: Phil Schwan <phil@clusterfs.com>
36  * Author: Andreas Dilger <adilger@clusterfs.com>
37  * Author: Robert Read <rread@clusterfs.com>
38  */
39
40 #include <sys/ioctl.h>
41 #include <sys/socket.h>
42 #include <sys/stat.h>
43 #include <sys/time.h>
44 #include <sys/types.h>
45 #include <sys/un.h>
46 #include <sys/wait.h>
47
48 #include <ctype.h>
49 #include <errno.h>
50 #include <fcntl.h>
51 #include <getopt.h>
52 #include <signal.h>
53 #include <stdarg.h>
54 #include <stdbool.h>
55 #include <stdio.h>
56 #include <stdlib.h>
57 #include <string.h>
58 #include <time.h>
59 #include <unistd.h>
60 #include <limits.h>
61 #include "obdctl.h"
62 #include "lustreapi_internal.h"
63 #include <libcfs/util/list.h>
64 #include <libcfs/util/ioctl.h>
65 #include <libcfs/util/param.h>
66 #include <libcfs/util/parser.h>
67 #include <libcfs/util/string.h>
68
69 #include <linux/lnet/nidstr.h>
70 #include <linux/lnet/lnetctl.h>
71 #ifdef HAVE_SERVER_SUPPPORT
72 #include <linux/lustre/lustre_barrier_user.h>
73 #endif
74 #include <linux/lustre/lustre_cfg.h>
75 #include <linux/lustre/lustre_ioctl.h>
76 #include <linux/lustre/lustre_ostid.h>
77 #include <linux/lustre/lustre_param.h>
78 #include <linux/lustre/lustre_ver.h>
79
80 #include <lustre/lustreapi.h>
81
82 #define MAX_STRING_SIZE 128
83
84 #if HAVE_LIBPTHREAD
85 #include <sys/ipc.h>
86 #include <sys/shm.h>
87 #include <pthread.h>
88
89 #define MAX_THREADS 4096
90 #define MAX_BASE_ID 0xffffffff
91 #define NIDSTRING_LENGTH 64
92 struct shared_data {
93         pthread_mutex_t mutex;
94         pthread_cond_t  cond;
95         int       stopping;
96         struct {
97                 __u64 counters[MAX_THREADS];
98                 __u64 offsets[MAX_THREADS];
99                 int   thr_running;
100                 int   start_barrier;
101                 int   stop_barrier;
102                 struct timeval start_time;
103                 struct timeval end_time;
104         } body;
105 };
106
107 static struct shared_data *shared_data;
108 static __u64 counter_snapshot[2][MAX_THREADS];
109 static int prev_valid;
110 static struct timeval prev_time;
111 static int thread;
112 static int nthreads;
113 #else
114 const int thread = 0;
115 const int nthreads = 1;
116 #endif
117
118 static int cur_device = -1;
119
120 int lcfg_ioctl(char *func, int dev_id, struct lustre_cfg *lcfg)
121 {
122         struct obd_ioctl_data data;
123         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
124         int rc;
125
126         memset(&data, 0, sizeof(data));
127         data.ioc_dev = cur_device;
128         data.ioc_type = LUSTRE_CFG_TYPE;
129         data.ioc_plen1 = lustre_cfg_len(lcfg->lcfg_bufcount,
130                                         lcfg->lcfg_buflens);
131         data.ioc_pbuf1 = (void *)lcfg;
132         memset(buf, 0, sizeof(rawbuf));
133         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
134         if (rc) {
135                 fprintf(stderr, "error: %s: invalid ioctl\n", jt_cmdname(func));
136                 return rc;
137         }
138
139         rc =  l_ioctl(dev_id, OBD_IOC_PROCESS_CFG, buf);
140
141         return rc;
142 }
143
144 static int do_device(char *func, char *devname);
145
146 static int get_mgs_device()
147 {
148         char mgs[] = "$MGS";
149         static int mgs_device = -1;
150
151         if (mgs_device == -1) {
152                 int rc;
153                 do_disconnect(NULL, 1);
154                 rc = do_device("mgsioc", mgs);
155                 if (rc) {
156                         fprintf(stderr,
157                                 "This command must be run on the MGS.\n");
158                         errno = ENODEV;
159                         return -1;
160                 }
161                 mgs_device = cur_device;
162         }
163         return mgs_device;
164 }
165
166 /* Returns -1 on error with errno set */
167 int lcfg_mgs_ioctl(char *func, int dev_id, struct lustre_cfg *lcfg)
168 {
169         struct obd_ioctl_data data;
170         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
171         int rc;
172
173         memset(&data, 0, sizeof(data));
174         rc = data.ioc_dev = get_mgs_device();
175         if (rc < 0)
176                 goto out;
177         data.ioc_type = LUSTRE_CFG_TYPE;
178         data.ioc_plen1 = lustre_cfg_len(lcfg->lcfg_bufcount,
179                                         lcfg->lcfg_buflens);
180         data.ioc_pbuf1 = (void *)lcfg;
181         memset(buf, 0, sizeof(rawbuf));
182         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
183         if (rc) {
184                 fprintf(stderr, "error: %s: invalid ioctl\n", jt_cmdname(func));
185                 return rc;
186         }
187
188         rc = l_ioctl(dev_id, OBD_IOC_PARAM, buf);
189 out:
190         if (rc && errno == ENOSYS)
191                 fprintf(stderr, "Make sure cfg_device is set first.\n");
192
193         return rc;
194 }
195
196 char *obdo_print(struct obdo *obd)
197 {
198         char buf[1024];
199
200         snprintf(buf, sizeof(buf), "id: %#jx\ngrp: %#jx\natime: %ju\n"
201                  "mtime: %ju\nctime: %ju\nsize: %ju\nblocks: %ju"
202                  "\nblksize: %u\nmode: %o\nuid: %d\ngid: %d\nflags: %x\n"
203                  "misc: %x\nnlink: %d,\nvalid %#jx\n",
204                  (uintmax_t)ostid_id(&obd->o_oi),
205                  (uintmax_t)ostid_seq(&obd->o_oi),
206                  (uintmax_t)obd->o_atime, (uintmax_t)obd->o_mtime,
207                  (uintmax_t)obd->o_ctime, (uintmax_t)obd->o_size,
208                  (uintmax_t)obd->o_blocks, obd->o_blksize, obd->o_mode,
209                  obd->o_uid, obd->o_gid, obd->o_flags, obd->o_misc,
210                  obd->o_nlink, (uintmax_t)obd->o_valid);
211         return strdup(buf);
212 }
213
214
215 #define BAD_VERBOSE (-999999999)
216
217 #define N2D_OFF 0x100      /* So we can tell between error codes and devices */
218
219 static int do_name2dev(char *func, char *name)
220 {
221         struct obd_ioctl_data data;
222         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
223         int rc;
224
225         memset(&data, 0, sizeof(data));
226         data.ioc_dev = cur_device;
227         data.ioc_inllen1 = strlen(name) + 1;
228         data.ioc_inlbuf1 = name;
229
230         memset(buf, 0, sizeof(rawbuf));
231         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
232         if (rc < 0) {
233                 fprintf(stderr, "error: %s: invalid ioctl\n", jt_cmdname(func));
234                 return -rc;
235         }
236         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_NAME2DEV, buf);
237         if (rc < 0)
238                 return errno;
239         rc = llapi_ioctl_unpack(&data, buf, sizeof(rawbuf));
240         if (rc) {
241                 fprintf(stderr, "error: %s: invalid reply\n", jt_cmdname(func));
242                 return rc;
243         }
244
245         return data.ioc_dev + N2D_OFF;
246 }
247
248 /*
249  * resolve a device name to a device number.
250  * supports a number, $name or %uuid.
251  */
252 int parse_devname(char *func, char *name)
253 {
254         int rc;
255         int ret = -1;
256         int try_digit;
257
258         if (!name)
259                 return ret;
260
261         try_digit = isdigit(name[0]);
262
263         if (name[0] == '$' || name[0] == '%')
264                 name++;
265
266         rc = do_name2dev(func, name);
267         if (rc >= N2D_OFF)
268                 return rc - N2D_OFF;
269
270         if (try_digit)
271                 ret = strtoul(name, NULL, 0);
272         else
273                 fprintf(stderr, "No device found for name %s: %s\n",
274                                 name, strerror(rc));
275         return ret;
276 }
277
278 char *jt_cmdname(char *func)
279 {
280         static char buf[512];
281
282         if (thread) {
283                 sprintf(buf, "%s-%d", func, thread);
284                 return buf;
285         }
286
287         return func;
288 }
289
290 #define difftime(a, b)                                  \
291         ((a)->tv_sec - (b)->tv_sec +                    \
292          ((a)->tv_usec - (b)->tv_usec) / 1000000.0)
293
294 static int be_verbose(int verbose, struct timeval *next_time,
295                       __u64 num, __u64 *next_num, int num_total)
296 {
297         struct timeval now;
298
299         if (!verbose)
300                 return 0;
301
302         if (next_time != NULL)
303                 gettimeofday(&now, NULL);
304
305         /* A positive verbosity means to print every X iterations */
306         if (verbose > 0 && (num >= *next_num || num >= num_total)) {
307                 *next_num += verbose;
308                 if (next_time) {
309                         next_time->tv_sec = now.tv_sec - verbose;
310                         next_time->tv_usec = now.tv_usec;
311                 }
312                 return 1;
313         }
314
315         /* A negative verbosity means to print at most each X seconds */
316         if (verbose < 0 && next_time != NULL &&
317             difftime(&now, next_time) >= 0.0){
318                 next_time->tv_sec = now.tv_sec - verbose;
319                 next_time->tv_usec = now.tv_usec;
320                 *next_num = num;
321                 return 1;
322         }
323
324         return 0;
325 }
326
327 static int get_verbose(char *func, const char *arg)
328 {
329         int verbose;
330         char *end;
331
332         if (!arg || arg[0] == 'v')
333                 verbose = 1;
334         else if (arg[0] == 's' || arg[0] == 'q')
335                 verbose = 0;
336         else {
337                 verbose = (int)strtoul(arg, &end, 0);
338                 if (*end) {
339                         fprintf(stderr, "error: %s: bad verbose option '%s'\n",
340                                 jt_cmdname(func), arg);
341                         return BAD_VERBOSE;
342                 }
343         }
344
345         if (verbose < 0)
346                 printf("Print status every %d seconds\n", -verbose);
347         else if (verbose == 1)
348                 printf("Print status every operation\n");
349         else if (verbose > 1)
350                 printf("Print status every %d operations\n", verbose);
351
352         return verbose;
353 }
354
355 int do_disconnect(char *func, int verbose)
356 {
357         lcfg_set_devname(NULL);
358         cur_device = -1;
359         return 0;
360 }
361
362 #ifdef MAX_THREADS
363 static int shmem_setup(void)
364 {
365         pthread_mutexattr_t mattr;
366         pthread_condattr_t  cattr;
367         int                 rc;
368         int                 shmid;
369
370         /* Create new segment */
371         shmid = shmget(IPC_PRIVATE, sizeof(*shared_data), 0600);
372         if (shmid == -1) {
373                 fprintf(stderr, "Can't create shared data: %s\n",
374                         strerror(errno));
375                 return errno;
376         }
377
378         /* Attatch to new segment */
379         shared_data = (struct shared_data *)shmat(shmid, NULL, 0);
380
381         if (shared_data == (struct shared_data *)(-1)) {
382                 fprintf(stderr, "Can't attach shared data: %s\n",
383                         strerror(errno));
384                 shared_data = NULL;
385                 return errno;
386         }
387
388         /* Mark segment as destroyed, so it will disappear when we exit.
389          * Forks will inherit attached segments, so we should be OK.
390          */
391         if (shmctl(shmid, IPC_RMID, NULL) == -1) {
392                 fprintf(stderr, "Can't destroy shared data: %s\n",
393                         strerror(errno));
394                 return errno;
395         }
396
397         pthread_mutexattr_init(&mattr);
398         pthread_condattr_init(&cattr);
399
400         rc = pthread_mutexattr_setpshared(&mattr, PTHREAD_PROCESS_SHARED);
401         if (rc != 0) {
402                 fprintf(stderr, "Can't set shared mutex attr\n");
403                 goto out;
404         }
405
406         rc = pthread_condattr_setpshared(&cattr, PTHREAD_PROCESS_SHARED);
407         if (rc != 0) {
408                 fprintf(stderr, "Can't set shared cond attr\n");
409                 goto out;
410         }
411
412         pthread_mutex_init(&shared_data->mutex, &mattr);
413         pthread_cond_init(&shared_data->cond, &cattr);
414 out:
415         pthread_mutexattr_destroy(&mattr);
416         pthread_condattr_destroy(&cattr);
417
418         return rc;
419 }
420
421 static inline void shmem_lock(void)
422 {
423         pthread_mutex_lock(&shared_data->mutex);
424 }
425
426 static inline void shmem_unlock(void)
427 {
428         pthread_mutex_unlock(&shared_data->mutex);
429 }
430
431 static inline void shmem_wait(void)
432 {
433         pthread_cond_wait(&shared_data->cond, &shared_data->mutex);
434 }
435
436 static inline void shmem_wakeup_all(void)
437 {
438         pthread_cond_broadcast(&shared_data->cond);
439 }
440
441 static inline void shmem_reset(int total_threads)
442 {
443         if (shared_data == NULL)
444                 return;
445
446         memset(&shared_data->body, 0, sizeof(shared_data->body));
447         memset(counter_snapshot, 0, sizeof(counter_snapshot));
448         prev_valid = 0;
449         shared_data->stopping = 0;
450         shared_data->body.start_barrier = total_threads;
451         shared_data->body.stop_barrier = total_threads;
452 }
453
454 static inline void shmem_bump(__u32 counter)
455 {
456         static bool running_not_bumped = true;
457
458         if (shared_data == NULL || thread <= 0 || thread > MAX_THREADS)
459                 return;
460
461         shmem_lock();
462         shared_data->body.counters[thread - 1] += counter;
463         if (running_not_bumped) {
464                 shared_data->body.thr_running++;
465                 running_not_bumped = false;
466         }
467         shmem_unlock();
468 }
469
470 static void shmem_total(int total_threads)
471 {
472         __u64 total = 0;
473         double secs;
474         int i;
475
476         if (shared_data == NULL || total_threads > MAX_THREADS)
477                 return;
478
479         shmem_lock();
480         for (i = 0; i < total_threads; i++)
481                 total += shared_data->body.counters[i];
482
483         secs = difftime(&shared_data->body.end_time,
484                         &shared_data->body.start_time);
485         shmem_unlock();
486
487         printf("Total: total %ju threads %d sec %f %f/second\n",
488                (uintmax_t)total, total_threads, secs, total / secs);
489 }
490
491 static void shmem_snap(int total_threads, int live_threads)
492 {
493         struct timeval this_time;
494         int non_zero = 0;
495         __u64 total = 0;
496         double secs;
497         int running;
498         int i;
499
500         if (shared_data == NULL || total_threads > MAX_THREADS)
501                 return;
502
503         shmem_lock();
504         memcpy(counter_snapshot[0], shared_data->body.counters,
505                total_threads * sizeof(counter_snapshot[0][0]));
506         running = shared_data->body.thr_running;
507         shmem_unlock();
508
509         gettimeofday(&this_time, NULL);
510
511         for (i = 0; i < total_threads; i++) {
512                 long long this_count =
513                         counter_snapshot[0][i] - counter_snapshot[1][i];
514
515                 if (this_count != 0) {
516                         non_zero++;
517                         total += this_count;
518                 }
519         }
520
521         secs = difftime(&this_time, &prev_time);
522         if (prev_valid && secs > 1.0) {   /* someone screwed with the time? */
523                 printf("%d/%d Total: %f/second\n", non_zero, total_threads,
524                        total / secs);
525
526                 memcpy(counter_snapshot[1], counter_snapshot[0],
527                        total_threads * sizeof(counter_snapshot[0][0]));
528                 prev_time = this_time;
529         }
530         if (!prev_valid && running == total_threads) {
531                 prev_valid = 1;
532                 /* drop counters when all threads were started */
533                 memcpy(counter_snapshot[1], counter_snapshot[0],
534                        total_threads * sizeof(counter_snapshot[0][0]));
535                 prev_time = this_time;
536         }
537 }
538
539 static void shmem_stop(void)
540 {
541         if (shared_data == NULL)
542                 return;
543
544         shared_data->stopping = 1;
545 }
546
547 static void shmem_cleanup(void)
548 {
549         if (shared_data == NULL)
550                 return;
551
552         shmem_stop();
553
554         pthread_mutex_destroy(&shared_data->mutex);
555         pthread_cond_destroy(&shared_data->cond);
556 }
557
558 static int shmem_running(void)
559 {
560         return (shared_data == NULL || !shared_data->stopping);
561 }
562
563 static void shmem_end_time_locked(void)
564 {
565         shared_data->body.stop_barrier--;
566         if (shared_data->body.stop_barrier == 0)
567                 gettimeofday(&shared_data->body.end_time, NULL);
568 }
569
570 static void shmem_start_time_locked(void)
571 {
572         shared_data->body.start_barrier--;
573         if (shared_data->body.start_barrier == 0) {
574                 shmem_wakeup_all();
575                 gettimeofday(&shared_data->body.start_time, NULL);
576         } else {
577                 shmem_wait();
578         }
579 }
580
581 #else
582 static int shmem_setup(void)
583 {
584         return 0;
585 }
586
587 static inline void shmem_reset(int total_threads)
588 {
589 }
590
591 static inline void shmem_bump(__u32 counters)
592 {
593 }
594
595 static void shmem_lock()
596 {
597 }
598
599 static void shmem_unlock()
600 {
601 }
602
603 static void shmem_cleanup(void)
604 {
605 }
606
607 static int shmem_running(void)
608 {
609         return 1;
610 }
611 #endif
612
613 extern command_t cmdlist[];
614
615 static int do_device(char *func, char *devname)
616 {
617         int dev;
618
619         dev = parse_devname(func, devname);
620         if (dev < 0)
621                 return -1;
622
623         lcfg_set_devname(devname);
624         cur_device = dev;
625         return 0;
626 }
627
628 int jt_obd_get_device()
629 {
630         return cur_device;
631 }
632
633 int jt_obd_device(int argc, char **argv)
634 {
635         int rc;
636
637         if (argc > 2)
638                 return CMD_HELP;
639
640         if (argc == 1) {
641                 printf("current device is %d - %s\n",
642                        cur_device, lcfg_get_devname() ? : "not set");
643                 return 0;
644         }
645         rc = do_device("device", argv[1]);
646         return rc;
647 }
648
649 int jt_opt_device(int argc, char **argv)
650 {
651         int ret;
652         int rc;
653
654         if (argc < 3)
655                 return CMD_HELP;
656
657         rc = do_device("device", argv[1]);
658
659         if (!rc)
660                 rc = Parser_execarg(argc - 2, argv + 2, cmdlist);
661
662         ret = do_disconnect(argv[0], 0);
663         if (!rc)
664                 rc = ret;
665
666         return rc;
667 }
668
669 #ifdef MAX_THREADS
670 static void parent_sighandler (int sig)
671 {
672         return;
673 }
674
675 int jt_opt_threads(int argc, char **argv)
676 {
677         static char      cmdstr[129];
678         sigset_t         saveset;
679         sigset_t         sigset;
680         struct sigaction sigact;
681         struct sigaction saveact1;
682         struct sigaction saveact2;
683         unsigned long    threads;
684         __u64            next_thread;
685         int verbose;
686         int rc = 0;
687         int report_count = -1;
688         char *end;
689         int i;
690
691         if (argc < 5)
692                 return CMD_HELP;
693
694         threads = strtoul(argv[1], &end, 0);
695
696         if (*end == '.')
697                 report_count = strtoul(end + 1, &end, 0);
698
699         if (*end || threads > MAX_THREADS) {
700                 fprintf(stderr, "error: %s: invalid thread count '%s'\n",
701                         jt_cmdname(argv[0]), argv[1]);
702                 return CMD_HELP;
703         }
704
705         verbose = get_verbose(argv[0], argv[2]);
706         if (verbose == BAD_VERBOSE)
707                 return CMD_HELP;
708
709         if (verbose != 0) {
710                 snprintf(cmdstr, sizeof(cmdstr), "%s", argv[4]);
711                 for (i = 5; i < argc; i++)
712                         snprintf(cmdstr + strlen(cmdstr),
713                                  sizeof(cmdstr) - strlen(cmdstr),
714                                  " %s", argv[i]);
715
716                 printf("%s: starting %ld threads on device %s running %s\n",
717                        argv[0], threads, argv[3], cmdstr);
718         }
719
720         shmem_reset(threads);
721
722         sigemptyset(&sigset);
723         sigaddset(&sigset, SIGALRM);
724         sigaddset(&sigset, SIGCHLD);
725         sigprocmask(SIG_BLOCK, &sigset, &saveset);
726
727         nthreads = threads;
728
729         for (i = 1, next_thread = verbose; i <= threads; i++) {
730                 rc = fork();
731                 if (rc < 0) {
732                         fprintf(stderr, "error: %s: #%d - %s\n", argv[0], i,
733                                 strerror(rc = errno));
734                         break;
735                 } else if (rc == 0) {
736                         sigprocmask(SIG_SETMASK, &saveset, NULL);
737
738                         thread = i;
739                         argv[2] = "--device";
740                         exit(jt_opt_device(argc - 2, argv + 2));
741                 } else if (be_verbose(verbose, NULL, i, &next_thread, threads))
742                         printf("%s: thread #%d (PID %d) started\n",
743                                argv[0], i, rc);
744                 rc = 0;
745         }
746
747         if (!thread) {          /* parent process */
748                 int live_threads = threads;
749
750                 sigemptyset(&sigset);
751                 sigemptyset(&sigact.sa_mask);
752                 sigact.sa_handler = parent_sighandler;
753                 sigact.sa_flags = 0;
754
755                 sigaction(SIGALRM, &sigact, &saveact1);
756                 sigaction(SIGCHLD, &sigact, &saveact2);
757
758                 while (live_threads > 0) {
759                         int status;
760                         pid_t ret;
761
762                         if (verbose < 0)        /* periodic stats */
763                                 alarm(-verbose);
764
765                         sigsuspend(&sigset);
766                         alarm(0);
767
768                         while (live_threads > 0) {
769                                 ret = waitpid(0, &status, WNOHANG);
770                                 if (ret == 0)
771                                         break;
772
773                                 if (ret < 0) {
774                                         fprintf(stderr, "error: %s: wait - %s\n",
775                                                 argv[0], strerror(errno));
776                                         if (!rc)
777                                                 rc = errno;
778                                         continue;
779                                 } else {
780                                         /*
781                                          * This is a hack.  We _should_ be able
782                                          * to use WIFEXITED(status) to see if
783                                          * there was an error, but it appears
784                                          * to be broken and it always returns 1
785                                          * (OK).  See wait(2).
786                                          */
787                                         int err = WEXITSTATUS(status);
788                                         if (err || WIFSIGNALED(status))
789                                                 fprintf(stderr,
790                                                         "%s: PID %d had rc=%d\n",
791                                                         argv[0], ret, err);
792                                         if (!rc)
793                                                 rc = err;
794
795                                         live_threads--;
796                                 }
797                         }
798
799                         /* Show stats while all threads running */
800                         if (verbose < 0) {
801                                 shmem_snap(threads, live_threads);
802                                 if (report_count > 0 && --report_count == 0)
803                                         shmem_stop();
804                         }
805                 }
806                 sigaction(SIGCHLD, &saveact2, NULL);
807                 sigaction(SIGALRM, &saveact1, NULL);
808         }
809
810         shmem_total(threads);
811         sigprocmask(SIG_SETMASK, &saveset, NULL);
812
813         return rc;
814 }
815 #else
816 int jt_opt_threads(int argc, char **argv)
817 {
818         fprintf(stderr, "%s not-supported in a single-threaded runtime\n",
819                 jt_cmdname(argv[0]));
820         return CMD_HELP;
821 }
822 #endif
823
824 int jt_opt_net(int argc, char **argv)
825 {
826         char *arg2[3];
827         int rc;
828
829         if (argc < 3)
830                 return CMD_HELP;
831
832         arg2[0] = argv[0];
833         arg2[1] = argv[1];
834         arg2[2] = NULL;
835         rc = jt_ptl_network (2, arg2);
836
837         if (!rc)
838                 rc = Parser_execarg(argc - 2, argv + 2, cmdlist);
839
840         return rc;
841 }
842
843 #ifdef HAVE_SERVER_SUPPORT
844 /* Place this here so we can build tools that work with
845  * older Lustre versions
846  */
847 #ifndef OBD_IOC_NO_TRANSNO
848 #define OBD_IOC_NO_TRANSNO      _IOW('f', 140, OBD_IOC_DATA_TYPE)
849 #endif
850
851 int jt_obd_no_transno(int argc, char **argv)
852 {
853         struct obd_ioctl_data data;
854         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
855         glob_t path;
856         int count;
857         int fd;
858         int rc;
859
860         if (argc != 1)
861                 return CMD_HELP;
862
863         memset(buf, 0, sizeof(rawbuf));
864
865         rc = cfs_get_param_paths(&path, "no_transno");
866         if (rc != 0)
867                 goto old_ioctl;
868
869         fd = open(path.gl_pathv[0], O_WRONLY);
870         if (fd < 0) {
871                 cfs_free_param_data(&path);
872                 goto old_ioctl;
873         }
874
875         snprintf(rawbuf, sizeof(rawbuf), "%d", cur_device);
876
877         count = write(fd, rawbuf, strlen(rawbuf));
878         if (count < 0)
879                 rc = errno;
880
881         cfs_free_param_data(&path);
882         close(fd);
883         if (rc)
884                 goto old_ioctl;
885
886         return 0;
887
888 old_ioctl:
889 #if LUSTRE_VERSION_CODE < OBD_OCD_VERSION(3, 0, 53, 0)
890         memset(&data, 0, sizeof(data));
891         data.ioc_dev = cur_device;
892
893         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
894         if (rc) {
895                 fprintf(stderr, "error: %s: invalid ioctl\n",
896                         jt_cmdname(argv[0]));
897                 return rc;
898         }
899         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_NO_TRANSNO, buf);
900         if (rc < 0)
901                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
902                         strerror(rc = errno));
903 #endif
904         return rc;
905 }
906 #endif /* HAVE_SERVER_SUPPORT */
907
908 int jt_obd_set_readonly(int argc, char **argv)
909 {
910         struct obd_ioctl_data data;
911         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
912         int rc;
913
914         memset(&data, 0, sizeof(data));
915         data.ioc_dev = cur_device;
916
917         if (argc != 1)
918                 return CMD_HELP;
919
920         memset(buf, 0, sizeof(rawbuf));
921         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
922         if (rc) {
923                 fprintf(stderr, "error: %s: invalid ioctl\n",
924                         jt_cmdname(argv[0]));
925                 return rc;
926         }
927         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_SET_READONLY, buf);
928         if (rc < 0)
929                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
930                         strerror(rc = errno));
931
932         return rc;
933 }
934
935 int jt_obd_abort_recovery(int argc, char **argv)
936 {
937         struct obd_ioctl_data data;
938         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
939         int rc;
940
941         memset(&data, 0, sizeof(data));
942         data.ioc_dev = cur_device;
943
944         if (argc != 1)
945                 return CMD_HELP;
946
947         memset(buf, 0, sizeof(rawbuf));
948         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
949         if (rc) {
950                 fprintf(stderr, "error: %s: invalid ioctl\n",
951                         jt_cmdname(argv[0]));
952                 return rc;
953         }
954         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_ABORT_RECOVERY, buf);
955         if (rc < 0)
956                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
957                         strerror(rc = errno));
958
959         return rc;
960 }
961
962 int jt_get_version(int argc, char **argv)
963 {
964         char version[128];
965         int rc;
966
967         if (argc != 1)
968                 return CMD_HELP;
969
970         rc = llapi_get_version_string(version, sizeof(version));
971         if (rc)
972                 printf("Lustre version: %s\n", LUSTRE_VERSION_STRING);
973         else
974                 printf("Lustre version: %s\n", version);
975
976         return 0;
977 }
978
979 static void print_obd_line(char *s)
980 {
981         const char *param = "osc/%s/ost_conn_uuid";
982         char buf[MAX_STRING_SIZE];
983         char obd_name[MAX_OBD_NAME];
984         FILE *fp = NULL;
985         glob_t path;
986         char *ptr;
987 retry:
988         /* obd device type is the first 3 characters of param name */
989         snprintf(buf, sizeof(buf), " %%*d %%*s %.3s %%%zus %%*s %%*d ",
990                  param, sizeof(obd_name) - 1);
991         if (sscanf(s, buf, obd_name) == 0)
992                 goto try_mdc;
993         if (cfs_get_param_paths(&path, param, obd_name) != 0)
994                 goto try_mdc;
995         fp = fopen(path.gl_pathv[0], "r");
996         if (fp == NULL) {
997                 /* need to free path data before retry */
998                 cfs_free_param_data(&path);
999 try_mdc:
1000                 if (param[0] == 'o') { /* failed with osc, try mdc */
1001                         param = "mdc/%s/mds_conn_uuid";
1002                         goto retry;
1003                 }
1004                 buf[0] = '\0';
1005                 goto fail_print;
1006         }
1007
1008         /* should not ignore fgets(3)'s return value */
1009         if (!fgets(buf, sizeof(buf), fp)) {
1010                 fprintf(stderr, "reading from %s: %s", buf, strerror(errno));
1011                 goto fail_close;
1012         }
1013
1014 fail_close:
1015         fclose(fp);
1016         cfs_free_param_data(&path);
1017
1018         /* trim trailing newlines */
1019         ptr = strrchr(buf, '\n');
1020         if (ptr)
1021                 *ptr = '\0';
1022 fail_print:
1023         ptr = strrchr(s, '\n');
1024         if (ptr)
1025                 *ptr = '\0';
1026         printf("%s%s%s\n", s, buf[0] ? " " : "", buf);
1027 }
1028
1029 /* get device list by ioctl */
1030 int jt_obd_list_ioctl(int argc, char **argv)
1031 {
1032         int rc, index;
1033         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1034         struct obd_ioctl_data *data = (struct obd_ioctl_data *)buf;
1035
1036         if (argc > 2)
1037                 return CMD_HELP;
1038         /* Just ignore a -t option.  Only supported with /proc. */
1039         else if (argc == 2 && strcmp(argv[1], "-t") != 0)
1040                 return CMD_HELP;
1041
1042         for (index = 0;; index++) {
1043                 memset(buf, 0, sizeof(rawbuf));
1044                 data->ioc_version = OBD_IOCTL_VERSION;
1045                 data->ioc_inllen1 =
1046                         sizeof(rawbuf) - __ALIGN_KERNEL(sizeof(*data), 8);
1047                 data->ioc_inlbuf1 = buf + __ALIGN_KERNEL(sizeof(*data), 8);
1048                 data->ioc_len = obd_ioctl_packlen(data);
1049                 data->ioc_count = index;
1050
1051                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_GETDEVICE, buf);
1052                 if (rc != 0)
1053                         break;
1054                 printf("%s\n", (char *)data->ioc_bulk);
1055         }
1056         if (rc != 0) {
1057                 if (errno == ENOENT)
1058                         /* no device or the last device */
1059                         rc = 0;
1060                 else
1061                         fprintf(stderr,
1062                                 "Error getting device list: %s: check dmesg\n",
1063                                 strerror(errno));
1064         }
1065         return rc;
1066 }
1067
1068 int jt_obd_list(int argc, char **argv)
1069 {
1070         char buf[MAX_STRING_SIZE];
1071         int print_obd = 0;
1072         glob_t path;
1073         FILE *fp;
1074
1075         if (argc > 2)
1076                 return CMD_HELP;
1077
1078         if (argc == 2) {
1079                 if (strcmp(argv[1], "-t") == 0)
1080                         print_obd = 1;
1081                 else
1082                         return CMD_HELP;
1083         }
1084
1085         if (cfs_get_param_paths(&path, "devices") ||
1086             !(fp = fopen(path.gl_pathv[0], "r"))) {
1087                 cfs_free_param_data(&path);
1088
1089                 return jt_obd_list_ioctl(argc, argv);
1090         }
1091
1092         while (fgets(buf, sizeof(buf), fp) != NULL)
1093                 if (print_obd)
1094                         print_obd_line(buf);
1095                 else
1096                         printf("%s", buf);
1097
1098         cfs_free_param_data(&path);
1099         fclose(fp);
1100         return 0;
1101 }
1102
1103 struct jt_fid_space {
1104         __u64   jt_seq;
1105         __u64   jt_id;
1106         int     jt_width;
1107 };
1108
1109 int jt_obd_alloc_fids(struct jt_fid_space *space, struct lu_fid *fid,
1110                       __u64 *count)
1111 {
1112         int rc;
1113
1114         if (space->jt_seq == 0 || space->jt_id == space->jt_width) {
1115                 struct obd_ioctl_data  data;
1116                 char rawbuf[MAX_IOC_BUFLEN];
1117                 char *buf = rawbuf;
1118                 __u64 seqnr;
1119                 int max_count;
1120
1121                 memset(&data, 0, sizeof(data));
1122                 data.ioc_dev = cur_device;
1123
1124                 data.ioc_pbuf1 = (char *)&seqnr;
1125                 data.ioc_plen1 = sizeof(seqnr);
1126
1127                 data.ioc_pbuf2 = (char *)&max_count;
1128                 data.ioc_plen2 = sizeof(max_count);
1129
1130                 memset(buf, 0, sizeof(rawbuf));
1131                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1132                 if (rc) {
1133                         fprintf(stderr, "error: invalid ioctl rc = %d\n", rc);
1134                         return rc;
1135                 }
1136
1137                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_ECHO_ALLOC_SEQ, buf);
1138                 if (rc) {
1139                         fprintf(stderr, "ioctl error: rc = %d\n", rc);
1140                         return rc;
1141                 }
1142
1143                 space->jt_seq = *(__u64 *)data.ioc_pbuf1;
1144                 space->jt_width = *(int *)data.ioc_pbuf2;
1145                 space->jt_id = 1;
1146         }
1147         fid->f_seq = space->jt_seq;
1148         fid->f_oid = space->jt_id;
1149         fid->f_ver = 0;
1150
1151         space->jt_id = space->jt_id + *count;
1152         if (space->jt_id > space->jt_width)
1153                 space->jt_id = space->jt_width;
1154
1155         *count = space->jt_id - fid->f_oid;
1156         return 0;
1157 }
1158
1159 #define MD_STEP_COUNT 1000
1160 int jt_obd_md_common(int argc, char **argv, int cmd)
1161 {
1162         struct obd_ioctl_data  data;
1163         struct timeval         start;
1164         struct timeval         end_time;
1165         char                   rawbuf[MAX_IOC_BUFLEN];
1166         char                  *buf = rawbuf;
1167         int                    mode = 0000644;
1168         int                    create_mode;
1169         int                    rc = 0;
1170         char                  *parent_basedir = NULL;
1171         char                   dirname[4096];
1172         int                    parent_base_id = 0;
1173         int                    parent_count = 1;
1174         __u64                  child_base_id = -1;
1175         int                    stripe_count = 0;
1176         int                    stripe_index = -1;
1177         int                    count = 0;
1178         char                  *end;
1179         __u64                  seconds = 0;
1180         double                 diff;
1181         int                    c;
1182         __u64                  total_count = 0;
1183         char                  *name = NULL;
1184         struct jt_fid_space    fid_space = {0};
1185         int                    version = 0;
1186         struct option long_opts[] = {
1187         { .val = 'b',   .name = "child_base_id",
1188                                                 .has_arg = required_argument },
1189         { .val = 'c',   .name = "stripe_count",
1190                                                 .has_arg = required_argument },
1191         { .val = 'd',   .name = "parent_basedir",
1192                                                 .has_arg = required_argument },
1193         { .val = 'D',   .name = "parent_dircount",
1194                                                 .has_arg = required_argument },
1195         { .val = 'i',   .name = "stripe_index", .has_arg = required_argument },
1196         { .val = 'm',   .name = "mode",         .has_arg = required_argument },
1197         { .val = 'n',   .name = "count",        .has_arg = required_argument },
1198         { .val = 't',   .name = "time",         .has_arg = required_argument },
1199         { .val = 'v',   .name = "version",      .has_arg = no_argument },
1200         { .name = NULL } };
1201
1202         while ((c = getopt_long(argc, argv, "b:c:d:D:m:n:t:v",
1203                                 long_opts, NULL)) >= 0) {
1204                 switch (c) {
1205                 case 'b':
1206                         child_base_id = strtoull(optarg, &end, 0);
1207                         if (*end) {
1208                                 fprintf(stderr, "error: %s: bad child_base_id"
1209                                         " '%s'\n", jt_cmdname(argv[0]), optarg);
1210                                 return CMD_HELP;
1211                         }
1212                         break;
1213                 case 'c':
1214                         stripe_count = strtoul(optarg, &end, 0);
1215                         if (*end) {
1216                                 fprintf(stderr, "error: %s: bad stripe count"
1217                                         " '%s'\n", jt_cmdname(argv[0]), optarg);
1218                                 return CMD_HELP;
1219                         }
1220                         break;
1221                 case 'd':
1222                         parent_basedir = optarg;
1223                         break;
1224                 case 'D':
1225                         parent_count = strtoul(optarg, &end, 0);
1226                         if (*end) {
1227                                 fprintf(stderr, "error: %s: bad parent count"
1228                                         " '%s'\n", jt_cmdname(argv[0]), optarg);
1229                                 return CMD_HELP;
1230                         }
1231                         break;
1232                 case 'i':
1233                         stripe_index = strtoul(optarg, &end, 0);
1234                         if (*end) {
1235                                 fprintf(stderr, "error: %s: bad stripe index"
1236                                         " '%s'\n", jt_cmdname(argv[0]), optarg);
1237                                 return CMD_HELP;
1238                         }
1239                         break;
1240                 case 'm':
1241                         mode = strtoul(optarg, &end, 0);
1242                         if (*end) {
1243                                 fprintf(stderr, "error: %s: bad mode '%s'\n",
1244                                         jt_cmdname(argv[0]), optarg);
1245                                 return CMD_HELP;
1246                         }
1247                         break;
1248                 case 'n':
1249                         total_count = strtoul(optarg, &end, 0);
1250                         if (*end || total_count == 0) {
1251                                 fprintf(stderr, "%s: bad child count '%s'\n",
1252                                         jt_cmdname(argv[0]), optarg);
1253                                 return CMD_HELP;
1254                         }
1255                         break;
1256                 case 't':
1257                         seconds = strtoull(optarg, &end, 0);
1258                         if (*end) {
1259                                 fprintf(stderr, "error: %s: seconds '%s'\n",
1260                                         jt_cmdname(argv[0]), optarg);
1261                                 return CMD_HELP;
1262                         }
1263                         break;
1264                 case 'v':
1265                         version = 1;
1266                         break;
1267                 default:
1268                         fprintf(stderr, "error: %s: option '%s' "
1269                                 "unrecognized\n", argv[0], argv[optind - 1]);
1270                         return CMD_HELP;
1271                 }
1272         }
1273
1274         memset(&data, 0, sizeof(data));
1275         data.ioc_dev = cur_device;
1276         if (child_base_id == -1) {
1277                 if (optind >= argc)
1278                         return CMD_HELP;
1279                 name = argv[optind];
1280                 total_count = 1;
1281         } else {
1282                 if (optind < argc) {
1283                         fprintf(stderr, "child_base_id and name can not"
1284                                         " specified at the same time\n");
1285                         return CMD_HELP;
1286                 }
1287         }
1288
1289         if (stripe_count == 0 && stripe_index != -1) {
1290                 fprintf(stderr, "If stripe_count is 0, stripe_index can not be specified\n");
1291                 return CMD_HELP;
1292         }
1293
1294         if (total_count == 0 && seconds == 0) {
1295                 fprintf(stderr, "count or seconds needs to be indicated\n");
1296                 return CMD_HELP;
1297         }
1298
1299         if (parent_count <= 0) {
1300                 fprintf(stderr, "parent count must < 0\n");
1301                 return CMD_HELP;
1302         }
1303
1304 #ifdef MAX_THREADS
1305         if (thread) {
1306                 shmem_lock();
1307                 /* threads interleave */
1308                 if (parent_base_id != -1)
1309                         parent_base_id += (thread - 1) % parent_count;
1310
1311                 if (child_base_id != -1)
1312                         child_base_id +=  (thread - 1) * \
1313                                           (MAX_BASE_ID / nthreads);
1314
1315                 shmem_start_time_locked();
1316                 shmem_unlock();
1317         }
1318 #endif
1319         /* If parent directory is not specified, try to get the directory
1320          * from name */
1321         if (parent_basedir == NULL) {
1322                 char *last_lash;
1323                 if (name == NULL) {
1324                         fprintf(stderr,
1325                                 "parent_basedir or name must be indicated!\n");
1326                         return CMD_HELP;
1327                 }
1328                 /*Get directory and name from name*/
1329                 last_lash = strrchr(name, '/');
1330                 if (last_lash == NULL || name[0] != '/') {
1331                         fprintf(stderr, "Can not locate %s\n", name);
1332                         return CMD_HELP;
1333                 }
1334
1335                 if (last_lash == name) {
1336                         sprintf(dirname, "%s", "/");
1337                         name++;
1338                 } else {
1339                         int namelen = (unsigned long)last_lash -
1340                                       (unsigned long)name + 1;
1341                         snprintf(dirname, namelen, "%s", name);
1342                         name = last_lash + 1;
1343                 }
1344
1345                 data.ioc_pbuf1 = dirname;
1346                 data.ioc_plen1 = strlen(dirname);
1347
1348                 data.ioc_pbuf2 = name;
1349                 data.ioc_plen2 = strlen(name);
1350         } else {
1351                 if (name != NULL) {
1352                         data.ioc_pbuf2 = name;
1353                         data.ioc_plen2 = strlen(name);
1354                 }
1355                 if (parent_base_id > 0)
1356                         sprintf(dirname, "%s%d", parent_basedir,
1357                                 parent_base_id);
1358                 else
1359                         sprintf(dirname, "%s", parent_basedir);
1360                 data.ioc_pbuf1 = dirname;
1361                 data.ioc_plen1 = strlen(dirname);
1362         }
1363
1364         if (cmd == ECHO_MD_MKDIR || cmd == ECHO_MD_RMDIR)
1365                 create_mode = S_IFDIR;
1366         else
1367                 create_mode = S_IFREG;
1368
1369         data.ioc_obdo1.o_mode = mode | S_IFDIR;
1370         data.ioc_obdo1.o_valid = OBD_MD_FLID | OBD_MD_FLTYPE | OBD_MD_FLMODE |
1371                                  OBD_MD_FLFLAGS | OBD_MD_FLGROUP;
1372         data.ioc_command = cmd;
1373
1374         gettimeofday(&start, NULL);
1375         while (shmem_running()) {
1376                 struct lu_fid fid = { 0 };
1377
1378                 if (child_base_id != -1)
1379                         data.ioc_obdo2.o_oi.oi.oi_id = child_base_id;
1380                 data.ioc_obdo2.o_mode = mode | create_mode;
1381                 data.ioc_obdo2.o_valid = OBD_MD_FLID | OBD_MD_FLTYPE |
1382                                          OBD_MD_FLMODE | OBD_MD_FLFLAGS |
1383                                          OBD_MD_FLGROUP;
1384                 data.ioc_obdo2.o_misc = stripe_count;
1385                 data.ioc_obdo2.o_stripe_idx = stripe_index;
1386
1387                 if (total_count > 0) {
1388                         if ((total_count - count) > MD_STEP_COUNT)
1389                                 data.ioc_count = MD_STEP_COUNT;
1390                         else
1391                                 data.ioc_count = total_count - count;
1392                 } else {
1393                         data.ioc_count = MD_STEP_COUNT;
1394                 }
1395
1396                 if (cmd == ECHO_MD_CREATE || cmd == ECHO_MD_MKDIR) {
1397                         /*Allocate fids for the create */
1398                         rc = jt_obd_alloc_fids(&fid_space, &fid,
1399                                                &data.ioc_count);
1400                         if (rc) {
1401                                 fprintf(stderr, "Allocate fids error %d.\n",rc);
1402                                 return rc;
1403                         }
1404                         data.ioc_obdo1.o_oi.oi_fid = fid;
1405                 }
1406
1407                 child_base_id += data.ioc_count;
1408                 count += data.ioc_count;
1409
1410                 memset(buf, 0, sizeof(rawbuf));
1411                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1412                 if (rc) {
1413                         fprintf(stderr, "error: %s: invalid ioctl %d\n",
1414                                 jt_cmdname(argv[0]), rc);
1415                         return rc;
1416                 }
1417
1418                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_ECHO_MD, buf);
1419                 if (rc) {
1420                         fprintf(stderr, "error: %s: %s\n",
1421                                 jt_cmdname(argv[0]), strerror(rc = errno));
1422                         return rc;
1423                 }
1424                 shmem_bump(data.ioc_count);
1425
1426                 gettimeofday(&end_time, NULL);
1427                 diff = difftime(&end_time, &start);
1428                 if (seconds > 0 && (__u64)diff > seconds)
1429                         break;
1430
1431                 if (count >= total_count && total_count > 0)
1432                         break;
1433         }
1434
1435         if (count > 0 && version) {
1436                 gettimeofday(&end_time, NULL);
1437                 diff = difftime(&end_time, &start);
1438                 printf("%s: %d in %.3fs (%.3f /s): %s",
1439                         jt_cmdname(argv[0]), count, diff,
1440                         (double)count/diff, ctime(&end_time.tv_sec));
1441         }
1442
1443 #ifdef MAX_THREADS
1444         if (thread) {
1445                 shmem_lock();
1446                 shmem_end_time_locked();
1447                 shmem_unlock();
1448         }
1449 #endif
1450         return rc;
1451 }
1452
1453 int jt_obd_test_create(int argc, char **argv)
1454 {
1455         return jt_obd_md_common(argc, argv, ECHO_MD_CREATE);
1456 }
1457
1458 int jt_obd_test_mkdir(int argc, char **argv)
1459 {
1460         return jt_obd_md_common(argc, argv, ECHO_MD_MKDIR);
1461 }
1462
1463 int jt_obd_test_destroy(int argc, char **argv)
1464 {
1465         return jt_obd_md_common(argc, argv, ECHO_MD_DESTROY);
1466 }
1467
1468 int jt_obd_test_rmdir(int argc, char **argv)
1469 {
1470         return jt_obd_md_common(argc, argv, ECHO_MD_RMDIR);
1471 }
1472
1473 int jt_obd_test_lookup(int argc, char **argv)
1474 {
1475         return jt_obd_md_common(argc, argv, ECHO_MD_LOOKUP);
1476 }
1477
1478 int jt_obd_test_setxattr(int argc, char **argv)
1479 {
1480         return jt_obd_md_common(argc, argv, ECHO_MD_SETATTR);
1481 }
1482
1483 int jt_obd_test_md_getattr(int argc, char **argv)
1484 {
1485         return jt_obd_md_common(argc, argv, ECHO_MD_GETATTR);
1486 }
1487
1488 int jt_obd_create(int argc, char **argv)
1489 {
1490         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1491         struct obd_ioctl_data data;
1492         struct timeval next_time;
1493         __u64 count = 1, next_count, base_id = 1;
1494         int verbose = 1, mode = 0100644, rc = 0, i;
1495         char *end;
1496
1497         memset(&data, 0, sizeof(data));
1498         data.ioc_dev = cur_device;
1499         if (argc < 2 || argc > 4)
1500                 return CMD_HELP;
1501
1502         count = strtoull(argv[1], &end, 0);
1503         if (*end) {
1504                 fprintf(stderr, "error: %s: invalid iteration count '%s'\n",
1505                         jt_cmdname(argv[0]), argv[1]);
1506                 return CMD_HELP;
1507         }
1508
1509         if (argc > 2) {
1510                 mode = strtoul(argv[2], &end, 0);
1511                 if (*end) {
1512                         fprintf(stderr, "error: %s: invalid mode '%s'\n",
1513                                 jt_cmdname(argv[0]), argv[2]);
1514                         return CMD_HELP;
1515                 }
1516                 if (!(mode & S_IFMT))
1517                         mode |= S_IFREG;
1518         }
1519
1520         if (argc > 3) {
1521                 verbose = get_verbose(argv[0], argv[3]);
1522                 if (verbose == BAD_VERBOSE)
1523                         return CMD_HELP;
1524         }
1525
1526         printf("%s: %jd objects\n", jt_cmdname(argv[0]), (uintmax_t)count);
1527         gettimeofday(&next_time, NULL);
1528         next_time.tv_sec -= verbose;
1529
1530         ostid_set_seq_echo(&data.ioc_obdo1.o_oi);
1531         for (i = 1, next_count = verbose; i <= count && shmem_running(); i++) {
1532                 /*
1533                  * base_id is 1 so we don't need to worry about it being
1534                  * greater than OBIF_MAX_OID
1535                  */
1536                 data.ioc_obdo1.o_oi.oi_fid.f_oid = base_id;
1537                 data.ioc_obdo1.o_mode = mode;
1538                 data.ioc_obdo1.o_uid = 0;
1539                 data.ioc_obdo1.o_gid = 0;
1540                 data.ioc_obdo1.o_projid = 0;
1541                 data.ioc_obdo1.o_valid = OBD_MD_FLTYPE | OBD_MD_FLMODE |
1542                                          OBD_MD_FLID | OBD_MD_FLUID |
1543                                          OBD_MD_FLGID | OBD_MD_FLGROUP |
1544                                          OBD_MD_FLPROJID;
1545
1546                 memset(buf, 0, sizeof(rawbuf));
1547                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1548                 if (rc) {
1549                         fprintf(stderr, "error: %s: invalid ioctl\n",
1550                                 jt_cmdname(argv[0]));
1551                         return rc;
1552                 }
1553                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_CREATE, buf);
1554                 llapi_ioctl_unpack(&data, buf, sizeof(rawbuf));
1555                 shmem_bump(1);
1556                 if (rc < 0) {
1557                         fprintf(stderr, "error: %s: #%d - %s\n",
1558                                 jt_cmdname(argv[0]), i, strerror(rc = errno));
1559                         break;
1560                 }
1561                 if (!(data.ioc_obdo1.o_valid & OBD_MD_FLID)) {
1562                         fprintf(stderr, "error: %s: oid not valid #%d:%#jx\n",
1563                                 jt_cmdname(argv[0]), i,
1564                                 (uintmax_t)data.ioc_obdo1.o_valid);
1565                         rc = EINVAL;
1566                         break;
1567                 }
1568
1569                 if (be_verbose(verbose, &next_time, i, &next_count, count))
1570                         printf("%s: #%d is object id %#jx\n",
1571                                jt_cmdname(argv[0]), i,
1572                                (uintmax_t) ostid_id(&data.ioc_obdo1.o_oi));
1573         }
1574
1575         return rc;
1576 }
1577
1578 int jt_obd_setattr(int argc, char **argv)
1579 {
1580         struct obd_ioctl_data data;
1581         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1582         __u64 objid;
1583         char *end;
1584         int mode;
1585         int rc;
1586
1587         memset(&data, 0, sizeof(data));
1588         data.ioc_dev = cur_device;
1589         if (argc != 2)
1590                 return CMD_HELP;
1591
1592         objid = strtoull(argv[1], &end, 0);
1593         if (*end) {
1594                 fprintf(stderr, "error: %s: objid '%s' is not a number\n",
1595                         jt_cmdname(argv[0]), argv[1]);
1596                 return CMD_HELP;
1597         }
1598
1599         if (objid >= OBIF_MAX_OID) {
1600                 fprintf(stderr, "error: %s: invalid objid '%s'\n",
1601                         jt_cmdname(argv[0]), argv[1]);
1602                 return CMD_HELP;
1603         }
1604
1605         mode = strtoul(argv[2], &end, 0);
1606         if (*end) {
1607                 fprintf(stderr, "error: %s: invalid mode '%s'\n",
1608                         jt_cmdname(argv[0]), argv[2]);
1609                 return CMD_HELP;
1610         }
1611
1612         ostid_set_seq_echo(&data.ioc_obdo1.o_oi);
1613         data.ioc_obdo1.o_mode = S_IFREG | mode;
1614         data.ioc_obdo1.o_oi.oi_fid.f_oid = objid;
1615         data.ioc_obdo1.o_valid = OBD_MD_FLID | OBD_MD_FLTYPE | OBD_MD_FLMODE;
1616
1617         memset(buf, 0, sizeof(rawbuf));
1618         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1619         if (rc) {
1620                 fprintf(stderr, "error: %s: invalid ioctl\n",
1621                         jt_cmdname(argv[0]));
1622                 return rc;
1623         }
1624         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_SETATTR, buf);
1625         if (rc < 0)
1626                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
1627                         strerror(rc = errno));
1628
1629         return rc;
1630 }
1631
1632 int jt_obd_test_setattr(int argc, char **argv)
1633 {
1634         struct obd_ioctl_data data;
1635         struct timeval start, next_time;
1636         __u64 i, count, next_count;
1637         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1638         int verbose = 1;
1639         __u64 objid = 3;
1640         char *end;
1641         int rc = 0;
1642
1643         if (argc < 2 || argc > 4)
1644                 return CMD_HELP;
1645
1646         memset(&data, 0, sizeof(data));
1647         data.ioc_dev = cur_device;
1648         count = strtoull(argv[1], &end, 0);
1649         if (*end) {
1650                 fprintf(stderr, "error: %s: invalid iteration count '%s'\n",
1651                         jt_cmdname(argv[0]), argv[1]);
1652                 return CMD_HELP;
1653         }
1654
1655         if (argc >= 3) {
1656                 verbose = get_verbose(argv[0], argv[2]);
1657                 if (verbose == BAD_VERBOSE)
1658                         return CMD_HELP;
1659         }
1660
1661         if (argc >= 4) {
1662                 if (argv[3][0] == 't') {
1663                         objid = strtoull(argv[3] + 1, &end, 0);
1664                         if (thread)
1665                                 objid += thread - 1;
1666                 } else
1667                         objid = strtoull(argv[3], &end, 0);
1668                 if (*end) {
1669                         fprintf(stderr, "error: %s: invalid objid '%s'\n",
1670                                 jt_cmdname(argv[0]), argv[3]);
1671                         return CMD_HELP;
1672                 }
1673         }
1674
1675         gettimeofday(&start, NULL);
1676         next_time.tv_sec = start.tv_sec - verbose;
1677         next_time.tv_usec = start.tv_usec;
1678         if (verbose != 0)
1679                 printf("%s: setting %jd attrs (objid %#jx): %s",
1680                        jt_cmdname(argv[0]), (uintmax_t)count,
1681                        (uintmax_t)objid, ctime(&start.tv_sec));
1682
1683         ostid_set_seq_echo(&data.ioc_obdo1.o_oi);
1684         for (i = 1, next_count = verbose; i <= count && shmem_running(); i++) {
1685                 if (objid >= OBIF_MAX_OID) {
1686                         fprintf(stderr, "errr: %s: invalid objid '%llu'\n",
1687                                 jt_cmdname(argv[0]), (unsigned long long)objid);
1688                         return -E2BIG;
1689                 }
1690
1691                 data.ioc_obdo1.o_oi.oi_fid.f_oid = objid;
1692                 data.ioc_obdo1.o_mode = S_IFREG;
1693                 data.ioc_obdo1.o_valid = OBD_MD_FLID | OBD_MD_FLTYPE |
1694                                          OBD_MD_FLMODE;
1695                 memset(buf, 0, sizeof(rawbuf));
1696                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1697                 if (rc) {
1698                         fprintf(stderr, "error: %s: invalid ioctl\n",
1699                                 jt_cmdname(argv[0]));
1700                         return rc;
1701                 }
1702                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_SETATTR, &data);
1703                 shmem_bump(1);
1704                 if (rc < 0) {
1705                         fprintf(stderr, "error: %s: #%jd - %d:%s\n",
1706                                 jt_cmdname(argv[0]), (uintmax_t)i,
1707                                 errno, strerror(rc = errno));
1708                         break;
1709                 }
1710                 if (be_verbose(verbose, &next_time, i, &next_count, count))
1711                         printf("%s: set attr #%jd\n",
1712                                jt_cmdname(argv[0]), (uintmax_t)i);
1713         }
1714
1715         if (!rc) {
1716                 struct timeval end;
1717                 double diff;
1718
1719                 gettimeofday(&end, NULL);
1720
1721                 diff = difftime(&end, &start);
1722
1723                 --i;
1724                 if (verbose != 0)
1725                         printf("%s: %jd attrs in %.3fs (%.3f attr/s): %s",
1726                                jt_cmdname(argv[0]), (uintmax_t)i, diff,
1727                                i / diff, ctime(&end.tv_sec));
1728         }
1729         return rc;
1730 }
1731
1732 int jt_obd_destroy(int argc, char **argv)
1733 {
1734         struct obd_ioctl_data data;
1735         struct timeval next_time;
1736         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1737         __u64 count = 1, next_count;
1738         int verbose = 1;
1739         __u64 id;
1740         char *end;
1741         int rc = 0, i;
1742
1743         memset(&data, 0, sizeof(data));
1744         data.ioc_dev = cur_device;
1745         if (argc < 2 || argc > 4)
1746                 return CMD_HELP;
1747
1748         errno = 0;
1749         id = strtoull(argv[1], &end, 0);
1750         if (*end || id == 0 || errno != 0) {
1751                 fprintf(stderr, "error: %s: invalid objid '%s'\n",
1752                         jt_cmdname(argv[0]), argv[1]);
1753                 return CMD_HELP;
1754         }
1755         if (argc > 2) {
1756                 count = strtoull(argv[2], &end, 0);
1757                 if (*end) {
1758                         fprintf(stderr,
1759                                 "error: %s: invalid iteration count '%s'\n",
1760                                 jt_cmdname(argv[0]), argv[2]);
1761                         return CMD_HELP;
1762                 }
1763         }
1764
1765         if (argc > 3) {
1766                 verbose = get_verbose(argv[0], argv[3]);
1767                 if (verbose == BAD_VERBOSE)
1768                         return CMD_HELP;
1769         }
1770
1771         printf("%s: %jd objects\n", jt_cmdname(argv[0]), (uintmax_t)count);
1772         gettimeofday(&next_time, NULL);
1773         next_time.tv_sec -= verbose;
1774
1775         ostid_set_seq_echo(&data.ioc_obdo1.o_oi);
1776         for (i = 1, next_count = verbose; i <= count && shmem_running();
1777              i++, id++) {
1778                 if (id >= OBIF_MAX_OID) {
1779                         fprintf(stderr, "errr: %s: invalid objid '%llu'\n",
1780                                 jt_cmdname(argv[0]), (unsigned long long)id);
1781                         return -E2BIG;
1782                 }
1783
1784                 data.ioc_obdo1.o_oi.oi_fid.f_oid = id;
1785                 data.ioc_obdo1.o_mode = S_IFREG | 0644;
1786                 data.ioc_obdo1.o_valid = OBD_MD_FLID | OBD_MD_FLMODE;
1787
1788                 memset(buf, 0, sizeof(rawbuf));
1789                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1790                 if (rc) {
1791                         fprintf(stderr, "error: %s: invalid ioctl\n",
1792                                 jt_cmdname(argv[0]));
1793                         return rc;
1794                 }
1795                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_DESTROY, buf);
1796                 llapi_ioctl_unpack(&data, buf, sizeof(rawbuf));
1797                 shmem_bump(1);
1798                 if (rc < 0) {
1799                         fprintf(stderr, "error: %s: objid %#jx: %s\n",
1800                                 jt_cmdname(argv[0]), (uintmax_t)id,
1801                                 strerror(rc = errno));
1802                         break;
1803                 }
1804
1805                 if (be_verbose(verbose, &next_time, i, &next_count, count))
1806                         printf("%s: #%d is object id %#jx\n",
1807                                jt_cmdname(argv[0]), i, (uintmax_t)id);
1808         }
1809
1810         return rc;
1811 }
1812
1813 int jt_obd_getattr(int argc, char **argv)
1814 {
1815         struct obd_ioctl_data data;
1816         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1817         __u64 objid;
1818         char *end;
1819         int rc;
1820
1821         if (argc != 2)
1822                 return CMD_HELP;
1823
1824         objid = strtoull(argv[1], &end, 0);
1825         if (*end) {
1826                 fprintf(stderr, "error: %s: objid '%s' is not a number\n",
1827                         jt_cmdname(argv[0]), argv[1]);
1828                 return CMD_HELP;
1829         }
1830
1831         if (objid >= OBIF_MAX_OID) {
1832                 fprintf(stderr, "error: %s: invalid objid '%s'\n",
1833                         jt_cmdname(argv[0]), argv[1]);
1834                 return CMD_HELP;
1835         }
1836
1837         memset(&data, 0, sizeof(data));
1838         data.ioc_dev = cur_device;
1839         ostid_set_seq_echo(&data.ioc_obdo1.o_oi);
1840         data.ioc_obdo1.o_oi.oi_fid.f_oid = objid;
1841         /* to help obd filter */
1842         data.ioc_obdo1.o_mode = 0100644;
1843         data.ioc_obdo1.o_valid = 0xffffffff;
1844         printf("%s: object id %#jx\n", jt_cmdname(argv[0]),
1845                (uintmax_t)ostid_id(&data.ioc_obdo1.o_oi));
1846
1847         memset(buf, 0, sizeof(rawbuf));
1848         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1849         if (rc) {
1850                 fprintf(stderr, "error: %s: invalid ioctl\n",
1851                         jt_cmdname(argv[0]));
1852                 return rc;
1853         }
1854         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_GETATTR, buf);
1855         llapi_ioctl_unpack(&data, buf, sizeof(rawbuf));
1856         if (rc) {
1857                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
1858                         strerror(rc = errno));
1859         } else {
1860                 printf("%s: object id %ju, mode %o\n", jt_cmdname(argv[0]),
1861                        (uintmax_t)ostid_id(&data.ioc_obdo1.o_oi),
1862                        data.ioc_obdo1.o_mode);
1863         }
1864         return rc;
1865 }
1866
1867 int jt_obd_test_getattr(int argc, char **argv)
1868 {
1869         struct obd_ioctl_data data;
1870         struct timeval start, next_time;
1871         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1872         __u64 i, count, next_count;
1873         int verbose = 1;
1874         __u64 objid = 3;
1875         char *end;
1876         int rc = 0;
1877
1878         if (argc < 2 || argc > 4)
1879                 return CMD_HELP;
1880
1881         memset(&data, 0, sizeof(data));
1882         data.ioc_dev = cur_device;
1883         count = strtoull(argv[1], &end, 0);
1884         if (*end) {
1885                 fprintf(stderr, "error: %s: invalid iteration count '%s'\n",
1886                         jt_cmdname(argv[0]), argv[1]);
1887                 return CMD_HELP;
1888         }
1889
1890         if (argc >= 3) {
1891                 verbose = get_verbose(argv[0], argv[2]);
1892                 if (verbose == BAD_VERBOSE)
1893                         return CMD_HELP;
1894         }
1895
1896         if (argc >= 4) {
1897                 if (argv[3][0] == 't') {
1898                         objid = strtoull(argv[3] + 1, &end, 0);
1899                         if (thread)
1900                                 objid += thread - 1;
1901                 } else
1902                         objid = strtoull(argv[3], &end, 0);
1903                 if (*end) {
1904                         fprintf(stderr, "error: %s: invalid objid '%s'\n",
1905                                 jt_cmdname(argv[0]), argv[3]);
1906                         return CMD_HELP;
1907                 }
1908         }
1909
1910         gettimeofday(&start, NULL);
1911         next_time.tv_sec = start.tv_sec - verbose;
1912         next_time.tv_usec = start.tv_usec;
1913         if (verbose != 0)
1914                 printf("%s: getting %jd attrs (objid %#jx): %s",
1915                        jt_cmdname(argv[0]), (uintmax_t)count,
1916                        (uintmax_t)objid, ctime(&start.tv_sec));
1917
1918         ostid_set_seq_echo(&data.ioc_obdo1.o_oi);
1919         for (i = 1, next_count = verbose; i <= count && shmem_running(); i++) {
1920                 if (objid >= OBIF_MAX_OID) {
1921                         fprintf(stderr, "errr: %s: invalid objid '%llu'\n",
1922                                 jt_cmdname(argv[0]), (unsigned long long)objid);
1923                         return -E2BIG;
1924                 }
1925
1926                 data.ioc_obdo1.o_oi.oi_fid.f_oid = objid;
1927                 data.ioc_obdo1.o_mode = S_IFREG;
1928                 data.ioc_obdo1.o_valid = 0xffffffff;
1929                 memset(buf, 0, sizeof(rawbuf));
1930                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
1931                 if (rc) {
1932                         fprintf(stderr, "error: %s: invalid ioctl\n",
1933                                 jt_cmdname(argv[0]));
1934                         return rc;
1935                 }
1936                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_GETATTR, &data);
1937                 shmem_bump(1);
1938                 if (rc < 0) {
1939                         fprintf(stderr, "error: %s: #%jd - %d:%s\n",
1940                                 jt_cmdname(argv[0]), (uintmax_t)i,
1941                                 errno, strerror(rc = errno));
1942                         break;
1943                 }
1944                 if (be_verbose(verbose, &next_time, i, &next_count, count))
1945                         printf("%s: got attr #%jd\n",
1946                                jt_cmdname(argv[0]), (uintmax_t)i);
1947         }
1948
1949         if (!rc) {
1950                 struct timeval end;
1951                 double diff;
1952
1953                 gettimeofday(&end, NULL);
1954
1955                 diff = difftime(&end, &start);
1956
1957                 --i;
1958                 if (verbose != 0)
1959                         printf("%s: %jd attrs in %.3fs (%.3f attr/s): %s",
1960                                jt_cmdname(argv[0]), (uintmax_t)i, diff,
1961                                i / diff, ctime(&end.tv_sec));
1962         }
1963
1964         return rc;
1965 }
1966
1967 /* test_brw <cnt>                                               count
1968         <r|w[r(repeat)x(noverify)]>                             mode
1969         <q|v|#(print interval)>                                 verbosity
1970         <npages[+offset]>                                       blocksize
1971         <[[<interleave_threads>]t(inc obj by thread#)]obj>      object
1972         [p|g<args>]                                             batch */
1973 int jt_obd_test_brw(int argc, char **argv)
1974 {
1975         struct obd_ioctl_data data;
1976         struct timeval start, next_time;
1977         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
1978         __u64 count, next_count, len, stride, thr_offset = 0, objid = 3;
1979         int write = 0, verbose = 1, cmd, i, rc = 0, pages = 1;
1980         int offset_pages = 0;
1981         long n;
1982         int repeat_offset = 0;
1983         unsigned long long ull;
1984         int  nthr_per_obj = 0;
1985         int  verify = 1;
1986         int  obj_idx = 0;
1987         char *end;
1988
1989         if (argc < 2 || argc > 7) {
1990                 fprintf(stderr, "error: %s: bad number of arguments: %d\n",
1991                         jt_cmdname(argv[0]), argc);
1992                 return CMD_HELP;
1993         }
1994
1995         count = strtoull(argv[1], &end, 0);
1996         if (*end) {
1997                 fprintf(stderr, "error: %s: bad iteration count '%s'\n",
1998                         jt_cmdname(argv[0]), argv[1]);
1999                 return CMD_HELP;
2000         }
2001
2002         if (argc >= 3) {
2003                 if (argv[2][0] == 'w' || argv[2][0] == '1')
2004                         write = 1;
2005                 /* else it's a read */
2006
2007                 if (argv[2][0] != 0)
2008                         for (i = 1; argv[2][i] != 0; i++)
2009                                 switch (argv[2][i]) {
2010                                 case 'r':
2011                                         repeat_offset = 1;
2012                                         break;
2013
2014                                 case 'x':
2015                                         verify = 0;
2016                                         break;
2017
2018                                 default:
2019                                         fprintf (stderr, "Can't parse cmd '%s'\n",
2020                                                  argv[2]);
2021                                         return CMD_HELP;
2022                                 }
2023         }
2024
2025         if (argc >= 4) {
2026                 verbose = get_verbose(argv[0], argv[3]);
2027                 if (verbose == BAD_VERBOSE)
2028                         return CMD_HELP;
2029         }
2030
2031         if (argc >= 5) {
2032                 pages = strtoul(argv[4], &end, 0);
2033
2034                 if (*end == '+')
2035                         offset_pages = strtoul(end + 1, &end, 0);
2036
2037                 if (*end != 0 ||
2038                     offset_pages < 0 || offset_pages >= pages) {
2039                         fprintf(stderr, "error: %s: bad npages[+offset] parameter '%s'\n",
2040                                 jt_cmdname(argv[0]), argv[4]);
2041                         return CMD_HELP;
2042                 }
2043         }
2044
2045         if (argc >= 6) {
2046                 if (thread &&
2047                     (n = strtol(argv[5], &end, 0)) > 0 &&
2048                     *end == 't' &&
2049                     (ull = strtoull(end + 1, &end, 0)) > 0 &&
2050                     *end == 0) {
2051                         nthr_per_obj = n;
2052                         objid = ull;
2053                 } else if (thread &&
2054                            argv[5][0] == 't') {
2055                         nthr_per_obj = 1;
2056                         objid = strtoull(argv[5] + 1, &end, 0);
2057                 } else {
2058                         nthr_per_obj = 0;
2059                         objid = strtoull(argv[5], &end, 0);
2060                 }
2061                 if (*end) {
2062                         fprintf(stderr, "error: %s: bad objid '%s'\n",
2063                                 jt_cmdname(argv[0]), argv[5]);
2064                         return CMD_HELP;
2065                 }
2066         }
2067
2068         memset(&data, 0, sizeof(data));
2069         data.ioc_dev = cur_device;
2070
2071         /* communicate the 'type' of brw test and batching to echo_client.
2072          * don't start.  we'd love to refactor this lctl->echo_client
2073          * interface */
2074         data.ioc_pbuf1 = (void *)1;
2075         data.ioc_plen1 = 1;
2076
2077         if (argc >= 7) {
2078                 switch(argv[6][0]) {
2079                         case 'g': /* plug and unplug */
2080                                 data.ioc_pbuf1 = (void *)2;
2081                                 data.ioc_plen1 = strtoull(argv[6] + 1, &end,
2082                                                           0);
2083                                 break;
2084                         case 'p': /* prep and commit */
2085                                 data.ioc_pbuf1 = (void *)3;
2086                                 data.ioc_plen1 = strtoull(argv[6] + 1, &end,
2087                                                           0);
2088                                 break;
2089                         default:
2090                                 fprintf(stderr, "error: %s: batching '%s' "
2091                                         "needs to specify 'p' or 'g'\n",
2092                                         jt_cmdname(argv[0]), argv[6]);
2093                                 return CMD_HELP;
2094                 }
2095
2096                 if (*end) {
2097                         fprintf(stderr, "error: %s: bad batching '%s'\n",
2098                                 jt_cmdname(argv[0]), argv[6]);
2099                         return CMD_HELP;
2100                 }
2101                 data.ioc_plen1 *= getpagesize();
2102         }
2103
2104         len = pages * getpagesize();
2105         thr_offset = offset_pages * getpagesize();
2106         stride = len;
2107
2108 #ifdef MAX_THREADS
2109         if (thread) {
2110                 shmem_lock ();
2111                 if (nthr_per_obj != 0) {
2112                         /* threads interleave */
2113                         obj_idx = (thread - 1)/nthr_per_obj;
2114                         objid += obj_idx;
2115                         stride *= nthr_per_obj;
2116                         if ((thread - 1) % nthr_per_obj == 0) {
2117                                 shared_data->body.offsets[obj_idx] =
2118                                         stride + thr_offset;
2119                         }
2120                         thr_offset += ((thread - 1) % nthr_per_obj) * len;
2121                 } else {
2122                         /* threads disjoint */
2123                         thr_offset += (thread - 1) * len;
2124                 }
2125
2126                 shmem_start_time_locked();
2127                 shmem_unlock ();
2128         }
2129 #endif
2130
2131         ostid_set_seq_echo(&data.ioc_obdo1.o_oi);
2132         if (objid >= OBIF_MAX_OID) {
2133                 fprintf(stderr, "errr: %s: invalid objid '%llu'\n",
2134                         jt_cmdname(argv[0]), (unsigned long long)objid);
2135                 return -E2BIG;
2136         }
2137
2138         data.ioc_obdo1.o_oi.oi_fid.f_oid = objid;
2139         data.ioc_obdo1.o_mode = S_IFREG;
2140         data.ioc_obdo1.o_valid = OBD_MD_FLID | OBD_MD_FLTYPE | OBD_MD_FLMODE |
2141                                  OBD_MD_FLFLAGS | OBD_MD_FLGROUP;
2142         data.ioc_obdo1.o_flags = (verify ? OBD_FL_DEBUG_CHECK : 0);
2143         data.ioc_count = len;
2144         data.ioc_offset = (repeat_offset ? 0 : thr_offset);
2145
2146         gettimeofday(&start, NULL);
2147         next_time.tv_sec = start.tv_sec - verbose;
2148         next_time.tv_usec = start.tv_usec;
2149
2150         if (verbose != 0)
2151                 printf("%s: %s %jux%d pages (obj %#jx, off %ju): %s",
2152                        jt_cmdname(argv[0]), write ? "writing" : "reading",
2153                        (uintmax_t)count, pages, (uintmax_t) objid,
2154                        (uintmax_t)data.ioc_offset, ctime(&start.tv_sec));
2155
2156         cmd = write ? OBD_IOC_BRW_WRITE : OBD_IOC_BRW_READ;
2157         for (i = 1, next_count = verbose; i <= count && shmem_running(); i++) {
2158                 data.ioc_obdo1.o_valid &= ~(OBD_MD_FLBLOCKS|OBD_MD_FLGRANT);
2159                 memset(buf, 0, sizeof(rawbuf));
2160                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2161                 if (rc) {
2162                         fprintf(stderr, "error: %s: invalid ioctl\n",
2163                                 jt_cmdname(argv[0]));
2164                         return rc;
2165                 }
2166                 rc = l_ioctl(OBD_DEV_ID, cmd, buf);
2167                 shmem_bump(1);
2168                 if (rc) {
2169                         fprintf(stderr, "error: %s: #%d - %s on %s\n",
2170                                 jt_cmdname(argv[0]), i, strerror(rc = errno),
2171                                 write ? "write" : "read");
2172                         break;
2173                 } else if (be_verbose(verbose, &next_time, i,
2174                                       &next_count, count)) {
2175                         shmem_lock ();
2176                         printf("%s: %s number %d @ %jd:%ju for %d\n",
2177                                jt_cmdname(argv[0]), write ? "write" : "read", i,
2178                                (uintmax_t)ostid_id(&data.ioc_obdo1.o_oi),
2179                                (uintmax_t)data.ioc_offset,
2180                                (int)(pages * getpagesize()));
2181                         shmem_unlock ();
2182                 }
2183
2184                 if (!repeat_offset) {
2185 #ifdef MAX_THREADS
2186                         if (stride == len) {
2187                                 data.ioc_offset += stride;
2188                         } else if (i < count) {
2189                                 shmem_lock ();
2190                                 data.ioc_offset =
2191                                         shared_data->body.offsets[obj_idx];
2192                                 shared_data->body.offsets[obj_idx] += len;
2193                                 shmem_unlock ();
2194                         }
2195 #else
2196                         data.ioc_offset += len;
2197                         obj_idx = 0; /* avoids an unused var warning */
2198 #endif
2199                 }
2200         }
2201
2202         if (!rc) {
2203                 struct timeval end;
2204                 double diff;
2205
2206                 gettimeofday(&end, NULL);
2207
2208                 diff = difftime(&end, &start);
2209
2210                 --i;
2211                 if (verbose != 0)
2212                         printf("%s: %s %dx%d pages in %.3fs (%.3f MB/s): %s",
2213                                jt_cmdname(argv[0]), write ? "wrote" : "read",
2214                                i, pages, diff,
2215                                ((double)i * pages * getpagesize()) /
2216                                (diff * 1048576.0),
2217                                ctime(&end.tv_sec));
2218         }
2219
2220 #ifdef MAX_THREADS
2221         if (thread) {
2222                 shmem_lock();
2223                 shmem_end_time_locked();
2224                 shmem_unlock();
2225         }
2226 #endif
2227         return rc;
2228 }
2229
2230 int jt_obd_lov_getconfig(int argc, char **argv)
2231 {
2232         struct obd_ioctl_data data;
2233         struct lov_desc desc;
2234         struct obd_uuid *uuidarray;
2235         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2236         __u32 *obdgens;
2237         char *path;
2238         int rc, fd;
2239
2240         memset(&data, 0, sizeof(data));
2241         data.ioc_dev = cur_device;
2242
2243         if (argc != 2)
2244                 return CMD_HELP;
2245
2246         path = argv[1];
2247         fd = open(path, O_RDONLY);
2248         if (fd < 0) {
2249                 fprintf(stderr, "open \"%s\" failed: %s\n", path,
2250                         strerror(errno));
2251                 return -errno;
2252         }
2253
2254         memset(&desc, 0, sizeof(desc));
2255         obd_str2uuid(&desc.ld_uuid, argv[1]);
2256         desc.ld_tgt_count = ((MAX_IOC_BUFLEN-sizeof(data)-sizeof(desc)) /
2257                              (sizeof(*uuidarray) + sizeof(*obdgens)));
2258
2259 repeat:
2260         uuidarray = calloc(desc.ld_tgt_count, sizeof(*uuidarray));
2261         if (!uuidarray) {
2262                 fprintf(stderr, "error: %s: no memory for %d uuid's\n",
2263                         jt_cmdname(argv[0]), desc.ld_tgt_count);
2264                 rc = -ENOMEM;
2265                 goto out;
2266         }
2267         obdgens = calloc(desc.ld_tgt_count, sizeof(*obdgens));
2268         if (!obdgens) {
2269                 fprintf(stderr, "error: %s: no memory for %d generation #'s\n",
2270                         jt_cmdname(argv[0]), desc.ld_tgt_count);
2271                 rc = -ENOMEM;
2272                 goto out_uuidarray;
2273         }
2274
2275         memset(buf, 0, sizeof(rawbuf));
2276         data.ioc_inllen1 = sizeof(desc);
2277         data.ioc_inlbuf1 = (char *)&desc;
2278         data.ioc_inllen2 = desc.ld_tgt_count * sizeof(*uuidarray);
2279         data.ioc_inlbuf2 = (char *)uuidarray;
2280         data.ioc_inllen3 = desc.ld_tgt_count * sizeof(*obdgens);
2281         data.ioc_inlbuf3 = (char *)obdgens;
2282
2283         if (llapi_ioctl_pack(&data, &buf, sizeof(rawbuf))) {
2284                 fprintf(stderr, "error: %s: invalid ioctl\n",
2285                         jt_cmdname(argv[0]));
2286                 rc = -EINVAL;
2287                 goto out_obdgens;
2288         }
2289         rc = ioctl(fd, OBD_IOC_LOV_GET_CONFIG, buf);
2290         if (rc == -ENOSPC) {
2291                 free(uuidarray);
2292                 free(obdgens);
2293                 goto repeat;
2294         } else if (rc) {
2295                 fprintf(stderr, "error: %s: ioctl error: %s\n",
2296                         jt_cmdname(argv[0]), strerror(rc = errno));
2297         } else {
2298                 struct obd_uuid *uuidp;
2299                 __u32 *genp;
2300                 int i;
2301
2302                 if (llapi_ioctl_unpack(&data, buf, sizeof(rawbuf))) {
2303                         fprintf(stderr, "error: %s: invalid reply\n",
2304                                 jt_cmdname(argv[0]));
2305                         rc = -EINVAL;
2306                         goto out;
2307                 }
2308                 if (desc.ld_default_stripe_count == (__u32)-1)
2309                         printf("default_stripe_count: %d\n", -1);
2310                 else
2311                         printf("default_stripe_count: %u\n",
2312                                desc.ld_default_stripe_count);
2313                 printf("default_stripe_size: %ju\n",
2314                        (uintmax_t)desc.ld_default_stripe_size);
2315                 printf("default_stripe_offset: %jd\n",
2316                        (uintmax_t)desc.ld_default_stripe_offset);
2317                 printf("default_stripe_pattern: %u\n", desc.ld_pattern);
2318                 printf("obd_count: %u\n", desc.ld_tgt_count);
2319                 printf("OBDS:\tobdidx\t\tobdgen\t\t obduuid\n");
2320                 uuidp = uuidarray;
2321                 genp = obdgens;
2322                 for (i = 0; i < desc.ld_tgt_count; i++, uuidp++, genp++)
2323                         printf("\t%6u\t%14u\t\t %s\n", i, *genp, (char *)uuidp);
2324         }
2325 out_obdgens:
2326         free(obdgens);
2327 out_uuidarray:
2328         free(uuidarray);
2329 out:
2330         close(fd);
2331         return rc;
2332 }
2333
2334 static int do_activate(int argc, char **argv, int flag)
2335 {
2336         struct obd_ioctl_data data;
2337         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2338         int rc;
2339
2340         memset(&data, 0, sizeof(data));
2341         data.ioc_dev = cur_device;
2342         if (argc != 1)
2343                 return CMD_HELP;
2344
2345         /* reuse offset for 'active' */
2346         data.ioc_offset = flag;
2347
2348         memset(buf, 0, sizeof(rawbuf));
2349         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2350         if (rc) {
2351                 fprintf(stderr, "error: %s: invalid ioctl\n",
2352                         jt_cmdname(argv[0]));
2353                 return rc;
2354         }
2355         rc = l_ioctl(OBD_DEV_ID, IOC_OSC_SET_ACTIVE, buf);
2356         if (rc)
2357                 fprintf(stderr, "error: %s: failed: %s\n",
2358                         jt_cmdname(argv[0]), strerror(rc = errno));
2359
2360         return rc;
2361 }
2362
2363 /**
2364  * Replace nids for given device.
2365  * lctl replace_nids <devicename> <nid1>[,nid2,nid3]
2366  * Command should be started on MGS server.
2367  * Only MGS server should be started (command execution
2368  * returns error in another cases). Command mount
2369  * -t lustre <MDT partition> -o nosvc <mount point>
2370  * can be used for that.
2371  *
2372  * llogs for MDTs and clients are processed. All
2373  * records copied as is except add_uuid and setup. This records
2374  * are skipped and recorded with new nids and uuid.
2375  *
2376  * \see mgs_replace_nids
2377  * \see mgs_replace_log
2378  * \see mgs_replace_nids_handler
2379  */
2380 int jt_replace_nids(int argc, char **argv)
2381 {
2382         int rc;
2383         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2384         struct obd_ioctl_data data;
2385
2386         memset(&data, 0, sizeof(data));
2387         data.ioc_dev = get_mgs_device();
2388         if (argc != 3)
2389                 return CMD_HELP;
2390
2391         data.ioc_inllen1 = strlen(argv[1]) + 1;
2392         data.ioc_inlbuf1 = argv[1];
2393
2394         data.ioc_inllen2 = strlen(argv[2]) + 1;
2395         data.ioc_inlbuf2 = argv[2];
2396         memset(buf, 0, sizeof(rawbuf));
2397         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2398         if (rc) {
2399                 fprintf(stderr, "error: %s: invalid ioctl\n",
2400                         jt_cmdname(argv[0]));
2401                 return rc;
2402         }
2403
2404         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_REPLACE_NIDS, buf);
2405         if (rc < 0) {
2406                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
2407                         strerror(rc = errno));
2408         }
2409
2410         return rc;
2411 }
2412
2413 /**
2414  * Clear config logs for given device or filesystem.
2415  * lctl clear_conf <devicename|fsname>
2416  * Command has to be run on MGS node having MGS device mounted with -o
2417  * nosvc.
2418  *
2419  * Configuration logs for filesystem or one particular log is
2420  * processed. New log is created, original log is read, its records
2421  * marked SKIP do not get copied to new log. Others are copied as-is.
2422  * Original file is renamed to log.${time}.bak.
2423  *
2424  * \see mgs_clear_configs
2425  * \see mgs_replace_log
2426  * \see mgs_clear_config_handler
2427  **/
2428 int jt_lcfg_clear(int argc, char **argv)
2429 {
2430         int rc;
2431         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2432         struct obd_ioctl_data data;
2433
2434         memset(&data, 0, sizeof(data));
2435         data.ioc_dev = get_mgs_device();
2436         if (argc != 2)
2437                 return CMD_HELP;
2438
2439         data.ioc_inllen1 = strlen(argv[1]) + 1;
2440         data.ioc_inlbuf1 = argv[1];
2441
2442         memset(buf, 0, sizeof(rawbuf));
2443         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2444         if (rc) {
2445                 fprintf(stderr, "error: %s: invalid ioctl\n",
2446                         jt_cmdname(argv[0]));
2447                 return rc;
2448         }
2449
2450         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_CLEAR_CONFIGS, buf);
2451         if (rc < 0) {
2452                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
2453                         strerror(rc = errno));
2454         }
2455
2456         return rc;
2457 }
2458
2459 int jt_obd_deactivate(int argc, char **argv)
2460 {
2461         return do_activate(argc, argv, 0);
2462 }
2463
2464 int jt_obd_activate(int argc, char **argv)
2465 {
2466         return do_activate(argc, argv, 1);
2467 }
2468
2469 int jt_obd_recover(int argc, char **argv)
2470 {
2471         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2472         struct obd_ioctl_data data;
2473         int rc;
2474
2475         memset(&data, 0, sizeof(data));
2476         data.ioc_dev = cur_device;
2477         if (argc > 2)
2478                 return CMD_HELP;
2479
2480         if (argc == 2) {
2481                 data.ioc_inllen1 = strlen(argv[1]) + 1;
2482                 data.ioc_inlbuf1 = argv[1];
2483         }
2484
2485         memset(buf, 0, sizeof(rawbuf));
2486         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2487         if (rc) {
2488                 fprintf(stderr, "error: %s: invalid ioctl\n",
2489                         jt_cmdname(argv[0]));
2490                 return rc;
2491         }
2492         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_CLIENT_RECOVER, buf);
2493         if (rc < 0) {
2494                 fprintf(stderr, "error: %s: %s\n", jt_cmdname(argv[0]),
2495                         strerror(rc = errno));
2496         }
2497
2498         return rc;
2499 }
2500
2501 int jt_obd_mdc_lookup(int argc, char **argv)
2502 {
2503         struct obd_ioctl_data data;
2504         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2505         char *parent, *child;
2506         int rc, fd, verbose = 1;
2507
2508         if (argc < 3 || argc > 4)
2509                 return CMD_HELP;
2510
2511         parent = argv[1];
2512         child = argv[2];
2513         if (argc == 4)
2514                 verbose = get_verbose(argv[0], argv[3]);
2515
2516         memset(&data, 0, sizeof(data));
2517         data.ioc_dev = cur_device;
2518
2519         data.ioc_inllen1 = strlen(child) + 1;
2520         data.ioc_inlbuf1 = child;
2521
2522         memset(buf, 0, sizeof(rawbuf));
2523         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2524         if (rc) {
2525                 fprintf(stderr, "error: %s: invalid ioctl\n",
2526                         jt_cmdname(argv[0]));
2527                 return rc;
2528         }
2529
2530         fd = open(parent, O_RDONLY);
2531         if (fd < 0) {
2532                 fprintf(stderr, "open \"%s\" failed: %s\n", parent,
2533                         strerror(errno));
2534                 return -1;
2535         }
2536
2537         rc = ioctl(fd, IOC_MDC_LOOKUP, buf);
2538         if (rc < 0) {
2539                 fprintf(stderr, "error: %s: ioctl error: %s\n",
2540                         jt_cmdname(argv[0]), strerror(rc = errno));
2541         }
2542         close(fd);
2543
2544         if (verbose) {
2545                 rc = llapi_ioctl_unpack(&data, buf, sizeof(rawbuf));
2546                 if (rc) {
2547                         fprintf(stderr, "error: %s: invalid reply\n",
2548                                 jt_cmdname(argv[0]));
2549                         return rc;
2550                 }
2551                 printf("%s: mode %o uid %d gid %d\n", child,
2552                        data.ioc_obdo1.o_mode, data.ioc_obdo1.o_uid,
2553                        data.ioc_obdo1.o_gid);
2554         }
2555
2556         return rc;
2557 }
2558
2559 int jt_lcfg_fork(int argc, char **argv)
2560 {
2561         struct obd_ioctl_data data;
2562         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2563         int rc;
2564
2565         if (argc != 3)
2566                 return CMD_HELP;
2567
2568         memset(&data, 0, sizeof(data));
2569         data.ioc_dev = get_mgs_device();
2570         data.ioc_inllen1 = strlen(argv[1]) + 1;
2571         data.ioc_inlbuf1 = argv[1];
2572         data.ioc_inllen2 = strlen(argv[2]) + 1;
2573         data.ioc_inlbuf2 = argv[2];
2574
2575         memset(buf, 0, sizeof(rawbuf));
2576         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2577         if (rc) {
2578                 fprintf(stderr, "error: %s: invalid ioctl\n",
2579                         jt_cmdname(argv[0]));
2580                 return rc;
2581         }
2582
2583         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LCFG_FORK, buf);
2584         if (rc < 0)
2585                 fprintf(stderr, "error: %s: OBD_IOC_LCFG_FORK failed: %s\n",
2586                         jt_cmdname(argv[0]), strerror(errno));
2587
2588         return rc;
2589 }
2590
2591 int jt_lcfg_erase(int argc, char **argv)
2592 {
2593         struct obd_ioctl_data data;
2594         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2595         int rc;
2596
2597         if (argc == 3) {
2598                 if (strncmp(argv[2], "-q", strlen("-q")) != 0 &&
2599                     strncmp(argv[2], "--quiet", strlen("--quiet")) != 0)
2600                         return CMD_HELP;
2601         } else if (argc != 2) {
2602                 return CMD_HELP;
2603         }
2604
2605         memset(&data, 0, sizeof(data));
2606         data.ioc_dev = get_mgs_device();
2607         data.ioc_inllen1 = strlen(argv[1]) + 1;
2608         data.ioc_inlbuf1 = argv[1];
2609
2610         memset(buf, 0, sizeof(rawbuf));
2611         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2612         if (rc) {
2613                 fprintf(stderr, "error: %s: invalid ioctl\n",
2614                         jt_cmdname(argv[0]));
2615                 return rc;
2616         }
2617
2618         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LCFG_ERASE, buf);
2619         if (rc < 0)
2620                 fprintf(stderr, "error: %s: OBD_IOC_LCFG_ERASE failed: %s\n",
2621                         jt_cmdname(argv[0]), strerror(errno));
2622
2623         return rc;
2624 }
2625
2626 int jt_llog_catlist(int argc, char **argv)
2627 {
2628         struct obd_ioctl_data data;
2629         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2630         int rc;
2631
2632         if (argc != 1)
2633                 return CMD_HELP;
2634
2635         memset(&data, 0, sizeof(data));
2636         data.ioc_dev = cur_device;
2637         data.ioc_inllen1 = sizeof(rawbuf) - __ALIGN_KERNEL(sizeof(data), 8);
2638         memset(buf, 0, sizeof(rawbuf));
2639         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2640         if (rc) {
2641                 fprintf(stderr, "error: %s: invalid ioctl\n",
2642                         jt_cmdname(argv[0]));
2643                 return rc;
2644         }
2645         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_CATLOGLIST, buf);
2646         if (rc == 0)
2647                 fprintf(stdout, "%s", ((struct obd_ioctl_data *)buf)->ioc_bulk);
2648         else
2649                 fprintf(stderr, "OBD_IOC_CATLOGLIST failed: %s\n",
2650                         strerror(errno));
2651
2652         return rc;
2653 }
2654
2655 int jt_llog_info(int argc, char **argv)
2656 {
2657         const struct option long_opts[] = {
2658         /* Allow optional "--catalog" for compatibility with llog commands. */
2659         { .val = 'c',   .name = "catalog",      .has_arg = required_argument },
2660         { .val = 'h',   .name = "help",         .has_arg = no_argument },
2661         { .name = NULL } };
2662         struct obd_ioctl_data data = { 0 };
2663         char rawbuf[MAX_IOC_BUFLEN] = "", *buf = rawbuf;
2664         char *cmd = argv[0];
2665         char *catalog = NULL;
2666         int rc, c;
2667
2668         while ((c = getopt_long(argc, argv, "c:h", long_opts, NULL)) != -1) {
2669                 switch (c) {
2670                 case 'c':
2671                         catalog = optarg;
2672                         break;
2673                 case 'h':
2674                 default:
2675                         return CMD_HELP;
2676                 }
2677         }
2678         argc -= optind;
2679         argv += optind;
2680         /* support "logname" positional parameter */
2681         if (argc == 1) {
2682                 if (catalog) {
2683                         fprintf(stderr,
2684                                 "%s: catalog is set, unknown argument '%s'\n",
2685                                 cmd, optarg);
2686                         return CMD_HELP;
2687                 }
2688                 catalog = argv[0];
2689         } else if (!catalog || argc > 1) {
2690                 return CMD_HELP;
2691         }
2692
2693         data.ioc_dev = cur_device;
2694         data.ioc_inllen1 = strlen(catalog) + 1;
2695         data.ioc_inlbuf1 = catalog;
2696         data.ioc_inllen2 = sizeof(rawbuf) - __ALIGN_KERNEL(sizeof(data), 8) -
2697                            __ALIGN_KERNEL(data.ioc_inllen1, 8);
2698         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2699         if (rc) {
2700                 fprintf(stderr, "%s: ioctl_pack failed for catalog '%s': %s\n",
2701                         jt_cmdname(cmd), catalog, strerror(-rc));
2702                 return rc;
2703         }
2704
2705         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LLOG_INFO, buf);
2706         if (rc == 0)
2707                 fprintf(stdout, "%s", ((struct obd_ioctl_data *)buf)->ioc_bulk);
2708         else
2709                 fprintf(stderr, "%s: OBD_IOC_LLOG_INFO failed: %s\n",
2710                         jt_cmdname(cmd), strerror(errno));
2711
2712         return rc;
2713 }
2714
2715 int jt_llog_print_cb(const char *record, void *private)
2716 {
2717         printf("%s\n", record);
2718
2719         return 0;
2720 }
2721
2722 static int
2723 llog_process_records(int (record_cb)(const char *record, void *private),
2724                      const char *record, void *private, bool reverse)
2725 {
2726         char *ptr = NULL;
2727         char *tmp = NULL;
2728         int rc = 0;
2729
2730         if (!reverse) {
2731                 do {
2732                         ptr = strchr(record, '\n');
2733                         if (ptr)
2734                                 *ptr = '\0';
2735                         rc = record_cb(record, private);
2736                         if (rc)
2737                                 goto out;
2738                         if (ptr)
2739                                 record = ptr + 1;
2740                 } while (ptr && *(ptr + 1));
2741         } else {
2742                 tmp = (char *)record;
2743
2744                 ptr = strrchr(record, '\n');
2745                 if (ptr)
2746                         *ptr = '\0';
2747                 else
2748                         goto out;
2749                 while ((ptr = strrchr(record, '\n'))) {
2750                         tmp = ptr + 1;
2751                         *ptr = '\0';
2752                         rc = record_cb(tmp, private);
2753                         if (rc)
2754                                 goto out;
2755                 };
2756                 rc = record_cb(record, private);
2757                 if (rc)
2758                         goto out;
2759         }
2760 out:
2761         return rc;
2762 }
2763
2764 /**
2765  * Iterate over llog records, typically YAML-formatted configuration logs
2766  *
2767  * \param logname[in]   name of llog file or FID
2768  * \param start[in]     first record to process
2769  * \param end[in]       last record to process (inclusive)
2770  * \param cb[in]        callback for records. Return -ve error, or +ve abort.
2771  * \param private[in,out] private data passed to the \a record_cb function
2772  * \param reverse[in]   print the llog records from the beginning or the end
2773  *
2774  * \retval              0 on success
2775  *                      others handled by the caller
2776  */
2777 int jt_llog_print_iter(char *logname, long start, long end,
2778                        int (record_cb)(const char *record, void *private),
2779                        void *private, bool reverse)
2780 {
2781         struct obd_ioctl_data data = { 0 };
2782         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
2783         char startbuf[16], endbuf[16];
2784         static long inc = sizeof(rawbuf) / 128;
2785         long rec;
2786         int rc = 0;
2787
2788         if (end == -1)
2789                 end = 0x7fffffff;
2790
2791         data.ioc_dev = cur_device;
2792         data.ioc_inlbuf1 = logname;
2793         data.ioc_inllen1 = strlen(logname) + 1;
2794
2795         /*
2796          * Estimate about 128 characters per configuration record.  Not all
2797          * records will be printed in any case, so they should easily fit.  If
2798          * not, the kernel will return -EOVERFLOW and ask for fewer records.
2799          *
2800          * We don't want to request records from the kernel one-at-a-time, as
2801          * it restarts the config llog iteration from the beginning, so we
2802          * fetch multiple records from the kernel per call and split locally.
2803          */
2804         for (rec = start; rec < end; rec += inc) {
2805                 char *record = ((struct obd_ioctl_data *)buf)->ioc_bulk;
2806
2807 retry:
2808                 snprintf(startbuf, sizeof(startbuf), "%lu", rec);
2809                 snprintf(endbuf, sizeof(endbuf), "%lu",
2810                          end < rec + inc - 1 ? end : rec + inc - 1);
2811
2812                 /* start and end record numbers are passed as ASCII digits */
2813                 data.ioc_inlbuf2 = startbuf;
2814                 data.ioc_inllen2 = strlen(startbuf) + 1;
2815                 data.ioc_inlbuf3 = endbuf;
2816                 data.ioc_inllen3 = strlen(endbuf) + 1;
2817
2818                 data.ioc_inllen4 = sizeof(rawbuf) -
2819                         __ALIGN_KERNEL(sizeof(data), 8) -
2820                         __ALIGN_KERNEL(data.ioc_inllen1, 8) -
2821                         __ALIGN_KERNEL(data.ioc_inllen2, 8) -
2822                         __ALIGN_KERNEL(data.ioc_inllen3, 8);
2823                 memset(buf, 0, sizeof(rawbuf));
2824                 rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
2825                 if (rc) {
2826                         fprintf(stderr, "%s: invalid ioctl data\n", logname);
2827                         goto out;
2828                 }
2829
2830                 rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LLOG_PRINT, buf);
2831                 if (rc == -EOVERFLOW && inc > 2) {
2832                         inc /= 2;
2833                         goto retry;
2834                 }
2835                 if (rc) {
2836                         fprintf(stderr, "%s: OBD_IOC_LLOG_PRINT failed: %s\n",
2837                                 logname, strerror(errno));
2838                         rc = -errno;
2839                         goto out;
2840                 }
2841
2842                 /* There is no "end of list" marker, record was not modified */
2843                 if (strcmp(record, logname) == 0)
2844                         break;
2845
2846                 rc = llog_process_records(record_cb, record, private, reverse);
2847                 if (rc)
2848                         goto out;
2849         }
2850
2851 out:
2852         return rc;
2853 }
2854
2855 static int llog_parse_catalog_start_end(int *argc, char **argv[],
2856                                         char **catalog, long *start, long *end)
2857 {
2858         const struct option long_opts[] = {
2859         /* the --catalog option is not required, just for consistency */
2860         { .val = 'c',   .name = "catalog",      .has_arg = required_argument },
2861         { .val = 'e',   .name = "end",          .has_arg = required_argument },
2862         { .val = 'h',   .name = "help",         .has_arg = no_argument },
2863         { .val = 's',   .name = "start",        .has_arg = required_argument },
2864         { .name = NULL } };
2865         char *cmd = (*argv)[0];
2866         char *endp;
2867         int c;
2868
2869         if (catalog == NULL || start == NULL || end == NULL)
2870                 return -EINVAL;
2871
2872         /* now process command line arguments*/
2873         while ((c = getopt_long(*argc, *argv, "c:e:hs:",
2874                                 long_opts, NULL)) != -1) {
2875                 switch (c) {
2876                 case 'c':
2877                         *catalog = optarg;
2878                         break;
2879                 case 'e':
2880                         *end = strtol(optarg, &endp, 0);
2881                         if (*endp != '\0') {
2882                                 fprintf(stderr, "%s: bad end value '%s'\n",
2883                                         cmd, optarg);
2884                                 return CMD_HELP;
2885                         }
2886                         break;
2887                 case 's':
2888                         *start = strtol(optarg, &endp, 0);
2889                         if (*endp != '\0') {
2890                                 fprintf(stderr, "%s: bad start value '%s'\n",
2891                                         cmd, optarg);
2892                                 return CMD_HELP;
2893                         }
2894                         break;
2895                 case 'h':
2896                 default:
2897                         return CMD_HELP;
2898                 }
2899         }
2900         *argc -= optind;
2901         *argv += optind;
2902
2903         /* support old optional positional parameters only if they were
2904          * not already specified with named arguments: logname [start [end]]
2905          */
2906         if (*argc >= 1) {
2907                 if (*catalog) {
2908                         fprintf(stderr,
2909                                 "%s: catalog is set, unknown argument '%s'\n",
2910                                 cmd, (*argv)[0]);
2911                         return CMD_HELP;
2912                 }
2913                 *catalog = (*argv)[0];
2914                 (*argc)--;
2915                 (*argv)++;
2916         }
2917
2918         if (*argc >= 1) {
2919                 if (*start != 1) {
2920                         fprintf(stderr,
2921                                 "%s: --start is set, unknown argument '%s'\n",
2922                                 cmd, (*argv)[0]);
2923                         return CMD_HELP;
2924                 }
2925
2926                 *start = strtol((*argv)[0], &endp, 0);
2927                 if (*endp != '\0') {
2928                         fprintf(stderr, "%s: bad start value '%s'\n",
2929                                 cmd, (*argv)[0]);
2930                         return CMD_HELP;
2931                 }
2932                 (*argc)--;
2933                 (*argv)++;
2934         }
2935         if (*argc >= 1) {
2936                 if (*end != -1) {
2937                         fprintf(stderr,
2938                                 "%s: --end is set, unknown argument '%s'\n",
2939                                 cmd, (*argv)[0]);
2940                         return CMD_HELP;
2941                 }
2942
2943                 *end = strtol((*argv)[0], &endp, 0);
2944                 if (*endp != '\0') {
2945                         fprintf(stderr, "%s: bad end value '%s'\n",
2946                                 cmd, (*argv)[0]);
2947                         return CMD_HELP;
2948                 }
2949                 (*argc)--;
2950                 (*argv)++;
2951         }
2952         if (*argc > 1) {
2953                 fprintf(stderr, "%s: unknown argument '%s'\n", cmd, (*argv)[0]);
2954                 return CMD_HELP;
2955         }
2956
2957         if (*end != -1 && *end < *start) {
2958                 fprintf(stderr, "%s: end '%lu' less than than start '%lu'\n",
2959                         cmd, *end, *start);
2960                 return CMD_HELP;
2961         }
2962
2963         return 0;
2964 }
2965
2966 int jt_llog_print(int argc, char **argv)
2967 {
2968         char *catalog = NULL;
2969         long start = 1, end = -1;
2970         int rc;
2971
2972         rc = llog_parse_catalog_start_end(&argc, &argv, &catalog, &start, &end);
2973         if (rc)
2974                 return rc;
2975
2976         rc = jt_llog_print_iter(catalog, start, end, jt_llog_print_cb,
2977                                 NULL, false);
2978
2979         return rc;
2980 }
2981
2982 /* Parse catalog, log ID, and optionally a log index with either optional
2983  * arguments or positional arguments.  Only the initial catalog argument
2984  * may be positional with other optional arguments.
2985  *
2986  * The positional arguments option should eventually be phased out.
2987  */
2988 static int llog_parse_catalog_log_idx(int *argc, char ***argv, const char *opts,
2989                                       int max_args, struct obd_ioctl_data *data)
2990 {
2991         const struct option long_opts[] = {
2992         /* the --catalog option is not required, just for consistency */
2993         { .val = 'c',   .name = "catalog",      .has_arg = required_argument },
2994         { .val = 'h',   .name = "help",         .has_arg = no_argument },
2995         { .val = 'i',   .name = "log_idx",      .has_arg = required_argument },
2996         { .val = 'l',   .name = "log_id",       .has_arg = required_argument },
2997         { .name = NULL } };
2998         int c;
2999
3000         /* sanity check */
3001         if (!data || *argc <= 1)
3002                 return -1;
3003
3004         data->ioc_dev = cur_device;
3005
3006         /* now process command line arguments*/
3007         while ((c = getopt_long(*argc, *argv, opts, long_opts, NULL)) != -1) {
3008                 switch (c) {
3009                 case 'c':
3010                         data->ioc_inllen1 = strlen(optarg) + 1;
3011                         data->ioc_inlbuf1 = optarg;
3012                         break;
3013                 case 'i':
3014                         data->ioc_inllen3 = strlen(optarg) + 1;
3015                         data->ioc_inlbuf3 = optarg;
3016                         break;
3017                 case 'l': /* The log_id option isn't currently needed for
3018                            * cancel as mdt_iocontrol() handles IOC_LLOG_CANCEL,
3019                            * but we may as well keep it for now.
3020                            */
3021                         data->ioc_inllen2 = strlen(optarg) + 1;
3022                         data->ioc_inlbuf2 = optarg;
3023                         break;
3024                 case 'h':
3025                 default:
3026                         return CMD_HELP;
3027                 }
3028         }
3029
3030         *argc -= optind;
3031         *argv += optind;
3032
3033         /* Allow catalog to be specified as first option without --catalog */
3034         if (data->ioc_inlbuf1 == NULL && *argc > 0) {
3035                 data->ioc_inlbuf1 = (*argv)[0];
3036                 data->ioc_inllen1 = strlen((*argv)[0]) + 1;
3037                 (*argc)--;
3038                 (*argv)++;
3039         }
3040
3041         return 0;
3042 }
3043
3044 int jt_llog_cancel(int argc, char **argv)
3045 {
3046         struct obd_ioctl_data data = { 0 };
3047         char rawbuf[MAX_IOC_BUFLEN] = "", *buf = rawbuf;
3048         char *cmd = argv[0];
3049         int rc;
3050
3051         /* Parse catalog file (in inlbuf1) and named parameters */
3052         rc = llog_parse_catalog_log_idx(&argc, &argv, "c:hi:l:", 3, &data);
3053
3054         /* Handle old positional parameters if not using named parameters,
3055          * either "<catalog> <log_idx>" or "<catalog> <log_id> <log_idx>".
3056          * It was "inlbuf3 = log_idx", and "inlbuf2 = log_id" (ignored by
3057          * config log cancel), and shows why I hate positional parameters.
3058          */
3059         if (argc == 1) {
3060                 data.ioc_inllen3 = strlen(argv[0]) + 1;
3061                 data.ioc_inlbuf3 = argv[0];
3062         } else if (argc == 2) {
3063                 data.ioc_inllen2 = strlen(argv[0]) + 1;
3064                 data.ioc_inlbuf2 = argv[0];
3065                 data.ioc_inllen3 = strlen(argv[1]) + 1;
3066                 data.ioc_inlbuf3 = argv[1];
3067         }
3068
3069         if (data.ioc_inlbuf1 == NULL || data.ioc_inlbuf3 == NULL)
3070                 /* missing mandatory parameters */
3071                 return CMD_HELP;
3072
3073         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
3074         if (rc) {
3075                 fprintf(stderr, "%s: ioctl_pack for catalog '%s' failed: %s\n",
3076                         jt_cmdname(cmd), data.ioc_inlbuf1, strerror(-rc));
3077                 return rc;
3078         }
3079
3080         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LLOG_CANCEL, buf);
3081         if (rc)
3082                 fprintf(stderr, "%s: cancel catalog '%s:%s' failed: %s\n",
3083                         jt_cmdname(cmd), data.ioc_inlbuf1, data.ioc_inlbuf3,
3084                         strerror(errno));
3085
3086         return rc;
3087 }
3088
3089 int jt_llog_check(int argc, char **argv)
3090 {
3091         struct obd_ioctl_data data = { 0 };
3092         char rawbuf[MAX_IOC_BUFLEN] = "", *buf = rawbuf;
3093         char *catalog = NULL;
3094         char startbuf[16], endbuf[16];
3095         long start = 1, end = -1;
3096         char *cmd = argv[0];
3097         int rc;
3098
3099         rc = llog_parse_catalog_start_end(&argc, &argv, &catalog, &start, &end);
3100         if (rc)
3101                 return rc;
3102
3103         if (end == -1)
3104                 end = 0x7fffffff;
3105
3106         data.ioc_dev = cur_device;
3107         data.ioc_inllen1 = strlen(catalog) + 1;
3108         data.ioc_inlbuf1 = catalog;
3109
3110         snprintf(startbuf, sizeof(startbuf), "%lu", start);
3111         snprintf(endbuf, sizeof(endbuf), "%lu", end);
3112         /* start and end record numbers are passed as ASCII digits */
3113         data.ioc_inllen2 = strlen(startbuf) + 1;
3114         data.ioc_inlbuf2 = startbuf;
3115         data.ioc_inllen3 = strlen(endbuf) + 1;
3116         data.ioc_inlbuf3 = endbuf;
3117
3118         data.ioc_inllen4 = sizeof(rawbuf) - __ALIGN_KERNEL(sizeof(data), 8) -
3119                            __ALIGN_KERNEL(data.ioc_inllen1, 8) -
3120                            __ALIGN_KERNEL(data.ioc_inllen2, 8) -
3121                            __ALIGN_KERNEL(data.ioc_inllen3, 8);
3122         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
3123         if (rc) {
3124                 fprintf(stderr, "%s: ioctl_pack failed for catalog '%s': %s\n",
3125                         jt_cmdname(cmd), data.ioc_inlbuf1, strerror(-rc));
3126                 return rc;
3127         }
3128
3129         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LLOG_CHECK, buf);
3130         if (rc == 0)
3131                 fprintf(stdout, "%s", ((struct obd_ioctl_data *)buf)->ioc_bulk);
3132         else
3133                 fprintf(stderr, "%s: OBD_IOC_LLOG_CHECK failed: %s\n",
3134                         jt_cmdname(cmd), strerror(errno));
3135         return rc;
3136 }
3137
3138 int jt_llog_remove(int argc, char **argv)
3139 {
3140         struct obd_ioctl_data data = { 0 };
3141         char rawbuf[MAX_IOC_BUFLEN] = "", *buf = rawbuf;
3142         char *cmd = argv[0];
3143         int rc;
3144
3145         rc = llog_parse_catalog_log_idx(&argc, &argv, "c:hl:", 2, &data);
3146         if (rc)
3147                 return rc;
3148
3149         if (argc == 1) {
3150                 if (data.ioc_inlbuf2) {
3151                         fprintf(stderr,
3152                                 "%s: --log_id is set, unknown argument '%s'\n",
3153                                 jt_cmdname(cmd), argv[0]);
3154                         return CMD_HELP;
3155                 }
3156
3157                 data.ioc_inllen2 = strlen(argv[0]) + 1;
3158                 data.ioc_inlbuf2 = argv[0];
3159         }
3160         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
3161         if (rc) {
3162                 fprintf(stderr, "%s: ioctl_pack for catalog '%s' failed: %s\n",
3163                         jt_cmdname(cmd), data.ioc_inlbuf1, strerror(-rc));
3164                 return rc;
3165         }
3166
3167         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LLOG_REMOVE, buf);
3168         if (rc)
3169                 fprintf(stderr, "%s: cancel catalog '%s:%s' failed: %s\n",
3170                         jt_cmdname(cmd), data.ioc_inlbuf1, data.ioc_inlbuf2,
3171                         strerror(-rc));
3172
3173         return rc;
3174 }
3175
3176 static void signal_server(int sig)
3177 {
3178         if (sig == SIGINT) {
3179                 do_disconnect("sigint", 1);
3180                 exit(1);
3181         } else {
3182                 fprintf(stderr, "%s: got signal %d\n", jt_cmdname("sigint"),
3183                         sig);
3184         }
3185 }
3186
3187 int obd_initialize(int argc, char **argv)
3188 {
3189         if (shmem_setup() != 0)
3190                 return -1;
3191
3192         register_ioc_dev(OBD_DEV_ID, OBD_DEV_PATH);
3193
3194         return 0;
3195 }
3196
3197 void obd_finalize(int argc, char **argv)
3198 {
3199         struct sigaction sigact;
3200
3201         /* sigact initialization */
3202         sigact.sa_handler = signal_server;
3203         sigfillset(&sigact.sa_mask);
3204         sigact.sa_flags = SA_RESTART;
3205         /* coverity[uninit_use_in_call] */
3206         sigaction(SIGINT, &sigact, NULL);
3207
3208         shmem_cleanup();
3209         do_disconnect(argv[0], 1);
3210 }
3211
3212 /**
3213  * Get the index of the last llog record
3214  *
3215  * logid:            [0x3:0xa:0x0]:0
3216  * flags:            4 (plain)
3217  * records_count:    57
3218  * last_index:       57
3219  *
3220  * \param logname[in]   pointer to config log name
3221  *
3222  * \retval              > 0 on success
3223  *                      <= 0 on error
3224  */
3225 static long llog_last_index(char *logname)
3226 {
3227         struct obd_ioctl_data data = { 0 };
3228         char rawbuf[MAX_IOC_BUFLEN] = "", *buf = rawbuf;
3229         char *last_index;
3230         long rc;
3231
3232         data.ioc_dev = cur_device;
3233         data.ioc_inllen1 = strlen(logname) + 1;
3234         data.ioc_inlbuf1 = logname;
3235         data.ioc_inllen2 = sizeof(rawbuf) - __ALIGN_KERNEL(sizeof(data), 8) -
3236                            __ALIGN_KERNEL(data.ioc_inllen1, 8);
3237         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
3238         if (rc) {
3239                 fprintf(stderr, "%s: ioctl_pack failed for catalog '%s': %s\n",
3240                         __func__, logname, strerror(-rc));
3241                 return rc;
3242         }
3243
3244         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_LLOG_INFO, buf);
3245         if (rc == 0) {
3246                 last_index = strstr(((struct obd_ioctl_data *)buf)->ioc_bulk,
3247                                     "last_index:");
3248                 return strtol(last_index + 11, NULL, 10);
3249         } else {
3250                 rc = -errno;
3251         }
3252
3253         return rc;
3254 }
3255
3256 static char *get_llog_event_name(__u32 cmd)
3257 {
3258         struct lcfg_type_data *data;
3259
3260         data = lcfg_cmd2data(cmd);
3261         if (data)
3262                 return data->ltd_name;
3263         return NULL;
3264 }
3265
3266 static char *get_event_filter(__u32 cmd)
3267 {
3268         char *event_name;
3269         char *filter = NULL;
3270         int len;
3271
3272         event_name = get_llog_event_name(cmd);
3273         if (event_name) {
3274                 /* 9 bytes for "event: , " */
3275                 len = 9 + strlen(event_name);
3276                 filter = malloc(len + 1);
3277                 if (!filter)
3278                         return NULL;
3279                 memset(filter, 0, len + 1);
3280                 snprintf(filter, len, "event: %s, ", event_name);
3281                 return filter;
3282         }
3283
3284         return NULL;
3285 }
3286
3287 /**
3288  * Callback to search ostname in llog
3289  * - { index: 23, event: attach, device: lustre-OST0000-osc, type: osc,
3290  *     UUID: lustre-clilov_UUID }
3291  * - { index: 24, event: setup, device: lustre-OST0000-osc,
3292  *     UUID: lustre-OST0000_UUID, node: 192.168.0.120@tcp }
3293  * - { index: 25, event: add_osc, device: lustre-clilov,
3294  *     ost: lustre-OST0000_UUID, index: 0, gen: 1 }
3295  *
3296  * \param record[in]    pointer to llog record
3297  * \param data[in]      pointer to ostname
3298  *
3299  * \retval              1 if ostname is found
3300  *                      0 if ostname is not found
3301  *                      -ENOENT if ostname is deleted
3302  */
3303 static int llog_search_ost_cb(const char *record, void *data)
3304 {
3305         char *ostname = data;
3306         char ost_filter[MAX_STRING_SIZE] = {'\0'};
3307         char *add_osc, *del_osc, *setup, *cleanup;
3308
3309         add_osc = get_event_filter(LCFG_LOV_ADD_OBD);
3310         del_osc = get_event_filter(LCFG_LOV_DEL_OBD);
3311         setup = get_event_filter(LCFG_SETUP);
3312         cleanup = get_event_filter(LCFG_CLEANUP);
3313         if (!add_osc || !del_osc || !setup || !cleanup)
3314                 return -ENOMEM;
3315
3316         if (ostname && ostname[0])
3317                 snprintf(ost_filter, sizeof(ost_filter), " %s,", ostname);
3318
3319         if (strstr(record, ost_filter)) {
3320                 if (strstr(record, add_osc) || strstr(record, setup))
3321                         return 1;
3322                 if (strstr(record, del_osc) || strstr(record, cleanup))
3323                         return -ENOENT;
3324         }
3325
3326         free(add_osc);
3327         free(del_osc);
3328         free(setup);
3329         free(cleanup);
3330
3331         return 0;
3332 }
3333
3334 /**
3335  * Search ost in llog
3336  *
3337  * \param logname[in]           pointer to config log name
3338  * \param last_index[in]        the index of the last llog record
3339  * \param ostname[in]           pointer to ost name
3340  *
3341  * \retval                      1 if ostname is found
3342  *                              0 if ostname is not found
3343  */
3344 static int llog_search_ost(char *logname, long last_index, char *ostname)
3345 {
3346         long start, end, inc = MAX_IOC_BUFLEN / 128;
3347         int rc = 0;
3348
3349         for (end = last_index; end > 1; end -= inc) {
3350                 start = end - inc > 0 ? end - inc : 1;
3351                 rc = jt_llog_print_iter(logname, start, end, llog_search_ost_cb,
3352                                         ostname, true);
3353                 if (rc)
3354                         break;
3355         }
3356
3357         return (rc == 1 ? 1 : 0);
3358 }
3359
3360 struct llog_pool_data {
3361         char lpd_fsname[LUSTRE_MAXFSNAME + 1];
3362         char lpd_poolname[LOV_MAXPOOLNAME + 1];
3363         char lpd_ostname[MAX_OBD_NAME + 1];
3364         enum lcfg_command_type lpd_cmd_type;
3365         bool lpd_pool_exists;
3366         int lpd_ost_num;
3367 };
3368
3369 /**
3370  * Called for each formatted line in the config log (within range).
3371  *
3372  * - { index: 74, event: new_pool, device: tfs-clilov, fsname: tfs, pool: tmp }
3373  * - { index: 77, event: add_pool, device: tfs-clilov, fsname: tfs, pool: tmp,
3374  *     ost: tfs-OST0000_UUID }
3375  * - { index: 224, event: remove_pool, device: tfs-clilov, fsname: tfs,
3376  *     pool: tmp, ost: tfs-OST0003_UUID }
3377  * - { index: 227, event: del_pool, device: tfs-clilov, fsname: tfs, pool: tmp }
3378  *
3379  * \param record[in]    pointer to llog record
3380  * \param data[in]      pointer to llog_pool_data
3381  *
3382  * \retval              1 if pool or OST is found
3383  *                      0 if pool or OST is not found
3384  *                      -ENOENT if pool or OST is removed
3385  */
3386 static int llog_search_pool_cb(const char *record, void *data)
3387 {
3388         struct llog_pool_data *lpd = data;
3389         char pool_filter[MAX_STRING_SIZE] = "";
3390         char *new_pool, *del_pool, *add_pool, *rem_pool;
3391         char *found = NULL;
3392         int fs_pool_len = 0, rc = 0;
3393
3394         new_pool = get_event_filter(LCFG_POOL_NEW);
3395         del_pool = get_event_filter(LCFG_POOL_DEL);
3396         add_pool = get_event_filter(LCFG_POOL_ADD);
3397         rem_pool = get_event_filter(LCFG_POOL_REM);
3398         if (!new_pool || !del_pool || !add_pool || !rem_pool) {
3399                 rc = -ENOMEM;
3400                 goto out;
3401         }
3402
3403         fs_pool_len = 16 + strlen(lpd->lpd_fsname) + strlen(lpd->lpd_poolname);
3404         snprintf(pool_filter, fs_pool_len + 1, "fsname: %s, pool: %s",
3405                  lpd->lpd_fsname, lpd->lpd_poolname);
3406
3407         /* search poolname */
3408         found = strstr(record, pool_filter);
3409         if (found &&
3410             (found[fs_pool_len] == ' ' || found[fs_pool_len] == ',')) {
3411                 if (strstr(record, new_pool)) {
3412                         lpd->lpd_pool_exists = true;
3413                         rc = 1;
3414                         goto out;
3415                 }
3416                 if (strstr(record, del_pool)) {
3417                         lpd->lpd_pool_exists = false;
3418                         rc = -ENOENT;
3419                         goto out;
3420                 }
3421
3422                 if (lpd->lpd_cmd_type == LCFG_POOL_NEW ||
3423                     lpd->lpd_cmd_type == LCFG_POOL_DEL) {
3424                         if (strstr(record, add_pool))
3425                                 lpd->lpd_ost_num++;
3426                         if (strstr(record, rem_pool))
3427                                 lpd->lpd_ost_num--;
3428                 } else if (lpd->lpd_ostname && lpd->lpd_ostname[0]) {
3429                         if (strstr(record, lpd->lpd_ostname)) {
3430                                 lpd->lpd_pool_exists = true;
3431                                 if (strstr(record, add_pool)) {
3432                                         lpd->lpd_ost_num = 1;
3433                                         rc = 1;
3434                                         goto out;
3435                                 }
3436                                 if (strstr(record, rem_pool)) {
3437                                         lpd->lpd_ost_num = 0;
3438                                         rc = -ENOENT;
3439                                         goto out;
3440                                 }
3441                         }
3442                 }
3443         }
3444 out:
3445         if (new_pool)
3446                 free(new_pool);
3447         if (del_pool)
3448                 free(del_pool);
3449         if (add_pool)
3450                 free(add_pool);
3451         if (rem_pool)
3452                 free(rem_pool);
3453
3454         return rc;
3455 }
3456
3457 /* Search pool and its ost in llog
3458  *
3459  * \param logname[in]           pointer to config log name
3460  * \param last_index[in]        the index of the last llog record
3461  * \param fsname[in]            pointer to filesystem name
3462  * \param poolname[in]          pointer pool name
3463  * \param ostname[in]           pointer to OST name(OSTnnnn-UUID)
3464  * \param cmd[in]               pool command type
3465  *
3466  * \retval                      < 0 on error
3467  *                              0 if pool is empty or OST is not found
3468  *                              1 if pool is not empty or OST is found
3469  */
3470 static int llog_search_pool(char *logname, long last_index, char *fsname,
3471                             char *poolname, char *ostname,
3472                             enum lcfg_command_type cmd)
3473 {
3474         struct llog_pool_data lpd;
3475         long start, end, inc = MAX_IOC_BUFLEN / 128;
3476         int rc = 0;
3477
3478         memset(&lpd, 0, sizeof(lpd));
3479         lpd.lpd_cmd_type = cmd;
3480         lpd.lpd_pool_exists = false;
3481         lpd.lpd_ost_num = 0;
3482         strncpy(lpd.lpd_fsname, fsname, sizeof(lpd.lpd_fsname) - 1);
3483         if (poolname && poolname[0])
3484                 strncpy(lpd.lpd_poolname, poolname,
3485                         sizeof(lpd.lpd_poolname) - 1);
3486         if (ostname && ostname[0])
3487                 strncpy(lpd.lpd_ostname, ostname, sizeof(lpd.lpd_ostname) - 1);
3488
3489         for (end = last_index; end > 1; end -= inc) {
3490                 start = end - inc > 0 ? end - inc : 1;
3491                 rc = jt_llog_print_iter(logname, start, end,
3492                                         llog_search_pool_cb, &lpd, true);
3493                 if (rc) {
3494                         if (rc == 1 && lpd.lpd_pool_exists)
3495                                 rc = lpd.lpd_ost_num ? 1 : 0;
3496                         else if (rc == -ENOENT && lpd.lpd_pool_exists &&
3497                                  !lpd.lpd_ost_num)
3498                                 rc = 0;
3499                         goto out;
3500                 }
3501         }
3502
3503         rc = -ENOENT;
3504 out:
3505         return rc;
3506 }
3507
3508 static bool combined_mgs_mds(char *fsname)
3509 {
3510         glob_t path;
3511         int rc;
3512
3513         rc = cfs_get_param_paths(&path, "mdt/%s-MDT0000", fsname);
3514         if (!rc)
3515                 cfs_free_param_data(&path);
3516
3517         if (get_mgs_device() > 0 && !rc)
3518                 return true;
3519
3520         return false;
3521 }
3522
3523 /*
3524  * if pool is NULL, search ostname in target_obd
3525  * if pool is not NULL:
3526  *  - if pool not found returns errno < 0
3527  *  - if ostname is NULL, returns 1 if pool is not empty and 0 if pool empty
3528  *  - if ostname is not NULL, returns 1 if OST is in pool and 0 if not
3529  */
3530 int lctl_search_ost(char *fsname, char *poolname, char *ostname,
3531                     enum lcfg_command_type cmd)
3532 {
3533         char logname[MAX_OBD_NAME] = {'\0'};
3534         long last_index;
3535
3536         if (fsname && fsname[0] == '\0')
3537                 fsname = NULL;
3538         if (!fsname)
3539                 return -EINVAL;
3540
3541         if (combined_mgs_mds(fsname))
3542                 return llapi_search_ost(fsname, poolname, ostname);
3543
3544         /* fetch the last_index of llog record */
3545         snprintf(logname, sizeof(logname), "%s-client", fsname);
3546         last_index = llog_last_index(logname);
3547         if (last_index < 0)
3548                 return last_index;
3549
3550         /* if pool is NULL, search ostname in target_obd */
3551         if (!poolname && ostname)
3552                 return llog_search_ost(logname, last_index, ostname);
3553
3554         return llog_search_pool(logname, last_index, fsname, poolname,
3555                                 ostname, cmd);
3556 }
3557
3558 static int check_pool_cmd(enum lcfg_command_type cmd,
3559                           char *fsname, char *poolname,
3560                           char *ostname)
3561 {
3562         int rc;
3563
3564         rc = lctl_search_ost(fsname, poolname, ostname, cmd);
3565         if (rc < 0 && (cmd != LCFG_POOL_NEW)) {
3566                 fprintf(stderr, "Pool %s.%s not found\n",
3567                         fsname, poolname);
3568                 return rc;
3569         }
3570
3571         switch (cmd) {
3572         case LCFG_POOL_NEW: {
3573                 if (ostname != NULL)
3574                         return -EINVAL;
3575
3576                 if (rc >= 0) {
3577                         fprintf(stderr, "Pool %s.%s already exists\n",
3578                                 fsname, poolname);
3579                         return -EEXIST;
3580                 }
3581                 return 0;
3582         }
3583         case LCFG_POOL_DEL: {
3584                 if (ostname != NULL)
3585                         return -EINVAL;
3586
3587                 if (rc == 1) {
3588                         fprintf(stderr, "Pool %s.%s not empty, "
3589                                 "please remove all members\n",
3590                                 fsname, poolname);
3591                         return -ENOTEMPTY;
3592                 }
3593                 return 0;
3594         }
3595         case LCFG_POOL_ADD: {
3596                 if (rc == 1) {
3597                         fprintf(stderr, "OST %s is already in pool %s.%s\n",
3598                                 ostname, fsname, poolname);
3599                         return -EEXIST;
3600                 }
3601                 rc = lctl_search_ost(fsname, NULL, ostname, cmd);
3602                 if (rc == 0) {
3603                         fprintf(stderr, "OST %s is not part of the '%s' fs.\n",
3604                                 ostname, fsname);
3605                         return -ENOENT;
3606                 }
3607                 return 0;
3608         }
3609         case LCFG_POOL_REM: {
3610                 if (rc == 0) {
3611                         fprintf(stderr, "OST %s not found in pool %s.%s\n",
3612                                 ostname, fsname, poolname);
3613                         return -ENOENT;
3614                 }
3615                 return 0;
3616         }
3617         default:
3618                 break;
3619         } /* switch */
3620         return -EINVAL;
3621 }
3622
3623 /* This check only verifies that the changes have been "pushed out" to
3624    the client successfully.  This involves waiting for a config update,
3625    and so may fail because of problems in that code or post-command
3626    network loss. So reporting a warning is appropriate, but not a failure.
3627 */
3628 static int check_pool_cmd_result(enum lcfg_command_type cmd,
3629                                  char *fsname, char *poolname,
3630                                  char *ostname)
3631 {
3632         int cpt = 10;
3633         int rc = 0;
3634
3635         switch (cmd) {
3636         case LCFG_POOL_NEW: {
3637                 do {
3638                         rc = lctl_search_ost(fsname, poolname, NULL, cmd);
3639                         if (rc == -ENODEV)
3640                                 return rc;
3641                         if (rc < 0)
3642                                 sleep(2);
3643                         cpt--;
3644                 } while ((rc < 0) && (cpt > 0));
3645                 if (rc >= 0) {
3646                         fprintf(stderr, "Pool %s.%s created\n",
3647                                 fsname, poolname);
3648                         return 0;
3649                 } else {
3650                         fprintf(stderr, "Warning, pool %s.%s not found\n",
3651                                 fsname, poolname);
3652                         return -ENOENT;
3653                 }
3654         }
3655         case LCFG_POOL_DEL: {
3656                 do {
3657                         rc = lctl_search_ost(fsname, poolname, NULL, cmd);
3658                         if (rc == -ENODEV)
3659                                 return rc;
3660                         if (rc >= 0)
3661                                 sleep(2);
3662                         cpt--;
3663                 } while ((rc >= 0) && (cpt > 0));
3664                 if (rc < 0) {
3665                         fprintf(stderr, "Pool %s.%s destroyed\n",
3666                                 fsname, poolname);
3667                         return 0;
3668                 } else {
3669                         fprintf(stderr, "Warning, pool %s.%s still found\n",
3670                                 fsname, poolname);
3671                         return -EEXIST;
3672                 }
3673         }
3674         case LCFG_POOL_ADD: {
3675                 do {
3676                         rc = lctl_search_ost(fsname, poolname, ostname, cmd);
3677                         if (rc == -ENODEV)
3678                                 return rc;
3679                         if (rc != 1)
3680                                 sleep(2);
3681                         cpt--;
3682                 } while ((rc != 1) && (cpt > 0));
3683                 if (rc == 1) {
3684                         fprintf(stderr, "OST %s added to pool %s.%s\n",
3685                                 ostname, fsname, poolname);
3686                         return 0;
3687                 } else {
3688                         fprintf(stderr, "Warning, OST %s not found in pool %s.%s\n",
3689                                 ostname, fsname, poolname);
3690                         return -ENOENT;
3691                 }
3692         }
3693         case LCFG_POOL_REM: {
3694                 do {
3695                         rc = lctl_search_ost(fsname, poolname, ostname, cmd);
3696                         if (rc == -ENODEV)
3697                                 return rc;
3698                         if (rc == 1)
3699                                 sleep(2);
3700                         cpt--;
3701                 } while ((rc == 1) && (cpt > 0));
3702                 if (rc != 1) {
3703                         fprintf(stderr, "OST %s removed from pool %s.%s\n",
3704                                 ostname, fsname, poolname);
3705                         return 0;
3706                 } else {
3707                         fprintf(stderr, "Warning, OST %s still found in pool %s.%s\n",
3708                                 ostname, fsname, poolname);
3709                         return -EEXIST;
3710                 }
3711         }
3712         default:
3713                 break;
3714         }
3715         return -EINVAL;
3716 }
3717
3718 static int check_and_complete_ostname(char *fsname, char *ostname)
3719 {
3720         char *ptr;
3721         char real_ostname[MAX_OBD_NAME + 1];
3722         char i;
3723
3724         /* if OST name does not start with fsname, we add it */
3725         /* if not check if the fsname is the right one */
3726         ptr = strchr(ostname, '-');
3727         if (ptr == NULL) {
3728                 sprintf(real_ostname, "%s-%s", fsname, ostname);
3729         } else if (strncmp(ostname, fsname, strlen(fsname)) != 0) {
3730                 fprintf(stderr, "%s does not start with fsname %s\n",
3731                         ostname, fsname);
3732                 return -EINVAL;
3733         } else {
3734                 if (strlen(ostname) > sizeof(real_ostname)-1)
3735                         return -E2BIG;
3736                 strncpy(real_ostname, ostname, sizeof(real_ostname));
3737         }
3738         /* real_ostname is fsname-????? */
3739         ptr = real_ostname + strlen(fsname) + 1;
3740         if (strncmp(ptr, "OST", 3) != 0) {
3741                 fprintf(stderr, "%s does not start by %s-OST nor OST\n",
3742                         ostname, fsname);
3743                 return -EINVAL;
3744         }
3745         /* real_ostname is fsname-OST????? */
3746         ptr += 3;
3747         for (i = 0; i < 4; i++) {
3748                 if (!isxdigit(*ptr)) {
3749                         fprintf(stderr,
3750                                 "ost's index in %s is not an hexa number\n",
3751                                 ostname);
3752                         return -EINVAL;
3753                 }
3754                 ptr++;
3755         }
3756         /* real_ostname is fsname-OSTXXXX????? */
3757         /* if OST name does not end with _UUID, we add it */
3758         if (*ptr == '\0') {
3759                 strcat(real_ostname, "_UUID");
3760         } else if (strcmp(ptr, "_UUID") != 0) {
3761                 fprintf(stderr,
3762                         "ostname %s does not end with _UUID\n", ostname);
3763                 return -EINVAL;
3764         }
3765         /* real_ostname is fsname-OSTXXXX_UUID */
3766         strcpy(ostname, real_ostname);
3767         return 0;
3768 }
3769
3770 /* returns 0 or -errno */
3771 static int pool_cmd(enum lcfg_command_type cmd,
3772                     char *cmdname, char *fullpoolname,
3773                     char *fsname, char *poolname, char *ostname)
3774 {
3775         int rc = 0;
3776         struct obd_ioctl_data data;
3777         struct lustre_cfg_bufs bufs;
3778         struct lustre_cfg *lcfg;
3779         char rawbuf[MAX_IOC_BUFLEN], *buf = rawbuf;
3780
3781         rc = check_pool_cmd(cmd, fsname, poolname, ostname);
3782         if (rc == -ENODEV)
3783                 fprintf(stderr, "Can't verify pool command since there "
3784                         "is no local MDT or client, proceeding anyhow...\n");
3785         else if (rc)
3786                 return rc;
3787
3788         lustre_cfg_bufs_reset(&bufs, NULL);
3789         lustre_cfg_bufs_set_string(&bufs, 0, cmdname);
3790         lustre_cfg_bufs_set_string(&bufs, 1, fullpoolname);
3791         if (ostname != NULL)
3792                 lustre_cfg_bufs_set_string(&bufs, 2, ostname);
3793
3794
3795         lcfg = malloc(lustre_cfg_len(bufs.lcfg_bufcount, bufs.lcfg_buflen));
3796         if (lcfg == NULL)
3797                 return -ENOMEM;
3798         lustre_cfg_init(lcfg, cmd, &bufs);
3799
3800         memset(&data, 0, sizeof(data));
3801         rc = data.ioc_dev = get_mgs_device();
3802         if (rc < 0)
3803                 goto out;
3804
3805         data.ioc_type = LUSTRE_CFG_TYPE;
3806         data.ioc_plen1 = lustre_cfg_len(lcfg->lcfg_bufcount,
3807                                         lcfg->lcfg_buflens);
3808         data.ioc_pbuf1 = (void *)lcfg;
3809
3810         memset(buf, 0, sizeof(rawbuf));
3811         rc = llapi_ioctl_pack(&data, &buf, sizeof(rawbuf));
3812         if (rc) {
3813                 fprintf(stderr, "error: %s: invalid ioctl\n",
3814                         jt_cmdname(cmdname));
3815                 free(lcfg);
3816                 return rc;
3817         }
3818         rc = l_ioctl(OBD_DEV_ID, OBD_IOC_POOL, buf);
3819 out:
3820         if (rc)