Whamcloud - gitweb
LU-7734 lnet: Enhance DLC ip2nets
[fs/lustre-release.git] / lnet / utils / portals.c
1 /*
2  * Copyright (c) 2003, 2010, Oracle and/or its affiliates. All rights reserved.
3  *
4  * Copyright (c) 2013, 2015, Intel Corporation.
5  *
6  *   This file is part of Lustre, https://wiki.hpdd.intel.com/
7  *
8  *   Portals is free software; you can redistribute it and/or
9  *   modify it under the terms of version 2 of the GNU General Public
10  *   License as published by the Free Software Foundation.
11  *
12  *   Portals is distributed in the hope that it will be useful,
13  *   but WITHOUT ANY WARRANTY; without even the implied warranty of
14  *   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15  *   GNU General Public License for more details.
16  *
17  *   You should have received a copy of the GNU General Public License
18  *   along with Portals; if not, write to the Free Software
19  *   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
20  *
21  */
22 #include <errno.h>
23 #include <getopt.h>
24 #include <inttypes.h>
25 #include <limits.h>
26 #ifdef HAVE_NETDB_H
27 # include <netdb.h>
28 #endif
29 #include <stdarg.h>
30 #include <stdio.h>
31 #include <stdlib.h>
32 #include <string.h>
33 #include <sys/ioctl.h>
34 #include <sys/time.h>
35 #include <time.h>
36 #include <linux/types.h>
37
38 #include <libcfs/util/string.h>
39 #include <libcfs/util/ioctl.h>
40 #include <libcfs/libcfs_debug.h>
41 #include <lnet/lnetctl.h>
42 #include <lnet/socklnd.h>
43 #include <lnet/lnet.h>
44
45 unsigned int libcfs_debug;
46 unsigned int libcfs_printk = D_CANTMASK;
47
48 static bool  g_net_interactive;
49 static bool  g_net_set;
50 static __u32 g_net;
51
52 #define IOC_BUF_SIZE    8192
53 static char local_buf[IOC_BUF_SIZE];
54 static char *ioc_buf = local_buf;
55
56 /* Convert a string boolean to an int; "enable" -> 1 */
57 int
58 lnet_parse_bool (int *b, char *str)
59 {
60         if (!strcasecmp (str, "no") ||
61             !strcasecmp (str, "n") ||
62             !strcasecmp (str, "off") ||
63             !strcasecmp (str, "down") ||
64             !strcasecmp (str, "disable"))
65         {
66                 *b = 0;
67                 return (0);
68         }
69
70         if (!strcasecmp (str, "yes") ||
71             !strcasecmp (str, "y") ||
72             !strcasecmp (str, "on") ||
73             !strcasecmp (str, "up") ||
74             !strcasecmp (str, "enable"))
75         {
76                 *b = 1;
77                 return (0);
78         }
79
80         return (-1);
81 }
82
83 int
84 lnet_parse_port (int *port, char *str)
85 {
86         char      *end;
87
88         *port = strtol (str, &end, 0);
89
90         if (*end == 0 &&                        /* parsed whole string */
91             *port > 0 && *port < 65536)         /* minimal sanity check */
92                 return (0);
93
94         return (-1);
95 }
96
97 #ifdef HAVE_GETHOSTBYNAME
98 static struct hostent *
99 ptl_gethostbyname(char * hname) {
100         struct hostent *he;
101         he = gethostbyname(hname);
102         if (!he) {
103                 switch(h_errno) {
104                 case HOST_NOT_FOUND:
105                 case NO_ADDRESS:
106                         fprintf(stderr, "Unable to resolve hostname: %s\n",
107                                 hname);
108                         break;
109                 default:
110                         fprintf(stderr, "gethostbyname error for %s: %s\n",
111                                 hname, strerror(h_errno));
112                         break;
113                 }
114                 return NULL;
115         }
116         return he;
117 }
118 #endif
119
120 int
121 lnet_parse_ipquad (__u32 *ipaddrp, char *str)
122 {
123         int             a;
124         int             b;
125         int             c;
126         int             d;
127
128         if (sscanf (str, "%d.%d.%d.%d", &a, &b, &c, &d) == 4 &&
129             (a & ~0xff) == 0 && (b & ~0xff) == 0 &&
130             (c & ~0xff) == 0 && (d & ~0xff) == 0)
131         {
132                 *ipaddrp = (a<<24)|(b<<16)|(c<<8)|d;
133                 return (0);
134         }
135
136         return (-1);
137 }
138
139 int
140 lnet_parse_ipaddr (__u32 *ipaddrp, char *str)
141 {
142 #ifdef HAVE_GETHOSTBYNAME
143         struct hostent *he;
144 #endif
145
146         if (!strcmp (str, "_all_")) {
147                 *ipaddrp = 0;
148                 return (0);
149         }
150
151         if (lnet_parse_ipquad(ipaddrp, str) == 0)
152                 return (0);
153
154 #ifdef HAVE_GETHOSTBYNAME
155         if ((('a' <= str[0] && str[0] <= 'z') ||
156              ('A' <= str[0] && str[0] <= 'Z')) &&
157              (he = ptl_gethostbyname (str)) != NULL) {
158                 __u32 addr = *(__u32 *)he->h_addr;
159
160                 *ipaddrp = ntohl(addr);         /* HOST byte order */
161                 return (0);
162         }
163 #endif
164
165         return (-1);
166 }
167
168 char *
169 ptl_ipaddr_2_str(__u32 ipaddr, char *str, size_t strsize, int lookup)
170 {
171 #ifdef HAVE_GETHOSTBYNAME
172         __u32           net_ip;
173         struct hostent *he;
174
175         if (lookup) {
176                 net_ip = htonl (ipaddr);
177                 he = gethostbyaddr (&net_ip, sizeof (net_ip), AF_INET);
178                 if (he != NULL) {
179                         strlcpy(str, he->h_name, strsize);
180                         return (str);
181                 }
182         }
183 #endif
184
185         sprintf (str, "%d.%d.%d.%d",
186                  (ipaddr >> 24) & 0xff, (ipaddr >> 16) & 0xff,
187                  (ipaddr >> 8) & 0xff, ipaddr & 0xff);
188         return (str);
189 }
190
191 int
192 lnet_parse_time (time_t *t, char *str)
193 {
194         char          *end;
195         int            n;
196         struct tm      tm;
197
198         *t = strtol (str, &end, 0);
199         if (*end == 0) /* parsed whole string */
200                 return (0);
201
202         memset (&tm, 0, sizeof (tm));
203         n = sscanf (str, "%d-%d-%d-%d:%d:%d",
204                     &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
205                     &tm.tm_hour, &tm.tm_min, &tm.tm_sec);
206         if (n != 6)
207                 return (-1);
208
209         tm.tm_mon--;                    /* convert to 0 == Jan */
210         tm.tm_year -= 1900;             /* y2k quirk */
211         tm.tm_isdst = -1;               /* dunno if it's daylight savings... */
212
213         *t = mktime (&tm);
214         if (*t == (time_t)-1)
215                 return (-1);
216
217         return (0);
218 }
219
220 int
221 lnet_parse_nid(char *nid_str, lnet_process_id_t *id_ptr)
222 {
223         id_ptr->pid = LNET_PID_ANY;
224         id_ptr->nid = libcfs_str2nid(nid_str);
225         if (id_ptr->nid == LNET_NID_ANY) {
226                 fprintf (stderr, "Can't parse nid \"%s\"\n", nid_str);
227                 return -1;
228         }
229
230         return 0;
231 }
232
233 static int g_net_is_set(char *cmd)
234 {
235         if (g_net_set)
236                 return 1;
237
238         if (cmd != NULL) {
239                 char *net;
240
241                 if (g_net_interactive)
242                         net = "network";
243                 else
244                         net = "--net";
245
246                 fprintf(stderr,
247                         "You must run '%s <network>' command before '%s'\n",
248                         cmd, net);
249                 return 0;
250         }
251
252         return 0;
253 }
254
255 static int g_net_is_compatible(char *cmd, ...)
256 {
257         va_list ap;
258         int nal;
259
260         if (!g_net_is_set(cmd))
261                 return 0;
262
263         va_start(ap, cmd);
264
265         do {
266                 nal = va_arg(ap, int);
267                 if (nal == LNET_NETTYP(g_net)) {
268                         va_end (ap);
269                         return 1;
270                 }
271         } while (nal != 0);
272
273         va_end (ap);
274
275         if (cmd != NULL)
276                 fprintf (stderr,
277                          "Command %s not compatible with %s NAL\n",
278                          cmd,
279                          libcfs_lnd2str(LNET_NETTYP(g_net)));
280
281         return 0;
282 }
283
284 int ptl_initialize(int argc, char **argv)
285 {
286         if (argc > 1)
287                 g_net_interactive = true;
288
289         register_ioc_dev(LNET_DEV_ID, LNET_DEV_PATH,
290                          LNET_DEV_MAJOR, LNET_DEV_MINOR);
291         return 0;
292 }
293
294
295 int jt_ptl_network(int argc, char **argv)
296 {
297         struct libcfs_ioctl_data data;
298         __u32 net = LNET_NIDNET(LNET_NID_ANY);
299         int rc;
300
301         if (argc != 2) {
302                 fprintf(stderr, "usage: %s <net>|up|down\n", argv[0]);
303                 return -1;
304         }
305
306         if (!strcmp(argv[1], "unconfigure") || !strcmp(argv[1], "down")) {
307                 LIBCFS_IOC_INIT(data);
308                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_UNCONFIGURE, &data);
309
310                 if (rc == 0) {
311                         printf("LNET ready to unload\n");
312                         return 0;
313                 }
314
315                 if (errno == EBUSY)
316                         fprintf(stderr, "LNET busy\n");
317                 else
318                         fprintf(stderr, "LNET unconfigure error %d: %s\n",
319                                 errno, strerror(errno));
320                 return -1;
321         } else if (!strcmp(argv[1], "configure") || !strcmp(argv[1], "up")) {
322                 LIBCFS_IOC_INIT(data);
323                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CONFIGURE, &data);
324
325                 if (rc == 0) {
326                         printf("LNET configured\n");
327                         return 0;
328                 }
329
330                 fprintf(stderr, "LNET configure error %d: %s\n",
331                         errno, strerror(errno));
332                 return -1;
333         }
334
335         net = libcfs_str2net(argv[1]);
336         if (net == LNET_NIDNET(LNET_NID_ANY)) {
337                 fprintf(stderr, "Can't parse net %s\n", argv[1]);
338                 return -1;
339         }
340
341         if (LNET_NETTYP(net) == QSWLND || LNET_NETTYP(net) == GMLND ||
342             LNET_NETTYP(net) == PTLLND || LNET_NETTYP(net) == CIBLND ||
343             LNET_NETTYP(net) == OPENIBLND || LNET_NETTYP(net) == IIBLND ||
344             LNET_NETTYP(net) == RALND || LNET_NETTYP(net) == VIBLND ||
345             LNET_NETTYP(net) == MXLND) {
346                 fprintf(stderr, "Net %s obsoleted\n", libcfs_lnd2str(net));
347                 return -1;
348         }
349
350         g_net_set = true;
351         g_net = net;
352         return 0;
353 }
354
355 int
356 jt_ptl_list_nids(int argc, char **argv)
357 {
358         struct libcfs_ioctl_data data;
359         int                      all = 0, return_nid = 0;
360         int                      count;
361         int                      rc;
362
363         all = (argc == 2) && (strcmp(argv[1], "all") == 0);
364         /* Hack to pass back value */
365         return_nid = (argc == 2) && (argv[1][0] == 1);
366
367         if ((argc > 2) && !(all || return_nid)) {
368                 fprintf(stderr, "usage: %s [all]\n", argv[0]);
369                 return 0;
370         }
371
372         for (count = 0;; count++) {
373                 LIBCFS_IOC_INIT (data);
374                 data.ioc_count = count;
375                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_NI, &data);
376
377                 if (rc < 0) {
378                         if ((count > 0) && (errno == ENOENT))
379                                 /* We found them all */
380                                 break;
381                         fprintf(stderr,"IOC_LIBCFS_GET_NI error %d: %s\n",
382                                 errno, strerror(errno));
383                         return -1;
384                 }
385
386                 if (all || (LNET_NETTYP(LNET_NIDNET(data.ioc_nid)) != LOLND)) {
387                         printf("%s\n", libcfs_nid2str(data.ioc_nid));
388                         if (return_nid) {
389                                 *(__u64 *)(argv[1]) = data.ioc_nid;
390                                 return_nid--;
391                         }
392                 }
393         }
394
395         return 0;
396 }
397
398 int
399 jt_ptl_which_nid (int argc, char **argv)
400 {
401         struct libcfs_ioctl_data data;
402         int          best_dist = 0;
403         int          best_order = 0;
404         lnet_nid_t   best_nid = LNET_NID_ANY;
405         int          dist;
406         int          order;
407         lnet_nid_t   nid;
408         char        *nidstr;
409         int          rc;
410         int          i;
411
412         if (argc < 2) {
413                 fprintf(stderr, "usage: %s NID [NID...]\n", argv[0]);
414                 return 0;
415         }
416
417         for (i = 1; i < argc; i++) {
418                 nidstr = argv[i];
419                 nid = libcfs_str2nid(nidstr);
420                 if (nid == LNET_NID_ANY) {
421                         fprintf(stderr, "Can't parse NID %s\n", nidstr);
422                         return -1;
423                 }
424
425                 LIBCFS_IOC_INIT(data);
426                 data.ioc_nid = nid;
427
428                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_DIST, &data);
429                 if (rc != 0) {
430                         fprintf(stderr, "Can't get distance to %s: %s\n",
431                                 nidstr, strerror(errno));
432                         return -1;
433                 }
434
435                 dist = data.ioc_u32[0];
436                 order = data.ioc_u32[1];
437
438                 if (dist < 0) {
439                         if (dist == -EHOSTUNREACH)
440                                 continue;
441
442                         fprintf(stderr, "Unexpected distance to %s: %d\n",
443                                 nidstr, dist);
444                         return -1;
445                 }
446
447                 if (best_nid == LNET_NID_ANY ||
448                     dist < best_dist ||
449                     (dist == best_dist && order < best_order)) {
450                         best_dist = dist;
451                         best_order = order;
452                         best_nid = nid;
453                 }
454         }
455
456         if (best_nid == LNET_NID_ANY) {
457                 fprintf(stderr, "No reachable NID\n");
458                 return -1;
459         }
460
461         printf("%s\n", libcfs_nid2str(best_nid));
462         return 0;
463 }
464
465 int
466 jt_ptl_print_interfaces (int argc, char **argv)
467 {
468         struct libcfs_ioctl_data data;
469         char                     buffer[3][HOST_NAME_MAX + 1];
470         int                      index;
471         int                      rc;
472
473         if (!g_net_is_compatible (argv[0], SOCKLND, 0))
474                 return -1;
475
476         for (index = 0;;index++) {
477                 LIBCFS_IOC_INIT(data);
478                 data.ioc_net   = g_net;
479                 data.ioc_count = index;
480
481                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_INTERFACE, &data);
482                 if (rc != 0)
483                         break;
484
485                 printf ("%s: (%s/%s) npeer %d nroute %d\n",
486                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[2],
487                                          sizeof(buffer[2]), 1),
488                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[0],
489                                          sizeof(buffer[0]), 0),
490                         ptl_ipaddr_2_str(data.ioc_u32[1], buffer[1],
491                                          sizeof(buffer[1]), 0),
492                         data.ioc_u32[2], data.ioc_u32[3]);
493         }
494
495         if (index == 0) {
496                 if (errno == ENOENT) {
497                         printf ("<no interfaces>\n");
498                 } else {
499                         fprintf(stderr, "Error getting interfaces: %s: "
500                                 "check dmesg.\n",
501                                 strerror(errno));
502                 }
503         }
504
505         return 0;
506 }
507
508 int
509 jt_ptl_add_interface (int argc, char **argv)
510 {
511         struct libcfs_ioctl_data data;
512         __u32                    ipaddr;
513         int                      rc;
514         __u32                    netmask = 0xffffff00;
515         int                      i;
516         int                      count;
517         char                    *end;
518
519         if (argc < 2 || argc > 3) {
520                 fprintf (stderr, "usage: %s ipaddr [netmask]\n", argv[0]);
521                 return 0;
522         }
523
524         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
525                 return -1;
526
527         if (lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
528                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
529                 return -1;
530         }
531
532         if (argc > 2 ) {
533                 count = strtol(argv[2], &end, 0);
534                 if (count > 0 && count < 32 && *end == 0) {
535                         netmask = 0;
536                         for (i = count; i > 0; i--)
537                                 netmask = netmask|(1<<(32-i));
538                 } else if (lnet_parse_ipquad(&netmask, argv[2]) != 0) {
539                         fprintf (stderr, "Can't parse netmask: %s\n", argv[2]);
540                         return -1;
541                 }
542         }
543
544         LIBCFS_IOC_INIT(data);
545         data.ioc_net    = g_net;
546         data.ioc_u32[0] = ipaddr;
547         data.ioc_u32[1] = netmask;
548
549         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_INTERFACE, &data);
550         if (rc != 0) {
551                 fprintf (stderr, "failed to add interface: %s\n",
552                          strerror (errno));
553                 return -1;
554         }
555
556         return 0;
557 }
558
559 int
560 jt_ptl_del_interface (int argc, char **argv)
561 {
562         struct libcfs_ioctl_data data;
563         int                      rc;
564         __u32                    ipaddr = 0;
565
566         if (argc > 2) {
567                 fprintf (stderr, "usage: %s [ipaddr]\n", argv[0]);
568                 return 0;
569         }
570
571         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
572                 return -1;
573
574         if (argc == 2 &&
575             lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
576                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
577                 return -1;
578         }
579
580         LIBCFS_IOC_INIT(data);
581         data.ioc_net    = g_net;
582         data.ioc_u32[0] = ipaddr;
583
584         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_INTERFACE, &data);
585         if (rc != 0) {
586                 fprintf (stderr, "failed to delete interface: %s\n",
587                          strerror (errno));
588                 return -1;
589         }
590
591         return 0;
592 }
593
594 int
595 jt_ptl_print_peers (int argc, char **argv)
596 {
597         struct libcfs_ioctl_data data;
598         lnet_process_id_t        id;
599         char                     buffer[2][HOST_NAME_MAX + 1];
600         int                      index;
601         int                      rc;
602
603         if (!g_net_is_compatible(argv[0], SOCKLND, O2IBLND, GNILND,
604                                  PTL4LND, 0))
605                 return -1;
606
607         for (index = 0;;index++) {
608                 LIBCFS_IOC_INIT(data);
609                 data.ioc_net     = g_net;
610                 data.ioc_count   = index;
611
612                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_PEER, &data);
613                 if (rc != 0)
614                         break;
615
616                 if (g_net_is_compatible(NULL, SOCKLND, 0)) {
617                         id.nid = data.ioc_nid;
618                         id.pid = data.ioc_u32[4];
619                         printf ("%-20s [%d]%s->%s:%d #%d\n",
620                                 libcfs_id2str(id),
621                                 data.ioc_count, /* persistence */
622                                 /* my ip */
623                                 ptl_ipaddr_2_str(data.ioc_u32[2], buffer[0],
624                                                  sizeof(buffer[0]), 1),
625                                 /* peer ip */
626                                 ptl_ipaddr_2_str(data.ioc_u32[0], buffer[1],
627                                                  sizeof(buffer[1]), 1),
628                                 data.ioc_u32[1], /* peer port */
629                                 data.ioc_u32[3]); /* conn_count */
630                 } else if (g_net_is_compatible(NULL, GNILND, 0)) {
631                         int disconn = data.ioc_flags >> 16;
632                         char *state;
633
634                         if (disconn)
635                                 state = "D";
636                         else
637                                 state = data.ioc_flags & 0xffff ? "C" : "U";
638
639                         printf("%-20s (%d) %s [%d] %ju sq %d/%d tx %d/%d/%d\n",
640                                libcfs_nid2str(data.ioc_nid), /* peer nid */
641                                data.ioc_net, /* gemini device id */
642                                state, /* peer is Connecting, Up, or Down */
643                                data.ioc_count,   /* peer refcount */
644                                (uintmax_t)data.ioc_u64[0], /* peerstamp */
645                                data.ioc_u32[2], data.ioc_u32[3], /* tx and rx seq */
646                                /* fmaq, nfma, nrdma */
647                                data.ioc_u32[0], data.ioc_u32[1], data.ioc_u32[4]);
648                 } else {
649                         printf ("%-20s [%d]\n",
650                                 libcfs_nid2str(data.ioc_nid), data.ioc_count);
651                 }
652         }
653
654         if (index == 0) {
655                 if (errno == ENOENT) {
656                         printf ("<no peers>\n");
657                 } else {
658                         fprintf(stderr, "Error getting peer list: %s: "
659                                 "check dmesg.\n",
660                                 strerror(errno));
661                 }
662         }
663         return 0;
664 }
665
666 int jt_ptl_add_peer(int argc, char **argv)
667 {
668         struct libcfs_ioctl_data data;
669         lnet_nid_t nid;
670         __u32 ip = 0;
671         int port = 0;
672         int rc;
673
674         if (!g_net_is_compatible(argv[0], SOCKLND, GNILND, 0))
675                 return -1;
676
677         if (argc != 4) {
678                 fprintf(stderr, "usage(tcp,gni): %s nid ipaddr port\n",
679                         argv[0]);
680                 return 0;
681         }
682
683         nid = libcfs_str2nid(argv[1]);
684         if (nid == LNET_NID_ANY) {
685                 fprintf (stderr, "Can't parse NID: %s\n", argv[1]);
686                 return -1;
687         }
688
689         if (lnet_parse_ipaddr (&ip, argv[2]) != 0) {
690                 fprintf (stderr, "Can't parse ip addr: %s\n", argv[2]);
691                 return -1;
692         }
693
694         if (lnet_parse_port (&port, argv[3]) != 0) {
695                 fprintf (stderr, "Can't parse port: %s\n", argv[3]);
696                 return -1;
697         }
698
699         LIBCFS_IOC_INIT(data);
700         data.ioc_net    = g_net;
701         data.ioc_nid    = nid;
702         data.ioc_u32[0] = ip;
703         data.ioc_u32[1] = port;
704
705         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_ADD_PEER, &data);
706         if (rc != 0) {
707                 fprintf (stderr, "failed to add peer: %s\n",
708                          strerror (errno));
709                 return -1;
710         }
711
712         return 0;
713 }
714
715 int
716 jt_ptl_del_peer (int argc, char **argv)
717 {
718         struct libcfs_ioctl_data data;
719         lnet_nid_t               nid = LNET_NID_ANY;
720         lnet_pid_t               pid = LNET_PID_ANY;
721         __u32                    ip = 0;
722         int                      rc;
723
724         if (!g_net_is_compatible(argv[0], SOCKLND, O2IBLND, GNILND,
725                                  PTL4LND, 0))
726                 return -1;
727
728         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
729                 if (argc > 3) {
730                         fprintf (stderr, "usage: %s [nid] [ipaddr]\n",
731                                  argv[0]);
732                         return 0;
733                 }
734         } else if (argc > 2) {
735                 fprintf (stderr, "usage: %s [nid]\n", argv[0]);
736                 return 0;
737         }
738
739         if (argc > 1 &&
740             !libcfs_str2anynid(&nid, argv[1])) {
741                 fprintf (stderr, "Can't parse nid: %s\n", argv[1]);
742                 return -1;
743         }
744
745         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
746                 if (argc > 2 &&
747                     lnet_parse_ipaddr (&ip, argv[2]) != 0) {
748                         fprintf (stderr, "Can't parse ip addr: %s\n",
749                                  argv[2]);
750                         return -1;
751                 }
752         }
753
754         LIBCFS_IOC_INIT(data);
755         data.ioc_net    = g_net;
756         data.ioc_nid    = nid;
757         data.ioc_u32[0] = ip;
758         data.ioc_u32[1] = pid;
759
760         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_PEER, &data);
761         if (rc != 0) {
762                 fprintf (stderr, "failed to remove peer: %s\n",
763                          strerror (errno));
764                 return -1;
765         }
766
767         return 0;
768 }
769
770 int
771 jt_ptl_print_connections (int argc, char **argv)
772 {
773         struct libcfs_ioctl_data data;
774         lnet_process_id_t        id;
775         char                     buffer[2][HOST_NAME_MAX + 1];
776         int                      index;
777         int                      rc;
778
779         if (!g_net_is_compatible(argv[0], SOCKLND, O2IBLND, GNILND, 0))
780                 return -1;
781
782         for (index = 0; ; index++) {
783                 LIBCFS_IOC_INIT(data);
784                 data.ioc_net     = g_net;
785                 data.ioc_count   = index;
786
787                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_CONN, &data);
788                 if (rc != 0)
789                         break;
790
791                 if (g_net_is_compatible (NULL, SOCKLND, 0)) {
792                         id.nid = data.ioc_nid;
793                         id.pid = data.ioc_u32[6];
794                         printf ("%-20s %s[%d]%s->%s:%d %d/%d %s\n",
795                                 libcfs_id2str(id),
796                                 (data.ioc_u32[3] == SOCKLND_CONN_ANY) ? "A" :
797                                 (data.ioc_u32[3] == SOCKLND_CONN_CONTROL) ? "C" :
798                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_IN) ? "I" :
799                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_OUT) ? "O" : "?",
800                                 data.ioc_u32[4], /* scheduler */
801                                 /* local IP addr */
802                                 ptl_ipaddr_2_str(data.ioc_u32[2], buffer[0],
803                                                  sizeof(buffer[0]), 1),
804                                 /* remote IP addr */
805                                 ptl_ipaddr_2_str(data.ioc_u32[0], buffer[1],
806                                                  sizeof(buffer[1]), 1),
807                                 data.ioc_u32[1],         /* remote port */
808                                 data.ioc_count, /* tx buffer size */
809                                 data.ioc_u32[5], /* rx buffer size */
810                                 data.ioc_flags ? "nagle" : "nonagle");
811                 } else if (g_net_is_compatible (NULL, O2IBLND, 0)) {
812                         printf ("%s mtu %d\n",
813                                 libcfs_nid2str(data.ioc_nid),
814                                 data.ioc_u32[0]); /* path MTU */
815                 } else if (g_net_is_compatible (NULL, GNILND, 0)) {
816                         printf ("%-20s [%d]\n",
817                                 libcfs_nid2str(data.ioc_nid),
818                                 data.ioc_u32[0] /* device id */);
819                 } else {
820                         printf ("%s\n", libcfs_nid2str(data.ioc_nid));
821                 }
822         }
823
824         if (index == 0) {
825                 if (errno == ENOENT) {
826                         printf ("<no connections>\n");
827                 } else {
828                         fprintf(stderr, "Error getting connection list: %s: "
829                                 "check dmesg.\n",
830                                 strerror(errno));
831                 }
832         }
833         return 0;
834 }
835
836 int jt_ptl_disconnect(int argc, char **argv)
837 {
838         struct libcfs_ioctl_data data;
839         lnet_nid_t               nid = LNET_NID_ANY;
840         __u32                    ipaddr = 0;
841         int                      rc;
842
843         if (argc > 3) {
844                 fprintf(stderr, "usage: %s [nid] [ipaddr]\n", argv[0]);
845                 return 0;
846         }
847
848         if (!g_net_is_compatible(NULL, SOCKLND, O2IBLND, GNILND, 0))
849                 return 0;
850
851         if (argc >= 2 &&
852             !libcfs_str2anynid(&nid, argv[1])) {
853                 fprintf (stderr, "Can't parse nid %s\n", argv[1]);
854                 return -1;
855         }
856
857         if (g_net_is_compatible (NULL, SOCKLND, 0) &&
858             argc >= 3 &&
859             lnet_parse_ipaddr (&ipaddr, argv[2]) != 0) {
860                 fprintf (stderr, "Can't parse ip addr %s\n", argv[2]);
861                 return -1;
862         }
863
864         LIBCFS_IOC_INIT(data);
865         data.ioc_net     = g_net;
866         data.ioc_nid     = nid;
867         data.ioc_u32[0]  = ipaddr;
868
869         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CLOSE_CONNECTION, &data);
870         if (rc != 0) {
871                 fprintf(stderr, "failed to remove connection: %s\n",
872                         strerror(errno));
873                 return -1;
874         }
875
876         return 0;
877 }
878
879 int jt_ptl_push_connection (int argc, char **argv)
880 {
881         struct libcfs_ioctl_data data;
882         int                      rc;
883         lnet_nid_t               nid = LNET_NID_ANY;
884
885         if (argc > 2) {
886                 fprintf(stderr, "usage: %s [nid]\n", argv[0]);
887                 return 0;
888         }
889
890         if (!g_net_is_compatible (argv[0], SOCKLND, GNILND, 0))
891                 return -1;
892
893         if (argc > 1 &&
894             !libcfs_str2anynid(&nid, argv[1])) {
895                 fprintf(stderr, "Can't parse nid: %s\n", argv[1]);
896                 return -1;
897         }
898
899         LIBCFS_IOC_INIT(data);
900         data.ioc_net     = g_net;
901         data.ioc_nid     = nid;
902
903         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PUSH_CONNECTION, &data);
904         if (rc != 0) {
905                 fprintf(stderr, "failed to push connection: %s\n",
906                         strerror(errno));
907                 return -1;
908         }
909
910         return 0;
911 }
912
913 int jt_ptl_ping(int argc, char **argv)
914 {
915         int                      rc;
916         int                      timeout;
917         lnet_process_id_t        id;
918         lnet_process_id_t        ids[16];
919         int                      maxids = sizeof(ids)/sizeof(ids[0]);
920         struct libcfs_ioctl_data data;
921         char                    *sep;
922         int                      i;
923
924         if (argc < 2) {
925                 fprintf(stderr, "usage: %s id [timeout (secs)]\n", argv[0]);
926                 return 0;
927         }
928
929         sep = strchr(argv[1], '-');
930         if (sep == NULL) {
931                 rc = lnet_parse_nid(argv[1], &id);
932                 if (rc != 0)
933                         return -1;
934         } else {
935                 char   *end;
936
937                 if (argv[1][0] == 'u' ||
938                     argv[1][0] == 'U')
939                         id.pid = strtoul(&argv[1][1], &end, 0) | LNET_PID_USERFLAG;
940                 else
941                         id.pid = strtoul(argv[1], &end, 0);
942
943                 if (end != sep) { /* assuming '-' is part of hostname */
944                         rc = lnet_parse_nid(argv[1], &id);
945                         if (rc != 0)
946                                 return -1;
947                 } else {
948                         id.nid = libcfs_str2nid(sep + 1);
949
950                         if (id.nid == LNET_NID_ANY) {
951                                 fprintf(stderr,
952                                         "Can't parse process id \"%s\"\n",
953                                         argv[1]);
954                                 return -1;
955                         }
956                 }
957         }
958
959         if (argc > 2) {
960                 timeout = 1000 * atol(argv[2]);
961                 if (timeout > 120 * 1000) {
962                         fprintf(stderr, "Timeout %s is to large\n",
963                                 argv[2]);
964                         return -1;
965                 }
966         } else
967                 timeout = 1000;                 /* default 1 second timeout */
968
969         LIBCFS_IOC_INIT (data);
970         data.ioc_nid     = id.nid;
971         data.ioc_u32[0]  = id.pid;
972         data.ioc_u32[1]  = timeout;
973         data.ioc_plen1   = sizeof(ids);
974         data.ioc_pbuf1   = (char *)ids;
975
976         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PING, &data);
977         if (rc != 0) {
978                 fprintf(stderr, "failed to ping %s: %s\n",
979                         id.pid == LNET_PID_ANY ?
980                         libcfs_nid2str(id.nid) : libcfs_id2str(id),
981                         strerror(errno));
982                 return -1;
983         }
984
985         for (i = 0; i < data.ioc_count && i < maxids; i++)
986                 printf("%s\n", libcfs_id2str(ids[i]));
987
988         if (data.ioc_count > maxids)
989                 printf("%d out of %d ids listed\n", maxids, data.ioc_count);
990
991         return 0;
992 }
993
994 int jt_ptl_mynid(int argc, char **argv)
995 {
996         struct libcfs_ioctl_data data;
997         lnet_nid_t               nid;
998         int rc;
999
1000         if (argc != 2) {
1001                 fprintf(stderr, "usage: %s NID\n", argv[0]);
1002                 return 0;
1003         }
1004
1005         nid = libcfs_str2nid(argv[1]);
1006         if (nid == LNET_NID_ANY) {
1007                 fprintf(stderr, "Can't parse NID '%s'\n", argv[1]);
1008                 return -1;
1009         }
1010
1011         LIBCFS_IOC_INIT(data);
1012         data.ioc_net = LNET_NIDNET(nid);
1013         data.ioc_nid = nid;
1014
1015         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_REGISTER_MYNID, &data);
1016         if (rc < 0)
1017                 fprintf(stderr, "setting my NID failed: %s\n",
1018                        strerror(errno));
1019         else
1020                 printf("registered my nid %s\n", libcfs_nid2str(nid));
1021
1022         return 0;
1023 }
1024
1025 int
1026 jt_ptl_fail_nid (int argc, char **argv)
1027 {
1028         int                      rc;
1029         lnet_nid_t               nid;
1030         int                      threshold;
1031         struct libcfs_ioctl_data data;
1032
1033         if (argc < 2 || argc > 3)
1034         {
1035                 fprintf (stderr, "usage: %s nid|\"*\" [count (0 == mend)]\n", argv[0]);
1036                 return (0);
1037         }
1038
1039         if (!libcfs_str2anynid(&nid, argv[1]))
1040         {
1041                 fprintf (stderr, "Can't parse nid \"%s\"\n", argv[1]);
1042                 return (-1);
1043         }
1044
1045         if (argc < 3) {
1046                 threshold = LNET_MD_THRESH_INF;
1047         } else if (sscanf(argv[2], "%i", &threshold) != 1) {
1048                 fprintf (stderr, "Can't parse count \"%s\"\n", argv[2]);
1049                 return (-1);
1050         }
1051
1052         LIBCFS_IOC_INIT (data);
1053         data.ioc_nid = nid;
1054         data.ioc_count = threshold;
1055
1056         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_FAIL_NID, &data);
1057         if (rc < 0)
1058                 fprintf (stderr, "IOC_LIBCFS_FAIL_NID failed: %s\n",
1059                          strerror (errno));
1060         else
1061                 printf ("%s %s\n", threshold == 0 ? "Unfailing" : "Failing", argv[1]);
1062
1063         return (0);
1064 }
1065
1066 int
1067 jt_ptl_add_route (int argc, char **argv)
1068 {
1069         struct lnet_ioctl_config_data data;
1070         lnet_nid_t               gateway_nid;
1071         __u32                    hops = LNET_UNDEFINED_HOPS;
1072         unsigned int             priority = 0;
1073         char                    *end;
1074         int                      rc;
1075
1076         if (argc < 2 || argc > 4) {
1077                 fprintf(stderr, "usage: %s gateway [hopcount [priority]]\n",
1078                         argv[0]);
1079                 return -1;
1080         }
1081
1082         if (g_net_is_set(argv[0]) == 0)
1083                 return -1;
1084
1085         gateway_nid = libcfs_str2nid(argv[1]);
1086         if (gateway_nid == LNET_NID_ANY) {
1087                 fprintf(stderr, "Can't parse gateway NID \"%s\"\n", argv[1]);
1088                 return -1;
1089         }
1090
1091         if (argc > 2) {
1092                 hops = strtol(argv[2], &end, 0);
1093                 if (hops == 0 || hops >= 256 ||
1094                     (end != NULL && *end != 0)) {
1095                         fprintf(stderr, "Can't parse hopcount \"%s\"\n",
1096                                 argv[2]);
1097                         return -1;
1098                 }
1099                 if (argc == 4) {
1100                         priority = strtoul(argv[3], &end, 0);
1101                         if (end != NULL && *end != 0) {
1102                                 fprintf(stderr,
1103                                         "Can't parse priority \"%s\"\n",
1104                                         argv[3]);
1105                                 return -1;
1106                         }
1107                 }
1108         }
1109
1110         LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1111         data.cfg_net = g_net;
1112         data.cfg_config_u.cfg_route.rtr_hop = hops;
1113         data.cfg_nid = gateway_nid;
1114         data.cfg_config_u.cfg_route.rtr_priority = priority;
1115
1116         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_ROUTE, &data);
1117         if (rc != 0) {
1118                 fprintf(stderr, "IOC_LIBCFS_ADD_ROUTE failed: %s\n",
1119                         strerror(errno));
1120                 return -1;
1121         }
1122
1123         return 0;
1124 }
1125
1126 int
1127 jt_ptl_del_route (int argc, char **argv)
1128 {
1129         struct lnet_ioctl_config_data data;
1130         lnet_nid_t               nid;
1131         int                      rc;
1132
1133         if (argc != 2) {
1134                 fprintf(stderr, "usage: %s gatewayNID\n", argv[0]);
1135                 return 0;
1136         }
1137
1138         if (libcfs_str2anynid(&nid, argv[1]) == 0) {
1139                 fprintf(stderr, "Can't parse gateway NID "
1140                         "\"%s\"\n", argv[1]);
1141                 return -1;
1142         }
1143
1144         LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1145         data.cfg_net = g_net_set ? g_net : LNET_NIDNET(LNET_NID_ANY);
1146         data.cfg_nid = nid;
1147
1148         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_ROUTE, &data);
1149         if (rc != 0) {
1150                 fprintf(stderr, "IOC_LIBCFS_DEL_ROUTE (%s) failed: %s\n",
1151                         libcfs_nid2str(nid), strerror(errno));
1152                 return -1;
1153         }
1154
1155         return 0;
1156 }
1157
1158 int
1159 jt_ptl_notify_router (int argc, char **argv)
1160 {
1161         struct libcfs_ioctl_data data;
1162         int                      enable;
1163         lnet_nid_t               nid;
1164         int                      rc;
1165         struct timeval           now;
1166         time_t                   when;
1167
1168         if (argc < 3)
1169         {
1170                 fprintf (stderr, "usage: %s targetNID <up/down> [<time>]\n", 
1171                          argv[0]);
1172                 return (0);
1173         }
1174
1175         nid = libcfs_str2nid(argv[1]);
1176         if (nid == LNET_NID_ANY) {
1177                 fprintf (stderr, "Can't parse target NID \"%s\"\n", argv[1]);
1178                 return (-1);
1179         }
1180
1181         if (lnet_parse_bool (&enable, argv[2]) != 0) {
1182                 fprintf (stderr, "Can't parse boolean %s\n", argv[2]);
1183                 return (-1);
1184         }
1185
1186         gettimeofday(&now, NULL);
1187
1188         if (argc < 4) {
1189                 when = now.tv_sec;
1190         } else if (lnet_parse_time (&when, argv[3]) != 0) {
1191                 fprintf(stderr, "Can't parse time %s\n"
1192                         "Please specify either 'YYYY-MM-DD-HH:MM:SS'\n"
1193                         "or an absolute unix time in seconds\n", argv[3]);
1194                 return (-1);
1195         } else if (when > now.tv_sec) {
1196                 fprintf (stderr, "%s specifies a time in the future\n",
1197                          argv[3]);
1198                 return (-1);
1199         }
1200
1201         LIBCFS_IOC_INIT(data);
1202         data.ioc_nid = nid;
1203         data.ioc_flags = enable;
1204         /* Yeuch; 'cept I need a __u64 on 64 bit machines... */
1205         data.ioc_u64[0] = (__u64)when;
1206
1207         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_NOTIFY_ROUTER, &data);
1208         if (rc != 0) {
1209                 fprintf (stderr, "IOC_LIBCFS_NOTIFY_ROUTER (%s) failed: %s\n",
1210                          libcfs_nid2str(nid), strerror (errno));
1211                 return (-1);
1212         }
1213
1214         return (0);
1215 }
1216
1217 int
1218 jt_ptl_print_routes (int argc, char **argv)
1219 {
1220         struct lnet_ioctl_config_data  data;
1221         int                       rc;
1222         int                       index;
1223         __u32                     net;
1224         lnet_nid_t                nid;
1225         unsigned int              hops;
1226         int                       alive;
1227         unsigned int              pri;
1228
1229         for (index = 0; ; index++) {
1230                 LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1231                 data.cfg_count = index;
1232
1233                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_ROUTE, &data);
1234                 if (rc != 0)
1235                         break;
1236
1237                 net     = data.cfg_net;
1238                 hops    = data.cfg_config_u.cfg_route.rtr_hop;
1239                 nid     = data.cfg_nid;
1240                 alive   = data.cfg_config_u.cfg_route.rtr_flags;
1241                 pri     = data.cfg_config_u.cfg_route.rtr_priority;
1242
1243                 printf("net %18s hops %u gw %32s %s pri %u\n",
1244                        libcfs_net2str(net), hops,
1245                        libcfs_nid2str(nid), alive ? "up" : "down", pri);
1246         }
1247
1248         if (errno != ENOENT)
1249                 fprintf(stderr, "Error getting routes: %s: check dmesg.\n",
1250                         strerror(errno));
1251
1252         return 0;
1253 }
1254
1255 static int
1256 fault_attr_nid_parse(char *str, lnet_nid_t *nid_p)
1257 {
1258         lnet_nid_t nid;
1259         __u32      net;
1260         int        rc = 0;
1261
1262         /* NB: can't support range ipaddress except * and *@net */
1263         if (strlen(str) > 2 && str[0] == '*' && str[1] == '@') {
1264                 net = libcfs_str2net(str + 2);
1265                 if (net == LNET_NIDNET(LNET_NID_ANY))
1266                         goto failed;
1267
1268                 nid = LNET_MKNID(net, LNET_NIDADDR(LNET_NID_ANY));
1269         } else {
1270                 rc = libcfs_str2anynid(&nid, str);
1271                 if (!rc)
1272                         goto failed;
1273         }
1274
1275         *nid_p = nid;
1276         return 0;
1277 failed:
1278         fprintf(stderr, "Invalid NID : %s\n", str);
1279         return -1;
1280 }
1281
1282 static int
1283 fault_attr_msg_parse(char *msg_str, __u32 *mask_p)
1284 {
1285         if (!strcasecmp(msg_str, "put")) {
1286                 *mask_p |= LNET_PUT_BIT;
1287                 return 0;
1288
1289         } else if (!strcasecmp(msg_str, "ack")) {
1290                 *mask_p |= LNET_ACK_BIT;
1291                 return 0;
1292
1293         } else if (!strcasecmp(msg_str, "get")) {
1294                 *mask_p |= LNET_GET_BIT;
1295                 return 0;
1296
1297         } else if (!strcasecmp(msg_str, "reply")) {
1298                 *mask_p |= LNET_REPLY_BIT;
1299                 return 0;
1300         }
1301
1302         fprintf(stderr, "unknown message type %s\n", msg_str);
1303         return -1;
1304 }
1305
1306 static int
1307 fault_attr_ptl_parse(char *ptl_str, __u64 *mask_p)
1308 {
1309         unsigned long rc = strtoul(optarg, NULL, 0);
1310
1311         if (rc >= 64) {
1312                 fprintf(stderr, "invalid portal: %lu\n", rc);
1313                 return -1;
1314         }
1315
1316         *mask_p |= (1ULL << rc);
1317         return 0;
1318 }
1319
1320 static int
1321 fault_simul_rule_add(__u32 opc, char *name, int argc, char **argv)
1322 {
1323         struct libcfs_ioctl_data  data = {{0}};
1324         struct lnet_fault_attr    attr;
1325         char                     *optstr;
1326         int                       rc;
1327
1328         static struct option opts[] = {
1329                 {"source",      required_argument,      0,      's'},
1330                 {"dest",        required_argument,      0,      'd'},
1331                 {"rate",        required_argument,      0,      'r'},
1332                 {"interval",    required_argument,      0,      'i'},
1333                 {"latency",     required_argument,      0,      'l'},
1334                 {"portal",      required_argument,      0,      'p'},
1335                 {"message",     required_argument,      0,      'm'},
1336                 {0, 0, 0, 0}
1337         };
1338
1339         if (argc == 1) {
1340                 fprintf(stderr, "Failed, please provide source, destination "
1341                                 "and rate of rule\n");
1342                 return -1;
1343         }
1344
1345         optstr = opc == LNET_CTL_DROP_ADD ? "s:d:r:i:p:m:" : "s:d:r:l:p:m:";
1346         memset(&attr, 0, sizeof(attr));
1347         while (1) {
1348                 char c = getopt_long(argc, argv, optstr, opts, NULL);
1349
1350                 if (c == -1)
1351                         break;
1352
1353                 switch (c) {
1354                 case 's': /* source NID/NET */
1355                         rc = fault_attr_nid_parse(optarg, &attr.fa_src);
1356                         if (rc != 0)
1357                                 goto getopt_failed;
1358                         break;
1359
1360                 case 'd': /* dest NID/NET */
1361                         rc = fault_attr_nid_parse(optarg, &attr.fa_dst);
1362                         if (rc != 0)
1363                                 goto getopt_failed;
1364                         break;
1365
1366                 case 'r': /* drop rate */
1367                         if (opc == LNET_CTL_DROP_ADD)
1368                                 attr.u.drop.da_rate = strtoul(optarg, NULL, 0);
1369                         else
1370                                 attr.u.delay.la_rate = strtoul(optarg, NULL, 0);
1371                         break;
1372
1373                 case 'i': /* time interval (# seconds) for message drop */
1374                         if (opc == LNET_CTL_DROP_ADD)
1375                                 attr.u.drop.da_interval = strtoul(optarg,
1376                                                                   NULL, 0);
1377                         else
1378                                 attr.u.delay.la_interval = strtoul(optarg,
1379                                                                    NULL, 0);
1380                         break;
1381
1382                 case 'l': /* seconds to wait before activating rule */
1383                         attr.u.delay.la_latency = strtoul(optarg, NULL, 0);
1384                         break;
1385
1386                 case 'p': /* portal to filter */
1387                         rc = fault_attr_ptl_parse(optarg, &attr.fa_ptl_mask);
1388                         if (rc != 0)
1389                                 goto getopt_failed;
1390                         break;
1391
1392                 case 'm': /* message types to filter */
1393                         rc = fault_attr_msg_parse(optarg, &attr.fa_msg_mask);
1394                         if (rc != 0)
1395                                 goto getopt_failed;
1396                         break;
1397
1398                 default:
1399                         fprintf(stderr, "error: %s: option '%s' "
1400                                 "unrecognized\n", argv[0], argv[optind - 1]);
1401                         goto getopt_failed;
1402                 }
1403         }
1404         optind = 1;
1405
1406         if (opc == LNET_CTL_DROP_ADD) {
1407                 /* NB: drop rate and interval are exclusive to each other */
1408                 if (!((attr.u.drop.da_rate == 0) ^
1409                       (attr.u.drop.da_interval == 0))) {
1410                         fprintf(stderr,
1411                                 "please provide either drop rate or interval "
1412                                 "but not both at the same time.\n");
1413                         return -1;
1414                 }
1415         } else if (opc == LNET_CTL_DELAY_ADD) {
1416                 if (!((attr.u.delay.la_rate == 0) ^
1417                       (attr.u.delay.la_interval == 0))) {
1418                         fprintf(stderr,
1419                                 "please provide either delay rate or interval "
1420                                 "but not both at the same time.\n");
1421                         return -1;
1422                 }
1423
1424                 if (attr.u.delay.la_latency == 0) {
1425                         fprintf(stderr, "latency cannot be zero\n");
1426                         return -1;
1427                 }
1428         }
1429
1430         if (attr.fa_src == 0 || attr.fa_dst == 0) {
1431                 fprintf(stderr, "Please provide both source and destination "
1432                                 "of %s rule\n", name);
1433                 return -1;
1434         }
1435
1436         data.ioc_flags = opc;
1437         data.ioc_inllen1 = sizeof(attr);
1438         data.ioc_inlbuf1 = (char *)&attr;
1439         if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1440                 fprintf(stderr, "libcfs_ioctl_pack failed\n");
1441                 return -1;
1442         }
1443
1444         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1445         if (rc != 0) {
1446                 fprintf(stderr, "add %s rule %s->%s failed: %s\n",
1447                         name, libcfs_nid2str(attr.fa_src),
1448                         libcfs_nid2str(attr.fa_dst), strerror(errno));
1449                 return -1;
1450         }
1451
1452         printf("Added %s rule %s->%s (1/%d)\n",
1453                name, libcfs_nid2str(attr.fa_src), libcfs_nid2str(attr.fa_dst),
1454                opc == LNET_CTL_DROP_ADD ?
1455                attr.u.drop.da_rate : attr.u.delay.la_rate);
1456         return 0;
1457
1458 getopt_failed:
1459         optind = 1;
1460         return -1;
1461 }
1462
1463 int
1464 jt_ptl_drop_add(int argc, char **argv)
1465 {
1466         return fault_simul_rule_add(LNET_CTL_DROP_ADD, "drop", argc, argv);
1467 }
1468
1469 int
1470 jt_ptl_delay_add(int argc, char **argv)
1471 {
1472         return fault_simul_rule_add(LNET_CTL_DELAY_ADD, "delay", argc, argv);
1473 }
1474
1475 static int
1476 fault_simul_rule_del(__u32 opc, char *name, int argc, char **argv)
1477 {
1478         struct libcfs_ioctl_data data = {{0}};
1479         struct lnet_fault_attr   attr;
1480         bool                     all = false;
1481         int                      rc;
1482
1483         static struct option opts[] = {
1484                 {"source",      required_argument,      0,      's'},
1485                 {"dest",        required_argument,      0,      'd'},
1486                 {"all",         no_argument,            0,      'a'},
1487                 {0, 0, 0, 0}
1488         };
1489
1490         if (argc == 1) {
1491                 fprintf(stderr, "Failed, please provide source and "
1492                                 "destination of rule\n");
1493                 return -1;
1494         }
1495
1496         memset(&attr, 0, sizeof(attr));
1497         while (1) {
1498                 char c = getopt_long(argc, argv, "s:d:a", opts, NULL);
1499
1500                 if (c == -1 || all)
1501                         break;
1502
1503                 switch (c) {
1504                 case 's':
1505                         rc = fault_attr_nid_parse(optarg, &attr.fa_src);
1506                         if (rc != 0)
1507                                 goto getopt_failed;
1508                         break;
1509                 case 'd':
1510                         rc = fault_attr_nid_parse(optarg, &attr.fa_dst);
1511                         if (rc != 0)
1512                                 goto getopt_failed;
1513                         break;
1514                 case 'a':
1515                         attr.fa_src = attr.fa_dst = 0;
1516                         all = true;
1517                         break;
1518                 default:
1519                         fprintf(stderr, "error: %s: option '%s' "
1520                                 "unrecognized\n", argv[0], argv[optind - 1]);
1521                         goto getopt_failed;
1522                 }
1523         }
1524         optind = 1;
1525
1526         data.ioc_flags = opc;
1527         data.ioc_inllen1 = sizeof(attr);
1528         data.ioc_inlbuf1 = (char *)&attr;
1529         if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1530                 fprintf(stderr, "libcfs_ioctl_pack failed\n");
1531                 return -1;
1532         }
1533
1534         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1535         if (rc != 0) {
1536                 fprintf(stderr, "remove %s rule %s->%s failed: %s\n", name,
1537                         all ? "all" : libcfs_nid2str(attr.fa_src),
1538                         all ? "all" : libcfs_nid2str(attr.fa_dst),
1539                         strerror(errno));
1540                 return -1;
1541         }
1542
1543         libcfs_ioctl_unpack(&data, ioc_buf);
1544         printf("Removed %d %s rules\n", data.ioc_count, name);
1545         return 0;
1546
1547 getopt_failed:
1548         optind = 1;
1549         return -1;
1550 }
1551
1552 int
1553 jt_ptl_drop_del(int argc, char **argv)
1554 {
1555         return fault_simul_rule_del(LNET_CTL_DROP_DEL, "drop", argc, argv);
1556 }
1557
1558 int
1559 jt_ptl_delay_del(int argc, char **argv)
1560 {
1561         return fault_simul_rule_del(LNET_CTL_DELAY_DEL, "delay", argc, argv);
1562 }
1563
1564 static int
1565 fault_simul_rule_reset(__u32 opc, char *name, int argc, char **argv)
1566 {
1567         struct libcfs_ioctl_data   data = {{0}};
1568         int                        rc;
1569
1570         LIBCFS_IOC_INIT(data);
1571         data.ioc_flags = opc;
1572
1573         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, &data);
1574         if (rc != 0) {
1575                 fprintf(stderr, "failed to reset %s stats: %s\n",
1576                         name, strerror(errno));
1577                 return -1;
1578         }
1579         return 0;
1580 }
1581
1582 int
1583 jt_ptl_drop_reset(int argc, char **argv)
1584 {
1585         return fault_simul_rule_reset(LNET_CTL_DROP_RESET, "drop", argc, argv);
1586 }
1587
1588 int
1589 jt_ptl_delay_reset(int argc, char **argv)
1590 {
1591         return fault_simul_rule_reset(LNET_CTL_DELAY_RESET, "delay",
1592                                       argc, argv);
1593 }
1594
1595 static int
1596 fault_simul_rule_list(__u32 opc, char *name, int argc, char **argv)
1597 {
1598         struct libcfs_ioctl_data data = {{0}};
1599         struct lnet_fault_attr   attr;
1600         struct lnet_fault_stat   stat;
1601         int                      pos;
1602
1603         printf("LNet %s rules:\n", name);
1604         for (pos = 0;; pos++) {
1605                 int             rc;
1606
1607                 memset(&attr, 0, sizeof(attr));
1608                 memset(&stat, 0, sizeof(stat));
1609
1610                 data.ioc_count = pos;
1611                 data.ioc_flags = opc;
1612                 data.ioc_inllen1 = sizeof(attr);
1613                 data.ioc_inlbuf1 = (char *)&attr;
1614                 data.ioc_inllen2 = sizeof(stat);
1615                 data.ioc_inlbuf2 = (char *)&stat;
1616                 if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1617                         fprintf(stderr, "libcfs_ioctl_pack failed\n");
1618                         return -1;
1619                 }
1620
1621                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1622                 if (rc != 0)
1623                         break;
1624
1625                 libcfs_ioctl_unpack(&data, ioc_buf);
1626
1627                 if (opc == LNET_CTL_DROP_LIST) {
1628                         printf("%s->%s (1/%d | %d) ptl %#jx, msg %x, "
1629                                "%ju/%ju, PUT %ju, ACK %ju, GET "
1630                                "%ju, REP %ju\n",
1631                                libcfs_nid2str(attr.fa_src),
1632                                libcfs_nid2str(attr.fa_dst),
1633                                attr.u.drop.da_rate, attr.u.drop.da_interval,
1634                                (uintmax_t)attr.fa_ptl_mask, attr.fa_msg_mask,
1635                                (uintmax_t)stat.u.drop.ds_dropped,
1636                                (uintmax_t)stat.fs_count,
1637                                (uintmax_t)stat.fs_put,
1638                                (uintmax_t)stat.fs_ack,
1639                                (uintmax_t)stat.fs_get,
1640                                (uintmax_t)stat.fs_reply);
1641
1642                 } else if (opc == LNET_CTL_DELAY_LIST) {
1643                         printf("%s->%s (1/%d | %d, latency %d) ptl %#jx"
1644                                ", msg %x, %ju/%ju, PUT %ju"
1645                                ", ACK %ju, GET %ju, REP %ju\n",
1646                                libcfs_nid2str(attr.fa_src),
1647                                libcfs_nid2str(attr.fa_dst),
1648                                attr.u.delay.la_rate, attr.u.delay.la_interval,
1649                                attr.u.delay.la_latency,
1650                                (uintmax_t)attr.fa_ptl_mask, attr.fa_msg_mask,
1651                                (uintmax_t)stat.u.delay.ls_delayed,
1652                                (uintmax_t)stat.fs_count,
1653                                (uintmax_t)stat.fs_put,
1654                                (uintmax_t)stat.fs_ack,
1655                                (uintmax_t)stat.fs_get,
1656                                (uintmax_t)stat.fs_reply);
1657                 }
1658         }
1659         printf("found total %d\n", pos);
1660
1661         return 0;
1662 }
1663
1664 int
1665 jt_ptl_drop_list(int argc, char **argv)
1666 {
1667         return fault_simul_rule_list(LNET_CTL_DROP_LIST, "drop", argc, argv);
1668 }
1669
1670 int
1671 jt_ptl_delay_list(int argc, char **argv)
1672 {
1673         return fault_simul_rule_list(LNET_CTL_DELAY_LIST, "delay", argc, argv);
1674 }
1675
1676 double
1677 get_cycles_per_usec ()
1678 {
1679         FILE      *f = fopen ("/proc/cpuinfo", "r");
1680         double     mhz;
1681         char      line[64];
1682
1683         if (f != NULL) {
1684                 while (fgets (line, sizeof (line), f) != NULL)
1685                         if (sscanf (line, "cpu MHz : %lf", &mhz) == 1) {
1686                                 fclose (f);
1687                                 return (mhz);
1688                         }
1689                 fclose (f);
1690         }
1691
1692         fprintf (stderr, "Can't read/parse /proc/cpuinfo\n");
1693         return (1000.0);
1694 }
1695
1696 int jt_ptl_testprotocompat(int argc, char **argv)
1697 {
1698         struct libcfs_ioctl_data  data;
1699         int                       rc;
1700         int                       flags;
1701         char                     *end;
1702
1703         if (argc < 2)  {
1704                 fprintf(stderr, "usage: %s <number>\n", argv[0]);
1705                 return 0;
1706         }
1707
1708         flags = strtol(argv[1], &end, 0);
1709         if (flags < 0 || *end != 0) {
1710                 fprintf(stderr, "Can't parse flags '%s'\n", argv[1]);
1711                 return -1;
1712         }
1713
1714         LIBCFS_IOC_INIT(data);
1715         data.ioc_flags = flags;
1716         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_TESTPROTOCOMPAT, &data);
1717
1718         if (rc != 0) {
1719                 fprintf(stderr, "test proto compat %x failed: %s\n",
1720                         flags, strerror(errno));
1721                 return -1;
1722         }
1723
1724         printf("test proto compat %x OK\n", flags);
1725         return 0;
1726 }
1727
1728