Whamcloud - gitweb
LU-1620 lnet: Make asym router failure parameters tunable
[fs/lustre-release.git] / lnet / utils / portals.c
1 /*
2  * Copyright (c) 2003, 2010, Oracle and/or its affiliates. All rights reserved.
3  *
4  *   This file is part of Portals, http://www.sf.net/projects/lustre/
5  *
6  *   Portals is free software; you can redistribute it and/or
7  *   modify it under the terms of version 2 of the GNU General Public
8  *   License as published by the Free Software Foundation.
9  *
10  *   Portals is distributed in the hope that it will be useful,
11  *   but WITHOUT ANY WARRANTY; without even the implied warranty of
12  *   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13  *   GNU General Public License for more details.
14  *
15  *   You should have received a copy of the GNU General Public License
16  *   along with Portals; if not, write to the Free Software
17  *   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
18  *
19  */
20
21 #include <libcfs/libcfsutil.h>
22 #include <lnet/api-support.h>
23 #include <lnet/lnetctl.h>
24 #include <lnet/socklnd.h>
25
26 unsigned int libcfs_debug;
27 unsigned int libcfs_printk = D_CANTMASK;
28
29 static int   g_net_set;
30 static __u32 g_net;
31
32 /* Convert a string boolean to an int; "enable" -> 1 */
33 int
34 lnet_parse_bool (int *b, char *str)
35 {
36         if (!strcasecmp (str, "no") ||
37             !strcasecmp (str, "n") ||
38             !strcasecmp (str, "off") ||
39             !strcasecmp (str, "down") ||
40             !strcasecmp (str, "disable"))
41         {
42                 *b = 0;
43                 return (0);
44         }
45
46         if (!strcasecmp (str, "yes") ||
47             !strcasecmp (str, "y") ||
48             !strcasecmp (str, "on") ||
49             !strcasecmp (str, "up") ||
50             !strcasecmp (str, "enable"))
51         {
52                 *b = 1;
53                 return (0);
54         }
55
56         return (-1);
57 }
58
59 int
60 lnet_parse_port (int *port, char *str)
61 {
62         char      *end;
63
64         *port = strtol (str, &end, 0);
65
66         if (*end == 0 &&                        /* parsed whole string */
67             *port > 0 && *port < 65536)         /* minimal sanity check */
68                 return (0);
69
70         return (-1);
71 }
72
73 #ifdef HAVE_GETHOSTBYNAME
74 static struct hostent *
75 ptl_gethostbyname(char * hname) {
76         struct hostent *he;
77         he = gethostbyname(hname);
78         if (!he) {
79                 switch(h_errno) {
80                 case HOST_NOT_FOUND:
81                 case NO_ADDRESS:
82                         fprintf(stderr, "Unable to resolve hostname: %s\n",
83                                 hname);
84                         break;
85                 default:
86                         fprintf(stderr, "gethostbyname error for %s: %s\n",
87                                 hname, strerror(h_errno));
88                         break;
89                 }
90                 return NULL;
91         }
92         return he;
93 }
94 #endif
95
96 int
97 lnet_parse_ipquad (__u32 *ipaddrp, char *str)
98 {
99         int             a;
100         int             b;
101         int             c;
102         int             d;
103
104         if (sscanf (str, "%d.%d.%d.%d", &a, &b, &c, &d) == 4 &&
105             (a & ~0xff) == 0 && (b & ~0xff) == 0 &&
106             (c & ~0xff) == 0 && (d & ~0xff) == 0)
107         {
108                 *ipaddrp = (a<<24)|(b<<16)|(c<<8)|d;
109                 return (0);
110         }
111
112         return (-1);
113 }
114
115 int
116 lnet_parse_ipaddr (__u32 *ipaddrp, char *str)
117 {
118 #ifdef HAVE_GETHOSTBYNAME
119         struct hostent *he;
120 #endif
121
122         if (!strcmp (str, "_all_")) {
123                 *ipaddrp = 0;
124                 return (0);
125         }
126
127         if (lnet_parse_ipquad(ipaddrp, str) == 0)
128                 return (0);
129
130 #ifdef HAVE_GETHOSTBYNAME
131         if ((('a' <= str[0] && str[0] <= 'z') ||
132              ('A' <= str[0] && str[0] <= 'Z')) &&
133              (he = ptl_gethostbyname (str)) != NULL) {
134                 __u32 addr = *(__u32 *)he->h_addr;
135
136                 *ipaddrp = ntohl(addr);         /* HOST byte order */
137                 return (0);
138         }
139 #endif
140
141         return (-1);
142 }
143
144 char *
145 ptl_ipaddr_2_str (__u32 ipaddr, char *str, int lookup)
146 {
147 #ifdef HAVE_GETHOSTBYNAME
148         __u32           net_ip;
149         struct hostent *he;
150
151         if (lookup) {
152                 net_ip = htonl (ipaddr);
153                 he = gethostbyaddr (&net_ip, sizeof (net_ip), AF_INET);
154                 if (he != NULL) {
155                         strcpy(str, he->h_name);
156                         return (str);
157                 }
158         }
159 #endif
160
161         sprintf (str, "%d.%d.%d.%d",
162                  (ipaddr >> 24) & 0xff, (ipaddr >> 16) & 0xff,
163                  (ipaddr >> 8) & 0xff, ipaddr & 0xff);
164         return (str);
165 }
166
167 int
168 lnet_parse_time (time_t *t, char *str)
169 {
170         char          *end;
171         int            n;
172         struct tm      tm;
173
174         *t = strtol (str, &end, 0);
175         if (*end == 0) /* parsed whole string */
176                 return (0);
177
178         memset (&tm, 0, sizeof (tm));
179         n = sscanf (str, "%d-%d-%d-%d:%d:%d",
180                     &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
181                     &tm.tm_hour, &tm.tm_min, &tm.tm_sec);
182         if (n != 6)
183                 return (-1);
184
185         tm.tm_mon--;                    /* convert to 0 == Jan */
186         tm.tm_year -= 1900;             /* y2k quirk */
187         tm.tm_isdst = -1;               /* dunno if it's daylight savings... */
188
189         *t = mktime (&tm);
190         if (*t == (time_t)-1)
191                 return (-1);
192
193         return (0);
194 }
195
196 int
197 lnet_parse_nid(char *nid_str, lnet_process_id_t *id_ptr)
198 {
199         id_ptr->pid = LNET_PID_ANY;
200         id_ptr->nid = libcfs_str2nid(nid_str);
201         if (id_ptr->nid == LNET_NID_ANY) {
202                 fprintf (stderr, "Can't parse nid \"%s\"\n", nid_str);
203                 return -1;
204         }
205
206         return 0;
207 }
208
209 int g_net_is_set (char *cmd)
210 {
211         if (g_net_set)
212                 return 1;
213
214         if (cmd != NULL)
215                 fprintf(stderr,
216                         "You must run the 'network' command before '%s'.\n",
217                         cmd);
218         return 0;
219 }
220
221 int g_net_is_compatible (char *cmd, ...)
222 {
223         va_list       ap;
224         int           nal;
225
226         if (!g_net_is_set(cmd))
227                 return 0;
228
229         va_start(ap, cmd);
230
231         do {
232                 nal = va_arg (ap, int);
233                 if (nal == LNET_NETTYP(g_net)) {
234                         va_end (ap);
235                         return 1;
236                 }
237         } while (nal != 0);
238
239         va_end (ap);
240
241         if (cmd != NULL)
242                 fprintf (stderr,
243                          "Command %s not compatible with %s NAL\n",
244                          cmd,
245                          libcfs_lnd2str(LNET_NETTYP(g_net)));
246         return 0;
247 }
248
249 int ptl_initialize(int argc, char **argv)
250 {
251         register_ioc_dev(LNET_DEV_ID, LNET_DEV_PATH,
252                          LNET_DEV_MAJOR, LNET_DEV_MINOR);
253         return 0;
254 }
255
256
257 int jt_ptl_network(int argc, char **argv)
258 {
259         struct libcfs_ioctl_data data;
260         __u32                    net = LNET_NIDNET(LNET_NID_ANY);
261         int                      rc;
262
263         if (argc < 2) {
264                 fprintf(stderr, "usage: %s <net>|up|down\n", argv[0]);
265                 return 0;
266         }
267
268         if (!strcmp(argv[1], "unconfigure") ||
269             !strcmp(argv[1], "down")) {
270                 LIBCFS_IOC_INIT(data);
271                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_UNCONFIGURE, &data);
272
273                 if (rc == 0) {
274                         printf ("LNET ready to unload\n");
275                         return 0;
276                 }
277
278                 if (errno == EBUSY)
279                         fprintf(stderr, "LNET busy\n");
280                 else
281                         fprintf(stderr, "LNET unconfigure error %d: %s\n",
282                                 errno, strerror(errno));
283                 return -1;
284         }
285
286         if (!strcmp(argv[1], "configure") ||
287             !strcmp(argv[1], "up")) {
288                 LIBCFS_IOC_INIT(data);
289                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CONFIGURE, &data);
290
291                 if (rc == 0) {
292                         printf ("LNET configured\n");
293                         return 0;
294                 }
295
296                 fprintf(stderr, "LNET configure error %d: %s\n",
297                         errno, strerror(errno));
298                 return -1;
299         }
300
301         net = libcfs_str2net(argv[1]);
302         if (net == LNET_NIDNET(LNET_NID_ANY)) {
303                 fprintf(stderr, "Can't parse net %s\n", argv[1]);
304                 return -1;
305         }
306
307         if (LNET_NETTYP(net) == CIBLND    ||
308             LNET_NETTYP(net) == OPENIBLND ||
309             LNET_NETTYP(net) == IIBLND    ||
310             LNET_NETTYP(net) == VIBLND) {
311                 fprintf(stderr, "Net %s obsoleted\n", libcfs_lnd2str(net));
312                 return -1;
313         }
314
315         g_net_set = 1;
316         g_net = net;
317         return 0;
318 }
319
320 int
321 jt_ptl_list_nids(int argc, char **argv)
322 {
323         struct libcfs_ioctl_data data;
324         int                      all = 0, return_nid = 0;
325         int                      count;
326         int                      rc;
327
328         all = (argc == 2) && (strcmp(argv[1], "all") == 0);
329         /* Hack to pass back value */
330         return_nid = (argc == 2) && (argv[1][0] == 1);
331
332         if ((argc > 2) && !(all || return_nid)) {
333                 fprintf(stderr, "usage: %s [all]\n", argv[0]);
334                 return 0;
335         }
336
337         for (count = 0;; count++) {
338                 LIBCFS_IOC_INIT (data);
339                 data.ioc_count = count;
340                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_NI, &data);
341
342                 if (rc < 0) {
343                         if ((count > 0) && (errno == ENOENT))
344                                 /* We found them all */
345                                 break;
346                         fprintf(stderr,"IOC_LIBCFS_GET_NI error %d: %s\n",
347                                 errno, strerror(errno));
348                         return -1;
349                 }
350
351                 if (all || (LNET_NETTYP(LNET_NIDNET(data.ioc_nid)) != LOLND)) {
352                         printf("%s\n", libcfs_nid2str(data.ioc_nid));
353                         if (return_nid) {
354                                 *(__u64 *)(argv[1]) = data.ioc_nid;
355                                 return_nid--;
356                         }
357                 }
358         }
359
360         return 0;
361 }
362
363 int
364 jt_ptl_which_nid (int argc, char **argv)
365 {
366         struct libcfs_ioctl_data data;
367         int          best_dist = 0;
368         int          best_order = 0;
369         lnet_nid_t   best_nid = LNET_NID_ANY;
370         int          dist;
371         int          order;
372         lnet_nid_t   nid;
373         char        *nidstr;
374         int          rc;
375         int          i;
376
377         if (argc < 2) {
378                 fprintf(stderr, "usage: %s NID [NID...]\n", argv[0]);
379                 return 0;
380         }
381
382         for (i = 1; i < argc; i++) {
383                 nidstr = argv[i];
384                 nid = libcfs_str2nid(nidstr);
385                 if (nid == LNET_NID_ANY) {
386                         fprintf(stderr, "Can't parse NID %s\n", nidstr);
387                         return -1;
388                 }
389
390                 LIBCFS_IOC_INIT(data);
391                 data.ioc_nid = nid;
392
393                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_DIST, &data);
394                 if (rc != 0) {
395                         fprintf(stderr, "Can't get distance to %s: %s\n",
396                                 nidstr, strerror(errno));
397                         return -1;
398                 }
399
400                 dist = data.ioc_u32[0];
401                 order = data.ioc_u32[1];
402
403                 if (dist < 0) {
404                         if (dist == -EHOSTUNREACH)
405                                 continue;
406
407                         fprintf(stderr, "Unexpected distance to %s: %d\n",
408                                 nidstr, dist);
409                         return -1;
410                 }
411
412                 if (best_nid == LNET_NID_ANY ||
413                     dist < best_dist ||
414                     (dist == best_dist && order < best_order)) {
415                         best_dist = dist;
416                         best_order = order;
417                         best_nid = nid;
418                 }
419         }
420
421         if (best_nid == LNET_NID_ANY) {
422                 fprintf(stderr, "No reachable NID\n");
423                 return -1;
424         }
425
426         printf("%s\n", libcfs_nid2str(best_nid));
427         return 0;
428 }
429
430 int
431 jt_ptl_print_interfaces (int argc, char **argv)
432 {
433         struct libcfs_ioctl_data data;
434         char                     buffer[3][64];
435         int                      index;
436         int                      rc;
437
438         if (!g_net_is_compatible (argv[0], SOCKLND, 0))
439                 return -1;
440
441         for (index = 0;;index++) {
442                 LIBCFS_IOC_INIT(data);
443                 data.ioc_net   = g_net;
444                 data.ioc_count = index;
445
446                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_INTERFACE, &data);
447                 if (rc != 0)
448                         break;
449
450                 printf ("%s: (%s/%s) npeer %d nroute %d\n",
451                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[2], 1),
452                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[0], 0),
453                         ptl_ipaddr_2_str(data.ioc_u32[1], buffer[1], 0),
454                         data.ioc_u32[2], data.ioc_u32[3]);
455         }
456
457         if (index == 0) {
458                 if (errno == ENOENT) {
459                         printf ("<no interfaces>\n");
460                 } else {
461                         fprintf(stderr, "Error getting interfaces: %s: "
462                                 "check dmesg.\n",
463                                 strerror(errno));
464                 }
465         }
466
467         return 0;
468 }
469
470 int
471 jt_ptl_add_interface (int argc, char **argv)
472 {
473         struct libcfs_ioctl_data data;
474         __u32                    ipaddr;
475         int                      rc;
476         __u32                    netmask = 0xffffff00;
477         int                      i;
478         int                      count;
479         char                    *end;
480
481         if (argc < 2 || argc > 3) {
482                 fprintf (stderr, "usage: %s ipaddr [netmask]\n", argv[0]);
483                 return 0;
484         }
485
486         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
487                 return -1;
488
489         if (lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
490                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
491                 return -1;
492         }
493
494         if (argc > 2 ) {
495                 count = strtol(argv[2], &end, 0);
496                 if (count > 0 && count < 32 && *end == 0) {
497                         netmask = 0;
498                         for (i = count; i > 0; i--)
499                                 netmask = netmask|(1<<(32-i));
500                 } else if (lnet_parse_ipquad(&netmask, argv[2]) != 0) {
501                         fprintf (stderr, "Can't parse netmask: %s\n", argv[2]);
502                         return -1;
503                 }
504         }
505
506         LIBCFS_IOC_INIT(data);
507         data.ioc_net    = g_net;
508         data.ioc_u32[0] = ipaddr;
509         data.ioc_u32[1] = netmask;
510
511         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_INTERFACE, &data);
512         if (rc != 0) {
513                 fprintf (stderr, "failed to add interface: %s\n",
514                          strerror (errno));
515                 return -1;
516         }
517
518         return 0;
519 }
520
521 int
522 jt_ptl_del_interface (int argc, char **argv)
523 {
524         struct libcfs_ioctl_data data;
525         int                      rc;
526         __u32                    ipaddr = 0;
527
528         if (argc > 2) {
529                 fprintf (stderr, "usage: %s [ipaddr]\n", argv[0]);
530                 return 0;
531         }
532
533         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
534                 return -1;
535
536         if (argc == 2 &&
537             lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
538                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
539                 return -1;
540         }
541
542         LIBCFS_IOC_INIT(data);
543         data.ioc_net    = g_net;
544         data.ioc_u32[0] = ipaddr;
545
546         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_INTERFACE, &data);
547         if (rc != 0) {
548                 fprintf (stderr, "failed to delete interface: %s\n",
549                          strerror (errno));
550                 return -1;
551         }
552
553         return 0;
554 }
555
556 int
557 jt_ptl_print_peers (int argc, char **argv)
558 {
559         struct libcfs_ioctl_data data;
560         lnet_process_id_t        id;
561         char                     buffer[2][64];
562         int                      index;
563         int                      rc;
564
565         if (!g_net_is_compatible (argv[0], SOCKLND, RALND, PTLLND, MXLND,
566                                   O2IBLND, 0))
567                 return -1;
568
569         for (index = 0;;index++) {
570                 LIBCFS_IOC_INIT(data);
571                 data.ioc_net     = g_net;
572                 data.ioc_count   = index;
573
574                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_PEER, &data);
575                 if (rc != 0)
576                         break;
577
578                 if (g_net_is_compatible(NULL, SOCKLND, 0)) {
579                         id.nid = data.ioc_nid;
580                         id.pid = data.ioc_u32[4];
581                         printf ("%-20s [%d]%s->%s:%d #%d\n",
582                                 libcfs_id2str(id), 
583                                 data.ioc_count, /* persistence */
584                                 ptl_ipaddr_2_str (data.ioc_u32[2], buffer[0], 1), /* my ip */
585                                 ptl_ipaddr_2_str (data.ioc_u32[0], buffer[1], 1), /* peer ip */
586                                 data.ioc_u32[1], /* peer port */
587                                 data.ioc_u32[3]); /* conn_count */
588                 } else if (g_net_is_compatible(NULL, PTLLND, 0)) {
589                         id.nid = data.ioc_nid;
590                         id.pid = data.ioc_u32[4];
591                         printf ("%-20s s %d%s [%d] "LPD64".%06d"
592                                 " m "LPD64"/"LPD64" q %d/%d c %d/%d\n",
593                                 libcfs_id2str(id),
594                                 data.ioc_net,   /* state */
595                                 data.ioc_flags ? "" : " ~!h", /* sent_hello */
596                                 data.ioc_count, /* refcount */
597                                 data.ioc_u64[0]/1000000, /* incarnation secs */
598                                 (int)(data.ioc_u64[0]%1000000), /* incarnation usecs */
599                                 (((__u64)data.ioc_u32[1])<<32) |
600                                 ((__u64)data.ioc_u32[0]), /* next_matchbits */
601                                 (((__u64)data.ioc_u32[3])<<32) |
602                                 ((__u64)data.ioc_u32[2]), /* last_matchbits_seen */
603                                 data.ioc_u32[5] >> 16, /* nsendq */
604                                 data.ioc_u32[5] & 0xffff, /* nactiveq */
605                                 data.ioc_u32[6] >> 16, /* credits */
606                                 data.ioc_u32[6] & 0xffff); /* outstanding_credits */
607                 } else if (g_net_is_compatible(NULL, RALND, 0)) {
608                         printf ("%-20s [%d]@%s:%d\n",
609                                 libcfs_nid2str(data.ioc_nid), /* peer nid */
610                                 data.ioc_count,   /* peer persistence */
611                                 ptl_ipaddr_2_str (data.ioc_u32[0], buffer[1], 1), /* peer ip */
612                                 data.ioc_u32[1]); /* peer port */
613                 } else {
614                         printf ("%-20s [%d]\n",
615                                 libcfs_nid2str(data.ioc_nid), data.ioc_count);
616                 }
617         }
618
619         if (index == 0) {
620                 if (errno == ENOENT) {
621                         printf ("<no peers>\n");
622                 } else {
623                         fprintf(stderr, "Error getting peer list: %s: "
624                                 "check dmesg.\n",
625                                 strerror(errno));
626                 }
627         }
628         return 0;
629 }
630
631 int
632 jt_ptl_add_peer (int argc, char **argv)
633 {
634         struct libcfs_ioctl_data data;
635         lnet_nid_t               nid;
636         __u32                    ip = 0;
637         int                      port = 0;
638         int                      rc;
639
640         if (!g_net_is_compatible (argv[0], SOCKLND, RALND, 0))
641                 return -1;
642
643         if (argc != 4) {
644                 fprintf (stderr, "usage(tcp,ra): %s nid ipaddr port\n",
645                          argv[0]);
646                 return 0;
647         }
648
649         nid = libcfs_str2nid(argv[1]);
650         if (nid == LNET_NID_ANY) {
651                 fprintf (stderr, "Can't parse NID: %s\n", argv[1]);
652                 return -1;
653         }
654
655         if (lnet_parse_ipaddr (&ip, argv[2]) != 0) {
656                 fprintf (stderr, "Can't parse ip addr: %s\n", argv[2]);
657                 return -1;
658         }
659
660         if (lnet_parse_port (&port, argv[3]) != 0) {
661                 fprintf (stderr, "Can't parse port: %s\n", argv[3]);
662                 return -1;
663         }
664
665         LIBCFS_IOC_INIT(data);
666         data.ioc_net    = g_net;
667         data.ioc_nid    = nid;
668         data.ioc_u32[0] = ip;
669         data.ioc_u32[1] = port;
670
671         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_ADD_PEER, &data);
672         if (rc != 0) {
673                 fprintf (stderr, "failed to add peer: %s\n",
674                          strerror (errno));
675                 return -1;
676         }
677
678         return 0;
679 }
680
681 int
682 jt_ptl_del_peer (int argc, char **argv)
683 {
684         struct libcfs_ioctl_data data;
685         lnet_nid_t               nid = LNET_NID_ANY;
686         lnet_pid_t               pid = LNET_PID_ANY;
687         __u32                    ip = 0;
688         char                    *end;
689         int                      rc;
690
691         if (!g_net_is_compatible (argv[0], SOCKLND, RALND, MXLND, PTLLND,
692                                   O2IBLND, 0))
693                 return -1;
694
695         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
696                 if (argc > 3) {
697                         fprintf (stderr, "usage: %s [nid] [ipaddr]\n",
698                                  argv[0]);
699                         return 0;
700                 }
701         } else if (g_net_is_compatible(NULL, PTLLND, 0)) {
702                 if (argc > 3) {
703                         fprintf (stderr, "usage: %s [nid] [pid]\n",
704                                  argv[0]);
705                         return 0;
706                 }
707         } else if (argc > 2) {
708                 fprintf (stderr, "usage: %s [nid]\n", argv[0]);
709                 return 0;
710         }
711
712         if (argc > 1 &&
713             !libcfs_str2anynid(&nid, argv[1])) {
714                 fprintf (stderr, "Can't parse nid: %s\n", argv[1]);
715                 return -1;
716         }
717
718         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
719                 if (argc > 2 &&
720                     lnet_parse_ipaddr (&ip, argv[2]) != 0) {
721                         fprintf (stderr, "Can't parse ip addr: %s\n",
722                                  argv[2]);
723                         return -1;
724                 }
725         } else if (g_net_is_compatible(NULL, PTLLND, 0)) {
726                 if (argc > 2) {
727                         pid = strtol(argv[2], &end, 0);
728                         if (end == argv[2] || *end == 0) {
729                                 fprintf(stderr, "Can't parse pid %s\n",
730                                         argv[2]);
731                                 return -1;
732                         }
733                 }
734         }
735
736         LIBCFS_IOC_INIT(data);
737         data.ioc_net    = g_net;
738         data.ioc_nid    = nid;
739         data.ioc_u32[0] = ip;
740         data.ioc_u32[1] = pid;
741
742         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_PEER, &data);
743         if (rc != 0) {
744                 fprintf (stderr, "failed to remove peer: %s\n",
745                          strerror (errno));
746                 return -1;
747         }
748
749         return 0;
750 }
751
752 int
753 jt_ptl_print_connections (int argc, char **argv)
754 {
755         struct libcfs_ioctl_data data;
756         lnet_process_id_t        id;
757         char                     buffer[2][64];
758         int                      index;
759         int                      rc;
760
761         if (!g_net_is_compatible (argv[0], SOCKLND, RALND, MXLND, O2IBLND, 0))
762                 return -1;
763
764         for (index = 0; ; index++) {
765                 LIBCFS_IOC_INIT(data);
766                 data.ioc_net     = g_net;
767                 data.ioc_count   = index;
768
769                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_CONN, &data);
770                 if (rc != 0)
771                         break;
772
773                 if (g_net_is_compatible (NULL, SOCKLND, 0)) {
774                         id.nid = data.ioc_nid;
775                         id.pid = data.ioc_u32[6];
776                         printf ("%-20s %s[%d]%s->%s:%d %d/%d %s\n",
777                                 libcfs_id2str(id),
778                                 (data.ioc_u32[3] == SOCKLND_CONN_ANY) ? "A" :
779                                 (data.ioc_u32[3] == SOCKLND_CONN_CONTROL) ? "C" :
780                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_IN) ? "I" :
781                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_OUT) ? "O" : "?",
782                                 data.ioc_u32[4], /* scheduler */
783                                 ptl_ipaddr_2_str (data.ioc_u32[2], buffer[0], 1), /* local IP addr */
784                                 ptl_ipaddr_2_str (data.ioc_u32[0], buffer[1], 1), /* remote IP addr */
785                                 data.ioc_u32[1],         /* remote port */
786                                 data.ioc_count, /* tx buffer size */
787                                 data.ioc_u32[5], /* rx buffer size */
788                                 data.ioc_flags ? "nagle" : "nonagle");
789                 } else if (g_net_is_compatible (NULL, RALND, 0)) {
790                         printf ("%-20s [%d]\n",
791                                 libcfs_nid2str(data.ioc_nid),
792                                 data.ioc_u32[0] /* device id */);
793                 } else if (g_net_is_compatible (NULL, O2IBLND, 0)) {
794                         printf ("%s mtu %d\n",
795                                 libcfs_nid2str(data.ioc_nid),
796                                 data.ioc_u32[0]); /* path MTU */
797                 } else {
798                         printf ("%s\n", libcfs_nid2str(data.ioc_nid));
799                 }
800         }
801
802         if (index == 0) {
803                 if (errno == ENOENT) {
804                         printf ("<no connections>\n");
805                 } else {
806                         fprintf(stderr, "Error getting connection list: %s: "
807                                 "check dmesg.\n",
808                                 strerror(errno));
809                 }
810         }
811         return 0;
812 }
813
814 int jt_ptl_disconnect(int argc, char **argv)
815 {
816         struct libcfs_ioctl_data data;
817         lnet_nid_t               nid = LNET_NID_ANY;
818         __u32                    ipaddr = 0;
819         int                      rc;
820
821         if (argc > 3) {
822                 fprintf(stderr, "usage: %s [nid] [ipaddr]\n", argv[0]);
823                 return 0;
824         }
825
826         if (!g_net_is_compatible (NULL, SOCKLND, RALND, MXLND, O2IBLND, 0))
827                 return 0;
828
829         if (argc >= 2 &&
830             !libcfs_str2anynid(&nid, argv[1])) {
831                 fprintf (stderr, "Can't parse nid %s\n", argv[1]);
832                 return -1;
833         }
834
835         if (g_net_is_compatible (NULL, SOCKLND, 0) &&
836             argc >= 3 &&
837             lnet_parse_ipaddr (&ipaddr, argv[2]) != 0) {
838                 fprintf (stderr, "Can't parse ip addr %s\n", argv[2]);
839                 return -1;
840         }
841
842         LIBCFS_IOC_INIT(data);
843         data.ioc_net     = g_net;
844         data.ioc_nid     = nid;
845         data.ioc_u32[0]  = ipaddr;
846
847         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CLOSE_CONNECTION, &data);
848         if (rc != 0) {
849                 fprintf(stderr, "failed to remove connection: %s\n",
850                         strerror(errno));
851                 return -1;
852         }
853
854         return 0;
855 }
856
857 int jt_ptl_push_connection (int argc, char **argv)
858 {
859         struct libcfs_ioctl_data data;
860         int                      rc;
861         lnet_nid_t               nid = LNET_NID_ANY;
862
863         if (argc > 2) {
864                 fprintf(stderr, "usage: %s [nid]\n", argv[0]);
865                 return 0;
866         }
867
868         if (!g_net_is_compatible (argv[0], SOCKLND, 0))
869                 return -1;
870
871         if (argc > 1 &&
872             !libcfs_str2anynid(&nid, argv[1])) {
873                 fprintf(stderr, "Can't parse nid: %s\n", argv[1]);
874                 return -1;
875         }
876
877         LIBCFS_IOC_INIT(data);
878         data.ioc_net     = g_net;
879         data.ioc_nid     = nid;
880
881         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PUSH_CONNECTION, &data);
882         if (rc != 0) {
883                 fprintf(stderr, "failed to push connection: %s\n",
884                         strerror(errno));
885                 return -1;
886         }
887
888         return 0;
889 }
890
891 int
892 jt_ptl_print_active_txs (int argc, char **argv)
893 {
894         struct libcfs_ioctl_data data;
895         int                      index;
896         int                      rc;
897
898         if (!g_net_is_compatible (argv[0], QSWLND, 0))
899                 return -1;
900
901         for (index = 0;;index++) {
902                 LIBCFS_IOC_INIT(data);
903                 data.ioc_net   = g_net;
904                 data.ioc_count = index;
905
906                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_TXDESC, &data);
907                 if (rc != 0)
908                         break;
909
910                 printf ("type %u payload %6d to %s via %s by pid %6d: "
911                         "%s, %s, state %d\n",
912                         data.ioc_u32[0],
913                         data.ioc_count,
914                         libcfs_nid2str(data.ioc_nid),
915                         libcfs_nid2str(data.ioc_u64[0]),
916                         data.ioc_u32[1],
917                         (data.ioc_flags & 1) ? "delayed" : "immediate",
918                         (data.ioc_flags & 2) ? "nblk"    : "normal",
919                         data.ioc_flags >> 2);
920         }
921
922         if (index == 0) {
923                 if (errno == ENOENT) {
924                         printf ("<no active descs>\n");
925                 } else {
926                         fprintf(stderr, "Error getting active transmits list: "
927                                 "%s: check dmesg.\n",
928                                 strerror(errno));
929                 }
930         }
931         return 0;
932 }
933
934 int jt_ptl_ping(int argc, char **argv)
935 {
936         int                      rc;
937         int                      timeout;
938         lnet_process_id_t        id;
939         lnet_process_id_t        ids[16];
940         int                      maxids = sizeof(ids)/sizeof(ids[0]);
941         struct libcfs_ioctl_data data;
942         char                    *sep;
943         int                      i;
944
945         if (argc < 2) {
946                 fprintf(stderr, "usage: %s id [timeout (secs)]\n", argv[0]);
947                 return 0;
948         }
949
950         sep = strchr(argv[1], '-');
951         if (sep == NULL) {
952                 rc = lnet_parse_nid(argv[1], &id);
953                 if (rc != 0)
954                         return -1;
955         } else {
956                 char   *end;
957
958                 if (argv[1][0] == 'u' ||
959                     argv[1][0] == 'U')
960                         id.pid = strtoul(&argv[1][1], &end, 0) | LNET_PID_USERFLAG;
961                 else
962                         id.pid = strtoul(argv[1], &end, 0);
963
964                 if (end != sep) { /* assuming '-' is part of hostname */
965                         rc = lnet_parse_nid(argv[1], &id);
966                         if (rc != 0)
967                                 return -1;
968                 } else {
969                         id.nid = libcfs_str2nid(sep + 1);
970
971                         if (id.nid == LNET_NID_ANY) {
972                                 fprintf(stderr,
973                                         "Can't parse process id \"%s\"\n",
974                                         argv[1]);
975                                 return -1;
976                         }
977                 }
978         }
979
980         if (argc > 2)
981                 timeout = 1000 * atol(argv[2]);
982         else
983                 timeout = 1000;                 /* default 1 second timeout */
984
985         LIBCFS_IOC_INIT (data);
986         data.ioc_nid     = id.nid;
987         data.ioc_u32[0]  = id.pid;
988         data.ioc_u32[1]  = timeout;
989         data.ioc_plen1   = sizeof(ids);
990         data.ioc_pbuf1   = (char *)ids;
991
992         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PING, &data);
993         if (rc != 0) {
994                 fprintf(stderr, "failed to ping %s: %s\n",
995                         id.pid == LNET_PID_ANY ?
996                         libcfs_nid2str(id.nid) : libcfs_id2str(id),
997                         strerror(errno));
998                 return -1;
999         }
1000
1001         for (i = 0; i < data.ioc_count && i < maxids; i++)
1002                 printf("%s\n", libcfs_id2str(ids[i]));
1003
1004         if (data.ioc_count > maxids)
1005                 printf("%d out of %d ids listed\n", maxids, data.ioc_count);
1006
1007         return 0;
1008 }
1009
1010 int jt_ptl_mynid(int argc, char **argv)
1011 {
1012         struct libcfs_ioctl_data data;
1013         lnet_nid_t               nid;
1014         int rc;
1015
1016         if (argc != 2) {
1017                 fprintf(stderr, "usage: %s NID\n", argv[0]);
1018                 return 0;
1019         }
1020
1021         nid = libcfs_str2nid(argv[1]);
1022         if (nid == LNET_NID_ANY) {
1023                 fprintf(stderr, "Can't parse NID '%s'\n", argv[1]);
1024                 return -1;
1025         }
1026
1027         LIBCFS_IOC_INIT(data);
1028         data.ioc_net = LNET_NIDNET(nid);
1029         data.ioc_nid = nid;
1030
1031         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_REGISTER_MYNID, &data);
1032         if (rc < 0)
1033                 fprintf(stderr, "setting my NID failed: %s\n",
1034                        strerror(errno));
1035         else
1036                 printf("registered my nid %s\n", libcfs_nid2str(nid));
1037
1038         return 0;
1039 }
1040
1041 int
1042 jt_ptl_fail_nid (int argc, char **argv)
1043 {
1044         int                      rc;
1045         lnet_nid_t               nid;
1046         unsigned int             threshold;
1047         struct libcfs_ioctl_data data;
1048
1049         if (argc < 2 || argc > 3)
1050         {
1051                 fprintf (stderr, "usage: %s nid|\"*\" [count (0 == mend)]\n", argv[0]);
1052                 return (0);
1053         }
1054
1055         if (!libcfs_str2anynid(&nid, argv[1]))
1056         {
1057                 fprintf (stderr, "Can't parse nid \"%s\"\n", argv[1]);
1058                 return (-1);
1059         }
1060
1061         if (argc < 3) {
1062                 threshold = LNET_MD_THRESH_INF;
1063         } else if (sscanf (argv[2], "%i", &threshold) != 1) {
1064                 fprintf (stderr, "Can't parse count \"%s\"\n", argv[2]);
1065                 return (-1);
1066         }
1067
1068         LIBCFS_IOC_INIT (data);
1069         data.ioc_nid = nid;
1070         data.ioc_count = threshold;
1071
1072         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_FAIL_NID, &data);
1073         if (rc < 0)
1074                 fprintf (stderr, "IOC_LIBCFS_FAIL_NID failed: %s\n",
1075                          strerror (errno));
1076         else
1077                 printf ("%s %s\n", threshold == 0 ? "Unfailing" : "Failing", argv[1]);
1078
1079         return (0);
1080 }
1081
1082 int
1083 jt_ptl_add_route (int argc, char **argv)
1084 {
1085         struct libcfs_ioctl_data data;
1086         lnet_nid_t               gateway_nid;
1087         unsigned int             hops = 1;
1088         char                    *end;
1089         int                      rc;
1090
1091         if (argc < 2 || argc > 3)
1092         {
1093                 fprintf (stderr, "usage: %s gateway [hopcount]\n", argv[0]);
1094                 return (0);
1095         }
1096
1097         if (!g_net_is_set(argv[0]))
1098                 return (-1);
1099
1100         gateway_nid = libcfs_str2nid(argv[1]);
1101         if (gateway_nid == LNET_NID_ANY) {
1102                 fprintf (stderr, "Can't parse gateway NID \"%s\"\n", argv[1]);
1103                 return (-1);
1104         }
1105
1106         if (argc == 3) {
1107                 hops = strtoul(argv[2], &end, 0);
1108                 if (hops >= 256 || *end != 0) {
1109                         fprintf (stderr, "Can't parse hopcount \"%s\"\n", argv[2]);
1110                         return -1;
1111                 }
1112         }
1113
1114         LIBCFS_IOC_INIT(data);
1115         data.ioc_net = g_net;
1116         data.ioc_count = hops;
1117         data.ioc_nid = gateway_nid;
1118
1119         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_ROUTE, &data);
1120         if (rc != 0) {
1121                 fprintf (stderr, "IOC_LIBCFS_ADD_ROUTE failed: %s\n", strerror (errno));
1122                 return (-1);
1123         }
1124
1125         return (0);
1126 }
1127
1128 int
1129 jt_ptl_del_route (int argc, char **argv)
1130 {
1131         struct libcfs_ioctl_data data;
1132         lnet_nid_t               nid;
1133         int                      rc;
1134
1135         if (argc != 2) {
1136                 fprintf (stderr, "usage: %s gatewayNID\n", argv[0]);
1137                 return (0);
1138         }
1139
1140         if (!libcfs_str2anynid(&nid, argv[1])) {
1141                 fprintf (stderr, "Can't parse gateway NID "
1142                          "\"%s\"\n", argv[1]);
1143                 return -1;
1144         }
1145
1146         LIBCFS_IOC_INIT(data);
1147         data.ioc_net = g_net_set ? g_net : LNET_NIDNET(LNET_NID_ANY);
1148         data.ioc_nid = nid;
1149
1150         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_ROUTE, &data);
1151         if (rc != 0) {
1152                 fprintf (stderr, "IOC_LIBCFS_DEL_ROUTE (%s) failed: %s\n",
1153                          libcfs_nid2str(nid), strerror (errno));
1154                 return (-1);
1155         }
1156
1157         return (0);
1158 }
1159
1160 int
1161 jt_ptl_notify_router (int argc, char **argv)
1162 {
1163         struct libcfs_ioctl_data data;
1164         int                      enable;
1165         lnet_nid_t               nid;
1166         int                      rc;
1167         struct timeval           now;
1168         time_t                   when;
1169
1170         if (argc < 3)
1171         {
1172                 fprintf (stderr, "usage: %s targetNID <up/down> [<time>]\n", 
1173                          argv[0]);
1174                 return (0);
1175         }
1176
1177         nid = libcfs_str2nid(argv[1]);
1178         if (nid == LNET_NID_ANY) {
1179                 fprintf (stderr, "Can't parse target NID \"%s\"\n", argv[1]);
1180                 return (-1);
1181         }
1182
1183         if (lnet_parse_bool (&enable, argv[2]) != 0) {
1184                 fprintf (stderr, "Can't parse boolean %s\n", argv[2]);
1185                 return (-1);
1186         }
1187
1188         gettimeofday(&now, NULL);
1189
1190         if (argc < 4) {
1191                 when = now.tv_sec;
1192         } else if (lnet_parse_time (&when, argv[3]) != 0) {
1193                 fprintf(stderr, "Can't parse time %s\n"
1194                         "Please specify either 'YYYY-MM-DD-HH:MM:SS'\n"
1195                         "or an absolute unix time in seconds\n", argv[3]);
1196                 return (-1);
1197         } else if (when > now.tv_sec) {
1198                 fprintf (stderr, "%s specifies a time in the future\n",
1199                          argv[3]);
1200                 return (-1);
1201         }
1202
1203         LIBCFS_IOC_INIT(data);
1204         data.ioc_nid = nid;
1205         data.ioc_flags = enable;
1206         /* Yeuch; 'cept I need a __u64 on 64 bit machines... */
1207         data.ioc_u64[0] = (__u64)when;
1208
1209         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_NOTIFY_ROUTER, &data);
1210         if (rc != 0) {
1211                 fprintf (stderr, "IOC_LIBCFS_NOTIFY_ROUTER (%s) failed: %s\n",
1212                          libcfs_nid2str(nid), strerror (errno));
1213                 return (-1);
1214         }
1215
1216         return (0);
1217 }
1218
1219 int
1220 jt_ptl_print_routes (int argc, char **argv)
1221 {
1222         struct libcfs_ioctl_data  data;
1223         int                       rc;
1224         int                       index;
1225         __u32                     net;
1226         lnet_nid_t                nid;
1227         unsigned int              hops;
1228         int                       alive;
1229
1230         for (index = 0;;index++)
1231         {
1232                 LIBCFS_IOC_INIT(data);
1233                 data.ioc_count = index;
1234
1235                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_ROUTE, &data);
1236                 if (rc != 0)
1237                         break;
1238
1239                 net     = data.ioc_net;
1240                 hops    = data.ioc_count;
1241                 nid     = data.ioc_nid;
1242                 alive   = data.ioc_flags;
1243
1244                 printf ("net %18s hops %u gw %32s %s\n", 
1245                         libcfs_net2str(net), hops,
1246                         libcfs_nid2str(nid), alive ? "up" : "down");
1247         }
1248
1249         if (errno != ENOENT)
1250                 fprintf(stderr, "Error getting routes: %s: check dmesg.\n",
1251                         strerror(errno));
1252
1253         return (0);
1254 }
1255
1256 static int
1257 lwt_control(int enable, int clear)
1258 {
1259         struct libcfs_ioctl_data data;
1260         int                      rc;
1261
1262         LIBCFS_IOC_INIT(data);
1263         data.ioc_flags = (enable ? 1 : 0) | (clear ? 2 : 0);
1264
1265         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LWT_CONTROL, &data);
1266         if (rc == 0)
1267                 return (0);
1268
1269         fprintf(stderr, "IOC_LIBCFS_LWT_CONTROL failed: %s\n",
1270                 strerror(errno));
1271         return (-1);
1272 }
1273
1274 static int
1275 lwt_snapshot(cfs_cycles_t *now, int *ncpu, int *totalsize,
1276              lwt_event_t *events, int size)
1277 {
1278         struct libcfs_ioctl_data data;
1279         int                      rc;
1280
1281         LIBCFS_IOC_INIT(data);
1282         data.ioc_pbuf1 = (char *)events;
1283         data.ioc_plen1 = size;
1284
1285         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LWT_SNAPSHOT, &data);
1286         if (rc != 0) {
1287                 fprintf(stderr, "IOC_LIBCFS_LWT_SNAPSHOT failed: %s\n",
1288                         strerror(errno));
1289                 return (-1);
1290         }
1291
1292         /* crappy overloads */
1293         if (data.ioc_u32[2] != sizeof(lwt_event_t) ||
1294             data.ioc_u32[3] != offsetof(lwt_event_t, lwte_where)) {
1295                 fprintf(stderr,"kernel/user LWT event mismatch %d(%d),%d(%d)\n",
1296                         (int)data.ioc_u32[2], (int)sizeof(lwt_event_t),
1297                         (int)data.ioc_u32[3],
1298                         (int)offsetof(lwt_event_t, lwte_where));
1299                 return (-1);
1300         }
1301
1302         if (now != NULL)
1303                 *now = data.ioc_u64[0];
1304
1305         LASSERT (data.ioc_u32[0] != 0);
1306         if (ncpu != NULL)
1307                 *ncpu = data.ioc_u32[0];
1308
1309         LASSERT (data.ioc_u32[1] != 0);
1310         if (totalsize != NULL)
1311                 *totalsize = data.ioc_u32[1];
1312
1313         return (0);
1314 }
1315
1316 static char *
1317 lwt_get_string(char *kstr)
1318 {
1319         char                     *ustr;
1320         struct libcfs_ioctl_data  data;
1321         int                       size;
1322         int                       rc;
1323
1324         /* FIXME: this could maintain a symbol table since we expect to be
1325          * looking up the same strings all the time... */
1326
1327         LIBCFS_IOC_INIT(data);
1328         data.ioc_pbuf1 = kstr;
1329         data.ioc_plen1 = 1;        /* non-zero just to fool portal_ioctl_is_invalid() */
1330         data.ioc_pbuf2 = NULL;
1331         data.ioc_plen2 = 0;
1332
1333         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LWT_LOOKUP_STRING, &data);
1334         if (rc != 0) {
1335                 fprintf(stderr, "IOC_LIBCFS_LWT_LOOKUP_STRING failed: %s\n",
1336                         strerror(errno));
1337                 return (NULL);
1338         }
1339
1340         size = data.ioc_count;
1341         ustr = (char *)malloc(size);
1342         if (ustr == NULL) {
1343                 fprintf(stderr, "Can't allocate string storage of size %d\n",
1344                         size);
1345                 return (NULL);
1346         }
1347
1348         LIBCFS_IOC_INIT(data);
1349         data.ioc_pbuf1 = kstr;
1350         data.ioc_plen1 = 1;        /* non-zero just to fool portal_ioctl_is_invalid() */
1351         data.ioc_pbuf2 = ustr;
1352         data.ioc_plen2 = size;
1353
1354         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LWT_LOOKUP_STRING, &data);
1355         if (rc != 0) {
1356                 fprintf(stderr, "IOC_LIBCFS_LWT_LOOKUP_STRING failed: %s\n",
1357                         strerror(errno));
1358                 return (NULL);
1359         }
1360
1361         LASSERT(strlen(ustr) == size - 1);
1362         return (ustr);
1363 }
1364
1365 static void
1366 lwt_put_string(char *ustr)
1367 {
1368         free(ustr);
1369 }
1370
1371 static int
1372 lwt_print(FILE *f, cfs_cycles_t t0, cfs_cycles_t tlast, double mhz, int cpu,
1373           lwt_event_t *e)
1374 {
1375 #ifndef __WORDSIZE
1376 # error "__WORDSIZE not defined"
1377 #elif __WORDSIZE == 32
1378 # define XFMT "%#010lx"
1379 #elif __WORDSIZE== 64
1380 # define XFMT "%#018lx"
1381 #else
1382 # error "Unexpected __WORDSIZE"
1383 #endif
1384         char           *where = lwt_get_string(e->lwte_where);
1385
1386         if (where == NULL)
1387                 return (-1);
1388
1389         fprintf(f, XFMT" "XFMT" "XFMT" "XFMT": "XFMT" %2d %10.6f %10.2f %s\n",
1390                 e->lwte_p1, e->lwte_p2, e->lwte_p3, e->lwte_p4,
1391                 (long)e->lwte_task, cpu, (e->lwte_when - t0) / (mhz * 1000000.0),
1392                 (t0 == e->lwte_when) ? 0.0 : (e->lwte_when - tlast) / mhz,
1393                 where);
1394
1395         lwt_put_string(where);
1396
1397         return (0);
1398 #undef XFMT
1399 }
1400
1401 double
1402 get_cycles_per_usec ()
1403 {
1404         FILE      *f = fopen ("/proc/cpuinfo", "r");
1405         double     mhz;
1406         char      line[64];
1407
1408         if (f != NULL) {
1409                 while (fgets (line, sizeof (line), f) != NULL)
1410                         if (sscanf (line, "cpu MHz : %lf", &mhz) == 1) {
1411                                 fclose (f);
1412                                 return (mhz);
1413                         }
1414                 fclose (f);
1415         }
1416
1417         fprintf (stderr, "Can't read/parse /proc/cpuinfo\n");
1418         return (1000.0);
1419 }
1420
1421 #define LWT_MAX_CPUS (32)
1422
1423 int
1424 jt_ptl_lwt(int argc, char **argv)
1425 {
1426         int             ncpus;
1427         int             totalspace;
1428         int             nevents_per_cpu;
1429         lwt_event_t    *events;
1430         lwt_event_t    *cpu_event[LWT_MAX_CPUS + 1];
1431         lwt_event_t    *next_event[LWT_MAX_CPUS];
1432         lwt_event_t    *first_event[LWT_MAX_CPUS];
1433         int             cpu;
1434         lwt_event_t    *e;
1435         int             rc;
1436         int             i;
1437         double          mhz;
1438         cfs_cycles_t    t0;
1439         cfs_cycles_t    tlast;
1440         cfs_cycles_t    tnow;
1441         struct timeval  tvnow;
1442         int             printed_date = 0;
1443         int             nlines = 0;
1444         FILE           *f = stdout;
1445
1446         if (argc < 2 ||
1447             (strcmp(argv[1], "start") &&
1448              strcmp(argv[1], "stop"))) {
1449                 fprintf(stderr, 
1450                         "usage:  %s start\n"
1451                         "        %s stop [fname]\n", argv[0], argv[0]);
1452                 return (-1);
1453         }
1454
1455         if (!strcmp(argv[1], "start")) {
1456                 /* disable */
1457                 if (lwt_control(0, 0) != 0)
1458                         return (-1);
1459
1460                 /* clear */
1461                 if (lwt_control(0, 1) != 0)
1462                         return (-1);
1463
1464                 /* enable */
1465                 if (lwt_control(1, 0) != 0)
1466                         return (-1);
1467
1468                 return (0);
1469         }
1470
1471         if (lwt_snapshot(NULL, &ncpus, &totalspace, NULL, 0) != 0)
1472                 return (-1);
1473
1474         if (ncpus > LWT_MAX_CPUS) {
1475                 fprintf(stderr, "Too many cpus: %d (%d)\n",
1476                         ncpus, LWT_MAX_CPUS);
1477                 return (-1);
1478         }
1479
1480         events = (lwt_event_t *)malloc(totalspace);
1481         if (events == NULL) {
1482                 fprintf(stderr, "Can't allocate %d\n", totalspace);
1483                 return (-1);
1484         }
1485
1486         if (lwt_control(0, 0) != 0) {           /* disable */
1487                 free(events);
1488                 return (-1);
1489         }
1490
1491         if (lwt_snapshot(&tnow, NULL, NULL, events, totalspace)) {
1492                 free(events);
1493                 return (-1);
1494         }
1495
1496         /* we want this time to be sampled at snapshot time */
1497         gettimeofday(&tvnow, NULL);
1498
1499         if (argc > 2) {
1500                 f = fopen (argv[2], "w");
1501                 if (f == NULL) {
1502                         fprintf(stderr, "Can't open %s for writing: %s\n", argv[2], strerror (errno));
1503                         free(events);
1504                         return (-1);
1505                 }
1506         }
1507
1508         mhz = get_cycles_per_usec();
1509
1510         /* carve events into per-cpu slices */
1511         nevents_per_cpu = totalspace / (ncpus * sizeof(lwt_event_t));
1512         for (cpu = 0; cpu <= ncpus; cpu++)
1513                 cpu_event[cpu] = &events[cpu * nevents_per_cpu];
1514
1515         /* find the earliest event on each cpu */
1516         for (cpu = 0; cpu < ncpus; cpu++) {
1517                 first_event[cpu] = NULL;
1518
1519                 for (e = cpu_event[cpu]; e < cpu_event[cpu + 1]; e++) {
1520
1521                         if (e->lwte_where == NULL) /* not an event */
1522                                 continue;
1523
1524                         if (first_event[cpu] == NULL ||
1525                             first_event[cpu]->lwte_when > e->lwte_when)
1526                                 first_event[cpu] = e;
1527                 }
1528
1529                 next_event[cpu] = first_event[cpu];
1530         }
1531
1532         t0 = tlast = 0;
1533         for (cpu = 0; cpu < ncpus; cpu++) {
1534                 e = first_event[cpu];
1535                 if (e == NULL)                  /* no events this cpu */
1536                         continue;
1537
1538                 if (e == cpu_event[cpu])
1539                         e = cpu_event[cpu + 1] - 1;
1540                 else
1541                         e = e - 1;
1542
1543                 /* If there's an event immediately before the first one, this
1544                  * cpu wrapped its event buffer */
1545                 if (e->lwte_where == NULL)
1546                         continue;
1547
1548                 /* We should only start outputting events from the most recent
1549                  * first event in any wrapped cpu.  Events before this time on
1550                  * other cpus won't have any events from this CPU to interleave
1551                  * with. */
1552                 if (t0 < first_event[cpu]->lwte_when)
1553                         t0 = first_event[cpu]->lwte_when;
1554         }
1555
1556         for (;;) {
1557                 /* find which cpu has the next event */
1558                 cpu = -1;
1559                 for (i = 0; i < ncpus; i++) {
1560
1561                         if (next_event[i] == NULL) /* this cpu exhausted */
1562                                 continue;
1563
1564                         if (cpu < 0 ||
1565                             next_event[i]->lwte_when < next_event[cpu]->lwte_when)
1566                                 cpu = i;
1567                 }
1568
1569                 if (cpu < 0)                    /* all cpus exhausted */
1570                         break;
1571
1572                 if (t0 == 0) {
1573                         /* no wrapped cpus and this is he first ever event */
1574                         t0 = next_event[cpu]->lwte_when;
1575                 }
1576
1577                 if (t0 <= next_event[cpu]->lwte_when) {
1578                         /* on or after the first event */
1579                         if (!printed_date) {
1580                                 cfs_cycles_t du = (tnow - t0) / mhz;
1581                                 time_t   then = tvnow.tv_sec - du/1000000;
1582
1583                                 if (du % 1000000 > tvnow.tv_usec)
1584                                         then--;
1585
1586                                 fprintf(f, "%s", ctime(&then));
1587                                 printed_date = 1;
1588                         }
1589
1590                         rc = lwt_print(f, t0, tlast, mhz, cpu, next_event[cpu]);
1591                         if (rc != 0)
1592                                 break;
1593
1594                         if (++nlines % 10000 == 0 && f != stdout) {
1595                                 /* show some activity... */
1596                                 printf(".");
1597                                 fflush (stdout);
1598                         }
1599                 }
1600
1601                 tlast = next_event[cpu]->lwte_when;
1602
1603                 next_event[cpu]++;
1604                 if (next_event[cpu] == cpu_event[cpu + 1])
1605                         next_event[cpu] = cpu_event[cpu];
1606
1607                 if (next_event[cpu]->lwte_where == NULL ||
1608                     next_event[cpu] == first_event[cpu])
1609                         next_event[cpu] = NULL;
1610         }
1611
1612         if (f != stdout) {
1613                 printf("\n");
1614                 fclose(f);
1615         }
1616
1617         free(events);
1618         return (0);
1619 }
1620
1621 int jt_ptl_memhog(int argc, char **argv)
1622 {
1623         static int                gfp = 0;        /* sticky! */
1624
1625         struct libcfs_ioctl_data  data;
1626         int                       rc;
1627         int                       count;
1628         char                     *end;
1629
1630         if (argc < 2)  {
1631                 fprintf(stderr, "usage: %s <npages> [<GFP flags>]\n", argv[0]);
1632                 return 0;
1633         }
1634
1635         count = strtol(argv[1], &end, 0);
1636         if (count < 0 || *end != 0) {
1637                 fprintf(stderr, "Can't parse page count '%s'\n", argv[1]);
1638                 return -1;
1639         }
1640
1641         if (argc >= 3) {
1642                 rc = strtol(argv[2], &end, 0);
1643                 if (*end != 0) {
1644                         fprintf(stderr, "Can't parse gfp flags '%s'\n", argv[2]);
1645                         return -1;
1646                 }
1647                 gfp = rc;
1648         }
1649
1650         LIBCFS_IOC_INIT(data);
1651         data.ioc_count = count;
1652         data.ioc_flags = gfp;
1653         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_MEMHOG, &data);
1654
1655         if (rc != 0) {
1656                 fprintf(stderr, "memhog %d failed: %s\n", count, strerror(errno));
1657                 return -1;
1658         }
1659
1660         printf("memhog %d OK\n", count);
1661         return 0;
1662 }
1663
1664 int jt_ptl_testprotocompat(int argc, char **argv)
1665 {
1666         struct libcfs_ioctl_data  data;
1667         int                       rc;
1668         int                       flags;
1669         char                     *end;
1670
1671         if (argc < 2)  {
1672                 fprintf(stderr, "usage: %s <number>\n", argv[0]);
1673                 return 0;
1674         }
1675
1676         flags = strtol(argv[1], &end, 0);
1677         if (flags < 0 || *end != 0) {
1678                 fprintf(stderr, "Can't parse flags '%s'\n", argv[1]);
1679                 return -1;
1680         }
1681
1682         LIBCFS_IOC_INIT(data);
1683         data.ioc_flags = flags;
1684         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_TESTPROTOCOMPAT, &data);
1685
1686         if (rc != 0) {
1687                 fprintf(stderr, "test proto compat %x failed: %s\n",
1688                         flags, strerror(errno));
1689                 return -1;
1690         }
1691
1692         printf("test proto compat %x OK\n", flags);
1693         return 0;
1694 }
1695
1696