lnet/utils/portals.c

   1 /*
   2  * Copyright (c) 2003, 2010, Oracle and/or its affiliates. All rights reserved.
   3  *
   4  * Copyright (c) 2013, 2015, Intel Corporation.
   5  *
   6  *   This file is part of Lustre, https://wiki.hpdd.intel.com/
   7  *
   8  *   Portals is free software; you can redistribute it and/or
   9  *   modify it under the terms of version 2 of the GNU General Public
  10  *   License as published by the Free Software Foundation.
  11  *
  12  *   Portals is distributed in the hope that it will be useful,
  13  *   but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  *   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15  *   GNU General Public License for more details.
  16  *
  17  *   You should have received a copy of the GNU General Public License
  18  *   along with Portals; if not, write to the Free Software
  19  *   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  20  *
  21  */
  22 #include <errno.h>
  23 #include <getopt.h>
  24 #include <inttypes.h>
  25 #include <limits.h>
  26 #ifdef HAVE_NETDB_H
  27 # include <netdb.h>
  28 #endif
  29 #include <stdarg.h>
  30 #include <stdio.h>
  31 #include <stdlib.h>
  32 #include <string.h>
  33 #include <sys/ioctl.h>
  34 #include <sys/time.h>
  35 #include <time.h>
  36 #include <linux/types.h>
  37
  38 #include <libcfs/util/string.h>
  39 #include <libcfs/util/ioctl.h>
  40 #include <libcfs/user-time.h>
  41 #include <libcfs/libcfs_debug.h>
  42 #include <lnet/lnetctl.h>
  43 #include <lnet/socklnd.h>
  44 #include <lnet/lnet.h>
  45
  46 unsigned int libcfs_debug;
  47 unsigned int libcfs_printk = D_CANTMASK;
  48
  49 static bool  g_net_interactive;
  50 static bool  g_net_set;
  51 static __u32 g_net;
  52
  53 #define IOC_BUF_SIZE    8192
  54 static char local_buf[IOC_BUF_SIZE];
  55 static char *ioc_buf = local_buf;
  56
  57 /* Convert a string boolean to an int; "enable" -> 1 */
  58 int
  59 lnet_parse_bool (int *b, char *str)
  60 {
  61         if (!strcasecmp (str, "no") ||
  62             !strcasecmp (str, "n") ||
  63             !strcasecmp (str, "off") ||
  64             !strcasecmp (str, "down") ||
  65             !strcasecmp (str, "disable"))
  66         {
  67                 *b = 0;
  68                 return (0);
  69         }
  70
  71         if (!strcasecmp (str, "yes") ||
  72             !strcasecmp (str, "y") ||
  73             !strcasecmp (str, "on") ||
  74             !strcasecmp (str, "up") ||
  75             !strcasecmp (str, "enable"))
  76         {
  77                 *b = 1;
  78                 return (0);
  79         }
  80
  81         return (-1);
  82 }
  83
  84 int
  85 lnet_parse_port (int *port, char *str)
  86 {
  87         char      *end;
  88
  89         *port = strtol (str, &end, 0);
  90
  91         if (*end == 0 &&                        /* parsed whole string */
  92             *port > 0 && *port < 65536)         /* minimal sanity check */
  93                 return (0);
  94
  95         return (-1);
  96 }
  97
  98 #ifdef HAVE_GETHOSTBYNAME
  99 static struct hostent *
 100 ptl_gethostbyname(char * hname) {
 101         struct hostent *he;
 102         he = gethostbyname(hname);
 103         if (!he) {
 104                 switch(h_errno) {
 105                 case HOST_NOT_FOUND:
 106                 case NO_ADDRESS:
 107                         fprintf(stderr, "Unable to resolve hostname: %s\n",
 108                                 hname);
 109                         break;
 110                 default:
 111                         fprintf(stderr, "gethostbyname error for %s: %s\n",
 112                                 hname, strerror(h_errno));
 113                         break;
 114                 }
 115                 return NULL;
 116         }
 117         return he;
 118 }
 119 #endif
 120
 121 int
 122 lnet_parse_ipquad (__u32 *ipaddrp, char *str)
 123 {
 124         int             a;
 125         int             b;
 126         int             c;
 127         int             d;
 128
 129         if (sscanf (str, "%d.%d.%d.%d", &a, &b, &c, &d) == 4 &&
 130             (a & ~0xff) == 0 && (b & ~0xff) == 0 &&
 131             (c & ~0xff) == 0 && (d & ~0xff) == 0)
 132         {
 133                 *ipaddrp = (a<<24)|(b<<16)|(c<<8)|d;
 134                 return (0);
 135         }
 136
 137         return (-1);
 138 }
 139
 140 int
 141 lnet_parse_ipaddr (__u32 *ipaddrp, char *str)
 142 {
 143 #ifdef HAVE_GETHOSTBYNAME
 144         struct hostent *he;
 145 #endif
 146
 147         if (!strcmp (str, "_all_")) {
 148                 *ipaddrp = 0;
 149                 return (0);
 150         }
 151
 152         if (lnet_parse_ipquad(ipaddrp, str) == 0)
 153                 return (0);
 154
 155 #ifdef HAVE_GETHOSTBYNAME
 156         if ((('a' <= str[0] && str[0] <= 'z') ||
 157              ('A' <= str[0] && str[0] <= 'Z')) &&
 158              (he = ptl_gethostbyname (str)) != NULL) {
 159                 __u32 addr = *(__u32 *)he->h_addr;
 160
 161                 *ipaddrp = ntohl(addr);         /* HOST byte order */
 162                 return (0);
 163         }
 164 #endif
 165
 166         return (-1);
 167 }
 168
 169 char *
 170 ptl_ipaddr_2_str(__u32 ipaddr, char *str, size_t strsize, int lookup)
 171 {
 172 #ifdef HAVE_GETHOSTBYNAME
 173         __u32           net_ip;
 174         struct hostent *he;
 175
 176         if (lookup) {
 177                 net_ip = htonl (ipaddr);
 178                 he = gethostbyaddr (&net_ip, sizeof (net_ip), AF_INET);
 179                 if (he != NULL) {
 180                         strlcpy(str, he->h_name, strsize);
 181                         return (str);
 182                 }
 183         }
 184 #endif
 185
 186         sprintf (str, "%d.%d.%d.%d",
 187                  (ipaddr >> 24) & 0xff, (ipaddr >> 16) & 0xff,
 188                  (ipaddr >> 8) & 0xff, ipaddr & 0xff);
 189         return (str);
 190 }
 191
 192 int
 193 lnet_parse_time (time_t *t, char *str)
 194 {
 195         char          *end;
 196         int            n;
 197         struct tm      tm;
 198
 199         *t = strtol (str, &end, 0);
 200         if (*end == 0) /* parsed whole string */
 201                 return (0);
 202
 203         memset (&tm, 0, sizeof (tm));
 204         n = sscanf (str, "%d-%d-%d-%d:%d:%d",
 205                     &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
 206                     &tm.tm_hour, &tm.tm_min, &tm.tm_sec);
 207         if (n != 6)
 208                 return (-1);
 209
 210         tm.tm_mon--;                    /* convert to 0 == Jan */
 211         tm.tm_year -= 1900;             /* y2k quirk */
 212         tm.tm_isdst = -1;               /* dunno if it's daylight savings... */
 213
 214         *t = mktime (&tm);
 215         if (*t == (time_t)-1)
 216                 return (-1);
 217
 218         return (0);
 219 }
 220
 221 int
 222 lnet_parse_nid(char *nid_str, lnet_process_id_t *id_ptr)
 223 {
 224         id_ptr->pid = LNET_PID_ANY;
 225         id_ptr->nid = libcfs_str2nid(nid_str);
 226         if (id_ptr->nid == LNET_NID_ANY) {
 227                 fprintf (stderr, "Can't parse nid \"%s\"\n", nid_str);
 228                 return -1;
 229         }
 230
 231         return 0;
 232 }
 233
 234 static int g_net_is_set(char *cmd)
 235 {
 236         if (g_net_set)
 237                 return 1;
 238
 239         if (cmd != NULL) {
 240                 char *net;
 241
 242                 if (g_net_interactive)
 243                         net = "network";
 244                 else
 245                         net = "--net";
 246
 247                 fprintf(stderr,
 248                         "You must run '%s <network>' command before '%s'\n",
 249                         cmd, net);
 250                 return 0;
 251         }
 252
 253         return 0;
 254 }
 255
 256 static int g_net_is_compatible(char *cmd, ...)
 257 {
 258         va_list ap;
 259         int nal;
 260
 261         if (!g_net_is_set(cmd))
 262                 return 0;
 263
 264         va_start(ap, cmd);
 265
 266         do {
 267                 nal = va_arg(ap, int);
 268                 if (nal == LNET_NETTYP(g_net)) {
 269                         va_end (ap);
 270                         return 1;
 271                 }
 272         } while (nal != 0);
 273
 274         va_end (ap);
 275
 276         if (cmd != NULL)
 277                 fprintf (stderr,
 278                          "Command %s not compatible with %s NAL\n",
 279                          cmd,
 280                          libcfs_lnd2str(LNET_NETTYP(g_net)));
 281
 282         return 0;
 283 }
 284
 285 int ptl_initialize(int argc, char **argv)
 286 {
 287         if (argc > 1)
 288                 g_net_interactive = true;
 289
 290         register_ioc_dev(LNET_DEV_ID, LNET_DEV_PATH,
 291                          LNET_DEV_MAJOR, LNET_DEV_MINOR);
 292         return 0;
 293 }
 294
 295
 296 int jt_ptl_network(int argc, char **argv)
 297 {
 298         struct libcfs_ioctl_data data;
 299         __u32 net = LNET_NIDNET(LNET_NID_ANY);
 300         int rc;
 301
 302         if (argc != 2) {
 303                 fprintf(stderr, "usage: %s <net>|up|down\n", argv[0]);
 304                 return -1;
 305         }
 306
 307         if (!strcmp(argv[1], "unconfigure") || !strcmp(argv[1], "down")) {
 308                 LIBCFS_IOC_INIT(data);
 309                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_UNCONFIGURE, &data);
 310
 311                 if (rc == 0) {
 312                         printf("LNET ready to unload\n");
 313                         return 0;
 314                 }
 315
 316                 if (errno == EBUSY)
 317                         fprintf(stderr, "LNET busy\n");
 318                 else
 319                         fprintf(stderr, "LNET unconfigure error %d: %s\n",
 320                                 errno, strerror(errno));
 321                 return -1;
 322         } else if (!strcmp(argv[1], "configure") || !strcmp(argv[1], "up")) {
 323                 LIBCFS_IOC_INIT(data);
 324                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CONFIGURE, &data);
 325
 326                 if (rc == 0) {
 327                         printf("LNET configured\n");
 328                         return 0;
 329                 }
 330
 331                 fprintf(stderr, "LNET configure error %d: %s\n",
 332                         errno, strerror(errno));
 333                 return -1;
 334         }
 335
 336         net = libcfs_str2net(argv[1]);
 337         if (net == LNET_NIDNET(LNET_NID_ANY)) {
 338                 fprintf(stderr, "Can't parse net %s\n", argv[1]);
 339                 return -1;
 340         }
 341
 342         if (LNET_NETTYP(net) == QSWLND || LNET_NETTYP(net) == GMLND ||
 343             LNET_NETTYP(net) == PTLLND || LNET_NETTYP(net) == CIBLND ||
 344             LNET_NETTYP(net) == OPENIBLND || LNET_NETTYP(net) == IIBLND ||
 345             LNET_NETTYP(net) == RALND || LNET_NETTYP(net) == VIBLND ||
 346             LNET_NETTYP(net) == MXLND) {
 347                 fprintf(stderr, "Net %s obsoleted\n", libcfs_lnd2str(net));
 348                 return -1;
 349         }
 350
 351         g_net_set = true;
 352         g_net = net;
 353         return 0;
 354 }
 355
 356 int
 357 jt_ptl_list_nids(int argc, char **argv)
 358 {
 359         struct libcfs_ioctl_data data;
 360         int                      all = 0, return_nid = 0;
 361         int                      count;
 362         int                      rc;
 363
 364         all = (argc == 2) && (strcmp(argv[1], "all") == 0);
 365         /* Hack to pass back value */
 366         return_nid = (argc == 2) && (argv[1][0] == 1);
 367
 368         if ((argc > 2) && !(all || return_nid)) {
 369                 fprintf(stderr, "usage: %s [all]\n", argv[0]);
 370                 return 0;
 371         }
 372
 373         for (count = 0;; count++) {
 374                 LIBCFS_IOC_INIT (data);
 375                 data.ioc_count = count;
 376                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_NI, &data);
 377
 378                 if (rc < 0) {
 379                         if ((count > 0) && (errno == ENOENT))
 380                                 /* We found them all */
 381                                 break;
 382                         fprintf(stderr,"IOC_LIBCFS_GET_NI error %d: %s\n",
 383                                 errno, strerror(errno));
 384                         return -1;
 385                 }
 386
 387                 if (all || (LNET_NETTYP(LNET_NIDNET(data.ioc_nid)) != LOLND)) {
 388                         printf("%s\n", libcfs_nid2str(data.ioc_nid));
 389                         if (return_nid) {
 390                                 *(__u64 *)(argv[1]) = data.ioc_nid;
 391                                 return_nid--;
 392                         }
 393                 }
 394         }
 395
 396         return 0;
 397 }
 398
 399 int
 400 jt_ptl_which_nid (int argc, char **argv)
 401 {
 402         struct libcfs_ioctl_data data;
 403         int          best_dist = 0;
 404         int          best_order = 0;
 405         lnet_nid_t   best_nid = LNET_NID_ANY;
 406         int          dist;
 407         int          order;
 408         lnet_nid_t   nid;
 409         char        *nidstr;
 410         int          rc;
 411         int          i;
 412
 413         if (argc < 2) {
 414                 fprintf(stderr, "usage: %s NID [NID...]\n", argv[0]);
 415                 return 0;
 416         }
 417
 418         for (i = 1; i < argc; i++) {
 419                 nidstr = argv[i];
 420                 nid = libcfs_str2nid(nidstr);
 421                 if (nid == LNET_NID_ANY) {
 422                         fprintf(stderr, "Can't parse NID %s\n", nidstr);
 423                         return -1;
 424                 }
 425
 426                 LIBCFS_IOC_INIT(data);
 427                 data.ioc_nid = nid;
 428
 429                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_DIST, &data);
 430                 if (rc != 0) {
 431                         fprintf(stderr, "Can't get distance to %s: %s\n",
 432                                 nidstr, strerror(errno));
 433                         return -1;
 434                 }
 435
 436                 dist = data.ioc_u32[0];
 437                 order = data.ioc_u32[1];
 438
 439                 if (dist < 0) {
 440                         if (dist == -EHOSTUNREACH)
 441                                 continue;
 442
 443                         fprintf(stderr, "Unexpected distance to %s: %d\n",
 444                                 nidstr, dist);
 445                         return -1;
 446                 }
 447
 448                 if (best_nid == LNET_NID_ANY ||
 449                     dist < best_dist ||
 450                     (dist == best_dist && order < best_order)) {
 451                         best_dist = dist;
 452                         best_order = order;
 453                         best_nid = nid;
 454                 }
 455         }
 456
 457         if (best_nid == LNET_NID_ANY) {
 458                 fprintf(stderr, "No reachable NID\n");
 459                 return -1;
 460         }
 461
 462         printf("%s\n", libcfs_nid2str(best_nid));
 463         return 0;
 464 }
 465
 466 int
 467 jt_ptl_print_interfaces (int argc, char **argv)
 468 {
 469         struct libcfs_ioctl_data data;
 470         char                     buffer[3][HOST_NAME_MAX + 1];
 471         int                      index;
 472         int                      rc;
 473
 474         if (!g_net_is_compatible (argv[0], SOCKLND, 0))
 475                 return -1;
 476
 477         for (index = 0;;index++) {
 478                 LIBCFS_IOC_INIT(data);
 479                 data.ioc_net   = g_net;
 480                 data.ioc_count = index;
 481
 482                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_INTERFACE, &data);
 483                 if (rc != 0)
 484                         break;
 485
 486                 printf ("%s: (%s/%s) npeer %d nroute %d\n",
 487                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[2],
 488                                          sizeof(buffer[2]), 1),
 489                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[0],
 490                                          sizeof(buffer[0]), 0),
 491                         ptl_ipaddr_2_str(data.ioc_u32[1], buffer[1],
 492                                          sizeof(buffer[1]), 0),
 493                         data.ioc_u32[2], data.ioc_u32[3]);
 494         }
 495
 496         if (index == 0) {
 497                 if (errno == ENOENT) {
 498                         printf ("<no interfaces>\n");
 499                 } else {
 500                         fprintf(stderr, "Error getting interfaces: %s: "
 501                                 "check dmesg.\n",
 502                                 strerror(errno));
 503                 }
 504         }
 505
 506         return 0;
 507 }
 508
 509 int
 510 jt_ptl_add_interface (int argc, char **argv)
 511 {
 512         struct libcfs_ioctl_data data;
 513         __u32                    ipaddr;
 514         int                      rc;
 515         __u32                    netmask = 0xffffff00;
 516         int                      i;
 517         int                      count;
 518         char                    *end;
 519
 520         if (argc < 2 || argc > 3) {
 521                 fprintf (stderr, "usage: %s ipaddr [netmask]\n", argv[0]);
 522                 return 0;
 523         }
 524
 525         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
 526                 return -1;
 527
 528         if (lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
 529                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
 530                 return -1;
 531         }
 532
 533         if (argc > 2 ) {
 534                 count = strtol(argv[2], &end, 0);
 535                 if (count > 0 && count < 32 && *end == 0) {
 536                         netmask = 0;
 537                         for (i = count; i > 0; i--)
 538                                 netmask = netmask|(1<<(32-i));
 539                 } else if (lnet_parse_ipquad(&netmask, argv[2]) != 0) {
 540                         fprintf (stderr, "Can't parse netmask: %s\n", argv[2]);
 541                         return -1;
 542                 }
 543         }
 544
 545         LIBCFS_IOC_INIT(data);
 546         data.ioc_net    = g_net;
 547         data.ioc_u32[0] = ipaddr;
 548         data.ioc_u32[1] = netmask;
 549
 550         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_INTERFACE, &data);
 551         if (rc != 0) {
 552                 fprintf (stderr, "failed to add interface: %s\n",
 553                          strerror (errno));
 554                 return -1;
 555         }
 556
 557         return 0;
 558 }
 559
 560 int
 561 jt_ptl_del_interface (int argc, char **argv)
 562 {
 563         struct libcfs_ioctl_data data;
 564         int                      rc;
 565         __u32                    ipaddr = 0;
 566
 567         if (argc > 2) {
 568                 fprintf (stderr, "usage: %s [ipaddr]\n", argv[0]);
 569                 return 0;
 570         }
 571
 572         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
 573                 return -1;
 574
 575         if (argc == 2 &&
 576             lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
 577                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
 578                 return -1;
 579         }
 580
 581         LIBCFS_IOC_INIT(data);
 582         data.ioc_net    = g_net;
 583         data.ioc_u32[0] = ipaddr;
 584
 585         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_INTERFACE, &data);
 586         if (rc != 0) {
 587                 fprintf (stderr, "failed to delete interface: %s\n",
 588                          strerror (errno));
 589                 return -1;
 590         }
 591
 592         return 0;
 593 }
 594
 595 int
 596 jt_ptl_print_peers (int argc, char **argv)
 597 {
 598         struct libcfs_ioctl_data data;
 599         lnet_process_id_t        id;
 600         char                     buffer[2][HOST_NAME_MAX + 1];
 601         int                      index;
 602         int                      rc;
 603
 604         if (!g_net_is_compatible (argv[0], SOCKLND, O2IBLND, GNILND, 0))
 605                 return -1;
 606
 607         for (index = 0;;index++) {
 608                 LIBCFS_IOC_INIT(data);
 609                 data.ioc_net     = g_net;
 610                 data.ioc_count   = index;
 611
 612                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_PEER, &data);
 613                 if (rc != 0)
 614                         break;
 615
 616                 if (g_net_is_compatible(NULL, SOCKLND, 0)) {
 617                         id.nid = data.ioc_nid;
 618                         id.pid = data.ioc_u32[4];
 619                         printf ("%-20s [%d]%s->%s:%d #%d\n",
 620                                 libcfs_id2str(id),
 621                                 data.ioc_count, /* persistence */
 622                                 /* my ip */
 623                                 ptl_ipaddr_2_str(data.ioc_u32[2], buffer[0],
 624                                                  sizeof(buffer[0]), 1),
 625                                 /* peer ip */
 626                                 ptl_ipaddr_2_str(data.ioc_u32[0], buffer[1],
 627                                                  sizeof(buffer[1]), 1),
 628                                 data.ioc_u32[1], /* peer port */
 629                                 data.ioc_u32[3]); /* conn_count */
 630                 } else if (g_net_is_compatible(NULL, GNILND, 0)) {
 631                         int disconn = data.ioc_flags >> 16;
 632                         char *state;
 633
 634                         if (disconn)
 635                                 state = "D";
 636                         else
 637                                 state = data.ioc_flags & 0xffff ? "C" : "U";
 638
 639                         printf("%-20s (%d) %s [%d] %ju sq %d/%d tx %d/%d/%d\n",
 640                                libcfs_nid2str(data.ioc_nid), /* peer nid */
 641                                data.ioc_net, /* gemini device id */
 642                                state, /* peer is Connecting, Up, or Down */
 643                                data.ioc_count,   /* peer refcount */
 644                                (uintmax_t)data.ioc_u64[0], /* peerstamp */
 645                                data.ioc_u32[2], data.ioc_u32[3], /* tx and rx seq */
 646                                /* fmaq, nfma, nrdma */
 647                                data.ioc_u32[0], data.ioc_u32[1], data.ioc_u32[4]);
 648                 } else {
 649                         printf ("%-20s [%d]\n",
 650                                 libcfs_nid2str(data.ioc_nid), data.ioc_count);
 651                 }
 652         }
 653
 654         if (index == 0) {
 655                 if (errno == ENOENT) {
 656                         printf ("<no peers>\n");
 657                 } else {
 658                         fprintf(stderr, "Error getting peer list: %s: "
 659                                 "check dmesg.\n",
 660                                 strerror(errno));
 661                 }
 662         }
 663         return 0;
 664 }
 665
 666 int jt_ptl_add_peer(int argc, char **argv)
 667 {
 668         struct libcfs_ioctl_data data;
 669         lnet_nid_t nid;
 670         __u32 ip = 0;
 671         int port = 0;
 672         int rc;
 673
 674         if (!g_net_is_compatible(argv[0], SOCKLND, GNILND, 0))
 675                 return -1;
 676
 677         if (argc != 4) {
 678                 fprintf(stderr, "usage(tcp,gni): %s nid ipaddr port\n",
 679                         argv[0]);
 680                 return 0;
 681         }
 682
 683         nid = libcfs_str2nid(argv[1]);
 684         if (nid == LNET_NID_ANY) {
 685                 fprintf (stderr, "Can't parse NID: %s\n", argv[1]);
 686                 return -1;
 687         }
 688
 689         if (lnet_parse_ipaddr (&ip, argv[2]) != 0) {
 690                 fprintf (stderr, "Can't parse ip addr: %s\n", argv[2]);
 691                 return -1;
 692         }
 693
 694         if (lnet_parse_port (&port, argv[3]) != 0) {
 695                 fprintf (stderr, "Can't parse port: %s\n", argv[3]);
 696                 return -1;
 697         }
 698
 699         LIBCFS_IOC_INIT(data);
 700         data.ioc_net    = g_net;
 701         data.ioc_nid    = nid;
 702         data.ioc_u32[0] = ip;
 703         data.ioc_u32[1] = port;
 704
 705         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_ADD_PEER, &data);
 706         if (rc != 0) {
 707                 fprintf (stderr, "failed to add peer: %s\n",
 708                          strerror (errno));
 709                 return -1;
 710         }
 711
 712         return 0;
 713 }
 714
 715 int
 716 jt_ptl_del_peer (int argc, char **argv)
 717 {
 718         struct libcfs_ioctl_data data;
 719         lnet_nid_t               nid = LNET_NID_ANY;
 720         lnet_pid_t               pid = LNET_PID_ANY;
 721         __u32                    ip = 0;
 722         int                      rc;
 723
 724         if (!g_net_is_compatible(argv[0], SOCKLND, O2IBLND, GNILND, 0))
 725                 return -1;
 726
 727         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
 728                 if (argc > 3) {
 729                         fprintf (stderr, "usage: %s [nid] [ipaddr]\n",
 730                                  argv[0]);
 731                         return 0;
 732                 }
 733         } else if (argc > 2) {
 734                 fprintf (stderr, "usage: %s [nid]\n", argv[0]);
 735                 return 0;
 736         }
 737
 738         if (argc > 1 &&
 739             !libcfs_str2anynid(&nid, argv[1])) {
 740                 fprintf (stderr, "Can't parse nid: %s\n", argv[1]);
 741                 return -1;
 742         }
 743
 744         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
 745                 if (argc > 2 &&
 746                     lnet_parse_ipaddr (&ip, argv[2]) != 0) {
 747                         fprintf (stderr, "Can't parse ip addr: %s\n",
 748                                  argv[2]);
 749                         return -1;
 750                 }
 751         }
 752
 753         LIBCFS_IOC_INIT(data);
 754         data.ioc_net    = g_net;
 755         data.ioc_nid    = nid;
 756         data.ioc_u32[0] = ip;
 757         data.ioc_u32[1] = pid;
 758
 759         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_PEER, &data);
 760         if (rc != 0) {
 761                 fprintf (stderr, "failed to remove peer: %s\n",
 762                          strerror (errno));
 763                 return -1;
 764         }
 765
 766         return 0;
 767 }
 768
 769 int
 770 jt_ptl_print_connections (int argc, char **argv)
 771 {
 772         struct libcfs_ioctl_data data;
 773         lnet_process_id_t        id;
 774         char                     buffer[2][HOST_NAME_MAX + 1];
 775         int                      index;
 776         int                      rc;
 777
 778         if (!g_net_is_compatible(argv[0], SOCKLND, O2IBLND, GNILND, 0))
 779                 return -1;
 780
 781         for (index = 0; ; index++) {
 782                 LIBCFS_IOC_INIT(data);
 783                 data.ioc_net     = g_net;
 784                 data.ioc_count   = index;
 785
 786                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_CONN, &data);
 787                 if (rc != 0)
 788                         break;
 789
 790                 if (g_net_is_compatible (NULL, SOCKLND, 0)) {
 791                         id.nid = data.ioc_nid;
 792                         id.pid = data.ioc_u32[6];
 793                         printf ("%-20s %s[%d]%s->%s:%d %d/%d %s\n",
 794                                 libcfs_id2str(id),
 795                                 (data.ioc_u32[3] == SOCKLND_CONN_ANY) ? "A" :
 796                                 (data.ioc_u32[3] == SOCKLND_CONN_CONTROL) ? "C" :
 797                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_IN) ? "I" :
 798                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_OUT) ? "O" : "?",
 799                                 data.ioc_u32[4], /* scheduler */
 800                                 /* local IP addr */
 801                                 ptl_ipaddr_2_str(data.ioc_u32[2], buffer[0],
 802                                                  sizeof(buffer[0]), 1),
 803                                 /* remote IP addr */
 804                                 ptl_ipaddr_2_str(data.ioc_u32[0], buffer[1],
 805                                                  sizeof(buffer[1]), 1),
 806                                 data.ioc_u32[1],         /* remote port */
 807                                 data.ioc_count, /* tx buffer size */
 808                                 data.ioc_u32[5], /* rx buffer size */
 809                                 data.ioc_flags ? "nagle" : "nonagle");
 810                 } else if (g_net_is_compatible (NULL, O2IBLND, 0)) {
 811                         printf ("%s mtu %d\n",
 812                                 libcfs_nid2str(data.ioc_nid),
 813                                 data.ioc_u32[0]); /* path MTU */
 814                 } else if (g_net_is_compatible (NULL, GNILND, 0)) {
 815                         printf ("%-20s [%d]\n",
 816                                 libcfs_nid2str(data.ioc_nid),
 817                                 data.ioc_u32[0] /* device id */);
 818                 } else {
 819                         printf ("%s\n", libcfs_nid2str(data.ioc_nid));
 820                 }
 821         }
 822
 823         if (index == 0) {
 824                 if (errno == ENOENT) {
 825                         printf ("<no connections>\n");
 826                 } else {
 827                         fprintf(stderr, "Error getting connection list: %s: "
 828                                 "check dmesg.\n",
 829                                 strerror(errno));
 830                 }
 831         }
 832         return 0;
 833 }
 834
 835 int jt_ptl_disconnect(int argc, char **argv)
 836 {
 837         struct libcfs_ioctl_data data;
 838         lnet_nid_t               nid = LNET_NID_ANY;
 839         __u32                    ipaddr = 0;
 840         int                      rc;
 841
 842         if (argc > 3) {
 843                 fprintf(stderr, "usage: %s [nid] [ipaddr]\n", argv[0]);
 844                 return 0;
 845         }
 846
 847         if (!g_net_is_compatible(NULL, SOCKLND, O2IBLND, GNILND, 0))
 848                 return 0;
 849
 850         if (argc >= 2 &&
 851             !libcfs_str2anynid(&nid, argv[1])) {
 852                 fprintf (stderr, "Can't parse nid %s\n", argv[1]);
 853                 return -1;
 854         }
 855
 856         if (g_net_is_compatible (NULL, SOCKLND, 0) &&
 857             argc >= 3 &&
 858             lnet_parse_ipaddr (&ipaddr, argv[2]) != 0) {
 859                 fprintf (stderr, "Can't parse ip addr %s\n", argv[2]);
 860                 return -1;
 861         }
 862
 863         LIBCFS_IOC_INIT(data);
 864         data.ioc_net     = g_net;
 865         data.ioc_nid     = nid;
 866         data.ioc_u32[0]  = ipaddr;
 867
 868         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CLOSE_CONNECTION, &data);
 869         if (rc != 0) {
 870                 fprintf(stderr, "failed to remove connection: %s\n",
 871                         strerror(errno));
 872                 return -1;
 873         }
 874
 875         return 0;
 876 }
 877
 878 int jt_ptl_push_connection (int argc, char **argv)
 879 {
 880         struct libcfs_ioctl_data data;
 881         int                      rc;
 882         lnet_nid_t               nid = LNET_NID_ANY;
 883
 884         if (argc > 2) {
 885                 fprintf(stderr, "usage: %s [nid]\n", argv[0]);
 886                 return 0;
 887         }
 888
 889         if (!g_net_is_compatible (argv[0], SOCKLND, GNILND, 0))
 890                 return -1;
 891
 892         if (argc > 1 &&
 893             !libcfs_str2anynid(&nid, argv[1])) {
 894                 fprintf(stderr, "Can't parse nid: %s\n", argv[1]);
 895                 return -1;
 896         }
 897
 898         LIBCFS_IOC_INIT(data);
 899         data.ioc_net     = g_net;
 900         data.ioc_nid     = nid;
 901
 902         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PUSH_CONNECTION, &data);
 903         if (rc != 0) {
 904                 fprintf(stderr, "failed to push connection: %s\n",
 905                         strerror(errno));
 906                 return -1;
 907         }
 908
 909         return 0;
 910 }
 911
 912 int jt_ptl_ping(int argc, char **argv)
 913 {
 914         int                      rc;
 915         int                      timeout;
 916         lnet_process_id_t        id;
 917         lnet_process_id_t        ids[16];
 918         int                      maxids = sizeof(ids)/sizeof(ids[0]);
 919         struct libcfs_ioctl_data data;
 920         char                    *sep;
 921         int                      i;
 922
 923         if (argc < 2) {
 924                 fprintf(stderr, "usage: %s id [timeout (secs)]\n", argv[0]);
 925                 return 0;
 926         }
 927
 928         sep = strchr(argv[1], '-');
 929         if (sep == NULL) {
 930                 rc = lnet_parse_nid(argv[1], &id);
 931                 if (rc != 0)
 932                         return -1;
 933         } else {
 934                 char   *end;
 935
 936                 if (argv[1][0] == 'u' ||
 937                     argv[1][0] == 'U')
 938                         id.pid = strtoul(&argv[1][1], &end, 0) | LNET_PID_USERFLAG;
 939                 else
 940                         id.pid = strtoul(argv[1], &end, 0);
 941
 942                 if (end != sep) { /* assuming '-' is part of hostname */
 943                         rc = lnet_parse_nid(argv[1], &id);
 944                         if (rc != 0)
 945                                 return -1;
 946                 } else {
 947                         id.nid = libcfs_str2nid(sep + 1);
 948
 949                         if (id.nid == LNET_NID_ANY) {
 950                                 fprintf(stderr,
 951                                         "Can't parse process id \"%s\"\n",
 952                                         argv[1]);
 953                                 return -1;
 954                         }
 955                 }
 956         }
 957
 958         if (argc > 2)
 959                 timeout = 1000 * atol(argv[2]);
 960         else
 961                 timeout = 1000;                 /* default 1 second timeout */
 962
 963         LIBCFS_IOC_INIT (data);
 964         data.ioc_nid     = id.nid;
 965         data.ioc_u32[0]  = id.pid;
 966         data.ioc_u32[1]  = timeout;
 967         data.ioc_plen1   = sizeof(ids);
 968         data.ioc_pbuf1   = (char *)ids;
 969
 970         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PING, &data);
 971         if (rc != 0) {
 972                 fprintf(stderr, "failed to ping %s: %s\n",
 973                         id.pid == LNET_PID_ANY ?
 974                         libcfs_nid2str(id.nid) : libcfs_id2str(id),
 975                         strerror(errno));
 976                 return -1;
 977         }
 978
 979         for (i = 0; i < data.ioc_count && i < maxids; i++)
 980                 printf("%s\n", libcfs_id2str(ids[i]));
 981
 982         if (data.ioc_count > maxids)
 983                 printf("%d out of %d ids listed\n", maxids, data.ioc_count);
 984
 985         return 0;
 986 }
 987
 988 int jt_ptl_mynid(int argc, char **argv)
 989 {
 990         struct libcfs_ioctl_data data;
 991         lnet_nid_t               nid;
 992         int rc;
 993
 994         if (argc != 2) {
 995                 fprintf(stderr, "usage: %s NID\n", argv[0]);
 996                 return 0;
 997         }
 998
 999         nid = libcfs_str2nid(argv[1]);
1000         if (nid == LNET_NID_ANY) {
1001                 fprintf(stderr, "Can't parse NID '%s'\n", argv[1]);
1002                 return -1;
1003         }
1004
1005         LIBCFS_IOC_INIT(data);
1006         data.ioc_net = LNET_NIDNET(nid);
1007         data.ioc_nid = nid;
1008
1009         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_REGISTER_MYNID, &data);
1010         if (rc < 0)
1011                 fprintf(stderr, "setting my NID failed: %s\n",
1012                        strerror(errno));
1013         else
1014                 printf("registered my nid %s\n", libcfs_nid2str(nid));
1015
1016         return 0;
1017 }
1018
1019 int
1020 jt_ptl_fail_nid (int argc, char **argv)
1021 {
1022         int                      rc;
1023         lnet_nid_t               nid;
1024         int                      threshold;
1025         struct libcfs_ioctl_data data;
1026
1027         if (argc < 2 || argc > 3)
1028         {
1029                 fprintf (stderr, "usage: %s nid|\"*\" [count (0 == mend)]\n", argv[0]);
1030                 return (0);
1031         }
1032
1033         if (!libcfs_str2anynid(&nid, argv[1]))
1034         {
1035                 fprintf (stderr, "Can't parse nid \"%s\"\n", argv[1]);
1036                 return (-1);
1037         }
1038
1039         if (argc < 3) {
1040                 threshold = LNET_MD_THRESH_INF;
1041         } else if (sscanf(argv[2], "%i", &threshold) != 1) {
1042                 fprintf (stderr, "Can't parse count \"%s\"\n", argv[2]);
1043                 return (-1);
1044         }
1045
1046         LIBCFS_IOC_INIT (data);
1047         data.ioc_nid = nid;
1048         data.ioc_count = threshold;
1049
1050         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_FAIL_NID, &data);
1051         if (rc < 0)
1052                 fprintf (stderr, "IOC_LIBCFS_FAIL_NID failed: %s\n",
1053                          strerror (errno));
1054         else
1055                 printf ("%s %s\n", threshold == 0 ? "Unfailing" : "Failing", argv[1]);
1056
1057         return (0);
1058 }
1059
1060 int
1061 jt_ptl_add_route (int argc, char **argv)
1062 {
1063         struct lnet_ioctl_config_data data;
1064         lnet_nid_t               gateway_nid;
1065         __u32                    hops = LNET_UNDEFINED_HOPS;
1066         unsigned int             priority = 0;
1067         char                    *end;
1068         int                      rc;
1069
1070         if (argc < 2 || argc > 4) {
1071                 fprintf(stderr, "usage: %s gateway [hopcount [priority]]\n",
1072                         argv[0]);
1073                 return -1;
1074         }
1075
1076         if (g_net_is_set(argv[0]) == 0)
1077                 return -1;
1078
1079         gateway_nid = libcfs_str2nid(argv[1]);
1080         if (gateway_nid == LNET_NID_ANY) {
1081                 fprintf(stderr, "Can't parse gateway NID \"%s\"\n", argv[1]);
1082                 return -1;
1083         }
1084
1085         if (argc > 2) {
1086                 hops = strtol(argv[2], &end, 0);
1087                 if (hops == 0 || hops >= 256 ||
1088                     (end != NULL && *end != 0)) {
1089                         fprintf(stderr, "Can't parse hopcount \"%s\"\n",
1090                                 argv[2]);
1091                         return -1;
1092                 }
1093                 if (argc == 4) {
1094                         priority = strtoul(argv[3], &end, 0);
1095                         if (end != NULL && *end != 0) {
1096                                 fprintf(stderr,
1097                                         "Can't parse priority \"%s\"\n",
1098                                         argv[3]);
1099                                 return -1;
1100                         }
1101                 }
1102         }
1103
1104         LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1105         data.cfg_net = g_net;
1106         data.cfg_config_u.cfg_route.rtr_hop = hops;
1107         data.cfg_nid = gateway_nid;
1108         data.cfg_config_u.cfg_route.rtr_priority = priority;
1109
1110         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_ROUTE, &data);
1111         if (rc != 0) {
1112                 fprintf(stderr, "IOC_LIBCFS_ADD_ROUTE failed: %s\n",
1113                         strerror(errno));
1114                 return -1;
1115         }
1116
1117         return 0;
1118 }
1119
1120 int
1121 jt_ptl_del_route (int argc, char **argv)
1122 {
1123         struct lnet_ioctl_config_data data;
1124         lnet_nid_t               nid;
1125         int                      rc;
1126
1127         if (argc != 2) {
1128                 fprintf(stderr, "usage: %s gatewayNID\n", argv[0]);
1129                 return 0;
1130         }
1131
1132         if (libcfs_str2anynid(&nid, argv[1]) == 0) {
1133                 fprintf(stderr, "Can't parse gateway NID "
1134                         "\"%s\"\n", argv[1]);
1135                 return -1;
1136         }
1137
1138         LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1139         data.cfg_net = g_net_set ? g_net : LNET_NIDNET(LNET_NID_ANY);
1140         data.cfg_nid = nid;
1141
1142         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_ROUTE, &data);
1143         if (rc != 0) {
1144                 fprintf(stderr, "IOC_LIBCFS_DEL_ROUTE (%s) failed: %s\n",
1145                         libcfs_nid2str(nid), strerror(errno));
1146                 return -1;
1147         }
1148
1149         return 0;
1150 }
1151
1152 int
1153 jt_ptl_notify_router (int argc, char **argv)
1154 {
1155         struct libcfs_ioctl_data data;
1156         int                      enable;
1157         lnet_nid_t               nid;
1158         int                      rc;
1159         struct timeval           now;
1160         time_t                   when;
1161
1162         if (argc < 3)
1163         {
1164                 fprintf (stderr, "usage: %s targetNID <up/down> [<time>]\n",
1165                          argv[0]);
1166                 return (0);
1167         }
1168
1169         nid = libcfs_str2nid(argv[1]);
1170         if (nid == LNET_NID_ANY) {
1171                 fprintf (stderr, "Can't parse target NID \"%s\"\n", argv[1]);
1172                 return (-1);
1173         }
1174
1175         if (lnet_parse_bool (&enable, argv[2]) != 0) {
1176                 fprintf (stderr, "Can't parse boolean %s\n", argv[2]);
1177                 return (-1);
1178         }
1179
1180         gettimeofday(&now, NULL);
1181
1182         if (argc < 4) {
1183                 when = now.tv_sec;
1184         } else if (lnet_parse_time (&when, argv[3]) != 0) {
1185                 fprintf(stderr, "Can't parse time %s\n"
1186                         "Please specify either 'YYYY-MM-DD-HH:MM:SS'\n"
1187                         "or an absolute unix time in seconds\n", argv[3]);
1188                 return (-1);
1189         } else if (when > now.tv_sec) {
1190                 fprintf (stderr, "%s specifies a time in the future\n",
1191                          argv[3]);
1192                 return (-1);
1193         }
1194
1195         LIBCFS_IOC_INIT(data);
1196         data.ioc_nid = nid;
1197         data.ioc_flags = enable;
1198         /* Yeuch; 'cept I need a __u64 on 64 bit machines... */
1199         data.ioc_u64[0] = (__u64)when;
1200
1201         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_NOTIFY_ROUTER, &data);
1202         if (rc != 0) {
1203                 fprintf (stderr, "IOC_LIBCFS_NOTIFY_ROUTER (%s) failed: %s\n",
1204                          libcfs_nid2str(nid), strerror (errno));
1205                 return (-1);
1206         }
1207
1208         return (0);
1209 }
1210
1211 int
1212 jt_ptl_print_routes (int argc, char **argv)
1213 {
1214         struct lnet_ioctl_config_data  data;
1215         int                       rc;
1216         int                       index;
1217         __u32                     net;
1218         lnet_nid_t                nid;
1219         unsigned int              hops;
1220         int                       alive;
1221         unsigned int              pri;
1222
1223         for (index = 0; ; index++) {
1224                 LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1225                 data.cfg_count = index;
1226
1227                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_ROUTE, &data);
1228                 if (rc != 0)
1229                         break;
1230
1231                 net     = data.cfg_net;
1232                 hops    = data.cfg_config_u.cfg_route.rtr_hop;
1233                 nid     = data.cfg_nid;
1234                 alive   = data.cfg_config_u.cfg_route.rtr_flags;
1235                 pri     = data.cfg_config_u.cfg_route.rtr_priority;
1236
1237                 printf("net %18s hops %u gw %32s %s pri %u\n",
1238                        libcfs_net2str(net), hops,
1239                        libcfs_nid2str(nid), alive ? "up" : "down", pri);
1240         }
1241
1242         if (errno != ENOENT)
1243                 fprintf(stderr, "Error getting routes: %s: check dmesg.\n",
1244                         strerror(errno));
1245
1246         return 0;
1247 }
1248
1249 static int
1250 fault_attr_nid_parse(char *str, lnet_nid_t *nid_p)
1251 {
1252         lnet_nid_t nid;
1253         __u32      net;
1254         int        rc = 0;
1255
1256         /* NB: can't support range ipaddress except * and *@net */
1257         if (strlen(str) > 2 && str[0] == '*' && str[1] == '@') {
1258                 net = libcfs_str2net(str + 2);
1259                 if (net == LNET_NIDNET(LNET_NID_ANY))
1260                         goto failed;
1261
1262                 nid = LNET_MKNID(net, LNET_NIDADDR(LNET_NID_ANY));
1263         } else {
1264                 rc = libcfs_str2anynid(&nid, str);
1265                 if (!rc)
1266                         goto failed;
1267         }
1268
1269         *nid_p = nid;
1270         return 0;
1271 failed:
1272         fprintf(stderr, "Invalid NID : %s\n", str);
1273         return -1;
1274 }
1275
1276 static int
1277 fault_attr_msg_parse(char *msg_str, __u32 *mask_p)
1278 {
1279         if (!strcasecmp(msg_str, "put")) {
1280                 *mask_p |= LNET_PUT_BIT;
1281                 return 0;
1282
1283         } else if (!strcasecmp(msg_str, "ack")) {
1284                 *mask_p |= LNET_ACK_BIT;
1285                 return 0;
1286
1287         } else if (!strcasecmp(msg_str, "get")) {
1288                 *mask_p |= LNET_GET_BIT;
1289                 return 0;
1290
1291         } else if (!strcasecmp(msg_str, "reply")) {
1292                 *mask_p |= LNET_REPLY_BIT;
1293                 return 0;
1294         }
1295
1296         fprintf(stderr, "unknown message type %s\n", msg_str);
1297         return -1;
1298 }
1299
1300 static int
1301 fault_attr_ptl_parse(char *ptl_str, __u64 *mask_p)
1302 {
1303         unsigned long rc = strtoul(optarg, NULL, 0);
1304
1305         if (rc >= 64) {
1306                 fprintf(stderr, "invalid portal: %lu\n", rc);
1307                 return -1;
1308         }
1309
1310         *mask_p |= (1ULL << rc);
1311         return 0;
1312 }
1313
1314 static int
1315 fault_simul_rule_add(__u32 opc, char *name, int argc, char **argv)
1316 {
1317         struct libcfs_ioctl_data  data = {{0}};
1318         struct lnet_fault_attr    attr;
1319         char                     *optstr;
1320         int                       rc;
1321
1322         static struct option opts[] = {
1323                 {"source",      required_argument,      0,      's'},
1324                 {"dest",        required_argument,      0,      'd'},
1325                 {"rate",        required_argument,      0,      'r'},
1326                 {"interval",    required_argument,      0,      'i'},
1327                 {"latency",     required_argument,      0,      'l'},
1328                 {"portal",      required_argument,      0,      'p'},
1329                 {"message",     required_argument,      0,      'm'},
1330                 {0, 0, 0, 0}
1331         };
1332
1333         if (argc == 1) {
1334                 fprintf(stderr, "Failed, please provide source, destination "
1335                                 "and rate of rule\n");
1336                 return -1;
1337         }
1338
1339         optstr = opc == LNET_CTL_DROP_ADD ? "s:d:r:i:p:m:" : "s:d:r:l:p:m:";
1340         memset(&attr, 0, sizeof(attr));
1341         while (1) {
1342                 char c = getopt_long(argc, argv, optstr, opts, NULL);
1343
1344                 if (c == -1)
1345                         break;
1346
1347                 switch (c) {
1348                 case 's': /* source NID/NET */
1349                         rc = fault_attr_nid_parse(optarg, &attr.fa_src);
1350                         if (rc != 0)
1351                                 goto getopt_failed;
1352                         break;
1353
1354                 case 'd': /* dest NID/NET */
1355                         rc = fault_attr_nid_parse(optarg, &attr.fa_dst);
1356                         if (rc != 0)
1357                                 goto getopt_failed;
1358                         break;
1359
1360                 case 'r': /* drop rate */
1361                         if (opc == LNET_CTL_DROP_ADD)
1362                                 attr.u.drop.da_rate = strtoul(optarg, NULL, 0);
1363                         else
1364                                 attr.u.delay.la_rate = strtoul(optarg, NULL, 0);
1365                         break;
1366
1367                 case 'i': /* time interval (# seconds) for message drop */
1368                         if (opc == LNET_CTL_DROP_ADD)
1369                                 attr.u.drop.da_interval = strtoul(optarg,
1370                                                                   NULL, 0);
1371                         else
1372                                 attr.u.delay.la_interval = strtoul(optarg,
1373                                                                    NULL, 0);
1374                         break;
1375
1376                 case 'l': /* seconds to wait before activating rule */
1377                         attr.u.delay.la_latency = strtoul(optarg, NULL, 0);
1378                         break;
1379
1380                 case 'p': /* portal to filter */
1381                         rc = fault_attr_ptl_parse(optarg, &attr.fa_ptl_mask);
1382                         if (rc != 0)
1383                                 goto getopt_failed;
1384                         break;
1385
1386                 case 'm': /* message types to filter */
1387                         rc = fault_attr_msg_parse(optarg, &attr.fa_msg_mask);
1388                         if (rc != 0)
1389                                 goto getopt_failed;
1390                         break;
1391
1392                 default:
1393                         fprintf(stderr, "error: %s: option '%s' "
1394                                 "unrecognized\n", argv[0], argv[optind - 1]);
1395                         goto getopt_failed;
1396                 }
1397         }
1398         optind = 1;
1399
1400         if (opc == LNET_CTL_DROP_ADD) {
1401                 /* NB: drop rate and interval are exclusive to each other */
1402                 if (!((attr.u.drop.da_rate == 0) ^
1403                       (attr.u.drop.da_interval == 0))) {
1404                         fprintf(stderr,
1405                                 "please provide either drop rate or interval "
1406                                 "but not both at the same time.\n");
1407                         return -1;
1408                 }
1409         } else if (opc == LNET_CTL_DELAY_ADD) {
1410                 if (!((attr.u.delay.la_rate == 0) ^
1411                       (attr.u.delay.la_interval == 0))) {
1412                         fprintf(stderr,
1413                                 "please provide either delay rate or interval "
1414                                 "but not both at the same time.\n");
1415                         return -1;
1416                 }
1417
1418                 if (attr.u.delay.la_latency == 0) {
1419                         fprintf(stderr, "latency cannot be zero\n");
1420                         return -1;
1421                 }
1422         }
1423
1424         if (attr.fa_src == 0 || attr.fa_dst == 0) {
1425                 fprintf(stderr, "Please provide both source and destination "
1426                                 "of %s rule\n", name);
1427                 return -1;
1428         }
1429
1430         data.ioc_flags = opc;
1431         data.ioc_inllen1 = sizeof(attr);
1432         data.ioc_inlbuf1 = (char *)&attr;
1433         if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1434                 fprintf(stderr, "libcfs_ioctl_pack failed\n");
1435                 return -1;
1436         }
1437
1438         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1439         if (rc != 0) {
1440                 fprintf(stderr, "add %s rule %s->%s failed: %s\n",
1441                         name, libcfs_nid2str(attr.fa_src),
1442                         libcfs_nid2str(attr.fa_dst), strerror(errno));
1443                 return -1;
1444         }
1445
1446         printf("Added %s rule %s->%s (1/%d)\n",
1447                name, libcfs_nid2str(attr.fa_src), libcfs_nid2str(attr.fa_dst),
1448                opc == LNET_CTL_DROP_ADD ?
1449                attr.u.drop.da_rate : attr.u.delay.la_rate);
1450         return 0;
1451
1452 getopt_failed:
1453         optind = 1;
1454         return -1;
1455 }
1456
1457 int
1458 jt_ptl_drop_add(int argc, char **argv)
1459 {
1460         return fault_simul_rule_add(LNET_CTL_DROP_ADD, "drop", argc, argv);
1461 }
1462
1463 int
1464 jt_ptl_delay_add(int argc, char **argv)
1465 {
1466         return fault_simul_rule_add(LNET_CTL_DELAY_ADD, "delay", argc, argv);
1467 }
1468
1469 static int
1470 fault_simul_rule_del(__u32 opc, char *name, int argc, char **argv)
1471 {
1472         struct libcfs_ioctl_data data = {{0}};
1473         struct lnet_fault_attr   attr;
1474         bool                     all = false;
1475         int                      rc;
1476
1477         static struct option opts[] = {
1478                 {"source",      required_argument,      0,      's'},
1479                 {"dest",        required_argument,      0,      'd'},
1480                 {"all",         no_argument,            0,      'a'},
1481                 {0, 0, 0, 0}
1482         };
1483
1484         if (argc == 1) {
1485                 fprintf(stderr, "Failed, please provide source and "
1486                                 "destination of rule\n");
1487                 return -1;
1488         }
1489
1490         memset(&attr, 0, sizeof(attr));
1491         while (1) {
1492                 char c = getopt_long(argc, argv, "s:d:a", opts, NULL);
1493
1494                 if (c == -1 || all)
1495                         break;
1496
1497                 switch (c) {
1498                 case 's':
1499                         rc = fault_attr_nid_parse(optarg, &attr.fa_src);
1500                         if (rc != 0)
1501                                 goto getopt_failed;
1502                         break;
1503                 case 'd':
1504                         rc = fault_attr_nid_parse(optarg, &attr.fa_dst);
1505                         if (rc != 0)
1506                                 goto getopt_failed;
1507                         break;
1508                 case 'a':
1509                         attr.fa_src = attr.fa_dst = 0;
1510                         all = true;
1511                         break;
1512                 default:
1513                         fprintf(stderr, "error: %s: option '%s' "
1514                                 "unrecognized\n", argv[0], argv[optind - 1]);
1515                         goto getopt_failed;
1516                 }
1517         }
1518         optind = 1;
1519
1520         data.ioc_flags = opc;
1521         data.ioc_inllen1 = sizeof(attr);
1522         data.ioc_inlbuf1 = (char *)&attr;
1523         if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1524                 fprintf(stderr, "libcfs_ioctl_pack failed\n");
1525                 return -1;
1526         }
1527
1528         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1529         if (rc != 0) {
1530                 fprintf(stderr, "remove %s rule %s->%s failed: %s\n", name,
1531                         all ? "all" : libcfs_nid2str(attr.fa_src),
1532                         all ? "all" : libcfs_nid2str(attr.fa_dst),
1533                         strerror(errno));
1534                 return -1;
1535         }
1536
1537         libcfs_ioctl_unpack(&data, ioc_buf);
1538         printf("Removed %d %s rules\n", data.ioc_count, name);
1539         return 0;
1540
1541 getopt_failed:
1542         optind = 1;
1543         return -1;
1544 }
1545
1546 int
1547 jt_ptl_drop_del(int argc, char **argv)
1548 {
1549         return fault_simul_rule_del(LNET_CTL_DROP_DEL, "drop", argc, argv);
1550 }
1551
1552 int
1553 jt_ptl_delay_del(int argc, char **argv)
1554 {
1555         return fault_simul_rule_del(LNET_CTL_DELAY_DEL, "delay", argc, argv);
1556 }
1557
1558 static int
1559 fault_simul_rule_reset(__u32 opc, char *name, int argc, char **argv)
1560 {
1561         struct libcfs_ioctl_data   data = {{0}};
1562         int                        rc;
1563
1564         LIBCFS_IOC_INIT(data);
1565         data.ioc_flags = opc;
1566
1567         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, &data);
1568         if (rc != 0) {
1569                 fprintf(stderr, "failed to reset %s stats: %s\n",
1570                         name, strerror(errno));
1571                 return -1;
1572         }
1573         return 0;
1574 }
1575
1576 int
1577 jt_ptl_drop_reset(int argc, char **argv)
1578 {
1579         return fault_simul_rule_reset(LNET_CTL_DROP_RESET, "drop", argc, argv);
1580 }
1581
1582 int
1583 jt_ptl_delay_reset(int argc, char **argv)
1584 {
1585         return fault_simul_rule_reset(LNET_CTL_DELAY_RESET, "delay",
1586                                       argc, argv);
1587 }
1588
1589 static int
1590 fault_simul_rule_list(__u32 opc, char *name, int argc, char **argv)
1591 {
1592         struct libcfs_ioctl_data data = {{0}};
1593         struct lnet_fault_attr   attr;
1594         struct lnet_fault_stat   stat;
1595         int                      pos;
1596
1597         printf("LNet %s rules:\n", name);
1598         for (pos = 0;; pos++) {
1599                 int             rc;
1600
1601                 memset(&attr, 0, sizeof(attr));
1602                 memset(&stat, 0, sizeof(stat));
1603
1604                 data.ioc_count = pos;
1605                 data.ioc_flags = opc;
1606                 data.ioc_inllen1 = sizeof(attr);
1607                 data.ioc_inlbuf1 = (char *)&attr;
1608                 data.ioc_inllen2 = sizeof(stat);
1609                 data.ioc_inlbuf2 = (char *)&stat;
1610                 if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1611                         fprintf(stderr, "libcfs_ioctl_pack failed\n");
1612                         return -1;
1613                 }
1614
1615                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1616                 if (rc != 0)
1617                         break;
1618
1619                 libcfs_ioctl_unpack(&data, ioc_buf);
1620
1621                 if (opc == LNET_CTL_DROP_LIST) {
1622                         printf("%s->%s (1/%d | %d) ptl %#jx, msg %x, "
1623                                "%ju/%ju, PUT %ju, ACK %ju, GET "
1624                                "%ju, REP %ju\n",
1625                                libcfs_nid2str(attr.fa_src),
1626                                libcfs_nid2str(attr.fa_dst),
1627                                attr.u.drop.da_rate, attr.u.drop.da_interval,
1628                                (uintmax_t)attr.fa_ptl_mask, attr.fa_msg_mask,
1629                                (uintmax_t)stat.u.drop.ds_dropped,
1630                                (uintmax_t)stat.fs_count,
1631                                (uintmax_t)stat.fs_put,
1632                                (uintmax_t)stat.fs_ack,
1633                                (uintmax_t)stat.fs_get,
1634                                (uintmax_t)stat.fs_reply);
1635
1636                 } else if (opc == LNET_CTL_DELAY_LIST) {
1637                         printf("%s->%s (1/%d | %d, latency %d) ptl %#jx"
1638                                ", msg %x, %ju/%ju, PUT %ju"
1639                                ", ACK %ju, GET %ju, REP %ju\n",
1640                                libcfs_nid2str(attr.fa_src),
1641                                libcfs_nid2str(attr.fa_dst),
1642                                attr.u.delay.la_rate, attr.u.delay.la_interval,
1643                                attr.u.delay.la_latency,
1644                                (uintmax_t)attr.fa_ptl_mask, attr.fa_msg_mask,
1645                                (uintmax_t)stat.u.delay.ls_delayed,
1646                                (uintmax_t)stat.fs_count,
1647                                (uintmax_t)stat.fs_put,
1648                                (uintmax_t)stat.fs_ack,
1649                                (uintmax_t)stat.fs_get,
1650                                (uintmax_t)stat.fs_reply);
1651                 }
1652         }
1653         printf("found total %d\n", pos);
1654
1655         return 0;
1656 }
1657
1658 int
1659 jt_ptl_drop_list(int argc, char **argv)
1660 {
1661         return fault_simul_rule_list(LNET_CTL_DROP_LIST, "drop", argc, argv);
1662 }
1663
1664 int
1665 jt_ptl_delay_list(int argc, char **argv)
1666 {
1667         return fault_simul_rule_list(LNET_CTL_DELAY_LIST, "delay", argc, argv);
1668 }
1669
1670 double
1671 get_cycles_per_usec ()
1672 {
1673         FILE      *f = fopen ("/proc/cpuinfo", "r");
1674         double     mhz;
1675         char      line[64];
1676
1677         if (f != NULL) {
1678                 while (fgets (line, sizeof (line), f) != NULL)
1679                         if (sscanf (line, "cpu MHz : %lf", &mhz) == 1) {
1680                                 fclose (f);
1681                                 return (mhz);
1682                         }
1683                 fclose (f);
1684         }
1685
1686         fprintf (stderr, "Can't read/parse /proc/cpuinfo\n");
1687         return (1000.0);
1688 }
1689
1690 int jt_ptl_testprotocompat(int argc, char **argv)
1691 {
1692         struct libcfs_ioctl_data  data;
1693         int                       rc;
1694         int                       flags;
1695         char                     *end;
1696
1697         if (argc < 2)  {
1698                 fprintf(stderr, "usage: %s <number>\n", argv[0]);
1699                 return 0;
1700         }
1701
1702         flags = strtol(argv[1], &end, 0);
1703         if (flags < 0 || *end != 0) {
1704                 fprintf(stderr, "Can't parse flags '%s'\n", argv[1]);
1705                 return -1;
1706         }
1707
1708         LIBCFS_IOC_INIT(data);
1709         data.ioc_flags = flags;
1710         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_TESTPROTOCOMPAT, &data);
1711
1712         if (rc != 0) {
1713                 fprintf(stderr, "test proto compat %x failed: %s\n",
1714                         flags, strerror(errno));
1715                 return -1;
1716         }
1717
1718         printf("test proto compat %x OK\n", flags);
1719         return 0;
1720 }
1721
1722