lnet/utils/portals.c

   1 /*
   2  * Copyright (c) 2003, 2010, Oracle and/or its affiliates. All rights reserved.
   3  *
   4  * Copyright (c) 2013, 2015, Intel Corporation.
   5  *
   6  *   This file is part of Lustre, https://wiki.hpdd.intel.com/
   7  *
   8  *   Portals is free software; you can redistribute it and/or
   9  *   modify it under the terms of version 2 of the GNU General Public
  10  *   License as published by the Free Software Foundation.
  11  *
  12  *   Portals is distributed in the hope that it will be useful,
  13  *   but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  *   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15  *   GNU General Public License for more details.
  16  *
  17  *   You should have received a copy of the GNU General Public License
  18  *   along with Portals; if not, write to the Free Software
  19  *   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  20  *
  21  */
  22 #include <errno.h>
  23 #include <getopt.h>
  24 #include <limits.h>
  25 #ifdef HAVE_NETDB_H
  26 # include <netdb.h>
  27 #endif
  28 #include <stdarg.h>
  29 #include <stdio.h>
  30 #include <stdlib.h>
  31 #include <string.h>
  32 #include <sys/ioctl.h>
  33 #include <sys/time.h>
  34 #include <time.h>
  35 #include <linux/types.h>
  36
  37 #include <libcfs/util/string.h>
  38 #include <libcfs/util/ioctl.h>
  39 #include <libcfs/user-time.h>
  40 #include <libcfs/libcfs_debug.h>
  41 #include <lnet/lnetctl.h>
  42 #include <lnet/socklnd.h>
  43 #include <lnet/lnet.h>
  44
  45 unsigned int libcfs_debug;
  46 unsigned int libcfs_printk = D_CANTMASK;
  47
  48 static bool  g_net_interactive;
  49 static bool  g_net_set;
  50 static __u32 g_net;
  51
  52 #define IOC_BUF_SIZE    8192
  53 static char local_buf[IOC_BUF_SIZE];
  54 static char *ioc_buf = local_buf;
  55
  56 /* Convert a string boolean to an int; "enable" -> 1 */
  57 int
  58 lnet_parse_bool (int *b, char *str)
  59 {
  60         if (!strcasecmp (str, "no") ||
  61             !strcasecmp (str, "n") ||
  62             !strcasecmp (str, "off") ||
  63             !strcasecmp (str, "down") ||
  64             !strcasecmp (str, "disable"))
  65         {
  66                 *b = 0;
  67                 return (0);
  68         }
  69
  70         if (!strcasecmp (str, "yes") ||
  71             !strcasecmp (str, "y") ||
  72             !strcasecmp (str, "on") ||
  73             !strcasecmp (str, "up") ||
  74             !strcasecmp (str, "enable"))
  75         {
  76                 *b = 1;
  77                 return (0);
  78         }
  79
  80         return (-1);
  81 }
  82
  83 int
  84 lnet_parse_port (int *port, char *str)
  85 {
  86         char      *end;
  87
  88         *port = strtol (str, &end, 0);
  89
  90         if (*end == 0 &&                        /* parsed whole string */
  91             *port > 0 && *port < 65536)         /* minimal sanity check */
  92                 return (0);
  93
  94         return (-1);
  95 }
  96
  97 #ifdef HAVE_GETHOSTBYNAME
  98 static struct hostent *
  99 ptl_gethostbyname(char * hname) {
 100         struct hostent *he;
 101         he = gethostbyname(hname);
 102         if (!he) {
 103                 switch(h_errno) {
 104                 case HOST_NOT_FOUND:
 105                 case NO_ADDRESS:
 106                         fprintf(stderr, "Unable to resolve hostname: %s\n",
 107                                 hname);
 108                         break;
 109                 default:
 110                         fprintf(stderr, "gethostbyname error for %s: %s\n",
 111                                 hname, strerror(h_errno));
 112                         break;
 113                 }
 114                 return NULL;
 115         }
 116         return he;
 117 }
 118 #endif
 119
 120 int
 121 lnet_parse_ipquad (__u32 *ipaddrp, char *str)
 122 {
 123         int             a;
 124         int             b;
 125         int             c;
 126         int             d;
 127
 128         if (sscanf (str, "%d.%d.%d.%d", &a, &b, &c, &d) == 4 &&
 129             (a & ~0xff) == 0 && (b & ~0xff) == 0 &&
 130             (c & ~0xff) == 0 && (d & ~0xff) == 0)
 131         {
 132                 *ipaddrp = (a<<24)|(b<<16)|(c<<8)|d;
 133                 return (0);
 134         }
 135
 136         return (-1);
 137 }
 138
 139 int
 140 lnet_parse_ipaddr (__u32 *ipaddrp, char *str)
 141 {
 142 #ifdef HAVE_GETHOSTBYNAME
 143         struct hostent *he;
 144 #endif
 145
 146         if (!strcmp (str, "_all_")) {
 147                 *ipaddrp = 0;
 148                 return (0);
 149         }
 150
 151         if (lnet_parse_ipquad(ipaddrp, str) == 0)
 152                 return (0);
 153
 154 #ifdef HAVE_GETHOSTBYNAME
 155         if ((('a' <= str[0] && str[0] <= 'z') ||
 156              ('A' <= str[0] && str[0] <= 'Z')) &&
 157              (he = ptl_gethostbyname (str)) != NULL) {
 158                 __u32 addr = *(__u32 *)he->h_addr;
 159
 160                 *ipaddrp = ntohl(addr);         /* HOST byte order */
 161                 return (0);
 162         }
 163 #endif
 164
 165         return (-1);
 166 }
 167
 168 char *
 169 ptl_ipaddr_2_str(__u32 ipaddr, char *str, size_t strsize, int lookup)
 170 {
 171 #ifdef HAVE_GETHOSTBYNAME
 172         __u32           net_ip;
 173         struct hostent *he;
 174
 175         if (lookup) {
 176                 net_ip = htonl (ipaddr);
 177                 he = gethostbyaddr (&net_ip, sizeof (net_ip), AF_INET);
 178                 if (he != NULL) {
 179                         strlcpy(str, he->h_name, strsize);
 180                         return (str);
 181                 }
 182         }
 183 #endif
 184
 185         sprintf (str, "%d.%d.%d.%d",
 186                  (ipaddr >> 24) & 0xff, (ipaddr >> 16) & 0xff,
 187                  (ipaddr >> 8) & 0xff, ipaddr & 0xff);
 188         return (str);
 189 }
 190
 191 int
 192 lnet_parse_time (time_t *t, char *str)
 193 {
 194         char          *end;
 195         int            n;
 196         struct tm      tm;
 197
 198         *t = strtol (str, &end, 0);
 199         if (*end == 0) /* parsed whole string */
 200                 return (0);
 201
 202         memset (&tm, 0, sizeof (tm));
 203         n = sscanf (str, "%d-%d-%d-%d:%d:%d",
 204                     &tm.tm_year, &tm.tm_mon, &tm.tm_mday,
 205                     &tm.tm_hour, &tm.tm_min, &tm.tm_sec);
 206         if (n != 6)
 207                 return (-1);
 208
 209         tm.tm_mon--;                    /* convert to 0 == Jan */
 210         tm.tm_year -= 1900;             /* y2k quirk */
 211         tm.tm_isdst = -1;               /* dunno if it's daylight savings... */
 212
 213         *t = mktime (&tm);
 214         if (*t == (time_t)-1)
 215                 return (-1);
 216
 217         return (0);
 218 }
 219
 220 int
 221 lnet_parse_nid(char *nid_str, lnet_process_id_t *id_ptr)
 222 {
 223         id_ptr->pid = LNET_PID_ANY;
 224         id_ptr->nid = libcfs_str2nid(nid_str);
 225         if (id_ptr->nid == LNET_NID_ANY) {
 226                 fprintf (stderr, "Can't parse nid \"%s\"\n", nid_str);
 227                 return -1;
 228         }
 229
 230         return 0;
 231 }
 232
 233 static int g_net_is_set(char *cmd)
 234 {
 235         if (g_net_set)
 236                 return 1;
 237
 238         if (cmd != NULL) {
 239                 char *net;
 240
 241                 if (g_net_interactive)
 242                         net = "network";
 243                 else
 244                         net = "--net";
 245
 246                 fprintf(stderr,
 247                         "You must run '%s <network>' command before '%s'\n",
 248                         cmd, net);
 249                 return 0;
 250         }
 251
 252         return 0;
 253 }
 254
 255 static int g_net_is_compatible(char *cmd, ...)
 256 {
 257         va_list ap;
 258         int nal;
 259
 260         if (!g_net_is_set(cmd))
 261                 return 0;
 262
 263         va_start(ap, cmd);
 264
 265         do {
 266                 nal = va_arg(ap, int);
 267                 if (nal == LNET_NETTYP(g_net)) {
 268                         va_end (ap);
 269                         return 1;
 270                 }
 271         } while (nal != 0);
 272
 273         va_end (ap);
 274
 275         if (cmd != NULL)
 276                 fprintf (stderr,
 277                          "Command %s not compatible with %s NAL\n",
 278                          cmd,
 279                          libcfs_lnd2str(LNET_NETTYP(g_net)));
 280
 281         return 0;
 282 }
 283
 284 int ptl_initialize(int argc, char **argv)
 285 {
 286         if (argc > 1)
 287                 g_net_interactive = true;
 288
 289         register_ioc_dev(LNET_DEV_ID, LNET_DEV_PATH,
 290                          LNET_DEV_MAJOR, LNET_DEV_MINOR);
 291         return 0;
 292 }
 293
 294
 295 int jt_ptl_network(int argc, char **argv)
 296 {
 297         struct libcfs_ioctl_data data;
 298         __u32 net = LNET_NIDNET(LNET_NID_ANY);
 299         int rc;
 300
 301         if (argc != 2) {
 302                 fprintf(stderr, "usage: %s <net>|up|down\n", argv[0]);
 303                 return -1;
 304         }
 305
 306         if (!strcmp(argv[1], "unconfigure") || !strcmp(argv[1], "down")) {
 307                 LIBCFS_IOC_INIT(data);
 308                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_UNCONFIGURE, &data);
 309
 310                 if (rc == 0) {
 311                         printf("LNET ready to unload\n");
 312                         return 0;
 313                 }
 314
 315                 if (errno == EBUSY)
 316                         fprintf(stderr, "LNET busy\n");
 317                 else
 318                         fprintf(stderr, "LNET unconfigure error %d: %s\n",
 319                                 errno, strerror(errno));
 320                 return -1;
 321         } else if (!strcmp(argv[1], "configure") || !strcmp(argv[1], "up")) {
 322                 LIBCFS_IOC_INIT(data);
 323                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CONFIGURE, &data);
 324
 325                 if (rc == 0) {
 326                         printf("LNET configured\n");
 327                         return 0;
 328                 }
 329
 330                 fprintf(stderr, "LNET configure error %d: %s\n",
 331                         errno, strerror(errno));
 332                 return -1;
 333         }
 334
 335         net = libcfs_str2net(argv[1]);
 336         if (net == LNET_NIDNET(LNET_NID_ANY)) {
 337                 fprintf(stderr, "Can't parse net %s\n", argv[1]);
 338                 return -1;
 339         }
 340
 341         if (LNET_NETTYP(net) == QSWLND || LNET_NETTYP(net) == GMLND ||
 342             LNET_NETTYP(net) == PTLLND || LNET_NETTYP(net) == CIBLND ||
 343             LNET_NETTYP(net) == OPENIBLND || LNET_NETTYP(net) == IIBLND ||
 344             LNET_NETTYP(net) == RALND || LNET_NETTYP(net) == VIBLND ||
 345             LNET_NETTYP(net) == MXLND) {
 346                 fprintf(stderr, "Net %s obsoleted\n", libcfs_lnd2str(net));
 347                 return -1;
 348         }
 349
 350         g_net_set = true;
 351         g_net = net;
 352         return 0;
 353 }
 354
 355 int
 356 jt_ptl_list_nids(int argc, char **argv)
 357 {
 358         struct libcfs_ioctl_data data;
 359         int                      all = 0, return_nid = 0;
 360         int                      count;
 361         int                      rc;
 362
 363         all = (argc == 2) && (strcmp(argv[1], "all") == 0);
 364         /* Hack to pass back value */
 365         return_nid = (argc == 2) && (argv[1][0] == 1);
 366
 367         if ((argc > 2) && !(all || return_nid)) {
 368                 fprintf(stderr, "usage: %s [all]\n", argv[0]);
 369                 return 0;
 370         }
 371
 372         for (count = 0;; count++) {
 373                 LIBCFS_IOC_INIT (data);
 374                 data.ioc_count = count;
 375                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_NI, &data);
 376
 377                 if (rc < 0) {
 378                         if ((count > 0) && (errno == ENOENT))
 379                                 /* We found them all */
 380                                 break;
 381                         fprintf(stderr,"IOC_LIBCFS_GET_NI error %d: %s\n",
 382                                 errno, strerror(errno));
 383                         return -1;
 384                 }
 385
 386                 if (all || (LNET_NETTYP(LNET_NIDNET(data.ioc_nid)) != LOLND)) {
 387                         printf("%s\n", libcfs_nid2str(data.ioc_nid));
 388                         if (return_nid) {
 389                                 *(__u64 *)(argv[1]) = data.ioc_nid;
 390                                 return_nid--;
 391                         }
 392                 }
 393         }
 394
 395         return 0;
 396 }
 397
 398 int
 399 jt_ptl_which_nid (int argc, char **argv)
 400 {
 401         struct libcfs_ioctl_data data;
 402         int          best_dist = 0;
 403         int          best_order = 0;
 404         lnet_nid_t   best_nid = LNET_NID_ANY;
 405         int          dist;
 406         int          order;
 407         lnet_nid_t   nid;
 408         char        *nidstr;
 409         int          rc;
 410         int          i;
 411
 412         if (argc < 2) {
 413                 fprintf(stderr, "usage: %s NID [NID...]\n", argv[0]);
 414                 return 0;
 415         }
 416
 417         for (i = 1; i < argc; i++) {
 418                 nidstr = argv[i];
 419                 nid = libcfs_str2nid(nidstr);
 420                 if (nid == LNET_NID_ANY) {
 421                         fprintf(stderr, "Can't parse NID %s\n", nidstr);
 422                         return -1;
 423                 }
 424
 425                 LIBCFS_IOC_INIT(data);
 426                 data.ioc_nid = nid;
 427
 428                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_DIST, &data);
 429                 if (rc != 0) {
 430                         fprintf(stderr, "Can't get distance to %s: %s\n",
 431                                 nidstr, strerror(errno));
 432                         return -1;
 433                 }
 434
 435                 dist = data.ioc_u32[0];
 436                 order = data.ioc_u32[1];
 437
 438                 if (dist < 0) {
 439                         if (dist == -EHOSTUNREACH)
 440                                 continue;
 441
 442                         fprintf(stderr, "Unexpected distance to %s: %d\n",
 443                                 nidstr, dist);
 444                         return -1;
 445                 }
 446
 447                 if (best_nid == LNET_NID_ANY ||
 448                     dist < best_dist ||
 449                     (dist == best_dist && order < best_order)) {
 450                         best_dist = dist;
 451                         best_order = order;
 452                         best_nid = nid;
 453                 }
 454         }
 455
 456         if (best_nid == LNET_NID_ANY) {
 457                 fprintf(stderr, "No reachable NID\n");
 458                 return -1;
 459         }
 460
 461         printf("%s\n", libcfs_nid2str(best_nid));
 462         return 0;
 463 }
 464
 465 int
 466 jt_ptl_print_interfaces (int argc, char **argv)
 467 {
 468         struct libcfs_ioctl_data data;
 469         char                     buffer[3][HOST_NAME_MAX + 1];
 470         int                      index;
 471         int                      rc;
 472
 473         if (!g_net_is_compatible (argv[0], SOCKLND, 0))
 474                 return -1;
 475
 476         for (index = 0;;index++) {
 477                 LIBCFS_IOC_INIT(data);
 478                 data.ioc_net   = g_net;
 479                 data.ioc_count = index;
 480
 481                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_INTERFACE, &data);
 482                 if (rc != 0)
 483                         break;
 484
 485                 printf ("%s: (%s/%s) npeer %d nroute %d\n",
 486                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[2],
 487                                          sizeof(buffer[2]), 1),
 488                         ptl_ipaddr_2_str(data.ioc_u32[0], buffer[0],
 489                                          sizeof(buffer[0]), 0),
 490                         ptl_ipaddr_2_str(data.ioc_u32[1], buffer[1],
 491                                          sizeof(buffer[1]), 0),
 492                         data.ioc_u32[2], data.ioc_u32[3]);
 493         }
 494
 495         if (index == 0) {
 496                 if (errno == ENOENT) {
 497                         printf ("<no interfaces>\n");
 498                 } else {
 499                         fprintf(stderr, "Error getting interfaces: %s: "
 500                                 "check dmesg.\n",
 501                                 strerror(errno));
 502                 }
 503         }
 504
 505         return 0;
 506 }
 507
 508 int
 509 jt_ptl_add_interface (int argc, char **argv)
 510 {
 511         struct libcfs_ioctl_data data;
 512         __u32                    ipaddr;
 513         int                      rc;
 514         __u32                    netmask = 0xffffff00;
 515         int                      i;
 516         int                      count;
 517         char                    *end;
 518
 519         if (argc < 2 || argc > 3) {
 520                 fprintf (stderr, "usage: %s ipaddr [netmask]\n", argv[0]);
 521                 return 0;
 522         }
 523
 524         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
 525                 return -1;
 526
 527         if (lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
 528                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
 529                 return -1;
 530         }
 531
 532         if (argc > 2 ) {
 533                 count = strtol(argv[2], &end, 0);
 534                 if (count > 0 && count < 32 && *end == 0) {
 535                         netmask = 0;
 536                         for (i = count; i > 0; i--)
 537                                 netmask = netmask|(1<<(32-i));
 538                 } else if (lnet_parse_ipquad(&netmask, argv[2]) != 0) {
 539                         fprintf (stderr, "Can't parse netmask: %s\n", argv[2]);
 540                         return -1;
 541                 }
 542         }
 543
 544         LIBCFS_IOC_INIT(data);
 545         data.ioc_net    = g_net;
 546         data.ioc_u32[0] = ipaddr;
 547         data.ioc_u32[1] = netmask;
 548
 549         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_INTERFACE, &data);
 550         if (rc != 0) {
 551                 fprintf (stderr, "failed to add interface: %s\n",
 552                          strerror (errno));
 553                 return -1;
 554         }
 555
 556         return 0;
 557 }
 558
 559 int
 560 jt_ptl_del_interface (int argc, char **argv)
 561 {
 562         struct libcfs_ioctl_data data;
 563         int                      rc;
 564         __u32                    ipaddr = 0;
 565
 566         if (argc > 2) {
 567                 fprintf (stderr, "usage: %s [ipaddr]\n", argv[0]);
 568                 return 0;
 569         }
 570
 571         if (!g_net_is_compatible(argv[0], SOCKLND, 0))
 572                 return -1;
 573
 574         if (argc == 2 &&
 575             lnet_parse_ipaddr(&ipaddr, argv[1]) != 0) {
 576                 fprintf (stderr, "Can't parse ip: %s\n", argv[1]);
 577                 return -1;
 578         }
 579
 580         LIBCFS_IOC_INIT(data);
 581         data.ioc_net    = g_net;
 582         data.ioc_u32[0] = ipaddr;
 583
 584         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_INTERFACE, &data);
 585         if (rc != 0) {
 586                 fprintf (stderr, "failed to delete interface: %s\n",
 587                          strerror (errno));
 588                 return -1;
 589         }
 590
 591         return 0;
 592 }
 593
 594 int
 595 jt_ptl_print_peers (int argc, char **argv)
 596 {
 597         struct libcfs_ioctl_data data;
 598         lnet_process_id_t        id;
 599         char                     buffer[2][HOST_NAME_MAX + 1];
 600         int                      index;
 601         int                      rc;
 602
 603         if (!g_net_is_compatible (argv[0], SOCKLND, O2IBLND, GNILND, 0))
 604                 return -1;
 605
 606         for (index = 0;;index++) {
 607                 LIBCFS_IOC_INIT(data);
 608                 data.ioc_net     = g_net;
 609                 data.ioc_count   = index;
 610
 611                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_PEER, &data);
 612                 if (rc != 0)
 613                         break;
 614
 615                 if (g_net_is_compatible(NULL, SOCKLND, 0)) {
 616                         id.nid = data.ioc_nid;
 617                         id.pid = data.ioc_u32[4];
 618                         printf ("%-20s [%d]%s->%s:%d #%d\n",
 619                                 libcfs_id2str(id),
 620                                 data.ioc_count, /* persistence */
 621                                 /* my ip */
 622                                 ptl_ipaddr_2_str(data.ioc_u32[2], buffer[0],
 623                                                  sizeof(buffer[0]), 1),
 624                                 /* peer ip */
 625                                 ptl_ipaddr_2_str(data.ioc_u32[0], buffer[1],
 626                                                  sizeof(buffer[1]), 1),
 627                                 data.ioc_u32[1], /* peer port */
 628                                 data.ioc_u32[3]); /* conn_count */
 629                 } else if (g_net_is_compatible(NULL, GNILND, 0)) {
 630                         int disconn = data.ioc_flags >> 16;
 631                         char *state;
 632
 633                         if (disconn)
 634                                 state = "D";
 635                         else
 636                                 state = data.ioc_flags & 0xffff ? "C" : "U";
 637
 638                         printf ("%-20s (%d) %s [%d] "LPU64" "
 639                                 "sq %d/%d tx %d/%d/%d\n",
 640                                 libcfs_nid2str(data.ioc_nid), /* peer nid */
 641                                 data.ioc_net, /* gemini device id */
 642                                 state, /* peer is Connecting, Up, or Down */
 643                                 data.ioc_count,   /* peer refcount */
 644                                 data.ioc_u64[0], /* peerstamp */
 645                                 data.ioc_u32[2], data.ioc_u32[3], /* tx and rx seq */
 646                                 /* fmaq, nfma, nrdma */
 647                                 data.ioc_u32[0], data.ioc_u32[1], data.ioc_u32[4]
 648                                 );
 649                 } else {
 650                         printf ("%-20s [%d]\n",
 651                                 libcfs_nid2str(data.ioc_nid), data.ioc_count);
 652                 }
 653         }
 654
 655         if (index == 0) {
 656                 if (errno == ENOENT) {
 657                         printf ("<no peers>\n");
 658                 } else {
 659                         fprintf(stderr, "Error getting peer list: %s: "
 660                                 "check dmesg.\n",
 661                                 strerror(errno));
 662                 }
 663         }
 664         return 0;
 665 }
 666
 667 int jt_ptl_add_peer(int argc, char **argv)
 668 {
 669         struct libcfs_ioctl_data data;
 670         lnet_nid_t nid;
 671         __u32 ip = 0;
 672         int port = 0;
 673         int rc;
 674
 675         if (!g_net_is_compatible(argv[0], SOCKLND, GNILND, 0))
 676                 return -1;
 677
 678         if (argc != 4) {
 679                 fprintf(stderr, "usage(tcp,gni): %s nid ipaddr port\n",
 680                         argv[0]);
 681                 return 0;
 682         }
 683
 684         nid = libcfs_str2nid(argv[1]);
 685         if (nid == LNET_NID_ANY) {
 686                 fprintf (stderr, "Can't parse NID: %s\n", argv[1]);
 687                 return -1;
 688         }
 689
 690         if (lnet_parse_ipaddr (&ip, argv[2]) != 0) {
 691                 fprintf (stderr, "Can't parse ip addr: %s\n", argv[2]);
 692                 return -1;
 693         }
 694
 695         if (lnet_parse_port (&port, argv[3]) != 0) {
 696                 fprintf (stderr, "Can't parse port: %s\n", argv[3]);
 697                 return -1;
 698         }
 699
 700         LIBCFS_IOC_INIT(data);
 701         data.ioc_net    = g_net;
 702         data.ioc_nid    = nid;
 703         data.ioc_u32[0] = ip;
 704         data.ioc_u32[1] = port;
 705
 706         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_ADD_PEER, &data);
 707         if (rc != 0) {
 708                 fprintf (stderr, "failed to add peer: %s\n",
 709                          strerror (errno));
 710                 return -1;
 711         }
 712
 713         return 0;
 714 }
 715
 716 int
 717 jt_ptl_del_peer (int argc, char **argv)
 718 {
 719         struct libcfs_ioctl_data data;
 720         lnet_nid_t               nid = LNET_NID_ANY;
 721         lnet_pid_t               pid = LNET_PID_ANY;
 722         __u32                    ip = 0;
 723         int                      rc;
 724
 725         if (!g_net_is_compatible(argv[0], SOCKLND, O2IBLND, GNILND, 0))
 726                 return -1;
 727
 728         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
 729                 if (argc > 3) {
 730                         fprintf (stderr, "usage: %s [nid] [ipaddr]\n",
 731                                  argv[0]);
 732                         return 0;
 733                 }
 734         } else if (argc > 2) {
 735                 fprintf (stderr, "usage: %s [nid]\n", argv[0]);
 736                 return 0;
 737         }
 738
 739         if (argc > 1 &&
 740             !libcfs_str2anynid(&nid, argv[1])) {
 741                 fprintf (stderr, "Can't parse nid: %s\n", argv[1]);
 742                 return -1;
 743         }
 744
 745         if (g_net_is_compatible(NULL, SOCKLND, 0)) {
 746                 if (argc > 2 &&
 747                     lnet_parse_ipaddr (&ip, argv[2]) != 0) {
 748                         fprintf (stderr, "Can't parse ip addr: %s\n",
 749                                  argv[2]);
 750                         return -1;
 751                 }
 752         }
 753
 754         LIBCFS_IOC_INIT(data);
 755         data.ioc_net    = g_net;
 756         data.ioc_nid    = nid;
 757         data.ioc_u32[0] = ip;
 758         data.ioc_u32[1] = pid;
 759
 760         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_PEER, &data);
 761         if (rc != 0) {
 762                 fprintf (stderr, "failed to remove peer: %s\n",
 763                          strerror (errno));
 764                 return -1;
 765         }
 766
 767         return 0;
 768 }
 769
 770 int
 771 jt_ptl_print_connections (int argc, char **argv)
 772 {
 773         struct libcfs_ioctl_data data;
 774         lnet_process_id_t        id;
 775         char                     buffer[2][HOST_NAME_MAX + 1];
 776         int                      index;
 777         int                      rc;
 778
 779         if (!g_net_is_compatible(argv[0], SOCKLND, O2IBLND, GNILND, 0))
 780                 return -1;
 781
 782         for (index = 0; ; index++) {
 783                 LIBCFS_IOC_INIT(data);
 784                 data.ioc_net     = g_net;
 785                 data.ioc_count   = index;
 786
 787                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_CONN, &data);
 788                 if (rc != 0)
 789                         break;
 790
 791                 if (g_net_is_compatible (NULL, SOCKLND, 0)) {
 792                         id.nid = data.ioc_nid;
 793                         id.pid = data.ioc_u32[6];
 794                         printf ("%-20s %s[%d]%s->%s:%d %d/%d %s\n",
 795                                 libcfs_id2str(id),
 796                                 (data.ioc_u32[3] == SOCKLND_CONN_ANY) ? "A" :
 797                                 (data.ioc_u32[3] == SOCKLND_CONN_CONTROL) ? "C" :
 798                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_IN) ? "I" :
 799                                 (data.ioc_u32[3] == SOCKLND_CONN_BULK_OUT) ? "O" : "?",
 800                                 data.ioc_u32[4], /* scheduler */
 801                                 /* local IP addr */
 802                                 ptl_ipaddr_2_str(data.ioc_u32[2], buffer[0],
 803                                                  sizeof(buffer[0]), 1),
 804                                 /* remote IP addr */
 805                                 ptl_ipaddr_2_str(data.ioc_u32[0], buffer[1],
 806                                                  sizeof(buffer[1]), 1),
 807                                 data.ioc_u32[1],         /* remote port */
 808                                 data.ioc_count, /* tx buffer size */
 809                                 data.ioc_u32[5], /* rx buffer size */
 810                                 data.ioc_flags ? "nagle" : "nonagle");
 811                 } else if (g_net_is_compatible (NULL, O2IBLND, 0)) {
 812                         printf ("%s mtu %d\n",
 813                                 libcfs_nid2str(data.ioc_nid),
 814                                 data.ioc_u32[0]); /* path MTU */
 815                 } else if (g_net_is_compatible (NULL, GNILND, 0)) {
 816                         printf ("%-20s [%d]\n",
 817                                 libcfs_nid2str(data.ioc_nid),
 818                                 data.ioc_u32[0] /* device id */);
 819                 } else {
 820                         printf ("%s\n", libcfs_nid2str(data.ioc_nid));
 821                 }
 822         }
 823
 824         if (index == 0) {
 825                 if (errno == ENOENT) {
 826                         printf ("<no connections>\n");
 827                 } else {
 828                         fprintf(stderr, "Error getting connection list: %s: "
 829                                 "check dmesg.\n",
 830                                 strerror(errno));
 831                 }
 832         }
 833         return 0;
 834 }
 835
 836 int jt_ptl_disconnect(int argc, char **argv)
 837 {
 838         struct libcfs_ioctl_data data;
 839         lnet_nid_t               nid = LNET_NID_ANY;
 840         __u32                    ipaddr = 0;
 841         int                      rc;
 842
 843         if (argc > 3) {
 844                 fprintf(stderr, "usage: %s [nid] [ipaddr]\n", argv[0]);
 845                 return 0;
 846         }
 847
 848         if (!g_net_is_compatible(NULL, SOCKLND, O2IBLND, GNILND, 0))
 849                 return 0;
 850
 851         if (argc >= 2 &&
 852             !libcfs_str2anynid(&nid, argv[1])) {
 853                 fprintf (stderr, "Can't parse nid %s\n", argv[1]);
 854                 return -1;
 855         }
 856
 857         if (g_net_is_compatible (NULL, SOCKLND, 0) &&
 858             argc >= 3 &&
 859             lnet_parse_ipaddr (&ipaddr, argv[2]) != 0) {
 860                 fprintf (stderr, "Can't parse ip addr %s\n", argv[2]);
 861                 return -1;
 862         }
 863
 864         LIBCFS_IOC_INIT(data);
 865         data.ioc_net     = g_net;
 866         data.ioc_nid     = nid;
 867         data.ioc_u32[0]  = ipaddr;
 868
 869         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_CLOSE_CONNECTION, &data);
 870         if (rc != 0) {
 871                 fprintf(stderr, "failed to remove connection: %s\n",
 872                         strerror(errno));
 873                 return -1;
 874         }
 875
 876         return 0;
 877 }
 878
 879 int jt_ptl_push_connection (int argc, char **argv)
 880 {
 881         struct libcfs_ioctl_data data;
 882         int                      rc;
 883         lnet_nid_t               nid = LNET_NID_ANY;
 884
 885         if (argc > 2) {
 886                 fprintf(stderr, "usage: %s [nid]\n", argv[0]);
 887                 return 0;
 888         }
 889
 890         if (!g_net_is_compatible (argv[0], SOCKLND, GNILND, 0))
 891                 return -1;
 892
 893         if (argc > 1 &&
 894             !libcfs_str2anynid(&nid, argv[1])) {
 895                 fprintf(stderr, "Can't parse nid: %s\n", argv[1]);
 896                 return -1;
 897         }
 898
 899         LIBCFS_IOC_INIT(data);
 900         data.ioc_net     = g_net;
 901         data.ioc_nid     = nid;
 902
 903         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PUSH_CONNECTION, &data);
 904         if (rc != 0) {
 905                 fprintf(stderr, "failed to push connection: %s\n",
 906                         strerror(errno));
 907                 return -1;
 908         }
 909
 910         return 0;
 911 }
 912
 913 int jt_ptl_ping(int argc, char **argv)
 914 {
 915         int                      rc;
 916         int                      timeout;
 917         lnet_process_id_t        id;
 918         lnet_process_id_t        ids[16];
 919         int                      maxids = sizeof(ids)/sizeof(ids[0]);
 920         struct libcfs_ioctl_data data;
 921         char                    *sep;
 922         int                      i;
 923
 924         if (argc < 2) {
 925                 fprintf(stderr, "usage: %s id [timeout (secs)]\n", argv[0]);
 926                 return 0;
 927         }
 928
 929         sep = strchr(argv[1], '-');
 930         if (sep == NULL) {
 931                 rc = lnet_parse_nid(argv[1], &id);
 932                 if (rc != 0)
 933                         return -1;
 934         } else {
 935                 char   *end;
 936
 937                 if (argv[1][0] == 'u' ||
 938                     argv[1][0] == 'U')
 939                         id.pid = strtoul(&argv[1][1], &end, 0) | LNET_PID_USERFLAG;
 940                 else
 941                         id.pid = strtoul(argv[1], &end, 0);
 942
 943                 if (end != sep) { /* assuming '-' is part of hostname */
 944                         rc = lnet_parse_nid(argv[1], &id);
 945                         if (rc != 0)
 946                                 return -1;
 947                 } else {
 948                         id.nid = libcfs_str2nid(sep + 1);
 949
 950                         if (id.nid == LNET_NID_ANY) {
 951                                 fprintf(stderr,
 952                                         "Can't parse process id \"%s\"\n",
 953                                         argv[1]);
 954                                 return -1;
 955                         }
 956                 }
 957         }
 958
 959         if (argc > 2)
 960                 timeout = 1000 * atol(argv[2]);
 961         else
 962                 timeout = 1000;                 /* default 1 second timeout */
 963
 964         LIBCFS_IOC_INIT (data);
 965         data.ioc_nid     = id.nid;
 966         data.ioc_u32[0]  = id.pid;
 967         data.ioc_u32[1]  = timeout;
 968         data.ioc_plen1   = sizeof(ids);
 969         data.ioc_pbuf1   = (char *)ids;
 970
 971         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_PING, &data);
 972         if (rc != 0) {
 973                 fprintf(stderr, "failed to ping %s: %s\n",
 974                         id.pid == LNET_PID_ANY ?
 975                         libcfs_nid2str(id.nid) : libcfs_id2str(id),
 976                         strerror(errno));
 977                 return -1;
 978         }
 979
 980         for (i = 0; i < data.ioc_count && i < maxids; i++)
 981                 printf("%s\n", libcfs_id2str(ids[i]));
 982
 983         if (data.ioc_count > maxids)
 984                 printf("%d out of %d ids listed\n", maxids, data.ioc_count);
 985
 986         return 0;
 987 }
 988
 989 int jt_ptl_mynid(int argc, char **argv)
 990 {
 991         struct libcfs_ioctl_data data;
 992         lnet_nid_t               nid;
 993         int rc;
 994
 995         if (argc != 2) {
 996                 fprintf(stderr, "usage: %s NID\n", argv[0]);
 997                 return 0;
 998         }
 999
1000         nid = libcfs_str2nid(argv[1]);
1001         if (nid == LNET_NID_ANY) {
1002                 fprintf(stderr, "Can't parse NID '%s'\n", argv[1]);
1003                 return -1;
1004         }
1005
1006         LIBCFS_IOC_INIT(data);
1007         data.ioc_net = LNET_NIDNET(nid);
1008         data.ioc_nid = nid;
1009
1010         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_REGISTER_MYNID, &data);
1011         if (rc < 0)
1012                 fprintf(stderr, "setting my NID failed: %s\n",
1013                        strerror(errno));
1014         else
1015                 printf("registered my nid %s\n", libcfs_nid2str(nid));
1016
1017         return 0;
1018 }
1019
1020 int
1021 jt_ptl_fail_nid (int argc, char **argv)
1022 {
1023         int                      rc;
1024         lnet_nid_t               nid;
1025         int                      threshold;
1026         struct libcfs_ioctl_data data;
1027
1028         if (argc < 2 || argc > 3)
1029         {
1030                 fprintf (stderr, "usage: %s nid|\"*\" [count (0 == mend)]\n", argv[0]);
1031                 return (0);
1032         }
1033
1034         if (!libcfs_str2anynid(&nid, argv[1]))
1035         {
1036                 fprintf (stderr, "Can't parse nid \"%s\"\n", argv[1]);
1037                 return (-1);
1038         }
1039
1040         if (argc < 3) {
1041                 threshold = LNET_MD_THRESH_INF;
1042         } else if (sscanf(argv[2], "%i", &threshold) != 1) {
1043                 fprintf (stderr, "Can't parse count \"%s\"\n", argv[2]);
1044                 return (-1);
1045         }
1046
1047         LIBCFS_IOC_INIT (data);
1048         data.ioc_nid = nid;
1049         data.ioc_count = threshold;
1050
1051         rc = l_ioctl (LNET_DEV_ID, IOC_LIBCFS_FAIL_NID, &data);
1052         if (rc < 0)
1053                 fprintf (stderr, "IOC_LIBCFS_FAIL_NID failed: %s\n",
1054                          strerror (errno));
1055         else
1056                 printf ("%s %s\n", threshold == 0 ? "Unfailing" : "Failing", argv[1]);
1057
1058         return (0);
1059 }
1060
1061 int
1062 jt_ptl_add_route (int argc, char **argv)
1063 {
1064         struct lnet_ioctl_config_data data;
1065         lnet_nid_t               gateway_nid;
1066         __u32                    hops = LNET_UNDEFINED_HOPS;
1067         unsigned int             priority = 0;
1068         char                    *end;
1069         int                      rc;
1070
1071         if (argc < 2 || argc > 4) {
1072                 fprintf(stderr, "usage: %s gateway [hopcount [priority]]\n",
1073                         argv[0]);
1074                 return -1;
1075         }
1076
1077         if (g_net_is_set(argv[0]) == 0)
1078                 return -1;
1079
1080         gateway_nid = libcfs_str2nid(argv[1]);
1081         if (gateway_nid == LNET_NID_ANY) {
1082                 fprintf(stderr, "Can't parse gateway NID \"%s\"\n", argv[1]);
1083                 return -1;
1084         }
1085
1086         if (argc > 2) {
1087                 hops = strtol(argv[2], &end, 0);
1088                 if (hops == 0 || hops >= 256 ||
1089                     (end != NULL && *end != 0)) {
1090                         fprintf(stderr, "Can't parse hopcount \"%s\"\n",
1091                                 argv[2]);
1092                         return -1;
1093                 }
1094                 if (argc == 4) {
1095                         priority = strtoul(argv[3], &end, 0);
1096                         if (end != NULL && *end != 0) {
1097                                 fprintf(stderr,
1098                                         "Can't parse priority \"%s\"\n",
1099                                         argv[3]);
1100                                 return -1;
1101                         }
1102                 }
1103         }
1104
1105         LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1106         data.cfg_net = g_net;
1107         data.cfg_config_u.cfg_route.rtr_hop = hops;
1108         data.cfg_nid = gateway_nid;
1109         data.cfg_config_u.cfg_route.rtr_priority = priority;
1110
1111         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_ADD_ROUTE, &data);
1112         if (rc != 0) {
1113                 fprintf(stderr, "IOC_LIBCFS_ADD_ROUTE failed: %s\n",
1114                         strerror(errno));
1115                 return -1;
1116         }
1117
1118         return 0;
1119 }
1120
1121 int
1122 jt_ptl_del_route (int argc, char **argv)
1123 {
1124         struct lnet_ioctl_config_data data;
1125         lnet_nid_t               nid;
1126         int                      rc;
1127
1128         if (argc != 2) {
1129                 fprintf(stderr, "usage: %s gatewayNID\n", argv[0]);
1130                 return 0;
1131         }
1132
1133         if (libcfs_str2anynid(&nid, argv[1]) == 0) {
1134                 fprintf(stderr, "Can't parse gateway NID "
1135                         "\"%s\"\n", argv[1]);
1136                 return -1;
1137         }
1138
1139         LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1140         data.cfg_net = g_net_set ? g_net : LNET_NIDNET(LNET_NID_ANY);
1141         data.cfg_nid = nid;
1142
1143         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_DEL_ROUTE, &data);
1144         if (rc != 0) {
1145                 fprintf(stderr, "IOC_LIBCFS_DEL_ROUTE (%s) failed: %s\n",
1146                         libcfs_nid2str(nid), strerror(errno));
1147                 return -1;
1148         }
1149
1150         return 0;
1151 }
1152
1153 int
1154 jt_ptl_notify_router (int argc, char **argv)
1155 {
1156         struct libcfs_ioctl_data data;
1157         int                      enable;
1158         lnet_nid_t               nid;
1159         int                      rc;
1160         struct timeval           now;
1161         time_t                   when;
1162
1163         if (argc < 3)
1164         {
1165                 fprintf (stderr, "usage: %s targetNID <up/down> [<time>]\n",
1166                          argv[0]);
1167                 return (0);
1168         }
1169
1170         nid = libcfs_str2nid(argv[1]);
1171         if (nid == LNET_NID_ANY) {
1172                 fprintf (stderr, "Can't parse target NID \"%s\"\n", argv[1]);
1173                 return (-1);
1174         }
1175
1176         if (lnet_parse_bool (&enable, argv[2]) != 0) {
1177                 fprintf (stderr, "Can't parse boolean %s\n", argv[2]);
1178                 return (-1);
1179         }
1180
1181         gettimeofday(&now, NULL);
1182
1183         if (argc < 4) {
1184                 when = now.tv_sec;
1185         } else if (lnet_parse_time (&when, argv[3]) != 0) {
1186                 fprintf(stderr, "Can't parse time %s\n"
1187                         "Please specify either 'YYYY-MM-DD-HH:MM:SS'\n"
1188                         "or an absolute unix time in seconds\n", argv[3]);
1189                 return (-1);
1190         } else if (when > now.tv_sec) {
1191                 fprintf (stderr, "%s specifies a time in the future\n",
1192                          argv[3]);
1193                 return (-1);
1194         }
1195
1196         LIBCFS_IOC_INIT(data);
1197         data.ioc_nid = nid;
1198         data.ioc_flags = enable;
1199         /* Yeuch; 'cept I need a __u64 on 64 bit machines... */
1200         data.ioc_u64[0] = (__u64)when;
1201
1202         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_NOTIFY_ROUTER, &data);
1203         if (rc != 0) {
1204                 fprintf (stderr, "IOC_LIBCFS_NOTIFY_ROUTER (%s) failed: %s\n",
1205                          libcfs_nid2str(nid), strerror (errno));
1206                 return (-1);
1207         }
1208
1209         return (0);
1210 }
1211
1212 int
1213 jt_ptl_print_routes (int argc, char **argv)
1214 {
1215         struct lnet_ioctl_config_data  data;
1216         int                       rc;
1217         int                       index;
1218         __u32                     net;
1219         lnet_nid_t                nid;
1220         unsigned int              hops;
1221         int                       alive;
1222         unsigned int              pri;
1223
1224         for (index = 0; ; index++) {
1225                 LIBCFS_IOC_INIT_V2(data, cfg_hdr);
1226                 data.cfg_count = index;
1227
1228                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_GET_ROUTE, &data);
1229                 if (rc != 0)
1230                         break;
1231
1232                 net     = data.cfg_net;
1233                 hops    = data.cfg_config_u.cfg_route.rtr_hop;
1234                 nid     = data.cfg_nid;
1235                 alive   = data.cfg_config_u.cfg_route.rtr_flags;
1236                 pri     = data.cfg_config_u.cfg_route.rtr_priority;
1237
1238                 printf("net %18s hops %u gw %32s %s pri %u\n",
1239                        libcfs_net2str(net), hops,
1240                        libcfs_nid2str(nid), alive ? "up" : "down", pri);
1241         }
1242
1243         if (errno != ENOENT)
1244                 fprintf(stderr, "Error getting routes: %s: check dmesg.\n",
1245                         strerror(errno));
1246
1247         return 0;
1248 }
1249
1250 static int
1251 fault_attr_nid_parse(char *str, lnet_nid_t *nid_p)
1252 {
1253         lnet_nid_t nid;
1254         __u32      net;
1255         int        rc = 0;
1256
1257         /* NB: can't support range ipaddress except * and *@net */
1258         if (strlen(str) > 2 && str[0] == '*' && str[1] == '@') {
1259                 net = libcfs_str2net(str + 2);
1260                 if (net == LNET_NIDNET(LNET_NID_ANY))
1261                         goto failed;
1262
1263                 nid = LNET_MKNID(net, LNET_NIDADDR(LNET_NID_ANY));
1264         } else {
1265                 rc = libcfs_str2anynid(&nid, str);
1266                 if (!rc)
1267                         goto failed;
1268         }
1269
1270         *nid_p = nid;
1271         return 0;
1272 failed:
1273         fprintf(stderr, "Invalid NID : %s\n", str);
1274         return -1;
1275 }
1276
1277 static int
1278 fault_attr_msg_parse(char *msg_str, __u32 *mask_p)
1279 {
1280         if (!strcasecmp(msg_str, "put")) {
1281                 *mask_p |= LNET_PUT_BIT;
1282                 return 0;
1283
1284         } else if (!strcasecmp(msg_str, "ack")) {
1285                 *mask_p |= LNET_ACK_BIT;
1286                 return 0;
1287
1288         } else if (!strcasecmp(msg_str, "get")) {
1289                 *mask_p |= LNET_GET_BIT;
1290                 return 0;
1291
1292         } else if (!strcasecmp(msg_str, "reply")) {
1293                 *mask_p |= LNET_REPLY_BIT;
1294                 return 0;
1295         }
1296
1297         fprintf(stderr, "unknown message type %s\n", msg_str);
1298         return -1;
1299 }
1300
1301 static int
1302 fault_attr_ptl_parse(char *ptl_str, __u64 *mask_p)
1303 {
1304         unsigned long rc = strtoul(optarg, NULL, 0);
1305
1306         if (rc >= 64) {
1307                 fprintf(stderr, "invalid portal: %lu\n", rc);
1308                 return -1;
1309         }
1310
1311         *mask_p |= (1ULL << rc);
1312         return 0;
1313 }
1314
1315 static int
1316 fault_simul_rule_add(__u32 opc, char *name, int argc, char **argv)
1317 {
1318         struct libcfs_ioctl_data  data = {{0}};
1319         struct lnet_fault_attr    attr;
1320         char                     *optstr;
1321         int                       rc;
1322
1323         static struct option opts[] = {
1324                 {"source",      required_argument,      0,      's'},
1325                 {"dest",        required_argument,      0,      'd'},
1326                 {"rate",        required_argument,      0,      'r'},
1327                 {"interval",    required_argument,      0,      'i'},
1328                 {"latency",     required_argument,      0,      'l'},
1329                 {"portal",      required_argument,      0,      'p'},
1330                 {"message",     required_argument,      0,      'm'},
1331                 {0, 0, 0, 0}
1332         };
1333
1334         if (argc == 1) {
1335                 fprintf(stderr, "Failed, please provide source, destination "
1336                                 "and rate of rule\n");
1337                 return -1;
1338         }
1339
1340         optstr = opc == LNET_CTL_DROP_ADD ? "s:d:r:i:p:m:" : "s:d:r:l:p:m:";
1341         memset(&attr, 0, sizeof(attr));
1342         while (1) {
1343                 char c = getopt_long(argc, argv, optstr, opts, NULL);
1344
1345                 if (c == -1)
1346                         break;
1347
1348                 switch (c) {
1349                 case 's': /* source NID/NET */
1350                         rc = fault_attr_nid_parse(optarg, &attr.fa_src);
1351                         if (rc != 0)
1352                                 goto getopt_failed;
1353                         break;
1354
1355                 case 'd': /* dest NID/NET */
1356                         rc = fault_attr_nid_parse(optarg, &attr.fa_dst);
1357                         if (rc != 0)
1358                                 goto getopt_failed;
1359                         break;
1360
1361                 case 'r': /* drop rate */
1362                         if (opc == LNET_CTL_DROP_ADD)
1363                                 attr.u.drop.da_rate = strtoul(optarg, NULL, 0);
1364                         else
1365                                 attr.u.delay.la_rate = strtoul(optarg, NULL, 0);
1366                         break;
1367
1368                 case 'i': /* time interval (# seconds) for message drop */
1369                         if (opc == LNET_CTL_DROP_ADD)
1370                                 attr.u.drop.da_interval = strtoul(optarg,
1371                                                                   NULL, 0);
1372                         else
1373                                 attr.u.delay.la_interval = strtoul(optarg,
1374                                                                    NULL, 0);
1375                         break;
1376
1377                 case 'l': /* seconds to wait before activating rule */
1378                         attr.u.delay.la_latency = strtoul(optarg, NULL, 0);
1379                         break;
1380
1381                 case 'p': /* portal to filter */
1382                         rc = fault_attr_ptl_parse(optarg, &attr.fa_ptl_mask);
1383                         if (rc != 0)
1384                                 goto getopt_failed;
1385                         break;
1386
1387                 case 'm': /* message types to filter */
1388                         rc = fault_attr_msg_parse(optarg, &attr.fa_msg_mask);
1389                         if (rc != 0)
1390                                 goto getopt_failed;
1391                         break;
1392
1393                 default:
1394                         fprintf(stderr, "error: %s: option '%s' "
1395                                 "unrecognized\n", argv[0], argv[optind - 1]);
1396                         goto getopt_failed;
1397                 }
1398         }
1399         optind = 1;
1400
1401         if (opc == LNET_CTL_DROP_ADD) {
1402                 /* NB: drop rate and interval are exclusive to each other */
1403                 if (!((attr.u.drop.da_rate == 0) ^
1404                       (attr.u.drop.da_interval == 0))) {
1405                         fprintf(stderr,
1406                                 "please provide either drop rate or interval "
1407                                 "but not both at the same time.\n");
1408                         return -1;
1409                 }
1410         } else if (opc == LNET_CTL_DELAY_ADD) {
1411                 if (!((attr.u.delay.la_rate == 0) ^
1412                       (attr.u.delay.la_interval == 0))) {
1413                         fprintf(stderr,
1414                                 "please provide either delay rate or interval "
1415                                 "but not both at the same time.\n");
1416                         return -1;
1417                 }
1418
1419                 if (attr.u.delay.la_latency == 0) {
1420                         fprintf(stderr, "latency cannot be zero\n");
1421                         return -1;
1422                 }
1423         }
1424
1425         if (attr.fa_src == 0 || attr.fa_dst == 0) {
1426                 fprintf(stderr, "Please provide both source and destination "
1427                                 "of %s rule\n", name);
1428                 return -1;
1429         }
1430
1431         data.ioc_flags = opc;
1432         data.ioc_inllen1 = sizeof(attr);
1433         data.ioc_inlbuf1 = (char *)&attr;
1434         if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1435                 fprintf(stderr, "libcfs_ioctl_pack failed\n");
1436                 return -1;
1437         }
1438
1439         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1440         if (rc != 0) {
1441                 fprintf(stderr, "add %s rule %s->%s failed: %s\n",
1442                         name, libcfs_nid2str(attr.fa_src),
1443                         libcfs_nid2str(attr.fa_dst), strerror(errno));
1444                 return -1;
1445         }
1446
1447         printf("Added %s rule %s->%s (1/%d)\n",
1448                name, libcfs_nid2str(attr.fa_src), libcfs_nid2str(attr.fa_dst),
1449                opc == LNET_CTL_DROP_ADD ?
1450                attr.u.drop.da_rate : attr.u.delay.la_rate);
1451         return 0;
1452
1453 getopt_failed:
1454         optind = 1;
1455         return -1;
1456 }
1457
1458 int
1459 jt_ptl_drop_add(int argc, char **argv)
1460 {
1461         return fault_simul_rule_add(LNET_CTL_DROP_ADD, "drop", argc, argv);
1462 }
1463
1464 int
1465 jt_ptl_delay_add(int argc, char **argv)
1466 {
1467         return fault_simul_rule_add(LNET_CTL_DELAY_ADD, "delay", argc, argv);
1468 }
1469
1470 static int
1471 fault_simul_rule_del(__u32 opc, char *name, int argc, char **argv)
1472 {
1473         struct libcfs_ioctl_data data = {{0}};
1474         struct lnet_fault_attr   attr;
1475         bool                     all = false;
1476         int                      rc;
1477
1478         static struct option opts[] = {
1479                 {"source",      required_argument,      0,      's'},
1480                 {"dest",        required_argument,      0,      'd'},
1481                 {"all",         no_argument,            0,      'a'},
1482                 {0, 0, 0, 0}
1483         };
1484
1485         if (argc == 1) {
1486                 fprintf(stderr, "Failed, please provide source and "
1487                                 "destination of rule\n");
1488                 return -1;
1489         }
1490
1491         memset(&attr, 0, sizeof(attr));
1492         while (1) {
1493                 char c = getopt_long(argc, argv, "s:d:a", opts, NULL);
1494
1495                 if (c == -1 || all)
1496                         break;
1497
1498                 switch (c) {
1499                 case 's':
1500                         rc = fault_attr_nid_parse(optarg, &attr.fa_src);
1501                         if (rc != 0)
1502                                 goto getopt_failed;
1503                         break;
1504                 case 'd':
1505                         rc = fault_attr_nid_parse(optarg, &attr.fa_dst);
1506                         if (rc != 0)
1507                                 goto getopt_failed;
1508                         break;
1509                 case 'a':
1510                         attr.fa_src = attr.fa_dst = 0;
1511                         all = true;
1512                         break;
1513                 default:
1514                         fprintf(stderr, "error: %s: option '%s' "
1515                                 "unrecognized\n", argv[0], argv[optind - 1]);
1516                         goto getopt_failed;
1517                 }
1518         }
1519         optind = 1;
1520
1521         data.ioc_flags = opc;
1522         data.ioc_inllen1 = sizeof(attr);
1523         data.ioc_inlbuf1 = (char *)&attr;
1524         if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1525                 fprintf(stderr, "libcfs_ioctl_pack failed\n");
1526                 return -1;
1527         }
1528
1529         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1530         if (rc != 0) {
1531                 fprintf(stderr, "remove %s rule %s->%s failed: %s\n", name,
1532                         all ? "all" : libcfs_nid2str(attr.fa_src),
1533                         all ? "all" : libcfs_nid2str(attr.fa_dst),
1534                         strerror(errno));
1535                 return -1;
1536         }
1537
1538         libcfs_ioctl_unpack(&data, ioc_buf);
1539         printf("Removed %d %s rules\n", data.ioc_count, name);
1540         return 0;
1541
1542 getopt_failed:
1543         optind = 1;
1544         return -1;
1545 }
1546
1547 int
1548 jt_ptl_drop_del(int argc, char **argv)
1549 {
1550         return fault_simul_rule_del(LNET_CTL_DROP_DEL, "drop", argc, argv);
1551 }
1552
1553 int
1554 jt_ptl_delay_del(int argc, char **argv)
1555 {
1556         return fault_simul_rule_del(LNET_CTL_DELAY_DEL, "delay", argc, argv);
1557 }
1558
1559 static int
1560 fault_simul_rule_reset(__u32 opc, char *name, int argc, char **argv)
1561 {
1562         struct libcfs_ioctl_data   data = {{0}};
1563         int                        rc;
1564
1565         LIBCFS_IOC_INIT(data);
1566         data.ioc_flags = opc;
1567
1568         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, &data);
1569         if (rc != 0) {
1570                 fprintf(stderr, "failed to reset %s stats: %s\n",
1571                         name, strerror(errno));
1572                 return -1;
1573         }
1574         return 0;
1575 }
1576
1577 int
1578 jt_ptl_drop_reset(int argc, char **argv)
1579 {
1580         return fault_simul_rule_reset(LNET_CTL_DROP_RESET, "drop", argc, argv);
1581 }
1582
1583 int
1584 jt_ptl_delay_reset(int argc, char **argv)
1585 {
1586         return fault_simul_rule_reset(LNET_CTL_DELAY_RESET, "delay",
1587                                       argc, argv);
1588 }
1589
1590 static int
1591 fault_simul_rule_list(__u32 opc, char *name, int argc, char **argv)
1592 {
1593         struct libcfs_ioctl_data data = {{0}};
1594         struct lnet_fault_attr   attr;
1595         struct lnet_fault_stat   stat;
1596         int                      pos;
1597
1598         printf("LNet %s rules:\n", name);
1599         for (pos = 0;; pos++) {
1600                 int             rc;
1601
1602                 memset(&attr, 0, sizeof(attr));
1603                 memset(&stat, 0, sizeof(stat));
1604
1605                 data.ioc_count = pos;
1606                 data.ioc_flags = opc;
1607                 data.ioc_inllen1 = sizeof(attr);
1608                 data.ioc_inlbuf1 = (char *)&attr;
1609                 data.ioc_inllen2 = sizeof(stat);
1610                 data.ioc_inlbuf2 = (char *)&stat;
1611                 if (libcfs_ioctl_pack(&data, &ioc_buf, IOC_BUF_SIZE) != 0) {
1612                         fprintf(stderr, "libcfs_ioctl_pack failed\n");
1613                         return -1;
1614                 }
1615
1616                 rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_LNET_FAULT, ioc_buf);
1617                 if (rc != 0)
1618                         break;
1619
1620                 libcfs_ioctl_unpack(&data, ioc_buf);
1621
1622                 if (opc == LNET_CTL_DROP_LIST) {
1623                         printf("%s->%s (1/%d | %d) ptl "LPX64", msg %x, "
1624                                LPU64"/"LPU64", PUT "LPU64", ACK "LPU64", GET "
1625                                LPU64", REP "LPU64"\n",
1626                                libcfs_nid2str(attr.fa_src),
1627                                libcfs_nid2str(attr.fa_dst),
1628                                attr.u.drop.da_rate, attr.u.drop.da_interval,
1629                                attr.fa_ptl_mask, attr.fa_msg_mask,
1630                                stat.u.drop.ds_dropped, stat.fs_count,
1631                                stat.fs_put, stat.fs_ack,
1632                                stat.fs_get, stat.fs_reply);
1633
1634                 } else if (opc == LNET_CTL_DELAY_LIST) {
1635                         printf("%s->%s (1/%d | %d, latency %d) ptl "LPX64
1636                                ", msg %x, "LPU64"/"LPU64", PUT "LPU64
1637                                ", ACK "LPU64", GET "LPU64", REP "LPU64"\n",
1638                                libcfs_nid2str(attr.fa_src),
1639                                libcfs_nid2str(attr.fa_dst),
1640                                attr.u.delay.la_rate, attr.u.delay.la_interval,
1641                                attr.u.delay.la_latency,
1642                                attr.fa_ptl_mask, attr.fa_msg_mask,
1643                                stat.u.delay.ls_delayed, stat.fs_count,
1644                                stat.fs_put, stat.fs_ack, stat.fs_get,
1645                                stat.fs_reply);
1646                 }
1647         }
1648         printf("found total %d\n", pos);
1649
1650         return 0;
1651 }
1652
1653 int
1654 jt_ptl_drop_list(int argc, char **argv)
1655 {
1656         return fault_simul_rule_list(LNET_CTL_DROP_LIST, "drop", argc, argv);
1657 }
1658
1659 int
1660 jt_ptl_delay_list(int argc, char **argv)
1661 {
1662         return fault_simul_rule_list(LNET_CTL_DELAY_LIST, "delay", argc, argv);
1663 }
1664
1665 double
1666 get_cycles_per_usec ()
1667 {
1668         FILE      *f = fopen ("/proc/cpuinfo", "r");
1669         double     mhz;
1670         char      line[64];
1671
1672         if (f != NULL) {
1673                 while (fgets (line, sizeof (line), f) != NULL)
1674                         if (sscanf (line, "cpu MHz : %lf", &mhz) == 1) {
1675                                 fclose (f);
1676                                 return (mhz);
1677                         }
1678                 fclose (f);
1679         }
1680
1681         fprintf (stderr, "Can't read/parse /proc/cpuinfo\n");
1682         return (1000.0);
1683 }
1684
1685 int jt_ptl_testprotocompat(int argc, char **argv)
1686 {
1687         struct libcfs_ioctl_data  data;
1688         int                       rc;
1689         int                       flags;
1690         char                     *end;
1691
1692         if (argc < 2)  {
1693                 fprintf(stderr, "usage: %s <number>\n", argv[0]);
1694                 return 0;
1695         }
1696
1697         flags = strtol(argv[1], &end, 0);
1698         if (flags < 0 || *end != 0) {
1699                 fprintf(stderr, "Can't parse flags '%s'\n", argv[1]);
1700                 return -1;
1701         }
1702
1703         LIBCFS_IOC_INIT(data);
1704         data.ioc_flags = flags;
1705         rc = l_ioctl(LNET_DEV_ID, IOC_LIBCFS_TESTPROTOCOMPAT, &data);
1706
1707         if (rc != 0) {
1708                 fprintf(stderr, "test proto compat %x failed: %s\n",
1709                         flags, strerror(errno));
1710                 return -1;
1711         }
1712
1713         printf("test proto compat %x OK\n", flags);
1714         return 0;
1715 }
1716
1717