lnet/klnds/socklnd/socklnd_modparams.c

   1 /*
   2  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
   3  *
   4  * Copyright (c) 2011, 2012, Intel Corporation.
   5  *
   6  *   Author: Eric Barton <eric@bartonsoftware.com>
   7  *
   8  *   Portals is free software; you can redistribute it and/or
   9  *   modify it under the terms of version 2 of the GNU General Public
  10  *   License as published by the Free Software Foundation.
  11  *
  12  *   Portals is distributed in the hope that it will be useful,
  13  *   but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  *   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15  *   GNU General Public License for more details.
  16  *
  17  *   You should have received a copy of the GNU General Public License
  18  *   along with Portals; if not, write to the Free Software
  19  *   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  20  */
  21
  22 #include "socklnd.h"
  23
  24 static int sock_timeout = 50;
  25 module_param(sock_timeout, int, 0644);
  26 MODULE_PARM_DESC(sock_timeout, "dead socket timeout (seconds)");
  27
  28 static int credits = 256;
  29 module_param(credits, int, 0444);
  30 MODULE_PARM_DESC(credits, "# concurrent sends");
  31
  32 static int peer_credits = 8;
  33 module_param(peer_credits, int, 0444);
  34 MODULE_PARM_DESC(peer_credits, "# concurrent sends to 1 peer");
  35
  36 static int peer_buffer_credits;
  37 module_param(peer_buffer_credits, int, 0444);
  38 MODULE_PARM_DESC(peer_buffer_credits, "# per-peer router buffer credits");
  39
  40 static int peer_timeout = 180;
  41 module_param(peer_timeout, int, 0444);
  42 MODULE_PARM_DESC(peer_timeout, "Seconds without aliveness news to declare peer dead (<=0 to disable)");
  43
  44 /* Number of daemons in each thread pool which is percpt,
  45  * we will estimate reasonable value based on CPUs if it's not set. */
  46 static unsigned int nscheds;
  47 module_param(nscheds, int, 0444);
  48 MODULE_PARM_DESC(nscheds, "# scheduler daemons in each pool while starting");
  49
  50 static int nconnds = 4;
  51 module_param(nconnds, int, 0444);
  52 MODULE_PARM_DESC(nconnds, "# connection daemons while starting");
  53
  54 static int nconnds_max = 64;
  55 module_param(nconnds_max, int, 0444);
  56 MODULE_PARM_DESC(nconnds_max, "max # connection daemons");
  57
  58 static int min_reconnectms = 1000;
  59 module_param(min_reconnectms, int, 0644);
  60 MODULE_PARM_DESC(min_reconnectms, "min connection retry interval (mS)");
  61
  62 static int max_reconnectms = 60000;
  63 module_param(max_reconnectms, int, 0644);
  64 MODULE_PARM_DESC(max_reconnectms, "max connection retry interval (mS)");
  65
  66 static int eager_ack;
  67 module_param(eager_ack, int, 0644);
  68 MODULE_PARM_DESC(eager_ack, "send tcp ack packets eagerly");
  69
  70 static int typed_conns = 1;
  71 module_param(typed_conns, int, 0444);
  72 MODULE_PARM_DESC(typed_conns, "use different sockets for bulk");
  73
  74 static int min_bulk = (1<<10);
  75 module_param(min_bulk, int, 0644);
  76 MODULE_PARM_DESC(min_bulk, "smallest 'large' message");
  77
  78 # define DEFAULT_BUFFER_SIZE 0
  79 static int tx_buffer_size = DEFAULT_BUFFER_SIZE;
  80 module_param(tx_buffer_size, int, 0644);
  81 MODULE_PARM_DESC(tx_buffer_size, "socket tx buffer size (0 for system default)");
  82
  83 static int rx_buffer_size = DEFAULT_BUFFER_SIZE;
  84 module_param(rx_buffer_size, int, 0644);
  85 MODULE_PARM_DESC(rx_buffer_size, "socket rx buffer size (0 for system default)");
  86
  87 static int nagle = 0;
  88 module_param(nagle, int, 0644);
  89 MODULE_PARM_DESC(nagle, "enable NAGLE?");
  90
  91 static int round_robin = 1;
  92 module_param(round_robin, int, 0644);
  93 MODULE_PARM_DESC(round_robin, "Round robin for multiple interfaces");
  94
  95 static int keepalive = 30;
  96 module_param(keepalive, int, 0644);
  97 MODULE_PARM_DESC(keepalive, "# seconds before send keepalive");
  98
  99 static int keepalive_idle = 30;
 100 module_param(keepalive_idle, int, 0644);
 101 MODULE_PARM_DESC(keepalive_idle, "# idle seconds before probe");
 102
 103 #define DEFAULT_KEEPALIVE_COUNT  5
 104 static int keepalive_count = DEFAULT_KEEPALIVE_COUNT;
 105 module_param(keepalive_count, int, 0644);
 106 MODULE_PARM_DESC(keepalive_count, "# missed probes == dead");
 107
 108 static int keepalive_intvl = 5;
 109 module_param(keepalive_intvl, int, 0644);
 110 MODULE_PARM_DESC(keepalive_intvl, "seconds between probes");
 111
 112 static int enable_csum = 0;
 113 module_param(enable_csum, int, 0644);
 114 MODULE_PARM_DESC(enable_csum, "enable check sum");
 115
 116 static int inject_csum_error = 0;
 117 module_param(inject_csum_error, int, 0644);
 118 MODULE_PARM_DESC(inject_csum_error, "set non-zero to inject a checksum error");
 119
 120 #ifdef CPU_AFFINITY
 121 static int enable_irq_affinity = 0;
 122 module_param(enable_irq_affinity, int, 0644);
 123 MODULE_PARM_DESC(enable_irq_affinity, "enable IRQ affinity");
 124 #endif
 125
 126 static int nonblk_zcack = 1;
 127 module_param(nonblk_zcack, int, 0644);
 128 MODULE_PARM_DESC(nonblk_zcack, "always send ZC-ACK on non-blocking connection");
 129
 130 static unsigned int zc_min_payload = (16 << 10);
 131 module_param(zc_min_payload, int, 0644);
 132 MODULE_PARM_DESC(zc_min_payload, "minimum payload size to zero copy");
 133
 134 static unsigned int zc_recv = 0;
 135 module_param(zc_recv, int, 0644);
 136 MODULE_PARM_DESC(zc_recv, "enable ZC recv for Chelsio driver");
 137
 138 static unsigned int zc_recv_min_nfrags = 16;
 139 module_param(zc_recv_min_nfrags, int, 0644);
 140 MODULE_PARM_DESC(zc_recv_min_nfrags, "minimum # of fragments to enable ZC recv");
 141
 142 #ifdef SOCKNAL_BACKOFF
 143 static int backoff_init = 3;
 144 module_param(backoff_init, int, 0644);
 145 MODULE_PARM_DESC(backoff_init, "seconds for initial tcp backoff");
 146
 147 static int backoff_max = 3;
 148 module_param(backoff_max, int, 0644);
 149 MODULE_PARM_DESC(backoff_max, "seconds for maximum tcp backoff");
 150 #endif
 151
 152 #if SOCKNAL_VERSION_DEBUG
 153 static int protocol = 3;
 154 module_param(protocol, int, 0644);
 155 MODULE_PARM_DESC(protocol, "protocol version");
 156 #endif
 157
 158 struct ksock_tunables ksocknal_tunables;
 159
 160 int ksocknal_tunables_init(void)
 161 {
 162
 163         /* initialize ksocknal_tunables structure */
 164         ksocknal_tunables.ksnd_timeout            = &sock_timeout;
 165         ksocknal_tunables.ksnd_nscheds            = &nscheds;
 166         ksocknal_tunables.ksnd_nconnds            = &nconnds;
 167         ksocknal_tunables.ksnd_nconnds_max        = &nconnds_max;
 168         ksocknal_tunables.ksnd_min_reconnectms    = &min_reconnectms;
 169         ksocknal_tunables.ksnd_max_reconnectms    = &max_reconnectms;
 170         ksocknal_tunables.ksnd_eager_ack          = &eager_ack;
 171         ksocknal_tunables.ksnd_typed_conns        = &typed_conns;
 172         ksocknal_tunables.ksnd_min_bulk           = &min_bulk;
 173         ksocknal_tunables.ksnd_tx_buffer_size     = &tx_buffer_size;
 174         ksocknal_tunables.ksnd_rx_buffer_size     = &rx_buffer_size;
 175         ksocknal_tunables.ksnd_nagle              = &nagle;
 176         ksocknal_tunables.ksnd_round_robin        = &round_robin;
 177         ksocknal_tunables.ksnd_keepalive          = &keepalive;
 178         ksocknal_tunables.ksnd_keepalive_idle     = &keepalive_idle;
 179         ksocknal_tunables.ksnd_keepalive_count    = &keepalive_count;
 180         ksocknal_tunables.ksnd_keepalive_intvl    = &keepalive_intvl;
 181         ksocknal_tunables.ksnd_credits            = &credits;
 182         ksocknal_tunables.ksnd_peertxcredits      = &peer_credits;
 183         ksocknal_tunables.ksnd_peerrtrcredits     = &peer_buffer_credits;
 184         ksocknal_tunables.ksnd_peertimeout        = &peer_timeout;
 185         ksocknal_tunables.ksnd_enable_csum        = &enable_csum;
 186         ksocknal_tunables.ksnd_inject_csum_error  = &inject_csum_error;
 187         ksocknal_tunables.ksnd_nonblk_zcack       = &nonblk_zcack;
 188         ksocknal_tunables.ksnd_zc_min_payload     = &zc_min_payload;
 189         ksocknal_tunables.ksnd_zc_recv            = &zc_recv;
 190         ksocknal_tunables.ksnd_zc_recv_min_nfrags = &zc_recv_min_nfrags;
 191
 192 #ifdef CPU_AFFINITY
 193         if (enable_irq_affinity) {
 194                 CWARN("irq_affinity is removed from socklnd because modern "
 195                       "computer always has fast CPUs and more cores than "
 196                       "# NICs, although you still can set irq_affinity by "
 197                       "another way, please check manual for details.\n");
 198         }
 199         ksocknal_tunables.ksnd_irq_affinity       = &enable_irq_affinity;
 200 #endif
 201
 202 #ifdef SOCKNAL_BACKOFF
 203         ksocknal_tunables.ksnd_backoff_init       = &backoff_init;
 204         ksocknal_tunables.ksnd_backoff_max        = &backoff_max;
 205 #endif
 206
 207 #if SOCKNAL_VERSION_DEBUG
 208         ksocknal_tunables.ksnd_protocol           = &protocol;
 209 #endif
 210
 211         if (*ksocknal_tunables.ksnd_zc_min_payload < (2 << 10))
 212                 *ksocknal_tunables.ksnd_zc_min_payload = (2 << 10);
 213
 214         return 0;
 215 };