lnet/selftest/timer.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
  19  *
  20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
  21  * CA 95054 USA or visit www.sun.com if you need additional information or
  22  * have any questions.
  23  *
  24  * GPL HEADER END
  25  */
  26 /*
  27  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
  28  * Use is subject to license terms.
  29  *
  30  * Copyright (c) 2011, 2012, Intel Corporation.
  31  */
  32 /*
  33  * This file is part of Lustre, http://www.lustre.org/
  34  * Lustre is a trademark of Sun Microsystems, Inc.
  35  *
  36  * lnet/selftest/timer.c
  37  *
  38  * Author: Isaac Huang <isaac@clusterfs.com>
  39  */
  40
  41 #define DEBUG_SUBSYSTEM S_LNET
  42
  43 #include "selftest.h"
  44
  45
  46 /*
  47  * Timers are implemented as a sorted queue of expiry times. The queue
  48  * is slotted, with each slot holding timers which expire in a
  49  * 2**STTIMER_MINPOLL (8) second period. The timers in each slot are
  50  * sorted by increasing expiry time. The number of slots is 2**7 (128),
  51  * to cover a time period of 1024 seconds into the future before wrapping.
  52  */
  53 #define STTIMER_MINPOLL        3   /* log2 min poll interval (8 s) */
  54 #define STTIMER_SLOTTIME       (1 << STTIMER_MINPOLL)
  55 #define STTIMER_SLOTTIMEMASK   (~(STTIMER_SLOTTIME - 1))
  56 #define STTIMER_NSLOTS         (1 << 7)
  57 #define STTIMER_SLOT(t)        (&stt_data.stt_hash[(((t) >> STTIMER_MINPOLL) & \
  58                                                     (STTIMER_NSLOTS - 1))])
  59
  60 struct st_timer_data {
  61         spinlock_t       stt_lock;
  62         /* start time of the slot processed previously */
  63         cfs_time_t       stt_prev_slot;
  64         cfs_list_t       stt_hash[STTIMER_NSLOTS];
  65         int              stt_shuttingdown;
  66 #ifdef __KERNEL__
  67         cfs_waitq_t      stt_waitq;
  68         int              stt_nthreads;
  69 #endif
  70 } stt_data;
  71
  72 void
  73 stt_add_timer(stt_timer_t *timer)
  74 {
  75         cfs_list_t *pos;
  76
  77         spin_lock(&stt_data.stt_lock);
  78
  79 #ifdef __KERNEL__
  80         LASSERT (stt_data.stt_nthreads > 0);
  81 #endif
  82         LASSERT (!stt_data.stt_shuttingdown);
  83         LASSERT (timer->stt_func != NULL);
  84         LASSERT (cfs_list_empty(&timer->stt_list));
  85         LASSERT (cfs_time_after(timer->stt_expires, cfs_time_current_sec()));
  86
  87         /* a simple insertion sort */
  88         cfs_list_for_each_prev (pos, STTIMER_SLOT(timer->stt_expires)) {
  89                 stt_timer_t *old = cfs_list_entry(pos, stt_timer_t, stt_list);
  90
  91                 if (cfs_time_aftereq(timer->stt_expires, old->stt_expires))
  92                         break;
  93         }
  94         cfs_list_add(&timer->stt_list, pos);
  95
  96         spin_unlock(&stt_data.stt_lock);
  97 }
  98
  99 /*
 100  * The function returns whether it has deactivated a pending timer or not.
 101  * (ie. del_timer() of an inactive timer returns 0, del_timer() of an
 102  * active timer returns 1.)
 103  *
 104  * CAVEAT EMPTOR:
 105  * When 0 is returned, it is possible that timer->stt_func _is_ running on
 106  * another CPU.
 107  */
 108 int
 109 stt_del_timer (stt_timer_t *timer)
 110 {
 111         int ret = 0;
 112
 113         spin_lock(&stt_data.stt_lock);
 114
 115 #ifdef __KERNEL__
 116         LASSERT (stt_data.stt_nthreads > 0);
 117 #endif
 118         LASSERT (!stt_data.stt_shuttingdown);
 119
 120         if (!cfs_list_empty(&timer->stt_list)) {
 121                 ret = 1;
 122                 cfs_list_del_init(&timer->stt_list);
 123         }
 124
 125         spin_unlock(&stt_data.stt_lock);
 126         return ret;
 127 }
 128
 129 /* called with stt_data.stt_lock held */
 130 int
 131 stt_expire_list (cfs_list_t *slot, cfs_time_t now)
 132 {
 133         int          expired = 0;
 134         stt_timer_t *timer;
 135
 136         while (!cfs_list_empty(slot)) {
 137                 timer = cfs_list_entry(slot->next, stt_timer_t, stt_list);
 138
 139                 if (cfs_time_after(timer->stt_expires, now))
 140                         break;
 141
 142                 cfs_list_del_init(&timer->stt_list);
 143                 spin_unlock(&stt_data.stt_lock);
 144
 145                 expired++;
 146                 (*timer->stt_func) (timer->stt_data);
 147
 148                 spin_lock(&stt_data.stt_lock);
 149         }
 150
 151         return expired;
 152 }
 153
 154 int
 155 stt_check_timers (cfs_time_t *last)
 156 {
 157         int        expired = 0;
 158         cfs_time_t now;
 159         cfs_time_t this_slot;
 160
 161         now = cfs_time_current_sec();
 162         this_slot = now & STTIMER_SLOTTIMEMASK;
 163
 164         spin_lock(&stt_data.stt_lock);
 165
 166         while (cfs_time_aftereq(this_slot, *last)) {
 167                 expired += stt_expire_list(STTIMER_SLOT(this_slot), now);
 168                 this_slot = cfs_time_sub(this_slot, STTIMER_SLOTTIME);
 169         }
 170
 171         *last = now & STTIMER_SLOTTIMEMASK;
 172         spin_unlock(&stt_data.stt_lock);
 173         return expired;
 174 }
 175
 176 #ifdef __KERNEL__
 177
 178 int
 179 stt_timer_main (void *arg)
 180 {
 181         int rc = 0;
 182         UNUSED(arg);
 183
 184         SET_BUT_UNUSED(rc);
 185
 186         cfs_block_allsigs();
 187
 188         while (!stt_data.stt_shuttingdown) {
 189                 stt_check_timers(&stt_data.stt_prev_slot);
 190
 191                 cfs_waitq_wait_event_timeout(stt_data.stt_waitq,
 192                                    stt_data.stt_shuttingdown,
 193                                    cfs_time_seconds(STTIMER_SLOTTIME),
 194                                    rc);
 195         }
 196
 197         spin_lock(&stt_data.stt_lock);
 198         stt_data.stt_nthreads--;
 199         spin_unlock(&stt_data.stt_lock);
 200         return 0;
 201 }
 202
 203 int
 204 stt_start_timer_thread (void)
 205 {
 206         cfs_task_t *task;
 207
 208         LASSERT(!stt_data.stt_shuttingdown);
 209
 210         task = kthread_run(stt_timer_main, NULL, "st_timer");
 211         if (IS_ERR(task))
 212                 return PTR_ERR(task);
 213
 214         spin_lock(&stt_data.stt_lock);
 215         stt_data.stt_nthreads++;
 216         spin_unlock(&stt_data.stt_lock);
 217         return 0;
 218 }
 219
 220 #else /* !__KERNEL__ */
 221
 222 int
 223 stt_check_events (void)
 224 {
 225         return stt_check_timers(&stt_data.stt_prev_slot);
 226 }
 227
 228 int
 229 stt_poll_interval (void)
 230 {
 231         return STTIMER_SLOTTIME;
 232 }
 233
 234 #endif
 235
 236 int
 237 stt_startup (void)
 238 {
 239         int rc = 0;
 240         int i;
 241
 242         stt_data.stt_shuttingdown = 0;
 243         stt_data.stt_prev_slot = cfs_time_current_sec() & STTIMER_SLOTTIMEMASK;
 244
 245         spin_lock_init(&stt_data.stt_lock);
 246         for (i = 0; i < STTIMER_NSLOTS; i++)
 247                 CFS_INIT_LIST_HEAD(&stt_data.stt_hash[i]);
 248
 249 #ifdef __KERNEL__
 250         stt_data.stt_nthreads = 0;
 251         cfs_waitq_init(&stt_data.stt_waitq);
 252         rc = stt_start_timer_thread();
 253         if (rc != 0)
 254                 CERROR ("Can't spawn timer thread: %d\n", rc);
 255 #endif
 256
 257         return rc;
 258 }
 259
 260 void
 261 stt_shutdown (void)
 262 {
 263         int i;
 264
 265         spin_lock(&stt_data.stt_lock);
 266
 267         for (i = 0; i < STTIMER_NSLOTS; i++)
 268                 LASSERT (cfs_list_empty(&stt_data.stt_hash[i]));
 269
 270         stt_data.stt_shuttingdown = 1;
 271
 272 #ifdef __KERNEL__
 273         cfs_waitq_signal(&stt_data.stt_waitq);
 274         lst_wait_until(stt_data.stt_nthreads == 0, stt_data.stt_lock,
 275                        "waiting for %d threads to terminate\n",
 276                        stt_data.stt_nthreads);
 277 #endif
 278
 279         spin_unlock(&stt_data.stt_lock);
 280 }