lnet/lnet/lib-msg.c

   1 /* -*- mode: c; c-basic-offset: 8; indent-tabs-mode: nil; -*-
   2  * vim:expandtab:shiftwidth=8:tabstop=8:
   3  *
   4  * lib/lib-msg.c
   5  * Message decoding, parsing and finalizing routines
   6  *
   7  *  Copyright (c) 2001-2003 Cluster File Systems, Inc.
   8  *  Copyright (c) 2001-2002 Sandia National Laboratories
   9  *
  10  *   This file is part of Lustre, http://www.sf.net/projects/lustre/
  11  *
  12  *   Lustre is free software; you can redistribute it and/or
  13  *   modify it under the terms of version 2 of the GNU General Public
  14  *   License as published by the Free Software Foundation.
  15  *
  16  *   Lustre is distributed in the hope that it will be useful,
  17  *   but WITHOUT ANY WARRANTY; without even the implied warranty of
  18  *   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  19  *   GNU General Public License for more details.
  20  *
  21  *   You should have received a copy of the GNU General Public License
  22  *   along with Lustre; if not, write to the Free Software
  23  *   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  24  */
  25
  26 #ifndef __KERNEL__
  27 # include <stdio.h>
  28 #else
  29 # define DEBUG_SUBSYSTEM S_PORTALS
  30 # include <linux/kp30.h>
  31 #endif
  32
  33 #include <portals/lib-p30.h>
  34
  35 void
  36 lib_enq_event_locked (nal_cb_t *nal, void *private,
  37                       lib_eq_t *eq, ptl_event_t *ev)
  38 {
  39         ptl_event_t  *eq_slot;
  40         int           rc;
  41
  42         ev->sequence = eq->sequence++; /* Allocate the next queue slot */
  43
  44         /* size must be a power of 2 to handle a wrapped sequence # */
  45         LASSERT (eq->size != 0 &&
  46                  eq->size == LOWEST_BIT_SET (eq->size));
  47         eq_slot = eq->base + (ev->sequence & (eq->size - 1));
  48
  49         /* Copy the event into the allocated slot, ensuring all the rest of
  50          * the event's contents have been copied _before_ the sequence
  51          * number gets updated.  A processes 'getting' an event waits on
  52          * the next queue slot's sequence to be 'new'.  When it is, _all_
  53          * other event fields had better be consistent.  I assert
  54          * 'sequence' is the last member, so I only need a 2 stage copy. */
  55
  56         LASSERT(sizeof (ptl_event_t) ==
  57                 offsetof(ptl_event_t, sequence) + sizeof(ev->sequence));
  58
  59         rc = nal->cb_write (nal, private, (user_ptr)eq_slot, ev,
  60                             offsetof (ptl_event_t, sequence));
  61         LASSERT (rc == PTL_OK);
  62
  63 #ifdef __KERNEL__
  64         barrier();
  65 #endif
  66         /* Updating the sequence number is what makes the event 'new' NB if
  67          * the cb_write below isn't atomic, this could cause a race with
  68          * PtlEQGet */
  69         rc = nal->cb_write(nal, private, (user_ptr)&eq_slot->sequence,
  70                            (void *)&ev->sequence,sizeof (ev->sequence));
  71         LASSERT (rc == PTL_OK);
  72
  73 #ifdef __KERNEL__
  74         barrier();
  75 #endif
  76
  77         if (nal->cb_callback != NULL)
  78                 nal->cb_callback(nal, private, eq, ev);
  79         else if (eq->event_callback != NULL)
  80                 eq->event_callback(ev);
  81 }
  82
  83 void
  84 lib_finalize(nal_cb_t *nal, void *private, lib_msg_t *msg, ptl_err_t status)
  85 {
  86         lib_md_t     *md;
  87         int           unlink;
  88         unsigned long flags;
  89         int           rc;
  90         ptl_hdr_t     ack;
  91
  92         if (msg == NULL)
  93                 return;
  94
  95         /* Only send an ACK if the PUT completed successfully */
  96         if (status == PTL_OK &&
  97             !ptl_is_wire_handle_none(&msg->ack_wmd)) {
  98
  99                 LASSERT(msg->ev.type == PTL_EVENT_PUT_END);
 100
 101                 memset (&ack, 0, sizeof (ack));
 102                 ack.type     = HTON__u32 (PTL_MSG_ACK);
 103                 ack.dest_nid = HTON__u64 (msg->ev.initiator.nid);
 104                 ack.src_nid  = HTON__u64 (nal->ni.nid);
 105                 ack.dest_pid = HTON__u32 (msg->ev.initiator.pid);
 106                 ack.src_pid  = HTON__u32 (nal->ni.pid);
 107                 ack.payload_length = 0;
 108
 109                 ack.msg.ack.dst_wmd = msg->ack_wmd;
 110                 ack.msg.ack.match_bits = msg->ev.match_bits;
 111                 ack.msg.ack.mlength = HTON__u32 (msg->ev.mlength);
 112
 113                 rc = lib_send (nal, private, NULL, &ack, PTL_MSG_ACK,
 114                                msg->ev.initiator.nid, msg->ev.initiator.pid,
 115                                NULL, 0, 0);
 116                 if (rc != PTL_OK) {
 117                         /* send failed: there's nothing else to clean up. */
 118                         CERROR("Error %d sending ACK to "LPX64"\n",
 119                                rc, msg->ev.initiator.nid);
 120                 }
 121         }
 122
 123         md = msg->md;
 124
 125         state_lock(nal, &flags);
 126
 127         /* Now it's safe to drop my caller's ref */
 128         md->pending--;
 129         LASSERT (md->pending >= 0);
 130
 131         /* Should I unlink this MD? */
 132         if (md->pending != 0)                   /* other refs */
 133                 unlink = 0;
 134         else if ((md->md_flags & PTL_MD_FLAG_ZOMBIE) != 0)
 135                 unlink = 1;
 136         else if ((md->md_flags & PTL_MD_FLAG_AUTO_UNLINK) == 0)
 137                 unlink = 0;
 138         else
 139                 unlink = lib_md_exhausted(md);
 140
 141         msg->ev.ni_fail_type = status;
 142         msg->ev.unlinked = unlink;
 143
 144         if (md->eq != NULL)
 145                 lib_enq_event_locked(nal, private, md->eq, &msg->ev);
 146
 147         if (unlink)
 148                 lib_md_unlink(nal, md);
 149
 150         list_del (&msg->msg_list);
 151         nal->ni.counters.msgs_alloc--;
 152         lib_msg_free(nal, msg);
 153
 154         state_unlock(nal, &flags);
 155 }