Whamcloud - gitweb
LU-3289 gss: Interface and code changes for shared key
[fs/lustre-release.git] / lustre / ptlrpc / gss / gss_svc_upcall.c
1 /*
2  * Modifications for Lustre
3  *
4  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
5  *
6  * Copyright (c) 2012, 2014, Intel Corporation.
7  *
8  * Author: Eric Mei <ericm@clusterfs.com>
9  */
10
11 /*
12  * Neil Brown <neilb@cse.unsw.edu.au>
13  * J. Bruce Fields <bfields@umich.edu>
14  * Andy Adamson <andros@umich.edu>
15  * Dug Song <dugsong@monkey.org>
16  *
17  * RPCSEC_GSS server authentication.
18  * This implements RPCSEC_GSS as defined in rfc2203 (rpcsec_gss) and rfc2078
19  * (gssapi)
20  *
21  * The RPCSEC_GSS involves three stages:
22  *  1/ context creation
23  *  2/ data exchange
24  *  3/ context destruction
25  *
26  * Context creation is handled largely by upcalls to user-space.
27  *  In particular, GSS_Accept_sec_context is handled by an upcall
28  * Data exchange is handled entirely within the kernel
29  *  In particular, GSS_GetMIC, GSS_VerifyMIC, GSS_Seal, GSS_Unseal are in-kernel.
30  * Context destruction is handled in-kernel
31  *  GSS_Delete_sec_context is in-kernel
32  *
33  * Context creation is initiated by a RPCSEC_GSS_INIT request arriving.
34  * The context handle and gss_token are used as a key into the rpcsec_init cache.
35  * The content of this cache includes some of the outputs of GSS_Accept_sec_context,
36  * being major_status, minor_status, context_handle, reply_token.
37  * These are sent back to the client.
38  * Sequence window management is handled by the kernel.  The window size if currently
39  * a compile time constant.
40  *
41  * When user-space is happy that a context is established, it places an entry
42  * in the rpcsec_context cache. The key for this cache is the context_handle.
43  * The content includes:
44  *   uid/gidlist - for determining access rights
45  *   mechanism type
46  *   mechanism specific information, such as a key
47  *
48  */
49
50 #define DEBUG_SUBSYSTEM S_SEC
51 #include <linux/types.h>
52 #include <linux/init.h>
53 #include <linux/module.h>
54 #include <linux/slab.h>
55 #include <linux/hash.h>
56 #include <linux/mutex.h>
57 #include <linux/sunrpc/cache.h>
58 #include <net/sock.h>
59
60 #include <obd.h>
61 #include <obd_class.h>
62 #include <obd_support.h>
63 #include <lustre/lustre_idl.h>
64 #include <lustre_import.h>
65 #include <lustre_net.h>
66 #include <lustre_nodemap.h>
67 #include <lustre_sec.h>
68
69 #include "gss_err.h"
70 #include "gss_internal.h"
71 #include "gss_api.h"
72
73 #define GSS_SVC_UPCALL_TIMEOUT  (20)
74
75 static spinlock_t __ctx_index_lock;
76 static __u64 __ctx_index;
77
78 __u64 gss_get_next_ctx_index(void)
79 {
80         __u64 idx;
81
82         spin_lock(&__ctx_index_lock);
83         idx = __ctx_index++;
84         spin_unlock(&__ctx_index_lock);
85
86         return idx;
87 }
88
89 static inline unsigned long hash_mem(char *buf, int length, int bits)
90 {
91         unsigned long hash = 0;
92         unsigned long l = 0;
93         int len = 0;
94         unsigned char c;
95
96         do {
97                 if (len == length) {
98                         c = (char) len;
99                         len = -1;
100                 } else
101                         c = *buf++;
102
103                 l = (l << 8) | c;
104                 len++;
105
106                 if ((len & (BITS_PER_LONG/8-1)) == 0)
107                         hash = hash_long(hash^l, BITS_PER_LONG);
108         } while (len);
109
110         return hash >> (BITS_PER_LONG - bits);
111 }
112
113 /* This compatibility can be removed once kernel 3.3 is used,
114  * since cache_register_net/cache_unregister_net are exported.
115  * Note that since kernel 3.4 cache_register and cache_unregister
116  * are removed.
117 */
118 static inline int _cache_register_net(struct cache_detail *cd, struct net *net)
119 {
120 #ifdef HAVE_CACHE_REGISTER
121         return cache_register(cd);
122 #else
123         return cache_register_net(cd, net);
124 #endif
125 }
126 static inline void _cache_unregister_net(struct cache_detail *cd,
127                                          struct net *net)
128 {
129 #ifdef HAVE_CACHE_REGISTER
130         cache_unregister(cd);
131 #else
132         cache_unregister_net(cd, net);
133 #endif
134 }
135 /****************************************
136  * rpc sec init (rsi) cache *
137  ****************************************/
138
139 #define RSI_HASHBITS    (6)
140 #define RSI_HASHMAX     (1 << RSI_HASHBITS)
141 #define RSI_HASHMASK    (RSI_HASHMAX - 1)
142
143 struct rsi {
144         struct cache_head       h;
145         __u32                   lustre_svc;
146         __u64                   nid;
147         char                    nm_name[LUSTRE_NODEMAP_NAME_LENGTH + 1];
148         wait_queue_head_t       waitq;
149         rawobj_t                in_handle, in_token;
150         rawobj_t                out_handle, out_token;
151         int                     major_status, minor_status;
152 };
153
154 #ifdef HAVE_CACHE_HEAD_HLIST
155 static struct hlist_head rsi_table[RSI_HASHMAX];
156 #else
157 static struct cache_head *rsi_table[RSI_HASHMAX];
158 #endif
159 static struct cache_detail rsi_cache;
160 static struct rsi *rsi_update(struct rsi *new, struct rsi *old);
161 static struct rsi *rsi_lookup(struct rsi *item);
162
163 static inline int rsi_hash(struct rsi *item)
164 {
165         return hash_mem((char *)item->in_handle.data, item->in_handle.len,
166                         RSI_HASHBITS) ^
167                hash_mem((char *)item->in_token.data, item->in_token.len,
168                         RSI_HASHBITS);
169 }
170
171 static inline int __rsi_match(struct rsi *item, struct rsi *tmp)
172 {
173         return (rawobj_equal(&item->in_handle, &tmp->in_handle) &&
174                 rawobj_equal(&item->in_token, &tmp->in_token));
175 }
176
177 static void rsi_free(struct rsi *rsi)
178 {
179         rawobj_free(&rsi->in_handle);
180         rawobj_free(&rsi->in_token);
181         rawobj_free(&rsi->out_handle);
182         rawobj_free(&rsi->out_token);
183 }
184
185 /* See handle_req() userspace for where the upcall data is read */
186 static void rsi_request(struct cache_detail *cd,
187                         struct cache_head *h,
188                         char **bpp, int *blen)
189 {
190         struct rsi *rsi = container_of(h, struct rsi, h);
191         __u64 index = 0;
192
193         /* if in_handle is null, provide kernel suggestion */
194         if (rsi->in_handle.len == 0)
195                 index = gss_get_next_ctx_index();
196
197         qword_addhex(bpp, blen, (char *) &rsi->lustre_svc,
198                         sizeof(rsi->lustre_svc));
199         qword_addhex(bpp, blen, (char *) &rsi->nid, sizeof(rsi->nid));
200         qword_addhex(bpp, blen, (char *) &index, sizeof(index));
201         qword_addhex(bpp, blen, (char *) rsi->nm_name,
202                      strlen(rsi->nm_name) + 1);
203         qword_addhex(bpp, blen, rsi->in_handle.data, rsi->in_handle.len);
204         qword_addhex(bpp, blen, rsi->in_token.data, rsi->in_token.len);
205         (*bpp)[-1] = '\n';
206 }
207
208 #ifdef HAVE_SUNRPC_UPCALL_HAS_3ARGS
209 static int rsi_upcall(struct cache_detail *cd, struct cache_head *h)
210 {
211         return sunrpc_cache_pipe_upcall(cd, h, rsi_request);
212 }
213 #else
214
215 static int rsi_upcall(struct cache_detail *cd, struct cache_head *h)
216 {
217         return sunrpc_cache_pipe_upcall(cd, h);
218 }
219 #endif
220
221 static inline void __rsi_init(struct rsi *new, struct rsi *item)
222 {
223         new->out_handle = RAWOBJ_EMPTY;
224         new->out_token = RAWOBJ_EMPTY;
225
226         new->in_handle = item->in_handle;
227         item->in_handle = RAWOBJ_EMPTY;
228         new->in_token = item->in_token;
229         item->in_token = RAWOBJ_EMPTY;
230
231         new->lustre_svc = item->lustre_svc;
232         new->nid = item->nid;
233         memcpy(new->nm_name, item->nm_name, sizeof(item->nm_name));
234         init_waitqueue_head(&new->waitq);
235 }
236
237 static inline void __rsi_update(struct rsi *new, struct rsi *item)
238 {
239         LASSERT(new->out_handle.len == 0);
240         LASSERT(new->out_token.len == 0);
241
242         new->out_handle = item->out_handle;
243         item->out_handle = RAWOBJ_EMPTY;
244         new->out_token = item->out_token;
245         item->out_token = RAWOBJ_EMPTY;
246
247         new->major_status = item->major_status;
248         new->minor_status = item->minor_status;
249 }
250
251 static void rsi_put(struct kref *ref)
252 {
253         struct rsi *rsi = container_of(ref, struct rsi, h.ref);
254
255 #ifdef HAVE_CACHE_HEAD_HLIST
256         LASSERT(rsi->h.cache_list.next == NULL);
257 #else
258         LASSERT(rsi->h.next == NULL);
259 #endif
260         rsi_free(rsi);
261         OBD_FREE_PTR(rsi);
262 }
263
264 static int rsi_match(struct cache_head *a, struct cache_head *b)
265 {
266         struct rsi *item = container_of(a, struct rsi, h);
267         struct rsi *tmp = container_of(b, struct rsi, h);
268
269         return __rsi_match(item, tmp);
270 }
271
272 static void rsi_init(struct cache_head *cnew, struct cache_head *citem)
273 {
274         struct rsi *new = container_of(cnew, struct rsi, h);
275         struct rsi *item = container_of(citem, struct rsi, h);
276
277         __rsi_init(new, item);
278 }
279
280 static void update_rsi(struct cache_head *cnew, struct cache_head *citem)
281 {
282         struct rsi *new = container_of(cnew, struct rsi, h);
283         struct rsi *item = container_of(citem, struct rsi, h);
284
285         __rsi_update(new, item);
286 }
287
288 static struct cache_head *rsi_alloc(void)
289 {
290         struct rsi *rsi;
291
292         OBD_ALLOC_PTR(rsi);
293         if (rsi) 
294                 return &rsi->h;
295         else
296                 return NULL;
297 }
298
299 static int rsi_parse(struct cache_detail *cd, char *mesg, int mlen)
300 {
301         char           *buf = mesg;
302         char           *ep;
303         int             len;
304         struct rsi      rsii, *rsip = NULL;
305         time_t          expiry;
306         int             status = -EINVAL;
307         ENTRY;
308
309
310         memset(&rsii, 0, sizeof(rsii));
311
312         /* handle */
313         len = qword_get(&mesg, buf, mlen);
314         if (len < 0)
315                 goto out;
316         if (rawobj_alloc(&rsii.in_handle, buf, len)) {
317                 status = -ENOMEM;
318                 goto out;
319         }
320
321         /* token */
322         len = qword_get(&mesg, buf, mlen);
323         if (len < 0)
324                 goto out;
325         if (rawobj_alloc(&rsii.in_token, buf, len)) {
326                 status = -ENOMEM;
327                 goto out;
328         }
329
330         rsip = rsi_lookup(&rsii);
331         if (!rsip)
332                 goto out;
333
334         rsii.h.flags = 0;
335         /* expiry */
336         expiry = get_expiry(&mesg);
337         if (expiry == 0)
338                 goto out;
339
340         len = qword_get(&mesg, buf, mlen);
341         if (len <= 0)
342                 goto out;
343
344         /* major */
345         rsii.major_status = simple_strtol(buf, &ep, 10);
346         if (*ep)
347                 goto out;
348
349         /* minor */
350         len = qword_get(&mesg, buf, mlen);
351         if (len <= 0)
352                 goto out;
353         rsii.minor_status = simple_strtol(buf, &ep, 10);
354         if (*ep)
355                 goto out;
356
357         /* out_handle */
358         len = qword_get(&mesg, buf, mlen);
359         if (len < 0)
360                 goto out;
361         if (rawobj_alloc(&rsii.out_handle, buf, len)) {
362                 status = -ENOMEM;
363                 goto out;
364         }
365
366         /* out_token */
367         len = qword_get(&mesg, buf, mlen);
368         if (len < 0)
369                 goto out;
370         if (rawobj_alloc(&rsii.out_token, buf, len)) {
371                 status = -ENOMEM;
372                 goto out;
373         }
374
375         rsii.h.expiry_time = expiry;
376         rsip = rsi_update(&rsii, rsip);
377         status = 0;
378 out:
379         rsi_free(&rsii);
380         if (rsip) {
381                 wake_up_all(&rsip->waitq);
382                 cache_put(&rsip->h, &rsi_cache);
383         } else {
384                 status = -ENOMEM;
385         }
386
387         if (status)
388                 CERROR("rsi parse error %d\n", status);
389         RETURN(status);
390 }
391
392 static struct cache_detail rsi_cache = {
393         .hash_size      = RSI_HASHMAX,
394         .hash_table     = rsi_table,
395         .name           = "auth.sptlrpc.init",
396         .cache_put      = rsi_put,
397 #ifndef HAVE_SUNRPC_UPCALL_HAS_3ARGS
398         .cache_request  = rsi_request,
399 #endif
400         .cache_upcall   = rsi_upcall,
401         .cache_parse    = rsi_parse,
402         .match          = rsi_match,
403         .init           = rsi_init,
404         .update         = update_rsi,
405         .alloc          = rsi_alloc,
406 };
407
408 static struct rsi *rsi_lookup(struct rsi *item)
409 {
410         struct cache_head *ch;
411         int hash = rsi_hash(item);
412
413         ch = sunrpc_cache_lookup(&rsi_cache, &item->h, hash);
414         if (ch)
415                 return container_of(ch, struct rsi, h);
416         else
417                 return NULL;
418 }
419
420 static struct rsi *rsi_update(struct rsi *new, struct rsi *old)
421 {
422         struct cache_head *ch;
423         int hash = rsi_hash(new);
424
425         ch = sunrpc_cache_update(&rsi_cache, &new->h, &old->h, hash);
426         if (ch)
427                 return container_of(ch, struct rsi, h);
428         else
429                 return NULL;
430 }
431
432 /****************************************
433  * rpc sec context (rsc) cache                            *
434  ****************************************/
435
436 #define RSC_HASHBITS    (10)
437 #define RSC_HASHMAX     (1 << RSC_HASHBITS)
438 #define RSC_HASHMASK    (RSC_HASHMAX - 1)
439
440 struct rsc {
441         struct cache_head       h;
442         struct obd_device      *target;
443         rawobj_t                handle;
444         struct gss_svc_ctx      ctx;
445 };
446
447 #ifdef HAVE_CACHE_HEAD_HLIST
448 static struct hlist_head rsc_table[RSC_HASHMAX];
449 #else
450 static struct cache_head *rsc_table[RSC_HASHMAX];
451 #endif
452 static struct cache_detail rsc_cache;
453 static struct rsc *rsc_update(struct rsc *new, struct rsc *old);
454 static struct rsc *rsc_lookup(struct rsc *item);
455
456 static void rsc_free(struct rsc *rsci)
457 {
458         rawobj_free(&rsci->handle);
459         rawobj_free(&rsci->ctx.gsc_rvs_hdl);
460         lgss_delete_sec_context(&rsci->ctx.gsc_mechctx);
461 }
462
463 static inline int rsc_hash(struct rsc *rsci)
464 {
465         return hash_mem((char *)rsci->handle.data,
466                         rsci->handle.len, RSC_HASHBITS);
467 }
468
469 static inline int __rsc_match(struct rsc *new, struct rsc *tmp)
470 {
471         return rawobj_equal(&new->handle, &tmp->handle);
472 }
473
474 static inline void __rsc_init(struct rsc *new, struct rsc *tmp)
475 {
476         new->handle = tmp->handle;
477         tmp->handle = RAWOBJ_EMPTY;
478
479         new->target = NULL;
480         memset(&new->ctx, 0, sizeof(new->ctx));
481         new->ctx.gsc_rvs_hdl = RAWOBJ_EMPTY;
482 }
483
484 static inline void __rsc_update(struct rsc *new, struct rsc *tmp)
485 {
486         new->ctx = tmp->ctx;
487         tmp->ctx.gsc_rvs_hdl = RAWOBJ_EMPTY;
488         tmp->ctx.gsc_mechctx = NULL;
489
490         memset(&new->ctx.gsc_seqdata, 0, sizeof(new->ctx.gsc_seqdata));
491         spin_lock_init(&new->ctx.gsc_seqdata.ssd_lock);
492 }
493
494 static void rsc_put(struct kref *ref)
495 {
496         struct rsc *rsci = container_of(ref, struct rsc, h.ref);
497
498 #ifdef HAVE_CACHE_HEAD_HLIST
499         LASSERT(rsci->h.cache_list.next == NULL);
500 #else
501         LASSERT(rsci->h.next == NULL);
502 #endif
503         rsc_free(rsci);
504         OBD_FREE_PTR(rsci);
505 }
506
507 static int rsc_match(struct cache_head *a, struct cache_head *b)
508 {
509         struct rsc *new = container_of(a, struct rsc, h);
510         struct rsc *tmp = container_of(b, struct rsc, h);
511
512         return __rsc_match(new, tmp);
513 }
514
515 static void rsc_init(struct cache_head *cnew, struct cache_head *ctmp)
516 {
517         struct rsc *new = container_of(cnew, struct rsc, h);
518         struct rsc *tmp = container_of(ctmp, struct rsc, h);
519
520         __rsc_init(new, tmp);
521 }
522
523 static void update_rsc(struct cache_head *cnew, struct cache_head *ctmp)
524 {
525         struct rsc *new = container_of(cnew, struct rsc, h);
526         struct rsc *tmp = container_of(ctmp, struct rsc, h);
527
528         __rsc_update(new, tmp);
529 }
530
531 static struct cache_head * rsc_alloc(void)
532 {
533         struct rsc *rsc;
534
535         OBD_ALLOC_PTR(rsc);
536         if (rsc)
537                 return &rsc->h;
538         else
539                 return NULL;
540 }
541
542 static int rsc_parse(struct cache_detail *cd, char *mesg, int mlen)
543 {
544         char                *buf = mesg;
545         int                  len, rv, tmp_int;
546         struct rsc           rsci, *rscp = NULL;
547         time_t               expiry;
548         int                  status = -EINVAL;
549         struct gss_api_mech *gm = NULL;
550
551         memset(&rsci, 0, sizeof(rsci));
552
553         /* context handle */
554         len = qword_get(&mesg, buf, mlen);
555         if (len < 0) goto out;
556         status = -ENOMEM;
557         if (rawobj_alloc(&rsci.handle, buf, len))
558                 goto out;
559
560         rsci.h.flags = 0;
561         /* expiry */
562         expiry = get_expiry(&mesg);
563         status = -EINVAL;
564         if (expiry == 0)
565                 goto out;
566
567         /* remote flag */
568         rv = get_int(&mesg, &tmp_int);
569         if (rv) {
570                 CERROR("fail to get remote flag\n");
571                 goto out;
572         }
573         rsci.ctx.gsc_remote = (tmp_int != 0);
574
575         /* root user flag */
576         rv = get_int(&mesg, &tmp_int);
577         if (rv) {
578                 CERROR("fail to get root user flag\n");
579                 goto out;
580         }
581         rsci.ctx.gsc_usr_root = (tmp_int != 0);
582
583         /* mds user flag */
584         rv = get_int(&mesg, &tmp_int);
585         if (rv) {
586                 CERROR("fail to get mds user flag\n");
587                 goto out;
588         }
589         rsci.ctx.gsc_usr_mds = (tmp_int != 0);
590
591         /* oss user flag */
592         rv = get_int(&mesg, &tmp_int);
593         if (rv) {
594                 CERROR("fail to get oss user flag\n");
595                 goto out;
596         }
597         rsci.ctx.gsc_usr_oss = (tmp_int != 0);
598
599         /* mapped uid */
600         rv = get_int(&mesg, (int *) &rsci.ctx.gsc_mapped_uid);
601         if (rv) {
602                 CERROR("fail to get mapped uid\n");
603                 goto out;
604         }
605
606         rscp = rsc_lookup(&rsci);
607         if (!rscp)
608                 goto out;
609
610         /* uid, or NEGATIVE */
611         rv = get_int(&mesg, (int *) &rsci.ctx.gsc_uid);
612         if (rv == -EINVAL)
613                 goto out;
614         if (rv == -ENOENT) {
615                 CERROR("NOENT? set rsc entry negative\n");
616                 set_bit(CACHE_NEGATIVE, &rsci.h.flags);
617         } else {
618                 rawobj_t tmp_buf;
619                 unsigned long ctx_expiry;
620
621                 /* gid */
622                 if (get_int(&mesg, (int *) &rsci.ctx.gsc_gid))
623                         goto out;
624
625                 /* mech name */
626                 len = qword_get(&mesg, buf, mlen);
627                 if (len < 0)
628                         goto out;
629                 gm = lgss_name_to_mech(buf);
630                 status = -EOPNOTSUPP;
631                 if (!gm)
632                         goto out;
633
634                 status = -EINVAL;
635                 /* mech-specific data: */
636                 len = qword_get(&mesg, buf, mlen);
637                 if (len < 0)
638                         goto out;
639
640                 tmp_buf.len = len;
641                 tmp_buf.data = (unsigned char *)buf;
642                 if (lgss_import_sec_context(&tmp_buf, gm,
643                                             &rsci.ctx.gsc_mechctx))
644                         goto out;
645
646                 /* currently the expiry time passed down from user-space
647                  * is invalid, here we retrive it from mech. */
648                 if (lgss_inquire_context(rsci.ctx.gsc_mechctx, &ctx_expiry)) {
649                         CERROR("unable to get expire time, drop it\n");
650                         goto out;
651                 }
652                 expiry = (time_t) ctx_expiry;
653         }
654
655         rsci.h.expiry_time = expiry;
656         rscp = rsc_update(&rsci, rscp);
657         status = 0;
658 out:
659         if (gm)
660                 lgss_mech_put(gm);
661         rsc_free(&rsci);
662         if (rscp)
663                 cache_put(&rscp->h, &rsc_cache);
664         else
665                 status = -ENOMEM;
666
667         if (status)
668                 CERROR("parse rsc error %d\n", status);
669         return status;
670 }
671
672 static struct cache_detail rsc_cache = {
673         .hash_size      = RSC_HASHMAX,
674         .hash_table     = rsc_table,
675         .name           = "auth.sptlrpc.context",
676         .cache_put      = rsc_put,
677         .cache_parse    = rsc_parse,
678         .match          = rsc_match,
679         .init           = rsc_init,
680         .update         = update_rsc,
681         .alloc          = rsc_alloc,
682 };
683
684 static struct rsc *rsc_lookup(struct rsc *item)
685 {
686         struct cache_head *ch;
687         int                hash = rsc_hash(item);
688
689         ch = sunrpc_cache_lookup(&rsc_cache, &item->h, hash);
690         if (ch)
691                 return container_of(ch, struct rsc, h);
692         else
693                 return NULL;
694 }
695
696 static struct rsc *rsc_update(struct rsc *new, struct rsc *old)
697 {
698         struct cache_head *ch;
699         int                hash = rsc_hash(new);
700
701         ch = sunrpc_cache_update(&rsc_cache, &new->h, &old->h, hash);
702         if (ch)
703                 return container_of(ch, struct rsc, h);
704         else
705                 return NULL;
706 }
707
708 #define COMPAT_RSC_PUT(item, cd)        cache_put((item), (cd))
709
710 /****************************************
711  * rsc cache flush                      *
712  ****************************************/
713
714 typedef int rsc_entry_match(struct rsc *rscp, long data);
715
716 static void rsc_flush(rsc_entry_match *match, long data)
717 {
718 #ifdef HAVE_CACHE_HEAD_HLIST
719         struct cache_head *ch = NULL;
720         struct hlist_head *head;
721 #else
722         struct cache_head **ch;
723 #endif
724         struct rsc *rscp;
725         int n;
726         ENTRY;
727
728         write_lock(&rsc_cache.hash_lock);
729         for (n = 0; n < RSC_HASHMAX; n++) {
730 #ifdef HAVE_CACHE_HEAD_HLIST
731                 head = &rsc_cache.hash_table[n];
732                 hlist_for_each_entry(ch, head, cache_list) {
733                         rscp = container_of(ch, struct rsc, h);
734 #else
735                 for (ch = &rsc_cache.hash_table[n]; *ch;) {
736                         rscp = container_of(*ch, struct rsc, h);
737 #endif
738
739                         if (!match(rscp, data)) {
740 #ifndef HAVE_CACHE_HEAD_HLIST
741                                 ch = &((*ch)->next);
742 #endif
743                                 continue;
744                         }
745
746                         /* it seems simply set NEGATIVE doesn't work */
747 #ifdef HAVE_CACHE_HEAD_HLIST
748                         hlist_del_init(&ch->cache_list);
749 #else
750                         *ch = (*ch)->next;
751                         rscp->h.next = NULL;
752 #endif
753                         cache_get(&rscp->h);
754                         set_bit(CACHE_NEGATIVE, &rscp->h.flags);
755                         COMPAT_RSC_PUT(&rscp->h, &rsc_cache);
756                         rsc_cache.entries--;
757                 }
758         }
759         write_unlock(&rsc_cache.hash_lock);
760         EXIT;
761 }
762
763 static int match_uid(struct rsc *rscp, long uid)
764 {
765         if ((int) uid == -1)
766                 return 1;
767         return ((int) rscp->ctx.gsc_uid == (int) uid);
768 }
769
770 static int match_target(struct rsc *rscp, long target)
771 {
772         return (rscp->target == (struct obd_device *) target);
773 }
774
775 static inline void rsc_flush_uid(int uid)
776 {
777         if (uid == -1)
778                 CWARN("flush all gss contexts...\n");
779
780         rsc_flush(match_uid, (long) uid);
781 }
782
783 static inline void rsc_flush_target(struct obd_device *target)
784 {
785         rsc_flush(match_target, (long) target);
786 }
787
788 void gss_secsvc_flush(struct obd_device *target)
789 {
790         rsc_flush_target(target);
791 }
792
793 static struct rsc *gss_svc_searchbyctx(rawobj_t *handle)
794 {
795         struct rsc  rsci;
796         struct rsc *found;
797
798         memset(&rsci, 0, sizeof(rsci));
799         if (rawobj_dup(&rsci.handle, handle))
800                 return NULL;
801
802         found = rsc_lookup(&rsci);
803         rsc_free(&rsci);
804         if (!found)
805                 return NULL;
806         if (cache_check(&rsc_cache, &found->h, NULL))
807                 return NULL;
808         return found;
809 }
810
811 int gss_svc_upcall_install_rvs_ctx(struct obd_import *imp,
812                                    struct gss_sec *gsec,
813                                    struct gss_cli_ctx *gctx)
814 {
815         struct rsc      rsci, *rscp = NULL;
816         unsigned long   ctx_expiry;
817         __u32           major;
818         int             rc;
819         ENTRY;
820
821         memset(&rsci, 0, sizeof(rsci));
822
823         if (rawobj_alloc(&rsci.handle, (char *) &gsec->gs_rvs_hdl,
824                          sizeof(gsec->gs_rvs_hdl)))
825                 GOTO(out, rc = -ENOMEM);
826
827         rscp = rsc_lookup(&rsci);
828         if (rscp == NULL)
829                 GOTO(out, rc = -ENOMEM);
830
831         major = lgss_copy_reverse_context(gctx->gc_mechctx,
832                                           &rsci.ctx.gsc_mechctx);
833         if (major != GSS_S_COMPLETE)
834                 GOTO(out, rc = -ENOMEM);
835
836         if (lgss_inquire_context(rsci.ctx.gsc_mechctx, &ctx_expiry)) {
837                 CERROR("unable to get expire time, drop it\n");
838                 GOTO(out, rc = -EINVAL);
839         }
840         rsci.h.expiry_time = (time_t) ctx_expiry;
841
842         if (strcmp(imp->imp_obd->obd_type->typ_name, LUSTRE_MDC_NAME) == 0)
843                 rsci.ctx.gsc_usr_mds = 1;
844         else if (strcmp(imp->imp_obd->obd_type->typ_name, LUSTRE_OSC_NAME) == 0)
845                 rsci.ctx.gsc_usr_oss = 1;
846         else
847                 rsci.ctx.gsc_usr_root = 1;
848
849         rscp = rsc_update(&rsci, rscp);
850         if (rscp == NULL)
851                 GOTO(out, rc = -ENOMEM);
852
853         rscp->target = imp->imp_obd;
854         rawobj_dup(&gctx->gc_svc_handle, &rscp->handle);
855
856         CWARN("create reverse svc ctx %p to %s: idx "LPX64"\n",
857               &rscp->ctx, obd2cli_tgt(imp->imp_obd), gsec->gs_rvs_hdl);
858         rc = 0;
859 out:
860         if (rscp)
861                 cache_put(&rscp->h, &rsc_cache);
862         rsc_free(&rsci);
863
864         if (rc)
865                 CERROR("create reverse svc ctx: idx "LPX64", rc %d\n",
866                        gsec->gs_rvs_hdl, rc);
867         RETURN(rc);
868 }
869
870 int gss_svc_upcall_expire_rvs_ctx(rawobj_t *handle)
871 {
872         const cfs_time_t        expire = 20;
873         struct rsc             *rscp;
874
875         rscp = gss_svc_searchbyctx(handle);
876         if (rscp) {
877                 CDEBUG(D_SEC, "reverse svcctx %p (rsc %p) expire soon\n",
878                        &rscp->ctx, rscp);
879
880                 rscp->h.expiry_time = cfs_time_current_sec() + expire;
881                 COMPAT_RSC_PUT(&rscp->h, &rsc_cache);
882         }
883         return 0;
884 }
885
886 int gss_svc_upcall_dup_handle(rawobj_t *handle, struct gss_svc_ctx *ctx)
887 {
888         struct rsc *rscp = container_of(ctx, struct rsc, ctx);
889
890         return rawobj_dup(handle, &rscp->handle);
891 }
892
893 int gss_svc_upcall_update_sequence(rawobj_t *handle, __u32 seq)
894 {
895         struct rsc             *rscp;
896
897         rscp = gss_svc_searchbyctx(handle);
898         if (rscp) {
899                 CDEBUG(D_SEC, "reverse svcctx %p (rsc %p) update seq to %u\n",
900                        &rscp->ctx, rscp, seq + 1);
901
902                 rscp->ctx.gsc_rvs_seq = seq + 1;
903                 COMPAT_RSC_PUT(&rscp->h, &rsc_cache);
904         }
905         return 0;
906 }
907
908 static struct cache_deferred_req* cache_upcall_defer(struct cache_req *req)
909 {
910         return NULL;
911 }
912 static struct cache_req cache_upcall_chandle = { cache_upcall_defer };
913
914 int gss_svc_upcall_handle_init(struct ptlrpc_request *req,
915                                struct gss_svc_reqctx *grctx,
916                                struct gss_wire_ctx *gw,
917                                struct obd_device *target,
918                                __u32 lustre_svc,
919                                rawobj_t *rvs_hdl,
920                                rawobj_t *in_token)
921 {
922         struct ptlrpc_reply_state *rs;
923         struct rsc                *rsci = NULL;
924         struct rsi                *rsip = NULL, rsikey;
925         wait_queue_t             wait;
926         int                        replen = sizeof(struct ptlrpc_body);
927         struct gss_rep_header     *rephdr;
928         int                        first_check = 1;
929         int                        rc = SECSVC_DROP;
930         ENTRY;
931
932         memset(&rsikey, 0, sizeof(rsikey));
933         rsikey.lustre_svc = lustre_svc;
934         rsikey.nid = (__u64) req->rq_peer.nid;
935         nodemap_test_nid(req->rq_peer.nid, rsikey.nm_name,
936                          sizeof(rsikey.nm_name));
937
938         /* duplicate context handle. for INIT it always 0 */
939         if (rawobj_dup(&rsikey.in_handle, &gw->gw_handle)) {
940                 CERROR("fail to dup context handle\n");
941                 GOTO(out, rc);
942         }
943
944         if (rawobj_dup(&rsikey.in_token, in_token)) {
945                 CERROR("can't duplicate token\n");
946                 rawobj_free(&rsikey.in_handle);
947                 GOTO(out, rc);
948         }
949
950         rsip = rsi_lookup(&rsikey);
951         rsi_free(&rsikey);
952         if (!rsip) {
953                 CERROR("error in rsi_lookup.\n");
954
955                 if (!gss_pack_err_notify(req, GSS_S_FAILURE, 0))
956                         rc = SECSVC_COMPLETE;
957
958                 GOTO(out, rc);
959         }
960
961         cache_get(&rsip->h); /* take an extra ref */
962         init_waitqueue_head(&rsip->waitq);
963         init_waitqueue_entry(&wait, current);
964         add_wait_queue(&rsip->waitq, &wait);
965
966 cache_check:
967         /* Note each time cache_check() will drop a reference if return
968          * non-zero. We hold an extra reference on initial rsip, but must
969          * take care of following calls. */
970         rc = cache_check(&rsi_cache, &rsip->h, &cache_upcall_chandle);
971         switch (rc) {
972         case -ETIMEDOUT:
973         case -EAGAIN: {
974                 int valid;
975
976                 if (first_check) {
977                         first_check = 0;
978
979                         read_lock(&rsi_cache.hash_lock);
980                         valid = test_bit(CACHE_VALID, &rsip->h.flags);
981                         if (valid == 0)
982                                 set_current_state(TASK_INTERRUPTIBLE);
983                         read_unlock(&rsi_cache.hash_lock);
984
985                         if (valid == 0) {
986                                 unsigned long jiffies;
987                                 jiffies = msecs_to_jiffies(MSEC_PER_SEC *
988                                           GSS_SVC_UPCALL_TIMEOUT);
989                                 schedule_timeout(jiffies);
990                         }
991                         cache_get(&rsip->h);
992                         goto cache_check;
993                 }
994                 CWARN("waited %ds timeout, drop\n", GSS_SVC_UPCALL_TIMEOUT);
995                 break;
996         }
997         case -ENOENT:
998                 CWARN("cache_check return ENOENT, drop\n");
999                 break;
1000         case 0:
1001                 /* if not the first check, we have to release the extra
1002                  * reference we just added on it. */
1003                 if (!first_check)
1004                         cache_put(&rsip->h, &rsi_cache);
1005                 CDEBUG(D_SEC, "cache_check is good\n");
1006                 break;
1007         }
1008
1009         remove_wait_queue(&rsip->waitq, &wait);
1010         cache_put(&rsip->h, &rsi_cache);
1011
1012         if (rc)
1013                 GOTO(out, rc = SECSVC_DROP);
1014
1015         rc = SECSVC_DROP;
1016         rsci = gss_svc_searchbyctx(&rsip->out_handle);
1017         if (!rsci) {
1018                 CERROR("authentication failed\n");
1019
1020                 if (!gss_pack_err_notify(req, GSS_S_FAILURE, 0))
1021                         rc = SECSVC_COMPLETE;
1022
1023                 GOTO(out, rc);
1024         } else {
1025                 cache_get(&rsci->h);
1026                 grctx->src_ctx = &rsci->ctx;
1027         }
1028
1029         if (rawobj_dup(&rsci->ctx.gsc_rvs_hdl, rvs_hdl)) {
1030                 CERROR("failed duplicate reverse handle\n");
1031                 GOTO(out, rc);
1032         }
1033
1034         rsci->target = target;
1035
1036         CDEBUG(D_SEC, "server create rsc %p(%u->%s)\n",
1037                rsci, rsci->ctx.gsc_uid, libcfs_nid2str(req->rq_peer.nid));
1038
1039         if (rsip->out_handle.len > PTLRPC_GSS_MAX_HANDLE_SIZE) {
1040                 CERROR("handle size %u too large\n", rsip->out_handle.len);
1041                 GOTO(out, rc = SECSVC_DROP);
1042         }
1043
1044         grctx->src_init = 1;
1045         grctx->src_reserve_len = cfs_size_round4(rsip->out_token.len);
1046
1047         rc = lustre_pack_reply_v2(req, 1, &replen, NULL, 0);
1048         if (rc) {
1049                 CERROR("failed to pack reply: %d\n", rc);
1050                 GOTO(out, rc = SECSVC_DROP);
1051         }
1052
1053         rs = req->rq_reply_state;
1054         LASSERT(rs->rs_repbuf->lm_bufcount == 3);
1055         LASSERT(rs->rs_repbuf->lm_buflens[0] >=
1056                 sizeof(*rephdr) + rsip->out_handle.len);
1057         LASSERT(rs->rs_repbuf->lm_buflens[2] >= rsip->out_token.len);
1058
1059         rephdr = lustre_msg_buf(rs->rs_repbuf, 0, 0);
1060         rephdr->gh_version = PTLRPC_GSS_VERSION;
1061         rephdr->gh_flags = 0;
1062         rephdr->gh_proc = PTLRPC_GSS_PROC_ERR;
1063         rephdr->gh_major = rsip->major_status;
1064         rephdr->gh_minor = rsip->minor_status;
1065         rephdr->gh_seqwin = GSS_SEQ_WIN;
1066         rephdr->gh_handle.len = rsip->out_handle.len;
1067         memcpy(rephdr->gh_handle.data, rsip->out_handle.data,
1068                rsip->out_handle.len);
1069
1070         memcpy(lustre_msg_buf(rs->rs_repbuf, 2, 0), rsip->out_token.data,
1071                rsip->out_token.len);
1072
1073         rs->rs_repdata_len = lustre_shrink_msg(rs->rs_repbuf, 2,
1074                                                rsip->out_token.len, 0);
1075
1076         rc = SECSVC_OK;
1077
1078 out:
1079         /* it looks like here we should put rsip also, but this mess up
1080          * with NFS cache mgmt code... FIXME */
1081 #if 0
1082         if (rsip)
1083                 rsi_put(&rsip->h, &rsi_cache);
1084 #endif
1085
1086         if (rsci) {
1087                 /* if anything went wrong, we don't keep the context too */
1088                 if (rc != SECSVC_OK)
1089                         set_bit(CACHE_NEGATIVE, &rsci->h.flags);
1090                 else
1091                         CDEBUG(D_SEC, "create rsc with idx "LPX64"\n",
1092                                gss_handle_to_u64(&rsci->handle));
1093
1094                 COMPAT_RSC_PUT(&rsci->h, &rsc_cache);
1095         }
1096         RETURN(rc);
1097 }
1098
1099 struct gss_svc_ctx *gss_svc_upcall_get_ctx(struct ptlrpc_request *req,
1100                                            struct gss_wire_ctx *gw)
1101 {
1102         struct rsc *rsc;
1103
1104         rsc = gss_svc_searchbyctx(&gw->gw_handle);
1105         if (!rsc) {
1106                 CWARN("Invalid gss ctx idx "LPX64" from %s\n",
1107                       gss_handle_to_u64(&gw->gw_handle),
1108                       libcfs_nid2str(req->rq_peer.nid));
1109                 return NULL;
1110         }
1111
1112         return &rsc->ctx;
1113 }
1114
1115 void gss_svc_upcall_put_ctx(struct gss_svc_ctx *ctx)
1116 {
1117         struct rsc *rsc = container_of(ctx, struct rsc, ctx);
1118
1119         COMPAT_RSC_PUT(&rsc->h, &rsc_cache);
1120 }
1121
1122 void gss_svc_upcall_destroy_ctx(struct gss_svc_ctx *ctx)
1123 {
1124         struct rsc *rsc = container_of(ctx, struct rsc, ctx);
1125
1126         /* can't be found */
1127         set_bit(CACHE_NEGATIVE, &rsc->h.flags);
1128         /* to be removed at next scan */
1129         rsc->h.expiry_time = 1;
1130 }
1131
1132 int __init gss_init_svc_upcall(void)
1133 {
1134         int     i, rc;
1135
1136         spin_lock_init(&__ctx_index_lock);
1137         /*
1138          * this helps reducing context index confliction. after server reboot,
1139          * conflicting request from clients might be filtered out by initial
1140          * sequence number checking, thus no chance to sent error notification
1141          * back to clients.
1142          */
1143         cfs_get_random_bytes(&__ctx_index, sizeof(__ctx_index));
1144
1145         rc = _cache_register_net(&rsi_cache, &init_net);
1146         if (rc != 0)
1147                 return rc;
1148
1149         rc = _cache_register_net(&rsc_cache, &init_net);
1150         if (rc != 0) {
1151                 _cache_unregister_net(&rsi_cache, &init_net);
1152                 return rc;
1153         }
1154
1155         /* FIXME this looks stupid. we intend to give lsvcgssd a chance to open
1156          * the init upcall channel, otherwise there's big chance that the first
1157          * upcall issued before the channel be opened thus nfsv4 cache code will
1158          * drop the request direclty, thus lead to unnecessary recovery time.
1159          * here we wait at miximum 1.5 seconds. */
1160         for (i = 0; i < 6; i++) {
1161                 if (atomic_read(&rsi_cache.readers) > 0)
1162                         break;
1163                 set_current_state(TASK_UNINTERRUPTIBLE);
1164                 LASSERT(msecs_to_jiffies(MSEC_PER_SEC) >= 4);
1165                 schedule_timeout(msecs_to_jiffies(MSEC_PER_SEC / 4));
1166         }
1167
1168         if (atomic_read(&rsi_cache.readers) == 0)
1169                 CWARN("Init channel is not opened by lsvcgssd, following "
1170                       "request might be dropped until lsvcgssd is active\n");
1171
1172         return 0;
1173 }
1174
1175 void gss_exit_svc_upcall(void)
1176 {
1177         cache_purge(&rsi_cache);
1178         _cache_unregister_net(&rsi_cache, &init_net);
1179
1180         cache_purge(&rsc_cache);
1181         _cache_unregister_net(&rsc_cache, &init_net);
1182 }