Whamcloud - gitweb
LU-15220 lustre: use 'fallthrough' pseudo keyword for switch
[fs/lustre-release.git] / lustre / ptlrpc / gss / gss_keyring.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.gnu.org/licenses/gpl-2.0.html
19  *
20  * GPL HEADER END
21  */
22 /*
23  * Copyright (c) 2007, 2010, Oracle and/or its affiliates. All rights reserved.
24  * Use is subject to license terms.
25  *
26  * Copyright (c) 2012, 2014, Intel Corporation.
27  */
28 /*
29  * This file is part of Lustre, http://www.lustre.org/
30  *
31  * lustre/ptlrpc/gss/gss_keyring.c
32  *
33  * Author: Eric Mei <ericm@clusterfs.com>
34  */
35
36 #define DEBUG_SUBSYSTEM S_SEC
37 #include <linux/init.h>
38 #include <linux/module.h>
39 #include <linux/slab.h>
40 #include <linux/dcache.h>
41 #include <linux/fs.h>
42 #include <linux/crypto.h>
43 #include <linux/key.h>
44 #include <linux/keyctl.h>
45 #include <linux/key-type.h>
46 #include <linux/mutex.h>
47 #include <asm/atomic.h>
48
49 #include <libcfs/linux/linux-list.h>
50 #include <obd.h>
51 #include <obd_class.h>
52 #include <obd_support.h>
53 #include <uapi/linux/lustre/lustre_idl.h>
54 #include <lustre_sec.h>
55 #include <lustre_net.h>
56 #include <lustre_import.h>
57
58 #include "gss_err.h"
59 #include "gss_internal.h"
60 #include "gss_api.h"
61
62 #ifdef HAVE_GET_REQUEST_KEY_AUTH
63 #include <keys/request_key_auth-type.h>
64 #endif
65
66 static struct ptlrpc_sec_policy gss_policy_keyring;
67 static struct ptlrpc_ctx_ops gss_keyring_ctxops;
68 static struct key_type gss_key_type;
69
70 static int sec_install_rctx_kr(struct ptlrpc_sec *sec,
71                                struct ptlrpc_svc_ctx *svc_ctx);
72 static void request_key_unlink(struct key *key);
73
74 /*
75  * the timeout is only for the case that upcall child process die abnormally.
76  * in any other cases it should finally update kernel key.
77  *
78  * FIXME we'd better to incorporate the client & server side upcall timeouts
79  * into the framework of Adaptive Timeouts, but we need to figure out how to
80  * make sure that kernel knows the upcall processes is in-progress or died
81  * unexpectedly.
82  */
83 #define KEYRING_UPCALL_TIMEOUT  (obd_timeout + obd_timeout)
84
85 /* Check caller's namespace in gss_keyring upcall */
86 unsigned int gss_check_upcall_ns = 1;
87
88 /****************************************
89  * internal helpers                     *
90  ****************************************/
91
92 static inline void keyring_upcall_lock(struct gss_sec_keyring *gsec_kr)
93 {
94 #ifdef HAVE_KEYRING_UPCALL_SERIALIZED
95         mutex_lock(&gsec_kr->gsk_uc_lock);
96 #endif
97 }
98
99 static inline void keyring_upcall_unlock(struct gss_sec_keyring *gsec_kr)
100 {
101 #ifdef HAVE_KEYRING_UPCALL_SERIALIZED
102         mutex_unlock(&gsec_kr->gsk_uc_lock);
103 #endif
104 }
105
106 static inline void key_revoke_locked(struct key *key)
107 {
108         set_bit(KEY_FLAG_REVOKED, &key->flags);
109 }
110
111 static void ctx_upcall_timeout_kr(cfs_timer_cb_arg_t data)
112 {
113         struct gss_cli_ctx_keyring *gctx_kr = cfs_from_timer(gctx_kr,
114                                                              data, gck_timer);
115         struct ptlrpc_cli_ctx *ctx = &(gctx_kr->gck_base.gc_base);
116         struct key *key = gctx_kr->gck_key;
117
118         CWARN("ctx %p, key %p\n", ctx, key);
119
120         LASSERT(key);
121
122         cli_ctx_expire(ctx);
123         key_revoke_locked(key);
124 }
125
126 static void ctx_start_timer_kr(struct ptlrpc_cli_ctx *ctx, time64_t timeout)
127 {
128         struct gss_cli_ctx_keyring *gctx_kr = ctx2gctx_keyring(ctx);
129         struct timer_list *timer = &gctx_kr->gck_timer;
130
131         LASSERT(timer);
132
133         CDEBUG(D_SEC, "ctx %p: start timer %llds\n", ctx, timeout);
134
135         cfs_timer_setup(timer, ctx_upcall_timeout_kr,
136                         (unsigned long)gctx_kr, 0);
137         timer->expires = cfs_time_seconds(timeout) + jiffies;
138         add_timer(timer);
139 }
140
141 /*
142  * caller should make sure no race with other threads
143  */
144 static
145 void ctx_clear_timer_kr(struct ptlrpc_cli_ctx *ctx)
146 {
147         struct gss_cli_ctx_keyring *gctx_kr = ctx2gctx_keyring(ctx);
148         struct timer_list          *timer = &gctx_kr->gck_timer;
149
150         CDEBUG(D_SEC, "ctx %p, key %p\n", ctx, gctx_kr->gck_key);
151
152         del_singleshot_timer_sync(timer);
153 }
154
155 static
156 struct ptlrpc_cli_ctx *ctx_create_kr(struct ptlrpc_sec *sec,
157                                      struct vfs_cred *vcred)
158 {
159         struct ptlrpc_cli_ctx      *ctx;
160         struct gss_cli_ctx_keyring *gctx_kr;
161
162         OBD_ALLOC_PTR(gctx_kr);
163         if (gctx_kr == NULL)
164                 return NULL;
165
166         cfs_timer_setup(&gctx_kr->gck_timer, NULL, 0, 0);
167
168         ctx = &gctx_kr->gck_base.gc_base;
169
170         if (gss_cli_ctx_init_common(sec, ctx, &gss_keyring_ctxops, vcred)) {
171                 OBD_FREE_PTR(gctx_kr);
172                 return NULL;
173         }
174
175         ctx->cc_expire = ktime_get_real_seconds() + KEYRING_UPCALL_TIMEOUT;
176         clear_bit(PTLRPC_CTX_NEW_BIT, &ctx->cc_flags);
177         atomic_inc(&ctx->cc_refcount); /* for the caller */
178
179         return ctx;
180 }
181
182 static void ctx_destroy_kr(struct ptlrpc_cli_ctx *ctx)
183 {
184         struct ptlrpc_sec               *sec = ctx->cc_sec;
185         struct gss_cli_ctx_keyring      *gctx_kr = ctx2gctx_keyring(ctx);
186
187         CDEBUG(D_SEC, "destroying ctx %p\n", ctx);
188
189         /* at this time the association with key has been broken. */
190         LASSERT(sec);
191         LASSERT(atomic_read(&sec->ps_refcount) > 0);
192         LASSERT(atomic_read(&sec->ps_nctx) > 0);
193         LASSERT(test_bit(PTLRPC_CTX_CACHED_BIT, &ctx->cc_flags) == 0);
194         LASSERT(gctx_kr->gck_key == NULL);
195
196         ctx_clear_timer_kr(ctx);
197
198         if (gss_cli_ctx_fini_common(sec, ctx))
199                 return;
200
201         OBD_FREE_PTR(gctx_kr);
202
203         atomic_dec(&sec->ps_nctx);
204         sptlrpc_sec_put(sec);
205 }
206
207 static void ctx_release_kr(struct ptlrpc_cli_ctx *ctx, int sync)
208 {
209         if (sync) {
210                 ctx_destroy_kr(ctx);
211         } else {
212                 atomic_inc(&ctx->cc_refcount);
213                 sptlrpc_gc_add_ctx(ctx);
214         }
215 }
216
217 static void ctx_put_kr(struct ptlrpc_cli_ctx *ctx, int sync)
218 {
219         LASSERT(atomic_read(&ctx->cc_refcount) > 0);
220
221         if (atomic_dec_and_test(&ctx->cc_refcount))
222                 ctx_release_kr(ctx, sync);
223 }
224
225 /*
226  * key <-> ctx association and rules:
227  * - ctx might not bind with any key
228  * - key/ctx binding is protected by key semaphore (if the key present)
229  * - key and ctx each take a reference of the other
230  * - ctx enlist/unlist is protected by ctx spinlock
231  * - never enlist a ctx after it's been unlisted
232  * - whoever do enlist should also do bind, lock key before enlist:
233  *   - lock key -> lock ctx -> enlist -> unlock ctx -> bind -> unlock key
234  * - whoever do unlist should also do unbind:
235  *   - lock key -> lock ctx -> unlist -> unlock ctx -> unbind -> unlock key
236  *   - lock ctx -> unlist -> unlock ctx -> lock key -> unbind -> unlock key
237  */
238
239 static inline void spin_lock_if(spinlock_t *lock, int condition)
240 {
241         if (condition)
242                 spin_lock(lock);
243 }
244
245 static inline void spin_unlock_if(spinlock_t *lock, int condition)
246 {
247         if (condition)
248                 spin_unlock(lock);
249 }
250
251 static void ctx_enlist_kr(struct ptlrpc_cli_ctx *ctx, int is_root, int locked)
252 {
253         struct ptlrpc_sec       *sec = ctx->cc_sec;
254         struct gss_sec_keyring  *gsec_kr = sec2gsec_keyring(sec);
255
256         LASSERT(!test_bit(PTLRPC_CTX_CACHED_BIT, &ctx->cc_flags));
257         LASSERT(atomic_read(&ctx->cc_refcount) > 0);
258
259         spin_lock_if(&sec->ps_lock, !locked);
260
261         atomic_inc(&ctx->cc_refcount);
262         set_bit(PTLRPC_CTX_CACHED_BIT, &ctx->cc_flags);
263         hlist_add_head(&ctx->cc_cache, &gsec_kr->gsk_clist);
264         if (is_root)
265                 gsec_kr->gsk_root_ctx = ctx;
266
267         spin_unlock_if(&sec->ps_lock, !locked);
268 }
269
270 /*
271  * Note after this get called, caller should not access ctx again because
272  * it might have been freed, unless caller hold at least one refcount of
273  * the ctx.
274  *
275  * return non-zero if we indeed unlist this ctx.
276  */
277 static int ctx_unlist_kr(struct ptlrpc_cli_ctx *ctx, int locked)
278 {
279         struct ptlrpc_sec       *sec = ctx->cc_sec;
280         struct gss_sec_keyring  *gsec_kr = sec2gsec_keyring(sec);
281
282         /* if hashed bit has gone, leave the job to somebody who is doing it */
283         if (test_and_clear_bit(PTLRPC_CTX_CACHED_BIT, &ctx->cc_flags) == 0)
284                 return 0;
285
286         /* drop ref inside spin lock to prevent race with other operations */
287         spin_lock_if(&sec->ps_lock, !locked);
288
289         if (gsec_kr->gsk_root_ctx == ctx)
290                 gsec_kr->gsk_root_ctx = NULL;
291         hlist_del_init(&ctx->cc_cache);
292         atomic_dec(&ctx->cc_refcount);
293
294         spin_unlock_if(&sec->ps_lock, !locked);
295
296         return 1;
297 }
298
299 /*
300  * Get specific payload. Newer kernels support 4 slots.
301  */
302 static void *
303 key_get_payload(struct key *key, unsigned int index)
304 {
305         void *key_ptr = NULL;
306
307 #ifdef HAVE_KEY_PAYLOAD_DATA_ARRAY
308         key_ptr = key->payload.data[index];
309 #else
310         if (!index)
311                 key_ptr = key->payload.data;
312 #endif
313         return key_ptr;
314 }
315
316 /*
317  * Set specific payload. Newer kernels support 4 slots.
318  */
319 static int key_set_payload(struct key *key, unsigned int index,
320                            struct ptlrpc_cli_ctx *ctx)
321 {
322         int rc = -EINVAL;
323
324 #ifdef HAVE_KEY_PAYLOAD_DATA_ARRAY
325         if (index < 4) {
326                 key->payload.data[index] = ctx;
327 #else
328         if (!index) {
329                 key->payload.data = ctx;
330 #endif
331                 rc = 0;
332         }
333         return rc;
334 }
335
336 /*
337  * bind a key with a ctx together.
338  * caller must hold write lock of the key, as well as ref on key & ctx.
339  */
340 static void bind_key_ctx(struct key *key, struct ptlrpc_cli_ctx *ctx)
341 {
342         LASSERT(atomic_read(&ctx->cc_refcount) > 0);
343         LASSERT(ll_read_key_usage(key) > 0);
344         LASSERT(ctx2gctx_keyring(ctx)->gck_key == NULL);
345         LASSERT(!key_get_payload(key, 0));
346
347         /* at this time context may or may not in list. */
348         key_get(key);
349         atomic_inc(&ctx->cc_refcount);
350         ctx2gctx_keyring(ctx)->gck_key = key;
351         LASSERT(!key_set_payload(key, 0, ctx));
352 }
353
354 /*
355  * unbind a key and a ctx.
356  * caller must hold write lock, as well as a ref of the key.
357  */
358 static void unbind_key_ctx(struct key *key, struct ptlrpc_cli_ctx *ctx)
359 {
360         LASSERT(key_get_payload(key, 0) == ctx);
361         LASSERT(test_bit(PTLRPC_CTX_CACHED_BIT, &ctx->cc_flags) == 0);
362
363         /* must revoke the key, or others may treat it as newly created */
364         key_revoke_locked(key);
365
366         key_set_payload(key, 0, NULL);
367         ctx2gctx_keyring(ctx)->gck_key = NULL;
368
369         /* once ctx get split from key, the timer is meaningless */
370         ctx_clear_timer_kr(ctx);
371
372         ctx_put_kr(ctx, 1);
373         key_put(key);
374 }
375
376 /*
377  * given a ctx, unbind with its coupled key, if any.
378  * unbind could only be called once, so we don't worry the key be released
379  * by someone else.
380  */
381 static void unbind_ctx_kr(struct ptlrpc_cli_ctx *ctx)
382 {
383         struct key      *key = ctx2gctx_keyring(ctx)->gck_key;
384
385         if (key) {
386                 LASSERT(key_get_payload(key, 0) == ctx);
387
388                 key_get(key);
389                 down_write(&key->sem);
390                 unbind_key_ctx(key, ctx);
391                 up_write(&key->sem);
392                 key_put(key);
393                 request_key_unlink(key);
394         }
395 }
396
397 /*
398  * given a key, unbind with its coupled ctx, if any.
399  * caller must hold write lock, as well as a ref of the key.
400  */
401 static void unbind_key_locked(struct key *key)
402 {
403         struct ptlrpc_cli_ctx *ctx = key_get_payload(key, 0);
404
405         if (ctx)
406                 unbind_key_ctx(key, ctx);
407 }
408
409 /*
410  * unlist a ctx, and unbind from coupled key
411  */
412 static void kill_ctx_kr(struct ptlrpc_cli_ctx *ctx)
413 {
414         if (ctx_unlist_kr(ctx, 0))
415                 unbind_ctx_kr(ctx);
416 }
417
418 /*
419  * given a key, unlist and unbind with the coupled ctx (if any).
420  * caller must hold write lock, as well as a ref of the key.
421  */
422 static void kill_key_locked(struct key *key)
423 {
424         struct ptlrpc_cli_ctx *ctx = key_get_payload(key, 0);
425
426         if (ctx && ctx_unlist_kr(ctx, 0))
427                 unbind_key_locked(key);
428 }
429
430 /*
431  * caller should hold one ref on contexts in freelist.
432  */
433 static void dispose_ctx_list_kr(struct hlist_head *freelist)
434 {
435         struct hlist_node *next;
436         struct ptlrpc_cli_ctx   *ctx;
437         struct gss_cli_ctx      *gctx;
438
439         hlist_for_each_entry_safe(ctx, next, freelist, cc_cache) {
440                 hlist_del_init(&ctx->cc_cache);
441
442                 /* reverse ctx: update current seq to buddy svcctx if exist.
443                  * ideally this should be done at gss_cli_ctx_finalize(), but
444                  * the ctx destroy could be delayed by:
445                  *  1) ctx still has reference;
446                  *  2) ctx destroy is asynchronous;
447                  * and reverse import call inval_all_ctx() require this be done
448                  * _immediately_ otherwise newly created reverse ctx might copy
449                  * the very old sequence number from svcctx. */
450                 gctx = ctx2gctx(ctx);
451                 if (!rawobj_empty(&gctx->gc_svc_handle) &&
452                     sec_is_reverse(gctx->gc_base.cc_sec)) {
453                         gss_svc_upcall_update_sequence(&gctx->gc_svc_handle,
454                                         (__u32) atomic_read(&gctx->gc_seq));
455                 }
456
457                 /* we need to wakeup waiting reqs here. the context might
458                  * be forced released before upcall finished, then the
459                  * late-arrived downcall can't find the ctx even. */
460                 sptlrpc_cli_ctx_wakeup(ctx);
461
462                 unbind_ctx_kr(ctx);
463                 ctx_put_kr(ctx, 0);
464         }
465 }
466
467 /*
468  * lookup a root context directly in a sec, return root ctx with a
469  * reference taken or NULL.
470  */
471 static
472 struct ptlrpc_cli_ctx * sec_lookup_root_ctx_kr(struct ptlrpc_sec *sec)
473 {
474         struct gss_sec_keyring  *gsec_kr = sec2gsec_keyring(sec);
475         struct ptlrpc_cli_ctx   *ctx = NULL;
476
477         spin_lock(&sec->ps_lock);
478
479         ctx = gsec_kr->gsk_root_ctx;
480
481         if (ctx == NULL && unlikely(sec_is_reverse(sec))) {
482                 struct ptlrpc_cli_ctx   *tmp;
483
484                 /* reverse ctx, search root ctx in list, choose the one
485                  * with shortest expire time, which is most possibly have
486                  * an established peer ctx at client side. */
487                 hlist_for_each_entry(tmp, &gsec_kr->gsk_clist, cc_cache) {
488                         if (ctx == NULL || ctx->cc_expire == 0 ||
489                             ctx->cc_expire > tmp->cc_expire) {
490                                 ctx = tmp;
491                                 /* promote to be root_ctx */
492                                 gsec_kr->gsk_root_ctx = ctx;
493                         }
494                 }
495         }
496
497         if (ctx) {
498                 LASSERT(atomic_read(&ctx->cc_refcount) > 0);
499                 LASSERT(!hlist_empty(&gsec_kr->gsk_clist));
500                 atomic_inc(&ctx->cc_refcount);
501         }
502
503         spin_unlock(&sec->ps_lock);
504
505         return ctx;
506 }
507
508 #define RVS_CTX_EXPIRE_NICE    (10)
509
510 static
511 void rvs_sec_install_root_ctx_kr(struct ptlrpc_sec *sec,
512                                  struct ptlrpc_cli_ctx *new_ctx,
513                                  struct key *key)
514 {
515         struct gss_sec_keyring *gsec_kr = sec2gsec_keyring(sec);
516         struct ptlrpc_cli_ctx *ctx;
517         time64_t now;
518
519         ENTRY;
520         LASSERT(sec_is_reverse(sec));
521
522         spin_lock(&sec->ps_lock);
523
524         now = ktime_get_real_seconds();
525
526         /* set all existing ctxs short expiry */
527         hlist_for_each_entry(ctx, &gsec_kr->gsk_clist, cc_cache) {
528                 if (ctx->cc_expire > now + RVS_CTX_EXPIRE_NICE) {
529                         ctx->cc_early_expire = 1;
530                         ctx->cc_expire = now + RVS_CTX_EXPIRE_NICE;
531                 }
532         }
533
534         /* if there's root_ctx there, instead obsolete the current
535          * immediately, we leave it continue operating for a little while.
536          * hopefully when the first backward rpc with newest ctx send out,
537          * the client side already have the peer ctx well established. */
538         ctx_enlist_kr(new_ctx, gsec_kr->gsk_root_ctx ? 0 : 1, 1);
539
540         if (key)
541                 bind_key_ctx(key, new_ctx);
542
543         spin_unlock(&sec->ps_lock);
544 }
545
546 static void construct_key_desc(void *buf, int bufsize,
547                                struct ptlrpc_sec *sec, uid_t uid)
548 {
549         snprintf(buf, bufsize, "%d@%x", uid, sec->ps_id);
550         ((char *)buf)[bufsize - 1] = '\0';
551 }
552
553 /****************************************
554  * sec apis                             *
555  ****************************************/
556
557 static
558 struct ptlrpc_sec * gss_sec_create_kr(struct obd_import *imp,
559                                       struct ptlrpc_svc_ctx *svcctx,
560                                       struct sptlrpc_flavor *sf)
561 {
562         struct gss_sec_keyring  *gsec_kr;
563         ENTRY;
564
565         OBD_ALLOC(gsec_kr, sizeof(*gsec_kr));
566         if (gsec_kr == NULL)
567                 RETURN(NULL);
568
569         INIT_HLIST_HEAD(&gsec_kr->gsk_clist);
570         gsec_kr->gsk_root_ctx = NULL;
571         mutex_init(&gsec_kr->gsk_root_uc_lock);
572 #ifdef HAVE_KEYRING_UPCALL_SERIALIZED
573         mutex_init(&gsec_kr->gsk_uc_lock);
574 #endif
575
576         if (gss_sec_create_common(&gsec_kr->gsk_base, &gss_policy_keyring,
577                                   imp, svcctx, sf))
578                 goto err_free;
579
580         if (svcctx != NULL &&
581             sec_install_rctx_kr(&gsec_kr->gsk_base.gs_base, svcctx)) {
582                 gss_sec_destroy_common(&gsec_kr->gsk_base);
583                 goto err_free;
584         }
585
586         RETURN(&gsec_kr->gsk_base.gs_base);
587
588 err_free:
589         OBD_FREE(gsec_kr, sizeof(*gsec_kr));
590         RETURN(NULL);
591 }
592
593 static
594 void gss_sec_destroy_kr(struct ptlrpc_sec *sec)
595 {
596         struct gss_sec          *gsec = sec2gsec(sec);
597         struct gss_sec_keyring  *gsec_kr = sec2gsec_keyring(sec);
598
599         CDEBUG(D_SEC, "destroy %s@%p\n", sec->ps_policy->sp_name, sec);
600
601         LASSERT(hlist_empty(&gsec_kr->gsk_clist));
602         LASSERT(gsec_kr->gsk_root_ctx == NULL);
603
604         gss_sec_destroy_common(gsec);
605
606         OBD_FREE(gsec_kr, sizeof(*gsec_kr));
607 }
608
609 static inline int user_is_root(struct ptlrpc_sec *sec, struct vfs_cred *vcred)
610 {
611         /* except the ROOTONLY flag, treat it as root user only if real uid
612          * is 0, euid/fsuid being 0 are handled as setuid scenarios */
613         if (sec_is_rootonly(sec) || (vcred->vc_uid == 0))
614                 return 1;
615         else
616                 return 0;
617 }
618
619 /*
620  * kernel 5.3: commit 0f44e4d976f96c6439da0d6717238efa4b91196e
621  * keys: Move the user and user-session keyrings to the user_namespace
622  *
623  * When lookup_user_key is available use the kernel API rather than directly
624  * accessing the uid_keyring and session_keyring via the current process
625  * credentials.
626  */
627 #ifdef HAVE_LOOKUP_USER_KEY
628
629 /* from Linux security/keys/internal.h: */
630 #ifndef KEY_LOOKUP_FOR_UNLINK
631 #define KEY_LOOKUP_FOR_UNLINK           0x04
632 #endif
633
634 static struct key *_user_key(key_serial_t id)
635 {
636         key_ref_t ref;
637
638         might_sleep();
639         ref = lookup_user_key(id, KEY_LOOKUP_FOR_UNLINK, 0);
640         if (IS_ERR(ref))
641                 return NULL;
642         return key_ref_to_ptr(ref);
643 }
644
645 static inline struct key *get_user_session_keyring(const struct cred *cred)
646 {
647         return _user_key(KEY_SPEC_USER_SESSION_KEYRING);
648 }
649
650 static inline struct key *get_user_keyring(const struct cred *cred)
651 {
652         return _user_key(KEY_SPEC_USER_KEYRING);
653 }
654 #else
655 static inline struct key *get_user_session_keyring(const struct cred *cred)
656 {
657         return key_get(cred->user->session_keyring);
658 }
659
660 static inline struct key *get_user_keyring(const struct cred *cred)
661 {
662         return key_get(cred->user->uid_keyring);
663 }
664 #endif
665
666 /*
667  * unlink request key from it's ring, which is linked during request_key().
668  * sadly, we have to 'guess' which keyring it's linked to.
669  *
670  * FIXME this code is fragile, it depends on how request_key() is implemented.
671  */
672 static void request_key_unlink(struct key *key)
673 {
674         const struct cred *cred = current_cred();
675         struct key *ring = NULL;
676
677         switch (cred->jit_keyring) {
678         case KEY_REQKEY_DEFL_DEFAULT:
679         case KEY_REQKEY_DEFL_REQUESTOR_KEYRING:
680 #ifdef HAVE_GET_REQUEST_KEY_AUTH
681                 if (cred->request_key_auth) {
682                         struct request_key_auth *rka;
683                         struct key *authkey = cred->request_key_auth;
684
685                         down_read(&authkey->sem);
686                         rka = get_request_key_auth(authkey);
687                         if (!test_bit(KEY_FLAG_REVOKED, &authkey->flags))
688                                 ring = key_get(rka->dest_keyring);
689                         up_read(&authkey->sem);
690                         if (ring)
691                                 break;
692                 }
693 #endif
694                 fallthrough;
695         case KEY_REQKEY_DEFL_THREAD_KEYRING:
696                 ring = key_get(cred->thread_keyring);
697                 if (ring)
698                         break;
699                 fallthrough;
700         case KEY_REQKEY_DEFL_PROCESS_KEYRING:
701                 ring = key_get(cred->process_keyring);
702                 if (ring)
703                         break;
704                 fallthrough;
705         case KEY_REQKEY_DEFL_SESSION_KEYRING:
706                 rcu_read_lock();
707                 ring = key_get(rcu_dereference(cred->session_keyring));
708                 rcu_read_unlock();
709                 if (ring)
710                         break;
711                 fallthrough;
712         case KEY_REQKEY_DEFL_USER_SESSION_KEYRING:
713                 ring = get_user_session_keyring(cred);
714                 break;
715         case KEY_REQKEY_DEFL_USER_KEYRING:
716                 ring = get_user_keyring(cred);
717                 break;
718         case KEY_REQKEY_DEFL_GROUP_KEYRING:
719         default:
720                 LBUG();
721         }
722
723         LASSERT(ring);
724         key_unlink(ring, key);
725         key_put(ring);
726 }
727
728 static
729 struct ptlrpc_cli_ctx * gss_sec_lookup_ctx_kr(struct ptlrpc_sec *sec,
730                                               struct vfs_cred *vcred,
731                                               int create, int remove_dead)
732 {
733         struct obd_import *imp = sec->ps_import;
734         struct gss_sec_keyring *gsec_kr = sec2gsec_keyring(sec);
735         struct ptlrpc_cli_ctx *ctx = NULL;
736         unsigned int is_root = 0, create_new = 0;
737         struct key *key;
738         char desc[24];
739         char *coinfo;
740         int coinfo_size;
741         const char *sec_part_flags = "";
742         char svc_flag = '-';
743         pid_t caller_pid;
744         ENTRY;
745
746         LASSERT(imp != NULL);
747
748         is_root = user_is_root(sec, vcred);
749
750         /* a little bit optimization for root context */
751         if (is_root) {
752                 ctx = sec_lookup_root_ctx_kr(sec);
753                 /*
754                  * Only lookup directly for REVERSE sec, which should
755                  * always succeed.
756                  */
757                 if (ctx || sec_is_reverse(sec))
758                         RETURN(ctx);
759         }
760
761         LASSERT(create != 0);
762
763         /* for root context, obtain lock and check again, this time hold
764          * the root upcall lock, make sure nobody else populated new root
765          * context after last check.
766          */
767         if (is_root) {
768                 mutex_lock(&gsec_kr->gsk_root_uc_lock);
769
770                 ctx = sec_lookup_root_ctx_kr(sec);
771                 if (ctx)
772                         goto out;
773
774                 /* update reverse handle for root user */
775                 sec2gsec(sec)->gs_rvs_hdl = gss_get_next_ctx_index();
776
777                 switch (sec->ps_part) {
778                 case LUSTRE_SP_MDT:
779                         sec_part_flags = "m";
780                         break;
781                 case LUSTRE_SP_OST:
782                         sec_part_flags = "o";
783                         break;
784                 case LUSTRE_SP_MGC:
785                         sec_part_flags = "rmo";
786                         break;
787                 case LUSTRE_SP_CLI:
788                         sec_part_flags = "r";
789                         break;
790                 case LUSTRE_SP_MGS:
791                 default:
792                         LBUG();
793                 }
794
795                 switch (SPTLRPC_FLVR_SVC(sec->ps_flvr.sf_rpc)) {
796                 case SPTLRPC_SVC_NULL:
797                         svc_flag = 'n';
798                         break;
799                 case SPTLRPC_SVC_AUTH:
800                         svc_flag = 'a';
801                         break;
802                 case SPTLRPC_SVC_INTG:
803                         svc_flag = 'i';
804                         break;
805                 case SPTLRPC_SVC_PRIV:
806                         svc_flag = 'p';
807                         break;
808                 default:
809                         LBUG();
810                 }
811         }
812
813         /* in case of setuid, key will be constructed as owner of fsuid/fsgid,
814          * but we do authentication based on real uid/gid. the key permission
815          * bits will be exactly as POS_ALL, so only processes who subscribed
816          * this key could have the access, although the quota might be counted
817          * on others (fsuid/fsgid).
818          *
819          * keyring will use fsuid/fsgid as upcall parameters, so we have to
820          * encode real uid/gid into callout info.
821          */
822
823         /* But first we need to make sure the obd type is supported */
824         if (strcmp(imp->imp_obd->obd_type->typ_name, LUSTRE_MDC_NAME) &&
825             strcmp(imp->imp_obd->obd_type->typ_name, LUSTRE_OSC_NAME) &&
826             strcmp(imp->imp_obd->obd_type->typ_name, LUSTRE_MGC_NAME) &&
827             strcmp(imp->imp_obd->obd_type->typ_name, LUSTRE_LWP_NAME) &&
828             strcmp(imp->imp_obd->obd_type->typ_name, LUSTRE_OSP_NAME)) {
829                 CERROR("obd %s is not a supported device\n",
830                        imp->imp_obd->obd_name);
831                 GOTO(out, ctx = NULL);
832         }
833
834         construct_key_desc(desc, sizeof(desc), sec, vcred->vc_uid);
835
836         /* callout info format:
837          * secid:mech:uid:gid:sec_flags:svc_flag:svc_type:peer_nid:target_uuid:
838          * self_nid:pid
839          */
840         coinfo_size = sizeof(struct obd_uuid) + MAX_OBD_NAME + 64;
841         OBD_ALLOC(coinfo, coinfo_size);
842         if (coinfo == NULL)
843                 goto out;
844
845         /* Last callout parameter is pid of process whose namespace will be used
846          * for credentials' retrieval.
847          */
848         if (gss_check_upcall_ns) {
849                 /* For user's credentials (in which case sec_part_flags is
850                  * empty), use current PID instead of import's reference
851                  * PID to get reference namespace.
852                  */
853                 if (sec_part_flags[0] == '\0')
854                         caller_pid = current->pid;
855                 else
856                         caller_pid = imp->imp_sec_refpid;
857         } else {
858                 /* Do not switch namespace in gss keyring upcall. */
859                 caller_pid = 0;
860         }
861         snprintf(coinfo, coinfo_size, "%d:%s:%u:%u:%s:%c:%d:%#llx:%s:%#llx:%d",
862                  sec->ps_id, sec2gsec(sec)->gs_mech->gm_name,
863                  vcred->vc_uid, vcred->vc_gid,
864                  sec_part_flags, svc_flag, import_to_gss_svc(imp),
865                  lnet_nid_to_nid4(&imp->imp_connection->c_peer.nid),
866                  imp->imp_obd->obd_name,
867                  LNetPrimaryNID(lnet_nid_to_nid4(&imp->imp_connection->c_self)),
868                  caller_pid);
869
870         CDEBUG(D_SEC, "requesting key for %s\n", desc);
871
872         keyring_upcall_lock(gsec_kr);
873         key = request_key(&gss_key_type, desc, coinfo);
874         keyring_upcall_unlock(gsec_kr);
875
876         OBD_FREE(coinfo, coinfo_size);
877
878         if (IS_ERR(key)) {
879                 CERROR("failed request key: %ld\n", PTR_ERR(key));
880                 goto out;
881         }
882         CDEBUG(D_SEC, "obtained key %08x for %s\n", key->serial, desc);
883
884         /* once payload.data was pointed to a ctx, it never changes until
885          * we de-associate them; but parallel request_key() may return
886          * a key with payload.data == NULL at the same time. so we still
887          * need wirtelock of key->sem to serialize them.
888          */
889         down_write(&key->sem);
890
891         ctx = key_get_payload(key, 0);
892         if (likely(ctx)) {
893                 LASSERT(atomic_read(&ctx->cc_refcount) >= 1);
894                 LASSERT(ctx2gctx_keyring(ctx)->gck_key == key);
895                 LASSERT(ll_read_key_usage(key) >= 2);
896
897                 /* simply take a ref and return. it's upper layer's
898                  * responsibility to detect & replace dead ctx.
899                  */
900                 atomic_inc(&ctx->cc_refcount);
901         } else {
902                 /* pre initialization with a cli_ctx. this can't be done in
903                  * key_instantiate() because we'v no enough information
904                  * there.
905                  */
906                 ctx = ctx_create_kr(sec, vcred);
907                 if (ctx != NULL) {
908                         ctx_enlist_kr(ctx, is_root, 0);
909                         bind_key_ctx(key, ctx);
910
911                         ctx_start_timer_kr(ctx, KEYRING_UPCALL_TIMEOUT);
912
913                         CDEBUG(D_SEC, "installed key %p <-> ctx %p (sec %p)\n",
914                                key, ctx, sec);
915                 } else {
916                         /* we'd prefer to call key_revoke(), but we more like
917                          * to revoke it within this key->sem locked period.
918                          */
919                         key_revoke_locked(key);
920                 }
921
922                 create_new = 1;
923         }
924
925         up_write(&key->sem);
926
927         if (is_root && create_new)
928                 request_key_unlink(key);
929
930         key_put(key);
931 out:
932         if (is_root)
933                 mutex_unlock(&gsec_kr->gsk_root_uc_lock);
934         RETURN(ctx);
935 }
936
937 static
938 void gss_sec_release_ctx_kr(struct ptlrpc_sec *sec,
939                             struct ptlrpc_cli_ctx *ctx,
940                             int sync)
941 {
942         LASSERT(atomic_read(&sec->ps_refcount) > 0);
943         LASSERT(atomic_read(&ctx->cc_refcount) == 0);
944         ctx_release_kr(ctx, sync);
945 }
946
947 /*
948  * flush context of normal user, we must resort to keyring itself to find out
949  * contexts which belong to me.
950  *
951  * Note here we suppose only to flush _my_ context, the "uid" will
952  * be ignored in the search.
953  */
954 static
955 void flush_user_ctx_cache_kr(struct ptlrpc_sec *sec,
956                              uid_t uid,
957                              int grace, int force)
958 {
959         struct key              *key;
960         char                     desc[24];
961
962         /* nothing to do for reverse or rootonly sec */
963         if (sec_is_reverse(sec) || sec_is_rootonly(sec))
964                 return;
965
966         construct_key_desc(desc, sizeof(desc), sec, uid);
967
968         /* there should be only one valid key, but we put it in the
969          * loop in case of any weird cases */
970         for (;;) {
971                 key = request_key(&gss_key_type, desc, NULL);
972                 if (IS_ERR(key)) {
973                         CDEBUG(D_SEC, "No more key found for current user\n");
974                         break;
975                 }
976
977                 down_write(&key->sem);
978
979                 kill_key_locked(key);
980
981                 /* kill_key_locked() should usually revoke the key, but we
982                  * revoke it again to make sure, e.g. some case the key may
983                  * not well coupled with a context. */
984                 key_revoke_locked(key);
985
986                 up_write(&key->sem);
987
988                 request_key_unlink(key);
989
990                 key_put(key);
991         }
992 }
993
994 /*
995  * flush context of root or all, we iterate through the list.
996  */
997 static
998 void flush_spec_ctx_cache_kr(struct ptlrpc_sec *sec, uid_t uid, int grace,
999                              int force)
1000 {
1001         struct gss_sec_keyring  *gsec_kr;
1002         struct hlist_head        freelist = HLIST_HEAD_INIT;
1003         struct hlist_node *next;
1004         struct ptlrpc_cli_ctx   *ctx;
1005         ENTRY;
1006
1007         gsec_kr = sec2gsec_keyring(sec);
1008
1009         spin_lock(&sec->ps_lock);
1010         hlist_for_each_entry_safe(ctx, next, &gsec_kr->gsk_clist,
1011                                   cc_cache) {
1012                 LASSERT(atomic_read(&ctx->cc_refcount) > 0);
1013
1014                 if (uid != -1 && uid != ctx->cc_vcred.vc_uid)
1015                         continue;
1016
1017                 /* at this moment there's at least 2 base reference:
1018                  * key association and in-list. */
1019                 if (atomic_read(&ctx->cc_refcount) > 2) {
1020                         if (!force)
1021                                 continue;
1022                         CWARN("flush busy ctx %p(%u->%s, extra ref %d)\n",
1023                               ctx, ctx->cc_vcred.vc_uid,
1024                               sec2target_str(ctx->cc_sec),
1025                               atomic_read(&ctx->cc_refcount) - 2);
1026                 }
1027
1028                 set_bit(PTLRPC_CTX_DEAD_BIT, &ctx->cc_flags);
1029                 if (!grace)
1030                         clear_bit(PTLRPC_CTX_UPTODATE_BIT, &ctx->cc_flags);
1031
1032                 atomic_inc(&ctx->cc_refcount);
1033
1034                 if (ctx_unlist_kr(ctx, 1)) {
1035                         hlist_add_head(&ctx->cc_cache, &freelist);
1036                 } else {
1037                         LASSERT(atomic_read(&ctx->cc_refcount) >= 2);
1038                         atomic_dec(&ctx->cc_refcount);
1039                 }
1040         }
1041         spin_unlock(&sec->ps_lock);
1042
1043         dispose_ctx_list_kr(&freelist);
1044         EXIT;
1045 }
1046
1047 static
1048 int gss_sec_flush_ctx_cache_kr(struct ptlrpc_sec *sec,
1049                                uid_t uid, int grace, int force)
1050 {
1051         ENTRY;
1052
1053         CDEBUG(D_SEC, "sec %p(%d, nctx %d), uid %d, grace %d, force %d\n",
1054                sec, atomic_read(&sec->ps_refcount),
1055                atomic_read(&sec->ps_nctx),
1056                uid, grace, force);
1057
1058         if (uid != -1 && uid != 0)
1059                 flush_user_ctx_cache_kr(sec, uid, grace, force);
1060         else
1061                 flush_spec_ctx_cache_kr(sec, uid, grace, force);
1062
1063         RETURN(0);
1064 }
1065
1066 static
1067 void gss_sec_gc_ctx_kr(struct ptlrpc_sec *sec)
1068 {
1069         struct gss_sec_keyring  *gsec_kr = sec2gsec_keyring(sec);
1070         struct hlist_head       freelist = HLIST_HEAD_INIT;
1071         struct hlist_node *next;
1072         struct ptlrpc_cli_ctx   *ctx;
1073         ENTRY;
1074
1075         CWARN("running gc\n");
1076
1077         spin_lock(&sec->ps_lock);
1078         hlist_for_each_entry_safe(ctx, next, &gsec_kr->gsk_clist,
1079                                   cc_cache) {
1080                 LASSERT(atomic_read(&ctx->cc_refcount) > 0);
1081
1082                 atomic_inc(&ctx->cc_refcount);
1083
1084                 if (cli_ctx_check_death(ctx) && ctx_unlist_kr(ctx, 1)) {
1085                         hlist_add_head(&ctx->cc_cache, &freelist);
1086                         CWARN("unhashed ctx %p\n", ctx);
1087                 } else {
1088                         LASSERT(atomic_read(&ctx->cc_refcount) >= 2);
1089                         atomic_dec(&ctx->cc_refcount);
1090                 }
1091         }
1092         spin_unlock(&sec->ps_lock);
1093
1094         dispose_ctx_list_kr(&freelist);
1095         EXIT;
1096 }
1097
1098 static
1099 int gss_sec_display_kr(struct ptlrpc_sec *sec, struct seq_file *seq)
1100 {
1101         struct gss_sec_keyring *gsec_kr = sec2gsec_keyring(sec);
1102         struct hlist_node *next;
1103         struct ptlrpc_cli_ctx *ctx;
1104         struct gss_cli_ctx *gctx;
1105         time64_t now = ktime_get_real_seconds();
1106
1107         ENTRY;
1108         spin_lock(&sec->ps_lock);
1109         hlist_for_each_entry_safe(ctx, next, &gsec_kr->gsk_clist,
1110                                   cc_cache) {
1111                 struct key             *key;
1112                 char                    flags_str[40];
1113                 char                    mech[40];
1114
1115                 gctx = ctx2gctx(ctx);
1116                 key = ctx2gctx_keyring(ctx)->gck_key;
1117
1118                 gss_cli_ctx_flags2str(ctx->cc_flags,
1119                                       flags_str, sizeof(flags_str));
1120
1121                 if (gctx->gc_mechctx)
1122                         lgss_display(gctx->gc_mechctx, mech, sizeof(mech));
1123                 else
1124                         snprintf(mech, sizeof(mech), "N/A");
1125                 mech[sizeof(mech) - 1] = '\0';
1126
1127                 seq_printf(seq,
1128                            "%p: uid %u, ref %d, expire %lld(%+lld), fl %s, seq %d, win %u, key %08x(ref %d), hdl %#llx:%#llx, mech: %s\n",
1129                            ctx, ctx->cc_vcred.vc_uid,
1130                            atomic_read(&ctx->cc_refcount),
1131                            ctx->cc_expire,
1132                            ctx->cc_expire ?  ctx->cc_expire - now : 0,
1133                            flags_str,
1134                            atomic_read(&gctx->gc_seq),
1135                            gctx->gc_win,
1136                            key ? key->serial : 0,
1137                            key ? ll_read_key_usage(key) : 0,
1138                            gss_handle_to_u64(&gctx->gc_handle),
1139                            gss_handle_to_u64(&gctx->gc_svc_handle),
1140                            mech);
1141         }
1142         spin_unlock(&sec->ps_lock);
1143
1144         RETURN(0);
1145 }
1146
1147 /****************************************
1148  * cli_ctx apis                         *
1149  ****************************************/
1150
1151 static
1152 int gss_cli_ctx_refresh_kr(struct ptlrpc_cli_ctx *ctx)
1153 {
1154         /* upcall is already on the way */
1155         struct gss_cli_ctx *gctx = ctx ? ctx2gctx(ctx) : NULL;
1156
1157         /* record latest sequence number in buddy svcctx */
1158         if (gctx && !rawobj_empty(&gctx->gc_svc_handle) &&
1159             sec_is_reverse(gctx->gc_base.cc_sec)) {
1160                 return gss_svc_upcall_update_sequence(&gctx->gc_svc_handle,
1161                                              (__u32)atomic_read(&gctx->gc_seq));
1162         }
1163         return 0;
1164 }
1165
1166 static
1167 int gss_cli_ctx_validate_kr(struct ptlrpc_cli_ctx *ctx)
1168 {
1169         LASSERT(atomic_read(&ctx->cc_refcount) > 0);
1170         LASSERT(ctx->cc_sec);
1171
1172         if (cli_ctx_check_death(ctx)) {
1173                 kill_ctx_kr(ctx);
1174                 return 1;
1175         }
1176
1177         if (cli_ctx_is_ready(ctx))
1178                 return 0;
1179         return 1;
1180 }
1181
1182 static
1183 void gss_cli_ctx_die_kr(struct ptlrpc_cli_ctx *ctx, int grace)
1184 {
1185         LASSERT(atomic_read(&ctx->cc_refcount) > 0);
1186         LASSERT(ctx->cc_sec);
1187
1188         cli_ctx_expire(ctx);
1189         kill_ctx_kr(ctx);
1190 }
1191
1192 /****************************************
1193  * (reverse) service                    *
1194  ****************************************/
1195
1196 /*
1197  * reverse context could have nothing to do with keyrings. here we still keep
1198  * the version which bind to a key, for future reference.
1199  */
1200 #define HAVE_REVERSE_CTX_NOKEY
1201
1202 #ifdef HAVE_REVERSE_CTX_NOKEY
1203
1204 static
1205 int sec_install_rctx_kr(struct ptlrpc_sec *sec,
1206                         struct ptlrpc_svc_ctx *svc_ctx)
1207 {
1208         struct ptlrpc_cli_ctx *cli_ctx;
1209         struct vfs_cred vcred = { .vc_uid = 0 };
1210         int rc;
1211
1212         LASSERT(sec);
1213         LASSERT(svc_ctx);
1214
1215         cli_ctx = ctx_create_kr(sec, &vcred);
1216         if (cli_ctx == NULL)
1217                 return -ENOMEM;
1218
1219         rc = gss_copy_rvc_cli_ctx(cli_ctx, svc_ctx);
1220         if (rc) {
1221                 CERROR("failed copy reverse cli ctx: %d\n", rc);
1222
1223                 ctx_put_kr(cli_ctx, 1);
1224                 return rc;
1225         }
1226
1227         rvs_sec_install_root_ctx_kr(sec, cli_ctx, NULL);
1228
1229         ctx_put_kr(cli_ctx, 1);
1230
1231         return 0;
1232 }
1233
1234 #else /* ! HAVE_REVERSE_CTX_NOKEY */
1235
1236 static
1237 int sec_install_rctx_kr(struct ptlrpc_sec *sec,
1238                         struct ptlrpc_svc_ctx *svc_ctx)
1239 {
1240         struct ptlrpc_cli_ctx *cli_ctx = NULL;
1241         struct key *key;
1242         struct vfs_cred vcred = { .vc_uid = 0 };
1243         char desc[64];
1244         int rc;
1245
1246         LASSERT(sec);
1247         LASSERT(svc_ctx);
1248         CWARN("called\n");
1249
1250         construct_key_desc(desc, sizeof(desc), sec, 0);
1251
1252         key = key_alloc(&gss_key_type, desc, 0, 0,
1253                         KEY_POS_ALL | KEY_USR_ALL, 1);
1254         if (IS_ERR(key)) {
1255                 CERROR("failed to alloc key: %ld\n", PTR_ERR(key));
1256                 return PTR_ERR(key);
1257         }
1258
1259         rc = key_instantiate_and_link(key, NULL, 0, NULL, NULL);
1260         if (rc) {
1261                 CERROR("failed to instantiate key: %d\n", rc);
1262                 goto err_revoke;
1263         }
1264
1265         down_write(&key->sem);
1266
1267         LASSERT(!key_get_payload(key, 0));
1268
1269         cli_ctx = ctx_create_kr(sec, &vcred);
1270         if (cli_ctx == NULL) {
1271                 rc = -ENOMEM;
1272                 goto err_up;
1273         }
1274
1275         rc = gss_copy_rvc_cli_ctx(cli_ctx, svc_ctx);
1276         if (rc) {
1277                 CERROR("failed copy reverse cli ctx: %d\n", rc);
1278                 goto err_put;
1279         }
1280
1281         rvs_sec_install_root_ctx_kr(sec, cli_ctx, key);
1282
1283         ctx_put_kr(cli_ctx, 1);
1284         up_write(&key->sem);
1285
1286         rc = 0;
1287         CWARN("ok!\n");
1288 out:
1289         key_put(key);
1290         return rc;
1291
1292 err_put:
1293         ctx_put_kr(cli_ctx, 1);
1294 err_up:
1295         up_write(&key->sem);
1296 err_revoke:
1297         key_revoke(key);
1298         goto out;
1299 }
1300
1301 #endif /* HAVE_REVERSE_CTX_NOKEY */
1302
1303 /****************************************
1304  * service apis                         *
1305  ****************************************/
1306
1307 static
1308 int gss_svc_accept_kr(struct ptlrpc_request *req)
1309 {
1310         return gss_svc_accept(&gss_policy_keyring, req);
1311 }
1312
1313 static
1314 int gss_svc_install_rctx_kr(struct obd_import *imp,
1315                             struct ptlrpc_svc_ctx *svc_ctx)
1316 {
1317         struct ptlrpc_sec *sec;
1318         int                rc;
1319
1320         sec = sptlrpc_import_sec_ref(imp);
1321         LASSERT(sec);
1322
1323         rc = sec_install_rctx_kr(sec, svc_ctx);
1324         sptlrpc_sec_put(sec);
1325
1326         return rc;
1327 }
1328
1329 /****************************************
1330  * key apis                             *
1331  ****************************************/
1332
1333 static
1334 #ifdef HAVE_KEY_TYPE_INSTANTIATE_2ARGS
1335 int gss_kt_instantiate(struct key *key, struct key_preparsed_payload *prep)
1336 {
1337         const void     *data = prep->data;
1338         size_t          datalen = prep->datalen;
1339 #else
1340 int gss_kt_instantiate(struct key *key, const void *data, size_t datalen)
1341 {
1342 #endif
1343         int             rc;
1344         ENTRY;
1345
1346         if (data != NULL || datalen != 0) {
1347                 CERROR("invalid: data %p, len %lu\n", data, (long)datalen);
1348                 RETURN(-EINVAL);
1349         }
1350
1351         if (key_get_payload(key, 0)) {
1352                 CERROR("key already have payload\n");
1353                 RETURN(-EINVAL);
1354         }
1355
1356         /* link the key to session keyring, so following context negotiation
1357          * rpc fired from user space could find this key. This will be unlinked
1358          * automatically when upcall processes die.
1359          *
1360          * we can't do this through keyctl from userspace, because the upcall
1361          * might be neither possessor nor owner of the key (setuid).
1362          *
1363          * the session keyring is created upon upcall, and don't change all
1364          * the way until upcall finished, so rcu lock is not needed here.
1365          */
1366         LASSERT(current_cred()->session_keyring);
1367
1368         lockdep_off();
1369         rc = key_link(current_cred()->session_keyring, key);
1370         lockdep_on();
1371         if (unlikely(rc)) {
1372                 CERROR("failed to link key %08x to keyring %08x: %d\n",
1373                        key->serial,
1374                        current_cred()->session_keyring->serial, rc);
1375                 RETURN(rc);
1376         }
1377
1378         CDEBUG(D_SEC, "key %p instantiated, ctx %p\n", key,
1379                key_get_payload(key, 0));
1380         RETURN(0);
1381 }
1382
1383 /*
1384  * called with key semaphore write locked. it means we can operate
1385  * on the context without fear of loosing refcount.
1386  */
1387 static
1388 #ifdef HAVE_KEY_TYPE_INSTANTIATE_2ARGS
1389 int gss_kt_update(struct key *key, struct key_preparsed_payload *prep)
1390 {
1391         const void              *data = prep->data;
1392         __u32                    datalen32 = (__u32) prep->datalen;
1393 #else
1394 int gss_kt_update(struct key *key, const void *data, size_t datalen)
1395 {
1396         __u32                    datalen32 = (__u32) datalen;
1397 #endif
1398         struct ptlrpc_cli_ctx *ctx = key_get_payload(key, 0);
1399         struct gss_cli_ctx      *gctx;
1400         rawobj_t                 tmpobj = RAWOBJ_EMPTY;
1401         int                      rc;
1402         ENTRY;
1403
1404         if (data == NULL || datalen32 == 0) {
1405                 CWARN("invalid: data %p, len %lu\n", data, (long)datalen32);
1406                 RETURN(-EINVAL);
1407         }
1408
1409         /* if upcall finished negotiation too fast (mostly likely because
1410          * of local error happened) and call kt_update(), the ctx
1411          * might be still NULL. but the key will finally be associate
1412          * with a context, or be revoked. if key status is fine, return
1413          * -EAGAIN to allow userspace sleep a while and call again. */
1414         if (ctx == NULL) {
1415                 CDEBUG(D_SEC, "update too soon: key %p(%x) flags %lx\n",
1416                       key, key->serial, key->flags);
1417
1418                 rc = key_validate(key);
1419                 if (rc == 0)
1420                         RETURN(-EAGAIN);
1421                 else
1422                         RETURN(rc);
1423         }
1424
1425         LASSERT(atomic_read(&ctx->cc_refcount) > 0);
1426         LASSERT(ctx->cc_sec);
1427
1428         ctx_clear_timer_kr(ctx);
1429
1430         /* don't proceed if already refreshed */
1431         if (cli_ctx_is_refreshed(ctx)) {
1432                 CWARN("ctx already done refresh\n");
1433                 RETURN(0);
1434         }
1435
1436         sptlrpc_cli_ctx_get(ctx);
1437         gctx = ctx2gctx(ctx);
1438
1439         rc = buffer_extract_bytes(&data, &datalen32, &gctx->gc_win,
1440                                   sizeof(gctx->gc_win));
1441         if (rc) {
1442                 CERROR("failed extract seq_win\n");
1443                 goto out;
1444         }
1445
1446         if (gctx->gc_win == 0) {
1447                 __u32   nego_rpc_err, nego_gss_err;
1448
1449                 rc = buffer_extract_bytes(&data, &datalen32, &nego_rpc_err,
1450                                           sizeof(nego_rpc_err));
1451                 if (rc) {
1452                         CERROR("cannot extract RPC: rc = %d\n", rc);
1453                         goto out;
1454                 }
1455
1456                 rc = buffer_extract_bytes(&data, &datalen32, &nego_gss_err,
1457                                           sizeof(nego_gss_err));
1458                 if (rc) {
1459                         CERROR("failed to extract gss rc = %d\n", rc);
1460                         goto out;
1461                 }
1462
1463                 CERROR("negotiation: rpc err %d, gss err %x\n",
1464                        nego_rpc_err, nego_gss_err);
1465
1466                 rc = nego_rpc_err ? nego_rpc_err : -EACCES;
1467         } else {
1468                 rc = rawobj_extract_local_alloc(&gctx->gc_handle,
1469                                                 (__u32 **) &data, &datalen32);
1470                 if (rc) {
1471                         CERROR("failed extract handle\n");
1472                         goto out;
1473                 }
1474
1475                 rc = rawobj_extract_local(&tmpobj,
1476                                           (__u32 **) &data, &datalen32);
1477                 if (rc) {
1478                         CERROR("failed extract mech\n");
1479                         goto out;
1480                 }
1481
1482                 rc = lgss_import_sec_context(&tmpobj,
1483                                              sec2gsec(ctx->cc_sec)->gs_mech,
1484                                              &gctx->gc_mechctx);
1485                 if (rc != GSS_S_COMPLETE)
1486                         CERROR("failed import context\n");
1487                 else
1488                         rc = 0;
1489         }
1490 out:
1491         /* we don't care what current status of this ctx, even someone else
1492          * is operating on the ctx at the same time. we just add up our own
1493          * opinions here. */
1494         if (rc == 0) {
1495                 gss_cli_ctx_uptodate(gctx);
1496         } else {
1497                 /* this will also revoke the key. has to be done before
1498                  * wakeup waiters otherwise they can find the stale key */
1499                 kill_key_locked(key);
1500
1501                 cli_ctx_expire(ctx);
1502
1503                 if (rc != -ERESTART)
1504                         set_bit(PTLRPC_CTX_ERROR_BIT, &ctx->cc_flags);
1505         }
1506
1507         /* let user space think it's a success */
1508         sptlrpc_cli_ctx_put(ctx, 1);
1509         RETURN(0);
1510 }
1511
1512 #ifndef HAVE_KEY_MATCH_DATA
1513 static int
1514 gss_kt_match(const struct key *key, const void *desc)
1515 {
1516         return strcmp(key->description, (const char *) desc) == 0 &&
1517                 !test_bit(KEY_FLAG_REVOKED, &key->flags);
1518 }
1519 #else /* ! HAVE_KEY_MATCH_DATA */
1520 static bool
1521 gss_kt_match(const struct key *key, const struct key_match_data *match_data)
1522 {
1523         const char *desc = match_data->raw_data;
1524
1525         return strcmp(key->description, desc) == 0 &&
1526                 !test_bit(KEY_FLAG_REVOKED, &key->flags);
1527 }
1528
1529 /*
1530  * Preparse the match criterion.
1531  */
1532 static int gss_kt_match_preparse(struct key_match_data *match_data)
1533 {
1534         match_data->lookup_type = KEYRING_SEARCH_LOOKUP_DIRECT;
1535         match_data->cmp = gss_kt_match;
1536         return 0;
1537 }
1538 #endif /* HAVE_KEY_MATCH_DATA */
1539
1540 static
1541 void gss_kt_destroy(struct key *key)
1542 {
1543         ENTRY;
1544         LASSERT(!key_get_payload(key, 0));
1545         CDEBUG(D_SEC, "destroy key %p\n", key);
1546         EXIT;
1547 }
1548
1549 static
1550 void gss_kt_describe(const struct key *key, struct seq_file *s)
1551 {
1552         if (key->description == NULL)
1553                 seq_puts(s, "[null]");
1554         else
1555                 seq_puts(s, key->description);
1556 }
1557
1558 static struct key_type gss_key_type =
1559 {
1560         .name           = "lgssc",
1561         .def_datalen    = 0,
1562         .instantiate    = gss_kt_instantiate,
1563         .update         = gss_kt_update,
1564 #ifdef HAVE_KEY_MATCH_DATA
1565         .match_preparse = gss_kt_match_preparse,
1566 #else
1567         .match          = gss_kt_match,
1568 #endif
1569         .destroy        = gss_kt_destroy,
1570         .describe       = gss_kt_describe,
1571 };
1572
1573 /****************************************
1574  * lustre gss keyring policy            *
1575  ****************************************/
1576
1577 static struct ptlrpc_ctx_ops gss_keyring_ctxops = {
1578         .match                  = gss_cli_ctx_match,
1579         .refresh                = gss_cli_ctx_refresh_kr,
1580         .validate               = gss_cli_ctx_validate_kr,
1581         .die                    = gss_cli_ctx_die_kr,
1582         .sign                   = gss_cli_ctx_sign,
1583         .verify                 = gss_cli_ctx_verify,
1584         .seal                   = gss_cli_ctx_seal,
1585         .unseal                 = gss_cli_ctx_unseal,
1586         .wrap_bulk              = gss_cli_ctx_wrap_bulk,
1587         .unwrap_bulk            = gss_cli_ctx_unwrap_bulk,
1588 };
1589
1590 static struct ptlrpc_sec_cops gss_sec_keyring_cops = {
1591         .create_sec             = gss_sec_create_kr,
1592         .destroy_sec            = gss_sec_destroy_kr,
1593         .kill_sec               = gss_sec_kill,
1594         .lookup_ctx             = gss_sec_lookup_ctx_kr,
1595         .release_ctx            = gss_sec_release_ctx_kr,
1596         .flush_ctx_cache        = gss_sec_flush_ctx_cache_kr,
1597         .gc_ctx                 = gss_sec_gc_ctx_kr,
1598         .install_rctx           = gss_sec_install_rctx,
1599         .alloc_reqbuf           = gss_alloc_reqbuf,
1600         .free_reqbuf            = gss_free_reqbuf,
1601         .alloc_repbuf           = gss_alloc_repbuf,
1602         .free_repbuf            = gss_free_repbuf,
1603         .enlarge_reqbuf         = gss_enlarge_reqbuf,
1604         .display                = gss_sec_display_kr,
1605 };
1606
1607 static struct ptlrpc_sec_sops gss_sec_keyring_sops = {
1608         .accept                 = gss_svc_accept_kr,
1609         .invalidate_ctx         = gss_svc_invalidate_ctx,
1610         .alloc_rs               = gss_svc_alloc_rs,
1611         .authorize              = gss_svc_authorize,
1612         .free_rs                = gss_svc_free_rs,
1613         .free_ctx               = gss_svc_free_ctx,
1614         .prep_bulk              = gss_svc_prep_bulk,
1615         .unwrap_bulk            = gss_svc_unwrap_bulk,
1616         .wrap_bulk              = gss_svc_wrap_bulk,
1617         .install_rctx           = gss_svc_install_rctx_kr,
1618 };
1619
1620 static struct ptlrpc_sec_policy gss_policy_keyring = {
1621         .sp_owner               = THIS_MODULE,
1622         .sp_name                = "gss.keyring",
1623         .sp_policy              = SPTLRPC_POLICY_GSS,
1624         .sp_cops                = &gss_sec_keyring_cops,
1625         .sp_sops                = &gss_sec_keyring_sops,
1626 };
1627
1628
1629 int __init gss_init_keyring(void)
1630 {
1631         int rc;
1632
1633         rc = register_key_type(&gss_key_type);
1634         if (rc) {
1635                 CERROR("failed to register keyring type: %d\n", rc);
1636                 return rc;
1637         }
1638
1639         rc = sptlrpc_register_policy(&gss_policy_keyring);
1640         if (rc) {
1641                 unregister_key_type(&gss_key_type);
1642                 return rc;
1643         }
1644
1645         return 0;
1646 }
1647
1648 void __exit gss_exit_keyring(void)
1649 {
1650         unregister_key_type(&gss_key_type);
1651         sptlrpc_unregister_policy(&gss_policy_keyring);
1652 }