net/sunrpc/auth_gss/auth_gss.c

   1 /*
   2  * linux/net/sunrpc/auth_gss/auth_gss.c
   3  *
   4  * RPCSEC_GSS client authentication.
   5  *
   6  *  Copyright (c) 2000 The Regents of the University of Michigan.
   7  *  All rights reserved.
   8  *
   9  *  Dug Song       <dugsong@monkey.org>
  10  *  Andy Adamson   <andros@umich.edu>
  11  *
  12  *  Redistribution and use in source and binary forms, with or without
  13  *  modification, are permitted provided that the following conditions
  14  *  are met:
  15  *
  16  *  1. Redistributions of source code must retain the above copyright
  17  *     notice, this list of conditions and the following disclaimer.
  18  *  2. Redistributions in binary form must reproduce the above copyright
  19  *     notice, this list of conditions and the following disclaimer in the
  20  *     documentation and/or other materials provided with the distribution.
  21  *  3. Neither the name of the University nor the names of its
  22  *     contributors may be used to endorse or promote products derived
  23  *     from this software without specific prior written permission.
  24  *
  25  *  THIS SOFTWARE IS PROVIDED ``AS IS'' AND ANY EXPRESS OR IMPLIED
  26  *  WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF
  27  *  MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
  28  *  DISCLAIMED. IN NO EVENT SHALL THE REGENTS OR CONTRIBUTORS BE LIABLE
  29  *  FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  30  *  CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  31  *  SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR
  32  *  BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
  33  *  LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
  34  *  NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
  35  *  SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  36  *
  37  * $Id$
  38  */
  39
  40
  41 #include <linux/module.h>
  42 #include <linux/init.h>
  43 #include <linux/types.h>
  44 #include <linux/slab.h>
  45 #include <linux/sched.h>
  46 #include <linux/pagemap.h>
  47 #include <linux/sunrpc/clnt.h>
  48 #include <linux/sunrpc/auth.h>
  49 #include <linux/sunrpc/auth_gss.h>
  50 #include <linux/sunrpc/svcauth_gss.h>
  51 #include <linux/sunrpc/gss_err.h>
  52 #include <linux/workqueue.h>
  53 #include <linux/sunrpc/rpc_pipe_fs.h>
  54 #include <linux/sunrpc/gss_api.h>
  55 #include <asm/uaccess.h>
  56
  57 static const struct rpc_authops authgss_ops;
  58
  59 static const struct rpc_credops gss_credops;
  60
  61 #ifdef RPC_DEBUG
  62 # define RPCDBG_FACILITY        RPCDBG_AUTH
  63 #endif
  64
  65 #define NFS_NGROUPS     16
  66
  67 #define GSS_CRED_SLACK          1024            /* XXX: unused */
  68 /* length of a krb5 verifier (48), plus data added before arguments when
  69  * using integrity (two 4-byte integers): */
  70 #define GSS_VERF_SLACK          100
  71
  72 /* XXX this define must match the gssd define
  73 * as it is passed to gssd to signal the use of
  74 * machine creds should be part of the shared rpc interface */
  75
  76 #define CA_RUN_AS_MACHINE  0x00000200
  77
  78 /* dump the buffer in `emacs-hexl' style */
  79 #define isprint(c)      ((c > 0x1f) && (c < 0x7f))
  80
  81 struct gss_auth {
  82         struct kref kref;
  83         struct rpc_auth rpc_auth;
  84         struct gss_api_mech *mech;
  85         enum rpc_gss_svc service;
  86         struct rpc_clnt *client;
  87         struct dentry *dentry;
  88 };
  89
  90 static void gss_free_ctx(struct gss_cl_ctx *);
  91 static struct rpc_pipe_ops gss_upcall_ops;
  92
  93 static inline struct gss_cl_ctx *
  94 gss_get_ctx(struct gss_cl_ctx *ctx)
  95 {
  96         atomic_inc(&ctx->count);
  97         return ctx;
  98 }
  99
 100 static inline void
 101 gss_put_ctx(struct gss_cl_ctx *ctx)
 102 {
 103         if (atomic_dec_and_test(&ctx->count))
 104                 gss_free_ctx(ctx);
 105 }
 106
 107 /* gss_cred_set_ctx:
 108  * called by gss_upcall_callback and gss_create_upcall in order
 109  * to set the gss context. The actual exchange of an old context
 110  * and a new one is protected by the inode->i_lock.
 111  */
 112 static void
 113 gss_cred_set_ctx(struct rpc_cred *cred, struct gss_cl_ctx *ctx)
 114 {
 115         struct gss_cred *gss_cred = container_of(cred, struct gss_cred, gc_base);
 116         struct gss_cl_ctx *old;
 117
 118         old = gss_cred->gc_ctx;
 119         rcu_assign_pointer(gss_cred->gc_ctx, ctx);
 120         set_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags);
 121         clear_bit(RPCAUTH_CRED_NEW, &cred->cr_flags);
 122         if (old)
 123                 gss_put_ctx(old);
 124 }
 125
 126 static int
 127 gss_cred_is_uptodate_ctx(struct rpc_cred *cred)
 128 {
 129         struct gss_cred *gss_cred = container_of(cred, struct gss_cred, gc_base);
 130         int res = 0;
 131
 132         rcu_read_lock();
 133         if (test_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags) && gss_cred->gc_ctx)
 134                 res = 1;
 135         rcu_read_unlock();
 136         return res;
 137 }
 138
 139 static const void *
 140 simple_get_bytes(const void *p, const void *end, void *res, size_t len)
 141 {
 142         const void *q = (const void *)((const char *)p + len);
 143         if (unlikely(q > end || q < p))
 144                 return ERR_PTR(-EFAULT);
 145         memcpy(res, p, len);
 146         return q;
 147 }
 148
 149 static inline const void *
 150 simple_get_netobj(const void *p, const void *end, struct xdr_netobj *dest)
 151 {
 152         const void *q;
 153         unsigned int len;
 154
 155         p = simple_get_bytes(p, end, &len, sizeof(len));
 156         if (IS_ERR(p))
 157                 return p;
 158         q = (const void *)((const char *)p + len);
 159         if (unlikely(q > end || q < p))
 160                 return ERR_PTR(-EFAULT);
 161         dest->data = kmemdup(p, len, GFP_KERNEL);
 162         if (unlikely(dest->data == NULL))
 163                 return ERR_PTR(-ENOMEM);
 164         dest->len = len;
 165         return q;
 166 }
 167
 168 static struct gss_cl_ctx *
 169 gss_cred_get_ctx(struct rpc_cred *cred)
 170 {
 171         struct gss_cred *gss_cred = container_of(cred, struct gss_cred, gc_base);
 172         struct gss_cl_ctx *ctx = NULL;
 173
 174         rcu_read_lock();
 175         if (gss_cred->gc_ctx)
 176                 ctx = gss_get_ctx(gss_cred->gc_ctx);
 177         rcu_read_unlock();
 178         return ctx;
 179 }
 180
 181 static struct gss_cl_ctx *
 182 gss_alloc_context(void)
 183 {
 184         struct gss_cl_ctx *ctx;
 185
 186         ctx = kzalloc(sizeof(*ctx), GFP_KERNEL);
 187         if (ctx != NULL) {
 188                 ctx->gc_proc = RPC_GSS_PROC_DATA;
 189                 ctx->gc_seq = 1;        /* NetApp 6.4R1 doesn't accept seq. no. 0 */
 190                 spin_lock_init(&ctx->gc_seq_lock);
 191                 atomic_set(&ctx->count,1);
 192         }
 193         return ctx;
 194 }
 195
 196 #define GSSD_MIN_TIMEOUT (60 * 60)
 197 static const void *
 198 gss_fill_context(const void *p, const void *end, struct gss_cl_ctx *ctx, struct gss_api_mech *gm)
 199 {
 200         const void *q;
 201         unsigned int seclen;
 202         unsigned int timeout;
 203         u32 window_size;
 204         int ret;
 205
 206         /* First unsigned int gives the lifetime (in seconds) of the cred */
 207         p = simple_get_bytes(p, end, &timeout, sizeof(timeout));
 208         if (IS_ERR(p))
 209                 goto err;
 210         if (timeout == 0)
 211                 timeout = GSSD_MIN_TIMEOUT;
 212         ctx->gc_expiry = jiffies + (unsigned long)timeout * HZ * 3 / 4;
 213         /* Sequence number window. Determines the maximum number of simultaneous requests */
 214         p = simple_get_bytes(p, end, &window_size, sizeof(window_size));
 215         if (IS_ERR(p))
 216                 goto err;
 217         ctx->gc_win = window_size;
 218         /* gssd signals an error by passing ctx->gc_win = 0: */
 219         if (ctx->gc_win == 0) {
 220                 /* in which case, p points to  an error code which we ignore */
 221                 p = ERR_PTR(-EACCES);
 222                 goto err;
 223         }
 224         /* copy the opaque wire context */
 225         p = simple_get_netobj(p, end, &ctx->gc_wire_ctx);
 226         if (IS_ERR(p))
 227                 goto err;
 228         /* import the opaque security context */
 229         p  = simple_get_bytes(p, end, &seclen, sizeof(seclen));
 230         if (IS_ERR(p))
 231                 goto err;
 232         q = (const void *)((const char *)p + seclen);
 233         if (unlikely(q > end || q < p)) {
 234                 p = ERR_PTR(-EFAULT);
 235                 goto err;
 236         }
 237         ret = gss_import_sec_context(p, seclen, gm, &ctx->gc_gss_ctx);
 238         if (ret < 0) {
 239                 p = ERR_PTR(ret);
 240                 goto err;
 241         }
 242         return q;
 243 err:
 244         dprintk("RPC:       gss_fill_context returning %ld\n", -PTR_ERR(p));
 245         return p;
 246 }
 247
 248
 249 struct gss_upcall_msg {
 250         atomic_t count;
 251         uid_t   uid;
 252         struct rpc_pipe_msg msg;
 253         struct list_head list;
 254         struct gss_auth *auth;
 255         struct rpc_wait_queue rpc_waitqueue;
 256         wait_queue_head_t waitqueue;
 257         struct gss_cl_ctx *ctx;
 258 };
 259
 260 static void
 261 gss_release_msg(struct gss_upcall_msg *gss_msg)
 262 {
 263         if (!atomic_dec_and_test(&gss_msg->count))
 264                 return;
 265         BUG_ON(!list_empty(&gss_msg->list));
 266         if (gss_msg->ctx != NULL)
 267                 gss_put_ctx(gss_msg->ctx);
 268         kfree(gss_msg);
 269 }
 270
 271 static struct gss_upcall_msg *
 272 __gss_find_upcall(struct rpc_inode *rpci, uid_t uid)
 273 {
 274         struct gss_upcall_msg *pos;
 275         list_for_each_entry(pos, &rpci->in_downcall, list) {
 276                 if (pos->uid != uid)
 277                         continue;
 278                 atomic_inc(&pos->count);
 279                 dprintk("RPC:       gss_find_upcall found msg %p\n", pos);
 280                 return pos;
 281         }
 282         dprintk("RPC:       gss_find_upcall found nothing\n");
 283         return NULL;
 284 }
 285
 286 /* Try to add a upcall to the pipefs queue.
 287  * If an upcall owned by our uid already exists, then we return a reference
 288  * to that upcall instead of adding the new upcall.
 289  */
 290 static inline struct gss_upcall_msg *
 291 gss_add_msg(struct gss_auth *gss_auth, struct gss_upcall_msg *gss_msg)
 292 {
 293         struct inode *inode = gss_auth->dentry->d_inode;
 294         struct rpc_inode *rpci = RPC_I(inode);
 295         struct gss_upcall_msg *old;
 296
 297         spin_lock(&inode->i_lock);
 298         old = __gss_find_upcall(rpci, gss_msg->uid);
 299         if (old == NULL) {
 300                 atomic_inc(&gss_msg->count);
 301                 list_add(&gss_msg->list, &rpci->in_downcall);
 302         } else
 303                 gss_msg = old;
 304         spin_unlock(&inode->i_lock);
 305         return gss_msg;
 306 }
 307
 308 static void
 309 __gss_unhash_msg(struct gss_upcall_msg *gss_msg)
 310 {
 311         list_del_init(&gss_msg->list);
 312         rpc_wake_up_status(&gss_msg->rpc_waitqueue, gss_msg->msg.errno);
 313         wake_up_all(&gss_msg->waitqueue);
 314         atomic_dec(&gss_msg->count);
 315 }
 316
 317 static void
 318 gss_unhash_msg(struct gss_upcall_msg *gss_msg)
 319 {
 320         struct gss_auth *gss_auth = gss_msg->auth;
 321         struct inode *inode = gss_auth->dentry->d_inode;
 322
 323         if (list_empty(&gss_msg->list))
 324                 return;
 325         spin_lock(&inode->i_lock);
 326         if (!list_empty(&gss_msg->list))
 327                 __gss_unhash_msg(gss_msg);
 328         spin_unlock(&inode->i_lock);
 329 }
 330
 331 static void
 332 gss_upcall_callback(struct rpc_task *task)
 333 {
 334         struct gss_cred *gss_cred = container_of(task->tk_msg.rpc_cred,
 335                         struct gss_cred, gc_base);
 336         struct gss_upcall_msg *gss_msg = gss_cred->gc_upcall;
 337         struct inode *inode = gss_msg->auth->dentry->d_inode;
 338
 339         spin_lock(&inode->i_lock);
 340         if (gss_msg->ctx)
 341                 gss_cred_set_ctx(task->tk_msg.rpc_cred, gss_get_ctx(gss_msg->ctx));
 342         else
 343                 task->tk_status = gss_msg->msg.errno;
 344         gss_cred->gc_upcall = NULL;
 345         rpc_wake_up_status(&gss_msg->rpc_waitqueue, gss_msg->msg.errno);
 346         spin_unlock(&inode->i_lock);
 347         gss_release_msg(gss_msg);
 348 }
 349
 350 static inline struct gss_upcall_msg *
 351 gss_alloc_msg(struct gss_auth *gss_auth, uid_t uid)
 352 {
 353         struct gss_upcall_msg *gss_msg;
 354
 355         gss_msg = kzalloc(sizeof(*gss_msg), GFP_KERNEL);
 356         if (gss_msg != NULL) {
 357                 INIT_LIST_HEAD(&gss_msg->list);
 358                 rpc_init_wait_queue(&gss_msg->rpc_waitqueue, "RPCSEC_GSS upcall waitq");
 359                 init_waitqueue_head(&gss_msg->waitqueue);
 360                 atomic_set(&gss_msg->count, 1);
 361                 gss_msg->msg.data = &gss_msg->uid;
 362                 gss_msg->msg.len = sizeof(gss_msg->uid);
 363                 gss_msg->uid = uid;
 364                 gss_msg->auth = gss_auth;
 365         }
 366         return gss_msg;
 367 }
 368
 369 static struct gss_upcall_msg *
 370 gss_setup_upcall(struct rpc_clnt *clnt, struct gss_auth *gss_auth, struct rpc_cred *cred)
 371 {
 372         struct gss_upcall_msg *gss_new, *gss_msg;
 373
 374         gss_new = gss_alloc_msg(gss_auth, cred->cr_uid);
 375         if (gss_new == NULL)
 376                 return ERR_PTR(-ENOMEM);
 377         gss_msg = gss_add_msg(gss_auth, gss_new);
 378         if (gss_msg == gss_new) {
 379                 int res = rpc_queue_upcall(gss_auth->dentry->d_inode, &gss_new->msg);
 380                 if (res) {
 381                         gss_unhash_msg(gss_new);
 382                         gss_msg = ERR_PTR(res);
 383                 }
 384         } else
 385                 gss_release_msg(gss_new);
 386         return gss_msg;
 387 }
 388
 389 static inline int
 390 gss_refresh_upcall(struct rpc_task *task)
 391 {
 392         struct rpc_cred *cred = task->tk_msg.rpc_cred;
 393         struct gss_auth *gss_auth = container_of(cred->cr_auth,
 394                         struct gss_auth, rpc_auth);
 395         struct gss_cred *gss_cred = container_of(cred,
 396                         struct gss_cred, gc_base);
 397         struct gss_upcall_msg *gss_msg;
 398         struct inode *inode = gss_auth->dentry->d_inode;
 399         int err = 0;
 400
 401         dprintk("RPC: %5u gss_refresh_upcall for uid %u\n", task->tk_pid,
 402                                                                 cred->cr_uid);
 403         gss_msg = gss_setup_upcall(task->tk_client, gss_auth, cred);
 404         if (IS_ERR(gss_msg)) {
 405                 err = PTR_ERR(gss_msg);
 406                 goto out;
 407         }
 408         spin_lock(&inode->i_lock);
 409         if (gss_cred->gc_upcall != NULL)
 410                 rpc_sleep_on(&gss_cred->gc_upcall->rpc_waitqueue, task, NULL, NULL);
 411         else if (gss_msg->ctx == NULL && gss_msg->msg.errno >= 0) {
 412                 task->tk_timeout = 0;
 413                 gss_cred->gc_upcall = gss_msg;
 414                 /* gss_upcall_callback will release the reference to gss_upcall_msg */
 415                 atomic_inc(&gss_msg->count);
 416                 rpc_sleep_on(&gss_msg->rpc_waitqueue, task, gss_upcall_callback, NULL);
 417         } else
 418                 err = gss_msg->msg.errno;
 419         spin_unlock(&inode->i_lock);
 420         gss_release_msg(gss_msg);
 421 out:
 422         dprintk("RPC: %5u gss_refresh_upcall for uid %u result %d\n",
 423                         task->tk_pid, cred->cr_uid, err);
 424         return err;
 425 }
 426
 427 static inline int
 428 gss_create_upcall(struct gss_auth *gss_auth, struct gss_cred *gss_cred)
 429 {
 430         struct inode *inode = gss_auth->dentry->d_inode;
 431         struct rpc_cred *cred = &gss_cred->gc_base;
 432         struct gss_upcall_msg *gss_msg;
 433         DEFINE_WAIT(wait);
 434         int err = 0;
 435
 436         dprintk("RPC:       gss_upcall for uid %u\n", cred->cr_uid);
 437         gss_msg = gss_setup_upcall(gss_auth->client, gss_auth, cred);
 438         if (IS_ERR(gss_msg)) {
 439                 err = PTR_ERR(gss_msg);
 440                 goto out;
 441         }
 442         for (;;) {
 443                 prepare_to_wait(&gss_msg->waitqueue, &wait, TASK_INTERRUPTIBLE);
 444                 spin_lock(&inode->i_lock);
 445                 if (gss_msg->ctx != NULL || gss_msg->msg.errno < 0) {
 446                         break;
 447                 }
 448                 spin_unlock(&inode->i_lock);
 449                 if (signalled()) {
 450                         err = -ERESTARTSYS;
 451                         goto out_intr;
 452                 }
 453                 schedule();
 454         }
 455         if (gss_msg->ctx)
 456                 gss_cred_set_ctx(cred, gss_get_ctx(gss_msg->ctx));
 457         else
 458                 err = gss_msg->msg.errno;
 459         spin_unlock(&inode->i_lock);
 460 out_intr:
 461         finish_wait(&gss_msg->waitqueue, &wait);
 462         gss_release_msg(gss_msg);
 463 out:
 464         dprintk("RPC:       gss_create_upcall for uid %u result %d\n",
 465                         cred->cr_uid, err);
 466         return err;
 467 }
 468
 469 static ssize_t
 470 gss_pipe_upcall(struct file *filp, struct rpc_pipe_msg *msg,
 471                 char __user *dst, size_t buflen)
 472 {
 473         char *data = (char *)msg->data + msg->copied;
 474         ssize_t mlen = msg->len;
 475         ssize_t left;
 476
 477         if (mlen > buflen)
 478                 mlen = buflen;
 479         left = copy_to_user(dst, data, mlen);
 480         if (left < 0) {
 481                 msg->errno = left;
 482                 return left;
 483         }
 484         mlen -= left;
 485         msg->copied += mlen;
 486         msg->errno = 0;
 487         return mlen;
 488 }
 489
 490 #define MSG_BUF_MAXSIZE 1024
 491
 492 static ssize_t
 493 gss_pipe_downcall(struct file *filp, const char __user *src, size_t mlen)
 494 {
 495         const void *p, *end;
 496         void *buf;
 497         struct rpc_clnt *clnt;
 498         struct gss_upcall_msg *gss_msg;
 499         struct inode *inode = filp->f_path.dentry->d_inode;
 500         struct gss_cl_ctx *ctx;
 501         uid_t uid;
 502         ssize_t err = -EFBIG;
 503
 504         if (mlen > MSG_BUF_MAXSIZE)
 505                 goto out;
 506         err = -ENOMEM;
 507         buf = kmalloc(mlen, GFP_KERNEL);
 508         if (!buf)
 509                 goto out;
 510
 511         clnt = RPC_I(inode)->private;
 512         err = -EFAULT;
 513         if (copy_from_user(buf, src, mlen))
 514                 goto err;
 515
 516         end = (const void *)((char *)buf + mlen);
 517         p = simple_get_bytes(buf, end, &uid, sizeof(uid));
 518         if (IS_ERR(p)) {
 519                 err = PTR_ERR(p);
 520                 goto err;
 521         }
 522
 523         err = -ENOMEM;
 524         ctx = gss_alloc_context();
 525         if (ctx == NULL)
 526                 goto err;
 527
 528         err = -ENOENT;
 529         /* Find a matching upcall */
 530         spin_lock(&inode->i_lock);
 531         gss_msg = __gss_find_upcall(RPC_I(inode), uid);
 532         if (gss_msg == NULL) {
 533                 spin_unlock(&inode->i_lock);
 534                 goto err_put_ctx;
 535         }
 536         list_del_init(&gss_msg->list);
 537         spin_unlock(&inode->i_lock);
 538
 539         p = gss_fill_context(p, end, ctx, gss_msg->auth->mech);
 540         if (IS_ERR(p)) {
 541                 err = PTR_ERR(p);
 542                 gss_msg->msg.errno = (err == -EACCES) ? -EACCES : -EAGAIN;
 543                 goto err_release_msg;
 544         }
 545         gss_msg->ctx = gss_get_ctx(ctx);
 546         err = mlen;
 547
 548 err_release_msg:
 549         spin_lock(&inode->i_lock);
 550         __gss_unhash_msg(gss_msg);
 551         spin_unlock(&inode->i_lock);
 552         gss_release_msg(gss_msg);
 553 err_put_ctx:
 554         gss_put_ctx(ctx);
 555 err:
 556         kfree(buf);
 557 out:
 558         dprintk("RPC:       gss_pipe_downcall returning %Zd\n", err);
 559         return err;
 560 }
 561
 562 static void
 563 gss_pipe_release(struct inode *inode)
 564 {
 565         struct rpc_inode *rpci = RPC_I(inode);
 566         struct gss_upcall_msg *gss_msg;
 567
 568         spin_lock(&inode->i_lock);
 569         while (!list_empty(&rpci->in_downcall)) {
 570
 571                 gss_msg = list_entry(rpci->in_downcall.next,
 572                                 struct gss_upcall_msg, list);
 573                 gss_msg->msg.errno = -EPIPE;
 574                 atomic_inc(&gss_msg->count);
 575                 __gss_unhash_msg(gss_msg);
 576                 spin_unlock(&inode->i_lock);
 577                 gss_release_msg(gss_msg);
 578                 spin_lock(&inode->i_lock);
 579         }
 580         spin_unlock(&inode->i_lock);
 581 }
 582
 583 static void
 584 gss_pipe_destroy_msg(struct rpc_pipe_msg *msg)
 585 {
 586         struct gss_upcall_msg *gss_msg = container_of(msg, struct gss_upcall_msg, msg);
 587         static unsigned long ratelimit;
 588
 589         if (msg->errno < 0) {
 590                 dprintk("RPC:       gss_pipe_destroy_msg releasing msg %p\n",
 591                                 gss_msg);
 592                 atomic_inc(&gss_msg->count);
 593                 gss_unhash_msg(gss_msg);
 594                 if (msg->errno == -ETIMEDOUT) {
 595                         unsigned long now = jiffies;
 596                         if (time_after(now, ratelimit)) {
 597                                 printk(KERN_WARNING "RPC: AUTH_GSS upcall timed out.\n"
 598                                                     "Please check user daemon is running!\n");
 599                                 ratelimit = now + 15*HZ;
 600                         }
 601                 }
 602                 gss_release_msg(gss_msg);
 603         }
 604 }
 605
 606 /*
 607  * NOTE: we have the opportunity to use different
 608  * parameters based on the input flavor (which must be a pseudoflavor)
 609  */
 610 static struct rpc_auth *
 611 gss_create(struct rpc_clnt *clnt, rpc_authflavor_t flavor)
 612 {
 613         struct gss_auth *gss_auth;
 614         struct rpc_auth * auth;
 615         int err = -ENOMEM; /* XXX? */
 616
 617         dprintk("RPC:       creating GSS authenticator for client %p\n", clnt);
 618
 619         if (!try_module_get(THIS_MODULE))
 620                 return ERR_PTR(err);
 621         if (!(gss_auth = kmalloc(sizeof(*gss_auth), GFP_KERNEL)))
 622                 goto out_dec;
 623         gss_auth->client = clnt;
 624         err = -EINVAL;
 625         gss_auth->mech = gss_mech_get_by_pseudoflavor(flavor);
 626         if (!gss_auth->mech) {
 627                 printk(KERN_WARNING "%s: Pseudoflavor %d not found!",
 628                                 __FUNCTION__, flavor);
 629                 goto err_free;
 630         }
 631         gss_auth->service = gss_pseudoflavor_to_service(gss_auth->mech, flavor);
 632         if (gss_auth->service == 0)
 633                 goto err_put_mech;
 634         auth = &gss_auth->rpc_auth;
 635         auth->au_cslack = GSS_CRED_SLACK >> 2;
 636         auth->au_rslack = GSS_VERF_SLACK >> 2;
 637         auth->au_ops = &authgss_ops;
 638         auth->au_flavor = flavor;
 639         atomic_set(&auth->au_count, 1);
 640         kref_init(&gss_auth->kref);
 641
 642         gss_auth->dentry = rpc_mkpipe(clnt->cl_dentry, gss_auth->mech->gm_name,
 643                         clnt, &gss_upcall_ops, RPC_PIPE_WAIT_FOR_OPEN);
 644         if (IS_ERR(gss_auth->dentry)) {
 645                 err = PTR_ERR(gss_auth->dentry);
 646                 goto err_put_mech;
 647         }
 648
 649         err = rpcauth_init_credcache(auth);
 650         if (err)
 651                 goto err_unlink_pipe;
 652
 653         return auth;
 654 err_unlink_pipe:
 655         rpc_unlink(gss_auth->dentry);
 656 err_put_mech:
 657         gss_mech_put(gss_auth->mech);
 658 err_free:
 659         kfree(gss_auth);
 660 out_dec:
 661         module_put(THIS_MODULE);
 662         return ERR_PTR(err);
 663 }
 664
 665 static void
 666 gss_free(struct gss_auth *gss_auth)
 667 {
 668         rpc_unlink(gss_auth->dentry);
 669         gss_auth->dentry = NULL;
 670         gss_mech_put(gss_auth->mech);
 671
 672         kfree(gss_auth);
 673         module_put(THIS_MODULE);
 674 }
 675
 676 static void
 677 gss_free_callback(struct kref *kref)
 678 {
 679         struct gss_auth *gss_auth = container_of(kref, struct gss_auth, kref);
 680
 681         gss_free(gss_auth);
 682 }
 683
 684 static void
 685 gss_destroy(struct rpc_auth *auth)
 686 {
 687         struct gss_auth *gss_auth;
 688
 689         dprintk("RPC:       destroying GSS authenticator %p flavor %d\n",
 690                         auth, auth->au_flavor);
 691
 692         rpcauth_destroy_credcache(auth);
 693
 694         gss_auth = container_of(auth, struct gss_auth, rpc_auth);
 695         kref_put(&gss_auth->kref, gss_free_callback);
 696 }
 697
 698 /* gss_destroy_cred (and gss_destroy_ctx) are used to clean up after failure
 699  * to create a new cred or context, so they check that things have been
 700  * allocated before freeing them. */
 701 static void
 702 gss_do_free_ctx(struct gss_cl_ctx *ctx)
 703 {
 704         dprintk("RPC:       gss_free_ctx\n");
 705
 706         if (ctx->gc_gss_ctx)
 707                 gss_delete_sec_context(&ctx->gc_gss_ctx);
 708
 709         kfree(ctx->gc_wire_ctx.data);
 710         kfree(ctx);
 711 }
 712
 713 static void
 714 gss_free_ctx_callback(struct rcu_head *head)
 715 {
 716         struct gss_cl_ctx *ctx = container_of(head, struct gss_cl_ctx, gc_rcu);
 717         gss_do_free_ctx(ctx);
 718 }
 719
 720 static void
 721 gss_free_ctx(struct gss_cl_ctx *ctx)
 722 {
 723         call_rcu(&ctx->gc_rcu, gss_free_ctx_callback);
 724 }
 725
 726 static void
 727 gss_free_cred(struct gss_cred *gss_cred)
 728 {
 729         dprintk("RPC:       gss_free_cred %p\n", gss_cred);
 730         kfree(gss_cred);
 731 }
 732
 733 static void
 734 gss_free_cred_callback(struct rcu_head *head)
 735 {
 736         struct gss_cred *gss_cred = container_of(head, struct gss_cred, gc_base.cr_rcu);
 737         gss_free_cred(gss_cred);
 738 }
 739
 740 static void
 741 gss_destroy_cred(struct rpc_cred *cred)
 742 {
 743         struct gss_cred *gss_cred = container_of(cred, struct gss_cred, gc_base);
 744         struct gss_auth *gss_auth = container_of(cred->cr_auth, struct gss_auth, rpc_auth);
 745         struct gss_cl_ctx *ctx = gss_cred->gc_ctx;
 746
 747         rcu_assign_pointer(gss_cred->gc_ctx, NULL);
 748         call_rcu(&cred->cr_rcu, gss_free_cred_callback);
 749         if (ctx)
 750                 gss_put_ctx(ctx);
 751         kref_put(&gss_auth->kref, gss_free_callback);
 752 }
 753
 754 /*
 755  * Lookup RPCSEC_GSS cred for the current process
 756  */
 757 static struct rpc_cred *
 758 gss_lookup_cred(struct rpc_auth *auth, struct auth_cred *acred, int flags)
 759 {
 760         return rpcauth_lookup_credcache(auth, acred, flags);
 761 }
 762
 763 static struct rpc_cred *
 764 gss_create_cred(struct rpc_auth *auth, struct auth_cred *acred, int flags)
 765 {
 766         struct gss_auth *gss_auth = container_of(auth, struct gss_auth, rpc_auth);
 767         struct gss_cred *cred = NULL;
 768         int err = -ENOMEM;
 769
 770         dprintk("RPC:       gss_create_cred for uid %d, flavor %d\n",
 771                 acred->uid, auth->au_flavor);
 772
 773         if (!(cred = kzalloc(sizeof(*cred), GFP_KERNEL)))
 774                 goto out_err;
 775
 776         rpcauth_init_cred(&cred->gc_base, acred, auth, &gss_credops);
 777         /*
 778          * Note: in order to force a call to call_refresh(), we deliberately
 779          * fail to flag the credential as RPCAUTH_CRED_UPTODATE.
 780          */
 781         cred->gc_base.cr_flags = 1UL << RPCAUTH_CRED_NEW;
 782         cred->gc_service = gss_auth->service;
 783         kref_get(&gss_auth->kref);
 784         return &cred->gc_base;
 785
 786 out_err:
 787         dprintk("RPC:       gss_create_cred failed with error %d\n", err);
 788         return ERR_PTR(err);
 789 }
 790
 791 static int
 792 gss_cred_init(struct rpc_auth *auth, struct rpc_cred *cred)
 793 {
 794         struct gss_auth *gss_auth = container_of(auth, struct gss_auth, rpc_auth);
 795         struct gss_cred *gss_cred = container_of(cred,struct gss_cred, gc_base);
 796         int err;
 797
 798         do {
 799                 err = gss_create_upcall(gss_auth, gss_cred);
 800         } while (err == -EAGAIN);
 801         return err;
 802 }
 803
 804 static int
 805 gss_match(struct auth_cred *acred, struct rpc_cred *rc, int flags)
 806 {
 807         struct gss_cred *gss_cred = container_of(rc, struct gss_cred, gc_base);
 808
 809         /*
 810          * If the searchflags have set RPCAUTH_LOOKUP_NEW, then
 811          * we don't really care if the credential has expired or not,
 812          * since the caller should be prepared to reinitialise it.
 813          */
 814         if ((flags & RPCAUTH_LOOKUP_NEW) && test_bit(RPCAUTH_CRED_NEW, &rc->cr_flags))
 815                 goto out;
 816         /* Don't match with creds that have expired. */
 817         if (gss_cred->gc_ctx && time_after(jiffies, gss_cred->gc_ctx->gc_expiry))
 818                 return 0;
 819 out:
 820         return (rc->cr_uid == acred->uid);
 821 }
 822
 823 /*
 824 * Marshal credentials.
 825 * Maybe we should keep a cached credential for performance reasons.
 826 */
 827 static __be32 *
 828 gss_marshal(struct rpc_task *task, __be32 *p)
 829 {
 830         struct rpc_cred *cred = task->tk_msg.rpc_cred;
 831         struct gss_cred *gss_cred = container_of(cred, struct gss_cred,
 832                                                  gc_base);
 833         struct gss_cl_ctx       *ctx = gss_cred_get_ctx(cred);
 834         __be32          *cred_len;
 835         struct rpc_rqst *req = task->tk_rqstp;
 836         u32             maj_stat = 0;
 837         struct xdr_netobj mic;
 838         struct kvec     iov;
 839         struct xdr_buf  verf_buf;
 840
 841         dprintk("RPC: %5u gss_marshal\n", task->tk_pid);
 842
 843         *p++ = htonl(RPC_AUTH_GSS);
 844         cred_len = p++;
 845
 846         spin_lock(&ctx->gc_seq_lock);
 847         req->rq_seqno = ctx->gc_seq++;
 848         spin_unlock(&ctx->gc_seq_lock);
 849
 850         *p++ = htonl((u32) RPC_GSS_VERSION);
 851         *p++ = htonl((u32) ctx->gc_proc);
 852         *p++ = htonl((u32) req->rq_seqno);
 853         *p++ = htonl((u32) gss_cred->gc_service);
 854         p = xdr_encode_netobj(p, &ctx->gc_wire_ctx);
 855         *cred_len = htonl((p - (cred_len + 1)) << 2);
 856
 857         /* We compute the checksum for the verifier over the xdr-encoded bytes
 858          * starting with the xid and ending at the end of the credential: */
 859         iov.iov_base = xprt_skip_transport_header(task->tk_xprt,
 860                                         req->rq_snd_buf.head[0].iov_base);
 861         iov.iov_len = (u8 *)p - (u8 *)iov.iov_base;
 862         xdr_buf_from_iov(&iov, &verf_buf);
 863
 864         /* set verifier flavor*/
 865         *p++ = htonl(RPC_AUTH_GSS);
 866
 867         mic.data = (u8 *)(p + 1);
 868         maj_stat = gss_get_mic(ctx->gc_gss_ctx, &verf_buf, &mic);
 869         if (maj_stat == GSS_S_CONTEXT_EXPIRED) {
 870                 clear_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags);
 871         } else if (maj_stat != 0) {
 872                 printk("gss_marshal: gss_get_mic FAILED (%d)\n", maj_stat);
 873                 goto out_put_ctx;
 874         }
 875         p = xdr_encode_opaque(p, NULL, mic.len);
 876         gss_put_ctx(ctx);
 877         return p;
 878 out_put_ctx:
 879         gss_put_ctx(ctx);
 880         return NULL;
 881 }
 882
 883 /*
 884 * Refresh credentials. XXX - finish
 885 */
 886 static int
 887 gss_refresh(struct rpc_task *task)
 888 {
 889
 890         if (!gss_cred_is_uptodate_ctx(task->tk_msg.rpc_cred))
 891                 return gss_refresh_upcall(task);
 892         return 0;
 893 }
 894
 895 static __be32 *
 896 gss_validate(struct rpc_task *task, __be32 *p)
 897 {
 898         struct rpc_cred *cred = task->tk_msg.rpc_cred;
 899         struct gss_cl_ctx *ctx = gss_cred_get_ctx(cred);
 900         __be32          seq;
 901         struct kvec     iov;
 902         struct xdr_buf  verf_buf;
 903         struct xdr_netobj mic;
 904         u32             flav,len;
 905         u32             maj_stat;
 906
 907         dprintk("RPC: %5u gss_validate\n", task->tk_pid);
 908
 909         flav = ntohl(*p++);
 910         if ((len = ntohl(*p++)) > RPC_MAX_AUTH_SIZE)
 911                 goto out_bad;
 912         if (flav != RPC_AUTH_GSS)
 913                 goto out_bad;
 914         seq = htonl(task->tk_rqstp->rq_seqno);
 915         iov.iov_base = &seq;
 916         iov.iov_len = sizeof(seq);
 917         xdr_buf_from_iov(&iov, &verf_buf);
 918         mic.data = (u8 *)p;
 919         mic.len = len;
 920
 921         maj_stat = gss_verify_mic(ctx->gc_gss_ctx, &verf_buf, &mic);
 922         if (maj_stat == GSS_S_CONTEXT_EXPIRED)
 923                 clear_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags);
 924         if (maj_stat)
 925                 goto out_bad;
 926         /* We leave it to unwrap to calculate au_rslack. For now we just
 927          * calculate the length of the verifier: */
 928         cred->cr_auth->au_verfsize = XDR_QUADLEN(len) + 2;
 929         gss_put_ctx(ctx);
 930         dprintk("RPC: %5u gss_validate: gss_verify_mic succeeded.\n",
 931                         task->tk_pid);
 932         return p + XDR_QUADLEN(len);
 933 out_bad:
 934         gss_put_ctx(ctx);
 935         dprintk("RPC: %5u gss_validate failed.\n", task->tk_pid);
 936         return NULL;
 937 }
 938
 939 static inline int
 940 gss_wrap_req_integ(struct rpc_cred *cred, struct gss_cl_ctx *ctx,
 941                 kxdrproc_t encode, struct rpc_rqst *rqstp, __be32 *p, void *obj)
 942 {
 943         struct xdr_buf  *snd_buf = &rqstp->rq_snd_buf;
 944         struct xdr_buf  integ_buf;
 945         __be32          *integ_len = NULL;
 946         struct xdr_netobj mic;
 947         u32             offset;
 948         __be32          *q;
 949         struct kvec     *iov;
 950         u32             maj_stat = 0;
 951         int             status = -EIO;
 952
 953         integ_len = p++;
 954         offset = (u8 *)p - (u8 *)snd_buf->head[0].iov_base;
 955         *p++ = htonl(rqstp->rq_seqno);
 956
 957         status = encode(rqstp, p, obj);
 958         if (status)
 959                 return status;
 960
 961         if (xdr_buf_subsegment(snd_buf, &integ_buf,
 962                                 offset, snd_buf->len - offset))
 963                 return status;
 964         *integ_len = htonl(integ_buf.len);
 965
 966         /* guess whether we're in the head or the tail: */
 967         if (snd_buf->page_len || snd_buf->tail[0].iov_len)
 968                 iov = snd_buf->tail;
 969         else
 970                 iov = snd_buf->head;
 971         p = iov->iov_base + iov->iov_len;
 972         mic.data = (u8 *)(p + 1);
 973
 974         maj_stat = gss_get_mic(ctx->gc_gss_ctx, &integ_buf, &mic);
 975         status = -EIO; /* XXX? */
 976         if (maj_stat == GSS_S_CONTEXT_EXPIRED)
 977                 clear_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags);
 978         else if (maj_stat)
 979                 return status;
 980         q = xdr_encode_opaque(p, NULL, mic.len);
 981
 982         offset = (u8 *)q - (u8 *)p;
 983         iov->iov_len += offset;
 984         snd_buf->len += offset;
 985         return 0;
 986 }
 987
 988 static void
 989 priv_release_snd_buf(struct rpc_rqst *rqstp)
 990 {
 991         int i;
 992
 993         for (i=0; i < rqstp->rq_enc_pages_num; i++)
 994                 __free_page(rqstp->rq_enc_pages[i]);
 995         kfree(rqstp->rq_enc_pages);
 996 }
 997
 998 static int
 999 alloc_enc_pages(struct rpc_rqst *rqstp)
1000 {
1001         struct xdr_buf *snd_buf = &rqstp->rq_snd_buf;
1002         int first, last, i;
1003
1004         if (snd_buf->page_len == 0) {
1005                 rqstp->rq_enc_pages_num = 0;
1006                 return 0;
1007         }
1008
1009         first = snd_buf->page_base >> PAGE_CACHE_SHIFT;
1010         last = (snd_buf->page_base + snd_buf->page_len - 1) >> PAGE_CACHE_SHIFT;
1011         rqstp->rq_enc_pages_num = last - first + 1 + 1;
1012         rqstp->rq_enc_pages
1013                 = kmalloc(rqstp->rq_enc_pages_num * sizeof(struct page *),
1014                                 GFP_NOFS);
1015         if (!rqstp->rq_enc_pages)
1016                 goto out;
1017         for (i=0; i < rqstp->rq_enc_pages_num; i++) {
1018                 rqstp->rq_enc_pages[i] = alloc_page(GFP_NOFS);
1019                 if (rqstp->rq_enc_pages[i] == NULL)
1020                         goto out_free;
1021         }
1022         rqstp->rq_release_snd_buf = priv_release_snd_buf;
1023         return 0;
1024 out_free:
1025         for (i--; i >= 0; i--) {
1026                 __free_page(rqstp->rq_enc_pages[i]);
1027         }
1028 out:
1029         return -EAGAIN;
1030 }
1031
1032 static inline int
1033 gss_wrap_req_priv(struct rpc_cred *cred, struct gss_cl_ctx *ctx,
1034                 kxdrproc_t encode, struct rpc_rqst *rqstp, __be32 *p, void *obj)
1035 {
1036         struct xdr_buf  *snd_buf = &rqstp->rq_snd_buf;
1037         u32             offset;
1038         u32             maj_stat;
1039         int             status;
1040         __be32          *opaque_len;
1041         struct page     **inpages;
1042         int             first;
1043         int             pad;
1044         struct kvec     *iov;
1045         char            *tmp;
1046
1047         opaque_len = p++;
1048         offset = (u8 *)p - (u8 *)snd_buf->head[0].iov_base;
1049         *p++ = htonl(rqstp->rq_seqno);
1050
1051         status = encode(rqstp, p, obj);
1052         if (status)
1053                 return status;
1054
1055         status = alloc_enc_pages(rqstp);
1056         if (status)
1057                 return status;
1058         first = snd_buf->page_base >> PAGE_CACHE_SHIFT;
1059         inpages = snd_buf->pages + first;
1060         snd_buf->pages = rqstp->rq_enc_pages;
1061         snd_buf->page_base -= first << PAGE_CACHE_SHIFT;
1062         /* Give the tail its own page, in case we need extra space in the
1063          * head when wrapping: */
1064         if (snd_buf->page_len || snd_buf->tail[0].iov_len) {
1065                 tmp = page_address(rqstp->rq_enc_pages[rqstp->rq_enc_pages_num - 1]);
1066                 memcpy(tmp, snd_buf->tail[0].iov_base, snd_buf->tail[0].iov_len);
1067                 snd_buf->tail[0].iov_base = tmp;
1068         }
1069         maj_stat = gss_wrap(ctx->gc_gss_ctx, offset, snd_buf, inpages);
1070         /* RPC_SLACK_SPACE should prevent this ever happening: */
1071         BUG_ON(snd_buf->len > snd_buf->buflen);
1072         status = -EIO;
1073         /* We're assuming that when GSS_S_CONTEXT_EXPIRED, the encryption was
1074          * done anyway, so it's safe to put the request on the wire: */
1075         if (maj_stat == GSS_S_CONTEXT_EXPIRED)
1076                 clear_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags);
1077         else if (maj_stat)
1078                 return status;
1079
1080         *opaque_len = htonl(snd_buf->len - offset);
1081         /* guess whether we're in the head or the tail: */
1082         if (snd_buf->page_len || snd_buf->tail[0].iov_len)
1083                 iov = snd_buf->tail;
1084         else
1085                 iov = snd_buf->head;
1086         p = iov->iov_base + iov->iov_len;
1087         pad = 3 - ((snd_buf->len - offset - 1) & 3);
1088         memset(p, 0, pad);
1089         iov->iov_len += pad;
1090         snd_buf->len += pad;
1091
1092         return 0;
1093 }
1094
1095 static int
1096 gss_wrap_req(struct rpc_task *task,
1097              kxdrproc_t encode, void *rqstp, __be32 *p, void *obj)
1098 {
1099         struct rpc_cred *cred = task->tk_msg.rpc_cred;
1100         struct gss_cred *gss_cred = container_of(cred, struct gss_cred,
1101                         gc_base);
1102         struct gss_cl_ctx *ctx = gss_cred_get_ctx(cred);
1103         int             status = -EIO;
1104
1105         dprintk("RPC: %5u gss_wrap_req\n", task->tk_pid);
1106         if (ctx->gc_proc != RPC_GSS_PROC_DATA) {
1107                 /* The spec seems a little ambiguous here, but I think that not
1108                  * wrapping context destruction requests makes the most sense.
1109                  */
1110                 status = encode(rqstp, p, obj);
1111                 goto out;
1112         }
1113         switch (gss_cred->gc_service) {
1114                 case RPC_GSS_SVC_NONE:
1115                         status = encode(rqstp, p, obj);
1116                         break;
1117                 case RPC_GSS_SVC_INTEGRITY:
1118                         status = gss_wrap_req_integ(cred, ctx, encode,
1119                                                                 rqstp, p, obj);
1120                         break;
1121                 case RPC_GSS_SVC_PRIVACY:
1122                         status = gss_wrap_req_priv(cred, ctx, encode,
1123                                         rqstp, p, obj);
1124                         break;
1125         }
1126 out:
1127         gss_put_ctx(ctx);
1128         dprintk("RPC: %5u gss_wrap_req returning %d\n", task->tk_pid, status);
1129         return status;
1130 }
1131
1132 static inline int
1133 gss_unwrap_resp_integ(struct rpc_cred *cred, struct gss_cl_ctx *ctx,
1134                 struct rpc_rqst *rqstp, __be32 **p)
1135 {
1136         struct xdr_buf  *rcv_buf = &rqstp->rq_rcv_buf;
1137         struct xdr_buf integ_buf;
1138         struct xdr_netobj mic;
1139         u32 data_offset, mic_offset;
1140         u32 integ_len;
1141         u32 maj_stat;
1142         int status = -EIO;
1143
1144         integ_len = ntohl(*(*p)++);
1145         if (integ_len & 3)
1146                 return status;
1147         data_offset = (u8 *)(*p) - (u8 *)rcv_buf->head[0].iov_base;
1148         mic_offset = integ_len + data_offset;
1149         if (mic_offset > rcv_buf->len)
1150                 return status;
1151         if (ntohl(*(*p)++) != rqstp->rq_seqno)
1152                 return status;
1153
1154         if (xdr_buf_subsegment(rcv_buf, &integ_buf, data_offset,
1155                                 mic_offset - data_offset))
1156                 return status;
1157
1158         if (xdr_buf_read_netobj(rcv_buf, &mic, mic_offset))
1159                 return status;
1160
1161         maj_stat = gss_verify_mic(ctx->gc_gss_ctx, &integ_buf, &mic);
1162         if (maj_stat == GSS_S_CONTEXT_EXPIRED)
1163                 clear_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags);
1164         if (maj_stat != GSS_S_COMPLETE)
1165                 return status;
1166         return 0;
1167 }
1168
1169 static inline int
1170 gss_unwrap_resp_priv(struct rpc_cred *cred, struct gss_cl_ctx *ctx,
1171                 struct rpc_rqst *rqstp, __be32 **p)
1172 {
1173         struct xdr_buf  *rcv_buf = &rqstp->rq_rcv_buf;
1174         u32 offset;
1175         u32 opaque_len;
1176         u32 maj_stat;
1177         int status = -EIO;
1178
1179         opaque_len = ntohl(*(*p)++);
1180         offset = (u8 *)(*p) - (u8 *)rcv_buf->head[0].iov_base;
1181         if (offset + opaque_len > rcv_buf->len)
1182                 return status;
1183         /* remove padding: */
1184         rcv_buf->len = offset + opaque_len;
1185
1186         maj_stat = gss_unwrap(ctx->gc_gss_ctx, offset, rcv_buf);
1187         if (maj_stat == GSS_S_CONTEXT_EXPIRED)
1188                 clear_bit(RPCAUTH_CRED_UPTODATE, &cred->cr_flags);
1189         if (maj_stat != GSS_S_COMPLETE)
1190                 return status;
1191         if (ntohl(*(*p)++) != rqstp->rq_seqno)
1192                 return status;
1193
1194         return 0;
1195 }
1196
1197
1198 static int
1199 gss_unwrap_resp(struct rpc_task *task,
1200                 kxdrproc_t decode, void *rqstp, __be32 *p, void *obj)
1201 {
1202         struct rpc_cred *cred = task->tk_msg.rpc_cred;
1203         struct gss_cred *gss_cred = container_of(cred, struct gss_cred,
1204                         gc_base);
1205         struct gss_cl_ctx *ctx = gss_cred_get_ctx(cred);
1206         __be32          *savedp = p;
1207         struct kvec     *head = ((struct rpc_rqst *)rqstp)->rq_rcv_buf.head;
1208         int             savedlen = head->iov_len;
1209         int             status = -EIO;
1210
1211         if (ctx->gc_proc != RPC_GSS_PROC_DATA)
1212                 goto out_decode;
1213         switch (gss_cred->gc_service) {
1214                 case RPC_GSS_SVC_NONE:
1215                         break;
1216                 case RPC_GSS_SVC_INTEGRITY:
1217                         status = gss_unwrap_resp_integ(cred, ctx, rqstp, &p);
1218                         if (status)
1219                                 goto out;
1220                         break;
1221                 case RPC_GSS_SVC_PRIVACY:
1222                         status = gss_unwrap_resp_priv(cred, ctx, rqstp, &p);
1223                         if (status)
1224                                 goto out;
1225                         break;
1226         }
1227         /* take into account extra slack for integrity and privacy cases: */
1228         cred->cr_auth->au_rslack = cred->cr_auth->au_verfsize + (p - savedp)
1229                                                 + (savedlen - head->iov_len);
1230 out_decode:
1231         status = decode(rqstp, p, obj);
1232 out:
1233         gss_put_ctx(ctx);
1234         dprintk("RPC: %5u gss_unwrap_resp returning %d\n", task->tk_pid,
1235                         status);
1236         return status;
1237 }
1238
1239 static const struct rpc_authops authgss_ops = {
1240         .owner          = THIS_MODULE,
1241         .au_flavor      = RPC_AUTH_GSS,
1242 #ifdef RPC_DEBUG
1243         .au_name        = "RPCSEC_GSS",
1244 #endif
1245         .create         = gss_create,
1246         .destroy        = gss_destroy,
1247         .lookup_cred    = gss_lookup_cred,
1248         .crcreate       = gss_create_cred
1249 };
1250
1251 static const struct rpc_credops gss_credops = {
1252         .cr_name        = "AUTH_GSS",
1253         .crdestroy      = gss_destroy_cred,
1254         .cr_init        = gss_cred_init,
1255         .crmatch        = gss_match,
1256         .crmarshal      = gss_marshal,
1257         .crrefresh      = gss_refresh,
1258         .crvalidate     = gss_validate,
1259         .crwrap_req     = gss_wrap_req,
1260         .crunwrap_resp  = gss_unwrap_resp,
1261 };
1262
1263 static struct rpc_pipe_ops gss_upcall_ops = {
1264         .upcall         = gss_pipe_upcall,
1265         .downcall       = gss_pipe_downcall,
1266         .destroy_msg    = gss_pipe_destroy_msg,
1267         .release_pipe   = gss_pipe_release,
1268 };
1269
1270 /*
1271  * Initialize RPCSEC_GSS module
1272  */
1273 static int __init init_rpcsec_gss(void)
1274 {
1275         int err = 0;
1276
1277         err = rpcauth_register(&authgss_ops);
1278         if (err)
1279                 goto out;
1280         err = gss_svc_init();
1281         if (err)
1282                 goto out_unregister;
1283         return 0;
1284 out_unregister:
1285         rpcauth_unregister(&authgss_ops);
1286 out:
1287         return err;
1288 }
1289
1290 static void __exit exit_rpcsec_gss(void)
1291 {
1292         gss_svc_shutdown();
1293         rpcauth_unregister(&authgss_ops);
1294 }
1295
1296 MODULE_LICENSE("GPL");
1297 module_init(init_rpcsec_gss)
1298 module_exit(exit_rpcsec_gss)