lustre/llite/file.c

   1 /* -*- mode: c; c-basic-offset: 8; indent-tabs-mode: nil; -*-
   2  * vim:expandtab:shiftwidth=8:tabstop=8:
   3  *
   4  *  Copyright (c) 2002, 2003 Cluster File Systems, Inc.
   5  *   Author: Peter Braam <braam@clusterfs.com>
   6  *   Author: Phil Schwan <phil@clusterfs.com>
   7  *   Author: Andreas Dilger <adilger@clusterfs.com>
   8  *
   9  *   This file is part of Lustre, http://www.lustre.org.
  10  *
  11  *   Lustre is free software; you can redistribute it and/or
  12  *   modify it under the terms of version 2 of the GNU General Public
  13  *   License as published by the Free Software Foundation.
  14  *
  15  *   Lustre is distributed in the hope that it will be useful,
  16  *   but WITHOUT ANY WARRANTY; without even the implied warranty of
  17  *   MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  18  *   GNU General Public License for more details.
  19  *
  20  *   You should have received a copy of the GNU General Public License
  21  *   along with Lustre; if not, write to the Free Software
  22  *   Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  23  */
  24
  25 #define DEBUG_SUBSYSTEM S_LLITE
  26 #include <linux/lustre_dlm.h>
  27 #include <linux/lustre_lite.h>
  28 #include <linux/pagemap.h>
  29 #include <linux/file.h>
  30 #include <linux/lustre_acl.h>
  31 #if (LINUX_VERSION_CODE < KERNEL_VERSION(2,5,0))
  32 #include <linux/lustre_compat25.h>
  33 #endif
  34 #include "llite_internal.h"
  35 #include <linux/obd_lov.h>
  36
  37 int ll_md_och_close(struct obd_export *md_exp, struct inode *inode,
  38                     struct obd_client_handle *och)
  39 {
  40         struct ptlrpc_request *req = NULL;
  41         struct obdo *obdo = NULL;
  42         struct obd_device *obd;
  43         int rc;
  44         ENTRY;
  45
  46         obd = class_exp2obd(md_exp);
  47         if (obd == NULL) {
  48                 CERROR("Invalid MDC connection handle "LPX64"\n",
  49                        md_exp->exp_handle.h_cookie);
  50                 EXIT;
  51                 return 0;
  52         }
  53
  54         /*
  55          * here we check if this is forced umount. If so this is called on
  56          * canceling "open lock" and we do not call md_close() in this case , as
  57          * it will not successful, as import is already deactivated.
  58          */
  59         if (obd->obd_no_recov)
  60                 GOTO(out, rc = 0);
  61
  62         /* closing opened file */
  63         obdo = obdo_alloc();
  64         if (obdo == NULL)
  65                 RETURN(-ENOMEM);
  66
  67         obdo->o_id = inode->i_ino;
  68         obdo->o_valid = OBD_MD_FLID;
  69         obdo_from_inode(obdo, inode, (OBD_MD_FLTYPE | OBD_MD_FLMODE |
  70                                       OBD_MD_FLSIZE | OBD_MD_FLBLOCKS |
  71                                       OBD_MD_FLATIME | OBD_MD_FLMTIME |
  72                                       OBD_MD_FLCTIME));
  73         if (0 /* ll_is_inode_dirty(inode) */) {
  74                 obdo->o_flags = MDS_BFLAG_UNCOMMITTED_WRITES;
  75                 obdo->o_valid |= OBD_MD_FLFLAGS;
  76         }
  77         obdo->o_fid = id_fid(&ll_i2info(inode)->lli_id);
  78         obdo->o_mds = id_group(&ll_i2info(inode)->lli_id);
  79         rc = md_close(md_exp, obdo, och, &req);
  80         obdo_free(obdo);
  81
  82         if (rc == EAGAIN) {
  83                 /*
  84                  * we are the last writer, so the MDS has instructed us to get
  85                  * the file size and any write cookies, then close again.
  86                  */
  87
  88                 //ll_queue_done_writing(inode);
  89                 rc = 0;
  90         } else if (rc) {
  91                 CERROR("inode %lu mdc close failed: rc = %d\n",
  92                        (unsigned long)inode->i_ino, rc);
  93         }
  94
  95         ptlrpc_req_finished(req);
  96         EXIT;
  97 out:
  98         mdc_clear_open_replay_data(md_exp, och);
  99         och->och_fh.cookie = DEAD_HANDLE_MAGIC;
 100         OBD_FREE(och, sizeof *och);
 101         return rc;
 102 }
 103
 104 int ll_md_real_close(struct obd_export *md_exp,
 105                      struct inode *inode, int flags)
 106 {
 107         struct ll_inode_info *lli = ll_i2info(inode);
 108         struct obd_client_handle **och_p;
 109         struct obd_client_handle *och;
 110         __u64 *och_usecount;
 111         int rc = 0;
 112         ENTRY;
 113
 114         if (flags & FMODE_WRITE) {
 115                 och_p = &lli->lli_mds_write_och;
 116                 och_usecount = &lli->lli_open_fd_write_count;
 117         } else if (flags & FMODE_EXEC) {
 118                 och_p = &lli->lli_mds_exec_och;
 119                 och_usecount = &lli->lli_open_fd_exec_count;
 120          } else {
 121                 och_p = &lli->lli_mds_read_och;
 122                 och_usecount = &lli->lli_open_fd_read_count;
 123         }
 124
 125         down(&lli->lli_och_sem);
 126         if (*och_usecount) { /* There are still users of this handle, so
 127                                 skip freeing it. */
 128                 up(&lli->lli_och_sem);
 129                 RETURN(0);
 130         }
 131         och = *och_p;
 132
 133         *och_p = NULL;
 134         up(&lli->lli_och_sem);
 135
 136         /*
 137          * there might be a race and somebody have freed this och
 138          * already. Another way to have this twice called is if file closing
 139          * will fail due to netwok problems and on umount lock will be canceled
 140          * and this will be called from block_ast callack.
 141         */
 142         if (och && och->och_fh.cookie != DEAD_HANDLE_MAGIC)
 143                 rc = ll_md_och_close(md_exp, inode, och);
 144
 145         RETURN(rc);
 146 }
 147
 148 int ll_md_close(struct obd_export *md_exp, struct inode *inode,
 149                 struct file *file)
 150 {
 151         struct ll_file_data *fd = file->private_data;
 152         struct ll_inode_info *lli = ll_i2info(inode);
 153         int rc = 0;
 154         ENTRY;
 155
 156         /* clear group lock, if present */
 157         if (fd->fd_flags & LL_FILE_GROUP_LOCKED) {
 158                 struct lov_stripe_md *lsm = ll_i2info(inode)->lli_smd;
 159                 fd->fd_flags &= ~(LL_FILE_GROUP_LOCKED|LL_FILE_IGNORE_LOCK);
 160                 rc = ll_extent_unlock(fd, inode, lsm, LCK_GROUP,
 161                                       &fd->fd_cwlockh);
 162         }
 163
 164         /* Let's see if we have good enough OPEN lock on the file and if
 165            we can skip talking to MDS */
 166         if (file->f_dentry->d_inode) {
 167                 int lockmode;
 168                 struct obd_device *obddev;
 169                 struct lustre_handle lockh;
 170                 int flags = LDLM_FL_BLOCK_GRANTED;
 171                 struct ldlm_res_id file_res_id = {.name = {id_fid(&lli->lli_id),
 172                                                            id_group(&lli->lli_id)}};
 173                 ldlm_policy_data_t policy = {.l_inodebits={MDS_INODELOCK_OPEN}};
 174
 175                 down(&lli->lli_och_sem);
 176                 if (fd->fd_omode & FMODE_WRITE) {
 177                         lockmode = LCK_CW;
 178                         LASSERT(lli->lli_open_fd_write_count);
 179                         lli->lli_open_fd_write_count--;
 180                 } else if (fd->fd_omode & FMODE_EXEC) {
 181                         lockmode = LCK_PR;
 182                         LASSERT(lli->lli_open_fd_exec_count);
 183                         lli->lli_open_fd_exec_count--;
 184                 } else {
 185                         lockmode = LCK_CR;
 186                         LASSERT(lli->lli_open_fd_read_count);
 187                         lli->lli_open_fd_read_count--;
 188                 }
 189                 up(&lli->lli_och_sem);
 190
 191                 obddev = md_get_real_obd(md_exp, &lli->lli_id);
 192                 if (!ldlm_lock_match(obddev->obd_namespace, flags, &file_res_id,
 193                                      LDLM_IBITS, &policy, lockmode, &lockh))
 194                 {
 195                         rc = ll_md_real_close(md_exp, file->f_dentry->d_inode,
 196                                               fd->fd_omode);
 197                 } else {
 198                         ldlm_lock_decref(&lockh, lockmode);
 199                 }
 200         }
 201
 202         file->private_data = NULL;
 203         OBD_SLAB_FREE(fd, ll_file_data_slab, sizeof(*fd));
 204         RETURN(rc);
 205 }
 206
 207 /* While this returns an error code, fput() the caller does not, so we need
 208  * to make every effort to clean up all of our state here.  Also, applications
 209  * rarely check close errors and even if an error is returned they will not
 210  * re-try the close call.
 211  */
 212 int ll_file_release(struct inode *inode, struct file *file)
 213 {
 214         struct ll_file_data *fd;
 215         struct ll_sb_info *sbi = ll_i2sbi(inode);
 216         int rc;
 217
 218         ENTRY;
 219         CDEBUG(D_VFSTRACE, "VFS Op:inode="DLID4"(%p)\n",
 220                OLID4(&ll_i2info(inode)->lli_id), inode);
 221
 222         /* don't do anything for / */
 223         if (inode->i_sb->s_root == file->f_dentry)
 224                 RETURN(0);
 225
 226         lprocfs_counter_incr(sbi->ll_stats, LPROC_LL_RELEASE);
 227         fd = (struct ll_file_data *)file->private_data;
 228         LASSERT(fd != NULL);
 229
 230         rc = ll_md_close(sbi->ll_md_exp, inode, file);
 231         RETURN(rc);
 232 }
 233
 234 static int ll_intent_file_open(struct file *file, void *lmm,
 235                                int lmmsize, struct lookup_intent *itp)
 236 {
 237         struct ll_sb_info *sbi = ll_i2sbi(file->f_dentry->d_inode);
 238         const char *name = (char *)file->f_dentry->d_name.name;
 239         struct dentry *parent = file->f_dentry->d_parent;
 240         const int len = file->f_dentry->d_name.len;
 241         struct lustre_handle lockh;
 242         struct mdc_op_data *op_data;
 243         int rc;
 244
 245         if (!parent)
 246                 RETURN(-ENOENT);
 247
 248         OBD_ALLOC(op_data, sizeof(*op_data));
 249         if (op_data == NULL)
 250                 RETURN(-ENOMEM);
 251
 252         ll_prepare_mdc_data(op_data, parent->d_inode, NULL,
 253                             name, len, O_RDWR);
 254
 255         rc = md_enqueue(sbi->ll_md_exp, LDLM_IBITS, itp, LCK_PR, op_data,
 256                         &lockh, lmm, lmmsize, ldlm_completion_ast,
 257                         ll_mdc_blocking_ast, NULL);
 258         OBD_FREE(op_data, sizeof(*op_data));
 259         if (rc == 0) {
 260                 if (LUSTRE_IT(itp)->it_lock_mode)
 261                         memcpy(&LUSTRE_IT(itp)->it_lock_handle,
 262                                &lockh, sizeof(lockh));
 263
 264         } else if (rc < 0) {
 265                 CERROR("lock enqueue: err: %d\n", rc);
 266         }
 267         RETURN(rc);
 268 }
 269
 270 void ll_och_fill(struct inode *inode, struct lookup_intent *it,
 271                  struct obd_client_handle *och)
 272 {
 273         struct ptlrpc_request *req = LUSTRE_IT(it)->it_data;
 274         struct ll_inode_info *lli = ll_i2info(inode);
 275         struct mds_body *body;
 276         LASSERT(och);
 277
 278         body = lustre_msg_buf (req->rq_repmsg, 1, sizeof (*body));
 279         LASSERT (body != NULL);          /* reply already checked out */
 280         LASSERT_REPSWABBED (req, 1);     /* and swabbed down */
 281
 282         memcpy(&och->och_fh, &body->handle, sizeof(body->handle));
 283         och->och_magic = OBD_CLIENT_HANDLE_MAGIC;
 284         lli->lli_io_epoch = body->io_epoch;
 285         mdc_set_open_replay_data(ll_i2mdexp(inode), och,
 286                                  LUSTRE_IT(it)->it_data);
 287 }
 288
 289 int ll_local_open(struct file *file, struct lookup_intent *it,
 290                   struct obd_client_handle *och)
 291 {
 292         struct ll_file_data *fd;
 293         ENTRY;
 294
 295         if (och)
 296                 ll_och_fill(file->f_dentry->d_inode, it, och);
 297
 298         LASSERTF(file->private_data == NULL, "file %.*s/%.*s ino %lu/%u (%o)\n",
 299                  file->f_dentry->d_name.len, file->f_dentry->d_name.name,
 300                  file->f_dentry->d_parent->d_name.len,
 301                  file->f_dentry->d_parent->d_name.name,
 302                  file->f_dentry->d_inode->i_ino,
 303                  file->f_dentry->d_inode->i_generation,
 304                  file->f_dentry->d_inode->i_mode);
 305
 306         OBD_SLAB_ALLOC(fd, ll_file_data_slab, SLAB_KERNEL, sizeof *fd);
 307
 308         /* We can't handle this well without reorganizing ll_file_open and
 309          * ll_md_close(), so don't even try right now. */
 310         LASSERT(fd != NULL);
 311
 312         file->private_data = fd;
 313         ll_readahead_init(file->f_dentry->d_inode, &fd->fd_ras);
 314         fd->fd_omode = it->it_flags;
 315         RETURN(0);
 316 }
 317
 318 /* Open a file, and (for the very first open) create objects on the OSTs at
 319  * this time.  If opened with O_LOV_DELAY_CREATE, then we don't do the object
 320  * creation or open until ll_lov_setstripe() ioctl is called.  We grab
 321  * lli_open_sem to ensure no other process will create objects, send the
 322  * stripe MD to the MDS, or try to destroy the objects if that fails.
 323  *
 324  * If we already have the stripe MD locally then we don't request it in
 325  * mdc_open(), by passing a lmm_size = 0.
 326  *
 327  * It is up to the application to ensure no other processes open this file
 328  * in the O_LOV_DELAY_CREATE case, or the default striping pattern will be
 329  * used.  We might be able to avoid races of that sort by getting lli_open_sem
 330  * before returning in the O_LOV_DELAY_CREATE case and dropping it here
 331  * or in ll_file_release(), but I'm not sure that is desirable/necessary.
 332  */
 333 int ll_file_open(struct inode *inode, struct file *file)
 334 {
 335         struct ll_inode_info *lli = ll_i2info(inode);
 336         struct lookup_intent *it, oit = { .it_op = IT_OPEN,
 337                                           .it_flags = file->f_flags };
 338         struct lov_stripe_md *lsm;
 339         struct ptlrpc_request *req;
 340         int rc = 0;
 341         struct obd_client_handle **och_p;
 342         __u64 *och_usecount;
 343         ENTRY;
 344
 345         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu/%u(%p), flags %o\n",
 346                inode->i_ino, inode->i_generation, inode, file->f_flags);
 347
 348         /* don't do anything for / */
 349         if (inode->i_sb->s_root == file->f_dentry)
 350                 RETURN(0);
 351
 352         if ((file->f_flags+1) & O_ACCMODE)
 353                 oit.it_flags++;
 354         if (file->f_flags & O_TRUNC)
 355                 oit.it_flags |= 2;
 356
 357         it = file->f_it;
 358
 359         /*
 360          * sometimes LUSTRE_IT(it) may not be allocated like opening file by
 361          * dentry_open() from GNS stuff.
 362          */
 363         if (!it || !LUSTRE_IT(it)) {
 364                 it = &oit;
 365                 rc = ll_intent_alloc(it);
 366                 if (rc)
 367                         GOTO(out, rc);
 368         }
 369
 370         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_OPEN);
 371
 372         /*
 373          * mdc_intent_lock() didn't get a request ref if there was an open
 374          * error, so don't do cleanup on the * request here (bug 3430)
 375          */
 376         if (LUSTRE_IT(it)->it_disposition) {
 377                 rc = it_open_error(DISP_OPEN_OPEN, it);
 378                 if (rc)
 379                         RETURN(rc);
 380         }
 381
 382         /* Let's see if we have file open on MDS already. */
 383         if (it->it_flags & FMODE_WRITE) {
 384                 och_p = &lli->lli_mds_write_och;
 385                 och_usecount = &lli->lli_open_fd_write_count;
 386         } else if (it->it_flags & FMODE_EXEC) {
 387                 och_p = &lli->lli_mds_exec_och;
 388                 och_usecount = &lli->lli_open_fd_exec_count;
 389         } else {
 390                 och_p = &lli->lli_mds_read_och;
 391                 och_usecount = &lli->lli_open_fd_read_count;
 392         }
 393
 394         down(&lli->lli_och_sem);
 395         if (*och_p) { /* Open handle is present */
 396                 if (it_disposition(it, DISP_LOOKUP_POS) && /* Positive lookup */
 397                     it_disposition(it, DISP_OPEN_OPEN)) { /* & OPEN happened */
 398                         struct obd_client_handle *och;
 399                         /* Well, there's extra open request that we do not need,
 400                            let's close it somehow*/
 401                         OBD_ALLOC(och, sizeof (struct obd_client_handle));
 402                         if (!och) {
 403                                 up(&lli->lli_och_sem);
 404                                 RETURN(-ENOMEM);
 405                         }
 406
 407                         ll_och_fill(inode, it, och);
 408                         /* ll_md_och_close() will free och */
 409                         ll_md_och_close(ll_i2mdexp(inode), inode, och);
 410                 }
 411                 (*och_usecount)++;
 412
 413                 rc = ll_local_open(file, it, NULL);
 414                 if (rc)
 415                         LBUG();
 416         } else {
 417                 LASSERT(*och_usecount == 0);
 418                 OBD_ALLOC(*och_p, sizeof (struct obd_client_handle));
 419                 if (!*och_p)
 420                         GOTO(out, rc = -ENOMEM);
 421                 (*och_usecount)++;
 422
 423                 if (!it || !LUSTRE_IT(it) || !LUSTRE_IT(it)->it_disposition) {
 424                         /*
 425                          * we are going to replace intent here, and that may
 426                          * possibly change access mode (FMODE_EXEC can only be
 427                          * set in intent), but I hope it never happens (I was
 428                          * not able to trigger it yet at least) -- green
 429                          */
 430
 431                         /* FIXME: FMODE_EXEC is not covered by O_ACCMODE! */
 432                         LASSERT(!(it->it_flags & FMODE_EXEC));
 433                         LASSERTF((it->it_flags & O_ACCMODE) ==
 434                                  (oit.it_flags & O_ACCMODE), "Changing intent "
 435                                  "flags %x to incompatible %x\n", it->it_flags,
 436                                  oit.it_flags);
 437                         it = &oit;
 438                         rc = ll_intent_file_open(file, NULL, 0, it);
 439                         if (rc)
 440                                 GOTO(out, rc);
 441                         rc = it_open_error(DISP_OPEN_OPEN, it);
 442                         if (rc)
 443                                 GOTO(out_och_free, rc);
 444
 445                         mdc_set_lock_data(NULL, &LUSTRE_IT(it)->it_lock_handle,
 446                                           file->f_dentry->d_inode);
 447                 }
 448                 lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_OPEN);
 449                 rc = ll_local_open(file, it, *och_p);
 450                 LASSERTF(rc == 0, "rc = %d\n", rc);
 451         }
 452         up(&lli->lli_och_sem);
 453
 454         /*
 455          * must do this outside lli_och_sem lock to prevent deadlock where
 456          * different kind of OPEN lock for this same inode gets cancelled by
 457          * ldlm_cancel_lru
 458          */
 459
 460         if (!S_ISREG(inode->i_mode))
 461                 GOTO(out, rc);
 462
 463         lsm = lli->lli_smd;
 464         if (lsm == NULL) {
 465                 if (file->f_flags & O_LOV_DELAY_CREATE ||
 466                     !(file->f_mode & FMODE_WRITE)) {
 467                         CDEBUG(D_INODE, "object creation was delayed\n");
 468                         GOTO(out, rc);
 469                 }
 470         }
 471         file->f_flags &= ~O_LOV_DELAY_CREATE;
 472         GOTO(out, rc);
 473  out:
 474         req = LUSTRE_IT(it)->it_data;
 475         ll_intent_drop_lock(it);
 476         ll_intent_release(it);
 477         ptlrpc_req_finished(req);
 478         if (rc == 0) {
 479                 ll_open_complete(inode);
 480         } else {
 481 out_och_free:
 482                 if (*och_p) {
 483                         OBD_FREE(*och_p, sizeof (struct obd_client_handle));
 484                         *och_p = NULL; /* OBD_FREE writes some magic there */
 485                         (*och_usecount)--;
 486                 }
 487                 up(&lli->lli_och_sem);
 488         }
 489
 490         return rc;
 491 }
 492
 493 /* Fills the obdo with the attributes for the inode defined by lsm */
 494 int ll_lsm_getattr(struct obd_export *exp, struct lov_stripe_md *lsm,
 495                    struct obdo *oa)
 496 {
 497         struct ptlrpc_request_set *set;
 498         int rc;
 499         ENTRY;
 500
 501         LASSERT(lsm != NULL);
 502
 503         memset(oa, 0, sizeof *oa);
 504         oa->o_id = lsm->lsm_object_id;
 505         oa->o_gr = lsm->lsm_object_gr;
 506         oa->o_mode = S_IFREG;
 507         oa->o_valid = OBD_MD_FLID | OBD_MD_FLTYPE | OBD_MD_FLSIZE |
 508                 OBD_MD_FLBLOCKS | OBD_MD_FLBLKSZ | OBD_MD_FLMTIME |
 509                 OBD_MD_FLCTIME | OBD_MD_FLGROUP;
 510
 511         set = ptlrpc_prep_set();
 512         if (set == NULL) {
 513                 rc = -ENOMEM;
 514         } else {
 515                 rc = obd_getattr_async(exp, oa, lsm, set);
 516                 if (rc == 0)
 517                         rc = ptlrpc_set_wait(set);
 518                 ptlrpc_set_destroy(set);
 519         }
 520         if (rc)
 521                 RETURN(rc);
 522
 523         oa->o_valid &= (OBD_MD_FLBLOCKS | OBD_MD_FLBLKSZ | OBD_MD_FLMTIME |
 524                         OBD_MD_FLCTIME | OBD_MD_FLSIZE);
 525         RETURN(0);
 526 }
 527
 528 static inline void ll_remove_suid(struct inode *inode)
 529 {
 530         unsigned int mode;
 531
 532         /* set S_IGID if S_IXGRP is set, and always set S_ISUID */
 533         mode = (inode->i_mode & S_IXGRP)*(S_ISGID/S_IXGRP) | S_ISUID;
 534
 535         /* was any of the uid bits set? */
 536         mode &= inode->i_mode;
 537         if (mode && !capable(CAP_FSETID)) {
 538                 inode->i_mode &= ~mode;
 539                 // XXX careful here - we cannot change the size
 540         }
 541 }
 542
 543 static int ll_lock_to_stripe_offset(struct inode *inode, struct ldlm_lock *lock)
 544 {
 545         struct ll_inode_info *lli = ll_i2info(inode);
 546         struct lov_stripe_md *lsm = lli->lli_smd;
 547         struct obd_export *exp = ll_i2dtexp(inode);
 548         struct {
 549                 char name[16];
 550                 struct ldlm_lock *lock;
 551                 struct lov_stripe_md *lsm;
 552         } key = { .name = "lock_to_stripe", .lock = lock, .lsm = lsm };
 553         __u32 stripe, vallen = sizeof(stripe);
 554         int rc;
 555         ENTRY;
 556
 557         if (lsm->lsm_stripe_count == 1)
 558                 GOTO(check, stripe = 0);
 559
 560         /* get our offset in the lov */
 561         rc = obd_get_info(exp, sizeof(key), &key, &vallen, &stripe);
 562         if (rc != 0) {
 563                 CERROR("obd_get_info: rc = %d\n", rc);
 564                 RETURN(rc);
 565         }
 566         LASSERT(stripe < lsm->lsm_stripe_count);
 567         EXIT;
 568 check:
 569         if (lsm->lsm_oinfo[stripe].loi_id != lock->l_resource->lr_name.name[0]||
 570             lsm->lsm_oinfo[stripe].loi_gr != lock->l_resource->lr_name.name[2]){
 571                 LDLM_ERROR(lock, "resource doesn't match object "LPU64"/"LPU64
 572                            " inode=%lu/%u (%p)\n",
 573                            lsm->lsm_oinfo[stripe].loi_id,
 574                            lsm->lsm_oinfo[stripe].loi_gr,
 575                            inode->i_ino, inode->i_generation, inode);
 576                 return -ELDLM_NO_LOCK_DATA;
 577         }
 578
 579         return stripe;
 580 }
 581
 582 /* Flush the page cache for an extent as its canceled.  When we're on an LOV,
 583  * we get a lock cancellation for each stripe, so we have to map the obd's
 584  * region back onto the stripes in the file that it held.
 585  *
 586  * No one can dirty the extent until we've finished our work and they can
 587  * enqueue another lock.  The DLM protects us from ll_file_read/write here,
 588  * but other kernel actors could have pages locked.
 589  *
 590  * Called with the DLM lock held. */
 591 void ll_pgcache_remove_extent(struct inode *inode, struct lov_stripe_md *lsm,
 592                               struct ldlm_lock *lock, __u32 stripe)
 593 {
 594         ldlm_policy_data_t tmpex;
 595         unsigned long start, end, count, skip, i, j;
 596         struct page *page;
 597         int rc, rc2, discard = lock->l_flags & LDLM_FL_DISCARD_DATA;
 598         struct lustre_handle lockh;
 599         ENTRY;
 600
 601         memcpy(&tmpex, &lock->l_policy_data, sizeof(tmpex));
 602         CDEBUG(D_INODE|D_PAGE, "inode %lu(%p) ["LPU64"->"LPU64"] size: %llu\n",
 603                inode->i_ino, inode, tmpex.l_extent.start, tmpex.l_extent.end,
 604                inode->i_size);
 605
 606         /* our locks are page granular thanks to osc_enqueue, we invalidate the
 607          * whole page. */
 608         LASSERT((tmpex.l_extent.start & ~PAGE_CACHE_MASK) == 0);
 609         LASSERT(((tmpex.l_extent.end + 1) & ~PAGE_CACHE_MASK) == 0);
 610
 611         count = ~0;
 612         skip = 0;
 613         start = tmpex.l_extent.start >> PAGE_CACHE_SHIFT;
 614         end = tmpex.l_extent.end >> PAGE_CACHE_SHIFT;
 615         if (lsm->lsm_stripe_count > 1) {
 616                 count = lsm->lsm_stripe_size >> PAGE_CACHE_SHIFT;
 617                 skip = (lsm->lsm_stripe_count - 1) * count;
 618                 start += start/count * skip + stripe * count;
 619                 if (end != ~0)
 620                         end += end/count * skip + stripe * count;
 621         }
 622         if (end < tmpex.l_extent.end >> PAGE_CACHE_SHIFT)
 623                 end = ~0;
 624
 625         i = inode->i_size ? (inode->i_size - 1) >> PAGE_CACHE_SHIFT : 0;
 626         if (i < end)
 627                 end = i;
 628
 629         CDEBUG(D_INODE|D_PAGE, "walking page indices start: %lu j: %lu "
 630                "count: %lu skip: %lu end: %lu%s\n", start, start % count,
 631                count, skip, end, discard ? " (DISCARDING)" : "");
 632
 633         /* walk through the vmas on the inode and tear down mmaped pages that
 634          * intersect with the lock.  this stops immediately if there are no
 635          * mmap()ed regions of the file.  This is not efficient at all and
 636          * should be short lived. We'll associate mmap()ed pages with the lock
 637          * and will be able to find them directly */
 638
 639         for (i = start; i <= end; i += (j + skip)) {
 640                 j = min(count - (i % count), end - i + 1);
 641                 LASSERT(j > 0);
 642                 LASSERT(inode->i_mapping);
 643                 if (ll_teardown_mmaps(inode->i_mapping, i << PAGE_CACHE_SHIFT,
 644                                       ((i+j) << PAGE_CACHE_SHIFT) - 1) )
 645                         break;
 646         }
 647
 648         /* this is the simplistic implementation of page eviction at
 649          * cancelation.  It is careful to get races with other page
 650          * lockers handled correctly.  fixes from bug 20 will make it
 651          * more efficient by associating locks with pages and with
 652          * batching writeback under the lock explicitly. */
 653         for (i = start, j = start % count; i <= end;
 654              j++, i++, tmpex.l_extent.start += PAGE_CACHE_SIZE) {
 655                 if (j == count) {
 656                         CDEBUG(D_PAGE, "skip index %lu to %lu\n", i, i + skip);
 657                         i += skip;
 658                         j = 0;
 659                         if (i > end)
 660                                 break;
 661                 }
 662                 LASSERTF(tmpex.l_extent.start< lock->l_policy_data.l_extent.end,
 663                          LPU64" >= "LPU64" start %lu i %lu end %lu\n",
 664                          tmpex.l_extent.start, lock->l_policy_data.l_extent.end,
 665                          start, i, end);
 666
 667                 if (!mapping_has_pages(inode->i_mapping)) {
 668                         CDEBUG(D_INODE|D_PAGE, "nothing left\n");
 669                         break;
 670                 }
 671
 672                 cond_resched();
 673
 674                 page = find_get_page(inode->i_mapping, i);
 675                 if (page == NULL)
 676                         continue;
 677                 LL_CDEBUG_PAGE(D_PAGE, page, "lock page idx %lu ext "LPU64"\n",
 678                                i, tmpex.l_extent.start);
 679                 lock_page(page);
 680
 681                 /* page->mapping to check with racing against teardown */
 682                 if (!discard && clear_page_dirty_for_io(page)) {
 683                         rc = ll_call_writepage(inode, page);
 684                         if (rc != 0)
 685                                 CERROR("writepage of page %p failed: %d\n",
 686                                        page, rc);
 687                         /* either waiting for io to complete or reacquiring
 688                          * the lock that the failed writepage released */
 689                         lock_page(page);
 690                 }
 691
 692                 tmpex.l_extent.end = tmpex.l_extent.start + PAGE_CACHE_SIZE - 1;
 693                 /* check to see if another DLM lock covers this page */
 694                 rc2 = ldlm_lock_match(lock->l_resource->lr_namespace,
 695                                       LDLM_FL_BLOCK_GRANTED|LDLM_FL_CBPENDING |
 696                                       LDLM_FL_TEST_LOCK,
 697                                       &lock->l_resource->lr_name, LDLM_EXTENT,
 698                                       &tmpex, LCK_PR | LCK_PW, &lockh);
 699                 if (rc2 == 0 && page->mapping != NULL) {
 700                         // checking again to account for writeback's lock_page()
 701                         LL_CDEBUG_PAGE(D_PAGE, page, "truncating\n");
 702                         ll_ra_accounting(page, inode->i_mapping);
 703                         ll_truncate_complete_page(page);
 704                 }
 705                 unlock_page(page);
 706                 page_cache_release(page);
 707         }
 708         LASSERTF(tmpex.l_extent.start <=
 709                  (lock->l_policy_data.l_extent.end == ~0ULL ? ~0ULL :
 710                   lock->l_policy_data.l_extent.end + 1),
 711                  "loop too long "LPU64" > "LPU64" start %lu i %lu end %lu\n",
 712                  tmpex.l_extent.start, lock->l_policy_data.l_extent.end,
 713                  start, i, end);
 714         EXIT;
 715 }
 716
 717 static int ll_extent_lock_callback(struct ldlm_lock *lock,
 718                                    struct ldlm_lock_desc *new, void *data,
 719                                    int flag)
 720 {
 721         struct lustre_handle lockh = { 0 };
 722         int rc;
 723         ENTRY;
 724
 725         if ((unsigned long)data > 0 && (unsigned long)data < 0x1000) {
 726                 LDLM_ERROR(lock, "cancelling lock with bad data %p", data);
 727                 LBUG();
 728         }
 729
 730         switch (flag) {
 731         case LDLM_CB_BLOCKING:
 732                 ldlm_lock2handle(lock, &lockh);
 733                 rc = ldlm_cli_cancel(&lockh);
 734                 if (rc != ELDLM_OK)
 735                         CERROR("ldlm_cli_cancel failed: %d\n", rc);
 736                 break;
 737         case LDLM_CB_CANCELING: {
 738                 struct inode *inode;
 739                 struct ll_inode_info *lli;
 740                 struct lov_stripe_md *lsm;
 741                 __u32 stripe;
 742                 __u64 kms;
 743
 744                 /* This lock wasn't granted, don't try to evict pages */
 745                 if (lock->l_req_mode != lock->l_granted_mode)
 746                         RETURN(0);
 747
 748                 inode = ll_inode_from_lock(lock);
 749                 if (inode == NULL)
 750                         RETURN(0);
 751                 lli = ll_i2info(inode);
 752                 if (lli == NULL)
 753                         goto iput;
 754                 if (lli->lli_smd == NULL)
 755                         goto iput;
 756                 lsm = lli->lli_smd;
 757
 758                 stripe = ll_lock_to_stripe_offset(inode, lock);
 759                 if (stripe < 0)
 760                         goto iput;
 761                 ll_pgcache_remove_extent(inode, lsm, lock, stripe);
 762
 763                 l_lock(&lock->l_resource->lr_namespace->ns_lock);
 764                 down(&lli->lli_size_sem);
 765                 kms = ldlm_extent_shift_kms(lock,
 766                                             lsm->lsm_oinfo[stripe].loi_kms);
 767
 768                 if (lsm->lsm_oinfo[stripe].loi_kms != kms)
 769                         LDLM_DEBUG(lock, "updating kms from "LPU64" to "LPU64,
 770                                    lsm->lsm_oinfo[stripe].loi_kms, kms);
 771                 lsm->lsm_oinfo[stripe].loi_kms = kms;
 772                 up(&lli->lli_size_sem);
 773                 l_unlock(&lock->l_resource->lr_namespace->ns_lock);
 774                 //ll_try_done_writing(inode);
 775         iput:
 776                 iput(inode);
 777                 break;
 778         }
 779         default:
 780                 LBUG();
 781         }
 782
 783         RETURN(0);
 784 }
 785
 786 #if 0
 787 int ll_async_completion_ast(struct ldlm_lock *lock, int flags, void *data)
 788 {
 789         /* XXX ALLOCATE - 160 bytes */
 790         struct inode *inode = ll_inode_from_lock(lock);
 791         struct ll_inode_info *lli = ll_i2info(inode);
 792         struct lustre_handle lockh = { 0 };
 793         struct ost_lvb *lvb;
 794         __u32 stripe;
 795         ENTRY;
 796
 797         if (flags & (LDLM_FL_BLOCK_WAIT | LDLM_FL_BLOCK_GRANTED |
 798                      LDLM_FL_BLOCK_CONV)) {
 799                 LBUG(); /* not expecting any blocked async locks yet */
 800                 LDLM_DEBUG(lock, "client-side async enqueue returned a blocked "
 801                            "lock, returning");
 802                 ldlm_lock_dump(D_OTHER, lock, 0);
 803                 ldlm_reprocess_all(lock->l_resource);
 804                 RETURN(0);
 805         }
 806
 807         LDLM_DEBUG(lock, "client-side async enqueue: granted/glimpsed");
 808
 809         stripe = ll_lock_to_stripe_offset(inode, lock);
 810         if (stripe < 0)
 811                 goto iput;
 812
 813         if (lock->l_lvb_len) {
 814                 struct lov_stripe_md *lsm = lli->lli_smd;
 815                 __u64 kms;
 816                 lvb = lock->l_lvb_data;
 817                 lsm->lsm_oinfo[stripe].loi_rss = lvb->lvb_size;
 818
 819                 l_lock(&lock->l_resource->lr_namespace->ns_lock);
 820                 down(&inode->i_sem);
 821                 kms = MAX(lsm->lsm_oinfo[stripe].loi_kms, lvb->lvb_size);
 822                 kms = ldlm_extent_shift_kms(NULL, kms);
 823                 if (lsm->lsm_oinfo[stripe].loi_kms != kms)
 824                         LDLM_DEBUG(lock, "updating kms from "LPU64" to "LPU64,
 825                                    lsm->lsm_oinfo[stripe].loi_kms, kms);
 826                 lsm->lsm_oinfo[stripe].loi_kms = kms;
 827                 up(&inode->i_sem);
 828                 l_unlock(&lock->l_resource->lr_namespace->ns_lock);
 829         }
 830
 831 iput:
 832         iput(inode);
 833         wake_up(&lock->l_waitq);
 834
 835         ldlm_lock2handle(lock, &lockh);
 836         ldlm_lock_decref(&lockh, LCK_PR);
 837         RETURN(0);
 838 }
 839 #endif
 840
 841 static int ll_glimpse_callback(struct ldlm_lock *lock, void *reqp)
 842 {
 843         struct ptlrpc_request *req = reqp;
 844         struct inode *inode = ll_inode_from_lock(lock);
 845         struct ll_inode_info *lli;
 846         struct ost_lvb *lvb;
 847         struct lov_stripe_md *lsm;
 848         int rc, size = sizeof(*lvb), stripe;
 849         ENTRY;
 850
 851         if (inode == NULL)
 852                 GOTO(out, rc = -ELDLM_NO_LOCK_DATA);
 853         lli = ll_i2info(inode);
 854         if (lli == NULL)
 855                 GOTO(iput, rc = -ELDLM_NO_LOCK_DATA);
 856
 857         lsm = lli->lli_smd;
 858         if (lsm == NULL)
 859                 GOTO(iput, rc = -ELDLM_NO_LOCK_DATA);
 860
 861         /* First, find out which stripe index this lock corresponds to. */
 862         stripe = ll_lock_to_stripe_offset(inode, lock);
 863         if (stripe < 0)
 864                 GOTO(iput, rc = -ELDLM_NO_LOCK_DATA);
 865
 866         rc = lustre_pack_reply(req, 1, &size, NULL);
 867         if (rc) {
 868                 CERROR("lustre_pack_reply: %d\n", rc);
 869                 GOTO(iput, rc);
 870         }
 871
 872         lvb = lustre_msg_buf(req->rq_repmsg, 0, sizeof(*lvb));
 873         lvb->lvb_size = lli->lli_smd->lsm_oinfo[stripe].loi_kms;
 874         lvb->lvb_mtime = LTIME_S(inode->i_mtime);
 875         lvb->lvb_atime = LTIME_S(inode->i_atime);
 876         lvb->lvb_ctime = LTIME_S(inode->i_ctime);
 877
 878         LDLM_DEBUG(lock, "i_size: %llu -> stripe number %u -> kms "LPU64,
 879                    inode->i_size, stripe, lvb->lvb_size);
 880         GOTO(iput, 0);
 881  iput:
 882         iput(inode);
 883
 884  out:
 885         /* These errors are normal races, so we don't want to fill the console
 886          * with messages by calling ptlrpc_error() */
 887         if (rc == -ELDLM_NO_LOCK_DATA)
 888                 lustre_pack_reply(req, 0, NULL, NULL);
 889
 890         req->rq_status = rc;
 891         return rc;
 892 }
 893
 894 __u64 lov_merge_size(struct lov_stripe_md *lsm, int kms);
 895 __u64 lov_merge_blocks(struct lov_stripe_md *lsm);
 896 __u64 lov_merge_mtime(struct lov_stripe_md *lsm, __u64 current_time);
 897
 898 /* NB: lov_merge_size will prefer locally cached writes if they extend the
 899  * file (because it prefers KMS over RSS when larger) */
 900 int ll_glimpse_size(struct inode *inode)
 901 {
 902         struct ll_inode_info *lli = ll_i2info(inode);
 903         struct ll_sb_info *sbi = ll_i2sbi(inode);
 904         ldlm_policy_data_t policy = { .l_extent = { 0, OBD_OBJECT_EOF } };
 905         struct lustre_handle lockh = { 0 };
 906         int rc, flags = LDLM_FL_HAS_INTENT;
 907         ENTRY;
 908
 909         CDEBUG(D_DLMTRACE, "Glimpsing inode %lu\n", inode->i_ino);
 910
 911         rc = obd_enqueue(sbi->ll_dt_exp, lli->lli_smd, LDLM_EXTENT, &policy,
 912                          LCK_PR, &flags, ll_extent_lock_callback,
 913                          ldlm_completion_ast, ll_glimpse_callback, inode,
 914                          sizeof(struct ost_lvb), lustre_swab_ost_lvb, &lockh);
 915         if (rc == -ENOENT)
 916                 RETURN(rc);
 917
 918         if (rc != 0) {
 919                 CERROR("obd_enqueue returned rc %d, returning -EIO\n", rc);
 920                 RETURN(rc > 0 ? -EIO : rc);
 921         }
 922
 923         down(&lli->lli_size_sem);
 924         inode->i_size = lov_merge_size(lli->lli_smd, 0);
 925         inode->i_blocks = lov_merge_blocks(lli->lli_smd);
 926         up(&lli->lli_size_sem);
 927
 928         LTIME_S(inode->i_mtime) = lov_merge_mtime(lli->lli_smd,
 929                                                   LTIME_S(inode->i_mtime));
 930
 931         CDEBUG(D_DLMTRACE, "glimpse: size: "LPU64", blocks: "LPU64"\n",
 932                (__u64)inode->i_size, (__u64)inode->i_blocks);
 933
 934         obd_cancel(sbi->ll_dt_exp, lli->lli_smd, LCK_PR, &lockh);
 935         RETURN(rc);
 936 }
 937
 938 void ll_stime_record(struct ll_sb_info *sbi, struct timeval *start,
 939                     struct obd_service_time *stime)
 940 {
 941         struct timeval stop;
 942         do_gettimeofday(&stop);
 943
 944         spin_lock(&sbi->ll_lock);
 945         lprocfs_stime_record(stime, &stop, start);
 946         spin_unlock(&sbi->ll_lock);
 947 }
 948
 949 int ll_extent_lock(struct ll_file_data *fd, struct inode *inode,
 950                    struct lov_stripe_md *lsm, int mode,
 951                    ldlm_policy_data_t *policy, struct lustre_handle *lockh,
 952                    int ast_flags, struct obd_service_time *stime)
 953 {
 954         struct ll_inode_info *lli = ll_i2info(inode);
 955         struct ll_sb_info *sbi = ll_i2sbi(inode);
 956         struct timeval start;
 957         int rc;
 958         ENTRY;
 959
 960         LASSERT(lockh->cookie == 0);
 961
 962         /* XXX phil: can we do this?  won't it screw the file size up? */
 963         if ((fd && (fd->fd_flags & LL_FILE_IGNORE_LOCK)) ||
 964             (sbi->ll_flags & LL_SBI_NOLCK))
 965                 RETURN(0);
 966
 967         CDEBUG(D_DLMTRACE, "Locking inode %lu, start "LPU64" end "LPU64"\n",
 968                inode->i_ino, policy->l_extent.start, policy->l_extent.end);
 969
 970         do_gettimeofday(&start);
 971         rc = obd_enqueue(sbi->ll_dt_exp, lsm, LDLM_EXTENT, policy, mode,
 972                          &ast_flags, ll_extent_lock_callback,
 973                          ldlm_completion_ast, ll_glimpse_callback, inode,
 974                          sizeof(struct ost_lvb), lustre_swab_ost_lvb, lockh);
 975         if (rc > 0)
 976                 rc = -EIO;
 977
 978         ll_stime_record(sbi, &start, stime);
 979
 980         if (policy->l_extent.start == 0 &&
 981             policy->l_extent.end == OBD_OBJECT_EOF) {
 982                 /* vmtruncate()->ll_truncate() first sets the i_size and then
 983                  * the kms under both a DLM lock and the i_sem.  If we don't
 984                  * get the i_sem here we can match the DLM lock and reset
 985                  * i_size from the kms before the truncating path has updated
 986                  * the kms.  generic_file_write can then trust the stale i_size
 987                  * when doing appending writes and effectively cancel the
 988                  * result of the truncate.  Getting the i_sem after the enqueue
 989                  * maintains the DLM -> i_sem acquiry order. */
 990                 down(&lli->lli_size_sem);
 991                 inode->i_size = lov_merge_size(lsm, 1);
 992                 up(&lli->lli_size_sem);
 993         }
 994
 995         if (rc == 0) {
 996                 LTIME_S(inode->i_mtime) =
 997                         lov_merge_mtime(lsm, LTIME_S(inode->i_mtime));
 998         }
 999
1000         RETURN(rc);
1001 }
1002
1003 int ll_extent_unlock(struct ll_file_data *fd, struct inode *inode,
1004                      struct lov_stripe_md *lsm, int mode,
1005                      struct lustre_handle *lockh)
1006 {
1007         struct ll_sb_info *sbi = ll_i2sbi(inode);
1008         int rc;
1009         ENTRY;
1010
1011         /* XXX phil: can we do this?  won't it screw the file size up? */
1012         if ((fd && (fd->fd_flags & LL_FILE_IGNORE_LOCK)) ||
1013             (sbi->ll_flags & LL_SBI_NOLCK))
1014                 RETURN(0);
1015
1016         rc = obd_cancel(sbi->ll_dt_exp, lsm, mode, lockh);
1017
1018         RETURN(rc);
1019 }
1020
1021 static ssize_t ll_file_read(struct file *file, char *buf, size_t count,
1022                             loff_t *ppos)
1023 {
1024         struct inode *inode = file->f_dentry->d_inode;
1025         struct ll_inode_info *lli = ll_i2info(inode);
1026         struct lov_stripe_md *lsm = lli->lli_smd;
1027         struct ll_lock_tree tree;
1028         struct ll_lock_tree_node *node;
1029         int rc;
1030         ssize_t retval;
1031         __u64 kms;
1032         ENTRY;
1033         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu/%u(%p),size="LPSZ",offset=%Ld\n",
1034                inode->i_ino, inode->i_generation, inode, count, *ppos);
1035
1036         /* "If nbyte is 0, read() will return 0 and have no other results."
1037          *                      -- Single Unix Spec */
1038         if (count == 0)
1039                 RETURN(0);
1040
1041         lprocfs_counter_add(ll_i2sbi(inode)->ll_stats, LPROC_LL_READ_BYTES,
1042                             count);
1043
1044         if (!lsm)
1045                 RETURN(0);
1046
1047         node = ll_node_from_inode(inode, *ppos, *ppos  + count - 1,
1048                                   LCK_PR);
1049
1050         tree.lt_fd = file->private_data;
1051
1052         rc = ll_tree_lock(&tree, node, inode, buf, count,
1053                           file->f_flags & O_NONBLOCK ? LDLM_FL_BLOCK_NOWAIT :0);
1054         if (rc != 0)
1055                 RETURN(rc);
1056
1057         down(&lli->lli_size_sem);
1058         kms = lov_merge_size(lsm, 1);
1059         if (*ppos + count - 1 > kms) {
1060                 /* A glimpse is necessary to determine whether we return a short
1061                  * read or some zeroes at the end of the buffer */
1062                 up(&lli->lli_size_sem);
1063                 retval = ll_glimpse_size(inode);
1064                 if (retval)
1065                         goto out;
1066         } else {
1067                 inode->i_size = kms;
1068                 up(&lli->lli_size_sem);
1069         }
1070
1071         CDEBUG(D_INFO, "Read ino %lu, "LPSZ" bytes, offset %lld, i_size %llu\n",
1072                inode->i_ino, count, *ppos, inode->i_size);
1073
1074         /* turn off the kernel's read-ahead */
1075 #if (LINUX_VERSION_CODE < KERNEL_VERSION(2,5,0))
1076         file->f_ramax = 0;
1077 #else
1078         file->f_ra.ra_pages = 0;
1079 #endif
1080         retval = generic_file_read(file, buf, count, ppos);
1081
1082  out:
1083         ll_tree_unlock(&tree, inode);
1084         RETURN(retval);
1085 }
1086
1087 /*
1088  * Write to a file (through the page cache).
1089  */
1090 static ssize_t ll_file_write(struct file *file, const char *buf,
1091                              size_t count, loff_t *ppos)
1092 {
1093         struct inode *inode = file->f_dentry->d_inode;
1094         loff_t maxbytes = ll_file_maxbytes(inode);
1095         struct ll_lock_tree tree;
1096         struct ll_lock_tree_node *node;
1097         ssize_t retval;
1098         int rc;
1099
1100         ENTRY;
1101         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu/%u(%p),size="LPSZ",offset=%Ld\n",
1102                inode->i_ino, inode->i_generation, inode, count, *ppos);
1103
1104         SIGNAL_MASK_ASSERT(); /* XXX BUG 1511 */
1105
1106         /* POSIX, but surprised the VFS doesn't check this already */
1107         if (count == 0)
1108                 RETURN(0);
1109
1110         /* If file was opened for LL_IOC_LOV_SETSTRIPE but the ioctl wasn't
1111          * called on the file, don't fail the below assertion (bug 2388). */
1112         if (file->f_flags & O_LOV_DELAY_CREATE &&
1113             ll_i2info(inode)->lli_smd == NULL)
1114                 RETURN(-EBADF);
1115
1116         LASSERT(ll_i2info(inode)->lli_smd != NULL);
1117
1118         if (file->f_flags & O_APPEND)
1119                 node = ll_node_from_inode(inode, 0, OBD_OBJECT_EOF, LCK_PW);
1120         else
1121                 node = ll_node_from_inode(inode, *ppos, *ppos  + count - 1,
1122                                           LCK_PW);
1123
1124         if (IS_ERR(node))
1125                 RETURN(PTR_ERR(node));
1126
1127         tree.lt_fd = file->private_data;
1128
1129         rc = ll_tree_lock(&tree, node, inode, buf, count,
1130                           file->f_flags & O_NONBLOCK ? LDLM_FL_BLOCK_NOWAIT :0);
1131         if (rc != 0)
1132                 RETURN(rc);
1133
1134         /* this is ok, g_f_w will overwrite this under i_sem if it races
1135          * with a local truncate, it just makes our maxbyte checking easier */
1136         if (file->f_flags & O_APPEND)
1137                 *ppos = inode->i_size;
1138
1139         if (*ppos >= maxbytes) {
1140                 if (count || *ppos > maxbytes) {
1141                         send_sig(SIGXFSZ, current, 0);
1142                         GOTO(out, retval = -EFBIG);
1143                 }
1144         }
1145         if (*ppos + count > maxbytes)
1146                 count = maxbytes - *ppos;
1147
1148         CDEBUG(D_INFO, "Writing inode %lu, "LPSZ" bytes, offset %Lu\n",
1149                inode->i_ino, count, *ppos);
1150
1151         /* generic_file_write handles O_APPEND after getting i_sem */
1152         retval = generic_file_write(file, buf, count, ppos);
1153         EXIT;
1154 out:
1155         ll_tree_unlock(&tree, inode);
1156         /* serialize with mmap/munmap/mremap */
1157         lprocfs_counter_add(ll_i2sbi(inode)->ll_stats, LPROC_LL_WRITE_BYTES,
1158                             retval > 0 ? retval : 0);
1159         return retval;
1160 }
1161
1162 static int ll_lov_setstripe_ea_info(struct inode *inode, struct file *file,
1163                                     int flags, struct lov_user_md *lum,
1164                                     int lum_size)
1165 {
1166         struct ll_inode_info *lli = ll_i2info(inode);
1167         struct file *f;
1168         struct obd_export *exp = ll_i2dtexp(inode);
1169         struct lov_stripe_md *lsm;
1170         struct lookup_intent oit = {.it_op = IT_OPEN, .it_flags = flags};
1171         struct ptlrpc_request *req = NULL;
1172         int rc = 0;
1173         struct lustre_md md;
1174         struct obd_client_handle *och;
1175         ENTRY;
1176
1177
1178         if ((file->f_flags+1) & O_ACCMODE)
1179                 oit.it_flags++;
1180         if (file->f_flags & O_TRUNC)
1181                 oit.it_flags |= 2;
1182
1183         down(&lli->lli_open_sem);
1184         lsm = lli->lli_smd;
1185         if (lsm) {
1186                 up(&lli->lli_open_sem);
1187                 CDEBUG(D_IOCTL, "stripe already exists for ino %lu\n",
1188                        inode->i_ino);
1189                 RETURN(-EEXIST);
1190         }
1191
1192         f = get_empty_filp();
1193         if (!f)
1194                 GOTO(out, -ENOMEM);
1195
1196         f->f_dentry = file->f_dentry;
1197         f->f_vfsmnt = file->f_vfsmnt;
1198         f->f_flags = flags;
1199
1200         rc = ll_intent_alloc(&oit);
1201         if (rc)
1202                 GOTO(out, rc);
1203
1204         rc = ll_intent_file_open(f, lum, lum_size, &oit);
1205         if (rc)
1206                 GOTO(out, rc);
1207         if (it_disposition(&oit, DISP_LOOKUP_NEG))
1208                 GOTO(out, -ENOENT);
1209
1210         req = LUSTRE_IT(&oit)->it_data;
1211         rc = LUSTRE_IT(&oit)->it_status;
1212
1213         if (rc < 0)
1214                 GOTO(out, rc);
1215
1216         rc = mdc_req2lustre_md(ll_i2mdexp(inode), req, 1, exp, &md);
1217         if (rc)
1218                 GOTO(out, rc);
1219         ll_update_inode(f->f_dentry->d_inode, &md);
1220
1221         OBD_ALLOC(och, sizeof(struct obd_client_handle));
1222         rc = ll_local_open(f, &oit, och);
1223         if (rc) { /* Actually ll_local_open cannot fail! */
1224                 GOTO(out, rc);
1225         }
1226         if (LUSTRE_IT(&oit)->it_lock_mode) {
1227                 ldlm_lock_decref_and_cancel((struct lustre_handle *)
1228                                             &LUSTRE_IT(&oit)->it_lock_handle,
1229                                             LUSTRE_IT(&oit)->it_lock_mode);
1230                 LUSTRE_IT(&oit)->it_lock_mode = 0;
1231         }
1232
1233         ll_intent_release(&oit);
1234
1235         /* ll_file_release will decrease the count, but won't free anything
1236            because we have at least one more reference coming from actual open
1237          */
1238         down(&lli->lli_och_sem);
1239         lli->lli_open_fd_write_count++;
1240         up(&lli->lli_och_sem);
1241         rc = ll_file_release(f->f_dentry->d_inode, f);
1242
1243         /* Now also destroy our supplemental och */
1244         ll_md_och_close(ll_i2mdexp(inode), f->f_dentry->d_inode, och);
1245         EXIT;
1246  out:
1247         ll_intent_release(&oit);
1248         if (f)
1249                 put_filp(f);
1250         up(&lli->lli_open_sem);
1251         if (req != NULL)
1252                 ptlrpc_req_finished(req);
1253         return rc;
1254 }
1255
1256 static int ll_lov_setea(struct inode *inode, struct file *file,
1257                         unsigned long arg)
1258 {
1259         int flags = MDS_OPEN_HAS_OBJS | FMODE_WRITE;
1260         struct lov_user_md  *lump;
1261         int lum_size = sizeof(struct lov_user_md) +
1262                 sizeof(struct lov_user_ost_data);
1263         int rc;
1264         ENTRY;
1265
1266         if (!capable (CAP_SYS_ADMIN))
1267                 RETURN(-EPERM);
1268
1269         OBD_ALLOC(lump, lum_size);
1270         if (lump == NULL) {
1271                 RETURN(-ENOMEM);
1272         }
1273         rc = copy_from_user(lump, (struct lov_user_md  *)arg, lum_size);
1274         if (rc) {
1275                 OBD_FREE(lump, lum_size);
1276                 RETURN(-EFAULT);
1277         }
1278
1279         rc = ll_lov_setstripe_ea_info(inode, file, flags, lump, lum_size);
1280
1281         OBD_FREE(lump, lum_size);
1282         RETURN(rc);
1283 }
1284
1285 static int ll_lov_setstripe(struct inode *inode, struct file *file,
1286                             unsigned long arg)
1287 {
1288         struct lov_user_md lum, *lump = (struct lov_user_md *)arg;
1289         int rc;
1290         int flags = FMODE_WRITE;
1291         ENTRY;
1292
1293         /* Bug 1152: copy properly when this is no longer true */
1294         LASSERT(sizeof(lum) == sizeof(*lump));
1295         LASSERT(sizeof(lum.lmm_objects[0]) == sizeof(lump->lmm_objects[0]));
1296         rc = copy_from_user(&lum, lump, sizeof(lum));
1297         if (rc)
1298                 RETURN(-EFAULT);
1299
1300         rc = ll_lov_setstripe_ea_info(inode, file, flags, &lum, sizeof(lum));
1301         if (rc == 0) {
1302                  put_user(0, &lump->lmm_stripe_count);
1303                  rc = obd_iocontrol(LL_IOC_LOV_GETSTRIPE, ll_i2dtexp(inode),
1304                                     0, ll_i2info(inode)->lli_smd, lump);
1305         }
1306         RETURN(rc);
1307 }
1308
1309 static int ll_lov_getstripe(struct inode *inode, unsigned long arg)
1310 {
1311         struct lov_stripe_md *lsm = ll_i2info(inode)->lli_smd;
1312
1313         if (!lsm)
1314                 RETURN(-ENODATA);
1315
1316         return obd_iocontrol(LL_IOC_LOV_GETSTRIPE, ll_i2dtexp(inode), 0, lsm,
1317                              (void *)arg);
1318 }
1319
1320 static int ll_get_grouplock(struct inode *inode, struct file *file,
1321                          unsigned long arg)
1322 {
1323         struct ll_file_data *fd = file->private_data;
1324         ldlm_policy_data_t policy = { .l_extent = { .start = 0,
1325                                                     .end = OBD_OBJECT_EOF}};
1326         struct lustre_handle lockh = { 0 };
1327         struct ll_inode_info *lli = ll_i2info(inode);
1328         struct lov_stripe_md *lsm = lli->lli_smd;
1329         int flags = 0, rc;
1330         ENTRY;
1331
1332         if (fd->fd_flags & LL_FILE_GROUP_LOCKED) {
1333                 RETURN(-EINVAL);
1334         }
1335
1336         policy.l_extent.gid = arg;
1337         if (file->f_flags & O_NONBLOCK)
1338                 flags = LDLM_FL_BLOCK_NOWAIT;
1339
1340         rc = ll_extent_lock(fd, inode, lsm, LCK_GROUP, &policy, &lockh, flags,
1341                             &ll_i2sbi(inode)->ll_grouplock_stime);
1342         if (rc != 0)
1343                 RETURN(rc);
1344
1345         fd->fd_flags |= LL_FILE_GROUP_LOCKED|LL_FILE_IGNORE_LOCK;
1346         fd->fd_gid = arg;
1347         memcpy(&fd->fd_cwlockh, &lockh, sizeof(lockh));
1348
1349         RETURN(0);
1350 }
1351
1352 static int ll_put_grouplock(struct inode *inode, struct file *file,
1353                          unsigned long arg)
1354 {
1355         struct ll_file_data *fd = file->private_data;
1356         struct ll_inode_info *lli = ll_i2info(inode);
1357         struct lov_stripe_md *lsm = lli->lli_smd;
1358         int rc;
1359         ENTRY;
1360
1361         if (!(fd->fd_flags & LL_FILE_GROUP_LOCKED)) {
1362                 /* Ugh, it's already unlocked. */
1363                 RETURN(-EINVAL);
1364         }
1365
1366         if (fd->fd_gid != arg) /* Ugh? Unlocking with different gid? */
1367                 RETURN(-EINVAL);
1368
1369         fd->fd_flags &= ~(LL_FILE_GROUP_LOCKED|LL_FILE_IGNORE_LOCK);
1370
1371         rc = ll_extent_unlock(fd, inode, lsm, LCK_GROUP, &fd->fd_cwlockh);
1372         if (rc)
1373                 RETURN(rc);
1374
1375         fd->fd_gid = 0;
1376         memset(&fd->fd_cwlockh, 0, sizeof(fd->fd_cwlockh));
1377
1378         RETURN(0);
1379 }
1380
1381 int ll_file_ioctl(struct inode *inode, struct file *file, unsigned int cmd,
1382                   unsigned long arg)
1383 {
1384         struct ll_file_data *fd = file->private_data;
1385         struct ll_sb_info *sbi = ll_i2sbi(inode);
1386         int flags;
1387         ENTRY;
1388
1389         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu/%u(%p),cmd=%x\n", inode->i_ino,
1390                inode->i_generation, inode, cmd);
1391
1392         if (_IOC_TYPE(cmd) == 'T') /* tty ioctls */
1393                 RETURN(-ENOTTY);
1394
1395         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_IOCTL);
1396         switch(cmd) {
1397         case LL_IOC_GETFLAGS:
1398                 /* Get the current value of the file flags */
1399                 return put_user(fd->fd_flags, (int *)arg);
1400         case LL_IOC_SETFLAGS:
1401         case LL_IOC_CLRFLAGS:
1402                 /* Set or clear specific file flags */
1403                 /* XXX This probably needs checks to ensure the flags are
1404                  *     not abused, and to handle any flag side effects.
1405                  */
1406                 if (get_user(flags, (int *) arg))
1407                         RETURN(-EFAULT);
1408
1409                 if (cmd == LL_IOC_SETFLAGS)
1410                         fd->fd_flags |= flags;
1411                 else
1412                         fd->fd_flags &= ~flags;
1413                 RETURN(0);
1414         case LL_IOC_LOV_SETSTRIPE:
1415                 RETURN(ll_lov_setstripe(inode, file, arg));
1416         case LL_IOC_LOV_SETEA:
1417                 RETURN(ll_lov_setea(inode, file, arg));
1418         case IOC_MDC_SHOWFID: {
1419                 struct lustre_id *idp = (struct lustre_id *)arg;
1420                 struct lustre_id id;
1421                 char *filename;
1422                 int rc;
1423
1424                 filename = getname((const char *)arg);
1425                 if (IS_ERR(filename))
1426                         RETURN(PTR_ERR(filename));
1427
1428                 ll_inode2id(&id, inode);
1429
1430                 rc = ll_get_fid(sbi->ll_md_exp, &id, filename, &id);
1431                 if (rc < 0)
1432                         GOTO(out_filename, rc);
1433
1434                 rc = copy_to_user(idp, &id, sizeof(*idp));
1435                 if (rc)
1436                         GOTO(out_filename, rc = -EFAULT);
1437
1438                 EXIT;
1439         out_filename:
1440                 putname(filename);
1441                 return rc;
1442         }
1443         case LL_IOC_LOV_GETSTRIPE:
1444                 RETURN(ll_lov_getstripe(inode, arg));
1445         case EXT3_IOC_GETFLAGS:
1446         case EXT3_IOC_SETFLAGS:
1447                 RETURN( ll_iocontrol(inode, file, cmd, arg) );
1448         case LL_IOC_GROUP_LOCK:
1449                 RETURN(ll_get_grouplock(inode, file, arg));
1450         case LL_IOC_GROUP_UNLOCK:
1451                 RETURN(ll_put_grouplock(inode, file, arg));
1452         case EXT3_IOC_GETVERSION_OLD:
1453         case EXT3_IOC_GETVERSION:
1454                 return put_user(inode->i_generation, (int *) arg);
1455         /* We need to special case any other ioctls we want to handle,
1456          * to send them to the MDS/OST as appropriate and to properly
1457          * network encode the arg field.
1458         case EXT2_IOC_GETVERSION_OLD:
1459         case EXT2_IOC_GETVERSION_NEW:
1460         case EXT2_IOC_SETVERSION_OLD:
1461         case EXT2_IOC_SETVERSION_NEW:
1462         case EXT3_IOC_SETVERSION_OLD:
1463         case EXT3_IOC_SETVERSION:
1464         */
1465         default:
1466                 RETURN( obd_iocontrol(cmd, ll_i2dtexp(inode), 0, NULL,
1467                                       (void *)arg) );
1468         }
1469 }
1470
1471 loff_t ll_file_seek(struct file *file, loff_t offset, int origin)
1472 {
1473         struct inode *inode = file->f_dentry->d_inode;
1474         struct ll_file_data *fd = file->private_data;
1475         struct lov_stripe_md *lsm = ll_i2info(inode)->lli_smd;
1476         struct lustre_handle lockh = {0};
1477         loff_t retval;
1478         ENTRY;
1479         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu/%u(%p),to=%llu\n", inode->i_ino,
1480                inode->i_generation, inode,
1481                offset + ((origin==2) ? inode->i_size : file->f_pos));
1482
1483         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_LLSEEK);
1484         if (origin == 2) { /* SEEK_END */
1485                 ldlm_policy_data_t policy = { .l_extent = {0, OBD_OBJECT_EOF }};
1486                 struct ll_inode_info *lli = ll_i2info(inode);
1487                 int nonblock = 0, rc;
1488
1489                 if (file->f_flags & O_NONBLOCK)
1490                         nonblock = LDLM_FL_BLOCK_NOWAIT;
1491
1492                 rc = ll_extent_lock(fd, inode, lsm, LCK_PR, &policy, &lockh,
1493                                     nonblock, &ll_i2sbi(inode)->ll_seek_stime);
1494                 if (rc != 0)
1495                         RETURN(rc);
1496
1497                 down(&lli->lli_size_sem);
1498                 offset += inode->i_size;
1499                 up(&lli->lli_size_sem);
1500         } else if (origin == 1) { /* SEEK_CUR */
1501                 offset += file->f_pos;
1502         }
1503
1504         retval = -EINVAL;
1505         if (offset >= 0 && offset <= ll_file_maxbytes(inode)) {
1506                 if (offset != file->f_pos) {
1507                         file->f_pos = offset;
1508 #if (LINUX_VERSION_CODE < KERNEL_VERSION(2,5,0))
1509                         file->f_reada = 0;
1510                         file->f_version = ++event;
1511 #endif
1512                 }
1513                 retval = offset;
1514         }
1515
1516         if (origin == 2)
1517                 ll_extent_unlock(fd, inode, lsm, LCK_PR, &lockh);
1518         RETURN(retval);
1519 }
1520
1521 int ll_fsync(struct file *file, struct dentry *dentry, int data)
1522 {
1523         struct inode *inode = dentry->d_inode;
1524         struct lov_stripe_md *lsm = ll_i2info(inode)->lli_smd;
1525         struct lustre_id id;
1526         struct ptlrpc_request *req;
1527         int rc, err;
1528         ENTRY;
1529         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu/%u(%p)\n", inode->i_ino,
1530                inode->i_generation, inode);
1531
1532         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_FSYNC);
1533
1534         /* fsync's caller has already called _fdata{sync,write}, we want
1535          * that IO to finish before calling the osc and mdc sync methods */
1536         rc = filemap_fdatawait(inode->i_mapping);
1537
1538         ll_inode2id(&id, inode);
1539         err = md_sync(ll_i2sbi(inode)->ll_md_exp, &id, &req);
1540         if (!rc)
1541                 rc = err;
1542         if (!err)
1543                 ptlrpc_req_finished(req);
1544
1545         if (data && lsm) {
1546                 struct obdo *oa = obdo_alloc();
1547
1548                 if (!oa)
1549                         RETURN(rc ? rc : -ENOMEM);
1550
1551                 oa->o_id = lsm->lsm_object_id;
1552                 oa->o_gr = lsm->lsm_object_gr;
1553                 oa->o_valid = OBD_MD_FLID | OBD_MD_FLGROUP;
1554
1555                 obdo_from_inode(oa, inode, (OBD_MD_FLTYPE | OBD_MD_FLATIME |
1556                                             OBD_MD_FLMTIME | OBD_MD_FLCTIME |
1557                                             OBD_MD_FLGROUP));
1558
1559                 err = obd_sync(ll_i2sbi(inode)->ll_dt_exp, oa, lsm,
1560                                0, OBD_OBJECT_EOF);
1561                 if (!rc)
1562                         rc = err;
1563                 obdo_free(oa);
1564         }
1565
1566         RETURN(rc);
1567 }
1568
1569 int ll_file_flock(struct file *file, int cmd, struct file_lock *file_lock)
1570 {
1571         struct inode *inode = file->f_dentry->d_inode;
1572         struct ll_inode_info *li = ll_i2info(inode);
1573         struct ll_sb_info *sbi = ll_i2sbi(inode);
1574         struct obd_device *obddev;
1575         struct ldlm_res_id res_id =
1576                 { .name = {id_fid(&li->lli_id), id_group(&li->lli_id), LDLM_FLOCK} };
1577         struct lustre_handle lockh = {0};
1578         ldlm_policy_data_t flock;
1579         ldlm_mode_t mode = 0;
1580         int flags = 0;
1581         int rc;
1582         ENTRY;
1583
1584         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu file_lock=%p\n",
1585                inode->i_ino, file_lock);
1586
1587         flock.l_flock.pid = file_lock->fl_pid;
1588         flock.l_flock.start = file_lock->fl_start;
1589         flock.l_flock.end = file_lock->fl_end;
1590
1591         switch (file_lock->fl_type) {
1592         case F_RDLCK:
1593                 mode = LCK_PR;
1594                 break;
1595         case F_UNLCK:
1596                 /* An unlock request may or may not have any relation to
1597                  * existing locks so we may not be able to pass a lock handle
1598                  * via a normal ldlm_lock_cancel() request. The request may even
1599                  * unlock a byte range in the middle of an existing lock. In
1600                  * order to process an unlock request we need all of the same
1601                  * information that is given with a normal read or write record
1602                  * lock request. To avoid creating another ldlm unlock (cancel)
1603                  * message we'll treat a LCK_NL flock request as an unlock. */
1604                 mode = LCK_NL;
1605                 break;
1606         case F_WRLCK:
1607                 mode = LCK_PW;
1608                 break;
1609         default:
1610                 CERROR("unknown fcntl lock type: %d\n", file_lock->fl_type);
1611                 LBUG();
1612         }
1613
1614         switch (cmd) {
1615         case F_SETLKW:
1616 #ifdef F_SETLKW64
1617         case F_SETLKW64:
1618 #endif
1619                 flags = 0;
1620                 break;
1621         case F_SETLK:
1622 #ifdef F_SETLK64
1623         case F_SETLK64:
1624 #endif
1625                 flags = LDLM_FL_BLOCK_NOWAIT;
1626                 break;
1627         case F_GETLK:
1628 #ifdef F_GETLK64
1629         case F_GETLK64:
1630 #endif
1631                 flags = LDLM_FL_TEST_LOCK;
1632                 /* Save the old mode so that if the mode in the lock changes we
1633                  * can decrement the appropriate reader or writer refcount. */
1634                 file_lock->fl_type = mode;
1635                 break;
1636         default:
1637                 CERROR("unknown fcntl lock command: %d\n", cmd);
1638                 LBUG();
1639         }
1640
1641         CDEBUG(D_DLMTRACE, "inode=%lu, pid="LPU64", flags=%#x, mode=%u, "
1642                "start="LPU64", end="LPU64"\n", inode->i_ino, flock.l_flock.pid,
1643                flags, mode, flock.l_flock.start, flock.l_flock.end);
1644
1645         obddev = md_get_real_obd(sbi->ll_md_exp, &li->lli_id);
1646         rc = ldlm_cli_enqueue(obddev->obd_self_export, NULL,
1647                               obddev->obd_namespace,
1648                               res_id, LDLM_FLOCK, &flock, mode, &flags,
1649                               NULL, ldlm_flock_completion_ast, NULL, file_lock,
1650                               NULL, 0, NULL, &lockh);
1651         RETURN(rc);
1652 }
1653
1654 int ll_inode_revalidate_it(struct dentry *dentry)
1655 {
1656         struct lookup_intent oit = { .it_op = IT_GETATTR };
1657         struct inode *inode = dentry->d_inode;
1658         struct ptlrpc_request *req = NULL;
1659         struct ll_inode_info *lli;
1660         struct lov_stripe_md *lsm;
1661         struct ll_sb_info *sbi;
1662         struct lustre_id id;
1663         int rc;
1664         ENTRY;
1665
1666         if (!inode) {
1667                 CERROR("REPORT THIS LINE TO PETER\n");
1668                 RETURN(0);
1669         }
1670
1671         sbi = ll_i2sbi(inode);
1672
1673         ll_inode2id(&id, inode);
1674         lli = ll_i2info(inode);
1675         LASSERT(id_fid(&id) != 0);
1676
1677         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu/%u(%p), name=%s(%p)\n",
1678                inode->i_ino, inode->i_generation, inode, dentry->d_name.name,
1679                dentry);
1680
1681 #if (LINUX_VERSION_CODE <= KERNEL_VERSION(2,5,0))
1682         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_REVALIDATE);
1683 #endif
1684
1685         rc = ll_intent_alloc(&oit);
1686         if (rc)
1687                 RETURN(-ENOMEM);
1688
1689         rc = md_intent_lock(sbi->ll_md_exp, &id, NULL, 0, NULL, 0, &id,
1690                             &oit, 0, &req, ll_mdc_blocking_ast);
1691         if (rc < 0)
1692                 GOTO(out, rc);
1693
1694         rc = revalidate_it_finish(req, 1, &oit, dentry);
1695         if (rc) {
1696                 GOTO(out, rc);
1697         }
1698
1699         ll_lookup_finish_locks(&oit, dentry);
1700
1701         lsm = lli->lli_smd;
1702         if (lsm == NULL) /* object not yet allocated, don't validate size */
1703                 GOTO(out, rc = 0);
1704
1705         /*
1706          * ll_glimpse_size() will prefer locally cached writes if they extend
1707          * the file.
1708          */
1709         rc = ll_glimpse_size(inode);
1710         EXIT;
1711 out:
1712         ll_intent_release(&oit);
1713         if (req)
1714                 ptlrpc_req_finished(req);
1715         return rc;
1716 }
1717
1718 #if (LINUX_VERSION_CODE > KERNEL_VERSION(2,5,0))
1719 int ll_getattr(struct vfsmount *mnt, struct dentry *de, struct kstat *stat)
1720 {
1721         int res = 0;
1722         struct inode *inode = de->d_inode;
1723         struct ll_inode_info *lli = ll_i2info(inode);
1724
1725         res = ll_inode_revalidate_it(de);
1726         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_GETATTR);
1727
1728         if (res)
1729                 return res;
1730
1731         stat->ino = inode->i_ino;
1732         stat->mode = inode->i_mode;
1733         stat->nlink = inode->i_nlink;
1734         stat->uid = inode->i_uid;
1735         stat->gid = inode->i_gid;
1736         stat->atime = inode->i_atime;
1737         stat->mtime = inode->i_mtime;
1738         stat->ctime = inode->i_ctime;
1739         stat->blksize = inode->i_blksize;
1740
1741         down(&lli->lli_size_sem);
1742         stat->size = inode->i_size;
1743         stat->blocks = inode->i_blocks;
1744         up(&lli->lli_size_sem);
1745
1746         stat->rdev = kdev_t_to_nr(inode->i_rdev);
1747         stat->dev = id_group(&ll_i2info(inode)->lli_id);
1748         return 0;
1749 }
1750 #endif
1751
1752 static
1753 int ll_setxattr_internal(struct inode *inode, const char *name,
1754                          const void *value, size_t size, int flags,
1755                          __u64 valid)
1756 {
1757         struct ll_sb_info *sbi = ll_i2sbi(inode);
1758         struct ptlrpc_request *request = NULL;
1759         struct mdc_op_data op_data;
1760         struct iattr attr;
1761         int rc = 0;
1762         ENTRY;
1763
1764         CDEBUG(D_VFSTRACE, "VFS Op:inode=%lu\n", inode->i_ino);
1765         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_SETXATTR);
1766
1767         memset(&attr, 0x0, sizeof(attr));
1768         attr.ia_valid |= valid;
1769         attr.ia_attr_flags = flags;
1770
1771         ll_prepare_mdc_data(&op_data, inode, NULL, NULL, 0, 0);
1772
1773         rc = md_setattr(sbi->ll_md_exp, &op_data, &attr,
1774                         (void*) name, strnlen(name, XATTR_NAME_MAX)+1,
1775                         (void*) value, size, &request);
1776         if (rc) {
1777                 CERROR("md_setattr fails: rc = %d\n", rc);
1778                 GOTO(out, rc);
1779         }
1780
1781  out:
1782         ptlrpc_req_finished(request);
1783         RETURN(rc);
1784 }
1785
1786 int ll_setxattr(struct dentry *dentry, const char *name, const void *value,
1787                 size_t size, int flags)
1788 {
1789         int rc, error;
1790         struct posix_acl *acl;
1791         struct ll_inode_info *lli;
1792         ENTRY;
1793
1794         rc = ll_setxattr_internal(dentry->d_inode, name, value, size,
1795                                   flags, ATTR_EA);
1796
1797         /* update inode's acl info */
1798         if (rc == 0 && strcmp(name, XATTR_NAME_ACL_ACCESS) == 0) {
1799                 if (value) {
1800                         acl = posix_acl_from_xattr(value, size);
1801                         if (IS_ERR(acl)) {
1802                                 CERROR("convert from xattr to acl error: %ld",
1803                                         PTR_ERR(acl));
1804                                 GOTO(out, rc);
1805                         } else if (acl) {
1806                                 error = posix_acl_valid(acl);
1807                                 if (error) {
1808                                         CERROR("acl valid error: %d", error);
1809                                         posix_acl_release(acl);
1810                                         GOTO(out, rc);
1811                                 }
1812                         }
1813                 } else {
1814                         acl = NULL;
1815                 }
1816
1817                 lli = ll_i2info(dentry->d_inode);
1818                 spin_lock(&lli->lli_lock);
1819                 if (lli->lli_acl_access != NULL)
1820                         posix_acl_release(lli->lli_acl_access);
1821                 lli->lli_acl_access = acl;
1822                 spin_unlock(&lli->lli_lock);
1823         }
1824         EXIT;
1825 out:
1826         return(rc);
1827 }
1828
1829 int ll_removexattr(struct dentry *dentry, const char *name)
1830 {
1831         return ll_setxattr_internal(dentry->d_inode, name, NULL, 0, 0,
1832                                     ATTR_EA_RM);
1833 }
1834
1835 static
1836 int ll_getxattr_internal(struct inode *inode, const char *name, int namelen,
1837                          void *value, size_t size, __u64 valid)
1838 {
1839         struct ptlrpc_request *request = NULL;
1840         struct ll_sb_info *sbi = ll_i2sbi(inode);
1841         struct lustre_id id;
1842         struct mds_body *body;
1843         void *ea_data;
1844         int rc, ea_size;
1845         ENTRY;
1846
1847         lprocfs_counter_incr(ll_i2sbi(inode)->ll_stats, LPROC_LL_GETXATTR);
1848
1849         ll_inode2id(&id, inode);
1850         rc = md_getattr(sbi->ll_md_exp, &id, valid, name, namelen,
1851                          size, &request);
1852         if (rc) {
1853                 if (rc != -ENODATA && rc != -EOPNOTSUPP)
1854                         CERROR("md_getattr fails: rc = %d\n", rc);
1855                 GOTO(out, rc);
1856         }
1857
1858         body = lustre_msg_buf(request->rq_repmsg, 0, sizeof(*body));
1859         LASSERT(body != NULL);
1860         LASSERT_REPSWABBED(request, 0);
1861
1862         ea_size = body->eadatasize;
1863         LASSERT(ea_size <= request->rq_repmsg->buflens[0]);
1864
1865         if (size == 0)
1866                 GOTO(out, rc = ea_size);
1867
1868         ea_data = lustre_msg_buf(request->rq_repmsg, 1, ea_size);
1869         LASSERT(ea_data != NULL);
1870         LASSERT_REPSWABBED(request, 1);
1871
1872         if (value)
1873                 memcpy(value, ea_data, ea_size);
1874         rc = ea_size;
1875  out:
1876         ptlrpc_req_finished(request);
1877         RETURN(rc);
1878 }
1879
1880 int ll_getxattr(struct dentry *dentry, const char *name, void *value,
1881                 size_t size)
1882 {
1883         return ll_getxattr_internal(dentry->d_inode, name, strlen(name) + 1,
1884                                     value, size, OBD_MD_FLEA);
1885 }
1886
1887 int ll_listxattr(struct dentry *dentry, char *list, size_t size)
1888 {
1889         return ll_getxattr_internal(dentry->d_inode, NULL, 0, list, size,
1890                                     OBD_MD_FLEALIST);
1891 }
1892
1893 /*
1894  * XXX We could choose not to check DLM lock. Leave the decision
1895  * to remote acl handling.
1896  */
1897 static int
1898 lustre_check_acl(struct inode *inode, int mask)
1899 {
1900         struct lookup_intent it = { .it_op = IT_GETATTR };
1901         struct dentry de = { .d_inode = inode };
1902         struct ll_sb_info *sbi;
1903         struct lustre_id id;
1904         struct ptlrpc_request *req = NULL;
1905         struct ll_inode_info *lli = ll_i2info(inode);
1906         struct posix_acl *acl;
1907         int rc;
1908         ENTRY;
1909
1910         sbi = ll_i2sbi(inode);
1911         ll_inode2id(&id, inode);
1912
1913         if (ll_intent_alloc(&it))
1914                 return -EACCES;
1915
1916         rc = md_intent_lock(sbi->ll_md_exp, &id, NULL, 0, NULL, 0, &id,
1917                             &it, 0, &req, ll_mdc_blocking_ast);
1918         if (rc < 0) {
1919                 ll_intent_free(&it);
1920                 GOTO(out, rc);
1921         }
1922
1923         rc = revalidate_it_finish(req, 1, &it, &de);
1924         if (rc) {
1925                 ll_intent_release(&it);
1926                 GOTO(out, rc);
1927         }
1928
1929         ll_lookup_finish_locks(&it, &de);
1930         ll_intent_free(&it);
1931
1932         spin_lock(&lli->lli_lock);
1933         acl = posix_acl_dup(ll_i2info(inode)->lli_acl_access);
1934         spin_unlock(&lli->lli_lock);
1935
1936         if (!acl)
1937                 GOTO(out, rc = -EAGAIN);
1938
1939         rc = posix_acl_permission(inode, acl, mask);
1940         posix_acl_release(acl);
1941
1942 out:
1943         if (req)
1944                 ptlrpc_req_finished(req);
1945
1946         RETURN(rc);
1947 }
1948
1949 int ll_inode_permission(struct inode *inode, int mask, struct nameidata *nd)
1950 {
1951         return generic_permission(inode, mask, lustre_check_acl);
1952 }
1953
1954 struct file_operations ll_file_operations = {
1955         .read           = ll_file_read,
1956         .write          = ll_file_write,
1957         .ioctl          = ll_file_ioctl,
1958         .open           = ll_file_open,
1959         .release        = ll_file_release,
1960         .mmap           = ll_file_mmap,
1961         .llseek         = ll_file_seek,
1962 #if (LINUX_VERSION_CODE >= KERNEL_VERSION(2,5,0))
1963         .sendfile       = generic_file_sendfile,
1964 #endif
1965         .fsync          = ll_fsync,
1966         .lock           = ll_file_flock
1967 };
1968
1969 struct inode_operations ll_file_inode_operations = {
1970         .setattr        = ll_setattr,
1971         .truncate       = ll_truncate,
1972 #if (LINUX_VERSION_CODE > KERNEL_VERSION(2,5,0))
1973         .getattr        = ll_getattr,
1974 #else
1975         .revalidate_it  = ll_inode_revalidate_it,
1976 #endif
1977         .setxattr       = ll_setxattr,
1978         .getxattr       = ll_getxattr,
1979         .listxattr      = ll_listxattr,
1980         .removexattr    = ll_removexattr,
1981         .permission     = ll_inode_permission,
1982 };
1983