Whamcloud - gitweb
LU-12355 llite: Lustre specific iov_for_each broken (removed)
[fs/lustre-release.git] / lustre / llite / vvp_io.c
index c272256..294cfeb 100644 (file)
@@ -23,7 +23,7 @@
  * Copyright (c) 2008, 2010, Oracle and/or its affiliates. All rights reserved.
  * Use is subject to license terms.
  *
- * Copyright (c) 2011, 2016, Intel Corporation.
+ * Copyright (c) 2011, 2017, Intel Corporation.
  */
 /*
  * This file is part of Lustre, http://www.lustre.org/
@@ -41,6 +41,7 @@
 #include <obd.h>
 #include "llite_internal.h"
 #include "vvp_internal.h"
+#include <libcfs/linux/linux-misc.h>
 
 static struct vvp_io *cl2vvp_io(const struct lu_env *env,
                                const struct cl_io_slice *slice)
@@ -298,12 +299,14 @@ static void vvp_io_fini(const struct lu_env *env, const struct cl_io_slice *ios)
        struct cl_object *obj = io->ci_obj;
        struct vvp_io    *vio = cl2vvp_io(env, ios);
        struct inode     *inode = vvp_object_inode(obj);
+       __u32             gen = 0;
        int rc;
+       ENTRY;
 
        CLOBINVRNT(env, obj, vvp_object_invariant(obj));
 
        CDEBUG(D_VFSTRACE, DFID" ignore/verify layout %d/%d, layout version %d "
-              "need write layout %d, restore needed %d\n",
+                          "need write layout %d, restore needed %d\n",
               PFID(lu_object_fid(&obj->co_lu)),
               io->ci_ignore_layout, io->ci_verify_layout,
               vio->vui_layout_gen, io->ci_need_write_intent,
@@ -320,18 +323,40 @@ static void vvp_io_fini(const struct lu_env *env, const struct cl_io_slice *ios)
                 * block on layout lock held by the MDT
                 * as MDT will not send new layout in lvb (see LU-3124)
                 * we have to explicitly fetch it, all this will be done
-                * by ll_layout_refresh()
+                * by ll_layout_refresh().
+                * Even if ll_layout_restore() returns zero, it doesn't mean
+                * that restore has been successful. Therefore it sets
+                * ci_verify_layout so that it will check layout at the end
+                * of this function.
                 */
-               if (rc == 0) {
-                       io->ci_restore_needed = 0;
-                       io->ci_need_restart = 1;
-                       io->ci_verify_layout = 1;
-               } else {
+               if (rc) {
                        io->ci_restore_needed = 1;
                        io->ci_need_restart = 0;
                        io->ci_verify_layout = 0;
                        io->ci_result = rc;
+                       GOTO(out, rc);
+               }
+
+               io->ci_restore_needed = 0;
+
+               /* Even if ll_layout_restore() returns zero, it doesn't mean
+                * that restore has been successful. Therefore it should verify
+                * if there was layout change and restart I/O correspondingly.
+                */
+               ll_layout_refresh(inode, &gen);
+               io->ci_need_restart = vio->vui_layout_gen != gen;
+               if (io->ci_need_restart) {
+                       CDEBUG(D_VFSTRACE,
+                              DFID" layout changed from %d to %d.\n",
+                              PFID(lu_object_fid(&obj->co_lu)),
+                              vio->vui_layout_gen, gen);
+                       /* today successful restore is the only possible
+                        * case */
+                       /* restore was done, clear restoring state */
+                       ll_file_clear_flag(ll_i2info(vvp_object_inode(obj)),
+                                          LLIF_FILE_RESTORING);
                }
+               GOTO(out, 0);
        }
 
        /**
@@ -339,40 +364,29 @@ static void vvp_io_fini(const struct lu_env *env, const struct cl_io_slice *ios)
         * RPC.
         */
        if (io->ci_need_write_intent) {
-               loff_t start = 0;
-               loff_t end = OBD_OBJECT_EOF;
+               enum layout_intent_opc opc = LAYOUT_INTENT_WRITE;
 
                io->ci_need_write_intent = 0;
 
                LASSERT(io->ci_type == CIT_WRITE ||
                        cl_io_is_trunc(io) || cl_io_is_mkwrite(io));
 
-               if (io->ci_type == CIT_WRITE) {
-                       if (!cl_io_is_append(io)) {
-                               start = io->u.ci_rw.rw_range.cir_pos;
-                               end = start + io->u.ci_rw.rw_range.cir_count;
-                       }
-               } else if (cl_io_is_trunc(io)) {
-                       end = io->u.ci_setattr.sa_attr.lvb_size;
-               } else { /* mkwrite */
-                       pgoff_t index = io->u.ci_fault.ft_index;
+               CDEBUG(D_VFSTRACE, DFID" write layout, type %u "DEXT"\n",
+                      PFID(lu_object_fid(&obj->co_lu)), io->ci_type,
+                      PEXT(&io->ci_write_intent));
 
-                       start = cl_offset(io->ci_obj, index);
-                       end = cl_offset(io->ci_obj, index + 1);
-               }
+               if (cl_io_is_trunc(io))
+                       opc = LAYOUT_INTENT_TRUNC;
 
-               CDEBUG(D_VFSTRACE, DFID" write layout, type %u [%llu, %llu)\n",
-                      PFID(lu_object_fid(&obj->co_lu)), io->ci_type,
-                      start, end);
-               rc = ll_layout_write_intent(inode, start, end);
+               rc = ll_layout_write_intent(inode, opc, &io->ci_write_intent);
                io->ci_result = rc;
                if (!rc)
                        io->ci_need_restart = 1;
+               GOTO(out, rc);
        }
 
-       if (!io->ci_ignore_layout && io->ci_verify_layout) {
-               __u32 gen = 0;
-
+       if (!io->ci_need_restart &&
+           !io->ci_ignore_layout && io->ci_verify_layout) {
                /* check layout version */
                ll_layout_refresh(inode, &gen);
                io->ci_need_restart = vio->vui_layout_gen != gen;
@@ -381,13 +395,11 @@ static void vvp_io_fini(const struct lu_env *env, const struct cl_io_slice *ios)
                               DFID" layout changed from %d to %d.\n",
                               PFID(lu_object_fid(&obj->co_lu)),
                               vio->vui_layout_gen, gen);
-                       /* today successful restore is the only possible
-                        * case */
-                       /* restore was done, clear restoring state */
-                       ll_file_clear_flag(ll_i2info(vvp_object_inode(obj)),
-                                          LLIF_FILE_RESTORING);
                }
+               GOTO(out, 0);
        }
+out:
+       EXIT;
 }
 
 static void vvp_io_fault_fini(const struct lu_env *env,
@@ -418,7 +430,8 @@ static enum cl_lock_mode vvp_mode_from_vma(struct vm_area_struct *vma)
         return CLM_READ;
 }
 
-static int vvp_mmap_locks(const struct lu_env *env, struct cl_io *io)
+static int vvp_mmap_locks(const struct lu_env *env,
+                         struct vvp_io *vio, struct cl_io *io)
 {
        struct vvp_thread_info *vti = vvp_env_info(env);
        struct mm_struct *mm = current->mm;
@@ -427,6 +440,8 @@ static int vvp_mmap_locks(const struct lu_env *env, struct cl_io *io)
        union ldlm_policy_data policy;
        struct iovec iov;
        struct iov_iter i;
+       unsigned long addr;
+       ssize_t count;
        int result = 0;
        ENTRY;
 
@@ -435,13 +450,23 @@ static int vvp_mmap_locks(const struct lu_env *env, struct cl_io *io)
        if (!cl_is_normalio(env, io))
                RETURN(0);
 
+       /* nfs or loop back device write */
+       if (vio->vui_iter == NULL)
+               RETURN(0);
+
        /* No MM (e.g. NFS)? No vmas too. */
        if (mm == NULL)
                RETURN(0);
 
-       iov_for_each(iov, i, io->u.ci_rw.rw_iter) {
-               unsigned long addr = (unsigned long)iov.iov_base;
-               size_t count = iov.iov_len;
+       if (!iter_is_iovec(vio->vui_iter) && !iov_iter_is_kvec(vio->vui_iter))
+               RETURN(0);
+
+       for (i = *vio->vui_iter;
+            iov_iter_count(&i);
+            iov_iter_advance(&i, iov.iov_len)) {
+               iov = iov_iter_iovec(&i);
+               addr = (unsigned long)iov.iov_base;
+               count = iov.iov_len;
 
                 if (count == 0)
                         continue;
@@ -512,37 +537,38 @@ static void vvp_io_advance(const struct lu_env *env,
                return;
 
        vio->vui_tot_count -= nob;
-       if (io->ci_pio) {
-               iov_iter_advance(&io->u.ci_rw.rw_iter, nob);
-               io->u.ci_rw.rw_iocb.ki_pos = io->u.ci_rw.rw_range.cir_pos;
-#ifdef HAVE_KIOCB_KI_LEFT
-               io->u.ci_rw.rw_iocb.ki_left = vio->vui_tot_count;
-#elif defined(HAVE_KI_NBYTES)
-               io->u.ci_rw.rw_iocb.ki_nbytes = vio->vui_tot_count;
-#endif
-       } else {
-               /* It was truncated to stripe size in vvp_io_rw_lock() */
-               iov_iter_reexpand(&io->u.ci_rw.rw_iter, vio->vui_tot_count);
-       }
+       iov_iter_reexpand(vio->vui_iter, vio->vui_tot_count);
+}
+
+static void vvp_io_update_iov(const struct lu_env *env,
+                             struct vvp_io *vio, struct cl_io *io)
+{
+       size_t size = io->u.ci_rw.crw_count;
+
+       if (!cl_is_normalio(env, io) || vio->vui_iter == NULL)
+               return;
+
+       iov_iter_truncate(vio->vui_iter, size);
 }
 
 static int vvp_io_rw_lock(const struct lu_env *env, struct cl_io *io,
                           enum cl_lock_mode mode, loff_t start, loff_t end)
 {
+       struct vvp_io *vio = vvp_env_io(env);
        int result;
        int ast_flags = 0;
 
        LASSERT(io->ci_type == CIT_READ || io->ci_type == CIT_WRITE);
        ENTRY;
 
-       if (cl_is_normalio(env, io))
-               iov_iter_truncate(&io->u.ci_rw.rw_iter,
-                                 io->u.ci_rw.rw_range.cir_count);
+       vvp_io_update_iov(env, vio, io);
 
-       if (io->u.ci_rw.rw_nonblock)
+       if (io->u.ci_rw.crw_nonblock)
                ast_flags |= CEF_NONBLOCK;
+       if (io->ci_lock_no_expand)
+               ast_flags |= CEF_LOCK_NO_EXPAND;
 
-       result = vvp_mmap_locks(env, io);
+       result = vvp_mmap_locks(env, vio, io);
        if (result == 0)
                result = vvp_io_one_lock(env, io, ast_flags, mode, start, end);
 
@@ -553,13 +579,13 @@ static int vvp_io_read_lock(const struct lu_env *env,
                             const struct cl_io_slice *ios)
 {
        struct cl_io *io = ios->cis_io;
-       struct cl_io_range *range = &io->u.ci_rw.rw_range;
-       int rc;
+       struct cl_io_rw_common *rd = &io->u.ci_rd.rd;
+       int result;
 
        ENTRY;
-       rc = vvp_io_rw_lock(env, io, CLM_READ, range->cir_pos,
-                           range->cir_pos + range->cir_count - 1);
-       RETURN(rc);
+       result = vvp_io_rw_lock(env, io, CLM_READ, rd->crw_pos,
+                               rd->crw_pos + rd->crw_count - 1);
+       RETURN(result);
 }
 
 static int vvp_io_fault_lock(const struct lu_env *env,
@@ -578,27 +604,26 @@ static int vvp_io_fault_lock(const struct lu_env *env,
 }
 
 static int vvp_io_write_lock(const struct lu_env *env,
-                             const struct cl_io_slice *ios)
+                            const struct cl_io_slice *ios)
 {
        struct cl_io *io = ios->cis_io;
        loff_t start;
        loff_t end;
-       int rc;
 
-       ENTRY;
-       if (io->u.ci_rw.rw_append) {
+       if (io->u.ci_wr.wr_append) {
                start = 0;
                end   = OBD_OBJECT_EOF;
        } else {
-               start = io->u.ci_rw.rw_range.cir_pos;
-               end   = start + io->u.ci_rw.rw_range.cir_count - 1;
+               start = io->u.ci_wr.wr.crw_pos;
+               end   = start + io->u.ci_wr.wr.crw_count - 1;
        }
-       rc = vvp_io_rw_lock(env, io, CLM_WRITE, start, end);
-       RETURN(rc);
+
+       RETURN(vvp_io_rw_lock(env, io, CLM_WRITE, start, end));
 }
 
 static int vvp_io_setattr_iter_init(const struct lu_env *env,
                                    const struct cl_io_slice *ios)
+
 {
        return 0;
 }
@@ -615,12 +640,12 @@ static int vvp_io_setattr_lock(const struct lu_env *env,
        __u64 new_size;
        __u32 enqflags = 0;
 
-        if (cl_io_is_trunc(io)) {
-                new_size = io->u.ci_setattr.sa_attr.lvb_size;
-                if (new_size == 0)
-                        enqflags = CEF_DISCARD_DATA;
-        } else {
-               unsigned int valid = io->u.ci_setattr.sa_valid;
+       if (cl_io_is_trunc(io)) {
+               new_size = io->u.ci_setattr.sa_attr.lvb_size;
+               if (new_size == 0)
+                       enqflags = CEF_DISCARD_DATA;
+       } else {
+               unsigned int valid = io->u.ci_setattr.sa_avalid;
 
                if (!(valid & TIMES_SET_FLAGS))
                        return 0;
@@ -669,16 +694,16 @@ static int vvp_io_setattr_time(const struct lu_env *env,
         int result;
         unsigned valid = CAT_CTIME;
 
-        cl_object_attr_lock(obj);
-        attr->cat_ctime = io->u.ci_setattr.sa_attr.lvb_ctime;
-        if (io->u.ci_setattr.sa_valid & ATTR_ATIME_SET) {
-                attr->cat_atime = io->u.ci_setattr.sa_attr.lvb_atime;
-                valid |= CAT_ATIME;
-        }
-        if (io->u.ci_setattr.sa_valid & ATTR_MTIME_SET) {
-                attr->cat_mtime = io->u.ci_setattr.sa_attr.lvb_mtime;
-                valid |= CAT_MTIME;
-        }
+       cl_object_attr_lock(obj);
+       attr->cat_ctime = io->u.ci_setattr.sa_attr.lvb_ctime;
+       if (io->u.ci_setattr.sa_avalid & ATTR_ATIME_SET) {
+               attr->cat_atime = io->u.ci_setattr.sa_attr.lvb_atime;
+               valid |= CAT_ATIME;
+       }
+       if (io->u.ci_setattr.sa_avalid & ATTR_MTIME_SET) {
+               attr->cat_mtime = io->u.ci_setattr.sa_attr.lvb_mtime;
+               valid |= CAT_MTIME;
+       }
        result = cl_object_attr_update(env, obj, attr, valid);
        cl_object_attr_unlock(obj);
 
@@ -700,7 +725,7 @@ static int vvp_io_setattr_start(const struct lu_env *env,
                inode_lock(inode);
        }
 
-       if (io->u.ci_setattr.sa_valid & TIMES_SET_FLAGS)
+       if (io->u.ci_setattr.sa_avalid & TIMES_SET_FLAGS)
                return vvp_io_setattr_time(env, ios);
 
        return 0;
@@ -748,34 +773,41 @@ static int vvp_io_read_start(const struct lu_env *env,
        struct inode            *inode = vvp_object_inode(obj);
        struct ll_inode_info    *lli   = ll_i2info(inode);
        struct file             *file  = vio->vui_fd->fd_file;
-       struct cl_io_range      *range = &io->u.ci_rw.rw_range;
-       loff_t pos = range->cir_pos; /* for generic_file_splice_read() only */
-       size_t tot = vio->vui_tot_count;
-       int exceed = 0;
-       int result;
+       loff_t  pos = io->u.ci_rd.rd.crw_pos;
+       long    cnt = io->u.ci_rd.rd.crw_count;
+       long    tot = vio->vui_tot_count;
+       int     exceed = 0;
+       int     result;
+       ENTRY;
 
        CLOBINVRNT(env, obj, vvp_object_invariant(obj));
 
        CDEBUG(D_VFSTRACE, "%s: read [%llu, %llu)\n",
                file_dentry(file)->d_name.name,
-               range->cir_pos, range->cir_pos + range->cir_count);
+               pos, pos + cnt);
 
        if (vio->vui_io_subtype == IO_NORMAL)
                down_read(&lli->lli_trunc_sem);
 
+       if (io->ci_async_readahead) {
+               file_accessed(file);
+               RETURN(0);
+       }
+
        if (!can_populate_pages(env, io, inode))
-               return 0;
+               RETURN(0);
 
-       result = vvp_prep_size(env, obj, io, range->cir_pos, tot, &exceed);
+       /* Unless this is reading a sparse file, otherwise the lock has already
+        * been acquired so vvp_prep_size() is an empty op. */
+       result = vvp_prep_size(env, obj, io, pos, cnt, &exceed);
        if (result != 0)
-               return result;
+               RETURN(result);
        else if (exceed != 0)
-               goto out;
+               GOTO(out, result);
 
        LU_OBJECT_HEADER(D_INODE, env, &obj->co_lu,
                         "Read ino %lu, %lu bytes, offset %lld, size %llu\n",
-                        inode->i_ino, range->cir_count, range->cir_pos,
-                        i_size_read(inode));
+                        inode->i_ino, cnt, pos, i_size_read(inode));
 
        /* turn off the kernel's read-ahead */
        vio->vui_fd->fd_file->f_ra.ra_pages = 0;
@@ -783,26 +815,20 @@ static int vvp_io_read_start(const struct lu_env *env,
        /* initialize read-ahead window once per syscall */
        if (!vio->vui_ra_valid) {
                vio->vui_ra_valid = true;
-               vio->vui_ra_start = cl_index(obj, range->cir_pos);
+               vio->vui_ra_start = cl_index(obj, pos);
                vio->vui_ra_count = cl_index(obj, tot + PAGE_SIZE - 1);
-               ll_ras_enter(file);
        }
 
        /* BUG: 5972 */
        file_accessed(file);
        switch (vio->vui_io_subtype) {
        case IO_NORMAL:
-               LASSERTF(io->u.ci_rw.rw_iocb.ki_pos == range->cir_pos,
-                        "ki_pos %lld [%lld, %lld)\n",
-                        io->u.ci_rw.rw_iocb.ki_pos,
-                        range->cir_pos, range->cir_pos + range->cir_count);
-               result = generic_file_read_iter(&io->u.ci_rw.rw_iocb,
-                                               &io->u.ci_rw.rw_iter);
+               LASSERT(vio->vui_iocb->ki_pos == pos);
+               result = generic_file_read_iter(vio->vui_iocb, vio->vui_iter);
                break;
        case IO_SPLICE:
                result = generic_file_splice_read(file, &pos,
-                                                 vio->u.splice.vui_pipe,
-                                                 range->cir_count,
+                                                 vio->u.splice.vui_pipe, cnt,
                                                  vio->u.splice.vui_flags);
                /* LU-1109: do splice read stripe by stripe otherwise if it
                 * may make nfsd stuck if this read occupied all internal pipe
@@ -813,14 +839,15 @@ static int vvp_io_read_start(const struct lu_env *env,
                CERROR("Wrong IO type %u\n", vio->vui_io_subtype);
                LBUG();
        }
+       GOTO(out, result);
 
 out:
        if (result >= 0) {
-               if (result < range->cir_count)
+               if (result < cnt)
                        io->ci_continue = 0;
                io->ci_nob += result;
                ll_rw_stats_tally(ll_i2sbi(inode), current->pid, vio->vui_fd,
-                                 range->cir_pos, result, READ);
+                                 pos, result, READ);
                result = 0;
        }
 
@@ -876,6 +903,7 @@ static int vvp_io_commit_sync(const struct lu_env *env, struct cl_io *io,
                        SetPageUptodate(cl_page_vmpage(page));
                        cl_page_disown(env, io, page);
 
+                       /* held in ll_cl_init() */
                        lu_ref_del(&page->cp_reference, "cl_io", io);
                        cl_page_put(env, page);
                }
@@ -894,6 +922,7 @@ static void write_commit_callback(const struct lu_env *env, struct cl_io *io,
 
        cl_page_disown(env, io, page);
 
+       /* held in ll_cl_init() */
        lu_ref_del(&page->cp_reference, "cl_io", cl_io_top(io));
        cl_page_put(env, page);
 }
@@ -994,6 +1023,7 @@ int vvp_io_write_commit(const struct lu_env *env, struct cl_io *io)
 
                cl_page_disown(env, io, page);
 
+               /* held in ll_cl_init() */
                lu_ref_del(&page->cp_reference, "cl_io", io);
                cl_page_put(env, page);
        }
@@ -1011,10 +1041,11 @@ static int vvp_io_write_start(const struct lu_env *env,
        struct inode            *inode = vvp_object_inode(obj);
        struct ll_inode_info    *lli   = ll_i2info(inode);
        struct file             *file  = vio->vui_fd->fd_file;
-       struct cl_io_range      *range = &io->u.ci_rw.rw_range;
-       bool                     lock_inode = !lli->lli_inode_locked &&
-                                             !IS_NOSEC(inode);
        ssize_t                  result = 0;
+       loff_t                   pos = io->u.ci_wr.wr.crw_pos;
+       size_t                   cnt = io->u.ci_wr.wr.crw_count;
+       bool                     lock_inode = !IS_NOSEC(inode);
+
        ENTRY;
 
        if (vio->vui_io_subtype == IO_NORMAL)
@@ -1029,29 +1060,28 @@ static int vvp_io_write_start(const struct lu_env *env,
                 * out-of-order writes.
                 */
                ll_merge_attr(env, inode);
-               range->cir_pos = i_size_read(inode);
-               io->u.ci_rw.rw_iocb.ki_pos = range->cir_pos;
+               pos = io->u.ci_wr.wr.crw_pos = i_size_read(inode);
+               vio->vui_iocb->ki_pos = pos;
        } else {
-               LASSERTF(io->u.ci_rw.rw_iocb.ki_pos == range->cir_pos,
+               LASSERTF(vio->vui_iocb->ki_pos == pos,
                         "ki_pos %lld [%lld, %lld)\n",
-                        io->u.ci_rw.rw_iocb.ki_pos,
-                        range->cir_pos, range->cir_pos + range->cir_count);
+                        vio->vui_iocb->ki_pos,
+                        pos, pos + cnt);
        }
 
        CDEBUG(D_VFSTRACE, "%s: write [%llu, %llu)\n",
                file_dentry(file)->d_name.name,
-               range->cir_pos, range->cir_pos + range->cir_count);
+               pos, pos + cnt);
 
        /* The maximum Lustre file size is variable, based on the OST maximum
         * object size and number of stripes.  This needs another check in
         * addition to the VFS checks earlier. */
-       if (range->cir_pos + range->cir_count > ll_file_maxbytes(inode)) {
+       if (pos + cnt > ll_file_maxbytes(inode)) {
                CDEBUG(D_INODE,
                       "%s: file %s ("DFID") offset %llu > maxbytes %llu\n",
-                      ll_get_fsname(inode->i_sb, NULL, 0),
+                      ll_i2sbi(inode)->ll_fsname,
                       file_dentry(file)->d_name.name,
-                      PFID(ll_inode2fid(inode)),
-                      range->cir_pos + range->cir_count,
+                      PFID(ll_inode2fid(inode)), pos + cnt,
                       ll_file_maxbytes(inode));
                RETURN(-EFBIG);
        }
@@ -1063,34 +1093,41 @@ static int vvp_io_write_start(const struct lu_env *env,
        if (OBD_FAIL_CHECK(OBD_FAIL_LLITE_IMUTEX_NOSEC) && lock_inode)
                RETURN(-EINVAL);
 
-       /*
-        * When using the locked AIO function (generic_file_aio_write())
-        * testing has shown the inode mutex to be a limiting factor
-        * with multi-threaded single shared file performance. To get
-        * around this, we now use the lockless version. To maintain
-        * consistency, proper locking to protect against writes,
-        * trucates, etc. is handled in the higher layers of lustre.
-        */
-       if (lock_inode)
-               inode_lock(inode);
-       result = __generic_file_write_iter(&io->u.ci_rw.rw_iocb,
-                                          &io->u.ci_rw.rw_iter);
-       if (lock_inode)
-               inode_unlock(inode);
+       if (vio->vui_iter == NULL) {
+               /* from a temp io in ll_cl_init(). */
+               result = 0;
+       } else {
+               /*
+                * When using the locked AIO function (generic_file_aio_write())
+                * testing has shown the inode mutex to be a limiting factor
+                * with multi-threaded single shared file performance. To get
+                * around this, we now use the lockless version. To maintain
+                * consistency, proper locking to protect against writes,
+                * trucates, etc. is handled in the higher layers of lustre.
+                */
+               lock_inode = !IS_NOSEC(inode);
+
+               if (unlikely(lock_inode))
+                       inode_lock(inode);
+               result = __generic_file_write_iter(vio->vui_iocb,
+                                                  vio->vui_iter);
+               if (unlikely(lock_inode))
+                       inode_unlock(inode);
 
-       if (result > 0 || result == -EIOCBQUEUED)
+               if (result > 0 || result == -EIOCBQUEUED)
 #ifdef HAVE_GENERIC_WRITE_SYNC_2ARGS
-               result = generic_write_sync(&io->u.ci_rw.rw_iocb, result);
+                       result = generic_write_sync(vio->vui_iocb, result);
 #else
-       {
-               ssize_t err;
+               {
+                       ssize_t err;
 
-               err = generic_write_sync(io->u.ci_rw.rw_iocb.ki_filp,
-                                        range->cir_pos, result);
-               if (err < 0 && result > 0)
-                       result = err;
-       }
+                       err = generic_write_sync(vio->vui_iocb->ki_filp, pos,
+                                                result);
+                       if (err < 0 && result > 0)
+                               result = err;
+               }
 #endif
+       }
 
        if (result > 0) {
                result = vvp_io_write_commit(env, io);
@@ -1105,10 +1142,10 @@ static int vvp_io_write_start(const struct lu_env *env,
        if (result > 0) {
                ll_file_set_flag(ll_i2info(inode), LLIF_DATA_MODIFIED);
 
-               if (result < range->cir_count)
+               if (result < cnt)
                        io->ci_continue = 0;
                ll_rw_stats_tally(ll_i2sbi(inode), current->pid,
-                                 vio->vui_fd, range->cir_pos, result, WRITE);
+                                 vio->vui_fd, pos, result, WRITE);
                result = 0;
        }
 
@@ -1130,7 +1167,7 @@ static int vvp_io_kernel_fault(struct vvp_fault_io *cfio)
 {
        struct vm_fault *vmf = cfio->ft_vmf;
 
-       cfio->ft_flags = filemap_fault(cfio->ft_vma, vmf);
+       cfio->ft_flags = ll_filemap_fault(cfio->ft_vma, vmf);
        cfio->ft_flags_valid = 1;
 
        if (vmf->page) {
@@ -1211,7 +1248,7 @@ static int vvp_io_fault_start(const struct lu_env *env,
        LASSERT(PageLocked(vmpage));
 
        if (OBD_FAIL_CHECK(OBD_FAIL_LLITE_FAULT_TRUNC_RACE))
-               ll_invalidate_page(vmpage);
+               generic_error_remove_page(vmpage->mapping, vmpage);
 
        size = i_size_read(inode);
         /* Though we have already held a cl_lock upon this page, but
@@ -1406,6 +1443,9 @@ static const struct cl_io_operations vvp_io_ops = {
                        .cio_start      = vvp_io_fsync_start,
                        .cio_fini       = vvp_io_fini
                },
+               [CIT_GLIMPSE] = {
+                       .cio_fini       = vvp_io_fini
+               },
                [CIT_MISC] = {
                        .cio_fini       = vvp_io_fini
                },
@@ -1437,13 +1477,16 @@ int vvp_io_init(const struct lu_env *env, struct cl_object *obj,
        vio->vui_ra_valid = false;
        result = 0;
        if (io->ci_type == CIT_READ || io->ci_type == CIT_WRITE) {
+               size_t count;
                struct ll_inode_info *lli = ll_i2info(inode);
 
-               vio->vui_tot_count = io->u.ci_rw.rw_range.cir_count;
+               count = io->u.ci_rw.crw_count;
                /* "If nbyte is 0, read() will return 0 and have no other
                 *  results."  -- Single Unix Spec */
-               if (vio->vui_tot_count == 0)
+               if (count == 0)
                        result = 1;
+               else
+                       vio->vui_tot_count = count;
 
                /* for read/write, we store the jobid in the inode, and
                 * it'll be fetched by osc when building RPC.
@@ -1451,7 +1494,7 @@ int vvp_io_init(const struct lu_env *env, struct cl_object *obj,
                 * it's not accurate if the file is shared by different
                 * jobs.
                 */
-               lustre_get_jobid(lli->lli_jobid);
+               lustre_get_jobid(lli->lli_jobid, sizeof(lli->lli_jobid));
        } else if (io->ci_type == CIT_SETATTR) {
                if (!cl_io_is_trunc(io))
                        io->ci_lockreq = CILR_MANDATORY;
@@ -1470,9 +1513,10 @@ int vvp_io_init(const struct lu_env *env, struct cl_object *obj,
                        result = 0;
                if (result < 0)
                        CERROR("%s: refresh file layout " DFID " error %d.\n",
-                               ll_get_fsname(inode->i_sb, NULL, 0),
-                               PFID(lu_object_fid(&obj->co_lu)), result);
+                              ll_i2sbi(inode)->ll_fsname,
+                              PFID(lu_object_fid(&obj->co_lu)), result);
        }
 
+       io->ci_result = result < 0 ? result : 0;
        RETURN(result);
 }