lustre/obdfs/rw.c

   1 /*
   2  * OBDFS Super operations
   3  *
   4  * Copyright (C) 1996, 1997, Olaf Kirch <okir@monad.swb.de>
   5  * Copryright (C) 1999 Stelias Computing Inc,
   6  *                (author Peter J. Braam <braam@stelias.com>)
   7  * Copryright (C) 1999 Seagate Technology Inc.
   8 */
   9
  10
  11 #include <linux/config.h>
  12 #include <linux/kernel.h>
  13 #include <linux/mm.h>
  14 #include <linux/string.h>
  15 #include <linux/stat.h>
  16 #include <linux/errno.h>
  17 #include <linux/locks.h>
  18 #include <linux/unistd.h>
  19
  20 #include <asm/system.h>
  21 #include <asm/uaccess.h>
  22
  23 #include <linux/fs.h>
  24 #include <linux/stat.h>
  25 #include <asm/uaccess.h>
  26 #include <linux/vmalloc.h>
  27 #include <asm/segment.h>
  28 #include <linux/mm.h>
  29 #include <linux/pagemap.h>
  30 #include <linux/smp_lock.h>
  31
  32 #include <linux/obd_support.h>
  33 #include <linux/obd_ext2.h>
  34 #include <linux/obdfs.h>
  35
  36
  37 int obdfs_flush_reqs(struct list_head *page_list,
  38                      int flush_inode, int check_time);
  39
  40 void obdfs_flush_dirty_pages(int check_time);
  41
  42 /* SYNCHRONOUS I/O for an inode */
  43 static int obdfs_brw(int rw, struct inode *inode, struct page *page, int create)
  44 {
  45         obd_count        num_oa = 1;
  46         obd_count        oa_bufs = 1;
  47         struct obdo     *oa;
  48         char            *buf = (char *)page_address(page);
  49         obd_size         count = PAGE_SIZE;
  50         obd_off          offset = ((obd_off)page->index) << PAGE_SHIFT;
  51         obd_flag         flags = create ? OBD_BRW_CREATE : 0;
  52         int              err;
  53
  54         ENTRY;
  55         oa = obdo_fromid(IID(inode), inode->i_ino, OBD_MD_FLNOTOBD);
  56         if ( IS_ERR(oa) ) {
  57                 EXIT;
  58                 return PTR_ERR(oa);
  59         }
  60         obdfs_from_inode(oa, inode);
  61
  62         err = IOPS(inode, brw)(rw, IID(inode), num_oa, &oa, &oa_bufs, &buf,
  63                                &count, &offset, &flags);
  64
  65         if ( !err )
  66                 obdfs_to_inode(inode, oa); /* copy o_blocks to i_blocks */
  67
  68         obdo_free(oa);
  69
  70         EXIT;
  71         return err;
  72 } /* obdfs_brw */
  73
  74 /* returns the page unlocked, but with a reference */
  75 int obdfs_readpage(struct dentry *dentry, struct page *page)
  76 {
  77         struct inode *inode = dentry->d_inode;
  78         int rc;
  79
  80         ENTRY;
  81         PDEBUG(page, "READ");
  82         rc = obdfs_brw(READ, inode, page, 0);
  83         if ( !rc ) {
  84                 SetPageUptodate(page);
  85                 UnlockPage(page);
  86         }
  87         PDEBUG(page, "READ");
  88         EXIT;
  89         return rc;
  90 } /* obdfs_readpage */
  91
  92 static kmem_cache_t *obdfs_pgrq_cachep = NULL;
  93 static int obdfs_cache_count = 0;
  94
  95 int obdfs_init_pgrqcache(void)
  96 {
  97         ENTRY;
  98         if (obdfs_pgrq_cachep == NULL) {
  99                 CDEBUG(D_INODE, "allocating obdfs_pgrq_cache\n");
 100                 obdfs_pgrq_cachep = kmem_cache_create("obdfs_pgrq",
 101                                                       sizeof(struct obdfs_pgrq),
 102                                                       0, SLAB_HWCACHE_ALIGN,
 103                                                       NULL, NULL);
 104                 if (obdfs_pgrq_cachep == NULL) {
 105                         EXIT;
 106                         return -ENOMEM;
 107                 } else {
 108                         CDEBUG(D_INODE, "allocated cache at %p\n",
 109                                obdfs_pgrq_cachep);
 110                 }
 111         } else {
 112                 CDEBUG(D_INODE, "using existing cache at %p\n",
 113                        obdfs_pgrq_cachep);
 114         }
 115         EXIT;
 116         return 0;
 117 } /* obdfs_init_wreqcache */
 118
 119 inline void obdfs_pgrq_del(struct obdfs_pgrq *pgrq)
 120 {
 121         obdfs_cache_count--;
 122         CDEBUG(D_INODE, "deleting page %p from list [count %d]\n", pgrq->rq_page, obdfs_cache_count);
 123         list_del(&pgrq->rq_plist);
 124         kmem_cache_free(obdfs_pgrq_cachep, pgrq);
 125 }
 126
 127 void obdfs_cleanup_pgrqcache(void)
 128 {
 129         ENTRY;
 130         if (obdfs_pgrq_cachep != NULL) {
 131                 CDEBUG(D_INODE, "destroying obdfs_pgrqcache at %p, count %d\n",
 132                        obdfs_pgrq_cachep, obdfs_cache_count);
 133                 if (kmem_cache_destroy(obdfs_pgrq_cachep))
 134                         printk(KERN_INFO "obd_cleanup_pgrqcache: unable to free all of cache\n");
 135         } else
 136                 printk(KERN_INFO "obd_cleanup_pgrqcache: called with NULL cache pointer\n");
 137
 138         EXIT;
 139 } /* obdfs_cleanup_wreqcache */
 140
 141
 142 /*
 143  * Find a specific page in the page cache.  If it is found, we return
 144  * the write request struct associated with it, if not found return NULL.
 145  * Called with the list lock held.
 146  */
 147 static struct obdfs_pgrq *
 148 obdfs_find_in_page_list(struct inode *inode, struct page *page)
 149 {
 150         struct list_head *page_list = obdfs_iplist(inode);
 151         struct list_head *tmp;
 152
 153         ENTRY;
 154
 155         CDEBUG(D_INODE, "looking for inode %ld page %p\n", inode->i_ino, page);
 156         OIDEBUG(inode);
 157
 158         if (list_empty(page_list)) {
 159                 CDEBUG(D_INODE, "empty list\n");
 160                 EXIT;
 161                 return NULL;
 162         }
 163         tmp = page_list;
 164         while ( (tmp = tmp->next) != page_list ) {
 165                 struct obdfs_pgrq *pgrq;
 166
 167                 pgrq = list_entry(tmp, struct obdfs_pgrq, rq_plist);
 168                 if (pgrq->rq_page == page) {
 169                         CDEBUG(D_INODE, "found page %p in list\n", page);
 170                         EXIT;
 171                         return pgrq;
 172                 }
 173         }
 174
 175         EXIT;
 176         return NULL;
 177 } /* obdfs_find_in_page_list */
 178
 179
 180 /* called with the list lock held */
 181 static struct page* obdfs_find_page_index(struct inode *inode, unsigned long index)
 182 {
 183         struct list_head *page_list = obdfs_iplist(inode);
 184         struct list_head *tmp;
 185         struct page *page;
 186
 187         ENTRY;
 188
 189         CDEBUG(D_INODE, "looking for inode %ld pageindex %ld\n",
 190                inode->i_ino, index);
 191         OIDEBUG(inode);
 192
 193         if (list_empty(page_list)) {
 194                 EXIT;
 195                 return NULL;
 196         }
 197         tmp = page_list;
 198         while ( (tmp = tmp->next) != page_list ) {
 199                 struct obdfs_pgrq *pgrq;
 200
 201                 pgrq = list_entry(tmp, struct obdfs_pgrq, rq_plist);
 202                 page = pgrq->rq_page;
 203                 if (index == page->index) {
 204                         CDEBUG(D_INODE, "INDEX SEARCH found page %p in list, index %ld\n", page, index);
 205                         EXIT;
 206                         return page;
 207                 }
 208         }
 209
 210         EXIT;
 211         return NULL;
 212 } /* obdfs_find_page_index */
 213
 214
 215 /* call and free pages from Linux page cache: called with io lock on inodes */
 216 int obdfs_do_vec_wr(struct inode **inodes, obd_count num_io,
 217                     obd_count num_obdos, struct obdo **obdos,
 218                     obd_count *oa_bufs, struct page **pages, char **bufs,
 219                     obd_size *counts, obd_off *offsets, obd_flag *flags)
 220 {
 221         struct super_block *sb = inodes[0]->i_sb;
 222         struct obdfs_sb_info *sbi = (struct obdfs_sb_info *)&sb->u.generic_sbp;
 223         int err;
 224
 225         ENTRY;
 226         CDEBUG(D_INODE, "writing %d page(s), %d obdo(s) in vector\n",
 227                num_io, num_obdos);
 228         err = OPS(sb, brw)(WRITE, &sbi->osi_conn, num_obdos, obdos, oa_bufs,
 229                                 bufs, counts, offsets, flags);
 230
 231         /* release the pages from the page cache */
 232         while ( num_io > 0 ) {
 233                 num_io--;
 234                 CDEBUG(D_INODE, "calling put_page for %p, index %ld\n", pages[num_io], pages[num_io]->index);
 235                 put_page(pages[num_io]);
 236         }
 237
 238         while ( num_obdos > 0) {
 239                 num_obdos--;
 240                 CDEBUG(D_INODE, "copy/free obdo %ld\n",
 241                        (long)obdos[num_obdos]->o_id);
 242                 obdfs_to_inode(inodes[num_obdos], obdos[num_obdos]);
 243                 obdo_free(obdos[num_obdos]);
 244         }
 245         EXIT;
 246         return err;
 247 }
 248
 249
 250 /*
 251  * Add a page to the write request cache list for later writing
 252  * ASYNCHRONOUS write method.
 253  */
 254 static int obdfs_add_page_to_cache(struct inode *inode, struct page *page)
 255 {
 256         int res = 0;
 257
 258         ENTRY;
 259
 260         /* If this page isn't already in the inode page list, add it */
 261         obd_down(&obdfs_i2sbi(inode)->osi_list_mutex);
 262         if ( !obdfs_find_in_page_list(inode, page) ) {
 263                 struct obdfs_pgrq *pgrq;
 264                 pgrq = kmem_cache_alloc(obdfs_pgrq_cachep, SLAB_KERNEL);
 265                 CDEBUG(D_INODE, "adding inode %ld page %p, pgrq: %p, cache count [%d]\n",
 266                        inode->i_ino, page, pgrq, obdfs_cache_count);
 267                 if (!pgrq) {
 268                         EXIT;
 269                         obd_up(&obdfs_i2sbi(inode)->osi_list_mutex);
 270                         return -ENOMEM;
 271                 }
 272                 memset(pgrq, 0, sizeof(*pgrq));
 273
 274                 pgrq->rq_page = page;
 275                 get_page(pgrq->rq_page);
 276                 list_add(&pgrq->rq_plist, obdfs_iplist(inode));
 277         }
 278
 279         /* If inode isn't already on the superblock inodes list, add it,
 280          * and increase ref count on inode so it doesn't disappear on us.
 281          */
 282         if ( list_empty(obdfs_islist(inode)) ) {
 283                 iget(inode->i_sb, inode->i_ino);
 284                 CDEBUG(D_INODE, "adding inode %ld to superblock list %p\n",
 285                        inode->i_ino, obdfs_slist(inode));
 286                 list_add(obdfs_islist(inode), obdfs_slist(inode));
 287         }
 288
 289         /* XXX For testing purposes, we write out the page here.
 290          *     In the future, a flush daemon will write out the page.
 291         res = obdfs_flush_reqs(obdfs_slist(inode), 0);
 292         obdfs_flush_dirty_pages(1);
 293          */
 294         obd_up(&obdfs_i2sbi(inode)->osi_list_mutex);
 295
 296         EXIT;
 297         return res;
 298         /*return 0;*/
 299 } /* obdfs_add_page_to_cache */
 300
 301
 302 /* select between SYNC and ASYNC I/O methods */
 303 int obdfs_do_writepage(struct inode *inode, struct page *page, int sync)
 304 {
 305         int err;
 306
 307         ENTRY;
 308         /* PDEBUG(page, "WRITEPAGE"); */
 309         if ( sync )
 310                 err = obdfs_brw(WRITE, inode, page, 1);
 311         else {
 312                 err = obdfs_add_page_to_cache(inode, page);
 313                 CDEBUG(D_IOCTL, "DO_WR ino: %ld, page %p, err %d, uptodata %d\n", inode->i_ino, page, err, Page_Uptodate(page));
 314         }
 315
 316         if ( !err )
 317                 SetPageUptodate(page);
 318         /* PDEBUG(page,"WRITEPAGE"); */
 319         EXIT;
 320         return err;
 321 } /* obdfs_do_writepage */
 322
 323 /* returns the page unlocked, but with a reference */
 324 int obdfs_writepage(struct dentry *dentry, struct page *page)
 325 {
 326         return obdfs_do_writepage(dentry->d_inode, page, 0);
 327 }
 328
 329 /*
 330  * This does the "real" work of the write. The generic routine has
 331  * allocated the page, locked it, done all the page alignment stuff
 332  * calculations etc. Now we should just copy the data from user
 333  * space and write it back to the real medium..
 334  *
 335  * If the writer ends up delaying the write, the writer needs to
 336  * increment the page use counts until he is done with the page.
 337  *
 338  * Return value is the number of bytes written.
 339  */
 340 int obdfs_write_one_page(struct file *file, struct page *page,
 341                           unsigned long offset, unsigned long bytes,
 342                           const char * buf)
 343 {
 344         struct inode *inode = file->f_dentry->d_inode;
 345         int err;
 346
 347         ENTRY;
 348         if ( !Page_Uptodate(page) ) {
 349                 err = obdfs_brw(READ, inode, page, 1);
 350                 if ( !err )
 351                         SetPageUptodate(page);
 352                 else
 353                         return err;
 354         }
 355
 356         if (copy_from_user((u8*)page_address(page) + offset, buf, bytes))
 357                 return -EFAULT;
 358
 359         lock_kernel();
 360         err = obdfs_writepage(file->f_dentry, page);
 361         unlock_kernel();
 362
 363         return (err < 0 ? err : bytes);
 364 } /* obdfs_write_one_page */
 365
 366 /*
 367  * return an up to date page:
 368  *  - if locked is true then is returned locked
 369  *  - if create is true the corresponding disk blocks are created
 370  *  - page is held, i.e. caller must release the page
 371  *
 372  * modeled on NFS code.
 373  */
 374 struct page *obdfs_getpage(struct inode *inode, unsigned long offset, int create, int locked)
 375 {
 376         struct page *page_cache;
 377         int index;
 378         struct page ** hash;
 379         struct page * page;
 380         int err;
 381
 382         ENTRY;
 383
 384         offset = offset & PAGE_CACHE_MASK;
 385         CDEBUG(D_INODE, "ino: %ld, offset %ld, create %d, locked %d\n",
 386                inode->i_ino, offset, create, locked);
 387         index = offset  >> PAGE_CACHE_SHIFT;
 388
 389
 390         page = NULL;
 391         page_cache = page_cache_alloc();
 392         if ( ! page_cache ) {
 393                 EXIT;
 394                 return NULL;
 395         }
 396         CDEBUG(D_INODE, "page_cache %p\n", page_cache);
 397
 398         hash = page_hash(&inode->i_data, index);
 399         page = grab_cache_page(&inode->i_data, index);
 400
 401         /* Yuck, no page */
 402         if (! page) {
 403             printk("grab_cache_page says no dice ...\n");
 404             EXIT;
 405             return 0;
 406         }
 407
 408         PDEBUG(page, "GETPAGE: got page - before reading\n");
 409         /* now check if the data in the page is up to date */
 410         if ( Page_Uptodate(page)) {
 411                 if (!locked)
 412                         UnlockPage(page);
 413                 EXIT;
 414                 return page;
 415         }
 416
 417
 418         if ( obdfs_find_page_index(inode, index) ) {
 419                 printk("OVERWRITE: found dirty page %p, index %ld\n", page, page->index);
 420         }
 421
 422         err = obdfs_brw(READ, inode, page, create);
 423
 424         if ( err ) {
 425                 SetPageError(page);
 426                 UnlockPage(page);
 427                 EXIT;
 428                 return page;
 429         }
 430
 431         if ( !locked )
 432                 UnlockPage(page);
 433         SetPageUptodate(page);
 434         PDEBUG(page,"GETPAGE - after reading");
 435         EXIT;
 436         return page;
 437 } /* obdfs_getpage */
 438
 439