libcfs/include/libcfs/linux/linux-mem.h

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
  19  *
  20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
  21  * CA 95054 USA or visit www.sun.com if you need additional information or
  22  * have any questions.
  23  *
  24  * GPL HEADER END
  25  */
  26 /*
  27  * Copyright (c) 2008, 2010, Oracle and/or its affiliates. All rights reserved.
  28  * Use is subject to license terms.
  29  *
  30  * Copyright (c) 2011, 2012, Intel Corporation.
  31  */
  32 /*
  33  * This file is part of Lustre, http://www.lustre.org/
  34  * Lustre is a trademark of Sun Microsystems, Inc.
  35  *
  36  * libcfs/include/libcfs/linux/linux-mem.h
  37  *
  38  * Basic library routines.
  39  */
  40
  41 #ifndef __LIBCFS_LINUX_CFS_MEM_H__
  42 #define __LIBCFS_LINUX_CFS_MEM_H__
  43
  44 #ifndef __LIBCFS_LIBCFS_H__
  45 #error Do not #include this file directly. #include <libcfs/libcfs.h> instead
  46 #endif
  47
  48 #ifndef __KERNEL__
  49 #error This include is only for kernel use.
  50 #endif
  51
  52 #include <linux/mm.h>
  53 #include <linux/vmalloc.h>
  54 #include <linux/pagemap.h>
  55 #include <linux/slab.h>
  56 #ifdef HAVE_MM_INLINE
  57 # include <linux/mm_inline.h>
  58 #endif
  59
  60 #ifndef HAVE_LIBCFS_CPT
  61 /* Need this for cfs_cpt_table */
  62 #include <libcfs/libcfs_cpu.h>
  63 #endif
  64
  65 #define CFS_PAGE_MASK                   (~((__u64)PAGE_CACHE_SIZE-1))
  66
  67 #define page_index(p)       ((p)->index)
  68
  69
  70 #define memory_pressure_get() (current->flags & PF_MEMALLOC)
  71 #define memory_pressure_set() do { current->flags |= PF_MEMALLOC; } while (0)
  72 #define memory_pressure_clr() do { current->flags &= ~PF_MEMALLOC; } while (0)
  73
  74 #if BITS_PER_LONG == 32
  75 /* limit to lowmem on 32-bit systems */
  76 #define NUM_CACHEPAGES \
  77         min(totalram_pages, 1UL << (30 - PAGE_CACHE_SHIFT) * 3 / 4)
  78 #else
  79 #define NUM_CACHEPAGES totalram_pages
  80 #endif
  81
  82 /*
  83  * In Linux there is no way to determine whether current execution context is
  84  * blockable.
  85  */
  86 #define ALLOC_ATOMIC_TRY   GFP_ATOMIC
  87 /* GFP_IOFS was added in 2.6.33 kernel */
  88 #ifndef GFP_IOFS
  89 #define GFP_IOFS       (__GFP_IO | __GFP_FS)
  90 #endif
  91
  92 #define DECL_MMSPACE                mm_segment_t __oldfs
  93 #define MMSPACE_OPEN \
  94         do { __oldfs = get_fs(); set_fs(get_ds());} while(0)
  95 #define MMSPACE_CLOSE               set_fs(__oldfs)
  96
  97
  98 extern void *cfs_cpt_malloc(struct cfs_cpt_table *cptab, int cpt,
  99                             size_t nr_bytes, gfp_t flags);
 100 extern void *cfs_cpt_vzalloc(struct cfs_cpt_table *cptab, int cpt,
 101                              size_t nr_bytes);
 102 extern struct page *cfs_page_cpt_alloc(struct cfs_cpt_table *cptab,
 103                                       int cpt, gfp_t flags);
 104 extern void *cfs_mem_cache_cpt_alloc(struct kmem_cache *cachep,
 105                                      struct cfs_cpt_table *cptab,
 106                                      int cpt, gfp_t flags);
 107
 108 /*
 109  * Shrinker
 110  */
 111 #ifdef HAVE_SHRINK_CONTROL
 112 # define SHRINKER_ARGS(sc, nr_to_scan, gfp_mask)  \
 113                        struct shrinker *shrinker, \
 114                        struct shrink_control *sc
 115 # define shrink_param(sc, var) ((sc)->var)
 116 #else
 117 struct shrink_control {
 118         gfp_t gfp_mask;
 119         unsigned long nr_to_scan;
 120 };
 121 # ifdef HAVE_SHRINKER_WANT_SHRINK_PTR
 122 #  define SHRINKER_ARGS(sc, nr_to_scan, gfp_mask)  \
 123                         struct shrinker *shrinker, \
 124                         int nr_to_scan, gfp_t gfp_mask
 125 # else
 126 #  define SHRINKER_ARGS(sc, nr_to_scan, gfp_mask)  \
 127                         int nr_to_scan, gfp_t gfp_mask
 128 # endif
 129         /* avoid conflict with spl mm_compat.h */
 130 # define HAVE_SHRINK_CONTROL_STRUCT 1
 131 # define shrink_param(sc, var) (var)
 132 #endif
 133
 134 #ifdef HAVE_SHRINKER_COUNT
 135 struct shrinker_var {
 136         unsigned long (*count)(struct shrinker *,
 137                                struct shrink_control *sc);
 138         unsigned long (*scan)(struct shrinker *,
 139                               struct shrink_control *sc);
 140 };
 141 # define DEF_SHRINKER_VAR(name, shrink, count_obj, scan_obj) \
 142             struct shrinker_var name = { .count = count_obj, .scan = scan_obj }
 143 #else
 144 struct shrinker_var {
 145         int (*shrink)(SHRINKER_ARGS(sc, nr_to_scan, gfp_mask));
 146 };
 147 # define DEF_SHRINKER_VAR(name, shrinker, count, scan) \
 148             struct shrinker_var name = { .shrink = shrinker }
 149 # define SHRINK_STOP (~0UL)
 150 #endif
 151
 152 static inline
 153 struct shrinker *set_shrinker(int seek, struct shrinker_var *var)
 154 {
 155         struct shrinker *s;
 156
 157         s = kzalloc(sizeof(*s), GFP_KERNEL);
 158         if (s == NULL)
 159                 return (NULL);
 160
 161 #ifdef HAVE_SHRINKER_COUNT
 162         s->count_objects = var->count;
 163         s->scan_objects = var->scan;
 164 #else
 165         s->shrink = var->shrink;
 166 #endif
 167         s->seeks = seek;
 168
 169         register_shrinker(s);
 170
 171         return s;
 172 }
 173
 174 static inline
 175 void remove_shrinker(struct shrinker *shrinker)
 176 {
 177         if (shrinker == NULL)
 178                 return;
 179
 180         unregister_shrinker(shrinker);
 181         kfree(shrinker);
 182 }
 183
 184 #endif /* __LINUX_CFS_MEM_H__ */