Whamcloud - gitweb
ce20cb8a2d3c648613cc9ee891394bb0a8f9d259
[fs/lustre-release.git] / libcfs / include / libcfs / linux / linux-mem.h
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
19  *
20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
21  * CA 95054 USA or visit www.sun.com if you need additional information or
22  * have any questions.
23  *
24  * GPL HEADER END
25  */
26 /*
27  * Copyright (c) 2008, 2010, Oracle and/or its affiliates. All rights reserved.
28  * Use is subject to license terms.
29  *
30  * Copyright (c) 2011, 2012, Intel Corporation.
31  */
32 /*
33  * This file is part of Lustre, http://www.lustre.org/
34  * Lustre is a trademark of Sun Microsystems, Inc.
35  *
36  * libcfs/include/libcfs/linux/linux-mem.h
37  *
38  * Basic library routines.
39  */
40
41 #ifndef __LIBCFS_LINUX_CFS_MEM_H__
42 #define __LIBCFS_LINUX_CFS_MEM_H__
43
44 #ifndef __LIBCFS_LIBCFS_H__
45 #error Do not #include this file directly. #include <libcfs/libcfs.h> instead
46 #endif
47
48 #ifndef __KERNEL__
49 #error This include is only for kernel use.
50 #endif
51
52 #include <linux/mm.h>
53 #include <linux/vmalloc.h>
54 #include <linux/pagemap.h>
55 #include <linux/slab.h>
56 #ifdef HAVE_MM_INLINE
57 # include <linux/mm_inline.h>
58 #endif
59
60 #ifndef HAVE_LIBCFS_CPT
61 /* Need this for cfs_cpt_table */
62 #include <libcfs/libcfs_cpu.h>
63 #endif
64
65 #define CFS_PAGE_MASK                   (~((__u64)PAGE_CACHE_SIZE-1))
66
67 #define page_index(p)       ((p)->index)
68
69
70 #define memory_pressure_get() (current->flags & PF_MEMALLOC)
71 #define memory_pressure_set() do { current->flags |= PF_MEMALLOC; } while (0)
72 #define memory_pressure_clr() do { current->flags &= ~PF_MEMALLOC; } while (0)
73
74 #if BITS_PER_LONG == 32
75 /* limit to lowmem on 32-bit systems */
76 #define NUM_CACHEPAGES \
77         min(totalram_pages, 1UL << (30 - PAGE_CACHE_SHIFT) * 3 / 4)
78 #else
79 #define NUM_CACHEPAGES totalram_pages
80 #endif
81
82 /*
83  * In Linux there is no way to determine whether current execution context is
84  * blockable.
85  */
86 #define ALLOC_ATOMIC_TRY   GFP_ATOMIC
87 /* GFP_IOFS was added in 2.6.33 kernel */
88 #ifndef GFP_IOFS
89 #define GFP_IOFS       (__GFP_IO | __GFP_FS)
90 #endif
91
92 #define DECL_MMSPACE                mm_segment_t __oldfs
93 #define MMSPACE_OPEN \
94         do { __oldfs = get_fs(); set_fs(get_ds());} while(0)
95 #define MMSPACE_CLOSE               set_fs(__oldfs)
96
97
98 extern void *cfs_cpt_malloc(struct cfs_cpt_table *cptab, int cpt,
99                             size_t nr_bytes, unsigned int flags);
100 extern void *cfs_cpt_vmalloc(struct cfs_cpt_table *cptab, int cpt,
101                              size_t nr_bytes);
102 extern struct page *cfs_page_cpt_alloc(struct cfs_cpt_table *cptab,
103                                       int cpt, unsigned int flags);
104 extern void *cfs_mem_cache_cpt_alloc(struct kmem_cache *cachep,
105                                      struct cfs_cpt_table *cptab,
106                                      int cpt, unsigned int flags);
107
108 /*
109  * Shrinker
110  */
111 #ifdef HAVE_SHRINK_CONTROL
112 # define SHRINKER_ARGS(sc, nr_to_scan, gfp_mask)  \
113                        struct shrinker *shrinker, \
114                        struct shrink_control *sc
115 # define shrink_param(sc, var) ((sc)->var)
116 #else
117 struct shrink_control {
118         gfp_t gfp_mask;
119         unsigned long nr_to_scan;
120 };
121 # ifdef HAVE_SHRINKER_WANT_SHRINK_PTR
122 #  define SHRINKER_ARGS(sc, nr_to_scan, gfp_mask)  \
123                         struct shrinker *shrinker, \
124                         int nr_to_scan, gfp_t gfp_mask
125 # else
126 #  define SHRINKER_ARGS(sc, nr_to_scan, gfp_mask)  \
127                         int nr_to_scan, gfp_t gfp_mask
128 # endif
129         /* avoid conflict with spl mm_compat.h */
130 # define HAVE_SHRINK_CONTROL_STRUCT 1
131 # define shrink_param(sc, var) (var)
132 #endif
133
134 #ifdef HAVE_SHRINKER_COUNT
135 struct shrinker_var {
136         unsigned long (*count)(struct shrinker *,
137                                struct shrink_control *sc);
138         unsigned long (*scan)(struct shrinker *,
139                               struct shrink_control *sc);
140 };
141 # define DEF_SHRINKER_VAR(name, shrink, count_obj, scan_obj) \
142             struct shrinker_var name = { .count = count_obj, .scan = scan_obj }
143 #else
144 struct shrinker_var {
145         int (*shrink)(SHRINKER_ARGS(sc, nr_to_scan, gfp_mask));
146 };
147 # define DEF_SHRINKER_VAR(name, shrinker, count, scan) \
148             struct shrinker_var name = { .shrink = shrinker }
149 # define SHRINK_STOP (~0UL)
150 #endif
151
152 static inline
153 struct shrinker *set_shrinker(int seek, struct shrinker_var *var)
154 {
155         struct shrinker *s;
156
157         s = kzalloc(sizeof(*s), GFP_KERNEL);
158         if (s == NULL)
159                 return (NULL);
160
161 #ifdef HAVE_SHRINKER_COUNT
162         s->count_objects = var->count;
163         s->scan_objects = var->scan;
164 #else
165         s->shrink = var->shrink;
166 #endif
167         s->seeks = seek;
168
169         register_shrinker(s);
170
171         return s;
172 }
173
174 static inline
175 void remove_shrinker(struct shrinker *shrinker)
176 {
177         if (shrinker == NULL)
178                 return;
179
180         unregister_shrinker(shrinker);
181         kfree(shrinker);
182 }
183
184 #endif /* __LINUX_CFS_MEM_H__ */