Whamcloud - gitweb
LU-9846 lod: Add overstriping support
[fs/lustre-release.git] / lustre / utils / liblustreapi_layout.c
1 /*
2  * LGPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * All rights reserved. This program and the accompanying materials
7  * are made available under the terms of the GNU Lesser General Public License
8  * (LGPL) version 2.1 or (at your discretion) any later version.
9  * (LGPL) version 2.1 accompanies this distribution, and is available at
10  * http://www.gnu.org/licenses/lgpl-2.1.html
11  *
12  * This library is distributed in the hope that it will be useful,
13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
15  * Lesser General Public License for more details.
16  *
17  * LGPL HEADER END
18  */
19 /*
20  * lustre/utils/liblustreapi_layout.c
21  *
22  * lustreapi library for layout calls for interacting with the layout of
23  * Lustre files while hiding details of the internal data structures
24  * from the user.
25  *
26  * Copyright (c) 2016, 2017, Intel Corporation.
27  *
28  * Author: Ned Bass <bass6@llnl.gov>
29  */
30
31 #include <stdio.h>
32 #include <fcntl.h>
33 #include <stdlib.h>
34 #include <unistd.h>
35 #include <errno.h>
36 #include <limits.h>
37 #include <assert.h>
38 #include <sys/xattr.h>
39 #include <sys/param.h>
40
41 #include <libcfs/util/list.h>
42 #include <lustre/lustreapi.h>
43 #include "lustreapi_internal.h"
44
45 /**
46  * Layout component, which contains all attributes of a plain
47  * V1/V3 layout.
48  */
49 struct llapi_layout_comp {
50         uint64_t        llc_pattern;
51         uint64_t        llc_stripe_size;
52         uint64_t        llc_stripe_count;
53         uint64_t        llc_stripe_offset;
54         /* Add 1 so user always gets back a null terminated string. */
55         char            llc_pool_name[LOV_MAXPOOLNAME + 1];
56         /** Number of objects in llc_objects array if was initialized. */
57         uint32_t        llc_objects_count;
58         struct          lov_user_ost_data_v1 *llc_objects;
59         /* fields used only for composite layouts */
60         struct lu_extent        llc_extent;     /* [start, end) of component */
61         uint32_t                llc_id;         /* unique ID of component */
62         uint32_t                llc_flags;      /* LCME_FL_* flags */
63         uint64_t                llc_timestamp;  /* snapshot timestamp */
64         struct list_head        llc_list;       /* linked to the llapi_layout
65                                                    components list */
66 };
67
68 /**
69  * An Opaque data type abstracting the layout of a Lustre file.
70  */
71 struct llapi_layout {
72         uint32_t        llot_magic; /* LLAPI_LAYOUT_MAGIC */
73         uint32_t        llot_gen;
74         uint32_t        llot_flags;
75         bool            llot_is_composite;
76         uint16_t        llot_mirror_count;
77         /* Cursor pointing to one of the components in llot_comp_list */
78         struct llapi_layout_comp *llot_cur_comp;
79         struct list_head          llot_comp_list;
80 };
81
82 /**
83  * Compute the number of elements in the lmm_objects array of \a lum
84  * with size \a lum_size.
85  *
86  * \param[in] lum       the struct lov_user_md to check
87  * \param[in] lum_size  the number of bytes in \a lum
88  *
89  * \retval              number of elements in array lum->lmm_objects
90  */
91 static int llapi_layout_objects_in_lum(struct lov_user_md *lum, size_t lum_size)
92 {
93         uint32_t magic;
94         size_t base_size;
95
96         if (lum_size < lov_user_md_size(0, LOV_MAGIC_V1))
97                 return 0;
98
99         if (lum->lmm_magic == __swab32(LOV_MAGIC_V1) ||
100             lum->lmm_magic == __swab32(LOV_MAGIC_V3))
101                 magic = __swab32(lum->lmm_magic);
102         else
103                 magic = lum->lmm_magic;
104
105         base_size = lov_user_md_size(0, magic);
106
107         if (lum_size <= base_size)
108                 return 0;
109         else
110                 return (lum_size - base_size) / sizeof(lum->lmm_objects[0]);
111 }
112
113 /**
114  * Byte-swap the fields of struct lov_user_md.
115  *
116  * XXX Rather than duplicating swabbing code here, we should eventually
117  * refactor the needed functions in lustre/ptlrpc/pack_generic.c
118  * into a library that can be shared between kernel and user code.
119  */
120 static void
121 llapi_layout_swab_lov_user_md(struct lov_user_md *lum, int lum_size)
122 {
123         int i, j, ent_count, obj_count;
124         struct lov_comp_md_v1 *comp_v1 = NULL;
125         struct lov_comp_md_entry_v1 *ent;
126         struct lov_user_ost_data *lod;
127
128         if (lum->lmm_magic != __swab32(LOV_MAGIC_V1) &&
129             lum->lmm_magic != __swab32(LOV_MAGIC_V3) &&
130             lum->lmm_magic != __swab32(LOV_MAGIC_COMP_V1))
131                 return;
132
133         if (lum->lmm_magic == __swab32(LOV_MAGIC_COMP_V1))
134                 comp_v1 = (struct lov_comp_md_v1 *)lum;
135
136         if (comp_v1 != NULL) {
137                 __swab32s(&comp_v1->lcm_magic);
138                 __swab32s(&comp_v1->lcm_size);
139                 __swab32s(&comp_v1->lcm_layout_gen);
140                 __swab16s(&comp_v1->lcm_flags);
141                 __swab16s(&comp_v1->lcm_entry_count);
142                 ent_count = comp_v1->lcm_entry_count;
143         } else {
144                 ent_count = 1;
145         }
146
147         for (i = 0; i < ent_count; i++) {
148                 if (comp_v1 != NULL) {
149                         ent = &comp_v1->lcm_entries[i];
150                         __swab32s(&ent->lcme_id);
151                         __swab32s(&ent->lcme_flags);
152                         __swab64s(&ent->lcme_timestamp);
153                         __swab64s(&ent->lcme_extent.e_start);
154                         __swab64s(&ent->lcme_extent.e_end);
155                         __swab32s(&ent->lcme_offset);
156                         __swab32s(&ent->lcme_size);
157
158                         lum = (struct lov_user_md *)((char *)comp_v1 +
159                                         ent->lcme_offset);
160                         lum_size = ent->lcme_size;
161                 }
162                 obj_count = llapi_layout_objects_in_lum(lum, lum_size);
163
164                 __swab32s(&lum->lmm_magic);
165                 __swab32s(&lum->lmm_pattern);
166                 __swab32s(&lum->lmm_stripe_size);
167                 __swab16s(&lum->lmm_stripe_count);
168                 __swab16s(&lum->lmm_stripe_offset);
169
170                 if (lum->lmm_magic != LOV_MAGIC_V1) {
171                         struct lov_user_md_v3 *v3;
172                         v3 = (struct lov_user_md_v3 *)lum;
173                         lod = v3->lmm_objects;
174                 } else {
175                         lod = lum->lmm_objects;
176                 }
177
178                 for (j = 0; j < obj_count; j++)
179                         __swab32s(&lod[j].l_ost_idx);
180         }
181 }
182
183 /**
184  * (Re-)allocate llc_objects[] to \a num_stripes stripes.
185  *
186  * Copy over existing llc_objects[], if any, to the new llc_objects[].
187  *
188  * \param[in] layout            existing layout to be modified
189  * \param[in] num_stripes       number of stripes in new layout
190  *
191  * \retval      0 if the objects are re-allocated successfully
192  * \retval      -1 on error with errno set
193  */
194 static int __llapi_comp_objects_realloc(struct llapi_layout_comp *comp,
195                                         unsigned int new_stripes)
196 {
197         struct lov_user_ost_data_v1 *new_objects;
198         unsigned int i;
199
200         if (new_stripes > LOV_MAX_STRIPE_COUNT) {
201                 errno = EINVAL;
202                 return -1;
203         }
204
205         if (new_stripes == comp->llc_objects_count)
206                 return 0;
207
208         if (new_stripes != 0 && new_stripes <= comp->llc_objects_count)
209                 return 0;
210
211         new_objects = realloc(comp->llc_objects,
212                               sizeof(*new_objects) * new_stripes);
213         if (new_objects == NULL && new_stripes != 0) {
214                 errno = ENOMEM;
215                 return -1;
216         }
217
218         for (i = comp->llc_objects_count; i < new_stripes; i++)
219                 new_objects[i].l_ost_idx = LLAPI_LAYOUT_IDX_MAX;
220
221         comp->llc_objects = new_objects;
222         comp->llc_objects_count = new_stripes;
223
224         return 0;
225 }
226
227 /**
228  * Allocate storage for a llapi_layout_comp with \a num_stripes stripes.
229  *
230  * \param[in] num_stripes       number of stripes in new layout
231  *
232  * \retval      valid pointer if allocation succeeds
233  * \retval      NULL if allocation fails
234  */
235 static struct llapi_layout_comp *__llapi_comp_alloc(unsigned int num_stripes)
236 {
237         struct llapi_layout_comp *comp;
238
239         if (num_stripes > LOV_MAX_STRIPE_COUNT) {
240                 errno = EINVAL;
241                 return NULL;
242         }
243
244         comp = calloc(1, sizeof(*comp));
245         if (comp == NULL) {
246                 errno = ENOMEM;
247                 return NULL;
248         }
249
250         comp->llc_objects = NULL;
251         comp->llc_objects_count = 0;
252
253         if (__llapi_comp_objects_realloc(comp, num_stripes) < 0) {
254                 free(comp);
255                 return NULL;
256         }
257
258         /* Set defaults. */
259         comp->llc_pattern = LLAPI_LAYOUT_DEFAULT;
260         comp->llc_stripe_size = LLAPI_LAYOUT_DEFAULT;
261         comp->llc_stripe_count = LLAPI_LAYOUT_DEFAULT;
262         comp->llc_stripe_offset = LLAPI_LAYOUT_DEFAULT;
263         comp->llc_pool_name[0] = '\0';
264         comp->llc_extent.e_start = 0;
265         comp->llc_extent.e_end = LUSTRE_EOF;
266         comp->llc_flags = 0;
267         comp->llc_id = 0;
268         INIT_LIST_HEAD(&comp->llc_list);
269
270         return comp;
271 }
272
273 /**
274  * Free memory allocated for \a comp
275  *
276  * \param[in] comp      previously allocated by __llapi_comp_alloc()
277  */
278 static void __llapi_comp_free(struct llapi_layout_comp *comp)
279 {
280         if (comp->llc_objects != NULL)
281                 free(comp->llc_objects);
282         free(comp);
283 }
284
285 /**
286  * Free memory allocated for \a layout.
287  *
288  * \param[in] layout    previously allocated by llapi_layout_alloc()
289  */
290 void llapi_layout_free(struct llapi_layout *layout)
291 {
292         struct llapi_layout_comp *comp, *n;
293
294         if (layout == NULL)
295                 return;
296
297         list_for_each_entry_safe(comp, n, &layout->llot_comp_list, llc_list) {
298                 list_del_init(&comp->llc_list);
299                 __llapi_comp_free(comp);
300         }
301         free(layout);
302 }
303
304 /**
305  * Allocate and initialize a llapi_layout structure.
306  *
307  * \retval      valid llapi_layout pointer on success
308  * \retval      NULL if memory allocation fails
309  */
310 static struct llapi_layout *__llapi_layout_alloc(void)
311 {
312         struct llapi_layout *layout;
313
314         layout = calloc(1, sizeof(*layout));
315         if (layout == NULL) {
316                 errno = ENOMEM;
317                 return NULL;
318         }
319
320         /* Set defaults. */
321         layout->llot_magic = LLAPI_LAYOUT_MAGIC;
322         layout->llot_gen = 0;
323         layout->llot_flags = 0;
324         layout->llot_is_composite = false;
325         layout->llot_mirror_count = 1;
326         layout->llot_cur_comp = NULL;
327         INIT_LIST_HEAD(&layout->llot_comp_list);
328
329         return layout;
330 }
331
332 /**
333  * Allocate and initialize a new plain layout.
334  *
335  * \retval      valid llapi_layout pointer on success
336  * \retval      NULL if memory allocation fails
337  */
338 struct llapi_layout *llapi_layout_alloc(void)
339 {
340         struct llapi_layout_comp *comp;
341         struct llapi_layout *layout;
342
343         layout = __llapi_layout_alloc();
344         if (layout == NULL)
345                 return NULL;
346
347         comp = __llapi_comp_alloc(0);
348         if (comp == NULL) {
349                 free(layout);
350                 return NULL;
351         }
352
353         list_add_tail(&comp->llc_list, &layout->llot_comp_list);
354         layout->llot_cur_comp = comp;
355
356         return layout;
357 }
358
359 /**
360  * Check if the given \a lum_size is large enough to hold the required
361  * fields in \a lum.
362  *
363  * \param[in] lum       the struct lov_user_md to check
364  * \param[in] lum_size  the number of bytes in \a lum
365  *
366  * \retval true         the \a lum_size is too small
367  * \retval false        the \a lum_size is large enough
368  */
369 static bool llapi_layout_lum_truncated(struct lov_user_md *lum, size_t lum_size)
370 {
371         uint32_t magic;
372
373         if (lum_size < sizeof(lum->lmm_magic))
374                 return true;
375
376         if (lum->lmm_magic == LOV_MAGIC_V1 ||
377             lum->lmm_magic == __swab32(LOV_MAGIC_V1))
378                 magic = LOV_MAGIC_V1;
379         else if (lum->lmm_magic == LOV_MAGIC_V3 ||
380                  lum->lmm_magic == __swab32(LOV_MAGIC_V3))
381                 magic = LOV_MAGIC_V3;
382         else if (lum->lmm_magic == LOV_MAGIC_COMP_V1 ||
383                  lum->lmm_magic == __swab32(LOV_MAGIC_COMP_V1))
384                 magic = LOV_MAGIC_COMP_V1;
385         else
386                 return true;
387
388         if (magic == LOV_MAGIC_V1 || magic == LOV_MAGIC_V3)
389                 return lum_size < lov_user_md_size(0, magic);
390         else
391                 return lum_size < sizeof(struct lov_comp_md_v1);
392 }
393
394 /* Verify if the objects count in lum is consistent with the
395  * stripe count in lum. It applies to regular file only. */
396 static bool llapi_layout_lum_valid(struct lov_user_md *lum, int lum_size)
397 {
398         struct lov_comp_md_v1 *comp_v1 = NULL;
399         int i, ent_count, obj_count;
400
401         if (lum->lmm_magic == LOV_MAGIC_COMP_V1) {
402                 comp_v1 = (struct lov_comp_md_v1 *)lum;
403                 ent_count = comp_v1->lcm_entry_count;
404         } else if (lum->lmm_magic == LOV_MAGIC_V1 ||
405                    lum->lmm_magic == LOV_MAGIC_V3) {
406                 ent_count = 1;
407         } else {
408                 return false;
409         }
410
411         for (i = 0; i < ent_count; i++) {
412                 if (comp_v1) {
413                         lum = (struct lov_user_md *)((char *)comp_v1 +
414                                 comp_v1->lcm_entries[i].lcme_offset);
415                         lum_size = comp_v1->lcm_entries[i].lcme_size;
416                 }
417                 obj_count = llapi_layout_objects_in_lum(lum, lum_size);
418
419                 if (comp_v1) {
420                         if (!(comp_v1->lcm_entries[i].lcme_flags &
421                                  LCME_FL_INIT) && obj_count != 0)
422                                 return false;
423                 } else if (obj_count != lum->lmm_stripe_count) {
424                         return false;
425                 }
426         }
427         return true;
428 }
429
430 /**
431  * Convert the data from a lov_user_md to a newly allocated llapi_layout.
432  * The caller is responsible for freeing the returned pointer.
433  *
434  * \param[in] lov_xattr         LOV user metadata xattr to copy data from
435  * \param[in] lov_xattr_size    size the lov_xattr_size passed in
436  * \param[in] flags             bitwise-or'd flags to control the behavior
437  *
438  * \retval              valid llapi_layout pointer on success
439  * \retval              NULL if memory allocation fails
440  */
441 struct llapi_layout *llapi_layout_get_by_xattr(void *lov_xattr,
442                                                ssize_t lov_xattr_size,
443                                                uint32_t flags)
444 {
445         struct lov_user_md *lum = lov_xattr;
446         struct lov_comp_md_v1 *comp_v1 = NULL;
447         struct lov_comp_md_entry_v1 *ent;
448         struct lov_user_md *v1;
449         struct llapi_layout *layout = NULL;
450         struct llapi_layout_comp *comp;
451         int i, ent_count = 0, obj_count;
452
453         if (lov_xattr == NULL || lov_xattr_size <= 0) {
454                 errno = EINVAL;
455                 return NULL;
456         }
457
458         /* Return an error if we got back a partial layout. */
459         if (llapi_layout_lum_truncated(lov_xattr, lov_xattr_size)) {
460                 errno = ERANGE;
461                 return NULL;
462         }
463
464 #if __BYTE_ORDER == __BIG_ENDIAN
465         if (flags & LLAPI_LXF_COPY) {
466                 lum = malloc(lov_xattr_size);
467                 if (lum == NULL) {
468                         errno = ENOMEM;
469                         return NULL;
470                 }
471                 memcpy(lum, lov_xattr, lov_xattr_size);
472         }
473 #endif
474
475         llapi_layout_swab_lov_user_md(lum, lov_xattr_size);
476
477         if ((flags & LLAPI_LXF_CHECK) &&
478             !llapi_layout_lum_valid(lum, lov_xattr_size)) {
479                 errno = EBADSLT;
480                 goto out;
481         }
482
483         layout = __llapi_layout_alloc();
484         if (layout == NULL) {
485                 errno = ENOMEM;
486                 goto out;
487         }
488
489         if (lum->lmm_magic == LOV_MAGIC_COMP_V1) {
490                 comp_v1 = (struct lov_comp_md_v1 *)lum;
491                 ent_count = comp_v1->lcm_entry_count;
492                 layout->llot_gen = comp_v1->lcm_layout_gen;
493                 layout->llot_is_composite = true;
494                 layout->llot_mirror_count = comp_v1->lcm_mirror_count + 1;
495                 layout->llot_gen = comp_v1->lcm_layout_gen;
496                 layout->llot_flags = comp_v1->lcm_flags;
497         } else if (lum->lmm_magic == LOV_MAGIC_V1 ||
498                    lum->lmm_magic == LOV_MAGIC_V3) {
499                 ent_count = 1;
500                 layout->llot_is_composite = false;
501
502                 if (lov_xattr_size <= 0) {
503                         errno = EINVAL;
504                         goto out_layout;
505                 }
506         } else {
507                 errno = EOPNOTSUPP;
508                 goto out_layout;
509         }
510
511         if (ent_count == 0) {
512                 errno = EINVAL;
513                 goto out_layout;
514         }
515
516         v1 = (struct lov_user_md *)lum;
517         for (i = 0; i < ent_count; i++) {
518                 if (comp_v1 != NULL) {
519                         ent = &comp_v1->lcm_entries[i];
520                         v1 = (struct lov_user_md *)((char *)comp_v1 +
521                                 ent->lcme_offset);
522                         lov_xattr_size = ent->lcme_size;
523                 } else {
524                         ent = NULL;
525                 }
526
527                 obj_count = llapi_layout_objects_in_lum(v1, lov_xattr_size);
528                 comp = __llapi_comp_alloc(obj_count);
529                 if (comp == NULL)
530                         goto out_layout;
531
532                 if (ent != NULL) {
533                         comp->llc_extent.e_start = ent->lcme_extent.e_start;
534                         comp->llc_extent.e_end = ent->lcme_extent.e_end;
535                         comp->llc_id = ent->lcme_id;
536                         comp->llc_flags = ent->lcme_flags;
537                         if (comp->llc_flags & LCME_FL_NOSYNC)
538                                 comp->llc_timestamp = ent->lcme_timestamp;
539                 } else {
540                         comp->llc_extent.e_start = 0;
541                         comp->llc_extent.e_end = LUSTRE_EOF;
542                         comp->llc_id = 0;
543                         comp->llc_flags = 0;
544                 }
545
546                 if (v1->lmm_pattern == LOV_PATTERN_RAID0)
547                         comp->llc_pattern = LLAPI_LAYOUT_RAID0;
548                 else if (v1->lmm_pattern == (LOV_PATTERN_RAID0 |
549                                          LOV_PATTERN_OVERSTRIPING))
550                         comp->llc_pattern = LLAPI_LAYOUT_OVERSTRIPING;
551                 else
552                         /* Lustre only supports RAID0 for now. */
553                         comp->llc_pattern = v1->lmm_pattern;
554
555                 if (v1->lmm_stripe_size == 0)
556                         comp->llc_stripe_size = LLAPI_LAYOUT_DEFAULT;
557                 else
558                         comp->llc_stripe_size = v1->lmm_stripe_size;
559
560                 if (v1->lmm_stripe_count == (typeof(v1->lmm_stripe_count))-1)
561                         comp->llc_stripe_count = LLAPI_LAYOUT_WIDE;
562                 else if (v1->lmm_stripe_count == 0)
563                         comp->llc_stripe_count = LLAPI_LAYOUT_DEFAULT;
564                 else
565                         comp->llc_stripe_count = v1->lmm_stripe_count;
566
567                 if (v1->lmm_stripe_offset ==
568                     (typeof(v1->lmm_stripe_offset))-1)
569                         comp->llc_stripe_offset = LLAPI_LAYOUT_DEFAULT;
570                 else
571                         comp->llc_stripe_offset = v1->lmm_stripe_offset;
572
573                 if (v1->lmm_magic != LOV_USER_MAGIC_V1) {
574                         const struct lov_user_md_v3 *lumv3;
575                         lumv3 = (struct lov_user_md_v3 *)v1;
576                         snprintf(comp->llc_pool_name,
577                                  sizeof(comp->llc_pool_name),
578                                  "%s", lumv3->lmm_pool_name);
579                         memcpy(comp->llc_objects, lumv3->lmm_objects,
580                                obj_count * sizeof(lumv3->lmm_objects[0]));
581                 } else {
582                         const struct lov_user_md_v1 *lumv1;
583                         lumv1 = (struct lov_user_md_v1 *)v1;
584                         memcpy(comp->llc_objects, lumv1->lmm_objects,
585                                obj_count * sizeof(lumv1->lmm_objects[0]));
586                 }
587
588                 if (obj_count != 0)
589                         comp->llc_stripe_offset =
590                                 comp->llc_objects[0].l_ost_idx;
591
592                 list_add_tail(&comp->llc_list, &layout->llot_comp_list);
593                 layout->llot_cur_comp = comp;
594         }
595
596 out:
597         if (lum != lov_xattr)
598                 free(lum);
599         return layout;
600 out_layout:
601         llapi_layout_free(layout);
602         layout = NULL;
603         goto out;
604 }
605
606 __u32 llapi_pattern_to_lov(uint64_t pattern)
607 {
608         __u32 lov_pattern;
609
610         switch (pattern) {
611         case LLAPI_LAYOUT_DEFAULT:
612                 lov_pattern = LOV_PATTERN_RAID0;
613                 break;
614         case LLAPI_LAYOUT_RAID0:
615                 lov_pattern = LOV_PATTERN_RAID0;
616                 break;
617         case LLAPI_LAYOUT_MDT:
618                 lov_pattern = LOV_PATTERN_MDT;
619                 break;
620         case LLAPI_LAYOUT_OVERSTRIPING:
621                 lov_pattern = LOV_PATTERN_OVERSTRIPING | LOV_PATTERN_RAID0;
622                 break;
623         default:
624                 lov_pattern = EINVAL;
625         }
626
627         return lov_pattern;
628 }
629
630 /**
631  * Convert the data from a llapi_layout to a newly allocated lov_user_md.
632  * The caller is responsible for freeing the returned pointer.
633  *
634  * \param[in] layout    the layout to copy from
635  *
636  * \retval      valid lov_user_md pointer on success
637  * \retval      NULL if memory allocation fails or the layout is invalid
638  */
639 static struct lov_user_md *
640 llapi_layout_to_lum(const struct llapi_layout *layout)
641 {
642         struct llapi_layout_comp *comp;
643         struct lov_comp_md_v1 *comp_v1 = NULL;
644         struct lov_comp_md_entry_v1 *ent;
645         struct lov_user_md *lum = NULL;
646         size_t lum_size = 0;
647         int ent_idx = 0;
648         uint32_t offset = 0;
649
650         if (layout == NULL ||
651             list_empty((struct list_head *)&layout->llot_comp_list)) {
652                 errno = EINVAL;
653                 return NULL;
654         }
655
656         /* Allocate header of lov_comp_md_v1 if necessary */
657         if (layout->llot_is_composite) {
658                 int comp_cnt = 0;
659
660                 list_for_each_entry(comp, &layout->llot_comp_list, llc_list)
661                         comp_cnt++;
662
663                 lum_size = sizeof(*comp_v1) + comp_cnt * sizeof(*ent);
664                 lum = calloc(lum_size, 1);
665                 if (lum == NULL) {
666                         errno = ENOMEM;
667                         return NULL;
668                 }
669                 comp_v1 = (struct lov_comp_md_v1 *)lum;
670                 comp_v1->lcm_magic = LOV_USER_MAGIC_COMP_V1;
671                 comp_v1->lcm_size = lum_size;
672                 comp_v1->lcm_layout_gen = 0;
673                 comp_v1->lcm_flags = layout->llot_flags;
674                 comp_v1->lcm_entry_count = comp_cnt;
675                 comp_v1->lcm_mirror_count = layout->llot_mirror_count - 1;
676                 offset += lum_size;
677         }
678
679         list_for_each_entry(comp, &layout->llot_comp_list, llc_list) {
680                 struct lov_user_md *blob;
681                 size_t blob_size;
682                 uint32_t magic;
683                 int i, obj_count = 0;
684                 struct lov_user_ost_data *lmm_objects;
685                 uint64_t pattern = comp->llc_pattern;
686
687                 if ((pattern & LLAPI_LAYOUT_SPECIFIC) != 0) {
688                         if (comp->llc_objects_count <
689                             comp->llc_stripe_count) {
690                                 errno = EINVAL;
691                                 goto error;
692                         }
693                         magic = LOV_USER_MAGIC_SPECIFIC;
694                         obj_count = comp->llc_stripe_count;
695                         pattern &= ~LLAPI_LAYOUT_SPECIFIC;
696                 } else if (strlen(comp->llc_pool_name) != 0) {
697                         magic = LOV_USER_MAGIC_V3;
698                 } else {
699                         magic = LOV_USER_MAGIC_V1;
700                 }
701                 /* All stripes must be specified when the pattern contains
702                  * LLAPI_LAYOUT_SPECIFIC */
703                 for (i = 0; i < obj_count; i++) {
704                         if (comp->llc_objects[i].l_ost_idx ==
705                             LLAPI_LAYOUT_IDX_MAX) {
706                                 errno = EINVAL;
707                                 goto error;
708                         }
709                 }
710
711                 blob_size = lov_user_md_size(obj_count, magic);
712                 blob = realloc(lum, lum_size + blob_size);
713                 if (blob == NULL) {
714                         errno = ENOMEM;
715                         goto error;
716                 } else {
717                         lum = blob;
718                         comp_v1 = (struct lov_comp_md_v1 *)lum;
719                         blob = (struct lov_user_md *)((char *)lum + lum_size);
720                         lum_size += blob_size;
721                 }
722
723                 blob->lmm_magic = magic;
724                 blob->lmm_pattern = llapi_pattern_to_lov(pattern);
725                 if (blob->lmm_pattern == EINVAL) {
726                         errno = EINVAL;
727                         goto error;
728                 }
729
730                 if (comp->llc_stripe_size == LLAPI_LAYOUT_DEFAULT)
731                         blob->lmm_stripe_size = 0;
732                 else
733                         blob->lmm_stripe_size = comp->llc_stripe_size;
734
735                 if (comp->llc_stripe_count == LLAPI_LAYOUT_DEFAULT)
736                         blob->lmm_stripe_count = 0;
737                 else if (comp->llc_stripe_count == LLAPI_LAYOUT_WIDE)
738                         blob->lmm_stripe_count = LOV_ALL_STRIPES;
739                 else
740                         blob->lmm_stripe_count = comp->llc_stripe_count;
741
742                 if (comp->llc_stripe_offset == LLAPI_LAYOUT_DEFAULT)
743                         blob->lmm_stripe_offset = -1;
744                 else
745                         blob->lmm_stripe_offset = comp->llc_stripe_offset;
746
747                 if (magic == LOV_USER_MAGIC_V3 ||
748                     magic == LOV_USER_MAGIC_SPECIFIC) {
749                         struct lov_user_md_v3 *lumv3 =
750                                 (struct lov_user_md_v3 *)blob;
751
752                         if (comp->llc_pool_name[0] != '\0') {
753                                 strncpy(lumv3->lmm_pool_name,
754                                         comp->llc_pool_name,
755                                         sizeof(lumv3->lmm_pool_name));
756                         } else {
757                                 memset(lumv3->lmm_pool_name, 0,
758                                        sizeof(lumv3->lmm_pool_name));
759                         }
760                         lmm_objects = lumv3->lmm_objects;
761                 } else {
762                         lmm_objects = blob->lmm_objects;
763                 }
764
765                 for (i = 0; i < obj_count; i++)
766                         lmm_objects[i].l_ost_idx =
767                                 comp->llc_objects[i].l_ost_idx;
768
769                 if (layout->llot_is_composite) {
770                         ent = &comp_v1->lcm_entries[ent_idx];
771                         ent->lcme_id = comp->llc_id;
772                         ent->lcme_flags = comp->llc_flags;
773                         if (ent->lcme_flags & LCME_FL_NOSYNC)
774                                 ent->lcme_timestamp = comp->llc_timestamp;
775                         ent->lcme_extent.e_start = comp->llc_extent.e_start;
776                         ent->lcme_extent.e_end = comp->llc_extent.e_end;
777                         ent->lcme_size = blob_size;
778                         ent->lcme_offset = offset;
779                         offset += blob_size;
780                         comp_v1->lcm_size += blob_size;
781                         ent_idx++;
782                 } else {
783                         break;
784                 }
785         }
786
787         return lum;
788 error:
789         free(lum);
790         return NULL;
791 }
792
793 /**
794  * Get the parent directory of a path.
795  *
796  * \param[in] path      path to get parent of
797  * \param[out] buf      buffer in which to store parent path
798  * \param[in] size      size in bytes of buffer \a buf
799  */
800 static void get_parent_dir(const char *path, char *buf, size_t size)
801 {
802         char *p;
803
804         strncpy(buf, path, size - 1);
805         p = strrchr(buf, '/');
806
807         if (p != NULL) {
808                 *p = '\0';
809         } else if (size >= 2) {
810                 strncpy(buf, ".", 2);
811                 buf[size - 1] = '\0';
812         }
813 }
814
815 /**
816  * Substitute unspecified attribute values in \a layout with values
817  * from fs global settings. (lov.stripesize, lov.stripecount,
818  * lov.stripeoffset)
819  *
820  * \param[in] layout    layout to inherit values from
821  * \param[in] path      file path of the filesystem
822  */
823 static void inherit_sys_attributes(struct llapi_layout *layout,
824                                    const char *path)
825 {
826         struct llapi_layout_comp *comp;
827         unsigned int ssize, scount, soffset;
828         int rc;
829
830         rc = sattr_cache_get_defaults(NULL, path, &scount, &ssize, &soffset);
831         if (rc)
832                 return;
833
834         list_for_each_entry(comp, &layout->llot_comp_list, llc_list) {
835                 if (comp->llc_pattern == LLAPI_LAYOUT_DEFAULT)
836                         comp->llc_pattern = LLAPI_LAYOUT_RAID0;
837                 if (comp->llc_stripe_size == LLAPI_LAYOUT_DEFAULT)
838                         comp->llc_stripe_size = ssize;
839                 if (comp->llc_stripe_count == LLAPI_LAYOUT_DEFAULT)
840                         comp->llc_stripe_count = scount;
841                 if (comp->llc_stripe_offset == LLAPI_LAYOUT_DEFAULT)
842                         comp->llc_stripe_offset = soffset;
843         }
844 }
845
846 /**
847  * Get the current component of \a layout.
848  *
849  * \param[in] layout    layout to get current component
850  *
851  * \retval      valid llapi_layout_comp pointer on success
852  * \retval      NULL on error
853  */
854 static struct llapi_layout_comp *
855 __llapi_layout_cur_comp(const struct llapi_layout *layout)
856 {
857         struct llapi_layout_comp *comp;
858
859         if (layout == NULL || layout->llot_magic != LLAPI_LAYOUT_MAGIC) {
860                 errno = EINVAL;
861                 return NULL;
862         }
863         if (layout->llot_cur_comp == NULL) {
864                 errno = EINVAL;
865                 return NULL;
866         }
867         /* Verify data consistency */
868         list_for_each_entry(comp, &layout->llot_comp_list, llc_list)
869                 if (comp == layout->llot_cur_comp)
870                         return comp;
871         errno = EFAULT;
872         return NULL;
873 }
874
875 /**
876  * Test if any attributes of \a layout are specified.
877  *
878  * \param[in] layout    the layout to check
879  *
880  * \retval true         any attributes are specified
881  * \retval false        all attributes are unspecified
882  */
883 static bool is_any_specified(const struct llapi_layout *layout)
884 {
885         struct llapi_layout_comp *comp;
886
887         comp = __llapi_layout_cur_comp(layout);
888         if (comp == NULL)
889                 return false;
890
891         if (layout->llot_is_composite || layout->llot_mirror_count != 1)
892                 return true;
893
894         return comp->llc_pattern != LLAPI_LAYOUT_DEFAULT ||
895                comp->llc_stripe_size != LLAPI_LAYOUT_DEFAULT ||
896                comp->llc_stripe_count != LLAPI_LAYOUT_DEFAULT ||
897                comp->llc_stripe_offset != LLAPI_LAYOUT_DEFAULT ||
898                strlen(comp->llc_pool_name);
899 }
900
901 /**
902  * Get the striping layout for the file referenced by file descriptor \a fd.
903  *
904  * If the filesystem does not support the "lustre." xattr namespace, the
905  * file must be on a non-Lustre filesystem, so set errno to ENOTTY per
906  * convention.  If the file has no "lustre.lov" data, the file will
907  * inherit default values, so return a default layout.
908  *
909  * If the kernel gives us back less than the expected amount of data,
910  * we fail with errno set to EINTR.
911  *
912  * \param[in] fd        open file descriptor
913  * \param[in] flags     open file descriptor
914  *
915  * \retval      valid llapi_layout pointer on success
916  * \retval      NULL if an error occurs
917  */
918 struct llapi_layout *llapi_layout_get_by_fd(int fd, uint32_t flags)
919 {
920         size_t lum_len;
921         struct lov_user_md *lum;
922         struct llapi_layout *layout = NULL;
923         ssize_t bytes_read;
924         struct stat st;
925
926         lum_len = XATTR_SIZE_MAX;
927         lum = malloc(lum_len);
928         if (lum == NULL)
929                 return NULL;
930
931         bytes_read = fgetxattr(fd, XATTR_LUSTRE_LOV, lum, lum_len);
932         if (bytes_read < 0) {
933                 if (errno == EOPNOTSUPP)
934                         errno = ENOTTY;
935                 else if (errno == ENODATA)
936                         layout = llapi_layout_alloc();
937                 goto out;
938         }
939
940         /* Directories may have a positive non-zero lum->lmm_stripe_count
941          * yet have an empty lum->lmm_objects array. For non-directories the
942          * amount of data returned from the kernel must be consistent
943          * with the stripe count. */
944         if (fstat(fd, &st) < 0)
945                 goto out;
946
947         layout = llapi_layout_get_by_xattr(lum, bytes_read,
948                 S_ISDIR(st.st_mode) ? 0 : LLAPI_LXF_CHECK);
949 out:
950         free(lum);
951         return layout;
952 }
953
954 /**
955  * Get the expected striping layout for a file at \a path.
956  *
957  * Substitute expected inherited attribute values for unspecified
958  * attributes.  Unspecified attributes may belong to directories and
959  * never-written-to files, and indicate that default values will be
960  * assigned when files are created or first written to.  A default value
961  * is inherited from the parent directory if the attribute is specified
962  * there, otherwise it is inherited from the filesystem root.
963  * Unspecified attributes normally have the value LLAPI_LAYOUT_DEFAULT.
964  *
965  * The complete \a path need not refer to an existing file or directory,
966  * but some leading portion of it must reside within a lustre filesystem.
967  * A use case for this interface would be to obtain the literal striping
968  * values that would be assigned to a new file in a given directory.
969  *
970  * \param[in] path      path for which to get the expected layout
971  *
972  * \retval      valid llapi_layout pointer on success
973  * \retval      NULL if an error occurs
974  */
975 static struct llapi_layout *llapi_layout_expected(const char *path)
976 {
977         struct llapi_layout     *path_layout = NULL;
978         char                    donor_path[PATH_MAX];
979         struct stat st;
980         int fd;
981         int rc;
982
983         fd = open(path, O_RDONLY);
984         if (fd < 0 && errno != ENOENT)
985                 return NULL;
986
987         if (fd >= 0) {
988                 int tmp;
989
990                 path_layout = llapi_layout_get_by_fd(fd, 0);
991                 tmp = errno;
992                 close(fd);
993                 errno = tmp;
994         }
995
996         if (path_layout == NULL) {
997                 if (errno != ENODATA && errno != ENOENT)
998                         return NULL;
999
1000                 path_layout = llapi_layout_alloc();
1001                 if (path_layout == NULL)
1002                         return NULL;
1003         }
1004
1005         if (is_any_specified(path_layout)) {
1006                 inherit_sys_attributes(path_layout, path);
1007                 return path_layout;
1008         }
1009
1010         llapi_layout_free(path_layout);
1011
1012         rc = stat(path, &st);
1013         if (rc < 0 && errno != ENOENT)
1014                 return NULL;
1015
1016         /* If path is a not a directory or doesn't exist, inherit layout
1017          * from parent directory. */
1018         if ((rc == 0 && !S_ISDIR(st.st_mode)) ||
1019             (rc < 0 && errno == ENOENT)) {
1020                 get_parent_dir(path, donor_path, sizeof(donor_path));
1021                 path_layout = llapi_layout_get_by_path(donor_path, 0);
1022                 if (path_layout != NULL) {
1023                         if (is_any_specified(path_layout)) {
1024                                 inherit_sys_attributes(path_layout, donor_path);
1025                                 return path_layout;
1026                         }
1027                         llapi_layout_free(path_layout);
1028                 }
1029         }
1030
1031         /* Inherit layout from the filesystem root. */
1032         rc = llapi_search_mounts(path, 0, donor_path, NULL);
1033         if (rc < 0)
1034                 return NULL;
1035         path_layout = llapi_layout_get_by_path(donor_path, 0);
1036         if (path_layout == NULL)
1037                 return NULL;
1038
1039         inherit_sys_attributes(path_layout, donor_path);
1040         return path_layout;
1041 }
1042
1043 /**
1044  * Get the striping layout for the file at \a path.
1045  *
1046  * If \a flags contains LAYOUT_GET_EXPECTED, substitute
1047  * expected inherited attribute values for unspecified attributes. See
1048  * llapi_layout_expected().
1049  *
1050  * \param[in] path      path for which to get the layout
1051  * \param[in] flags     flags to control how layout is retrieved
1052  *
1053  * \retval      valid llapi_layout pointer on success
1054  * \retval      NULL if an error occurs
1055  */
1056 struct llapi_layout *llapi_layout_get_by_path(const char *path, uint32_t flags)
1057 {
1058         struct llapi_layout *layout = NULL;
1059         int fd;
1060         int tmp;
1061
1062         if (flags & LAYOUT_GET_EXPECTED)
1063                 return llapi_layout_expected(path);
1064
1065         fd = open(path, O_RDONLY);
1066         if (fd < 0)
1067                 return layout;
1068
1069         layout = llapi_layout_get_by_fd(fd, flags);
1070         tmp = errno;
1071         close(fd);
1072         errno = tmp;
1073
1074         return layout;
1075 }
1076
1077 /**
1078  * Get the layout for the file with FID \a fidstr in filesystem \a lustre_dir.
1079  *
1080  * \param[in] lustre_dir        path within Lustre filesystem containing \a fid
1081  * \param[in] fid               Lustre identifier of file to get layout for
1082  *
1083  * \retval      valid llapi_layout pointer on success
1084  * \retval      NULL if an error occurs
1085  */
1086 struct llapi_layout *llapi_layout_get_by_fid(const char *lustre_dir,
1087                                              const struct lu_fid *fid,
1088                                              uint32_t flags)
1089 {
1090         int fd;
1091         int tmp;
1092         int saved_msg_level = llapi_msg_get_level();
1093         struct llapi_layout *layout = NULL;
1094
1095         /* Prevent llapi internal routines from writing to console
1096          * while executing this function, then restore previous message
1097          * level. */
1098         llapi_msg_set_level(LLAPI_MSG_OFF);
1099         fd = llapi_open_by_fid(lustre_dir, fid, O_RDONLY);
1100         llapi_msg_set_level(saved_msg_level);
1101
1102         if (fd < 0)
1103                 return NULL;
1104
1105         layout = llapi_layout_get_by_fd(fd, flags);
1106         tmp = errno;
1107         close(fd);
1108         errno = tmp;
1109
1110         return layout;
1111 }
1112
1113 /**
1114  * Get the stripe count of \a layout.
1115  *
1116  * \param[in] layout    layout to get stripe count from
1117  * \param[out] count    integer to store stripe count in
1118  *
1119  * \retval      0 on success
1120  * \retval      -1 if arguments are invalid
1121  */
1122 int llapi_layout_stripe_count_get(const struct llapi_layout *layout,
1123                                   uint64_t *count)
1124 {
1125         struct llapi_layout_comp *comp;
1126
1127         comp = __llapi_layout_cur_comp(layout);
1128         if (comp == NULL)
1129                 return -1;
1130
1131         if (count == NULL) {
1132                 errno = EINVAL;
1133                 return -1;
1134         }
1135
1136         *count = comp->llc_stripe_count;
1137
1138         return 0;
1139 }
1140
1141 /*
1142  * The llapi_layout API functions have these extra validity checks since
1143  * they use intuitively named macros to denote special behavior, whereas
1144  * the old API uses 0 and -1.
1145  */
1146
1147 static bool llapi_layout_stripe_count_is_valid(int64_t stripe_count)
1148 {
1149         return stripe_count == LLAPI_LAYOUT_DEFAULT ||
1150                 stripe_count == LLAPI_LAYOUT_WIDE ||
1151                 (stripe_count != 0 && stripe_count != -1 &&
1152                  llapi_stripe_count_is_valid(stripe_count));
1153 }
1154
1155 static bool llapi_layout_stripe_size_is_valid(uint64_t stripe_size)
1156 {
1157         return stripe_size == LLAPI_LAYOUT_DEFAULT ||
1158                 (stripe_size != 0 &&
1159                  llapi_stripe_size_is_aligned(stripe_size) &&
1160                  !llapi_stripe_size_is_too_big(stripe_size));
1161 }
1162
1163 static bool llapi_layout_stripe_index_is_valid(int64_t stripe_index)
1164 {
1165         return stripe_index == LLAPI_LAYOUT_DEFAULT ||
1166                 (stripe_index >= 0 &&
1167                 llapi_stripe_index_is_valid(stripe_index));
1168 }
1169
1170 /**
1171  * Set the stripe count of \a layout.
1172  *
1173  * \param[in] layout    layout to set stripe count in
1174  * \param[in] count     value to be set
1175  *
1176  * \retval      0 on success
1177  * \retval      -1 if arguments are invalid
1178  */
1179 int llapi_layout_stripe_count_set(struct llapi_layout *layout,
1180                                   uint64_t count)
1181 {
1182         struct llapi_layout_comp *comp;
1183
1184         comp = __llapi_layout_cur_comp(layout);
1185         if (comp == NULL)
1186                 return -1;
1187
1188         if (!llapi_layout_stripe_count_is_valid(count)) {
1189                 errno = EINVAL;
1190                 return -1;
1191         }
1192
1193         comp->llc_stripe_count = count;
1194
1195         return 0;
1196 }
1197
1198 /**
1199  * Get the stripe size of \a layout.
1200  *
1201  * \param[in] layout    layout to get stripe size from
1202  * \param[out] size     integer to store stripe size in
1203  *
1204  * \retval      0 on success
1205  * \retval      -1 if arguments are invalid
1206  */
1207 int llapi_layout_stripe_size_get(const struct llapi_layout *layout,
1208                                  uint64_t *size)
1209 {
1210         struct llapi_layout_comp *comp;
1211
1212         comp = __llapi_layout_cur_comp(layout);
1213         if (comp == NULL)
1214                 return -1;
1215
1216         if (size == NULL) {
1217                 errno = EINVAL;
1218                 return -1;
1219         }
1220
1221         *size = comp->llc_stripe_size;
1222
1223         return 0;
1224 }
1225
1226 /**
1227  * Set the stripe size of \a layout.
1228  *
1229  * \param[in] layout    layout to set stripe size in
1230  * \param[in] size      value to be set
1231  *
1232  * \retval      0 on success
1233  * \retval      -1 if arguments are invalid
1234  */
1235 int llapi_layout_stripe_size_set(struct llapi_layout *layout,
1236                                  uint64_t size)
1237 {
1238         struct llapi_layout_comp *comp;
1239
1240         comp = __llapi_layout_cur_comp(layout);
1241         if (comp == NULL)
1242                 return -1;
1243
1244         if (!llapi_layout_stripe_size_is_valid(size)) {
1245                 errno = EINVAL;
1246                 return -1;
1247         }
1248
1249         comp->llc_stripe_size = size;
1250
1251         return 0;
1252 }
1253
1254 /**
1255  * Get the RAID pattern of \a layout.
1256  *
1257  * \param[in] layout    layout to get pattern from
1258  * \param[out] pattern  integer to store pattern in
1259  *
1260  * \retval      0 on success
1261  * \retval      -1 if arguments are invalid
1262  */
1263 int llapi_layout_pattern_get(const struct llapi_layout *layout,
1264                              uint64_t *pattern)
1265 {
1266         struct llapi_layout_comp *comp;
1267
1268         comp = __llapi_layout_cur_comp(layout);
1269         if (comp == NULL)
1270                 return -1;
1271
1272         if (pattern == NULL) {
1273                 errno = EINVAL;
1274                 return -1;
1275         }
1276
1277         *pattern = comp->llc_pattern;
1278
1279         return 0;
1280 }
1281
1282 /**
1283  * Set the pattern of \a layout.
1284  *
1285  * \param[in] layout    layout to set pattern in
1286  * \param[in] pattern   value to be set
1287  *
1288  * \retval      0 on success
1289  * \retval      -1 if arguments are invalid or RAID pattern
1290  *              is unsupported
1291  */
1292 int llapi_layout_pattern_set(struct llapi_layout *layout, uint64_t pattern)
1293 {
1294         struct llapi_layout_comp *comp;
1295
1296         comp = __llapi_layout_cur_comp(layout);
1297         if (comp == NULL)
1298                 return -1;
1299
1300         if (pattern != LLAPI_LAYOUT_DEFAULT &&
1301             pattern != LLAPI_LAYOUT_RAID0 && pattern != LLAPI_LAYOUT_MDT
1302             && pattern != LLAPI_LAYOUT_OVERSTRIPING) {
1303                 errno = EOPNOTSUPP;
1304                 return -1;
1305         }
1306
1307         comp->llc_pattern = pattern |
1308                             (comp->llc_pattern & LLAPI_LAYOUT_SPECIFIC);
1309
1310         return 0;
1311 }
1312
1313 static inline int stripe_number_roundup(int stripe_number)
1314 {
1315         unsigned int round_up = (stripe_number + 8) & ~7;
1316         return round_up > LOV_MAX_STRIPE_COUNT ?
1317                 LOV_MAX_STRIPE_COUNT : round_up;
1318 }
1319
1320 /**
1321  * Set the OST index of stripe number \a stripe_number to \a ost_index.
1322  *
1323  * If only the starting stripe's OST index is specified, then this can use
1324  * the normal LOV_MAGIC_{V1,V3} layout type.  If multiple OST indices are
1325  * given, then allocate an array to hold the list of indices and ensure that
1326  * the LOV_USER_MAGIC_SPECIFIC layout is used when creating the file.
1327  *
1328  * \param[in] layout            layout to set OST index in
1329  * \param[in] stripe_number     stripe number to set index for
1330  * \param[in] ost_index         the index to set
1331  *
1332  * \retval      0 on success
1333  * \retval      -1 if arguments are invalid or an unsupported stripe number
1334  *              was specified, error returned in errno
1335  */
1336 int llapi_layout_ost_index_set(struct llapi_layout *layout, int stripe_number,
1337                                uint64_t ost_index)
1338 {
1339         struct llapi_layout_comp *comp;
1340
1341         comp = __llapi_layout_cur_comp(layout);
1342         if (comp == NULL)
1343                 return -1;
1344
1345         if (!llapi_layout_stripe_index_is_valid(ost_index)) {
1346                 errno = EINVAL;
1347                 return -1;
1348         }
1349
1350         if (stripe_number == 0 && ost_index == LLAPI_LAYOUT_DEFAULT) {
1351                 comp->llc_stripe_offset = ost_index;
1352                 comp->llc_pattern &= ~LLAPI_LAYOUT_SPECIFIC;
1353                 __llapi_comp_objects_realloc(comp, 0);
1354         } else if (stripe_number >= 0 &&
1355                    stripe_number < LOV_MAX_STRIPE_COUNT) {
1356                 if (ost_index >= LLAPI_LAYOUT_IDX_MAX) {
1357                         errno = EINVAL;
1358                         return -1;
1359                 }
1360
1361                 /* Preallocate a few more stripes to avoid realloc() overhead.*/
1362                 if (__llapi_comp_objects_realloc(comp,
1363                                 stripe_number_roundup(stripe_number)) < 0)
1364                         return -1;
1365
1366                 comp->llc_objects[stripe_number].l_ost_idx = ost_index;
1367
1368                 if (stripe_number == 0)
1369                         comp->llc_stripe_offset = ost_index;
1370                 else
1371                         comp->llc_pattern |= LLAPI_LAYOUT_SPECIFIC;
1372
1373                 if (comp->llc_stripe_count == LLAPI_LAYOUT_DEFAULT ||
1374                     comp->llc_stripe_count <= stripe_number)
1375                         comp->llc_stripe_count = stripe_number + 1;
1376         } else {
1377                 errno = EINVAL;
1378                 return -1;
1379         }
1380
1381         return 0;
1382 }
1383
1384 /**
1385  * Get the OST index associated with stripe \a stripe_number.
1386  *
1387  * Stripes are indexed starting from zero.
1388  *
1389  * \param[in] layout            layout to get index from
1390  * \param[in] stripe_number     stripe number to get index for
1391  * \param[out] index            integer to store index in
1392  *
1393  * \retval      0 on success
1394  * \retval      -1 if arguments are invalid
1395  */
1396 int llapi_layout_ost_index_get(const struct llapi_layout *layout,
1397                                uint64_t stripe_number, uint64_t *index)
1398 {
1399         struct llapi_layout_comp *comp;
1400
1401         comp = __llapi_layout_cur_comp(layout);
1402         if (comp == NULL)
1403                 return -1;
1404
1405         if (index == NULL) {
1406                 errno = EINVAL;
1407                 return -1;
1408         }
1409
1410         if (stripe_number >= comp->llc_stripe_count ||
1411             stripe_number >= comp->llc_objects_count) {
1412                 errno = EINVAL;
1413                 return -1;
1414         }
1415
1416         if (comp->llc_stripe_offset == LLAPI_LAYOUT_DEFAULT)
1417                 *index = LLAPI_LAYOUT_DEFAULT;
1418         else
1419                 *index = comp->llc_objects[stripe_number].l_ost_idx;
1420
1421         return 0;
1422 }
1423
1424 /**
1425  *
1426  * Get the pool name of layout \a layout.
1427  *
1428  * \param[in] layout    layout to get pool name from
1429  * \param[out] dest     buffer to store pool name in
1430  * \param[in] n         size in bytes of buffer \a dest
1431  *
1432  * \retval      0 on success
1433  * \retval      -1 if arguments are invalid
1434  */
1435 int llapi_layout_pool_name_get(const struct llapi_layout *layout, char *dest,
1436                                size_t n)
1437 {
1438         struct llapi_layout_comp *comp;
1439
1440         comp = __llapi_layout_cur_comp(layout);
1441         if (comp == NULL)
1442                 return -1;
1443
1444         if (dest == NULL) {
1445                 errno = EINVAL;
1446                 return -1;
1447         }
1448
1449         strncpy(dest, comp->llc_pool_name, n);
1450
1451         return 0;
1452 }
1453
1454 /**
1455  * Set the name of the pool of layout \a layout.
1456  *
1457  * \param[in] layout    layout to set pool name in
1458  * \param[in] pool_name pool name to set
1459  *
1460  * \retval      0 on success
1461  * \retval      -1 if arguments are invalid or pool name is too long
1462  */
1463 int llapi_layout_pool_name_set(struct llapi_layout *layout,
1464                                const char *pool_name)
1465 {
1466         struct llapi_layout_comp *comp;
1467         char *ptr;
1468
1469         comp = __llapi_layout_cur_comp(layout);
1470         if (comp == NULL)
1471                 return -1;
1472
1473         if (pool_name == NULL) {
1474                 errno = EINVAL;
1475                 return -1;
1476         }
1477
1478         /* Strip off any 'fsname.' portion. */
1479         ptr = strchr(pool_name, '.');
1480         if (ptr != NULL)
1481                 pool_name = ptr + 1;
1482
1483         if (strlen(pool_name) > LOV_MAXPOOLNAME) {
1484                 errno = EINVAL;
1485                 return -1;
1486         }
1487
1488         strncpy(comp->llc_pool_name, pool_name, sizeof(comp->llc_pool_name));
1489
1490         return 0;
1491 }
1492
1493 /**
1494  * Open and possibly create a file with a given \a layout.
1495  *
1496  * If \a layout is NULL this function acts as a simple wrapper for
1497  * open().  By convention, ENOTTY is returned in errno if \a path
1498  * refers to a non-Lustre file.
1499  *
1500  * \param[in] path              name of the file to open
1501  * \param[in] open_flags        open() flags
1502  * \param[in] mode              permissions to create file, filtered by umask
1503  * \param[in] layout            layout to create new file with
1504  *
1505  * \retval              non-negative file descriptor on successful open
1506  * \retval              -1 if an error occurred
1507  */
1508 int llapi_layout_file_open(const char *path, int open_flags, mode_t mode,
1509                            const struct llapi_layout *layout)
1510 {
1511         int fd;
1512         int rc;
1513         int tmp;
1514         struct lov_user_md *lum;
1515         size_t lum_size;
1516
1517         if (path == NULL ||
1518             (layout != NULL && layout->llot_magic != LLAPI_LAYOUT_MAGIC)) {
1519                 errno = EINVAL;
1520                 return -1;
1521         }
1522
1523         /* Object creation must be postponed until after layout attributes
1524          * have been applied. */
1525         if (layout != NULL && (open_flags & O_CREAT))
1526                 open_flags |= O_LOV_DELAY_CREATE;
1527
1528         fd = open(path, open_flags, mode);
1529
1530         if (layout == NULL || fd < 0)
1531                 return fd;
1532
1533         lum = llapi_layout_to_lum(layout);
1534
1535         if (lum == NULL) {
1536                 tmp = errno;
1537                 close(fd);
1538                 errno = tmp;
1539                 return -1;
1540         }
1541
1542         if (lum->lmm_magic == LOV_USER_MAGIC_COMP_V1)
1543                 lum_size = ((struct lov_comp_md_v1 *)lum)->lcm_size;
1544         else if (lum->lmm_magic == LOV_USER_MAGIC_SPECIFIC)
1545                 lum_size = lov_user_md_size(lum->lmm_stripe_count,
1546                                             lum->lmm_magic);
1547         else
1548                 lum_size = lov_user_md_size(0, lum->lmm_magic);
1549
1550         rc = fsetxattr(fd, XATTR_LUSTRE_LOV, lum, lum_size, 0);
1551         if (rc < 0) {
1552                 tmp = errno;
1553                 close(fd);
1554                 errno = tmp;
1555                 fd = -1;
1556         }
1557
1558         free(lum);
1559         errno = errno == EOPNOTSUPP ? ENOTTY : errno;
1560
1561         return fd;
1562 }
1563
1564 /**
1565  * Create a file with a given \a layout.
1566  *
1567  * Force O_CREAT and O_EXCL flags on so caller is assured that file was
1568  * created with the given \a layout on successful function return.
1569  *
1570  * \param[in] path              name of the file to open
1571  * \param[in] open_flags        open() flags
1572  * \param[in] mode              permissions to create new file with
1573  * \param[in] layout            layout to create new file with
1574  *
1575  * \retval              non-negative file descriptor on successful open
1576  * \retval              -1 if an error occurred
1577  */
1578 int llapi_layout_file_create(const char *path, int open_flags, int mode,
1579                              const struct llapi_layout *layout)
1580 {
1581         return llapi_layout_file_open(path, open_flags|O_CREAT|O_EXCL, mode,
1582                                       layout);
1583 }
1584
1585 int llapi_layout_flags_get(struct llapi_layout *layout, uint32_t *flags)
1586 {
1587         if (layout->llot_magic != LLAPI_LAYOUT_MAGIC) {
1588                 errno = EINVAL;
1589                 return -1;
1590         }
1591
1592         *flags = layout->llot_flags;
1593         return 0;
1594 }
1595
1596 /**
1597  * Set flags to the header of a component layout.
1598  */
1599 int llapi_layout_flags_set(struct llapi_layout *layout, uint32_t flags)
1600 {
1601         if (layout->llot_magic != LLAPI_LAYOUT_MAGIC) {
1602                 errno = EINVAL;
1603                 return -1;
1604         }
1605
1606         layout->llot_flags = flags;
1607         return 0;
1608 }
1609
1610 const char *llapi_layout_flags_string(uint32_t flags)
1611 {
1612         switch (flags & LCM_FL_FLR_MASK) {
1613         case LCM_FL_RDONLY:
1614                 return "ro";
1615         case LCM_FL_WRITE_PENDING:
1616                 return "wp";
1617         case LCM_FL_SYNC_PENDING:
1618                 return "sp";
1619         }
1620
1621         return "0";
1622 }
1623
1624 const __u16 llapi_layout_string_flags(char *string)
1625 {
1626         if (strncmp(string, "ro", strlen(string)) == 0)
1627                 return LCM_FL_RDONLY;
1628         if (strncmp(string, "wp", strlen(string)) == 0)
1629                 return LCM_FL_WRITE_PENDING;
1630         if (strncmp(string, "sp", strlen(string)) == 0)
1631                 return LCM_FL_SYNC_PENDING;
1632
1633         return 0;
1634 }
1635
1636 /**
1637  * llapi_layout_mirror_count_is_valid() - Check the validity of mirror count.
1638  * @count: Mirror count value to be checked.
1639  *
1640  * This function checks the validity of mirror count.
1641  *
1642  * Return: true on success or false on failure.
1643  */
1644 static bool llapi_layout_mirror_count_is_valid(uint16_t count)
1645 {
1646         return count >= 0 && count <= LUSTRE_MIRROR_COUNT_MAX;
1647 }
1648
1649 /**
1650  * llapi_layout_mirror_count_get() - Get mirror count from the header of
1651  *                                   a layout.
1652  * @layout: Layout to get mirror count from.
1653  * @count:  Returned mirror count value.
1654  *
1655  * This function gets mirror count from the header of a layout.
1656  *
1657  * Return: 0 on success or -1 on failure.
1658  */
1659 int llapi_layout_mirror_count_get(struct llapi_layout *layout,
1660                                   uint16_t *count)
1661 {
1662         if (layout->llot_magic != LLAPI_LAYOUT_MAGIC) {
1663                 errno = EINVAL;
1664                 return -1;
1665         }
1666
1667         *count = layout->llot_mirror_count;
1668         return 0;
1669 }
1670
1671 /**
1672  * llapi_layout_mirror_count_set() - Set mirror count to the header of a layout.
1673  * @layout: Layout to set mirror count in.
1674  * @count:  Mirror count value to be set.
1675  *
1676  * This function sets mirror count to the header of a layout.
1677  *
1678  * Return: 0 on success or -1 on failure.
1679  */
1680 int llapi_layout_mirror_count_set(struct llapi_layout *layout,
1681                                   uint16_t count)
1682 {
1683         if (layout->llot_magic != LLAPI_LAYOUT_MAGIC) {
1684                 errno = EINVAL;
1685                 return -1;
1686         }
1687
1688         if (!llapi_layout_mirror_count_is_valid(count)) {
1689                 errno = EINVAL;
1690                 return -1;
1691         }
1692
1693         layout->llot_mirror_count = count;
1694         return 0;
1695 }
1696
1697 /**
1698  * Fetch the start and end offset of the current layout component.
1699  *
1700  * \param[in] layout    the layout component
1701  * \param[out] start    extent start, inclusive
1702  * \param[out] end      extent end, exclusive
1703  *
1704  * \retval      0 on success
1705  * \retval      <0 if error occurs
1706  */
1707 int llapi_layout_comp_extent_get(const struct llapi_layout *layout,
1708                                  uint64_t *start, uint64_t *end)
1709 {
1710         struct llapi_layout_comp *comp;
1711
1712         comp = __llapi_layout_cur_comp(layout);
1713         if (comp == NULL)
1714                 return -1;
1715
1716         if (start == NULL || end == NULL) {
1717                 errno = EINVAL;
1718                 return -1;
1719         }
1720
1721         *start = comp->llc_extent.e_start;
1722         *end = comp->llc_extent.e_end;
1723
1724         return 0;
1725 }
1726
1727 /**
1728  * Set the layout extent of a layout.
1729  *
1730  * \param[in] layout    the layout to be set
1731  * \param[in] start     extent start, inclusive
1732  * \param[in] end       extent end, exclusive
1733  *
1734  * \retval      0 on success
1735  * \retval      <0 if error occurs
1736  */
1737 int llapi_layout_comp_extent_set(struct llapi_layout *layout,
1738                                  uint64_t start, uint64_t end)
1739 {
1740         struct llapi_layout_comp *prev, *next, *comp;
1741
1742         comp = __llapi_layout_cur_comp(layout);
1743         if (comp == NULL)
1744                 return -1;
1745
1746         if (start >= end) {
1747                 errno = EINVAL;
1748                 return -1;
1749         }
1750
1751         /*
1752          * We need to make sure the extent to be set is valid: the new
1753          * extent must be adjacent with the prev & next component.
1754          */
1755         if (comp->llc_list.prev != &layout->llot_comp_list) {
1756                 prev = list_entry(comp->llc_list.prev, typeof(*prev),
1757                                   llc_list);
1758                 if (start != 0 && start != prev->llc_extent.e_end) {
1759                         errno = EINVAL;
1760                         return -1;
1761                 }
1762         }
1763
1764         if (comp->llc_list.next != &layout->llot_comp_list) {
1765                 next = list_entry(comp->llc_list.next, typeof(*next),
1766                                   llc_list);
1767                 if (next->llc_extent.e_start != 0 &&
1768                     end != next->llc_extent.e_start) {
1769                         errno = EINVAL;
1770                         return -1;
1771                 }
1772         }
1773
1774         comp->llc_extent.e_start = start;
1775         comp->llc_extent.e_end = end;
1776         layout->llot_is_composite = true;
1777
1778         return 0;
1779 }
1780
1781 /**
1782  * Gets the attribute flags of the current component.
1783  *
1784  * \param[in] layout    the layout component
1785  * \param[out] flags    stored the returned component flags
1786  *
1787  * \retval      0 on success
1788  * \retval      <0 if error occurs
1789  */
1790 int llapi_layout_comp_flags_get(const struct llapi_layout *layout,
1791                                 uint32_t *flags)
1792 {
1793         struct llapi_layout_comp *comp;
1794
1795         comp = __llapi_layout_cur_comp(layout);
1796         if (comp == NULL)
1797                 return -1;
1798
1799         if (flags == NULL) {
1800                 errno = EINVAL;
1801                 return -1;
1802         }
1803
1804         *flags = comp->llc_flags;
1805
1806         return 0;
1807 }
1808
1809 /**
1810  * Sets the specified flags of the current component leaving other flags as-is.
1811  *
1812  * \param[in] layout    the layout component
1813  * \param[in] flags     component flags to be set
1814  *
1815  * \retval      0 on success
1816  * \retval      <0 if error occurs
1817  */
1818 int llapi_layout_comp_flags_set(struct llapi_layout *layout, uint32_t flags)
1819 {
1820         struct llapi_layout_comp *comp;
1821
1822         comp = __llapi_layout_cur_comp(layout);
1823         if (comp == NULL)
1824                 return -1;
1825
1826         comp->llc_flags |= flags;
1827
1828         return 0;
1829 }
1830
1831 /**
1832  * Clears the flags specified in the flags leaving other flags as-is.
1833  *
1834  * \param[in] layout    the layout component
1835  * \param[in] flags     component flags to be cleared
1836  *
1837  * \retval      0 on success
1838  * \retval      <0 if error occurs
1839  */
1840 int llapi_layout_comp_flags_clear(struct llapi_layout *layout,
1841                                   uint32_t flags)
1842 {
1843         struct llapi_layout_comp *comp;
1844
1845         comp = __llapi_layout_cur_comp(layout);
1846         if (comp == NULL)
1847                 return -1;
1848
1849         comp->llc_flags &= ~flags;
1850
1851         return 0;
1852 }
1853
1854 /**
1855  * Fetches the file-unique component ID of the current layout component.
1856  *
1857  * \param[in] layout    the layout component
1858  * \param[out] id       stored the returned component ID
1859  *
1860  * \retval      0 on success
1861  * \retval      <0 if error occurs
1862  */
1863 int llapi_layout_comp_id_get(const struct llapi_layout *layout, uint32_t *id)
1864 {
1865         struct llapi_layout_comp *comp;
1866
1867         comp = __llapi_layout_cur_comp(layout);
1868         if (comp == NULL)
1869                 return -1;
1870
1871         if (id == NULL) {
1872                 errno = EINVAL;
1873                 return -1;
1874         }
1875         *id = comp->llc_id;
1876
1877         return 0;
1878 }
1879
1880 /**
1881  * Return the mirror id of the current layout component.
1882  *
1883  * \param[in] layout    the layout component
1884  * \param[out] id       stored the returned mirror ID
1885  *
1886  * \retval      0 on success
1887  * \retval      <0 if error occurs
1888  */
1889 int llapi_layout_mirror_id_get(const struct llapi_layout *layout, uint32_t *id)
1890 {
1891         struct llapi_layout_comp *comp;
1892
1893         comp = __llapi_layout_cur_comp(layout);
1894         if (comp == NULL)
1895                 return -1;
1896
1897         if (id == NULL) {
1898                 errno = EINVAL;
1899                 return -1;
1900         }
1901
1902         *id = mirror_id_of(comp->llc_id);
1903
1904         return 0;
1905 }
1906
1907 /**
1908  * Adds a component to \a layout, the new component will be added to
1909  * the tail of components list and it'll inherit attributes of existing
1910  * ones. The \a layout will change it's current component pointer to
1911  * the newly added component, and it'll be turned into a composite
1912  * layout if it was not before the adding.
1913  *
1914  * \param[in] layout    existing composite or plain layout
1915  *
1916  * \retval      0 on success
1917  * \retval      <0 if error occurs
1918  */
1919 int llapi_layout_comp_add(struct llapi_layout *layout)
1920 {
1921         struct llapi_layout_comp *last, *comp, *new;
1922
1923         comp = __llapi_layout_cur_comp(layout);
1924         if (comp == NULL)
1925                 return -1;
1926
1927         new = __llapi_comp_alloc(0);
1928         if (new == NULL)
1929                 return -1;
1930
1931         last = list_entry(layout->llot_comp_list.prev, typeof(*last),
1932                           llc_list);
1933
1934         if (new->llc_extent.e_end <= last->llc_extent.e_end) {
1935                 __llapi_comp_free(new);
1936                 errno = EINVAL;
1937                 return -1;
1938         }
1939         new->llc_extent.e_start = last->llc_extent.e_end;
1940
1941         list_add_tail(&new->llc_list, &layout->llot_comp_list);
1942         layout->llot_cur_comp = new;
1943         layout->llot_is_composite = true;
1944
1945         return 0;
1946 }
1947 /**
1948  * Adds a first component of a mirror to \a layout.
1949  * The \a layout will change it's current component pointer to
1950  * the newly added component, and it'll be turned into a composite
1951  * layout if it was not before the adding.
1952  *
1953  * \param[in] layout            existing composite or plain layout
1954  *
1955  * \retval      0 on success
1956  * \retval      <0 if error occurs
1957  */
1958 int llapi_layout_add_first_comp(struct llapi_layout *layout)
1959 {
1960         struct llapi_layout_comp *comp, *new;
1961
1962         comp = __llapi_layout_cur_comp(layout);
1963         if (comp == NULL)
1964                 return -1;
1965
1966         new = __llapi_comp_alloc(0);
1967         if (new == NULL)
1968                 return -1;
1969
1970         new->llc_extent.e_start = 0;
1971
1972         list_add_tail(&new->llc_list, &layout->llot_comp_list);
1973         layout->llot_cur_comp = new;
1974         layout->llot_is_composite = true;
1975
1976         return 0;
1977 }
1978
1979 /**
1980  * Deletes current component from the composite layout. The component
1981  * to be deleted must be the tail of components list, and it can't be
1982  * the only component in the layout.
1983  *
1984  * \param[in] layout    composite layout
1985  *
1986  * \retval      0 on success
1987  * \retval      <0 if error occurs
1988  */
1989 int llapi_layout_comp_del(struct llapi_layout *layout)
1990 {
1991         struct llapi_layout_comp *comp;
1992
1993         comp = __llapi_layout_cur_comp(layout);
1994         if (comp == NULL)
1995                 return -1;
1996
1997         if (!layout->llot_is_composite) {
1998                 errno = EINVAL;
1999                 return -1;
2000         }
2001
2002         /* It must be the tail of the list (for PFL, can be relaxed
2003          * once we get mirrored components) */
2004         if (comp->llc_list.next != &layout->llot_comp_list) {
2005                 errno = EINVAL;
2006                 return -1;
2007         }
2008         /* It can't be the only one on the list */
2009         if (comp->llc_list.prev == &layout->llot_comp_list) {
2010                 errno = EINVAL;
2011                 return -1;
2012         }
2013
2014         layout->llot_cur_comp =
2015                 list_entry(comp->llc_list.prev, typeof(*comp), llc_list);
2016         list_del_init(&comp->llc_list);
2017         __llapi_comp_free(comp);
2018
2019         return 0;
2020 }
2021
2022 /**
2023  * Move the current component pointer to the component with
2024  * specified component ID.
2025  *
2026  * \param[in] layout    composite layout
2027  * \param[in] id        component ID
2028  *
2029  * \retval      =0 : moved successfully
2030  * \retval      <0 if error occurs
2031  */
2032 int llapi_layout_comp_use_id(struct llapi_layout *layout, uint32_t comp_id)
2033 {
2034         struct llapi_layout_comp *comp;
2035
2036         comp = __llapi_layout_cur_comp(layout);
2037         if (comp == NULL)
2038                 return -1; /* use previously set errno */
2039
2040         if (!layout->llot_is_composite) {
2041                 errno = EINVAL;
2042                 return -1;
2043         }
2044
2045         if (comp_id == LCME_ID_INVAL) {
2046                 errno = EINVAL;
2047                 return -1;
2048         }
2049
2050         list_for_each_entry(comp, &layout->llot_comp_list, llc_list) {
2051                 if (comp->llc_id == comp_id) {
2052                         layout->llot_cur_comp = comp;
2053                         return 0;
2054                 }
2055         }
2056         errno = ENOENT;
2057         return -1;
2058 }
2059
2060 /**
2061  * Move the current component pointer to a specified position.
2062  *
2063  * \param[in] layout    composite layout
2064  * \param[in] pos       the position to be moved, it can be:
2065  *                      LLAPI_LAYOUT_COMP_USE_FIRST: use first component
2066  *                      LLAPI_LAYOUT_COMP_USE_LAST: use last component
2067  *                      LLAPI_LAYOUT_COMP_USE_NEXT: use component after current
2068  *                      LLAPI_LAYOUT_COMP_USE_PREV: use component before current
2069  *
2070  * \retval      =0 : moved successfully
2071  * \retval      =1 : at last component with NEXT, at first component with PREV
2072  * \retval      <0 if error occurs
2073  */
2074 int llapi_layout_comp_use(struct llapi_layout *layout,
2075                           enum llapi_layout_comp_use pos)
2076 {
2077         struct llapi_layout_comp *comp, *head, *tail;
2078
2079         comp = __llapi_layout_cur_comp(layout);
2080         if (comp == NULL)
2081                 return -1;
2082
2083         if (!layout->llot_is_composite) {
2084                 if (pos == LLAPI_LAYOUT_COMP_USE_FIRST ||
2085                     pos == LLAPI_LAYOUT_COMP_USE_LAST)
2086                         return 0;
2087                 errno = ENOENT;
2088                 return 1;
2089         }
2090
2091         head = list_entry(layout->llot_comp_list.next, typeof(*head), llc_list);
2092         tail = list_entry(layout->llot_comp_list.prev, typeof(*tail), llc_list);
2093         switch (pos) {
2094         case LLAPI_LAYOUT_COMP_USE_FIRST:
2095                 layout->llot_cur_comp = head;
2096                 break;
2097         case LLAPI_LAYOUT_COMP_USE_NEXT:
2098                 if (comp == tail) {
2099                         errno = ENOENT;
2100                         return 1;
2101                 }
2102                 layout->llot_cur_comp = list_entry(comp->llc_list.next,
2103                                                    typeof(*comp), llc_list);
2104                 break;
2105         case LLAPI_LAYOUT_COMP_USE_LAST:
2106                 layout->llot_cur_comp = tail;
2107                 break;
2108         case LLAPI_LAYOUT_COMP_USE_PREV:
2109                 if (comp == head) {
2110                         errno = ENOENT;
2111                         return 1;
2112                 }
2113                 layout->llot_cur_comp = list_entry(comp->llc_list.prev,
2114                                                    typeof(*comp), llc_list);
2115                 break;
2116         default:
2117                 errno = EINVAL;
2118                 return -1;
2119         }
2120
2121         return 0;
2122 }
2123
2124 /**
2125  * Add layout component(s) to an existing file.
2126  *
2127  * \param[in] path      The path name of the file
2128  * \param[in] layout    The layout component(s) to be added
2129  */
2130 int llapi_layout_file_comp_add(const char *path,
2131                                const struct llapi_layout *layout)
2132 {
2133         int rc, fd, lum_size, tmp_errno = 0;
2134         struct lov_user_md *lum;
2135
2136         if (path == NULL || layout == NULL ||
2137             layout->llot_magic != LLAPI_LAYOUT_MAGIC) {
2138                 errno = EINVAL;
2139                 return -1;
2140         }
2141
2142         lum = llapi_layout_to_lum(layout);
2143         if (lum == NULL)
2144                 return -1;
2145
2146         if (lum->lmm_magic != LOV_USER_MAGIC_COMP_V1) {
2147                 free(lum);
2148                 errno = EINVAL;
2149                 return -1;
2150         }
2151         lum_size = ((struct lov_comp_md_v1 *)lum)->lcm_size;
2152
2153         fd = open(path, O_RDWR);
2154         if (fd < 0) {
2155                 tmp_errno = errno;
2156                 rc = -1;
2157                 goto out;
2158         }
2159
2160         rc = fsetxattr(fd, XATTR_LUSTRE_LOV".add", lum, lum_size, 0);
2161         if (rc < 0) {
2162                 tmp_errno = errno;
2163                 close(fd);
2164                 rc = -1;
2165                 goto out;
2166         }
2167         close(fd);
2168 out:
2169         free(lum);
2170         errno = tmp_errno;
2171         return rc;
2172 }
2173
2174 /**
2175  * Delete component(s) by the specified component id or component flags
2176  * from an existing file.
2177  *
2178  * \param[in] path      path name of the file
2179  * \param[in] id        unique component ID
2180  * \param[in] flags     flags: LCME_FL_* or;
2181  *                      negative flags: (LCME_FL_NEG|LCME_FL_*)
2182  */
2183 int llapi_layout_file_comp_del(const char *path, uint32_t id, uint32_t flags)
2184 {
2185         int rc, fd, lum_size;
2186         struct llapi_layout *layout;
2187         struct llapi_layout_comp *comp;
2188         struct lov_user_md *lum;
2189
2190         if (path == NULL || id > LCME_ID_MAX || (flags & ~LCME_KNOWN_FLAGS)) {
2191                 errno = EINVAL;
2192                 return -1;
2193         }
2194
2195         /* Can only specify ID or flags, not both. */
2196         if (id != 0 && flags != 0) {
2197                 errno = EINVAL;
2198                 return -1;
2199         }
2200
2201         layout = llapi_layout_alloc();
2202         if (layout == NULL)
2203                 return -1;
2204
2205         llapi_layout_comp_extent_set(layout, 0, LUSTRE_EOF);
2206         comp = __llapi_layout_cur_comp(layout);
2207         if (comp == NULL) {
2208                 llapi_layout_free(layout);
2209                 return -1;
2210         }
2211
2212         comp->llc_id = id;
2213         comp->llc_flags = flags;
2214
2215         lum = llapi_layout_to_lum(layout);
2216         if (lum == NULL) {
2217                 llapi_layout_free(layout);
2218                 return -1;
2219         }
2220         lum_size = ((struct lov_comp_md_v1 *)lum)->lcm_size;
2221
2222         fd = open(path, O_RDWR);
2223         if (fd < 0) {
2224                 rc = -1;
2225                 goto out;
2226         }
2227
2228         rc = fsetxattr(fd, XATTR_LUSTRE_LOV".del", lum, lum_size, 0);
2229         if (rc < 0) {
2230                 int tmp_errno = errno;
2231                 close(fd);
2232                 errno = tmp_errno;
2233                 rc = -1;
2234                 goto out;
2235         }
2236         close(fd);
2237 out:
2238         free(lum);
2239         llapi_layout_free(layout);
2240         return rc;
2241 }
2242
2243 /**
2244  * Change flags or other parameters of the component(s) by component ID of an
2245  * existing file. The component to be modified is specified by the
2246  * comp->lcme_id value, which must be an unique component ID. The new
2247  * attributes are passed in by @comp and @valid is used to specify which
2248  * attributes in the component are going to be changed.
2249  *
2250  * \param[in] path      path name of the file
2251  * \param[in] ids       An array of component IDs
2252  * \param[in] flags     flags: LCME_FL_* or;
2253  *                      negative flags: (LCME_FL_NEG|LCME_FL_*)
2254  * \param[in] count     Number of elements in ids and flags array
2255  */
2256 int llapi_layout_file_comp_set(const char *path, uint32_t *ids, uint32_t *flags,
2257                                size_t count)
2258 {
2259         int rc = -1, fd = -1, i;
2260         size_t lum_size;
2261         struct llapi_layout *layout;
2262         struct llapi_layout_comp *comp;
2263         struct lov_user_md *lum = NULL;
2264
2265         if (path == NULL) {
2266                 errno = EINVAL;
2267                 return -1;
2268         }
2269
2270         if (!count)
2271                 return 0;
2272
2273         for (i = 0; i < count; i++) {
2274                 if (!ids[i] || !flags[i]) {
2275                         errno = EINVAL;
2276                         return -1;
2277                 }
2278
2279                 if (ids[i] > LCME_ID_MAX || (flags[i] & ~LCME_KNOWN_FLAGS)) {
2280                         errno = EINVAL;
2281                         return -1;
2282                 }
2283
2284                 /* do not allow to set or clear INIT flag */
2285                 if (flags[i] & LCME_FL_INIT) {
2286                         errno = EINVAL;
2287                         return -1;
2288                 }
2289         }
2290
2291         layout = __llapi_layout_alloc();
2292         if (layout == NULL)
2293                 return -1;
2294
2295         layout->llot_is_composite = true;
2296         for (i = 0; i < count; i++) {
2297                 comp = __llapi_comp_alloc(0);
2298                 if (comp == NULL)
2299                         goto out;
2300
2301                 comp->llc_id = ids[i];
2302                 comp->llc_flags = flags[i];
2303
2304                 list_add_tail(&comp->llc_list, &layout->llot_comp_list);
2305                 layout->llot_cur_comp = comp;
2306         }
2307
2308         lum = llapi_layout_to_lum(layout);
2309         if (lum == NULL)
2310                 goto out;
2311
2312         lum_size = ((struct lov_comp_md_v1 *)lum)->lcm_size;
2313
2314         fd = open(path, O_RDWR);
2315         if (fd < 0)
2316                 goto out;
2317
2318         /* flush cached pages from clients */
2319         rc = llapi_file_flush(fd);
2320         if (rc) {
2321                 errno = -rc;
2322                 rc = -1;
2323                 goto out_close;
2324         }
2325
2326         rc = fsetxattr(fd, XATTR_LUSTRE_LOV".set.flags", lum, lum_size, 0);
2327         if (rc < 0)
2328                 goto out_close;
2329
2330         rc = 0;
2331
2332 out_close:
2333         if (fd >= 0) {
2334                 int tmp_errno = errno;
2335                 close(fd);
2336                 errno = tmp_errno;
2337         }
2338 out:
2339         if (lum)
2340                 free(lum);
2341         llapi_layout_free(layout);
2342         return rc;
2343 }
2344
2345 /**
2346  * Check if the file layout is composite.
2347  *
2348  * \param[in] layout    the file layout to check
2349  *
2350  * \retval true         composite
2351  * \retval false        not composite
2352  */
2353 bool llapi_layout_is_composite(struct llapi_layout *layout)
2354 {
2355         return layout->llot_is_composite;
2356 }
2357
2358 /**
2359  * Iterate every components in the @layout and call callback function @cb.
2360  *
2361  * \param[in] layout    component layout list.
2362  * \param[in] cb        callback for each component
2363  * \param[in] cbdata    callback data
2364  *
2365  * \retval < 0                          error happens during the iteration
2366  * \retval LLAPI_LAYOUT_ITER_CONT       finished the iteration w/o error
2367  * \retval LLAPI_LAYOUT_ITER_STOP       got something, stop the iteration
2368  */
2369 int llapi_layout_comp_iterate(struct llapi_layout *layout,
2370                               llapi_layout_iter_cb cb, void *cbdata)
2371 {
2372         int rc;
2373
2374         rc = llapi_layout_comp_use(layout, LLAPI_LAYOUT_COMP_USE_FIRST);
2375         if (rc < 0)
2376                 return rc;
2377
2378         /**
2379          * make sure on success llapi_layout_comp_use() API returns 0 with
2380          * USE_FIRST.
2381          */
2382         assert(rc == 0);
2383
2384         while (1) {
2385                 rc = cb(layout, cbdata);
2386                 if (rc != LLAPI_LAYOUT_ITER_CONT)
2387                         break;
2388
2389                 rc = llapi_layout_comp_use(layout, LLAPI_LAYOUT_COMP_USE_NEXT);
2390                 if (rc < 0)
2391                         return rc;
2392                 else if (rc == 1)       /* reached the last comp */
2393                         return LLAPI_LAYOUT_ITER_CONT;
2394         }
2395
2396         return rc;
2397 }
2398
2399 /**
2400  * llapi_layout_merge() - Merge a composite layout into another one.
2401  * @dst_layout: Destination composite layout.
2402  * @src_layout: Source composite layout.
2403  *
2404  * This function copies all of the components from @src_layout and
2405  * appends them to @dst_layout.
2406  *
2407  * Return: 0 on success or -1 on failure.
2408  */
2409 int llapi_layout_merge(struct llapi_layout **dst_layout,
2410                        const struct llapi_layout *src_layout)
2411 {
2412         struct llapi_layout *new_layout = *dst_layout;
2413         struct llapi_layout_comp *new = NULL;
2414         struct llapi_layout_comp *comp = NULL;
2415         int i = 0;
2416
2417         if (src_layout == NULL ||
2418             list_empty((struct list_head *)&src_layout->llot_comp_list))
2419                 return 0;
2420
2421         if (new_layout == NULL) {
2422                 new_layout = __llapi_layout_alloc();
2423                 if (new_layout == NULL) {
2424                         errno = ENOMEM;
2425                         return -1;
2426                 }
2427         }
2428
2429         list_for_each_entry(comp, &src_layout->llot_comp_list, llc_list) {
2430                 new = __llapi_comp_alloc(0);
2431                 if (new == NULL) {
2432                         errno = ENOMEM;
2433                         goto error;
2434                 }
2435
2436                 new->llc_pattern = comp->llc_pattern;
2437                 new->llc_stripe_size = comp->llc_stripe_size;
2438                 new->llc_stripe_count = comp->llc_stripe_count;
2439                 new->llc_stripe_offset = comp->llc_stripe_offset;
2440
2441                 if (comp->llc_pool_name[0] != '\0')
2442                         strncpy(new->llc_pool_name, comp->llc_pool_name,
2443                                 sizeof(new->llc_pool_name));
2444
2445                 for (i = 0; i < comp->llc_objects_count; i++) {
2446                         if (__llapi_comp_objects_realloc(new,
2447                             stripe_number_roundup(i)) < 0) {
2448                                 errno = EINVAL;
2449                                 __llapi_comp_free(new);
2450                                 goto error;
2451                         }
2452                         new->llc_objects[i].l_ost_idx = \
2453                                 comp->llc_objects[i].l_ost_idx;
2454                 }
2455
2456                 new->llc_objects_count = comp->llc_objects_count;
2457                 new->llc_extent.e_start = comp->llc_extent.e_start;
2458                 new->llc_extent.e_end = comp->llc_extent.e_end;
2459                 new->llc_id = comp->llc_id;
2460                 new->llc_flags = comp->llc_flags;
2461
2462                 list_add_tail(&new->llc_list, &new_layout->llot_comp_list);
2463                 new_layout->llot_cur_comp = new;
2464         }
2465         new_layout->llot_is_composite = true;
2466
2467         *dst_layout = new_layout;
2468         return 0;
2469 error:
2470         llapi_layout_free(new_layout);
2471         return -1;
2472 }
2473
2474 /**
2475  * Find all stale components.
2476  *
2477  * \param[in] layout            component layout list.
2478  * \param[out] comp             array of stale component info.
2479  * \param[in] comp_size         array size of @comp.
2480  * \param[in] mirror_ids        array of mirror id that only components
2481  *                              belonging to these mirror will be collected.
2482  * \param[in] ids_nr            number of mirror ids array.
2483  *
2484  * \retval              number of component info collected on sucess or
2485  *                      an error code on failure.
2486  */
2487 int llapi_mirror_find_stale(struct llapi_layout *layout,
2488                 struct llapi_resync_comp *comp, size_t comp_size,
2489                 __u16 *mirror_ids, int ids_nr)
2490 {
2491         int idx = 0;
2492         int rc;
2493
2494         rc = llapi_layout_comp_use(layout, LLAPI_LAYOUT_COMP_USE_FIRST);
2495         if (rc < 0)
2496                 goto error;
2497
2498         while (rc == 0) {
2499                 uint32_t id;
2500                 uint32_t mirror_id;
2501                 uint32_t flags;
2502                 uint64_t start, end;
2503
2504                 rc = llapi_layout_comp_flags_get(layout, &flags);
2505                 if (rc < 0)
2506                         goto error;
2507
2508                 if (!(flags & LCME_FL_STALE))
2509                         goto next;
2510
2511                 rc = llapi_layout_mirror_id_get(layout, &mirror_id);
2512                 if (rc < 0)
2513                         goto error;
2514
2515                 /* the caller only wants stale components from specific
2516                  * mirrors */
2517                 if (ids_nr > 0) {
2518                         int j;
2519
2520                         for (j = 0; j < ids_nr; j++) {
2521                                 if (mirror_ids[j] == mirror_id)
2522                                         break;
2523                         }
2524
2525                         /* not in the specified mirror */
2526                         if (j == ids_nr)
2527                                 goto next;
2528                 } else if (flags & LCME_FL_NOSYNC) {
2529                         /* if not specified mirrors, do not resync "nosync"
2530                          * mirrors */
2531                         goto next;
2532                 }
2533
2534                 rc = llapi_layout_comp_id_get(layout, &id);
2535                 if (rc < 0)
2536                         goto error;
2537
2538                 rc = llapi_layout_comp_extent_get(layout, &start, &end);
2539                 if (rc < 0)
2540                         goto error;
2541
2542                 /* pack this component into @comp array */
2543                 comp[idx].lrc_id = id;
2544                 comp[idx].lrc_mirror_id = mirror_id;
2545                 comp[idx].lrc_start = start;
2546                 comp[idx].lrc_end = end;
2547                 idx++;
2548
2549                 if (idx >= comp_size) {
2550                         rc = -EINVAL;
2551                         goto error;
2552                 }
2553
2554         next:
2555                 rc = llapi_layout_comp_use(layout, LLAPI_LAYOUT_COMP_USE_NEXT);
2556                 if (rc < 0) {
2557                         rc = -EINVAL;
2558                         goto error;
2559                 }
2560         }
2561 error:
2562         return rc < 0 ? rc : idx;
2563 }
2564
2565 /* locate @layout to a valid component covering file [file_start, file_end) */
2566 uint32_t llapi_mirror_find(struct llapi_layout *layout,
2567                            uint64_t file_start, uint64_t file_end,
2568                            uint64_t *endp)
2569 {
2570         uint32_t mirror_id = 0;
2571         int rc;
2572
2573         rc = llapi_layout_comp_use(layout, LLAPI_LAYOUT_COMP_USE_FIRST);
2574         if (rc < 0)
2575                 return rc;
2576
2577         *endp = 0;
2578         while (rc == 0) {
2579                 uint64_t start, end;
2580                 uint32_t flags, id, rid;
2581
2582                 rc = llapi_layout_comp_flags_get(layout, &flags);
2583                 if (rc < 0)
2584                         return rc;
2585
2586                 if (flags & LCME_FL_STALE)
2587                         goto next;
2588
2589                 rc = llapi_layout_mirror_id_get(layout, &rid);
2590                 if (rc < 0)
2591                         return rc;
2592
2593                 rc = llapi_layout_comp_id_get(layout, &id);
2594                 if (rc < 0)
2595                         return rc;
2596
2597                 rc = llapi_layout_comp_extent_get(layout, &start, &end);
2598                 if (rc < 0)
2599                         return rc;
2600
2601                 if (file_start >= start && file_start < end) {
2602                         if (!mirror_id)
2603                                 mirror_id = rid;
2604                         else if (mirror_id != rid || *endp != start)
2605                                 break;
2606
2607                         file_start = *endp = end;
2608                         if (end >= file_end)
2609                                 break;
2610                 }
2611
2612         next:
2613                 rc = llapi_layout_comp_use(layout, LLAPI_LAYOUT_COMP_USE_NEXT);
2614                 if (rc < 0)
2615                         return rc;
2616         }
2617
2618         return mirror_id;
2619 }
2620
2621 int llapi_mirror_resync_many(int fd, struct llapi_layout *layout,
2622                              struct llapi_resync_comp *comp_array,
2623                              int comp_size,  uint64_t start, uint64_t end)
2624 {
2625         uint64_t count;
2626         size_t page_size = sysconf(_SC_PAGESIZE);
2627         const size_t buflen = 4 << 20; /* 4M */
2628         void *buf;
2629         uint64_t pos = start;
2630         int i;
2631         int rc;
2632
2633         rc = posix_memalign(&buf, page_size, buflen);
2634         if (rc)
2635                 return -rc;
2636
2637         if (end == OBD_OBJECT_EOF)
2638                 count = OBD_OBJECT_EOF;
2639         else
2640                 count = end - start;
2641
2642         while (count > 0) {
2643                 uint32_t src;
2644                 uint64_t mirror_end = 0;
2645                 uint64_t bytes_left;
2646                 ssize_t bytes_read;
2647                 size_t to_read;
2648                 size_t to_write;
2649
2650                 src = llapi_mirror_find(layout, pos, end, &mirror_end);
2651                 if (src == 0)
2652                         return -ENOENT;
2653
2654                 if (mirror_end == OBD_OBJECT_EOF) {
2655                         bytes_left = count;
2656                 } else {
2657                         bytes_left = MIN(count, mirror_end - pos);
2658                         bytes_left = ((bytes_left - 1) | (page_size - 1)) + 1;
2659                 }
2660                 to_read = MIN(buflen, bytes_left);
2661
2662                 bytes_read = llapi_mirror_read(fd, src, buf, to_read, pos);
2663                 if (bytes_read == 0) {
2664                         /* end of file */
2665                         break;
2666                 }
2667                 if (bytes_read < 0) {
2668                         rc = bytes_read;
2669                         break;
2670                 }
2671
2672                 /* round up to page align to make direct IO happy. */
2673                 to_write = ((bytes_read - 1) | (page_size - 1)) + 1;
2674
2675                 for (i = 0; i < comp_size; i++) {
2676                         ssize_t written;
2677                         off_t pos2 = pos;
2678                         size_t to_write2 = to_write;
2679
2680                         /* skip non-overlapped component */
2681                         if (pos >= comp_array[i].lrc_end ||
2682                             pos + to_write <= comp_array[i].lrc_start)
2683                                 continue;
2684
2685                         if (pos < comp_array[i].lrc_start)
2686                                 pos2 = comp_array[i].lrc_start;
2687
2688                         to_write2 -= pos2 - pos;
2689
2690                         if ((pos + to_write) > comp_array[i].lrc_end)
2691                                 to_write2 -= pos + to_write -
2692                                              comp_array[i].lrc_end;
2693
2694                         written = llapi_mirror_write(fd,
2695                                         comp_array[i].lrc_mirror_id,
2696                                         buf + pos2 - pos,
2697                                         to_write2, pos2);
2698                         if (written < 0) {
2699                                 /**
2700                                  * this component is not written successfully,
2701                                  * mark it using its lrc_synced, it is supposed
2702                                  * to be false before getting here.
2703                                  *
2704                                  * And before this function returns, all
2705                                  * elements of comp_array will reverse their
2706                                  * lrc_synced flag to reflect their true
2707                                  * meanings.
2708                                  */
2709                                 comp_array[i].lrc_synced = true;
2710                                 continue;
2711                         }
2712                         assert(written == to_write2);
2713                 }
2714
2715                 pos += bytes_read;
2716                 count -= bytes_read;
2717         }
2718
2719         free(buf);
2720
2721         if (rc < 0) {
2722                 for (i = 0; i < comp_size; i++)
2723                         comp_array[i].lrc_synced = false;
2724                 return rc;
2725         }
2726
2727         for (i = 0; i < comp_size; i++) {
2728                 comp_array[i].lrc_synced = !comp_array[i].lrc_synced;
2729                 if (comp_array[i].lrc_synced && pos & (page_size - 1)) {
2730                         rc = llapi_mirror_truncate(fd,
2731                                         comp_array[i].lrc_mirror_id, pos);
2732                         if (rc < 0)
2733                                 comp_array[i].lrc_synced = false;
2734                 }
2735         }
2736
2737         /* partially successful is successful */
2738         return 0;
2739 }