Whamcloud - gitweb
LU-1267 lfsck: rebuild LAST_ID
[fs/lustre-release.git] / lustre / ofd / ofd_objects.c
1 /*
2  * GPL HEADER START
3  *
4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
5  *
6  * This program is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License version 2 only,
8  * as published by the Free Software Foundation.
9  *
10  * This program is distributed in the hope that it will be useful, but
11  * WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
13  * General Public License version 2 for more details (a copy is included
14  * in the LICENSE file that accompanied this code).
15  *
16  * You should have received a copy of the GNU General Public License
17  * version 2 along with this program; If not, see
18  * http://www.sun.com/software/products/lustre/docs/GPLv2.pdf
19  *
20  * Please contact Sun Microsystems, Inc., 4150 Network Circle, Santa Clara,
21  * CA 95054 USA or visit www.sun.com if you need additional information or
22  * have any questions.
23  *
24  * GPL HEADER END
25  */
26 /*
27  * Copyright (c) 2009, 2010, Oracle and/or its affiliates. All rights reserved.
28  * Use is subject to license terms.
29  *
30  * Copyright (c) 2012, 2013, Intel Corporation.
31  */
32 /*
33  * This file is part of Lustre, http://www.lustre.org/
34  * Lustre is a trademark of Sun Microsystems, Inc.
35  *
36  * lustre/ofd/ofd_objects.c
37  *
38  * Author: Alex Zhuravlev <bzzz@whamcloud.com>
39  * Author: Mikhail Pershin <tappro@whamcloud.com>
40  */
41
42 #define DEBUG_SUBSYSTEM S_FILTER
43
44 #include <dt_object.h>
45 #include <lustre/lustre_idl.h>
46
47 #include "ofd_internal.h"
48
49 int ofd_version_get_check(struct ofd_thread_info *info,
50                           struct ofd_object *fo)
51 {
52         dt_obj_version_t curr_version;
53
54         LASSERT(ofd_object_exists(fo));
55         LASSERT(info->fti_exp);
56
57         curr_version = dt_version_get(info->fti_env, ofd_object_child(fo));
58         if ((__s64)curr_version == -EOPNOTSUPP)
59                 RETURN(0);
60         /* VBR: version is checked always because costs nothing */
61         if (info->fti_pre_version != 0 &&
62             info->fti_pre_version != curr_version) {
63                 CDEBUG(D_INODE, "Version mismatch "LPX64" != "LPX64"\n",
64                        info->fti_pre_version, curr_version);
65                 spin_lock(&info->fti_exp->exp_lock);
66                 info->fti_exp->exp_vbr_failed = 1;
67                 spin_unlock(&info->fti_exp->exp_lock);
68                 RETURN (-EOVERFLOW);
69         }
70         info->fti_pre_version = curr_version;
71         RETURN(0);
72 }
73
74 struct ofd_object *ofd_object_find(const struct lu_env *env,
75                                    struct ofd_device *ofd,
76                                    const struct lu_fid *fid)
77 {
78         struct ofd_object *fo;
79         struct lu_object  *o;
80
81         ENTRY;
82
83         o = lu_object_find(env, &ofd->ofd_dt_dev.dd_lu_dev, fid, NULL);
84         if (likely(!IS_ERR(o)))
85                 fo = ofd_obj(o);
86         else
87                 fo = ERR_CAST(o); /* return error */
88
89         RETURN(fo);
90 }
91
92 struct ofd_object *ofd_object_find_or_create(const struct lu_env *env,
93                                              struct ofd_device *ofd,
94                                              const struct lu_fid *fid,
95                                              struct lu_attr *attr)
96 {
97         struct ofd_thread_info  *info = ofd_info(env);
98         struct lu_object        *fo_obj;
99         struct dt_object        *dto;
100
101         ENTRY;
102
103         info->fti_dof.dof_type = dt_mode_to_dft(S_IFREG);
104
105         dto = dt_find_or_create(env, ofd->ofd_osd, fid, &info->fti_dof, attr);
106         if (IS_ERR(dto))
107                 RETURN(ERR_CAST(dto));
108
109         fo_obj = lu_object_locate(dto->do_lu.lo_header,
110                                   ofd->ofd_dt_dev.dd_lu_dev.ld_type);
111         RETURN(ofd_obj(fo_obj));
112 }
113
114 int ofd_object_ff_check(const struct lu_env *env, struct ofd_object *fo)
115 {
116         int rc = 0;
117
118         ENTRY;
119
120         if (!fo->ofo_ff_exists) {
121                 /*
122                  * This actually means that we don't know whether the object
123                  * has the "fid" EA or not.
124                  */
125                 rc = dt_xattr_get(env, ofd_object_child(fo), &LU_BUF_NULL,
126                                   XATTR_NAME_FID, BYPASS_CAPA);
127                 if (rc >= 0 || rc == -ENODATA) {
128                         /*
129                          * Here we assume that, if the object doesn't have the
130                          * "fid" EA, the caller will add one, unless a fatal
131                          * error (e.g., a memory or disk failure) prevents it
132                          * from doing so.
133                          */
134                         fo->ofo_ff_exists = 1;
135                 }
136                 if (rc > 0)
137                         rc = 0;
138         }
139         RETURN(rc);
140 }
141
142 void ofd_object_put(const struct lu_env *env, struct ofd_object *fo)
143 {
144         lu_object_put(env, &fo->ofo_obj.do_lu);
145 }
146
147 int ofd_precreate_objects(const struct lu_env *env, struct ofd_device *ofd,
148                           obd_id id, struct ofd_seq *oseq, int nr, int sync)
149 {
150         struct ofd_thread_info  *info = ofd_info(env);
151         struct ofd_object       *fo = NULL;
152         struct dt_object        *next;
153         struct thandle          *th;
154         struct ofd_object       **batch;
155         struct lu_fid           *fid = &info->fti_fid;
156         obd_id                   tmp;
157         int                      rc;
158         int                      i;
159         int                      objects = 0;
160         int                      nr_saved = nr;
161
162         ENTRY;
163
164         /* Don't create objects beyond the valid range for this SEQ */
165         if (unlikely(fid_seq_is_mdt0(ostid_seq(&oseq->os_oi)) &&
166                      (id + nr) >= IDIF_MAX_OID)) {
167                 CERROR("%s:"DOSTID" hit the IDIF_MAX_OID (1<<48)!\n",
168                        ofd_name(ofd), id, ostid_seq(&oseq->os_oi));
169                 RETURN(rc = -ENOSPC);
170         } else if (unlikely(!fid_seq_is_mdt0(ostid_seq(&oseq->os_oi)) &&
171                             (id + nr) >= OBIF_MAX_OID)) {
172                 CERROR("%s:"DOSTID" hit the OBIF_MAX_OID (1<<32)!\n",
173                        ofd_name(ofd), id, ostid_seq(&oseq->os_oi));
174                 RETURN(rc = -ENOSPC);
175         }
176
177         OBD_ALLOC(batch, nr_saved * sizeof(struct ofd_object *));
178         if (batch == NULL)
179                 RETURN(-ENOMEM);
180
181         info->fti_attr.la_valid = LA_TYPE | LA_MODE;
182         /*
183          * We mark object SUID+SGID to flag it for accepting UID+GID from
184          * client on first write.  Currently the permission bits on the OST are
185          * never used, so this is OK.
186          */
187         info->fti_attr.la_mode = S_IFREG | S_ISUID | S_ISGID | 0666;
188         info->fti_dof.dof_type = dt_mode_to_dft(S_IFREG);
189
190         /* Initialize a/c/m time so any client timestamp will always
191          * be newer and update the inode. ctime = 0 is also handled
192          * specially in osd_inode_setattr(). See LU-221, LU-1042 */
193         info->fti_attr.la_valid |= LA_ATIME | LA_MTIME | LA_CTIME;
194         info->fti_attr.la_atime = 0;
195         info->fti_attr.la_mtime = 0;
196         info->fti_attr.la_ctime = 0;
197
198         LASSERT(id != 0);
199
200         /* prepare objects */
201         *fid = *lu_object_fid(&oseq->os_lastid_obj->do_lu);
202         for (i = 0; i < nr; i++) {
203                 rc = fid_set_id(fid, id + i);
204                 if (rc != 0) {
205                         if (i == 0)
206                                 GOTO(out, rc);
207
208                         nr = i;
209                         break;
210                 }
211
212                 fo = ofd_object_find(env, ofd, fid);
213                 if (IS_ERR(fo)) {
214                         if (i == 0)
215                                 GOTO(out, rc = PTR_ERR(fo));
216
217                         nr = i;
218                         break;
219                 }
220
221                 ofd_write_lock(env, fo);
222                 batch[i] = fo;
223         }
224         info->fti_buf.lb_buf = &tmp;
225         info->fti_buf.lb_len = sizeof(tmp);
226         info->fti_off = 0;
227
228         th = ofd_trans_create(env, ofd);
229         if (IS_ERR(th))
230                 GOTO(out, rc = PTR_ERR(th));
231
232         th->th_sync |= sync;
233
234         rc = dt_declare_record_write(env, oseq->os_lastid_obj, sizeof(tmp),
235                                      info->fti_off, th);
236         if (rc)
237                 GOTO(trans_stop, rc);
238
239         for (i = 0; i < nr; i++) {
240                 fo = batch[i];
241                 LASSERT(fo);
242
243                 if (unlikely(ofd_object_exists(fo))) {
244                         /* object may exist being re-created by write replay */
245                         CDEBUG(D_INODE, "object "LPX64"/"LPX64" exists: "
246                                DFID"\n", ostid_seq(&oseq->os_oi), id,
247                                PFID(lu_object_fid(&fo->ofo_obj.do_lu)));
248                         continue;
249                 }
250
251                 next = ofd_object_child(fo);
252                 LASSERT(next != NULL);
253
254                 rc = dt_declare_create(env, next, &info->fti_attr, NULL,
255                                        &info->fti_dof, th);
256                 if (rc) {
257                         nr = i;
258                         break;
259                 }
260         }
261
262         rc = dt_trans_start_local(env, ofd->ofd_osd, th);
263         if (rc)
264                 GOTO(trans_stop, rc);
265
266         CDEBUG(D_OTHER, "%s: create new object "DFID" nr %d\n",
267                ofd_name(ofd), PFID(fid), nr);
268
269         LASSERT(nr > 0);
270
271          /* When the LFSCK scanning the whole device to verify the LAST_ID file
272           * consistency, it will load the last_id into RAM firstly, and compare
273           * the last_id with echo OST-object's ID. If the later one is larger,
274           * then it will regard the LAST_ID file crashed. But during the LFSCK
275           * scanning, the OFD may continue to create new OST-objects. Those new
276           * created OST-objects will have larger IDs than the LFSCK known ones.
277           * So from the LFSCK view, it needs to re-load the last_id from disk
278           * file, and if the latest last_id is still smaller than the object's
279           * ID, then the LAST_ID file is real crashed.
280           *
281           * To make above mechanism to work, before OFD pre-create OST-objects,
282           * it needs to update the LAST_ID file firstly, otherwise, the LFSCK
283           * may cannot get latest last_id although new OST-object created. */
284         if (!OBD_FAIL_CHECK(OBD_FAIL_LFSCK_SKIP_LASTID)) {
285                 tmp = cpu_to_le64(id + nr - 1);
286                 dt_write_lock(env, oseq->os_lastid_obj, 0);
287                 rc = dt_record_write(env, oseq->os_lastid_obj,
288                                      &info->fti_buf, &info->fti_off, th);
289                 dt_write_unlock(env, oseq->os_lastid_obj);
290                 if (rc != 0)
291                         GOTO(trans_stop, rc);
292         }
293
294         for (i = 0; i < nr; i++) {
295                 fo = batch[i];
296                 LASSERT(fo);
297
298                 if (likely(!ofd_object_exists(fo))) {
299                         next = ofd_object_child(fo);
300                         LASSERT(next != NULL);
301
302                         rc = dt_create(env, next, &info->fti_attr, NULL,
303                                        &info->fti_dof, th);
304                         if (rc)
305                                 break;
306                         LASSERT(ofd_object_exists(fo));
307                 }
308                 ofd_seq_last_oid_set(oseq, id + i);
309         }
310
311         objects = i;
312         /* NOT all the wanted objects have been created,
313          * set the LAST_ID as the real created. */
314         if (unlikely(objects < nr)) {
315                 int rc1;
316
317                 info->fti_off = 0;
318                 tmp = cpu_to_le64(ofd_seq_last_oid(oseq));
319                 dt_write_lock(env, oseq->os_lastid_obj, 0);
320                 rc1 = dt_record_write(env, oseq->os_lastid_obj,
321                                       &info->fti_buf, &info->fti_off, th);
322                 dt_write_unlock(env, oseq->os_lastid_obj);
323                 if (rc1 != 0)
324                         CERROR("%s: fail to reset the LAST_ID for seq ("LPX64
325                                ") from "LPU64" to "LPU64"\n", ofd_name(ofd),
326                                ostid_seq(&oseq->os_oi), id + nr - 1,
327                                ofd_seq_last_oid(oseq));
328         }
329
330 trans_stop:
331         ofd_trans_stop(env, ofd, th, rc);
332 out:
333         for (i = 0; i < nr_saved; i++) {
334                 fo = batch[i];
335                 if (fo) {
336                         ofd_write_unlock(env, fo);
337                         ofd_object_put(env, fo);
338                 }
339         }
340         OBD_FREE(batch, nr_saved * sizeof(struct ofd_object *));
341
342         CDEBUG((objects == 0 && rc == 0) ? D_ERROR : D_OTHER,
343                "created %d/%d objects: %d\n", objects, nr_saved, rc);
344
345         LASSERT(ergo(objects == 0, rc < 0));
346         RETURN(objects > 0 ? objects : rc);
347 }
348
349 /*
350  * If the object still has SUID+SGID bits set (see ofd_precreate_object()) then
351  * we will accept the UID+GID if sent by the client for initializing the
352  * ownership of this object.  We only allow this to happen once (so clear these
353  * bits) and later only allow setattr.
354  */
355 int ofd_attr_handle_ugid(const struct lu_env *env, struct ofd_object *fo,
356                          struct lu_attr *la, int is_setattr)
357 {
358         struct ofd_thread_info  *info = ofd_info(env);
359         struct lu_attr          *ln = &info->fti_attr2;
360         __u32                    mask = 0;
361         int                      rc;
362
363         ENTRY;
364
365         if (!(la->la_valid & LA_UID) && !(la->la_valid & LA_GID))
366                 RETURN(0);
367
368         rc = dt_attr_get(env, ofd_object_child(fo), ln, BYPASS_CAPA);
369         if (rc != 0)
370                 RETURN(rc);
371
372         LASSERT(ln->la_valid & LA_MODE);
373
374         if (!is_setattr) {
375                 if (!(ln->la_mode & S_ISUID))
376                         la->la_valid &= ~LA_UID;
377                 if (!(ln->la_mode & S_ISGID))
378                         la->la_valid &= ~LA_GID;
379         }
380
381         if ((la->la_valid & LA_UID) && (ln->la_mode & S_ISUID))
382                 mask |= S_ISUID;
383         if ((la->la_valid & LA_GID) && (ln->la_mode & S_ISGID))
384                 mask |= S_ISGID;
385         if (mask != 0) {
386                 if (!(la->la_valid & LA_MODE) || !is_setattr) {
387                         la->la_mode = ln->la_mode;
388                         la->la_valid |= LA_MODE;
389                 }
390                 la->la_mode &= ~mask;
391         }
392
393         RETURN(0);
394 }
395
396 int ofd_attr_set(const struct lu_env *env, struct ofd_object *fo,
397                  struct lu_attr *la, struct filter_fid *ff)
398 {
399         struct ofd_thread_info  *info = ofd_info(env);
400         struct ofd_device       *ofd = ofd_obj2dev(fo);
401         struct thandle          *th;
402         struct ofd_mod_data     *fmd;
403         int                      ff_needed = 0;
404         int                      rc;
405         ENTRY;
406
407         ofd_write_lock(env, fo);
408         if (!ofd_object_exists(fo))
409                 GOTO(unlock, rc = -ENOENT);
410
411         if (la->la_valid & (LA_ATIME | LA_MTIME | LA_CTIME)) {
412                 fmd = ofd_fmd_get(info->fti_exp, &fo->ofo_header.loh_fid);
413                 if (fmd && fmd->fmd_mactime_xid < info->fti_xid)
414                         fmd->fmd_mactime_xid = info->fti_xid;
415                 ofd_fmd_put(info->fti_exp, fmd);
416         }
417
418         /* VBR: version recovery check */
419         rc = ofd_version_get_check(info, fo);
420         if (rc)
421                 GOTO(unlock, rc);
422
423         rc = ofd_attr_handle_ugid(env, fo, la, 1 /* is_setattr */);
424         if (rc != 0)
425                 GOTO(unlock, rc);
426
427         if (ff != NULL) {
428                 rc = ofd_object_ff_check(env, fo);
429                 if (rc == -ENODATA)
430                         ff_needed = 1;
431                 else if (rc < 0)
432                         GOTO(unlock, rc);
433         }
434
435         th = ofd_trans_create(env, ofd);
436         if (IS_ERR(th))
437                 GOTO(unlock, rc = PTR_ERR(th));
438
439         rc = dt_declare_attr_set(env, ofd_object_child(fo), la, th);
440         if (rc)
441                 GOTO(stop, rc);
442
443         if (ff_needed) {
444                 info->fti_buf.lb_buf = ff;
445                 info->fti_buf.lb_len = sizeof(*ff);
446                 rc = dt_declare_xattr_set(env, ofd_object_child(fo),
447                                           &info->fti_buf, XATTR_NAME_FID, 0,
448                                           th);
449                 if (rc)
450                         GOTO(stop, rc);
451         }
452
453         rc = ofd_trans_start(env, ofd, la->la_valid & LA_SIZE ? fo : NULL, th);
454         if (rc)
455                 GOTO(stop, rc);
456
457         rc = dt_attr_set(env, ofd_object_child(fo), la, th,
458                          ofd_object_capa(env, fo));
459         if (rc)
460                 GOTO(stop, rc);
461
462         if (ff_needed)
463                 rc = dt_xattr_set(env, ofd_object_child(fo), &info->fti_buf,
464                                   XATTR_NAME_FID, 0, th, BYPASS_CAPA);
465
466 stop:
467         ofd_trans_stop(env, ofd, th, rc);
468 unlock:
469         ofd_write_unlock(env, fo);
470         RETURN(rc);
471 }
472
473 int ofd_object_punch(const struct lu_env *env, struct ofd_object *fo,
474                      __u64 start, __u64 end, struct lu_attr *la,
475                      struct filter_fid *ff)
476 {
477         struct ofd_thread_info  *info = ofd_info(env);
478         struct ofd_device       *ofd = ofd_obj2dev(fo);
479         struct ofd_mod_data     *fmd;
480         struct dt_object        *dob = ofd_object_child(fo);
481         struct thandle          *th;
482         int                      ff_needed = 0;
483         int                      rc;
484
485         ENTRY;
486
487         /* we support truncate, not punch yet */
488         LASSERT(end == OBD_OBJECT_EOF);
489
490         fmd = ofd_fmd_get(info->fti_exp, &fo->ofo_header.loh_fid);
491         if (fmd && fmd->fmd_mactime_xid < info->fti_xid)
492                 fmd->fmd_mactime_xid = info->fti_xid;
493         ofd_fmd_put(info->fti_exp, fmd);
494
495         ofd_write_lock(env, fo);
496         if (!ofd_object_exists(fo))
497                 GOTO(unlock, rc = -ENOENT);
498
499         /* VBR: version recovery check */
500         rc = ofd_version_get_check(info, fo);
501         if (rc)
502                 GOTO(unlock, rc);
503
504         rc = ofd_attr_handle_ugid(env, fo, la, 0 /* !is_setattr */);
505         if (rc != 0)
506                 GOTO(unlock, rc);
507
508         if (ff != NULL) {
509                 rc = ofd_object_ff_check(env, fo);
510                 if (rc == -ENODATA)
511                         ff_needed = 1;
512                 else if (rc < 0)
513                         GOTO(unlock, rc);
514         }
515
516         th = ofd_trans_create(env, ofd);
517         if (IS_ERR(th))
518                 GOTO(unlock, rc = PTR_ERR(th));
519
520         rc = dt_declare_attr_set(env, dob, la, th);
521         if (rc)
522                 GOTO(stop, rc);
523
524         rc = dt_declare_punch(env, dob, start, OBD_OBJECT_EOF, th);
525         if (rc)
526                 GOTO(stop, rc);
527
528         if (ff_needed) {
529                 info->fti_buf.lb_buf = ff;
530                 info->fti_buf.lb_len = sizeof(*ff);
531                 rc = dt_declare_xattr_set(env, ofd_object_child(fo),
532                                           &info->fti_buf, XATTR_NAME_FID, 0,
533                                           th);
534                 if (rc)
535                         GOTO(stop, rc);
536         }
537
538         rc = ofd_trans_start(env, ofd, fo, th);
539         if (rc)
540                 GOTO(stop, rc);
541
542         rc = dt_punch(env, dob, start, OBD_OBJECT_EOF, th,
543                       ofd_object_capa(env, fo));
544         if (rc)
545                 GOTO(stop, rc);
546
547         rc = dt_attr_set(env, dob, la, th, ofd_object_capa(env, fo));
548         if (rc)
549                 GOTO(stop, rc);
550
551         if (ff_needed)
552                 rc = dt_xattr_set(env, ofd_object_child(fo), &info->fti_buf,
553                                   XATTR_NAME_FID, 0, th, BYPASS_CAPA);
554
555 stop:
556         ofd_trans_stop(env, ofd, th, rc);
557 unlock:
558         ofd_write_unlock(env, fo);
559         RETURN(rc);
560 }
561
562 int ofd_object_destroy(const struct lu_env *env, struct ofd_object *fo,
563                        int orphan)
564 {
565         struct ofd_device       *ofd = ofd_obj2dev(fo);
566         struct thandle          *th;
567         int                      rc = 0;
568
569         ENTRY;
570
571         ofd_write_lock(env, fo);
572         if (!ofd_object_exists(fo))
573                 GOTO(unlock, rc = -ENOENT);
574
575         th = ofd_trans_create(env, ofd);
576         if (IS_ERR(th))
577                 GOTO(unlock, rc = PTR_ERR(th));
578
579         dt_declare_ref_del(env, ofd_object_child(fo), th);
580         dt_declare_destroy(env, ofd_object_child(fo), th);
581         if (orphan)
582                 rc = dt_trans_start_local(env, ofd->ofd_osd, th);
583         else
584                 rc = ofd_trans_start(env, ofd, NULL, th);
585         if (rc)
586                 GOTO(stop, rc);
587
588         ofd_fmd_drop(ofd_info(env)->fti_exp, &fo->ofo_header.loh_fid);
589
590         dt_ref_del(env, ofd_object_child(fo), th);
591         dt_destroy(env, ofd_object_child(fo), th);
592 stop:
593         ofd_trans_stop(env, ofd, th, rc);
594 unlock:
595         ofd_write_unlock(env, fo);
596         RETURN(rc);
597 }
598
599 int ofd_attr_get(const struct lu_env *env, struct ofd_object *fo,
600                  struct lu_attr *la)
601 {
602         int rc = 0;
603
604         ENTRY;
605
606         if (ofd_object_exists(fo)) {
607                 rc = dt_attr_get(env, ofd_object_child(fo), la,
608                                  ofd_object_capa(env, fo));
609
610 #if LUSTRE_VERSION_CODE < OBD_OCD_VERSION(2, 7, 50, 0)
611                 /* Try to correct for a bug in 2.1.0 (LU-221) that caused
612                  * negative timestamps to appear to be in the far future,
613                  * due old timestamp being stored on disk as an unsigned value.
614                  * This fixes up any bad values stored on disk before
615                  * returning them to the client, and ensures any timestamp
616                  * updates are correct.  LU-1042 */
617                 if (unlikely(la->la_atime == LU221_BAD_TIME))
618                         la->la_atime = 0;
619                 if (unlikely(la->la_mtime == LU221_BAD_TIME))
620                         la->la_mtime = 0;
621                 if (unlikely(la->la_ctime == LU221_BAD_TIME))
622                         la->la_ctime = 0;
623 #else
624 #warning "remove old LU-221/LU-1042 workaround code"
625 #endif
626         } else {
627                 rc = -ENOENT;
628         }
629         RETURN(rc);
630 }