lustre/osd-zfs/osd_oi.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; If not, see
  18  * http://www.gnu.org/licenses/gpl-2.0.html
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * Copyright (c) 2009, 2010, Oracle and/or its affiliates. All rights reserved.
  24  * Use is subject to license terms.
  25  *
  26  * Copyright (c) 2012, 2017, Intel Corporation.
  27  */
  28 /*
  29  * This file is part of Lustre, http://www.lustre.org/
  30  *
  31  * lustre/osd-zfs/osd_oi.c
  32  * OI functions to map fid to dnode
  33  *
  34  * Author: Alex Zhuravlev <bzzz@whamcloud.com>
  35  * Author: Mike Pershin <tappro@whamcloud.com>
  36  * Author: Di Wang <di.wang@intel.com>
  37  */
  38
  39 #define DEBUG_SUBSYSTEM S_OSD
  40
  41 #include <libcfs/libcfs.h>
  42 #include <obd_support.h>
  43 #include <lustre_net.h>
  44 #include <obd.h>
  45 #include <obd_class.h>
  46 #include <lustre_disk.h>
  47 #include <lustre_fid.h>
  48
  49 #include "osd_internal.h"
  50
  51 #include <sys/dnode.h>
  52 #include <sys/dbuf.h>
  53 #include <sys/spa.h>
  54 #include <sys/stat.h>
  55 #include <sys/zap.h>
  56 #include <sys/spa_impl.h>
  57 #include <sys/zfs_znode.h>
  58 #include <sys/dmu_tx.h>
  59 #include <sys/dmu_objset.h>
  60 #include <sys/dsl_prop.h>
  61 #include <sys/sa_impl.h>
  62 #include <sys/txg.h>
  63 #include <lustre_scrub.h>
  64
  65 #define OSD_OI_FID_NR         (1UL << 7)
  66 unsigned int osd_oi_count = OSD_OI_FID_NR;
  67
  68
  69 /*
  70  * zfs osd maintains names for known fids in the name hierarchy
  71  * so that one can mount filesystem with regular ZFS stack and
  72  * access files
  73  */
  74 struct named_oid {
  75         unsigned long    oid;
  76         char            *name;
  77 };
  78
  79 static const struct named_oid oids[] = {
  80         { .oid = LAST_RECV_OID,        .name = LAST_RCVD },
  81         { .oid = OFD_LAST_GROUP_OID,   .name = "LAST_GROUP" },
  82         { .oid = LLOG_CATALOGS_OID,    .name = "CATALOGS" },
  83         { .oid = MGS_CONFIGS_OID,      /*MOUNT_CONFIGS_DIR*/ },
  84         { .oid = FID_SEQ_SRV_OID,      .name = "seq_srv" },
  85         { .oid = FID_SEQ_CTL_OID,      .name = "seq_ctl" },
  86         { .oid = FLD_INDEX_OID,        .name = "fld" },
  87         { .oid = MDD_LOV_OBJ_OID,      .name = LOV_OBJID },
  88         { .oid = OFD_HEALTH_CHECK_OID, .name = HEALTH_CHECK },
  89         { .oid = REPLY_DATA_OID,       .name = REPLY_DATA },
  90         { .oid = MDD_LOV_OBJ_OSEQ,     .name = LOV_OBJSEQ },
  91         { .oid = BATCHID_COMMITTED_OID, .name = "BATCHID" },
  92         { .oid = 0 }
  93 };
  94
  95 static inline bool fid_is_objseq(const struct lu_fid *fid)
  96 {
  97         return fid->f_seq == FID_SEQ_LOCAL_FILE &&
  98                 fid->f_oid == MDD_LOV_OBJ_OSEQ;
  99 }
 100
 101 static inline bool fid_is_batchid(const struct lu_fid *fid)
 102 {
 103         return fid->f_seq == FID_SEQ_LOCAL_FILE &&
 104                 fid->f_oid == BATCHID_COMMITTED_OID;
 105 }
 106
 107 static char *oid2name(const unsigned long oid)
 108 {
 109         int i = 0;
 110
 111         while (oids[i].oid) {
 112                 if (oids[i].oid == oid)
 113                         return oids[i].name;
 114                 i++;
 115         }
 116         return NULL;
 117 }
 118
 119 /**
 120  * Lookup an existing OI by the given name.
 121  */
 122 static int
 123 osd_oi_lookup(const struct lu_env *env, struct osd_device *o,
 124               uint64_t parent, const char *name, struct osd_oi *oi)
 125 {
 126         struct zpl_direntry *zde = &osd_oti_get(env)->oti_zde.lzd_reg;
 127         int rc;
 128
 129         rc = -zap_lookup(o->od_os, parent, name, 8, 1, (void *)zde);
 130         if (rc)
 131                 return rc;
 132
 133         rc = strscpy(oi->oi_name, name, sizeof(oi->oi_name));
 134         if (rc < 0)
 135                 return rc;
 136
 137         oi->oi_zapid = zde->zde_dnode;
 138
 139         return 0;
 140 }
 141
 142 static int osd_obj_create(const struct lu_env *env, struct osd_device *o,
 143                           uint64_t parent, const char *name, uint64_t *child,
 144                           const struct lu_fid *fid, bool isdir)
 145 {
 146         struct osd_thread_info *info = osd_oti_get(env);
 147         struct zpl_direntry *zde = &info->oti_zde.lzd_reg;
 148         struct lustre_mdt_attrs *lma = &info->oti_mdt_attrs;
 149         struct lu_attr *la = &info->oti_la;
 150         sa_handle_t *sa_hdl = NULL;
 151         nvlist_t *nvbuf = NULL;
 152         dmu_tx_t *tx;
 153         uint64_t oid;
 154         __u32 compat = LMAC_NOT_IN_OI;
 155         int rc;
 156
 157         ENTRY;
 158         if (o->od_dt_dev.dd_rdonly)
 159                 RETURN(-EROFS);
 160
 161         memset(la, 0, sizeof(*la));
 162         la->la_valid = LA_MODE | LA_UID | LA_GID;
 163         la->la_mode = S_IRUGO | S_IWUSR | (isdir ? S_IXUGO | S_IFDIR : S_IFREG);
 164
 165         if (fid) {
 166                 rc = -nvlist_alloc(&nvbuf, NV_UNIQUE_NAME, KM_SLEEP);
 167                 if (rc)
 168                         RETURN(rc);
 169
 170                 if (o->od_is_ost)
 171                         compat |= LMAC_FID_ON_OST;
 172                 lustre_lma_init(lma, fid, compat, 0);
 173                 lustre_lma_swab(lma);
 174                 rc = -nvlist_add_byte_array(nvbuf, XATTR_NAME_LMA,
 175                                             (uchar_t *)lma, sizeof(*lma));
 176                 if (rc)
 177                         GOTO(out, rc);
 178         }
 179
 180         /* create fid-to-dnode index */
 181         tx = dmu_tx_create(o->od_os);
 182         if (!tx)
 183                 GOTO(out, rc = -ENOMEM);
 184
 185         dmu_tx_hold_zap(tx, DMU_NEW_OBJECT, FALSE, NULL);
 186         dmu_tx_hold_bonus(tx, parent);
 187         dmu_tx_hold_zap(tx, parent, TRUE, name);
 188         dmu_tx_hold_sa_create(tx, ZFS_SA_BASE_ATTR_SIZE);
 189         rc = -dmu_tx_assign(tx, TXG_WAIT);
 190         if (rc) {
 191                 dmu_tx_abort(tx);
 192                 GOTO(out, rc);
 193         }
 194
 195         if (isdir)
 196                 oid = osd_zap_create_flags(o->od_os, 0, ZAP_FLAG_HASH64,
 197                                            DMU_OT_DIRECTORY_CONTENTS,
 198                                            14, DN_MAX_INDBLKSHIFT, 0, tx);
 199         else
 200                 oid = osd_dmu_object_alloc(o->od_os, DMU_OTN_UINT8_METADATA,
 201                                            0, 0, tx);
 202         rc = -sa_handle_get(o->od_os, oid, NULL, SA_HDL_PRIVATE, &sa_hdl);
 203         if (rc)
 204                 GOTO(commit, rc);
 205
 206         rc = __osd_attr_init(env, o, NULL, sa_hdl, tx, la, parent, nvbuf);
 207         sa_handle_destroy(sa_hdl);
 208         if (rc)
 209                 GOTO(commit, rc);
 210
 211         zde->zde_dnode = oid;
 212         zde->zde_pad = 0;
 213         zde->zde_type = S_DT(isdir ? S_IFDIR : S_IFREG);
 214         rc = -zap_add(o->od_os, parent, name, 8, 1, (void *)zde, tx);
 215
 216         GOTO(commit, rc);
 217
 218 commit:
 219         if (rc)
 220                 dmu_object_free(o->od_os, oid, tx);
 221         else
 222                 *child = oid;
 223         dmu_tx_commit(tx);
 224 out:
 225         if (nvbuf)
 226                 nvlist_free(nvbuf);
 227         return rc;
 228 }
 229
 230 static int osd_oi_destroy(const struct lu_env *env, struct osd_device *o,
 231                           const char *name)
 232 {
 233         struct osd_oi oi;
 234         dmu_tx_t *tx;
 235         dnode_t *rootdn;
 236         uint64_t oid;
 237         int rc;
 238
 239         ENTRY;
 240         if (o->od_dt_dev.dd_rdonly)
 241                 RETURN(-EROFS);
 242
 243         rc = osd_oi_lookup(env, o, o->od_rootid, name, &oi);
 244         if (rc == -ENOENT)
 245                 RETURN(0);
 246         if (rc)
 247                 RETURN(rc);
 248
 249         oid = oi.oi_zapid;
 250
 251         rc = __osd_obj2dnode(o->od_os, o->od_rootid, &rootdn);
 252         if (rc)
 253                 RETURN(rc);
 254
 255         tx = dmu_tx_create(o->od_os);
 256         dmu_tx_mark_netfree(tx);
 257         dmu_tx_hold_free(tx, oid, 0, DMU_OBJECT_END);
 258         osd_tx_hold_zap(tx, oid, rootdn, FALSE, NULL);
 259         rc = -dmu_tx_assign(tx, TXG_WAIT);
 260         if (rc) {
 261                 dmu_tx_abort(tx);
 262                 GOTO(out, rc);
 263         }
 264
 265         rc = -dmu_object_free(o->od_os, oid, tx);
 266         if (rc) {
 267                 CERROR("%s: failed to free %s %llu: rc = %d\n",
 268                        o->od_svname, name, oid, rc);
 269                 GOTO(commit, rc);
 270         }
 271
 272         rc = osd_zap_remove(o, o->od_rootid, rootdn, name, tx);
 273         if (rc) {
 274                 CERROR("%s: zap_remove %s failed: rc = %d\n",
 275                        o->od_svname, name, rc);
 276                 GOTO(commit, rc);
 277         }
 278
 279         EXIT;
 280 commit:
 281         dmu_tx_commit(tx);
 282 out:
 283         osd_dnode_rele(rootdn);
 284
 285         return rc;
 286 }
 287
 288 static int
 289 osd_oi_find_or_create(const struct lu_env *env, struct osd_device *o,
 290                       uint64_t parent, const char *name, uint64_t *child)
 291 {
 292         struct osd_oi oi;
 293         int rc;
 294
 295         rc = osd_oi_lookup(env, o, parent, name, &oi);
 296         if (rc == 0)
 297                 *child = oi.oi_zapid;
 298         else if (rc == -ENOENT)
 299                 rc = osd_obj_create(env, o, parent, name, child, NULL, true);
 300
 301         return rc;
 302 }
 303
 304 int osd_obj_find_or_create(const struct lu_env *env, struct osd_device *o,
 305                            uint64_t parent, const char *name, uint64_t *child,
 306                            const struct lu_fid *fid, bool isdir)
 307 {
 308         struct osd_oi oi;
 309         int rc;
 310
 311         rc = osd_oi_lookup(env, o, parent, name, &oi);
 312         if (!rc)
 313                 *child = oi.oi_zapid;
 314         else if (rc == -ENOENT)
 315                 rc = osd_obj_create(env, o, parent, name, child, fid, isdir);
 316
 317         return rc;
 318 }
 319
 320 /**
 321  * Lookup the target index/flags of the fid, so it will know where
 322  * the object is located (tgt index) and it is MDT or OST object.
 323  */
 324 int osd_fld_lookup(const struct lu_env *env, struct osd_device *osd,
 325                    u64 seq, struct lu_seq_range *range)
 326 {
 327         struct seq_server_site *ss = osd_seq_site(osd);
 328
 329         if (fid_seq_is_idif(seq)) {
 330                 fld_range_set_ost(range);
 331                 range->lsr_index = idif_ost_idx(seq);
 332                 return 0;
 333         }
 334
 335         if (!fid_seq_in_fldb(seq)) {
 336                 fld_range_set_mdt(range);
 337                 if (ss != NULL)
 338                         /* FIXME: If ss is NULL, it suppose not get lsr_index
 339                          * at all
 340                          */
 341                         range->lsr_index = ss->ss_node_id;
 342                 return 0;
 343         }
 344
 345         /* The seq_server_site may be NOT ready during initial OI scrub */
 346         if (unlikely(!ss || !ss->ss_server_fld ||
 347                      !ss->ss_server_fld->lsf_cache))
 348                 return -ENOENT;
 349
 350         fld_range_set_any(range);
 351         /* OSD will only do local fld lookup */
 352         return fld_local_lookup(env, ss->ss_server_fld, seq, range);
 353 }
 354
 355 int fid_is_on_ost(const struct lu_env *env, struct osd_device *osd,
 356                   const struct lu_fid *fid)
 357 {
 358         struct lu_seq_range *range = &osd_oti_get(env)->oti_seq_range;
 359         int rc;
 360
 361         ENTRY;
 362         if (fid_is_idif(fid))
 363                 RETURN(1);
 364
 365         if (unlikely(fid_is_local_file(fid) || fid_is_llog(fid)) ||
 366                      fid_is_name_llog(fid) || fid_is_quota(fid) ||
 367                      fid_is_igif(fid))
 368                 RETURN(0);
 369
 370         rc = osd_fld_lookup(env, osd, fid_seq(fid), range);
 371         if (rc != 0) {
 372                 /* During upgrade, OST FLDB might not be loaded because
 373                  * OST FLDB is not created until 2.6, so if some DNE
 374                  * filesystem upgrade from 2.5 to 2.7/2.8, they will
 375                  * not be able to find the sequence from local FLDB
 376                  * cache see fld_index_init().
 377                  */
 378                 if (rc == -ENOENT && osd->od_is_ost)
 379                         RETURN(1);
 380
 381                 if (rc != -ENOENT)
 382                         CERROR("%s: "DFID" lookup failed: rc = %d\n",
 383                                osd_name(osd), PFID(fid), rc);
 384                 RETURN(0);
 385         }
 386
 387         if (fld_range_is_ost(range))
 388                 RETURN(1);
 389
 390         RETURN(0);
 391 }
 392
 393 static struct osd_seq *osd_seq_find_locked(struct osd_seq_list *seq_list,
 394                                            u64 seq)
 395 {
 396         struct osd_seq *osd_seq;
 397
 398         list_for_each_entry(osd_seq, &seq_list->osl_seq_list, os_seq_list) {
 399                 if (osd_seq->os_seq == seq)
 400                         return osd_seq;
 401         }
 402         return NULL;
 403 }
 404
 405 static struct osd_seq *osd_seq_find(struct osd_seq_list *seq_list, u64 seq)
 406 {
 407         struct osd_seq *osd_seq;
 408
 409         read_lock(&seq_list->osl_seq_list_lock);
 410         osd_seq = osd_seq_find_locked(seq_list, seq);
 411         read_unlock(&seq_list->osl_seq_list_lock);
 412
 413         return osd_seq;
 414 }
 415
 416 static struct osd_seq *osd_find_or_add_seq(const struct lu_env *env,
 417                                            struct osd_device *osd, u64 seq)
 418 {
 419         struct osd_seq_list *seq_list = &osd->od_seq_list;
 420         struct osd_seq *osd_seq;
 421         char *key = osd_oti_get(env)->oti_buf;
 422         char *seq_name = osd_oti_get(env)->oti_str;
 423         struct osd_oi oi;
 424         uint64_t sdb, odb;
 425         int i;
 426         int rc = 0;
 427
 428         ENTRY;
 429         osd_seq = osd_seq_find(seq_list, seq);
 430         if (osd_seq != NULL)
 431                 RETURN(osd_seq);
 432
 433         down(&seq_list->osl_seq_init_sem);
 434         /* Check again, in case some one else already add it to the list */
 435         osd_seq = osd_seq_find(seq_list, seq);
 436         if (osd_seq != NULL)
 437                 GOTO(out, rc = 0);
 438
 439         OBD_ALLOC_PTR(osd_seq);
 440         if (osd_seq == NULL)
 441                 GOTO(out, rc = -ENOMEM);
 442
 443         INIT_LIST_HEAD(&osd_seq->os_seq_list);
 444         osd_seq->os_seq = seq;
 445
 446         /* Init subdir count to be 32, but each seq can have different subdir
 447          * count
 448          */
 449         osd_seq->os_subdir_count = OSD_OST_MAP_SIZE;
 450         OBD_ALLOC_PTR_ARRAY(osd_seq->os_compat_dirs, osd_seq->os_subdir_count);
 451         if (osd_seq->os_compat_dirs == NULL)
 452                 GOTO(out, rc = -ENOMEM);
 453
 454         oi.oi_zapid = osd->od_O_id;
 455         sprintf(seq_name, (fid_seq_is_rsvd(seq) ||
 456                 fid_seq_is_mdt0(seq)) ?  "%llu" : "%llx",
 457                 fid_seq_is_idif(seq) ? 0 : seq);
 458
 459         rc = osd_oi_find_or_create(env, osd, oi.oi_zapid, seq_name, &odb);
 460         if (rc != 0) {
 461                 CERROR("%s: Can not create %s : rc = %d\n",
 462                        osd_name(osd), seq_name, rc);
 463                 GOTO(out, rc);
 464         }
 465
 466         osd_seq->os_oid = odb;
 467         for (i = 0; i < OSD_OST_MAP_SIZE; i++) {
 468                 sprintf(key, "d%d", i);
 469                 rc = osd_oi_find_or_create(env, osd, odb, key, &sdb);
 470                 if (rc)
 471                         GOTO(out, rc);
 472                 osd_seq->os_compat_dirs[i] = sdb;
 473         }
 474
 475         write_lock(&seq_list->osl_seq_list_lock);
 476         list_add(&osd_seq->os_seq_list, &seq_list->osl_seq_list);
 477         write_unlock(&seq_list->osl_seq_list_lock);
 478 out:
 479         up(&seq_list->osl_seq_init_sem);
 480         if (rc != 0) {
 481                 if (osd_seq != NULL && osd_seq->os_compat_dirs != NULL)
 482                         OBD_FREE_PTR_ARRAY(osd_seq->os_compat_dirs,
 483                                            osd_seq->os_subdir_count);
 484                 if (osd_seq != NULL)
 485                         OBD_FREE_PTR(osd_seq);
 486                 osd_seq = ERR_PTR(rc);
 487         }
 488         RETURN(osd_seq);
 489 }
 490
 491 static uint64_t
 492 osd_get_idx_for_ost_obj_compat(const struct lu_env *env, struct osd_device *osd,
 493                                const struct lu_fid *fid, char *buf, int bufsize)
 494 {
 495         struct osd_seq *osd_seq;
 496         unsigned long b;
 497         u64 id;
 498         int rc;
 499
 500         osd_seq = osd_find_or_add_seq(env, osd, fid_seq(fid));
 501         if (IS_ERR(osd_seq)) {
 502                 CERROR("%s: Can not find seq group "DFID"\n", osd_name(osd),
 503                        PFID(fid));
 504                 return PTR_ERR(osd_seq);
 505         }
 506
 507         if (fid_is_last_id(fid)) {
 508                 id = 0;
 509         } else {
 510                 rc = fid_to_ostid(fid, &osd_oti_get(env)->oti_ostid);
 511                 LASSERT(rc == 0); /* we should not get here with IGIF */
 512                 id = ostid_id(&osd_oti_get(env)->oti_ostid);
 513         }
 514
 515         b = id % OSD_OST_MAP_SIZE;
 516         LASSERT(osd_seq->os_compat_dirs[b]);
 517
 518         if (buf)
 519                 snprintf(buf, bufsize, "%llu", id);
 520
 521         return osd_seq->os_compat_dirs[b];
 522 }
 523
 524 /*
 525  * objects w/o a natural reference (unlike a file on a MDS)
 526  * are put under a special hierarchy /O/<seq>/d0..dXX
 527  * this function returns a directory specific fid belongs to
 528  */
 529 static uint64_t
 530 osd_get_idx_for_ost_obj(const struct lu_env *env, struct osd_device *osd,
 531                         const struct lu_fid *fid, char *buf, int bufsize)
 532 {
 533         struct osd_seq *osd_seq;
 534         unsigned long b;
 535         u64 id;
 536         int rc;
 537
 538         osd_seq = osd_find_or_add_seq(env, osd, fid_seq(fid));
 539         if (IS_ERR(osd_seq)) {
 540                 CERROR("%s: Can not find seq group "DFID"\n", osd_name(osd),
 541                        PFID(fid));
 542                 return PTR_ERR(osd_seq);
 543         }
 544
 545         if (fid_is_last_id(fid)) {
 546                 if (buf)
 547                         snprintf(buf, bufsize, "LAST_ID");
 548
 549                 return osd_seq->os_oid;
 550         }
 551
 552         rc = fid_to_ostid(fid, &osd_oti_get(env)->oti_ostid);
 553         LASSERT(rc == 0); /* we should not get here with IGIF */
 554
 555         id = ostid_id(&osd_oti_get(env)->oti_ostid);
 556         b = id % OSD_OST_MAP_SIZE;
 557         LASSERT(osd_seq->os_compat_dirs[b]);
 558
 559         if (buf)
 560                 snprintf(buf, bufsize, "%llu", id);
 561
 562         return osd_seq->os_compat_dirs[b];
 563 }
 564
 565 /*
 566  * Determine the zap object id which is being used as the OI for the
 567  * given fid.  The lowest N bits in the sequence ID are used as the
 568  * index key.  On failure 0 is returned which zfs treats internally
 569  * as an invalid object id.
 570  */
 571 static uint64_t
 572 osd_get_idx_for_fid(struct osd_device *osd, const struct lu_fid *fid,
 573                     char *buf, dnode_t **zdn, int bufsize)
 574 {
 575         struct osd_oi *oi;
 576
 577         oi = osd_fid2oi(osd, fid);
 578         if (buf)
 579                 osd_fid2str(buf, fid, bufsize);
 580         if (zdn)
 581                 *zdn = oi->oi_dn;
 582
 583         return oi->oi_zapid;
 584 }
 585
 586 static uint64_t
 587 osd_get_name_n_idx_compat(const struct lu_env *env, struct osd_device *osd,
 588                           const struct lu_fid *fid, char *buf, int bufsize,
 589                           dnode_t **zdn)
 590 {
 591         uint64_t zapid;
 592
 593         LASSERT(fid);
 594         LASSERT(!fid_is_acct(fid));
 595
 596         if (zdn != NULL)
 597                 *zdn = NULL;
 598
 599         if (fid_is_echo(fid) || fid_is_on_ost(env, osd, fid)) {
 600                 zapid = osd_get_idx_for_ost_obj_compat(env, osd, fid,
 601                                                        buf, bufsize);
 602         } else if (unlikely(fid_seq(fid) == FID_SEQ_LOCAL_FILE)) {
 603                 /* special objects with fixed known fids get their name */
 604                 char *name = oid2name(fid_oid(fid));
 605
 606                 if (name) {
 607                         zapid = osd->od_root;
 608                         if (buf)
 609                                 strncpy(buf, name, bufsize);
 610                 } else {
 611                         zapid = osd_get_idx_for_fid(osd, fid, buf, NULL,
 612                                                     bufsize);
 613                 }
 614         } else {
 615                 zapid = osd_get_idx_for_fid(osd, fid, buf, zdn, bufsize);
 616         }
 617
 618         return zapid;
 619 }
 620
 621 uint64_t osd_get_name_n_idx(const struct lu_env *env, struct osd_device *osd,
 622                             const struct lu_fid *fid, char *buf, int bufsize,
 623                             dnode_t **zdn)
 624 {
 625         uint64_t zapid;
 626
 627         LASSERT(fid);
 628         LASSERT(!fid_is_acct(fid));
 629
 630         if (zdn != NULL)
 631                 *zdn = NULL;
 632
 633         if (fid_is_echo(fid) || fid_is_last_id(fid) ||
 634             fid_is_on_ost(env, osd, fid)) {
 635                 zapid = osd_get_idx_for_ost_obj(env, osd, fid, buf, bufsize);
 636         } else if (unlikely(fid_seq(fid) == FID_SEQ_LOCAL_FILE)) {
 637                 /* special objects with fixed known fids get their name */
 638                 char *name = oid2name(fid_oid(fid));
 639
 640                 if (name) {
 641                         zapid = osd->od_root;
 642                         if (buf)
 643                                 strncpy(buf, name, bufsize);
 644                 } else {
 645                         zapid = osd_get_idx_for_fid(osd, fid, buf, NULL,
 646                                                     bufsize);
 647                 }
 648         } else {
 649                 zapid = osd_get_idx_for_fid(osd, fid, buf, zdn, bufsize);
 650         }
 651
 652         return zapid;
 653 }
 654
 655 static inline int fid_is_fs_root(const struct lu_fid *fid)
 656 {
 657         /* Map root inode to special local object FID */
 658         return fid_seq(fid) == FID_SEQ_LOCAL_FILE &&
 659                 fid_oid(fid) == OSD_FS_ROOT_OID;
 660 }
 661
 662 int osd_fid_lookup(const struct lu_env *env, struct osd_device *dev,
 663                    const struct lu_fid *fid, uint64_t *oid)
 664 {
 665         struct osd_thread_info *info = osd_oti_get(env);
 666         char *buf = info->oti_buf;
 667         dnode_t *zdn;
 668         uint64_t zapid;
 669         int rc = 0;
 670
 671         ENTRY;
 672         if (CFS_FAIL_CHECK(OBD_FAIL_SRV_ENOENT))
 673                 RETURN(-ENOENT);
 674
 675         LASSERT(!fid_is_acct(fid));
 676
 677         if (unlikely(fid_is_fs_root(fid))) {
 678                 *oid = dev->od_root;
 679         } else {
 680                 zapid = osd_get_name_n_idx(env, dev, fid, buf,
 681                                            sizeof(info->oti_buf), &zdn);
 682                 rc = osd_zap_lookup(dev, zapid, zdn, buf,
 683                                     8, 1, &info->oti_zde);
 684                 if (rc == -ENOENT) {
 685                         if (unlikely(fid_is_last_id(fid))) {
 686                                 zapid = osd_get_name_n_idx_compat(env, dev, fid,
 687                                         buf, sizeof(info->oti_buf), &zdn);
 688                                 rc = osd_zap_lookup(dev, zapid, zdn, buf,
 689                                                     8, 1, &info->oti_zde);
 690                         } else if (fid_is_objseq(fid) || fid_is_batchid(fid)) {
 691                                 zapid = osd_get_idx_for_fid(dev, fid,
 692                                         buf, NULL, sizeof(info->oti_buf));
 693                                 rc = osd_zap_lookup(dev, zapid, zdn, buf,
 694                                                     8, 1, &info->oti_zde);
 695                         }
 696                 }
 697
 698                 if (rc)
 699                         RETURN(rc);
 700                 *oid = info->oti_zde.lzd_reg.zde_dnode;
 701         }
 702
 703         if (rc == 0)
 704                 dmu_prefetch(dev->od_os, *oid, 0, 0, 0,
 705                              ZIO_PRIORITY_ASYNC_READ);
 706
 707         RETURN(rc);
 708 }
 709
 710 /**
 711  * Close an entry in a specific slot.
 712  */
 713 static void
 714 osd_oi_remove_table(const struct lu_env *env, struct osd_device *o, int key)
 715 {
 716         struct osd_oi *oi;
 717
 718         LASSERT(key < o->od_oi_count);
 719
 720         oi = o->od_oi_table[key];
 721         if (oi) {
 722                 if (oi->oi_dn)
 723                         osd_dnode_rele(oi->oi_dn);
 724                 OBD_FREE_PTR(oi);
 725                 o->od_oi_table[key] = NULL;
 726         }
 727 }
 728
 729 /**
 730  * Allocate and open a new entry in the specified unused slot.
 731  */
 732 static int
 733 osd_oi_add_table(const struct lu_env *env, struct osd_device *o,
 734                  char *name, int key)
 735 {
 736         struct osd_oi *oi;
 737         int rc;
 738
 739         LASSERT(key < o->od_oi_count);
 740         LASSERT(o->od_oi_table[key] == NULL);
 741
 742         OBD_ALLOC_PTR(oi);
 743         if (oi == NULL)
 744                 return -ENOMEM;
 745
 746         rc = osd_oi_lookup(env, o, o->od_root, name, oi);
 747         if (rc) {
 748                 OBD_FREE_PTR(oi);
 749                 return rc;
 750         }
 751
 752         o->od_oi_table[key] = oi;
 753         __osd_obj2dnode(o->od_os, oi->oi_zapid, &oi->oi_dn);
 754
 755         return 0;
 756 }
 757
 758 /**
 759  * Depopulate the OI table.
 760  */
 761 static void
 762 osd_oi_close_table(const struct lu_env *env, struct osd_device *o)
 763 {
 764         int i;
 765
 766         for (i = 0; i < o->od_oi_count; i++)
 767                 osd_oi_remove_table(env, o, i);
 768 }
 769
 770 /**
 771  * Populate the OI table based.
 772  */
 773 static int
 774 osd_oi_open_table(const struct lu_env *env, struct osd_device *o, int count)
 775 {
 776         char name[16];
 777         int  i, rc = 0;
 778
 779         ENTRY;
 780         for (i = 0; i < count; i++) {
 781                 sprintf(name, "%s.%d", DMU_OSD_OI_NAME_BASE, i);
 782                 rc = osd_oi_add_table(env, o, name, i);
 783                 if (rc) {
 784                         osd_oi_close_table(env, o);
 785                         break;
 786                 }
 787         }
 788
 789         RETURN(rc);
 790 }
 791
 792 /**
 793  * Determine if the type and number of OIs used by this file system.
 794  */
 795 static int osd_oi_probe(const struct lu_env *env, struct osd_device *o)
 796 {
 797         struct lustre_scrub *scrub = &o->od_scrub;
 798         struct scrub_file *sf = &scrub->os_file;
 799         struct osd_oi oi;
 800         char name[16];
 801         int max = sf->sf_oi_count > 0 ? sf->sf_oi_count : OSD_OI_FID_NR_MAX;
 802         int count;
 803         int rc;
 804
 805         ENTRY;
 806         /*
 807          * Check for multiple OIs and determine the count.  There is no
 808          * gap handling, if an OI is missing the wrong size can be returned.
 809          * The only safeguard is that we know the number of OIs must be a
 810          * power of two and this is checked for basic sanity.
 811          */
 812         for (count = 0; count < max; count++) {
 813                 snprintf(name, sizeof(name) - 1, "%s.%d",
 814                          DMU_OSD_OI_NAME_BASE, count);
 815                 rc = osd_oi_lookup(env, o, o->od_root, name, &oi);
 816                 if (!rc)
 817                         continue;
 818
 819                 if (rc == -ENOENT) {
 820                         if (sf->sf_oi_count == 0)
 821                                 RETURN(count);
 822
 823                         zfs_set_bit(count, sf->sf_oi_bitmap);
 824                         continue;
 825                 }
 826
 827                 if (rc)
 828                         RETURN(rc);
 829         }
 830
 831         RETURN(count);
 832 }
 833
 834 static void osd_ost_seq_fini(const struct lu_env *env, struct osd_device *osd)
 835 {
 836         struct osd_seq_list *osl = &osd->od_seq_list;
 837         struct osd_seq *osd_seq, *tmp;
 838
 839         write_lock(&osl->osl_seq_list_lock);
 840         list_for_each_entry_safe(osd_seq, tmp, &osl->osl_seq_list,
 841                                  os_seq_list) {
 842                 list_del(&osd_seq->os_seq_list);
 843                 OBD_FREE_PTR_ARRAY(osd_seq->os_compat_dirs,
 844                                    osd_seq->os_subdir_count);
 845                 OBD_FREE(osd_seq, sizeof(*osd_seq));
 846         }
 847         write_unlock(&osl->osl_seq_list_lock);
 848 }
 849
 850 /**
 851  * Create /O subdirectory to map legacy OST objects for compatibility.
 852  */
 853 static int
 854 osd_oi_init_compat(const struct lu_env *env, struct osd_device *o)
 855 {
 856         uint64_t sdb;
 857         int rc;
 858
 859         ENTRY;
 860         rc = osd_oi_find_or_create(env, o, o->od_root, "O", &sdb);
 861         if (!rc)
 862                 o->od_O_id = sdb;
 863
 864         RETURN(rc);
 865 }
 866
 867 static int
 868 osd_oi_init_index_backup(const struct lu_env *env, struct osd_device *o)
 869 {
 870         struct lu_fid *fid = &osd_oti_get(env)->oti_fid;
 871         int rc;
 872
 873         ENTRY;
 874         lu_local_obj_fid(fid, INDEX_BACKUP_OID);
 875         rc = osd_obj_find_or_create(env, o, o->od_root, INDEX_BACKUP_DIR,
 876                                     &o->od_index_backup_id, fid, true);
 877
 878         RETURN(rc);
 879 }
 880
 881 static void
 882 osd_oi_init_remote_parent(const struct lu_env *env, struct osd_device *o)
 883 {
 884         uint64_t sdb;
 885         int rc;
 886
 887         ENTRY;
 888         if (o->od_is_ost) {
 889                 o->od_remote_parent_dir = ZFS_NO_OBJECT;
 890         } else {
 891                 /* Remote parent only used for cross-MDT objects, it is usless
 892                  * for single MDT case or under read only mode. Ignore failure.
 893                  */
 894                 rc = osd_oi_find_or_create(env, o, o->od_root,
 895                                            REMOTE_PARENT_DIR, &sdb);
 896                 if (!rc)
 897                         o->od_remote_parent_dir = sdb;
 898                 else
 899                         o->od_remote_parent_dir = ZFS_NO_OBJECT;
 900         }
 901 }
 902
 903 /**
 904  * Initialize the OIs by either opening or creating them as needed.
 905  */
 906 int osd_oi_init(const struct lu_env *env, struct osd_device *o, bool reset)
 907 {
 908         struct lustre_scrub *scrub = &o->od_scrub;
 909         struct scrub_file *sf = &scrub->os_file;
 910         char *key = osd_oti_get(env)->oti_buf;
 911         uint64_t sdb;
 912         int i, rc, count;
 913
 914         ENTRY;
 915         LASSERTF((sf->sf_oi_count & (sf->sf_oi_count - 1)) == 0,
 916                  "Invalid OI count in scrub file %d\n", sf->sf_oi_count);
 917
 918         rc = osd_oi_init_index_backup(env, o);
 919         if (rc)
 920                 RETURN(rc);
 921
 922         osd_oi_init_remote_parent(env, o);
 923
 924         rc = osd_oi_init_compat(env, o);
 925         if (rc)
 926                 RETURN(rc);
 927
 928         count = osd_oi_probe(env, o);
 929         if (count < 0)
 930                 GOTO(out, rc = count);
 931
 932         if (count > 0) {
 933                 if (count == sf->sf_oi_count && !reset)
 934                         goto open;
 935
 936                 if (sf->sf_oi_count == 0) {
 937                         if (likely((count & (count - 1)) == 0)) {
 938                                 sf->sf_oi_count = count;
 939                                 rc = scrub_file_store(env, scrub);
 940                                 if (rc)
 941                                         GOTO(out, rc);
 942
 943                                 goto open;
 944                         }
 945
 946                         LCONSOLE_ERROR("%s: invalid oi count %d. You can remove all OIs, then remount it\n",
 947                                        osd_name(o), count);
 948                         GOTO(out, rc = -EDOM);
 949                 }
 950
 951                 scrub_file_reset(scrub, o->od_uuid, SF_RECREATED);
 952                 count = sf->sf_oi_count;
 953         } else {
 954                 if (sf->sf_oi_count > 0) {
 955                         count = sf->sf_oi_count;
 956                         memset(sf->sf_oi_bitmap, 0, SCRUB_OI_BITMAP_SIZE);
 957                         for (i = 0; i < count; i++)
 958                                 zfs_set_bit(i, sf->sf_oi_bitmap);
 959                         scrub_file_reset(scrub, o->od_uuid, SF_RECREATED);
 960                 } else {
 961                         count = sf->sf_oi_count = osd_oi_count;
 962                 }
 963         }
 964
 965         rc = scrub_file_store(env, scrub);
 966         if (rc)
 967                 GOTO(out, rc);
 968
 969         if (reset)
 970                 LCONSOLE_WARN("%s: reset Object Index mappings\n",
 971                               osd_name(o));
 972
 973         for (i = 0; i < count; i++) {
 974                 LASSERT(sizeof(osd_oti_get(env)->oti_buf) >= 32);
 975
 976                 snprintf(key, sizeof(osd_oti_get(env)->oti_buf) - 1,
 977                          "%s.%d", DMU_OSD_OI_NAME_BASE, i);
 978                 if (reset) {
 979                         rc = osd_oi_destroy(env, o, key);
 980                         if (rc)
 981                                 GOTO(out, rc);
 982                 }
 983                 rc = osd_oi_find_or_create(env, o, o->od_root, key, &sdb);
 984                 if (rc)
 985                         GOTO(out, rc);
 986         }
 987
 988 open:
 989         LASSERT((count & (count - 1)) == 0);
 990         o->od_oi_count = count;
 991         OBD_ALLOC_PTR_ARRAY(o->od_oi_table, count);
 992         if (o->od_oi_table == NULL)
 993                 GOTO(out, rc = -ENOMEM);
 994
 995         rc = osd_oi_open_table(env, o, count);
 996
 997         GOTO(out, rc);
 998
 999 out:
1000         if (rc) {
1001                 osd_ost_seq_fini(env, o);
1002
1003                 if (o->od_oi_table) {
1004                         OBD_FREE_PTR_ARRAY(o->od_oi_table, count);
1005                         o->od_oi_table = NULL;
1006                 }
1007         }
1008
1009         return rc;
1010 }
1011
1012 void osd_oi_fini(const struct lu_env *env, struct osd_device *o)
1013 {
1014         ENTRY;
1015
1016         osd_ost_seq_fini(env, o);
1017
1018         if (o->od_oi_table != NULL) {
1019                 (void) osd_oi_close_table(env, o);
1020                 OBD_FREE_PTR_ARRAY(o->od_oi_table, o->od_oi_count);
1021                 o->od_oi_table = NULL;
1022                 o->od_oi_count = 0;
1023         }
1024
1025         EXIT;
1026 }
1027
1028 int osd_options_init(void)
1029 {
1030         /* osd_oi_count - Default number of OIs, 128 works well for ZFS */
1031         if (osd_oi_count == 0 || osd_oi_count > OSD_OI_FID_NR_MAX)
1032                 osd_oi_count = OSD_OI_FID_NR;
1033
1034         if ((osd_oi_count & (osd_oi_count - 1)) != 0) {
1035                 LCONSOLE_WARN("Round up osd_oi_count %d to power2 %d\n",
1036                         osd_oi_count, size_roundup_power2(osd_oi_count));
1037                 osd_oi_count = size_roundup_power2(osd_oi_count);
1038         }
1039
1040         return 0;
1041 }
1042
1043 /*
1044  * the following set of functions are used to maintain per-thread
1045  * cache of FID->ino mapping. this mechanism is used to avoid
1046  * expensive LU/OI lookups.
1047  */
1048 struct osd_idmap_cache *osd_idc_find(const struct lu_env *env,
1049                                      struct osd_device *osd,
1050                                      const struct lu_fid *fid)
1051 {
1052         struct osd_thread_info *oti = osd_oti_get(env);
1053         struct osd_idmap_cache *idc = oti->oti_ins_cache;
1054         int i;
1055
1056         for (i = 0; i < oti->oti_ins_cache_used; i++) {
1057                 if (!lu_fid_eq(&idc[i].oic_fid, fid))
1058                         continue;
1059                 if (idc[i].oic_dev != osd)
1060                         continue;
1061
1062                 return idc + i;
1063         }
1064
1065         return NULL;
1066 }
1067
1068 static struct osd_idmap_cache *osd_idc_add(const struct lu_env *env,
1069                                            struct osd_device *osd,
1070                                            const struct lu_fid *fid)
1071 {
1072         struct osd_thread_info *oti = osd_oti_get(env);
1073         struct osd_idmap_cache *idc;
1074         int i;
1075
1076         if (unlikely(oti->oti_ins_cache_used >= oti->oti_ins_cache_size)) {
1077                 i = oti->oti_ins_cache_size * 2;
1078                 if (i == 0)
1079                         i = OSD_INS_CACHE_SIZE;
1080                 OBD_ALLOC_PTR_ARRAY_LARGE(idc, i);
1081                 if (idc == NULL)
1082                         return ERR_PTR(-ENOMEM);
1083                 if (oti->oti_ins_cache != NULL) {
1084                         memcpy(idc, oti->oti_ins_cache,
1085                                oti->oti_ins_cache_used * sizeof(*idc));
1086                         OBD_FREE_PTR_ARRAY_LARGE(oti->oti_ins_cache,
1087                                                  oti->oti_ins_cache_used);
1088                 }
1089                 oti->oti_ins_cache = idc;
1090                 oti->oti_ins_cache_size = i;
1091         }
1092
1093         idc = &oti->oti_ins_cache[oti->oti_ins_cache_used++];
1094         idc->oic_fid = *fid;
1095         idc->oic_dev = osd;
1096         idc->oic_dnode = 0;
1097         idc->oic_remote = 0;
1098
1099         return idc;
1100 }
1101
1102 /**
1103  * Lookup mapping for the given fid in the cache
1104  *
1105  * Initialize a new one if not found. the initialization checks whether
1106  * the object is local or remote. for the local objects, OI is used to
1107  * learn dnode#. the function is used when the caller has no information
1108  * about the object, e.g. at dt_insert().
1109  */
1110 struct osd_idmap_cache *osd_idc_find_or_init(const struct lu_env *env,
1111                                              struct osd_device *osd,
1112                                              const struct lu_fid *fid)
1113 {
1114         struct osd_idmap_cache *idc;
1115         int rc;
1116
1117         LASSERT(!fid_is_acct(fid));
1118
1119         idc = osd_idc_find(env, osd, fid);
1120         if (idc != NULL)
1121                 return idc;
1122
1123         CDEBUG(D_INODE, "%s: FID "DFID" not in the id map cache\n",
1124                osd->od_svname, PFID(fid));
1125
1126         /* new mapping is needed */
1127         idc = osd_idc_add(env, osd, fid);
1128         if (IS_ERR(idc)) {
1129                 CERROR("%s: FID "DFID" add id map cache failed: %ld\n",
1130                        osd->od_svname, PFID(fid), PTR_ERR(idc));
1131                 return idc;
1132         }
1133
1134         /* initialize it */
1135         rc = osd_remote_fid(env, osd, fid);
1136         if (unlikely(rc < 0))
1137                 return ERR_PTR(rc);
1138
1139         if (rc == 0) {
1140                 /* the object is local, lookup in OI */
1141                 uint64_t dnode;
1142
1143                 rc = osd_fid_lookup(env, osd, fid, &dnode);
1144                 if (unlikely(rc < 0)) {
1145                         CERROR("%s: can't lookup: rc = %d\n",
1146                                osd->od_svname, rc);
1147                         return ERR_PTR(rc);
1148                 }
1149                 LASSERT(dnode < (1ULL << DN_MAX_OBJECT_SHIFT));
1150                 idc->oic_dnode = dnode;
1151         } else {
1152                 /* the object is remote */
1153                 idc->oic_remote = 1;
1154         }
1155
1156         return idc;
1157 }
1158
1159 /*
1160  * lookup mapping for given FID and fill it from the given object.
1161  * the object is local by definition.
1162  */
1163 int osd_idc_find_and_init(const struct lu_env *env, struct osd_device *osd,
1164                           struct osd_object *obj)
1165 {
1166         const struct lu_fid *fid = lu_object_fid(&obj->oo_dt.do_lu);
1167         struct osd_idmap_cache *idc;
1168
1169         idc = osd_idc_find(env, osd, fid);
1170         if (idc != NULL) {
1171                 if (obj->oo_dn == NULL)
1172                         return 0;
1173                 idc->oic_dnode = obj->oo_dn->dn_object;
1174                 return 0;
1175         }
1176
1177         CDEBUG(D_INODE, "%s: FID "DFID" not in the id map cache\n",
1178                osd->od_svname, PFID(fid));
1179
1180         /* new mapping is needed */
1181         idc = osd_idc_add(env, osd, fid);
1182         if (IS_ERR(idc)) {
1183                 CERROR("%s: FID "DFID" add id map cache failed: %ld\n",
1184                        osd->od_svname, PFID(fid), PTR_ERR(idc));
1185                 return PTR_ERR(idc);
1186         }
1187
1188         if (obj->oo_dn)
1189                 idc->oic_dnode = obj->oo_dn->dn_object;
1190
1191         return 0;
1192 }
1193
1194 int osd_idc_find_and_init_with_oid(const struct lu_env *env,
1195                                    struct osd_device *osd,
1196                                    const struct lu_fid *fid,
1197                                    uint64_t oid)
1198 {
1199         struct osd_idmap_cache *idc;
1200
1201         idc = osd_idc_find(env, osd, fid);
1202         if (!idc) {
1203                 idc = osd_idc_add(env, osd, fid);
1204                 if (IS_ERR(idc))
1205                         return PTR_ERR(idc);
1206         }
1207
1208         idc->oic_dnode = oid;
1209         idc->oic_remote = 0;
1210
1211         return 0;
1212 }