Whamcloud - gitweb
LU-7579 osd: move ORPHAN/DEAD flag to OSD
[fs/lustre-release.git] / lustre / osd-zfs / osd_handler.c
index e13909c..4f78957 100644 (file)
@@ -27,7 +27,7 @@
  * Copyright (c) 2009, 2010, Oracle and/or its affiliates. All rights reserved.
  * Use is subject to license terms.
  *
- * Copyright (c) 2012, 2014, Intel Corporation.
+ * Copyright (c) 2012, 2015, Intel Corporation.
  */
 /*
  * This file is part of Lustre, http://www.lustre.org/
@@ -173,10 +173,15 @@ static void osd_trans_commit_cb(void *cb_data, int error)
 
 static int osd_trans_cb_add(struct thandle *th, struct dt_txn_commit_cb *dcb)
 {
-       struct osd_thandle *oh;
+       struct osd_thandle *oh = container_of0(th, struct osd_thandle,
+                                              ot_super);
 
-       oh = container_of0(th, struct osd_thandle, ot_super);
-       list_add(&dcb->dcb_linkage, &oh->ot_dcb_list);
+       LASSERT(dcb->dcb_magic == TRANS_COMMIT_CB_MAGIC);
+       LASSERT(&dcb->dcb_func != NULL);
+       if (dcb->dcb_flags & DCB_TRANS_STOP)
+               list_add(&dcb->dcb_linkage, &oh->ot_stop_dcb_list);
+       else
+               list_add(&dcb->dcb_linkage, &oh->ot_dcb_list);
 
        return 0;
 }
@@ -227,6 +232,42 @@ static int osd_trans_start(const struct lu_env *env, struct dt_device *d,
        RETURN(rc);
 }
 
+static int osd_unlinked_object_free(struct osd_device *osd, uint64_t oid);
+
+static void osd_unlinked_list_emptify(struct osd_device *osd,
+                                     struct list_head *list, bool free)
+{
+       struct osd_object *obj;
+       uint64_t           oid;
+
+       while (!list_empty(list)) {
+               obj = list_entry(list->next,
+                                struct osd_object, oo_unlinked_linkage);
+               LASSERT(obj->oo_db != NULL);
+               oid = obj->oo_db->db_object;
+
+               list_del_init(&obj->oo_unlinked_linkage);
+               if (free)
+                       (void)osd_unlinked_object_free(osd, oid);
+       }
+}
+
+static void osd_trans_stop_cb(struct osd_thandle *oth, int result)
+{
+       struct dt_txn_commit_cb *dcb;
+       struct dt_txn_commit_cb *tmp;
+
+       /* call per-transaction stop callbacks if any */
+       list_for_each_entry_safe(dcb, tmp, &oth->ot_stop_dcb_list,
+                                dcb_linkage) {
+               LASSERTF(dcb->dcb_magic == TRANS_COMMIT_CB_MAGIC,
+                        "commit callback entry: magic=%x name='%s'\n",
+                        dcb->dcb_magic, dcb->dcb_name);
+               list_del_init(&dcb->dcb_linkage);
+               dcb->dcb_func(NULL, &oth->ot_super, dcb, result);
+       }
+}
+
 /*
  * Concurrency: shouldn't matter.
  */
@@ -234,17 +275,22 @@ static int osd_trans_stop(const struct lu_env *env, struct dt_device *dt,
                          struct thandle *th)
 {
        struct osd_device       *osd = osd_dt_dev(th->th_dev);
+       bool                     sync = (th->th_sync != 0);
        struct osd_thandle      *oh;
+       struct list_head         unlinked;
        uint64_t                 txg;
        int                      rc;
        ENTRY;
 
        oh = container_of0(th, struct osd_thandle, ot_super);
+       INIT_LIST_HEAD(&unlinked);
+       list_splice_init(&oh->ot_unlinked_list, &unlinked);
 
        if (oh->ot_assigned == 0) {
                LASSERT(oh->ot_tx);
                dmu_tx_abort(oh->ot_tx);
                osd_object_sa_dirty_rele(oh);
+               osd_unlinked_list_emptify(osd, &unlinked, false);
                /* there won't be any commit, release reserved quota space now,
                 * if any */
                qsd_op_end(env, osd->od_quota_slave, &oh->ot_quota_trans);
@@ -267,13 +313,19 @@ static int osd_trans_stop(const struct lu_env *env, struct dt_device *dt,
                CDEBUG(D_OTHER, "%s: transaction hook failed: rc = %d\n",
                       osd->od_svname, rc);
 
+       osd_trans_stop_cb(oh, rc);
+
        LASSERT(oh->ot_tx);
        txg = oh->ot_tx->tx_txg;
 
        osd_object_sa_dirty_rele(oh);
+       /* XXX: Once dmu_tx_commit() called, oh/th could have been freed
+        * by osd_trans_commit_cb already. */
        dmu_tx_commit(oh->ot_tx);
 
-       if (th->th_sync)
+       osd_unlinked_list_emptify(osd, &unlinked, true);
+
+       if (sync)
                txg_wait_synced(dmu_objset_pool(osd->od_os), txg);
 
        RETURN(rc);
@@ -301,6 +353,8 @@ static struct thandle *osd_trans_create(const struct lu_env *env,
 
        oh->ot_tx = tx;
        INIT_LIST_HEAD(&oh->ot_dcb_list);
+       INIT_LIST_HEAD(&oh->ot_stop_dcb_list);
+       INIT_LIST_HEAD(&oh->ot_unlinked_list);
        INIT_LIST_HEAD(&oh->ot_sa_list);
        sema_init(&oh->ot_sa_lock, 1);
        memset(&oh->ot_quota_trans, 0, sizeof(oh->ot_quota_trans));
@@ -387,6 +441,11 @@ static int osd_objset_statfs(struct osd_device *osd, struct obd_statfs *osfs)
 
        dmu_objset_space(os, &refdbytes, &availbytes, &usedobjs, &availobjs);
 
+       memset(osfs, 0, sizeof(*osfs));
+
+       /* We're a zfs filesystem. */
+       osfs->os_type = UBERBLOCK_MAGIC;
+
        /*
         * ZFS allows multiple block sizes.  For statfs, Linux makes no
         * proper distinction between bsize and frsize.  For calculations
@@ -411,7 +470,7 @@ static int osd_objset_statfs(struct osd_device *osd, struct obd_statfs *osfs)
         * Rather than report this via os_bavail (which makes users unhappy if
         * they can't fill the filesystem 100%), reduce os_blocks as well.
         *
-        * Reserve 0.78% of total space, at least 4MB for small filesystems,
+        * Reserve 0.78% of total space, at least 16MB for small filesystems,
         * for internal files to be created/unlinked when space is tight.
         */
        CLASSERT(OSD_STATFS_RESERVED_SIZE > 0);
@@ -440,18 +499,13 @@ static int osd_objset_statfs(struct osd_device *osd, struct obd_statfs *osfs)
        /* ZFS XXX: fill in backing dataset FSID/UUID
           memcpy(osfs->os_fsid, .... );*/
 
-       /* We're a zfs filesystem. */
-       osfs->os_type = UBERBLOCK_MAGIC;
-
-       /* ZFS XXX: fill in appropriate OS_STATE_{DEGRADED,READONLY} flags
-          osfs->os_state = vf_to_stf(vfsp->vfs_flag);
-          if (sb->s_flags & MS_RDONLY)
-          osfs->os_state = OS_STATE_READONLY;
-        */
-
        osfs->os_namelen = MAXNAMELEN;
        osfs->os_maxbytes = OBD_OBJECT_EOF;
 
+       if (!spa_writeable(dmu_objset_spa(os)) ||
+           osd->od_dev_set_rdonly || osd->od_prop_rdonly)
+               osfs->os_state |= OS_STATE_READONLY;
+
        return 0;
 }
 
@@ -575,7 +629,7 @@ static int osd_ro(const struct lu_env *env, struct dt_device *d)
 
        CERROR("%s: *** setting device %s read-only ***\n",
               osd->od_svname, LUSTRE_OSD_ZFS_NAME);
-       osd->od_rdonly = 1;
+       osd->od_dev_set_rdonly = 1;
        spa_freeze(dmu_objset_spa(osd->od_os));
 
        RETURN(0);
@@ -687,6 +741,13 @@ static void osd_recordsize_changed_cb(void *arg, uint64_t newval)
        osd->od_max_blksz = newval;
 }
 
+static void osd_readonly_changed_cb(void *arg, uint64_t newval)
+{
+       struct osd_device *osd = arg;
+
+       osd->od_prop_rdonly = !!newval;
+}
+
 /*
  * This function unregisters all registered callbacks.  It's harmless to
  * unregister callbacks that were never registered so it is used to safely
@@ -700,6 +761,8 @@ static void osd_objset_unregister_callbacks(struct osd_device *o)
                                   osd_xattr_changed_cb, o);
        (void) dsl_prop_unregister(ds, zfs_prop_to_name(ZFS_PROP_RECORDSIZE),
                                   osd_recordsize_changed_cb, o);
+       (void) dsl_prop_unregister(ds, zfs_prop_to_name(ZFS_PROP_READONLY),
+                                  osd_readonly_changed_cb, o);
 
        if (o->arc_prune_cb != NULL) {
                arc_remove_prune_callback(o->arc_prune_cb);
@@ -731,6 +794,11 @@ static int osd_objset_register_callbacks(struct osd_device *o)
        if (rc)
                GOTO(err, rc);
 
+       rc = -dsl_prop_register(ds, zfs_prop_to_name(ZFS_PROP_READONLY),
+                               osd_readonly_changed_cb, o);
+       if (rc)
+               GOTO(err, rc);
+
        o->arc_prune_cb = arc_add_prune_callback(arc_prune_func, o);
 err:
        dsl_pool_config_exit(dp, FTAG);
@@ -783,6 +851,14 @@ static int osd_objset_open(struct osd_device *o)
                GOTO(out, rc);
        }
 
+       rc = -zap_lookup(o->od_os, MASTER_NODE_OBJ, ZFS_UNLINKED_SET,
+                        8, 1, &o->od_unlinkedid);
+       if (rc) {
+               CERROR("%s: lookup for %s failed: rc = %d\n",
+                      o->od_svname, ZFS_UNLINKED_SET, rc);
+               GOTO(out, rc);
+       }
+
        /* Check that user/group usage tracking is supported */
        if (!dmu_objset_userused_enabled(o->od_os) ||
            DMU_USERUSED_DNODE(o->od_os)->dn_type != DMU_OT_USERGROUP_USED ||
@@ -793,12 +869,81 @@ static int osd_objset_open(struct osd_device *o)
        }
 
 out:
-       if (rc != 0 && o->od_os != NULL)
+       if (rc != 0 && o->od_os != NULL) {
                dmu_objset_disown(o->od_os, o);
+               o->od_os = NULL;
+       }
 
        RETURN(rc);
 }
 
+static int
+osd_unlinked_object_free(struct osd_device *osd, uint64_t oid)
+{
+       int       rc;
+       dmu_tx_t *tx;
+
+       rc = -dmu_free_long_range(osd->od_os, oid, 0, DMU_OBJECT_END);
+       if (rc != 0) {
+               CWARN("%s: Cannot truncate "LPU64": rc = %d\n",
+                     osd->od_svname, oid, rc);
+               return rc;
+       }
+
+       tx = dmu_tx_create(osd->od_os);
+       dmu_tx_hold_free(tx, oid, 0, DMU_OBJECT_END);
+       dmu_tx_hold_zap(tx, osd->od_unlinkedid, FALSE, NULL);
+       rc = -dmu_tx_assign(tx, TXG_WAIT);
+       if (rc != 0) {
+               CWARN("%s: Cannot assign tx for "LPU64": rc = %d\n",
+                     osd->od_svname, oid, rc);
+               goto failed;
+       }
+
+       rc = -zap_remove_int(osd->od_os, osd->od_unlinkedid, oid, tx);
+       if (rc != 0) {
+               CWARN("%s: Cannot remove "LPU64" from unlinked set: rc = %d\n",
+                     osd->od_svname, oid, rc);
+               goto failed;
+       }
+
+       rc = -dmu_object_free(osd->od_os, oid, tx);
+       if (rc != 0) {
+               CWARN("%s: Cannot free "LPU64": rc = %d\n",
+                     osd->od_svname, oid, rc);
+               goto failed;
+       }
+       dmu_tx_commit(tx);
+
+       return 0;
+
+failed:
+       LASSERT(rc != 0);
+       dmu_tx_abort(tx);
+
+       return rc;
+}
+
+static void
+osd_unlinked_drain(const struct lu_env *env, struct osd_device *osd)
+{
+       zap_cursor_t     zc;
+       zap_attribute_t *za = &osd_oti_get(env)->oti_za;
+
+       zap_cursor_init(&zc, osd->od_os, osd->od_unlinkedid);
+
+       while (zap_cursor_retrieve(&zc, za) == 0) {
+               /* If cannot free the object, leave it in the unlinked set,
+                * until the OSD is mounted again when obd_unlinked_drain()
+                * will be called. */
+               if (osd_unlinked_object_free(osd, za->za_first_integer) != 0)
+                       break;
+               zap_cursor_advance(&zc);
+       }
+
+       zap_cursor_fini(&zc);
+}
+
 static int osd_mount(const struct lu_env *env,
                     struct osd_device *o, struct lustre_cfg *cfg)
 {
@@ -858,10 +1003,6 @@ static int osd_mount(const struct lu_env *env,
        if (rc)
                GOTO(err, rc);
 
-       rc = osd_convert_root_to_new_seq(env, o);
-       if (rc)
-               GOTO(err, rc);
-
        /* Use our own ZAP for inode accounting by default, this can be changed
         * via procfs to estimate the inode usage from the block usage */
        o->od_quota_iused_est = 0;
@@ -884,6 +1025,7 @@ static int osd_mount(const struct lu_env *env,
        if (opts == NULL || strstr(opts, "noacl") == NULL)
                o->od_posix_acl = 1;
 
+       osd_unlinked_drain(env, o);
 err:
        if (rc) {
                dmu_objset_disown(o->od_os, o);
@@ -1226,7 +1368,7 @@ static struct obd_ops osd_obd_device_ops = {
        .o_fid_alloc    = osd_fid_alloc
 };
 
-int __init osd_init(void)
+static int __init osd_init(void)
 {
        int rc;
 
@@ -1245,7 +1387,7 @@ int __init osd_init(void)
        return rc;
 }
 
-void __exit osd_exit(void)
+static void __exit osd_exit(void)
 {
        class_unregister_type(LUSTRE_OSD_ZFS_NAME);
        lu_kmem_fini(osd_caches);
@@ -1256,7 +1398,7 @@ CFS_MODULE_PARM(osd_oi_count, "i", int, 0444,
                "Number of Object Index containers to be created, "
                "it's only valid for new filesystem.");
 
-MODULE_AUTHOR("Sun Microsystems, Inc. <http://www.lustre.org/>");
+MODULE_AUTHOR("OpenSFS, Inc. <http://www.lustre.org/>");
 MODULE_DESCRIPTION("Lustre Object Storage Device ("LUSTRE_OSD_ZFS_NAME")");
 MODULE_VERSION(LUSTRE_VERSION_STRING);
 MODULE_LICENSE("GPL");