lustre/quota/qmt_entry.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful, but
  11  * WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  13  * General Public License version 2 for more details (a copy is included
  14  * in the LICENSE file that accompanied this code).
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * version 2 along with this program; if not, write to the
  18  * Free Software Foundation, Inc., 59 Temple Place - Suite 330,
  19  * Boston, MA 021110-1307, USA
  20  *
  21  * GPL HEADER END
  22  */
  23 /*
  24  * Copyright (c) 2012, 2016, Intel Corporation.
  25  * Use is subject to license terms.
  26  *
  27  * Author: Johann Lombardi <johann.lombardi@intel.com>
  28  * Author: Niu    Yawei    <yawei.niu@intel.com>
  29  */
  30
  31 #define DEBUG_SUBSYSTEM S_LQUOTA
  32
  33 #include "qmt_internal.h"
  34
  35 /*
  36  * Initialize qmt-specific fields of quota entry.
  37  *
  38  * \param lqe - is the quota entry to initialize
  39  * \param arg - is the pointer to the qmt_pool_info structure
  40  */
  41 static void qmt_lqe_init(struct lquota_entry *lqe, void *arg)
  42 {
  43         LASSERT(lqe_is_master(lqe));
  44
  45         lqe->lqe_revoke_time = 0;
  46         init_rwsem(&lqe->lqe_sem);
  47 }
  48
  49 /* Apply the default quota setting to the specified quota entry
  50  *
  51  * \param env           - is the environment passed by the caller
  52  * \param pool          - is the quota pool of the quota entry
  53  * \param lqe           - is the lquota_entry object to apply default quota on
  54  * \param create_record - if true, an global quota record will be created and
  55  *                        write to the disk.
  56  *
  57  * \retval 0            : success
  58  * \retval -ve          : other appropriate errors
  59  */
  60 int qmt_lqe_set_default(const struct lu_env *env, struct qmt_pool_info *pool,
  61                         struct lquota_entry *lqe, bool create_record)
  62 {
  63         struct lquota_entry     *lqe_def;
  64         int                     rc = 0;
  65
  66         ENTRY;
  67
  68         if (lqe->lqe_id.qid_uid == 0)
  69                 RETURN(0);
  70
  71         lqe_def = pool->qpi_grace_lqe[lqe->lqe_site->lqs_qtype];
  72
  73         LQUOTA_DEBUG(lqe, "inherit default quota");
  74
  75         lqe->lqe_is_default = true;
  76         lqe->lqe_hardlimit = lqe_def->lqe_hardlimit;
  77         lqe->lqe_softlimit = lqe_def->lqe_softlimit;
  78
  79         if (create_record) {
  80                 lqe->lqe_uptodate = true;
  81                 rc = qmt_set_with_lqe(env, pool->qpi_qmt, lqe, 0, 0,
  82                                       LQUOTA_GRACE_FLAG(0, LQUOTA_FLAG_DEFAULT),
  83                                       QIF_TIMES, true, false);
  84
  85                 if (rc != 0)
  86                         LQUOTA_ERROR(lqe, "failed to create the global quota"
  87                                      " record: %d", rc);
  88         }
  89
  90         if (lqe->lqe_hardlimit == 0 && lqe->lqe_softlimit == 0)
  91                 lqe->lqe_enforced = false;
  92         else
  93                 lqe->lqe_enforced = true;
  94
  95         RETURN(rc);
  96 }
  97
  98 /*
  99  * Update a lquota entry. This is done by reading quota settings from the global
 100  * index. The lquota entry must be write locked.
 101  *
 102  * \param env - the environment passed by the caller
 103  * \param lqe - is the quota entry to refresh
 104  * \param arg - is the pointer to the qmt_pool_info structure
 105  */
 106 static int qmt_lqe_read(const struct lu_env *env, struct lquota_entry *lqe,
 107                         void *arg)
 108 {
 109         struct qmt_thread_info  *qti = qmt_info(env);
 110         struct qmt_pool_info    *pool = (struct qmt_pool_info *)arg;
 111         int                      rc;
 112         ENTRY;
 113
 114         LASSERT(lqe_is_master(lqe));
 115
 116         /* read record from disk */
 117         rc = lquota_disk_read(env, pool->qpi_glb_obj[lqe->lqe_site->lqs_qtype],
 118                               &lqe->lqe_id, (struct dt_rec *)&qti->qti_glb_rec);
 119
 120         switch (rc) {
 121         case -ENOENT:
 122                 qmt_lqe_set_default(env, pool, lqe, true);
 123                 break;
 124         case 0:
 125                 /* copy quota settings from on-disk record */
 126                 lqe->lqe_granted   = qti->qti_glb_rec.qbr_granted;
 127                 lqe->lqe_hardlimit = qti->qti_glb_rec.qbr_hardlimit;
 128                 lqe->lqe_softlimit = qti->qti_glb_rec.qbr_softlimit;
 129                 lqe->lqe_gracetime = LQUOTA_GRACE(qti->qti_glb_rec.qbr_time);
 130
 131                 if (lqe->lqe_hardlimit == 0 && lqe->lqe_softlimit == 0 &&
 132                     (LQUOTA_FLAG(qti->qti_glb_rec.qbr_time) &
 133                      LQUOTA_FLAG_DEFAULT))
 134                         qmt_lqe_set_default(env, pool, lqe, false);
 135                 break;
 136         default:
 137                 LQUOTA_ERROR(lqe, "failed to read quota entry from disk, rc:%d",
 138                              rc);
 139                 RETURN(rc);
 140         }
 141
 142         if (lqe->lqe_id.qid_uid == 0 ||
 143             (lqe->lqe_hardlimit == 0 && lqe->lqe_softlimit == 0))
 144                 /* {hard,soft}limit=0 means no quota enforced */
 145                 lqe->lqe_enforced = false;
 146         else
 147                 lqe->lqe_enforced  = true;
 148
 149         LQUOTA_DEBUG(lqe, "read");
 150         RETURN(0);
 151 }
 152
 153 /*
 154  * Print lqe information for debugging.
 155  *
 156  * \param lqe - is the quota entry to debug
 157  * \param arg - is the pointer to the qmt_pool_info structure
 158  * \param msgdata - debug message
 159  * \param fmt     - format of debug message
 160  */
 161 static void qmt_lqe_debug(struct lquota_entry *lqe, void *arg,
 162                           struct libcfs_debug_msg_data *msgdata,
 163                           struct va_format *vaf)
 164 {
 165         struct qmt_pool_info    *pool = (struct qmt_pool_info *)arg;
 166
 167         libcfs_debug_msg(msgdata,
 168                          "%pV qmt:%s pool:%s-%s id:%llu enforced:%d hard:%llu soft:%llu granted:%llu time:%llu qunit: %llu edquot:%d may_rel:%llu revoke:%lld default:%s\n",
 169                          vaf, pool->qpi_qmt->qmt_svname,
 170                          RES_NAME(pool->qpi_rtype),
 171                          pool->qpi_name,
 172                          lqe->lqe_id.qid_uid, lqe->lqe_enforced,
 173                          lqe->lqe_hardlimit, lqe->lqe_softlimit,
 174                          lqe->lqe_granted, lqe->lqe_gracetime,
 175                          lqe->lqe_qunit, lqe->lqe_edquot, lqe->lqe_may_rel,
 176                          lqe->lqe_revoke_time,
 177                          lqe->lqe_is_default ? "yes" : "no");
 178 }
 179
 180 /*
 181  * Vector of quota entry operations supported on the master
 182  */
 183 struct lquota_entry_operations qmt_lqe_ops = {
 184         .lqe_init       = qmt_lqe_init,
 185         .lqe_read       = qmt_lqe_read,
 186         .lqe_debug      = qmt_lqe_debug,
 187 };
 188
 189 /*
 190  * Reserve enough credits to update records in both the global index and
 191  * the slave index identified by \slv_obj
 192  *
 193  * \param env     - is the environment passed by the caller
 194  * \param lqe     - is the quota entry associated with the identifier
 195  *                  subject to the change
 196  * \param slv_obj - is the dt_object associated with the index file
 197  * \param restore - is a temporary storage for current quota settings which will
 198  *                  be restored if something goes wrong at index update time.
 199  */
 200 struct thandle *qmt_trans_start_with_slv(const struct lu_env *env,
 201                                          struct lquota_entry *lqe,
 202                                          struct dt_object *slv_obj,
 203                                          struct qmt_lqe_restore *restore)
 204 {
 205         struct qmt_device       *qmt;
 206         struct thandle          *th;
 207         int                      rc;
 208         ENTRY;
 209
 210         LASSERT(lqe != NULL);
 211         LASSERT(lqe_is_master(lqe));
 212
 213         qmt = lqe2qpi(lqe)->qpi_qmt;
 214
 215         if (slv_obj != NULL)
 216                 LQUOTA_DEBUG(lqe, "declare write for slv "DFID,
 217                              PFID(lu_object_fid(&slv_obj->do_lu)));
 218
 219         /* start transaction */
 220         th = dt_trans_create(env, qmt->qmt_child);
 221         if (IS_ERR(th))
 222                 RETURN(th);
 223
 224         if (slv_obj == NULL)
 225                 /* quota settings on master are updated synchronously for the
 226                  * time being */
 227                 th->th_sync = 1;
 228
 229         /* reserve credits for global index update */
 230         rc = lquota_disk_declare_write(env, th, LQE_GLB_OBJ(lqe), &lqe->lqe_id);
 231         if (rc)
 232                 GOTO(out, rc);
 233
 234         if (slv_obj != NULL) {
 235                 /* reserve credits for slave index update */
 236                 rc = lquota_disk_declare_write(env, th, slv_obj, &lqe->lqe_id);
 237                 if (rc)
 238                         GOTO(out, rc);
 239         }
 240
 241         /* start transaction */
 242         rc = dt_trans_start_local(env, qmt->qmt_child, th);
 243         if (rc)
 244                 GOTO(out, rc);
 245
 246         EXIT;
 247 out:
 248         if (rc) {
 249                 dt_trans_stop(env, qmt->qmt_child, th);
 250                 th = ERR_PTR(rc);
 251                 LQUOTA_ERROR(lqe, "failed to slv declare write for "DFID
 252                              ", rc:%d", PFID(lu_object_fid(&slv_obj->do_lu)),
 253                              rc);
 254         } else {
 255                 restore->qlr_hardlimit = lqe->lqe_hardlimit;
 256                 restore->qlr_softlimit = lqe->lqe_softlimit;
 257                 restore->qlr_gracetime = lqe->lqe_gracetime;
 258                 restore->qlr_granted   = lqe->lqe_granted;
 259                 restore->qlr_qunit     = lqe->lqe_qunit;
 260         }
 261         return th;
 262 }
 263
 264 /*
 265  * Reserve enough credits to update a record in the global index
 266  *
 267  * \param env     - is the environment passed by the caller
 268  * \param lqe     - is the quota entry to be modified in the global index
 269  * \param restore - is a temporary storage for current quota settings which will
 270  *                  be restored if something goes wrong at index update time.
 271  */
 272 struct thandle *qmt_trans_start(const struct lu_env *env,
 273                                 struct lquota_entry *lqe,
 274                                 struct qmt_lqe_restore *restore)
 275 {
 276         LQUOTA_DEBUG(lqe, "declare write");
 277         return qmt_trans_start_with_slv(env, lqe, NULL, restore);
 278 }
 279
 280 /*
 281  * Update record associated with a quota entry in the global index.
 282  * If LQUOTA_BUMP_VER is set, then the global index version must also be
 283  * bumped.
 284  * The entry must be at least read locked, dirty and up-to-date.
 285  *
 286  * \param env   - the environment passed by the caller
 287  * \param th    - is the transaction handle to be used for the disk writes
 288  * \param lqe   - is the quota entry to udpate
 289  * \param obj   - is the dt_object associated with the index file
 290  * \param flags - can be LQUOTA_BUMP_VER or LQUOTA_SET_VER.
 291  * \param ver   - is used to return the new version of the index.
 292  *
 293  * \retval      - 0 on success and lqe dirty flag cleared,
 294  *                appropriate error on failure and uptodate flag cleared.
 295  */
 296 int qmt_glb_write(const struct lu_env *env, struct thandle *th,
 297                   struct lquota_entry *lqe, __u32 flags, __u64 *ver)
 298 {
 299         struct qmt_thread_info  *qti = qmt_info(env);
 300         struct lquota_glb_rec   *rec;
 301         int                      rc;
 302         ENTRY;
 303
 304         LASSERT(lqe != NULL);
 305         LASSERT(lqe_is_master(lqe));
 306         LASSERT(lqe_is_locked(lqe));
 307         LASSERT(lqe->lqe_uptodate);
 308         LASSERT((flags & ~(LQUOTA_BUMP_VER | LQUOTA_SET_VER)) == 0);
 309
 310         LQUOTA_DEBUG(lqe, "write glb");
 311
 312         /* never delete the entry even when the id isn't enforced and
 313          * no any guota granted, otherwise, this entry will not be
 314          * synced to slave during the reintegration. */
 315         rec = &qti->qti_glb_rec;
 316
 317         /* fill global index with updated quota settings */
 318         rec->qbr_granted   = lqe->lqe_granted;
 319         if (lqe->lqe_is_default) {
 320                 rec->qbr_hardlimit = 0;
 321                 rec->qbr_softlimit = 0;
 322                 rec->qbr_time      = LQUOTA_GRACE_FLAG(0, LQUOTA_FLAG_DEFAULT);
 323         } else {
 324                 rec->qbr_hardlimit = lqe->lqe_hardlimit;
 325                 rec->qbr_softlimit = lqe->lqe_softlimit;
 326                 rec->qbr_time      = lqe->lqe_gracetime;
 327         }
 328
 329         /* write new quota settings */
 330         rc = lquota_disk_write(env, th, LQE_GLB_OBJ(lqe), &lqe->lqe_id,
 331                                (struct dt_rec *)rec, flags, ver);
 332         if (rc)
 333                 /* we failed to write the new quota settings to disk, report
 334                  * error to caller who will restore the initial value */
 335                 LQUOTA_ERROR(lqe, "failed to update global index, rc:%d", rc);
 336
 337         RETURN(rc);
 338 }
 339
 340 /*
 341  * Read from disk how much quota space is allocated to a slave.
 342  * This is done by reading records from the dedicated slave index file.
 343  * Return in \granted how much quota space is currently allocated to the
 344  * slave.
 345  * The entry must be at least read locked.
 346  *
 347  * \param env - the environment passed by the caller
 348  * \param lqe - is the quota entry associated with the identifier to look-up
 349  *              in the slave index
 350  * \param slv_obj - is the dt_object associated with the slave index
 351  * \param granted - is the output parameter where to return how much space
 352  *                  is granted to the slave.
 353  *
 354  * \retval    - 0 on success, appropriate error on failure
 355  */
 356 int qmt_slv_read(const struct lu_env *env, struct lquota_entry *lqe,
 357                  struct dt_object *slv_obj, __u64 *granted)
 358 {
 359         struct qmt_thread_info  *qti = qmt_info(env);
 360         struct lquota_slv_rec   *slv_rec = &qti->qti_slv_rec;
 361         int                      rc;
 362         ENTRY;
 363
 364         LASSERT(lqe != NULL);
 365         LASSERT(lqe_is_master(lqe));
 366         LASSERT(lqe_is_locked(lqe));
 367
 368         LQUOTA_DEBUG(lqe, "read slv "DFID,
 369                      PFID(lu_object_fid(&slv_obj->do_lu)));
 370
 371         /* read slave record from disk */
 372         rc = lquota_disk_read(env, slv_obj, &lqe->lqe_id,
 373                               (struct dt_rec *)slv_rec);
 374         switch (rc) {
 375         case -ENOENT:
 376                 *granted = 0;
 377                 break;
 378         case 0:
 379                 /* extract granted from on-disk record */
 380                 *granted = slv_rec->qsr_granted;
 381                 break;
 382         default:
 383                 LQUOTA_ERROR(lqe, "failed to read slave record "DFID,
 384                              PFID(lu_object_fid(&slv_obj->do_lu)));
 385                 RETURN(rc);
 386         }
 387
 388         LQUOTA_DEBUG(lqe, "successful slv read %llu", *granted);
 389
 390         RETURN(0);
 391 }
 392
 393 /*
 394  * Update record in slave index file.
 395  * The entry must be at least read locked.
 396  *
 397  * \param env - the environment passed by the caller
 398  * \param th  - is the transaction handle to be used for the disk writes
 399  * \param lqe - is the dirty quota entry which will be updated at the same time
 400  *              as the slave index
 401  * \param slv_obj - is the dt_object associated with the slave index
 402  * \param flags - can be LQUOTA_BUMP_VER or LQUOTA_SET_VER.
 403  * \param ver   - is used to return the new version of the index.
 404  * \param granted - is the new amount of quota space owned by the slave
 405  *
 406  * \retval    - 0 on success, appropriate error on failure
 407  */
 408 int qmt_slv_write(const struct lu_env *env, struct thandle *th,
 409                   struct lquota_entry *lqe, struct dt_object *slv_obj,
 410                   __u32 flags, __u64 *ver, __u64 granted)
 411 {
 412         struct qmt_thread_info  *qti = qmt_info(env);
 413         struct lquota_slv_rec   *rec;
 414         int                      rc;
 415         ENTRY;
 416
 417         LASSERT(lqe != NULL);
 418         LASSERT(lqe_is_master(lqe));
 419         LASSERT(lqe_is_locked(lqe));
 420
 421         LQUOTA_DEBUG(lqe, "write slv "DFID" granted:%llu",
 422                      PFID(lu_object_fid(&slv_obj->do_lu)), granted);
 423
 424         /* never delete the entry, otherwise, it'll not be transferred
 425          * to slave during reintegration. */
 426         rec = &qti->qti_slv_rec;
 427
 428         /* updated space granted to this slave */
 429         rec->qsr_granted = granted;
 430
 431         /* write new granted space */
 432         rc = lquota_disk_write(env, th, slv_obj, &lqe->lqe_id,
 433                                (struct dt_rec *)rec, flags, ver);
 434         if (rc) {
 435                 LQUOTA_ERROR(lqe,
 436                              "failed to update slave index "DFID" granted:%llu",
 437                              PFID(lu_object_fid(&slv_obj->do_lu)),
 438                              granted);
 439                 RETURN(rc);
 440         }
 441
 442         RETURN(0);
 443 }
 444
 445 /*
 446  * Check whether new limits are valid for this pool
 447  *
 448  * \param lqe  - is the quota entry subject to the setquota
 449  * \param hard - is the new hard limit
 450  * \param soft - is the new soft limit
 451  */
 452 int qmt_validate_limits(struct lquota_entry *lqe, __u64 hard, __u64 soft)
 453 {
 454         ENTRY;
 455
 456         if (hard != 0 && soft > hard)
 457                 /* soft limit must be less than hard limit */
 458                 RETURN(-EINVAL);
 459         RETURN(0);
 460 }
 461
 462 /*
 463  * Set/clear edquot flag after quota space allocation/release or settings
 464  * change. Slaves will be notified of changes via glimpse on per-ID lock
 465  *
 466  * \param lqe - is the quota entry to check
 467  * \param now - is the current time in second used for grace time managment
 468  */
 469 void qmt_adjust_edquot(struct lquota_entry *lqe, __u64 now)
 470 {
 471         struct qmt_pool_info    *pool = lqe2qpi(lqe);
 472         ENTRY;
 473
 474         if (!lqe->lqe_enforced || lqe->lqe_id.qid_uid == 0)
 475                 RETURN_EXIT;
 476
 477         if (!lqe->lqe_edquot) {
 478                 /* space exhausted flag not set, let's check whether it is time
 479                  * to set the flag */
 480
 481                 if (!qmt_space_exhausted(lqe, now))
 482                         /* the qmt still has available space */
 483                         RETURN_EXIT;
 484
 485                 /* See comment in qmt_adjust_qunit(). LU-4139 */
 486                 if (qmt_hard_exhausted(lqe) ||
 487                     pool->qpi_rtype != LQUOTA_RES_DT) {
 488                         time64_t lapse;
 489
 490                         /* we haven't reached the minimal qunit yet so there is
 491                          * still hope that the rebalancing process might free
 492                          * up some quota space */
 493                         if (lqe->lqe_qunit != pool->qpi_least_qunit)
 494                                 RETURN_EXIT;
 495
 496                         /* least qunit value not sent to all slaves yet */
 497                         if (lqe->lqe_revoke_time == 0)
 498                                 RETURN_EXIT;
 499
 500                         /* Let's give more time to slave to release space */
 501                         lapse = ktime_get_seconds() - QMT_REBA_TIMEOUT;
 502                         if (lqe->lqe_may_rel != 0 && lqe->lqe_revoke_time > lapse)
 503                                 RETURN_EXIT;
 504                 } else {
 505                         if (lqe->lqe_qunit > pool->qpi_soft_least_qunit)
 506                                 RETURN_EXIT;
 507                 }
 508
 509                 /* set edquot flag */
 510                 lqe->lqe_edquot = true;
 511         } else {
 512                 /* space exhausted flag set, let's check whether it is time to
 513                  * clear it */
 514
 515                 if (qmt_space_exhausted(lqe, now))
 516                         /* the qmt still has not space */
 517                         RETURN_EXIT;
 518
 519                 if (lqe->lqe_hardlimit != 0 &&
 520                     lqe->lqe_granted + pool->qpi_least_qunit >
 521                                                         lqe->lqe_hardlimit)
 522                         /* we clear the flag only once at least one least qunit
 523                          * is available */
 524                         RETURN_EXIT;
 525
 526                 /* clear edquot flag */
 527                 lqe->lqe_edquot = false;
 528         }
 529
 530         LQUOTA_DEBUG(lqe, "changing edquot flag");
 531
 532         /* let's notify slave by issuing glimpse on per-ID lock.
 533          * the rebalance thread will take care of this */
 534         qmt_id_lock_notify(pool->qpi_qmt, lqe);
 535         EXIT;
 536 }
 537
 538 /* Using least_qunit when over block softlimit will seriously impact the
 539  * write performance, we need to do some special tweaking on that. */
 540 static __u64 qmt_calc_softlimit(struct lquota_entry *lqe, bool *oversoft)
 541 {
 542         struct qmt_pool_info *pool = lqe2qpi(lqe);
 543
 544         LASSERT(lqe->lqe_softlimit != 0);
 545         *oversoft = false;
 546         /* No need to do special tweaking for inode limit */
 547         if (pool->qpi_rtype != LQUOTA_RES_DT)
 548                 return lqe->lqe_softlimit;
 549
 550         if (lqe->lqe_granted <= lqe->lqe_softlimit +
 551                                 pool->qpi_soft_least_qunit) {
 552                 return lqe->lqe_softlimit;
 553         } else if (lqe->lqe_hardlimit != 0) {
 554                 *oversoft = true;
 555                 return lqe->lqe_hardlimit;
 556         } else {
 557                 *oversoft = true;
 558                 return 0;
 559         }
 560 }
 561
 562 /*
 563  * Try to grant more quota space back to slave.
 564  *
 565  * \param lqe     - is the quota entry for which we would like to allocate more
 566  *                  space
 567  * \param granted - is how much was already granted as part of the request
 568  *                  processing
 569  * \param spare   - is how much unused quota space the slave already owns
 570  *
 571  * \retval return how additional space can be granted to the slave
 572  */
 573 __u64 qmt_alloc_expand(struct lquota_entry *lqe, __u64 granted, __u64 spare)
 574 {
 575         struct qmt_pool_info    *pool = lqe2qpi(lqe);
 576         __u64                    remaining, qunit;
 577         int                      slv_cnt;
 578
 579         LASSERT(lqe->lqe_enforced && lqe->lqe_qunit != 0);
 580
 581         slv_cnt = lqe2qpi(lqe)->qpi_slv_nr[lqe->lqe_site->lqs_qtype];
 582         qunit   = lqe->lqe_qunit;
 583
 584         /* See comment in qmt_adjust_qunit(). LU-4139. */
 585         if (lqe->lqe_softlimit != 0) {
 586                 bool oversoft;
 587                 remaining = qmt_calc_softlimit(lqe, &oversoft);
 588                 if (remaining == 0)
 589                         remaining = lqe->lqe_granted +
 590                                     pool->qpi_soft_least_qunit;
 591         } else {
 592                 remaining = lqe->lqe_hardlimit;
 593         }
 594
 595         if (lqe->lqe_granted >= remaining)
 596                 RETURN(0);
 597
 598         remaining -= lqe->lqe_granted;
 599
 600         do {
 601                 if (spare >= qunit)
 602                         break;
 603
 604                 granted &= (qunit - 1);
 605
 606                 if (remaining > (slv_cnt * qunit) >> 1) {
 607                         /* enough room to grant more space w/o additional
 608                          * shrinking ... at least for now */
 609                         remaining -= (slv_cnt * qunit) >> 1;
 610                 } else if (qunit != pool->qpi_least_qunit) {
 611                         qunit >>= 2;
 612                         continue;
 613                 }
 614
 615                 granted &= (qunit - 1);
 616                 if (spare > 0)
 617                         RETURN(min_t(__u64, qunit - spare, remaining));
 618                 else
 619                         RETURN(min_t(__u64, qunit - granted, remaining));
 620         } while (qunit >= pool->qpi_least_qunit);
 621
 622         RETURN(0);
 623 }
 624
 625 /*
 626  * Adjust qunit size according to quota limits and total granted count.
 627  * The caller must have locked the lqe.
 628  *
 629  * \param env - the environment passed by the caller
 630  * \param lqe - is the qid entry to be adjusted
 631  */
 632 void qmt_adjust_qunit(const struct lu_env *env, struct lquota_entry *lqe)
 633 {
 634         struct qmt_pool_info    *pool = lqe2qpi(lqe);
 635         int                      slv_cnt;
 636         __u64                    qunit, limit, qunit2 = 0;
 637         ENTRY;
 638
 639         LASSERT(lqe_is_locked(lqe));
 640
 641         if (!lqe->lqe_enforced || lqe->lqe_id.qid_uid == 0)
 642                 /* no quota limits */
 643                 RETURN_EXIT;
 644
 645         /* record how many slaves have already registered */
 646         slv_cnt = pool->qpi_slv_nr[lqe->lqe_site->lqs_qtype];
 647         if (slv_cnt == 0)
 648                 /* wait for at least one slave to join */
 649                 RETURN_EXIT;
 650
 651         /* Qunit calculation is based on soft limit, if any, hard limit
 652          * otherwise. This means that qunit is shrunk to the minimum when
 653          * beyond the soft limit. This will impact performance, but that's the
 654          * price of an accurate grace time management. */
 655         if (lqe->lqe_softlimit != 0) {
 656                 bool oversoft;
 657                 /* As a compromise of write performance and the grace time
 658                  * accuracy, the block qunit size will be shrunk to
 659                  * qpi_soft_least_qunit when over softlimit. LU-4139. */
 660                 limit = qmt_calc_softlimit(lqe, &oversoft);
 661                 if (oversoft)
 662                         qunit2 = pool->qpi_soft_least_qunit;
 663                 if (limit == 0)
 664                         GOTO(done, qunit = qunit2);
 665         } else if (lqe->lqe_hardlimit != 0) {
 666                 limit = lqe->lqe_hardlimit;
 667         } else {
 668                 LQUOTA_ERROR(lqe, "enforced bit set, but neither hard nor soft "
 669                              "limit are set");
 670                 RETURN_EXIT;
 671         }
 672
 673         qunit = lqe->lqe_qunit == 0 ? pool->qpi_least_qunit : lqe->lqe_qunit;
 674
 675         /* The qunit value is computed as follows: limit / (2 * slv_cnt).
 676          * Then 75% of the quota space can be granted with current qunit value.
 677          * The remaining 25% are then used with reduced qunit size (by a factor
 678          * of 4) which is then divided in a similar manner.
 679          *
 680          * |---------------------limit---------------------|
 681          * |-------limit / 2-------|-limit / 4-|-limit / 4-|
 682          * |qunit|qunit|qunit|qunit|           |           |
 683          * |----slv_cnt * qunit----|           |           |
 684          * |-grow limit-|          |           |           |
 685          * |--------------shrink limit---------|           |
 686          * |---space granted in qunit chunks---|-remaining-|
 687          *                                    /             \
 688          *                                   /               \
 689          *                                  /                 \
 690          *                                 /                   \
 691          *                                /                     \
 692          *     qunit >>= 2;            |qunit*slv_cnt|qunit*slv_cnt|
 693          *                             |---space in qunit---|remain|
 694          *                                  ...                               */
 695         if (qunit == pool->qpi_least_qunit ||
 696             limit >= lqe->lqe_granted + ((slv_cnt * qunit) >> 1)) {
 697                 /* current qunit value still fits, let's see if we can afford to
 698                  * increase qunit now ...
 699                  * To increase qunit again, we have to be under 25% */
 700                 while (qunit && limit >= lqe->lqe_granted + 6 * qunit * slv_cnt)
 701                         qunit <<= 2;
 702
 703                 if (!qunit) {
 704                         qunit = limit;
 705                         do_div(qunit, 2 * slv_cnt);
 706                 }
 707
 708         } else {
 709                 /* shrink qunit until we find a suitable value */
 710                 while (qunit > pool->qpi_least_qunit &&
 711                        limit < lqe->lqe_granted + ((slv_cnt * qunit) >> 1))
 712                         qunit >>= 2;
 713         }
 714
 715         if (qunit2 && qunit > qunit2)
 716                 qunit = qunit2;
 717 done:
 718         if (lqe->lqe_qunit == qunit)
 719                 /* keep current qunit */
 720                 RETURN_EXIT;
 721
 722         LQUOTA_DEBUG(lqe, "%s qunit to %llu",
 723                      lqe->lqe_qunit < qunit ? "increasing" : "decreasing",
 724                      qunit);
 725
 726         /* store new qunit value */
 727         swap(lqe->lqe_qunit, qunit);
 728
 729         /* reset revoke time */
 730         lqe->lqe_revoke_time = 0;
 731
 732         if (lqe->lqe_qunit < qunit)
 733                 /* let's notify slave of qunit shrinking */
 734                 qmt_id_lock_notify(pool->qpi_qmt, lqe);
 735         else if (lqe->lqe_qunit == pool->qpi_least_qunit)
 736                 /* initial qunit value is the smallest one */
 737                 lqe->lqe_revoke_time = ktime_get_seconds();
 738         EXIT;
 739 }
 740
 741 /*
 742  * Adjust qunit & edquot flag in case it wasn't initialized already (e.g.
 743  * limit set while no slaves were connected yet)
 744  */
 745 void qmt_revalidate(const struct lu_env *env, struct lquota_entry *lqe)
 746 {
 747         if (lqe->lqe_qunit == 0) {
 748                 /* lqe was read from disk, but neither qunit, nor edquot flag
 749                  * were initialized */
 750                 qmt_adjust_qunit(env, lqe);
 751                 if (lqe->lqe_qunit != 0)
 752                         qmt_adjust_edquot(lqe, ktime_get_real_seconds());
 753         }
 754 }