lustre/mdt/mdt_hsm_cdt_agent.c

   1 /*
   2  * GPL HEADER START
   3  *
   4  * DO NOT ALTER OR REMOVE COPYRIGHT NOTICES OR THIS FILE HEADER.
   5  *
   6  * This program is free software; you can redistribute it and/or modify
   7  * it under the terms of the GNU General Public License version 2 only,
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful,
  11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  13  * GNU General Public License version 2 for more details.  A copy is
  14  * included in the COPYING file that accompanied this code.
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * along with this program; if not, write to the Free Software
  18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
  19  *
  20  * GPL HEADER END
  21  */
  22 /*
  23  * (C) Copyright 2012 Commissariat a l'energie atomique et aux energies
  24  *
  25  * Copyright (c) 2016, 2017, Intel Corporation.
  26  *     alternatives
  27  *
  28  */
  29 /*
  30  * lustre/mdt/mdt_hsm_cdt_agent.c
  31  *
  32  * Lustre HSM Coordinator
  33  *
  34  * Author: Jacques-Charles Lafoucriere <jacques-charles.lafoucriere@cea.fr>
  35  * Author: Aurelien Degremont <aurelien.degremont@cea.fr>
  36  */
  37
  38 #define DEBUG_SUBSYSTEM S_MDS
  39
  40 #include <obd.h>
  41 #include <obd_support.h>
  42 #include <lustre_export.h>
  43 #include <lprocfs_status.h>
  44 #include <lustre_kernelcomm.h>
  45 #include "mdt_internal.h"
  46
  47 /*
  48  * Agent external API
  49  */
  50
  51 /*
  52  * find a hsm_agent by uuid
  53  * lock cdt_agent_lock needs to be held by caller
  54  * \param cdt [IN] coordinator
  55  * \param uuid [IN] agent UUID
  56  * \retval hsm_agent pointer or NULL if not found
  57  */
  58 static struct hsm_agent *mdt_hsm_agent_lookup(struct coordinator *cdt,
  59                                               const struct obd_uuid *uuid)
  60 {
  61         struct hsm_agent        *ha;
  62
  63         list_for_each_entry(ha, &cdt->cdt_agents, ha_list) {
  64                 if (obd_uuid_equals(&ha->ha_uuid, uuid))
  65                         return ha;
  66         }
  67         return NULL;
  68 }
  69
  70 /**
  71  * register a copy tool
  72  * \param mti [IN] MDT context
  73  * \param uuid [IN] client UUID to be registered
  74  * \param count [IN] number of archives agent serves
  75  * \param archive_id [IN] vector of archive number served by the copytool
  76  * \retval 0 success
  77  * \retval -ve failure
  78  */
  79 int mdt_hsm_agent_register(struct mdt_thread_info *mti,
  80                            const struct obd_uuid *uuid,
  81                            int nr_archives, __u32 *archive_id)
  82 {
  83         struct coordinator      *cdt = &mti->mti_mdt->mdt_coordinator;
  84         struct hsm_agent        *ha, *tmp;
  85         int                      rc;
  86         ENTRY;
  87
  88         /* no coordinator started, so we cannot serve requests */
  89         if (cdt->cdt_state == CDT_STOPPED) {
  90                 LCONSOLE_WARN("HSM coordinator thread is not running - "
  91                               "denying agent registration.\n");
  92                 RETURN(-ENXIO);
  93         }
  94
  95         OBD_ALLOC_PTR(ha);
  96         if (ha == NULL)
  97                 GOTO(out, rc = -ENOMEM);
  98
  99         ha->ha_uuid = *uuid;
 100         ha->ha_archive_cnt = nr_archives;
 101         if (ha->ha_archive_cnt != 0) {
 102                 int sz;
 103
 104                 sz = ha->ha_archive_cnt * sizeof(*ha->ha_archive_id);
 105                 OBD_ALLOC(ha->ha_archive_id, sz);
 106                 if (ha->ha_archive_id == NULL)
 107                         GOTO(out_free, rc = -ENOMEM);
 108                 memcpy(ha->ha_archive_id, archive_id, sz);
 109         }
 110         atomic_set(&ha->ha_requests, 0);
 111         atomic_set(&ha->ha_success, 0);
 112         atomic_set(&ha->ha_failure, 0);
 113
 114         down_write(&cdt->cdt_agent_lock);
 115         tmp = mdt_hsm_agent_lookup(cdt, uuid);
 116         if (tmp != NULL) {
 117                 LCONSOLE_WARN("HSM agent %s already registered\n",
 118                               obd_uuid2str(uuid));
 119                 up_write(&cdt->cdt_agent_lock);
 120                 GOTO(out_free, rc = -EEXIST);
 121         }
 122
 123         list_add_tail(&ha->ha_list, &cdt->cdt_agents);
 124
 125         if (ha->ha_archive_cnt == 0)
 126                 CDEBUG(D_HSM, "agent %s registered for all archives\n",
 127                        obd_uuid2str(&ha->ha_uuid));
 128         else
 129                 CDEBUG(D_HSM, "agent %s registered for %d archives\n",
 130                        obd_uuid2str(&ha->ha_uuid), ha->ha_archive_cnt);
 131
 132         up_write(&cdt->cdt_agent_lock);
 133         GOTO(out, rc = 0);
 134
 135 out_free:
 136
 137         if (ha != NULL && ha->ha_archive_id != NULL)
 138                 OBD_FREE(ha->ha_archive_id,
 139                          ha->ha_archive_cnt * sizeof(*ha->ha_archive_id));
 140         if (ha != NULL)
 141                 OBD_FREE_PTR(ha);
 142 out:
 143         return rc;
 144 }
 145
 146 /**
 147  * register a copy tool
 148  * \param mti [IN] MDT context
 149  * \param uuid [IN] uuid to be registered
 150  * \param archive_mask [IN] bitmask of archive number served by the copytool
 151  * \retval 0 success
 152  * \retval -ve failure
 153  */
 154 int mdt_hsm_agent_register_mask(struct mdt_thread_info *mti,
 155                                 const struct obd_uuid *uuid, __u32 archive_mask)
 156 {
 157         int              rc, i, nr_archives = 0;
 158         __u32           *archive_id = NULL;
 159         ENTRY;
 160
 161         nr_archives = hweight32(archive_mask);
 162
 163         if (nr_archives != 0) {
 164                 OBD_ALLOC(archive_id, nr_archives * sizeof(*archive_id));
 165                 if (!archive_id)
 166                         RETURN(-ENOMEM);
 167
 168                 nr_archives = 0;
 169                 for (i = 0; i < sizeof(archive_mask) * 8; i++) {
 170                         if ((1 << i) & archive_mask) {
 171                                 archive_id[nr_archives] = i + 1;
 172                                 nr_archives++;
 173                         }
 174                 }
 175         }
 176
 177         rc = mdt_hsm_agent_register(mti, uuid, nr_archives, archive_id);
 178
 179         if (archive_id != NULL)
 180                 OBD_FREE(archive_id, nr_archives * sizeof(*archive_id));
 181
 182         RETURN(rc);
 183 }
 184
 185 /**
 186  * unregister a copy tool
 187  * \param mti [IN] MDT context
 188  * \param uuid [IN] uuid to be unregistered
 189  * \retval 0 success
 190  * \retval -ve failure
 191  */
 192 int mdt_hsm_agent_unregister(struct mdt_thread_info *mti,
 193                              const struct obd_uuid *uuid)
 194 {
 195         struct coordinator      *cdt = &mti->mti_mdt->mdt_coordinator;
 196         struct hsm_agent        *ha;
 197         int                      rc;
 198         ENTRY;
 199
 200         /* no coordinator started, so we cannot serve requests */
 201         if (cdt->cdt_state == CDT_STOPPED)
 202                 RETURN(-ENXIO);
 203
 204         down_write(&cdt->cdt_agent_lock);
 205
 206         ha = mdt_hsm_agent_lookup(cdt, uuid);
 207         if (ha != NULL)
 208                 list_del_init(&ha->ha_list);
 209
 210         up_write(&cdt->cdt_agent_lock);
 211
 212         if (ha == NULL)
 213                 GOTO(out, rc = -ENOENT);
 214
 215         if (ha->ha_archive_cnt != 0)
 216                 OBD_FREE(ha->ha_archive_id,
 217                          ha->ha_archive_cnt * sizeof(*ha->ha_archive_id));
 218         OBD_FREE_PTR(ha);
 219
 220         GOTO(out, rc = 0);
 221 out:
 222         CDEBUG(D_HSM, "agent %s unregistration: %d\n", obd_uuid2str(uuid), rc);
 223
 224         return rc;
 225 }
 226
 227 /**
 228  * update agent statistics
 229  * \param mdt [IN] MDT device
 230  * \param succ_rq [IN] number of success
 231  * \param fail_rq [IN] number of failure
 232  * \param new_rq [IN] number of new requests
 233  * \param uuid [IN] agent uuid
 234  * if all counters == 0, clear counters
 235  * \retval 0 success
 236  * \retval -ve failure
 237  */
 238 int mdt_hsm_agent_update_statistics(struct coordinator *cdt,
 239                                     int succ_rq, int fail_rq, int new_rq,
 240                                     const struct obd_uuid *uuid)
 241 {
 242         struct hsm_agent        *ha;
 243         int                      rc;
 244         ENTRY;
 245
 246         down_read(&cdt->cdt_agent_lock);
 247         list_for_each_entry(ha, &cdt->cdt_agents, ha_list) {
 248                 if (obd_uuid_equals(&ha->ha_uuid, uuid)) {
 249                         if (succ_rq == 0 && fail_rq == 0 && new_rq == 0) {
 250                                 atomic_set(&ha->ha_success, 0);
 251                                 atomic_set(&ha->ha_failure, 0);
 252                                 atomic_set(&ha->ha_requests, 0);
 253                         } else {
 254                                 atomic_add(succ_rq, &ha->ha_success);
 255                                 atomic_add(fail_rq, &ha->ha_failure);
 256                                 atomic_add(new_rq, &ha->ha_requests);
 257                                 atomic_sub(succ_rq, &ha->ha_requests);
 258                                 atomic_sub(fail_rq, &ha->ha_requests);
 259                         }
 260                         GOTO(out, rc = 0);
 261                 }
 262
 263         }
 264         rc = -ENOENT;
 265 out:
 266         up_read(&cdt->cdt_agent_lock);
 267         RETURN(rc);
 268 }
 269
 270 /**
 271  * find the best agent
 272  * \param cdt [IN] coordinator
 273  * \param archive [IN] archive number
 274  * \param uuid [OUT] agent who can serve archive
 275  * \retval 0 success
 276  * \retval -ve failure
 277  */
 278 int mdt_hsm_find_best_agent(struct coordinator *cdt, __u32 archive,
 279                             struct obd_uuid *uuid)
 280 {
 281         int                      rc = -EAGAIN, i, load = -1;
 282         struct hsm_agent        *ha;
 283         ENTRY;
 284
 285         /* Choose an export to send a copytool req to */
 286         down_read(&cdt->cdt_agent_lock);
 287         list_for_each_entry(ha, &cdt->cdt_agents, ha_list) {
 288                 for (i = 0; (i < ha->ha_archive_cnt) &&
 289                               (ha->ha_archive_id[i] != archive); i++) {
 290                         /* nothing to do, just skip unmatching records */
 291                 }
 292
 293                 /* archive count == 0 means copy tool serves any backend */
 294                 if (ha->ha_archive_cnt != 0 && i == ha->ha_archive_cnt)
 295                         continue;
 296
 297                 if (load == -1 || load > atomic_read(&ha->ha_requests)) {
 298                         load = atomic_read(&ha->ha_requests);
 299                         *uuid = ha->ha_uuid;
 300                         rc = 0;
 301                 }
 302                 if (atomic_read(&ha->ha_requests) == 0)
 303                         break;
 304         }
 305         up_read(&cdt->cdt_agent_lock);
 306
 307         RETURN(rc);
 308 }
 309
 310 int mdt_hsm_send_action_to_each_archive(struct mdt_thread_info *mti,
 311                                     struct hsm_action_item *hai)
 312 {
 313         struct hsm_agent *ha;
 314         __u32 archive_mask = 0;
 315         struct coordinator *cdt = &mti->mti_mdt->mdt_coordinator;
 316         int i;
 317         /* return error by default in case all archive_ids have unregistered */
 318         int rc = -EAGAIN;
 319         ENTRY;
 320
 321         /* send action to all registered archive_ids */
 322         down_read(&cdt->cdt_agent_lock);
 323         list_for_each_entry(ha, &cdt->cdt_agents, ha_list) {
 324                 for (i = 0; (i < ha->ha_archive_cnt); i++) {
 325                         /* only send once for each archive_id */
 326                         if ((1 << ha->ha_archive_id[i]) & archive_mask)
 327                                 continue;
 328                         archive_mask |= (1 << ha->ha_archive_id[i]);
 329
 330                         /* XXX: it could make sense to gather all
 331                          * actions for the same archive_id like in
 332                          * mdt_hsm_add_actions() ?? */
 333                         rc = mdt_agent_record_add(mti->mti_env, mti->mti_mdt,
 334                                                   ha->ha_archive_id[i], 0,
 335                                                   hai);
 336                         if (rc) {
 337                                 CERROR("%s: unable to add HSM remove request "
 338                                        "for "DFID": rc=%d\n",
 339                                        mdt_obd_name(mti->mti_mdt),
 340                                        PFID(&hai->hai_fid), rc);
 341                                 break;
 342                         } else {
 343                                 CDEBUG(D_HSM, "%s: added HSM remove request "
 344                                        "for "DFID", archive_id=%d\n",
 345                                        mdt_obd_name(mti->mti_mdt),
 346                                        PFID(&hai->hai_fid),
 347                                        ha->ha_archive_id[i]);
 348                         }
 349                 }
 350                 /* early exit from loop due to error? */
 351                 if (i != ha->ha_archive_cnt)
 352                         break;
 353         }
 354         up_read(&cdt->cdt_agent_lock);
 355
 356         RETURN(rc);
 357 }
 358
 359 /**
 360  * send a HAL to the agent
 361  * \param mti [IN] context
 362  * \param hal [IN] request (can be a kuc payload)
 363  * \param purge [IN] purge mode (no record)
 364  * \retval 0 success
 365  * \retval -ve failure
 366  * This function supposes:
 367  *  - all actions are for the same archive number
 368  *  - in case of cancel, all cancel are for the same agent
 369  * This implies that request split has to be done
 370  *  before when building the hal
 371  */
 372 int mdt_hsm_agent_send(struct mdt_thread_info *mti,
 373                        struct hsm_action_list *hal, bool purge)
 374 {
 375         struct obd_export       *exp;
 376         struct mdt_device       *mdt = mti->mti_mdt;
 377         struct coordinator      *cdt = &mti->mti_mdt->mdt_coordinator;
 378         struct hsm_action_list  *buf = NULL;
 379         struct hsm_action_item  *hai;
 380         struct obd_uuid          uuid;
 381         int                      len, i, rc = 0;
 382         bool                     fail_request;
 383         bool                     is_registered = false;
 384         ENTRY;
 385
 386         rc = mdt_hsm_find_best_agent(cdt, hal->hal_archive_id, &uuid);
 387         if (rc && hal->hal_archive_id == 0) {
 388                 uint notrmcount = 0;
 389                 int rc2 = 0;
 390
 391                 /* special case of remove requests with no archive_id specified,
 392                  * and no agent registered to serve all archives, then create a
 393                  * set of new requests, each to be sent to each registered
 394                  * archives.
 395                  * Todo so, find all HSMA_REMOVE entries, and then :
 396                  *     _ set completed status as SUCCESS (or FAIL?)
 397                  *     _ create a new LLOG record for each archive_id
 398                  *       presently being served by any CT
 399                  */
 400                 hai = hai_first(hal);
 401                 for (i = 0; i < hal->hal_count; i++,
 402                      hai = hai_next(hai)) {
 403                         struct hsm_record_update update;
 404
 405                         /* only removes are concerned */
 406                         if (hai->hai_action != HSMA_REMOVE) {
 407                                 /* count if other actions than HSMA_REMOVE,
 408                                  * to return original error/rc */
 409                                 notrmcount++;
 410                                 continue;
 411                         }
 412
 413                         /* send remove request to all registered archive_ids */
 414                         rc2 = mdt_hsm_send_action_to_each_archive(mti, hai);
 415                         if (rc2)
 416                                 break;
 417
 418                         /* only update original request as SUCCEED if it has
 419                          * been successfully broadcasted to all available
 420                          * archive_ids
 421                          * XXX: this should only cause duplicates to be sent,
 422                          * unless a method to record already successfully
 423                          * reached archive_ids is implemented */
 424
 425                         update.cookie = hai->hai_cookie;
 426                         update.status = ARS_SUCCEED;
 427                         rc2 = mdt_agent_record_update(mti->mti_env, mdt,
 428                                                       &update, 1);
 429                         if (rc2) {
 430                                 CERROR("%s: mdt_agent_record_update() "
 431                                       "failed, cannot update "
 432                                       "status to %s for cookie "
 433                                       "%#llx: rc = %d\n",
 434                                       mdt_obd_name(mdt),
 435                                       agent_req_status2name(ARS_SUCCEED),
 436                                       hai->hai_cookie, rc2);
 437                                 break;
 438                         }
 439                 }
 440                 /* only remove requests with archive_id=0 */
 441                 if (notrmcount == 0)
 442                         RETURN(rc2);
 443
 444         }
 445
 446         if (rc) {
 447                 CERROR("%s: Cannot find agent for archive %d: rc = %d\n",
 448                        mdt_obd_name(mdt), hal->hal_archive_id, rc);
 449                 RETURN(rc);
 450         }
 451
 452         CDEBUG(D_HSM, "Agent %s selected for archive %d\n", obd_uuid2str(&uuid),
 453                hal->hal_archive_id);
 454
 455         len = hal_size(hal);
 456         buf = kuc_alloc(len, KUC_TRANSPORT_HSM, HMT_ACTION_LIST);
 457         if (IS_ERR(buf))
 458                 RETURN(PTR_ERR(buf));
 459         memcpy(buf, hal, len);
 460
 461         /* Check if request is still valid (cf file hsm flags) */
 462         fail_request = false;
 463         hai = hai_first(hal);
 464         for (i = 0; i < hal->hal_count; i++, hai = hai_next(hai)) {
 465                 struct mdt_object *obj;
 466                 struct md_hsm hsm;
 467
 468                 if (hai->hai_action == HSMA_CANCEL)
 469                         continue;
 470
 471                 obj = mdt_hsm_get_md_hsm(mti, &hai->hai_fid, &hsm);
 472                 if (!IS_ERR(obj)) {
 473                         mdt_object_put(mti->mti_env, obj);
 474                 } else if (PTR_ERR(obj) == -ENOENT) {
 475                         struct hsm_record_update update = {
 476                                 .cookie = hai->hai_cookie,
 477                                 .status = ARS_FAILED,
 478                         };
 479
 480                         if (hai->hai_action == HSMA_REMOVE)
 481                                 continue;
 482
 483                         fail_request = true;
 484                         rc = mdt_agent_record_update(mti->mti_env, mdt,
 485                                                      &update, 1);
 486                         if (rc < 0) {
 487                                 CERROR("%s: mdt_agent_record_update() failed, "
 488                                        "cannot update status to %s for cookie "
 489                                        "%#llx: rc = %d\n",
 490                                        mdt_obd_name(mdt),
 491                                        agent_req_status2name(ARS_FAILED),
 492                                        hai->hai_cookie, rc);
 493                                 GOTO(out_buf, rc);
 494                         }
 495
 496                         continue;
 497                 } else {
 498                         GOTO(out_buf, rc = PTR_ERR(obj));
 499                 }
 500
 501                 if (!mdt_hsm_is_action_compat(hai, hal->hal_archive_id,
 502                                               hal->hal_flags, &hsm)) {
 503                         struct hsm_record_update update = {
 504                                 .cookie = hai->hai_cookie,
 505                                 .status = ARS_FAILED,
 506                         };
 507
 508                         /* incompatible request, we abort the request */
 509                         /* next time coordinator will wake up, it will
 510                          * make the same HAL with valid only
 511                          * records */
 512                         fail_request = true;
 513                         rc = mdt_agent_record_update(mti->mti_env, mdt,
 514                                                      &update, 1);
 515                         if (rc) {
 516                                 CERROR("%s: mdt_agent_record_update() failed, "
 517                                        "cannot update status to %s for cookie "
 518                                        "%#llx: rc = %d\n",
 519                                        mdt_obd_name(mdt),
 520                                        agent_req_status2name(ARS_FAILED),
 521                                        hai->hai_cookie, rc);
 522                                 GOTO(out_buf, rc);
 523                         }
 524
 525                         /* if restore and record status updated, give
 526                          * back granted layout lock */
 527                         if (hai->hai_action == HSMA_RESTORE)
 528                                 cdt_restore_handle_del(mti, cdt, &hai->hai_fid);
 529                 }
 530         }
 531
 532         /* we found incompatible requests, so the HAL cannot be sent
 533          * as is. Bad records have been invalidated in llog.
 534          * Valid one will be reschedule next time coordinator will wake up
 535          * So no need the rebuild a full valid HAL now
 536          */
 537         if (fail_request)
 538                 GOTO(out_buf, rc = 0);
 539
 540         /* Cancel memory registration is useless for purge
 541          * non registration avoid a deadlock :
 542          * in case of failure we have to take the write lock
 543          * to remove entry which conflict with the read loack needed
 544          * by purge
 545          */
 546         if (!purge) {
 547                 /* set is_registered even if failure because we may have
 548                  * partial work done */
 549                 is_registered = true;
 550                 rc = mdt_hsm_add_hal(mti, hal, &uuid);
 551                 if (rc)
 552                         GOTO(out_buf, rc);
 553         }
 554
 555         /* Uses the ldlm reverse import; this rpc will be seen by
 556          *  the ldlm_callback_handler. Note this sends a request RPC
 557          * from a server (MDT) to a client (MDC), backwards of normal comms.
 558          */
 559         exp = cfs_hash_lookup(mdt2obd_dev(mdt)->obd_uuid_hash, &uuid);
 560         if (exp == NULL || exp->exp_disconnected) {
 561                 if (exp != NULL)
 562                         class_export_put(exp);
 563                 /* This should clean up agents on evicted exports */
 564                 rc = -ENOENT;
 565                 CERROR("%s: agent uuid (%s) not found, unregistering:"
 566                        " rc = %d\n",
 567                        mdt_obd_name(mdt), obd_uuid2str(&uuid), rc);
 568                 mdt_hsm_agent_unregister(mti, &uuid);
 569                 GOTO(out, rc);
 570         }
 571
 572         /* send request to agent */
 573         rc = do_set_info_async(exp->exp_imp_reverse, LDLM_SET_INFO,
 574                                LUSTRE_OBD_VERSION,
 575                                sizeof(KEY_HSM_COPYTOOL_SEND),
 576                                KEY_HSM_COPYTOOL_SEND,
 577                                kuc_len(len), kuc_ptr(buf), NULL);
 578
 579         if (rc)
 580                 CERROR("%s: cannot send request to agent '%s': rc = %d\n",
 581                        mdt_obd_name(mdt), obd_uuid2str(&uuid), rc);
 582
 583         class_export_put(exp);
 584
 585         if (rc == -EPIPE) {
 586                 CDEBUG(D_HSM, "Lost connection to agent '%s', unregistering\n",
 587                        obd_uuid2str(&uuid));
 588                 mdt_hsm_agent_unregister(mti, &uuid);
 589         }
 590
 591 out:
 592         if (rc != 0 && is_registered) {
 593                 /* in case of error, we have to unregister requests */
 594                 hai = hai_first(hal);
 595                 for (i = 0; i < hal->hal_count; i++, hai = hai_next(hai)) {
 596                         if (hai->hai_action == HSMA_CANCEL)
 597                                 continue;
 598                         mdt_cdt_remove_request(cdt, hai->hai_cookie);
 599                 }
 600         }
 601
 602 out_buf:
 603         kuc_free(buf, len);
 604
 605         RETURN(rc);
 606 }
 607
 608 /**
 609  * seq_file method called to start access to /proc file
 610  */
 611 static void *mdt_hsm_agent_proc_start(struct seq_file *s, loff_t *off)
 612 {
 613         struct mdt_device       *mdt = s->private;
 614         struct coordinator      *cdt = &mdt->mdt_coordinator;
 615         struct list_head        *pos;
 616         loff_t                   i;
 617         ENTRY;
 618
 619         down_read(&cdt->cdt_agent_lock);
 620
 621         if (list_empty(&cdt->cdt_agents))
 622                 RETURN(NULL);
 623
 624         if (*off == 0)
 625                 RETURN(SEQ_START_TOKEN);
 626
 627         i = 0;
 628         list_for_each(pos, &cdt->cdt_agents) {
 629                 i++;
 630                 if (i >= *off)
 631                         RETURN(pos);
 632         }
 633
 634         RETURN(NULL);
 635 }
 636
 637 /**
 638  * seq_file method called to get next item
 639  * just returns NULL at eof
 640  */
 641 static void *mdt_hsm_agent_proc_next(struct seq_file *s, void *v, loff_t *p)
 642 {
 643         struct mdt_device       *mdt = s->private;
 644         struct coordinator      *cdt = &mdt->mdt_coordinator;
 645         struct list_head        *pos = v;
 646         ENTRY;
 647
 648         if (pos == SEQ_START_TOKEN)
 649                 pos = cdt->cdt_agents.next;
 650         else
 651                 pos = pos->next;
 652
 653         (*p)++;
 654         if (pos != &cdt->cdt_agents)
 655                 RETURN(pos);
 656
 657         RETURN(NULL);
 658 }
 659
 660 /**
 661  */
 662 static int mdt_hsm_agent_proc_show(struct seq_file *s, void *v)
 663 {
 664         struct list_head        *pos = v;
 665         struct hsm_agent        *ha;
 666         int                      i;
 667         ENTRY;
 668
 669         if (pos == SEQ_START_TOKEN)
 670                 RETURN(0);
 671
 672         ha = list_entry(pos, struct hsm_agent, ha_list);
 673         seq_printf(s, "uuid=%s archive_id=", ha->ha_uuid.uuid);
 674         if (ha->ha_archive_cnt == 0) {
 675                 seq_printf(s, "ANY");
 676         } else {
 677                 seq_printf(s, "%d", ha->ha_archive_id[0]);
 678                 for (i = 1; i < ha->ha_archive_cnt; i++)
 679                         seq_printf(s, ",%d", ha->ha_archive_id[i]);
 680         }
 681
 682         seq_printf(s, " requests=[current:%d ok:%d errors:%d]\n",
 683                    atomic_read(&ha->ha_requests),
 684                    atomic_read(&ha->ha_success),
 685                    atomic_read(&ha->ha_failure));
 686         RETURN(0);
 687 }
 688
 689 /**
 690  * seq_file method called to stop access to /proc file
 691  */
 692 static void mdt_hsm_agent_proc_stop(struct seq_file *s, void *v)
 693 {
 694         struct mdt_device       *mdt = s->private;
 695         struct coordinator      *cdt = &mdt->mdt_coordinator;
 696
 697         up_read(&cdt->cdt_agent_lock);
 698 }
 699
 700 /* hsm agent list proc functions */
 701 static const struct seq_operations mdt_hsm_agent_proc_ops = {
 702         .start  = mdt_hsm_agent_proc_start,
 703         .next   = mdt_hsm_agent_proc_next,
 704         .show   = mdt_hsm_agent_proc_show,
 705         .stop   = mdt_hsm_agent_proc_stop,
 706 };
 707
 708 /**
 709  * public function called at open of /proc file to get
 710  * list of agents
 711  */
 712 static int lprocfs_open_hsm_agent(struct inode *inode, struct file *file)
 713 {
 714         struct seq_file *s;
 715         int              rc;
 716         ENTRY;
 717
 718         rc = seq_open(file, &mdt_hsm_agent_proc_ops);
 719         if (rc)
 720                 RETURN(rc);
 721
 722         s = file->private_data;
 723         s->private = PDE_DATA(inode);
 724
 725         RETURN(rc);
 726 }
 727
 728 /* methods to access hsm agent list */
 729 const struct file_operations mdt_hsm_agent_fops = {
 730         .owner          = THIS_MODULE,
 731         .open           = lprocfs_open_hsm_agent,
 732         .read           = seq_read,
 733         .llseek         = seq_lseek,
 734         .release        = lprocfs_seq_release,
 735 };