drivers/bus/dpaa/base/qbman/bman.h

   1 /*-
   2  * This file is provided under a dual BSD/GPLv2 license. When using or
   3  * redistributing this file, you may do so under either license.
   4  *
   5  *   BSD LICENSE
   6  *
   7  * Copyright 2010-2016 Freescale Semiconductor Inc.
   8  * Copyright 2017 NXP.
   9  *
  10  * Redistribution and use in source and binary forms, with or without
  11  * modification, are permitted provided that the following conditions are met:
  12  * * Redistributions of source code must retain the above copyright
  13  * notice, this list of conditions and the following disclaimer.
  14  * * Redistributions in binary form must reproduce the above copyright
  15  * notice, this list of conditions and the following disclaimer in the
  16  * documentation and/or other materials provided with the distribution.
  17  * * Neither the name of the above-listed copyright holders nor the
  18  * names of any contributors may be used to endorse or promote products
  19  * derived from this software without specific prior written permission.
  20  *
  21  *   GPL LICENSE SUMMARY
  22  *
  23  * ALTERNATIVELY, this software may be distributed under the terms of the
  24  * GNU General Public License ("GPL") as published by the Free Software
  25  * Foundation, either version 2 of that License or (at your option) any
  26  * later version.
  27  *
  28  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  29  * AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  30  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
  31  * ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDERS OR CONTRIBUTORS BE
  32  * LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR
  33  * CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF
  34  * SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS
  35  * INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN
  36  * CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE)
  37  * ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE
  38  * POSSIBILITY OF SUCH DAMAGE.
  39  */
  40
  41 #ifndef __BMAN_H
  42 #define __BMAN_H
  43
  44 #include "bman_priv.h"
  45
  46 /* Cache-inhibited register offsets */
  47 #define BM_REG_RCR_PI_CINH      0x3000
  48 #define BM_REG_RCR_CI_CINH      0x3100
  49 #define BM_REG_RCR_ITR          0x3200
  50 #define BM_REG_CFG              0x3300
  51 #define BM_REG_SCN(n)           (0x3400 + ((n) << 6))
  52 #define BM_REG_ISR              0x3e00
  53 #define BM_REG_IIR              0x3ec0
  54
  55 /* Cache-enabled register offsets */
  56 #define BM_CL_CR                0x0000
  57 #define BM_CL_RR0               0x0100
  58 #define BM_CL_RR1               0x0140
  59 #define BM_CL_RCR               0x1000
  60 #define BM_CL_RCR_PI_CENA       0x3000
  61 #define BM_CL_RCR_CI_CENA       0x3100
  62
  63 /* BTW, the drivers (and h/w programming model) already obtain the required
  64  * synchronisation for portal accesses via lwsync(), hwsync(), and
  65  * data-dependencies. Use of barrier()s or other order-preserving primitives
  66  * simply degrade performance. Hence the use of the __raw_*() interfaces, which
  67  * simply ensure that the compiler treats the portal registers as volatile (ie.
  68  * non-coherent).
  69  */
  70
  71 /* Cache-inhibited register access. */
  72 #define __bm_in(bm, o)          be32_to_cpu(__raw_readl((bm)->ci + (o)))
  73 #define __bm_out(bm, o, val)    __raw_writel(cpu_to_be32(val), \
  74                                              (bm)->ci + (o))
  75 #define bm_in(reg)              __bm_in(&portal->addr, BM_REG_##reg)
  76 #define bm_out(reg, val)        __bm_out(&portal->addr, BM_REG_##reg, val)
  77
  78 /* Cache-enabled (index) register access */
  79 #define __bm_cl_touch_ro(bm, o) dcbt_ro((bm)->ce + (o))
  80 #define __bm_cl_touch_rw(bm, o) dcbt_rw((bm)->ce + (o))
  81 #define __bm_cl_in(bm, o)       be32_to_cpu(__raw_readl((bm)->ce + (o)))
  82 #define __bm_cl_out(bm, o, val) \
  83         do { \
  84                 u32 *__tmpclout = (bm)->ce + (o); \
  85                 __raw_writel(cpu_to_be32(val), __tmpclout); \
  86                 dcbf(__tmpclout); \
  87         } while (0)
  88 #define __bm_cl_invalidate(bm, o) dccivac((bm)->ce + (o))
  89 #define bm_cl_touch_ro(reg) __bm_cl_touch_ro(&portal->addr, BM_CL_##reg##_CENA)
  90 #define bm_cl_touch_rw(reg) __bm_cl_touch_rw(&portal->addr, BM_CL_##reg##_CENA)
  91 #define bm_cl_in(reg)       __bm_cl_in(&portal->addr, BM_CL_##reg##_CENA)
  92 #define bm_cl_out(reg, val) __bm_cl_out(&portal->addr, BM_CL_##reg##_CENA, val)
  93 #define bm_cl_invalidate(reg)\
  94         __bm_cl_invalidate(&portal->addr, BM_CL_##reg##_CENA)
  95
  96 /* Cyclic helper for rings. FIXME: once we are able to do fine-grain perf
  97  * analysis, look at using the "extra" bit in the ring index registers to avoid
  98  * cyclic issues.
  99  */
 100 static inline u8 bm_cyc_diff(u8 ringsize, u8 first, u8 last)
 101 {
 102         /* 'first' is included, 'last' is excluded */
 103         if (first <= last)
 104                 return last - first;
 105         return ringsize + last - first;
 106 }
 107
 108 /* Portal modes.
 109  *   Enum types;
 110  *     pmode == production mode
 111  *     cmode == consumption mode,
 112  *   Enum values use 3 letter codes. First letter matches the portal mode,
 113  *   remaining two letters indicate;
 114  *     ci == cache-inhibited portal register
 115  *     ce == cache-enabled portal register
 116  *     vb == in-band valid-bit (cache-enabled)
 117  */
 118 enum bm_rcr_pmode {             /* matches BCSP_CFG::RPM */
 119         bm_rcr_pci = 0,         /* PI index, cache-inhibited */
 120         bm_rcr_pce = 1,         /* PI index, cache-enabled */
 121         bm_rcr_pvb = 2          /* valid-bit */
 122 };
 123
 124 enum bm_rcr_cmode {             /* s/w-only */
 125         bm_rcr_cci,             /* CI index, cache-inhibited */
 126         bm_rcr_cce              /* CI index, cache-enabled */
 127 };
 128
 129 /* --- Portal structures --- */
 130
 131 #define BM_RCR_SIZE             8
 132
 133 struct bm_rcr {
 134         struct bm_rcr_entry *ring, *cursor;
 135         u8 ci, available, ithresh, vbit;
 136 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 137         u32 busy;
 138         enum bm_rcr_pmode pmode;
 139         enum bm_rcr_cmode cmode;
 140 #endif
 141 };
 142
 143 struct bm_mc {
 144         struct bm_mc_command *cr;
 145         struct bm_mc_result *rr;
 146         u8 rridx, vbit;
 147 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 148         enum {
 149                 /* Can only be _mc_start()ed */
 150                 mc_idle,
 151                 /* Can only be _mc_commit()ed or _mc_abort()ed */
 152                 mc_user,
 153                 /* Can only be _mc_retry()ed */
 154                 mc_hw
 155         } state;
 156 #endif
 157 };
 158
 159 struct bm_addr {
 160         void __iomem *ce;       /* cache-enabled */
 161         void __iomem *ci;       /* cache-inhibited */
 162 };
 163
 164 struct bm_portal {
 165         struct bm_addr addr;
 166         struct bm_rcr rcr;
 167         struct bm_mc mc;
 168         struct bm_portal_config config;
 169 } ____cacheline_aligned;
 170
 171 /* Bit-wise logic to wrap a ring pointer by clearing the "carry bit" */
 172 #define RCR_CARRYCLEAR(p) \
 173         (void *)((unsigned long)(p) & (~(unsigned long)(BM_RCR_SIZE << 6)))
 174
 175 /* Bit-wise logic to convert a ring pointer to a ring index */
 176 static inline u8 RCR_PTR2IDX(struct bm_rcr_entry *e)
 177 {
 178         return ((uintptr_t)e >> 6) & (BM_RCR_SIZE - 1);
 179 }
 180
 181 /* Increment the 'cursor' ring pointer, taking 'vbit' into account */
 182 static inline void RCR_INC(struct bm_rcr *rcr)
 183 {
 184         /* NB: this is odd-looking, but experiments show that it generates
 185          * fast code with essentially no branching overheads. We increment to
 186          * the next RCR pointer and handle overflow and 'vbit'.
 187          */
 188         struct bm_rcr_entry *partial = rcr->cursor + 1;
 189
 190         rcr->cursor = RCR_CARRYCLEAR(partial);
 191         if (partial != rcr->cursor)
 192                 rcr->vbit ^= BM_RCR_VERB_VBIT;
 193 }
 194
 195 static inline int bm_rcr_init(struct bm_portal *portal, enum bm_rcr_pmode pmode,
 196                               __maybe_unused enum bm_rcr_cmode cmode)
 197 {
 198         /* This use of 'register', as well as all other occurrences, is because
 199          * it has been observed to generate much faster code with gcc than is
 200          * otherwise the case.
 201          */
 202         register struct bm_rcr *rcr = &portal->rcr;
 203         u32 cfg;
 204         u8 pi;
 205
 206         rcr->ring = portal->addr.ce + BM_CL_RCR;
 207         rcr->ci = bm_in(RCR_CI_CINH) & (BM_RCR_SIZE - 1);
 208
 209         pi = bm_in(RCR_PI_CINH) & (BM_RCR_SIZE - 1);
 210         rcr->cursor = rcr->ring + pi;
 211         rcr->vbit = (bm_in(RCR_PI_CINH) & BM_RCR_SIZE) ?  BM_RCR_VERB_VBIT : 0;
 212         rcr->available = BM_RCR_SIZE - 1
 213                 - bm_cyc_diff(BM_RCR_SIZE, rcr->ci, pi);
 214         rcr->ithresh = bm_in(RCR_ITR);
 215 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 216         rcr->busy = 0;
 217         rcr->pmode = pmode;
 218         rcr->cmode = cmode;
 219 #endif
 220         cfg = (bm_in(CFG) & 0xffffffe0) | (pmode & 0x3); /* BCSP_CFG::RPM */
 221         bm_out(CFG, cfg);
 222         return 0;
 223 }
 224
 225 static inline void bm_rcr_finish(struct bm_portal *portal)
 226 {
 227         register struct bm_rcr *rcr = &portal->rcr;
 228         u8 pi = bm_in(RCR_PI_CINH) & (BM_RCR_SIZE - 1);
 229         u8 ci = bm_in(RCR_CI_CINH) & (BM_RCR_SIZE - 1);
 230
 231         DPAA_ASSERT(!rcr->busy);
 232         if (pi != RCR_PTR2IDX(rcr->cursor))
 233                 pr_crit("losing uncommitted RCR entries\n");
 234         if (ci != rcr->ci)
 235                 pr_crit("missing existing RCR completions\n");
 236         if (rcr->ci != RCR_PTR2IDX(rcr->cursor))
 237                 pr_crit("RCR destroyed unquiesced\n");
 238 }
 239
 240 static inline struct bm_rcr_entry *bm_rcr_start(struct bm_portal *portal)
 241 {
 242         register struct bm_rcr *rcr = &portal->rcr;
 243
 244         DPAA_ASSERT(!rcr->busy);
 245         if (!rcr->available)
 246                 return NULL;
 247 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 248         rcr->busy = 1;
 249 #endif
 250         dcbz_64(rcr->cursor);
 251         return rcr->cursor;
 252 }
 253
 254 static inline void bm_rcr_abort(struct bm_portal *portal)
 255 {
 256         __maybe_unused register struct bm_rcr *rcr = &portal->rcr;
 257
 258         DPAA_ASSERT(rcr->busy);
 259 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 260         rcr->busy = 0;
 261 #endif
 262 }
 263
 264 static inline struct bm_rcr_entry *bm_rcr_pend_and_next(
 265                                         struct bm_portal *portal, u8 myverb)
 266 {
 267         register struct bm_rcr *rcr = &portal->rcr;
 268
 269         DPAA_ASSERT(rcr->busy);
 270         DPAA_ASSERT(rcr->pmode != bm_rcr_pvb);
 271         if (rcr->available == 1)
 272                 return NULL;
 273         rcr->cursor->__dont_write_directly__verb = myverb | rcr->vbit;
 274         dcbf_64(rcr->cursor);
 275         RCR_INC(rcr);
 276         rcr->available--;
 277         dcbz_64(rcr->cursor);
 278         return rcr->cursor;
 279 }
 280
 281 static inline void bm_rcr_pci_commit(struct bm_portal *portal, u8 myverb)
 282 {
 283         register struct bm_rcr *rcr = &portal->rcr;
 284
 285         DPAA_ASSERT(rcr->busy);
 286         DPAA_ASSERT(rcr->pmode == bm_rcr_pci);
 287         rcr->cursor->__dont_write_directly__verb = myverb | rcr->vbit;
 288         RCR_INC(rcr);
 289         rcr->available--;
 290         hwsync();
 291         bm_out(RCR_PI_CINH, RCR_PTR2IDX(rcr->cursor));
 292 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 293         rcr->busy = 0;
 294 #endif
 295 }
 296
 297 static inline void bm_rcr_pce_prefetch(struct bm_portal *portal)
 298 {
 299         __maybe_unused register struct bm_rcr *rcr = &portal->rcr;
 300
 301         DPAA_ASSERT(rcr->pmode == bm_rcr_pce);
 302         bm_cl_invalidate(RCR_PI);
 303         bm_cl_touch_rw(RCR_PI);
 304 }
 305
 306 static inline void bm_rcr_pce_commit(struct bm_portal *portal, u8 myverb)
 307 {
 308         register struct bm_rcr *rcr = &portal->rcr;
 309
 310         DPAA_ASSERT(rcr->busy);
 311         DPAA_ASSERT(rcr->pmode == bm_rcr_pce);
 312         rcr->cursor->__dont_write_directly__verb = myverb | rcr->vbit;
 313         RCR_INC(rcr);
 314         rcr->available--;
 315         lwsync();
 316         bm_cl_out(RCR_PI, RCR_PTR2IDX(rcr->cursor));
 317 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 318         rcr->busy = 0;
 319 #endif
 320 }
 321
 322 static inline void bm_rcr_pvb_commit(struct bm_portal *portal, u8 myverb)
 323 {
 324         register struct bm_rcr *rcr = &portal->rcr;
 325         struct bm_rcr_entry *rcursor;
 326
 327         DPAA_ASSERT(rcr->busy);
 328         DPAA_ASSERT(rcr->pmode == bm_rcr_pvb);
 329         lwsync();
 330         rcursor = rcr->cursor;
 331         rcursor->__dont_write_directly__verb = myverb | rcr->vbit;
 332         dcbf_64(rcursor);
 333         RCR_INC(rcr);
 334         rcr->available--;
 335 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 336         rcr->busy = 0;
 337 #endif
 338 }
 339
 340 static inline u8 bm_rcr_cci_update(struct bm_portal *portal)
 341 {
 342         register struct bm_rcr *rcr = &portal->rcr;
 343         u8 diff, old_ci = rcr->ci;
 344
 345         DPAA_ASSERT(rcr->cmode == bm_rcr_cci);
 346         rcr->ci = bm_in(RCR_CI_CINH) & (BM_RCR_SIZE - 1);
 347         diff = bm_cyc_diff(BM_RCR_SIZE, old_ci, rcr->ci);
 348         rcr->available += diff;
 349         return diff;
 350 }
 351
 352 static inline void bm_rcr_cce_prefetch(struct bm_portal *portal)
 353 {
 354         __maybe_unused register struct bm_rcr *rcr = &portal->rcr;
 355
 356         DPAA_ASSERT(rcr->cmode == bm_rcr_cce);
 357         bm_cl_touch_ro(RCR_CI);
 358 }
 359
 360 static inline u8 bm_rcr_cce_update(struct bm_portal *portal)
 361 {
 362         register struct bm_rcr *rcr = &portal->rcr;
 363         u8 diff, old_ci = rcr->ci;
 364
 365         DPAA_ASSERT(rcr->cmode == bm_rcr_cce);
 366         rcr->ci = bm_cl_in(RCR_CI) & (BM_RCR_SIZE - 1);
 367         bm_cl_invalidate(RCR_CI);
 368         diff = bm_cyc_diff(BM_RCR_SIZE, old_ci, rcr->ci);
 369         rcr->available += diff;
 370         return diff;
 371 }
 372
 373 static inline u8 bm_rcr_get_ithresh(struct bm_portal *portal)
 374 {
 375         register struct bm_rcr *rcr = &portal->rcr;
 376
 377         return rcr->ithresh;
 378 }
 379
 380 static inline void bm_rcr_set_ithresh(struct bm_portal *portal, u8 ithresh)
 381 {
 382         register struct bm_rcr *rcr = &portal->rcr;
 383
 384         rcr->ithresh = ithresh;
 385         bm_out(RCR_ITR, ithresh);
 386 }
 387
 388 static inline u8 bm_rcr_get_avail(struct bm_portal *portal)
 389 {
 390         register struct bm_rcr *rcr = &portal->rcr;
 391
 392         return rcr->available;
 393 }
 394
 395 static inline u8 bm_rcr_get_fill(struct bm_portal *portal)
 396 {
 397         register struct bm_rcr *rcr = &portal->rcr;
 398
 399         return BM_RCR_SIZE - 1 - rcr->available;
 400 }
 401
 402 /* --- Management command API --- */
 403
 404 static inline int bm_mc_init(struct bm_portal *portal)
 405 {
 406         register struct bm_mc *mc = &portal->mc;
 407
 408         mc->cr = portal->addr.ce + BM_CL_CR;
 409         mc->rr = portal->addr.ce + BM_CL_RR0;
 410         mc->rridx = (__raw_readb(&mc->cr->__dont_write_directly__verb) &
 411                         BM_MCC_VERB_VBIT) ?  0 : 1;
 412         mc->vbit = mc->rridx ? BM_MCC_VERB_VBIT : 0;
 413 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 414         mc->state = mc_idle;
 415 #endif
 416         return 0;
 417 }
 418
 419 static inline void bm_mc_finish(struct bm_portal *portal)
 420 {
 421         __maybe_unused register struct bm_mc *mc = &portal->mc;
 422
 423         DPAA_ASSERT(mc->state == mc_idle);
 424 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 425         if (mc->state != mc_idle)
 426                 pr_crit("Losing incomplete MC command\n");
 427 #endif
 428 }
 429
 430 static inline struct bm_mc_command *bm_mc_start(struct bm_portal *portal)
 431 {
 432         register struct bm_mc *mc = &portal->mc;
 433
 434         DPAA_ASSERT(mc->state == mc_idle);
 435 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 436         mc->state = mc_user;
 437 #endif
 438         dcbz_64(mc->cr);
 439         return mc->cr;
 440 }
 441
 442 static inline void bm_mc_abort(struct bm_portal *portal)
 443 {
 444         __maybe_unused register struct bm_mc *mc = &portal->mc;
 445
 446         DPAA_ASSERT(mc->state == mc_user);
 447 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 448         mc->state = mc_idle;
 449 #endif
 450 }
 451
 452 static inline void bm_mc_commit(struct bm_portal *portal, u8 myverb)
 453 {
 454         register struct bm_mc *mc = &portal->mc;
 455         struct bm_mc_result *rr = mc->rr + mc->rridx;
 456
 457         DPAA_ASSERT(mc->state == mc_user);
 458         lwsync();
 459         mc->cr->__dont_write_directly__verb = myverb | mc->vbit;
 460         dcbf(mc->cr);
 461         dcbit_ro(rr);
 462 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 463         mc->state = mc_hw;
 464 #endif
 465 }
 466
 467 static inline struct bm_mc_result *bm_mc_result(struct bm_portal *portal)
 468 {
 469         register struct bm_mc *mc = &portal->mc;
 470         struct bm_mc_result *rr = mc->rr + mc->rridx;
 471
 472         DPAA_ASSERT(mc->state == mc_hw);
 473         /* The inactive response register's verb byte always returns zero until
 474          * its command is submitted and completed. This includes the valid-bit,
 475          * in case you were wondering.
 476          */
 477         if (!__raw_readb(&rr->verb)) {
 478                 dcbit_ro(rr);
 479                 return NULL;
 480         }
 481         mc->rridx ^= 1;
 482         mc->vbit ^= BM_MCC_VERB_VBIT;
 483 #ifdef RTE_LIBRTE_DPAA_HWDEBUG
 484         mc->state = mc_idle;
 485 #endif
 486         return rr;
 487 }
 488
 489 #define SCN_REG(bpid) BM_REG_SCN((bpid) / 32)
 490 #define SCN_BIT(bpid) (0x80000000 >> (bpid & 31))
 491 static inline void bm_isr_bscn_mask(struct bm_portal *portal, u8 bpid,
 492                                     int enable)
 493 {
 494         u32 val;
 495
 496         DPAA_ASSERT(bpid < bman_pool_max);
 497         /* REG_SCN for bpid=0..31, REG_SCN+4 for bpid=32..63 */
 498         val = __bm_in(&portal->addr, SCN_REG(bpid));
 499         if (enable)
 500                 val |= SCN_BIT(bpid);
 501         else
 502                 val &= ~SCN_BIT(bpid);
 503         __bm_out(&portal->addr, SCN_REG(bpid), val);
 504 }
 505
 506 static inline u32 __bm_isr_read(struct bm_portal *portal, enum bm_isr_reg n)
 507 {
 508 #if defined(RTE_ARCH_ARM64)
 509         return __bm_in(&portal->addr, BM_REG_ISR + (n << 6));
 510 #else
 511         return __bm_in(&portal->addr, BM_REG_ISR + (n << 2));
 512 #endif
 513 }
 514
 515 static inline void __bm_isr_write(struct bm_portal *portal, enum bm_isr_reg n,
 516                                   u32 val)
 517 {
 518 #if defined(RTE_ARCH_ARM64)
 519         __bm_out(&portal->addr, BM_REG_ISR + (n << 6), val);
 520 #else
 521         __bm_out(&portal->addr, BM_REG_ISR + (n << 2), val);
 522 #endif
 523 }
 524
 525 /* Buffer Pool Cleanup */
 526 static inline int bm_shutdown_pool(struct bm_portal *p, u32 bpid)
 527 {
 528         struct bm_mc_command *bm_cmd;
 529         struct bm_mc_result *bm_res;
 530
 531         int aq_count = 0;
 532         bool stop = false;
 533
 534         while (!stop) {
 535                 /* Acquire buffers until empty */
 536                 bm_cmd = bm_mc_start(p);
 537                 bm_cmd->acquire.bpid = bpid;
 538                 bm_mc_commit(p, BM_MCC_VERB_CMD_ACQUIRE |  1);
 539                 while (!(bm_res = bm_mc_result(p)))
 540                         cpu_relax();
 541                 if (!(bm_res->verb & BM_MCR_VERB_ACQUIRE_BUFCOUNT)) {
 542                         /* Pool is empty */
 543                         stop = true;
 544                 } else
 545                         ++aq_count;
 546         };
 547         return 0;
 548 }
 549
 550 #endif /* __BMAN_H */