RDMA/mana_ib: create and destroy RNIC cqs
authorKonstantin Taranov <kotaranov@microsoft.com>
Fri, 26 Apr 2024 13:12:37 +0000 (06:12 -0700)
committerLeon Romanovsky <leon@kernel.org>
Sun, 5 May 2024 12:27:23 +0000 (15:27 +0300)
Implement RNIC requests for creation and destruction of RNIC CQs.

Signed-off-by: Konstantin Taranov <kotaranov@microsoft.com>
Link: https://lore.kernel.org/r/1714137160-5222-3-git-send-email-kotaranov@linux.microsoft.com
Reviewed-by: Long Li <longli@microsoft.com>
Signed-off-by: Leon Romanovsky <leon@kernel.org>
drivers/infiniband/hw/mana/main.c
drivers/infiniband/hw/mana/mana_ib.h

index 546d059470e5f6035fbecc3fbb7ac5435f807719..2a411357640e6c8bdcfa318598083d656742597f 100644 (file)
@@ -834,3 +834,57 @@ int mana_ib_gd_config_mac(struct mana_ib_dev *mdev, enum mana_ib_addr_op op, u8
 
        return 0;
 }
+
+int mana_ib_gd_create_cq(struct mana_ib_dev *mdev, struct mana_ib_cq *cq, u32 doorbell)
+{
+       struct gdma_context *gc = mdev_to_gc(mdev);
+       struct mana_rnic_create_cq_resp resp = {};
+       struct mana_rnic_create_cq_req req = {};
+       int err;
+
+       mana_gd_init_req_hdr(&req.hdr, MANA_IB_CREATE_CQ, sizeof(req), sizeof(resp));
+       req.hdr.dev_id = gc->mana_ib.dev_id;
+       req.adapter = mdev->adapter_handle;
+       req.gdma_region = cq->queue.gdma_region;
+       req.eq_id = mdev->eqs[cq->comp_vector]->id;
+       req.doorbell_page = doorbell;
+
+       err = mana_gd_send_request(gc, sizeof(req), &req, sizeof(resp), &resp);
+
+       if (err) {
+               ibdev_err(&mdev->ib_dev, "Failed to create cq err %d", err);
+               return err;
+       }
+
+       cq->queue.id  = resp.cq_id;
+       cq->cq_handle = resp.cq_handle;
+       /* The GDMA region is now owned by the CQ handle */
+       cq->queue.gdma_region = GDMA_INVALID_DMA_REGION;
+
+       return 0;
+}
+
+int mana_ib_gd_destroy_cq(struct mana_ib_dev *mdev, struct mana_ib_cq *cq)
+{
+       struct gdma_context *gc = mdev_to_gc(mdev);
+       struct mana_rnic_destroy_cq_resp resp = {};
+       struct mana_rnic_destroy_cq_req req = {};
+       int err;
+
+       if (cq->cq_handle == INVALID_MANA_HANDLE)
+               return 0;
+
+       mana_gd_init_req_hdr(&req.hdr, MANA_IB_DESTROY_CQ, sizeof(req), sizeof(resp));
+       req.hdr.dev_id = gc->mana_ib.dev_id;
+       req.adapter = mdev->adapter_handle;
+       req.cq_handle = cq->cq_handle;
+
+       err = mana_gd_send_request(gc, sizeof(req), &req, sizeof(resp), &resp);
+
+       if (err) {
+               ibdev_err(&mdev->ib_dev, "Failed to destroy cq err %d", err);
+               return err;
+       }
+
+       return 0;
+}
index bfcf6dfd221ef4fbfd98977b160eeefc0c2ed916..9162f29da02de05fb8dedfc6f09ec43877f3ce1d 100644 (file)
@@ -92,6 +92,7 @@ struct mana_ib_cq {
        struct mana_ib_queue queue;
        int cqe;
        u32 comp_vector;
+       mana_handle_t  cq_handle;
 };
 
 struct mana_ib_qp {
@@ -119,6 +120,8 @@ enum mana_ib_command_code {
        MANA_IB_DESTROY_ADAPTER = 0x30003,
        MANA_IB_CONFIG_IP_ADDR  = 0x30004,
        MANA_IB_CONFIG_MAC_ADDR = 0x30005,
+       MANA_IB_CREATE_CQ       = 0x30008,
+       MANA_IB_DESTROY_CQ      = 0x30009,
 };
 
 struct mana_ib_query_adapter_caps_req {
@@ -202,6 +205,31 @@ struct mana_rnic_config_mac_addr_resp {
        struct gdma_resp_hdr hdr;
 }; /* HW Data */
 
+struct mana_rnic_create_cq_req {
+       struct gdma_req_hdr hdr;
+       mana_handle_t adapter;
+       u64 gdma_region;
+       u32 eq_id;
+       u32 doorbell_page;
+}; /* HW Data */
+
+struct mana_rnic_create_cq_resp {
+       struct gdma_resp_hdr hdr;
+       mana_handle_t cq_handle;
+       u32 cq_id;
+       u32 reserved;
+}; /* HW Data */
+
+struct mana_rnic_destroy_cq_req {
+       struct gdma_req_hdr hdr;
+       mana_handle_t adapter;
+       mana_handle_t cq_handle;
+}; /* HW Data */
+
+struct mana_rnic_destroy_cq_resp {
+       struct gdma_resp_hdr hdr;
+}; /* HW Data */
+
 static inline struct gdma_context *mdev_to_gc(struct mana_ib_dev *mdev)
 {
        return mdev->gdma_dev->gdma_context;
@@ -321,4 +349,8 @@ int mana_ib_gd_add_gid(const struct ib_gid_attr *attr, void **context);
 int mana_ib_gd_del_gid(const struct ib_gid_attr *attr, void **context);
 
 int mana_ib_gd_config_mac(struct mana_ib_dev *mdev, enum mana_ib_addr_op op, u8 *mac);
+
+int mana_ib_gd_create_cq(struct mana_ib_dev *mdev, struct mana_ib_cq *cq, u32 doorbell);
+
+int mana_ib_gd_destroy_cq(struct mana_ib_dev *mdev, struct mana_ib_cq *cq);
 #endif