cxl/region: Move cxl_trace_hpa() work to the region driver
authorAlison Schofield <alison.schofield@intel.com>
Tue, 30 Apr 2024 17:28:05 +0000 (10:28 -0700)
committerDave Jiang <dave.jiang@intel.com>
Tue, 30 Apr 2024 19:24:42 +0000 (12:24 -0700)
This work belongs in the region driver as it is only useful with
CONFIG_CXL_REGION. Add a stub in core.h for when the region driver
is not built.

Signed-off-by: Alison Schofield <alison.schofield@intel.com>
Reviewed-by: Jonathan Cameron <Jonathan.Cameron@huawei.com>
Reviewed-by: Ira Weiny <ira.weiny@intel.com>
Link: https://lore.kernel.org/r/183222631f11a43c5e6debc42ec22fe1bd4b818a.1714496730.git.alison.schofield@intel.com
Signed-off-by: Dave Jiang <dave.jiang@intel.com>
drivers/cxl/core/core.h
drivers/cxl/core/region.c
drivers/cxl/core/trace.c
drivers/cxl/core/trace.h

index 87008505f8a9e1c5350ffafcb879832033974430..625394486459ee87f842b34b1e10f3c5e3f2996a 100644 (file)
@@ -28,8 +28,15 @@ int cxl_region_init(void);
 void cxl_region_exit(void);
 int cxl_get_poison_by_endpoint(struct cxl_port *port);
 struct cxl_region *cxl_dpa_to_region(const struct cxl_memdev *cxlmd, u64 dpa);
+u64 cxl_trace_hpa(struct cxl_region *cxlr, const struct cxl_memdev *cxlmd,
+                 u64 dpa);
 
 #else
+static inline u64
+cxl_trace_hpa(struct cxl_region *cxlr, const struct cxl_memdev *cxlmd, u64 dpa)
+{
+       return ULLONG_MAX;
+}
 static inline
 struct cxl_region *cxl_dpa_to_region(const struct cxl_memdev *cxlmd, u64 dpa)
 {
index 4b227659e3f8b243e28af312afe52d3494a464a7..45eb9c560fd6d91b31648031ec949d432df108e6 100644 (file)
@@ -2723,6 +2723,97 @@ struct cxl_region *cxl_dpa_to_region(const struct cxl_memdev *cxlmd, u64 dpa)
        return ctx.cxlr;
 }
 
+static bool cxl_is_hpa_in_range(u64 hpa, struct cxl_region *cxlr, int pos)
+{
+       struct cxl_region_params *p = &cxlr->params;
+       int gran = p->interleave_granularity;
+       int ways = p->interleave_ways;
+       u64 offset;
+
+       /* Is the hpa within this region at all */
+       if (hpa < p->res->start || hpa > p->res->end) {
+               dev_dbg(&cxlr->dev,
+                       "Addr trans fail: hpa 0x%llx not in region\n", hpa);
+               return false;
+       }
+
+       /* Is the hpa in an expected chunk for its pos(-ition) */
+       offset = hpa - p->res->start;
+       offset = do_div(offset, gran * ways);
+       if ((offset >= pos * gran) && (offset < (pos + 1) * gran))
+               return true;
+
+       dev_dbg(&cxlr->dev,
+               "Addr trans fail: hpa 0x%llx not in expected chunk\n", hpa);
+
+       return false;
+}
+
+static u64 cxl_dpa_to_hpa(u64 dpa,  struct cxl_region *cxlr,
+                         struct cxl_endpoint_decoder *cxled)
+{
+       u64 dpa_offset, hpa_offset, bits_upper, mask_upper, hpa;
+       struct cxl_region_params *p = &cxlr->params;
+       int pos = cxled->pos;
+       u16 eig = 0;
+       u8 eiw = 0;
+
+       ways_to_eiw(p->interleave_ways, &eiw);
+       granularity_to_eig(p->interleave_granularity, &eig);
+
+       /*
+        * The device position in the region interleave set was removed
+        * from the offset at HPA->DPA translation. To reconstruct the
+        * HPA, place the 'pos' in the offset.
+        *
+        * The placement of 'pos' in the HPA is determined by interleave
+        * ways and granularity and is defined in the CXL Spec 3.0 Section
+        * 8.2.4.19.13 Implementation Note: Device Decode Logic
+        */
+
+       /* Remove the dpa base */
+       dpa_offset = dpa - cxl_dpa_resource_start(cxled);
+
+       mask_upper = GENMASK_ULL(51, eig + 8);
+
+       if (eiw < 8) {
+               hpa_offset = (dpa_offset & mask_upper) << eiw;
+               hpa_offset |= pos << (eig + 8);
+       } else {
+               bits_upper = (dpa_offset & mask_upper) >> (eig + 8);
+               bits_upper = bits_upper * 3;
+               hpa_offset = ((bits_upper << (eiw - 8)) + pos) << (eig + 8);
+       }
+
+       /* The lower bits remain unchanged */
+       hpa_offset |= dpa_offset & GENMASK_ULL(eig + 7, 0);
+
+       /* Apply the hpa_offset to the region base address */
+       hpa = hpa_offset + p->res->start;
+
+       if (!cxl_is_hpa_in_range(hpa, cxlr, cxled->pos))
+               return ULLONG_MAX;
+
+       return hpa;
+}
+
+u64 cxl_trace_hpa(struct cxl_region *cxlr, const struct cxl_memdev *cxlmd,
+                 u64 dpa)
+{
+       struct cxl_region_params *p = &cxlr->params;
+       struct cxl_endpoint_decoder *cxled = NULL;
+
+       for (int i = 0; i <  p->nr_targets; i++) {
+               cxled = p->targets[i];
+               if (cxlmd == cxled_to_memdev(cxled))
+                       break;
+       }
+       if (!cxled || cxlmd != cxled_to_memdev(cxled))
+               return ULLONG_MAX;
+
+       return cxl_dpa_to_hpa(dpa, cxlr, cxled);
+}
+
 static struct lock_class_key cxl_pmem_region_key;
 
 static struct cxl_pmem_region *cxl_pmem_region_alloc(struct cxl_region *cxlr)
index d0403dc3c8ab669bce066ead1e1f18b20d7339d9..7f2a9dd0d0e3fbdb05bcb7542ff147154aeb5c2e 100644 (file)
@@ -6,94 +6,3 @@
 
 #define CREATE_TRACE_POINTS
 #include "trace.h"
-
-static bool cxl_is_hpa_in_range(u64 hpa, struct cxl_region *cxlr, int pos)
-{
-       struct cxl_region_params *p = &cxlr->params;
-       int gran = p->interleave_granularity;
-       int ways = p->interleave_ways;
-       u64 offset;
-
-       /* Is the hpa within this region at all */
-       if (hpa < p->res->start || hpa > p->res->end) {
-               dev_dbg(&cxlr->dev,
-                       "Addr trans fail: hpa 0x%llx not in region\n", hpa);
-               return false;
-       }
-
-       /* Is the hpa in an expected chunk for its pos(-ition) */
-       offset = hpa - p->res->start;
-       offset = do_div(offset, gran * ways);
-       if ((offset >= pos * gran) && (offset < (pos + 1) * gran))
-               return true;
-
-       dev_dbg(&cxlr->dev,
-               "Addr trans fail: hpa 0x%llx not in expected chunk\n", hpa);
-
-       return false;
-}
-
-static u64 cxl_dpa_to_hpa(u64 dpa,  struct cxl_region *cxlr,
-                         struct cxl_endpoint_decoder *cxled)
-{
-       u64 dpa_offset, hpa_offset, bits_upper, mask_upper, hpa;
-       struct cxl_region_params *p = &cxlr->params;
-       int pos = cxled->pos;
-       u16 eig = 0;
-       u8 eiw = 0;
-
-       ways_to_eiw(p->interleave_ways, &eiw);
-       granularity_to_eig(p->interleave_granularity, &eig);
-
-       /*
-        * The device position in the region interleave set was removed
-        * from the offset at HPA->DPA translation. To reconstruct the
-        * HPA, place the 'pos' in the offset.
-        *
-        * The placement of 'pos' in the HPA is determined by interleave
-        * ways and granularity and is defined in the CXL Spec 3.0 Section
-        * 8.2.4.19.13 Implementation Note: Device Decode Logic
-        */
-
-       /* Remove the dpa base */
-       dpa_offset = dpa - cxl_dpa_resource_start(cxled);
-
-       mask_upper = GENMASK_ULL(51, eig + 8);
-
-       if (eiw < 8) {
-               hpa_offset = (dpa_offset & mask_upper) << eiw;
-               hpa_offset |= pos << (eig + 8);
-       } else {
-               bits_upper = (dpa_offset & mask_upper) >> (eig + 8);
-               bits_upper = bits_upper * 3;
-               hpa_offset = ((bits_upper << (eiw - 8)) + pos) << (eig + 8);
-       }
-
-       /* The lower bits remain unchanged */
-       hpa_offset |= dpa_offset & GENMASK_ULL(eig + 7, 0);
-
-       /* Apply the hpa_offset to the region base address */
-       hpa = hpa_offset + p->res->start;
-
-       if (!cxl_is_hpa_in_range(hpa, cxlr, cxled->pos))
-               return ULLONG_MAX;
-
-       return hpa;
-}
-
-u64 cxl_trace_hpa(struct cxl_region *cxlr, struct cxl_memdev *cxlmd,
-                 u64 dpa)
-{
-       struct cxl_region_params *p = &cxlr->params;
-       struct cxl_endpoint_decoder *cxled = NULL;
-
-       for (int i = 0; i <  p->nr_targets; i++) {
-               cxled = p->targets[i];
-               if (cxlmd == cxled_to_memdev(cxled))
-                       break;
-       }
-       if (!cxled || cxlmd != cxled_to_memdev(cxled))
-               return ULLONG_MAX;
-
-       return cxl_dpa_to_hpa(dpa, cxlr, cxled);
-}
index 7c5cd069f10cc5f2908b33e3a2ce2207a33235f4..e303e618aa055752158446b5994d48222939f266 100644 (file)
@@ -642,8 +642,6 @@ TRACE_EVENT(cxl_memory_module,
 #define cxl_poison_overflow(flags, time)                               \
        (flags & CXL_POISON_FLAG_OVERFLOW ? le64_to_cpu(time) : 0)
 
-u64 cxl_trace_hpa(struct cxl_region *cxlr, struct cxl_memdev *memdev, u64 dpa);
-
 TRACE_EVENT(cxl_poison,
 
        TP_PROTO(struct cxl_memdev *cxlmd, struct cxl_region *cxlr,