Branch data Line data Source code
1 : : /* SPDX-License-Identifier: BSD-3-Clause
2 : : * Copyright(C) 2021 Marvell.
3 : : */
4 : : #ifndef _ROC_NIX_INL_H_
5 : : #define _ROC_NIX_INL_H_
6 : :
7 : : /* ON INB HW area */
8 : : #define ROC_NIX_INL_ON_IPSEC_INB_HW_SZ \
9 : : PLT_ALIGN(sizeof(struct roc_ie_on_inb_sa), ROC_ALIGN)
10 : : /* ON INB SW reserved area */
11 : : #define ROC_NIX_INL_ON_IPSEC_INB_SW_RSVD 640
12 : : #define ROC_NIX_INL_ON_IPSEC_INB_SA_SZ \
13 : : (ROC_NIX_INL_ON_IPSEC_INB_HW_SZ + ROC_NIX_INL_ON_IPSEC_INB_SW_RSVD)
14 : : #define ROC_NIX_INL_ON_IPSEC_INB_SA_SZ_LOG2 10
15 : :
16 : : /* ON OUTB HW area */
17 : : #define ROC_NIX_INL_ON_IPSEC_OUTB_HW_SZ \
18 : : PLT_ALIGN(sizeof(struct roc_ie_on_outb_sa), ROC_ALIGN)
19 : : /* ON OUTB SW reserved area */
20 : : #define ROC_NIX_INL_ON_IPSEC_OUTB_SW_RSVD 256
21 : : #define ROC_NIX_INL_ON_IPSEC_OUTB_SA_SZ \
22 : : (ROC_NIX_INL_ON_IPSEC_OUTB_HW_SZ + ROC_NIX_INL_ON_IPSEC_OUTB_SW_RSVD)
23 : : #define ROC_NIX_INL_ON_IPSEC_OUTB_SA_SZ_LOG2 9
24 : :
25 : : #define ROC_NIX_INL_SA_SOFT_EXP_ERR_MAX_POLL_COUNT 25
26 : :
27 : : #define ROC_NIX_SOFT_EXP_ERR_RING_MAX_ENTRY_LOG2 16
28 : :
29 : : #define ROC_NIX_SOFT_EXP_PER_PORT_MAX_RINGS 4
30 : :
31 : : #define ROC_NIX_MAX_TOTAL_OUTB_IPSEC_SA \
32 : : (ROC_IPSEC_ERR_RING_MAX_ENTRY * ROC_NIX_SOFT_EXP_PER_PORT_MAX_RINGS)
33 : :
34 : : #define ROC_NIX_INL_MAX_SOFT_EXP_RNGS \
35 : : (PLT_MAX_ETHPORTS * ROC_NIX_SOFT_EXP_PER_PORT_MAX_RINGS)
36 : : #define ROC_NIX_INL_INB_CUSTOM_SA_SZ 512
37 : :
38 : : /* Reassembly configuration */
39 : : #define ROC_NIX_INL_REAS_ACTIVE_LIMIT 0xFFF
40 : : #define ROC_NIX_INL_REAS_ACTIVE_THRESHOLD 10
41 : : #define ROC_NIX_INL_REAS_ZOMBIE_LIMIT 0xFFF
42 : : #define ROC_NIX_INL_REAS_ZOMBIE_THRESHOLD 10
43 : :
44 : : enum nix_inl_event_type {
45 : : NIX_INL_CPT_CQ = 1,
46 : : NIX_INL_SSO,
47 : : NIX_INL_SOFT_EXPIRY_THRD,
48 : : };
49 : :
50 : : enum comp_ptr {
51 : : WQE_PTR_CPTR,
52 : : CPTR_WQE_PTR,
53 : : WQE_PTR_ANTI_REPLAY,
54 : : CPTR_ANTI_REPLAY,
55 : : };
56 : :
57 : : static inline struct roc_ie_on_inb_sa *
58 : : roc_nix_inl_on_ipsec_inb_sa(uintptr_t base, uint64_t idx)
59 : : {
60 : 0 : uint64_t off = idx << ROC_NIX_INL_ON_IPSEC_INB_SA_SZ_LOG2;
61 : :
62 : 0 : return PLT_PTR_ADD(base, off);
63 : : }
64 : :
65 : : static inline struct roc_ie_on_outb_sa *
66 : : roc_nix_inl_on_ipsec_outb_sa(uintptr_t base, uint64_t idx)
67 : : {
68 : 0 : uint64_t off = idx << ROC_NIX_INL_ON_IPSEC_OUTB_SA_SZ_LOG2;
69 : :
70 : 0 : return PLT_PTR_ADD(base, off);
71 : : }
72 : :
73 : : static inline void *
74 : : roc_nix_inl_on_ipsec_inb_sa_sw_rsvd(void *sa)
75 : : {
76 [ # # # # ]: 0 : return PLT_PTR_ADD(sa, ROC_NIX_INL_ON_IPSEC_INB_HW_SZ);
77 : : }
78 : :
79 : : static inline void *
80 : : roc_nix_inl_on_ipsec_outb_sa_sw_rsvd(void *sa)
81 : : {
82 : 0 : return PLT_PTR_ADD(sa, ROC_NIX_INL_ON_IPSEC_OUTB_HW_SZ);
83 : : }
84 : :
85 : : /* Inline device SSO Work callback */
86 : : typedef void (*roc_nix_inl_sso_work_cb_t)(uint64_t *gw, void *args, enum nix_inl_event_type type,
87 : : void *cq_s, uint32_t port_id);
88 : :
89 : : typedef int (*roc_nix_inl_meta_pool_cb_t)(uint64_t *aura_handle, uintptr_t *mpool,
90 : : uint32_t blk_sz, uint32_t nb_bufs, bool destroy,
91 : : const char *mempool_name);
92 : : typedef int (*roc_nix_inl_custom_meta_pool_cb_t)(uintptr_t pmpool, uintptr_t *mpool,
93 : : const char *mempool_name, uint64_t *aura_handle,
94 : : uint32_t blk_sz, uint32_t nb_bufs, bool destroy);
95 : :
96 : : struct roc_nix_inl_dev {
97 : : /* Input parameters */
98 : : struct plt_pci_device *pci_dev;
99 : : uint32_t ipsec_in_min_spi;
100 : : uint32_t ipsec_in_max_spi;
101 : : bool selftest;
102 : : bool is_multi_channel;
103 : : uint16_t channel;
104 : : uint16_t chan_mask;
105 : : uint16_t wqe_skip;
106 : : uint8_t spb_drop_pc;
107 : : uint8_t lpb_drop_pc;
108 : : uint32_t soft_exp_poll_freq; /* Polling disabled if 0 */
109 : : uint8_t cpt_cq_enable;
110 : : uint32_t nb_meta_bufs;
111 : : uint32_t meta_buf_sz;
112 : : uint32_t max_ipsec_rules;
113 : : uint8_t rx_inj_ena; /* Rx Inject Enable */
114 : : uint8_t custom_inb_sa;
115 : : uint8_t nb_inb_cptlfs;
116 : : int8_t res_addr_offset; /* CPT result address offset */
117 : :
118 : : /* End of input parameters */
119 : :
120 : : #define ROC_NIX_INL_MEM_SZ (6144)
121 : : uint8_t reserved[ROC_NIX_INL_MEM_SZ] __plt_cache_aligned;
122 : : } __plt_cache_aligned;
123 : :
124 : : struct roc_nix_inl_dev_q {
125 : : uint32_t nb_desc;
126 : : uintptr_t rbase;
127 : : uintptr_t lmt_base;
128 : : uint64_t __plt_atomic *fc_addr;
129 : : uint64_t io_addr;
130 : : int32_t fc_addr_sw;
131 : : } __plt_cache_aligned;
132 : :
133 : : struct roc_nix_cpt_lf_stats {
134 : : uint64_t enc_pkts;
135 : : uint64_t enc_bytes;
136 : : uint64_t dec_pkts;
137 : : uint64_t dec_bytes;
138 : : };
139 : :
140 : : /* NIX Inline Device API */
141 : : int __roc_api roc_nix_inl_dev_init(struct roc_nix_inl_dev *roc_inl_dev);
142 : : int __roc_api roc_nix_inl_dev_fini(struct roc_nix_inl_dev *roc_inl_dev);
143 : : void __roc_api roc_nix_inl_dev_dump(struct roc_nix_inl_dev *roc_inl_dev, FILE *file);
144 : : bool __roc_api roc_nix_inl_dev_is_probed(void);
145 : : void __roc_api roc_nix_inl_dev_lock(void);
146 : : void __roc_api roc_nix_inl_dev_unlock(void);
147 : : int __roc_api roc_nix_inl_dev_xaq_realloc(uint64_t aura_handle);
148 : : int __roc_api roc_nix_inl_dev_stats_get(struct roc_nix_stats *stats);
149 : : int __roc_api roc_nix_inl_dev_stats_reset(void);
150 : : int __roc_api roc_nix_inl_dev_cpt_setup(bool use_inl_dev_sso);
151 : : int __roc_api roc_nix_inl_dev_cpt_release(void);
152 : : bool __roc_api roc_nix_inl_dev_is_multi_channel(void);
153 : :
154 : : /* NIX Inline Inbound API */
155 : : int __roc_api roc_nix_inl_inb_init(struct roc_nix *roc_nix);
156 : : int __roc_api roc_nix_inl_inb_fini(struct roc_nix *roc_nix);
157 : : bool __roc_api roc_nix_inl_inb_is_enabled(struct roc_nix *roc_nix);
158 : : uintptr_t __roc_api roc_nix_inl_inb_sa_base_get(struct roc_nix *roc_nix,
159 : : bool inl_dev_sa);
160 : : uint16_t roc_nix_inl_inb_ipsec_profile_id_get(struct roc_nix *roc_nix, bool inb_inl_dev);
161 : : uint16_t roc_nix_inl_inb_reass_profile_id_get(struct roc_nix *roc_nix, bool inb_inl_dev);
162 : : bool __roc_api roc_nix_inl_inb_rx_inject_enable(struct roc_nix *roc_nix, bool inl_dev_sa);
163 : : uint32_t __roc_api roc_nix_inl_inb_spi_range(struct roc_nix *roc_nix,
164 : : bool inl_dev_sa, uint32_t *min,
165 : : uint32_t *max);
166 : : uint32_t __roc_api roc_nix_inl_inb_sa_sz(struct roc_nix *roc_nix,
167 : : bool inl_dev_sa);
168 : : uintptr_t __roc_api roc_nix_inl_inb_sa_get(struct roc_nix *roc_nix,
169 : : bool inl_dev_sa, uint32_t spi);
170 : : void __roc_api roc_nix_inb_mode_set(struct roc_nix *roc_nix, bool use_inl_dev);
171 : : void __roc_api roc_nix_inl_inb_set(struct roc_nix *roc_nix, bool ena);
172 : : int __roc_api roc_nix_inl_dev_rq_get(struct roc_nix_rq *rq, bool ena);
173 : : int __roc_api roc_nix_inl_dev_rq_put(struct roc_nix_rq *rq);
174 : : bool __roc_api roc_nix_inb_is_with_inl_dev(struct roc_nix *roc_nix);
175 : : struct roc_nix_rq *__roc_api roc_nix_inl_dev_rq(struct roc_nix *roc_nix);
176 : : int __roc_api roc_nix_inl_inb_tag_update(struct roc_nix *roc_nix, uint32_t tag_const, uint8_t tt);
177 : : int __roc_api roc_nix_reassembly_configure(struct roc_cpt_rxc_time_cfg *req_cfg,
178 : : uint32_t max_wait_time);
179 : : int __roc_api roc_nix_inl_ts_pkind_set(struct roc_nix *roc_nix, bool ts_ena, bool inb_inl_dev,
180 : : uint8_t profile_id);
181 : : int __roc_api roc_nix_inl_rq_ena_dis(struct roc_nix *roc_nix, bool ena);
182 : : int __roc_api roc_nix_inl_meta_aura_check(struct roc_nix *roc_nix, struct roc_nix_rq *rq);
183 : :
184 : : /* NIX Inline Outbound API */
185 : : int __roc_api roc_nix_inl_outb_init(struct roc_nix *roc_nix);
186 : : int __roc_api roc_nix_inl_outb_fini(struct roc_nix *roc_nix);
187 : : bool __roc_api roc_nix_inl_outb_is_enabled(struct roc_nix *roc_nix);
188 : : uintptr_t __roc_api roc_nix_inl_outb_sa_base_get(struct roc_nix *roc_nix);
189 : : struct roc_cpt_lf *__roc_api
190 : : roc_nix_inl_outb_lf_base_get(struct roc_nix *roc_nix);
191 : : struct roc_cpt_lf *__roc_api roc_nix_inl_inb_inj_lf_get(struct roc_nix *roc_nix);
192 : : uint16_t __roc_api roc_nix_inl_outb_sso_pffunc_get(struct roc_nix *roc_nix);
193 : : int __roc_api roc_nix_inl_cb_register(roc_nix_inl_sso_work_cb_t cb, void *args);
194 : : int __roc_api roc_nix_inl_cb_unregister(roc_nix_inl_sso_work_cb_t cb,
195 : : void *args);
196 : : int __roc_api roc_nix_inl_outb_soft_exp_poll_switch(struct roc_nix *roc_nix,
197 : : bool poll);
198 : : uint64_t *__roc_api roc_nix_inl_outb_ring_base_get(struct roc_nix *roc_nix);
199 : : void __roc_api roc_nix_inl_meta_pool_cb_register(roc_nix_inl_meta_pool_cb_t cb);
200 : : void __roc_api roc_nix_inl_custom_meta_pool_cb_register(roc_nix_inl_custom_meta_pool_cb_t cb);
201 : :
202 : : /* NIX Inline/Outbound API */
203 : : enum roc_nix_inl_sa_sync_op {
204 : : ROC_NIX_INL_SA_OP_FLUSH,
205 : : ROC_NIX_INL_SA_OP_FLUSH_INVAL,
206 : : ROC_NIX_INL_SA_OP_RELOAD,
207 : : };
208 : :
209 : : int __roc_api roc_nix_inl_sa_sync(struct roc_nix *roc_nix, void *sa, bool inb,
210 : : enum roc_nix_inl_sa_sync_op op);
211 : : int __roc_api roc_nix_inl_ctx_write(struct roc_nix *roc_nix, void *sa_dptr,
212 : : void *sa_cptr, bool inb, uint16_t sa_len);
213 : : void __roc_api roc_nix_inl_outb_cpt_lfs_dump(struct roc_nix *roc_nix, FILE *file);
214 : : uint64_t __roc_api roc_nix_inl_eng_caps_get(struct roc_nix *roc_nix);
215 : : void *__roc_api roc_nix_inl_dev_qptr_get(uint8_t qid);
216 : : uint8_t __roc_api roc_nix_inl_is_cq_ena(struct roc_nix *roc_nix);
217 : :
218 : : enum roc_nix_cpt_lf_stats_type {
219 : : ROC_NIX_CPT_LF_STATS_INL_DEV,
220 : : ROC_NIX_CPT_LF_STATS_KERNEL,
221 : : ROC_NIX_CPT_LF_STATS_ETHDEV = 2,
222 : : };
223 : : int __roc_api roc_nix_inl_cpt_lf_stats_get(struct roc_nix *roc_nix,
224 : : enum roc_nix_cpt_lf_stats_type type,
225 : : struct roc_nix_cpt_lf_stats *stats, uint16_t idx);
226 : : #endif /* _ROC_NIX_INL_H_ */
|