Branch data Line data Source code
1 : : /* SPDX-License-Identifier: BSD-3-Clause
2 : : * Copyright(c) 2018 Intel Corporation
3 : : */
4 : :
5 : : #ifndef _ICE_RXTX_H_
6 : : #define _ICE_RXTX_H_
7 : :
8 : : #include "../common/rx.h"
9 : : #include "../common/tx.h"
10 : : #include "ice_ethdev.h"
11 : :
12 : : #define FIELD_GET(_mask, _reg) \
13 : : (__extension__ ({ \
14 : : typeof(_mask) _x = (_mask); \
15 : : (typeof(_x))(((_reg) & (_x)) >> rte_bsf32(_x)); \
16 : : }))
17 : : #define FIELD_PREP(_mask, _val) \
18 : : (__extension__ ({ \
19 : : typeof(_mask) _x = (_mask); \
20 : : ((typeof(_x))(_val) << rte_bsf32(_x)) & (_x); \
21 : : }))
22 : :
23 : : #define ICE_ALIGN_RING_DESC 32
24 : : #define ICE_MIN_RING_DESC 64
25 : : #define ICE_MAX_RING_DESC (8192 - 32)
26 : : #define ICE_MAX_RING_DESC_E830 8096
27 : : #define ICE_MAX_NUM_DESC_BY_MAC(hw) ((hw)->phy_model == \
28 : : ICE_PHY_E830 ? \
29 : : ICE_MAX_RING_DESC_E830 : \
30 : : ICE_MAX_RING_DESC)
31 : : #define ICE_DMA_MEM_ALIGN 4096
32 : : #define ICE_RING_BASE_ALIGN 128
33 : :
34 : : #define ICE_TXTIME_TX_DESC_IDX_M RTE_GENMASK32(12, 0)
35 : : #define ICE_TXTIME_STAMP_M RTE_GENMASK32(31, 13)
36 : : #define ICE_REQ_DESC_MULTIPLE 32
37 : :
38 : : #define ICE_RX_MAX_BURST CI_RX_MAX_BURST
39 : : #define ICE_TX_MAX_BURST 32
40 : :
41 : : /* Maximal number of segments to split. */
42 : : #define ICE_RX_MAX_NSEG CI_RX_MAX_NSEG
43 : :
44 : : #define ICE_CHK_Q_ENA_COUNT 100
45 : : #define ICE_CHK_Q_ENA_INTERVAL_US 100
46 : :
47 : : #define ICE_SUPPORT_CHAIN_NUM 5
48 : :
49 : : #define ICE_VPMD_RX_BURST CI_VPMD_RX_BURST
50 : : #define ICE_VPMD_RXQ_REARM_THRESH CI_VPMD_RX_REARM_THRESH
51 : : #define ICE_VPMD_DESCS_PER_LOOP CI_VPMD_DESCS_PER_LOOP
52 : : #define ICE_VPMD_DESCS_PER_LOOP_WIDE CI_VPMD_DESCS_PER_LOOP_WIDE
53 : :
54 : : #define ICE_FDIR_PKT_LEN 512
55 : :
56 : : #define ICE_RXDID_COMMS_OVS 22
57 : :
58 : : #define ICE_TX_MIN_PKT_LEN 17
59 : :
60 : : #define ICE_TX_OFFLOAD_MASK ( \
61 : : RTE_MBUF_F_TX_OUTER_IPV6 | \
62 : : RTE_MBUF_F_TX_OUTER_IPV4 | \
63 : : RTE_MBUF_F_TX_OUTER_IP_CKSUM | \
64 : : RTE_MBUF_F_TX_VLAN | \
65 : : RTE_MBUF_F_TX_IPV6 | \
66 : : RTE_MBUF_F_TX_IPV4 | \
67 : : RTE_MBUF_F_TX_IP_CKSUM | \
68 : : RTE_MBUF_F_TX_L4_MASK | \
69 : : RTE_MBUF_F_TX_IEEE1588_TMST | \
70 : : RTE_MBUF_F_TX_TCP_SEG | \
71 : : RTE_MBUF_F_TX_QINQ | \
72 : : RTE_MBUF_F_TX_TUNNEL_MASK | \
73 : : RTE_MBUF_F_TX_UDP_SEG | \
74 : : RTE_MBUF_F_TX_OUTER_UDP_CKSUM)
75 : :
76 : : #define ICE_TX_OFFLOAD_NOTSUP_MASK \
77 : : (RTE_MBUF_F_TX_OFFLOAD_MASK ^ ICE_TX_OFFLOAD_MASK)
78 : :
79 : : /* basic scalar path */
80 : : #define ICE_RX_SCALAR_OFFLOADS ( \
81 : : RTE_ETH_RX_OFFLOAD_VLAN_STRIP | \
82 : : RTE_ETH_RX_OFFLOAD_KEEP_CRC | \
83 : : RTE_ETH_RX_OFFLOAD_SCATTER | \
84 : : RTE_ETH_RX_OFFLOAD_VLAN_FILTER | \
85 : : RTE_ETH_RX_OFFLOAD_IPV4_CKSUM | \
86 : : RTE_ETH_RX_OFFLOAD_UDP_CKSUM | \
87 : : RTE_ETH_RX_OFFLOAD_TCP_CKSUM | \
88 : : RTE_ETH_RX_OFFLOAD_QINQ_STRIP | \
89 : : RTE_ETH_RX_OFFLOAD_OUTER_IPV4_CKSUM | \
90 : : RTE_ETH_RX_OFFLOAD_VLAN_EXTEND | \
91 : : RTE_ETH_RX_OFFLOAD_RSS_HASH | \
92 : : RTE_ETH_RX_OFFLOAD_TIMESTAMP | \
93 : : RTE_ETH_RX_OFFLOAD_BUFFER_SPLIT)
94 : : /* basic vector paths */
95 : : #define ICE_RX_VECTOR_OFFLOADS ( \
96 : : RTE_ETH_RX_OFFLOAD_KEEP_CRC | \
97 : : RTE_ETH_RX_OFFLOAD_SCATTER | \
98 : : RTE_ETH_RX_OFFLOAD_OUTER_IPV4_CKSUM)
99 : : /* vector offload paths */
100 : : #define ICE_RX_VECTOR_OFFLOAD_OFFLOADS ( \
101 : : ICE_RX_VECTOR_OFFLOADS | \
102 : : RTE_ETH_RX_OFFLOAD_CHECKSUM | \
103 : : RTE_ETH_RX_OFFLOAD_VLAN_STRIP | \
104 : : RTE_ETH_RX_OFFLOAD_VLAN_FILTER |\
105 : : RTE_ETH_RX_OFFLOAD_RSS_HASH)
106 : :
107 : : /* basic scalar path */
108 : : #define ICE_TX_SCALAR_OFFLOADS ( \
109 : : RTE_ETH_TX_OFFLOAD_VLAN_INSERT | \
110 : : RTE_ETH_TX_OFFLOAD_TCP_TSO | \
111 : : RTE_ETH_TX_OFFLOAD_UDP_TSO | \
112 : : RTE_ETH_TX_OFFLOAD_MULTI_SEGS | \
113 : : RTE_ETH_TX_OFFLOAD_MBUF_FAST_FREE | \
114 : : RTE_ETH_TX_OFFLOAD_QINQ_INSERT | \
115 : : RTE_ETH_TX_OFFLOAD_IPV4_CKSUM | \
116 : : RTE_ETH_TX_OFFLOAD_UDP_CKSUM | \
117 : : RTE_ETH_TX_OFFLOAD_TCP_CKSUM | \
118 : : RTE_ETH_TX_OFFLOAD_SCTP_CKSUM | \
119 : : RTE_ETH_TX_OFFLOAD_OUTER_IPV4_CKSUM | \
120 : : RTE_ETH_TX_OFFLOAD_OUTER_UDP_CKSUM | \
121 : : RTE_ETH_TX_OFFLOAD_VXLAN_TNL_TSO | \
122 : : RTE_ETH_TX_OFFLOAD_GRE_TNL_TSO | \
123 : : RTE_ETH_TX_OFFLOAD_IPIP_TNL_TSO | \
124 : : RTE_ETH_TX_OFFLOAD_GENEVE_TNL_TSO | \
125 : : RTE_ETH_TX_OFFLOAD_SEND_ON_TIMESTAMP)
126 : :
127 : : /* Max header size can be 2K - 64 bytes */
128 : : #define ICE_RX_HDR_BUF_SIZE (2048 - 64)
129 : :
130 : : /* Max data buffer size must be 16K - 128 bytes */
131 : : #define ICE_RX_MAX_DATA_BUF_SIZE (16 * 1024 - 128)
132 : :
133 : : #define ICE_HEADER_SPLIT_ENA BIT(0)
134 : :
135 : : #define ICE_TX_MTU_SEG_MAX 8
136 : :
137 : : typedef void (*ice_rxd_to_pkt_fields_t)(struct ci_rx_queue *rxq,
138 : : struct rte_mbuf *mb,
139 : : volatile union ci_rx_flex_desc *rxdp);
140 : :
141 : : enum ice_rx_dtype {
142 : : ICE_RX_DTYPE_NO_SPLIT = 0,
143 : : ICE_RX_DTYPE_HEADER_SPLIT = 1,
144 : : ICE_RX_DTYPE_SPLIT_ALWAYS = 2,
145 : : };
146 : :
147 : : /**
148 : : * Structure associated with Tx Time based queue
149 : : */
150 : : struct ice_txtime {
151 : : volatile struct ice_ts_desc *ice_ts_ring; /* Tx time ring virtual address */
152 : : uint16_t nb_ts_desc; /* number of Tx Time descriptors */
153 : : uint16_t ts_tail; /* current value of tail register */
154 : : int ts_offset; /* dynamic mbuf Tx timestamp field offset */
155 : : uint64_t ts_flag; /* dynamic mbuf Tx timestamp flag */
156 : : const struct rte_memzone *ts_mz;
157 : : };
158 : :
159 : : /* Rx Flex Descriptor for Comms Package Profile
160 : : * RxDID Profile ID 22 (swap Hash and FlowID)
161 : : * Flex-field 0: Flow ID lower 16-bits
162 : : * Flex-field 1: Flow ID upper 16-bits
163 : : * Flex-field 2: RSS hash lower 16-bits
164 : : * Flex-field 3: RSS hash upper 16-bits
165 : : * Flex-field 4: AUX0
166 : : * Flex-field 5: AUX1
167 : : */
168 : : struct ice_32b_rx_flex_desc_comms_ovs {
169 : : /* Qword 0 */
170 : : u8 rxdid;
171 : : u8 mir_id_umb_cast;
172 : : __le16 ptype_flexi_flags0;
173 : : __le16 pkt_len;
174 : : __le16 hdr_len_sph_flex_flags1;
175 : :
176 : : /* Qword 1 */
177 : : __le16 status_error0;
178 : : __le16 l2tag1;
179 : : __le32 flow_id;
180 : :
181 : : /* Qword 2 */
182 : : __le16 status_error1;
183 : : u8 flexi_flags2;
184 : : u8 ts_low;
185 : : __le16 l2tag2_1st;
186 : : __le16 l2tag2_2nd;
187 : :
188 : : /* Qword 3 */
189 : : __le32 rss_hash;
190 : : union {
191 : : struct {
192 : : __le16 aux0;
193 : : __le16 aux1;
194 : : } flex;
195 : : __le32 ts_high;
196 : : } flex_ts;
197 : : };
198 : :
199 : : int ice_rx_queue_setup(struct rte_eth_dev *dev,
200 : : uint16_t queue_idx,
201 : : uint16_t nb_desc,
202 : : unsigned int socket_id,
203 : : const struct rte_eth_rxconf *rx_conf,
204 : : struct rte_mempool *mp);
205 : : int ice_tx_queue_setup(struct rte_eth_dev *dev,
206 : : uint16_t queue_idx,
207 : : uint16_t nb_desc,
208 : : unsigned int socket_id,
209 : : const struct rte_eth_txconf *tx_conf);
210 : : int ice_rx_queue_start(struct rte_eth_dev *dev, uint16_t rx_queue_id);
211 : : int ice_rx_queue_stop(struct rte_eth_dev *dev, uint16_t rx_queue_id);
212 : : int ice_tx_queue_start(struct rte_eth_dev *dev, uint16_t tx_queue_id);
213 : : int ice_tx_queue_stop(struct rte_eth_dev *dev, uint16_t tx_queue_id);
214 : : int ice_fdir_rx_queue_start(struct rte_eth_dev *dev, uint16_t rx_queue_id);
215 : : int ice_fdir_tx_queue_start(struct rte_eth_dev *dev, uint16_t tx_queue_id);
216 : : int ice_fdir_rx_queue_stop(struct rte_eth_dev *dev, uint16_t rx_queue_id);
217 : : int ice_fdir_tx_queue_stop(struct rte_eth_dev *dev, uint16_t tx_queue_id);
218 : : void ice_rx_queue_release(void *rxq);
219 : : void ice_tx_queue_release(void *txq);
220 : : void ice_dev_rx_queue_release(struct rte_eth_dev *dev, uint16_t qid);
221 : : void ice_dev_tx_queue_release(struct rte_eth_dev *dev, uint16_t qid);
222 : : void ice_free_queues(struct rte_eth_dev *dev);
223 : : int ice_fdir_setup_tx_resources(struct ice_pf *pf);
224 : : int ice_fdir_setup_rx_resources(struct ice_pf *pf);
225 : : uint16_t ice_recv_pkts(void *rx_queue, struct rte_mbuf **rx_pkts,
226 : : uint16_t nb_pkts);
227 : : uint16_t ice_xmit_pkts(void *tx_queue, struct rte_mbuf **tx_pkts,
228 : : uint16_t nb_pkts);
229 : : void ice_set_rx_function(struct rte_eth_dev *dev);
230 : : uint16_t ice_prep_pkts(__rte_unused void *tx_queue, struct rte_mbuf **tx_pkts,
231 : : uint16_t nb_pkts);
232 : : void ice_set_tx_function_flag(struct rte_eth_dev *dev,
233 : : struct ci_tx_queue *txq);
234 : : void ice_set_tx_function(struct rte_eth_dev *dev);
235 : : int ice_rx_queue_count(void *rx_queue);
236 : : void ice_rxq_info_get(struct rte_eth_dev *dev, uint16_t queue_id,
237 : : struct rte_eth_rxq_info *qinfo);
238 : : void ice_txq_info_get(struct rte_eth_dev *dev, uint16_t queue_id,
239 : : struct rte_eth_txq_info *qinfo);
240 : : int ice_rx_burst_mode_get(struct rte_eth_dev *dev, uint16_t queue_id,
241 : : struct rte_eth_burst_mode *mode);
242 : : int ice_tx_burst_mode_get(struct rte_eth_dev *dev, uint16_t queue_id,
243 : : struct rte_eth_burst_mode *mode);
244 : : int ice_rx_descriptor_status(void *rx_queue, uint16_t offset);
245 : : int ice_tx_descriptor_status(void *tx_queue, uint16_t offset);
246 : : void ice_set_default_ptype_table(struct rte_eth_dev *dev);
247 : : const uint32_t *ice_dev_supported_ptypes_get(struct rte_eth_dev *dev,
248 : : size_t *no_of_elements);
249 : : void ice_select_rxd_to_pkt_fields_handler(struct ci_rx_queue *rxq,
250 : : uint32_t rxdid);
251 : :
252 : : uint16_t ice_recv_pkts_vec(void *rx_queue, struct rte_mbuf **rx_pkts,
253 : : uint16_t nb_pkts);
254 : : uint16_t ice_recv_scattered_pkts_vec(void *rx_queue, struct rte_mbuf **rx_pkts,
255 : : uint16_t nb_pkts);
256 : : uint16_t ice_xmit_pkts_vec(void *tx_queue, struct rte_mbuf **tx_pkts,
257 : : uint16_t nb_pkts);
258 : : int ice_rx_vec_dev_check(struct rte_eth_dev *dev);
259 : : int ice_tx_vec_dev_check(struct rte_eth_dev *dev);
260 : : int ice_rxq_vec_setup(struct ci_rx_queue *rxq);
261 : : uint16_t ice_recv_pkts_vec_avx2(void *rx_queue, struct rte_mbuf **rx_pkts,
262 : : uint16_t nb_pkts);
263 : : uint16_t ice_recv_pkts_vec_avx2_offload(void *rx_queue, struct rte_mbuf **rx_pkts,
264 : : uint16_t nb_pkts);
265 : : uint16_t ice_recv_scattered_pkts_vec_avx2(void *rx_queue,
266 : : struct rte_mbuf **rx_pkts,
267 : : uint16_t nb_pkts);
268 : : uint16_t ice_recv_scattered_pkts_vec_avx2_offload(void *rx_queue,
269 : : struct rte_mbuf **rx_pkts,
270 : : uint16_t nb_pkts);
271 : : uint16_t ice_xmit_pkts_vec_avx2(void *tx_queue, struct rte_mbuf **tx_pkts,
272 : : uint16_t nb_pkts);
273 : : uint16_t ice_xmit_pkts_vec_avx2_offload(void *tx_queue, struct rte_mbuf **tx_pkts,
274 : : uint16_t nb_pkts);
275 : : uint16_t ice_xmit_pkts_vec_avx2_ctx_offload(void *tx_queue, struct rte_mbuf **tx_pkts,
276 : : uint16_t nb_pkts);
277 : : uint16_t ice_recv_pkts_vec_avx512(void *rx_queue, struct rte_mbuf **rx_pkts,
278 : : uint16_t nb_pkts);
279 : : uint16_t ice_recv_pkts_vec_avx512_offload(void *rx_queue,
280 : : struct rte_mbuf **rx_pkts,
281 : : uint16_t nb_pkts);
282 : : uint16_t ice_recv_scattered_pkts_vec_avx512(void *rx_queue,
283 : : struct rte_mbuf **rx_pkts,
284 : : uint16_t nb_pkts);
285 : : uint16_t ice_recv_scattered_pkts_vec_avx512_offload(void *rx_queue,
286 : : struct rte_mbuf **rx_pkts,
287 : : uint16_t nb_pkts);
288 : : uint16_t ice_xmit_pkts_vec_avx512(void *tx_queue, struct rte_mbuf **tx_pkts,
289 : : uint16_t nb_pkts);
290 : : uint16_t ice_xmit_pkts_vec_avx512_offload(void *tx_queue,
291 : : struct rte_mbuf **tx_pkts,
292 : : uint16_t nb_pkts);
293 : : uint16_t ice_xmit_pkts_vec_avx512_ctx_offload(void *tx_queue,
294 : : struct rte_mbuf **tx_pkts,
295 : : uint16_t nb_pkts);
296 : : int ice_fdir_programming(struct ice_pf *pf, struct ice_fltr_desc *fdir_desc);
297 : : int ice_tx_done_cleanup(void *txq, uint32_t free_cnt);
298 : : int ice_get_monitor_addr(void *rx_queue, struct rte_power_monitor_cond *pmc);
299 : : enum rte_vect_max_simd ice_get_max_simd_bitwidth(void);
300 : :
301 : : #define FDIR_PARSING_ENABLE_PER_QUEUE(ad, on) do { \
302 : : int i; \
303 : : for (i = 0; i < (ad)->pf.dev_data->nb_rx_queues; i++) { \
304 : : struct ci_rx_queue *rxq = (ad)->pf.dev_data->rx_queues[i]; \
305 : : if (!rxq) \
306 : : continue; \
307 : : rxq->fdir_enabled = on; \
308 : : } \
309 : : PMD_DRV_LOG(DEBUG, "FDIR processing on RX set to %d", on); \
310 : : } while (0)
311 : :
312 : : /* Enable/disable flow director parsing from Rx descriptor in data path. */
313 : : static inline
314 : 0 : void ice_fdir_rx_parsing_enable(struct ice_adapter *ad, bool on)
315 : : {
316 [ # # ]: 0 : if (on) {
317 : : /* Enable flow director parsing from Rx descriptor */
318 [ # # # # ]: 0 : FDIR_PARSING_ENABLE_PER_QUEUE(ad, on);
319 : 0 : ad->fdir_ref_cnt++;
320 : : } else {
321 [ # # ]: 0 : if (ad->fdir_ref_cnt >= 1) {
322 : 0 : ad->fdir_ref_cnt--;
323 : :
324 [ # # ]: 0 : if (ad->fdir_ref_cnt == 0)
325 [ # # # # ]: 0 : FDIR_PARSING_ENABLE_PER_QUEUE(ad, on);
326 : : }
327 : : }
328 : 0 : }
329 : :
330 : : #define ICE_TIMESYNC_REG_WRAP_GUARD_BAND 10000
331 : :
332 : : /* Helper function to convert a 32b nanoseconds timestamp to 64b. */
333 : : static inline
334 : 0 : uint64_t ice_tstamp_convert_32b_64b(struct ice_hw *hw, struct ice_adapter *ad,
335 : : uint32_t flag, uint32_t in_timestamp)
336 : : {
337 : 0 : uint8_t tmr_idx = hw->func_caps.ts_func_info.tmr_index_assoc;
338 : : const uint64_t mask = 0xFFFFFFFF;
339 : : uint32_t hi, lo, lo2, delta;
340 : : uint64_t ns;
341 : :
342 [ # # ]: 0 : if (flag) {
343 : 0 : lo = ICE_READ_REG(hw, GLTSYN_TIME_L(tmr_idx));
344 : 0 : hi = ICE_READ_REG(hw, GLTSYN_TIME_H(tmr_idx));
345 : :
346 : : /*
347 : : * On typical system, the delta between lo and lo2 is ~1000ns,
348 : : * so 10000 seems a large-enough but not overly-big guard band.
349 : : */
350 [ # # ]: 0 : if (lo > (UINT32_MAX - ICE_TIMESYNC_REG_WRAP_GUARD_BAND))
351 : 0 : lo2 = ICE_READ_REG(hw, GLTSYN_TIME_L(tmr_idx));
352 : : else
353 : : lo2 = lo;
354 : :
355 [ # # ]: 0 : if (lo2 < lo) {
356 : 0 : lo = ICE_READ_REG(hw, GLTSYN_TIME_L(tmr_idx));
357 : 0 : hi = ICE_READ_REG(hw, GLTSYN_TIME_H(tmr_idx));
358 : : }
359 : :
360 : 0 : ad->time_hw = ((uint64_t)hi << 32) | lo;
361 : : }
362 : :
363 : 0 : delta = (in_timestamp - (uint32_t)(ad->time_hw & mask));
364 [ # # ]: 0 : if (delta > (mask / 2)) {
365 : 0 : delta = ((uint32_t)(ad->time_hw & mask) - in_timestamp);
366 : 0 : ns = ad->time_hw - delta;
367 : : } else {
368 : 0 : ns = ad->time_hw + delta;
369 : : }
370 : :
371 : 0 : return ns;
372 : : }
373 : :
374 : : #endif /* _ICE_RXTX_H_ */
|
