Branch data Line data Source code
1 : : /* SPDX-License-Identifier: BSD-3-Clause
2 : : * Copyright(c) 2016-2017 Intel Corporation
3 : : */
4 : :
5 : : #include <sys/queue.h>
6 : : #include <stdio.h>
7 : : #include <errno.h>
8 : : #include <stdint.h>
9 : : #include <string.h>
10 : : #include <unistd.h>
11 : : #include <stdarg.h>
12 : : #include <stdlib.h>
13 : :
14 : : #include <rte_debug.h>
15 : : #include <rte_ether.h>
16 : : #include <ethdev_driver.h>
17 : : #include <rte_log.h>
18 : : #include <rte_malloc.h>
19 : : #include <rte_tailq.h>
20 : : #include <rte_hexdump.h>
21 : : #include <rte_flow_driver.h>
22 : : #include <rte_bitmap.h>
23 : :
24 : : #include "i40e_logs.h"
25 : : #include "base/i40e_type.h"
26 : : #include "base/i40e_prototype.h"
27 : : #include "i40e_ethdev.h"
28 : : #include "i40e_hash.h"
29 : :
30 : : #include "../common/flow_check.h"
31 : :
32 : : #define I40E_IPV6_TC_MASK (0xFF << I40E_FDIR_IPv6_TC_OFFSET)
33 : : #define I40E_IPV6_FRAG_HEADER 44
34 : : #define I40E_TENANT_ARRAY_NUM 3
35 : : #define I40E_VLAN_TCI_MASK 0xFFFF
36 : :
37 : : static int i40e_flow_validate(struct rte_eth_dev *dev,
38 : : const struct rte_flow_attr *attr,
39 : : const struct rte_flow_item pattern[],
40 : : const struct rte_flow_action actions[],
41 : : struct rte_flow_error *error);
42 : : static struct rte_flow *i40e_flow_create(struct rte_eth_dev *dev,
43 : : const struct rte_flow_attr *attr,
44 : : const struct rte_flow_item pattern[],
45 : : const struct rte_flow_action actions[],
46 : : struct rte_flow_error *error);
47 : : static int i40e_flow_destroy(struct rte_eth_dev *dev,
48 : : struct rte_flow *flow,
49 : : struct rte_flow_error *error);
50 : : static int i40e_flow_flush(struct rte_eth_dev *dev,
51 : : struct rte_flow_error *error);
52 : : static int i40e_flow_query(struct rte_eth_dev *dev,
53 : : struct rte_flow *flow,
54 : : const struct rte_flow_action *actions,
55 : : void *data, struct rte_flow_error *error);
56 : : static int i40e_flow_dev_dump(struct rte_eth_dev *dev,
57 : : struct rte_flow *flow,
58 : : FILE *file,
59 : : struct rte_flow_error *error);
60 : : static int
61 : : i40e_flow_parse_ethertype_pattern(struct rte_eth_dev *dev,
62 : : const struct rte_flow_item *pattern,
63 : : struct rte_flow_error *error,
64 : : struct rte_eth_ethertype_filter *filter);
65 : : static int i40e_flow_parse_ethertype_action(struct rte_eth_dev *dev,
66 : : const struct rte_flow_action *actions,
67 : : struct rte_flow_error *error,
68 : : struct rte_eth_ethertype_filter *filter);
69 : : static int i40e_flow_parse_fdir_pattern(struct rte_eth_dev *dev,
70 : : const struct rte_flow_item *pattern,
71 : : struct rte_flow_error *error,
72 : : struct i40e_fdir_filter_conf *filter);
73 : : static int i40e_flow_parse_fdir_action(struct rte_eth_dev *dev,
74 : : const struct rte_flow_action *actions,
75 : : struct rte_flow_error *error,
76 : : struct i40e_fdir_filter_conf *filter);
77 : : static int i40e_flow_parse_tunnel_action(struct rte_eth_dev *dev,
78 : : const struct rte_flow_action *actions,
79 : : struct rte_flow_error *error,
80 : : struct i40e_tunnel_filter_conf *filter);
81 : : static int i40e_flow_parse_ethertype_filter(struct rte_eth_dev *dev,
82 : : const struct rte_flow_item pattern[],
83 : : const struct rte_flow_action actions[],
84 : : struct rte_flow_error *error,
85 : : struct i40e_filter_ctx *filter);
86 : : static int i40e_flow_parse_fdir_filter(struct rte_eth_dev *dev,
87 : : const struct rte_flow_item pattern[],
88 : : const struct rte_flow_action actions[],
89 : : struct rte_flow_error *error,
90 : : struct i40e_filter_ctx *filter);
91 : : static int i40e_flow_parse_vxlan_filter(struct rte_eth_dev *dev,
92 : : const struct rte_flow_item pattern[],
93 : : const struct rte_flow_action actions[],
94 : : struct rte_flow_error *error,
95 : : struct i40e_filter_ctx *filter);
96 : : static int i40e_flow_parse_nvgre_filter(struct rte_eth_dev *dev,
97 : : const struct rte_flow_item pattern[],
98 : : const struct rte_flow_action actions[],
99 : : struct rte_flow_error *error,
100 : : struct i40e_filter_ctx *filter);
101 : : static int i40e_flow_parse_mpls_filter(struct rte_eth_dev *dev,
102 : : const struct rte_flow_item pattern[],
103 : : const struct rte_flow_action actions[],
104 : : struct rte_flow_error *error,
105 : : struct i40e_filter_ctx *filter);
106 : : static int i40e_flow_parse_gtp_filter(struct rte_eth_dev *dev,
107 : : const struct rte_flow_item pattern[],
108 : : const struct rte_flow_action actions[],
109 : : struct rte_flow_error *error,
110 : : struct i40e_filter_ctx *filter);
111 : : static int i40e_flow_destroy_ethertype_filter(struct i40e_pf *pf,
112 : : struct i40e_ethertype_filter *filter);
113 : : static int i40e_flow_destroy_tunnel_filter(struct i40e_pf *pf,
114 : : struct i40e_tunnel_filter *filter);
115 : : static int i40e_flow_flush_fdir_filter(struct i40e_pf *pf);
116 : : static int i40e_flow_flush_ethertype_filter(struct i40e_pf *pf);
117 : : static int i40e_flow_flush_tunnel_filter(struct i40e_pf *pf);
118 : : static int
119 : : i40e_flow_parse_qinq_filter(struct rte_eth_dev *dev,
120 : : const struct rte_flow_item pattern[],
121 : : const struct rte_flow_action actions[],
122 : : struct rte_flow_error *error,
123 : : struct i40e_filter_ctx *filter);
124 : : static int
125 : : i40e_flow_parse_qinq_pattern(struct rte_eth_dev *dev,
126 : : const struct rte_flow_item *pattern,
127 : : struct rte_flow_error *error,
128 : : struct i40e_tunnel_filter_conf *filter);
129 : :
130 : : static int i40e_flow_parse_l4_cloud_filter(struct rte_eth_dev *dev,
131 : : const struct rte_flow_item pattern[],
132 : : const struct rte_flow_action actions[],
133 : : struct rte_flow_error *error,
134 : : struct i40e_filter_ctx *filter);
135 : : const struct rte_flow_ops i40e_flow_ops = {
136 : : .validate = i40e_flow_validate,
137 : : .create = i40e_flow_create,
138 : : .destroy = i40e_flow_destroy,
139 : : .flush = i40e_flow_flush,
140 : : .query = i40e_flow_query,
141 : : .dev_dump = i40e_flow_dev_dump,
142 : : };
143 : :
144 : : /* Pattern matched ethertype filter */
145 : : static enum rte_flow_item_type pattern_ethertype[] = {
146 : : RTE_FLOW_ITEM_TYPE_ETH,
147 : : RTE_FLOW_ITEM_TYPE_END,
148 : : };
149 : :
150 : : /* Pattern matched flow director filter */
151 : : static enum rte_flow_item_type pattern_fdir_ipv4[] = {
152 : : RTE_FLOW_ITEM_TYPE_ETH,
153 : : RTE_FLOW_ITEM_TYPE_IPV4,
154 : : RTE_FLOW_ITEM_TYPE_END,
155 : : };
156 : :
157 : : static enum rte_flow_item_type pattern_fdir_ipv4_udp[] = {
158 : : RTE_FLOW_ITEM_TYPE_ETH,
159 : : RTE_FLOW_ITEM_TYPE_IPV4,
160 : : RTE_FLOW_ITEM_TYPE_UDP,
161 : : RTE_FLOW_ITEM_TYPE_END,
162 : : };
163 : :
164 : : static enum rte_flow_item_type pattern_fdir_ipv4_tcp[] = {
165 : : RTE_FLOW_ITEM_TYPE_ETH,
166 : : RTE_FLOW_ITEM_TYPE_IPV4,
167 : : RTE_FLOW_ITEM_TYPE_TCP,
168 : : RTE_FLOW_ITEM_TYPE_END,
169 : : };
170 : :
171 : : static enum rte_flow_item_type pattern_fdir_ipv4_sctp[] = {
172 : : RTE_FLOW_ITEM_TYPE_ETH,
173 : : RTE_FLOW_ITEM_TYPE_IPV4,
174 : : RTE_FLOW_ITEM_TYPE_SCTP,
175 : : RTE_FLOW_ITEM_TYPE_END,
176 : : };
177 : :
178 : : static enum rte_flow_item_type pattern_fdir_ipv4_gtpc[] = {
179 : : RTE_FLOW_ITEM_TYPE_ETH,
180 : : RTE_FLOW_ITEM_TYPE_IPV4,
181 : : RTE_FLOW_ITEM_TYPE_UDP,
182 : : RTE_FLOW_ITEM_TYPE_GTPC,
183 : : RTE_FLOW_ITEM_TYPE_END,
184 : : };
185 : :
186 : : static enum rte_flow_item_type pattern_fdir_ipv4_gtpu[] = {
187 : : RTE_FLOW_ITEM_TYPE_ETH,
188 : : RTE_FLOW_ITEM_TYPE_IPV4,
189 : : RTE_FLOW_ITEM_TYPE_UDP,
190 : : RTE_FLOW_ITEM_TYPE_GTPU,
191 : : RTE_FLOW_ITEM_TYPE_END,
192 : : };
193 : :
194 : : static enum rte_flow_item_type pattern_fdir_ipv4_gtpu_ipv4[] = {
195 : : RTE_FLOW_ITEM_TYPE_ETH,
196 : : RTE_FLOW_ITEM_TYPE_IPV4,
197 : : RTE_FLOW_ITEM_TYPE_UDP,
198 : : RTE_FLOW_ITEM_TYPE_GTPU,
199 : : RTE_FLOW_ITEM_TYPE_IPV4,
200 : : RTE_FLOW_ITEM_TYPE_END,
201 : : };
202 : :
203 : : static enum rte_flow_item_type pattern_fdir_ipv4_gtpu_ipv6[] = {
204 : : RTE_FLOW_ITEM_TYPE_ETH,
205 : : RTE_FLOW_ITEM_TYPE_IPV4,
206 : : RTE_FLOW_ITEM_TYPE_UDP,
207 : : RTE_FLOW_ITEM_TYPE_GTPU,
208 : : RTE_FLOW_ITEM_TYPE_IPV6,
209 : : RTE_FLOW_ITEM_TYPE_END,
210 : : };
211 : :
212 : : static enum rte_flow_item_type pattern_fdir_ipv6[] = {
213 : : RTE_FLOW_ITEM_TYPE_ETH,
214 : : RTE_FLOW_ITEM_TYPE_IPV6,
215 : : RTE_FLOW_ITEM_TYPE_END,
216 : : };
217 : :
218 : : static enum rte_flow_item_type pattern_fdir_ipv6_udp[] = {
219 : : RTE_FLOW_ITEM_TYPE_ETH,
220 : : RTE_FLOW_ITEM_TYPE_IPV6,
221 : : RTE_FLOW_ITEM_TYPE_UDP,
222 : : RTE_FLOW_ITEM_TYPE_END,
223 : : };
224 : :
225 : : static enum rte_flow_item_type pattern_fdir_ipv6_tcp[] = {
226 : : RTE_FLOW_ITEM_TYPE_ETH,
227 : : RTE_FLOW_ITEM_TYPE_IPV6,
228 : : RTE_FLOW_ITEM_TYPE_TCP,
229 : : RTE_FLOW_ITEM_TYPE_END,
230 : : };
231 : :
232 : : static enum rte_flow_item_type pattern_fdir_ipv6_sctp[] = {
233 : : RTE_FLOW_ITEM_TYPE_ETH,
234 : : RTE_FLOW_ITEM_TYPE_IPV6,
235 : : RTE_FLOW_ITEM_TYPE_SCTP,
236 : : RTE_FLOW_ITEM_TYPE_END,
237 : : };
238 : :
239 : : static enum rte_flow_item_type pattern_fdir_ipv6_gtpc[] = {
240 : : RTE_FLOW_ITEM_TYPE_ETH,
241 : : RTE_FLOW_ITEM_TYPE_IPV6,
242 : : RTE_FLOW_ITEM_TYPE_UDP,
243 : : RTE_FLOW_ITEM_TYPE_GTPC,
244 : : RTE_FLOW_ITEM_TYPE_END,
245 : : };
246 : :
247 : : static enum rte_flow_item_type pattern_fdir_ipv6_gtpu[] = {
248 : : RTE_FLOW_ITEM_TYPE_ETH,
249 : : RTE_FLOW_ITEM_TYPE_IPV6,
250 : : RTE_FLOW_ITEM_TYPE_UDP,
251 : : RTE_FLOW_ITEM_TYPE_GTPU,
252 : : RTE_FLOW_ITEM_TYPE_END,
253 : : };
254 : :
255 : : static enum rte_flow_item_type pattern_fdir_ipv6_gtpu_ipv4[] = {
256 : : RTE_FLOW_ITEM_TYPE_ETH,
257 : : RTE_FLOW_ITEM_TYPE_IPV6,
258 : : RTE_FLOW_ITEM_TYPE_UDP,
259 : : RTE_FLOW_ITEM_TYPE_GTPU,
260 : : RTE_FLOW_ITEM_TYPE_IPV4,
261 : : RTE_FLOW_ITEM_TYPE_END,
262 : : };
263 : :
264 : : static enum rte_flow_item_type pattern_fdir_ipv6_gtpu_ipv6[] = {
265 : : RTE_FLOW_ITEM_TYPE_ETH,
266 : : RTE_FLOW_ITEM_TYPE_IPV6,
267 : : RTE_FLOW_ITEM_TYPE_UDP,
268 : : RTE_FLOW_ITEM_TYPE_GTPU,
269 : : RTE_FLOW_ITEM_TYPE_IPV6,
270 : : RTE_FLOW_ITEM_TYPE_END,
271 : : };
272 : :
273 : : static enum rte_flow_item_type pattern_fdir_ethertype_raw_1[] = {
274 : : RTE_FLOW_ITEM_TYPE_ETH,
275 : : RTE_FLOW_ITEM_TYPE_RAW,
276 : : RTE_FLOW_ITEM_TYPE_END,
277 : : };
278 : :
279 : : static enum rte_flow_item_type pattern_fdir_ethertype_raw_2[] = {
280 : : RTE_FLOW_ITEM_TYPE_ETH,
281 : : RTE_FLOW_ITEM_TYPE_RAW,
282 : : RTE_FLOW_ITEM_TYPE_RAW,
283 : : RTE_FLOW_ITEM_TYPE_END,
284 : : };
285 : :
286 : : static enum rte_flow_item_type pattern_fdir_ethertype_raw_3[] = {
287 : : RTE_FLOW_ITEM_TYPE_ETH,
288 : : RTE_FLOW_ITEM_TYPE_RAW,
289 : : RTE_FLOW_ITEM_TYPE_RAW,
290 : : RTE_FLOW_ITEM_TYPE_RAW,
291 : : RTE_FLOW_ITEM_TYPE_END,
292 : : };
293 : :
294 : : static enum rte_flow_item_type pattern_fdir_ipv4_raw_1[] = {
295 : : RTE_FLOW_ITEM_TYPE_ETH,
296 : : RTE_FLOW_ITEM_TYPE_IPV4,
297 : : RTE_FLOW_ITEM_TYPE_RAW,
298 : : RTE_FLOW_ITEM_TYPE_END,
299 : : };
300 : :
301 : : static enum rte_flow_item_type pattern_fdir_ipv4_raw_2[] = {
302 : : RTE_FLOW_ITEM_TYPE_ETH,
303 : : RTE_FLOW_ITEM_TYPE_IPV4,
304 : : RTE_FLOW_ITEM_TYPE_RAW,
305 : : RTE_FLOW_ITEM_TYPE_RAW,
306 : : RTE_FLOW_ITEM_TYPE_END,
307 : : };
308 : :
309 : : static enum rte_flow_item_type pattern_fdir_ipv4_raw_3[] = {
310 : : RTE_FLOW_ITEM_TYPE_ETH,
311 : : RTE_FLOW_ITEM_TYPE_IPV4,
312 : : RTE_FLOW_ITEM_TYPE_RAW,
313 : : RTE_FLOW_ITEM_TYPE_RAW,
314 : : RTE_FLOW_ITEM_TYPE_RAW,
315 : : RTE_FLOW_ITEM_TYPE_END,
316 : : };
317 : :
318 : : static enum rte_flow_item_type pattern_fdir_ipv4_udp_raw_1[] = {
319 : : RTE_FLOW_ITEM_TYPE_ETH,
320 : : RTE_FLOW_ITEM_TYPE_IPV4,
321 : : RTE_FLOW_ITEM_TYPE_UDP,
322 : : RTE_FLOW_ITEM_TYPE_RAW,
323 : : RTE_FLOW_ITEM_TYPE_END,
324 : : };
325 : :
326 : : static enum rte_flow_item_type pattern_fdir_ipv4_udp_raw_2[] = {
327 : : RTE_FLOW_ITEM_TYPE_ETH,
328 : : RTE_FLOW_ITEM_TYPE_IPV4,
329 : : RTE_FLOW_ITEM_TYPE_UDP,
330 : : RTE_FLOW_ITEM_TYPE_RAW,
331 : : RTE_FLOW_ITEM_TYPE_RAW,
332 : : RTE_FLOW_ITEM_TYPE_END,
333 : : };
334 : :
335 : : static enum rte_flow_item_type pattern_fdir_ipv4_udp_raw_3[] = {
336 : : RTE_FLOW_ITEM_TYPE_ETH,
337 : : RTE_FLOW_ITEM_TYPE_IPV4,
338 : : RTE_FLOW_ITEM_TYPE_UDP,
339 : : RTE_FLOW_ITEM_TYPE_RAW,
340 : : RTE_FLOW_ITEM_TYPE_RAW,
341 : : RTE_FLOW_ITEM_TYPE_RAW,
342 : : RTE_FLOW_ITEM_TYPE_END,
343 : : };
344 : :
345 : : static enum rte_flow_item_type pattern_fdir_ipv4_tcp_raw_1[] = {
346 : : RTE_FLOW_ITEM_TYPE_ETH,
347 : : RTE_FLOW_ITEM_TYPE_IPV4,
348 : : RTE_FLOW_ITEM_TYPE_TCP,
349 : : RTE_FLOW_ITEM_TYPE_RAW,
350 : : RTE_FLOW_ITEM_TYPE_END,
351 : : };
352 : :
353 : : static enum rte_flow_item_type pattern_fdir_ipv4_tcp_raw_2[] = {
354 : : RTE_FLOW_ITEM_TYPE_ETH,
355 : : RTE_FLOW_ITEM_TYPE_IPV4,
356 : : RTE_FLOW_ITEM_TYPE_TCP,
357 : : RTE_FLOW_ITEM_TYPE_RAW,
358 : : RTE_FLOW_ITEM_TYPE_RAW,
359 : : RTE_FLOW_ITEM_TYPE_END,
360 : : };
361 : :
362 : : static enum rte_flow_item_type pattern_fdir_ipv4_tcp_raw_3[] = {
363 : : RTE_FLOW_ITEM_TYPE_ETH,
364 : : RTE_FLOW_ITEM_TYPE_IPV4,
365 : : RTE_FLOW_ITEM_TYPE_TCP,
366 : : RTE_FLOW_ITEM_TYPE_RAW,
367 : : RTE_FLOW_ITEM_TYPE_RAW,
368 : : RTE_FLOW_ITEM_TYPE_RAW,
369 : : RTE_FLOW_ITEM_TYPE_END,
370 : : };
371 : :
372 : : static enum rte_flow_item_type pattern_fdir_ipv4_sctp_raw_1[] = {
373 : : RTE_FLOW_ITEM_TYPE_ETH,
374 : : RTE_FLOW_ITEM_TYPE_IPV4,
375 : : RTE_FLOW_ITEM_TYPE_SCTP,
376 : : RTE_FLOW_ITEM_TYPE_RAW,
377 : : RTE_FLOW_ITEM_TYPE_END,
378 : : };
379 : :
380 : : static enum rte_flow_item_type pattern_fdir_ipv4_sctp_raw_2[] = {
381 : : RTE_FLOW_ITEM_TYPE_ETH,
382 : : RTE_FLOW_ITEM_TYPE_IPV4,
383 : : RTE_FLOW_ITEM_TYPE_SCTP,
384 : : RTE_FLOW_ITEM_TYPE_RAW,
385 : : RTE_FLOW_ITEM_TYPE_RAW,
386 : : RTE_FLOW_ITEM_TYPE_END,
387 : : };
388 : :
389 : : static enum rte_flow_item_type pattern_fdir_ipv4_sctp_raw_3[] = {
390 : : RTE_FLOW_ITEM_TYPE_ETH,
391 : : RTE_FLOW_ITEM_TYPE_IPV4,
392 : : RTE_FLOW_ITEM_TYPE_SCTP,
393 : : RTE_FLOW_ITEM_TYPE_RAW,
394 : : RTE_FLOW_ITEM_TYPE_RAW,
395 : : RTE_FLOW_ITEM_TYPE_RAW,
396 : : RTE_FLOW_ITEM_TYPE_END,
397 : : };
398 : :
399 : : static enum rte_flow_item_type pattern_fdir_ipv6_raw_1[] = {
400 : : RTE_FLOW_ITEM_TYPE_ETH,
401 : : RTE_FLOW_ITEM_TYPE_IPV6,
402 : : RTE_FLOW_ITEM_TYPE_RAW,
403 : : RTE_FLOW_ITEM_TYPE_END,
404 : : };
405 : :
406 : : static enum rte_flow_item_type pattern_fdir_ipv6_raw_2[] = {
407 : : RTE_FLOW_ITEM_TYPE_ETH,
408 : : RTE_FLOW_ITEM_TYPE_IPV6,
409 : : RTE_FLOW_ITEM_TYPE_RAW,
410 : : RTE_FLOW_ITEM_TYPE_RAW,
411 : : RTE_FLOW_ITEM_TYPE_END,
412 : : };
413 : :
414 : : static enum rte_flow_item_type pattern_fdir_ipv6_raw_3[] = {
415 : : RTE_FLOW_ITEM_TYPE_ETH,
416 : : RTE_FLOW_ITEM_TYPE_IPV6,
417 : : RTE_FLOW_ITEM_TYPE_RAW,
418 : : RTE_FLOW_ITEM_TYPE_RAW,
419 : : RTE_FLOW_ITEM_TYPE_RAW,
420 : : RTE_FLOW_ITEM_TYPE_END,
421 : : };
422 : :
423 : : static enum rte_flow_item_type pattern_fdir_ipv6_udp_raw_1[] = {
424 : : RTE_FLOW_ITEM_TYPE_ETH,
425 : : RTE_FLOW_ITEM_TYPE_IPV6,
426 : : RTE_FLOW_ITEM_TYPE_UDP,
427 : : RTE_FLOW_ITEM_TYPE_RAW,
428 : : RTE_FLOW_ITEM_TYPE_END,
429 : : };
430 : :
431 : : static enum rte_flow_item_type pattern_fdir_ipv6_udp_raw_2[] = {
432 : : RTE_FLOW_ITEM_TYPE_ETH,
433 : : RTE_FLOW_ITEM_TYPE_IPV6,
434 : : RTE_FLOW_ITEM_TYPE_UDP,
435 : : RTE_FLOW_ITEM_TYPE_RAW,
436 : : RTE_FLOW_ITEM_TYPE_RAW,
437 : : RTE_FLOW_ITEM_TYPE_END,
438 : : };
439 : :
440 : : static enum rte_flow_item_type pattern_fdir_ipv6_udp_raw_3[] = {
441 : : RTE_FLOW_ITEM_TYPE_ETH,
442 : : RTE_FLOW_ITEM_TYPE_IPV6,
443 : : RTE_FLOW_ITEM_TYPE_UDP,
444 : : RTE_FLOW_ITEM_TYPE_RAW,
445 : : RTE_FLOW_ITEM_TYPE_RAW,
446 : : RTE_FLOW_ITEM_TYPE_RAW,
447 : : RTE_FLOW_ITEM_TYPE_END,
448 : : };
449 : :
450 : : static enum rte_flow_item_type pattern_fdir_ipv6_tcp_raw_1[] = {
451 : : RTE_FLOW_ITEM_TYPE_ETH,
452 : : RTE_FLOW_ITEM_TYPE_IPV6,
453 : : RTE_FLOW_ITEM_TYPE_TCP,
454 : : RTE_FLOW_ITEM_TYPE_RAW,
455 : : RTE_FLOW_ITEM_TYPE_END,
456 : : };
457 : :
458 : : static enum rte_flow_item_type pattern_fdir_ipv6_tcp_raw_2[] = {
459 : : RTE_FLOW_ITEM_TYPE_ETH,
460 : : RTE_FLOW_ITEM_TYPE_IPV6,
461 : : RTE_FLOW_ITEM_TYPE_TCP,
462 : : RTE_FLOW_ITEM_TYPE_RAW,
463 : : RTE_FLOW_ITEM_TYPE_RAW,
464 : : RTE_FLOW_ITEM_TYPE_END,
465 : : };
466 : :
467 : : static enum rte_flow_item_type pattern_fdir_ipv6_tcp_raw_3[] = {
468 : : RTE_FLOW_ITEM_TYPE_ETH,
469 : : RTE_FLOW_ITEM_TYPE_IPV6,
470 : : RTE_FLOW_ITEM_TYPE_TCP,
471 : : RTE_FLOW_ITEM_TYPE_RAW,
472 : : RTE_FLOW_ITEM_TYPE_RAW,
473 : : RTE_FLOW_ITEM_TYPE_RAW,
474 : : RTE_FLOW_ITEM_TYPE_END,
475 : : };
476 : :
477 : : static enum rte_flow_item_type pattern_fdir_ipv6_sctp_raw_1[] = {
478 : : RTE_FLOW_ITEM_TYPE_ETH,
479 : : RTE_FLOW_ITEM_TYPE_IPV6,
480 : : RTE_FLOW_ITEM_TYPE_SCTP,
481 : : RTE_FLOW_ITEM_TYPE_RAW,
482 : : RTE_FLOW_ITEM_TYPE_END,
483 : : };
484 : :
485 : : static enum rte_flow_item_type pattern_fdir_ipv6_sctp_raw_2[] = {
486 : : RTE_FLOW_ITEM_TYPE_ETH,
487 : : RTE_FLOW_ITEM_TYPE_IPV6,
488 : : RTE_FLOW_ITEM_TYPE_SCTP,
489 : : RTE_FLOW_ITEM_TYPE_RAW,
490 : : RTE_FLOW_ITEM_TYPE_RAW,
491 : : RTE_FLOW_ITEM_TYPE_END,
492 : : };
493 : :
494 : : static enum rte_flow_item_type pattern_fdir_ipv6_sctp_raw_3[] = {
495 : : RTE_FLOW_ITEM_TYPE_ETH,
496 : : RTE_FLOW_ITEM_TYPE_IPV6,
497 : : RTE_FLOW_ITEM_TYPE_SCTP,
498 : : RTE_FLOW_ITEM_TYPE_RAW,
499 : : RTE_FLOW_ITEM_TYPE_RAW,
500 : : RTE_FLOW_ITEM_TYPE_RAW,
501 : : RTE_FLOW_ITEM_TYPE_END,
502 : : };
503 : :
504 : : static enum rte_flow_item_type pattern_fdir_ethertype_vlan[] = {
505 : : RTE_FLOW_ITEM_TYPE_ETH,
506 : : RTE_FLOW_ITEM_TYPE_VLAN,
507 : : RTE_FLOW_ITEM_TYPE_END,
508 : : };
509 : :
510 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4[] = {
511 : : RTE_FLOW_ITEM_TYPE_ETH,
512 : : RTE_FLOW_ITEM_TYPE_VLAN,
513 : : RTE_FLOW_ITEM_TYPE_IPV4,
514 : : RTE_FLOW_ITEM_TYPE_END,
515 : : };
516 : :
517 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_udp[] = {
518 : : RTE_FLOW_ITEM_TYPE_ETH,
519 : : RTE_FLOW_ITEM_TYPE_VLAN,
520 : : RTE_FLOW_ITEM_TYPE_IPV4,
521 : : RTE_FLOW_ITEM_TYPE_UDP,
522 : : RTE_FLOW_ITEM_TYPE_END,
523 : : };
524 : :
525 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_tcp[] = {
526 : : RTE_FLOW_ITEM_TYPE_ETH,
527 : : RTE_FLOW_ITEM_TYPE_VLAN,
528 : : RTE_FLOW_ITEM_TYPE_IPV4,
529 : : RTE_FLOW_ITEM_TYPE_TCP,
530 : : RTE_FLOW_ITEM_TYPE_END,
531 : : };
532 : :
533 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_sctp[] = {
534 : : RTE_FLOW_ITEM_TYPE_ETH,
535 : : RTE_FLOW_ITEM_TYPE_VLAN,
536 : : RTE_FLOW_ITEM_TYPE_IPV4,
537 : : RTE_FLOW_ITEM_TYPE_SCTP,
538 : : RTE_FLOW_ITEM_TYPE_END,
539 : : };
540 : :
541 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6[] = {
542 : : RTE_FLOW_ITEM_TYPE_ETH,
543 : : RTE_FLOW_ITEM_TYPE_VLAN,
544 : : RTE_FLOW_ITEM_TYPE_IPV6,
545 : : RTE_FLOW_ITEM_TYPE_END,
546 : : };
547 : :
548 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_udp[] = {
549 : : RTE_FLOW_ITEM_TYPE_ETH,
550 : : RTE_FLOW_ITEM_TYPE_VLAN,
551 : : RTE_FLOW_ITEM_TYPE_IPV6,
552 : : RTE_FLOW_ITEM_TYPE_UDP,
553 : : RTE_FLOW_ITEM_TYPE_END,
554 : : };
555 : :
556 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_tcp[] = {
557 : : RTE_FLOW_ITEM_TYPE_ETH,
558 : : RTE_FLOW_ITEM_TYPE_VLAN,
559 : : RTE_FLOW_ITEM_TYPE_IPV6,
560 : : RTE_FLOW_ITEM_TYPE_TCP,
561 : : RTE_FLOW_ITEM_TYPE_END,
562 : : };
563 : :
564 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_sctp[] = {
565 : : RTE_FLOW_ITEM_TYPE_ETH,
566 : : RTE_FLOW_ITEM_TYPE_VLAN,
567 : : RTE_FLOW_ITEM_TYPE_IPV6,
568 : : RTE_FLOW_ITEM_TYPE_SCTP,
569 : : RTE_FLOW_ITEM_TYPE_END,
570 : : };
571 : :
572 : : static enum rte_flow_item_type pattern_fdir_ethertype_vlan_raw_1[] = {
573 : : RTE_FLOW_ITEM_TYPE_ETH,
574 : : RTE_FLOW_ITEM_TYPE_VLAN,
575 : : RTE_FLOW_ITEM_TYPE_RAW,
576 : : RTE_FLOW_ITEM_TYPE_END,
577 : : };
578 : :
579 : : static enum rte_flow_item_type pattern_fdir_ethertype_vlan_raw_2[] = {
580 : : RTE_FLOW_ITEM_TYPE_ETH,
581 : : RTE_FLOW_ITEM_TYPE_VLAN,
582 : : RTE_FLOW_ITEM_TYPE_RAW,
583 : : RTE_FLOW_ITEM_TYPE_RAW,
584 : : RTE_FLOW_ITEM_TYPE_END,
585 : : };
586 : :
587 : : static enum rte_flow_item_type pattern_fdir_ethertype_vlan_raw_3[] = {
588 : : RTE_FLOW_ITEM_TYPE_ETH,
589 : : RTE_FLOW_ITEM_TYPE_VLAN,
590 : : RTE_FLOW_ITEM_TYPE_RAW,
591 : : RTE_FLOW_ITEM_TYPE_RAW,
592 : : RTE_FLOW_ITEM_TYPE_RAW,
593 : : RTE_FLOW_ITEM_TYPE_END,
594 : : };
595 : :
596 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_raw_1[] = {
597 : : RTE_FLOW_ITEM_TYPE_ETH,
598 : : RTE_FLOW_ITEM_TYPE_VLAN,
599 : : RTE_FLOW_ITEM_TYPE_IPV4,
600 : : RTE_FLOW_ITEM_TYPE_RAW,
601 : : RTE_FLOW_ITEM_TYPE_END,
602 : : };
603 : :
604 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_raw_2[] = {
605 : : RTE_FLOW_ITEM_TYPE_ETH,
606 : : RTE_FLOW_ITEM_TYPE_VLAN,
607 : : RTE_FLOW_ITEM_TYPE_IPV4,
608 : : RTE_FLOW_ITEM_TYPE_RAW,
609 : : RTE_FLOW_ITEM_TYPE_RAW,
610 : : RTE_FLOW_ITEM_TYPE_END,
611 : : };
612 : :
613 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_raw_3[] = {
614 : : RTE_FLOW_ITEM_TYPE_ETH,
615 : : RTE_FLOW_ITEM_TYPE_VLAN,
616 : : RTE_FLOW_ITEM_TYPE_IPV4,
617 : : RTE_FLOW_ITEM_TYPE_RAW,
618 : : RTE_FLOW_ITEM_TYPE_RAW,
619 : : RTE_FLOW_ITEM_TYPE_RAW,
620 : : RTE_FLOW_ITEM_TYPE_END,
621 : : };
622 : :
623 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_udp_raw_1[] = {
624 : : RTE_FLOW_ITEM_TYPE_ETH,
625 : : RTE_FLOW_ITEM_TYPE_VLAN,
626 : : RTE_FLOW_ITEM_TYPE_IPV4,
627 : : RTE_FLOW_ITEM_TYPE_UDP,
628 : : RTE_FLOW_ITEM_TYPE_RAW,
629 : : RTE_FLOW_ITEM_TYPE_END,
630 : : };
631 : :
632 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_udp_raw_2[] = {
633 : : RTE_FLOW_ITEM_TYPE_ETH,
634 : : RTE_FLOW_ITEM_TYPE_VLAN,
635 : : RTE_FLOW_ITEM_TYPE_IPV4,
636 : : RTE_FLOW_ITEM_TYPE_UDP,
637 : : RTE_FLOW_ITEM_TYPE_RAW,
638 : : RTE_FLOW_ITEM_TYPE_RAW,
639 : : RTE_FLOW_ITEM_TYPE_END,
640 : : };
641 : :
642 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_udp_raw_3[] = {
643 : : RTE_FLOW_ITEM_TYPE_ETH,
644 : : RTE_FLOW_ITEM_TYPE_VLAN,
645 : : RTE_FLOW_ITEM_TYPE_IPV4,
646 : : RTE_FLOW_ITEM_TYPE_UDP,
647 : : RTE_FLOW_ITEM_TYPE_RAW,
648 : : RTE_FLOW_ITEM_TYPE_RAW,
649 : : RTE_FLOW_ITEM_TYPE_RAW,
650 : : RTE_FLOW_ITEM_TYPE_END,
651 : : };
652 : :
653 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_tcp_raw_1[] = {
654 : : RTE_FLOW_ITEM_TYPE_ETH,
655 : : RTE_FLOW_ITEM_TYPE_VLAN,
656 : : RTE_FLOW_ITEM_TYPE_IPV4,
657 : : RTE_FLOW_ITEM_TYPE_TCP,
658 : : RTE_FLOW_ITEM_TYPE_RAW,
659 : : RTE_FLOW_ITEM_TYPE_END,
660 : : };
661 : :
662 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_tcp_raw_2[] = {
663 : : RTE_FLOW_ITEM_TYPE_ETH,
664 : : RTE_FLOW_ITEM_TYPE_VLAN,
665 : : RTE_FLOW_ITEM_TYPE_IPV4,
666 : : RTE_FLOW_ITEM_TYPE_TCP,
667 : : RTE_FLOW_ITEM_TYPE_RAW,
668 : : RTE_FLOW_ITEM_TYPE_RAW,
669 : : RTE_FLOW_ITEM_TYPE_END,
670 : : };
671 : :
672 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_tcp_raw_3[] = {
673 : : RTE_FLOW_ITEM_TYPE_ETH,
674 : : RTE_FLOW_ITEM_TYPE_VLAN,
675 : : RTE_FLOW_ITEM_TYPE_IPV4,
676 : : RTE_FLOW_ITEM_TYPE_TCP,
677 : : RTE_FLOW_ITEM_TYPE_RAW,
678 : : RTE_FLOW_ITEM_TYPE_RAW,
679 : : RTE_FLOW_ITEM_TYPE_RAW,
680 : : RTE_FLOW_ITEM_TYPE_END,
681 : : };
682 : :
683 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_sctp_raw_1[] = {
684 : : RTE_FLOW_ITEM_TYPE_ETH,
685 : : RTE_FLOW_ITEM_TYPE_VLAN,
686 : : RTE_FLOW_ITEM_TYPE_IPV4,
687 : : RTE_FLOW_ITEM_TYPE_SCTP,
688 : : RTE_FLOW_ITEM_TYPE_RAW,
689 : : RTE_FLOW_ITEM_TYPE_END,
690 : : };
691 : :
692 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_sctp_raw_2[] = {
693 : : RTE_FLOW_ITEM_TYPE_ETH,
694 : : RTE_FLOW_ITEM_TYPE_VLAN,
695 : : RTE_FLOW_ITEM_TYPE_IPV4,
696 : : RTE_FLOW_ITEM_TYPE_SCTP,
697 : : RTE_FLOW_ITEM_TYPE_RAW,
698 : : RTE_FLOW_ITEM_TYPE_RAW,
699 : : RTE_FLOW_ITEM_TYPE_END,
700 : : };
701 : :
702 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv4_sctp_raw_3[] = {
703 : : RTE_FLOW_ITEM_TYPE_ETH,
704 : : RTE_FLOW_ITEM_TYPE_VLAN,
705 : : RTE_FLOW_ITEM_TYPE_IPV4,
706 : : RTE_FLOW_ITEM_TYPE_SCTP,
707 : : RTE_FLOW_ITEM_TYPE_RAW,
708 : : RTE_FLOW_ITEM_TYPE_RAW,
709 : : RTE_FLOW_ITEM_TYPE_RAW,
710 : : RTE_FLOW_ITEM_TYPE_END,
711 : : };
712 : :
713 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_raw_1[] = {
714 : : RTE_FLOW_ITEM_TYPE_ETH,
715 : : RTE_FLOW_ITEM_TYPE_VLAN,
716 : : RTE_FLOW_ITEM_TYPE_IPV6,
717 : : RTE_FLOW_ITEM_TYPE_RAW,
718 : : RTE_FLOW_ITEM_TYPE_END,
719 : : };
720 : :
721 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_raw_2[] = {
722 : : RTE_FLOW_ITEM_TYPE_ETH,
723 : : RTE_FLOW_ITEM_TYPE_VLAN,
724 : : RTE_FLOW_ITEM_TYPE_IPV6,
725 : : RTE_FLOW_ITEM_TYPE_RAW,
726 : : RTE_FLOW_ITEM_TYPE_RAW,
727 : : RTE_FLOW_ITEM_TYPE_END,
728 : : };
729 : :
730 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_raw_3[] = {
731 : : RTE_FLOW_ITEM_TYPE_ETH,
732 : : RTE_FLOW_ITEM_TYPE_VLAN,
733 : : RTE_FLOW_ITEM_TYPE_IPV6,
734 : : RTE_FLOW_ITEM_TYPE_RAW,
735 : : RTE_FLOW_ITEM_TYPE_RAW,
736 : : RTE_FLOW_ITEM_TYPE_RAW,
737 : : RTE_FLOW_ITEM_TYPE_END,
738 : : };
739 : :
740 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_udp_raw_1[] = {
741 : : RTE_FLOW_ITEM_TYPE_ETH,
742 : : RTE_FLOW_ITEM_TYPE_VLAN,
743 : : RTE_FLOW_ITEM_TYPE_IPV6,
744 : : RTE_FLOW_ITEM_TYPE_UDP,
745 : : RTE_FLOW_ITEM_TYPE_RAW,
746 : : RTE_FLOW_ITEM_TYPE_END,
747 : : };
748 : :
749 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_udp_raw_2[] = {
750 : : RTE_FLOW_ITEM_TYPE_ETH,
751 : : RTE_FLOW_ITEM_TYPE_VLAN,
752 : : RTE_FLOW_ITEM_TYPE_IPV6,
753 : : RTE_FLOW_ITEM_TYPE_UDP,
754 : : RTE_FLOW_ITEM_TYPE_RAW,
755 : : RTE_FLOW_ITEM_TYPE_RAW,
756 : : RTE_FLOW_ITEM_TYPE_END,
757 : : };
758 : :
759 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_udp_raw_3[] = {
760 : : RTE_FLOW_ITEM_TYPE_ETH,
761 : : RTE_FLOW_ITEM_TYPE_VLAN,
762 : : RTE_FLOW_ITEM_TYPE_IPV6,
763 : : RTE_FLOW_ITEM_TYPE_UDP,
764 : : RTE_FLOW_ITEM_TYPE_RAW,
765 : : RTE_FLOW_ITEM_TYPE_RAW,
766 : : RTE_FLOW_ITEM_TYPE_RAW,
767 : : RTE_FLOW_ITEM_TYPE_END,
768 : : };
769 : :
770 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_tcp_raw_1[] = {
771 : : RTE_FLOW_ITEM_TYPE_ETH,
772 : : RTE_FLOW_ITEM_TYPE_VLAN,
773 : : RTE_FLOW_ITEM_TYPE_IPV6,
774 : : RTE_FLOW_ITEM_TYPE_TCP,
775 : : RTE_FLOW_ITEM_TYPE_RAW,
776 : : RTE_FLOW_ITEM_TYPE_END,
777 : : };
778 : :
779 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_tcp_raw_2[] = {
780 : : RTE_FLOW_ITEM_TYPE_ETH,
781 : : RTE_FLOW_ITEM_TYPE_VLAN,
782 : : RTE_FLOW_ITEM_TYPE_IPV6,
783 : : RTE_FLOW_ITEM_TYPE_TCP,
784 : : RTE_FLOW_ITEM_TYPE_RAW,
785 : : RTE_FLOW_ITEM_TYPE_RAW,
786 : : RTE_FLOW_ITEM_TYPE_END,
787 : : };
788 : :
789 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_tcp_raw_3[] = {
790 : : RTE_FLOW_ITEM_TYPE_ETH,
791 : : RTE_FLOW_ITEM_TYPE_VLAN,
792 : : RTE_FLOW_ITEM_TYPE_IPV6,
793 : : RTE_FLOW_ITEM_TYPE_TCP,
794 : : RTE_FLOW_ITEM_TYPE_RAW,
795 : : RTE_FLOW_ITEM_TYPE_RAW,
796 : : RTE_FLOW_ITEM_TYPE_RAW,
797 : : RTE_FLOW_ITEM_TYPE_END,
798 : : };
799 : :
800 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_sctp_raw_1[] = {
801 : : RTE_FLOW_ITEM_TYPE_ETH,
802 : : RTE_FLOW_ITEM_TYPE_VLAN,
803 : : RTE_FLOW_ITEM_TYPE_IPV6,
804 : : RTE_FLOW_ITEM_TYPE_SCTP,
805 : : RTE_FLOW_ITEM_TYPE_RAW,
806 : : RTE_FLOW_ITEM_TYPE_END,
807 : : };
808 : :
809 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_sctp_raw_2[] = {
810 : : RTE_FLOW_ITEM_TYPE_ETH,
811 : : RTE_FLOW_ITEM_TYPE_VLAN,
812 : : RTE_FLOW_ITEM_TYPE_IPV6,
813 : : RTE_FLOW_ITEM_TYPE_SCTP,
814 : : RTE_FLOW_ITEM_TYPE_RAW,
815 : : RTE_FLOW_ITEM_TYPE_RAW,
816 : : RTE_FLOW_ITEM_TYPE_END,
817 : : };
818 : :
819 : : static enum rte_flow_item_type pattern_fdir_vlan_ipv6_sctp_raw_3[] = {
820 : : RTE_FLOW_ITEM_TYPE_ETH,
821 : : RTE_FLOW_ITEM_TYPE_VLAN,
822 : : RTE_FLOW_ITEM_TYPE_IPV6,
823 : : RTE_FLOW_ITEM_TYPE_SCTP,
824 : : RTE_FLOW_ITEM_TYPE_RAW,
825 : : RTE_FLOW_ITEM_TYPE_RAW,
826 : : RTE_FLOW_ITEM_TYPE_RAW,
827 : : RTE_FLOW_ITEM_TYPE_END,
828 : : };
829 : :
830 : : /* Pattern matched tunnel filter */
831 : : static enum rte_flow_item_type pattern_vxlan_1[] = {
832 : : RTE_FLOW_ITEM_TYPE_ETH,
833 : : RTE_FLOW_ITEM_TYPE_IPV4,
834 : : RTE_FLOW_ITEM_TYPE_UDP,
835 : : RTE_FLOW_ITEM_TYPE_VXLAN,
836 : : RTE_FLOW_ITEM_TYPE_ETH,
837 : : RTE_FLOW_ITEM_TYPE_END,
838 : : };
839 : :
840 : : static enum rte_flow_item_type pattern_vxlan_2[] = {
841 : : RTE_FLOW_ITEM_TYPE_ETH,
842 : : RTE_FLOW_ITEM_TYPE_IPV6,
843 : : RTE_FLOW_ITEM_TYPE_UDP,
844 : : RTE_FLOW_ITEM_TYPE_VXLAN,
845 : : RTE_FLOW_ITEM_TYPE_ETH,
846 : : RTE_FLOW_ITEM_TYPE_END,
847 : : };
848 : :
849 : : static enum rte_flow_item_type pattern_vxlan_3[] = {
850 : : RTE_FLOW_ITEM_TYPE_ETH,
851 : : RTE_FLOW_ITEM_TYPE_IPV4,
852 : : RTE_FLOW_ITEM_TYPE_UDP,
853 : : RTE_FLOW_ITEM_TYPE_VXLAN,
854 : : RTE_FLOW_ITEM_TYPE_ETH,
855 : : RTE_FLOW_ITEM_TYPE_VLAN,
856 : : RTE_FLOW_ITEM_TYPE_END,
857 : : };
858 : :
859 : : static enum rte_flow_item_type pattern_vxlan_4[] = {
860 : : RTE_FLOW_ITEM_TYPE_ETH,
861 : : RTE_FLOW_ITEM_TYPE_IPV6,
862 : : RTE_FLOW_ITEM_TYPE_UDP,
863 : : RTE_FLOW_ITEM_TYPE_VXLAN,
864 : : RTE_FLOW_ITEM_TYPE_ETH,
865 : : RTE_FLOW_ITEM_TYPE_VLAN,
866 : : RTE_FLOW_ITEM_TYPE_END,
867 : : };
868 : :
869 : : static enum rte_flow_item_type pattern_nvgre_1[] = {
870 : : RTE_FLOW_ITEM_TYPE_ETH,
871 : : RTE_FLOW_ITEM_TYPE_IPV4,
872 : : RTE_FLOW_ITEM_TYPE_NVGRE,
873 : : RTE_FLOW_ITEM_TYPE_ETH,
874 : : RTE_FLOW_ITEM_TYPE_END,
875 : : };
876 : :
877 : : static enum rte_flow_item_type pattern_nvgre_2[] = {
878 : : RTE_FLOW_ITEM_TYPE_ETH,
879 : : RTE_FLOW_ITEM_TYPE_IPV6,
880 : : RTE_FLOW_ITEM_TYPE_NVGRE,
881 : : RTE_FLOW_ITEM_TYPE_ETH,
882 : : RTE_FLOW_ITEM_TYPE_END,
883 : : };
884 : :
885 : : static enum rte_flow_item_type pattern_nvgre_3[] = {
886 : : RTE_FLOW_ITEM_TYPE_ETH,
887 : : RTE_FLOW_ITEM_TYPE_IPV4,
888 : : RTE_FLOW_ITEM_TYPE_NVGRE,
889 : : RTE_FLOW_ITEM_TYPE_ETH,
890 : : RTE_FLOW_ITEM_TYPE_VLAN,
891 : : RTE_FLOW_ITEM_TYPE_END,
892 : : };
893 : :
894 : : static enum rte_flow_item_type pattern_nvgre_4[] = {
895 : : RTE_FLOW_ITEM_TYPE_ETH,
896 : : RTE_FLOW_ITEM_TYPE_IPV6,
897 : : RTE_FLOW_ITEM_TYPE_NVGRE,
898 : : RTE_FLOW_ITEM_TYPE_ETH,
899 : : RTE_FLOW_ITEM_TYPE_VLAN,
900 : : RTE_FLOW_ITEM_TYPE_END,
901 : : };
902 : :
903 : : static enum rte_flow_item_type pattern_mpls_1[] = {
904 : : RTE_FLOW_ITEM_TYPE_ETH,
905 : : RTE_FLOW_ITEM_TYPE_IPV4,
906 : : RTE_FLOW_ITEM_TYPE_UDP,
907 : : RTE_FLOW_ITEM_TYPE_MPLS,
908 : : RTE_FLOW_ITEM_TYPE_END,
909 : : };
910 : :
911 : : static enum rte_flow_item_type pattern_mpls_2[] = {
912 : : RTE_FLOW_ITEM_TYPE_ETH,
913 : : RTE_FLOW_ITEM_TYPE_IPV6,
914 : : RTE_FLOW_ITEM_TYPE_UDP,
915 : : RTE_FLOW_ITEM_TYPE_MPLS,
916 : : RTE_FLOW_ITEM_TYPE_END,
917 : : };
918 : :
919 : : static enum rte_flow_item_type pattern_mpls_3[] = {
920 : : RTE_FLOW_ITEM_TYPE_ETH,
921 : : RTE_FLOW_ITEM_TYPE_IPV4,
922 : : RTE_FLOW_ITEM_TYPE_GRE,
923 : : RTE_FLOW_ITEM_TYPE_MPLS,
924 : : RTE_FLOW_ITEM_TYPE_END,
925 : : };
926 : :
927 : : static enum rte_flow_item_type pattern_mpls_4[] = {
928 : : RTE_FLOW_ITEM_TYPE_ETH,
929 : : RTE_FLOW_ITEM_TYPE_IPV6,
930 : : RTE_FLOW_ITEM_TYPE_GRE,
931 : : RTE_FLOW_ITEM_TYPE_MPLS,
932 : : RTE_FLOW_ITEM_TYPE_END,
933 : : };
934 : :
935 : : static enum rte_flow_item_type pattern_qinq_1[] = {
936 : : RTE_FLOW_ITEM_TYPE_ETH,
937 : : RTE_FLOW_ITEM_TYPE_VLAN,
938 : : RTE_FLOW_ITEM_TYPE_VLAN,
939 : : RTE_FLOW_ITEM_TYPE_END,
940 : : };
941 : :
942 : : static enum rte_flow_item_type pattern_fdir_ipv4_l2tpv3oip[] = {
943 : : RTE_FLOW_ITEM_TYPE_ETH,
944 : : RTE_FLOW_ITEM_TYPE_IPV4,
945 : : RTE_FLOW_ITEM_TYPE_L2TPV3OIP,
946 : : RTE_FLOW_ITEM_TYPE_END,
947 : : };
948 : :
949 : : static enum rte_flow_item_type pattern_fdir_ipv6_l2tpv3oip[] = {
950 : : RTE_FLOW_ITEM_TYPE_ETH,
951 : : RTE_FLOW_ITEM_TYPE_IPV6,
952 : : RTE_FLOW_ITEM_TYPE_L2TPV3OIP,
953 : : RTE_FLOW_ITEM_TYPE_END,
954 : : };
955 : :
956 : : static enum rte_flow_item_type pattern_fdir_ipv4_esp[] = {
957 : : RTE_FLOW_ITEM_TYPE_ETH,
958 : : RTE_FLOW_ITEM_TYPE_IPV4,
959 : : RTE_FLOW_ITEM_TYPE_ESP,
960 : : RTE_FLOW_ITEM_TYPE_END,
961 : : };
962 : :
963 : : static enum rte_flow_item_type pattern_fdir_ipv6_esp[] = {
964 : : RTE_FLOW_ITEM_TYPE_ETH,
965 : : RTE_FLOW_ITEM_TYPE_IPV6,
966 : : RTE_FLOW_ITEM_TYPE_ESP,
967 : : RTE_FLOW_ITEM_TYPE_END,
968 : : };
969 : :
970 : : static enum rte_flow_item_type pattern_fdir_ipv4_udp_esp[] = {
971 : : RTE_FLOW_ITEM_TYPE_ETH,
972 : : RTE_FLOW_ITEM_TYPE_IPV4,
973 : : RTE_FLOW_ITEM_TYPE_UDP,
974 : : RTE_FLOW_ITEM_TYPE_ESP,
975 : : RTE_FLOW_ITEM_TYPE_END,
976 : : };
977 : :
978 : : static enum rte_flow_item_type pattern_fdir_ipv6_udp_esp[] = {
979 : : RTE_FLOW_ITEM_TYPE_ETH,
980 : : RTE_FLOW_ITEM_TYPE_IPV6,
981 : : RTE_FLOW_ITEM_TYPE_UDP,
982 : : RTE_FLOW_ITEM_TYPE_ESP,
983 : : RTE_FLOW_ITEM_TYPE_END,
984 : : };
985 : :
986 : : static struct i40e_valid_pattern i40e_supported_patterns[] = {
987 : : /* Ethertype */
988 : : { pattern_ethertype, i40e_flow_parse_ethertype_filter },
989 : : /* FDIR - support default flow type without flexible payload*/
990 : : { pattern_ethertype, i40e_flow_parse_fdir_filter },
991 : : { pattern_fdir_ipv4, i40e_flow_parse_fdir_filter },
992 : : { pattern_fdir_ipv4_udp, i40e_flow_parse_fdir_filter },
993 : : { pattern_fdir_ipv4_tcp, i40e_flow_parse_fdir_filter },
994 : : { pattern_fdir_ipv4_sctp, i40e_flow_parse_fdir_filter },
995 : : { pattern_fdir_ipv4_gtpc, i40e_flow_parse_fdir_filter },
996 : : { pattern_fdir_ipv4_gtpu, i40e_flow_parse_fdir_filter },
997 : : { pattern_fdir_ipv4_gtpu_ipv4, i40e_flow_parse_fdir_filter },
998 : : { pattern_fdir_ipv4_gtpu_ipv6, i40e_flow_parse_fdir_filter },
999 : : { pattern_fdir_ipv4_esp, i40e_flow_parse_fdir_filter },
1000 : : { pattern_fdir_ipv4_udp_esp, i40e_flow_parse_fdir_filter },
1001 : : { pattern_fdir_ipv6, i40e_flow_parse_fdir_filter },
1002 : : { pattern_fdir_ipv6_udp, i40e_flow_parse_fdir_filter },
1003 : : { pattern_fdir_ipv6_tcp, i40e_flow_parse_fdir_filter },
1004 : : { pattern_fdir_ipv6_sctp, i40e_flow_parse_fdir_filter },
1005 : : { pattern_fdir_ipv6_gtpc, i40e_flow_parse_fdir_filter },
1006 : : { pattern_fdir_ipv6_gtpu, i40e_flow_parse_fdir_filter },
1007 : : { pattern_fdir_ipv6_gtpu_ipv4, i40e_flow_parse_fdir_filter },
1008 : : { pattern_fdir_ipv6_gtpu_ipv6, i40e_flow_parse_fdir_filter },
1009 : : { pattern_fdir_ipv6_esp, i40e_flow_parse_fdir_filter },
1010 : : { pattern_fdir_ipv6_udp_esp, i40e_flow_parse_fdir_filter },
1011 : : /* FDIR - support default flow type with flexible payload */
1012 : : { pattern_fdir_ethertype_raw_1, i40e_flow_parse_fdir_filter },
1013 : : { pattern_fdir_ethertype_raw_2, i40e_flow_parse_fdir_filter },
1014 : : { pattern_fdir_ethertype_raw_3, i40e_flow_parse_fdir_filter },
1015 : : { pattern_fdir_ipv4_raw_1, i40e_flow_parse_fdir_filter },
1016 : : { pattern_fdir_ipv4_raw_2, i40e_flow_parse_fdir_filter },
1017 : : { pattern_fdir_ipv4_raw_3, i40e_flow_parse_fdir_filter },
1018 : : { pattern_fdir_ipv4_udp_raw_1, i40e_flow_parse_fdir_filter },
1019 : : { pattern_fdir_ipv4_udp_raw_2, i40e_flow_parse_fdir_filter },
1020 : : { pattern_fdir_ipv4_udp_raw_3, i40e_flow_parse_fdir_filter },
1021 : : { pattern_fdir_ipv4_tcp_raw_1, i40e_flow_parse_fdir_filter },
1022 : : { pattern_fdir_ipv4_tcp_raw_2, i40e_flow_parse_fdir_filter },
1023 : : { pattern_fdir_ipv4_tcp_raw_3, i40e_flow_parse_fdir_filter },
1024 : : { pattern_fdir_ipv4_sctp_raw_1, i40e_flow_parse_fdir_filter },
1025 : : { pattern_fdir_ipv4_sctp_raw_2, i40e_flow_parse_fdir_filter },
1026 : : { pattern_fdir_ipv4_sctp_raw_3, i40e_flow_parse_fdir_filter },
1027 : : { pattern_fdir_ipv6_raw_1, i40e_flow_parse_fdir_filter },
1028 : : { pattern_fdir_ipv6_raw_2, i40e_flow_parse_fdir_filter },
1029 : : { pattern_fdir_ipv6_raw_3, i40e_flow_parse_fdir_filter },
1030 : : { pattern_fdir_ipv6_udp_raw_1, i40e_flow_parse_fdir_filter },
1031 : : { pattern_fdir_ipv6_udp_raw_2, i40e_flow_parse_fdir_filter },
1032 : : { pattern_fdir_ipv6_udp_raw_3, i40e_flow_parse_fdir_filter },
1033 : : { pattern_fdir_ipv6_tcp_raw_1, i40e_flow_parse_fdir_filter },
1034 : : { pattern_fdir_ipv6_tcp_raw_2, i40e_flow_parse_fdir_filter },
1035 : : { pattern_fdir_ipv6_tcp_raw_3, i40e_flow_parse_fdir_filter },
1036 : : { pattern_fdir_ipv6_sctp_raw_1, i40e_flow_parse_fdir_filter },
1037 : : { pattern_fdir_ipv6_sctp_raw_2, i40e_flow_parse_fdir_filter },
1038 : : { pattern_fdir_ipv6_sctp_raw_3, i40e_flow_parse_fdir_filter },
1039 : : /* FDIR - support single vlan input set */
1040 : : { pattern_fdir_ethertype_vlan, i40e_flow_parse_fdir_filter },
1041 : : { pattern_fdir_vlan_ipv4, i40e_flow_parse_fdir_filter },
1042 : : { pattern_fdir_vlan_ipv4_udp, i40e_flow_parse_fdir_filter },
1043 : : { pattern_fdir_vlan_ipv4_tcp, i40e_flow_parse_fdir_filter },
1044 : : { pattern_fdir_vlan_ipv4_sctp, i40e_flow_parse_fdir_filter },
1045 : : { pattern_fdir_vlan_ipv6, i40e_flow_parse_fdir_filter },
1046 : : { pattern_fdir_vlan_ipv6_udp, i40e_flow_parse_fdir_filter },
1047 : : { pattern_fdir_vlan_ipv6_tcp, i40e_flow_parse_fdir_filter },
1048 : : { pattern_fdir_vlan_ipv6_sctp, i40e_flow_parse_fdir_filter },
1049 : : { pattern_fdir_ethertype_vlan_raw_1, i40e_flow_parse_fdir_filter },
1050 : : { pattern_fdir_ethertype_vlan_raw_2, i40e_flow_parse_fdir_filter },
1051 : : { pattern_fdir_ethertype_vlan_raw_3, i40e_flow_parse_fdir_filter },
1052 : : { pattern_fdir_vlan_ipv4_raw_1, i40e_flow_parse_fdir_filter },
1053 : : { pattern_fdir_vlan_ipv4_raw_2, i40e_flow_parse_fdir_filter },
1054 : : { pattern_fdir_vlan_ipv4_raw_3, i40e_flow_parse_fdir_filter },
1055 : : { pattern_fdir_vlan_ipv4_udp_raw_1, i40e_flow_parse_fdir_filter },
1056 : : { pattern_fdir_vlan_ipv4_udp_raw_2, i40e_flow_parse_fdir_filter },
1057 : : { pattern_fdir_vlan_ipv4_udp_raw_3, i40e_flow_parse_fdir_filter },
1058 : : { pattern_fdir_vlan_ipv4_tcp_raw_1, i40e_flow_parse_fdir_filter },
1059 : : { pattern_fdir_vlan_ipv4_tcp_raw_2, i40e_flow_parse_fdir_filter },
1060 : : { pattern_fdir_vlan_ipv4_tcp_raw_3, i40e_flow_parse_fdir_filter },
1061 : : { pattern_fdir_vlan_ipv4_sctp_raw_1, i40e_flow_parse_fdir_filter },
1062 : : { pattern_fdir_vlan_ipv4_sctp_raw_2, i40e_flow_parse_fdir_filter },
1063 : : { pattern_fdir_vlan_ipv4_sctp_raw_3, i40e_flow_parse_fdir_filter },
1064 : : { pattern_fdir_vlan_ipv6_raw_1, i40e_flow_parse_fdir_filter },
1065 : : { pattern_fdir_vlan_ipv6_raw_2, i40e_flow_parse_fdir_filter },
1066 : : { pattern_fdir_vlan_ipv6_raw_3, i40e_flow_parse_fdir_filter },
1067 : : { pattern_fdir_vlan_ipv6_udp_raw_1, i40e_flow_parse_fdir_filter },
1068 : : { pattern_fdir_vlan_ipv6_udp_raw_2, i40e_flow_parse_fdir_filter },
1069 : : { pattern_fdir_vlan_ipv6_udp_raw_3, i40e_flow_parse_fdir_filter },
1070 : : { pattern_fdir_vlan_ipv6_tcp_raw_1, i40e_flow_parse_fdir_filter },
1071 : : { pattern_fdir_vlan_ipv6_tcp_raw_2, i40e_flow_parse_fdir_filter },
1072 : : { pattern_fdir_vlan_ipv6_tcp_raw_3, i40e_flow_parse_fdir_filter },
1073 : : { pattern_fdir_vlan_ipv6_sctp_raw_1, i40e_flow_parse_fdir_filter },
1074 : : { pattern_fdir_vlan_ipv6_sctp_raw_2, i40e_flow_parse_fdir_filter },
1075 : : { pattern_fdir_vlan_ipv6_sctp_raw_3, i40e_flow_parse_fdir_filter },
1076 : : /* VXLAN */
1077 : : { pattern_vxlan_1, i40e_flow_parse_vxlan_filter },
1078 : : { pattern_vxlan_2, i40e_flow_parse_vxlan_filter },
1079 : : { pattern_vxlan_3, i40e_flow_parse_vxlan_filter },
1080 : : { pattern_vxlan_4, i40e_flow_parse_vxlan_filter },
1081 : : /* NVGRE */
1082 : : { pattern_nvgre_1, i40e_flow_parse_nvgre_filter },
1083 : : { pattern_nvgre_2, i40e_flow_parse_nvgre_filter },
1084 : : { pattern_nvgre_3, i40e_flow_parse_nvgre_filter },
1085 : : { pattern_nvgre_4, i40e_flow_parse_nvgre_filter },
1086 : : /* MPLSoUDP & MPLSoGRE */
1087 : : { pattern_mpls_1, i40e_flow_parse_mpls_filter },
1088 : : { pattern_mpls_2, i40e_flow_parse_mpls_filter },
1089 : : { pattern_mpls_3, i40e_flow_parse_mpls_filter },
1090 : : { pattern_mpls_4, i40e_flow_parse_mpls_filter },
1091 : : /* GTP-C & GTP-U */
1092 : : { pattern_fdir_ipv4_gtpc, i40e_flow_parse_gtp_filter },
1093 : : { pattern_fdir_ipv4_gtpu, i40e_flow_parse_gtp_filter },
1094 : : { pattern_fdir_ipv6_gtpc, i40e_flow_parse_gtp_filter },
1095 : : { pattern_fdir_ipv6_gtpu, i40e_flow_parse_gtp_filter },
1096 : : /* QINQ */
1097 : : { pattern_qinq_1, i40e_flow_parse_qinq_filter },
1098 : : /* L2TPv3 over IP */
1099 : : { pattern_fdir_ipv4_l2tpv3oip, i40e_flow_parse_fdir_filter },
1100 : : { pattern_fdir_ipv6_l2tpv3oip, i40e_flow_parse_fdir_filter },
1101 : : /* L4 over port */
1102 : : { pattern_fdir_ipv4_udp, i40e_flow_parse_l4_cloud_filter },
1103 : : { pattern_fdir_ipv4_tcp, i40e_flow_parse_l4_cloud_filter },
1104 : : { pattern_fdir_ipv4_sctp, i40e_flow_parse_l4_cloud_filter },
1105 : : { pattern_fdir_ipv6_udp, i40e_flow_parse_l4_cloud_filter },
1106 : : { pattern_fdir_ipv6_tcp, i40e_flow_parse_l4_cloud_filter },
1107 : : { pattern_fdir_ipv6_sctp, i40e_flow_parse_l4_cloud_filter },
1108 : : };
1109 : :
1110 : : /* Find the first VOID or non-VOID item pointer */
1111 : : static const struct rte_flow_item *
1112 : : i40e_find_first_item(const struct rte_flow_item *item, bool is_void)
1113 : : {
1114 : : bool is_find;
1115 : :
1116 [ # # # # ]: 0 : while (item->type != RTE_FLOW_ITEM_TYPE_END) {
1117 : : if (is_void)
1118 : : is_find = item->type == RTE_FLOW_ITEM_TYPE_VOID;
1119 : : else
1120 : : is_find = item->type != RTE_FLOW_ITEM_TYPE_VOID;
1121 [ # # # # ]: 0 : if (is_find)
1122 : : break;
1123 : 0 : item++;
1124 : : }
1125 : : return item;
1126 : : }
1127 : :
1128 : : /* Skip all VOID items of the pattern */
1129 : : static void
1130 : 0 : i40e_pattern_skip_void_item(struct rte_flow_item *items,
1131 : : const struct rte_flow_item *pattern)
1132 : : {
1133 : : uint32_t cpy_count = 0;
1134 : : const struct rte_flow_item *pb = pattern, *pe = pattern;
1135 : :
1136 : : for (;;) {
1137 : : /* Find a non-void item first */
1138 : 0 : pb = i40e_find_first_item(pb, false);
1139 [ # # ]: 0 : if (pb->type == RTE_FLOW_ITEM_TYPE_END) {
1140 : : pe = pb;
1141 : : break;
1142 : : }
1143 : :
1144 : : /* Find a void item */
1145 : 0 : pe = i40e_find_first_item(pb + 1, true);
1146 : :
1147 : 0 : cpy_count = pe - pb;
1148 [ # # ]: 0 : memcpy(items, pb, sizeof(struct rte_flow_item) * cpy_count);
1149 : :
1150 : 0 : items += cpy_count;
1151 : :
1152 [ # # ]: 0 : if (pe->type == RTE_FLOW_ITEM_TYPE_END) {
1153 : : pb = pe;
1154 : : break;
1155 : : }
1156 : :
1157 : 0 : pb = pe + 1;
1158 : : }
1159 : : /* Copy the END item. */
1160 : : memcpy(items, pe, sizeof(struct rte_flow_item));
1161 : 0 : }
1162 : :
1163 : : /* Check if the pattern matches a supported item type array */
1164 : : static bool
1165 : : i40e_match_pattern(enum rte_flow_item_type *item_array,
1166 : : struct rte_flow_item *pattern)
1167 : : {
1168 : : struct rte_flow_item *item = pattern;
1169 : :
1170 [ # # # # ]: 0 : while ((*item_array == item->type) &&
1171 : : (*item_array != RTE_FLOW_ITEM_TYPE_END)) {
1172 : 0 : item_array++;
1173 : 0 : item++;
1174 : : }
1175 : :
1176 [ # # # # ]: 0 : return (*item_array == RTE_FLOW_ITEM_TYPE_END &&
1177 : : item->type == RTE_FLOW_ITEM_TYPE_END);
1178 : : }
1179 : :
1180 : : /* Find if there's parse filter function matched */
1181 : : static parse_filter_t
1182 : 0 : i40e_find_parse_filter_func(struct rte_flow_item *pattern, uint32_t *idx)
1183 : : {
1184 : : parse_filter_t parse_filter = NULL;
1185 : 0 : uint8_t i = *idx;
1186 : :
1187 [ # # ]: 0 : for (; i < RTE_DIM(i40e_supported_patterns); i++) {
1188 [ # # ]: 0 : if (i40e_match_pattern(i40e_supported_patterns[i].items,
1189 : : pattern)) {
1190 : 0 : parse_filter = i40e_supported_patterns[i].parse_filter;
1191 : 0 : break;
1192 : : }
1193 : : }
1194 : :
1195 : 0 : *idx = ++i;
1196 : :
1197 : 0 : return parse_filter;
1198 : : }
1199 : :
1200 : : #define I40E_FLOW_DUMP_CHUNK_BYTES 32
1201 : :
1202 : : static const char *
1203 : : i40e_flow_rule_name(enum rte_filter_type filter_type)
1204 : : {
1205 [ # # # # : 0 : switch (filter_type) {
# ]
1206 : : case RTE_ETH_FILTER_ETHERTYPE:
1207 : : return "ethertype";
1208 : 0 : case RTE_ETH_FILTER_FDIR:
1209 : 0 : return "fdir";
1210 : 0 : case RTE_ETH_FILTER_TUNNEL:
1211 : 0 : return "tunnel";
1212 : 0 : case RTE_ETH_FILTER_HASH:
1213 : 0 : return "hash";
1214 : 0 : default:
1215 : 0 : return "unknown";
1216 : : }
1217 : : }
1218 : :
1219 : : static size_t
1220 : : i40e_flow_rule_size(enum rte_filter_type filter_type)
1221 : : {
1222 : : switch (filter_type) {
1223 : : case RTE_ETH_FILTER_ETHERTYPE:
1224 : : return sizeof(struct i40e_ethertype_filter);
1225 : : case RTE_ETH_FILTER_FDIR:
1226 : : return sizeof(struct i40e_fdir_filter);
1227 : : case RTE_ETH_FILTER_TUNNEL:
1228 : : return sizeof(struct i40e_tunnel_filter);
1229 : : case RTE_ETH_FILTER_HASH:
1230 : : return sizeof(struct i40e_rss_filter);
1231 : : default:
1232 : : return 0;
1233 : : }
1234 : : }
1235 : :
1236 : : static void
1237 : 0 : i40e_flow_dump_blob(FILE *file, const char *engine,
1238 : : const void *data, size_t data_len)
1239 : : {
1240 : : const uint8_t *raw = (const uint8_t *)data;
1241 : 0 : const size_t nchunks =
1242 : 0 : (data_len + I40E_FLOW_DUMP_CHUNK_BYTES - 1) /
1243 : : I40E_FLOW_DUMP_CHUNK_BYTES;
1244 : : char title[64];
1245 : : size_t ci;
1246 : :
1247 : : fprintf(file, "FLOW DUMP: driver=i40e engine=%s\n", engine);
1248 : : fprintf(file, "FLOW DUMP: DATA size=%zu chunks=%zu chunk_bytes=%d\n",
1249 : : data_len, nchunks, I40E_FLOW_DUMP_CHUNK_BYTES);
1250 : :
1251 [ # # ]: 0 : for (ci = 0; ci < nchunks; ci++) {
1252 : 0 : const size_t off = ci * I40E_FLOW_DUMP_CHUNK_BYTES;
1253 : : const size_t clen =
1254 : 0 : RTE_MIN((size_t)I40E_FLOW_DUMP_CHUNK_BYTES, data_len - off);
1255 : :
1256 : 0 : snprintf(title, sizeof(title), "FLOW DUMP: chunk %03zu/%03zu",
1257 : : ci + 1, nchunks);
1258 : 0 : rte_memdump(file, title, raw + off, clen);
1259 : : }
1260 : 0 : }
1261 : :
1262 : : static int
1263 : 0 : i40e_flow_dev_dump(struct rte_eth_dev *dev,
1264 : : struct rte_flow *flow,
1265 : : FILE *file,
1266 : : struct rte_flow_error *error)
1267 : : {
1268 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
1269 : : struct rte_flow *p_flow;
1270 : : bool found = false;
1271 : :
1272 [ # # ]: 0 : TAILQ_FOREACH(p_flow, &pf->flow_list, node) {
1273 : : size_t rule_size = 0;
1274 : : const void *rule_data = NULL;
1275 : :
1276 [ # # ]: 0 : if (flow != NULL && p_flow != flow)
1277 : 0 : continue;
1278 : :
1279 : : /* should not happen */
1280 [ # # ]: 0 : if (p_flow->rule == NULL) {
1281 : 0 : PMD_DRV_LOG(DEBUG, "Invalid flow rule");
1282 : 0 : continue;
1283 : : }
1284 : :
1285 [ # # ]: 0 : rule_size = i40e_flow_rule_size(p_flow->filter_type);
1286 : : /* should not happen either */
1287 [ # # ]: 0 : if (rule_size == 0)
1288 : 0 : continue;
1289 : :
1290 : : found = true;
1291 : : rule_data = p_flow->rule;
1292 : 0 : i40e_flow_dump_blob(file,
1293 : : i40e_flow_rule_name(p_flow->filter_type),
1294 : : rule_data, rule_size);
1295 : : }
1296 : :
1297 [ # # ]: 0 : if (flow != NULL && !found)
1298 : 0 : return rte_flow_error_set(error, ENOENT,
1299 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
1300 : : "Flow not found");
1301 : :
1302 : : return 0;
1303 : : }
1304 : :
1305 : : static int
1306 : 0 : i40e_get_outer_vlan(struct rte_eth_dev *dev, uint16_t *tpid)
1307 : : {
1308 : 0 : struct i40e_hw *hw = I40E_DEV_PRIVATE_TO_HW(dev->data->dev_private);
1309 : 0 : int qinq = dev->data->dev_conf.rxmode.offloads &
1310 : : RTE_ETH_RX_OFFLOAD_VLAN_EXTEND;
1311 : 0 : uint64_t reg_r = 0;
1312 : : uint16_t reg_id;
1313 : : int ret;
1314 : :
1315 [ # # ]: 0 : if (qinq)
1316 : : reg_id = 2;
1317 : : else
1318 : : reg_id = 3;
1319 : :
1320 : 0 : ret = i40e_aq_debug_read_register(hw, I40E_GL_SWT_L2TAGCTRL(reg_id),
1321 : : ®_r, NULL);
1322 [ # # ]: 0 : if (ret != I40E_SUCCESS) {
1323 : 0 : PMD_DRV_LOG(ERR, "Failed to read from L2 tag ctrl register [%d]", reg_id);
1324 : 0 : return -EIO;
1325 : : }
1326 : :
1327 : 0 : *tpid = (reg_r >> I40E_GL_SWT_L2TAGCTRL_ETHERTYPE_SHIFT) & 0xFFFF;
1328 : :
1329 : 0 : return 0;
1330 : : }
1331 : :
1332 : : /* 1. Last in item should be NULL as range is not supported.
1333 : : * 2. Supported filter types: MAC_ETHTYPE and ETHTYPE.
1334 : : * 3. SRC mac_addr mask should be 00:00:00:00:00:00.
1335 : : * 4. DST mac_addr mask should be 00:00:00:00:00:00 or
1336 : : * FF:FF:FF:FF:FF:FF
1337 : : * 5. Ether_type mask should be 0xFFFF.
1338 : : */
1339 : : static int
1340 : 0 : i40e_flow_parse_ethertype_pattern(struct rte_eth_dev *dev,
1341 : : const struct rte_flow_item *pattern,
1342 : : struct rte_flow_error *error,
1343 : : struct rte_eth_ethertype_filter *filter)
1344 : : {
1345 : : const struct rte_flow_item *item = pattern;
1346 : : const struct rte_flow_item_eth *eth_spec;
1347 : : const struct rte_flow_item_eth *eth_mask;
1348 : : enum rte_flow_item_type item_type;
1349 : : int ret;
1350 : : uint16_t tpid;
1351 : :
1352 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
1353 [ # # ]: 0 : if (item->last) {
1354 : 0 : rte_flow_error_set(error, EINVAL,
1355 : : RTE_FLOW_ERROR_TYPE_ITEM,
1356 : : item,
1357 : : "Not support range");
1358 : 0 : return -rte_errno;
1359 : : }
1360 : : item_type = item->type;
1361 [ # # ]: 0 : switch (item_type) {
1362 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
1363 : 0 : eth_spec = item->spec;
1364 : 0 : eth_mask = item->mask;
1365 : : /* Get the MAC info. */
1366 [ # # ]: 0 : if (!eth_spec || !eth_mask) {
1367 : 0 : rte_flow_error_set(error, EINVAL,
1368 : : RTE_FLOW_ERROR_TYPE_ITEM,
1369 : : item,
1370 : : "NULL ETH spec/mask");
1371 : 0 : return -rte_errno;
1372 : : }
1373 : :
1374 : : /* Mask bits of source MAC address must be full of 0.
1375 : : * Mask bits of destination MAC address must be full
1376 : : * of 1 or full of 0.
1377 : : */
1378 [ # # # # ]: 0 : if (!rte_is_zero_ether_addr(ð_mask->hdr.src_addr) ||
1379 [ # # ]: 0 : (!rte_is_zero_ether_addr(ð_mask->hdr.dst_addr) &&
1380 : : !rte_is_broadcast_ether_addr(ð_mask->hdr.dst_addr))) {
1381 : 0 : rte_flow_error_set(error, EINVAL,
1382 : : RTE_FLOW_ERROR_TYPE_ITEM,
1383 : : item,
1384 : : "Invalid MAC_addr mask");
1385 : 0 : return -rte_errno;
1386 : : }
1387 : :
1388 [ # # ]: 0 : if ((eth_mask->hdr.ether_type & UINT16_MAX) != UINT16_MAX) {
1389 : 0 : rte_flow_error_set(error, EINVAL,
1390 : : RTE_FLOW_ERROR_TYPE_ITEM,
1391 : : item,
1392 : : "Invalid ethertype mask");
1393 : 0 : return -rte_errno;
1394 : : }
1395 : :
1396 : : /* If mask bits of destination MAC address
1397 : : * are full of 1, set RTE_ETHTYPE_FLAGS_MAC.
1398 : : */
1399 [ # # ]: 0 : if (rte_is_broadcast_ether_addr(ð_mask->hdr.dst_addr)) {
1400 : 0 : filter->mac_addr = eth_spec->hdr.dst_addr;
1401 : 0 : filter->flags |= RTE_ETHTYPE_FLAGS_MAC;
1402 : : } else {
1403 : 0 : filter->flags &= ~RTE_ETHTYPE_FLAGS_MAC;
1404 : : }
1405 [ # # ]: 0 : filter->ether_type = rte_be_to_cpu_16(eth_spec->hdr.ether_type);
1406 : :
1407 [ # # ]: 0 : if (filter->ether_type == RTE_ETHER_TYPE_IPV4 ||
1408 [ # # ]: 0 : filter->ether_type == RTE_ETHER_TYPE_IPV6 ||
1409 : : filter->ether_type == RTE_ETHER_TYPE_LLDP) {
1410 : 0 : rte_flow_error_set(error, EINVAL,
1411 : : RTE_FLOW_ERROR_TYPE_ITEM,
1412 : : item,
1413 : : "Unsupported ether_type in control packet filter.");
1414 : 0 : return -rte_errno;
1415 : : }
1416 : :
1417 : 0 : ret = i40e_get_outer_vlan(dev, &tpid);
1418 [ # # ]: 0 : if (ret != 0) {
1419 : 0 : rte_flow_error_set(error, EIO,
1420 : : RTE_FLOW_ERROR_TYPE_ITEM,
1421 : : item,
1422 : : "Can not get the Ethertype identifying the L2 tag");
1423 : 0 : return -rte_errno;
1424 : : }
1425 [ # # ]: 0 : if (filter->ether_type == tpid) {
1426 : 0 : rte_flow_error_set(error, EINVAL,
1427 : : RTE_FLOW_ERROR_TYPE_ITEM,
1428 : : item,
1429 : : "Unsupported ether_type in"
1430 : : " control packet filter.");
1431 : 0 : return -rte_errno;
1432 : : }
1433 : :
1434 : : break;
1435 : : default:
1436 : : break;
1437 : : }
1438 : : }
1439 : :
1440 : : return 0;
1441 : : }
1442 : :
1443 : : /* Ethertype action only supports QUEUE or DROP. */
1444 : : static int
1445 : 0 : i40e_flow_parse_ethertype_action(struct rte_eth_dev *dev,
1446 : : const struct rte_flow_action *actions,
1447 : : struct rte_flow_error *error,
1448 : : struct rte_eth_ethertype_filter *filter)
1449 : : {
1450 : 0 : struct ci_flow_actions parsed_actions = {0};
1451 : 0 : struct ci_flow_actions_check_param ac_param = {
1452 : 0 : .allowed_types = (enum rte_flow_action_type[]) {
1453 : : RTE_FLOW_ACTION_TYPE_QUEUE,
1454 : : RTE_FLOW_ACTION_TYPE_DROP,
1455 : : RTE_FLOW_ACTION_TYPE_END,
1456 : : },
1457 : : .max_actions = 1,
1458 : : };
1459 : : const struct rte_flow_action *action;
1460 : : int ret;
1461 : :
1462 : 0 : ret = ci_flow_check_actions(actions, &ac_param, &parsed_actions, error);
1463 [ # # ]: 0 : if (ret)
1464 : : return ret;
1465 : 0 : action = parsed_actions.actions[0];
1466 : :
1467 [ # # ]: 0 : if (action->type == RTE_FLOW_ACTION_TYPE_QUEUE) {
1468 : 0 : const struct rte_flow_action_queue *act_q = action->conf;
1469 : : /* check queue index */
1470 [ # # ]: 0 : if (act_q->index >= dev->data->nb_rx_queues) {
1471 : 0 : return rte_flow_error_set(error, EINVAL,
1472 : : RTE_FLOW_ERROR_TYPE_ACTION, action,
1473 : : "Invalid queue index");
1474 : : }
1475 : 0 : filter->queue = act_q->index;
1476 [ # # ]: 0 : } else if (action->type == RTE_FLOW_ACTION_TYPE_DROP) {
1477 : 0 : filter->flags |= RTE_ETHTYPE_FLAGS_DROP;
1478 : : }
1479 : : return 0;
1480 : : }
1481 : :
1482 : : static int
1483 : 0 : i40e_flow_parse_ethertype_filter(struct rte_eth_dev *dev,
1484 : : const struct rte_flow_item pattern[],
1485 : : const struct rte_flow_action actions[],
1486 : : struct rte_flow_error *error,
1487 : : struct i40e_filter_ctx *filter)
1488 : : {
1489 : 0 : struct rte_eth_ethertype_filter *ethertype_filter = &filter->ethertype_filter;
1490 : : int ret;
1491 : :
1492 : 0 : ret = i40e_flow_parse_ethertype_pattern(dev, pattern, error,
1493 : : ethertype_filter);
1494 [ # # ]: 0 : if (ret)
1495 : : return ret;
1496 : :
1497 : 0 : ret = i40e_flow_parse_ethertype_action(dev, actions, error,
1498 : : ethertype_filter);
1499 [ # # ]: 0 : if (ret)
1500 : : return ret;
1501 : :
1502 : 0 : filter->type = RTE_ETH_FILTER_ETHERTYPE;
1503 : :
1504 : 0 : return ret;
1505 : : }
1506 : :
1507 : : static int
1508 : 0 : i40e_flow_check_raw_item(const struct rte_flow_item *item,
1509 : : const struct rte_flow_item_raw *raw_spec,
1510 : : struct rte_flow_error *error)
1511 : : {
1512 [ # # ]: 0 : if (!raw_spec->relative) {
1513 : 0 : rte_flow_error_set(error, EINVAL,
1514 : : RTE_FLOW_ERROR_TYPE_ITEM,
1515 : : item,
1516 : : "Relative should be 1.");
1517 : 0 : return -rte_errno;
1518 : : }
1519 : :
1520 [ # # ]: 0 : if (raw_spec->offset % sizeof(uint16_t)) {
1521 : 0 : rte_flow_error_set(error, EINVAL,
1522 : : RTE_FLOW_ERROR_TYPE_ITEM,
1523 : : item,
1524 : : "Offset should be even.");
1525 : 0 : return -rte_errno;
1526 : : }
1527 : :
1528 [ # # # # ]: 0 : if (raw_spec->search || raw_spec->limit) {
1529 : 0 : rte_flow_error_set(error, EINVAL,
1530 : : RTE_FLOW_ERROR_TYPE_ITEM,
1531 : : item,
1532 : : "search or limit is not supported.");
1533 : 0 : return -rte_errno;
1534 : : }
1535 : :
1536 [ # # ]: 0 : if (raw_spec->offset < 0) {
1537 : 0 : rte_flow_error_set(error, EINVAL,
1538 : : RTE_FLOW_ERROR_TYPE_ITEM,
1539 : : item,
1540 : : "Offset should be non-negative.");
1541 : 0 : return -rte_errno;
1542 : : }
1543 : : return 0;
1544 : : }
1545 : :
1546 : :
1547 : : static uint8_t
1548 : 0 : i40e_flow_fdir_get_pctype_value(struct i40e_pf *pf,
1549 : : enum rte_flow_item_type item_type,
1550 : : struct i40e_fdir_filter_conf *filter)
1551 : : {
1552 : : struct i40e_customized_pctype *cus_pctype = NULL;
1553 : :
1554 [ # # # # : 0 : switch (item_type) {
# ]
1555 : 0 : case RTE_FLOW_ITEM_TYPE_GTPC:
1556 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1557 : : I40E_CUSTOMIZED_GTPC);
1558 : 0 : break;
1559 : 0 : case RTE_FLOW_ITEM_TYPE_GTPU:
1560 [ # # ]: 0 : if (!filter->input.flow_ext.inner_ip)
1561 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1562 : : I40E_CUSTOMIZED_GTPU);
1563 [ # # ]: 0 : else if (filter->input.flow_ext.iip_type ==
1564 : : I40E_FDIR_IPTYPE_IPV4)
1565 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1566 : : I40E_CUSTOMIZED_GTPU_IPV4);
1567 [ # # ]: 0 : else if (filter->input.flow_ext.iip_type ==
1568 : : I40E_FDIR_IPTYPE_IPV6)
1569 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1570 : : I40E_CUSTOMIZED_GTPU_IPV6);
1571 : : break;
1572 : 0 : case RTE_FLOW_ITEM_TYPE_L2TPV3OIP:
1573 [ # # ]: 0 : if (filter->input.flow_ext.oip_type == I40E_FDIR_IPTYPE_IPV4)
1574 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1575 : : I40E_CUSTOMIZED_IPV4_L2TPV3);
1576 [ # # ]: 0 : else if (filter->input.flow_ext.oip_type ==
1577 : : I40E_FDIR_IPTYPE_IPV6)
1578 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1579 : : I40E_CUSTOMIZED_IPV6_L2TPV3);
1580 : : break;
1581 : 0 : case RTE_FLOW_ITEM_TYPE_ESP:
1582 [ # # ]: 0 : if (!filter->input.flow_ext.is_udp) {
1583 [ # # ]: 0 : if (filter->input.flow_ext.oip_type ==
1584 : : I40E_FDIR_IPTYPE_IPV4)
1585 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1586 : : I40E_CUSTOMIZED_ESP_IPV4);
1587 [ # # ]: 0 : else if (filter->input.flow_ext.oip_type ==
1588 : : I40E_FDIR_IPTYPE_IPV6)
1589 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1590 : : I40E_CUSTOMIZED_ESP_IPV6);
1591 : : } else {
1592 [ # # ]: 0 : if (filter->input.flow_ext.oip_type ==
1593 : : I40E_FDIR_IPTYPE_IPV4)
1594 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1595 : : I40E_CUSTOMIZED_ESP_IPV4_UDP);
1596 [ # # ]: 0 : else if (filter->input.flow_ext.oip_type ==
1597 : : I40E_FDIR_IPTYPE_IPV6)
1598 : 0 : cus_pctype = i40e_find_customized_pctype(pf,
1599 : : I40E_CUSTOMIZED_ESP_IPV6_UDP);
1600 : 0 : filter->input.flow_ext.is_udp = false;
1601 : : }
1602 : : break;
1603 : 0 : default:
1604 : 0 : PMD_DRV_LOG(ERR, "Unsupported item type");
1605 : : break;
1606 : : }
1607 : :
1608 [ # # # # ]: 0 : if (cus_pctype && cus_pctype->valid)
1609 : 0 : return cus_pctype->pctype;
1610 : :
1611 : : return I40E_FILTER_PCTYPE_INVALID;
1612 : : }
1613 : :
1614 : : static void
1615 : : i40e_flow_set_filter_spi(struct i40e_fdir_filter_conf *filter,
1616 : : const struct rte_flow_item_esp *esp_spec)
1617 : : {
1618 [ # # ]: 0 : if (filter->input.flow_ext.oip_type ==
1619 : : I40E_FDIR_IPTYPE_IPV4) {
1620 [ # # ]: 0 : if (filter->input.flow_ext.is_udp)
1621 : 0 : filter->input.flow.esp_ipv4_udp_flow.spi =
1622 : 0 : esp_spec->hdr.spi;
1623 : : else
1624 : 0 : filter->input.flow.esp_ipv4_flow.spi =
1625 : 0 : esp_spec->hdr.spi;
1626 : : }
1627 [ # # ]: 0 : if (filter->input.flow_ext.oip_type ==
1628 : : I40E_FDIR_IPTYPE_IPV6) {
1629 [ # # ]: 0 : if (filter->input.flow_ext.is_udp)
1630 : 0 : filter->input.flow.esp_ipv6_udp_flow.spi =
1631 : 0 : esp_spec->hdr.spi;
1632 : : else
1633 : 0 : filter->input.flow.esp_ipv6_flow.spi =
1634 : 0 : esp_spec->hdr.spi;
1635 : : }
1636 : : }
1637 : :
1638 : : /* 1. Last in item should be NULL as range is not supported.
1639 : : * 2. Supported patterns: refer to array i40e_supported_patterns.
1640 : : * 3. Default supported flow type and input set: refer to array
1641 : : * valid_fdir_inset_table in i40e_ethdev.c.
1642 : : * 4. Mask of fields which need to be matched should be
1643 : : * filled with 1.
1644 : : * 5. Mask of fields which needn't to be matched should be
1645 : : * filled with 0.
1646 : : * 6. GTP profile supports GTPv1 only.
1647 : : * 7. GTP-C response message ('source_port' = 2123) is not supported.
1648 : : */
1649 : : static int
1650 : 0 : i40e_flow_parse_fdir_pattern(struct rte_eth_dev *dev,
1651 : : const struct rte_flow_item *pattern,
1652 : : struct rte_flow_error *error,
1653 : : struct i40e_fdir_filter_conf *filter)
1654 : : {
1655 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
1656 : : const struct rte_flow_item *item = pattern;
1657 : : const struct rte_flow_item_eth *eth_spec, *eth_mask;
1658 : : const struct rte_flow_item_vlan *vlan_spec, *vlan_mask;
1659 : : const struct rte_flow_item_ipv4 *ipv4_spec, *ipv4_last, *ipv4_mask;
1660 : : const struct rte_flow_item_ipv6 *ipv6_spec, *ipv6_mask;
1661 : : const struct rte_flow_item_tcp *tcp_spec, *tcp_mask;
1662 : : const struct rte_flow_item_udp *udp_spec, *udp_mask;
1663 : : const struct rte_flow_item_sctp *sctp_spec, *sctp_mask;
1664 : : const struct rte_flow_item_gtp *gtp_spec, *gtp_mask;
1665 : : const struct rte_flow_item_esp *esp_spec, *esp_mask;
1666 : : const struct rte_flow_item_raw *raw_spec, *raw_mask;
1667 : : const struct rte_flow_item_l2tpv3oip *l2tpv3oip_spec, *l2tpv3oip_mask;
1668 : :
1669 : : uint8_t pctype = 0;
1670 : : uint64_t input_set = I40E_INSET_NONE;
1671 : : enum rte_flow_item_type item_type;
1672 : : enum rte_flow_item_type next_type;
1673 : : enum rte_flow_item_type l3 = RTE_FLOW_ITEM_TYPE_END;
1674 : : enum rte_flow_item_type cus_proto = RTE_FLOW_ITEM_TYPE_END;
1675 : : uint32_t i, j;
1676 : 0 : uint8_t ipv6_addr_mask[16] = {
1677 : : 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF,
1678 : : 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF };
1679 : : enum i40e_flxpld_layer_idx layer_idx = I40E_FLXPLD_L2_IDX;
1680 : : uint8_t raw_id = 0;
1681 : : int32_t off_arr[I40E_MAX_FLXPLD_FIED];
1682 : : uint16_t len_arr[I40E_MAX_FLXPLD_FIED];
1683 : : struct i40e_fdir_flex_pit flex_pit;
1684 : : uint8_t next_dst_off = 0;
1685 : : uint16_t flex_size;
1686 : : uint16_t ether_type;
1687 : : uint32_t vtc_flow_cpu;
1688 : : bool outer_ip = true;
1689 : : uint8_t field_idx;
1690 : : int ret;
1691 : : uint16_t tpid;
1692 : :
1693 : : memset(off_arr, 0, sizeof(off_arr));
1694 : : memset(len_arr, 0, sizeof(len_arr));
1695 : 0 : filter->input.flow_ext.customized_pctype = false;
1696 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
1697 [ # # # # ]: 0 : if (item->last && item->type != RTE_FLOW_ITEM_TYPE_IPV4) {
1698 : 0 : rte_flow_error_set(error, EINVAL,
1699 : : RTE_FLOW_ERROR_TYPE_ITEM,
1700 : : item,
1701 : : "Not support range");
1702 : 0 : return -rte_errno;
1703 : : }
1704 : : item_type = item->type;
1705 [ # # # # : 0 : switch (item_type) {
# # # # #
# # # ]
1706 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
1707 : 0 : eth_spec = item->spec;
1708 : 0 : eth_mask = item->mask;
1709 : 0 : next_type = (item + 1)->type;
1710 : :
1711 [ # # ]: 0 : if (next_type == RTE_FLOW_ITEM_TYPE_END &&
1712 [ # # ]: 0 : (!eth_spec || !eth_mask)) {
1713 : 0 : rte_flow_error_set(error, EINVAL,
1714 : : RTE_FLOW_ERROR_TYPE_ITEM,
1715 : : item,
1716 : : "NULL eth spec/mask.");
1717 : 0 : return -rte_errno;
1718 : : }
1719 : :
1720 [ # # ]: 0 : if (eth_spec && eth_mask) {
1721 [ # # # # ]: 0 : if (rte_is_broadcast_ether_addr(ð_mask->hdr.dst_addr) &&
1722 : : rte_is_zero_ether_addr(ð_mask->hdr.src_addr)) {
1723 : 0 : filter->input.flow.l2_flow.dst =
1724 : : eth_spec->hdr.dst_addr;
1725 : 0 : input_set |= I40E_INSET_DMAC;
1726 [ # # # # ]: 0 : } else if (rte_is_zero_ether_addr(ð_mask->hdr.dst_addr) &&
1727 : : rte_is_broadcast_ether_addr(ð_mask->hdr.src_addr)) {
1728 : 0 : filter->input.flow.l2_flow.src =
1729 : : eth_spec->hdr.src_addr;
1730 : 0 : input_set |= I40E_INSET_SMAC;
1731 [ # # # # ]: 0 : } else if (rte_is_broadcast_ether_addr(ð_mask->hdr.dst_addr) &&
1732 : : rte_is_broadcast_ether_addr(ð_mask->hdr.src_addr)) {
1733 : 0 : filter->input.flow.l2_flow.dst =
1734 : : eth_spec->hdr.dst_addr;
1735 : 0 : filter->input.flow.l2_flow.src =
1736 : : eth_spec->hdr.src_addr;
1737 : 0 : input_set |= (I40E_INSET_DMAC | I40E_INSET_SMAC);
1738 [ # # # # ]: 0 : } else if (!rte_is_zero_ether_addr(ð_mask->hdr.src_addr) ||
1739 : : !rte_is_zero_ether_addr(ð_mask->hdr.dst_addr)) {
1740 : 0 : rte_flow_error_set(error, EINVAL,
1741 : : RTE_FLOW_ERROR_TYPE_ITEM,
1742 : : item,
1743 : : "Invalid MAC_addr mask.");
1744 : 0 : return -rte_errno;
1745 : : }
1746 : : }
1747 [ # # # # ]: 0 : if (eth_spec && eth_mask &&
1748 : : next_type == RTE_FLOW_ITEM_TYPE_END) {
1749 [ # # ]: 0 : if (eth_mask->hdr.ether_type != RTE_BE16(0xffff)) {
1750 : 0 : rte_flow_error_set(error, EINVAL,
1751 : : RTE_FLOW_ERROR_TYPE_ITEM,
1752 : : item,
1753 : : "Invalid type mask.");
1754 : 0 : return -rte_errno;
1755 : : }
1756 : :
1757 [ # # ]: 0 : ether_type = rte_be_to_cpu_16(eth_spec->hdr.ether_type);
1758 : :
1759 : 0 : if (ether_type == RTE_ETHER_TYPE_IPV4 ||
1760 [ # # ]: 0 : ether_type == RTE_ETHER_TYPE_IPV6) {
1761 : 0 : rte_flow_error_set(error, EINVAL,
1762 : : RTE_FLOW_ERROR_TYPE_ITEM,
1763 : : item,
1764 : : "Unsupported ether_type.");
1765 : 0 : return -rte_errno;
1766 : : }
1767 : 0 : ret = i40e_get_outer_vlan(dev, &tpid);
1768 [ # # ]: 0 : if (ret != 0) {
1769 : 0 : rte_flow_error_set(error, EIO,
1770 : : RTE_FLOW_ERROR_TYPE_ITEM,
1771 : : item,
1772 : : "Can not get the Ethertype identifying the L2 tag");
1773 : 0 : return -rte_errno;
1774 : : }
1775 [ # # ]: 0 : if (ether_type == tpid) {
1776 : 0 : rte_flow_error_set(error, EINVAL,
1777 : : RTE_FLOW_ERROR_TYPE_ITEM,
1778 : : item,
1779 : : "Unsupported ether_type.");
1780 : 0 : return -rte_errno;
1781 : : }
1782 : :
1783 : 0 : input_set |= I40E_INSET_LAST_ETHER_TYPE;
1784 : 0 : filter->input.flow.l2_flow.ether_type =
1785 : 0 : eth_spec->hdr.ether_type;
1786 : : }
1787 : :
1788 : : pctype = I40E_FILTER_PCTYPE_L2_PAYLOAD;
1789 : : layer_idx = I40E_FLXPLD_L2_IDX;
1790 : :
1791 : : break;
1792 : 0 : case RTE_FLOW_ITEM_TYPE_VLAN:
1793 : 0 : vlan_spec = item->spec;
1794 : 0 : vlan_mask = item->mask;
1795 : :
1796 : : RTE_ASSERT(!(input_set & I40E_INSET_LAST_ETHER_TYPE));
1797 [ # # ]: 0 : if (vlan_spec && vlan_mask) {
1798 [ # # # # ]: 0 : if (vlan_mask->hdr.vlan_tci != 0 &&
1799 : : vlan_mask->hdr.vlan_tci !=
1800 : : rte_cpu_to_be_16(I40E_VLAN_TCI_MASK)) {
1801 : 0 : rte_flow_error_set(error, EINVAL,
1802 : : RTE_FLOW_ERROR_TYPE_ITEM,
1803 : : item,
1804 : : "Unsupported TCI mask.");
1805 : 0 : return -rte_errno;
1806 : : }
1807 [ # # ]: 0 : if (vlan_mask->hdr.vlan_tci != 0) {
1808 : 0 : input_set |= I40E_INSET_VLAN_INNER;
1809 : 0 : filter->input.flow_ext.vlan_tci = vlan_spec->hdr.vlan_tci;
1810 : : }
1811 : : }
1812 [ # # # # ]: 0 : if (vlan_spec && vlan_mask && vlan_mask->hdr.eth_proto) {
1813 [ # # ]: 0 : if (vlan_mask->hdr.eth_proto != RTE_BE16(0xffff)) {
1814 : 0 : rte_flow_error_set(error, EINVAL,
1815 : : RTE_FLOW_ERROR_TYPE_ITEM,
1816 : : item,
1817 : : "Invalid inner_type"
1818 : : " mask.");
1819 : 0 : return -rte_errno;
1820 : : }
1821 : :
1822 : : ether_type =
1823 [ # # ]: 0 : rte_be_to_cpu_16(vlan_spec->hdr.eth_proto);
1824 : :
1825 : 0 : if (ether_type == RTE_ETHER_TYPE_IPV4 ||
1826 [ # # ]: 0 : ether_type == RTE_ETHER_TYPE_IPV6) {
1827 : 0 : rte_flow_error_set(error, EINVAL,
1828 : : RTE_FLOW_ERROR_TYPE_ITEM,
1829 : : item,
1830 : : "Unsupported inner_type.");
1831 : 0 : return -rte_errno;
1832 : : }
1833 : 0 : ret = i40e_get_outer_vlan(dev, &tpid);
1834 [ # # ]: 0 : if (ret != 0) {
1835 : 0 : rte_flow_error_set(error, EIO,
1836 : : RTE_FLOW_ERROR_TYPE_ITEM,
1837 : : item,
1838 : : "Can not get the Ethertype identifying the L2 tag");
1839 : 0 : return -rte_errno;
1840 : : }
1841 [ # # ]: 0 : if (ether_type == tpid) {
1842 : 0 : rte_flow_error_set(error, EINVAL,
1843 : : RTE_FLOW_ERROR_TYPE_ITEM,
1844 : : item,
1845 : : "Unsupported ether_type.");
1846 : 0 : return -rte_errno;
1847 : : }
1848 : :
1849 : 0 : input_set |= I40E_INSET_LAST_ETHER_TYPE;
1850 : 0 : filter->input.flow.l2_flow.ether_type =
1851 : 0 : vlan_spec->hdr.eth_proto;
1852 : : }
1853 : :
1854 : : pctype = I40E_FILTER_PCTYPE_L2_PAYLOAD;
1855 : : layer_idx = I40E_FLXPLD_L2_IDX;
1856 : :
1857 : : break;
1858 : 0 : case RTE_FLOW_ITEM_TYPE_IPV4:
1859 : : l3 = RTE_FLOW_ITEM_TYPE_IPV4;
1860 : 0 : ipv4_spec = item->spec;
1861 : 0 : ipv4_mask = item->mask;
1862 : : ipv4_last = item->last;
1863 : : pctype = I40E_FILTER_PCTYPE_NONF_IPV4_OTHER;
1864 : : layer_idx = I40E_FLXPLD_L3_IDX;
1865 : :
1866 [ # # ]: 0 : if (ipv4_last) {
1867 [ # # # # ]: 0 : if (!ipv4_spec || !ipv4_mask || !outer_ip) {
1868 : 0 : rte_flow_error_set(error, EINVAL,
1869 : : RTE_FLOW_ERROR_TYPE_ITEM,
1870 : : item,
1871 : : "Not support range");
1872 : 0 : return -rte_errno;
1873 : : }
1874 : : /* Only fragment_offset supports range */
1875 [ # # ]: 0 : if (ipv4_last->hdr.version_ihl ||
1876 : 0 : ipv4_last->hdr.type_of_service ||
1877 [ # # ]: 0 : ipv4_last->hdr.total_length ||
1878 [ # # ]: 0 : ipv4_last->hdr.packet_id ||
1879 [ # # ]: 0 : ipv4_last->hdr.time_to_live ||
1880 : 0 : ipv4_last->hdr.next_proto_id ||
1881 [ # # ]: 0 : ipv4_last->hdr.hdr_checksum ||
1882 [ # # ]: 0 : ipv4_last->hdr.src_addr ||
1883 [ # # ]: 0 : ipv4_last->hdr.dst_addr) {
1884 : 0 : rte_flow_error_set(error, EINVAL,
1885 : : RTE_FLOW_ERROR_TYPE_ITEM,
1886 : : item,
1887 : : "Not support range");
1888 : 0 : return -rte_errno;
1889 : : }
1890 : : }
1891 [ # # # # ]: 0 : if (ipv4_spec && ipv4_mask && outer_ip) {
1892 : : /* Check IPv4 mask and update input set */
1893 [ # # ]: 0 : if (ipv4_mask->hdr.version_ihl ||
1894 [ # # ]: 0 : ipv4_mask->hdr.total_length ||
1895 [ # # ]: 0 : ipv4_mask->hdr.packet_id ||
1896 [ # # ]: 0 : ipv4_mask->hdr.hdr_checksum) {
1897 : 0 : rte_flow_error_set(error, EINVAL,
1898 : : RTE_FLOW_ERROR_TYPE_ITEM,
1899 : : item,
1900 : : "Invalid IPv4 mask.");
1901 : 0 : return -rte_errno;
1902 : : }
1903 : :
1904 [ # # ]: 0 : if (ipv4_mask->hdr.src_addr == UINT32_MAX)
1905 : 0 : input_set |= I40E_INSET_IPV4_SRC;
1906 [ # # ]: 0 : if (ipv4_mask->hdr.dst_addr == UINT32_MAX)
1907 : 0 : input_set |= I40E_INSET_IPV4_DST;
1908 [ # # ]: 0 : if (ipv4_mask->hdr.type_of_service == UINT8_MAX)
1909 : 0 : input_set |= I40E_INSET_IPV4_TOS;
1910 [ # # ]: 0 : if (ipv4_mask->hdr.time_to_live == UINT8_MAX)
1911 : 0 : input_set |= I40E_INSET_IPV4_TTL;
1912 [ # # ]: 0 : if (ipv4_mask->hdr.next_proto_id == UINT8_MAX)
1913 : 0 : input_set |= I40E_INSET_IPV4_PROTO;
1914 : :
1915 : : /* Check if it is fragment. */
1916 : 0 : uint16_t frag_mask =
1917 : : ipv4_mask->hdr.fragment_offset;
1918 : 0 : uint16_t frag_spec =
1919 : : ipv4_spec->hdr.fragment_offset;
1920 : : uint16_t frag_last = 0;
1921 [ # # ]: 0 : if (ipv4_last)
1922 : 0 : frag_last =
1923 : : ipv4_last->hdr.fragment_offset;
1924 [ # # ]: 0 : if (frag_mask) {
1925 [ # # ]: 0 : frag_mask = rte_be_to_cpu_16(frag_mask);
1926 [ # # ]: 0 : frag_spec = rte_be_to_cpu_16(frag_spec);
1927 [ # # ]: 0 : frag_last = rte_be_to_cpu_16(frag_last);
1928 : : /* frag_off mask has to be 0x3fff */
1929 [ # # ]: 0 : if (frag_mask !=
1930 : : (RTE_IPV4_HDR_OFFSET_MASK |
1931 : : RTE_IPV4_HDR_MF_FLAG)) {
1932 : 0 : rte_flow_error_set(error,
1933 : : EINVAL,
1934 : : RTE_FLOW_ERROR_TYPE_ITEM,
1935 : : item,
1936 : : "Invalid IPv4 fragment_offset mask");
1937 : 0 : return -rte_errno;
1938 : : }
1939 : : /*
1940 : : * non-frag rule:
1941 : : * mask=0x3fff,spec=0
1942 : : * frag rule:
1943 : : * mask=0x3fff,spec=0x8,last=0x2000
1944 : : */
1945 : 0 : if (frag_spec ==
1946 : 0 : (1 << RTE_IPV4_HDR_FO_SHIFT) &&
1947 [ # # ]: 0 : frag_last == RTE_IPV4_HDR_MF_FLAG) {
1948 : : pctype =
1949 : : I40E_FILTER_PCTYPE_FRAG_IPV4;
1950 [ # # ]: 0 : } else if (frag_spec || frag_last) {
1951 : 0 : rte_flow_error_set(error,
1952 : : EINVAL,
1953 : : RTE_FLOW_ERROR_TYPE_ITEM,
1954 : : item,
1955 : : "Invalid IPv4 fragment_offset rule");
1956 : 0 : return -rte_errno;
1957 : : }
1958 [ # # ]: 0 : } else if (frag_spec || frag_last) {
1959 : 0 : rte_flow_error_set(error,
1960 : : EINVAL,
1961 : : RTE_FLOW_ERROR_TYPE_ITEM,
1962 : : item,
1963 : : "Invalid fragment_offset");
1964 : 0 : return -rte_errno;
1965 : : }
1966 : :
1967 [ # # ]: 0 : if (input_set & (I40E_INSET_DMAC | I40E_INSET_SMAC)) {
1968 [ # # ]: 0 : if (input_set & (I40E_INSET_IPV4_SRC |
1969 : : I40E_INSET_IPV4_DST | I40E_INSET_IPV4_TOS |
1970 : : I40E_INSET_IPV4_TTL | I40E_INSET_IPV4_PROTO)) {
1971 : 0 : rte_flow_error_set(error, EINVAL,
1972 : : RTE_FLOW_ERROR_TYPE_ITEM,
1973 : : item,
1974 : : "L2 and L3 input set are exclusive.");
1975 : 0 : return -rte_errno;
1976 : : }
1977 : : } else {
1978 : : /* Get the filter info */
1979 : 0 : filter->input.flow.ip4_flow.proto =
1980 : 0 : ipv4_spec->hdr.next_proto_id;
1981 : 0 : filter->input.flow.ip4_flow.tos =
1982 : 0 : ipv4_spec->hdr.type_of_service;
1983 : 0 : filter->input.flow.ip4_flow.ttl =
1984 : 0 : ipv4_spec->hdr.time_to_live;
1985 : 0 : filter->input.flow.ip4_flow.src_ip =
1986 : 0 : ipv4_spec->hdr.src_addr;
1987 : 0 : filter->input.flow.ip4_flow.dst_ip =
1988 : 0 : ipv4_spec->hdr.dst_addr;
1989 : :
1990 : 0 : filter->input.flow_ext.inner_ip = false;
1991 : 0 : filter->input.flow_ext.oip_type =
1992 : : I40E_FDIR_IPTYPE_IPV4;
1993 : : }
1994 [ # # # # ]: 0 : } else if (!ipv4_spec && !ipv4_mask && !outer_ip) {
1995 : 0 : filter->input.flow_ext.inner_ip = true;
1996 : 0 : filter->input.flow_ext.iip_type =
1997 : : I40E_FDIR_IPTYPE_IPV4;
1998 [ # # # # ]: 0 : } else if (!ipv4_spec && !ipv4_mask && outer_ip) {
1999 : 0 : filter->input.flow_ext.inner_ip = false;
2000 : 0 : filter->input.flow_ext.oip_type =
2001 : : I40E_FDIR_IPTYPE_IPV4;
2002 [ # # # # ]: 0 : } else if ((ipv4_spec || ipv4_mask) && !outer_ip) {
2003 : 0 : rte_flow_error_set(error, EINVAL,
2004 : : RTE_FLOW_ERROR_TYPE_ITEM,
2005 : : item,
2006 : : "Invalid inner IPv4 mask.");
2007 : 0 : return -rte_errno;
2008 : : }
2009 : :
2010 : : if (outer_ip)
2011 : : outer_ip = false;
2012 : :
2013 : : break;
2014 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6:
2015 : : l3 = RTE_FLOW_ITEM_TYPE_IPV6;
2016 : 0 : ipv6_spec = item->spec;
2017 : 0 : ipv6_mask = item->mask;
2018 : : pctype = I40E_FILTER_PCTYPE_NONF_IPV6_OTHER;
2019 : : layer_idx = I40E_FLXPLD_L3_IDX;
2020 : :
2021 [ # # # # ]: 0 : if (ipv6_spec && ipv6_mask && outer_ip) {
2022 : : /* Check IPv6 mask and update input set */
2023 [ # # ]: 0 : if (ipv6_mask->hdr.payload_len) {
2024 : 0 : rte_flow_error_set(error, EINVAL,
2025 : : RTE_FLOW_ERROR_TYPE_ITEM,
2026 : : item,
2027 : : "Invalid IPv6 mask");
2028 : 0 : return -rte_errno;
2029 : : }
2030 : :
2031 [ # # ]: 0 : if (!memcmp(&ipv6_mask->hdr.src_addr,
2032 : : ipv6_addr_mask,
2033 : : sizeof(ipv6_mask->hdr.src_addr)))
2034 : 0 : input_set |= I40E_INSET_IPV6_SRC;
2035 [ # # ]: 0 : if (!memcmp(&ipv6_mask->hdr.dst_addr,
2036 : : ipv6_addr_mask,
2037 : : sizeof(ipv6_mask->hdr.dst_addr)))
2038 : 0 : input_set |= I40E_INSET_IPV6_DST;
2039 : :
2040 [ # # ]: 0 : if ((ipv6_mask->hdr.vtc_flow &
2041 : : rte_cpu_to_be_32(I40E_IPV6_TC_MASK))
2042 : : == rte_cpu_to_be_32(I40E_IPV6_TC_MASK))
2043 : 0 : input_set |= I40E_INSET_IPV6_TC;
2044 [ # # ]: 0 : if (ipv6_mask->hdr.proto == UINT8_MAX)
2045 : 0 : input_set |= I40E_INSET_IPV6_NEXT_HDR;
2046 [ # # ]: 0 : if (ipv6_mask->hdr.hop_limits == UINT8_MAX)
2047 : 0 : input_set |= I40E_INSET_IPV6_HOP_LIMIT;
2048 : :
2049 : : /* Get filter info */
2050 : : vtc_flow_cpu =
2051 [ # # ]: 0 : rte_be_to_cpu_32(ipv6_spec->hdr.vtc_flow);
2052 : 0 : filter->input.flow.ipv6_flow.tc =
2053 : 0 : (uint8_t)(vtc_flow_cpu >>
2054 : : I40E_FDIR_IPv6_TC_OFFSET);
2055 : 0 : filter->input.flow.ipv6_flow.proto =
2056 : 0 : ipv6_spec->hdr.proto;
2057 : 0 : filter->input.flow.ipv6_flow.hop_limits =
2058 : 0 : ipv6_spec->hdr.hop_limits;
2059 : :
2060 : 0 : filter->input.flow_ext.inner_ip = false;
2061 : 0 : filter->input.flow_ext.oip_type =
2062 : : I40E_FDIR_IPTYPE_IPV6;
2063 : :
2064 : 0 : memcpy(filter->input.flow.ipv6_flow.src_ip,
2065 [ # # ]: 0 : &ipv6_spec->hdr.src_addr, 16);
2066 : 0 : memcpy(filter->input.flow.ipv6_flow.dst_ip,
2067 : 0 : &ipv6_spec->hdr.dst_addr, 16);
2068 : :
2069 : : /* Check if it is fragment. */
2070 [ # # ]: 0 : if (ipv6_spec->hdr.proto ==
2071 : : I40E_IPV6_FRAG_HEADER)
2072 : : pctype = I40E_FILTER_PCTYPE_FRAG_IPV6;
2073 [ # # # # ]: 0 : } else if (!ipv6_spec && !ipv6_mask && !outer_ip) {
2074 : 0 : filter->input.flow_ext.inner_ip = true;
2075 : 0 : filter->input.flow_ext.iip_type =
2076 : : I40E_FDIR_IPTYPE_IPV6;
2077 [ # # # # ]: 0 : } else if (!ipv6_spec && !ipv6_mask && outer_ip) {
2078 : 0 : filter->input.flow_ext.inner_ip = false;
2079 : 0 : filter->input.flow_ext.oip_type =
2080 : : I40E_FDIR_IPTYPE_IPV6;
2081 [ # # # # ]: 0 : } else if ((ipv6_spec || ipv6_mask) && !outer_ip) {
2082 : 0 : rte_flow_error_set(error, EINVAL,
2083 : : RTE_FLOW_ERROR_TYPE_ITEM,
2084 : : item,
2085 : : "Invalid inner IPv6 mask");
2086 : 0 : return -rte_errno;
2087 : : }
2088 : :
2089 : : if (outer_ip)
2090 : : outer_ip = false;
2091 : : break;
2092 : 0 : case RTE_FLOW_ITEM_TYPE_TCP:
2093 : 0 : tcp_spec = item->spec;
2094 : 0 : tcp_mask = item->mask;
2095 : :
2096 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
2097 : : pctype =
2098 : : I40E_FILTER_PCTYPE_NONF_IPV4_TCP;
2099 [ # # ]: 0 : else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
2100 : : pctype =
2101 : : I40E_FILTER_PCTYPE_NONF_IPV6_TCP;
2102 [ # # ]: 0 : if (tcp_spec && tcp_mask) {
2103 : : /* Check TCP mask and update input set */
2104 [ # # ]: 0 : if (tcp_mask->hdr.sent_seq ||
2105 [ # # ]: 0 : tcp_mask->hdr.recv_ack ||
2106 [ # # ]: 0 : tcp_mask->hdr.data_off ||
2107 [ # # ]: 0 : tcp_mask->hdr.tcp_flags ||
2108 [ # # ]: 0 : tcp_mask->hdr.rx_win ||
2109 [ # # ]: 0 : tcp_mask->hdr.cksum ||
2110 [ # # ]: 0 : tcp_mask->hdr.tcp_urp) {
2111 : 0 : rte_flow_error_set(error, EINVAL,
2112 : : RTE_FLOW_ERROR_TYPE_ITEM,
2113 : : item,
2114 : : "Invalid TCP mask");
2115 : 0 : return -rte_errno;
2116 : : }
2117 : :
2118 [ # # ]: 0 : if (tcp_mask->hdr.src_port == UINT16_MAX)
2119 : 0 : input_set |= I40E_INSET_SRC_PORT;
2120 [ # # ]: 0 : if (tcp_mask->hdr.dst_port == UINT16_MAX)
2121 : 0 : input_set |= I40E_INSET_DST_PORT;
2122 : :
2123 [ # # ]: 0 : if (input_set & (I40E_INSET_DMAC | I40E_INSET_SMAC)) {
2124 [ # # ]: 0 : if (input_set &
2125 : : (I40E_INSET_SRC_PORT | I40E_INSET_DST_PORT)) {
2126 : 0 : rte_flow_error_set(error, EINVAL,
2127 : : RTE_FLOW_ERROR_TYPE_ITEM,
2128 : : item,
2129 : : "L2 and L4 input set are exclusive.");
2130 : 0 : return -rte_errno;
2131 : : }
2132 : : } else {
2133 : : /* Get filter info */
2134 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4) {
2135 : 0 : filter->input.flow.tcp4_flow.src_port =
2136 : 0 : tcp_spec->hdr.src_port;
2137 : 0 : filter->input.flow.tcp4_flow.dst_port =
2138 : 0 : tcp_spec->hdr.dst_port;
2139 [ # # ]: 0 : } else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6) {
2140 : 0 : filter->input.flow.tcp6_flow.src_port =
2141 : 0 : tcp_spec->hdr.src_port;
2142 : 0 : filter->input.flow.tcp6_flow.dst_port =
2143 : 0 : tcp_spec->hdr.dst_port;
2144 : : }
2145 : : }
2146 : : }
2147 : :
2148 : : layer_idx = I40E_FLXPLD_L4_IDX;
2149 : :
2150 : : break;
2151 : 0 : case RTE_FLOW_ITEM_TYPE_UDP:
2152 : 0 : udp_spec = item->spec;
2153 : 0 : udp_mask = item->mask;
2154 : :
2155 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
2156 : : pctype =
2157 : : I40E_FILTER_PCTYPE_NONF_IPV4_UDP;
2158 [ # # ]: 0 : else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
2159 : : pctype =
2160 : : I40E_FILTER_PCTYPE_NONF_IPV6_UDP;
2161 : :
2162 [ # # ]: 0 : if (udp_spec && udp_mask) {
2163 : : /* Check UDP mask and update input set*/
2164 [ # # ]: 0 : if (udp_mask->hdr.dgram_len ||
2165 [ # # ]: 0 : udp_mask->hdr.dgram_cksum) {
2166 : 0 : rte_flow_error_set(error, EINVAL,
2167 : : RTE_FLOW_ERROR_TYPE_ITEM,
2168 : : item,
2169 : : "Invalid UDP mask");
2170 : 0 : return -rte_errno;
2171 : : }
2172 : :
2173 [ # # ]: 0 : if (udp_mask->hdr.src_port == UINT16_MAX)
2174 : 0 : input_set |= I40E_INSET_SRC_PORT;
2175 [ # # ]: 0 : if (udp_mask->hdr.dst_port == UINT16_MAX)
2176 : 0 : input_set |= I40E_INSET_DST_PORT;
2177 : :
2178 [ # # ]: 0 : if (input_set & (I40E_INSET_DMAC | I40E_INSET_SMAC)) {
2179 [ # # ]: 0 : if (input_set &
2180 : : (I40E_INSET_SRC_PORT | I40E_INSET_DST_PORT)) {
2181 : 0 : rte_flow_error_set(error, EINVAL,
2182 : : RTE_FLOW_ERROR_TYPE_ITEM,
2183 : : item,
2184 : : "L2 and L4 input set are exclusive.");
2185 : 0 : return -rte_errno;
2186 : : }
2187 : : } else {
2188 : : /* Get filter info */
2189 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4) {
2190 : 0 : filter->input.flow.udp4_flow.src_port =
2191 : 0 : udp_spec->hdr.src_port;
2192 : 0 : filter->input.flow.udp4_flow.dst_port =
2193 : 0 : udp_spec->hdr.dst_port;
2194 [ # # ]: 0 : } else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6) {
2195 : 0 : filter->input.flow.udp6_flow.src_port =
2196 : 0 : udp_spec->hdr.src_port;
2197 : 0 : filter->input.flow.udp6_flow.dst_port =
2198 : 0 : udp_spec->hdr.dst_port;
2199 : : }
2200 : : }
2201 : : }
2202 : 0 : filter->input.flow_ext.is_udp = true;
2203 : : layer_idx = I40E_FLXPLD_L4_IDX;
2204 : :
2205 : 0 : break;
2206 : 0 : case RTE_FLOW_ITEM_TYPE_GTPC:
2207 : : case RTE_FLOW_ITEM_TYPE_GTPU:
2208 [ # # ]: 0 : if (!pf->gtp_support) {
2209 : 0 : rte_flow_error_set(error, EINVAL,
2210 : : RTE_FLOW_ERROR_TYPE_ITEM,
2211 : : item,
2212 : : "Unsupported protocol");
2213 : 0 : return -rte_errno;
2214 : : }
2215 : :
2216 : 0 : gtp_spec = item->spec;
2217 : 0 : gtp_mask = item->mask;
2218 : :
2219 [ # # ]: 0 : if (gtp_spec && gtp_mask) {
2220 : 0 : if (gtp_mask->hdr.gtp_hdr_info ||
2221 [ # # ]: 0 : gtp_mask->hdr.msg_type ||
2222 : 0 : gtp_mask->hdr.plen ||
2223 [ # # ]: 0 : gtp_mask->hdr.teid != UINT32_MAX) {
2224 : 0 : rte_flow_error_set(error, EINVAL,
2225 : : RTE_FLOW_ERROR_TYPE_ITEM,
2226 : : item,
2227 : : "Invalid GTP mask");
2228 : 0 : return -rte_errno;
2229 : : }
2230 : :
2231 : 0 : filter->input.flow.gtp_flow.teid =
2232 : 0 : gtp_spec->hdr.teid;
2233 : 0 : filter->input.flow_ext.customized_pctype = true;
2234 : : cus_proto = item_type;
2235 : : }
2236 : : break;
2237 : 0 : case RTE_FLOW_ITEM_TYPE_ESP:
2238 [ # # ]: 0 : if (!pf->esp_support) {
2239 : 0 : rte_flow_error_set(error, EINVAL,
2240 : : RTE_FLOW_ERROR_TYPE_ITEM,
2241 : : item,
2242 : : "Unsupported ESP protocol");
2243 : 0 : return -rte_errno;
2244 : : }
2245 : :
2246 : 0 : esp_spec = item->spec;
2247 : 0 : esp_mask = item->mask;
2248 : :
2249 [ # # ]: 0 : if (!esp_spec || !esp_mask) {
2250 : 0 : rte_flow_error_set(error, EINVAL,
2251 : : RTE_FLOW_ERROR_TYPE_ITEM,
2252 : : item,
2253 : : "Invalid ESP item");
2254 : 0 : return -rte_errno;
2255 : : }
2256 : :
2257 : : if (esp_spec && esp_mask) {
2258 [ # # ]: 0 : if (esp_mask->hdr.spi != UINT32_MAX) {
2259 : 0 : rte_flow_error_set(error, EINVAL,
2260 : : RTE_FLOW_ERROR_TYPE_ITEM,
2261 : : item,
2262 : : "Invalid ESP mask");
2263 : 0 : return -rte_errno;
2264 : : }
2265 : : i40e_flow_set_filter_spi(filter, esp_spec);
2266 : 0 : filter->input.flow_ext.customized_pctype = true;
2267 : : cus_proto = item_type;
2268 : : }
2269 : : break;
2270 : 0 : case RTE_FLOW_ITEM_TYPE_SCTP:
2271 : 0 : sctp_spec = item->spec;
2272 : 0 : sctp_mask = item->mask;
2273 : :
2274 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
2275 : : pctype =
2276 : : I40E_FILTER_PCTYPE_NONF_IPV4_SCTP;
2277 [ # # ]: 0 : else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
2278 : : pctype =
2279 : : I40E_FILTER_PCTYPE_NONF_IPV6_SCTP;
2280 : :
2281 [ # # ]: 0 : if (sctp_spec && sctp_mask) {
2282 : : /* Check SCTP mask and update input set */
2283 [ # # ]: 0 : if (sctp_mask->hdr.cksum) {
2284 : 0 : rte_flow_error_set(error, EINVAL,
2285 : : RTE_FLOW_ERROR_TYPE_ITEM,
2286 : : item,
2287 : : "Invalid UDP mask");
2288 : 0 : return -rte_errno;
2289 : : }
2290 : :
2291 [ # # ]: 0 : if (sctp_mask->hdr.src_port == UINT16_MAX)
2292 : 0 : input_set |= I40E_INSET_SRC_PORT;
2293 [ # # ]: 0 : if (sctp_mask->hdr.dst_port == UINT16_MAX)
2294 : 0 : input_set |= I40E_INSET_DST_PORT;
2295 [ # # ]: 0 : if (sctp_mask->hdr.tag == UINT32_MAX)
2296 : 0 : input_set |= I40E_INSET_SCTP_VT;
2297 : :
2298 : : /* Get filter info */
2299 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4) {
2300 : 0 : filter->input.flow.sctp4_flow.src_port =
2301 : 0 : sctp_spec->hdr.src_port;
2302 : 0 : filter->input.flow.sctp4_flow.dst_port =
2303 : 0 : sctp_spec->hdr.dst_port;
2304 : : filter->input.flow.sctp4_flow.verify_tag
2305 : 0 : = sctp_spec->hdr.tag;
2306 [ # # ]: 0 : } else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6) {
2307 : 0 : filter->input.flow.sctp6_flow.src_port =
2308 : 0 : sctp_spec->hdr.src_port;
2309 : 0 : filter->input.flow.sctp6_flow.dst_port =
2310 : 0 : sctp_spec->hdr.dst_port;
2311 : : filter->input.flow.sctp6_flow.verify_tag
2312 : 0 : = sctp_spec->hdr.tag;
2313 : : }
2314 : : }
2315 : :
2316 : : layer_idx = I40E_FLXPLD_L4_IDX;
2317 : :
2318 : : break;
2319 : 0 : case RTE_FLOW_ITEM_TYPE_RAW:
2320 : 0 : raw_spec = item->spec;
2321 : 0 : raw_mask = item->mask;
2322 : :
2323 [ # # ]: 0 : if (!raw_spec || !raw_mask) {
2324 : 0 : rte_flow_error_set(error, EINVAL,
2325 : : RTE_FLOW_ERROR_TYPE_ITEM,
2326 : : item,
2327 : : "NULL RAW spec/mask");
2328 : 0 : return -rte_errno;
2329 : : }
2330 : :
2331 [ # # ]: 0 : if (pf->support_multi_driver) {
2332 : 0 : rte_flow_error_set(error, ENOTSUP,
2333 : : RTE_FLOW_ERROR_TYPE_ITEM,
2334 : : item,
2335 : : "Unsupported flexible payload.");
2336 : 0 : return -rte_errno;
2337 : : }
2338 : :
2339 : 0 : ret = i40e_flow_check_raw_item(item, raw_spec, error);
2340 [ # # ]: 0 : if (ret < 0)
2341 : 0 : return ret;
2342 : :
2343 : 0 : off_arr[raw_id] = raw_spec->offset;
2344 : 0 : len_arr[raw_id] = raw_spec->length;
2345 : :
2346 : : flex_size = 0;
2347 : : memset(&flex_pit, 0, sizeof(struct i40e_fdir_flex_pit));
2348 : 0 : field_idx = layer_idx * I40E_MAX_FLXPLD_FIED + raw_id;
2349 : 0 : flex_pit.size =
2350 : : raw_spec->length / sizeof(uint16_t);
2351 : 0 : flex_pit.dst_offset =
2352 : : next_dst_off / sizeof(uint16_t);
2353 : :
2354 [ # # ]: 0 : for (i = 0; i <= raw_id; i++) {
2355 [ # # ]: 0 : if (i == raw_id)
2356 : 0 : flex_pit.src_offset +=
2357 : 0 : raw_spec->offset /
2358 : : sizeof(uint16_t);
2359 : : else
2360 : 0 : flex_pit.src_offset +=
2361 : 0 : (off_arr[i] + len_arr[i]) /
2362 : : sizeof(uint16_t);
2363 : 0 : flex_size += len_arr[i];
2364 : : }
2365 [ # # ]: 0 : if (((flex_pit.src_offset + flex_pit.size) >=
2366 [ # # ]: 0 : I40E_MAX_FLX_SOURCE_OFF / sizeof(uint16_t)) ||
2367 : : flex_size > I40E_FDIR_MAX_FLEXLEN) {
2368 : 0 : rte_flow_error_set(error, EINVAL,
2369 : : RTE_FLOW_ERROR_TYPE_ITEM,
2370 : : item,
2371 : : "Exceeds maximal payload limit.");
2372 : 0 : return -rte_errno;
2373 : : }
2374 : :
2375 [ # # ]: 0 : if (raw_spec->length != 0) {
2376 [ # # ]: 0 : if (raw_spec->pattern == NULL) {
2377 : 0 : rte_flow_error_set(error, EINVAL,
2378 : : RTE_FLOW_ERROR_TYPE_ITEM,
2379 : : item,
2380 : : "NULL RAW spec pattern");
2381 : 0 : return -rte_errno;
2382 : : }
2383 [ # # ]: 0 : if (raw_mask->pattern == NULL) {
2384 : 0 : rte_flow_error_set(error, EINVAL,
2385 : : RTE_FLOW_ERROR_TYPE_ITEM,
2386 : : item,
2387 : : "NULL RAW mask pattern");
2388 : 0 : return -rte_errno;
2389 : : }
2390 : : }
2391 : :
2392 [ # # ]: 0 : for (i = 0; i < raw_spec->length; i++) {
2393 : 0 : j = i + next_dst_off;
2394 [ # # ]: 0 : if (j >= RTE_ETH_FDIR_MAX_FLEXLEN ||
2395 : : j >= I40E_FDIR_MAX_FLEX_LEN)
2396 : : break;
2397 : 0 : filter->input.flow_ext.flexbytes[j] =
2398 : 0 : raw_spec->pattern[i];
2399 : 0 : filter->input.flow_ext.flex_mask[j] =
2400 : 0 : raw_mask->pattern[i];
2401 : : }
2402 : :
2403 : 0 : next_dst_off += raw_spec->length;
2404 : 0 : raw_id++;
2405 : :
2406 : 0 : filter->input.flow_ext.flex_pit[field_idx] = flex_pit;
2407 : 0 : filter->input.flow_ext.layer_idx = layer_idx;
2408 : 0 : filter->input.flow_ext.raw_id = raw_id;
2409 : 0 : filter->input.flow_ext.is_flex_flow = true;
2410 : 0 : break;
2411 : 0 : case RTE_FLOW_ITEM_TYPE_L2TPV3OIP:
2412 : 0 : l2tpv3oip_spec = item->spec;
2413 : 0 : l2tpv3oip_mask = item->mask;
2414 : :
2415 [ # # ]: 0 : if (!l2tpv3oip_spec || !l2tpv3oip_mask)
2416 : : break;
2417 : :
2418 [ # # ]: 0 : if (l2tpv3oip_mask->session_id != UINT32_MAX) {
2419 : 0 : rte_flow_error_set(error, EINVAL,
2420 : : RTE_FLOW_ERROR_TYPE_ITEM,
2421 : : item,
2422 : : "Invalid L2TPv3 mask");
2423 : 0 : return -rte_errno;
2424 : : }
2425 : :
2426 [ # # ]: 0 : if (l3 == RTE_FLOW_ITEM_TYPE_IPV4) {
2427 : 0 : filter->input.flow.ip4_l2tpv3oip_flow.session_id =
2428 : 0 : l2tpv3oip_spec->session_id;
2429 : 0 : filter->input.flow_ext.oip_type =
2430 : : I40E_FDIR_IPTYPE_IPV4;
2431 [ # # ]: 0 : } else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6) {
2432 : 0 : filter->input.flow.ip6_l2tpv3oip_flow.session_id =
2433 : 0 : l2tpv3oip_spec->session_id;
2434 : 0 : filter->input.flow_ext.oip_type =
2435 : : I40E_FDIR_IPTYPE_IPV6;
2436 : : }
2437 : :
2438 : 0 : filter->input.flow_ext.customized_pctype = true;
2439 : : cus_proto = item_type;
2440 : 0 : break;
2441 : : default:
2442 : : break;
2443 : : }
2444 : : }
2445 : :
2446 : : /* Get customized pctype value */
2447 [ # # ]: 0 : if (filter->input.flow_ext.customized_pctype) {
2448 : 0 : pctype = i40e_flow_fdir_get_pctype_value(pf, cus_proto, filter);
2449 [ # # ]: 0 : if (pctype == I40E_FILTER_PCTYPE_INVALID) {
2450 : 0 : rte_flow_error_set(error, EINVAL,
2451 : : RTE_FLOW_ERROR_TYPE_ITEM,
2452 : : item,
2453 : : "Unsupported pctype");
2454 : 0 : return -rte_errno;
2455 : : }
2456 : : }
2457 : :
2458 : : /* If customized pctype is not used, set fdir configuration.*/
2459 [ # # ]: 0 : if (!filter->input.flow_ext.customized_pctype) {
2460 : : /* Check if the input set is valid */
2461 [ # # ]: 0 : if (i40e_validate_input_set(pctype, RTE_ETH_FILTER_FDIR,
2462 : : input_set) != 0) {
2463 : 0 : rte_flow_error_set(error, EINVAL,
2464 : : RTE_FLOW_ERROR_TYPE_ITEM,
2465 : : item,
2466 : : "Invalid input set");
2467 : 0 : return -rte_errno;
2468 : : }
2469 : :
2470 : 0 : filter->input.flow_ext.input_set = input_set;
2471 : : }
2472 : :
2473 : 0 : filter->input.pctype = pctype;
2474 : :
2475 : 0 : return 0;
2476 : : }
2477 : :
2478 : : /* Parse to get the action info of a FDIR filter.
2479 : : * FDIR action supports QUEUE or (QUEUE + MARK).
2480 : : */
2481 : : static int
2482 : 0 : i40e_flow_parse_fdir_action(struct rte_eth_dev *dev,
2483 : : const struct rte_flow_action *actions,
2484 : : struct rte_flow_error *error,
2485 : : struct i40e_fdir_filter_conf *filter)
2486 : : {
2487 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
2488 : 0 : struct ci_flow_actions parsed_actions = {0};
2489 : 0 : struct ci_flow_actions_check_param ac_param = {
2490 : 0 : .allowed_types = (enum rte_flow_action_type[]) {
2491 : : RTE_FLOW_ACTION_TYPE_QUEUE,
2492 : : RTE_FLOW_ACTION_TYPE_DROP,
2493 : : RTE_FLOW_ACTION_TYPE_PASSTHRU,
2494 : : RTE_FLOW_ACTION_TYPE_MARK,
2495 : : RTE_FLOW_ACTION_TYPE_FLAG,
2496 : : RTE_FLOW_ACTION_TYPE_RSS,
2497 : : RTE_FLOW_ACTION_TYPE_END
2498 : : },
2499 : : .max_actions = 2,
2500 : : };
2501 : : const struct rte_flow_action *first, *second;
2502 : : int ret;
2503 : :
2504 : 0 : ret = ci_flow_check_actions(actions, &ac_param, &parsed_actions, error);
2505 [ # # ]: 0 : if (ret)
2506 : : return ret;
2507 : 0 : first = parsed_actions.actions[0];
2508 : : /* can be NULL */
2509 : 0 : second = parsed_actions.actions[1];
2510 : :
2511 [ # # # # : 0 : switch (first->type) {
# ]
2512 : 0 : case RTE_FLOW_ACTION_TYPE_QUEUE:
2513 : : {
2514 : 0 : const struct rte_flow_action_queue *act_q = first->conf;
2515 : : /* check against PF constraints */
2516 [ # # # # ]: 0 : if (!filter->input.flow_ext.is_vf && act_q->index >= pf->dev_data->nb_rx_queues) {
2517 : 0 : return rte_flow_error_set(error, EINVAL,
2518 : : RTE_FLOW_ERROR_TYPE_ACTION, first,
2519 : : "Invalid queue ID for FDIR");
2520 : : }
2521 : : /* check against VF constraints */
2522 [ # # # # ]: 0 : if (filter->input.flow_ext.is_vf && act_q->index >= pf->vf_nb_qps) {
2523 : 0 : return rte_flow_error_set(error, EINVAL,
2524 : : RTE_FLOW_ERROR_TYPE_ACTION, first,
2525 : : "Invalid queue ID for FDIR");
2526 : : }
2527 : 0 : filter->action.rx_queue = act_q->index;
2528 : 0 : filter->action.behavior = I40E_FDIR_ACCEPT;
2529 : 0 : break;
2530 : : }
2531 : 0 : case RTE_FLOW_ACTION_TYPE_DROP:
2532 : 0 : filter->action.behavior = I40E_FDIR_REJECT;
2533 : 0 : break;
2534 : 0 : case RTE_FLOW_ACTION_TYPE_PASSTHRU:
2535 : 0 : filter->action.behavior = I40E_FDIR_PASSTHRU;
2536 : 0 : break;
2537 : 0 : case RTE_FLOW_ACTION_TYPE_MARK:
2538 : : {
2539 : 0 : const struct rte_flow_action_mark *act_m = first->conf;
2540 : 0 : filter->action.behavior = I40E_FDIR_PASSTHRU;
2541 : 0 : filter->action.report_status = I40E_FDIR_REPORT_ID;
2542 : 0 : filter->soft_id = act_m->id;
2543 : 0 : break;
2544 : : }
2545 : 0 : default:
2546 : 0 : return rte_flow_error_set(error, EINVAL,
2547 : : RTE_FLOW_ERROR_TYPE_ACTION, first,
2548 : : "Invalid first action for FDIR");
2549 : : }
2550 : :
2551 : : /* do we have another? */
2552 [ # # ]: 0 : if (second == NULL)
2553 : : return 0;
2554 : :
2555 [ # # # # ]: 0 : switch (second->type) {
2556 : 0 : case RTE_FLOW_ACTION_TYPE_MARK:
2557 : : {
2558 : 0 : const struct rte_flow_action_mark *act_m = second->conf;
2559 : : /* only one mark action can be specified */
2560 [ # # ]: 0 : if (first->type == RTE_FLOW_ACTION_TYPE_MARK) {
2561 : 0 : return rte_flow_error_set(error, EINVAL,
2562 : : RTE_FLOW_ERROR_TYPE_ACTION, second,
2563 : : "Invalid second action for FDIR");
2564 : : }
2565 : 0 : filter->action.report_status = I40E_FDIR_REPORT_ID;
2566 : 0 : filter->soft_id = act_m->id;
2567 : 0 : break;
2568 : : }
2569 : 0 : case RTE_FLOW_ACTION_TYPE_FLAG:
2570 : : {
2571 : : /* mark + flag is unsupported */
2572 [ # # ]: 0 : if (first->type == RTE_FLOW_ACTION_TYPE_MARK) {
2573 : 0 : return rte_flow_error_set(error, EINVAL,
2574 : : RTE_FLOW_ERROR_TYPE_ACTION, second,
2575 : : "Invalid second action for FDIR");
2576 : : }
2577 : 0 : filter->action.report_status = I40E_FDIR_NO_REPORT_STATUS;
2578 : 0 : break;
2579 : : }
2580 : 0 : case RTE_FLOW_ACTION_TYPE_RSS:
2581 : : /* RSS filter only can be after passthru or mark */
2582 [ # # ]: 0 : if (first->type != RTE_FLOW_ACTION_TYPE_PASSTHRU &&
2583 : : first->type != RTE_FLOW_ACTION_TYPE_MARK) {
2584 : 0 : return rte_flow_error_set(error, EINVAL,
2585 : : RTE_FLOW_ERROR_TYPE_ACTION, second,
2586 : : "Invalid second action for FDIR");
2587 : : }
2588 : : break;
2589 : 0 : default:
2590 : 0 : return rte_flow_error_set(error, EINVAL,
2591 : : RTE_FLOW_ERROR_TYPE_ACTION, second,
2592 : : "Invalid second action for FDIR");
2593 : : }
2594 : :
2595 : : return 0;
2596 : : }
2597 : :
2598 : : static int
2599 : 0 : i40e_flow_parse_fdir_filter(struct rte_eth_dev *dev,
2600 : : const struct rte_flow_item pattern[],
2601 : : const struct rte_flow_action actions[],
2602 : : struct rte_flow_error *error,
2603 : : struct i40e_filter_ctx *filter)
2604 : : {
2605 : 0 : struct i40e_fdir_filter_conf *fdir_filter = &filter->fdir_filter;
2606 : : int ret;
2607 : :
2608 : 0 : ret = i40e_flow_parse_fdir_pattern(dev, pattern, error, fdir_filter);
2609 [ # # ]: 0 : if (ret)
2610 : : return ret;
2611 : :
2612 : 0 : ret = i40e_flow_parse_fdir_action(dev, actions, error, fdir_filter);
2613 [ # # ]: 0 : if (ret)
2614 : : return ret;
2615 : :
2616 : 0 : filter->type = RTE_ETH_FILTER_FDIR;
2617 : :
2618 : 0 : return 0;
2619 : : }
2620 : :
2621 : : /* Parse to get the action info of a tunnel filter
2622 : : * Tunnel action only supports PF, VF and QUEUE.
2623 : : */
2624 : : static int
2625 : 0 : i40e_flow_parse_tunnel_action(struct rte_eth_dev *dev,
2626 : : const struct rte_flow_action *actions,
2627 : : struct rte_flow_error *error,
2628 : : struct i40e_tunnel_filter_conf *filter)
2629 : : {
2630 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
2631 : : const struct rte_flow_action_queue *act_q;
2632 : 0 : struct ci_flow_actions parsed_actions = {0};
2633 : 0 : struct ci_flow_actions_check_param ac_param = {
2634 : 0 : .allowed_types = (enum rte_flow_action_type[]) {
2635 : : RTE_FLOW_ACTION_TYPE_QUEUE,
2636 : : RTE_FLOW_ACTION_TYPE_PF,
2637 : : RTE_FLOW_ACTION_TYPE_VF,
2638 : : RTE_FLOW_ACTION_TYPE_END
2639 : : },
2640 : : .max_actions = 2,
2641 : : };
2642 : : const struct rte_flow_action *first, *second;
2643 : : int ret;
2644 : :
2645 : 0 : ret = ci_flow_check_actions(actions, &ac_param, &parsed_actions, error);
2646 [ # # ]: 0 : if (ret)
2647 : : return ret;
2648 : 0 : first = parsed_actions.actions[0];
2649 : : /* can be NULL */
2650 : 0 : second = parsed_actions.actions[1];
2651 : :
2652 : : /* first action must be PF or VF */
2653 [ # # ]: 0 : if (first->type == RTE_FLOW_ACTION_TYPE_VF) {
2654 : 0 : const struct rte_flow_action_vf *vf = first->conf;
2655 [ # # ]: 0 : if (vf->id >= pf->vf_num) {
2656 : 0 : rte_flow_error_set(error, EINVAL,
2657 : : RTE_FLOW_ERROR_TYPE_ACTION, first,
2658 : : "Invalid VF ID for tunnel filter");
2659 : 0 : return -rte_errno;
2660 : : }
2661 : 0 : filter->vf_id = vf->id;
2662 : 0 : filter->is_to_vf = 1;
2663 [ # # ]: 0 : } else if (first->type != RTE_FLOW_ACTION_TYPE_PF) {
2664 : 0 : return rte_flow_error_set(error, EINVAL,
2665 : : RTE_FLOW_ERROR_TYPE_ACTION, first,
2666 : : "Unsupported action");
2667 : : }
2668 : :
2669 : : /* check if second action is QUEUE */
2670 [ # # ]: 0 : if (second == NULL)
2671 : : return 0;
2672 : :
2673 : 0 : act_q = second->conf;
2674 : : /* check queue ID for PF flow */
2675 [ # # # # ]: 0 : if (!filter->is_to_vf && act_q->index >= pf->dev_data->nb_rx_queues) {
2676 : 0 : return rte_flow_error_set(error, EINVAL,
2677 : : RTE_FLOW_ERROR_TYPE_ACTION_CONF, act_q,
2678 : : "Invalid queue ID for tunnel filter");
2679 : : }
2680 : : /* check queue ID for VF flow */
2681 [ # # # # ]: 0 : if (filter->is_to_vf && act_q->index >= pf->vf_nb_qps) {
2682 : 0 : return rte_flow_error_set(error, EINVAL,
2683 : : RTE_FLOW_ERROR_TYPE_ACTION_CONF, act_q,
2684 : : "Invalid queue ID for tunnel filter");
2685 : : }
2686 : 0 : filter->queue_id = act_q->index;
2687 : :
2688 : 0 : return 0;
2689 : : }
2690 : :
2691 : : /* 1. Last in item should be NULL as range is not supported.
2692 : : * 2. Supported filter types: Source port only and Destination port only.
2693 : : * 3. Mask of fields which need to be matched should be
2694 : : * filled with 1.
2695 : : * 4. Mask of fields which needn't to be matched should be
2696 : : * filled with 0.
2697 : : */
2698 : : static int
2699 : 0 : i40e_flow_parse_l4_pattern(const struct rte_flow_item *pattern,
2700 : : struct rte_flow_error *error,
2701 : : struct i40e_tunnel_filter_conf *filter)
2702 : : {
2703 : : const struct rte_flow_item_sctp *sctp_spec, *sctp_mask;
2704 : : const struct rte_flow_item_tcp *tcp_spec, *tcp_mask;
2705 : : const struct rte_flow_item_udp *udp_spec, *udp_mask;
2706 : : const struct rte_flow_item *item = pattern;
2707 : : enum rte_flow_item_type item_type;
2708 : :
2709 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
2710 [ # # ]: 0 : if (item->last) {
2711 : 0 : rte_flow_error_set(error, EINVAL,
2712 : : RTE_FLOW_ERROR_TYPE_ITEM,
2713 : : item,
2714 : : "Not support range");
2715 : 0 : return -rte_errno;
2716 : : }
2717 : : item_type = item->type;
2718 [ # # # # : 0 : switch (item_type) {
# # # ]
2719 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
2720 [ # # # # ]: 0 : if (item->spec || item->mask) {
2721 : 0 : rte_flow_error_set(error, EINVAL,
2722 : : RTE_FLOW_ERROR_TYPE_ITEM,
2723 : : item,
2724 : : "Invalid ETH item");
2725 : 0 : return -rte_errno;
2726 : : }
2727 : :
2728 : : break;
2729 : 0 : case RTE_FLOW_ITEM_TYPE_IPV4:
2730 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV4;
2731 : : /* IPv4 is used to describe protocol,
2732 : : * spec and mask should be NULL.
2733 : : */
2734 [ # # # # ]: 0 : if (item->spec || item->mask) {
2735 : 0 : rte_flow_error_set(error, EINVAL,
2736 : : RTE_FLOW_ERROR_TYPE_ITEM,
2737 : : item,
2738 : : "Invalid IPv4 item");
2739 : 0 : return -rte_errno;
2740 : : }
2741 : :
2742 : : break;
2743 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6:
2744 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV6;
2745 : : /* IPv6 is used to describe protocol,
2746 : : * spec and mask should be NULL.
2747 : : */
2748 [ # # # # ]: 0 : if (item->spec || item->mask) {
2749 : 0 : rte_flow_error_set(error, EINVAL,
2750 : : RTE_FLOW_ERROR_TYPE_ITEM,
2751 : : item,
2752 : : "Invalid IPv6 item");
2753 : 0 : return -rte_errno;
2754 : : }
2755 : :
2756 : : break;
2757 : 0 : case RTE_FLOW_ITEM_TYPE_UDP:
2758 : 0 : udp_spec = item->spec;
2759 : 0 : udp_mask = item->mask;
2760 : :
2761 [ # # ]: 0 : if (!udp_spec || !udp_mask) {
2762 : 0 : rte_flow_error_set(error, EINVAL,
2763 : : RTE_FLOW_ERROR_TYPE_ITEM,
2764 : : item,
2765 : : "Invalid udp item");
2766 : 0 : return -rte_errno;
2767 : : }
2768 : :
2769 [ # # ]: 0 : if (udp_spec->hdr.src_port != 0 &&
2770 [ # # ]: 0 : udp_spec->hdr.dst_port != 0) {
2771 : 0 : rte_flow_error_set(error, EINVAL,
2772 : : RTE_FLOW_ERROR_TYPE_ITEM,
2773 : : item,
2774 : : "Invalid udp spec");
2775 : 0 : return -rte_errno;
2776 : : }
2777 : :
2778 [ # # ]: 0 : if (udp_spec->hdr.src_port != 0) {
2779 : 0 : filter->l4_port_type =
2780 : : I40E_L4_PORT_TYPE_SRC;
2781 : 0 : filter->tenant_id =
2782 [ # # ]: 0 : rte_be_to_cpu_32(udp_spec->hdr.src_port);
2783 : : }
2784 : :
2785 [ # # ]: 0 : if (udp_spec->hdr.dst_port != 0) {
2786 : 0 : filter->l4_port_type =
2787 : : I40E_L4_PORT_TYPE_DST;
2788 : 0 : filter->tenant_id =
2789 [ # # ]: 0 : rte_be_to_cpu_32(udp_spec->hdr.dst_port);
2790 : : }
2791 : :
2792 : 0 : filter->tunnel_type = I40E_CLOUD_TYPE_UDP;
2793 : :
2794 : 0 : break;
2795 : 0 : case RTE_FLOW_ITEM_TYPE_TCP:
2796 : 0 : tcp_spec = item->spec;
2797 : 0 : tcp_mask = item->mask;
2798 : :
2799 [ # # ]: 0 : if (!tcp_spec || !tcp_mask) {
2800 : 0 : rte_flow_error_set(error, EINVAL,
2801 : : RTE_FLOW_ERROR_TYPE_ITEM,
2802 : : item,
2803 : : "Invalid tcp item");
2804 : 0 : return -rte_errno;
2805 : : }
2806 : :
2807 [ # # ]: 0 : if (tcp_spec->hdr.src_port != 0 &&
2808 [ # # ]: 0 : tcp_spec->hdr.dst_port != 0) {
2809 : 0 : rte_flow_error_set(error, EINVAL,
2810 : : RTE_FLOW_ERROR_TYPE_ITEM,
2811 : : item,
2812 : : "Invalid tcp spec");
2813 : 0 : return -rte_errno;
2814 : : }
2815 : :
2816 [ # # ]: 0 : if (tcp_spec->hdr.src_port != 0) {
2817 : 0 : filter->l4_port_type =
2818 : : I40E_L4_PORT_TYPE_SRC;
2819 : 0 : filter->tenant_id =
2820 [ # # ]: 0 : rte_be_to_cpu_32(tcp_spec->hdr.src_port);
2821 : : }
2822 : :
2823 [ # # ]: 0 : if (tcp_spec->hdr.dst_port != 0) {
2824 : 0 : filter->l4_port_type =
2825 : : I40E_L4_PORT_TYPE_DST;
2826 : 0 : filter->tenant_id =
2827 [ # # ]: 0 : rte_be_to_cpu_32(tcp_spec->hdr.dst_port);
2828 : : }
2829 : :
2830 : 0 : filter->tunnel_type = I40E_CLOUD_TYPE_TCP;
2831 : :
2832 : 0 : break;
2833 : 0 : case RTE_FLOW_ITEM_TYPE_SCTP:
2834 : 0 : sctp_spec = item->spec;
2835 : 0 : sctp_mask = item->mask;
2836 : :
2837 [ # # ]: 0 : if (!sctp_spec || !sctp_mask) {
2838 : 0 : rte_flow_error_set(error, EINVAL,
2839 : : RTE_FLOW_ERROR_TYPE_ITEM,
2840 : : item,
2841 : : "Invalid sctp item");
2842 : 0 : return -rte_errno;
2843 : : }
2844 : :
2845 [ # # ]: 0 : if (sctp_spec->hdr.src_port != 0 &&
2846 [ # # ]: 0 : sctp_spec->hdr.dst_port != 0) {
2847 : 0 : rte_flow_error_set(error, EINVAL,
2848 : : RTE_FLOW_ERROR_TYPE_ITEM,
2849 : : item,
2850 : : "Invalid sctp spec");
2851 : 0 : return -rte_errno;
2852 : : }
2853 : :
2854 [ # # ]: 0 : if (sctp_spec->hdr.src_port != 0) {
2855 : 0 : filter->l4_port_type =
2856 : : I40E_L4_PORT_TYPE_SRC;
2857 : 0 : filter->tenant_id =
2858 [ # # ]: 0 : rte_be_to_cpu_32(sctp_spec->hdr.src_port);
2859 : : }
2860 : :
2861 [ # # ]: 0 : if (sctp_spec->hdr.dst_port != 0) {
2862 : 0 : filter->l4_port_type =
2863 : : I40E_L4_PORT_TYPE_DST;
2864 : 0 : filter->tenant_id =
2865 [ # # ]: 0 : rte_be_to_cpu_32(sctp_spec->hdr.dst_port);
2866 : : }
2867 : :
2868 : 0 : filter->tunnel_type = I40E_CLOUD_TYPE_SCTP;
2869 : :
2870 : 0 : break;
2871 : : default:
2872 : : break;
2873 : : }
2874 : : }
2875 : :
2876 : : return 0;
2877 : : }
2878 : :
2879 : : static int
2880 : 0 : i40e_flow_parse_l4_cloud_filter(struct rte_eth_dev *dev,
2881 : : const struct rte_flow_item pattern[],
2882 : : const struct rte_flow_action actions[],
2883 : : struct rte_flow_error *error,
2884 : : struct i40e_filter_ctx *filter)
2885 : : {
2886 : 0 : struct i40e_tunnel_filter_conf *tunnel_filter = &filter->consistent_tunnel_filter;
2887 : : int ret;
2888 : :
2889 : 0 : ret = i40e_flow_parse_l4_pattern(pattern, error, tunnel_filter);
2890 [ # # ]: 0 : if (ret)
2891 : : return ret;
2892 : :
2893 : 0 : ret = i40e_flow_parse_tunnel_action(dev, actions, error, tunnel_filter);
2894 [ # # ]: 0 : if (ret)
2895 : : return ret;
2896 : :
2897 : 0 : filter->type = RTE_ETH_FILTER_TUNNEL;
2898 : :
2899 : 0 : return ret;
2900 : : }
2901 : :
2902 : : static uint16_t i40e_supported_tunnel_filter_types[] = {
2903 : : RTE_ETH_TUNNEL_FILTER_IMAC | RTE_ETH_TUNNEL_FILTER_TENID |
2904 : : RTE_ETH_TUNNEL_FILTER_IVLAN,
2905 : : RTE_ETH_TUNNEL_FILTER_IMAC | RTE_ETH_TUNNEL_FILTER_IVLAN,
2906 : : RTE_ETH_TUNNEL_FILTER_IMAC | RTE_ETH_TUNNEL_FILTER_TENID,
2907 : : RTE_ETH_TUNNEL_FILTER_OMAC | RTE_ETH_TUNNEL_FILTER_TENID |
2908 : : RTE_ETH_TUNNEL_FILTER_IMAC,
2909 : : RTE_ETH_TUNNEL_FILTER_IMAC,
2910 : : };
2911 : :
2912 : : static int
2913 : : i40e_check_tunnel_filter_type(uint8_t filter_type)
2914 : : {
2915 : : uint8_t i;
2916 : :
2917 [ # # # # ]: 0 : for (i = 0; i < RTE_DIM(i40e_supported_tunnel_filter_types); i++) {
2918 [ # # # # ]: 0 : if (filter_type == i40e_supported_tunnel_filter_types[i])
2919 : : return 0;
2920 : : }
2921 : :
2922 : : return -1;
2923 : : }
2924 : :
2925 : : /* 1. Last in item should be NULL as range is not supported.
2926 : : * 2. Supported filter types: IMAC_IVLAN_TENID, IMAC_IVLAN,
2927 : : * IMAC_TENID, OMAC_TENID_IMAC and IMAC.
2928 : : * 3. Mask of fields which need to be matched should be
2929 : : * filled with 1.
2930 : : * 4. Mask of fields which needn't to be matched should be
2931 : : * filled with 0.
2932 : : */
2933 : : static int
2934 : 0 : i40e_flow_parse_vxlan_pattern(__rte_unused struct rte_eth_dev *dev,
2935 : : const struct rte_flow_item *pattern,
2936 : : struct rte_flow_error *error,
2937 : : struct i40e_tunnel_filter_conf *filter)
2938 : : {
2939 : : const struct rte_flow_item *item = pattern;
2940 : : const struct rte_flow_item_eth *eth_spec;
2941 : : const struct rte_flow_item_eth *eth_mask;
2942 : : const struct rte_flow_item_vxlan *vxlan_spec;
2943 : : const struct rte_flow_item_vxlan *vxlan_mask;
2944 : : const struct rte_flow_item_vlan *vlan_spec;
2945 : : const struct rte_flow_item_vlan *vlan_mask;
2946 : : uint8_t filter_type = 0;
2947 : : bool is_vni_masked = 0;
2948 : 0 : uint8_t vni_mask[] = {0xFF, 0xFF, 0xFF};
2949 : : enum rte_flow_item_type item_type;
2950 : : bool vxlan_flag = 0;
2951 : 0 : uint32_t tenant_id_be = 0;
2952 : : int ret;
2953 : :
2954 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
2955 [ # # ]: 0 : if (item->last) {
2956 : 0 : rte_flow_error_set(error, EINVAL,
2957 : : RTE_FLOW_ERROR_TYPE_ITEM,
2958 : : item,
2959 : : "Not support range");
2960 : 0 : return -rte_errno;
2961 : : }
2962 : : item_type = item->type;
2963 [ # # # # : 0 : switch (item_type) {
# # # ]
2964 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
2965 : 0 : eth_spec = item->spec;
2966 : 0 : eth_mask = item->mask;
2967 : :
2968 : : /* Check if ETH item is used for place holder.
2969 : : * If yes, both spec and mask should be NULL.
2970 : : * If no, both spec and mask shouldn't be NULL.
2971 : : */
2972 [ # # ]: 0 : if ((!eth_spec && eth_mask) ||
2973 : : (eth_spec && !eth_mask)) {
2974 : 0 : rte_flow_error_set(error, EINVAL,
2975 : : RTE_FLOW_ERROR_TYPE_ITEM,
2976 : : item,
2977 : : "Invalid ether spec/mask");
2978 : 0 : return -rte_errno;
2979 : : }
2980 : :
2981 [ # # ]: 0 : if (eth_spec && eth_mask) {
2982 : : /* DST address of inner MAC shouldn't be masked.
2983 : : * SRC address of Inner MAC should be masked.
2984 : : */
2985 [ # # # # ]: 0 : if (!rte_is_broadcast_ether_addr(ð_mask->hdr.dst_addr) ||
2986 : 0 : !rte_is_zero_ether_addr(ð_mask->hdr.src_addr) ||
2987 [ # # ]: 0 : eth_mask->hdr.ether_type) {
2988 : 0 : rte_flow_error_set(error, EINVAL,
2989 : : RTE_FLOW_ERROR_TYPE_ITEM,
2990 : : item,
2991 : : "Invalid ether spec/mask");
2992 : 0 : return -rte_errno;
2993 : : }
2994 : :
2995 [ # # ]: 0 : if (!vxlan_flag) {
2996 : 0 : memcpy(&filter->outer_mac,
2997 : 0 : ð_spec->hdr.dst_addr,
2998 : : RTE_ETHER_ADDR_LEN);
2999 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_OMAC;
3000 : : } else {
3001 : 0 : memcpy(&filter->inner_mac,
3002 : 0 : ð_spec->hdr.dst_addr,
3003 : : RTE_ETHER_ADDR_LEN);
3004 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_IMAC;
3005 : : }
3006 : : }
3007 : : break;
3008 : 0 : case RTE_FLOW_ITEM_TYPE_VLAN:
3009 : 0 : vlan_spec = item->spec;
3010 : 0 : vlan_mask = item->mask;
3011 [ # # ]: 0 : if (!(vlan_spec && vlan_mask) ||
3012 [ # # ]: 0 : vlan_mask->hdr.eth_proto) {
3013 : 0 : rte_flow_error_set(error, EINVAL,
3014 : : RTE_FLOW_ERROR_TYPE_ITEM,
3015 : : item,
3016 : : "Invalid vlan item");
3017 : 0 : return -rte_errno;
3018 : : }
3019 : :
3020 : : if (vlan_spec && vlan_mask) {
3021 [ # # ]: 0 : if (vlan_mask->hdr.vlan_tci ==
3022 : : rte_cpu_to_be_16(I40E_VLAN_TCI_MASK))
3023 : 0 : filter->inner_vlan =
3024 [ # # ]: 0 : rte_be_to_cpu_16(vlan_spec->hdr.vlan_tci) &
3025 : : I40E_VLAN_TCI_MASK;
3026 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_IVLAN;
3027 : : }
3028 : : break;
3029 : 0 : case RTE_FLOW_ITEM_TYPE_IPV4:
3030 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV4;
3031 : : /* IPv4 is used to describe protocol,
3032 : : * spec and mask should be NULL.
3033 : : */
3034 [ # # # # ]: 0 : if (item->spec || item->mask) {
3035 : 0 : rte_flow_error_set(error, EINVAL,
3036 : : RTE_FLOW_ERROR_TYPE_ITEM,
3037 : : item,
3038 : : "Invalid IPv4 item");
3039 : 0 : return -rte_errno;
3040 : : }
3041 : : break;
3042 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6:
3043 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV6;
3044 : : /* IPv6 is used to describe protocol,
3045 : : * spec and mask should be NULL.
3046 : : */
3047 [ # # # # ]: 0 : if (item->spec || item->mask) {
3048 : 0 : rte_flow_error_set(error, EINVAL,
3049 : : RTE_FLOW_ERROR_TYPE_ITEM,
3050 : : item,
3051 : : "Invalid IPv6 item");
3052 : 0 : return -rte_errno;
3053 : : }
3054 : : break;
3055 : 0 : case RTE_FLOW_ITEM_TYPE_UDP:
3056 : : /* UDP is used to describe protocol,
3057 : : * spec and mask should be NULL.
3058 : : */
3059 [ # # # # ]: 0 : if (item->spec || item->mask) {
3060 : 0 : rte_flow_error_set(error, EINVAL,
3061 : : RTE_FLOW_ERROR_TYPE_ITEM,
3062 : : item,
3063 : : "Invalid UDP item");
3064 : 0 : return -rte_errno;
3065 : : }
3066 : : break;
3067 : 0 : case RTE_FLOW_ITEM_TYPE_VXLAN:
3068 : 0 : vxlan_spec = item->spec;
3069 : 0 : vxlan_mask = item->mask;
3070 : : /* Check if VXLAN item is used to describe protocol.
3071 : : * If yes, both spec and mask should be NULL.
3072 : : * If no, both spec and mask shouldn't be NULL.
3073 : : */
3074 [ # # ]: 0 : if ((!vxlan_spec && vxlan_mask) ||
3075 : : (vxlan_spec && !vxlan_mask)) {
3076 : 0 : rte_flow_error_set(error, EINVAL,
3077 : : RTE_FLOW_ERROR_TYPE_ITEM,
3078 : : item,
3079 : : "Invalid VXLAN item");
3080 : 0 : return -rte_errno;
3081 : : }
3082 : :
3083 : : /* Check if VNI is masked. */
3084 [ # # ]: 0 : if (vxlan_spec && vxlan_mask) {
3085 : : is_vni_masked =
3086 : 0 : !!memcmp(vxlan_mask->hdr.vni, vni_mask,
3087 : : RTE_DIM(vni_mask));
3088 [ # # ]: 0 : if (is_vni_masked) {
3089 : 0 : rte_flow_error_set(error, EINVAL,
3090 : : RTE_FLOW_ERROR_TYPE_ITEM,
3091 : : item,
3092 : : "Invalid VNI mask");
3093 : 0 : return -rte_errno;
3094 : : }
3095 : :
3096 : : memcpy(((uint8_t *)&tenant_id_be + 1),
3097 [ # # ]: 0 : vxlan_spec->hdr.vni, 3);
3098 : 0 : filter->tenant_id =
3099 [ # # ]: 0 : rte_be_to_cpu_32(tenant_id_be);
3100 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_TENID;
3101 : : }
3102 : :
3103 : : vxlan_flag = 1;
3104 : : break;
3105 : : default:
3106 : : break;
3107 : : }
3108 : : }
3109 : :
3110 : : ret = i40e_check_tunnel_filter_type(filter_type);
3111 [ # # ]: 0 : if (ret < 0) {
3112 : 0 : rte_flow_error_set(error, EINVAL,
3113 : : RTE_FLOW_ERROR_TYPE_ITEM,
3114 : : NULL,
3115 : : "Invalid filter type");
3116 : 0 : return -rte_errno;
3117 : : }
3118 : 0 : filter->filter_type = filter_type;
3119 : :
3120 : 0 : filter->tunnel_type = I40E_TUNNEL_TYPE_VXLAN;
3121 : :
3122 : 0 : return 0;
3123 : : }
3124 : :
3125 : : static int
3126 : 0 : i40e_flow_parse_vxlan_filter(struct rte_eth_dev *dev,
3127 : : const struct rte_flow_item pattern[],
3128 : : const struct rte_flow_action actions[],
3129 : : struct rte_flow_error *error,
3130 : : struct i40e_filter_ctx *filter)
3131 : : {
3132 : 0 : struct i40e_tunnel_filter_conf *tunnel_filter = &filter->consistent_tunnel_filter;
3133 : : int ret;
3134 : :
3135 : 0 : ret = i40e_flow_parse_vxlan_pattern(dev, pattern,
3136 : : error, tunnel_filter);
3137 [ # # ]: 0 : if (ret)
3138 : : return ret;
3139 : :
3140 : 0 : ret = i40e_flow_parse_tunnel_action(dev, actions, error, tunnel_filter);
3141 [ # # ]: 0 : if (ret)
3142 : : return ret;
3143 : :
3144 : 0 : filter->type = RTE_ETH_FILTER_TUNNEL;
3145 : :
3146 : 0 : return ret;
3147 : : }
3148 : :
3149 : : /* 1. Last in item should be NULL as range is not supported.
3150 : : * 2. Supported filter types: IMAC_IVLAN_TENID, IMAC_IVLAN,
3151 : : * IMAC_TENID, OMAC_TENID_IMAC and IMAC.
3152 : : * 3. Mask of fields which need to be matched should be
3153 : : * filled with 1.
3154 : : * 4. Mask of fields which needn't to be matched should be
3155 : : * filled with 0.
3156 : : */
3157 : : static int
3158 : 0 : i40e_flow_parse_nvgre_pattern(__rte_unused struct rte_eth_dev *dev,
3159 : : const struct rte_flow_item *pattern,
3160 : : struct rte_flow_error *error,
3161 : : struct i40e_tunnel_filter_conf *filter)
3162 : : {
3163 : : const struct rte_flow_item *item = pattern;
3164 : : const struct rte_flow_item_eth *eth_spec;
3165 : : const struct rte_flow_item_eth *eth_mask;
3166 : : const struct rte_flow_item_nvgre *nvgre_spec;
3167 : : const struct rte_flow_item_nvgre *nvgre_mask;
3168 : : const struct rte_flow_item_vlan *vlan_spec;
3169 : : const struct rte_flow_item_vlan *vlan_mask;
3170 : : enum rte_flow_item_type item_type;
3171 : : uint8_t filter_type = 0;
3172 : : bool is_tni_masked = 0;
3173 : 0 : uint8_t tni_mask[] = {0xFF, 0xFF, 0xFF};
3174 : : bool nvgre_flag = 0;
3175 : 0 : uint32_t tenant_id_be = 0;
3176 : : int ret;
3177 : :
3178 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
3179 [ # # ]: 0 : if (item->last) {
3180 : 0 : rte_flow_error_set(error, EINVAL,
3181 : : RTE_FLOW_ERROR_TYPE_ITEM,
3182 : : item,
3183 : : "Not support range");
3184 : 0 : return -rte_errno;
3185 : : }
3186 : : item_type = item->type;
3187 [ # # # # : 0 : switch (item_type) {
# # ]
3188 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
3189 : 0 : eth_spec = item->spec;
3190 : 0 : eth_mask = item->mask;
3191 : :
3192 : : /* Check if ETH item is used for place holder.
3193 : : * If yes, both spec and mask should be NULL.
3194 : : * If no, both spec and mask shouldn't be NULL.
3195 : : */
3196 [ # # ]: 0 : if ((!eth_spec && eth_mask) ||
3197 : : (eth_spec && !eth_mask)) {
3198 : 0 : rte_flow_error_set(error, EINVAL,
3199 : : RTE_FLOW_ERROR_TYPE_ITEM,
3200 : : item,
3201 : : "Invalid ether spec/mask");
3202 : 0 : return -rte_errno;
3203 : : }
3204 : :
3205 [ # # ]: 0 : if (eth_spec && eth_mask) {
3206 : : /* DST address of inner MAC shouldn't be masked.
3207 : : * SRC address of Inner MAC should be masked.
3208 : : */
3209 [ # # # # ]: 0 : if (!rte_is_broadcast_ether_addr(ð_mask->hdr.dst_addr) ||
3210 : 0 : !rte_is_zero_ether_addr(ð_mask->hdr.src_addr) ||
3211 [ # # ]: 0 : eth_mask->hdr.ether_type) {
3212 : 0 : rte_flow_error_set(error, EINVAL,
3213 : : RTE_FLOW_ERROR_TYPE_ITEM,
3214 : : item,
3215 : : "Invalid ether spec/mask");
3216 : 0 : return -rte_errno;
3217 : : }
3218 : :
3219 [ # # ]: 0 : if (!nvgre_flag) {
3220 : 0 : memcpy(&filter->outer_mac,
3221 : 0 : ð_spec->hdr.dst_addr,
3222 : : RTE_ETHER_ADDR_LEN);
3223 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_OMAC;
3224 : : } else {
3225 : 0 : memcpy(&filter->inner_mac,
3226 : 0 : ð_spec->hdr.dst_addr,
3227 : : RTE_ETHER_ADDR_LEN);
3228 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_IMAC;
3229 : : }
3230 : : }
3231 : :
3232 : : break;
3233 : 0 : case RTE_FLOW_ITEM_TYPE_VLAN:
3234 : 0 : vlan_spec = item->spec;
3235 : 0 : vlan_mask = item->mask;
3236 [ # # ]: 0 : if (!(vlan_spec && vlan_mask) ||
3237 [ # # ]: 0 : vlan_mask->hdr.eth_proto) {
3238 : 0 : rte_flow_error_set(error, EINVAL,
3239 : : RTE_FLOW_ERROR_TYPE_ITEM,
3240 : : item,
3241 : : "Invalid vlan item");
3242 : 0 : return -rte_errno;
3243 : : }
3244 : :
3245 : : if (vlan_spec && vlan_mask) {
3246 [ # # ]: 0 : if (vlan_mask->hdr.vlan_tci ==
3247 : : rte_cpu_to_be_16(I40E_VLAN_TCI_MASK))
3248 : 0 : filter->inner_vlan =
3249 [ # # ]: 0 : rte_be_to_cpu_16(vlan_spec->hdr.vlan_tci) &
3250 : : I40E_VLAN_TCI_MASK;
3251 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_IVLAN;
3252 : : }
3253 : : break;
3254 : 0 : case RTE_FLOW_ITEM_TYPE_IPV4:
3255 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV4;
3256 : : /* IPv4 is used to describe protocol,
3257 : : * spec and mask should be NULL.
3258 : : */
3259 [ # # # # ]: 0 : if (item->spec || item->mask) {
3260 : 0 : rte_flow_error_set(error, EINVAL,
3261 : : RTE_FLOW_ERROR_TYPE_ITEM,
3262 : : item,
3263 : : "Invalid IPv4 item");
3264 : 0 : return -rte_errno;
3265 : : }
3266 : : break;
3267 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6:
3268 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV6;
3269 : : /* IPv6 is used to describe protocol,
3270 : : * spec and mask should be NULL.
3271 : : */
3272 [ # # # # ]: 0 : if (item->spec || item->mask) {
3273 : 0 : rte_flow_error_set(error, EINVAL,
3274 : : RTE_FLOW_ERROR_TYPE_ITEM,
3275 : : item,
3276 : : "Invalid IPv6 item");
3277 : 0 : return -rte_errno;
3278 : : }
3279 : : break;
3280 : 0 : case RTE_FLOW_ITEM_TYPE_NVGRE:
3281 : 0 : nvgre_spec = item->spec;
3282 : 0 : nvgre_mask = item->mask;
3283 : : /* Check if NVGRE item is used to describe protocol.
3284 : : * If yes, both spec and mask should be NULL.
3285 : : * If no, both spec and mask shouldn't be NULL.
3286 : : */
3287 [ # # ]: 0 : if ((!nvgre_spec && nvgre_mask) ||
3288 : : (nvgre_spec && !nvgre_mask)) {
3289 : 0 : rte_flow_error_set(error, EINVAL,
3290 : : RTE_FLOW_ERROR_TYPE_ITEM,
3291 : : item,
3292 : : "Invalid NVGRE item");
3293 : 0 : return -rte_errno;
3294 : : }
3295 : :
3296 [ # # ]: 0 : if (nvgre_spec && nvgre_mask) {
3297 : : is_tni_masked =
3298 : 0 : !!memcmp(nvgre_mask->tni, tni_mask,
3299 : : RTE_DIM(tni_mask));
3300 [ # # ]: 0 : if (is_tni_masked) {
3301 : 0 : rte_flow_error_set(error, EINVAL,
3302 : : RTE_FLOW_ERROR_TYPE_ITEM,
3303 : : item,
3304 : : "Invalid TNI mask");
3305 : 0 : return -rte_errno;
3306 : : }
3307 [ # # ]: 0 : if (nvgre_mask->protocol &&
3308 : : nvgre_mask->protocol != 0xFFFF) {
3309 : 0 : rte_flow_error_set(error, EINVAL,
3310 : : RTE_FLOW_ERROR_TYPE_ITEM,
3311 : : item,
3312 : : "Invalid NVGRE item");
3313 : 0 : return -rte_errno;
3314 : : }
3315 [ # # # # ]: 0 : if (nvgre_mask->c_k_s_rsvd0_ver &&
3316 : : nvgre_mask->c_k_s_rsvd0_ver !=
3317 : : rte_cpu_to_be_16(0xFFFF)) {
3318 : 0 : rte_flow_error_set(error, EINVAL,
3319 : : RTE_FLOW_ERROR_TYPE_ITEM,
3320 : : item,
3321 : : "Invalid NVGRE item");
3322 : 0 : return -rte_errno;
3323 : : }
3324 [ # # ]: 0 : if (nvgre_spec->c_k_s_rsvd0_ver !=
3325 [ # # ]: 0 : rte_cpu_to_be_16(0x2000) &&
3326 : : nvgre_mask->c_k_s_rsvd0_ver) {
3327 : 0 : rte_flow_error_set(error, EINVAL,
3328 : : RTE_FLOW_ERROR_TYPE_ITEM,
3329 : : item,
3330 : : "Invalid NVGRE item");
3331 : 0 : return -rte_errno;
3332 : : }
3333 [ # # ]: 0 : if (nvgre_mask->protocol &&
3334 [ # # ]: 0 : nvgre_spec->protocol !=
3335 : : rte_cpu_to_be_16(0x6558)) {
3336 : 0 : rte_flow_error_set(error, EINVAL,
3337 : : RTE_FLOW_ERROR_TYPE_ITEM,
3338 : : item,
3339 : : "Invalid NVGRE item");
3340 : 0 : return -rte_errno;
3341 : : }
3342 : : memcpy(((uint8_t *)&tenant_id_be + 1),
3343 [ # # ]: 0 : nvgre_spec->tni, 3);
3344 : 0 : filter->tenant_id =
3345 [ # # ]: 0 : rte_be_to_cpu_32(tenant_id_be);
3346 : 0 : filter_type |= RTE_ETH_TUNNEL_FILTER_TENID;
3347 : : }
3348 : :
3349 : : nvgre_flag = 1;
3350 : : break;
3351 : : default:
3352 : : break;
3353 : : }
3354 : : }
3355 : :
3356 : : ret = i40e_check_tunnel_filter_type(filter_type);
3357 [ # # ]: 0 : if (ret < 0) {
3358 : 0 : rte_flow_error_set(error, EINVAL,
3359 : : RTE_FLOW_ERROR_TYPE_ITEM,
3360 : : NULL,
3361 : : "Invalid filter type");
3362 : 0 : return -rte_errno;
3363 : : }
3364 : 0 : filter->filter_type = filter_type;
3365 : :
3366 : 0 : filter->tunnel_type = I40E_TUNNEL_TYPE_NVGRE;
3367 : :
3368 : 0 : return 0;
3369 : : }
3370 : :
3371 : : static int
3372 : 0 : i40e_flow_parse_nvgre_filter(struct rte_eth_dev *dev,
3373 : : const struct rte_flow_item pattern[],
3374 : : const struct rte_flow_action actions[],
3375 : : struct rte_flow_error *error,
3376 : : struct i40e_filter_ctx *filter)
3377 : : {
3378 : 0 : struct i40e_tunnel_filter_conf *tunnel_filter = &filter->consistent_tunnel_filter;
3379 : : int ret;
3380 : :
3381 : 0 : ret = i40e_flow_parse_nvgre_pattern(dev, pattern,
3382 : : error, tunnel_filter);
3383 [ # # ]: 0 : if (ret)
3384 : : return ret;
3385 : :
3386 : 0 : ret = i40e_flow_parse_tunnel_action(dev, actions, error, tunnel_filter);
3387 [ # # ]: 0 : if (ret)
3388 : : return ret;
3389 : :
3390 : 0 : filter->type = RTE_ETH_FILTER_TUNNEL;
3391 : :
3392 : 0 : return ret;
3393 : : }
3394 : :
3395 : : /* 1. Last in item should be NULL as range is not supported.
3396 : : * 2. Supported filter types: MPLS label.
3397 : : * 3. Mask of fields which need to be matched should be
3398 : : * filled with 1.
3399 : : * 4. Mask of fields which needn't to be matched should be
3400 : : * filled with 0.
3401 : : */
3402 : : static int
3403 : 0 : i40e_flow_parse_mpls_pattern(__rte_unused struct rte_eth_dev *dev,
3404 : : const struct rte_flow_item *pattern,
3405 : : struct rte_flow_error *error,
3406 : : struct i40e_tunnel_filter_conf *filter)
3407 : : {
3408 : : const struct rte_flow_item *item = pattern;
3409 : : const struct rte_flow_item_mpls *mpls_spec;
3410 : : const struct rte_flow_item_mpls *mpls_mask;
3411 : : enum rte_flow_item_type item_type;
3412 : : bool is_mplsoudp = 0; /* 1 - MPLSoUDP, 0 - MPLSoGRE */
3413 : 0 : const uint8_t label_mask[3] = {0xFF, 0xFF, 0xF0};
3414 : 0 : uint32_t label_be = 0;
3415 : :
3416 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
3417 [ # # ]: 0 : if (item->last) {
3418 : 0 : rte_flow_error_set(error, EINVAL,
3419 : : RTE_FLOW_ERROR_TYPE_ITEM,
3420 : : item,
3421 : : "Not support range");
3422 : 0 : return -rte_errno;
3423 : : }
3424 : : item_type = item->type;
3425 [ # # # # : 0 : switch (item_type) {
# # # ]
3426 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
3427 [ # # # # ]: 0 : if (item->spec || item->mask) {
3428 : 0 : rte_flow_error_set(error, EINVAL,
3429 : : RTE_FLOW_ERROR_TYPE_ITEM,
3430 : : item,
3431 : : "Invalid ETH item");
3432 : 0 : return -rte_errno;
3433 : : }
3434 : : break;
3435 : 0 : case RTE_FLOW_ITEM_TYPE_IPV4:
3436 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV4;
3437 : : /* IPv4 is used to describe protocol,
3438 : : * spec and mask should be NULL.
3439 : : */
3440 [ # # # # ]: 0 : if (item->spec || item->mask) {
3441 : 0 : rte_flow_error_set(error, EINVAL,
3442 : : RTE_FLOW_ERROR_TYPE_ITEM,
3443 : : item,
3444 : : "Invalid IPv4 item");
3445 : 0 : return -rte_errno;
3446 : : }
3447 : : break;
3448 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6:
3449 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV6;
3450 : : /* IPv6 is used to describe protocol,
3451 : : * spec and mask should be NULL.
3452 : : */
3453 [ # # # # ]: 0 : if (item->spec || item->mask) {
3454 : 0 : rte_flow_error_set(error, EINVAL,
3455 : : RTE_FLOW_ERROR_TYPE_ITEM,
3456 : : item,
3457 : : "Invalid IPv6 item");
3458 : 0 : return -rte_errno;
3459 : : }
3460 : : break;
3461 : 0 : case RTE_FLOW_ITEM_TYPE_UDP:
3462 : : /* UDP is used to describe protocol,
3463 : : * spec and mask should be NULL.
3464 : : */
3465 [ # # # # ]: 0 : if (item->spec || item->mask) {
3466 : 0 : rte_flow_error_set(error, EINVAL,
3467 : : RTE_FLOW_ERROR_TYPE_ITEM,
3468 : : item,
3469 : : "Invalid UDP item");
3470 : 0 : return -rte_errno;
3471 : : }
3472 : : is_mplsoudp = 1;
3473 : : break;
3474 : 0 : case RTE_FLOW_ITEM_TYPE_GRE:
3475 : : /* GRE is used to describe protocol,
3476 : : * spec and mask should be NULL.
3477 : : */
3478 [ # # # # ]: 0 : if (item->spec || item->mask) {
3479 : 0 : rte_flow_error_set(error, EINVAL,
3480 : : RTE_FLOW_ERROR_TYPE_ITEM,
3481 : : item,
3482 : : "Invalid GRE item");
3483 : 0 : return -rte_errno;
3484 : : }
3485 : : break;
3486 : 0 : case RTE_FLOW_ITEM_TYPE_MPLS:
3487 : 0 : mpls_spec = item->spec;
3488 : 0 : mpls_mask = item->mask;
3489 : :
3490 [ # # ]: 0 : if (!mpls_spec || !mpls_mask) {
3491 : 0 : rte_flow_error_set(error, EINVAL,
3492 : : RTE_FLOW_ERROR_TYPE_ITEM,
3493 : : item,
3494 : : "Invalid MPLS item");
3495 : 0 : return -rte_errno;
3496 : : }
3497 : :
3498 [ # # ]: 0 : if (memcmp(mpls_mask->label_tc_s, label_mask, 3)) {
3499 : 0 : rte_flow_error_set(error, EINVAL,
3500 : : RTE_FLOW_ERROR_TYPE_ITEM,
3501 : : item,
3502 : : "Invalid MPLS label mask");
3503 : 0 : return -rte_errno;
3504 : : }
3505 : : memcpy(((uint8_t *)&label_be + 1),
3506 [ # # ]: 0 : mpls_spec->label_tc_s, 3);
3507 [ # # ]: 0 : filter->tenant_id = rte_be_to_cpu_32(label_be) >> 4;
3508 : 0 : break;
3509 : : default:
3510 : : break;
3511 : : }
3512 : : }
3513 : :
3514 [ # # ]: 0 : if (is_mplsoudp)
3515 : 0 : filter->tunnel_type = I40E_TUNNEL_TYPE_MPLSoUDP;
3516 : : else
3517 : 0 : filter->tunnel_type = I40E_TUNNEL_TYPE_MPLSoGRE;
3518 : :
3519 : : return 0;
3520 : : }
3521 : :
3522 : : static int
3523 : 0 : i40e_flow_parse_mpls_filter(struct rte_eth_dev *dev,
3524 : : const struct rte_flow_item pattern[],
3525 : : const struct rte_flow_action actions[],
3526 : : struct rte_flow_error *error,
3527 : : struct i40e_filter_ctx *filter)
3528 : : {
3529 : 0 : struct i40e_tunnel_filter_conf *tunnel_filter = &filter->consistent_tunnel_filter;
3530 : : int ret;
3531 : :
3532 : 0 : ret = i40e_flow_parse_mpls_pattern(dev, pattern,
3533 : : error, tunnel_filter);
3534 [ # # ]: 0 : if (ret)
3535 : : return ret;
3536 : :
3537 : 0 : ret = i40e_flow_parse_tunnel_action(dev, actions, error, tunnel_filter);
3538 [ # # ]: 0 : if (ret)
3539 : : return ret;
3540 : :
3541 : 0 : filter->type = RTE_ETH_FILTER_TUNNEL;
3542 : :
3543 : 0 : return ret;
3544 : : }
3545 : :
3546 : : /* 1. Last in item should be NULL as range is not supported.
3547 : : * 2. Supported filter types: GTP TEID.
3548 : : * 3. Mask of fields which need to be matched should be
3549 : : * filled with 1.
3550 : : * 4. Mask of fields which needn't to be matched should be
3551 : : * filled with 0.
3552 : : * 5. GTP profile supports GTPv1 only.
3553 : : * 6. GTP-C response message ('source_port' = 2123) is not supported.
3554 : : */
3555 : : static int
3556 : 0 : i40e_flow_parse_gtp_pattern(struct rte_eth_dev *dev,
3557 : : const struct rte_flow_item *pattern,
3558 : : struct rte_flow_error *error,
3559 : : struct i40e_tunnel_filter_conf *filter)
3560 : : {
3561 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
3562 : : const struct rte_flow_item *item = pattern;
3563 : : const struct rte_flow_item_gtp *gtp_spec;
3564 : : const struct rte_flow_item_gtp *gtp_mask;
3565 : : enum rte_flow_item_type item_type;
3566 : :
3567 [ # # ]: 0 : if (!pf->gtp_support) {
3568 : 0 : rte_flow_error_set(error, EINVAL,
3569 : : RTE_FLOW_ERROR_TYPE_ITEM,
3570 : : item,
3571 : : "GTP is not supported by default.");
3572 : 0 : return -rte_errno;
3573 : : }
3574 : :
3575 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
3576 [ # # ]: 0 : if (item->last) {
3577 : 0 : rte_flow_error_set(error, EINVAL,
3578 : : RTE_FLOW_ERROR_TYPE_ITEM,
3579 : : item,
3580 : : "Not support range");
3581 : 0 : return -rte_errno;
3582 : : }
3583 : : item_type = item->type;
3584 [ # # # # : 0 : switch (item_type) {
# # ]
3585 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
3586 [ # # # # ]: 0 : if (item->spec || item->mask) {
3587 : 0 : rte_flow_error_set(error, EINVAL,
3588 : : RTE_FLOW_ERROR_TYPE_ITEM,
3589 : : item,
3590 : : "Invalid ETH item");
3591 : 0 : return -rte_errno;
3592 : : }
3593 : : break;
3594 : 0 : case RTE_FLOW_ITEM_TYPE_IPV4:
3595 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV4;
3596 : : /* IPv4 is used to describe protocol,
3597 : : * spec and mask should be NULL.
3598 : : */
3599 [ # # # # ]: 0 : if (item->spec || item->mask) {
3600 : 0 : rte_flow_error_set(error, EINVAL,
3601 : : RTE_FLOW_ERROR_TYPE_ITEM,
3602 : : item,
3603 : : "Invalid IPv4 item");
3604 : 0 : return -rte_errno;
3605 : : }
3606 : : break;
3607 : 0 : case RTE_FLOW_ITEM_TYPE_IPV6:
3608 : 0 : filter->ip_type = I40E_TUNNEL_IPTYPE_IPV6;
3609 : : /* IPv6 is used to describe protocol,
3610 : : * spec and mask should be NULL.
3611 : : */
3612 [ # # # # ]: 0 : if (item->spec || item->mask) {
3613 : 0 : rte_flow_error_set(error, EINVAL,
3614 : : RTE_FLOW_ERROR_TYPE_ITEM,
3615 : : item,
3616 : : "Invalid IPv6 item");
3617 : 0 : return -rte_errno;
3618 : : }
3619 : : break;
3620 : 0 : case RTE_FLOW_ITEM_TYPE_UDP:
3621 [ # # # # ]: 0 : if (item->spec || item->mask) {
3622 : 0 : rte_flow_error_set(error, EINVAL,
3623 : : RTE_FLOW_ERROR_TYPE_ITEM,
3624 : : item,
3625 : : "Invalid UDP item");
3626 : 0 : return -rte_errno;
3627 : : }
3628 : : break;
3629 : 0 : case RTE_FLOW_ITEM_TYPE_GTPC:
3630 : : case RTE_FLOW_ITEM_TYPE_GTPU:
3631 : 0 : gtp_spec = item->spec;
3632 : 0 : gtp_mask = item->mask;
3633 : :
3634 [ # # ]: 0 : if (!gtp_spec || !gtp_mask) {
3635 : 0 : rte_flow_error_set(error, EINVAL,
3636 : : RTE_FLOW_ERROR_TYPE_ITEM,
3637 : : item,
3638 : : "Invalid GTP item");
3639 : 0 : return -rte_errno;
3640 : : }
3641 : :
3642 : 0 : if (gtp_mask->hdr.gtp_hdr_info ||
3643 [ # # ]: 0 : gtp_mask->hdr.msg_type ||
3644 : 0 : gtp_mask->hdr.plen ||
3645 [ # # ]: 0 : gtp_mask->hdr.teid != UINT32_MAX) {
3646 : 0 : rte_flow_error_set(error, EINVAL,
3647 : : RTE_FLOW_ERROR_TYPE_ITEM,
3648 : : item,
3649 : : "Invalid GTP mask");
3650 : 0 : return -rte_errno;
3651 : : }
3652 : :
3653 [ # # ]: 0 : if (item_type == RTE_FLOW_ITEM_TYPE_GTPC)
3654 : 0 : filter->tunnel_type = I40E_TUNNEL_TYPE_GTPC;
3655 : : else if (item_type == RTE_FLOW_ITEM_TYPE_GTPU)
3656 : 0 : filter->tunnel_type = I40E_TUNNEL_TYPE_GTPU;
3657 : :
3658 [ # # ]: 0 : filter->tenant_id = rte_be_to_cpu_32(gtp_spec->hdr.teid);
3659 : :
3660 : 0 : break;
3661 : : default:
3662 : : break;
3663 : : }
3664 : : }
3665 : :
3666 : : return 0;
3667 : : }
3668 : :
3669 : : static int
3670 : 0 : i40e_flow_parse_gtp_filter(struct rte_eth_dev *dev,
3671 : : const struct rte_flow_item pattern[],
3672 : : const struct rte_flow_action actions[],
3673 : : struct rte_flow_error *error,
3674 : : struct i40e_filter_ctx *filter)
3675 : : {
3676 : 0 : struct i40e_tunnel_filter_conf *tunnel_filter = &filter->consistent_tunnel_filter;
3677 : : int ret;
3678 : :
3679 : 0 : ret = i40e_flow_parse_gtp_pattern(dev, pattern,
3680 : : error, tunnel_filter);
3681 [ # # ]: 0 : if (ret)
3682 : : return ret;
3683 : :
3684 : 0 : ret = i40e_flow_parse_tunnel_action(dev, actions, error, tunnel_filter);
3685 [ # # ]: 0 : if (ret)
3686 : : return ret;
3687 : :
3688 : 0 : filter->type = RTE_ETH_FILTER_TUNNEL;
3689 : :
3690 : 0 : return ret;
3691 : : }
3692 : :
3693 : : /* 1. Last in item should be NULL as range is not supported.
3694 : : * 2. Supported filter types: QINQ.
3695 : : * 3. Mask of fields which need to be matched should be
3696 : : * filled with 1.
3697 : : * 4. Mask of fields which needn't to be matched should be
3698 : : * filled with 0.
3699 : : */
3700 : : static int
3701 : 0 : i40e_flow_parse_qinq_pattern(__rte_unused struct rte_eth_dev *dev,
3702 : : const struct rte_flow_item *pattern,
3703 : : struct rte_flow_error *error,
3704 : : struct i40e_tunnel_filter_conf *filter)
3705 : : {
3706 : : const struct rte_flow_item *item = pattern;
3707 : : const struct rte_flow_item_vlan *vlan_spec = NULL;
3708 : : const struct rte_flow_item_vlan *vlan_mask = NULL;
3709 : : const struct rte_flow_item_vlan *i_vlan_spec = NULL;
3710 : : const struct rte_flow_item_vlan *i_vlan_mask = NULL;
3711 : : const struct rte_flow_item_vlan *o_vlan_spec = NULL;
3712 : : const struct rte_flow_item_vlan *o_vlan_mask = NULL;
3713 : :
3714 : : enum rte_flow_item_type item_type;
3715 : : bool vlan_flag = 0;
3716 : :
3717 [ # # ]: 0 : for (; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
3718 [ # # ]: 0 : if (item->last) {
3719 : 0 : rte_flow_error_set(error, EINVAL,
3720 : : RTE_FLOW_ERROR_TYPE_ITEM,
3721 : : item,
3722 : : "Not support range");
3723 : 0 : return -rte_errno;
3724 : : }
3725 : : item_type = item->type;
3726 [ # # # ]: 0 : switch (item_type) {
3727 : 0 : case RTE_FLOW_ITEM_TYPE_ETH:
3728 [ # # # # ]: 0 : if (item->spec || item->mask) {
3729 : 0 : rte_flow_error_set(error, EINVAL,
3730 : : RTE_FLOW_ERROR_TYPE_ITEM,
3731 : : item,
3732 : : "Invalid ETH item");
3733 : 0 : return -rte_errno;
3734 : : }
3735 : : break;
3736 : 0 : case RTE_FLOW_ITEM_TYPE_VLAN:
3737 : 0 : vlan_spec = item->spec;
3738 : 0 : vlan_mask = item->mask;
3739 : :
3740 [ # # ]: 0 : if (!(vlan_spec && vlan_mask) ||
3741 [ # # ]: 0 : vlan_mask->hdr.eth_proto) {
3742 : 0 : rte_flow_error_set(error, EINVAL,
3743 : : RTE_FLOW_ERROR_TYPE_ITEM,
3744 : : item,
3745 : : "Invalid vlan item");
3746 : 0 : return -rte_errno;
3747 : : }
3748 : :
3749 [ # # ]: 0 : if (!vlan_flag) {
3750 : : o_vlan_spec = vlan_spec;
3751 : : o_vlan_mask = vlan_mask;
3752 : : vlan_flag = 1;
3753 : : } else {
3754 : : i_vlan_spec = vlan_spec;
3755 : : i_vlan_mask = vlan_mask;
3756 : : vlan_flag = 0;
3757 : : }
3758 : : break;
3759 : :
3760 : : default:
3761 : : break;
3762 : : }
3763 : : }
3764 : :
3765 : : /* Get filter specification */
3766 [ # # ]: 0 : if (o_vlan_mask != NULL && i_vlan_mask != NULL) {
3767 [ # # ]: 0 : filter->outer_vlan = rte_be_to_cpu_16(o_vlan_spec->hdr.vlan_tci);
3768 [ # # ]: 0 : filter->inner_vlan = rte_be_to_cpu_16(i_vlan_spec->hdr.vlan_tci);
3769 : : } else {
3770 : 0 : rte_flow_error_set(error, EINVAL,
3771 : : RTE_FLOW_ERROR_TYPE_ITEM,
3772 : : NULL,
3773 : : "Invalid filter type");
3774 : 0 : return -rte_errno;
3775 : : }
3776 : :
3777 : 0 : filter->tunnel_type = I40E_TUNNEL_TYPE_QINQ;
3778 : 0 : return 0;
3779 : : }
3780 : :
3781 : : static int
3782 : 0 : i40e_flow_parse_qinq_filter(struct rte_eth_dev *dev,
3783 : : const struct rte_flow_item pattern[],
3784 : : const struct rte_flow_action actions[],
3785 : : struct rte_flow_error *error,
3786 : : struct i40e_filter_ctx *filter)
3787 : : {
3788 : 0 : struct i40e_tunnel_filter_conf *tunnel_filter = &filter->consistent_tunnel_filter;
3789 : : int ret;
3790 : :
3791 : 0 : ret = i40e_flow_parse_qinq_pattern(dev, pattern,
3792 : : error, tunnel_filter);
3793 [ # # ]: 0 : if (ret)
3794 : : return ret;
3795 : :
3796 : 0 : ret = i40e_flow_parse_tunnel_action(dev, actions, error, tunnel_filter);
3797 [ # # ]: 0 : if (ret)
3798 : : return ret;
3799 : :
3800 : 0 : filter->type = RTE_ETH_FILTER_TUNNEL;
3801 : :
3802 : 0 : return ret;
3803 : : }
3804 : :
3805 : : static int
3806 : 0 : i40e_flow_check(struct rte_eth_dev *dev,
3807 : : const struct rte_flow_attr *attr,
3808 : : const struct rte_flow_item pattern[],
3809 : : const struct rte_flow_action actions[],
3810 : : struct i40e_filter_ctx *filter_ctx,
3811 : : struct rte_flow_error *error)
3812 : : {
3813 : : struct rte_flow_item *items; /* internal pattern w/o VOID items */
3814 : : parse_filter_t parse_filter;
3815 : : uint32_t item_num = 0; /* non-void item number of pattern*/
3816 : 0 : uint32_t i = 0;
3817 : : bool flag = false;
3818 : : int ret;
3819 : :
3820 : 0 : ret = ci_flow_check_attr(attr, NULL, error);
3821 [ # # ]: 0 : if (ret) {
3822 : : return ret;
3823 : : }
3824 : : /* action and pattern validation will happen in each respective engine */
3825 : :
3826 [ # # ]: 0 : if (!pattern) {
3827 : 0 : rte_flow_error_set(error, EINVAL, RTE_FLOW_ERROR_TYPE_ITEM_NUM,
3828 : : NULL, "NULL pattern.");
3829 : 0 : return -rte_errno;
3830 : : }
3831 : :
3832 [ # # ]: 0 : if (!actions) {
3833 : 0 : rte_flow_error_set(error, EINVAL,
3834 : : RTE_FLOW_ERROR_TYPE_ACTION_NUM,
3835 : : NULL, "NULL action.");
3836 : 0 : return -rte_errno;
3837 : : }
3838 : :
3839 : : /* try parsing as RSS */
3840 : 0 : filter_ctx->type = RTE_ETH_FILTER_HASH;
3841 : 0 : ret = i40e_hash_parse(dev, pattern, actions, &filter_ctx->rss_conf, error);
3842 [ # # ]: 0 : if (!ret)
3843 : : return ret;
3844 : :
3845 : : i = 0;
3846 : : /* Get the non-void item number of pattern */
3847 [ # # ]: 0 : while ((pattern + i)->type != RTE_FLOW_ITEM_TYPE_END) {
3848 [ # # ]: 0 : if ((pattern + i)->type != RTE_FLOW_ITEM_TYPE_VOID)
3849 : 0 : item_num++;
3850 : 0 : i++;
3851 : : }
3852 : 0 : item_num++;
3853 : 0 : items = calloc(item_num, sizeof(struct rte_flow_item));
3854 [ # # ]: 0 : if (items == NULL) {
3855 : 0 : rte_flow_error_set(error, ENOMEM,
3856 : : RTE_FLOW_ERROR_TYPE_ITEM_NUM,
3857 : : NULL,
3858 : : "No memory for PMD internal items.");
3859 : 0 : return -ENOMEM;
3860 : : }
3861 : :
3862 : 0 : i40e_pattern_skip_void_item(items, pattern);
3863 : :
3864 : 0 : i = 0;
3865 : : ret = I40E_NOT_SUPPORTED;
3866 : : do {
3867 : 0 : parse_filter = i40e_find_parse_filter_func(items, &i);
3868 [ # # ]: 0 : if (!parse_filter && !flag) {
3869 : 0 : rte_flow_error_set(error, EINVAL,
3870 : : RTE_FLOW_ERROR_TYPE_ITEM,
3871 : : pattern, "Unsupported pattern");
3872 : :
3873 : 0 : free(items);
3874 : 0 : return -rte_errno;
3875 : : }
3876 : :
3877 [ # # ]: 0 : if (parse_filter)
3878 : 0 : ret = parse_filter(dev, items, actions, error, filter_ctx);
3879 : :
3880 : : flag = true;
3881 [ # # # # ]: 0 : } while ((ret < 0) && (i < RTE_DIM(i40e_supported_patterns)));
3882 : :
3883 : 0 : free(items);
3884 : :
3885 : 0 : return ret;
3886 : : }
3887 : :
3888 : : static int
3889 : 0 : i40e_flow_validate(struct rte_eth_dev *dev,
3890 : : const struct rte_flow_attr *attr,
3891 : : const struct rte_flow_item pattern[],
3892 : : const struct rte_flow_action actions[],
3893 : : struct rte_flow_error *error)
3894 : : {
3895 : : /* creates dummy context */
3896 : 0 : struct i40e_filter_ctx filter_ctx = {0};
3897 : :
3898 : 0 : return i40e_flow_check(dev, attr, pattern, actions, &filter_ctx, error);
3899 : : }
3900 : :
3901 : : static struct rte_flow *
3902 : 0 : i40e_flow_create(struct rte_eth_dev *dev,
3903 : : const struct rte_flow_attr *attr,
3904 : : const struct rte_flow_item pattern[],
3905 : : const struct rte_flow_action actions[],
3906 : : struct rte_flow_error *error)
3907 : : {
3908 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
3909 : 0 : struct i40e_filter_ctx filter_ctx = {0};
3910 : : struct rte_flow *flow = NULL;
3911 : 0 : struct i40e_fdir_info *fdir_info = &pf->fdir;
3912 : : int ret;
3913 : :
3914 : 0 : ret = i40e_flow_check(dev, attr, pattern, actions, &filter_ctx, error);
3915 [ # # ]: 0 : if (ret < 0)
3916 : : return NULL;
3917 : :
3918 [ # # ]: 0 : if (filter_ctx.type == RTE_ETH_FILTER_FDIR) {
3919 : : /* if this is the first time we're creating an fdir flow */
3920 [ # # ]: 0 : if (pf->fdir.fdir_vsi == NULL) {
3921 : 0 : ret = i40e_fdir_setup(pf);
3922 [ # # ]: 0 : if (ret != I40E_SUCCESS) {
3923 : 0 : rte_flow_error_set(error, ENOTSUP,
3924 : : RTE_FLOW_ERROR_TYPE_HANDLE,
3925 : : NULL, "Failed to setup fdir.");
3926 : 0 : return NULL;
3927 : : }
3928 : 0 : ret = i40e_fdir_configure(dev);
3929 [ # # ]: 0 : if (ret < 0) {
3930 : 0 : rte_flow_error_set(error, ENOTSUP,
3931 : : RTE_FLOW_ERROR_TYPE_HANDLE,
3932 : : NULL, "Failed to configure fdir.");
3933 : 0 : i40e_fdir_teardown(pf);
3934 : 0 : return NULL;
3935 : : }
3936 : : }
3937 : : /* If create the first fdir rule, enable fdir check for rx queues */
3938 [ # # ]: 0 : if (TAILQ_EMPTY(&pf->fdir.fdir_list))
3939 : 0 : i40e_fdir_rx_proc_enable(dev, 1);
3940 : :
3941 : 0 : flow = i40e_fdir_entry_pool_get(fdir_info);
3942 [ # # ]: 0 : if (flow == NULL) {
3943 : 0 : rte_flow_error_set(error, ENOBUFS,
3944 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
3945 : : "Fdir space full");
3946 : :
3947 : 0 : return flow;
3948 : : }
3949 : : } else {
3950 : 0 : flow = rte_zmalloc("i40e_flow", sizeof(struct rte_flow), 0);
3951 [ # # ]: 0 : if (!flow) {
3952 : 0 : rte_flow_error_set(error, ENOMEM,
3953 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
3954 : : "Failed to allocate memory");
3955 : 0 : return flow;
3956 : : }
3957 : : }
3958 : :
3959 [ # # # # : 0 : switch (filter_ctx.type) {
# ]
3960 : 0 : case RTE_ETH_FILTER_ETHERTYPE:
3961 : 0 : ret = i40e_ethertype_filter_set(pf, &filter_ctx.ethertype_filter, 1);
3962 [ # # ]: 0 : if (ret)
3963 : 0 : goto free_flow;
3964 : 0 : flow->rule = TAILQ_LAST(&pf->ethertype.ethertype_list,
3965 : : i40e_ethertype_filter_list);
3966 : 0 : break;
3967 : 0 : case RTE_ETH_FILTER_FDIR:
3968 : 0 : ret = i40e_flow_add_del_fdir_filter(dev, &filter_ctx.fdir_filter, 1);
3969 [ # # ]: 0 : if (ret)
3970 : 0 : goto free_flow;
3971 : 0 : flow->rule = TAILQ_LAST(&pf->fdir.fdir_list,
3972 : : i40e_fdir_filter_list);
3973 : 0 : break;
3974 : 0 : case RTE_ETH_FILTER_TUNNEL:
3975 : 0 : ret = i40e_dev_consistent_tunnel_filter_set(pf,
3976 : : &filter_ctx.consistent_tunnel_filter, 1);
3977 [ # # ]: 0 : if (ret)
3978 : 0 : goto free_flow;
3979 : 0 : flow->rule = TAILQ_LAST(&pf->tunnel.tunnel_list,
3980 : : i40e_tunnel_filter_list);
3981 : 0 : break;
3982 : 0 : case RTE_ETH_FILTER_HASH:
3983 : 0 : ret = i40e_hash_filter_create(pf, &filter_ctx.rss_conf);
3984 [ # # ]: 0 : if (ret)
3985 : 0 : goto free_flow;
3986 : 0 : flow->rule = TAILQ_LAST(&pf->rss_config_list,
3987 : : i40e_rss_conf_list);
3988 : 0 : break;
3989 : 0 : default:
3990 : 0 : goto free_flow;
3991 : : }
3992 : :
3993 : 0 : flow->filter_type = filter_ctx.type;
3994 : 0 : TAILQ_INSERT_TAIL(&pf->flow_list, flow, node);
3995 : 0 : return flow;
3996 : :
3997 : 0 : free_flow:
3998 : 0 : rte_flow_error_set(error, -ret,
3999 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
4000 : : "Failed to create flow.");
4001 : :
4002 [ # # ]: 0 : if (filter_ctx.type != RTE_ETH_FILTER_FDIR)
4003 : 0 : rte_free(flow);
4004 : : else
4005 : 0 : i40e_fdir_entry_pool_put(fdir_info, flow);
4006 : :
4007 : : return NULL;
4008 : : }
4009 : :
4010 : : static int
4011 : 0 : i40e_flow_destroy(struct rte_eth_dev *dev,
4012 : : struct rte_flow *flow,
4013 : : struct rte_flow_error *error)
4014 : : {
4015 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
4016 : 0 : enum rte_filter_type filter_type = flow->filter_type;
4017 : 0 : struct i40e_fdir_info *fdir_info = &pf->fdir;
4018 : : int ret = 0;
4019 : :
4020 [ # # # # : 0 : switch (filter_type) {
# ]
4021 : 0 : case RTE_ETH_FILTER_ETHERTYPE:
4022 : 0 : ret = i40e_flow_destroy_ethertype_filter(pf,
4023 : 0 : (struct i40e_ethertype_filter *)flow->rule);
4024 : 0 : break;
4025 : 0 : case RTE_ETH_FILTER_TUNNEL:
4026 : 0 : ret = i40e_flow_destroy_tunnel_filter(pf,
4027 : 0 : (struct i40e_tunnel_filter *)flow->rule);
4028 : 0 : break;
4029 : 0 : case RTE_ETH_FILTER_FDIR:
4030 : 0 : ret = i40e_flow_add_del_fdir_filter(dev,
4031 : 0 : &((struct i40e_fdir_filter *)flow->rule)->fdir,
4032 : : 0);
4033 : :
4034 : : /* If the last flow is destroyed, disable fdir. */
4035 [ # # # # ]: 0 : if (!ret && TAILQ_EMPTY(&pf->fdir.fdir_list)) {
4036 : 0 : i40e_fdir_rx_proc_enable(dev, 0);
4037 : : }
4038 : : break;
4039 : 0 : case RTE_ETH_FILTER_HASH:
4040 : 0 : ret = i40e_hash_filter_destroy(pf, flow->rule);
4041 : 0 : break;
4042 : 0 : default:
4043 : 0 : PMD_DRV_LOG(WARNING, "Filter type (%d) not supported",
4044 : : filter_type);
4045 : : ret = -EINVAL;
4046 : : break;
4047 : : }
4048 : :
4049 [ # # ]: 0 : if (!ret) {
4050 [ # # ]: 0 : TAILQ_REMOVE(&pf->flow_list, flow, node);
4051 [ # # ]: 0 : if (filter_type == RTE_ETH_FILTER_FDIR)
4052 : 0 : i40e_fdir_entry_pool_put(fdir_info, flow);
4053 : : else
4054 : 0 : rte_free(flow);
4055 : :
4056 : : } else
4057 : 0 : rte_flow_error_set(error, -ret,
4058 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
4059 : : "Failed to destroy flow.");
4060 : :
4061 : 0 : return ret;
4062 : : }
4063 : :
4064 : : static int
4065 : 0 : i40e_flow_destroy_ethertype_filter(struct i40e_pf *pf,
4066 : : struct i40e_ethertype_filter *filter)
4067 : : {
4068 : 0 : struct i40e_hw *hw = I40E_PF_TO_HW(pf);
4069 : 0 : struct i40e_ethertype_rule *ethertype_rule = &pf->ethertype;
4070 : : struct i40e_ethertype_filter *node;
4071 : : struct i40e_control_filter_stats stats;
4072 : : uint16_t flags = 0;
4073 : : int ret = 0;
4074 : :
4075 [ # # ]: 0 : if (!(filter->flags & RTE_ETHTYPE_FLAGS_MAC))
4076 : : flags |= I40E_AQC_ADD_CONTROL_PACKET_FLAGS_IGNORE_MAC;
4077 [ # # ]: 0 : if (filter->flags & RTE_ETHTYPE_FLAGS_DROP)
4078 : 0 : flags |= I40E_AQC_ADD_CONTROL_PACKET_FLAGS_DROP;
4079 : 0 : flags |= I40E_AQC_ADD_CONTROL_PACKET_FLAGS_TO_QUEUE;
4080 : :
4081 : : memset(&stats, 0, sizeof(stats));
4082 : 0 : ret = i40e_aq_add_rem_control_packet_filter(hw,
4083 : 0 : filter->input.mac_addr.addr_bytes,
4084 : 0 : filter->input.ether_type,
4085 : 0 : flags, pf->main_vsi->seid,
4086 : 0 : filter->queue, 0, &stats, NULL);
4087 [ # # ]: 0 : if (ret < 0)
4088 : : return ret;
4089 : :
4090 : 0 : node = i40e_sw_ethertype_filter_lookup(ethertype_rule, &filter->input);
4091 [ # # ]: 0 : if (!node)
4092 : : return -EINVAL;
4093 : :
4094 : 0 : ret = i40e_sw_ethertype_filter_del(pf, &node->input);
4095 : :
4096 : 0 : return ret;
4097 : : }
4098 : :
4099 : : static int
4100 : 0 : i40e_flow_destroy_tunnel_filter(struct i40e_pf *pf,
4101 : : struct i40e_tunnel_filter *filter)
4102 : : {
4103 : 0 : struct i40e_hw *hw = I40E_PF_TO_HW(pf);
4104 : : struct i40e_vsi *vsi;
4105 : : struct i40e_pf_vf *vf;
4106 : : struct i40e_aqc_cloud_filters_element_bb cld_filter;
4107 [ # # ]: 0 : struct i40e_tunnel_rule *tunnel_rule = &pf->tunnel;
4108 : : struct i40e_tunnel_filter *node;
4109 : : bool big_buffer = 0;
4110 : : int ret = 0;
4111 : :
4112 : : memset(&cld_filter, 0, sizeof(cld_filter));
4113 : : rte_ether_addr_copy((struct rte_ether_addr *)&filter->input.outer_mac,
4114 : : (struct rte_ether_addr *)&cld_filter.element.outer_mac);
4115 : : rte_ether_addr_copy((struct rte_ether_addr *)&filter->input.inner_mac,
4116 : : (struct rte_ether_addr *)&cld_filter.element.inner_mac);
4117 : 0 : cld_filter.element.inner_vlan = filter->input.inner_vlan;
4118 : 0 : cld_filter.element.flags = filter->input.flags;
4119 : 0 : cld_filter.element.tenant_id = filter->input.tenant_id;
4120 : 0 : cld_filter.element.queue_number = filter->queue;
4121 : : memcpy(cld_filter.general_fields,
4122 [ # # ]: 0 : filter->input.general_fields,
4123 : : sizeof(cld_filter.general_fields));
4124 : :
4125 [ # # ]: 0 : if (!filter->is_to_vf)
4126 : 0 : vsi = pf->main_vsi;
4127 : : else {
4128 : 0 : vf = &pf->vfs[filter->vf_id];
4129 : 0 : vsi = vf->vsi;
4130 : : }
4131 : :
4132 [ # # ]: 0 : if (((filter->input.flags & I40E_AQC_ADD_CLOUD_FILTER_0X11) ==
4133 [ # # ]: 0 : I40E_AQC_ADD_CLOUD_FILTER_0X11) ||
4134 : : ((filter->input.flags & I40E_AQC_ADD_CLOUD_FILTER_0X12) ==
4135 [ # # ]: 0 : I40E_AQC_ADD_CLOUD_FILTER_0X12) ||
4136 : : ((filter->input.flags & I40E_AQC_ADD_CLOUD_FILTER_0X10) ==
4137 : : I40E_AQC_ADD_CLOUD_FILTER_0X10))
4138 : : big_buffer = 1;
4139 : :
4140 : : if (big_buffer)
4141 : 0 : ret = i40e_aq_rem_cloud_filters_bb(hw, vsi->seid,
4142 : : &cld_filter, 1);
4143 : : else
4144 : 0 : ret = i40e_aq_rem_cloud_filters(hw, vsi->seid,
4145 : : &cld_filter.element, 1);
4146 [ # # ]: 0 : if (ret < 0)
4147 : : return -ENOTSUP;
4148 : :
4149 : 0 : node = i40e_sw_tunnel_filter_lookup(tunnel_rule, &filter->input);
4150 [ # # ]: 0 : if (!node)
4151 : : return -EINVAL;
4152 : :
4153 : 0 : ret = i40e_sw_tunnel_filter_del(pf, &node->input);
4154 : :
4155 : 0 : return ret;
4156 : : }
4157 : :
4158 : : static int
4159 : 0 : i40e_flow_flush(struct rte_eth_dev *dev, struct rte_flow_error *error)
4160 : : {
4161 : 0 : struct i40e_pf *pf = I40E_DEV_PRIVATE_TO_PF(dev->data->dev_private);
4162 : : int ret;
4163 : :
4164 : 0 : ret = i40e_flow_flush_fdir_filter(pf);
4165 [ # # ]: 0 : if (ret) {
4166 : 0 : rte_flow_error_set(error, -ret,
4167 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
4168 : : "Failed to flush FDIR flows.");
4169 : 0 : return -rte_errno;
4170 : : }
4171 : :
4172 : 0 : ret = i40e_flow_flush_ethertype_filter(pf);
4173 [ # # ]: 0 : if (ret) {
4174 : 0 : rte_flow_error_set(error, -ret,
4175 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
4176 : : "Failed to ethertype flush flows.");
4177 : 0 : return -rte_errno;
4178 : : }
4179 : :
4180 : 0 : ret = i40e_flow_flush_tunnel_filter(pf);
4181 [ # # ]: 0 : if (ret) {
4182 : 0 : rte_flow_error_set(error, -ret,
4183 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
4184 : : "Failed to flush tunnel flows.");
4185 : 0 : return -rte_errno;
4186 : : }
4187 : :
4188 : 0 : ret = i40e_hash_filter_flush(pf);
4189 [ # # ]: 0 : if (ret)
4190 : 0 : rte_flow_error_set(error, -ret,
4191 : : RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
4192 : : "Failed to flush RSS flows.");
4193 : : return ret;
4194 : : }
4195 : :
4196 : : static int
4197 : 0 : i40e_flow_flush_fdir_filter(struct i40e_pf *pf)
4198 : : {
4199 : 0 : struct rte_eth_dev *dev = &rte_eth_devices[pf->dev_data->port_id];
4200 : : struct i40e_fdir_info *fdir_info = &pf->fdir;
4201 : : struct i40e_fdir_filter *fdir_filter;
4202 : : enum i40e_filter_pctype pctype;
4203 : : struct rte_flow *flow;
4204 : : void *temp;
4205 : : int ret;
4206 : : uint32_t i = 0;
4207 : :
4208 : 0 : ret = i40e_fdir_flush(dev);
4209 [ # # ]: 0 : if (!ret) {
4210 : : /* Delete FDIR filters in FDIR list. */
4211 [ # # ]: 0 : while ((fdir_filter = TAILQ_FIRST(&fdir_info->fdir_list))) {
4212 : 0 : ret = i40e_sw_fdir_filter_del(pf,
4213 : : &fdir_filter->fdir.input);
4214 [ # # ]: 0 : if (ret < 0)
4215 : 0 : return ret;
4216 : : }
4217 : :
4218 : : /* Delete FDIR flows in flow list. */
4219 [ # # ]: 0 : RTE_TAILQ_FOREACH_SAFE(flow, &pf->flow_list, node, temp) {
4220 [ # # ]: 0 : if (flow->filter_type == RTE_ETH_FILTER_FDIR) {
4221 [ # # ]: 0 : TAILQ_REMOVE(&pf->flow_list, flow, node);
4222 : : }
4223 : : }
4224 : :
4225 : : /* reset bitmap */
4226 : 0 : rte_bitmap_reset(fdir_info->fdir_flow_pool.bitmap);
4227 [ # # ]: 0 : for (i = 0; i < fdir_info->fdir_space_size; i++) {
4228 : 0 : fdir_info->fdir_flow_pool.pool[i].idx = i;
4229 : 0 : rte_bitmap_set(fdir_info->fdir_flow_pool.bitmap, i);
4230 : : }
4231 : :
4232 : 0 : fdir_info->fdir_actual_cnt = 0;
4233 : 0 : fdir_info->fdir_guarantee_free_space =
4234 : 0 : fdir_info->fdir_guarantee_total_space;
4235 : 0 : memset(fdir_info->fdir_filter_array,
4236 : : 0,
4237 : : sizeof(struct i40e_fdir_filter) *
4238 : : I40E_MAX_FDIR_FILTER_NUM);
4239 : :
4240 : 0 : for (pctype = I40E_FILTER_PCTYPE_NONF_IPV4_UDP;
4241 [ # # ]: 0 : pctype <= I40E_FILTER_PCTYPE_L2_PAYLOAD; pctype++) {
4242 : 0 : pf->fdir.flow_count[pctype] = 0;
4243 : 0 : pf->fdir.flex_mask_flag[pctype] = 0;
4244 : : }
4245 : :
4246 [ # # ]: 0 : for (i = 0; i < I40E_MAX_FLXPLD_LAYER; i++)
4247 : 0 : pf->fdir.flex_pit_flag[i] = 0;
4248 : :
4249 : : /* Disable FDIR processing as all FDIR rules are now flushed */
4250 : 0 : i40e_fdir_rx_proc_enable(dev, 0);
4251 : : }
4252 : :
4253 : : return ret;
4254 : : }
4255 : :
4256 : : /* Flush all ethertype filters */
4257 : : static int
4258 : 0 : i40e_flow_flush_ethertype_filter(struct i40e_pf *pf)
4259 : : {
4260 : : struct i40e_ethertype_filter_list
4261 : : *ethertype_list = &pf->ethertype.ethertype_list;
4262 : : struct i40e_ethertype_filter *filter;
4263 : : struct rte_flow *flow;
4264 : : void *temp;
4265 : : int ret = 0;
4266 : :
4267 [ # # ]: 0 : while ((filter = TAILQ_FIRST(ethertype_list))) {
4268 : 0 : ret = i40e_flow_destroy_ethertype_filter(pf, filter);
4269 [ # # ]: 0 : if (ret)
4270 : 0 : return ret;
4271 : : }
4272 : :
4273 : : /* Delete ethertype flows in flow list. */
4274 [ # # ]: 0 : RTE_TAILQ_FOREACH_SAFE(flow, &pf->flow_list, node, temp) {
4275 [ # # ]: 0 : if (flow->filter_type == RTE_ETH_FILTER_ETHERTYPE) {
4276 [ # # ]: 0 : TAILQ_REMOVE(&pf->flow_list, flow, node);
4277 : 0 : rte_free(flow);
4278 : : }
4279 : : }
4280 : :
4281 : : return ret;
4282 : : }
4283 : :
4284 : : /* Flush all tunnel filters */
4285 : : static int
4286 : 0 : i40e_flow_flush_tunnel_filter(struct i40e_pf *pf)
4287 : : {
4288 : : struct i40e_tunnel_filter_list
4289 : : *tunnel_list = &pf->tunnel.tunnel_list;
4290 : : struct i40e_tunnel_filter *filter;
4291 : : struct rte_flow *flow;
4292 : : void *temp;
4293 : : int ret = 0;
4294 : :
4295 [ # # ]: 0 : while ((filter = TAILQ_FIRST(tunnel_list))) {
4296 : 0 : ret = i40e_flow_destroy_tunnel_filter(pf, filter);
4297 [ # # ]: 0 : if (ret)
4298 : 0 : return ret;
4299 : : }
4300 : :
4301 : : /* Delete tunnel flows in flow list. */
4302 [ # # ]: 0 : RTE_TAILQ_FOREACH_SAFE(flow, &pf->flow_list, node, temp) {
4303 [ # # ]: 0 : if (flow->filter_type == RTE_ETH_FILTER_TUNNEL) {
4304 [ # # ]: 0 : TAILQ_REMOVE(&pf->flow_list, flow, node);
4305 : 0 : rte_free(flow);
4306 : : }
4307 : : }
4308 : :
4309 : : return ret;
4310 : : }
4311 : :
4312 : : static int
4313 : 0 : i40e_flow_query(struct rte_eth_dev *dev __rte_unused,
4314 : : struct rte_flow *flow,
4315 : : const struct rte_flow_action *actions,
4316 : : void *data, struct rte_flow_error *error)
4317 : : {
4318 : 0 : struct i40e_rss_filter *rss_rule = (struct i40e_rss_filter *)flow->rule;
4319 : 0 : enum rte_filter_type filter_type = flow->filter_type;
4320 : : struct rte_flow_action_rss *rss_conf = data;
4321 : :
4322 [ # # ]: 0 : if (!rss_rule) {
4323 : 0 : rte_flow_error_set(error, EINVAL,
4324 : : RTE_FLOW_ERROR_TYPE_HANDLE,
4325 : : NULL, "Invalid rule");
4326 : 0 : return -rte_errno;
4327 : : }
4328 : :
4329 [ # # ]: 0 : for (; actions->type != RTE_FLOW_ACTION_TYPE_END; actions++) {
4330 [ # # # ]: 0 : switch (actions->type) {
4331 : : case RTE_FLOW_ACTION_TYPE_VOID:
4332 : : break;
4333 : 0 : case RTE_FLOW_ACTION_TYPE_RSS:
4334 [ # # ]: 0 : if (filter_type != RTE_ETH_FILTER_HASH) {
4335 : 0 : rte_flow_error_set(error, ENOTSUP,
4336 : : RTE_FLOW_ERROR_TYPE_ACTION,
4337 : : actions,
4338 : : "action not supported");
4339 : 0 : return -rte_errno;
4340 : : }
4341 : : memcpy(rss_conf,
4342 : 0 : &rss_rule->rss_filter_info.conf,
4343 : : sizeof(struct rte_flow_action_rss));
4344 : : break;
4345 : 0 : default:
4346 : 0 : return rte_flow_error_set(error, ENOTSUP,
4347 : : RTE_FLOW_ERROR_TYPE_ACTION,
4348 : : actions,
4349 : : "action not supported");
4350 : : }
4351 : : }
4352 : :
4353 : : return 0;
4354 : : }
|
