LCOV - code coverage report
Current view: top level - drivers/net/intel/iavf - iavf_fdir.c (source / functions) Hit Total Coverage
Test: Code coverage Lines: 3 587 0.5 %
Date: 2026-07-01 18:02:41 Functions: 1 12 8.3 %
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: 0 383 0.0 %

           Branch data     Line data    Source code
       1                 :            : /* SPDX-License-Identifier: BSD-3-Clause
       2                 :            :  * Copyright(c) 2020 Intel Corporation
       3                 :            :  */
       4                 :            : 
       5                 :            : #include <sys/queue.h>
       6                 :            : #include <stdio.h>
       7                 :            : #include <errno.h>
       8                 :            : #include <stdint.h>
       9                 :            : #include <string.h>
      10                 :            : #include <unistd.h>
      11                 :            : #include <stdarg.h>
      12                 :            : 
      13                 :            : #include <rte_ether.h>
      14                 :            : #include <ethdev_driver.h>
      15                 :            : #include <rte_malloc.h>
      16                 :            : #include <rte_tailq.h>
      17                 :            : 
      18                 :            : #include "iavf.h"
      19                 :            : #include "iavf_generic_flow.h"
      20                 :            : #include "../common/flow_check.h"
      21                 :            : #include "virtchnl.h"
      22                 :            : #include "iavf_rxtx.h"
      23                 :            : 
      24                 :            : #define IAVF_FDIR_MAX_QREGION_SIZE 128
      25                 :            : 
      26                 :            : #define IAVF_FDIR_IPV6_TC_OFFSET 20
      27                 :            : #define IAVF_IPV6_TC_MASK  (0xFF << IAVF_FDIR_IPV6_TC_OFFSET)
      28                 :            : 
      29                 :            : #define IAVF_GTPU_EH_DWLINK 0
      30                 :            : #define IAVF_GTPU_EH_UPLINK 1
      31                 :            : 
      32                 :            : #define IAVF_FDIR_INSET_ETH (\
      33                 :            :         IAVF_INSET_DMAC | IAVF_INSET_SMAC | IAVF_INSET_ETHERTYPE)
      34                 :            : 
      35                 :            : #define IAVF_FDIR_INSET_ETH_IPV4 (\
      36                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
      37                 :            :         IAVF_INSET_IPV4_PROTO | IAVF_INSET_IPV4_TOS | \
      38                 :            :         IAVF_INSET_IPV4_TTL | IAVF_INSET_IPV4_ID)
      39                 :            : 
      40                 :            : #define IAVF_FDIR_INSET_ETH_IPV4_UDP (\
      41                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
      42                 :            :         IAVF_INSET_IPV4_TOS | IAVF_INSET_IPV4_TTL | \
      43                 :            :         IAVF_INSET_UDP_SRC_PORT | IAVF_INSET_UDP_DST_PORT)
      44                 :            : 
      45                 :            : #define IAVF_FDIR_INSET_ETH_IPV4_TCP (\
      46                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
      47                 :            :         IAVF_INSET_IPV4_TOS | IAVF_INSET_IPV4_TTL | \
      48                 :            :         IAVF_INSET_TCP_SRC_PORT | IAVF_INSET_TCP_DST_PORT)
      49                 :            : 
      50                 :            : #define IAVF_FDIR_INSET_ETH_IPV4_SCTP (\
      51                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
      52                 :            :         IAVF_INSET_IPV4_TOS | IAVF_INSET_IPV4_TTL | \
      53                 :            :         IAVF_INSET_SCTP_SRC_PORT | IAVF_INSET_SCTP_DST_PORT)
      54                 :            : 
      55                 :            : #define IAVF_FDIR_INSET_ETH_IPV6 (\
      56                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
      57                 :            :         IAVF_INSET_IPV6_NEXT_HDR | IAVF_INSET_IPV6_TC | \
      58                 :            :         IAVF_INSET_IPV6_HOP_LIMIT)
      59                 :            : 
      60                 :            : #define IAVF_FDIR_INSET_ETH_IPV6_FRAG_EXT (\
      61                 :            :         IAVF_FDIR_INSET_ETH_IPV6 | IAVF_INSET_IPV6_ID)
      62                 :            : 
      63                 :            : #define IAVF_FDIR_INSET_ETH_IPV6_UDP (\
      64                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
      65                 :            :         IAVF_INSET_IPV6_TC | IAVF_INSET_IPV6_HOP_LIMIT | \
      66                 :            :         IAVF_INSET_UDP_SRC_PORT | IAVF_INSET_UDP_DST_PORT)
      67                 :            : 
      68                 :            : #define IAVF_FDIR_INSET_ETH_IPV6_TCP (\
      69                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
      70                 :            :         IAVF_INSET_IPV6_TC | IAVF_INSET_IPV6_HOP_LIMIT | \
      71                 :            :         IAVF_INSET_TCP_SRC_PORT | IAVF_INSET_TCP_DST_PORT)
      72                 :            : 
      73                 :            : #define IAVF_FDIR_INSET_ETH_IPV6_SCTP (\
      74                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
      75                 :            :         IAVF_INSET_IPV6_TC | IAVF_INSET_IPV6_HOP_LIMIT | \
      76                 :            :         IAVF_INSET_SCTP_SRC_PORT | IAVF_INSET_SCTP_DST_PORT)
      77                 :            : 
      78                 :            : #define IAVF_FDIR_INSET_IPV4_GTPU (\
      79                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
      80                 :            :         IAVF_INSET_GTPU_TEID)
      81                 :            : 
      82                 :            : #define IAVF_FDIR_INSET_GTPU_IPV4 (\
      83                 :            :         IAVF_INSET_TUN_IPV4_SRC | IAVF_INSET_TUN_IPV4_DST | \
      84                 :            :         IAVF_INSET_TUN_IPV4_PROTO | IAVF_INSET_TUN_IPV4_TOS | \
      85                 :            :         IAVF_INSET_TUN_IPV4_TTL)
      86                 :            : 
      87                 :            : #define IAVF_FDIR_INSET_GTPU_IPV4_UDP (\
      88                 :            :         IAVF_FDIR_INSET_GTPU_IPV4 | \
      89                 :            :         IAVF_INSET_TUN_UDP_SRC_PORT | IAVF_INSET_TUN_UDP_DST_PORT)
      90                 :            : 
      91                 :            : #define IAVF_FDIR_INSET_GTPU_IPV4_TCP (\
      92                 :            :         IAVF_FDIR_INSET_GTPU_IPV4 | \
      93                 :            :         IAVF_INSET_TUN_TCP_SRC_PORT | IAVF_INSET_TUN_TCP_DST_PORT)
      94                 :            : 
      95                 :            : #define IAVF_FDIR_INSET_IPV4_GTPU_EH (\
      96                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
      97                 :            :         IAVF_INSET_GTPU_TEID | IAVF_INSET_GTPU_QFI)
      98                 :            : 
      99                 :            : #define IAVF_FDIR_INSET_IPV6_GTPU (\
     100                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
     101                 :            :         IAVF_INSET_GTPU_TEID)
     102                 :            : 
     103                 :            : #define IAVF_FDIR_INSET_GTPU_IPV6 (\
     104                 :            :         IAVF_INSET_TUN_IPV6_SRC | IAVF_INSET_TUN_IPV6_DST | \
     105                 :            :         IAVF_INSET_TUN_IPV6_NEXT_HDR | IAVF_INSET_TUN_IPV6_TC | \
     106                 :            :         IAVF_INSET_TUN_IPV6_HOP_LIMIT)
     107                 :            : 
     108                 :            : #define IAVF_FDIR_INSET_GTPU_IPV6_UDP (\
     109                 :            :         IAVF_FDIR_INSET_GTPU_IPV6 | \
     110                 :            :         IAVF_INSET_TUN_UDP_SRC_PORT | IAVF_INSET_TUN_UDP_DST_PORT)
     111                 :            : 
     112                 :            : #define IAVF_FDIR_INSET_GTPU_IPV6_TCP (\
     113                 :            :         IAVF_FDIR_INSET_GTPU_IPV6 | \
     114                 :            :         IAVF_INSET_TUN_TCP_SRC_PORT | IAVF_INSET_TUN_TCP_DST_PORT)
     115                 :            : 
     116                 :            : #define IAVF_FDIR_INSET_IPV6_GTPU_EH (\
     117                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
     118                 :            :         IAVF_INSET_GTPU_TEID | IAVF_INSET_GTPU_QFI)
     119                 :            : 
     120                 :            : #define IAVF_FDIR_INSET_L2TPV3OIP (\
     121                 :            :         IAVF_L2TPV3OIP_SESSION_ID)
     122                 :            : 
     123                 :            : #define IAVF_FDIR_INSET_IPV4_ESP (\
     124                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
     125                 :            :         IAVF_INSET_ESP_SPI)
     126                 :            : 
     127                 :            : #define IAVF_FDIR_INSET_IPV6_ESP (\
     128                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
     129                 :            :         IAVF_INSET_ESP_SPI)
     130                 :            : 
     131                 :            : #define IAVF_FDIR_INSET_AH (\
     132                 :            :         IAVF_INSET_AH_SPI)
     133                 :            : 
     134                 :            : #define IAVF_FDIR_INSET_IPV4_NATT_ESP (\
     135                 :            :         IAVF_INSET_IPV4_SRC | IAVF_INSET_IPV4_DST | \
     136                 :            :         IAVF_INSET_ESP_SPI)
     137                 :            : 
     138                 :            : #define IAVF_FDIR_INSET_IPV6_NATT_ESP (\
     139                 :            :         IAVF_INSET_IPV6_SRC | IAVF_INSET_IPV6_DST | \
     140                 :            :         IAVF_INSET_ESP_SPI)
     141                 :            : 
     142                 :            : #define IAVF_FDIR_INSET_PFCP (\
     143                 :            :         IAVF_INSET_PFCP_S_FIELD)
     144                 :            : 
     145                 :            : #define IAVF_FDIR_INSET_ECPRI (\
     146                 :            :         IAVF_INSET_ECPRI)
     147                 :            : 
     148                 :            : #define IAVF_FDIR_INSET_GRE_IPV4 (\
     149                 :            :         IAVF_INSET_TUN_IPV4_SRC | IAVF_INSET_TUN_IPV4_DST | \
     150                 :            :         IAVF_INSET_TUN_IPV4_TOS | IAVF_INSET_TUN_IPV4_PROTO)
     151                 :            : 
     152                 :            : #define IAVF_FDIR_INSET_GRE_IPV4_TCP (\
     153                 :            :         IAVF_FDIR_INSET_GRE_IPV4 | IAVF_INSET_TUN_TCP_SRC_PORT | \
     154                 :            :         IAVF_INSET_TUN_TCP_DST_PORT)
     155                 :            : 
     156                 :            : #define IAVF_FDIR_INSET_GRE_IPV4_UDP (\
     157                 :            :         IAVF_FDIR_INSET_GRE_IPV4 | IAVF_INSET_TUN_UDP_SRC_PORT | \
     158                 :            :         IAVF_INSET_TUN_UDP_DST_PORT)
     159                 :            : 
     160                 :            : #define IAVF_FDIR_INSET_GRE_IPV6 (\
     161                 :            :         IAVF_INSET_TUN_IPV6_SRC | IAVF_INSET_TUN_IPV6_DST | \
     162                 :            :         IAVF_INSET_TUN_IPV6_TC | IAVF_INSET_TUN_IPV6_NEXT_HDR)
     163                 :            : 
     164                 :            : #define IAVF_FDIR_INSET_GRE_IPV6_TCP (\
     165                 :            :         IAVF_FDIR_INSET_GRE_IPV6 | IAVF_INSET_TUN_TCP_SRC_PORT | \
     166                 :            :         IAVF_INSET_TUN_TCP_DST_PORT)
     167                 :            : 
     168                 :            : #define IAVF_FDIR_INSET_GRE_IPV6_UDP (\
     169                 :            :         IAVF_FDIR_INSET_GRE_IPV6 | IAVF_INSET_TUN_UDP_SRC_PORT | \
     170                 :            :         IAVF_INSET_TUN_UDP_DST_PORT)
     171                 :            : 
     172                 :            : #define IAVF_FDIR_INSET_L2TPV2 (\
     173                 :            :         IAVF_INSET_SMAC | IAVF_INSET_DMAC | IAVF_INSET_L2TPV2)
     174                 :            : 
     175                 :            : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV4 (\
     176                 :            :         IAVF_INSET_TUN_IPV4_SRC | IAVF_INSET_TUN_IPV4_DST)
     177                 :            : 
     178                 :            : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_UDP (\
     179                 :            :         IAVF_FDIR_INSET_L2TPV2_PPP_IPV4 | IAVF_INSET_TUN_UDP_SRC_PORT | \
     180                 :            :         IAVF_INSET_TUN_UDP_DST_PORT)
     181                 :            : 
     182                 :            : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_TCP (\
     183                 :            :         IAVF_FDIR_INSET_L2TPV2_PPP_IPV4 | IAVF_INSET_TUN_TCP_SRC_PORT | \
     184                 :            :         IAVF_INSET_TUN_TCP_DST_PORT)
     185                 :            : 
     186                 :            : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV6 (\
     187                 :            :         IAVF_INSET_TUN_IPV6_SRC | IAVF_INSET_TUN_IPV6_DST)
     188                 :            : 
     189                 :            : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_UDP (\
     190                 :            :         IAVF_FDIR_INSET_L2TPV2_PPP_IPV6 | IAVF_INSET_TUN_UDP_SRC_PORT | \
     191                 :            :         IAVF_INSET_TUN_UDP_DST_PORT)
     192                 :            : 
     193                 :            : #define IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_TCP (\
     194                 :            :         IAVF_FDIR_INSET_L2TPV2_PPP_IPV6 | IAVF_INSET_TUN_TCP_SRC_PORT | \
     195                 :            :         IAVF_INSET_TUN_TCP_DST_PORT)
     196                 :            : 
     197                 :            : static struct iavf_pattern_match_item iavf_fdir_pattern[] = {
     198                 :            :         {iavf_pattern_raw,                       IAVF_INSET_NONE,               IAVF_INSET_NONE},
     199                 :            :         {iavf_pattern_ethertype,                 IAVF_FDIR_INSET_ETH,           IAVF_INSET_NONE},
     200                 :            :         {iavf_pattern_eth_ipv4,                  IAVF_FDIR_INSET_ETH_IPV4,      IAVF_INSET_NONE},
     201                 :            :         {iavf_pattern_eth_ipv4_udp,              IAVF_FDIR_INSET_ETH_IPV4_UDP,  IAVF_INSET_NONE},
     202                 :            :         {iavf_pattern_eth_ipv4_tcp,              IAVF_FDIR_INSET_ETH_IPV4_TCP,  IAVF_INSET_NONE},
     203                 :            :         {iavf_pattern_eth_ipv4_sctp,             IAVF_FDIR_INSET_ETH_IPV4_SCTP, IAVF_INSET_NONE},
     204                 :            :         {iavf_pattern_eth_ipv6,                  IAVF_FDIR_INSET_ETH_IPV6,      IAVF_INSET_NONE},
     205                 :            :         {iavf_pattern_eth_ipv6_frag_ext,        IAVF_FDIR_INSET_ETH_IPV6_FRAG_EXT,      IAVF_INSET_NONE},
     206                 :            :         {iavf_pattern_eth_ipv6_udp,              IAVF_FDIR_INSET_ETH_IPV6_UDP,  IAVF_INSET_NONE},
     207                 :            :         {iavf_pattern_eth_ipv6_tcp,              IAVF_FDIR_INSET_ETH_IPV6_TCP,  IAVF_INSET_NONE},
     208                 :            :         {iavf_pattern_eth_ipv6_sctp,             IAVF_FDIR_INSET_ETH_IPV6_SCTP, IAVF_INSET_NONE},
     209                 :            :         {iavf_pattern_eth_ipv4_gtpu,             IAVF_FDIR_INSET_IPV4_GTPU,     IAVF_INSET_NONE},
     210                 :            :         {iavf_pattern_eth_ipv4_gtpu_ipv4,        IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     211                 :            :         {iavf_pattern_eth_ipv4_gtpu_ipv4_udp,    IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     212                 :            :         {iavf_pattern_eth_ipv4_gtpu_ipv4_tcp,    IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     213                 :            :         {iavf_pattern_eth_ipv4_gtpu_ipv6,        IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     214                 :            :         {iavf_pattern_eth_ipv4_gtpu_ipv6_udp,    IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     215                 :            :         {iavf_pattern_eth_ipv4_gtpu_ipv6_tcp,    IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     216                 :            :         {iavf_pattern_eth_ipv4_gtpu_eh,          IAVF_FDIR_INSET_IPV4_GTPU_EH,  IAVF_INSET_NONE},
     217                 :            :         {iavf_pattern_eth_ipv4_gtpu_eh_ipv4,     IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     218                 :            :         {iavf_pattern_eth_ipv4_gtpu_eh_ipv4_udp, IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     219                 :            :         {iavf_pattern_eth_ipv4_gtpu_eh_ipv4_tcp, IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     220                 :            :         {iavf_pattern_eth_ipv4_gtpu_eh_ipv6,     IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     221                 :            :         {iavf_pattern_eth_ipv4_gtpu_eh_ipv6_udp, IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     222                 :            :         {iavf_pattern_eth_ipv4_gtpu_eh_ipv6_tcp, IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     223                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu,            IAVF_FDIR_INSET_IPV4_GTPU,     IAVF_INSET_NONE},
     224                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv4,       IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     225                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv4_udp,   IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     226                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv4_tcp,   IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     227                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv6,       IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     228                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv6_udp,   IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     229                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_ipv6_tcp,   IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     230                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu,            IAVF_FDIR_INSET_IPV4_GTPU,     IAVF_INSET_NONE},
     231                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv4,       IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     232                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv4_udp,   IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     233                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv4_tcp,   IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     234                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv6,       IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     235                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv6_udp,   IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     236                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_ipv6_tcp,   IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     237                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu,            IAVF_FDIR_INSET_IPV6_GTPU,     IAVF_INSET_NONE},
     238                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv4,       IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     239                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv4_udp,   IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     240                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv4_tcp,   IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     241                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv6,       IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     242                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv6_udp,   IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     243                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_ipv6_tcp,   IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     244                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu,            IAVF_FDIR_INSET_IPV6_GTPU,     IAVF_INSET_NONE},
     245                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv4,       IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     246                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv4_udp,   IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     247                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv4_tcp,   IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     248                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv6,       IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     249                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv6_udp,   IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     250                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_ipv6_tcp,   IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     251                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh,                 IAVF_FDIR_INSET_IPV4_GTPU_EH,  IAVF_INSET_NONE},
     252                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv4,            IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     253                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv4_udp,        IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     254                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv4_tcp,        IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     255                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv6,            IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     256                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv6_udp,        IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     257                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_gtpu_eh_ipv6_tcp,        IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     258                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh,                 IAVF_FDIR_INSET_IPV4_GTPU_EH,  IAVF_INSET_NONE},
     259                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv4,            IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     260                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv4_udp,        IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     261                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv4_tcp,        IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     262                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv6,            IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     263                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv6_udp,        IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     264                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_gtpu_eh_ipv6_tcp,        IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     265                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh,                 IAVF_FDIR_INSET_IPV6_GTPU_EH,  IAVF_INSET_NONE},
     266                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv4,            IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     267                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv4_udp,        IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     268                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv4_tcp,        IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     269                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv6,            IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     270                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv6_udp,        IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     271                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_gtpu_eh_ipv6_tcp,        IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     272                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh,                 IAVF_FDIR_INSET_IPV6_GTPU_EH,  IAVF_INSET_NONE},
     273                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv4,            IAVF_FDIR_INSET_GTPU_IPV4,     IAVF_INSET_NONE},
     274                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv4_udp,        IAVF_FDIR_INSET_GTPU_IPV4_UDP, IAVF_INSET_NONE},
     275                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv4_tcp,        IAVF_FDIR_INSET_GTPU_IPV4_TCP, IAVF_INSET_NONE},
     276                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv6,            IAVF_FDIR_INSET_GTPU_IPV6,     IAVF_INSET_NONE},
     277                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv6_udp,        IAVF_FDIR_INSET_GTPU_IPV6_UDP, IAVF_INSET_NONE},
     278                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_gtpu_eh_ipv6_tcp,        IAVF_FDIR_INSET_GTPU_IPV6_TCP, IAVF_INSET_NONE},
     279                 :            :         {iavf_pattern_eth_ipv6_gtpu,             IAVF_FDIR_INSET_IPV6_GTPU,     IAVF_INSET_NONE},
     280                 :            :         {iavf_pattern_eth_ipv6_gtpu_eh,          IAVF_FDIR_INSET_IPV6_GTPU_EH,  IAVF_INSET_NONE},
     281                 :            :         {iavf_pattern_eth_ipv4_l2tpv3,           IAVF_FDIR_INSET_L2TPV3OIP,     IAVF_INSET_NONE},
     282                 :            :         {iavf_pattern_eth_ipv6_l2tpv3,           IAVF_FDIR_INSET_L2TPV3OIP,     IAVF_INSET_NONE},
     283                 :            :         {iavf_pattern_eth_ipv4_esp,              IAVF_FDIR_INSET_IPV4_ESP,      IAVF_INSET_NONE},
     284                 :            :         {iavf_pattern_eth_ipv6_esp,              IAVF_FDIR_INSET_IPV6_ESP,      IAVF_INSET_NONE},
     285                 :            :         {iavf_pattern_eth_ipv4_ah,               IAVF_FDIR_INSET_AH,            IAVF_INSET_NONE},
     286                 :            :         {iavf_pattern_eth_ipv6_ah,               IAVF_FDIR_INSET_AH,            IAVF_INSET_NONE},
     287                 :            :         {iavf_pattern_eth_ipv4_udp_esp,          IAVF_FDIR_INSET_IPV4_NATT_ESP, IAVF_INSET_NONE},
     288                 :            :         {iavf_pattern_eth_ipv6_udp_esp,          IAVF_FDIR_INSET_IPV6_NATT_ESP, IAVF_INSET_NONE},
     289                 :            :         {iavf_pattern_eth_ipv4_pfcp,             IAVF_FDIR_INSET_PFCP,          IAVF_INSET_NONE},
     290                 :            :         {iavf_pattern_eth_ipv6_pfcp,             IAVF_FDIR_INSET_PFCP,          IAVF_INSET_NONE},
     291                 :            :         {iavf_pattern_eth_ecpri,                 IAVF_FDIR_INSET_ECPRI,         IAVF_INSET_NONE},
     292                 :            :         {iavf_pattern_eth_ipv4_ecpri,            IAVF_FDIR_INSET_ECPRI,         IAVF_INSET_NONE},
     293                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4,        IAVF_FDIR_INSET_GRE_IPV4,       IAVF_INSET_NONE},
     294                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_tcp,    IAVF_FDIR_INSET_GRE_IPV4_TCP,   IAVF_INSET_NONE},
     295                 :            :         {iavf_pattern_eth_ipv4_gre_ipv4_udp,    IAVF_FDIR_INSET_GRE_IPV4_UDP,   IAVF_INSET_NONE},
     296                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6,        IAVF_FDIR_INSET_GRE_IPV6,       IAVF_INSET_NONE},
     297                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_tcp,    IAVF_FDIR_INSET_GRE_IPV6_TCP,   IAVF_INSET_NONE},
     298                 :            :         {iavf_pattern_eth_ipv4_gre_ipv6_udp,    IAVF_FDIR_INSET_GRE_IPV6_UDP,   IAVF_INSET_NONE},
     299                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4,        IAVF_FDIR_INSET_GRE_IPV4,       IAVF_INSET_NONE},
     300                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_tcp,    IAVF_FDIR_INSET_GRE_IPV4_TCP,   IAVF_INSET_NONE},
     301                 :            :         {iavf_pattern_eth_ipv6_gre_ipv4_udp,    IAVF_FDIR_INSET_GRE_IPV4_UDP,   IAVF_INSET_NONE},
     302                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6,        IAVF_FDIR_INSET_GRE_IPV6,       IAVF_INSET_NONE},
     303                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_tcp,    IAVF_FDIR_INSET_GRE_IPV6_TCP,   IAVF_INSET_NONE},
     304                 :            :         {iavf_pattern_eth_ipv6_gre_ipv6_udp,    IAVF_FDIR_INSET_GRE_IPV6_UDP,   IAVF_INSET_NONE},
     305                 :            : 
     306                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2,              IAVF_FDIR_INSET_L2TPV2,                 IAVF_INSET_NONE},
     307                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp,          IAVF_FDIR_INSET_L2TPV2,                 IAVF_INSET_NONE},
     308                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2,              IAVF_FDIR_INSET_L2TPV2,                 IAVF_INSET_NONE},
     309                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp,          IAVF_FDIR_INSET_L2TPV2,                 IAVF_INSET_NONE},
     310                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv4,     IAVF_FDIR_INSET_L2TPV2_PPP_IPV4,        IAVF_INSET_NONE},
     311                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv4_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_UDP,    IAVF_INSET_NONE},
     312                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv4_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_TCP,    IAVF_INSET_NONE},
     313                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv4,     IAVF_FDIR_INSET_L2TPV2_PPP_IPV4,        IAVF_INSET_NONE},
     314                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv4_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_UDP,    IAVF_INSET_NONE},
     315                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv4_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV4_TCP,    IAVF_INSET_NONE},
     316                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv6,     IAVF_FDIR_INSET_L2TPV2_PPP_IPV6,        IAVF_INSET_NONE},
     317                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv6_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_UDP,    IAVF_INSET_NONE},
     318                 :            :         {iavf_pattern_eth_ipv4_udp_l2tpv2_ppp_ipv6_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_TCP,    IAVF_INSET_NONE},
     319                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv6,     IAVF_FDIR_INSET_L2TPV2_PPP_IPV6,        IAVF_INSET_NONE},
     320                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv6_udp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_UDP,    IAVF_INSET_NONE},
     321                 :            :         {iavf_pattern_eth_ipv6_udp_l2tpv2_ppp_ipv6_tcp, IAVF_FDIR_INSET_L2TPV2_PPP_IPV6_TCP,    IAVF_INSET_NONE},
     322                 :            : };
     323                 :            : 
     324                 :            : static struct iavf_flow_parser iavf_fdir_parser;
     325                 :            : 
     326                 :            : static int
     327                 :          0 : iavf_fdir_init(struct iavf_adapter *ad)
     328                 :            : {
     329                 :            :         struct iavf_info *vf = IAVF_DEV_PRIVATE_TO_VF(ad);
     330                 :            :         struct iavf_flow_parser *parser;
     331                 :            : 
     332         [ #  # ]:          0 :         if (!vf->vf_res)
     333                 :            :                 return -EINVAL;
     334                 :            : 
     335         [ #  # ]:          0 :         if (vf->vf_res->vf_cap_flags & VIRTCHNL_VF_OFFLOAD_FDIR_PF)
     336                 :            :                 parser = &iavf_fdir_parser;
     337                 :            :         else
     338                 :            :                 return -ENOTSUP;
     339                 :            : 
     340                 :          0 :         return iavf_register_parser(parser, ad);
     341                 :            : }
     342                 :            : 
     343                 :            : static void
     344                 :          0 : iavf_fdir_uninit(struct iavf_adapter *ad)
     345                 :            : {
     346                 :          0 :         iavf_unregister_parser(&iavf_fdir_parser, ad);
     347                 :          0 : }
     348                 :            : 
     349                 :            : static int
     350                 :          0 : iavf_fdir_create(struct iavf_adapter *ad,
     351                 :            :                 struct rte_flow *flow,
     352                 :            :                 void *meta,
     353                 :            :                 struct rte_flow_error *error)
     354                 :            : {
     355                 :            :         struct iavf_fdir_conf *filter = meta;
     356                 :            :         struct iavf_fdir_conf *rule;
     357                 :            :         int ret;
     358                 :            : 
     359                 :          0 :         rule = rte_zmalloc("fdir_entry", sizeof(*rule), 0);
     360         [ #  # ]:          0 :         if (!rule) {
     361                 :          0 :                 rte_flow_error_set(error, ENOMEM,
     362                 :            :                                 RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
     363                 :            :                                 "Failed to allocate memory for fdir rule");
     364                 :          0 :                 return -rte_errno;
     365                 :            :         }
     366                 :            : 
     367                 :          0 :         ret = iavf_fdir_add(ad, filter);
     368         [ #  # ]:          0 :         if (ret) {
     369                 :          0 :                 rte_flow_error_set(error, -ret,
     370                 :            :                                 RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
     371                 :            :                                 "Failed to add filter rule.");
     372                 :          0 :                 goto free_entry;
     373                 :            :         }
     374                 :            : 
     375         [ #  # ]:          0 :         if (filter->mark_flag == 1)
     376                 :          0 :                 iavf_fdir_rx_proc_enable(ad, 1);
     377                 :            : 
     378                 :            :         memcpy(rule, filter, sizeof(*rule));
     379                 :          0 :         flow->rule = rule;
     380                 :            : 
     381                 :          0 :         return 0;
     382                 :            : 
     383                 :            : free_entry:
     384                 :          0 :         rte_free(rule);
     385                 :          0 :         return -rte_errno;
     386                 :            : }
     387                 :            : 
     388                 :            : static int
     389                 :          0 : iavf_fdir_destroy(struct iavf_adapter *ad,
     390                 :            :                 struct rte_flow *flow,
     391                 :            :                 struct rte_flow_error *error)
     392                 :            : {
     393                 :            :         struct iavf_fdir_conf *filter;
     394                 :            :         int ret;
     395                 :            : 
     396                 :          0 :         filter = (struct iavf_fdir_conf *)flow->rule;
     397                 :            : 
     398                 :          0 :         ret = iavf_fdir_del(ad, filter);
     399         [ #  # ]:          0 :         if (ret) {
     400                 :          0 :                 rte_flow_error_set(error, -ret,
     401                 :            :                                 RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
     402                 :            :                                 "Failed to delete filter rule.");
     403                 :          0 :                 return -rte_errno;
     404                 :            :         }
     405                 :            : 
     406         [ #  # ]:          0 :         if (filter->mark_flag == 1)
     407                 :          0 :                 iavf_fdir_rx_proc_enable(ad, 0);
     408                 :            : 
     409                 :          0 :         flow->rule = NULL;
     410                 :          0 :         rte_free(filter);
     411                 :            : 
     412                 :          0 :         return 0;
     413                 :            : }
     414                 :            : 
     415                 :            : static int
     416                 :          0 : iavf_fdir_validation(struct iavf_adapter *ad,
     417                 :            :                 __rte_unused struct rte_flow *flow,
     418                 :            :                 void *meta,
     419                 :            :                 struct rte_flow_error *error)
     420                 :            : {
     421                 :            :         struct iavf_fdir_conf *filter = meta;
     422                 :            :         int ret;
     423                 :            : 
     424                 :          0 :         ret = iavf_fdir_check(ad, filter);
     425         [ #  # ]:          0 :         if (ret) {
     426                 :          0 :                 rte_flow_error_set(error, -ret,
     427                 :            :                                 RTE_FLOW_ERROR_TYPE_HANDLE, NULL,
     428                 :            :                                 "Failed to validate filter rule.");
     429                 :          0 :                 return -rte_errno;
     430                 :            :         }
     431                 :            : 
     432                 :            :         return 0;
     433                 :            : };
     434                 :            : 
     435                 :            : static struct iavf_flow_engine iavf_fdir_engine = {
     436                 :            :         .init = iavf_fdir_init,
     437                 :            :         .uninit = iavf_fdir_uninit,
     438                 :            :         .create = iavf_fdir_create,
     439                 :            :         .destroy = iavf_fdir_destroy,
     440                 :            :         .validation = iavf_fdir_validation,
     441                 :            :         .name = "fdir",
     442                 :            :         .type = IAVF_FLOW_ENGINE_FDIR,
     443                 :            :         .rule_size = sizeof(struct iavf_fdir_conf),
     444                 :            : };
     445                 :            : 
     446                 :            : static bool
     447                 :          0 : iavf_fdir_refine_input_set(const uint64_t input_set,
     448                 :            :                            const uint64_t input_set_mask,
     449                 :            :                            struct iavf_fdir_conf *filter)
     450                 :            : {
     451                 :            :         struct virtchnl_proto_hdr *hdr, *hdr_last;
     452                 :            :         struct rte_flow_item_ipv4 ipv4_spec;
     453                 :            :         struct rte_flow_item_ipv6 ipv6_spec;
     454                 :            :         int last_layer;
     455                 :            :         uint8_t proto_id;
     456                 :            : 
     457         [ #  # ]:          0 :         if (input_set & ~input_set_mask)
     458                 :            :                 return false;
     459         [ #  # ]:          0 :         else if (input_set)
     460                 :            :                 return true;
     461                 :            : 
     462                 :          0 :         last_layer = filter->add_fltr.rule_cfg.proto_hdrs.count - 1;
     463                 :            :         /* Last layer of TCP/UDP pattern isn't less than 2. */
     464         [ #  # ]:          0 :         if (last_layer < 2)
     465                 :            :                 return false;
     466                 :            :         hdr_last = &filter->add_fltr.rule_cfg.proto_hdrs.proto_hdr[last_layer];
     467         [ #  # ]:          0 :         if (hdr_last->type == VIRTCHNL_PROTO_HDR_TCP)
     468                 :            :                 proto_id = 6;
     469         [ #  # ]:          0 :         else if (hdr_last->type == VIRTCHNL_PROTO_HDR_UDP)
     470                 :            :                 proto_id = 17;
     471                 :            :         else
     472                 :            :                 return false;
     473                 :            : 
     474                 :          0 :         hdr = &filter->add_fltr.rule_cfg.proto_hdrs.proto_hdr[last_layer - 1];
     475      [ #  #  # ]:          0 :         switch (hdr->type) {
     476                 :          0 :         case VIRTCHNL_PROTO_HDR_IPV4:
     477                 :          0 :                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4, PROT);
     478                 :            :                 memset(&ipv4_spec, 0, sizeof(ipv4_spec));
     479                 :          0 :                 ipv4_spec.hdr.next_proto_id = proto_id;
     480                 :          0 :                 memcpy(hdr->buffer, &ipv4_spec.hdr,
     481                 :            :                            sizeof(ipv4_spec.hdr));
     482                 :          0 :                 return true;
     483                 :          0 :         case VIRTCHNL_PROTO_HDR_IPV6:
     484                 :          0 :                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6, PROT);
     485                 :            :                 memset(&ipv6_spec, 0, sizeof(ipv6_spec));
     486                 :          0 :                 ipv6_spec.hdr.proto = proto_id;
     487                 :          0 :                 memcpy(hdr->buffer, &ipv6_spec.hdr,
     488                 :            :                            sizeof(ipv6_spec.hdr));
     489                 :          0 :                 return true;
     490                 :            :         default:
     491                 :            :                 return false;
     492                 :            :         }
     493                 :            : }
     494                 :            : 
     495                 :            : static void
     496                 :          0 : iavf_fdir_add_fragment_hdr(struct virtchnl_proto_hdrs *hdrs, int layer)
     497                 :            : {
     498                 :            :         struct virtchnl_proto_hdr *hdr1;
     499                 :            :         struct virtchnl_proto_hdr *hdr2;
     500                 :            :         int i;
     501                 :            : 
     502   [ #  #  #  # ]:          0 :         if (layer < 0 || layer > hdrs->count)
     503                 :            :                 return;
     504                 :            : 
     505                 :            :         /* shift headers layer */
     506         [ #  # ]:          0 :         for (i = hdrs->count; i >= layer; i--) {
     507                 :            :                 hdr1 = &hdrs->proto_hdr[i];
     508                 :          0 :                 hdr2 = &hdrs->proto_hdr[i - 1];
     509                 :          0 :                 *hdr1 = *hdr2;
     510                 :            :         }
     511                 :            : 
     512                 :            :         /* adding dummy fragment header */
     513                 :            :         hdr1 = &hdrs->proto_hdr[layer];
     514                 :          0 :         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr1, IPV4_FRAG);
     515                 :          0 :         hdr1->field_selector = 0;
     516                 :          0 :         hdrs->count = ++layer;
     517                 :            : }
     518                 :            : 
     519                 :            : static int
     520                 :          0 : iavf_fdir_parse_pattern(__rte_unused struct iavf_adapter *ad,
     521                 :            :                         const struct rte_flow_item pattern[],
     522                 :            :                         const uint64_t input_set_mask,
     523                 :            :                         struct rte_flow_error *error,
     524                 :            :                         struct iavf_fdir_conf *filter)
     525                 :            : {
     526                 :          0 :         struct virtchnl_proto_hdrs *hdrs =
     527                 :            :                         &filter->add_fltr.rule_cfg.proto_hdrs;
     528                 :            :         enum rte_flow_item_type l3 = RTE_FLOW_ITEM_TYPE_END;
     529                 :            :         const struct rte_flow_item_raw *raw_spec, *raw_mask;
     530                 :            :         const struct rte_flow_item_eth *eth_spec, *eth_mask;
     531                 :            :         const struct rte_flow_item_ipv4 *ipv4_spec, *ipv4_last, *ipv4_mask;
     532                 :            :         const struct rte_flow_item_ipv6 *ipv6_spec, *ipv6_mask;
     533                 :            :         const struct rte_flow_item_ipv6_frag_ext *ipv6_frag_spec;
     534                 :            :         const struct rte_flow_item_ipv6_frag_ext *ipv6_frag_mask;
     535                 :            :         const struct rte_flow_item_udp *udp_spec, *udp_mask;
     536                 :            :         const struct rte_flow_item_tcp *tcp_spec, *tcp_mask;
     537                 :            :         const struct rte_flow_item_sctp *sctp_spec, *sctp_mask;
     538                 :            :         const struct rte_flow_item_gtp *gtp_spec, *gtp_mask;
     539                 :            :         const struct rte_flow_item_gtp_psc *gtp_psc_spec, *gtp_psc_mask;
     540                 :            :         const struct rte_flow_item_l2tpv3oip *l2tpv3oip_spec, *l2tpv3oip_mask;
     541                 :            :         const struct rte_flow_item_esp *esp_spec, *esp_mask;
     542                 :            :         const struct rte_flow_item_ah *ah_spec, *ah_mask;
     543                 :            :         const struct rte_flow_item_pfcp *pfcp_spec, *pfcp_mask;
     544                 :            :         const struct rte_flow_item_ecpri *ecpri_spec, *ecpri_mask;
     545                 :            :         const struct rte_flow_item_gre *gre_spec, *gre_mask;
     546                 :            :         const struct rte_flow_item_l2tpv2 *l2tpv2_spec, *l2tpv2_mask;
     547                 :            :         const struct rte_flow_item_ppp *ppp_spec, *ppp_mask;
     548                 :            :         const struct rte_flow_item *item = pattern;
     549                 :            :         struct virtchnl_proto_hdr *hdr, *hdr1 = NULL;
     550                 :            :         struct rte_ecpri_common_hdr ecpri_common;
     551                 :            :         uint64_t input_set = IAVF_INSET_NONE;
     552                 :            :         enum rte_flow_item_type item_type;
     553                 :            :         enum rte_flow_item_type next_type;
     554                 :            :         uint8_t tun_inner = 0;
     555                 :            :         uint16_t ether_type, flags_version;
     556                 :            :         uint8_t item_num = 0;
     557                 :            :         int layer = 0;
     558                 :            : 
     559                 :          0 :         uint8_t  ipv6_addr_mask[16] = {
     560                 :            :                 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF,
     561                 :            :                 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF, 0xFF
     562                 :            :         };
     563                 :            : 
     564         [ #  # ]:          0 :         for (item = pattern; item->type != RTE_FLOW_ITEM_TYPE_END; item++) {
     565                 :            :                 item_type = item->type;
     566                 :            : 
     567         [ #  # ]:          0 :                 if (item->last && !(item_type == RTE_FLOW_ITEM_TYPE_IPV4 ||
     568         [ #  # ]:          0 :                                     item_type ==
     569                 :            :                                     RTE_FLOW_ITEM_TYPE_IPV6_FRAG_EXT)) {
     570                 :          0 :                         rte_flow_error_set(error, EINVAL,
     571                 :            :                                            RTE_FLOW_ERROR_TYPE_ITEM, item,
     572                 :            :                                            "Not support range");
     573                 :            :                 }
     574                 :          0 :                 item_num++;
     575                 :            : 
     576   [ #  #  #  #  :          0 :                 switch (item_type) {
          #  #  #  #  #  
          #  #  #  #  #  
          #  #  #  #  #  
                      # ]
     577                 :          0 :                 case RTE_FLOW_ITEM_TYPE_RAW: {
     578                 :          0 :                         raw_spec = item->spec;
     579                 :          0 :                         raw_mask = item->mask;
     580                 :            : 
     581         [ #  # ]:          0 :                         if (!raw_spec || !raw_mask) {
     582                 :          0 :                                 PMD_DRV_LOG(ERR, "NULL RAW spec/mask");
     583                 :          0 :                                 rte_flow_error_set(error, EINVAL,
     584                 :            :                                                 RTE_FLOW_ERROR_TYPE_ITEM,
     585                 :            :                                                 item,
     586                 :            :                                                 "NULL RAW spec/mask");
     587                 :          0 :                                 return -rte_errno;
     588                 :            :                         }
     589                 :            : 
     590         [ #  # ]:          0 :                         if (item_num != 1)
     591                 :          0 :                                 return -rte_errno;
     592                 :            : 
     593         [ #  # ]:          0 :                         if (raw_spec->length != raw_mask->length)
     594                 :          0 :                                 return -rte_errno;
     595                 :            : 
     596                 :            :                         uint16_t pkt_len = 0;
     597                 :            :                         uint16_t tmp_val = 0;
     598                 :            :                         uint8_t tmp = 0;
     599                 :            :                         int i, j;
     600                 :            : 
     601                 :            :                         pkt_len = raw_spec->length;
     602                 :            : 
     603         [ #  # ]:          0 :                         for (i = 0, j = 0; i < pkt_len; i += 2, j++) {
     604                 :          0 :                                 tmp = raw_spec->pattern[i];
     605         [ #  # ]:          0 :                                 if (tmp >= 'a' && tmp <= 'f')
     606                 :          0 :                                         tmp_val = tmp - 'a' + 10;
     607         [ #  # ]:          0 :                                 if (tmp >= 'A' && tmp <= 'F')
     608                 :          0 :                                         tmp_val = tmp - 'A' + 10;
     609         [ #  # ]:          0 :                                 if (tmp >= '0' && tmp <= '9')
     610                 :          0 :                                         tmp_val = tmp - '0';
     611                 :            : 
     612                 :          0 :                                 tmp_val *= 16;
     613                 :          0 :                                 tmp = raw_spec->pattern[i + 1];
     614         [ #  # ]:          0 :                                 if (tmp >= 'a' && tmp <= 'f')
     615                 :          0 :                                         tmp_val += (tmp - 'a' + 10);
     616         [ #  # ]:          0 :                                 if (tmp >= 'A' && tmp <= 'F')
     617                 :          0 :                                         tmp_val += (tmp - 'A' + 10);
     618         [ #  # ]:          0 :                                 if (tmp >= '0' && tmp <= '9')
     619                 :          0 :                                         tmp_val += (tmp - '0');
     620                 :            : 
     621                 :          0 :                                 hdrs->raw.spec[j] = tmp_val;
     622                 :            : 
     623                 :          0 :                                 tmp = raw_mask->pattern[i];
     624         [ #  # ]:          0 :                                 if (tmp >= 'a' && tmp <= 'f')
     625                 :          0 :                                         tmp_val = tmp - 'a' + 10;
     626         [ #  # ]:          0 :                                 if (tmp >= 'A' && tmp <= 'F')
     627                 :          0 :                                         tmp_val = tmp - 'A' + 10;
     628         [ #  # ]:          0 :                                 if (tmp >= '0' && tmp <= '9')
     629                 :          0 :                                         tmp_val = tmp - '0';
     630                 :            : 
     631                 :          0 :                                 tmp_val *= 16;
     632                 :          0 :                                 tmp = raw_mask->pattern[i + 1];
     633         [ #  # ]:          0 :                                 if (tmp >= 'a' && tmp <= 'f')
     634                 :          0 :                                         tmp_val += (tmp - 'a' + 10);
     635         [ #  # ]:          0 :                                 if (tmp >= 'A' && tmp <= 'F')
     636                 :          0 :                                         tmp_val += (tmp - 'A' + 10);
     637         [ #  # ]:          0 :                                 if (tmp >= '0' && tmp <= '9')
     638                 :          0 :                                         tmp_val += (tmp - '0');
     639                 :            : 
     640                 :          0 :                                 hdrs->raw.mask[j] = tmp_val;
     641                 :            :                         }
     642                 :            : 
     643                 :          0 :                         hdrs->raw.pkt_len = pkt_len / 2;
     644                 :          0 :                         hdrs->tunnel_level = 0;
     645                 :          0 :                         hdrs->count = 0;
     646                 :          0 :                         return 0;
     647                 :            :                 }
     648                 :            : 
     649                 :          0 :                 case RTE_FLOW_ITEM_TYPE_ETH:
     650                 :          0 :                         eth_spec = item->spec;
     651                 :          0 :                         eth_mask = item->mask;
     652                 :          0 :                         next_type = (item + 1)->type;
     653                 :            : 
     654                 :          0 :                         hdr1 = &hdrs->proto_hdr[layer];
     655                 :            : 
     656                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr1, ETH);
     657                 :            : 
     658         [ #  # ]:          0 :                         if (next_type == RTE_FLOW_ITEM_TYPE_END &&
     659         [ #  # ]:          0 :                             (!eth_spec || !eth_mask)) {
     660                 :          0 :                                 rte_flow_error_set(error, EINVAL,
     661                 :            :                                                 RTE_FLOW_ERROR_TYPE_ITEM,
     662                 :            :                                                 item, "NULL eth spec/mask.");
     663                 :          0 :                                 return -rte_errno;
     664                 :            :                         }
     665                 :            : 
     666         [ #  # ]:          0 :                         if (eth_spec && eth_mask) {
     667         [ #  # ]:          0 :                                 if (!rte_is_zero_ether_addr(&eth_mask->hdr.dst_addr)) {
     668                 :          0 :                                         input_set |= IAVF_INSET_DMAC;
     669                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1,
     670                 :            :                                                                         ETH,
     671                 :            :                                                                         DST);
     672         [ #  # ]:          0 :                                 } else if (!rte_is_zero_ether_addr(&eth_mask->hdr.src_addr)) {
     673                 :          0 :                                         input_set |= IAVF_INSET_SMAC;
     674                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1,
     675                 :            :                                                                         ETH,
     676                 :            :                                                                         SRC);
     677                 :            :                                 }
     678                 :            : 
     679         [ #  # ]:          0 :                                 if (eth_mask->hdr.ether_type) {
     680         [ #  # ]:          0 :                                         if (eth_mask->hdr.ether_type != RTE_BE16(0xffff)) {
     681                 :          0 :                                                 rte_flow_error_set(error, EINVAL,
     682                 :            :                                                         RTE_FLOW_ERROR_TYPE_ITEM,
     683                 :            :                                                         item, "Invalid type mask.");
     684                 :          0 :                                                 return -rte_errno;
     685                 :            :                                         }
     686                 :            : 
     687         [ #  # ]:          0 :                                         ether_type = rte_be_to_cpu_16(eth_spec->hdr.ether_type);
     688                 :          0 :                                         if (ether_type == RTE_ETHER_TYPE_IPV4 ||
     689         [ #  # ]:          0 :                                                 ether_type == RTE_ETHER_TYPE_IPV6) {
     690                 :          0 :                                                 rte_flow_error_set(error, EINVAL,
     691                 :            :                                                         RTE_FLOW_ERROR_TYPE_ITEM,
     692                 :            :                                                         item,
     693                 :            :                                                         "Unsupported ether_type.");
     694                 :          0 :                                                 return -rte_errno;
     695                 :            :                                         }
     696                 :            : 
     697                 :          0 :                                         input_set |= IAVF_INSET_ETHERTYPE;
     698                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1, ETH,
     699                 :            :                                                                         ETHERTYPE);
     700                 :            :                                 }
     701                 :            : 
     702                 :          0 :                                 memcpy(hdr1->buffer, eth_spec,
     703                 :            :                                            sizeof(struct rte_ether_hdr));
     704                 :            :                         }
     705                 :            : 
     706                 :          0 :                         hdrs->count = ++layer;
     707                 :          0 :                         break;
     708                 :            : 
     709                 :          0 :                 case RTE_FLOW_ITEM_TYPE_IPV4:
     710                 :            :                         l3 = RTE_FLOW_ITEM_TYPE_IPV4;
     711                 :          0 :                         ipv4_spec = item->spec;
     712                 :          0 :                         ipv4_last = item->last;
     713                 :          0 :                         ipv4_mask = item->mask;
     714                 :            :                         next_type = (item + 1)->type;
     715                 :            : 
     716                 :            :                         hdr = &hdrs->proto_hdr[layer];
     717                 :            : 
     718                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, IPV4);
     719                 :            : 
     720         [ #  # ]:          0 :                         if (!(ipv4_spec && ipv4_mask)) {
     721                 :          0 :                                 hdrs->count = ++layer;
     722                 :          0 :                                 break;
     723                 :            :                         }
     724                 :            : 
     725         [ #  # ]:          0 :                         if (ipv4_mask->hdr.version_ihl ||
     726         [ #  # ]:          0 :                             ipv4_mask->hdr.total_length ||
     727         [ #  # ]:          0 :                             ipv4_mask->hdr.hdr_checksum) {
     728                 :          0 :                                 rte_flow_error_set(error, EINVAL,
     729                 :            :                                                    RTE_FLOW_ERROR_TYPE_ITEM,
     730                 :            :                                                    item, "Invalid IPv4 mask.");
     731                 :          0 :                                 return -rte_errno;
     732                 :            :                         }
     733                 :            : 
     734         [ #  # ]:          0 :                         if (ipv4_last &&
     735         [ #  # ]:          0 :                             (ipv4_last->hdr.version_ihl ||
     736                 :          0 :                              ipv4_last->hdr.type_of_service ||
     737         [ #  # ]:          0 :                              ipv4_last->hdr.time_to_live ||
     738                 :          0 :                              ipv4_last->hdr.total_length |
     739         [ #  # ]:          0 :                              ipv4_last->hdr.next_proto_id ||
     740         [ #  # ]:          0 :                              ipv4_last->hdr.hdr_checksum ||
     741         [ #  # ]:          0 :                              ipv4_last->hdr.src_addr ||
     742         [ #  # ]:          0 :                              ipv4_last->hdr.dst_addr)) {
     743                 :          0 :                                 rte_flow_error_set(error, EINVAL,
     744                 :            :                                                    RTE_FLOW_ERROR_TYPE_ITEM,
     745                 :            :                                                    item, "Invalid IPv4 last.");
     746                 :          0 :                                 return -rte_errno;
     747                 :            :                         }
     748                 :            : 
     749                 :            :                         /* Mask for IPv4 src/dst addrs not supported */
     750         [ #  # ]:          0 :                         if (ipv4_mask->hdr.src_addr &&
     751                 :            :                                 ipv4_mask->hdr.src_addr != UINT32_MAX)
     752                 :          0 :                                 return -rte_errno;
     753         [ #  # ]:          0 :                         if (ipv4_mask->hdr.dst_addr &&
     754                 :            :                                 ipv4_mask->hdr.dst_addr != UINT32_MAX)
     755                 :          0 :                                 return -rte_errno;
     756                 :            : 
     757         [ #  # ]:          0 :                         if (ipv4_mask->hdr.type_of_service ==
     758                 :            :                             UINT8_MAX) {
     759                 :          0 :                                 input_set |= IAVF_INSET_IPV4_TOS;
     760                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
     761                 :            :                                                                  DSCP);
     762                 :            :                         }
     763                 :            : 
     764         [ #  # ]:          0 :                         if (ipv4_mask->hdr.next_proto_id == UINT8_MAX) {
     765                 :          0 :                                 input_set |= IAVF_INSET_IPV4_PROTO;
     766                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
     767                 :            :                                                                  PROT);
     768                 :            :                         }
     769                 :            : 
     770         [ #  # ]:          0 :                         if (ipv4_mask->hdr.time_to_live == UINT8_MAX) {
     771                 :          0 :                                 input_set |= IAVF_INSET_IPV4_TTL;
     772                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
     773                 :            :                                                                  TTL);
     774                 :            :                         }
     775                 :            : 
     776         [ #  # ]:          0 :                         if (ipv4_mask->hdr.src_addr == UINT32_MAX) {
     777                 :          0 :                                 input_set |= IAVF_INSET_IPV4_SRC;
     778                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
     779                 :            :                                                                  SRC);
     780                 :            :                         }
     781                 :            : 
     782         [ #  # ]:          0 :                         if (ipv4_mask->hdr.dst_addr == UINT32_MAX) {
     783                 :          0 :                                 input_set |= IAVF_INSET_IPV4_DST;
     784                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV4,
     785                 :            :                                                                  DST);
     786                 :            :                         }
     787                 :            : 
     788         [ #  # ]:          0 :                         if (tun_inner) {
     789                 :          0 :                                 input_set &= ~IAVF_PROT_IPV4_OUTER;
     790                 :          0 :                                 input_set |= IAVF_PROT_IPV4_INNER;
     791                 :            :                         }
     792                 :            : 
     793         [ #  # ]:          0 :                         memcpy(hdr->buffer, &ipv4_spec->hdr,
     794                 :            :                                    sizeof(ipv4_spec->hdr));
     795                 :            : 
     796                 :          0 :                         hdrs->count = ++layer;
     797                 :            : 
     798                 :            :                         /* fragment Ipv4:
     799                 :            :                          * spec is 0x2000, mask is 0x2000
     800                 :            :                          */
     801         [ #  # ]:          0 :                         if (ipv4_spec->hdr.fragment_offset ==
     802                 :          0 :                             rte_cpu_to_be_16(RTE_IPV4_HDR_MF_FLAG) &&
     803         [ #  # ]:          0 :                             ipv4_mask->hdr.fragment_offset ==
     804                 :            :                             rte_cpu_to_be_16(RTE_IPV4_HDR_MF_FLAG)) {
     805                 :            :                                 /* all IPv4 fragment packet has the same
     806                 :            :                                  * ethertype, if the spec and mask is valid,
     807                 :            :                                  * set ethertype into input set.
     808                 :            :                                  */
     809                 :          0 :                                 input_set |= IAVF_INSET_ETHERTYPE;
     810                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1, ETH,
     811                 :            :                                                                  ETHERTYPE);
     812                 :            : 
     813                 :            :                                 /* add dummy header for IPv4 Fragment */
     814                 :          0 :                                 iavf_fdir_add_fragment_hdr(hdrs, layer);
     815         [ #  # ]:          0 :                         } else if (ipv4_mask->hdr.packet_id == UINT16_MAX) {
     816                 :          0 :                                 rte_flow_error_set(error, EINVAL,
     817                 :            :                                                    RTE_FLOW_ERROR_TYPE_ITEM,
     818                 :            :                                                    item, "Invalid IPv4 mask.");
     819                 :          0 :                                 return -rte_errno;
     820                 :            :                         }
     821                 :            : 
     822                 :            :                         break;
     823                 :            : 
     824                 :          0 :                 case RTE_FLOW_ITEM_TYPE_IPV6:
     825                 :            :                         l3 = RTE_FLOW_ITEM_TYPE_IPV6;
     826                 :          0 :                         ipv6_spec = item->spec;
     827                 :          0 :                         ipv6_mask = item->mask;
     828                 :            : 
     829                 :            :                         hdr = &hdrs->proto_hdr[layer];
     830                 :            : 
     831                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, IPV6);
     832                 :            : 
     833         [ #  # ]:          0 :                         if (!(ipv6_spec && ipv6_mask)) {
     834                 :          0 :                                 hdrs->count = ++layer;
     835                 :          0 :                                 break;
     836                 :            :                         }
     837                 :            : 
     838         [ #  # ]:          0 :                         if (ipv6_mask->hdr.payload_len) {
     839                 :          0 :                                 rte_flow_error_set(error, EINVAL,
     840                 :            :                                                    RTE_FLOW_ERROR_TYPE_ITEM,
     841                 :            :                                                    item, "Invalid IPv6 mask");
     842                 :          0 :                                 return -rte_errno;
     843                 :            :                         }
     844                 :            : 
     845         [ #  # ]:          0 :                         if ((ipv6_mask->hdr.vtc_flow &
     846                 :            :                               rte_cpu_to_be_32(IAVF_IPV6_TC_MASK))
     847                 :            :                              == rte_cpu_to_be_32(IAVF_IPV6_TC_MASK)) {
     848                 :          0 :                                 input_set |= IAVF_INSET_IPV6_TC;
     849                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
     850                 :            :                                                                  TC);
     851                 :            :                         }
     852                 :            : 
     853         [ #  # ]:          0 :                         if (ipv6_mask->hdr.proto == UINT8_MAX) {
     854                 :          0 :                                 input_set |= IAVF_INSET_IPV6_NEXT_HDR;
     855                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
     856                 :            :                                                                  PROT);
     857                 :            :                         }
     858                 :            : 
     859         [ #  # ]:          0 :                         if (ipv6_mask->hdr.hop_limits == UINT8_MAX) {
     860                 :          0 :                                 input_set |= IAVF_INSET_IPV6_HOP_LIMIT;
     861                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
     862                 :            :                                                                  HOP_LIMIT);
     863                 :            :                         }
     864                 :            : 
     865         [ #  # ]:          0 :                         if (!memcmp(&ipv6_mask->hdr.src_addr, ipv6_addr_mask,
     866                 :            :                                     sizeof(ipv6_mask->hdr.src_addr))) {
     867                 :          0 :                                 input_set |= IAVF_INSET_IPV6_SRC;
     868                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
     869                 :            :                                                                  SRC);
     870                 :            :                         }
     871         [ #  # ]:          0 :                         if (!memcmp(&ipv6_mask->hdr.dst_addr, ipv6_addr_mask,
     872                 :            :                                     sizeof(ipv6_mask->hdr.dst_addr))) {
     873                 :          0 :                                 input_set |= IAVF_INSET_IPV6_DST;
     874                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, IPV6,
     875                 :            :                                                                  DST);
     876                 :            :                         }
     877                 :            : 
     878         [ #  # ]:          0 :                         if (tun_inner) {
     879                 :          0 :                                 input_set &= ~IAVF_PROT_IPV6_OUTER;
     880                 :          0 :                                 input_set |= IAVF_PROT_IPV6_INNER;
     881                 :            :                         }
     882                 :            : 
     883                 :          0 :                         memcpy(hdr->buffer, &ipv6_spec->hdr,
     884                 :            :                                    sizeof(ipv6_spec->hdr));
     885                 :            : 
     886                 :          0 :                         hdrs->count = ++layer;
     887                 :          0 :                         break;
     888                 :            : 
     889                 :          0 :                 case RTE_FLOW_ITEM_TYPE_IPV6_FRAG_EXT:
     890                 :          0 :                         ipv6_frag_spec = item->spec;
     891                 :          0 :                         ipv6_frag_mask = item->mask;
     892                 :            :                         next_type = (item + 1)->type;
     893                 :            : 
     894                 :            :                         hdr = &hdrs->proto_hdr[layer];
     895                 :            : 
     896                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, IPV6_EH_FRAG);
     897                 :            : 
     898         [ #  # ]:          0 :                         if (!(ipv6_frag_spec && ipv6_frag_mask)) {
     899                 :          0 :                                 hdrs->count = ++layer;
     900                 :          0 :                                 break;
     901                 :            :                         }
     902                 :            : 
     903                 :            :                         /* fragment Ipv6:
     904                 :            :                          * spec is 0x1, mask is 0x1
     905                 :            :                          */
     906         [ #  # ]:          0 :                         if (ipv6_frag_spec->hdr.frag_data ==
     907                 :          0 :                             rte_cpu_to_be_16(1) &&
     908         [ #  # ]:          0 :                             ipv6_frag_mask->hdr.frag_data ==
     909                 :            :                             rte_cpu_to_be_16(1)) {
     910                 :            :                                 /* all IPv6 fragment packet has the same
     911                 :            :                                  * ethertype, if the spec and mask is valid,
     912                 :            :                                  * set ethertype into input set.
     913                 :            :                                  */
     914                 :          0 :                                 input_set |= IAVF_INSET_ETHERTYPE;
     915                 :          0 :                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr1, ETH,
     916                 :            :                                                                  ETHERTYPE);
     917                 :            : 
     918                 :          0 :                                 memcpy(hdr->buffer, &ipv6_frag_spec->hdr,
     919                 :            :                                            sizeof(ipv6_frag_spec->hdr));
     920         [ #  # ]:          0 :                         } else if (ipv6_frag_mask->hdr.id == UINT32_MAX) {
     921                 :          0 :                                 rte_flow_error_set(error, EINVAL,
     922                 :            :                                                    RTE_FLOW_ERROR_TYPE_ITEM,
     923                 :            :                                                    item, "Invalid IPv6 mask.");
     924                 :          0 :                                 return -rte_errno;
     925                 :            :                         }
     926                 :            : 
     927                 :          0 :                         hdrs->count = ++layer;
     928                 :          0 :                         break;
     929                 :            : 
     930                 :          0 :                 case RTE_FLOW_ITEM_TYPE_UDP:
     931                 :          0 :                         udp_spec = item->spec;
     932                 :          0 :                         udp_mask = item->mask;
     933                 :            : 
     934                 :            :                         hdr = &hdrs->proto_hdr[layer];
     935                 :            : 
     936                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, UDP);
     937                 :            : 
     938         [ #  # ]:          0 :                         if (udp_spec && udp_mask) {
     939         [ #  # ]:          0 :                                 if (udp_mask->hdr.dgram_len ||
     940         [ #  # ]:          0 :                                         udp_mask->hdr.dgram_cksum) {
     941                 :          0 :                                         rte_flow_error_set(error, EINVAL,
     942                 :            :                                                 RTE_FLOW_ERROR_TYPE_ITEM, item,
     943                 :            :                                                 "Invalid UDP mask");
     944                 :          0 :                                         return -rte_errno;
     945                 :            :                                 }
     946                 :            : 
     947                 :            :                                 /* Mask for UDP src/dst ports not supported */
     948         [ #  # ]:          0 :                                 if (udp_mask->hdr.src_port &&
     949                 :            :                                         udp_mask->hdr.src_port != UINT16_MAX)
     950                 :          0 :                                         return -rte_errno;
     951         [ #  # ]:          0 :                                 if (udp_mask->hdr.dst_port &&
     952                 :            :                                         udp_mask->hdr.dst_port != UINT16_MAX)
     953                 :          0 :                                         return -rte_errno;
     954                 :            : 
     955         [ #  # ]:          0 :                                 if (udp_mask->hdr.src_port == UINT16_MAX) {
     956                 :          0 :                                         input_set |= IAVF_INSET_UDP_SRC_PORT;
     957                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, UDP, SRC_PORT);
     958                 :            :                                 }
     959         [ #  # ]:          0 :                                 if (udp_mask->hdr.dst_port == UINT16_MAX) {
     960                 :          0 :                                         input_set |= IAVF_INSET_UDP_DST_PORT;
     961                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, UDP, DST_PORT);
     962                 :            :                                 }
     963                 :            : 
     964         [ #  # ]:          0 :                                 if (tun_inner) {
     965                 :          0 :                                         input_set &= ~IAVF_PROT_UDP_OUTER;
     966                 :          0 :                                         input_set |= IAVF_PROT_UDP_INNER;
     967                 :            :                                 }
     968                 :            : 
     969         [ #  # ]:          0 :                                 if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
     970                 :          0 :                                         memcpy(hdr->buffer,
     971                 :          0 :                                                 &udp_spec->hdr,
     972                 :            :                                                 sizeof(udp_spec->hdr));
     973         [ #  # ]:          0 :                                 else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
     974                 :          0 :                                         memcpy(hdr->buffer,
     975                 :          0 :                                                 &udp_spec->hdr,
     976                 :            :                                                 sizeof(udp_spec->hdr));
     977                 :            :                         }
     978                 :            : 
     979                 :          0 :                         hdrs->count = ++layer;
     980                 :          0 :                         break;
     981                 :            : 
     982                 :          0 :                 case RTE_FLOW_ITEM_TYPE_TCP:
     983                 :          0 :                         tcp_spec = item->spec;
     984                 :          0 :                         tcp_mask = item->mask;
     985                 :            : 
     986                 :            :                         hdr = &hdrs->proto_hdr[layer];
     987                 :            : 
     988                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, TCP);
     989                 :            : 
     990         [ #  # ]:          0 :                         if (tcp_spec && tcp_mask) {
     991         [ #  # ]:          0 :                                 if (tcp_mask->hdr.sent_seq ||
     992         [ #  # ]:          0 :                                         tcp_mask->hdr.recv_ack ||
     993         [ #  # ]:          0 :                                         tcp_mask->hdr.data_off ||
     994         [ #  # ]:          0 :                                         tcp_mask->hdr.tcp_flags ||
     995         [ #  # ]:          0 :                                         tcp_mask->hdr.rx_win ||
     996         [ #  # ]:          0 :                                         tcp_mask->hdr.cksum ||
     997         [ #  # ]:          0 :                                         tcp_mask->hdr.tcp_urp) {
     998                 :          0 :                                         rte_flow_error_set(error, EINVAL,
     999                 :            :                                                 RTE_FLOW_ERROR_TYPE_ITEM, item,
    1000                 :            :                                                 "Invalid TCP mask");
    1001                 :          0 :                                         return -rte_errno;
    1002                 :            :                                 }
    1003                 :            : 
    1004                 :            :                                 /* Mask for TCP src/dst ports not supported */
    1005         [ #  # ]:          0 :                                 if (tcp_mask->hdr.src_port &&
    1006                 :            :                                         tcp_mask->hdr.src_port != UINT16_MAX)
    1007                 :          0 :                                         return -rte_errno;
    1008         [ #  # ]:          0 :                                 if (tcp_mask->hdr.dst_port &&
    1009                 :            :                                         tcp_mask->hdr.dst_port != UINT16_MAX)
    1010                 :          0 :                                         return -rte_errno;
    1011                 :            : 
    1012         [ #  # ]:          0 :                                 if (tcp_mask->hdr.src_port == UINT16_MAX) {
    1013                 :          0 :                                         input_set |= IAVF_INSET_TCP_SRC_PORT;
    1014                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, TCP, SRC_PORT);
    1015                 :            :                                 }
    1016         [ #  # ]:          0 :                                 if (tcp_mask->hdr.dst_port == UINT16_MAX) {
    1017                 :          0 :                                         input_set |= IAVF_INSET_TCP_DST_PORT;
    1018                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, TCP, DST_PORT);
    1019                 :            :                                 }
    1020                 :            : 
    1021         [ #  # ]:          0 :                                 if (tun_inner) {
    1022                 :          0 :                                         input_set &= ~IAVF_PROT_TCP_OUTER;
    1023                 :          0 :                                         input_set |= IAVF_PROT_TCP_INNER;
    1024                 :            :                                 }
    1025                 :            : 
    1026         [ #  # ]:          0 :                                 if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
    1027                 :          0 :                                         memcpy(hdr->buffer,
    1028                 :          0 :                                                 &tcp_spec->hdr,
    1029                 :            :                                                 sizeof(tcp_spec->hdr));
    1030         [ #  # ]:          0 :                                 else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
    1031                 :          0 :                                         memcpy(hdr->buffer,
    1032                 :          0 :                                                 &tcp_spec->hdr,
    1033                 :            :                                                 sizeof(tcp_spec->hdr));
    1034                 :            :                         }
    1035                 :            : 
    1036                 :          0 :                         hdrs->count = ++layer;
    1037                 :          0 :                         break;
    1038                 :            : 
    1039                 :          0 :                 case RTE_FLOW_ITEM_TYPE_SCTP:
    1040                 :          0 :                         sctp_spec = item->spec;
    1041                 :          0 :                         sctp_mask = item->mask;
    1042                 :            : 
    1043                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1044                 :            : 
    1045                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, SCTP);
    1046                 :            : 
    1047         [ #  # ]:          0 :                         if (sctp_spec && sctp_mask) {
    1048         [ #  # ]:          0 :                                 if (sctp_mask->hdr.cksum) {
    1049                 :          0 :                                         rte_flow_error_set(error, EINVAL,
    1050                 :            :                                                 RTE_FLOW_ERROR_TYPE_ITEM, item,
    1051                 :            :                                                 "Invalid UDP mask");
    1052                 :          0 :                                         return -rte_errno;
    1053                 :            :                                 }
    1054                 :            : 
    1055                 :            :                                 /* Mask for SCTP src/dst ports not supported */
    1056         [ #  # ]:          0 :                                 if (sctp_mask->hdr.src_port &&
    1057                 :            :                                         sctp_mask->hdr.src_port != UINT16_MAX)
    1058                 :          0 :                                         return -rte_errno;
    1059         [ #  # ]:          0 :                                 if (sctp_mask->hdr.dst_port &&
    1060                 :            :                                         sctp_mask->hdr.dst_port != UINT16_MAX)
    1061                 :          0 :                                         return -rte_errno;
    1062                 :            : 
    1063         [ #  # ]:          0 :                                 if (sctp_mask->hdr.src_port == UINT16_MAX) {
    1064                 :          0 :                                         input_set |= IAVF_INSET_SCTP_SRC_PORT;
    1065                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, SCTP, SRC_PORT);
    1066                 :            :                                 }
    1067         [ #  # ]:          0 :                                 if (sctp_mask->hdr.dst_port == UINT16_MAX) {
    1068                 :          0 :                                         input_set |= IAVF_INSET_SCTP_DST_PORT;
    1069                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, SCTP, DST_PORT);
    1070                 :            :                                 }
    1071                 :            : 
    1072         [ #  # ]:          0 :                                 if (l3 == RTE_FLOW_ITEM_TYPE_IPV4)
    1073                 :          0 :                                         memcpy(hdr->buffer,
    1074                 :          0 :                                                 &sctp_spec->hdr,
    1075                 :            :                                                 sizeof(sctp_spec->hdr));
    1076         [ #  # ]:          0 :                                 else if (l3 == RTE_FLOW_ITEM_TYPE_IPV6)
    1077                 :          0 :                                         memcpy(hdr->buffer,
    1078                 :          0 :                                                 &sctp_spec->hdr,
    1079                 :            :                                                 sizeof(sctp_spec->hdr));
    1080                 :            :                         }
    1081                 :            : 
    1082                 :          0 :                         hdrs->count = ++layer;
    1083                 :          0 :                         break;
    1084                 :            : 
    1085                 :          0 :                 case RTE_FLOW_ITEM_TYPE_GTPU:
    1086                 :          0 :                         gtp_spec = item->spec;
    1087                 :          0 :                         gtp_mask = item->mask;
    1088                 :            : 
    1089                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1090                 :            : 
    1091                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_IP);
    1092                 :            : 
    1093         [ #  # ]:          0 :                         if (gtp_spec && gtp_mask) {
    1094                 :          0 :                                 if (gtp_mask->hdr.gtp_hdr_info ||
    1095         [ #  # ]:          0 :                                         gtp_mask->hdr.msg_type ||
    1096                 :            :                                         gtp_mask->hdr.plen) {
    1097                 :          0 :                                         rte_flow_error_set(error, EINVAL,
    1098                 :            :                                                 RTE_FLOW_ERROR_TYPE_ITEM,
    1099                 :            :                                                 item, "Invalid GTP mask");
    1100                 :          0 :                                         return -rte_errno;
    1101                 :            :                                 }
    1102                 :            : 
    1103         [ #  # ]:          0 :                                 if (gtp_mask->hdr.teid == UINT32_MAX) {
    1104                 :          0 :                                         input_set |= IAVF_INSET_GTPU_TEID;
    1105                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, GTPU_IP, TEID);
    1106                 :            :                                 }
    1107                 :            : 
    1108                 :          0 :                                 memcpy(hdr->buffer,
    1109                 :            :                                         gtp_spec, sizeof(*gtp_spec));
    1110                 :            :                         }
    1111                 :            : 
    1112                 :            :                         tun_inner = 1;
    1113                 :            : 
    1114                 :          0 :                         hdrs->count = ++layer;
    1115                 :          0 :                         break;
    1116                 :            : 
    1117                 :          0 :                 case RTE_FLOW_ITEM_TYPE_GTP_PSC:
    1118                 :          0 :                         gtp_psc_spec = item->spec;
    1119                 :          0 :                         gtp_psc_mask = item->mask;
    1120                 :            : 
    1121                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1122                 :            : 
    1123         [ #  # ]:          0 :                         if (!gtp_psc_spec)
    1124                 :          0 :                                 VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH);
    1125         [ #  # ]:          0 :                         else if ((gtp_psc_mask->hdr.qfi) &&
    1126         [ #  # ]:          0 :                                 !(gtp_psc_mask->hdr.type))
    1127                 :          0 :                                 VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH);
    1128         [ #  # ]:          0 :                         else if (gtp_psc_spec->hdr.type == IAVF_GTPU_EH_UPLINK)
    1129                 :          0 :                                 VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH_PDU_UP);
    1130         [ #  # ]:          0 :                         else if (gtp_psc_spec->hdr.type == IAVF_GTPU_EH_DWLINK)
    1131                 :          0 :                                 VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GTPU_EH_PDU_DWN);
    1132                 :            : 
    1133         [ #  # ]:          0 :                         if (gtp_psc_spec && gtp_psc_mask) {
    1134         [ #  # ]:          0 :                                 if (gtp_psc_mask->hdr.qfi == 0x3F) {
    1135                 :          0 :                                         input_set |= IAVF_INSET_GTPU_QFI;
    1136         [ #  # ]:          0 :                                         if (!gtp_psc_mask->hdr.type)
    1137                 :          0 :                                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
    1138                 :            :                                                                                  GTPU_EH, QFI);
    1139         [ #  # ]:          0 :                                         else if (gtp_psc_spec->hdr.type ==
    1140                 :            :                                                                 IAVF_GTPU_EH_UPLINK)
    1141                 :          0 :                                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
    1142                 :            :                                                                                  GTPU_UP, QFI);
    1143         [ #  # ]:          0 :                                         else if (gtp_psc_spec->hdr.type ==
    1144                 :            :                                                                 IAVF_GTPU_EH_DWLINK)
    1145                 :          0 :                                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
    1146                 :            :                                                                                  GTPU_DWN, QFI);
    1147                 :            :                                 }
    1148                 :            : 
    1149                 :            :                                 /*
    1150                 :            :                                  * New structure to fix gap between kernel driver and
    1151                 :            :                                  * rte_gtp_psc_generic_hdr.
    1152                 :            :                                  */
    1153                 :            :                                 struct iavf_gtp_psc_spec_hdr {
    1154                 :            :                                         uint8_t len;
    1155                 :            :                                         uint8_t qfi:6;
    1156                 :            :                                         uint8_t type:4;
    1157                 :            :                                         uint8_t next;
    1158                 :            :                                 } psc;
    1159                 :          0 :                                 psc.len = gtp_psc_spec->hdr.ext_hdr_len;
    1160                 :          0 :                                 psc.qfi = gtp_psc_spec->hdr.qfi;
    1161                 :          0 :                                 psc.type = gtp_psc_spec->hdr.type;
    1162                 :          0 :                                 psc.next = 0;
    1163                 :          0 :                                 memcpy(hdr->buffer, &psc,
    1164                 :            :                                         sizeof(struct iavf_gtp_psc_spec_hdr));
    1165                 :            :                         }
    1166                 :            : 
    1167                 :          0 :                         hdrs->count = ++layer;
    1168                 :          0 :                         break;
    1169                 :            : 
    1170                 :          0 :                 case RTE_FLOW_ITEM_TYPE_L2TPV3OIP:
    1171                 :          0 :                         l2tpv3oip_spec = item->spec;
    1172                 :          0 :                         l2tpv3oip_mask = item->mask;
    1173                 :            : 
    1174                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1175                 :            : 
    1176                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, L2TPV3);
    1177                 :            : 
    1178         [ #  # ]:          0 :                         if (l2tpv3oip_spec && l2tpv3oip_mask) {
    1179         [ #  # ]:          0 :                                 if (l2tpv3oip_mask->session_id == UINT32_MAX) {
    1180                 :          0 :                                         input_set |= IAVF_L2TPV3OIP_SESSION_ID;
    1181                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, L2TPV3, SESS_ID);
    1182                 :            :                                 }
    1183                 :            : 
    1184                 :          0 :                                 memcpy(hdr->buffer, l2tpv3oip_spec,
    1185                 :            :                                         sizeof(*l2tpv3oip_spec));
    1186                 :            :                         }
    1187                 :            : 
    1188                 :          0 :                         hdrs->count = ++layer;
    1189                 :          0 :                         break;
    1190                 :            : 
    1191                 :          0 :                 case RTE_FLOW_ITEM_TYPE_ESP:
    1192                 :          0 :                         esp_spec = item->spec;
    1193                 :          0 :                         esp_mask = item->mask;
    1194                 :            : 
    1195                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1196                 :            : 
    1197                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, ESP);
    1198                 :            : 
    1199         [ #  # ]:          0 :                         if (esp_spec && esp_mask) {
    1200         [ #  # ]:          0 :                                 if (esp_mask->hdr.spi == UINT32_MAX) {
    1201                 :          0 :                                         input_set |= IAVF_INSET_ESP_SPI;
    1202                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, ESP, SPI);
    1203                 :            :                                 }
    1204                 :            : 
    1205                 :          0 :                                 memcpy(hdr->buffer, &esp_spec->hdr,
    1206                 :            :                                         sizeof(esp_spec->hdr));
    1207                 :            :                         }
    1208                 :            : 
    1209                 :          0 :                         hdrs->count = ++layer;
    1210                 :          0 :                         break;
    1211                 :            : 
    1212                 :          0 :                 case RTE_FLOW_ITEM_TYPE_AH:
    1213                 :          0 :                         ah_spec = item->spec;
    1214                 :          0 :                         ah_mask = item->mask;
    1215                 :            : 
    1216                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1217                 :            : 
    1218                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, AH);
    1219                 :            : 
    1220         [ #  # ]:          0 :                         if (ah_spec && ah_mask) {
    1221         [ #  # ]:          0 :                                 if (ah_mask->spi == UINT32_MAX) {
    1222                 :          0 :                                         input_set |= IAVF_INSET_AH_SPI;
    1223                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, AH, SPI);
    1224                 :            :                                 }
    1225                 :            : 
    1226                 :          0 :                                 memcpy(hdr->buffer, ah_spec,
    1227                 :            :                                         sizeof(*ah_spec));
    1228                 :            :                         }
    1229                 :            : 
    1230                 :          0 :                         hdrs->count = ++layer;
    1231                 :          0 :                         break;
    1232                 :            : 
    1233                 :          0 :                 case RTE_FLOW_ITEM_TYPE_PFCP:
    1234                 :          0 :                         pfcp_spec = item->spec;
    1235                 :          0 :                         pfcp_mask = item->mask;
    1236                 :            : 
    1237                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1238                 :            : 
    1239                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, PFCP);
    1240                 :            : 
    1241         [ #  # ]:          0 :                         if (pfcp_spec && pfcp_mask) {
    1242         [ #  # ]:          0 :                                 if (pfcp_mask->s_field == UINT8_MAX) {
    1243                 :          0 :                                         input_set |= IAVF_INSET_PFCP_S_FIELD;
    1244                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, PFCP, S_FIELD);
    1245                 :            :                                 }
    1246                 :            : 
    1247                 :          0 :                                 memcpy(hdr->buffer, pfcp_spec,
    1248                 :            :                                         sizeof(*pfcp_spec));
    1249                 :            :                         }
    1250                 :            : 
    1251                 :          0 :                         hdrs->count = ++layer;
    1252                 :          0 :                         break;
    1253                 :            : 
    1254                 :          0 :                 case RTE_FLOW_ITEM_TYPE_ECPRI:
    1255                 :          0 :                         ecpri_spec = item->spec;
    1256                 :          0 :                         ecpri_mask = item->mask;
    1257                 :            : 
    1258         [ #  # ]:          0 :                         ecpri_common.u32 = rte_be_to_cpu_32(ecpri_spec->hdr.common.u32);
    1259                 :            : 
    1260                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1261                 :            : 
    1262                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, ECPRI);
    1263                 :            : 
    1264         [ #  # ]:          0 :                         if (ecpri_spec && ecpri_mask) {
    1265         [ #  # ]:          0 :                                 if (ecpri_common.type == RTE_ECPRI_MSG_TYPE_IQ_DATA &&
    1266         [ #  # ]:          0 :                                                 ecpri_mask->hdr.type0.pc_id == UINT16_MAX) {
    1267                 :          0 :                                         input_set |= IAVF_ECPRI_PC_RTC_ID;
    1268                 :          0 :                                         VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr, ECPRI,
    1269                 :            :                                                                          PC_RTC_ID);
    1270                 :            :                                 }
    1271                 :            : 
    1272                 :          0 :                                 memcpy(hdr->buffer, ecpri_spec,
    1273                 :            :                                         sizeof(*ecpri_spec));
    1274                 :            :                         }
    1275                 :            : 
    1276                 :          0 :                         hdrs->count = ++layer;
    1277                 :          0 :                         break;
    1278                 :            : 
    1279                 :          0 :                 case RTE_FLOW_ITEM_TYPE_GRE:
    1280                 :          0 :                         gre_spec = item->spec;
    1281                 :          0 :                         gre_mask = item->mask;
    1282                 :            : 
    1283                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1284                 :            : 
    1285                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, GRE);
    1286                 :            : 
    1287         [ #  # ]:          0 :                         if (gre_spec && gre_mask) {
    1288                 :          0 :                                 memcpy(hdr->buffer, gre_spec,
    1289                 :            :                                            sizeof(*gre_spec));
    1290                 :            :                         }
    1291                 :            : 
    1292                 :            :                         tun_inner = 1;
    1293                 :            : 
    1294                 :          0 :                         hdrs->count = ++layer;
    1295                 :          0 :                         break;
    1296                 :            : 
    1297                 :          0 :                 case RTE_FLOW_ITEM_TYPE_L2TPV2:
    1298                 :          0 :                         l2tpv2_spec = item->spec;
    1299                 :          0 :                         l2tpv2_mask = item->mask;
    1300                 :            : 
    1301                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1302                 :            : 
    1303                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, L2TPV2);
    1304                 :            : 
    1305         [ #  # ]:          0 :                         if (l2tpv2_spec && l2tpv2_mask) {
    1306                 :            :                                 flags_version =
    1307         [ #  # ]:          0 :                                         rte_be_to_cpu_16(l2tpv2_spec->hdr.common.flags_version);
    1308         [ #  # ]:          0 :                                 if ((flags_version == RTE_L2TPV2_MSG_TYPE_CONTROL &&
    1309   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type3.session_id == UINT16_MAX) ||
    1310                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA &&
    1311   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type7.session_id == UINT16_MAX) ||
    1312                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L &&
    1313   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type6.session_id == UINT16_MAX) ||
    1314                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_S &&
    1315   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type5.session_id == UINT16_MAX) ||
    1316                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_O &&
    1317   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type4.session_id == UINT16_MAX) ||
    1318                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L_S &&
    1319   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type3.session_id == UINT16_MAX) ||
    1320                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L_O &&
    1321   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type2.session_id == UINT16_MAX) ||
    1322                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_S_O &&
    1323   [ #  #  #  # ]:          0 :                                      l2tpv2_mask->hdr.type1.session_id == UINT16_MAX) ||
    1324                 :          0 :                                     (flags_version == RTE_L2TPV2_MSG_TYPE_DATA_L_S_O &&
    1325         [ #  # ]:          0 :                                      l2tpv2_mask->hdr.type0.session_id == UINT16_MAX)) {
    1326                 :          0 :                                         input_set |= IAVF_L2TPV2_SESSION_ID;
    1327         [ #  # ]:          0 :                                         if (flags_version & IAVF_L2TPV2_FLAGS_LEN)
    1328                 :          0 :                                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
    1329                 :            :                                                                 L2TPV2,
    1330                 :            :                                                                 LEN_SESS_ID);
    1331                 :            :                                         else
    1332                 :          0 :                                                 VIRTCHNL_ADD_PROTO_HDR_FIELD_BIT(hdr,
    1333                 :            :                                                                 L2TPV2,
    1334                 :            :                                                                 SESS_ID);
    1335                 :            :                                 }
    1336                 :            : 
    1337                 :          0 :                                 memcpy(hdr->buffer, l2tpv2_spec,
    1338                 :            :                                            sizeof(*l2tpv2_spec));
    1339                 :            :                         }
    1340                 :            : 
    1341                 :            :                         tun_inner = 1;
    1342                 :            : 
    1343                 :          0 :                         hdrs->count = ++layer;
    1344                 :          0 :                         break;
    1345                 :            : 
    1346                 :          0 :                 case RTE_FLOW_ITEM_TYPE_PPP:
    1347                 :          0 :                         ppp_spec = item->spec;
    1348                 :          0 :                         ppp_mask = item->mask;
    1349                 :            : 
    1350                 :            :                         hdr = &hdrs->proto_hdr[layer];
    1351                 :            : 
    1352                 :          0 :                         VIRTCHNL_SET_PROTO_HDR_TYPE(hdr, PPP);
    1353                 :            : 
    1354         [ #  # ]:          0 :                         if (ppp_spec && ppp_mask) {
    1355                 :          0 :                                 memcpy(hdr->buffer, ppp_spec,
    1356                 :            :                                            sizeof(*ppp_spec));
    1357                 :            :                         }
    1358                 :            : 
    1359                 :          0 :                         hdrs->count = ++layer;
    1360                 :          0 :                         break;
    1361                 :            : 
    1362                 :            :                 case RTE_FLOW_ITEM_TYPE_VOID:
    1363                 :            :                         break;
    1364                 :            : 
    1365                 :          0 :                 default:
    1366                 :          0 :                         rte_flow_error_set(error, EINVAL,
    1367                 :            :                                         RTE_FLOW_ERROR_TYPE_ITEM, item,
    1368                 :            :                                         "Invalid pattern item.");
    1369                 :          0 :                         return -rte_errno;
    1370                 :            :                 }
    1371                 :            :         }
    1372                 :            : 
    1373         [ #  # ]:          0 :         if (layer > VIRTCHNL_MAX_NUM_PROTO_HDRS) {
    1374                 :          0 :                 rte_flow_error_set(error, EINVAL,
    1375                 :            :                         RTE_FLOW_ERROR_TYPE_ITEM, item,
    1376                 :            :                         "Protocol header layers exceed the maximum value");
    1377                 :          0 :                 return -rte_errno;
    1378                 :            :         }
    1379                 :            : 
    1380         [ #  # ]:          0 :         if (!iavf_fdir_refine_input_set(input_set,
    1381                 :          0 :                                         input_set_mask | IAVF_INSET_ETHERTYPE,
    1382                 :            :                                         filter)) {
    1383                 :          0 :                 rte_flow_error_set(error, EINVAL,
    1384                 :            :                                    RTE_FLOW_ERROR_TYPE_ITEM_SPEC, pattern,
    1385                 :            :                                    "Invalid input set");
    1386                 :          0 :                 return -rte_errno;
    1387                 :            :         }
    1388                 :            : 
    1389                 :          0 :         filter->input_set = input_set;
    1390                 :            : 
    1391                 :          0 :         return 0;
    1392                 :            : }
    1393                 :            : 
    1394                 :            : static int
    1395                 :          0 : iavf_fdir_action_check_qregion(struct iavf_adapter *ad,
    1396                 :            :                 const struct rte_flow_action_rss *rss,
    1397                 :            :                 struct rte_flow_error *error)
    1398                 :            : {
    1399                 :            :         struct iavf_info *vf = IAVF_DEV_PRIVATE_TO_VF(ad);
    1400                 :            : 
    1401         [ #  # ]:          0 :         if (rss->queue_num <= 1) {
    1402                 :          0 :                 return rte_flow_error_set(error, EINVAL,
    1403                 :            :                                 RTE_FLOW_ERROR_TYPE_ACTION_CONF, rss,
    1404                 :            :                                 "Queue region size can't be 0 or 1.");
    1405                 :            :         }
    1406                 :            : 
    1407         [ #  # ]:          0 :         if (rss->queue[rss->queue_num - 1] >= ad->dev_data->nb_rx_queues) {
    1408                 :          0 :                 return rte_flow_error_set(error, EINVAL,
    1409                 :            :                                 RTE_FLOW_ERROR_TYPE_ACTION_CONF, rss,
    1410                 :            :                                 "Invalid queue region indexes.");
    1411                 :            :         }
    1412                 :            : 
    1413         [ #  # ]:          0 :         if (!(rte_is_power_of_2(rss->queue_num) &&
    1414                 :            :                 rss->queue_num <= IAVF_FDIR_MAX_QREGION_SIZE)) {
    1415                 :          0 :                 return rte_flow_error_set(error, EINVAL,
    1416                 :            :                                 RTE_FLOW_ERROR_TYPE_ACTION_CONF, rss,
    1417                 :            :                                 "The region size should be any of the following values:"
    1418                 :            :                                 "1, 2, 4, 8, 16, 32, 64, 128 as long as the total number "
    1419                 :            :                                 "of queues do not exceed the VSI allocation.");
    1420                 :            :         }
    1421                 :            : 
    1422         [ #  # ]:          0 :         if (rss->queue_num > vf->max_rss_qregion) {
    1423                 :          0 :                 return rte_flow_error_set(error, EINVAL,
    1424                 :            :                                 RTE_FLOW_ERROR_TYPE_ACTION_CONF, rss,
    1425                 :            :                                 "The region size cannot be large than the supported max RSS queue region");
    1426                 :            :         }
    1427                 :            : 
    1428                 :            :         return 0;
    1429                 :            : }
    1430                 :            : 
    1431                 :            : static int
    1432                 :          0 : iavf_fdir_parse_action_check(const struct ci_flow_actions *actions,
    1433                 :            :                 const struct ci_flow_actions_check_param *param,
    1434                 :            :                 struct rte_flow_error *error)
    1435                 :            : {
    1436                 :          0 :         struct iavf_adapter *ad = param->driver_ctx;
    1437                 :            :         struct iavf_info *vf = IAVF_DEV_PRIVATE_TO_VF(ad);
    1438                 :            :         struct iavf_fdir_conf *filter = &vf->fdir.conf;
    1439                 :            :         uint32_t dest_num = 0, mark_num = 0;
    1440                 :            :         size_t i, number = 0;
    1441                 :            :         bool has_drop = false;
    1442                 :            :         int ret;
    1443                 :            : 
    1444         [ #  # ]:          0 :         for (i = 0; i < actions->count; i++) {
    1445                 :          0 :                 const struct rte_flow_action *act = actions->actions[i];
    1446                 :            :                 struct virtchnl_filter_action *filter_action =
    1447                 :            :                                 &filter->add_fltr.rule_cfg.action_set.actions[number];
    1448                 :            : 
    1449   [ #  #  #  #  :          0 :                 switch (act->type) {
                   #  # ]
    1450                 :          0 :                 case RTE_FLOW_ACTION_TYPE_PASSTHRU:
    1451                 :          0 :                         dest_num++;
    1452                 :            : 
    1453                 :          0 :                         filter_action->type = VIRTCHNL_ACTION_PASSTHRU;
    1454                 :          0 :                         break;
    1455                 :          0 :                 case RTE_FLOW_ACTION_TYPE_DROP:
    1456                 :          0 :                         dest_num++;
    1457                 :            :                         has_drop = true;
    1458                 :            : 
    1459                 :          0 :                         filter_action->type = VIRTCHNL_ACTION_DROP;
    1460                 :          0 :                         break;
    1461                 :          0 :                 case RTE_FLOW_ACTION_TYPE_QUEUE:
    1462                 :            :                 {
    1463                 :            :                         const struct rte_flow_action_queue *act_q;
    1464                 :          0 :                         dest_num++;
    1465                 :            : 
    1466                 :          0 :                         act_q = act->conf;
    1467                 :            : 
    1468                 :          0 :                         filter_action->type = VIRTCHNL_ACTION_QUEUE;
    1469                 :            : 
    1470         [ #  # ]:          0 :                         if (act_q->index >= ad->dev_data->nb_rx_queues) {
    1471                 :          0 :                                 return rte_flow_error_set(error, EINVAL,
    1472                 :            :                                                 RTE_FLOW_ERROR_TYPE_ACTION, actions,
    1473                 :            :                                                 "Invalid queue index.");
    1474                 :            :                         }
    1475                 :          0 :                         filter_action->act_conf.queue.index = act_q->index;
    1476                 :            : 
    1477                 :          0 :                         break;
    1478                 :            :                 }
    1479                 :          0 :                 case RTE_FLOW_ACTION_TYPE_RSS:
    1480                 :            :                 {
    1481                 :          0 :                         const struct rte_flow_action_rss *rss = act->conf;
    1482                 :          0 :                         dest_num++;
    1483                 :            : 
    1484                 :          0 :                         filter_action->type = VIRTCHNL_ACTION_Q_REGION;
    1485                 :            : 
    1486                 :          0 :                         ret = iavf_fdir_action_check_qregion(ad, rss, error);
    1487         [ #  # ]:          0 :                         if (ret)
    1488                 :          0 :                                 return ret;
    1489                 :            : 
    1490                 :          0 :                         filter_action->act_conf.queue.index = rss->queue[0];
    1491         [ #  # ]:          0 :                         filter_action->act_conf.queue.region = rte_fls_u32(rss->queue_num) - 1;
    1492                 :          0 :                         break;
    1493                 :            :                 }
    1494                 :          0 :                 case RTE_FLOW_ACTION_TYPE_MARK:
    1495                 :            :                 {
    1496                 :            :                         const struct rte_flow_action_mark *mark_spec;
    1497                 :          0 :                         mark_num++;
    1498                 :            : 
    1499                 :          0 :                         filter->mark_flag = 1;
    1500                 :          0 :                         mark_spec = act->conf;
    1501                 :            : 
    1502                 :          0 :                         filter_action->type = VIRTCHNL_ACTION_MARK;
    1503                 :          0 :                         filter_action->act_conf.mark_id = mark_spec->id;
    1504                 :            : 
    1505                 :          0 :                         break;
    1506                 :            :                 }
    1507                 :          0 :                 default:
    1508                 :            :                         /* cannot happen */
    1509                 :          0 :                         return rte_flow_error_set(error, EINVAL,
    1510                 :            :                                         RTE_FLOW_ERROR_TYPE_ACTION, actions,
    1511                 :            :                                         "Invalid action.");
    1512                 :            :                 }
    1513                 :          0 :                 filter->add_fltr.rule_cfg.action_set.count = ++number;
    1514                 :            :         }
    1515                 :            : 
    1516         [ #  # ]:          0 :         if (dest_num > 1 || mark_num > 1 || (has_drop && mark_num > 1)) {
    1517                 :          0 :                 return rte_flow_error_set(error, EINVAL,
    1518                 :            :                         RTE_FLOW_ERROR_TYPE_ACTION, actions,
    1519                 :            :                         "Unsupported action combination");
    1520                 :            :         }
    1521                 :            : 
    1522                 :            :         /* Mark only is equal to mark + passthru. */
    1523         [ #  # ]:          0 :         if (dest_num == 0) {
    1524                 :            :                 struct virtchnl_filter_action *filter_action =
    1525                 :            :                                 &filter->add_fltr.rule_cfg.action_set.actions[number];
    1526                 :          0 :                 filter_action->type = VIRTCHNL_ACTION_PASSTHRU;
    1527                 :          0 :                 filter->add_fltr.rule_cfg.action_set.count = ++number;
    1528                 :            :         }
    1529                 :            : 
    1530                 :            :         return 0;
    1531                 :            : }
    1532                 :            : 
    1533                 :            : static int
    1534                 :          0 : iavf_fdir_parse(struct iavf_adapter *ad,
    1535                 :            :                 struct iavf_pattern_match_item *array,
    1536                 :            :                 uint32_t array_len,
    1537                 :            :                 const struct rte_flow_item pattern[],
    1538                 :            :                 const struct rte_flow_action actions[],
    1539                 :            :                 const struct rte_flow_attr *attr,
    1540                 :            :                 void **meta,
    1541                 :            :                 struct rte_flow_error *error)
    1542                 :            : {
    1543                 :          0 :         struct ci_flow_actions parsed_actions = {0};
    1544                 :          0 :         struct ci_flow_actions_check_param param = {
    1545                 :          0 :                 .allowed_types = (enum rte_flow_action_type[]){
    1546                 :            :                         RTE_FLOW_ACTION_TYPE_PASSTHRU,
    1547                 :            :                         RTE_FLOW_ACTION_TYPE_DROP,
    1548                 :            :                         RTE_FLOW_ACTION_TYPE_QUEUE,
    1549                 :            :                         RTE_FLOW_ACTION_TYPE_RSS,
    1550                 :            :                         RTE_FLOW_ACTION_TYPE_MARK,
    1551                 :            :                         RTE_FLOW_ACTION_TYPE_END
    1552                 :            :                 },
    1553                 :            :                 .max_actions = 2,
    1554                 :            :                 .check = iavf_fdir_parse_action_check,
    1555                 :            :                 .driver_ctx = ad,
    1556                 :            :                 .rss_queues_contig = true,
    1557                 :            :         };
    1558                 :            :         struct iavf_info *vf = IAVF_DEV_PRIVATE_TO_VF(ad);
    1559                 :          0 :         struct iavf_fdir_conf *filter = &vf->fdir.conf;
    1560                 :            :         struct iavf_pattern_match_item *item = NULL;
    1561                 :            :         int ret;
    1562                 :            : 
    1563                 :            :         memset(filter, 0, sizeof(*filter));
    1564                 :            : 
    1565                 :          0 :         ret = ci_flow_check_attr(attr, NULL, error);
    1566         [ #  # ]:          0 :         if (ret)
    1567                 :            :                 return ret;
    1568                 :            : 
    1569                 :          0 :         ret = ci_flow_check_actions(actions, &param, &parsed_actions, error);
    1570         [ #  # ]:          0 :         if (ret)
    1571                 :            :                 return ret;
    1572                 :            : 
    1573                 :          0 :         item = iavf_search_pattern_match_item(pattern, array, array_len, error);
    1574         [ #  # ]:          0 :         if (!item)
    1575                 :          0 :                 return -rte_errno;
    1576                 :            : 
    1577                 :          0 :         ret = iavf_fdir_parse_pattern(ad, pattern, item->input_set_mask,
    1578                 :            :                                       error, filter);
    1579         [ #  # ]:          0 :         if (ret)
    1580                 :          0 :                 goto error;
    1581                 :            : 
    1582         [ #  # ]:          0 :         if (meta)
    1583                 :          0 :                 *meta = filter;
    1584                 :            : 
    1585                 :          0 : error:
    1586                 :          0 :         rte_free(item);
    1587                 :          0 :         return ret;
    1588                 :            : }
    1589                 :            : 
    1590                 :            : static struct iavf_flow_parser iavf_fdir_parser = {
    1591                 :            :         .engine = &iavf_fdir_engine,
    1592                 :            :         .array = iavf_fdir_pattern,
    1593                 :            :         .array_len = RTE_DIM(iavf_fdir_pattern),
    1594                 :            :         .parse_pattern_action = iavf_fdir_parse,
    1595                 :            : };
    1596                 :            : 
    1597                 :        301 : RTE_INIT(iavf_fdir_engine_register)
    1598                 :            : {
    1599                 :        301 :         iavf_register_flow_engine(&iavf_fdir_engine);
    1600                 :        301 : }

Generated by: LCOV version 1.14