lib/odp-execute.c

   1 /*
   2  * Copyright (c) 2009, 2010, 2011, 2012, 2013, 2014, 2015 Nicira, Inc.
   3  * Copyright (c) 2013 Simon Horman
   4  *
   5  * Licensed under the Apache License, Version 2.0 (the "License");
   6  * you may not use this file except in compliance with the License.
   7  * You may obtain a copy of the License at:
   8  *
   9  *     http://www.apache.org/licenses/LICENSE-2.0
  10  *
  11  * Unless required by applicable law or agreed to in writing, software
  12  * distributed under the License is distributed on an "AS IS" BASIS,
  13  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  14  * See the License for the specific language governing permissions and
  15  * limitations under the License.
  16  */
  17
  18 #include <config.h>
  19 #include "odp-execute.h"
  20 #include <arpa/inet.h>
  21 #include <netinet/in.h>
  22 #include <netinet/icmp6.h>
  23 #include <netinet/ip6.h>
  24 #include <stdlib.h>
  25 #include <string.h>
  26
  27 #include "dp-packet.h"
  28 #include "dpif.h"
  29 #include "netlink.h"
  30 #include "odp-netlink.h"
  31 #include "odp-util.h"
  32 #include "packets.h"
  33 #include "flow.h"
  34 #include "unaligned.h"
  35 #include "util.h"
  36
  37 /* Masked copy of an ethernet address. 'src' is already properly masked. */
  38 static void
  39 ether_addr_copy_masked(struct eth_addr *dst, const struct eth_addr src,
  40                        const struct eth_addr mask)
  41 {
  42     int i;
  43
  44     for (i = 0; i < ARRAY_SIZE(dst->be16); i++) {
  45         dst->be16[i] = src.be16[i] | (dst->be16[i] & ~mask.be16[i]);
  46     }
  47 }
  48
  49 static void
  50 odp_eth_set_addrs(struct dp_packet *packet, const struct ovs_key_ethernet *key,
  51                   const struct ovs_key_ethernet *mask)
  52 {
  53     struct eth_header *eh = dp_packet_l2(packet);
  54
  55     if (eh) {
  56         if (!mask) {
  57             eh->eth_src = key->eth_src;
  58             eh->eth_dst = key->eth_dst;
  59         } else {
  60             ether_addr_copy_masked(&eh->eth_src, key->eth_src, mask->eth_src);
  61             ether_addr_copy_masked(&eh->eth_dst, key->eth_dst, mask->eth_dst);
  62         }
  63     }
  64 }
  65
  66 static void
  67 odp_set_ipv4(struct dp_packet *packet, const struct ovs_key_ipv4 *key,
  68              const struct ovs_key_ipv4 *mask)
  69 {
  70     struct ip_header *nh = dp_packet_l3(packet);
  71
  72     packet_set_ipv4(
  73         packet,
  74         key->ipv4_src | (get_16aligned_be32(&nh->ip_src) & ~mask->ipv4_src),
  75         key->ipv4_dst | (get_16aligned_be32(&nh->ip_dst) & ~mask->ipv4_dst),
  76         key->ipv4_tos | (nh->ip_tos & ~mask->ipv4_tos),
  77         key->ipv4_ttl | (nh->ip_ttl & ~mask->ipv4_ttl));
  78 }
  79
  80 static const ovs_be32 *
  81 mask_ipv6_addr(const ovs_16aligned_be32 *old, const ovs_be32 *addr,
  82                const ovs_be32 *mask, ovs_be32 *masked)
  83 {
  84     for (int i = 0; i < 4; i++) {
  85         masked[i] = addr[i] | (get_16aligned_be32(&old[i]) & ~mask[i]);
  86     }
  87
  88     return masked;
  89 }
  90
  91 static void
  92 odp_set_ipv6(struct dp_packet *packet, const struct ovs_key_ipv6 *key,
  93              const struct ovs_key_ipv6 *mask)
  94 {
  95     struct ovs_16aligned_ip6_hdr *nh = dp_packet_l3(packet);
  96     ovs_be32 sbuf[4], dbuf[4];
  97     uint8_t old_tc = ntohl(get_16aligned_be32(&nh->ip6_flow)) >> 20;
  98     ovs_be32 old_fl = get_16aligned_be32(&nh->ip6_flow) & htonl(0xfffff);
  99
 100     packet_set_ipv6(
 101         packet,
 102         key->ipv6_proto,
 103         mask_ipv6_addr(nh->ip6_src.be32, key->ipv6_src, mask->ipv6_src, sbuf),
 104         mask_ipv6_addr(nh->ip6_dst.be32, key->ipv6_dst, mask->ipv6_dst, dbuf),
 105         key->ipv6_tclass | (old_tc & ~mask->ipv6_tclass),
 106         key->ipv6_label | (old_fl & ~mask->ipv6_label),
 107         key->ipv6_hlimit | (nh->ip6_hlim & ~mask->ipv6_hlimit));
 108 }
 109
 110 static void
 111 odp_set_tcp(struct dp_packet *packet, const struct ovs_key_tcp *key,
 112              const struct ovs_key_tcp *mask)
 113 {
 114     struct tcp_header *th = dp_packet_l4(packet);
 115
 116     if (OVS_LIKELY(th && dp_packet_get_tcp_payload(packet))) {
 117         packet_set_tcp_port(packet,
 118                             key->tcp_src | (th->tcp_src & ~mask->tcp_src),
 119                             key->tcp_dst | (th->tcp_dst & ~mask->tcp_dst));
 120     }
 121 }
 122
 123 static void
 124 odp_set_udp(struct dp_packet *packet, const struct ovs_key_udp *key,
 125              const struct ovs_key_udp *mask)
 126 {
 127     struct udp_header *uh = dp_packet_l4(packet);
 128
 129     if (OVS_LIKELY(uh && dp_packet_get_udp_payload(packet))) {
 130         packet_set_udp_port(packet,
 131                             key->udp_src | (uh->udp_src & ~mask->udp_src),
 132                             key->udp_dst | (uh->udp_dst & ~mask->udp_dst));
 133     }
 134 }
 135
 136 static void
 137 odp_set_sctp(struct dp_packet *packet, const struct ovs_key_sctp *key,
 138              const struct ovs_key_sctp *mask)
 139 {
 140     struct sctp_header *sh = dp_packet_l4(packet);
 141
 142     if (OVS_LIKELY(sh && dp_packet_get_sctp_payload(packet))) {
 143         packet_set_sctp_port(packet,
 144                              key->sctp_src | (sh->sctp_src & ~mask->sctp_src),
 145                              key->sctp_dst | (sh->sctp_dst & ~mask->sctp_dst));
 146     }
 147 }
 148
 149 static void
 150 odp_set_tunnel_action(const struct nlattr *a, struct flow_tnl *tun_key)
 151 {
 152     enum odp_key_fitness fitness;
 153
 154     fitness = odp_tun_key_from_attr(a, true, tun_key);
 155     ovs_assert(fitness != ODP_FIT_ERROR);
 156 }
 157
 158 static void
 159 set_arp(struct dp_packet *packet, const struct ovs_key_arp *key,
 160         const struct ovs_key_arp *mask)
 161 {
 162     struct arp_eth_header *arp = dp_packet_l3(packet);
 163
 164     if (!mask) {
 165         arp->ar_op = key->arp_op;
 166         arp->ar_sha = key->arp_sha;
 167         put_16aligned_be32(&arp->ar_spa, key->arp_sip);
 168         arp->ar_tha = key->arp_tha;
 169         put_16aligned_be32(&arp->ar_tpa, key->arp_tip);
 170     } else {
 171         ovs_be32 ar_spa = get_16aligned_be32(&arp->ar_spa);
 172         ovs_be32 ar_tpa = get_16aligned_be32(&arp->ar_tpa);
 173
 174         arp->ar_op = key->arp_op | (arp->ar_op & ~mask->arp_op);
 175         ether_addr_copy_masked(&arp->ar_sha, key->arp_sha, mask->arp_sha);
 176         put_16aligned_be32(&arp->ar_spa,
 177                            key->arp_sip | (ar_spa & ~mask->arp_sip));
 178         ether_addr_copy_masked(&arp->ar_tha, key->arp_tha, mask->arp_tha);
 179         put_16aligned_be32(&arp->ar_tpa,
 180                            key->arp_tip | (ar_tpa & ~mask->arp_tip));
 181     }
 182 }
 183
 184 static void
 185 odp_set_nd(struct dp_packet *packet, const struct ovs_key_nd *key,
 186            const struct ovs_key_nd *mask)
 187 {
 188     const struct ovs_nd_msg *ns = dp_packet_l4(packet);
 189     const struct ovs_nd_opt *nd_opt = dp_packet_get_nd_payload(packet);
 190
 191     if (OVS_LIKELY(ns && nd_opt)) {
 192         int bytes_remain = dp_packet_l4_size(packet) - sizeof(*ns);
 193         ovs_be32 tgt_buf[4];
 194         struct eth_addr sll_buf = eth_addr_zero;
 195         struct eth_addr tll_buf = eth_addr_zero;
 196
 197         while (bytes_remain >= ND_OPT_LEN && nd_opt->nd_opt_len != 0) {
 198             if (nd_opt->nd_opt_type == ND_OPT_SOURCE_LINKADDR
 199                 && nd_opt->nd_opt_len == 1) {
 200                 sll_buf = nd_opt->nd_opt_mac;
 201                 ether_addr_copy_masked(&sll_buf, key->nd_sll, mask->nd_sll);
 202
 203                 /* A packet can only contain one SLL or TLL option */
 204                 break;
 205             } else if (nd_opt->nd_opt_type == ND_OPT_TARGET_LINKADDR
 206                        && nd_opt->nd_opt_len == 1) {
 207                 tll_buf = nd_opt->nd_opt_mac;
 208                 ether_addr_copy_masked(&tll_buf, key->nd_tll, mask->nd_tll);
 209
 210                 /* A packet can only contain one SLL or TLL option */
 211                 break;
 212             }
 213
 214             nd_opt += nd_opt->nd_opt_len;
 215             bytes_remain -= nd_opt->nd_opt_len * ND_OPT_LEN;
 216         }
 217
 218         packet_set_nd(packet,
 219                       mask_ipv6_addr(ns->target.be32,
 220                                      key->nd_target, mask->nd_target, tgt_buf),
 221                       sll_buf,
 222                       tll_buf);
 223     }
 224 }
 225
 226 static void
 227 odp_execute_set_action(struct dp_packet *packet, const struct nlattr *a)
 228 {
 229     enum ovs_key_attr type = nl_attr_type(a);
 230     const struct ovs_key_ipv4 *ipv4_key;
 231     const struct ovs_key_ipv6 *ipv6_key;
 232     struct pkt_metadata *md = &packet->md;
 233
 234     switch (type) {
 235     case OVS_KEY_ATTR_PRIORITY:
 236         md->skb_priority = nl_attr_get_u32(a);
 237         break;
 238
 239     case OVS_KEY_ATTR_TUNNEL:
 240         odp_set_tunnel_action(a, &md->tunnel);
 241         break;
 242
 243     case OVS_KEY_ATTR_SKB_MARK:
 244         md->pkt_mark = nl_attr_get_u32(a);
 245         break;
 246
 247     case OVS_KEY_ATTR_ETHERNET:
 248         odp_eth_set_addrs(packet, nl_attr_get(a), NULL);
 249         break;
 250
 251     case OVS_KEY_ATTR_IPV4:
 252         ipv4_key = nl_attr_get_unspec(a, sizeof(struct ovs_key_ipv4));
 253         packet_set_ipv4(packet, ipv4_key->ipv4_src,
 254                         ipv4_key->ipv4_dst, ipv4_key->ipv4_tos,
 255                         ipv4_key->ipv4_ttl);
 256         break;
 257
 258     case OVS_KEY_ATTR_IPV6:
 259         ipv6_key = nl_attr_get_unspec(a, sizeof(struct ovs_key_ipv6));
 260         packet_set_ipv6(packet, ipv6_key->ipv6_proto,
 261                         ipv6_key->ipv6_src, ipv6_key->ipv6_dst,
 262                         ipv6_key->ipv6_tclass, ipv6_key->ipv6_label,
 263                         ipv6_key->ipv6_hlimit);
 264         break;
 265
 266     case OVS_KEY_ATTR_TCP:
 267         if (OVS_LIKELY(dp_packet_get_tcp_payload(packet))) {
 268             const struct ovs_key_tcp *tcp_key
 269                 = nl_attr_get_unspec(a, sizeof(struct ovs_key_tcp));
 270
 271             packet_set_tcp_port(packet, tcp_key->tcp_src,
 272                                 tcp_key->tcp_dst);
 273         }
 274         break;
 275
 276     case OVS_KEY_ATTR_UDP:
 277         if (OVS_LIKELY(dp_packet_get_udp_payload(packet))) {
 278             const struct ovs_key_udp *udp_key
 279                 = nl_attr_get_unspec(a, sizeof(struct ovs_key_udp));
 280
 281             packet_set_udp_port(packet, udp_key->udp_src,
 282                                 udp_key->udp_dst);
 283         }
 284         break;
 285
 286     case OVS_KEY_ATTR_SCTP:
 287         if (OVS_LIKELY(dp_packet_get_sctp_payload(packet))) {
 288             const struct ovs_key_sctp *sctp_key
 289                 = nl_attr_get_unspec(a, sizeof(struct ovs_key_sctp));
 290
 291             packet_set_sctp_port(packet, sctp_key->sctp_src,
 292                                  sctp_key->sctp_dst);
 293         }
 294         break;
 295
 296     case OVS_KEY_ATTR_MPLS:
 297         set_mpls_lse(packet, nl_attr_get_be32(a));
 298         break;
 299
 300     case OVS_KEY_ATTR_ARP:
 301         set_arp(packet, nl_attr_get(a), NULL);
 302         break;
 303
 304     case OVS_KEY_ATTR_ND:
 305         if (OVS_LIKELY(dp_packet_get_nd_payload(packet))) {
 306             const struct ovs_key_nd *nd_key
 307                    = nl_attr_get_unspec(a, sizeof(struct ovs_key_nd));
 308             packet_set_nd(packet, nd_key->nd_target, nd_key->nd_sll,
 309                           nd_key->nd_tll);
 310         }
 311         break;
 312
 313     case OVS_KEY_ATTR_DP_HASH:
 314         md->dp_hash = nl_attr_get_u32(a);
 315         break;
 316
 317     case OVS_KEY_ATTR_RECIRC_ID:
 318         md->recirc_id = nl_attr_get_u32(a);
 319         break;
 320
 321     case OVS_KEY_ATTR_UNSPEC:
 322     case OVS_KEY_ATTR_ENCAP:
 323     case OVS_KEY_ATTR_ETHERTYPE:
 324     case OVS_KEY_ATTR_IN_PORT:
 325     case OVS_KEY_ATTR_VLAN:
 326     case OVS_KEY_ATTR_ICMP:
 327     case OVS_KEY_ATTR_ICMPV6:
 328     case OVS_KEY_ATTR_TCP_FLAGS:
 329     case OVS_KEY_ATTR_CT_STATE:
 330     case OVS_KEY_ATTR_CT_ZONE:
 331     case OVS_KEY_ATTR_CT_MARK:
 332     case OVS_KEY_ATTR_CT_LABELS:
 333     case __OVS_KEY_ATTR_MAX:
 334     default:
 335         OVS_NOT_REACHED();
 336     }
 337 }
 338
 339 #define get_mask(a, type) ((const type *)(const void *)(a + 1) + 1)
 340
 341 static void
 342 odp_execute_masked_set_action(struct dp_packet *packet,
 343                               const struct nlattr *a)
 344 {
 345     struct pkt_metadata *md = &packet->md;
 346     enum ovs_key_attr type = nl_attr_type(a);
 347     struct mpls_hdr *mh;
 348
 349     switch (type) {
 350     case OVS_KEY_ATTR_PRIORITY:
 351         md->skb_priority = nl_attr_get_u32(a)
 352             | (md->skb_priority & ~*get_mask(a, uint32_t));
 353         break;
 354
 355     case OVS_KEY_ATTR_SKB_MARK:
 356         md->pkt_mark = nl_attr_get_u32(a)
 357             | (md->pkt_mark & ~*get_mask(a, uint32_t));
 358         break;
 359
 360     case OVS_KEY_ATTR_ETHERNET:
 361         odp_eth_set_addrs(packet, nl_attr_get(a),
 362                           get_mask(a, struct ovs_key_ethernet));
 363         break;
 364
 365     case OVS_KEY_ATTR_IPV4:
 366         odp_set_ipv4(packet, nl_attr_get(a),
 367                      get_mask(a, struct ovs_key_ipv4));
 368         break;
 369
 370     case OVS_KEY_ATTR_IPV6:
 371         odp_set_ipv6(packet, nl_attr_get(a),
 372                      get_mask(a, struct ovs_key_ipv6));
 373         break;
 374
 375     case OVS_KEY_ATTR_TCP:
 376         odp_set_tcp(packet, nl_attr_get(a),
 377                     get_mask(a, struct ovs_key_tcp));
 378         break;
 379
 380     case OVS_KEY_ATTR_UDP:
 381         odp_set_udp(packet, nl_attr_get(a),
 382                     get_mask(a, struct ovs_key_udp));
 383         break;
 384
 385     case OVS_KEY_ATTR_SCTP:
 386         odp_set_sctp(packet, nl_attr_get(a),
 387                      get_mask(a, struct ovs_key_sctp));
 388         break;
 389
 390     case OVS_KEY_ATTR_MPLS:
 391         mh = dp_packet_l2_5(packet);
 392         if (mh) {
 393             put_16aligned_be32(&mh->mpls_lse, nl_attr_get_be32(a)
 394                                | (get_16aligned_be32(&mh->mpls_lse)
 395                                   & ~*get_mask(a, ovs_be32)));
 396         }
 397         break;
 398
 399     case OVS_KEY_ATTR_ARP:
 400         set_arp(packet, nl_attr_get(a),
 401                 get_mask(a, struct ovs_key_arp));
 402         break;
 403
 404     case OVS_KEY_ATTR_ND:
 405         odp_set_nd(packet, nl_attr_get(a),
 406                    get_mask(a, struct ovs_key_nd));
 407         break;
 408
 409     case OVS_KEY_ATTR_DP_HASH:
 410         md->dp_hash = nl_attr_get_u32(a)
 411             | (md->dp_hash & ~*get_mask(a, uint32_t));
 412         break;
 413
 414     case OVS_KEY_ATTR_RECIRC_ID:
 415         md->recirc_id = nl_attr_get_u32(a)
 416             | (md->recirc_id & ~*get_mask(a, uint32_t));
 417         break;
 418
 419     case OVS_KEY_ATTR_TUNNEL:    /* Masked data not supported for tunnel. */
 420     case OVS_KEY_ATTR_UNSPEC:
 421     case OVS_KEY_ATTR_CT_STATE:
 422     case OVS_KEY_ATTR_CT_ZONE:
 423     case OVS_KEY_ATTR_CT_MARK:
 424     case OVS_KEY_ATTR_CT_LABELS:
 425     case OVS_KEY_ATTR_ENCAP:
 426     case OVS_KEY_ATTR_ETHERTYPE:
 427     case OVS_KEY_ATTR_IN_PORT:
 428     case OVS_KEY_ATTR_VLAN:
 429     case OVS_KEY_ATTR_ICMP:
 430     case OVS_KEY_ATTR_ICMPV6:
 431     case OVS_KEY_ATTR_TCP_FLAGS:
 432     case __OVS_KEY_ATTR_MAX:
 433     default:
 434         OVS_NOT_REACHED();
 435     }
 436 }
 437
 438 static void
 439 odp_execute_sample(void *dp, struct dp_packet *packet, bool steal,
 440                    const struct nlattr *action,
 441                    odp_execute_cb dp_execute_action)
 442 {
 443     const struct nlattr *subactions = NULL;
 444     const struct nlattr *a;
 445     size_t left;
 446
 447     NL_NESTED_FOR_EACH_UNSAFE (a, left, action) {
 448         int type = nl_attr_type(a);
 449
 450         switch ((enum ovs_sample_attr) type) {
 451         case OVS_SAMPLE_ATTR_PROBABILITY:
 452             if (random_uint32() >= nl_attr_get_u32(a)) {
 453                 if (steal) {
 454                     dp_packet_delete(packet);
 455                 }
 456                 return;
 457             }
 458             break;
 459
 460         case OVS_SAMPLE_ATTR_ACTIONS:
 461             subactions = a;
 462             break;
 463
 464         case OVS_SAMPLE_ATTR_UNSPEC:
 465         case __OVS_SAMPLE_ATTR_MAX:
 466         default:
 467             OVS_NOT_REACHED();
 468         }
 469     }
 470
 471     odp_execute_actions(dp, &packet, 1, steal, nl_attr_get(subactions),
 472                         nl_attr_get_size(subactions), dp_execute_action);
 473 }
 474
 475 static bool
 476 requires_datapath_assistance(const struct nlattr *a)
 477 {
 478     enum ovs_action_attr type = nl_attr_type(a);
 479
 480     switch (type) {
 481         /* These only make sense in the context of a datapath. */
 482     case OVS_ACTION_ATTR_OUTPUT:
 483     case OVS_ACTION_ATTR_TUNNEL_PUSH:
 484     case OVS_ACTION_ATTR_TUNNEL_POP:
 485     case OVS_ACTION_ATTR_USERSPACE:
 486     case OVS_ACTION_ATTR_RECIRC:
 487     case OVS_ACTION_ATTR_CT:
 488         return true;
 489
 490     case OVS_ACTION_ATTR_SET:
 491     case OVS_ACTION_ATTR_SET_MASKED:
 492     case OVS_ACTION_ATTR_PUSH_VLAN:
 493     case OVS_ACTION_ATTR_POP_VLAN:
 494     case OVS_ACTION_ATTR_SAMPLE:
 495     case OVS_ACTION_ATTR_HASH:
 496     case OVS_ACTION_ATTR_PUSH_MPLS:
 497     case OVS_ACTION_ATTR_POP_MPLS:
 498         return false;
 499
 500     case OVS_ACTION_ATTR_UNSPEC:
 501     case __OVS_ACTION_ATTR_MAX:
 502         OVS_NOT_REACHED();
 503     }
 504
 505     return false;
 506 }
 507
 508 void
 509 odp_execute_actions(void *dp, struct dp_packet **packets, int cnt, bool steal,
 510                     const struct nlattr *actions, size_t actions_len,
 511                     odp_execute_cb dp_execute_action)
 512 {
 513     const struct nlattr *a;
 514     unsigned int left;
 515     int i;
 516
 517     NL_ATTR_FOR_EACH_UNSAFE (a, left, actions, actions_len) {
 518         int type = nl_attr_type(a);
 519         bool last_action = (left <= NLA_ALIGN(a->nla_len));
 520
 521         if (requires_datapath_assistance(a)) {
 522             if (dp_execute_action) {
 523                 /* Allow 'dp_execute_action' to steal the packet data if we do
 524                  * not need it any more. */
 525                 bool may_steal = steal && last_action;
 526
 527                 dp_execute_action(dp, packets, cnt, a, may_steal);
 528
 529                 if (last_action) {
 530                     /* We do not need to free the packets. dp_execute_actions()
 531                      * has stolen them */
 532                     return;
 533                 }
 534             }
 535             continue;
 536         }
 537
 538         switch ((enum ovs_action_attr) type) {
 539         case OVS_ACTION_ATTR_HASH: {
 540             const struct ovs_action_hash *hash_act = nl_attr_get(a);
 541
 542             /* Calculate a hash value directly.  This might not match the
 543              * value computed by the datapath, but it is much less expensive,
 544              * and the current use case (bonding) does not require a strict
 545              * match to work properly. */
 546             if (hash_act->hash_alg == OVS_HASH_ALG_L4) {
 547                 struct flow flow;
 548                 uint32_t hash;
 549
 550                 for (i = 0; i < cnt; i++) {
 551                     flow_extract(packets[i], &flow);
 552                     hash = flow_hash_5tuple(&flow, hash_act->hash_basis);
 553
 554                     packets[i]->md.dp_hash = hash;
 555                 }
 556             } else {
 557                 /* Assert on unknown hash algorithm.  */
 558                 OVS_NOT_REACHED();
 559             }
 560             break;
 561         }
 562
 563         case OVS_ACTION_ATTR_PUSH_VLAN: {
 564             const struct ovs_action_push_vlan *vlan = nl_attr_get(a);
 565
 566             for (i = 0; i < cnt; i++) {
 567                 eth_push_vlan(packets[i], vlan->vlan_tpid, vlan->vlan_tci);
 568             }
 569             break;
 570         }
 571
 572         case OVS_ACTION_ATTR_POP_VLAN:
 573             for (i = 0; i < cnt; i++) {
 574                 eth_pop_vlan(packets[i]);
 575             }
 576             break;
 577
 578         case OVS_ACTION_ATTR_PUSH_MPLS: {
 579             const struct ovs_action_push_mpls *mpls = nl_attr_get(a);
 580
 581             for (i = 0; i < cnt; i++) {
 582                 push_mpls(packets[i], mpls->mpls_ethertype, mpls->mpls_lse);
 583             }
 584             break;
 585          }
 586
 587         case OVS_ACTION_ATTR_POP_MPLS:
 588             for (i = 0; i < cnt; i++) {
 589                 pop_mpls(packets[i], nl_attr_get_be16(a));
 590             }
 591             break;
 592
 593         case OVS_ACTION_ATTR_SET:
 594             for (i = 0; i < cnt; i++) {
 595                 odp_execute_set_action(packets[i], nl_attr_get(a));
 596             }
 597             break;
 598
 599         case OVS_ACTION_ATTR_SET_MASKED:
 600             for (i = 0; i < cnt; i++) {
 601                 odp_execute_masked_set_action(packets[i], nl_attr_get(a));
 602             }
 603             break;
 604
 605         case OVS_ACTION_ATTR_SAMPLE:
 606             for (i = 0; i < cnt; i++) {
 607                 odp_execute_sample(dp, packets[i], steal && last_action, a,
 608                                    dp_execute_action);
 609             }
 610
 611             if (last_action) {
 612                 /* We do not need to free the packets. odp_execute_sample() has
 613                  * stolen them*/
 614                 return;
 615             }
 616             break;
 617
 618         case OVS_ACTION_ATTR_OUTPUT:
 619         case OVS_ACTION_ATTR_TUNNEL_PUSH:
 620         case OVS_ACTION_ATTR_TUNNEL_POP:
 621         case OVS_ACTION_ATTR_USERSPACE:
 622         case OVS_ACTION_ATTR_RECIRC:
 623         case OVS_ACTION_ATTR_CT:
 624         case OVS_ACTION_ATTR_UNSPEC:
 625         case __OVS_ACTION_ATTR_MAX:
 626             OVS_NOT_REACHED();
 627         }
 628     }
 629
 630     if (steal) {
 631         for (i = 0; i < cnt; i++) {
 632             dp_packet_delete(packets[i]);
 633         }
 634     }
 635 }