net/sctp/input.c

   1 /* SCTP kernel implementation
   2  * Copyright (c) 1999-2000 Cisco, Inc.
   3  * Copyright (c) 1999-2001 Motorola, Inc.
   4  * Copyright (c) 2001-2003 International Business Machines, Corp.
   5  * Copyright (c) 2001 Intel Corp.
   6  * Copyright (c) 2001 Nokia, Inc.
   7  * Copyright (c) 2001 La Monte H.P. Yarroll
   8  *
   9  * This file is part of the SCTP kernel implementation
  10  *
  11  * These functions handle all input from the IP layer into SCTP.
  12  *
  13  * This SCTP implementation is free software;
  14  * you can redistribute it and/or modify it under the terms of
  15  * the GNU General Public License as published by
  16  * the Free Software Foundation; either version 2, or (at your option)
  17  * any later version.
  18  *
  19  * This SCTP implementation is distributed in the hope that it
  20  * will be useful, but WITHOUT ANY WARRANTY; without even the implied
  21  *                 ************************
  22  * warranty of MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.
  23  * See the GNU General Public License for more details.
  24  *
  25  * You should have received a copy of the GNU General Public License
  26  * along with GNU CC; see the file COPYING.  If not, see
  27  * <http://www.gnu.org/licenses/>.
  28  *
  29  * Please send any bug reports or fixes you make to the
  30  * email address(es):
  31  *    lksctp developers <linux-sctp@vger.kernel.org>
  32  *
  33  * Written or modified by:
  34  *    La Monte H.P. Yarroll <piggy@acm.org>
  35  *    Karl Knutson <karl@athena.chicago.il.us>
  36  *    Xingang Guo <xingang.guo@intel.com>
  37  *    Jon Grimm <jgrimm@us.ibm.com>
  38  *    Hui Huang <hui.huang@nokia.com>
  39  *    Daisy Chang <daisyc@us.ibm.com>
  40  *    Sridhar Samudrala <sri@us.ibm.com>
  41  *    Ardelle Fan <ardelle.fan@intel.com>
  42  */
  43
  44 #include <linux/types.h>
  45 #include <linux/list.h> /* For struct list_head */
  46 #include <linux/socket.h>
  47 #include <linux/ip.h>
  48 #include <linux/time.h> /* For struct timeval */
  49 #include <linux/slab.h>
  50 #include <net/ip.h>
  51 #include <net/icmp.h>
  52 #include <net/snmp.h>
  53 #include <net/sock.h>
  54 #include <net/xfrm.h>
  55 #include <net/sctp/sctp.h>
  56 #include <net/sctp/sm.h>
  57 #include <net/sctp/checksum.h>
  58 #include <net/net_namespace.h>
  59
  60 /* Forward declarations for internal helpers. */
  61 static int sctp_rcv_ootb(struct sk_buff *);
  62 static struct sctp_association *__sctp_rcv_lookup(struct net *net,
  63                                       struct sk_buff *skb,
  64                                       const union sctp_addr *paddr,
  65                                       const union sctp_addr *laddr,
  66                                       struct sctp_transport **transportp);
  67 static struct sctp_endpoint *__sctp_rcv_lookup_endpoint(struct net *net,
  68                                                 const union sctp_addr *laddr);
  69 static struct sctp_association *__sctp_lookup_association(
  70                                         struct net *net,
  71                                         const union sctp_addr *local,
  72                                         const union sctp_addr *peer,
  73                                         struct sctp_transport **pt);
  74
  75 static int sctp_add_backlog(struct sock *sk, struct sk_buff *skb);
  76
  77
  78 /* Calculate the SCTP checksum of an SCTP packet.  */
  79 static inline int sctp_rcv_checksum(struct net *net, struct sk_buff *skb)
  80 {
  81         struct sctphdr *sh = sctp_hdr(skb);
  82         __le32 cmp = sh->checksum;
  83         __le32 val = sctp_compute_cksum(skb, 0);
  84
  85         if (val != cmp) {
  86                 /* CRC failure, dump it. */
  87                 __SCTP_INC_STATS(net, SCTP_MIB_CHECKSUMERRORS);
  88                 return -1;
  89         }
  90         return 0;
  91 }
  92
  93 /*
  94  * This is the routine which IP calls when receiving an SCTP packet.
  95  */
  96 int sctp_rcv(struct sk_buff *skb)
  97 {
  98         struct sock *sk;
  99         struct sctp_association *asoc;
 100         struct sctp_endpoint *ep = NULL;
 101         struct sctp_ep_common *rcvr;
 102         struct sctp_transport *transport = NULL;
 103         struct sctp_chunk *chunk;
 104         union sctp_addr src;
 105         union sctp_addr dest;
 106         int family;
 107         struct sctp_af *af;
 108         struct net *net = dev_net(skb->dev);
 109
 110         if (skb->pkt_type != PACKET_HOST)
 111                 goto discard_it;
 112
 113         __SCTP_INC_STATS(net, SCTP_MIB_INSCTPPACKS);
 114
 115         /* If packet is too small to contain a single chunk, let's not
 116          * waste time on it anymore.
 117          */
 118         if (skb->len < sizeof(struct sctphdr) + sizeof(struct sctp_chunkhdr) +
 119                        skb_transport_offset(skb))
 120                 goto discard_it;
 121
 122         if (!pskb_may_pull(skb, sizeof(struct sctphdr)))
 123                 goto discard_it;
 124
 125         /* Pull up the IP header. */
 126         __skb_pull(skb, skb_transport_offset(skb));
 127
 128         skb->csum_valid = 0; /* Previous value not applicable */
 129         if (skb_csum_unnecessary(skb))
 130                 __skb_decr_checksum_unnecessary(skb);
 131         else if (!sctp_checksum_disable &&
 132                  !(skb_shinfo(skb)->gso_type & SKB_GSO_SCTP) &&
 133                  sctp_rcv_checksum(net, skb) < 0)
 134                 goto discard_it;
 135         skb->csum_valid = 1;
 136
 137         __skb_pull(skb, sizeof(struct sctphdr));
 138
 139         family = ipver2af(ip_hdr(skb)->version);
 140         af = sctp_get_af_specific(family);
 141         if (unlikely(!af))
 142                 goto discard_it;
 143         SCTP_INPUT_CB(skb)->af = af;
 144
 145         /* Initialize local addresses for lookups. */
 146         af->from_skb(&src, skb, 1);
 147         af->from_skb(&dest, skb, 0);
 148
 149         /* If the packet is to or from a non-unicast address,
 150          * silently discard the packet.
 151          *
 152          * This is not clearly defined in the RFC except in section
 153          * 8.4 - OOTB handling.  However, based on the book "Stream Control
 154          * Transmission Protocol" 2.1, "It is important to note that the
 155          * IP address of an SCTP transport address must be a routable
 156          * unicast address.  In other words, IP multicast addresses and
 157          * IP broadcast addresses cannot be used in an SCTP transport
 158          * address."
 159          */
 160         if (!af->addr_valid(&src, NULL, skb) ||
 161             !af->addr_valid(&dest, NULL, skb))
 162                 goto discard_it;
 163
 164         asoc = __sctp_rcv_lookup(net, skb, &src, &dest, &transport);
 165
 166         if (!asoc)
 167                 ep = __sctp_rcv_lookup_endpoint(net, &dest);
 168
 169         /* Retrieve the common input handling substructure. */
 170         rcvr = asoc ? &asoc->base : &ep->base;
 171         sk = rcvr->sk;
 172
 173         /*
 174          * If a frame arrives on an interface and the receiving socket is
 175          * bound to another interface, via SO_BINDTODEVICE, treat it as OOTB
 176          */
 177         if (sk->sk_bound_dev_if && (sk->sk_bound_dev_if != af->skb_iif(skb))) {
 178                 if (asoc) {
 179                         sctp_association_put(asoc);
 180                         asoc = NULL;
 181                 } else {
 182                         sctp_endpoint_put(ep);
 183                         ep = NULL;
 184                 }
 185                 sk = net->sctp.ctl_sock;
 186                 ep = sctp_sk(sk)->ep;
 187                 sctp_endpoint_hold(ep);
 188                 rcvr = &ep->base;
 189         }
 190
 191         /*
 192          * RFC 2960, 8.4 - Handle "Out of the blue" Packets.
 193          * An SCTP packet is called an "out of the blue" (OOTB)
 194          * packet if it is correctly formed, i.e., passed the
 195          * receiver's checksum check, but the receiver is not
 196          * able to identify the association to which this
 197          * packet belongs.
 198          */
 199         if (!asoc) {
 200                 if (sctp_rcv_ootb(skb)) {
 201                         __SCTP_INC_STATS(net, SCTP_MIB_OUTOFBLUES);
 202                         goto discard_release;
 203                 }
 204         }
 205
 206         if (!xfrm_policy_check(sk, XFRM_POLICY_IN, skb, family))
 207                 goto discard_release;
 208         nf_reset(skb);
 209
 210         if (sk_filter(sk, skb))
 211                 goto discard_release;
 212
 213         /* Create an SCTP packet structure. */
 214         chunk = sctp_chunkify(skb, asoc, sk, GFP_ATOMIC);
 215         if (!chunk)
 216                 goto discard_release;
 217         SCTP_INPUT_CB(skb)->chunk = chunk;
 218
 219         /* Remember what endpoint is to handle this packet. */
 220         chunk->rcvr = rcvr;
 221
 222         /* Remember the SCTP header. */
 223         chunk->sctp_hdr = sctp_hdr(skb);
 224
 225         /* Set the source and destination addresses of the incoming chunk.  */
 226         sctp_init_addrs(chunk, &src, &dest);
 227
 228         /* Remember where we came from.  */
 229         chunk->transport = transport;
 230
 231         /* Acquire access to the sock lock. Note: We are safe from other
 232          * bottom halves on this lock, but a user may be in the lock too,
 233          * so check if it is busy.
 234          */
 235         bh_lock_sock(sk);
 236
 237         if (sk != rcvr->sk) {
 238                 /* Our cached sk is different from the rcvr->sk.  This is
 239                  * because migrate()/accept() may have moved the association
 240                  * to a new socket and released all the sockets.  So now we
 241                  * are holding a lock on the old socket while the user may
 242                  * be doing something with the new socket.  Switch our veiw
 243                  * of the current sk.
 244                  */
 245                 bh_unlock_sock(sk);
 246                 sk = rcvr->sk;
 247                 bh_lock_sock(sk);
 248         }
 249
 250         if (sock_owned_by_user(sk)) {
 251                 if (sctp_add_backlog(sk, skb)) {
 252                         bh_unlock_sock(sk);
 253                         sctp_chunk_free(chunk);
 254                         skb = NULL; /* sctp_chunk_free already freed the skb */
 255                         goto discard_release;
 256                 }
 257                 __SCTP_INC_STATS(net, SCTP_MIB_IN_PKT_BACKLOG);
 258         } else {
 259                 __SCTP_INC_STATS(net, SCTP_MIB_IN_PKT_SOFTIRQ);
 260                 sctp_inq_push(&chunk->rcvr->inqueue, chunk);
 261         }
 262
 263         bh_unlock_sock(sk);
 264
 265         /* Release the asoc/ep ref we took in the lookup calls. */
 266         if (asoc)
 267                 sctp_association_put(asoc);
 268         else
 269                 sctp_endpoint_put(ep);
 270
 271         return 0;
 272
 273 discard_it:
 274         __SCTP_INC_STATS(net, SCTP_MIB_IN_PKT_DISCARDS);
 275         kfree_skb(skb);
 276         return 0;
 277
 278 discard_release:
 279         /* Release the asoc/ep ref we took in the lookup calls. */
 280         if (asoc)
 281                 sctp_association_put(asoc);
 282         else
 283                 sctp_endpoint_put(ep);
 284
 285         goto discard_it;
 286 }
 287
 288 /* Process the backlog queue of the socket.  Every skb on
 289  * the backlog holds a ref on an association or endpoint.
 290  * We hold this ref throughout the state machine to make
 291  * sure that the structure we need is still around.
 292  */
 293 int sctp_backlog_rcv(struct sock *sk, struct sk_buff *skb)
 294 {
 295         struct sctp_chunk *chunk = SCTP_INPUT_CB(skb)->chunk;
 296         struct sctp_inq *inqueue = &chunk->rcvr->inqueue;
 297         struct sctp_ep_common *rcvr = NULL;
 298         int backloged = 0;
 299
 300         rcvr = chunk->rcvr;
 301
 302         /* If the rcvr is dead then the association or endpoint
 303          * has been deleted and we can safely drop the chunk
 304          * and refs that we are holding.
 305          */
 306         if (rcvr->dead) {
 307                 sctp_chunk_free(chunk);
 308                 goto done;
 309         }
 310
 311         if (unlikely(rcvr->sk != sk)) {
 312                 /* In this case, the association moved from one socket to
 313                  * another.  We are currently sitting on the backlog of the
 314                  * old socket, so we need to move.
 315                  * However, since we are here in the process context we
 316                  * need to take make sure that the user doesn't own
 317                  * the new socket when we process the packet.
 318                  * If the new socket is user-owned, queue the chunk to the
 319                  * backlog of the new socket without dropping any refs.
 320                  * Otherwise, we can safely push the chunk on the inqueue.
 321                  */
 322
 323                 sk = rcvr->sk;
 324                 bh_lock_sock(sk);
 325
 326                 if (sock_owned_by_user(sk)) {
 327                         if (sk_add_backlog(sk, skb, sk->sk_rcvbuf))
 328                                 sctp_chunk_free(chunk);
 329                         else
 330                                 backloged = 1;
 331                 } else
 332                         sctp_inq_push(inqueue, chunk);
 333
 334                 bh_unlock_sock(sk);
 335
 336                 /* If the chunk was backloged again, don't drop refs */
 337                 if (backloged)
 338                         return 0;
 339         } else {
 340                 sctp_inq_push(inqueue, chunk);
 341         }
 342
 343 done:
 344         /* Release the refs we took in sctp_add_backlog */
 345         if (SCTP_EP_TYPE_ASSOCIATION == rcvr->type)
 346                 sctp_association_put(sctp_assoc(rcvr));
 347         else if (SCTP_EP_TYPE_SOCKET == rcvr->type)
 348                 sctp_endpoint_put(sctp_ep(rcvr));
 349         else
 350                 BUG();
 351
 352         return 0;
 353 }
 354
 355 static int sctp_add_backlog(struct sock *sk, struct sk_buff *skb)
 356 {
 357         struct sctp_chunk *chunk = SCTP_INPUT_CB(skb)->chunk;
 358         struct sctp_ep_common *rcvr = chunk->rcvr;
 359         int ret;
 360
 361         ret = sk_add_backlog(sk, skb, sk->sk_rcvbuf);
 362         if (!ret) {
 363                 /* Hold the assoc/ep while hanging on the backlog queue.
 364                  * This way, we know structures we need will not disappear
 365                  * from us
 366                  */
 367                 if (SCTP_EP_TYPE_ASSOCIATION == rcvr->type)
 368                         sctp_association_hold(sctp_assoc(rcvr));
 369                 else if (SCTP_EP_TYPE_SOCKET == rcvr->type)
 370                         sctp_endpoint_hold(sctp_ep(rcvr));
 371                 else
 372                         BUG();
 373         }
 374         return ret;
 375
 376 }
 377
 378 /* Handle icmp frag needed error. */
 379 void sctp_icmp_frag_needed(struct sock *sk, struct sctp_association *asoc,
 380                            struct sctp_transport *t, __u32 pmtu)
 381 {
 382         if (!t || (t->pathmtu <= pmtu))
 383                 return;
 384
 385         if (sock_owned_by_user(sk)) {
 386                 asoc->pmtu_pending = 1;
 387                 t->pmtu_pending = 1;
 388                 return;
 389         }
 390
 391         if (t->param_flags & SPP_PMTUD_ENABLE) {
 392                 /* Update transports view of the MTU */
 393                 sctp_transport_update_pmtu(sk, t, pmtu);
 394
 395                 /* Update association pmtu. */
 396                 sctp_assoc_sync_pmtu(sk, asoc);
 397         }
 398
 399         /* Retransmit with the new pmtu setting.
 400          * Normally, if PMTU discovery is disabled, an ICMP Fragmentation
 401          * Needed will never be sent, but if a message was sent before
 402          * PMTU discovery was disabled that was larger than the PMTU, it
 403          * would not be fragmented, so it must be re-transmitted fragmented.
 404          */
 405         sctp_retransmit(&asoc->outqueue, t, SCTP_RTXR_PMTUD);
 406 }
 407
 408 void sctp_icmp_redirect(struct sock *sk, struct sctp_transport *t,
 409                         struct sk_buff *skb)
 410 {
 411         struct dst_entry *dst;
 412
 413         if (!t)
 414                 return;
 415         dst = sctp_transport_dst_check(t);
 416         if (dst)
 417                 dst->ops->redirect(dst, sk, skb);
 418 }
 419
 420 /*
 421  * SCTP Implementer's Guide, 2.37 ICMP handling procedures
 422  *
 423  * ICMP8) If the ICMP code is a "Unrecognized next header type encountered"
 424  *        or a "Protocol Unreachable" treat this message as an abort
 425  *        with the T bit set.
 426  *
 427  * This function sends an event to the state machine, which will abort the
 428  * association.
 429  *
 430  */
 431 void sctp_icmp_proto_unreachable(struct sock *sk,
 432                            struct sctp_association *asoc,
 433                            struct sctp_transport *t)
 434 {
 435         if (sock_owned_by_user(sk)) {
 436                 if (timer_pending(&t->proto_unreach_timer))
 437                         return;
 438                 else {
 439                         if (!mod_timer(&t->proto_unreach_timer,
 440                                                 jiffies + (HZ/20)))
 441                                 sctp_association_hold(asoc);
 442                 }
 443         } else {
 444                 struct net *net = sock_net(sk);
 445
 446                 pr_debug("%s: unrecognized next header type "
 447                          "encountered!\n", __func__);
 448
 449                 if (del_timer(&t->proto_unreach_timer))
 450                         sctp_association_put(asoc);
 451
 452                 sctp_do_sm(net, SCTP_EVENT_T_OTHER,
 453                            SCTP_ST_OTHER(SCTP_EVENT_ICMP_PROTO_UNREACH),
 454                            asoc->state, asoc->ep, asoc, t,
 455                            GFP_ATOMIC);
 456         }
 457 }
 458
 459 /* Common lookup code for icmp/icmpv6 error handler. */
 460 struct sock *sctp_err_lookup(struct net *net, int family, struct sk_buff *skb,
 461                              struct sctphdr *sctphdr,
 462                              struct sctp_association **app,
 463                              struct sctp_transport **tpp)
 464 {
 465         union sctp_addr saddr;
 466         union sctp_addr daddr;
 467         struct sctp_af *af;
 468         struct sock *sk = NULL;
 469         struct sctp_association *asoc;
 470         struct sctp_transport *transport = NULL;
 471         struct sctp_init_chunk *chunkhdr;
 472         __u32 vtag = ntohl(sctphdr->vtag);
 473         int len = skb->len - ((void *)sctphdr - (void *)skb->data);
 474
 475         *app = NULL; *tpp = NULL;
 476
 477         af = sctp_get_af_specific(family);
 478         if (unlikely(!af)) {
 479                 return NULL;
 480         }
 481
 482         /* Initialize local addresses for lookups. */
 483         af->from_skb(&saddr, skb, 1);
 484         af->from_skb(&daddr, skb, 0);
 485
 486         /* Look for an association that matches the incoming ICMP error
 487          * packet.
 488          */
 489         asoc = __sctp_lookup_association(net, &saddr, &daddr, &transport);
 490         if (!asoc)
 491                 return NULL;
 492
 493         sk = asoc->base.sk;
 494
 495         /* RFC 4960, Appendix C. ICMP Handling
 496          *
 497          * ICMP6) An implementation MUST validate that the Verification Tag
 498          * contained in the ICMP message matches the Verification Tag of
 499          * the peer.  If the Verification Tag is not 0 and does NOT
 500          * match, discard the ICMP message.  If it is 0 and the ICMP
 501          * message contains enough bytes to verify that the chunk type is
 502          * an INIT chunk and that the Initiate Tag matches the tag of the
 503          * peer, continue with ICMP7.  If the ICMP message is too short
 504          * or the chunk type or the Initiate Tag does not match, silently
 505          * discard the packet.
 506          */
 507         if (vtag == 0) {
 508                 chunkhdr = (void *)sctphdr + sizeof(struct sctphdr);
 509                 if (len < sizeof(struct sctphdr) + sizeof(sctp_chunkhdr_t)
 510                           + sizeof(__be32) ||
 511                     chunkhdr->chunk_hdr.type != SCTP_CID_INIT ||
 512                     ntohl(chunkhdr->init_hdr.init_tag) != asoc->c.my_vtag) {
 513                         goto out;
 514                 }
 515         } else if (vtag != asoc->c.peer_vtag) {
 516                 goto out;
 517         }
 518
 519         bh_lock_sock(sk);
 520
 521         /* If too many ICMPs get dropped on busy
 522          * servers this needs to be solved differently.
 523          */
 524         if (sock_owned_by_user(sk))
 525                 __NET_INC_STATS(net, LINUX_MIB_LOCKDROPPEDICMPS);
 526
 527         *app = asoc;
 528         *tpp = transport;
 529         return sk;
 530
 531 out:
 532         sctp_association_put(asoc);
 533         return NULL;
 534 }
 535
 536 /* Common cleanup code for icmp/icmpv6 error handler. */
 537 void sctp_err_finish(struct sock *sk, struct sctp_association *asoc)
 538 {
 539         bh_unlock_sock(sk);
 540         sctp_association_put(asoc);
 541 }
 542
 543 /*
 544  * This routine is called by the ICMP module when it gets some
 545  * sort of error condition.  If err < 0 then the socket should
 546  * be closed and the error returned to the user.  If err > 0
 547  * it's just the icmp type << 8 | icmp code.  After adjustment
 548  * header points to the first 8 bytes of the sctp header.  We need
 549  * to find the appropriate port.
 550  *
 551  * The locking strategy used here is very "optimistic". When
 552  * someone else accesses the socket the ICMP is just dropped
 553  * and for some paths there is no check at all.
 554  * A more general error queue to queue errors for later handling
 555  * is probably better.
 556  *
 557  */
 558 void sctp_v4_err(struct sk_buff *skb, __u32 info)
 559 {
 560         const struct iphdr *iph = (const struct iphdr *)skb->data;
 561         const int ihlen = iph->ihl * 4;
 562         const int type = icmp_hdr(skb)->type;
 563         const int code = icmp_hdr(skb)->code;
 564         struct sock *sk;
 565         struct sctp_association *asoc = NULL;
 566         struct sctp_transport *transport;
 567         struct inet_sock *inet;
 568         __u16 saveip, savesctp;
 569         int err;
 570         struct net *net = dev_net(skb->dev);
 571
 572         /* Fix up skb to look at the embedded net header. */
 573         saveip = skb->network_header;
 574         savesctp = skb->transport_header;
 575         skb_reset_network_header(skb);
 576         skb_set_transport_header(skb, ihlen);
 577         sk = sctp_err_lookup(net, AF_INET, skb, sctp_hdr(skb), &asoc, &transport);
 578         /* Put back, the original values. */
 579         skb->network_header = saveip;
 580         skb->transport_header = savesctp;
 581         if (!sk) {
 582                 __ICMP_INC_STATS(net, ICMP_MIB_INERRORS);
 583                 return;
 584         }
 585         /* Warning:  The sock lock is held.  Remember to call
 586          * sctp_err_finish!
 587          */
 588
 589         switch (type) {
 590         case ICMP_PARAMETERPROB:
 591                 err = EPROTO;
 592                 break;
 593         case ICMP_DEST_UNREACH:
 594                 if (code > NR_ICMP_UNREACH)
 595                         goto out_unlock;
 596
 597                 /* PMTU discovery (RFC1191) */
 598                 if (ICMP_FRAG_NEEDED == code) {
 599                         sctp_icmp_frag_needed(sk, asoc, transport,
 600                                               WORD_TRUNC(info));
 601                         goto out_unlock;
 602                 } else {
 603                         if (ICMP_PROT_UNREACH == code) {
 604                                 sctp_icmp_proto_unreachable(sk, asoc,
 605                                                             transport);
 606                                 goto out_unlock;
 607                         }
 608                 }
 609                 err = icmp_err_convert[code].errno;
 610                 break;
 611         case ICMP_TIME_EXCEEDED:
 612                 /* Ignore any time exceeded errors due to fragment reassembly
 613                  * timeouts.
 614                  */
 615                 if (ICMP_EXC_FRAGTIME == code)
 616                         goto out_unlock;
 617
 618                 err = EHOSTUNREACH;
 619                 break;
 620         case ICMP_REDIRECT:
 621                 sctp_icmp_redirect(sk, transport, skb);
 622                 /* Fall through to out_unlock. */
 623         default:
 624                 goto out_unlock;
 625         }
 626
 627         inet = inet_sk(sk);
 628         if (!sock_owned_by_user(sk) && inet->recverr) {
 629                 sk->sk_err = err;
 630                 sk->sk_error_report(sk);
 631         } else {  /* Only an error on timeout */
 632                 sk->sk_err_soft = err;
 633         }
 634
 635 out_unlock:
 636         sctp_err_finish(sk, asoc);
 637 }
 638
 639 /*
 640  * RFC 2960, 8.4 - Handle "Out of the blue" Packets.
 641  *
 642  * This function scans all the chunks in the OOTB packet to determine if
 643  * the packet should be discarded right away.  If a response might be needed
 644  * for this packet, or, if further processing is possible, the packet will
 645  * be queued to a proper inqueue for the next phase of handling.
 646  *
 647  * Output:
 648  * Return 0 - If further processing is needed.
 649  * Return 1 - If the packet can be discarded right away.
 650  */
 651 static int sctp_rcv_ootb(struct sk_buff *skb)
 652 {
 653         sctp_chunkhdr_t *ch, _ch;
 654         int ch_end, offset = 0;
 655
 656         /* Scan through all the chunks in the packet.  */
 657         do {
 658                 /* Make sure we have at least the header there */
 659                 if (offset + sizeof(sctp_chunkhdr_t) > skb->len)
 660                         break;
 661
 662                 ch = skb_header_pointer(skb, offset, sizeof(*ch), &_ch);
 663
 664                 /* Break out if chunk length is less then minimal. */
 665                 if (ntohs(ch->length) < sizeof(sctp_chunkhdr_t))
 666                         break;
 667
 668                 ch_end = offset + WORD_ROUND(ntohs(ch->length));
 669                 if (ch_end > skb->len)
 670                         break;
 671
 672                 /* RFC 8.4, 2) If the OOTB packet contains an ABORT chunk, the
 673                  * receiver MUST silently discard the OOTB packet and take no
 674                  * further action.
 675                  */
 676                 if (SCTP_CID_ABORT == ch->type)
 677                         goto discard;
 678
 679                 /* RFC 8.4, 6) If the packet contains a SHUTDOWN COMPLETE
 680                  * chunk, the receiver should silently discard the packet
 681                  * and take no further action.
 682                  */
 683                 if (SCTP_CID_SHUTDOWN_COMPLETE == ch->type)
 684                         goto discard;
 685
 686                 /* RFC 4460, 2.11.2
 687                  * This will discard packets with INIT chunk bundled as
 688                  * subsequent chunks in the packet.  When INIT is first,
 689                  * the normal INIT processing will discard the chunk.
 690                  */
 691                 if (SCTP_CID_INIT == ch->type && (void *)ch != skb->data)
 692                         goto discard;
 693
 694                 offset = ch_end;
 695         } while (ch_end < skb->len);
 696
 697         return 0;
 698
 699 discard:
 700         return 1;
 701 }
 702
 703 /* Insert endpoint into the hash table.  */
 704 static void __sctp_hash_endpoint(struct sctp_endpoint *ep)
 705 {
 706         struct net *net = sock_net(ep->base.sk);
 707         struct sctp_ep_common *epb;
 708         struct sctp_hashbucket *head;
 709
 710         epb = &ep->base;
 711
 712         epb->hashent = sctp_ep_hashfn(net, epb->bind_addr.port);
 713         head = &sctp_ep_hashtable[epb->hashent];
 714
 715         write_lock(&head->lock);
 716         hlist_add_head(&epb->node, &head->chain);
 717         write_unlock(&head->lock);
 718 }
 719
 720 /* Add an endpoint to the hash. Local BH-safe. */
 721 void sctp_hash_endpoint(struct sctp_endpoint *ep)
 722 {
 723         local_bh_disable();
 724         __sctp_hash_endpoint(ep);
 725         local_bh_enable();
 726 }
 727
 728 /* Remove endpoint from the hash table.  */
 729 static void __sctp_unhash_endpoint(struct sctp_endpoint *ep)
 730 {
 731         struct net *net = sock_net(ep->base.sk);
 732         struct sctp_hashbucket *head;
 733         struct sctp_ep_common *epb;
 734
 735         epb = &ep->base;
 736
 737         epb->hashent = sctp_ep_hashfn(net, epb->bind_addr.port);
 738
 739         head = &sctp_ep_hashtable[epb->hashent];
 740
 741         write_lock(&head->lock);
 742         hlist_del_init(&epb->node);
 743         write_unlock(&head->lock);
 744 }
 745
 746 /* Remove endpoint from the hash.  Local BH-safe. */
 747 void sctp_unhash_endpoint(struct sctp_endpoint *ep)
 748 {
 749         local_bh_disable();
 750         __sctp_unhash_endpoint(ep);
 751         local_bh_enable();
 752 }
 753
 754 /* Look up an endpoint. */
 755 static struct sctp_endpoint *__sctp_rcv_lookup_endpoint(struct net *net,
 756                                                 const union sctp_addr *laddr)
 757 {
 758         struct sctp_hashbucket *head;
 759         struct sctp_ep_common *epb;
 760         struct sctp_endpoint *ep;
 761         int hash;
 762
 763         hash = sctp_ep_hashfn(net, ntohs(laddr->v4.sin_port));
 764         head = &sctp_ep_hashtable[hash];
 765         read_lock(&head->lock);
 766         sctp_for_each_hentry(epb, &head->chain) {
 767                 ep = sctp_ep(epb);
 768                 if (sctp_endpoint_is_match(ep, net, laddr))
 769                         goto hit;
 770         }
 771
 772         ep = sctp_sk(net->sctp.ctl_sock)->ep;
 773
 774 hit:
 775         sctp_endpoint_hold(ep);
 776         read_unlock(&head->lock);
 777         return ep;
 778 }
 779
 780 /* rhashtable for transport */
 781 struct sctp_hash_cmp_arg {
 782         const struct sctp_endpoint      *ep;
 783         const union sctp_addr           *laddr;
 784         const union sctp_addr           *paddr;
 785         const struct net                *net;
 786 };
 787
 788 static inline int sctp_hash_cmp(struct rhashtable_compare_arg *arg,
 789                                 const void *ptr)
 790 {
 791         const struct sctp_hash_cmp_arg *x = arg->key;
 792         const struct sctp_transport *t = ptr;
 793         struct sctp_association *asoc = t->asoc;
 794         const struct net *net = x->net;
 795
 796         if (!sctp_cmp_addr_exact(&t->ipaddr, x->paddr))
 797                 return 1;
 798         if (!net_eq(sock_net(asoc->base.sk), net))
 799                 return 1;
 800         if (x->ep) {
 801                 if (x->ep != asoc->ep)
 802                         return 1;
 803         } else {
 804                 if (x->laddr->v4.sin_port != htons(asoc->base.bind_addr.port))
 805                         return 1;
 806                 if (!sctp_bind_addr_match(&asoc->base.bind_addr,
 807                                           x->laddr, sctp_sk(asoc->base.sk)))
 808                         return 1;
 809         }
 810
 811         return 0;
 812 }
 813
 814 static inline u32 sctp_hash_obj(const void *data, u32 len, u32 seed)
 815 {
 816         const struct sctp_transport *t = data;
 817         const union sctp_addr *paddr = &t->ipaddr;
 818         const struct net *net = sock_net(t->asoc->base.sk);
 819         u16 lport = htons(t->asoc->base.bind_addr.port);
 820         u32 addr;
 821
 822         if (paddr->sa.sa_family == AF_INET6)
 823                 addr = jhash(&paddr->v6.sin6_addr, 16, seed);
 824         else
 825                 addr = paddr->v4.sin_addr.s_addr;
 826
 827         return  jhash_3words(addr, ((__u32)paddr->v4.sin_port) << 16 |
 828                              (__force __u32)lport, net_hash_mix(net), seed);
 829 }
 830
 831 static inline u32 sctp_hash_key(const void *data, u32 len, u32 seed)
 832 {
 833         const struct sctp_hash_cmp_arg *x = data;
 834         const union sctp_addr *paddr = x->paddr;
 835         const struct net *net = x->net;
 836         u16 lport;
 837         u32 addr;
 838
 839         lport = x->ep ? htons(x->ep->base.bind_addr.port) :
 840                         x->laddr->v4.sin_port;
 841         if (paddr->sa.sa_family == AF_INET6)
 842                 addr = jhash(&paddr->v6.sin6_addr, 16, seed);
 843         else
 844                 addr = paddr->v4.sin_addr.s_addr;
 845
 846         return  jhash_3words(addr, ((__u32)paddr->v4.sin_port) << 16 |
 847                              (__force __u32)lport, net_hash_mix(net), seed);
 848 }
 849
 850 static const struct rhashtable_params sctp_hash_params = {
 851         .head_offset            = offsetof(struct sctp_transport, node),
 852         .hashfn                 = sctp_hash_key,
 853         .obj_hashfn             = sctp_hash_obj,
 854         .obj_cmpfn              = sctp_hash_cmp,
 855         .automatic_shrinking    = true,
 856 };
 857
 858 int sctp_transport_hashtable_init(void)
 859 {
 860         return rhashtable_init(&sctp_transport_hashtable, &sctp_hash_params);
 861 }
 862
 863 void sctp_transport_hashtable_destroy(void)
 864 {
 865         rhashtable_destroy(&sctp_transport_hashtable);
 866 }
 867
 868 void sctp_hash_transport(struct sctp_transport *t)
 869 {
 870         struct sctp_hash_cmp_arg arg;
 871
 872         if (t->asoc->temp)
 873                 return;
 874
 875         arg.ep = t->asoc->ep;
 876         arg.paddr = &t->ipaddr;
 877         arg.net   = sock_net(t->asoc->base.sk);
 878
 879 reinsert:
 880         if (rhashtable_lookup_insert_key(&sctp_transport_hashtable, &arg,
 881                                          &t->node, sctp_hash_params) == -EBUSY)
 882                 goto reinsert;
 883 }
 884
 885 void sctp_unhash_transport(struct sctp_transport *t)
 886 {
 887         if (t->asoc->temp)
 888                 return;
 889
 890         rhashtable_remove_fast(&sctp_transport_hashtable, &t->node,
 891                                sctp_hash_params);
 892 }
 893
 894 struct sctp_transport *sctp_addrs_lookup_transport(
 895                                 struct net *net,
 896                                 const union sctp_addr *laddr,
 897                                 const union sctp_addr *paddr)
 898 {
 899         struct sctp_hash_cmp_arg arg = {
 900                 .ep    = NULL,
 901                 .laddr = laddr,
 902                 .paddr = paddr,
 903                 .net   = net,
 904         };
 905
 906         return rhashtable_lookup_fast(&sctp_transport_hashtable, &arg,
 907                                       sctp_hash_params);
 908 }
 909
 910 struct sctp_transport *sctp_epaddr_lookup_transport(
 911                                 const struct sctp_endpoint *ep,
 912                                 const union sctp_addr *paddr)
 913 {
 914         struct net *net = sock_net(ep->base.sk);
 915         struct sctp_hash_cmp_arg arg = {
 916                 .ep    = ep,
 917                 .paddr = paddr,
 918                 .net   = net,
 919         };
 920
 921         return rhashtable_lookup_fast(&sctp_transport_hashtable, &arg,
 922                                       sctp_hash_params);
 923 }
 924
 925 /* Look up an association. */
 926 static struct sctp_association *__sctp_lookup_association(
 927                                         struct net *net,
 928                                         const union sctp_addr *local,
 929                                         const union sctp_addr *peer,
 930                                         struct sctp_transport **pt)
 931 {
 932         struct sctp_transport *t;
 933         struct sctp_association *asoc = NULL;
 934
 935         t = sctp_addrs_lookup_transport(net, local, peer);
 936         if (!t || !sctp_transport_hold(t))
 937                 goto out;
 938
 939         asoc = t->asoc;
 940         sctp_association_hold(asoc);
 941         *pt = t;
 942
 943         sctp_transport_put(t);
 944
 945 out:
 946         return asoc;
 947 }
 948
 949 /* Look up an association. protected by RCU read lock */
 950 static
 951 struct sctp_association *sctp_lookup_association(struct net *net,
 952                                                  const union sctp_addr *laddr,
 953                                                  const union sctp_addr *paddr,
 954                                                  struct sctp_transport **transportp)
 955 {
 956         struct sctp_association *asoc;
 957
 958         rcu_read_lock();
 959         asoc = __sctp_lookup_association(net, laddr, paddr, transportp);
 960         rcu_read_unlock();
 961
 962         return asoc;
 963 }
 964
 965 /* Is there an association matching the given local and peer addresses? */
 966 int sctp_has_association(struct net *net,
 967                          const union sctp_addr *laddr,
 968                          const union sctp_addr *paddr)
 969 {
 970         struct sctp_association *asoc;
 971         struct sctp_transport *transport;
 972
 973         if ((asoc = sctp_lookup_association(net, laddr, paddr, &transport))) {
 974                 sctp_association_put(asoc);
 975                 return 1;
 976         }
 977
 978         return 0;
 979 }
 980
 981 /*
 982  * SCTP Implementors Guide, 2.18 Handling of address
 983  * parameters within the INIT or INIT-ACK.
 984  *
 985  * D) When searching for a matching TCB upon reception of an INIT
 986  *    or INIT-ACK chunk the receiver SHOULD use not only the
 987  *    source address of the packet (containing the INIT or
 988  *    INIT-ACK) but the receiver SHOULD also use all valid
 989  *    address parameters contained within the chunk.
 990  *
 991  * 2.18.3 Solution description
 992  *
 993  * This new text clearly specifies to an implementor the need
 994  * to look within the INIT or INIT-ACK. Any implementation that
 995  * does not do this, may not be able to establish associations
 996  * in certain circumstances.
 997  *
 998  */
 999 static struct sctp_association *__sctp_rcv_init_lookup(struct net *net,
1000         struct sk_buff *skb,
1001         const union sctp_addr *laddr, struct sctp_transport **transportp)
1002 {
1003         struct sctp_association *asoc;
1004         union sctp_addr addr;
1005         union sctp_addr *paddr = &addr;
1006         struct sctphdr *sh = sctp_hdr(skb);
1007         union sctp_params params;
1008         sctp_init_chunk_t *init;
1009         struct sctp_transport *transport;
1010         struct sctp_af *af;
1011
1012         /*
1013          * This code will NOT touch anything inside the chunk--it is
1014          * strictly READ-ONLY.
1015          *
1016          * RFC 2960 3  SCTP packet Format
1017          *
1018          * Multiple chunks can be bundled into one SCTP packet up to
1019          * the MTU size, except for the INIT, INIT ACK, and SHUTDOWN
1020          * COMPLETE chunks.  These chunks MUST NOT be bundled with any
1021          * other chunk in a packet.  See Section 6.10 for more details
1022          * on chunk bundling.
1023          */
1024
1025         /* Find the start of the TLVs and the end of the chunk.  This is
1026          * the region we search for address parameters.
1027          */
1028         init = (sctp_init_chunk_t *)skb->data;
1029
1030         /* Walk the parameters looking for embedded addresses. */
1031         sctp_walk_params(params, init, init_hdr.params) {
1032
1033                 /* Note: Ignoring hostname addresses. */
1034                 af = sctp_get_af_specific(param_type2af(params.p->type));
1035                 if (!af)
1036                         continue;
1037
1038                 af->from_addr_param(paddr, params.addr, sh->source, 0);
1039
1040                 asoc = __sctp_lookup_association(net, laddr, paddr, &transport);
1041                 if (asoc)
1042                         return asoc;
1043         }
1044
1045         return NULL;
1046 }
1047
1048 /* ADD-IP, Section 5.2
1049  * When an endpoint receives an ASCONF Chunk from the remote peer
1050  * special procedures may be needed to identify the association the
1051  * ASCONF Chunk is associated with. To properly find the association
1052  * the following procedures SHOULD be followed:
1053  *
1054  * D2) If the association is not found, use the address found in the
1055  * Address Parameter TLV combined with the port number found in the
1056  * SCTP common header. If found proceed to rule D4.
1057  *
1058  * D2-ext) If more than one ASCONF Chunks are packed together, use the
1059  * address found in the ASCONF Address Parameter TLV of each of the
1060  * subsequent ASCONF Chunks. If found, proceed to rule D4.
1061  */
1062 static struct sctp_association *__sctp_rcv_asconf_lookup(
1063                                         struct net *net,
1064                                         sctp_chunkhdr_t *ch,
1065                                         const union sctp_addr *laddr,
1066                                         __be16 peer_port,
1067                                         struct sctp_transport **transportp)
1068 {
1069         sctp_addip_chunk_t *asconf = (struct sctp_addip_chunk *)ch;
1070         struct sctp_af *af;
1071         union sctp_addr_param *param;
1072         union sctp_addr paddr;
1073
1074         /* Skip over the ADDIP header and find the Address parameter */
1075         param = (union sctp_addr_param *)(asconf + 1);
1076
1077         af = sctp_get_af_specific(param_type2af(param->p.type));
1078         if (unlikely(!af))
1079                 return NULL;
1080
1081         af->from_addr_param(&paddr, param, peer_port, 0);
1082
1083         return __sctp_lookup_association(net, laddr, &paddr, transportp);
1084 }
1085
1086
1087 /* SCTP-AUTH, Section 6.3:
1088 *    If the receiver does not find a STCB for a packet containing an AUTH
1089 *    chunk as the first chunk and not a COOKIE-ECHO chunk as the second
1090 *    chunk, it MUST use the chunks after the AUTH chunk to look up an existing
1091 *    association.
1092 *
1093 * This means that any chunks that can help us identify the association need
1094 * to be looked at to find this association.
1095 */
1096 static struct sctp_association *__sctp_rcv_walk_lookup(struct net *net,
1097                                       struct sk_buff *skb,
1098                                       const union sctp_addr *laddr,
1099                                       struct sctp_transport **transportp)
1100 {
1101         struct sctp_association *asoc = NULL;
1102         sctp_chunkhdr_t *ch;
1103         int have_auth = 0;
1104         unsigned int chunk_num = 1;
1105         __u8 *ch_end;
1106
1107         /* Walk through the chunks looking for AUTH or ASCONF chunks
1108          * to help us find the association.
1109          */
1110         ch = (sctp_chunkhdr_t *) skb->data;
1111         do {
1112                 /* Break out if chunk length is less then minimal. */
1113                 if (ntohs(ch->length) < sizeof(sctp_chunkhdr_t))
1114                         break;
1115
1116                 ch_end = ((__u8 *)ch) + WORD_ROUND(ntohs(ch->length));
1117                 if (ch_end > skb_tail_pointer(skb))
1118                         break;
1119
1120                 switch (ch->type) {
1121                 case SCTP_CID_AUTH:
1122                         have_auth = chunk_num;
1123                         break;
1124
1125                 case SCTP_CID_COOKIE_ECHO:
1126                         /* If a packet arrives containing an AUTH chunk as
1127                          * a first chunk, a COOKIE-ECHO chunk as the second
1128                          * chunk, and possibly more chunks after them, and
1129                          * the receiver does not have an STCB for that
1130                          * packet, then authentication is based on
1131                          * the contents of the COOKIE- ECHO chunk.
1132                          */
1133                         if (have_auth == 1 && chunk_num == 2)
1134                                 return NULL;
1135                         break;
1136
1137                 case SCTP_CID_ASCONF:
1138                         if (have_auth || net->sctp.addip_noauth)
1139                                 asoc = __sctp_rcv_asconf_lookup(
1140                                                 net, ch, laddr,
1141                                                 sctp_hdr(skb)->source,
1142                                                 transportp);
1143                 default:
1144                         break;
1145                 }
1146
1147                 if (asoc)
1148                         break;
1149
1150                 ch = (sctp_chunkhdr_t *) ch_end;
1151                 chunk_num++;
1152         } while (ch_end < skb_tail_pointer(skb));
1153
1154         return asoc;
1155 }
1156
1157 /*
1158  * There are circumstances when we need to look inside the SCTP packet
1159  * for information to help us find the association.   Examples
1160  * include looking inside of INIT/INIT-ACK chunks or after the AUTH
1161  * chunks.
1162  */
1163 static struct sctp_association *__sctp_rcv_lookup_harder(struct net *net,
1164                                       struct sk_buff *skb,
1165                                       const union sctp_addr *laddr,
1166                                       struct sctp_transport **transportp)
1167 {
1168         sctp_chunkhdr_t *ch;
1169
1170         /* We do not allow GSO frames here as we need to linearize and
1171          * then cannot guarantee frame boundaries. This shouldn't be an
1172          * issue as packets hitting this are mostly INIT or INIT-ACK and
1173          * those cannot be on GSO-style anyway.
1174          */
1175         if ((skb_shinfo(skb)->gso_type & SKB_GSO_SCTP) == SKB_GSO_SCTP)
1176                 return NULL;
1177
1178         if (skb_linearize(skb))
1179                 return NULL;
1180
1181         ch = (sctp_chunkhdr_t *) skb->data;
1182
1183         /* The code below will attempt to walk the chunk and extract
1184          * parameter information.  Before we do that, we need to verify
1185          * that the chunk length doesn't cause overflow.  Otherwise, we'll
1186          * walk off the end.
1187          */
1188         if (WORD_ROUND(ntohs(ch->length)) > skb->len)
1189                 return NULL;
1190
1191         /* If this is INIT/INIT-ACK look inside the chunk too. */
1192         if (ch->type == SCTP_CID_INIT || ch->type == SCTP_CID_INIT_ACK)
1193                 return __sctp_rcv_init_lookup(net, skb, laddr, transportp);
1194
1195         return __sctp_rcv_walk_lookup(net, skb, laddr, transportp);
1196 }
1197
1198 /* Lookup an association for an inbound skb. */
1199 static struct sctp_association *__sctp_rcv_lookup(struct net *net,
1200                                       struct sk_buff *skb,
1201                                       const union sctp_addr *paddr,
1202                                       const union sctp_addr *laddr,
1203                                       struct sctp_transport **transportp)
1204 {
1205         struct sctp_association *asoc;
1206
1207         asoc = __sctp_lookup_association(net, laddr, paddr, transportp);
1208
1209         /* Further lookup for INIT/INIT-ACK packets.
1210          * SCTP Implementors Guide, 2.18 Handling of address
1211          * parameters within the INIT or INIT-ACK.
1212          */
1213         if (!asoc)
1214                 asoc = __sctp_rcv_lookup_harder(net, skb, laddr, transportp);
1215
1216         return asoc;
1217 }