`

socket的半包,粘包与分包的问题

    博客分类:
  • java
 
阅读更多
首先看两个概念: 
短连接:
连接->传输数据->关闭连接 
HTTP是无状态的,浏览器和服务器每进行一次HTTP操作,就建立一次连接,但任务结束就中断连接。 
也可以这样说:短连接是指SOCKET连接后发送后接收完数据后马上断开连接。 

长连接:
连接->传输数据->保持连接 -> 传输数据-> 。。。 ->关闭连接。 
长连接指建立SOCKET连接后不管是否使用都保持连接,但安全性较差。 

之所以出现粘包和半包现象,是因为TCP当中,只有流的概念,没有包的概念.

半包
指接受方没有接受到一个完整的包,只接受了部分,这种情况主要是由于TCP为提高传输效率,将一个包分配的足够大,导致接受方并不能一次接受完。( 在长连接和短连接中都会出现)。 

粘包与分包
指发送方发送的若干包数据到接收方接收时粘成一包,从接收缓冲区看,后一包数据的头紧接着前一包数据的尾。出现粘包现象的原因是多方面的,它既可能由发送方造成,也可能由接收方造成。发送方引起的粘包是由TCP协议本身造成的,TCP为提高传输效率,发送方往往要收集到足够多的数据后才发送一包数据。若连续几次发送的数据都很少,通常TCP会根据优化算法把这些数据合成一包后一次发送出去,这样接收方就收到了粘包数据。接收方引起的粘包是由于接收方用户进程不及时接收数据,从而导致粘包现象。这是因为接收方先把收到的数据放在系统接收缓冲区,用户进程从该缓冲区取数据,若下一包数据到达时前一包数据尚未被用户进程取走,则下一包数据放到系统接收缓冲区时就接到前一包数据之后,而用户进程根据预先设定的缓冲区大小从系统接收缓冲区取数据,这样就一次取到了多包数据。分包是指在出现粘包的时候我们的接收方要进行分包处理。(在长连接中都会出现) 

什么时候需要考虑半包的情况? 
从备注中我们了解到Socket内部默认的收发缓冲区大小大概是8K,但是我们在实际中往往需要考虑效率问题,重新配置了这个值,来达到系统的最佳状态。 
一个实际中的例子:用mina作为服务器端,使用的缓存大小为10k,这里使用的是短连接,所有不用考虑粘包的问题。 
问题描述:在并发量比较大的情况下,就会出现一次接受并不能完整的获取所有的数据。 
处理方式: 
1.通过包头+包长+包体的协议形式,当服务器端获取到指定的包长时才说明获取完整。 
2.指定包的结束标识,这样当我们获取到指定的标识时,说明包获取完整。 

什么时候需要考虑粘包的情况? 
1.当时短连接的情况下,不用考虑粘包的情况 
2.如果发送数据无结构,如文件传输,这样发送方只管发送,接收方只管接收存储就ok,也不用考虑粘包 
3.如果双方建立连接,需要在连接后一段时间内发送不同结构数据 
处理方式: 
接收方创建一预处理线程,对接收到的数据包进行预处理,将粘连的包分开 
注:粘包情况有两种,一种是粘在一起的包都是完整的数据包,另一种情况是粘在一起的包有不完整的包

备注: 
一个包没有固定长度,以太网限制在46-1500字节,1500就是以太网的MTU,超过这个量,TCP会为IP数据报设置偏移量进行分片传输,现在一般可允许应用层设置8k(NTFS系)的缓冲区,8k的数据由底层分片,而应用看来只是一次发送。windows的缓冲区经验值是4k,Socket本身分为两种,流(TCP)和数据报(UDP),你的问题针对这两种不同使用而结论不一样。甚至还和你是用阻塞、还是非阻塞Socket来编程有关。 
1、通信长度,这个是你自己决定的,没有系统强迫你要发多大的包,实际应该根据需求和网络状况来决定。对于TCP,这个长度可以大点,但要知道,Socket内部默认的收发缓冲区大小大概是8K,你可以用SetSockOpt来改变。但对于UDP,就不要太大,一般在1024至10K。注意一点,你无论发多大的包,IP层和链路层都会把你的包进行分片发送,一般局域网就是1500左右,广域网就只有几十字节。分片后的包将经过不同的路由到达接收方,对于UDP而言,要是其中一个分片丢失,那么接收方的IP层将把整个发送包丢弃,这就形成丢包。显然,要是一个UDP发包佷大,它被分片后,链路层丢失分片的几率就佷大,你这个UDP包,就佷容易丢失,但是太小又影响效率。最好可以配置这个值,以根据不同的环境来调整到最佳状态。 

send()函数返回了实际发送的长度,在网络不断的情况下,它绝不会返回(发送失败的)错误,最多就是返回0。对于TCP你可以字节写一个循环发送。当send函数返回SOCKET_ERROR时,才标志着有错误。但对于UDP,你不要写循环发送,否则将给你的接收带来极大的麻烦。所以UDP需要用SetSockOpt来改变Socket内部Buffer的大小,以能容纳你的发包。明确一点,TCP作为流,发包是不会整包到达的,而是源源不断的到,那接收方就必须组包。而UDP作为消息或数据报,它一定是整包到达接收方。


2、关于接收,一般的发包都有包边界,首要的就是你这个包的长度要让接收方知道,于是就有个包头信息,对于TCP,接收方先收这个包头信息,然后再收包数据。一次收齐整个包也可以,可要对结果是否收齐进行验证。这也就完成了组包过程。UDP,那你只能整包接收了。要是你提供的接收Buffer过小,TCP将返回实际接收的长度,余下的还可以收,而UDP不同的是,余下的数据被丢弃并返回WSAEMSGSIZE错误。注意TCP,要是你提供的Buffer佷大,那么可能收到的就是多个发包,你必须分离它们,还有就是当Buffer太小,而一次收不完Socket内部的数据,那么Socket接收事件(OnReceive),可能不会再触发,使用事件方式进行接收时,密切注意这点。这些特性就是体现了流和数据包的区别。
分享到:
评论

相关推荐

    C#解决socket粘包问题,通信提供了一个自定义通信协议类MsgProtol,该类封装了打包和解包方法,可以解决分包和粘包问题

    C#解决socket通信过程中粘包分包问题,本项目是一个只有6个C#代码文件的开源小工程,用来学习基于TCP的套接字通信包,可以自定义通信协议,处理分包和粘包,内置一个服务端和客户端的套接字程序,也有测试代码和对应...

    SuperSocket.ClientEngine.Core socket 客户端处理粘包半包

    本篇文章将深入探讨如何在使用SuperSocket.ClientEngine.Core库时,处理客户端的粘包和半包问题。 粘包和半包是网络通信中的常见问题,主要出现在TCP协议中。由于TCP为了提高传输效率,会将多个小的数据包合并成一...

    Unity socket 案例包含粘包处理

    在"Assets"目录下,我们可能找到与Socket通信相关的C#脚本,这些脚本会详细地实现上述的粘包处理逻辑。 总的来说,理解并处理好Unity中的Socket通信和粘包问题,对于开发实时网络游戏至关重要。开发者需要根据具体...

    GOLANG语言实现SOCKET通讯粘包问题解决示例

    本文将详细介绍如何使用GOLANG来解决SOCKET通信中的粘包问题。 首先,理解粘包产生的原因。TCP协议是基于流的,没有明确的数据边界。它会根据网络状况和缓冲区大小来决定何时发送数据,这就可能导致连续发送的...

    python TCP Socket的粘包和分包的处理详解

    在进行TCP Socket编程时,粘包和分包是两个需要特别注意的问题。TCP是一种面向流的协议,它保证数据传输的顺序性和可靠性,但它本身不包含记录边界信息,因此应用层必须自己处理消息的边界问题。粘包和分包是由于TCP...

    Socket通信,通过异步,解决粘包问题

    在Socket通信中,"粘包"问题是一个常见的挑战。所谓“粘包”,是指在网络传输过程中,由于TCP协议的流式特性,多个数据包可能会被合并成一个大的数据包进行传输,或者一个数据包被分割成多个小的数据包分别发送,...

    Socket编程TCP粘包Demo.zip

    Socket编程在TCP网络通信中是一项基础且重要的技术,而TCP粘包问题则是开发者在实际应用中经常遇到的一个挑战。TCP(传输控制协议)是面向连接的、可靠的传输协议,它在保证数据正确传输的同时,也可能因为其特性...

    Socket编程TCP粘包问题及解决方案.docx

    ### Socket编程TCP粘包问题及解决方案 #### 一、TCP粘包问题概述 TCP作为一种可靠的面向连接的传输层协议,提供了基于字节流的服务。在TCP传输过程中,发送方发送的数据被视为连续不断的字节流,而不是离散的消息...

    Node.js-NodeJs的TCP中的粘包分包问题的解决方案

    在TCP通信中,由于协议的特性,可能会出现“粘包”和“分包”的问题,这在处理实时性要求高的数据传输时尤为关键。本文将深入探讨这两个问题及其解决方案。 1. **TCP粘包**: TCP为了提高效率,会将多个小的数据包...

    HPSocket高效传输,自动分包组包

    开源一份HPSocket的tcp的高效传输方案,自动组包分包,我精简了HPSocket4C.dll文件删除了所有的代理,http,udp等等一大堆的东西,dll文件又经过upx压缩仅80kb大小,只保留tcp pack部分。pack本来就是可靠传输,一般...

    Socket粘包问题终极解决方案-Netty版.docx

    Socket 粘包问题是指在使用 TCP 协议进行网络通讯时,由于 TCP 协议本身没有边界的概念,导致在传输数据时无法确定消息的边界,从而产生粘包和半包问题。本文将详细介绍 Socket 粘包问题的最优解决方案,并提供了...

    Netty粘包分包服务器端客户端完整例子

    在使用Netty进行网络通信时,"粘包"和"分包"是两个常见的问题,这两个概念在标题和描述中被提及。 粘包和分包问题通常出现在数据传输过程中。当发送端连续发送多个小包时,接收端可能会一次性接收到这些小包的组合...

    winsock socket网络通信_解决粘包问题.zip

    最后,"解决TCP网络传输“粘包”问题TLV SOCKET通信服务器客户机函数流程.doc"很可能详细描述了如何在Winsock中实现TLV协议,以及客户端和服务器之间的通信流程。通常,这会涉及创建套接字、绑定、监听、连接等步骤...

    C#实现Socket编程 (异步通讯,解决Tcp粘包)第三阶段

    本文将深入探讨如何使用C#语言来实现Socket编程,特别是在处理异步通信和解决TCP粘包问题的第三阶段。C#提供了丰富的类库支持网络编程,使得开发者能够方便地构建基于TCP/IP的客户端和服务器应用。 首先,让我们...

    C#TCP\Socket粘包处理(加长度头)

    "TCP\Socket粘包处理(加长度头)"这个主题主要涉及如何解决这个问题。在TCP中处理粘包的关键是添加一种机制来区分不同的数据包。一种常见的方法是在每个数据包前添加一个“长度头”,这个长度头包含了接下来的数据包...

    【QT】自定义协议解决TCP粘包和拆包问题

    在某些需要精确控制数据传输的应用中,如游戏、实时通信等,解决TCP粘包和拆包问题是至关重要的。QT是一个跨平台的C++图形用户界面应用程序开发框架,它提供了丰富的网络编程接口,可以用来处理这个问题。 本文将...

    粘包和分包及FrameDecoder源码解析.rar

    为了解决粘包和分包的问题,通常需要在数据包的头部添加一些额外的信息,例如包头、包长度等字段,用于标识每个数据包的开始和结束。这样,接收方可以根据这些信息准确地解析出原始的数据包。 在Java NIO中,`...

    unity实现Socket通讯(内含tcp粘包/拆包解决)

    本教程将深入探讨如何在Unity中实现Socket通信,包括TCP连接、粘包/拆包问题的解决方案。 一、TCP连接基础 TCP(Transmission Control Protocol)是一种面向连接的、可靠的、基于字节流的传输层通信协议。在Unity中...

    Socket粘包问题的3种解决方案,最后一种最完美.docx

    这种方法可以解决粘包和半包问题,但它有一个缺陷,就是需要额外的空间来存储包头信息。 解决方案 2:使用分隔符 --------------------- 在发送数据时,添加一个特殊的分隔符来分割数据包。例如,在发送 ABC 和 ...

Global site tag (gtag.js) - Google Analytics