100%弄明白5种IO模型一只小菜菜鸟

要深入的理解各种IO模型,那么必须先了解下产生各种IO的原因是什么,要知道这其中的本质问题那么我们就必须要知一条消息是如何从过一个人发送到另外一个人的;

以两个应用程序通讯为例,我们来了解一下当“A”向"B"发送一条消息,简单来说会经过如下流程:

第一步:应用A把消息发送到TCP发送缓冲区。

第二步:TCP发送缓冲区再把消息发送出去,经过网络传递后,消息会发送到B服务器的TCP接收缓冲区。

第三步:B再从TCP接收缓冲区去读取属于自己的数据。

根据上图我们基本上了解消息发送要经过应用A、应用A对应服务器的TCP发送缓冲区、经过网络传输后消息发送到了应用B对应服务器TCP接收缓冲区、然后最终B应用读取到消息。

我们把视角切换到上面图中的第三步,也就是应用B从TCP缓冲区中读取数据。

思考一个问题:

因为应用之间发送消息是间断性的,也就是说在上图中TCP缓冲区还没有接收到属于应用B该读取的消息时,那么此时应用B向TCP缓冲区发起读取申请,TCP接收缓冲区是应该马上告诉应用B现在没有你的数据,还是说让应用B在这里等着,直到有数据再把数据交给应用B。

把这个问题应用到第一个步骤也是一样,应用A在向TCP发送缓冲区发送数据时,如果TCP发送缓冲区已经满了,那么是告诉应用A现在没空间了,还是让应用A等待着,等TCP发送缓冲区有空间了再把应用A的数据访拷贝到发送缓冲区。

如果上面的问题你已经思考过了,那么其实你已经明白了什么是阻塞IO了,所谓阻塞IO就是当应用B发起读取数据申请时,在内核数据没有准备好之前,应用B会一直处于等待数据状态,直到内核把数据准备好了交给应用B才结束。

流程:

1、应用进程向内核发起recfrom读取数据。

2、准备数据报(应用进程阻塞)。

3、将数据从内核负责到应用空间。

4、复制完成后,返回成功提示。

我敢保证如果你已经理解了阻塞IO,那么必定已经知道了什么是非阻塞IO。按照上面的思路,所谓非阻塞IO就是当应用B发起读取数据申请时,如果内核数据没有准备好会即刻告诉应用B,不会让B在这里等待。

术语:非阻塞IO是在应用调用recvfrom读取数据时,如果该缓冲区没有数据的话,就会直接返回一个EWOULDBLOCK错误,不会让应用一直等待中。在没有数据的时候会即刻返回错误标识,那也意味着如果应用要读取数据就需要不断的调用recvfrom请求,直到读取到它数据要的数据为止。

1、应用进程向内核发起recvfrom读取数据。

2、没有数据报准备好,即刻返回EWOULDBLOCK错误码。

3、应用进程向内核发起recvfrom读取数据。

4、已有数据包准备好就进行一下步骤,否则还是返回错误码。

5、将数据从内核拷贝到用户空间。

6、完成后,返回成功提示。

如果你已经明白了非阻塞IO的工作模式,那么接下来我们继续了解IO复用模型的产生原因和思路。

我们还是把视角放到应用B从TCP缓冲区中读取数据这个环节来。如果在并发的环境下,可能会N个人向应用B发送消息,这种情况下我们的应用就必须创建多个线程去读取数据,每个线程都会自己调用recvfrom去读取数据。那么此时情况可能如下图:

如上图一样,并发情况下服务器很可能一瞬间会收到几十上百万的请求,这种情况下应用B就需要创建几十上百万的线程去读取数据,同时又因为应用线程是不知道什么时候会有数据读取,为了保证消息能及时读取到,那么这些线程自己必须不断的向内核发送recvfrom请求来读取数据;

那么问题来了,这么多的线程不断调用recvfrom请求数据,先不说服务器能不能扛得住这么多线程,就算扛得住那么很明显这种方式是不是太浪费资源了,线程是我们操作系统的宝贵资源,大量的线程用来去读取数据了,那么就意味着能做其它事情的线程就会少。

所以,有人就提出了一个思路,能不能提供一种方式,可以由一个线程监控多个网络请求(我们后面将称为fd文件描述符,linux系统把所有网络请求以一个fd来标识),这样就可以只需要一个或几个线程就可以完成数据状态询问的操作,当有数据准备就绪之后再分配对应的线程去读取数据,这么做就可以节省出大量的线程资源出来,这个就是IO复用模型的思路。

正如上图,IO复用模型的思路就是系统提供了一种函数可以同时监控多个fd的操作,这个函数就是我们常说到的select、poll、epoll函数,有了这个函数后,应用线程通过调用select函数就可以同时监控多个fd,select函数监控的fd中只要有任何一个数据状态准备就绪了,select函数就会返回可读状态,这时询问线程再去通知处理数据的线程,对应线程此时再发起recvfrom请求去读取数据。

术语描述:进程通过将一个或多个fd传递给select,阻塞在select操作上,select帮我们侦测多个fd是否准备就绪,当有fd准备就绪时,select返回数据可读状态,应用程序再调用recvfrom读取数据。

总结:复用IO的基本思路就是通过slect或poll、epoll来监控多fd,来达到不必为每个fd创建一个对应的监控线程,从而减少线程资源创建的目的。

复用IO模型解决了一个线程可以监控多个fd的问题,但是select是采用轮询的方式来监控多个fd的,通过不断的轮询fd的可读状态来知道是否就可读的数据,而无脑的轮询就显得有点暴力,因为大部分情况下的轮询都是无效的,所以有人就想,能不能不要我总是去问你是否数据准备就绪,能不能我发出请求后等你数据准备好了就通知我,所以就衍生了信号驱动IO模型。

于是信号驱动IO不是用循环请求询问的方式去监控数据就绪状态,而是在调用sigaction时候建立一个SIGIO的信号联系,当内核数据准备好之后再通过SIGIO信号通知线程数据准备好后的可读状态,当线程收到可读状态的信号后,此时再向内核发起recvfrom读取数据的请求,因为信号驱动IO的模型下应用线程在发出信号监控后即可返回,不会阻塞,所以这样的方式下,一个应用线程也可以同时监控多个fd。

类似于下图描述:

术语描述:首先开启套接口信号驱动IO功能,并通过系统调用sigaction执行一个信号处理函数,此时请求即刻返回,当数据准备就绪时,就生成对应进程的SIGIO信号,通过信号回调通知应用线程调用recvfrom来读取数据。

总结:IO复用模型里面的select虽然可以监控多个fd了,但select其实现的本质上还是通过不断的轮询fd来监控数据状态,因为大部分轮询请求其实都是无效的,所以信号驱动IO意在通过这种建立信号关联的方式,实现了发出请求后只需要等待数据就绪的通知即可,这样就可以避免大量无效的数据状态轮询操作。

其实经过了上面两个模型的优化,我们的效率有了很大的提升,但是我们当然不会就这样满足了,有没有更好的办法,通过观察我们发现,不管是IO复用还是信号驱动,我们要读取一个数据总是要发起两阶段的请求,第一次发送select请求,询问数据状态是否准备好,第二次发送recevform请求读取数据。

也许你一开始就有一个疑问,为什么我们明明是想读取数据,什么非得要先发起一个select询问数据状态的请求,然后再发起真正的读取数据请求,能不能有一种一劳永逸的方式,我只要发送一个请求我告诉内核我要读取数据,然后我就什么都不管了,然后内核去帮我去完成剩下的所有事情?

当然既然你想得出来,那么就会有人做得到,有人设计了一种方案,应用只需要向内核发送一个read请求,告诉内核它要读取数据后即刻返回;内核收到请求后会建立一个信号联系,当数据准备就绪,内核会主动把数据从内核复制到用户空间,等所有操作都完成之后,内核会发起一个通知告诉应用,我们称这种一劳永逸的模式为异步IO模型。

术语描述:应用告知内核启动某个操作,并让内核在整个操作完成之后,通知应用,这种模型与信号驱动模型的主要区别在于,信号驱动IO只是由内核通知我们合适可以开始下一个IO操作,而异步IO模型是由内核通知我们操作什么时候完成。

总结:异步IO的优化思路是解决了应用程序需要先后发送询问请求、发送接收数据请求两个阶段的模式,在异步IO的模式下,只需要向内核发送一次请求就可以完成状态询问和数拷贝的所有操作。

我们通常会说到同步阻塞IO、同步非阻塞IO,异步IO几种术语,通过上面的内容,那么我想你现在肯定已经理解了什么是阻塞什么是非阻塞了,所谓阻塞就是发起读取数据请求的时,当数据还没准备就绪的时候,这时请求是即刻返回,还是在这里等待数据的就绪,如果需要等待的话就是阻塞,反之如果即刻返回就是非阻塞。

我们区分了阻塞和非阻塞后再来分别下同步和异步,在IO模型里面如果请求方从发起请求到数据最后完成的这一段过程中都需要自己参与,那么这种我们称为同步请求;反之,如果应用发送完指令后就不再参与过程了,只需要等待最终完成结果的通知,那么这就属于异步。

我们再看同步阻塞、同步非阻塞,他们不同的只是发起读取请求的时候一个请求阻塞,一个请求不阻塞,但是相同的是,他们都需要应用自己监控整个数据完成的过程。而为什么只有异步非阻塞而没有异步阻塞呢,因为异步模型下请求指定发送完后就即刻返回了,没有任何后续流程了,所以它注定不会阻塞,所以也就只会有异步非阻塞模型了。

THE END
1.12道营养又下饭的家常菜,每天都不重样,简单易做降营养还好吃洋葱豆腐别再红烧了,教你个简单做法,比吃大鱼大肉都香,营养下饭 美食强上墙 2024-11-28 06:31:48 5 跟贴 5 鸡蛋倒入洋葱中,瞬间变成一道好吃的美食 李老浪的菜 2024-11-27 16:16:27 15 跟贴 15 素炒西兰花,西兰花,木耳,胡萝卜在一起搭配,营养加倍#美食 大什么玮 2024-11-30 11:08:56 0 跟贴 0https://www.163.com/dy/article/JIBJOD2E0553TKGX.html
2.家用微波炉小菜大味10款简单快捷的配方家用微波炉小菜大味10款简单快捷的配方 在现代生活中,人们对食物的健康性、口感和美观有了更高的要求,同时也希望能够快速地准备出满足这些需求的餐点。微波炉作为一种节能环保、操作简便的厨房电器,它提供了一种既快速又方便地烹饪食物的手段。本文将为大家介绍10款利用家用微波炉制作的小菜,每一款都具有一定的特色https://www.firedslze.cn/ji-qi-ren/348924.html
3.晚饭吃什么菜(100种懒人晚餐做法)成都户口网土豆新做法,许多街边小吃都能看到这样做,不过一般比较重油炸一遍,在家可以不费油也能做出街边小时的风味,香辣开胃,也适合做成下酒小菜。 做法:1、土豆1个,把土豆削皮后切成厚片,用波纹刀具把土豆片切成带波纹样的土豆条。 2、土豆含较高淀粉质,也容易氧化变黑,切好的土豆条放入清水中浸泡一会。 https://www.028honghai.com/250456.html
4.吃鱼的100种方法精选菜单吃鱼的100种方法 年夜饭_清蒸鱼 按说呢,纯清蒸鱼不用加豉油。这个做法不加豉油味道已经很好了,用了葱姜、料酒去腥,盐和红枣丝提鲜。但我个人偏爱蒸鱼豉油的味道,最后还是加了一点点。 浤辰_原生说美食770072浏览8147赞 蜜汁核桃小鱼干 这是一道非常简单开胃的小菜,亦可当做解馋的小零食,而且价格相也是当便宜https://mip.xiangha.com/caipu/caidan/2405/
5.厨房必备100种厨房用具的精选大全炒锅和煎锅是任何家居中的基本工具,无论是制作简单的小菜还是复杂的大餐,这两样都是必需品。 1.2 烤箱与微波炉 随着生活节奏的加快,快速便捷地烹调食物变得越来越重要。烤箱和微波炉就是这样一种解决方案,它们能够提供多种不同的烹饪方式。 2.0 切割与准备工具 https://www.topwlw39.cn/kong-diao/413435.html
6.嵌入式软件开发笔试题(精选6篇)化学实验的考查陷入了一种较为尴尬的境地。如何使“纸笔测验”能真实、有效地考查、评价学生的实验能力,并引导中学化学教学重视学生实验,促进学生积极主动地發展,是摆在化学教学工作者面前的一个重要课题。 二、化学实验“纸笔测验”的考查目标 化学实验考查目标具有层次性,体现由易到难、由简单到复杂的顺序。在化学https://www.360wenmi.com/f/filef9ms5rd0.html
7.生活在海边的你,这100多种海鲜你都认识吗?吃海鲜一定要知道的禁忌~基围虾富含高蛋白,而且做法多样,不过最原始的也是最美味的,加些姜葱白灼一下,上桌时配上香醋生抽,简简单单,清清爽爽,也很适合做宴客菜。 25、蛇鳗 蛇鳗的品种很多,共200多种,遍布全世界,穴居于泥沙底质的低潮区或近岸处。蛇鳗与醋一同食用会引起中毒。 http://m.dljdb.net/h-nd-1051.html
8.青瓜拌皮蛋换个方法颜值提升100倍夏天的开胃小菜这几天广州热死了,总想吃点清淡的。 过往凉拌青瓜一般会用拍扁这个简单粗暴的方法,今天换个形式,颜值立马就提升了许多,上桌时儿子已经忍不住夹了好多。 调料的份量根据自己的喜好调整哟。 用料 蒜头 3瓣 辣椒粉 适量 糖 1茶匙 盐 半茶匙 蒸鱼豉油 https://hanwuji.xiachufang.com/recipe/104583431/
9.十六个月宝宝辅食制作100款,让宝宝降成长2.3 小菜类 - 鲜虾扇贝球:荷包蛋内加入醇香鲜虾和鲜美扇贝肉,辅以白胡椒和海水盐的混合汁作调料,制作出口感Q弹,味道鲜美的虾扇贝球。 - 香煎鸡胸肉:用开水焯烫至变色的鸡胸肉,用麻油或自制酱汁煎到熟透即可,可以与其他小菜一起配餐。 - 红烧笋干:干笋炒糖色,再加入酱油和肉丝一起炖煮,制作成多汁肉香味浓郁http://www.yaolan.com/beiyun/byzn/65416.html