并发、消息队列、缓存_消息队列与缓存的区别-程序员宅基地

技术标签: 并发  

"并发"会引发关于"顺序"的问题,及如何能够在使用高并发提高效率的同时,又在一定程度上能够“控制/维持”一定的操作顺序。更广泛的,有关并发的"锁"操作,也都会围绕同样的思路来解决问题。

没有银弹

想要在维持并发的同时,通过什么魔法来同时维持顺序是不可能的。最基本的核心想法是,将并发的操作变为串行,那么操作也就自然会有了顺序

这是一个看似有些矛盾的解决方案。并发的目的不就是为了提高效率么?!如果将并发变成串行,那之前的并发还有什么意义?

这是一个非常微妙的问题,如果不仔细考虑,很容易在表面上陷入上面的矛盾纠葛之中。而调和这两者的基本思路是:

  • “使用并发"来提高效率和"放弃并发"来顺序化,这两个过程可以完全不必发生在同一个地方。可以让效率的瓶颈部分"计算"并行化,而让结果的聚合过程"顺序化”。
  • 可以根据"顺序化"的要求来建立独立的分组,让一个过程在group之间并行化,而在这个group内部做细致的串行,从而在保证局部顺序的同时在全局建立效率更高的并行化。

那么最基本的,使用一个队列来顺序化一些列的并发结果,是非常显而易见的。

为什么考虑queue这样的数据结构?正如其名字所暗示的,当有成群的人从四面八方涌来进入一个入口时,保证有序化的一个最基本的方式是:让他们排队。

而这种思想并不需要局限在人群中,而可以抽象出来,为任何抽象的并发任务提供一个解答思路:让所有从四面八方同时冒出来的任务排好队,也即是让它们都进入到一个queue的数据结构中。而为了保证出队、入队的有序性,具备加锁功能的blockingQueue是必须的。

如此就形成了并发任务顺序化的基本思路:让这些并发任务都进入到一个blockingQueue中,出队的过程自然保证了这些任务的有序性。

而把这一思路规模化、稳健化的一个中间件,便是Kafka了。而如果只是轻量级小范围的使用,例如Java中的一个局部,则只需要使用好库里面的BlockingQueue就行了。

“排队"这种思想不只可以应用于"控制并发任务的顺序”,也能够被用来解决任务的加锁问题。诸如Java中的synchronized关键字,在背后所依赖的数据结构也是多个blockingQueue。道理很简单,当你想要控制一堆任务的访问权限,那么,让它们进入一个队列依次获取权限就可以了。

下一个问题是,okay,我知道消息队列可以保存一堆任务,可是,我的任务涉及一大堆的函数执行和数据调度,一个小小的queue能够保存那么多的数据或者操作过程吗?又或是,我的任务只是单纯的执行任务,是一个个的"动作",这东西怎么能够被保存在queue中呢?这些疑问基本上会基于我们潜意识的一个印象,queue所保存的是一个string,可我需要保存的类型多种多样,甚至不是数据而是操作,一堆string的queue真的够吗?

同样的问题会发生在"缓存"的使用上,例如大名鼎鼎的Redis/Memcached。都说缓存很有用,但同样的问题是,在这些中间件中存储一个string能够满足我们的需求吗?

这就涉及到对序列化的讨论,特别地,对json数据的转换。无论你是做并发的"操作",还是有大量的数据需要运行,你都可以将其逐层分解为几个核心的、互相配合的数据块。你并不需要将所有的东西都放在缓存中,只需要将那个能够带动其他东西完成整个流程的关键部分放入到缓存中。

在以前的client-server交互中,前后端耦合非常厉害。而基于json数据格式的Restful API之所以能够流行起来,就在于json数据本身成为了前后端之间的不变量,从而可以实现真正意义上的前后端分离。在这里,json数据充当了前后端的业务协议,是真正不变的business logic。

那么同样的,你的缓存中真正应该存储的,就是能够带动各种并发操作的不变量,它可以以json的形式展示,也可以以对象被序列化之后的别的形式展示。但无论是哪一种,都可以被表示为string。更一般地,按照Unix的哲学,一切皆文件。而文件是什么?无非是一堆二进制码,即string。所谓的"信息工程",information的基本表示方式不就是string么。由此我们便能回答之前提出的问题:小小的string能干什么呢?Everything。

如此,提高效率使用缓存中间件(如Redis/Memcached),顺序化、整合复杂的并发任务使用消息队列(如Kafka/RabbitMQ),都是在捣鼓string。而只要能够将string的运输批量化、系统化,那么任何的操作和数据都可以如法炮制。

如此来看,作为重要和酷炫技术的缓存和消息队列,其牛鼻子就是最简单的排队和信息的字符串表示。只要牵住了这个牛鼻子,其它建立在其上的复杂技艺便能够迎刃理解。

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/kid551/article/details/89511456

智能推荐

http隧道 java_使用java语言实现http隧道技术-程序员宅基地

文章浏览阅读119次。该楼层疑似违规已被系统折叠隐藏此楼查看此楼/***Getaparametervalue**@paramkeyString*@paramdefString*@returnString*/publicStringgetParameter(Stringkey,Stringdef){returnisStandalone?System.getProperty(ke..._java http隧道

Keepalived高可用+邮件告警_keepalived sendmail-程序员宅基地

文章浏览阅读913次。IP主机名备注192.168.117.14keepalived-master主节点192.168.117.15keepalived-slaver备节点192.168.117.100VIP1.主备节点均安装keepalived# yum install -y keepalived httpd2.主备节点均修改keepalived日志存放路径..._keepalived sendmail

SPFILE 错误导致数据库无法启动(ORA-01565)_ora01565 ora27046-程序员宅基地

文章浏览阅读469次。--==========================================--SPFILE错误导致数据库无法启动(ORA-01565)--========================================== SPFILE错误导致数据库无法启动 SQL> startup ORA-01078: failurein proce_ora01565 ora27046

功能测试基础知识(1)-程序员宅基地

文章浏览阅读6.1k次,点赞2次,收藏54次。功能测试基础知识总结_功能测试

postgresql 中文排序_pg中文排序-程序员宅基地

文章浏览阅读3.2k次,点赞3次,收藏2次。pg 中文首字母排序_pg中文排序

[Mysql] CONVERT函数_mysql convert-程序员宅基地

文章浏览阅读3.1w次,点赞23次,收藏109次。本文主要讲解CONVERT函数_mysql convert

随便推点

HTML5与微信开发(2)-视频播放事件及API属性_微信开发者工具视频快进-程序员宅基地

文章浏览阅读8.6k次,点赞2次,收藏2次。HTML5 的视频播放事件想必大家已经期待很久了吧,在HTML4.1、4.0之前我们如果在网页上播放视频无外乎两种方法: 第一种:安装FLASH插件或者微软发布的插件 第二种:在本地安装播放器,在线播放组件之类的 因为并不是所有的浏览器都安装了FLASH插件,就算安装也不一定所有的都能安装成功。像苹果系统就是默认禁用FLASH的,安卓虽然一开始的时候支持FLASH,但是在安卓4.0以后也开始不_微信开发者工具视频快进

JedisConnectionException Connection Reset_jedisconnectionexception: java.net.socketexception-程序员宅基地

文章浏览阅读5.4k次,点赞3次,收藏4次。在使用redis的过程常见错误总结1.JedisConnectionException Connection Reset参考这边文章:Connection reset原因分析和解决方案https://blog.csdn.net/cwclw/article/details/527971311.1问题描述Exception in thread "main" redis.clients...._jedisconnectionexception: java.net.socketexception: connection reset

Lua5.3版GC机制理解_lua5.3 gc-程序员宅基地

文章浏览阅读8.3k次,点赞8次,收藏42次。目录1.Lua垃圾回收算法原理简述2.Lua垃圾回收中的三种颜色3.Lua垃圾回收详细过程4.步骤源码详解4.1新建对象阶段4.2触发条件4.3 GC函数状态机4.4标记阶段4.5清除阶段5.总结参考资料lua垃圾回收(Garbage Collect)是lua中一个比较重要的部分。由于lua源码版本变迁,目前大多数有关这个方面的文章都还是基于lua5.1版本,有一定的滞后性。因此本文通过参考当前..._lua5.3 gc

手机能打开的表白代码_能远程打开,各种手机电脑进行监控操作,最新黑科技...-程序员宅基地

文章浏览阅读511次。最近家中的潮人,老妈闲着没事干,开始学玩电脑,引起他的各种好奇心。如看看新闻,上上微信或做做其他的事情。但意料之中的是电脑上会莫名出现各种问题?不翼而飞的图标?照片又不见了?文件被删了,卡机或者黑屏,无声音了,等等问题。常常让她束手无策,求助于我,可惜在电话中说不清,往往只能苦等我回家后才能解决,那种开心乐趣一下子消失了。想想,这样也不是办法啊, 于是,我潜心寻找了两款优秀的远程控制软件。两款软件...

成功Ubuntu18.04 ROS melodic安装Cartograhper+Ceres1.13.0,以及错误总结_ros18.04 安装ca-程序员宅基地

文章浏览阅读1.8k次。二.初始化工作空间三.设置下载地址四.下载功能包此处可能会报错,请看:rosdep update遇到ERROR: error loading sources list: The read operation timed out问题_DD᭄ꦿng的博客-程序员宅基地接下来一次安装所有功能包,注意对应ROS版本 五.编译功能包isolated:单独编译各个功能包,每个功能包之间不产生依赖。编译过程时间比较长,可能需要几分钟时间。此处可能会报错:缺少absl依赖包_ros18.04 安装ca

Harbor2.2.1配置(trivy扫描器、镜像签名)_init error: db error: failed to download vulnerabi-程序员宅基地

文章浏览阅读4.1k次,点赞3次,收藏7次。Haobor2.2.1配置(trivy扫描器、镜像签名)docker-compose下载https://github.com/docker/compose/releases安装cp docker-compose /usr/local/binchmod +x /usr/local/bin/docker-composeharbor下载https://github.com/goharbor/harbor/releases解压tar xf xxx.tgx配置harbor根下建立:mkd_init error: db error: failed to download vulnerability db: database download

推荐文章

热门文章

相关标签