原文:http://kafka.apache.org/documentation/#design数据持久化不用惧怕文件系统磁盘的读写速度,取决于如何读写。对于线性读写方式,操作系统做了充分的优化:提前读 - 预取若干数据块,滞后写 - 将小的逻辑写操作合并成一个大的物理写操作。研究表明:顺序读写磁盘(sequential disk access)的速度有些时
......
366
0
0
2022-12-12
Spring Boot一个非常突出的优点就是不需要我们额外再部署Servlet容器,它内置了多种容器的支持。我们可以通过配置来指定我们需要的容器。本文以我们平时最常使用的容器Tomcat为列来介绍以下两个知识点:Spring Boot是怎么整合启动Tomcat容器的;在Spring Boot中,怎么进行Tomcat的深度配置。Spring Boot整合启动T
......
352
0
0
2022-12-11
Kafka 分片存储机制Broker:消息中间件处理结点,一个 Kafka 节点就是一个 broker,多个 broker 可以组成一个 Kafka集群。 Topic:一类消息,例如 page view 日志、click 日志等都可以以 topic 的形式存在,Kafka 集群能够同时负责多个 topic 的分发。 Partition:topic 物理上的分
......
400
0
0
2022-12-11
Kafka基础消息系统的作用大部分小伙伴应该都清楚,这里用机油装箱举个例子:所以消息系统就是如上图我们所说的仓库,能在中间过程作为缓存,并且实现解耦合的作用。引入一个场景,我们知道中国移动,中国联通,中国电信的日志处理,是交给外包去做大数据分析的,假设现在它们的日志都交给了你做的系统去做用户画像分析。按照刚刚前面提到的消息系统的作用,我们知道了消息系统其实就
......
429
0
0
2022-12-11
1、为什么有消息系统解耦合异步处理 例如电商平台,秒杀活动。一般流程会分为:1: 风险控制、2:库存锁定、3:生成订单、4:短信通知、5:更新数据通过消息系统将秒杀活动业务拆分开,将不急需处理的业务放在后面慢慢处理;流程改为:1:风险控制、2:库存锁定、3:消息系统、4:生成订单、5:短信通知、6:更新数据流量的控制 1. 网关在接受到请求后,就把请求放入到
......
310
0
0
2022-12-11
认识 kafkakafka简介Kafka 是一个分布式流媒体平台,kafka官网:http://kafka.apache.org/1)流媒体平台有三个关键功能:发布和订阅记录流,类似于消息队列或企业消息传递系统。以容错的持久方式存储记录流。记录发生时处理流。2)Kafka通常用于两大类应用:构建可在系统或应用程序之间可靠获取数据的实时流数据管道构建转换或响应
......
304
0
0
2022-12-11
- Uber 的 Kafka 生态系统 -Uber 拥有世界上最大的 Kafka 集群,每天处理数万亿条消息和几个 PB 的数据。如图 1 所示,Kafka 现在成了 Uber 技术栈的基石,我们基于这个基石构建了一个复杂的生态系统,为大量不同的工作流提供支持。其中包含了一个用于传递来自乘客和司机 App 事件数据的发布/订阅消息总线、为流式分析平台(如 A
......
323
0
0
2022-12-11
一、Kafka基础消息系统的作用应该大部份小伙伴都清楚,用机油装箱举个例子所以消息系统就是如上图我们所说的仓库,能在中间过程作为缓存,并且实现解耦合的作用。引入一个场景,我们知道中国移动,中国联通,中国电信的日志处理,是交给外包去做大数据分析的,假设现在它们的日志都交给了你做的系统去做用户画像分析。按照刚刚前面提到的消息系统的作用,我们知道了消息系统其实就是
......
347
0
0
2022-12-11
TCP 是互联网核心协议之一,本文介绍它的基础知识。一、TCP 协议的作用互联网由一整套协议构成。TCP 只是其中的一层,有着自己的分工。(图片说明:TCP 是以太网协议和 IP 协议的上层协议,也是应用层协议的下层协议。)最底层的以太网协议(Ethernet)规定了电子信号如何组成数据包(packet),解决了子网内部的点对点通信。(图片说明:以太网协议解
......
354
0
0
2022-12-11
前言建议对 Kakfa 还比较陌生的朋友可以先看看。就我的使用经验来说,大部分情况都是处于数据下游的消费者角色。也用 Kafka 消费过日均过亿的消息(不得不佩服 Kakfa 的设计),本文将借助我使用 Kakfa 消费数据的经验来聊聊如何高效的消费数据。单线程消费以之前生产者中的代码为例,事先准备好了一个 Topic:data-push,3个分区。先往里边
......
407
0
0
2022-12-10
为何称MySQL为黑盒?对于大部分的开发人员而言,编写增删查改的sql语句通过数据库连接去操作数据库,但并不关心数据库是如何监听请求和从连接中把请求数据中提取出来,往往在意表结构,sql执行效率慢就给他们建立索引,完全把MySQL当作黑盒子去使用。1. 网络连接必须使用线程来处理MySQL 使用内部线程来实现监听和读取请求。2. SQL接口:负责处理接收到的
......
410
0
0
2022-12-10
1、#{}和${}的区别是什么?答:{}是Properties文件中的变量占位符,它可以用于标签属性值和sql内部,属于静态文本替换,比如{driver}会被静态替换为com.mysql.jdbc.Driver。#{}是sql的参数占位符,Mybatis会将sql中的#{}替换为?号,在sql执行前会使用PreparedStatement的参数设置方法,按序
......
305
0
0
2022-12-09
document.wirte()document.write('<div>345</div>');
直接将内容写入页面的内容流,但是文档流执行完毕,则它会导致页面全部重绘即加载一个新的html页面,且只包含写入的内容。<body>
<button>点击按钮</button>
......
351
0
0
2022-12-03
为什么要做性能测试?应用程序是否能够很快的响应用户的要求?应用程序是否能处理预期的用户负载并有盈余能力?应用程序是否能处理业务所需要的事务数量?在预期和非预期的用户负载下,应用程序是否稳定?是否能确保用户在真正使用软件时获得舒服的体验?什么时候进行性能测试?在功能测试完成,所有的功能都比较稳定的时候,才可以做功能测试,一般在测试的中后期执行性能测试术语1.并
......
463
0
0
2022-11-30
【软件开发的周期:、需求分析、设计、实现、测试、安装部署、运行维护】 【软件测试的周期:、需求分析,测试计划,测试设计/测试开发,测试执行,测试评估】软件测试v模型(v模型是瀑布模型的变种) 优点:后期的测试阶段和前期的阶段可以一一对应起来,清楚的标注每一个测试阶段的依据 缺点:不利于项目前期风险的及时发现软件测试W模型(双V模型)特点:测试在项目前期介入,
......
390
0
0
2022-11-29