数据库访问框架 - Mybatis
Mybatis简介MyBatis本是apache的一个开源项目iBatis,2010年这个项目由apache software foundation迁移到了google code,并且改名为Mybatis。2013年11月迁移到Github。iBatis一词源于”internet”和”abatis”的组合,是一个基于Java的持久层框架。iBatis提供的持久层框架包括SQL Maps和Data Access Objects(DAOS)。mybatis 内部封装了 jdbc,使开发者只需要关注 sql 语句本身,而不需要花费精力去处理加载驱动、创建连接、创建 statement 等繁杂的过程。mybatis 通过 xml 或注解的方式将要执行的各种 statement 配置起来,并通过 java 对象和 statement 中 sql 的动态参数进行映射生成最终执行的 sql 语句,最后由 mybatis 框架执行 sql 并将结果映射为 java 对象并返回。采用 ORM 思想解决了实体和数据库映射的问题,对 jdbc 进行了封装,屏蔽了 jdbc api 底层访问细节,使我们不用与 ...
数据库中间件 - Mycat
背景随着时间的推移,数据的产生越来越多,软件系统对庞大数据的各种操作已经显得愈发困难,传统的关系型数据库已经无法满足快速查询与插入数据的需求。NoSQL通过降低数据的安全性,减少对事务的支持,减少对复杂查询的支持,以此来获取性能上的提升,暂时缓解了这一危机。但是,有些数据操作场景是绝对需要有事务和安全性指标的,此时NoSQL是无法满足的,依然需要使用关系型数据库。为了提高关系型数据库的查询性能,于是将一个数据库的数据分散到不同的数据库中存储,以抵抗高访问量高并发对数据库的压力,相当于对数据进行拆分操作并且做数据库集群。如何拆分数据,同时让程序和数据库解耦,使数据的分片存储对于开发者来说完全透明,数据库中间件油然而生。
数据库中间件对比
Cobar属于阿里 B2B 事业群,始于 2008 年,在阿里服役 3 年多,接管 3000+ 个MySQL 数据库的 schema,集群日处理在线 SQL请求 50 亿次以上。由于 Cobar 发起人的离职, Cobar停止维护。
Mycat是开源社区在阿里 cobar 基础上进行二次开发,解决了 cobar 存在的问题,并且加入了许多新的功能在 ...
Docker简介与搭建ElasticSearch实例
Docker简介Docker 是一个开源的应用容器引擎,让开发者可以打包他们的应用以及依赖包到一个可移植的容器中,然后发布到任何流行的 Linux 机器上。Docker是一个重新定义了程序开发测试、交付和部署过程的开放平台,Docker则可以称为构建一次,到处运行,这就是Docker提出的”Build once,Run anywhere”。
首先,需要了解一下几个概念:镜像,容器,仓库
镜像(Image):Docker 镜像就是一个只读的模板,镜像可以用来创建 Docker 容器。Docker 提供了一个很简单的机制来创建镜像或者更新现有的镜像,用户甚至可以直接从其他人那里下载一个已经做好的镜像来直接使用。镜像是一种文件结构。Dockerfile中的每条命令都会在文件系统中创建一个新的层次结构,文件系统在这些层次上构建起来,镜像就构建于这些联合的文件系统之上。
容器(Container):容器是从镜像创建的运行实例。它可以被启动、开始、停止、删除。每个容器都是相互隔离的、保证安全的平台。可以把容器看做是一个简易版的 Linux 环境,Docker 利用容器来运行应用。
仓库(Reg ...
SpringCloudAlibaba入门系列(9)(完结) - 服务容错组件Sentinel
摘要:服务容错组件Sentinel的介绍及应用。
9.1 高并发带来的问题在微服务架构中,我们将业务拆分成一个个的服务,服务与服务之间可以相互调用,但是由于网络原因或者自身的原因,服务并不能保证服务的100%可用,如果单个服务出现问题,调用这个服务就会出现网络延迟,此时若有大量的网络涌入,会形成任务堆积,最终导致服务瘫痪。
接下来,我们来模拟一个高并发的场景1.编写java代码
12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152@RestController@Slf4jpublic class OrderController2 { @Autowired private RestTemplate restTemplate; @Autowired private OrderService orderService; @Autowired private ProductService productServ ...
SpringCloudAlibaba入门系列(8) - 分布式事务Seata
摘要:当一个请求涉及到多个微服务,而每个微服务都可能写入数据库,我们要保证每个服务都调用成功了才会更新数据,一旦某个微服务调用失败了,其他所有微服务的写入的数据都应该回滚,这就涉及到了分布式事务。
8.1 分布式事务基础8.1.1 事务事务指的就是一个操作单元,在这个操作单元中的所有操作最终要保持一致的行为,要么所有操作都成功,要么所有的操作都被撤销。简单地说,事务提供一种“要么什么都不做,要么做全套”机制。
8.1.2 本地事物本地事物其实可以认为是数据库提供的事务机制。说到数据库事务就不得不说,数据库事务中的四大特性:
A:原子性(Atomicity),一个事务中的所有操作,要么全部完成,要么全部不完成
C:一致性(Consistency),在一个事务执行之前和执行之后数据库都必须处于一致性状态
I:隔离性(Isolation),在并发环境中,当不同的事务同时操作相同的数据时,事务之间互不影响
D:持久性(Durability),指的是只要事务成功结束,它对数据库所做的更新就必须永久的保存下来
数据库事务在实现时会将一次事务涉及的所有操作全部纳入到一个不可分割的执行单元,该执 ...
SpringCloudAlibaba入门系列(7) - 消息队列组件RocketMQ
摘要:消息队列组件RocketMQ的介绍及应用。
7.1 MQ简介7.1.1 什么是MQMQ(Message Queue)是一种跨进程的通信机制,用于传递消息。通俗点说,就是一个先进先出的数据结构。
7.1.2 MQ的应用场景7.1.2.1 异步解耦最常见的一个场景是用户注册后,需要发送注册邮件和短信通知,以告知用户注册成功。传统的做法如下:
此架构下注册、邮件、短信三个任务全部完成后,才返回注册结果到客户端,用户才能使用账号登录。但是对于用户来说,注册功能实际只需要注册系统存储用户的账户信息后,该用户便可以登录,而后续的注册短信和邮件不是即时需要关注的步骤。
所以实际当数据写入注册系统后,注册系统就可以把其他的操作放入对应的消息队列 MQ 中然后马上返回用户结果,由消息队列 MQ 异步地进行这些操作。架构图如下:
异步解耦是消息队列 MQ 的主要特点,主要目的是减少请求响应时间和解耦。主要的使用场景就是将比较耗时而且不需要即时(同步)返回结果的操作作为消息放入消息队列。同时,由于使用了消息队列MQ,只要保证消息格式不变,消息的发送方和接收方并不需要彼此联系,也不需要受对方的影 ...
SpringCloudAlibaba入门系列(6) - 链路追踪Sleuth
摘要:由于一个系统被拆分成了多个模块,在一次请求中可能涉及到调用多个服务,如何在服务调用中快速定位并发现问题,这就涉及到链路追踪技术。
6.1 链路追踪介绍在大型系统的微服务化构建中,一个系统被拆分成了许多模块。这些模块负责不同的功能,组合成系统,最终可以提供丰富的功能。在这种架构中,一次请求往往需要涉及到多个服务。互联网应用构建在不同的软件模块集上,这些软件模块,有可能是由不同的团队开发、可能使用不同的编程语言来实现、有可能布在了几千台服务器,横跨多个不同的数据中心,也就意味着这种架构形式也会存在一些问题:
如何快速发现问题?
如何判断故障影响范围?
如何梳理服务依赖以及依赖的合理性?
如何分析链路性能问题以及实时容量规划?
分布式链路追踪(Distributed Tracing),就是将一次分布式请求还原成调用链路,进行日志记录,性能监控并将一次分布式请求的调用情况集中展示。比如各个服务节点上的耗时、请求具体到达哪台机器上、每个服务节点的请求状态等等。
常见的链路追踪技术有下面这些:
cat由大众点评开源,基于Java开发的实时应用监控平台,包括实时应用监控,业务监控 。 ...
SpringCloudAlibaba入门系列(5) - 服务网关Gateway
摘要:服务网关Gateway的介绍及实例。
5.1 网关简介大家都都知道在微服务架构中,一个系统会被拆分为很多个微服务。那么作为客户端要如何去调用这么多的微服务呢?如果没有网关的存在,我们只能在客户端记录每个微服务的地址,然后分别去调用。
这样的架构,会存在着诸多的问题:
客户端多次请求不同的微服务,增加客户端代码或配置编写的复杂性
认证复杂,每个服务都需要独立认证。
存在跨域请求,在一定场景下处理相对复杂。
上面的这些问题可以借助API网关来解决。
所谓的API网关,就是指系统的统一入口,它封装了应用程序的内部结构,为客户端提供统一服务,一些与业务本身功能无关的公共逻辑可以在这里实现,诸如认证、鉴权、监控、路由转发等等。
添加上API网关之后,系统的架构图变成了如下所示:
我们也可以观察下,我们现在的整体架构图:
在业界比较流行的网关,有下面这些:
Ngnix+lua
使用nginx的反向代理和负载均衡可实现对api服务器的负载均衡及高可用lua是一种脚本语言,可以来编写一些简单的逻辑, nginx支持lua脚本
Kong基于Nginx+Lua开发,性能高,稳定,有多 ...
SpringCloudAlibaba入门系列(4) - 服务调用Feign和Dubbo
摘要:介绍基于Feign来实现HTTP Restful服务的简化调用和基于阿里巴巴的Dubbo组件来实现RPC远程服务调用。
4.1 基于Feign实现服务调用4.1.1 什么是FeignFeign是Spring Cloud提供的一个声明式的伪Http客户端, 它使得调用远程服务就像调用本地服务一样简单, 只需要创建一个接口并添加一个注解即可。
Nacos很好的兼容了Feign, Feign默认集成了 Ribbon, 所以在Nacos下使用Fegin默认就实现了负载均衡的效果。
4.1.2 Feign的使用1 加入Fegin的依赖
12345<!--fegin组件--><dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-openfeign</artifactId></dependency>
2 在主类上添加Fegin的注解
1234@SpringBootAppl ...
SpringCloudAlibaba入门系列(3) - 服务治理组件Nacos
摘要:服务治理组件Nacos的介绍及应用,它包括了服务注册中心(discovery)和服务配置中心(config)。
3.1 服务治理介绍先来思考一个问题
通过上一章的操作,我们已经可以实现微服务之间的调用。但是我们把服务提供者的网络地址(ip,端口)等硬编码到了代码中,这种做法存在许多问题:
一旦服务提供者地址变化,就需要手工修改代码
一旦是多个服务提供者,无法实现负载均衡功能
一旦服务变得越来越多,人工维护调用关系困难
那么应该怎么解决呢, 这时候就需要通过注册中心动态的实现服务治理。
什么是服务治理
服务治理是微服务架构中最核心最基本的模块。用于实现各个微服务的自动化注册与发现。
服务注册:在服务治理框架中,都会构建一个注册中心,每个服务单元向注册中心登记自己提供服务的详细信息。并在注册中心形成一张服务的清单,服务注册中心需要以心跳的方式去监测清单中的服务是否可用,如果不可用,需要在服务清单中剔除不可用的服务。
服务发现:服务调用方向服务注册中心咨询服务,并获取所有服务的实例清单,实现对具体服务实例的访问。
通过上面的调用图会发现,除了微服务,还有一个组件是服务注册中 ...