课程咨询: 400-996-5531 / 投诉建议: 400-111-8989
认真做教育 专心促就业
数据库的架构与应用一直以来都是大多数后端编程开发程序员需要学习的一个编程开发技术,而今天我们就一起来了解一下,数据库分库分表之后需要解决哪些问题。
一、概述
随着时间和业务的发展,数据库中表的数据量会越来越大,相应地,数据操作,增删改查的开销也会越来越大。因此,把其中一些大表进行拆分到多个数据库中的多张表中。
二、需要解决问题
2.1原有事务
由于分库分表之后,新表在另外一个数据库中,如何保证主库和分库的事务性是必须要解决的问题。
解决办法:通过在主库中创建一个流水表,把操作数据库的逻辑映射为一条流水记录。当整个大事务执行完毕后(流水被插入到流水表),然后通过其他方式来执行这段流水,保证终一致性。
2.2流水
所谓流水,可以理解为一条事务消息
通过在数据库中创建一张流水表,使用一条流水记录代表一个业务处理逻辑,因此,一个流水一定是能终正确执行的.因此,当把一段业务代码提取流水中必须要考虑到:
流水延迟处理性。流水不是实时处理的,而是用过流水执行器来异步执行的。因此,如果在原有逻辑中,需要特别注意后续流程对该流水是不是有实时依赖性(例如后续业务逻辑中会使用流水结果来做一些计算等)。
流水处理无序性。保证即使后生成的流水先执行,也不能出现问题。
流水终成功性。对每条插入的流水,该条流水一定要保证能执行成功
因此,提取流水的时候:
流水处理越简单越好
流失处理依赖越少越好
提取的流水在该业务逻辑中无实时性依赖
2.4流水处理完成
因为流水表是放在原数据库中,而流水处理完成后是操作分库,如果分库操作完成去更新老表流水消息,那么又是夸库事务,如何保证流水状态的更新和分库也是在一个事务的?
解决办法是:在分库中创建一个流水表,当流失处理完成以后,不是去更新老表状态,而是插入分库流水表中、
这样做的好处:
一般会对流水做索引,那么如果流水重复多次执行的时候,插入分库流水表的时候肯定由于索引检测不通过,整个事务就会回滚(当然也可以在处理流水事前应该再做一下幂等性判断)
这样通过判断主库流水是否在分库中就能判断一条流水是否执行完毕
三、流水处理器基本框架
流水处理器其实不包含任何业务相关的处理逻辑,核心功能就是:
通知业务接入方何时处理什么样的流水
检验流水执行的成功
注:流水执行器并不知道该流水表示什么逻辑,具体需要业务系统去识别后去执行相对应业务逻辑。
3.1流水执行任务
流水处理调度任务就是通过扫描待处理的流水,然后通知业务系统该执行哪一条流水。
3.2流水校验任务
流水校验任务就是要比较主库和分库中的流水记录,对执行未成功的流水通知业务系统进行重新处理,如果多次重试失败则发出告警。
【免责声明】本文系本网编辑部分转载,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与管理员联系,我们会予以更改或删除相关文章,以保证您的权益!更多内容请在707945861群中学习了解。