数据传输工具，在全量同步中，往往是并发执行的，dts有个重写逻辑，是： 1）DTS碰到死锁的时候，会当前session中重试，继续写入数据。比如：DTS一批写入1024条数据，写到第1000条失败了，会在当前session中继续从头写入这1024条数据。这个过程可能会出现数据重复写入，会发生主键冲突 […]
对移动云的数据库的一些调研
pdf文件： 海山数据库 FreeMind文件： 海山数据库
sysbench报错max_prepared_stmt_count
在一个8c16g的阿里云mysql上进行sysbench，在run 压测的时候，报错max_prepared_stmt_count不够了：
|
1 |
sysbench oltp_read_write --mysql-host=rm-wedtteessttm.mysql.rds.aliyuncs.com --mysql-port=3306 --mysql-user=**** --mysql-password=********* --mysql-db=testdb --tables=30 --table-size=500000 --threads=64 --time=600 --report-interval=10 run |
max_prepared_stmt_count的值，可以参考下面的表格进行设置： 测试模型 p […]
阿里云dts过滤测试
用一个8c16g共享型的mysql，同步到4c8g的共享型mysql，利用sysbench 加载数据
|
1 |
sysbench oltp_read_write --mysql-host=rm-xyetdtwsoistegdhed.mysql.rds.aliyuncs.com --mysql-port=3306 --mysql-user=**** --mysql-password=***** --mysql-db=testdb --tables=30 --table-size=500000 --threads=30 prepare |
进行dts同步，dts选择的类型是small，从深圳到香港。 在配置任务对象时，对于table中的某个需要增加过滤条件的表，点击“编 […]
阿里云redis 主从版，HA切换步骤和耗时分解
阿里云redis 主从版，HA切换（节点A为原主实例，切换到节点B），步骤和耗时分解： 序号 耗时（单位：毫秒） 步骤名称 备注 1 6ms 开始Switchover到实例B的流程 2 44ms 重新获取链路上的主节点A 3 5ms 获取A原主的角色 4 0ms Kill原B节点上的连接 5 5ms […]
多云用户，应该尽快切换到Valkey的使用
2024年3月20号，Redis Lab宣布，从redis 7.4开始，redis的开源协议，将从宽松的BSD协议，使用者可以任意使用和商用，转成SSPL v1（Server Side Public License）和RSAL v2（Redis Source Available License）协议 […]
谈谈向量数据库
最近公司里，向量数据库的需求越来越多。前几天请aws的诸位专家一起来开会讨论了一下，学到了不少知识。以下是我的心得和收获，仅代表我个人观点： 1. 知识库，图片识别，图片或视频近似度搜索，电商推荐等是很多公司的应用场景。 2. 向量计算，这其实每个数据库都可以拥有这个功能，向量近似度计算的方法：余弦 […]
简单谈谈aws limitless database
2023年11月27日，aws 宣布了他们的新的产品，aws无限数据库（limitless database）。我比较关注这个新产品，简单谈谈对他的看法。 大部分的信息，是来自于《AWS re:Invent 2023 – Monday Night Live Keynote with Pe […]
阿里云rds mysql更新证书的逻辑
证书更换的逻辑： 1. 只读节点是高可用版本的情况下（不适合只读节点是basic的版本）， 先对只读节点的slave进行更新证书。 1.1 更新证书的过程，先把证书路径下的证书文件进行删除或者重命名。因为如果生成新证书时，在同一路径下存在同名文件，则创建失败。（证书路径是数据库中 show vari […]
谈谈这次阿里云香港可用区C故障
阿里云在上周日（2022-12-18）发生了发生了香港region的可用区C的大规模故障，阿里云自己在也微信公共账号贴出了处理过程，服务影响，问题分析和改进措施。（《关于阿里云香港Region可用区C服务中断事件的说明》） 我使用阿里云不算多也不算少，2000个不到的实例，rds的mysql、pg、 […]
阿里云的rds的几个问题的探究
1. 阿里云的pg一键上云，其实是调用了pg_basebackup，这个功能不仅仅可以用在一键上云上，还能用在rds pg到rds pg的小版本升级上。 2. 阿里云的pg大版本升级过程： （一）准备阶段： 2.1 界面发起大版本升级； 2.2 原实例snapshot（注，需要打开秒级备份功能，不然 […]
pg_hba.conf文件的策略顺序
原来一直以为这个文件中，每一行的顺序是没有区别的，但是最近的一个需求，研究时发现，原来这个文件对登录的会话，是从上往下依次判断的： 具体的规则是：
|
1 2 3 |
1. 登录的会话，会顺着pg_hba.conf的策略一条一条往下走。 2. 如果遇到匹配到的规则，那么做成判断，是信任，还是拒绝，还是验证密码。后续就不往下走继续判断规则了。 3. 如果某一条规则不符合，没匹配成功，就继续往下走，继续做判断，直到所有的规则都判断完毕。 |
因此，如果我有一个用于备份的用户，叫anybackup（爱数备份软件），由于权限设置的 […]