博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Mysql分页查询丢失数据
阅读量:6711 次
发布时间:2019-06-25

本文共 480 字,大约阅读时间需要 1 分钟。

  hot3.png

问题场景描述

将一个sql的查询结果集导出为文件,由于一次查询结果集可能上百万条,在开发环境和测试环境均造成了内存溢出的问题。因此改为分页查询数据的方式,虽然慢点,但是规避了内存溢出的问题。 
但是,在这一百多万条导出的数据中,发现导出的文件中的数据与数据库直接查询出的数据不一致。偶发性的部分数据缺失,部分数据有重复,但是总条数一致。

问题分析

最早怀疑是程序问题,但是最后发现程序没问题,然后就把目光聚焦到了一直以为没问题的sql上面。由于我的查询sql最后是用时间来排序的,也就是:order by create_date desc。刚开始,我认为通过时间排序了,已经能保证数据的顺序。但是,当我用了其他几个字段和事件一起做排序,保证每次查询结果集的顺序强一致性,就没有发生过数据丢失或数据重复的问题。

结论

在使用limit进行分页时,一定要保证当前每次查询结果集的顺序一致性。不然可能会出现分页数据顺序不一致,导致分页查询的结果集和期望的结果集不一致
原文:
 

转载于:https://my.oschina.net/luanwu/blog/3029735

你可能感兴趣的文章
5015/5/5 谈谈http协议
查看>>
nagios安装部署
查看>>
java中重载与重写的区别
查看>>
Fix:方便快捷的Web开发平台
查看>>
IT管理员如何保证你的内网安全?
查看>>
交互原型画得丑?29个优秀UI/UX线框草图
查看>>
用U盘安装debian系统
查看>>
Mac 下得Jmeter 测试
查看>>
java基础之本地线程
查看>>
sqlserver2005 递归查询
查看>>
30天提升技术人的写作力-第十一天
查看>>
OSPF环境下帧中继的配置
查看>>
Python 17.4 使用Web框架
查看>>
马哥1-3
查看>>
spring容器
查看>>
Linux系统架构(LB-HA集群)-nginx负载均衡集群配置
查看>>
ios版塔防类游戏源码
查看>>
Backup Exec 2010 V-79-57344-65072
查看>>
docker的学习
查看>>
我的友情链接
查看>>