锁定老帖子 主题:3亿数据快速检索实现
精华帖 (0) :: 良好帖 (0) :: 新手帖 (0) :: 隐藏帖 (0)
|
|
---|---|
作者 | 正文 |
发表时间:2009-05-25
天机老人 写道 javaTo 写道 照异常的方法,hash后分段置于不同的库(服务器)中,然后去定位操作
hash分段我们也想过,但是量太大了! 查询好像目前而言好解决一点!查出来的数据还需要导出工作! 更新好像变的又点难度了! 多个库多个磁头..写的总是快些吧. |
|
返回顶楼 | |
发表时间:2009-05-25
按时间,地区分成小表,再不行就分库
|
|
返回顶楼 | |
发表时间:2009-05-25
"经过实验500w条的数据在用plsql直接select,只需要0.2秒",
这个听起来有点夸张。即使实现了0.2秒的查询,但也只是你单个测试,如果遇到批量测试,或者并发,你这个0.2 我估计会变成200秒 或者2000秒。 不过500W 0.2秒 要是真的话,已经很牛了。请教经验 |
|
返回顶楼 | |
发表时间:2009-05-25
抛出异常的爱 写道 试试数据的hash 分块根据某几位的hash值决定数据所在的DB...3亿对发号地区.对发号时间多次规范之后....
抛总的意见很中肯 |
|
返回顶楼 | |
发表时间:2009-05-25
shuai45 写道 "经过实验500w条的数据在用plsql直接select,只需要0.2秒",
这个听起来有点夸张。即使实现了0.2秒的查询,但也只是你单个测试,如果遇到批量测试,或者并发,你这个0.2 我估计会变成200秒 或者2000秒。 不过500W 0.2秒 要是真的话,已经很牛了。请教经验 郁闷!遗留系统上的500w数据用plsql做的试验,请看清楚plsql直接select |
|
返回顶楼 | |
发表时间:2009-05-25
最后修改:2009-05-25
考虑使用LDAP怎么样。。。。
|
|
返回顶楼 | |
发表时间:2009-05-25
做索引表!!!
|
|
返回顶楼 | |
发表时间:2009-05-25
caiceclb 写道 考虑使用LDAP怎么样。。。。
LDAP更新非常成问题! |
|
返回顶楼 | |
发表时间:2009-05-25
caiceclb 写道 考虑使用LDAP怎么样。。。。
LDAP不适合模糊查询,如果是根据固定的号码精确的查出一条是非常快的,当然要看你的BackEnd是什么?如果BackEnd就是Oracle或者Mysql那么查询的速度自然跟数据库表的查询速度一样喽。 但致命的问题是update,如果update的量大,速度非常非常慢。 |
|
返回顶楼 | |
发表时间:2009-05-25
0.2s,在pl/sql上查询的只是分页的第一页吧。。。
|
|
返回顶楼 | |