- 浏览: 2654518 次
- 来自: 杭州
文章分类
- 全部博客 (1188)
- webwork (4)
- 网摘 (18)
- java (103)
- hibernate (1)
- Linux (85)
- 职业发展 (1)
- activeMQ (2)
- netty (14)
- svn (1)
- webx3 (12)
- mysql (81)
- css (1)
- HTML (6)
- apache (3)
- 测试 (2)
- javascript (1)
- 储存 (1)
- jvm (5)
- code (13)
- 多线程 (12)
- Spring (18)
- webxs (2)
- python (119)
- duitang (0)
- mongo (3)
- nosql (4)
- tomcat (4)
- memcached (20)
- 算法 (28)
- django (28)
- shell (1)
- 工作总结 (5)
- solr (42)
- beansdb (6)
- nginx (3)
- 性能 (30)
- 数据推荐 (1)
- maven (8)
- tonado (1)
- uwsgi (5)
- hessian (4)
- ibatis (3)
- Security (2)
- HTPP (1)
- gevent (6)
- 读书笔记 (1)
- Maxent (2)
- mogo (0)
- thread (3)
- 架构 (5)
- NIO (5)
- 正则 (1)
- lucene (5)
- feed (4)
- redis (17)
- TCP (6)
- test (0)
- python,code (1)
- PIL (3)
- guava (2)
- jython (4)
- httpclient (2)
- cache (3)
- signal (1)
- dubbo (7)
- HTTP (4)
- json (3)
- java socket (1)
- io (2)
- socket (22)
- hash (2)
- Cassandra (1)
- 分布式文件系统 (5)
- Dynamo (2)
- gc (8)
- scp (1)
- rsync (1)
- mecached (0)
- mongoDB (29)
- Thrift (1)
- scribe (2)
- 服务化 (3)
- 问题 (83)
- mat (1)
- classloader (2)
- javaBean (1)
- 文档集合 (27)
- 消息队列 (3)
- nginx,文档集合 (1)
- dboss (12)
- libevent (1)
- 读书 (0)
- 数学 (3)
- 流程 (0)
- HBase (34)
- 自动化测试 (1)
- ubuntu (2)
- 并发 (1)
- sping (1)
- 图形 (1)
- freemarker (1)
- jdbc (3)
- dbcp (0)
- sharding (1)
- 性能测试 (1)
- 设计模式 (2)
- unicode (1)
- OceanBase (3)
- jmagick (1)
- gunicorn (1)
- url (1)
- form (1)
- 安全 (2)
- nlp (8)
- libmemcached (1)
- 规则引擎 (1)
- awk (2)
- 服务器 (1)
- snmpd (1)
- btrace (1)
- 代码 (1)
- cygwin (1)
- mahout (3)
- 电子书 (1)
- 机器学习 (5)
- 数据挖掘 (1)
- nltk (6)
- pool (1)
- log4j (2)
- 总结 (11)
- c++ (1)
- java源代码 (1)
- ocr (1)
- 基础算法 (3)
- SA (1)
- 笔记 (1)
- ml (4)
- zokeeper (0)
- jms (1)
- zookeeper (5)
- zkclient (1)
- hadoop (13)
- mq (2)
- git (9)
- 问题,io (1)
- storm (11)
- zk (1)
- 性能优化 (2)
- example (1)
- tmux (1)
- 环境 (2)
- kyro (1)
- 日志系统 (3)
- hdfs (2)
- python_socket (2)
- date (2)
- elasticsearch (1)
- jetty (1)
- 树 (1)
- 汽车 (1)
- mdrill (1)
- 车 (1)
- 日志 (1)
- web (1)
- 编译原理 (1)
- 信息检索 (1)
- 性能,linux (1)
- spam (1)
- 序列化 (1)
- fabric (2)
- guice (1)
- disruptor (1)
- executor (1)
- logback (2)
- 开源 (1)
- 设计 (1)
- 监控 (3)
- english (1)
- 问题记录 (1)
- Bitmap (1)
- 云计算 (1)
- 问题排查 (1)
- highchat (1)
- mac (3)
- docker (1)
- jdk (1)
- 表达式 (1)
- 网络 (1)
- 时间管理 (1)
- 时间序列 (1)
- OLAP (1)
- Big Table (0)
- sql (1)
- kafka (1)
- md5 (1)
- springboot (1)
- spring security (1)
- Spring Boot (3)
- mybatis (1)
- java8 (1)
- 分布式事务 (1)
- 限流 (1)
- Shadowsocks (0)
- 2018 (1)
- 服务治理 (1)
- 设计原则 (1)
- log (0)
- perftools (1)
最新评论
-
siphlina:
课程——基于Python数据分析与机器学习案例实战教程分享网盘 ...
Python机器学习库 -
san_yun:
leibnitz 写道hi,我想知道,无论在92还是94版本, ...
hbase的行锁与多版本并发控制(MVCC) -
leibnitz:
hi,我想知道,无论在92还是94版本,更新时(如Puts)都 ...
hbase的行锁与多版本并发控制(MVCC) -
107x:
不错,谢谢!
Latent Semantic Analysis(LSA/ LSI)算法简介 -
107x:
不错,谢谢!
Python机器学习库
1. 数据格式传递 上个自己画的图 Mongodb-Java驱动基本流程
驱动里面操作的,是DBObject(用户提供的和已经转为Command格式的DBObject),OutMessage(可以转为byte[]写入Socket),Response,WriteResult(用户真正拿到的返回值)
层层封装,绕得我头都晕
2. 日志与Debug信息 日志采用JDK Logging,有1个比较关键的环境变量配置DB.TRACE,设置为true时,log的日志level会改变 … 我汗啊…. 原本以为另外一个配置DEBUG.DB也控制了什么东西,后来才发现,这配置完全没人调用,应该是历史遗留下来的
还有一些比较诡异的环境变量设置 MONGO-TRACKLEAKS — SimplePool里面的设置,同样作用于连接池 DEBUG.MONGO DEBUG.DBPOINTER — 已经废弃的类,直接无视吧 com.mongodb.cleanerIntervalMS — 定期轮询DB实例,执行 db.cleanCursors(true);
3. 切勿使用的类 com.mongodb.util.TestCase和com.mongodb.util.TestNGListener属于坑爹类,依赖TestNG,却不放在test文件夹中,MyAsserts也好不到哪里去 com.mongodb.util和com.mongodb.io包里面的类也不要用,很多类连驱动本身也没有使用!!
4. 对象序列化/反序列化的规则 比较有趣的是内置的Json序列化/反序列化类,里面解释了一些类型映射方面的规则(序列化的代码在JSon类,反序列的代码在JSONCallback): ObjectId — {$oid : “具体的值”} java.util.Date — {$date : “yyyy-MM-dd’T’HH:mm:ss.SSS’Z’”} 而且是UTC的,即不保存时区数据!! DBRefBase — {$ref : “集合名”, $id : 具体id的值} Pattern — {$regex:“正则表达式原型”, $options : “表达式的flag”} BSONTimestamp — {$ts: 具体时间, $inc:具体毫秒数} UUID — {$uuid : “uuid标准的toString()”} CodeWScope — {$code: 具体的值, $scope : 具体的值} Code — {$code: 具体的值} MinKey — {$minKey : 1} 没错,是固定为1 MaxKey — {$maxKey : 1} 同样是1 基本数据类型,封装类型,String,数组,List,Map当然都是支持的了,其他全部都是不可序列化的
而,真正进行DBObject转换为byte[]的类,是org.bson.BasicBSONEncoder,摘录一段关键代码:
if ( name.equals( "_transientFields" ) ) //不会被序列化的东西,终于有藏身之所 return; if ( DEBUG ) System.out.println( "\t put thing : " + name ); //竟然是syso,我晕 if ( name.equals( "$where") && val instanceof String ){ //特别吧? 呵呵 _put( CODE , name ); _putValueString( val.toString() ); return; } val = BSON.applyEncodingHooks( val ); if ( val == null ) putNull(name); else if ( val instanceof Date ) putDate( name , (Date)val ); else if ( val instanceof Number ) putNumber(name, (Number)val ); else if ( val instanceof Character ) putString(name, val.toString() ); else if ( val instanceof String ) putString(name, val.toString() ); else if ( val instanceof ObjectId ) putObjectId(name, (ObjectId)val ); else if ( val instanceof BSONObject ) putObject(name, (BSONObject)val ); else if ( val instanceof Boolean ) putBoolean(name, (Boolean)val ); else if ( val instanceof Pattern ) putPattern(name, (Pattern)val ); else if ( val instanceof Map ) putMap( name , (Map)val ); else if ( val instanceof Iterable) putIterable( name , (Iterable)val ); else if ( val instanceof byte[] ) putBinary( name , (byte[])val ); else if ( val instanceof Binary ) putBinary( name , (Binary)val ); else if ( val instanceof UUID ) putUUID( name , (UUID)val ); else if ( val.getClass().isArray() ) putArray( name , val ); else if (val instanceof Symbol) { //这个比较特别,在Json序列化中是不存在的,实际上就是对String简单封装一层 putSymbol(name, (Symbol) val); } else if (val instanceof BSONTimestamp) { putTimestamp( name , (BSONTimestamp)val ); } else if (val instanceof CodeWScope) { putCodeWScope( name , (CodeWScope)val ); } else if (val instanceof Code) { putCode( name , (Code)val ); } else if (val instanceof DBRefBase) { BSONObject temp = new BasicBSONObject(); temp.put("$ref", ((DBRefBase)val).getRef()); temp.put("$id", ((DBRefBase)val).getId()); putObject( name, temp ); } else if ( val instanceof MinKey ) putMinKey( name ); else if ( val instanceof MaxKey ) putMaxKey( name ); else if ( putSpecial( name , val ) ){ // no-op } else { // 全都不是? 那就只能抛错了哦 throw new IllegalArgumentException( "can't serialize " + val.getClass() ); }
没有特别针对Timestamp进行优化,只会按其父类java.util.Date进行处理咯,且BSONTimestamp是仅限内部使用的
5. 连接池的实现 SimplePool,一个对象池, 同时也是DBPortPool的基础 — 即Mongodb的内建数据库连接池,使用synchronized进行实现
6. 内置的Java对象 — DBObject映射支持 没看驱动源码之前,一直以为没这方面的支持,实际上还是有一个的,那就是ReflectionDBObject, 用法简介:
public class TestReflectionDBObject { public static void main(String[] args) throws Throwable { Mongo mongo = new Mongo(); DB db = mongo.getDB("wendal_test"); Person p = new Person(); p.setId(UUID.randomUUID()); p.setName("wendal"); DBCollection ps = db.getCollection("person"); ps.insert(p); ps.setObjectClass(Person.class); //接受DBObject的子类 Person p_db = (Person) ps.findOne(); Assert.assertEquals("wendal", p_db.getName()); System.out.println(Json.toJson(p_db)); mongo.close(); } public static class Person extends ReflectionDBObject { //必须继承,呵呵 private UUID id; private String name; //省略getter/setter } }
发表评论
-
基于tmpfs使用mongoDB
2013-08-28 13:51 1642基本思想 将MongoDB ... -
mongoDB如何query is Null
2013-07-24 15:09 1218试了半天,原来通过 db.taobaoItem.find( ... -
mongoDB性能问题
2013-03-23 21:43 1014mongoDB在高并发情况下的性能存在问题。 ... -
mongoDB 性能测试
2013-03-05 13:33 2177最近对mongoDB 性能测试,200万条数据,文件大小 ... -
mongoDB为什么用virtual memory mapping
2013-01-28 23:57 1251原文: http://blog.mongodb.org/po ... -
mongoDB亿级数据量性能测试
2013-01-28 23:54 1228原文:http://www.cnblogs.co ... -
mongoDB 虚内存
2013-01-28 23:29 0http://blog.mongodb.org/post/10 ... -
MongoDB 关于索引的建议
2013-01-23 14:32 1127我们收到了很多关于索引的问题。这一部分解答了其中的一小部分。 ... -
mongoDB 索引
2013-01-23 14:12 922索引常常用来大幅度 ... -
mongos结构记录
2013-01-16 00:11 983mong client< ---> mongo ... -
MongoDB数据文件内部结构
2012-12-29 11:40 931有人在Quora上提问:Mongo ... -
MongoDB范围查询的索引优化
2012-12-22 15:08 1754源文: http://blog.nosqlfan. ... -
mongoDB意外关闭重启
2012-12-03 16:36 2368线上一台mongoDB意外关闭,重启的时候报错: o ... -
MongoDB vs Redis vs Tokyo Tyrant 测试对比
2012-12-01 17:19 0* MongoDB vs Redis vs Tokyo T ... -
mongoDB NUMA问题
2012-12-01 14:05 1199NUMA的含义,简单点说,在有多个物理CPU的架构下,NUMA ... -
mongo 监控常用命令
2012-12-01 14:05 967db.stats() db.serverStatus(). ... -
mongoDB的储存机制
2012-11-30 16:27 1714在MongoDB的数据文件夹中(默认路径是/data/db)由 ... -
MongoDB与内存
2012-11-29 16:07 825原文:http://huoding.com/2011/08/ ... -
理解mongodb的ObjectId
2012-11-14 00:29 2743Posted in nosql on 三月 8th ... -
mongoDB 数据备份文档
2012-11-12 14:40 874参考:http://docs.mongodb.org/manu ...
相关推荐
### MongoDB Java Driver 简单操作详解 #### 一、简介 MongoDB 是一款非常流行的文档型数据库系统,因其灵活性和高性能而被广泛应用于多种场景之中。为了方便开发者使用 Java 进行开发,MongoDB 提供了官方的 Java ...
### MongoDB Java API 使用详解 #### 一、Java 驱动简介与一致性 MongoDB 的 Java 驱动是线程安全的,适用于大多数应用程序场景。通常情况下,只需要创建一个 `Mongo` 实例即可,因为它内部包含了一个连接池(默认...
MongoDB Java驱动提供了丰富的API来进行数据操作,如插入文档、查询数据、更新记录和删除记录等。例如,插入文档可以使用如下代码: ```java MongoCollection<Document> collection = database.getCollection(...
在"Java使用MongoDB的简单程序"中,我们将学习如何使用Java驱动程序连接到MongoDB数据库。Java驱动程序提供了一套API,使得开发者可以轻松地进行数据操作。基本步骤包括:创建MongoClient实例以连接到MongoDB服务器...
一个简单的“MongoDB Hello World”程序可能如下所示: ```java import com.mongodb.client.MongoClients; import com.mongodb.client.MongoClient; import com.mongodb.client.MongoDatabase; import org.bson....
MongoDB Java Demo是一个示例项目,它展示了如何在Java应用程序中使用MongoDB数据库。MongoDB是一种流行的NoSQL数据库,以其灵活性、高性能和易用性而闻名。与传统的SQL数据库不同,MongoDB使用文档型数据模型,支持...
在Java中,我们可以使用官方提供的 MongoDB Java 驱动程序来与 MongoDB 交互,包括创建集合。本篇将详细讲解如何使用Java来创建MongoDB集合。 1. 引入依赖 在使用MongoDB Java驱动程序之前,首先需要在项目中引入...
MongoDB的Java驱动是连接Java应用程序与MongoDB数据库的关键组件,它提供了丰富的API来执行各种数据库操作。在本示例中,我们将深入探讨如何使用Java驱动实现与MongoDB的交互。 首先,确保已经在项目中引入了...
**Java基于Jsoup+MongoDB的简单爬虫入门程序** 在现代互联网环境中,数据的获取与分析变得至关重要,而爬虫技术就是实现这一目标的重要工具。本教程将介绍如何使用Java编程语言,结合Jsoup库进行网页抓取,并利用...
Mybatis,作为Java领域的持久层框架,它提供了灵活的SQL映射机制,使得数据库操作变得简单高效。本文将深入探讨如何使用Mybatis拦截器来记录数据更新历史记录,并将其存储到MongoDB中。 首先,我们来理解Mybatis...
- 下面是一个简单的示例程序,用于连接MongoDB并执行基本的操作: ```java import com.mongodb.BasicDBObject; import com.mongodb.DB; import com.mongodb.DBCollection; import com.mongodb.DBCursor; ...
MongoDB支持多种查询方式,如简单查询、复合查询等。 ```java public void searchData() { // 显示集合 Set<String> colls = db.getCollectionNames(); showData(colls); // 查询集合中的所有记录 DBCursor ...
MongoDB Driver for JAVA 2.5.3 API是Java开发者用来与MongoDB数据库进行交互的官方驱动程序。这个API提供了丰富的功能,使开发人员能够轻松地执行查询、更新、插入和删除操作,以及处理复杂的聚合框架。以下是关于...
`Result.java`可能是用于封装查询结果的类,它可能包含如数据列表、总记录数、当前页码等信息。这个类可以帮助我们在Java后端和前端之间传递分页数据。例如: ```java public class Result<T> { private List<T> ...
3. 不忽视异常:不要简单地吞掉异常,而应记录日志或给出用户反馈。 4. 使用 throws 关键字:如果无法在当前方法内处理异常,可以声明方法抛出异常,由调用者处理。 5. 创建自定义异常:当需要特殊处理的异常时,...
对于开发者来说,MongoDB还提供了丰富的编程语言驱动,如Python的PyMongo、Java的MongoDB Java Driver等,方便在各种应用中集成数据库操作。 在"工具"这个标签下,我们可能讨论到MongoDB的管理工具,如MongoDB ...
在你的`mongo-test`目录下,你可以创建一个简单的测试应用,模拟数据的增删改操作,以验证Change Stream的监听效果。 总结:通过上述步骤,我们已经成功地在Spring Boot应用中整合了MongoDB的Change Stream功能。这...
在这个“mongodb例子”中,我们很可能会找到一个简单的MongoDB数据库操作示例,这对于初学者来说是极好的学习资源。 MongoDB使用JSON格式的文档来存储数据,这种格式灵活且易于理解。数据库、集合和文档是MongoDB中...