`
iyuan
  • 浏览: 471750 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论

mongodb 与 mysql 数据同步

阅读更多
其实有点标题了,主要是自己做个备忘。

由于mongodb目前只提供bson格式(也支持json)啦,而本人的老大又有些对nosql
惶恐(算是基于对纯内存的稳固性的不信任吧)。故而迫切需求将基于mongodb的数据做一个mysql的备份。google了一圈也没找着类似需求(是不是这个需求太过于BT了?)。

既然mongodb无法对sql直接支持,目前的做法只能是遍历取出数据了(幸而这也不慢)。主要卡在数据如何塞入mysql,不是dba,一时半会还真只想到边取边插入的办法,于是乎,mysql不干了。

于是乎,发现了(终于)强大的mysqlimport.

额,水多了。

最终组织的数据文本是这个样子:
"","1","1","0","0","","1","0","url","264442626","0","0","0","0","1","20101218","6","0","0"
"","1","1","0","0","","1","0","url","264442626","0","0","0","0","1","20101218","6","0","1"


导入代码:
mysqlimport -h xxx.xxx.xxx -u root -pxxxxxx -L --fields-terminated-by=, --fields-enclosed-by=\" test ./201012_link.txt


解释:
数据文本就是以行为单位,以逗号为分隔符,以双引号包夹为完整字段内容,按照mysql表的字段顺序排列。
mysqlimport是mysql自带的工具,具体参数内容可以help。

这里关键要注意到是数据文本的第一列,这里是置的空字符串。如果空字符串对应的列有自增长或者默认值之类的,数据库内容会自动替换成对应的自增长数字等。

到这里,我的备忘算是结束了。不过真正的大杀器连尖尖角都还没有露出来。

--据说,mongodb slave同步是用的xml。
--据说,这个xml是可以获取到的。
--据说,sphinx这个强大的分词工具是支持xml的。
--据说,bson是可以压缩存放的。
--据说...

未来,真的是,为什么还要mysql?!
2
1
分享到:
评论
1 楼 lost_alien 2011-04-09  
往mysql里备份可能也是出于为了将来出报表什么的,便于查询吧?

相关推荐

    jdbc java mongodb mysql 相互同步

    本文将深入探讨如何使用Java的JDBC(Java Database Connectivity)接口与MongoDB、MySQL数据库进行数据交互,并实现相互之间的数据同步。 首先,我们需要理解JDBC,它是Java语言访问数据库的标准API,能够连接并...

    canal 的 mysql 与 redis/memcached/mongodb 的 nosql 数据实时同步方案

    以上就是关于“canal”的MySQL与“redis/memcached/mongodb”的NoSQL数据实时同步方案的主要知识点,涵盖了数据库技术、数据同步原理以及在实际应用中的挑战和解决方案。在实际操作中,需要结合具体业务需求和系统...

    go-mysql-mongodb:将MySQL数据同步到MongoDB

    go-mysql-mongodb是一项将MySQL数据自动同步到MongoDB的服务。 它首先使用mysqldump来获取原始数据,然后与binlog增量同步数据。 安装 安装Go( )并设置您的 go get github.com/WangXiangUSTC/go-mysql-mongodb ...

    mongodb-to-mysql-sync:MongoDB 到 MySQL 同步

    ##MongoDB 到 MySQL 数据流 将 MongoDB 中的数据实时流式传输到 MySQL 数据库。 对 NoSQL 数据库中的数据启用 SQL 查询。 配置: 更新config.json的 mongodb 配置 { " service " : " mycol001 " , " mongodb " : ...

    使用Kettle同步mysql数据,增量同步教程执行步骤

    在IT行业中,数据同步是一项关键任务,特别是在大数据处理和企业级应用中。本文将深入探讨如何使用Kettle工具实现MySQL数据库之间的增量同步。Kettle,也称为Pentaho Data Integration (PDI),是一款强大的ETL(提取...

    node.js将MongoDB数据同步到MySQL的步骤

    最近由于业务需要,APP端后台需要将MongoDB中的数据同步到Java端后台的MySQL中,然后又将MySQL中算好的数据,同步到MongoDB数据库。 这个过程看是很繁琐,实际上这就是一个互相写表的过程。 接下来就看看node.js将...

    mysql 和mongodb 互相同步.zip

    本资料“mysql 和mongodb 互相同步.zip”关注的是如何在这两个不同类型的数据库之间进行数据同步和批量操作,这对于数据迁移、数据整合或构建混合数据库架构的企业来说至关重要。 MySQL是一种开源、免费的关系型...

    MongoDB热温数据的最佳实践.pdf

    - **实时性**:实现实时数据同步,延迟仅在秒级,确保数据的即时更新。 - **高效性**:高效地迁移大量数据,同时保持系统的正常运行。 - **安全性**:确保数据迁移过程中的数据安全,防止数据丢失或泄露。 - **...

    flink cdc连接mongodb、mysql的maven项目例子工程代码。

    通过配置Flink与Debezium,开发者可以实现对MySQL数据流的实时监控和处理。 **Maven项目结构** 项目使用Maven作为构建工具,`pom.xml`文件包含了项目的依赖管理。在这里,我们将看到针对Apache Flink、MongoDB CDC...

    mongo数据迁移到mysql的python脚本

    mongodb的数据迁移到mysql数据库中脚本, 在迁移前需要将mysql的表创建完成,他只负责数据同步

    MongoDB热温数据的最佳实践.pptx

    - **兼容性**:支持多种数据库系统(如MySQL、SQL Server、Oracle等)和数据源(如ElasticSearch、Hadoop),方便数据迁移。 - **实时性**:实现数据的实时同步,延迟在秒级,确保数据新鲜度。 - **自定义**:...

    Python实现将数据框数据写入mongodb及mysql数据库的方法

    本文实例讲述了Python实现将数据框数据写入mongodb及mysql数据库的方法。分享给大家供大家参考,具体如下: 主要内容: 1、数据框数据写入mongdb方法 2、数据框数据写入mysql方法 为了以后不重复造轮子,这里总结下...

    navicat 连接mysql、mongodb工具

    - 数据同步:Navicat具有数据比较和同步功能,可以帮助用户找出数据库之间的差异,并生成脚本进行同步。 - 数据导入/导出:支持从多种格式(如CSV、Excel、XML等)导入数据到数据库,同时也可将数据导出为各种格式...

    cpp-基于canal的mysql与redismemcachedmongodb的nosql数据实时同步方案案例canalclient

    描述中的“基于canal 的 mysql 与 redis/memcached/mongodb 的 nosql 数据实时同步方案 案例,canal client”进一步明确了这个项目的主要目标是通过Canal来实现MySQL与三种NoSQL数据库之间的数据同步,并提供了具体...

    详解MongoDB数据还原及同步解决思路

    而如果需要将MongoDB数据同步到其他系统,例如关系型数据库,可以使用如`mongo-connector`这样的工具,它能够实现实时的双向同步。 总结来说,MongoDB的数据还原和同步策略主要依赖于Oplog机制,结合复制集和适当的...

    redis mongodb mysql.7z

    "Redis与mysql同步之路"可能会讲解如何设置数据同步,使得两个数据库间的数据保持一致。 综上所述,这个压缩包为初学者提供了一条学习路径,从安装数据库开始,逐步深入到使用、集成到实际项目中,并提供了多种可视...

    mysql postgresql Greenplum 实时同步

    它能够支持MySQL、PostgreSQL和MongoDB等多种数据源,通过高效的数据同步机制实现不同数据库之间的数据实时迁移。 #### 二、Bireme工具简介 Bireme的设计目标在于简化从源数据库到Greenplum/HashData数据仓库的数据...

    go-mysql-transfer是一款MySQL数据库实时增量同步工具.rar

    从而在数据库和接收端之间形成一个高性能、低延迟的增量数据同步更新管道。 特性 1、简单,不依赖其它组件,一键部署 2、集成多种接收端,如:Redis、MongoDB、Elasticsearch、RocketMQ、Kafka、RabbitMQ、...

    支持mysql、MongoDB数据变更订阅分发

    MySQL和MongoDB是两种广泛应用的关系型数据库和非关系型数据库,它们在数据处理和存储上各有优势。在大型系统中,实时数据变更订阅...通过集成kkbinlog这样的工具,可以有效地实现数据库监控、数据同步和实时数据处理。

    即时通讯PHP+UNIAPP+MYSQL+MONGODB.rar

    综上所述,这个项目结合了PHP的后端处理能力、UNIAPP的跨平台前端展示、MYSQL的结构化数据存储以及MONGODB的高性能实时数据处理,构建了一个功能完善的即时通讯系统。这样的架构既保证了系统的稳定性,又实现了高效...

Global site tag (gtag.js) - Google Analytics