`
datamachine
  • 浏览: 164006 次
社区版块
存档分类
最新评论

将MongoDB导出成csv文件

    博客分类:
  • DB
阅读更多

   来源:https://plus.google.com/+VicNgrail/posts/ebS9JUtFopw。

  Mongodb可以存储非结构化数据,要将这些数据导出为标准的结构化数据会存在一定的困难。用集算器结合MongoDB可以方便的导出标准化数据,下面看一下具体做法。

  Collection test的部分数据如下:

/* 0 */

{

  “_id” : ObjectId(“5518f6f8a82a704fe4216a43″),

  “id” : “No1″,

  “cars” : {

    “name” : “Putin”,

    “car” : ["porche", "bmw"]

  }

}

 

/* 1 */

{

  “_id” : ObjectId(“5518f745a82a704fe4216a44″),

  “id” : “No2″,

  “cars” : {

    “name” : “jack”,

    “car” : ["Toyota", "Jetta", "Audi"]

  }

}

  需要将其导出为CSV文件,格式如下:



 

  集算器代码:



 

   A1:连接MongoDB,连接字格式为mongo://ip:port/db?arg=value&…

  A2:使用find函数从MongoDB中取数,形成游标。集合是test,过滤条件是空,取出_id之外的所有字段。集算器的find函数和mongdb的find函数类似,过滤条件的写法遵循mongodb规范。

  A3:取出需要的字段,拼合成结构化二维表,结果仍然是游标。其中~表示A2中的每个document,函数conj表示纵向合并。

  A4:将A3导出为逗号分隔的文本文件。@t表示导出时带列名。集算器引擎会自动管理缓存,每次从游标取一批记录到内存进行计算。

  A4:关闭MongoDB。

  如果用户想自己管理每批处理的数据,也可以用下面的代码:



 

   A3:循环从游标读数,每次读1000条到内存。A3的作用范围是缩进的B3到B4,其间可以用A3来引用循环变量。A3中的数据如下:



 

   B3:将本批次数据转换为结构化二维表,如下:



 

    B4:将本批次的计算结果追加到文件中。@a表示追加。

  • 大小: 20.9 KB
  • 大小: 33.2 KB
  • 大小: 34.5 KB
  • 大小: 20.3 KB
  • 大小: 13.9 KB
0
1
分享到:
评论

相关推荐

    mongoDb导入数据csv说明文档

    mongoexport 是 MongoDB 提供的一种命令行工具,用于将 MongoDB 数据导出到外部文件。使用以下命令可以将数据导出到 CSV 文件: ``` mongoexport --host localhost:28017 --db test --collection camera --type csv ...

    MongoDB导出查询结果到文件例子

    在上述的"MongoDB导出查询结果到文件例子"中,主要涉及到了以下两个关键知识点: 1. **查询操作**:在JavaScript脚本`dump.js`中,我们使用了`db.user.find()`方法来执行查询。这里的`user`是集合名,查询条件是`{...

    mongodb导出导入

    3. **mongoexport**: 这个命令将MongoDB的数据导出为JSON或CSV格式的文本文件。例如: ``` mongoexport -d persons -c persons -opersons.dat ``` 这将从`persons`数据库的`persons`集合导出数据到名为`persons....

    mongogitbackup是一个将MongoDB文本导出存储在Github中的工具

    `mongoexport`是MongoDB提供的一个命令行工具,用于将数据库中的数据导出为JSON或CSV格式的文本文件,这在数据迁移、备份或分析时非常有用。`mongoimport`则是它的反向操作,可以将这些文本文件重新导入到MongoDB中...

    mongodb 手册,帮助文件。

    - **日志文件**:配置 MongoDB 以将操作记录到日志文件。 - **日志级别**:设置不同级别的日志记录以满足调试需求。 - **日志轮换**:实现自动的日志文件轮换机制。 **4.2 日志内部机制** - **日志格式**:理解 ...

    MongoDB导入与导出.pdf

    MongoDB 提供的`mongoexport`工具用于将数据从MongoDB数据库中导出为JSON、CSV或TSV等格式的文件。如文件所示,`mongoexport`命令的基本语法如下: ``` mongoexport -c <集合名> -d <数据库名> -o <输出文件名> ...

    表格导出啊

    8. 拆分和合并:在某些情况下,可能需要将大表格拆分成多个小文件,或者合并多个表格为一个。 9. VBA宏和脚本:对于复杂的导出需求,可以编写VBA宏或使用Python等编程语言实现自动化导出。 10. API集成:如果涉及...

    mongodb备份

    MongoDB 支持将数据导出为 JSON 和 CSV 格式,这在数据分析和集成到其他系统时非常有用。 - **JSON 格式导出单张表**: 使用 `mongoexport` 命令,可以将集合导出为 JSON 文件: ``` mongoexport --host ...

    数据库中保存文件导出工具

    数据库中的文件导出工具是用于将存储在数据库中的非结构化或半结构化数据,如文本文件(.TXT)、Microsoft Word文档(.doc)和Excel表格(.xls),提取到本地文件系统的一种实用程序。这样的工具对于数据分析、备份...

    ej:将json导出到csv

    export json to csv原因我们使用mongodb会经常导出jsonmongoexport -d xbm-wechat-api -c senddeliveryhistories -o senddeliveryhistories.json --jsonArray --query "{date:{\$in:['20150821','20150822']}}"但...

    特定大数据量的CSV文件的读取

    本篇将深入探讨如何在8秒内读取一个9GB大小,含有1.2亿行14列的CSV文件,并对其进行显示。 首先,我们要理解CSV文件的结构。CSV(Comma Separated Values)是一种通用的、轻量级的数据交换格式,它以逗号分隔每一项...

    NoSQLBooster for MongoDB

    4. **数据导入导出**:用户可以轻松地将数据导入到MongoDB或者导出为JSON、CSV或其他格式的文件,这对于数据迁移和备份非常方便。 5. **备份与恢复**:NoSQLBooster支持一键式数据库备份和恢复功能,使得数据安全...

    深入分析Mongodb数据的导入导出

    `mongoexport`是MongoDB提供的一个命令行工具,它允许用户将数据从MongoDB集合导出为JSON或CSV格式的文件。这在备份数据、数据迁移或分析数据时非常有用。下面我们将详细介绍`mongoexport`的使用方法和常见实例。 *...

    MongoDB的备份与恢复1

    - **mongoexport**: 用于将MongoDB数据库中的集合导出为JSON或CSV格式的文件。 - **mongoimport**: 反向操作,将JSON或CSV文件导入到MongoDB的集合中。 - **mongodump**: 实现对MongoDB数据库的物理备份,生成二进制...

    SqlServer数据导入MongoDB

    3. 数据导出:从SQL Server导出数据,可以使用SQL Server Management Studio(SSMS)或其他第三方工具,如bcp命令行工具,生成CSV或XML文件,或者直接通过ODBC/JDBC接口获取数据。 4. 数据加载:使用MongoDB的mongo...

    NoSql mongoDB安装文件

    - **导入/导出数据**:NoSQL Manager支持从JSON、CSV、XML等多种格式导入和导出数据,方便数据迁移和备份。 - **性能监控**:可以实时监控MongoDB的性能指标,如CPU使用率、内存占用、磁盘I/O等。 - **脚本执行**...

    export_to_csv.py

    mongodb文件导出csv的脚本, 使用OrderedDict制定有顺序的字段名, 极大方便了数据导出存储中啰嗦的字段重命名问题,字段缺失报错问题和字段排序问题. 根据项目实际情况进行配置和微调后即可使用.

    mongodb 4.0.3 版本运行包,包括配置文件 mongodb-win32-x86_64-2008plus-ssl-4.0.3

    4. **mongorestore.exe** 和 **mongodump.exe**:数据备份和恢复工具,mongodump用于将数据库内容导出为二进制文件,mongorestore则用于从这些文件中恢复数据,这对于数据迁移和备份策略至关重要。 5. **mongoimport...

    mongodb-database-tools-windows-x86_64-100.3.1.zip

    4. mongoexport.exe:与mongoimport相反,它能将MongoDB数据导出为JSON、CSV或TSV格式的文件,便于数据分析或者在不同系统间转移数据。 5. mongofiles.exe:这是一个用于管理和操作MongoDB GridFS文件系统的命令行...

Global site tag (gtag.js) - Google Analytics