`
小网客
  • 浏览: 1247489 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

小文件系统调研

    博客分类:
  • DB
 
阅读更多

场景需求:

涉及文件如下:

1.大量的用户头像;

2.大量的用户通过web层上传的word文档;

业务如下:

1.上述文件需要进行存储,也就是小文件存储;

2.同时各个web层的节点能够读到;

3.能够对文件进行crud;

 

调研开源产品列表如下:

TFS

FastDFS

MongoDB

对比一览表:

开源产品 TFS FastDFS MongoDB 
实现语言 C/C++ C/C++ C/C++
授权协议 GPLv2 GPLv3 AGPL
跨平台 只支持Linux 只支持Linux
Java Api
概述 TFS是一个高可扩展、高可用、高性能、面向互联网服务的分布式文件系统,其设计目标是支持海量的非结构化数据。淘宝内部使用的分布式文件系统,针对海量小文件的随机读写访问性能做了特殊优化,承载着淘宝主站所有图片、商品描述等数据存储。 开源的分布式文件系统,她对文件进行管理,功能包括:文件存储、文件同步、文件访问(文件上传、文件下载)等,解决了大容量存储和负载均衡的问题。特别适合以文件为载体的在线服务,如相册网站、视频网站等等。 以GridFS文件规范存储在MongoDB。数据库支持以BSON格式保存二进制对象。  但是MongoDB中BSON对象最大不能超过4MB。  GridFS 规范提供了一种透明的机制,可以将一个大文件分割成为多个较小的文档。这将容许我们有效的保存大的文件对象,特别对于那些巨大的文件,比如视频。
是否适合做大规模小文件存储 适合 适合 不太适合,除非小文件不是海量
分享到:
评论

相关推荐

    并行文件系统调研报告

    ### 并行文件系统调研报告知识点总结 #### 一、并行文件系统概览 - **背景介绍**:随着计算能力的迅速提升,磁盘I/O能力成为了制约高性能计算发展的瓶颈之一。传统的串行文件系统难以满足大规模并行计算的需求,...

    MooseFS分布式文件系统调研分析

    MooseFS,简称MFS,是一种可扩展、高可用性的分布式文件系统,它通过将文件数据分散存储在多台服务器上,实现了高容量、高性能的存储解决方案。MFS的核心设计目标是提供容错性和高可用性,确保即使在部分硬件故障的...

    操作系统课程设计--模拟文件管理系统

    - 文件的创建、删除、重命名操作涉及到文件系统的元数据管理,包括在文件系统表中记录文件的信息,如文件名、大小、创建时间等。 - 文件夹管理则需要实现目录结构的维护,支持递归操作,如查找、遍历目录树。 3. ...

    图书管理系统-系统调研报告.doc

    3. **模块化设计**:系统采用模块化设计思想,将不同的功能划分成不同的模块,如文件管理、图书信息处理、业务查询、业务分析、系统设置等,使得系统具有更好的可扩展性和易用性。 4. **权限管理**:考虑到不同员工...

    营销系统调研报告.doc

    【营销系统调研报告】 营销系统是企业管理和运营的重要组成部分,主要负责企业的市场推广、销售管理、客户服务等多个环节。本报告将对北极星信息工程有限公司的营销系统进行详细调研,涵盖其部门架构、岗位职责和...

    投核保系统业务调研报告全文.pdf

    ### 投核保系统业务调研报告知识点解析 #### 一、背景介绍 本文档是对“投核保系统业务调研报告全文.pdf”的详细解读,旨在深入分析该报告中的关键信息及其在IT项目管理与软件开发过程中的应用。投核保系统业务调研...

    信息系统第三方确认测试(功能、性能)需求调研表【模板】.docx

    【测试申请资料】是第三方测试机构进行测试前必须提供的文档,包括《第三方确认测试申请单》、《需求调研表》、《可研及可研批复文件》、《系统需求规格说明书》、《系统概要设计说明书》、《系统安装部署手册》、...

    软件实施之业务调研目录

    1. **通知公告板版块划分调研**:探讨通知公告板的版块划分,例如“通知”、“文件”、“公告”等,以及各个版块的发布权限和查看权限,确保信息的有效传递和管理。 2. **外出与请假录入方式调研**:调研外出与请假...

    软件系统功能需求调研表(信息系统项目需求调研表)说课讲解.pdf

    系统与其他系统的交互也被纳入调研范围,如Q1询问了与文书处理系统、电子公文传输系统和小OA系统会议管理子系统的关系,以识别可能的集成需求和接口设计。对于系统文件是否需要盖章、现有处理方式、历史数据处理方法...

    日本标准相机DCF文件格式标准

    1. 文件系统结构:该标准规定了相机文件系统的结构,包括文件夹、文件命名、目录结构等。 2. 文件格式:该标准规定了相机文件的格式,包括图像文件、音频文件、视频文件等。 3. 元数据:该标准规定了相机文件的元...

    调研报告——校园规模的分布式文件共享系统1

    【分布式文件系统】是针对大数据时代数据存储挑战的解决方案之一,它通过网络连接多台主机,使得文件可以在这些主机间共享。与传统的本地文件系统不同,分布式文件系统客户端并不直接访问存储设备,而是通过特定的...

    百度云文档调研

    **实现方式**:删除操作较为简单,主要是调用文件系统的删除命令。为了防止误删,可能会有二次确认提示。 #### 四、技术讨论点 - **上传与下载的数据传输方式**:在实际应用中,上传和下载文件时采用的数据传输方式...

    分布式存储系统调研1

    TFS,全称为淘宝文件系统,是阿里巴巴集团为解决亿级乃至十亿级小文件存储问题而设计的一种分布式文件系统。它的核心设计特点是将小文件聚合到一个Block中,以提高随机IO性能和存储效率。TFS由NameServer和Data...

    艾瑞通新调研查看器1.0 小工具下载

    【艾瑞通新调研查看器1.0】是一款专为数据调研分析设计的小工具,它提供了便捷的数据查看和处理功能,旨在帮助用户更高效地理解和利用调研数据,从而提升工作效率,辅助决策,甚至可能带来更多的商业机会。...

    操作系统调研报告.docx

    在操作系统调研报告中,我们将关注操作系统提供的三种主要接口:命令接口、图形接口和程序接口。 命令接口是最早期的操作系统与用户交互的方式,用户需要通过键盘输入特定的命令来执行操作。命令接口通常包括一组预...

    电子行业企业管理全国援外电子文件调研报告终版.pdf

    完整性则涵盖了文件内容的完整性和有机联系的文件系统的完整;可读性保证了文件的可理解和利用性,包括信息识别、存储系统的可靠性以及载体的兼容性。 1.2 管理模式:电子文件管理分为日常办公管理模式和档案电子...

    软件公司企业系统调研分析报告

    【XX软件有限公司企业系统调研分析报告】 本报告旨在详尽分析浙江XX软件有限公司的企业系统,以便深入理解其各个部门的业务流程和系统运作方式。以下是报告的主要内容: **第一章XX企业系统调研报告** 该章节概览...

Global site tag (gtag.js) - Google Analytics