Facebook Scribe简介
Scribe是用来收集日志的服务器.它可以扩展到大规模的机器集群中,无论是网络故障还是服务器节点故障,都不会对日志收集造成影响.大规模集群系统中每个节点服务器上都运行了一个Scribe服务,这个Scribe服务器可以收集信息然后将信息发送到一个中央Scribe服务器(也可以是多个中央Scribe服务器)如果中央Scribe服务器(或中央服务器组)出现故障不可用的话,各个节点的Scibe服务器就会将日志信息写到本地磁盘待中央Scribe服务器恢复正常时再发送.中央Scribe服务器会将这些信息写文件保存到最终的磁盘地址,一般是nfs文件系统或者一个分布式文件系统中,有时也会把这些日志文件传输到其他层的Scribe服务器组中.
Scribe的独特之处是客户端日志实例包含两个字符串:类别和信息(a category and a message).类别(category)是对预期目标信息的高层次描述,可以在Scribe服务器中进行
配置,这样就允许我们可以通过更改配置文件的方式转移数据而不需要更改代码.Scribe服务器也允许基于类别前缀(category prefix)进行配置,缺省状态下可以在文件路径中插入
类别名称.灵活性和可扩展性,可通过“存储(store)“抽象.Stores可以通过一个配置文件静态配置,也可以在运行时无需停止服务器进行更改.
Scribe是对一个使用非阻断C++服务器的thrift服务的实现.Facebook在上千台服务器上运行了Scribe服务,每天收集传输数十亿的信息.
源代码下载地址;
https://github.com/facebook/scribe
更多帮助文档,请查看:
https://github.com/facebook/scribe/wiki
分享到:
相关推荐
**Facebook Scribe 知识详解** Facebook Scribe 是一个分布式日志收集系统,由Facebook开源,主要用于处理大规模的日志数据。在大型分布式系统中,各个服务会产生大量的日志信息,这些信息对于监控、调试和数据分析...
Facebook Scribe 是一个开源的日志收集系统,最初由Facebook开发并贡献给开源社区。这个"facebook-scribe-63e4824.tar"安装包包含的是Scribe的一个特定版本,63e4824,它是一个源代码包,需要编译后才能在Linux或...
**Scribe:Facebook的大数据处理框架** 在大数据领域,Facebook作为全球最大的社交网络之一,面临着海量数据的收集、存储和处理挑战。为了有效应对这些挑战,Facebook开发了名为Scribe的系统,它是一个集中式的日志...
在大型分布式环境中,如Hadoop或Facebook等,scribe扮演着至关重要的角色,它允许各个节点将日志数据发送到中心位置进行处理和分析。下面我们将深入探讨scribe的安装过程,以及如何编写安装脚本。 ### 一、scribe...
scribe是一款开源的日志收集系统,最初由Facebook开发并贡献给了开源社区。它设计的主要目标是为大规模分布式系统提供可靠、高效且可扩展的日志管理解决方案。scribe允许不同的服务将它们的日志数据流式传输到一个...
Scribe 是一个由 Facebook 开源的日志记录框架,它基于 Thrift 框架构建,旨在提供分布式环境下的日志收集服务。Scribe 的主要特点是其简单架构、灵活的日志格式以及支持异步消息发送和队列处理。由于它与 Thrift ...
1. **scribe**:scribe是Facebook开源的日志收集系统,它提供了一种简单的方式来聚合分布在多个服务器上的日志数据。 2. **Thrift**:Thrift是一种接口定义语言和跨语言的RPC(远程过程调用)框架,它在scribe中...
包含编译好的FacebookService, fb_status, FacebookBase, LogEntry, ResultCode, scribe类。 按照完thrift和scribe后,就不用自己生成了。
https://github.com/facebook/scribe Scribe is a server for aggregating log data streamed in real time from a large number of servers. It is designed to be scalable, extensible without client-side ...
Scribe最初由Facebook开发并贡献给了开源社区,它设计的目的是在一个高流量、分布式环境中集中处理和存储来自不同服务的日志数据。在1.5.0这个版本中,Scribe可能包含了对日志处理性能的优化、错误修复以及对新功能...
如果您想自己尝试一下,则可以以某种方式安装摄像机并花费数小时进行绘制,但是更有效的方法是使用VideoScribe。它使您可以创建自己绘制的视频演示文稿。界面的现代设计及其直观的控件使此过程尽可能简单。 该软件...
Scribe 是 Facebook 开源的一个日志收集系统,适用于分布式环境。其设计目标是处理大规模的日志数据,尤其是对于那些需要实时监控和分析的日志数据。Scribe 采用了分布式架构,每个节点都可以独立收集日志,然后将...
Scribe是一款由Facebook开源的分布式日志收集系统,主要用于集中式地收集并处理各种来源的日志数据。它基于跨平台的语言Thrift进行开发,能够很好地支持Java Log4j等日志框架,并允许通过Log4j等工具将日志信息发送...
- **定义与作用**:Scribe 是 Facebook 开源的一款高性能的日志收集系统,主要用于从多个日志源收集日志信息,并将其存储在一个中央系统中,以便进行进一步的分析。 - **特点**:Scribe 可以处理大量数据流,并且...
1. Scribe 是 Facebook 开源的日志收集系统,能够从各种日志源收集日志,存储到一个中央存储系统上,便于进行集中统计分析处理。 2. Scribe 安装需要依赖多个环境,包括 Python、Boost、Thrift 等。 3. 安装 Boost ...
再者,论文可能会讨论Facebook的云服务架构,如其内部的开源项目如Thrift和Scribe,这些工具用于跨不同服务进行数据传输和日志聚合,确保系统的可扩展性和灵活性。Facebook也可能使用容器化技术(如Docker)和编排...
Scribe is a server for aggregating log data streamed in real time from a large number of servers. It is designed to be scalable, extensible without client-side modification, and robust to failure of ...
1. Facebook的Scribe Scribe是一款由Facebook开发的日志收集系统,广泛应用于其内部。其核心特点在于容错性和可扩展性。当后端存储系统出现问题时,Scribe能够将数据暂存至本地磁盘,待系统恢复后重新加载。Scribe...
### Facebook的数据仓库与分析基础设施 #### 摘要与背景 Facebook作为一个全球性的社交网络平台,在处理海量数据方面面临着前所未有的挑战。为了支持各种工程团队和非工程团队的需求,包括但不限于数据分析、业务...
### Facebook架构深度解析 #### 一、架构概览与核心组件 Facebook的架构设计是大流量网站架构的经典案例,尤其在扩展性和性能优化方面有着独到之处。其架构由一系列核心组件构成,包括PHP、MySQL、Memcache以及一...