`
wbj0110
  • 浏览: 1591174 次
  • 性别: Icon_minigender_1
  • 来自: 上海
文章分类
社区版块
存档分类
最新评论

用户行为分析--基本架构介绍(转)

阅读更多

其中:

  • FA是参考GA/BA/TA写的一个精简版的页面JS嵌码,抓取用户页面行为,主要是鼠标点击、按钮点击事件。由于不同页面可能需要抓取其特有的页面元素或事件,故FA也支持针对不同页面嵌入不同的业务子嵌码(通过Nginx拦截后append对应的子嵌码)。
  • 充分利用Netty NIO的特性,搭建一个收集页面用户行为数据的HTTP服务器。
  • MetaQ是淘宝开源的分布式消息中间件,此处使用的是@AVOS-dennis fork的一个分支。Netty收集到页面行为数据之后喂给MetaQ Broker,后续Storm可以根据不同的分析指标和逻辑,定义不同Group的Consumer Spout,从MetaQ Broker拉数据进行分析处理。
  • ZooKeeper是一个分布式协调系统,上述的MetaQ利用ZooKeeper实现分布式。Producer(Netty Server)和Consumer(Storm Spout)通过ZooKeeper获取MetaQ Broker、Topic、Partition列表,同时ZooKeeper还存储消费进度OffSet等信息。
  • Storm是Twitter开源的分布式实时流计算系统(实时处理领域的Hadoop),核心使用Clojure(一种Lisp方言,函数式语言)实现, 但基于其开发应用几乎可以使用任何语言。其每秒每个节点可以处理数以百万计的消息,而且具有保证每条消息都得到处理、支持事务等特性,具体后续博文再介 绍。
  • 经过Storm分析处理后的结果保存在HBase或MySQL中,如果要支持事务的话,建议选择MySQL。
  • Redis是一个开源的、基于内存的、键值对存储数据库(NoSQL)。与Memcache比起来,Redis一方面支持丰富的数据类型如Map、Set、List等,同时支持持久化。这里主要利用它来实现高效缓存。
分享到:
评论

相关推荐

    用户行为分析系统

    首先,我们要理解用户行为分析的基本概念。用户行为分析涉及追踪用户的浏览、搜索、点击、购买等行为,通过统计和分析这些数据,揭示用户习惯、偏好和行为模式。在Java开发环境中,可以利用各种库和框架,如Spring ...

    希赛-2020年系统架构设计师讲义.pdf

    综上所述,“希赛-2020年系统架构设计师讲义”主要涵盖了系统架构设计的基本理论、开发模型的选择、需求分析、设计阶段的重点、开发与测试的方法等方面的知识点。这些内容对于理解和掌握系统架构设计的核心理念具有...

    基于数据挖掘的文献平台用户行为分析.pdf

    - “用户行为分析在平台V2.0版本中得到了很好实践应用”,意味着升级后的平台版本在实际使用过程中,用户行为分析发挥了作用,帮助用户更快地找到他们所需的文献资源,提高了科研工作的效率。 综上所述,文章深入...

    Siebel-CRM的整体架构及功能模块全面解读.docx

    - **用户界面**: 提供个性化用户界面,管理用户交互行为。 - **目标管理器(ObjectManager)**: 为Siebel所有企业管理逻辑目标提供完整一致的目标行为。 - **数据管理器**: 管理独立于RDBMS的逻辑数据映像(DataView...

    浅说微软的宠物商店---三层架构

    本文将通过对微软“宠物商店”(PetShop)项目的分析,探讨其在三层架构设计中的实践,并总结其中的设计理念与经验教训。 #### 二、三层架构概述 三层架构通常分为以下三个层次: 1. **数据访问层**(Data Access...

    软件架构--软件架构讲义

    1. **理解需求**:分析业务场景,明确系统的目标和预期的用户群体。 2. **选择架构风格**:根据需求选择合适的架构模式,如客户端-服务器、三层架构或微服务。 3. **组件划分**:确定系统的组件及其职责,考虑它们...

    网站安全基础-常见的网站架构.rar

    1. **网站架构的基本构成** - 前端:用户可以直接交互的部分,包括HTML、CSS和JavaScript,负责页面展示和用户交互。 - 后端:服务器端的逻辑处理,通常包括服务器、数据库和应用服务器,处理前端请求并返回数据。...

    用户行为数据分析.ppt

    * 如何对用户行为分析建模:基本思想是发掘用户的显性特征,推理用户的隐性特征,例如用户的自然属性和社会属性,性别、职业、年龄、阶层、爱好等。 通过用户行为数据分析,可以帮助企业更好地理解用户的需求和偏好...

    基于spark的电商用户行为分析系统.zip

    《基于Spark的电商用户行为分析系统》 在大数据时代,电商平台积累了海量的用户行为数据,这些数据蕴含着丰富的商业价值。基于Spark的电商用户行为分析系统正是为了挖掘这些价值而设计的。Spark作为一款强大的...

    3-5-美团大数据平台架构实践-谢语宸.pdf

    美团这样的企业需要从各种渠道(如交易数据、用户行为日志、合作伙伴提供的数据等)收集信息。 2. 数据存储:美团会使用各种存储解决方案来保存收集的数据。这可能包括传统的关系数据库管理系统(RDBMS)以及新型的...

    Q01 - Qradar SIEM基本能力与架构介绍 - 20200110.pdf

    该系统的核心在于其全面的安全感知能力和架构,确保企业能够有效地应对日益复杂的网络攻击。 首先,QRadar的安全感知能力体现在其强大的事件收集和关联功能。它能够收集、正则化和关联来自数百种不同日志源的数十亿...

    企业信息安全架构全貌-企业信息安全架构全貌

    - **行为分析平台**:通过对用户行为的分析,识别异常行为并及时响应。 #### 五、现状与改进方向 根据文件中的现状评估,可以看出企业在基础网络和边界安全方面做得相对较好,但在应用安全、应用数据安全以及安全...

    软件系统架构分析师

    - **定义**:软件架构是指软件系统的基本结构,包括组件、这些组件之间的关系以及指导其设计和演化的原则。 - **问题**:软件架构设计过程中会遇到的主要问题包括但不限于性能瓶颈、可扩展性不足、安全漏洞等。这些...

    高级系统架构师培训.pdf

    - **软件架构的定义与问题**:介绍软件架构的基本概念及其在软件开发过程中扮演的角色,探讨软件架构设计过程中可能遇到的问题。 - **在信息技术战略规划(ITSP)中的软件架构**:阐述软件架构如何支持企业的信息...

    中科院计算所培训中心-高级系统架构培训教材

    - **软件系统架构与架构师**:介绍了软件架构的基本概念以及架构师的角色和职责。软件架构是指一个软件系统的核心结构,包括系统的组成部分以及这些部分之间的相互作用方式;而架构师则负责定义和维护这种结构。 - *...

    2016年下半年系统架构设计师真题(案例分析题)

    在这个案例中,教学管理系统的基本需求包括系统用户登录、管理员管理教学信息、学生注册课程、教师选择课程、系统生成课程课表、打印学生考勤信息等。 6. 用例之间的关系:在面向对象系统建模中,用例之间的关系...

    基于Hadoop的电商用户行为分析系统设计与实现.docx

    本文档主要讨论的是基于Hadoop的电商用户行为分析...通过学习,读者不仅可以理解Hadoop的基本原理和技术,还能掌握如何设计和实现一个实用的用户行为分析系统,这对于从事大数据相关工作的专业人士具有很高的参考价值。

Global site tag (gtag.js) - Google Analytics