`
m635674608
  • 浏览: 5061466 次
  • 性别: Icon_minigender_1
  • 来自: 南京
社区版块
存档分类
最新评论

滑动窗口 TOPN 技术实现演变

    博客分类:
  • java
 
阅读更多

需求:

        文章表一张。

        每小时,统计出上一个小时(发文时间)文章内容中出现最多的前100个单词。

        其实就是一个 滑动窗口 TOPN

 

       方案1:单机单线程,定时每小时统计上一个小时的文章单词的前100个。

       优点:简单

       缺点: 数据量大,速度慢

 

   

      方案2:单机多线程,定时每小时统计上一个小时的文章单词的前100个。

       优点:较简单

       缺点: 数据量大,速度较慢

 

       方案3:多机多线程,Spark streaming, storm 

       优点: 复杂

       缺点: 数据量大,速度较块

       

 

 

 

       

分享到:
评论

相关推荐

    滑动窗口协议的仿真实现

    对于计算机网络中滑动窗口协议的仿真实现。

    计算机网络滑动窗口实验

    本实验实现一个数据链路层协议的数据传送部分,目的在于使学生更好 地理解数据链路层协议中的“滑动窗口”技术的基本工作原理,掌握计算机网 络协议的基本实现技术。 1.2 实验要求 在一个数据链路层的模拟实现环境中...

    滑动窗口算法实现 C#

    ### 滑动窗口算法在C#中的实现 #### 算法原理及应用场景 滑动窗口算法是一种常用于数据处理、数据压缩等场景的有效算法。该算法的主要目的是通过不断移动一个固定大小或动态调整大小的窗口来检测、处理序列中的...

    流量控件方法——滑动窗口法演示Java实现

    滑动窗口机制通过调整窗口大小来实现流量控制。当网络拥塞或接收方处理速度慢时,接收方可以减小窗口大小,从而限制发送方的发送速率。反之,如果网络状况良好,接收方可以增大窗口,允许更快的数据传输。 4. **...

    北京邮电大学数据链路层滑动窗口协议的设计与实现参考

    北京邮电大学数据链路层滑动窗口协议的设计与实现参考实现

    滑动窗口协议仿真

    为了解决这些问题,需要对滑动窗口协议的原理和实现机制进行深入的研究和分析,并且需要设计和实现一个仿真系统,以便模拟滑动窗口协议的工作过程。 在这个仿真系统中,需要实现以下几个功能: 1. 实现发送方和...

    UDP可靠性传输(使用滑动窗口机制实现)

    3. **滑动窗口**:这是实现UDP可靠性传输的关键技术,通过动态调整发送窗口的大小来控制数据发送速率。 4. **网络**:涵盖了整个网络通信的背景知识。 5. **课程设计**:可能是指这是一个教育项目或课程的一部分,...

    滑动窗口生成样本MATLAB程序

    看到几篇机器学习的文章都是用滑动窗口生成的样本数据,最近同学给我搞了一个,现在分享给大家,程序为matlab编写,可以直接对原始采集数据生成所需样本,已经封装成了函数,一行代码就可实现对原始数据生成样本,亲...

    数据链路层滑动窗口协议的设计与实现.docx编程资料

    ### 数据链路层滑动窗口协议的设计与实现 #### 实验背景与目标 本实验旨在通过实际编程操作,深入理解并掌握数据链路层滑动窗口协议的基本原理及其在复杂网络环境中的应用。具体而言,实验的目标是设计并实现一个...

    数据链路层滑动窗口协议的设计与实现源码

    通过该实验,进一步巩固和深刻理解数据链路层的误码检测的CRC 校验技术,以及滑动窗口的工作机理。滑动窗口机制的两个主要目标:(1) 实现有噪音信道环境下的无差错传输;(2)充分利用传输信道的带宽。在程序能够稳定...

    matlab中滑动窗口实现

    滑动窗口的实现到底有多难,今天在做课程设计的时候,无意中实现了。。。

    TCP Sliding Window滑动窗口协议演示动画

    本动画演示了滑动窗口协议的工作原理,通过Flash技术,用户可以调整参数,直观地理解其动态过程。下面我们将深入探讨滑动窗口协议及其在TCP中的应用。 滑动窗口协议的核心思想是允许发送方在一个窗口内连续发送数据...

    datalink_BUPT_计网大作业_滑动窗口协议_

    在这个“datalink_BUPT_计网大作业_滑动窗口协议_”的压缩包中,我们可以看到一个名为“datalink.c”的源代码文件,这很可能是北邮大学计算机网络课程的一个实践项目,要求学生实现滑动窗口协议。 滑动窗口协议的...

    滑动窗口机制及TCP中的相关实现.doc

    在TCP协议的实现中,滑动窗口机制具体有三种变体:停等协议(Stop-and-Wait)、后退N协议(Go-Back-N)和选择重传协议(Selective Repeat)。停等协议是最简单的滑动窗口协议,发送端发送一个数据包后需等待确认,...

    滑动窗口协议实验报告

    实验提供了参考实现,如Go-Back-N和选择重传协议,以帮助理解滑动窗口协议的目标和实现方式。学生需要编写自己的数据链路层程序,确保协议的可靠性和效率。 总的来说,这个实验旨在让学生掌握滑动窗口协议的关键...

    滑动窗口机制的模拟实现

    以下是一个简化的滑动窗口模拟实现的关键步骤: 1. **初始化窗口**:创建一个足够大的数据结构(如数组)来存储待发送的数据,设置初始窗口大小,以及两个指针`front`和`rear`。 2. **数据入队**:当有新数据要...

    使用socket编程模拟滑动窗口协议

    本项目通过socket编程实现了1bit滑动窗口协议,这将帮助我们深入理解该协议的工作原理。 1. **滑动窗口协议基础**: - 滑动窗口协议允许发送方在等待确认之前发送一定数量的数据,这个数量由窗口大小决定。 - ...

    使用QT制作的主界面滑动窗口

    首先,让我们了解一下QT5中的关键组件和技术,这对于理解这个滑动窗口模型至关重要: 1. **QMainWindow**:这是QT5中的一个核心类,用于构建具有菜单栏、工具栏和状态栏的复杂窗口应用程序。在本项目中,...

    Qt下用QSplitter实现滑动窗口

    在本文中,我们将深入探讨如何在Qt环境下使用QSplitter实现滑动窗口。 首先,我们需要了解QSplitter的基本概念。QSplitter是一个容器类,它可以包含其他QWidgets对象,如QLabel、QPushButton、QTextEdit等。当用户...

    滑动窗口实验报告(含代码)

    2. **设计和实现回退N帧协议**:该协议比停等协议更为复杂,允许发送方连续发送多个帧,并使用一个滑动窗口来跟踪已发送但未被确认的帧。当检测到某个帧丢失或超时时,需要重新发送这个帧及其之后的所有未确认帧。 3...

Global site tag (gtag.js) - Google Analytics