大数据从来不是平地而起的,今天从个人的视角,分享于你一个传统企业的大数据发展编年史。
1、2004年-起点
内容:拥有基于小机的ORACLE报表和取数系统。
评论:小快灵
2、2005年-经营分析系统1.0
内容:完成第一代数据仓库建设,采用IBM P595,DB2数据库,TOMCAT,海波龙前台,Hyperion Essbase多维工具,IBM Intelligence Minner8.1数据挖掘软件,完成九大主题,成立独立的经营分析组。
评论:开天辟地,技术驱动业务,ORACLE和DB2数据仓库之争。
3、2006年-经营分析系统1.5
内容:扩充数据源,打造集客、渠道等分析专题,构建MetaCenter元数据。
评论:开始进入业务专题探索阶段,但仍是技术驱动业务,孤独的跳舞者。
4、2007年-经营分析系统2.0
内容:完善经营分析门户,打造数据集市,完成营销管理平台1.0建设,构建数据质量管理体系。
评论:数据仓库衍生到一线,数据规模的扩大驱动数据管理类产品的建设 ,但效果乏善可陈,为什么?
5、2008年-新一代经营分析系统1.0
内容:加强一线的支撑,开始地市应用试点,地市集市升级到地市数据分析中心,VGOP(增值业务综合运营平台)启动建设,营销管理开始提全程精确营销,即信令实时营销。
评论:探索省市协同的方式,通过平台贯通拉近与一线的距离,试点虽好但大多无法推广或代价巨大,为什么? 实时营销是第一个大数据驱动的业务场景。
6、2009年-新一代经营分析系统2.0上线
内容:公司进入3G时代,打造3G、家庭、离网等专题,地市试点进一步深化,营销管理平台开始启动个性化推荐,完成自助取数平台建设。
评论:专题分析苦苦寻觅,乏善可陈,只有自助取数等面向一线的工具平台仍然焕发出生命力,经分的核心竞争力到底是什么?
7、2010年-新一代经营分析系统3.0
内容:经过多年建设应用初具规模,打造数据仓库的应急库,确保容灾能力,数据仓库模型标准化:
评论:DB2挂了二次开始搞应用容灾,数据竖井越来越多,开始进行数据标准化,然后无限循环,为什么?
8、2011年-新一代经营分析系统3.5
内容:公司进入流量经营时代,GPRS等话单大幅增加,处理瓶颈凸显,主库从P595升级到P780,ETL层面开始云化,专题分析向互联网转变,包括互联网内容分析、终端分析、WLAN分析等,启动DPI等大数据的引入工作。
评论:2011年是大数据的采集元年,从这一年开始,开始了艰巨的DPI等大数据引入工作,真正的星星之火。
9、2012年-新一代经营分析系统4.0
内容:首次引入Hadoop对DPI数据进行爬虫及解析处理,构建互联网数据模型,打造营销快点吧(标签库的前身)。
评论:首次认识Hadoop,同时开始考虑用系统化的方式沉淀模型和标签。
10、2013年-新一代经营分析系统4.5
内容:数据量继续大幅增加,完成云化数据交换平台(橘云hadoop)和大数据平台一期(Aster)建设,标签库完成一期建设 。
评论:云化数据交换平台成为数据总线,Aster MPP粉墨登场,标签库从无到有。
11、2014年-新一代经营分析系统5.0
内容:数据量继续爆炸式增长,云化数据交换平台扩容,指标库从无到有,标签库扩展,营销平台接入信令,尝试打造前向的大数据管理平台,探索广告业务。
评论:过渡之年,这一年在不停的对大数据技术进行论证选型,数据管理彻底放弃传统的后向产品,业务上开始启动大数据变现的前期工作。
12、2015年-大数据元年
内容:正式完成企业级大数据平台建设,包括大数据交换平台,大数据处理平台、大数据管理平台及大数据精确营销平台,奠定了整个大数据平台的运营基础,同年大数据专业组织成立,完成公司第一个大数据对外变现合同。
评论:开天辟地,大数据运营的元年。
13、2016年-大数据开放年
内容:大数据平台扩容,架构基本成型,大数据模型自我掌控,大数据产品体系初具规模,对外商务变现获得突破,成立云计算专业组织,专业化进行平台建设和管理。
评论:大数据平台持续优化,对外不断探索商务模式,开放元年。
14、2017年-大数据转型年
内容:对外进行大数据业务转型,对内探索大数据的支撑模式,采取搭台唱戏的模式驱动智慧运营,开始关注人工智能。
评论:寻求大数据价值内外突破。
2004至2017,整整13个春秋,见证了一个平台的发展历史,每一年聊聊几字显然无法表达所有的内容,但还是能看到一个企业数据平台发展的一个脉络,希望于你有所启示。
附:针对前面提到的一些问题的回答
数据规模的扩大驱动数据管理类产品的建设 ,但效果乏善可陈,为什么?
答:数据管理类平台是运营出来的,无论是数据质量平台还是元数据平台,毕其功于一役的项目是无法成功的。
试点虽好但大多无法推广或代价巨大,为什么?
答:因为平台和数据没有标准化,试点应用没法快速移植,所谓的试点变成了应用的竖井,同时企业数据文化不够,团队没有运营能力。
数据竖井越来越多,开始数据标准化,然后无限循环,为什么?
答:因为没有专业的数据组织进行管理,必然需求驱动,牺牲模型规范性,解决方式就是强力组织,建章立制。
经分的核心竞争力是什么?
答:搭台唱戏的能力,成为使能者。
转自:
https://feng.ifeng.com/c/7la2Dc652wM |
相关推荐
从半导体技术的起源说起,其发展历程可谓是一部技术创新和产业演变的编年史。 半导体技术的历史可以追溯到19世纪30年代,随着半导体现象的发现,人们开始意识到半导体材料在电子技术中的巨大潜力。随后的几十年里,...
**2.1 Hadoop编年史** Hadoop的发展历程可以分为三个阶段:前Hadoop时代、Hadoop时代和后Hadoop时代。 - **前Hadoop时代(2002-2006)**:这一时期主要围绕着Nutch项目的建立和发展,以及Google发表的一系列关于...
软件工程第三章实验报告.docx
第三章-第八节通信礼仪.ppt
智能家居股份合作协议.docx
内容概要:本文详细介绍了基于西门子S7-1200 PLC的双轴定位控制系统在电池焊接项目中的应用。主要内容涵盖双轴定位算法的设计与实现,包括使用SCL语言编写的运动控制函数块,以及梯形图用于处理IO互锁和焊接时序控制。文中还讨论了威纶通触摸屏的界面设计,如动态元素映射、宏指令的应用,以及电气图纸的安全回路设计。此外,文章分享了多个调试技巧和注意事项,如加速度参数设置、伺服驱动器订货号核对、BOM清单管理等。 适合人群:从事工业自动化领域的工程师和技术人员,尤其是熟悉PLC编程和触摸屏界面设计的专业人士。 使用场景及目标:适用于需要深入了解PLC编程、运动控制算法、触摸屏界面设计及电气图纸绘制的工程项目。目标是提高双轴定位控制系统的精度和稳定性,确保电池焊接的质量和安全性。 其他说明:文中提供了完整的工程文件包下载链接,并强调了在实际应用中需要注意的具体事项,如硬件配置检查、参数调整等。
内容概要:本文详细介绍了如何利用Simulink和Carsim进行联合仿真,实现基于PID(比例-积分-微分)和MPC(模型预测控制)的自适应巡航控制系统。首先阐述了Carsim参数设置的关键步骤,特别是cpar文件的配置,包括车辆基本参数、悬架系统参数和转向系统参数的设定。接着展示了Matlab S函数的编写方法,分别针对PID控制和MPC控制提供了详细的代码示例。随后讨论了Simulink中车辆动力学模型的搭建,强调了模块间的正确连接和参数设置的重要性。最后探讨了远程指导的方式,帮助解决仿真过程中可能出现的问题。 适合人群:从事汽车自动驾驶领域的研究人员和技术人员,尤其是对Simulink和Carsim有一定了解并希望深入学习联合仿真的从业者。 使用场景及目标:适用于需要验证和优化自适应巡航控制、定速巡航及紧急避撞等功能的研究和开发项目。目标是提高车辆行驶的安全性和舒适性,确保控制算法的有效性和可靠性。 其他说明:文中不仅提供了理论知识,还有大量实用的代码示例和避坑指南,有助于读者快速上手并应用于实际工作中。此外,还提到了远程调试技巧,进一步提升了仿真的成功率。
内容概要:本文深入探讨了利用MATLAB/Simulink搭建变压器励磁涌流仿真模型的方法和技术。首先介绍了空载合闸励磁涌流仿真模型的搭建步骤,包括选择和配置电源模块、变压器模块以及设置相关参数。文中详细讲解了如何通过代码生成交流电压信号和设置变压器的变比,同时强调了铁芯饱和特性和合闸角控制的重要性。此外,还讨论了电源简化模型的应用及其优势,如使用受控电压源替代复杂电源模块。为了更好地理解和分析仿真结果,文章提供了绘制励磁涌流曲线的具体方法,并展示了如何提取和分析涌流特征量,如谐波含量和谐波畸变率。最后,文章指出通过调整电源和变压器参数,可以实现针对不同应用场景的定制化仿真,从而为实际工程应用提供理论支持和技术指导。 适合人群:从事电力系统研究、变压器设计及相关领域的科研人员、工程师和技术爱好者。 使用场景及目标:适用于希望深入了解变压器励磁涌流特性的研究人员,旨在帮助他们掌握MATLAB/Simulink仿真工具的使用技巧,提高对励磁涌流现象的理解和预测能力,进而优化继电保护系统的设计。 其他说明:文中不仅提供了详细的建模步骤和代码示例,还分享了一些实用的经验和技巧,如考虑磁滞效应对涌流的影响、避免理想断路器带来的误差等。这些内容有助于读者在实践中获得更加准确可靠的仿真结果。
内容概要:本文详细介绍了利用三菱FX3U PLC与Factory IO通讯仿真进行PID液位调节的方法,旨在降低学习PID控制的成本和难度。文中首先指出了传统硬件学习PID控制面临的高昂成本和复杂接线问题,随后介绍了仿真程序的优势,包括PID配置参数、调节参数、自整定和手动整定的学习方法。接着阐述了所需的设备和软件环境,以及具体的代码示例和寄存器配置。最后,通过实例展示了如何通过仿真环境进行PID参数调整和测试,验证了该方案的有效性和实用性。 适合人群:初学者和有一定PLC基础的技术人员,特别是那些希望通过低成本方式学习PID控制的人群。 使用场景及目标:适用于希望在不购买昂贵硬件的情况下,快速掌握PID控制原理和技术的应用场景。目标是通过仿真环境,熟悉PID参数配置和调整,最终能够应用于实际工业控制系统中。 其他说明:本文不仅提供了理论指导,还给出了详细的实践步骤和代码示例,使读者能够在实践中更好地理解和掌握PID控制技术。同时,强调了仿真环境与实际项目的相似性,便于知识迁移。
智慧城市树木二维码智能管理系统概述.docx
内容概要:本文详细介绍了基于.NET框架和Oracle数据库构建的大型MES(制造执行系统)生产制造管理系统的源码结构及其技术特点。该系统采用了BS架构,适用于Web端和WPF客户端,涵盖了从数据库设计、业务逻辑处理到前端展示等多个方面。文中不仅提供了具体的代码示例,还深入剖析了系统的技术难点,如Oracle数据库的高效连接方式、多线程处理、实时数据推送以及高级特性(如分区表、压缩技术和批量操作)的应用。此外,作者还分享了一些关于系统部署和维护的经验。 适合人群:主要面向拥有五年以上.NET开发经验的专业人士,特别是那些对Oracle数据库有一定了解并且参与过大中型项目开发的技术人员。 使用场景及目标:①帮助开发者深入了解MES系统的工作原理和技术实现;②为现有的MES系统提供优化思路;③作为学习资料,用于掌握.NET框架与Oracle数据库的最佳实践。 其他说明:尽管缺少完整的安装说明和数据库备份文件,但凭借丰富的代码片段和技术细节,这套源码仍然是一个宝贵的学习资源。同时,文中提到的一些技术点也可以应用于其他类型的工业控制系统或企业管理信息系统。
lesson6_点阵.zip
OpenNMS 依赖组件 jicmp 的完整解析与安装指南 一、jicmp 的核心作用 ICMP 协议支持 jicmp(Java Interface for ICMP)是 OpenNMS 实现网络设备可达性检测(如 Ping)的关键组件,通过原生代码高效处理 ICMP 报文,替代纯 Java 实现的性能瓶颈17。 依赖版本要求:OpenNMS 33.1.5 需 jicmp >= 3.0.0,以支持 IPv6 及多线程优化7。 与 jicmp6 的协同 jicmp6 是 jicmp 的扩展组件,专用于 IPv6 网络环境检测,二者共同构成 OpenNMS 网络监控的底层通信基础78。 二、jicmp 安装问题的根源 仓库版本不匹配 OpenNMS 官方旧版仓库(如 opennms-repo-stable-rhel6)仅提供 jicmp-2.0.5 及更早版本,无法满足新版 OpenNMS 的依赖需求78。 典型错误:Available: jicmp-2.0.5-1.el6.i386,但 Requires: jicmp >= 3.0.07。 手动编译未注册到包管理器 手动编译的 jicmp 未生成 RPM 包,导致 yum 无法识别已安装的依赖,仍尝试从仓库拉取旧版本57。 三、解决方案:正确安装 jicmp 3.0 通过源码编译生成 RPM 包 bash Copy Code # 安装编译工具链 yum install -y rpm-build checkinstall gcc-c++ autoconf automake libtool # 编译并生成 jicmp-3.0.0 RPM wget https://sourceforge.net/projects/opennms/files/JICMP/stable-3.x/j
机械CAD零件图.ppt
内容概要:本文详细介绍了制冷站智能群控管理系统的构成及其核心技术实现。首先阐述了系统的四大组成部分:环境感知模块、数据处理模块、决策控制模块以及设备控制模块。接着通过具体的Python代码示例展示了如何利用MQTT协议进行设备间的通信,实现了温度控制等功能。此外,文中还探讨了数据处理中的噪声过滤方法、设备控制中的状态锁定机制、以及采用强化学习进行能效优化的具体案例。最后展望了未来的发展方向,如引入能量管理和AI集成等。 适合人群:从事制冷站自动化控制领域的工程师和技术人员,尤其是对智能群控管理系统感兴趣的从业者。 使用场景及目标:适用于希望提升制冷站自动化水平的企业和个人。目标在于提高系统的稳定性和效率,减少人为干预,实现节能减排。 其他说明:文章不仅提供了理论性的介绍,还有大量的实战经验和代码片段分享,有助于读者更好地理解和应用相关技术。
内容概要:本文详细介绍了将卷积神经网络(CNN)从软件到硬件的全过程部署,特别是在FPGA上的实现方法。首先,作者使用TensorFlow 2构建了一个简单的CNN模型,并通过Python代码实现了模型的训练和权值导出。接着,作者用Verilog手写了CNN加速器的硬件代码,展示了如何通过参数化配置优化加速效果。硬件部分采用了滑动窗口和流水线结构,确保高效执行卷积操作。此外,文中还讨论了硬件调试过程中遇到的问题及其解决方案,如ReLU激活函数的零值处理和权值存储顺序的对齐问题。最后,作者强调了参数化设计的重要性,使得硬件可以在速度和面积之间灵活调整。 适合人群:对深度学习和FPGA感兴趣的开发者,尤其是有一定编程基础和技术背景的研究人员。 使用场景及目标:适用于希望深入了解CNN算法硬件实现的人群,目标是掌握从软件到硬件的完整部署流程,以及如何通过FPGA加速深度学习任务。 其他说明:文中提供了详细的代码片段和调试经验,有助于读者更好地理解和实践。同时,项目代码可在GitHub上获取,方便进一步研究和改进。
内容概要:本文详细介绍了无人驾驶车辆高速MPC(模型预测控制)控制系统的复现过程,主要涉及MATLAB和CarSim软件工具的应用。作者通过调整caraim文件、构建Simulink控制逻辑以及优化MPC算法,将原有的直线跟车场景成功转换为双移线场景。文中不仅展示了具体的技术实现步骤,如路径点设置、权重矩阵调整、采样时间对齐等,还分享了调试过程中遇到的问题及其解决方案,如参数不匹配、模型不收敛等。最终实现了车辆在虚拟环境中按预定双移线轨迹行驶的目标。 适合人群:从事无人驾驶车辆研究和技术开发的专业人士,尤其是对MPC控制算法感兴趣的工程师。 使用场景及目标:适用于需要深入了解无人驾驶车辆控制系统的设计与实现的研究人员和技术开发者。目标是帮助读者掌握如何利用MATLAB和CarSim进行无人驾驶车辆的模拟实验,特别是在高速场景下的双移线控制。 其他说明:文章强调了MPC在高速场景下的挑战性和调参技巧,提供了宝贵的实践经验。同时提醒读者注意环境配置、控制器核心代码解析以及联合仿真可能出现的问题。
监控场景下基于CLIP的细粒度目标检测方法.pdf
内容概要:本文详细介绍了如何使用MATLAB进行频谱和功率谱分析,涵盖了从基础概念到高级应用的各个方面。首先,通过生成人工信号并绘制时域图,帮助读者熟悉基本操作。接着,深入探讨了频谱分析的关键步骤,如快速傅里叶变换(FFT)、窗口函数的选择、频谱横坐标的正确转换等。对于功率谱分析,则介绍了Welch法及其具体实现。针对真实数据处理,讨论了如何读取外部数据、处理非均匀采样、去除趋势项等问题,并提供了多种实用技巧,如滑动平均、自动标注主要频率成分等。此外,还强调了一些常见的错误和注意事项,确保读者能够避免常见陷阱。 适用人群:适用于具有一定MATLAB基础的科研人员、工程师和技术爱好者,特别是那些从事信号处理、通信工程、机械振动分析等领域的人士。 使用场景及目标:① 学习如何使用MATLAB进行频谱和功率谱分析;② 掌握处理实际工程中复杂信号的方法;③ 提高对信号特征的理解能力,以便更好地应用于故障诊断、质量检测等实际工作中。 其他说明:文中提供的代码片段可以直接用于实践,读者可以根据自己的需求进行适当修改。通过跟随文中的步骤,读者不仅能够学会如何绘制频谱图和功率谱图,还能深入了解背后的数学原理和技术细节。 标签1,MATLAB,频谱分析,功率谱,Welch法,FFT
内容概要:本文详细介绍了基于FAST与MATLAB/Simulink联合仿真平台,对5MW非线性风力发电机进行统一变桨(CPC)和独立变桨(IPC)控制策略的研究。首先,通过将OpenFAST编译成Simulink可调用的S-Function模块,构建了联合仿真环境。接着,分别实现了统一变桨和独立变桨的PID控制器,并在三维湍流风场中进行了性能测试。结果显示,独立变桨在转速稳定性和载荷控制方面表现出色,能够显著降低叶根挥舞弯矩和偏航力矩,从而提高风机的可靠性和使用寿命。然而,独立变桨也带来了作动器磨损增加的问题。 适合人群:从事风电控制系统设计、仿真建模以及希望深入了解变桨控制策略的研发工程师和技术研究人员。 使用场景及目标:适用于需要评估不同变桨控制策略在复杂风场条件下的性能表现,优化风机运行效率和可靠性,以及探索新的控制算法的应用场景。 其他说明:文中提供了详细的模型搭建步骤、关键代码片段和仿真结果分析,并附有相关参考文献和GitHub资源链接,方便读者进一步深入研究。