今天说说,我们为什么会选择从kibana4迁移到grafana,并选用grafana作为elasticsearch的图表展现工具。 文章中关于kinaba和grafana的对比会有些片面,勿喷.
最一开始使用kibana ElasticSearch的组合是为了集中式收集应用及系统日志. 后来由于业务方面的原因,现在各个业务的多数模块也选择依赖elasticsearch。除此之外,现在监控的数据也从opentsdb hbase迁移到elasticsearch里面。 目的 ? 只为更好的实时聚合计算,并快速的展现
先说下kibana方面的事,kibana往往在展现一条数据的时候效果是完美的,尤其是kibana4那种清淡的绿色让人心旷神怡。 但很多时候我们要做多维度数据图表展现, 这地方kibna貌似没有做图表样式的优化。当很多条数据拥挤在一起时,很难区分出每个点的数值,换句话说很不直观。 另外kibana更加适合日志类型的展现, 虽然他也可以kv结构,但配置起来有些麻烦.
另外kibana没有管理的api, 只能点来点去. 在kibana4.x的版本里集成了一个node服务端,但就最新的版本来说,他只是被当成一个静态服务器使用,没有更多的动态功能,比如权限管理。
去年写过一个文章专门描述kibana批量操作的问题. 当时的需求是有很多的图表及dashboard面板. 如果靠着手动点击不怎么现实. 后来发现Kibana的数据都存在elasticsearch里,
所以写了个较完整的python模块去直接操作elasticsearch,其实就是个.kibana的配置文件. 因为api跟公司的业务耦合一起了,所以暂不方便开源出来。 kibana es批量操作,http://xiaorui.cc/?p=1570 有兴趣看看.
kibana没有权限管理,用户管理。 大多数人都是使用nginx做为kibana的基本密码认证(HTTP Auth Basic),这样做也能保证一定的安全,但毕竟不和规矩.
刚才说的kibana的槽点, 在grafana里是可以解决的。对比kibana4来说,grafana支持更多数据源. grafana以前的1.x版本就支持不少的时序数据库,比如最风光的influxdb,适合大集群大存储的opentsdb, 单机存储的graphite . 后有老外把zabbix扩展到grafana里。现在新版的grafana也支持elasticsearch了。 感叹,elasticsearch是越来越火了,功能也越来越丰富.
grafana官方有不少语言的控制api, 只是没有python的。 在github中找到一个老外开源的grafana python api , grafana_api_client。 grafana docs有详细的api使用文档,有兴趣的朋友看看.
kibana vs grafana功能对比:
单纯的日志,我还是推荐大家把日志报表放在elk ( kibana )里面的,因为kibana的模板有针对日志的search语法,有的query_string ,match 全文匹配。 如果kibana本身的搜索需求不能满足你,你可以使用JSON Input来实现自定义的搜索语法。 grafana用的则都是类似term这样的精确匹配.
监控方面的数据,尤其是那种metrics监控类型数据,非常适合用Elasticsearch Grafana组合. 题外说下,对于监控数据的落地我们走了不少的坑,从rrdtool, mysql, Influxdb, OpenTsdb到最后的Elasticsearch,其中的db选型失败也有我们自身能力的原因. Opentsdb没有想象中的那么好.
修正上面的说法,grafana的新增图表里面,会有elasticsearch和ES LOG两项. 对于metric names字段也是有正则匹配的模式,对于具体的value是可以模糊匹配,正则匹配,lucene全文索引匹配规则.
我用过kibana的好多版本, 我曾经在Kibana Issue问过他们为什么不把kibana的node.js后端做的丰富一点,作者给我的答复是, 他们本来就不想做太复杂,只是想单纯的做前端图表显示.
转自: http://xiaorui.cc/2016/01/07/%E4%BB%8Ekibana%E8%BF%81%E7%A7%BB%E5%88%B0grafana%E4%BD%9C%E4%B8%BAelasticsearch%E7%9A%84%E5%89%8D%E7%AB%AF%E5%B1%95%E7%8E%B0/
相关推荐
Logstash则是一个数据收集和处理引擎,它能够从各种数据源接收数据,进行清洗、转换和过滤,然后将结果发送到Elasticsearch或其他目的地。Kibana是Elasticsearch的数据可视化工具,提供交互式的仪表板,用于查看和...
通过本手册,用户可以了解到如何设置和配置Grafana,以适应各种不同的数据源,如Prometheus、InfluxDB、Elasticsearch等,这些数据源能够提供实时的系统指标、应用性能数据或日志信息。 手册首先会引导读者安装和...
Grafana 支持多种数据源,如 Elasticsearch、MySQL、PostgreSQL 等,并且具有高度可定制化的特性。 #### Grafana 与 Kibana 的比较 Grafana 和 Kibana 都是强大的数据可视化工具,但它们之间存在一些显著的区别: ...
Grafana是一个开源的,拥有丰富dashboard和图表编辑的指标分析平台,和Kibana不同的是Grafana专注于时序类图表分析,而且支持多种数据源,如Graphite、InfluxDB、Elasticsearch、Mysql、K8s、Zabbix等。 Grafana最早...
- **Grafana**:虽然不是专为Elasticsearch设计,但通过Elasticsearch数据源插件,Grafana可以创建复杂的可视化面板,适用于监控和报警。 - **Elasticsearch Head**:一个基于Web的轻量级工具,可以查看集群信息、...
- **监控与日志**: 安装监控插件(如 Kibana、Grafana)监控集群健康状态,收集和分析日志以快速发现和解决问题。 ### 7. **备份与恢复策略** - **定期备份**: 设计合理的备份策略,防止数据丢失。可以使用 ...
- 在Kibana中创建新的数据源,连接到Elasticsearch实例。 - 设计和创建Kibana仪表板,展示应用程序流量的图表和指标。 通过以上步骤,你可以使用Python-Django中间件和Kibana来实现Web应用程序流量的实时监控和...
Grafana是一个流行的可视化工具,它能够与Prometheus等数据源连接,构建丰富的仪表板,直观展示容器和系统的运行状态。用户可以通过自定义图表、面板来监控关键性能指标,如CPU利用率、内存占用、磁盘空间等。 接...
4. **配置Kibana**:在Kibana中,我们需要创建一个新的索引模式,指定Elasticsearch中的日志数据源。然后,可以创建仪表板,选择合适的可视化组件,如折线图、柱状图等,根据日志数据构建丰富的视图,以便进行实时...
- **索引模式**:Index Patterns用于定义数据源,包括时间序列字段和其他字段的映射。 - **空间**:Spaces是Kibana 7.16.0新增功能,可创建独立的工作环境,不同团队或项目可以拥有各自的配置和视图。 5. **性能...
该插件已使用Elastic Search 5.5作为数据源进行了测试。 趋势是在该系列的最后一个日期和上一个日期聚合之间计算的。 安装 将dist文件夹复制到您的grafana插件目录中,并将其重命名为trafficlight。 屏幕截图 展示...
Elasticsearch可以与许多其他工具和服务集成,如Logstash(数据收集和预处理)、Beats(轻量级数据发送者)、Grafana(可视化仪表盘)等,构建出强大的数据处理和分析平台。 **10. 持续改进** Elasticsearch的每个...
本文将详细讲解如何利用Alexander Zobnin开发的Zabbix App与Grafana进行集成,以及涉及到的相关技术栈,如ELK(Elasticsearch, Logstash, Kibana)。 首先,我们关注的重点是"alexanderzobnin-zabbix-app-4.1.5.zip...
Grafana则是一个通用的可视化平台,可以与多种数据源(包括InfluxDB)集成,提供丰富的图表和报警功能,帮助用户更好地理解和展示日志数据。 7. **日志收集架构**:日志收集系统通常包括日志生成器、收集器、处理器...
Beats是轻量级数据代理,用于从各种源发送数据到Elasticsearch。 为了管理和监控Elasticsearch集群,你可以使用Elasticsearch的内置工具,如cat API、监视器插件,或者集成第三方工具如Grafana、Prometheus等。定期...
Grafana是一个开源的,拥有丰富dashboard和图表编辑的指标分析平台,和Kibana不同的是Grafana专注于时序类图表分析,而且支持多种数据源,如Graphite、InfluxDB、Elasticsearch、Mysql、K8s、Zabbix等。
本文探讨了一种基于ELK栈(Elasticsearch、Logstash、Kibana)的高校数据中心运维监控平台的设计与实现。该平台旨在通过对数据中心内部软硬件系统的全方位监控,提高数据中心的运维效率并及时发现潜在的问题。ELK栈...
虽然这个压缩包没有明确提到 Kibana,但通常与 Elasticsearch 配合使用的还有可视化工具 Kibana,它可以用来创建仪表板,直观地展示 Elasticsearch 中的数据和分析结果。 8. **安全性** Elasticsearch 有内置的...