`

阿里云日志分析

 
阅读更多

在阿里云使用oss的时候,将其提供的日志导入到数据库中,需要对其进行分析。

 

SELECT
	SUM(SentBytes) SentBytes,
	CASE
		WHEN SentBytes > (1000 * 1000 * 1000 * 1000) THEN CONCAT(ROUND(SUM(SentBytes) / (1000 * 1000 * 1000 * 1000), 2), 'PB')
		WHEN SentBytes > (1000 * 1000 * 1000) THEN CONCAT(ROUND(SUM(SentBytes) / (1000 * 1000 * 1000), 2), 'GB')
		WHEN SentBytes > (1000 * 1000) THEN	CONCAT(ROUND(SUM(SentBytes) / (1000 * 1000), 2), 'MB')
		WHEN SentBytes > 1000 THEN CONCAT(ROUND(SUM(SentBytes) /(1000), 2),	'KB')
		ELSE SentBytes
	END SIZE
FROM
	(
		SELECT
			`key`,
			PV,
			UV,
			EV,
			SentBytes,
			CASE
				WHEN SentBytes > (1000 * 1000 * 1000 * 1000) THEN	CONCAT(ROUND(SentBytes / (1000 * 1000 * 1000 * 1000), 2), 'PB')
				WHEN SentBytes > (1000 * 1000 * 1000) THEN CONCAT(ROUND(SentBytes / (1000 * 1000 * 1000), 2), 'GB')
				WHEN SentBytes > (1000 * 1000) THEN	CONCAT(ROUND(SentBytes /(1000 * 1000), 2), 'MB')
				WHEN SentBytes > 1000 THEN CONCAT(ROUND(SentBytes /(1000), 2), 'KB')
				ELSE SentBytes
			END SIZE
		FROM
			(
				SELECT
					`key`,
					COUNT(DISTINCT RequestId) PV,
					COUNT(DISTINCT RemoteIP) UV,
					SUM(IF (ErrorCode = 'NoSuchKey', 1, 0)) EV,
					SUM(SentBytes) SentBytes
				FROM
					ods_down_log_three_day
				WHERE
					time BETWEEN FROM_DAYS(TO_DAYS(NOW())) AND FROM_DAYS(TO_DAYS(NOW()) + 1)
				AND `key` <> '-'
				GROUP BY
					`key`
				ORDER BY
					SentBytes DESC
			) t
		ORDER BY
			SentBytes DESC
	) t2
WHERE
	SentBytes > 99990528;

 

分享到:
评论

相关推荐

    swift-阿里云日志服务reactnativeSDK

    5. **日志分析**:阿里云日志服务提供了丰富的数据分析功能,如聚合、过滤、排序等,帮助开发者理解应用的运行状况和用户行为。 6. **报警机制**:可以设定基于日志内容的报警规则,当特定条件满足时,自动触发报警...

    阿里云-日志服务最佳实践手册.pdf

    阿里云日志服务是一个功能强大且灵活的日志管理平台,旨在帮助用户统一管理和分析日志数据,提高系统的可靠性和安全性。本手册将指导用户如何使用阿里云日志服务实现日志管理、分析和处理,解决实际业务中遇到的问题...

    阿里云开源插件log-pilot搜集k8s部署应用容器内日志

    它能够实时监控和收集k8s集群内的容器日志,并将这些日志数据转发到各种日志分析平台,如Elasticsearch、Logstash、Fluentd等,或者阿里云自家的日志服务(SLS)。 二、工作原理 log-pilot通过Kubernetes API ...

    阿里云 专有云企业版 V3.8.1 日志服务 开发指南 20190910

    阿里云专有云企业版V3.8.1日志服务开发指南是阿里云提供的一份开发指南,旨在帮助用户更好地使用阿里云日志服务。该指南涵盖了日志服务的概况、获取AccessKey、日志服务API reference、日志服务最佳实践等方面的内容...

    阿里云 专有云企业版 V3.5.2 日志服务 产品简介 - 20180831.pdf

    该文档介绍了阿里云日志服务的产品优势、产品功能、使用指南等内容。 法律声明 阿里云提醒用户在阅读或使用本文档之前,务必仔细阅读、充分理解本法律声明各条款的内容。如果用户阅读或使用本文档,其阅读或使用...

    阿里云迁移技术方案.pptx

    同时,企业还可以使用阿里云提供的数据备份、日志备份、SQL审计等服务。 * 后期业务架构:在该阶段,企业将其业务进一步优化,使用阿里云提供的云上架构区域服务,例如DDOS高防、DRDS、DataV等。同时,企业还可以...

    阿里云 专有云企业版 V3.6.0 日志服务 用户指南 - 20190322.pdf

    阿里云日志服务是一种企业级日志解决方案,提供了实时日志采集、存储、分析和搜索等功能,帮助用户更好地了解和分析系统的运行情况。 七、快速入门 本文档提供了快速入门的指南,帮助用户快速了解和使用阿里云日志...

    阿里云 专有云企业版 V3.8.1 日志服务 技术白皮书 20190910

    阿里云专有云企业版V3.8.1日志服务的架构主要包括日志采集、日志处理、日志存储、日志分析和可视化等模块,每个模块都具有其特定的功能和作用。 5. 功能 阿里云专有云企业版V3.8.1日志服务提供了多种功能,包括(1...

    苍穹外卖阿里云oss存储笔记

    - 监控与日志:通过阿里云监控系统实时查看OSS的使用情况,启用日志服务记录所有访问请求。 4. **计费模式**:OSS采用按量付费模式,费用包括存储空间、流量、请求次数以及数据处理等部分。用户可以根据需求选择预...

    .NET Core使用Serilog记录日志,并且结合阿里云logtail模式,将日志收集到阿里云

    阿里云的Logtail服务是一个轻量级的数据采集客户端,它可以监控服务器上的日志文件,并自动将日志数据推送到阿里云日志服务。在服务器上安装并配置Logtail后,它会自动抓取由Serilog写入的文件,然后传输到SLS进行...

    阿里云 专有云企业版 V3.6.0 日志服务 技术白皮书 - 20180824.pdf

    本技术白皮书详细介绍了阿里云专有云企业版V3.6.0日志服务的技术细节,包括日志服务的架构设计、日志采集、日志存储、日志分析、日志可视化等方面的技术实现细节。此外,本文档还提供了法律声明、通用约定、格式说明...

    阿里云-日志服务API参考-D.docx

    阿里云日志服务API参考 阿里云日志服务(Log Service,简称LOG)是针对日志平台化服务。服务提供各种类型日志的实时收集、存储、分发。除此之外,LOG还有ODPS Table间同步服务,可以通过LOG将日志投递至ODPS做大...

    阿里云 专有云企业版 V3.5.2 日志服务 技术白皮书 - 20180831.pdf

    日志分析:阿里云专有云企业版V3.5.2日志服务提供了实时的日志分析功能,支持多种日志分析方式,包括实时分析、离线分析和机器学习分析等。该产品提供了强大的日志分析能力,帮助企业快速发现和解决问题。 安全性:...

    阿里云 专有云Enterprise版 日志服务 V3.3.0 产品简介 20180312.pdf

    "阿里云专有云 Enterprise 版日志服务 V3.3.0 产品简介" 阿里云专有云Enterprise 版日志服务 V3.3.0 产品简介主要面向企业客户,提供了一个可靠、安全、可扩展的日志服务解决方案。该解决方案能够帮助企业客户快速...

    阿里云OSS桌面连接工具

    阿里云对象存储服务(Object Storage Service,简称OSS),是阿里云提供的海量、安全、低成本、高可靠的云存储服务。OSS广泛应用于各种场景,包括网站托管、数据备份、视频流媒体存储、大数据分析等。为了方便用户在...

    阿里云 专有云Enterprise版 日志服务 V3.3.0 运维指南 20180312.pdf

    日志服务是阿里云专有云Enterprise版的一项重要功能,旨在帮助用户收集、存储和分析日志数据,以便更好地监控和优化应用程序的性能。 日志服务安装和配置 在安装和配置日志服务时,用户需要遵循阿里云提供的安装...

    阿里云-日志服务用户指南.pdf

    通过以上介绍,我们可以看到阿里云日志服务提供了全面的日志管理方案,涵盖了从日志的生成、传输、存储到分析的全生命周期管理,旨在帮助企业更好地挖掘日志数据的价值,优化运维效率,提升业务洞察力。

    阿里云开源插件log-pilot(logpilot)搜集k8s部署应用容器内日志—超详细,超全面(带文档和相关软件包)

    阿里云开源插件Log-Pilot(也称为logpilot)是一款强大的日志收集工具,专为在Kubernetes(k8s)环境中运行的应用程序设计。它能够高效地从各个容器中提取日志,并将这些日志发送到指定的存储或分析系统,以便于监控...

    阿里云 专有云敏捷标准版 V3.1.0 云平台 ASCM用户指南 20200509.pdf

    阿里云专有云敏捷标准版V3.1.0云平台ASCM用户指南是一份详细说明如何使用ASCM(Alibaba Cloud Service Control Management)的产品文档,适用于2020年5月9日的版本。ASCM是阿里云提供的一个管理工具,它允许用户有效...

    阿里云-日志服务入门指南.pdf

    阿里云日志服务是一款强大的日志管理平台...通过以上步骤,用户可以全面掌握阿里云日志服务的基本使用流程,实现日志的高效管理和分析。此外,阿里云还提供了视频教程和详细文档,以便用户更深入地理解和应用日志服务。

Global site tag (gtag.js) - Google Analytics