近期使用阿里云的e-maprecude服务解决一个问题,因此对阿里云做了些预研。
学习记录如下,有些杂乱。
OSS价格 OSS产品的账单费用=存储空间费用+流量费用+请求费用。
https://help.aliyun.com/document_detail/oss/billing/overview.html
存储费用:初期试用:按量付费最省钱
流量费用:初期试用:按量付费最省钱
接口调用请求费用:0.01元/万次 试用期暂可忽略
Access Key ID:
Access Key Secret:
利用OSS做动静分离的架构
https://www.aliyun.com/product/oss/?spm=5176.2020520111.111.1.9EVXDI#Ability
阿里云官方视频教程
https://www.aliyun.com/support/video
https://www.aliyun.com/support/video/list?spm=5176.2096654.3.2.e5Dx4j
■RDS/DRDS
●RDS
1、帐号管理
2、数据库管理:
1)新建数据库
2)数据库迁入
·从自建实例:
·在公网IP 的自建数据库,或ECS上的自建数据库
3、系统资源监控:
·磁盘空间
·IOPS
·连接数
·CPU利用率
·网络流量
·QPS/TPS
·InnoDB缓冲池
·InnoDB读写量
·InnoDB读写次数
·InnoDB日志
·临时表
·····
4、参数设置:MySql参数设置
5、备份与恢复:
实例备份的策略设置:时间/周期等
●DRDS
分布式关系型数据库。可随时扩展。
可进行分库、分表的策略和设置
可以设置只读实例和只读的均衡策略、请求发往只读实例的百分比策略等
■ODPS Open Data Processing Service
主要提供针对TB/PB级数据/实时性要求不高的分布式处理能力,应用于数据分析、挖掘、商业智能等领域。
●管理控制台的使用
ODPS以项目为单位来管理作业,每个项目中可以进行数据、作业、帐户和权限、安全设置的管理。
1、数据
在这里可以新建、查看、管理表。
创建表时,可以创建普通列和分区列(mysql将根据该列进行分区)。
可以在表管理列表中查看表的各种属性、数据等,也可以进行ACL授权。
如果有分区,还可以查看分区。新建分区。
(这里是手动创建分区,分区也要手动加上去的。与mysql等RDBS的自动分区有所不同。指定分区的表会有一个分区字段rq,rq的值就是创建分区时指定的rq值)
上传:以txt或csv格式,以逗号分隔,把数据文件上传。如果是分区表,需要选择分区。
2、作业
不管是sql还是mapReduce作业,都会含有一个instanceID,ODPS用这个instanceID来管理任务。
作业列中中可以看到所有作业属性和执行时长等。
ODPS的作业收费包含存储费用和请求次数进行收费。
3、帐号和权限
帐号和授权的管理、角色管理
4、安全设置
项目空间数据保护:只允许项目内部使用。
●使用ODPS客户端进行数据操作
1、在ODPS产品帮助区的链接中下载ODPS客户端
2、在odps.conf中配置自己的帐户配置、Access key等信息
access_id
access_key
end_point: 提供OSPS服务的URL
project id:
3、在ODPS的可执行目录下使用ODPS命令
odps :进行odps环境
sql: 用sql方式访问
show tables: 显示表名
sqlect * from xxx:
exit:退出sql
help:
security: 授权等操作
●Dship上传、下载数据
1、在ODPS产品帮助区的链接中下载“数据上传、下载工具”
2、在odps.conf中配置自己的帐户配置、Access key等信息
3、输入dship进入dship命令模式
upload:
download:
resume: 类似断点续传
●MapReduce的开发和应用
1、在ODPS产品帮助区的链接中下载“eclipse插件”,将下载后的jar包拷贝到plugin目录下。
2、在eclipse中new project项导中选择MapReduce项目。
3、新建一个Mapper类
4、新建Reduce类
5、新建一个Driver类,调用map,reduce任务
●UDF的开发和应用
■ESS 弹性伸缩服务
1、创建什缩组
1)基本信息:设置什缩的最大实例值、最小实例值、伸缩的策略等,同时需要配置一个负载均衡器。
2)伸缩组配置:设置CPU核数、内存、带宽,还需要选择一个系统镜像。还可以将以有的ECS实例添加到伸缩组。
3)伸缩规则设置
创建伸缩规则:报警事件触发:如CPU平均负载大于60%时触发时增加一台等
创建减少规则(收缩):
2、自动触发任务管理
新建报警任务,与伸缩规则绑定。这样在到达报警规则时,自动进行伸缩或收缩。
可以结合阿里的性能测试服务PTS来对阿里云的其它服务进行压力测试。
PTS支持测试脚本。可以运行设置好的测试任务。
■OTS 弹性伸缩服务
Open Talbe Service 是构建在飞天分布式系统之上的NoSQL数据库服务,提供海量结构化数据的存储和实时访问。
●实例操作
在实例管理中新建OTS实例。每个实例具有公网访问地址和私网访问地址。
●表操作
在实例管理中“新建数据表”
表名称、预留读/写吞吐量、表主键。
主键的第一个字段将会被用做“分片键”
●利用OTS java SDK进行开发
利用SDK中的OTSClient类进行表数据的创建、上传、删除等。
分享到:
相关推荐
大数据计算服务是阿里云提供的一个快速、完全托管的TB/PB级数据仓库解决方案,它叫做MaxCompute,原名ODPS。MaxCompute向用户提供了完善的数据导入方案以及多种经典的分布式计算模型,能够快速解决用户海量数据计算...
本文档是阿里云大数据ACA认证的学习笔记,基本上是理论知识,掌握了ACA考试就能过了,同时还有一些实践操作自己可以酌情学习(想拿高分)
负载均衡(Server Load Balance,SLB)是对多台云服务器进行流量分发的负载均衡服务。
阿里云ACP认证学习笔记
阿里云的认证考试太难了,并且考大数据方向的人太少了,笔记也少,我整理了一点笔记,给大家分享下 ,给大家参考下 ,给大家学习下 ,希望你也能提供原创笔记
【laravel框架学习笔记--阿里云部署】 Laravel是一款基于PHP的开源Web应用框架,以其优雅的语法和强大的功能深受开发者喜爱。本笔记主要聚焦在如何将一个Laravel项目部署到阿里云服务器上,以便在互联网上运行。...
专为阿里云大数据专业认证考试(Alibaba Cloud Certified Professional,ACP)整理笔记,备考ACP认证考试 阿里云大数据专业认证(Alibaba Cloud Certified Professional,ACP)是面向使用阿里云大数据产品的架构、...
阿里云大学的Java笔记涵盖了面向对象编程的基础,包括类与对象的概念、内存管理、异常处理、构造方法、匿名对象以及数组的使用。以下是对这些知识点的详细解释: 1. **类与对象**: - 类是Java中的蓝图,它定义了...
阿里云天池SQL课程学习笔记项目_Aliyun-SQL
主要对比之前做的ETL数据仓库项目,学习一下阿里云数仓方法,顺便了解一下阿里云与相关的大数据产品。借鉴和学习好的方法和思路。 一、项目需求分析 1、实时采集埋点日志数据 2、实时采集业务西数据 3、对采集到的...
阿里云工业视觉智能工程师ACP认证——培训课程笔记 ——考纲 —— ——工业视觉成像基础(10%) —— ——视觉深度学习技术基础(20%) —— ——深度学习在工业缺陷检测中的应用(30%) —— ——工业视觉综合分析...
2)整个数仓体系完全搭建在阿里云架构上,理解并学会运用各个服务组件,了解各个 组件之间如何配合联动。 3)前置知识要求 熟练掌握SQL语法 熟悉Linux命令 对Hadoop大数据体系有一定的了解
【Java学习笔记整理】 Java是一种广泛使用的编程语言,它不仅是一种语言,还是一个软件开发平台和运行环境。Java分为三个主要版本:Java标准版(JSE)、Java缩微版(JME)和Java企业版(JEE)。JSE主要用于桌面应用...
XML 基础学习笔记 XML 文档基本结构: 1. 文档说明:一个完整的 XML 文档中必须包含一个文档说明,这个说明表示该文档是一个 XML 文挡,以及遵循那个 XML 版本的规范。最简单的文档说明如下:`”1.0” ?>` 2. ...
Redis全套学习笔记 完整版pdf.rar set:添加键值对 get:获取值 apend:追价值 strlen:获取值的长度 setnx:key不存在时,设置key的值 incr:原子递增1 decr:原子递减1 incrby/decrby:递增或者递减指定的数字 ...
需要注意的是,使用阿里云ECS需要一定的网络和系统知识,尤其是对于网络安全组的配置和Linux系统的操作,这些都需要用户具有一定的背景知识或愿意进行学习和探索。此外,用户在使用ECS过程中应关注成本控制,合理...
"HCIA HCIP云计算入门课程学习笔记" 本课程学习笔记涵盖了云计算的基本概念、优点、类型、私有云、公有云、混合云、IaaS、PaaS、SaaS等云计算服务模式,以及华为云计算解决方案、虚拟化技术、IP、掩码、DNS、网关等...
【SSM云学习笔记系统】是一个综合性的项目,它结合了Spring、SpringMVC和MyBatis(简称SSM)三大Java开发框架,以及云技术,用于构建一个高效、便捷的学习笔记管理平台。这个系统可能涵盖了用户登录注册、笔记创建、...
新东方新概念英语学习笔记是英语学习者们的一份宝贵资料,它涵盖了新概念英语教材的全部四个级别,从第一册的基础入门到第四册的高级进阶,为学习者提供了全面而深入的学习指导。这份资源的出现,无疑为英语学习者...