MaxCompute Studio 是MaxCompute 平台提供的安装在开发者客户端的大数据集成开发环境工具,是一套基于流行的集成开发平台 IntelliJ IDEA 的开发插件,可以帮助您方便地进行数据开发。下面我们一起来看一看Studio的简单用法。
用户登录
Studio提供用户登录功能。常规登录入口在Intellij toolbar中右上角的Sign In。登录完成后可直接使用答疑机器人、添加D2项目、同步D2等功能。
答疑机器人
点击右侧“FAQ Robot”按钮,进入答疑机器人页面,如下图所示。答疑机器人支持自助答疑和人工答疑两种方式,支持图片和文件上传,如果对自助答疑的结果不满意,可以在聊天框发送“人工”呼叫ODPS值班同学。或者直接发送图片或文件唤起人工服务。
资源管理
Studio 的一大核心功能就是浏览 MaxCompute 项目空间(Project)的资源,包括 Table、UDF、Resource 等。为了能够在 Studio 中访问它们,以及其它很多功能,我们首先需要在新建项目连接。在Project Explorer中点击"+"添加连接,目前Studio支持同步D2项目和通过accessId/Key添加项目连接。
建立项目空间连接后,可以浏览Table&View、Function、Resource等项目资源,双击对应的元素可以在Intellij中查看资源详情。
Table
双击打开某个table,如下图所示。有两个tab页面,“表信息”页面如下如所示,该页面展示table的基本信息、schema信息,提供数据预览功能。
选择对应的分区,设置预览行数,点击“预览”按钮可以进行数据预览。同时,右键点击表头支持数据导入/导出功能。
“分区信息”页面如下所示,显示分区的详细信息,提供分区的查询、刷新功能。同时提供导出分区信息、分区数据导入导出等功能。
在project explorer中右键点击某张表,可以看到建表、改表、数据操作等一系列比较实用的功能。
在Studio中不光可以通过写SQL进行DDL相关的操作,也可以通过可视化界面创建和修改table:Project Explorer中右键点击项目名称或者“Table & Views”选择“Create a new table”进行建表操作。
右键点击某个table选择“open table editor”可以对表信息进行相应修改,如下图所示,Studio可以将用户操作转化为对应的SQL语句。
Functions
Functions分为BuiltIn Function和UserDefied Function, 双击对应的function可以展开详情:
可以通过如下途径添加Function:
Resources
双击对应的resource,可以在editor中打开文件。对于UDF文件数大于5的情况,只打开前5个class。
可以通过如下途径添加resource:
SQL编辑器与作业提交
如何帮助用户高效愉快的编写SQL是MaxCompute studio的核心使命,下面就让我们来一起看一下SQL编辑器的使用。首先需要创建一个MaxCompute Script Module,如下图所示:
Module创建完成后,新建SQL脚本文件如下图所示。
最后双击SQL文件就可以进行我们的脚本开发了,这里可以自己设置模式(单句模式|脚本模式)、系统类型(旧有系统类型|MaxCompute系统|Hive系统)、编译器类型(默认编译器|实验性编译器)等。右上角需要选择对应的project。
下图所示三个按钮分别表示将SQL同步到D2,在Cosonle中打开ODPS CMD,打开SQL History。
SQL编辑完成后,点击下方的graph tab按钮,可以显示该SQL的执行计划,双击Task节点会展开对应的Operator级别的信息。
点击绿色的提交按钮,Studio会先编译脚本,编译通过后提交Server后显示运行信息并打开Job分析页面,如下图所示:
作业详情
上面我们说到了如何编辑SQL和提交作业,接下来一起看看如何查看作业详情。作业详情页可以通过多条路径打开,比如上面说到的提交作业,会自动打开作业详情页。其次通过Job Explorer也可以打开作业详情页,再有就是如果已经知道logview,可以通过logview打开作业详情页,如下图所示:
作业详情页面分为两部分,左侧是作业的一些基本信息,右侧包含多个tab页,包含graph信息、时序图、详情、脚本、摘要、结果、分析等内容。下面对graph图、时序图、详情页和作业分析进行进一步介绍。
graph页面
graph页面展示作业的Job|Task|Operator三层结构。点击左上角的导航可切换不同level的视图,双击Job节点进入Task视图,双击Task节点进入Operator视图。
graph页面用户可以通过鼠标滚轮或者左侧缩放按钮对图像进行缩放,同时提供鹰眼和拖拽等功能。点击task节点显示task级别信息,点击task之间连线显示schema信息。
在task level视图中右键点击节点,选择"expand all"展开所有的operator。
同时,单击table节点会显示table的基本信息和分区信息,双击table节点会跳转到对应的table详情页。
时序图
时序图画的是所有Fuxi Instance的甘特图,通过时序图可以对作业的运行时间等进行详细的分析,左侧的Filter可以对instances进行过滤,鼠标悬停到对应的instance上会显示对应的信息,双击则会跳转到"详情”tab页并选中对应的instance,对用户分析十分方便。同时时序图支持缩放功能。
详情页
详情页展示的是Task级别和Instance级别的详细信息。
作业分析页面
作业分析页面提供作业分析的结论,比如长尾节点、数据倾斜等。并提供散点图、长尾图和数据倾斜图供用户分析。
作业队列
Maxcompute 作业从提交到开始执行之前,需要经历很多状态,如:执行编译、优化、排队等待资源等。作业队列提供了查看当前详细状态的功能。对于正在排队等待调度的作业,可也从队列窗口中查看排队位置和前序作业等信息。点击"Job Explorer"打开作业队列页面,该页面提供了项目名称、状态、日期等Filter,选择对应的条件后会得到对应的作业队列,双击某一个作业会打开对应的作业详情页面。
相关推荐
GameMaker Studio开发:GameMaker Studio基础入门_(10).事件与对象.docx GameMaker Studio开发:GameMaker Studio基础入门_(11).精灵与动画.docx GameMaker Studio开发:GameMaker Studio基础入门_(12).房间与...
《Android Studio从入门到精通》是一本针对初学者的详细指南,旨在帮助读者掌握这款强大的Android应用程序开发环境。虽然书中可能基于的是较旧版本的Android Studio,但核心概念和大部分功能在新版本中依然适用,...
pipeline studio快速入门,确实容易上手
从标题《Android Studio 简易入门》来看,本文应该是一份关于如何使用Android Studio进行Android应用开发的入门指南。Android Studio是Google官方提供的集成开发环境(IDE),专为Android应用开发设计,它简化了应用...
《Android Studio从入门到精通》是一本全面介绍Android Studio开发环境和Android应用开发技术的教程。这本书以超高清完整PDF格式呈现,具有文字可复制的特点,方便读者学习和查阅。目录结构清晰,使得读者能够系统地...
"Visual Studio 2010入门教程" 本教程旨在帮助初学者学习 Visual Studio 2010 软件和 C++ 语言。本教程将涵盖 Windows 下使用 C++ 进行开发的常见内容、Visual Studio 2010 的使用、如何创建新项目、如何调试、如何...
资源名称:VisualStudio2005入门.Net系列视频教程【106讲】资源截图:【】VS2005视频教程(1-39)【】VS2005视频教程(100-106)【】VS2005视频教程(40-67)【】VS2005视频教程(68-85)【】VS2005视频教程(86-93)【】VS...
本份《Automation Studio 4的使用入门.pdf》文档旨在向贝加莱PLC新手提供一个从基础到高级操作的入门培训。文档从Automation Studio的基础概念讲起,再到其安装、使用、项目创建、编程、硬件配置,直至项目的仿真和...
Microsoft Visual Studio2010 入门
GameMaker Studio社交游戏开发:GameMaker Studio基础入门_(10).条件语句与循环.docx GameMaker Studio社交游戏开发:GameMaker Studio基础入门_(11).函数与脚本编写.docx GameMaker Studio社交游戏开发:...
本教程旨在帮助初学者了解并掌握Android Studio的基础使用方法,从而踏入Android应用开发的大门。 一、Android Studio安装与设置 1. 下载:首先,你需要从官方网站下载适用于你操作系统的Android Studio安装包。 2....
开发者通常会从入门者逐渐成长为高级开发者,通过学习文档、观看教学视频、参与社区讨论和实际开发项目,逐步掌握Android Studio的高级功能,例如性能优化、多屏幕适配、应用安全等。 ### 总结 以上内容覆盖了...
这个“Android Studio从入门到精通.zip”压缩包显然是一个全面的学习资源,旨在帮助初学者理解并掌握Android Studio的使用。 Android Studio的核心特性包括: 1. **智能代码编辑器**:它提供了代码补全、语法高亮、...
资源名称:AndroidStudio从入门到精通资源截图: 资源太大,传百度网盘了,链接在附件中,有需要的同学自取。
Visual Studio2005入门.Net系列视频教程2
本文将深入探讨Android Studio的入门安装、基本使用以及一些实用的经验分享。 首先,我们来详细讨论Android Studio的安装过程: 1. 下载:访问Android官方网站,进入开发者资源区域,找到Android Studio的最新稳定...