`
bit1129
  • 浏览: 1067596 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

【Hadoop二十一】Hadoop ProxyUser

 
阅读更多

关于Hadoop ProxyUser的出现动机,参看

https://hadoop.apache.org/docs/r2.7.2/hadoop-project-dist/hadoop-common/Superusers.html

 

线上环境做了如下配置

 

 <!--hadoop proxyuser-->
  <property>
    <name>hadoop.proxyuser.hdfs.groups</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.hdfs.hosts</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.yarn.groups</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.yarn.hosts</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.mapred.groups</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.mapred.hosts</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.hive.groups</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.hive.hosts</name>
    <value>*</value>
  </property>
  <property>
    <name>hadoop.proxyuser.hbase.groups</name>
    <value>*</value>

 

问题:

1. 首先对proxyuser做什么校验,比如该用户存储在LDAP或者数据中,但是Kerberos服务器授权配置的用户只有几个,比如hdfs,spark,hive,yarn,hbase,zookeeper等几个,这时就需要这些kerberos用户代理proxy  user通过Kerberos授权检查

2. 由hdfs代理的proxy user访问hdfs时,是使用用户hdfs的权限还是proxy user自身的权限?

 

 

分享到:
评论

相关推荐

    Hadoop和Hbase 配置文件-完整好的

    在大数据处理领域,Hadoop和HBase是两个非常重要的组件。Hadoop是一个开源的分布式计算框架,而HBase是一个基于Hadoop的分布式列式数据库。它们的配置文件对于系统稳定运行至关重要。这份"完整好的"配置文件集合包含...

    Hadoop搭建的源代码.doc

    3. `hadoop.proxyuser.hadoop.hosts`和`hadoop.proxyuser.hadoop.groups`: 这两个属性涉及到用户代理功能,允许`hadoop`用户通过HTTP代理访问Hadoop服务。`*`值表示允许所有主机和所有用户组。 接下来,`hdfs-site....

    oozie在hadoop中配置代理

    oozie在hadoop中配置代理,内有相关链接及实际配置信息

    hadoop安装详细文档

    &lt;name&gt;hadoop.proxyuser.root.groups * ``` ##### 3.11 修改`hdfs-site.xml`文件 - 使用文本编辑器打开`hdfs-site.xml`文件。 - 在`&lt;configuration&gt;`标签内添加必要的配置项。这些配置项包括但不限于副本数量...

    Ambari搭建Hadoop

    Ambari 搭建 Hadoop 集群环境 Ambari 是一个商业化的平台,用于搭建 Hadoop 集群环境。该平台提供了一个端到端的解决方案,包括安装、操作、修改配置和监控集群中的所有节点。使用 Ambari 的 Web UI 和 REST API,...

    hadoop配置文件编辑

    4. hadoop.proxyuser.whdx.hosts:指定代理用户的主机列表。这里设置为 \*,表示允许所有主机作为代理用户。 5. hadoop.proxyuser.whdx.groups:指定代理用户的组列表。这里设置为 \*,表示允许所有组作为代理用户...

    centos7+hadoop2.7.3+jdk1.8

    注意:`core-site.xml`中的`hadoop.proxyuser.root.hosts`和`hadoop.proxyuser.root.groups`配置项允许root用户通过HTTP代理访问Hadoop服务,这在集群管理时很有用。 完成以上步骤后,您需要启动Hadoop服务并进行...

    Hadoop2.7.1——NFS部署

    &lt;name&gt;hadoop.proxyuser.root.groups * 允许所有用户组用户代理 &lt;name&gt;hadoop.proxyuser.root.hosts &lt;value&gt;localhost 允许挂载的主机域名 ``` 这里`root`是指超级用户,`*`表示所有用户组。如果需要...

    Hadoop配置文件

    此外,网络设置也至关重要,特别是`core-site.xml`中的`hadoop.proxyuser.*`设置,用于跨用户访问HDFS和其他服务。 总的来说,Hadoop的配置文件是整个系统的神经中枢,它们决定了Hadoop集群如何运行和协作。熟练...

    HiveServer2自定义身份验证

    ============Hive的... hadoop.proxyuser.hadoop.hosts * hadoop.proxyuser.hadoop.groups * 如图所示: 2)YARN (MR2 Included)修改core-site.xml配置 java.sql.SQLException: Could not open client transpor

    hadoop cdh版本伪分布式集群搭建图文教程

    &lt;name&gt;hadoop.proxyuser.root.hosts [虚拟机主机名] &lt;name&gt;hadoop.proxyuser.root.groups * ``` - 其中`[虚拟机主机名]`需要替换为实际的主机名或IP地址。 - **hadoop-env.sh** - 添加JDK环境变量的...

    6、HDFS的HttpFS-代理服务

    - `hadoop.proxyuser.{userA}.hosts`: 指定哪些主机可以通过用户`userA`进行代理访问。 - `hadoop.proxyuser.{userA}.users`: 允许用户`userA`代理哪些用户访问。 - `hadoop.proxyuser.{userA}.groups`: 允许用户...

    core-site配置文件说明

    4. **hadoop.proxyuser.{username}.hosts** 和 **hadoop.proxyuser.{username}.groups**: - **功能**:配置代理用户的权限,允许特定用户或用户组以其他用户的身份进行操作。 - **示例**: - `&lt;name&gt;hadoop....

    sqoop2安装文档

    &lt;name&gt;hadoop.proxyuser.$SERVER_USER.hosts * &lt;name&gt;hadoop.proxyuser.$SERVER_USER.groups * ``` 其中,`$SERVER_USER` 需要替换为实际的用户名。 6. **准备MySQL驱动程序** 创建一个额外的目录...

    oozie安装详细文档

    &lt;name&gt;hadoop.proxyuser.xiaozhou.hosts &lt;value&gt;bigdata01 &lt;name&gt;hadoop.proxyuser.xiaozhou.groups * ``` 这里配置了 Hadoop 的默认文件系统路径、临时目录以及指定启动 Oozie 的用户和允许访问 Oozie ...

    尚硅谷大数据技术之Oozie1

    对于CDH版本的Hadoop,需要在`core-site.xml`、`mapred-site.xml`和`yarn-site.xml`中添加Oozie相关的配置项,如设置`hadoop.proxyuser.atguigu.hosts`和`hadoop.proxyuser.atguigu.groups`以允许Oozie代理用户,...

    快速学习-Oozie的部署

    hadoop.proxyuser.atguigu.hosts * hadoop.proxyuser.atguigu.groups * mapred-site.xml mapreduce.jobhistory.address hadoop102:10020 mapreduce.jobhistory.webapp.address hadoop102:19888 yarn-...

    sqoop2 java API从oracle导数据到HDFS开发总结

    &lt;name&gt;hadoop.proxyuser.root.hosts * &lt;name&gt;hadoop.proxyuser.root.groups * ``` 若不进行上述配置,在尝试将数据导入HDFS时可能会遇到类似`Caused by: org.apache.sqoop.common.SqoopException: ...

Global site tag (gtag.js) - Google Analytics