`
keren
  • 浏览: 1582747 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

删除hdfs文件报 permission denied的处理

阅读更多
删除hdfs文件报 permission denied的处理,


参考:
http://heipark.iteye.com/blog/1068139
http://blog.sina.com.cn/s/blog_5f3895a00100w2pu.html

分M/R和客户端程序两种情况.
case A: M/R,只要在执行的机器上加入java参数
-Dhadoop.job.ugi=shentingting,supergroup

case B: 客户端连接去操作,此时加入参数就不管用了,应该修改配置xml文件
(hdfs-site.xml)
<property>
  <name>dfs.permissions</name>
  <value>false</value>
  <description>
    If "true", enable permission checking in HDFS.
    If "false", permission checking is turned off,
    but all other behavior is unchanged.
    Switching from one parameter value to the other does not change the mode,
    owner or group of files or directories.默认为true,如果true,那么要删除别人创建的文件(夹)就会报 Permission denied: user=xxx, access=WRITE, inode...
  </description>
</property>

此处一改,第一种情况也解决了.但是要重启集群环境.

客户端直接访问集群报权限错误:
[FS] INFO [main] HdfsFile.<init>(44) | --分布式文件路径:hdfs://192.168.0.220:9000/usr/local/hadoop/hadoop-root/tmp/oak/local/stt
[FS] ERROR [main] HdfsFile.delete(233) | [分布式文件系统]删除遇到错误
org.apache.hadoop.security.AccessControlException: org.apache.hadoop.security.AccessControlException: Permission denied: user=chenjd, access=WRITE, inode=".svn":shentingting:supergroup:rwxr-xr-x
	at sun.reflect.NativeConstructorAccessorImpl.newInstance0(Native Method)
	at sun.reflect.NativeConstructorAccessorImpl.newInstance(NativeConstructorAccessorImpl.java:39)
	at sun.reflect.DelegatingConstructorAccessorImpl.newInstance(DelegatingConstructorAccessorImpl.java:27)
	at java.lang.reflect.Constructor.newInstance(Constructor.java:513)
	at org.apache.hadoop.ipc.RemoteException.instantiateException(RemoteException.java:95)
	at org.apache.hadoop.ipc.RemoteException.unwrapRemoteException(RemoteException.java:57)
	at org.apache.hadoop.hdfs.DFSClient.delete(DFSClient.java:830)
	at org.apache.hadoop.hdfs.DistributedFileSystem.delete(DistributedFileSystem.java:234)
	at com.mw.fs.impl.dfs.HdfsFileSystem.delete(HdfsFileSystem.java:211)
	at com.mw.fs.impl.dfs.HdfsFile.delete(HdfsFile.java:231)
	at com.mw.fs.utils.MLFileUtils.delete(MLFileUtils.java:143)
	at com.mw.fs.utils.MLFileUtils.delete(MLFileUtils.java:182)
	at com.mw.fs.utils.MLFileUtils.delete(MLFileUtils.java:178)
	at com.mw.fs.utils.MLFileUtils.delete(MLFileUtils.java:178)
	at com.mw.fs.utils.MLFileUtils.delete(MLFileUtils.java:198)
	at test.TestDFS.delete(TestDFS.java:117)
	at test.TestDFS.main(TestDFS.java:27)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at com.intellij.rt.execution.application.AppMain.main(AppMain.java:120)
分享到:
评论

相关推荐

    上传文件到Hadoop失败的原因分析及解决方法.pdf

    在 Tomcat 中观察运行结果,可以发现出现了 Exception“org.apache.hadoop.security.AccessControlException: Permission denied: user=bikun,access=WRITE, inode="/user":user:supergroup:drwxr-xr-x”。...

    kylin.rar为kylin.properties的配置

    接下来,文件中还有关于Kylin的工作目录配置,如`kylin.env.hdfs-working-dir=/kylin/working`,这个路径是Kylin在HDFS上临时存储中间结果和日志的地方。根据你的集群环境,可能需要将此路径更改为指向实际的HDFS...

    windows上传文件到虚拟机的hdfs上

    org.apache.hadoop.security.AccessControlException: Permission denied: user=ASUS, access=WRITE, inode 今天在windows连接虚拟机的hdfs,通过IDEA上传文件到虚拟机的hdfs上,出现了权限不足问题,原因是以...

    hadoop 客户端权限问题

    这个特定的错误日志"org.apache.hadoop.security.AccessControlException: Permission denied: user=xudsa, access=WRITE, inode="/uploaddemo1.txt":hadoop:supergroup:-rw-r--r--"表明用户"xudsa"试图对文件"/...

    hadoop学习常见问题(手动整理)

    ##### HDFS客户端的权限错误:Permission denied **问题描述**:在使用HDFS客户端操作文件时,可能会遇到权限拒绝的问题。 **原因分析**:这可能是由于HDFS客户端操作文件的用户与文件所有者不匹配,或者文件权限...

    【Spark】六、org.apache.hadoop.security.AccessControlException

    Exception in thread main org.apache.hadoop.security.AccessControlException: Permission denied: user=L.MOON, access=WRITE, inode=/user/lsy/result1/_temporary/0:lsy:supergroup:drwxr-xr-x Caused by: org....

    linux下伪分布安装hadoop环境及问题处理

    - **SSH登录时提示“Permission denied”**: - 确认公钥已正确添加到`/root/.ssh/authorized_keys`文件中。 - 检查文件权限是否正确设置。 - **Hadoop启动失败**: - 检查Hadoop的核心配置文件是否设置正确。 -...

    Hive常见异常处理.docx

    当我们尝试写入或读取HDFS上的文件时,如果没有足够的权限,Hive将抛出一个RuntimeException,错误信息为“Permission denied”。解决这个问题的方法是连接shadmin用户,对shdev用户赋予该路径的ACL权限。 三、通用...

    CentOS搭建hadoop伪分布式时遇到的错误.doc

    配置Hadoop时,确保`hadoop-env.sh`、`core-site.xml`、`hdfs-site.xml`等配置文件正确指向了修改后的目录路径。 此外,还要注意防火墙设置,确保Hadoop需要的端口(如50070、8088等)对本地用户开放。最后,启动...

    那些年spark踩过的坑1

    `Permission denied: user=administrator, access=WRITE, inode="/":root:supergroup:drwxr-xr-x` **问题描述:** 此异常提示在尝试写入HDFS时权限不足,通常是由于当前用户没有足够的权限访问特定的HDFS路径。 *...

    Hadopp集群运用过程中碰到的问题

    - **错误现象1:AccessControlException: Permission denied** - 原因:Windows本地用户权限不足。 - 解决方法:(i)测试环境中,可在hdfs-site.xml中将dfs.permissions设置为false,禁用权限检查;(ii)或修改...

    MAC hadoop安装

    一、hadoop安装 1.安装java ...2. 配置SSH (1)首先在系统里打开远程登录,位置在 System Preference -&gt; Sharing 中,左边勾选 Remote Login,右边选择 All Users。...(2)生成新的keygen否则后面会报错 Permission denied

Global site tag (gtag.js) - Google Analytics