浏览 3846 次
锁定老帖子 主题:Hadoop 文件追加(断点继传)
精华帖 (0) :: 良好帖 (0) :: 新手帖 (0) :: 隐藏帖 (0)
|
|
---|---|
作者 | 正文 |
发表时间:2012-03-05
hadoop 0.20之前的版本应该不支持文件追加功能,我用的是1.0版本的。 要想使用文件追加写入功能,先配置hdfs-site.xml,如下:
<property> <name>dfs.support.append</name> <value>true</value> </property> dfs.support.append默认是关闭的。
然后程序打开文件时用: FileSystem fs = FileSystem.get(URI.create(dst), conf); FSDataOutputStream out = fs.append(new Path(dst));
在网上找了一天都没有找到解决方法,而且都说hadoop没有这个功能。最后没办法看了下异常,突然发现异常中用个dfs.support.append设置的提示,配置了下,居然成功了,特此分享。
声明:ITeye文章版权属于作者,受法律保护。没有作者书面许可不得转载。
推荐链接
|
|
返回顶楼 | |
发表时间:2012-03-11
你竟然能够成功,我到配置了这个参数还是报一样的错误
|
|
返回顶楼 | |
发表时间:2012-03-13
我的的确成功了,我用的是hadoop-1.0.0的版本,或者是你没有重启服务,不行的话,重新faomat下试试。
|
|
返回顶楼 | |
发表时间:2012-03-13
format 打错了
|
|
返回顶楼 | |
发表时间:2012-03-13
great.
兄弟可以使用CDH3u3,包含1.0所有功能,及其最新patch http://www.cloudera.com/blog/2012/01/an-update-on-apache-hadoop-1-0/ |
|
返回顶楼 | |