`
weitao1026
  • 浏览: 1046053 次
  • 性别: Icon_minigender_1
  • 来自: 上海
社区版块
存档分类
最新评论
阅读更多

先简单说下业务:有一个单独的模块,可以在远程下载Hadoop上的索引,然后合并压缩,最后推送到solr服务器上

原来使用的是Ant打包,外部的jar是在执行主体的jar时cp进环境变量的,所以没有出现今天要说的这个问题,伪代码如下:

先把所有外部的jar的路径,拼接好一个字符串path,然后将path传入下面执行的代码

java -cp  path  com.xxx.xxx.Test

现在要统一项目风格,要把Ant项目转换为Maven项目,大体上没啥问题,由于不写MapReduce,仅仅使用HDFS api操作文件系统上的一些数据,所以引入的依赖如下,并没有hadoop-client



打包也很顺利,但是,当到Linux上,执行远程下载Hadoop上的
数据时,总是报如下的异常:



然后检查了下项目依赖的包,发现不缺依赖的jar,经过找资料,发现原来是maven-assembly 这个插件在打包时,覆盖了hadoop的两个关键属性:

Java代码 复制代码 收藏代码
  1. conf.set("fs.hdfs.impl", org.apache.hadoop.hdfs.DistributedFileSystem.class.getName());  
  2.  conf.set("fs.file.impl", org.apache.hadoop.fs.LocalFileSystem.class.getName());  
conf.set("fs.hdfs.impl", org.apache.hadoop.hdfs.DistributedFileSystem.class.getName());
 conf.set("fs.file.impl", org.apache.hadoop.fs.LocalFileSystem.class.getName());


如何解决?
方法一:
在实例化Configuration类 , 加入如下属性:



方法二:在项目路径下新建一个core-site.xml配置如下属性即可


 

分享到:
评论

相关推荐

    JAVA中的Configuration类详解

    JAVA中的Configuration类详解 JAVA中的Configuration类是Java平台默认的配置文件格式,优点是格式清晰,简单易懂。使用commons-configuration读取properties文件也比较简单。 基本用法: 1. 加载jar包,使用maven...

    Android应用源码之Configuration_Configuration.zip

    本资源"Android应用源码之Configuration_Configuration.zip"可能包含了深入解析Android Configuration类的源代码分析。 当我们谈论Android的Configuration时,首先要知道它是如何影响应用的。当设备的配置发生改变...

    common-configuration的一些应用

    `TestConfiguration.java`很可能是一个Java类,用于处理配置文件的读取和解析工作。在Java中,我们可以利用`java.util.Properties`类来加载和操作`.properties`文件,如`config.properties`和`configiiff.properties...

    spring-configuration-validation-processor:Java 6+注释处理器,用于验证Spring @Configuration类

    @Configuration类不能是最终的。 @Configuration类必须具有可见的无参数构造函数。 @Configuration类的构造函数不得为@Autowired。 嵌套的@Configuration类必须是静态的。 @Bean方法不能是私有的。 @Bean方法...

    自定义@Configuration配置类启用开关第二个版本.zip

    - 在Spring Boot中,通常会将@Configuration类放在主程序类所在的包或其子包下,这样Spring Boot自动扫描并加载配置。 2. **@ComponentScan** - 如果配置类需要扫描其他组件或配置类,可以使用`@ComponentScan`...

    Custom_Configuration.zip

    这个自定义的Configuration类可能是为了整合所有自定义的配置设置,包括CookieConfig和CookieCollectionConfiguration中的配置。 综合以上,这个压缩包中的内容涉及到一个基于.NET的Web应用程序,尤其是与Cookie...

    commons-configuration-1.7

    - XML配置:Apache Commons Configuration 支持读取和解析XML格式的配置文件,提供了XMLConfiguration类来处理。 - INI配置:适用于Windows风格的`.ini`文件,通过IniConfiguration类处理。 - 属性配置:与Java...

    test-configuration.rar

    2. **自定义配置类**: 在Spring Boot中,我们可以创建自己的@Configuration类来定义bean和其他配置。例如,我们可以通过`@ConfigurationProperties`注解将YAML或Properties文件中的配置属性绑定到一个Java对象上,...

    Android应用源码之Configuration.zip

    1. **Configuration类**: `Configuration`是Android系统用来存储和传递设备配置信息的类,它包含了屏幕方向、字体大小、语言、地区、屏幕密度等信息。当这些配置发生改变时,例如设备旋转或用户切换语言,Android...

    Spring中 Configuration的使用.docx

    } }在测试类中,我们使用 AnnotationConfigApplicationContext 而不是 ClassPathXmlApplicationContext,因为 MyConfig 类上有 @Configuration 注解,表明这是一个配置类,Spring 将会读取这个类来创建 Bean。...

    org.apache.commons.configuration.XMLConfiguration的读取范例

    Apache Commons Configuration 是一个Java库,它提供了一组高级配置接口和类,用于处理应用程序的配置文件。在这些接口中,`XMLConfiguration` 是一个重要的组件,专门设计用来处理XML格式的配置文件。在这个范例中...

    Java_Properties_类读取配置文件信息

    在这个示例中,`Configuration` 类包含了加载、读取、更新和保存配置文件的功能。你可以创建一个 `Configuration` 实例,传入配置文件的路径,然后通过 `getPropertyValue()` 获取配置项,使用 `updateProperty()` ...

    C#解析配置文件内容

    4. **Configuration 类**:这个类代表了整个配置文件,你可以通过`ConfigurationManager.OpenExeConfiguration`方法打开当前执行程序的配置文件。然后,你可以访问其子元素,如`FileMap`,`Sections`等。 5. **...

    spring-javaconfig-reference

    - **嵌套@Configuration类**:允许在一个@Configuration类内部定义其他@Configuration类,以便更好地组织相关的配置。 4. **使用切面**: - **嵌入式切面**:可以直接在@Configuration类中定义切面逻辑。 - **可...

    Hibernate源代码分析(一)

    Configuration 类是 Hibernate 框架的核心类之一,负责管理 sessionFactory 和 connection Providers。通过对 Configuration 类的分析,我们可以了解到 sessionFactory 的创建过程和 ConnectionProvider 的实现机制...

    hadoop源码分析

    Configuration类是Hadoop中的基础配置模块,它负责管理所有的配置参数。默认情况下,Configuration加载配置文件时处于静默模式(quietmode),不会输出日志信息。Configuration中包含一个默认资源列表(default...

    SpringDataCouchbase.zip

    特性:Spring 配置支持使用基于 Java 的 @Configuration 类,或者用于 Couchbase 驱动的 XML 命名空间。CouchbaseTemplate 帮助类,提高一般 Couchbase 操作的效率, 包含对文档和 POJO 集成对象的映射。集成 Spring...

    springboot适配多数据源,多类型数据库代码

    2. 创建配置类:创建一个@Configuration类,并使用@ConfigurationProperties注解来绑定YAML或properties配置文件中的数据源属性。例如: ```java @Configuration @ConfigurationProperties(prefix = "spring....

Global site tag (gtag.js) - Google Analytics