`

hadoop 在win系统中的eclipse开发测试问题及解决

阅读更多

hadoop 在win系统中的eclipse开发测试问题及解决

一· 在win系统下安装cygwin的步骤不在赘述,常见错误如下:问题1]

# /usr/local/sbin/sshd
/usr/local/sbin/sshd: error while loading shared libraries: libnsl.so.1: cannot open shared object file: No such file or directory 

[分析与解决]
用strace跟踪sshd,查询缺少的目录和文件,给与相应的添补。
strace -f  -F  /usr/local/sbin/sshd
cp libnsl* /work/lib/

 

 
[问题2]

# /usr/local/sbin/sshd
Privilege separation user sshd does not exist

 

[分析与解决]
没有sshd用户 sshd:x:74:74:Privilege-separated SSH:/var/empty/sshd:/sbin/nologin
scp  /etc/passwd root@HOST:/etc
scp  /etc/shadow root@HOST:/etc
scp  /etc/group  root@HOST:/etc


[问题3]

# /usr/local/sbin/sshd
Missing privilege separation directory: /var/empty 

[分析与解决]
# mkdir /var/empty
 
 
  
[问题4]
[root@localhost .ssh]# ssh -l root 192.168.167.132
root@192.168.167.132's password:
Permission denied, please try again.

 

[分析与解决]
密码输入错误,重新连接尝试. 


[问题5]

# ./ssh-keygen
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa):
Could not create directory '/root/.ssh'.

 
[分析与解决]

# ls /
bin etc linuxrc nfs sys var dev jffs2 lost+found  proc tmpfs yaffs2 edwin lib mnt sbin usr
# cd /root
-sh: cd: can't cd to /root
# mkdir root
# cd /root
# mkdir .ssh

 

[问题6]
# /usr/local/sbin/sshd
Missing privilege separation directory: /var/empty

[分析与解决]
# ls /var
# mkdir /var/empty
# /usr/local/sbin/sshd

 

 
 
[问题7]

[root@localhost ~]# ssh 192.168.167.132
ssh: connect to host 192.168.167.132 port 22: Connection refused      

 

 

[分析与解决]
注释 /etc/hosts.deny   /etc/hosts.allow 中的限制部分.
net sshd stop
net sshd start

 

 

 

[问题9]
在客户端ssh到target后,用户帐户和密码验证通过,但是没有启动shell.

 

[分析与解决]
查看日志,发现有:PTY allocation request failed on channel 0
1.rm -rf /dev/ptmx
2.mknod /dev/ptmx c 5 2
3.chmod 666 /dev/ptmx
4.umount /dev/pts
5.rm -rf /dev/pts
6.mkdir /dev/pts
7.mount /dev/pts

 

 

 

[问题10]
客户端连接卡住,无法连进.

 

[分析与解决]
有可能是cyg维护死进程太多,此为cyg的BUG,用有权限的账号连入系统:
killall -9 bash
killall -9 sshd
net stop sshd
net start sshd

 

[问题11]
ssh 显示已经脸上,但马上断开.

 

[分析与解决]
查看当前用户 /etc/password 里shell的设置是否正确.
查看 /var/ 目录权限是否足够,包括所有者权限和文件权限.
查看当前用户的家目录是否设置正常,权限是否足够.

 

 

 

[问题12]
sshd 服务无法启动

 

[分析与解决]

$ net start sshd

 
发生系统错误 1069。
由于登录失败而无法启动服务。
-- 这是由于用户密码输入错误导致的,以后更改用户后sshd也可能发生这个问题,在 services.msc 里的登录标签里更改用户设置即可!

 

$ net start sshd

 
CYGWIN sshd 服务正在启动 .
CYGWIN sshd 服务已经启动成功。

 

事件 ID ( 0 )的描述(在资源( sshd )中)无法找到。
本地计算机可能没有必要的注册信息或消息 DLL 文件来从远程计算机显示消息。
您可能可以使用 /AUXSOURCE= 标识来检索词描述;查看帮助和支持以了解详细信息。
下列信息是事件的一部分: sshd: PID 2784: fatal: setreuid 1003: Permission denied.
-- 出现这种情况,需要重新安装服务.
net stop sshd
ssh-host-config

 

二·hadoop在eclipse中开发常见错误

1.run on hadoop没有反映

hadoop-0.20.0下自带的eclise插件已过时。

 

解决方案:

 

1、下载正确的插件:https://issues.apache.org/jira/secure/attachment/12460491/hadoop-eclipse-plugin-0.20.3-SNAPSHOT.jar

 

2、重命名:将下载的插件重命名为“hadoop-0.20.0-eclipse-plugin.jar"

 

3、替换原来的插件。

 

4、重启eclipse

2:run on hadoop 时错误

Caused by: java.io.IOException: Cannot run program “chmod”: CreateProcess error=2, ϵͳÕҲ»µ½ָ¶ at java.lang.ProcessBuilder.start(ProcessBuilder.java:459) at org.apache.hadoop.util.Shell.runCommand(Shell.java:149) at org.apache.hadoop.util.Shell.run(Shell.java:134) at org.apache.hadoop.util.Shell$ShellCommandExecutor.execute(Shell.java:286) at org.apache.hadoop.util.Shell.execCommand(Shell.java:354) at org.apache.hadoop.util.Shell.execCommand(Shell.java:337) at org.apache.hadoop.fs.RawLocalFileSystem.execCommand(RawLocalFileSystem.java:481) at org.apache.hadoop.fs.RawLocalFileSystem.setPermission(RawLocalFileSystem.java:473) at org.apache.hadoop.fs.FilterFileSystem.setPermission(FilterFileSystem.java:280) at org.apache.hadoop.fs.FileSystem.mkdirs(FileSystem.java:266) at org.apache.hadoop.mapred.JobClient.configureCommandLineOptions(JobClient.java:573) at org.apache.hadoop.mapred.JobClient.submitJobInternal(JobClient.java:761) at org.apache.hadoop.mapred.JobClient.submitJob(JobClient.java:730) at cascading.flow.FlowStepJob.blockOnJob(FlowStepJob.java:162) at cascading.flow.FlowStepJob.start(FlowStepJob.java:138) at cascading.flow.FlowStepJob.call(FlowStepJob.java:127) at cascading.flow.FlowStepJob.call(FlowStepJob.java:39) at java.util.concurrent.FutureTask$Sync.innerRun(FutureTask.java:303) at java.util.concurrent.FutureTask.run(FutureTask.java:138) at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(ThreadPoolExecutor.java:886) at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:908) at java.lang.Thread.run(Thread.java:619)Caused by: java.io.IOException: CreateProcess error=2, ϵͳÕҲ»µ½ָ¶ at java.lang.ProcessImpl.create(Native Method) at java.lang.ProcessImpl.<init>(ProcessImpl.java:81) at java.lang.ProcessImpl.start(ProcessImpl.java:30) at java.lang.ProcessBuilder.start(ProcessBuilder.java:452) … 21 more

 解决方法:将cygwin的bin目录添加到Windows系统的PATH, 如果还不行,重启elipse即可

持续更新中....

 

分享到:
评论

相关推荐

    hadoop 2.6 win 64位 eclipse

    这个文件通常会被放置在系统目录(如`system32`)中,以便系统能够正确识别和加载。 `winutils.exe`是Hadoop在Windows上的实用工具,提供了类似于在Unix系统中`hadoop`命令的功能,例如配置HDFS和YARN,管理Hadoop...

    win7下eclipse配置hadoop的插件

    总结来说,配置Eclipse开发Hadoop项目涉及到下载和安装插件、配置环境变量、引入Hadoop库以及在Eclipse中设置Hadoop路径。通过这些步骤,开发者可以在Windows 7上的Eclipse环境中高效地编写和测试Hadoop MapReduce...

    win7下Eclipse开发Hadoop应用程序环境搭建

    在Windows 7操作系统中,使用Eclipse开发Hadoop应用程序的过程涉及多个步骤,涵盖了从环境配置到实际编程的各个层面。以下是对这个主题的详细讲解: 首先,我们需要了解Hadoop和Eclipse的基础。Hadoop是一个开源的...

    Win本地测试hadoop

    标题“Win本地测试hadoop”指的是在Windows操作系统环境下搭建Hadoop环境进行本地测试,以便于进行快速的开发和迭代工作。Hadoop是一个开源的分布式计算框架,由Apache基金会开发,主要用于处理和存储大规模数据。在...

    Win7中使用Eclipse连接虚拟机中的Linux中的Hadoop2.5.0经验总结

    本文将详细阐述如何解决在Win7中使用Eclipse连接运行在虚拟机Linux上的Hadoop 2.5.0时遇到的问题,这些解决方案同样适用于更高版本的Hadoop。 1. **解决Windows7下Eclipse代码执行MapReduce报错** 当尝试在...

    hadoop2+eclipse+win7开发所需环境

    2. **hadoop.lib, hadoop.dll**: 这些是Hadoop在Windows系统下的库文件,它们是Hadoop本地库的一部分,用于解决Hadoop在非Unix系统上的兼容性问题。`hadoop.lib`通常是静态链接库,而`hadoop.dll`是动态链接库,它们...

    win7安装hadoop及eclipse调试mapreduce的配置方法

    【描述】: "本教程详细讲解在Windows 7操作系统中如何安装Hadoop,并配置Eclipse进行MapReduce程序的调试,涵盖可能出现的问题及其解决方案。" 【知识点详解】: 在Windows 7上安装Hadoop并使用Eclipse进行...

    win7搭建hadoop开发环境工具文件

    在Windows 7操作系统中搭建Hadoop开发环境,你需要遵循一系列步骤,这通常涉及到安装和配置Hadoop,以及集成Eclipse IDE。以下是一个详尽的指南,涵盖了标题和描述中提到的关键知识点。 首先,Hadoop是一个分布式...

    Win10的eclipse连接CentOS的Hadoop集群.doc

    通过以上步骤,你就可以在Windows 10的Eclipse环境中编写、测试和调试MapReduce程序,然后部署到远程的CentOS Hadoop集群上进行运行。记得在开发过程中,保持Hadoop版本的一致性,以及及时更新Hadoop的配置文件,以...

    window7+eclipse4.7+Hadoop2.9.0环境搭建所需的全套插件及文档

    在所有这些配置完成后,你将拥有一个完整的Hadoop开发环境,可以在Windows 7上的Eclipse 4.7中编写、测试和调试Hadoop应用。Hadoop的分布式文件系统(HDFS)和MapReduce框架将为大数据处理提供强大的平台,而Eclipse...

    Eclipse oxygen、kepler和mars版本的hadoop-eclipse-2.7.2 插件 oxygen-R-win32-x86_64

    5. 测试和运行:在Eclipse中直接运行MapReduce程序,插件会自动将其提交到Hadoop集群。 通过这种方式,开发者可以充分利用Eclipse的强大编辑和调试功能,同时享受Hadoop的分布式能力,实现高效的数据处理开发。然而...

    hadoop2.6_Win_x64-master

    "hadoop2.6_Win_x64-master"压缩包提供了一种简便的方式来解决在Windows上使用Eclipse进行Hadoop开发时遇到的挑战,使得开发者可以更专注于编写和测试MapReduce或Spark程序,而不用过多地关注底层的环境配置问题。

    Hadoop在win7详细安装

    【Hadoop在win7详细安装】的文档主要涵盖了在Windows 7环境下安装和配置Hadoop所需的基本步骤,其中涉及到的IT知识点包括: 1. **VirtualBox的安装与配置**: - VirtualBox是一款强大的免费虚拟机软件,因其体积...

    hadoop_win7_32位环境配置

    在本文中,我们将深入探讨如何在Windows 7 32位系统上配置Hadoop 2.6.0环境,以及解决可能出现的相关错误。Hadoop是一个开源的分布式计算框架,广泛用于大数据处理。在Windows上配置Hadoop环境通常比在Linux上更为...

    hadoop2.6(x64)Win7上远程调试hadoop 集群

    - 在开发环境中创建一个Hadoop项目,编写并编译源代码。 - 将编译后的JAR文件上传到HDFS,然后使用`hadoop jar`命令提交作业。 - 使用IDE(如Eclipse或IntelliJ IDEA)的远程调试功能,设置与`HADOOP_OPTS`中指定...

    win10下hadoop2.6.4 bin(含winutils.exe和hadoop.dll).zip

    4. **模拟分布式文件系统**: 对于开发和测试目的,可以使用Hadoop的本地模式(Local Mode),无需集群,所有进程都在单个Java虚拟机(JVM)中运行。但若要体验完整的分布式功能,需要配置伪分布式或完全分布式模式,...

    hadoop-2.7.7-win7x64.

    5. **路径配置**:在Windows上,Hadoop通常需要在文件系统中的特定路径下运行。确保Hadoop的临时目录和数据目录已经创建,并且在配置文件中正确指定。 6. **测试Hadoop**:一旦配置完成,你可以通过运行`hadoop fs ...

    hadoop_32bit

    在描述中,用户提到自己在Linux环境下搭建了一个分布式Hadoop集群,并在32位Windows 7操作系统中使用Eclipse进行开发工作。通常情况下,Hadoop及其相关工具主要为64位系统设计,因此在32位系统上运行可能需要特别...

    hadoop2.7.1的版本hadoop.dll、winutils.exe(win10_x64下编译)

    在Eclipse集成开发环境中,配置Hadoop项目通常需要将hadoop.dll和winutils.exe添加到系统的PATH环境变量中,以便Java代码能够正确调用Hadoop的相关功能。同时,为了调试和优化,开发者可能还需要`hadoop.exp`、`...

Global site tag (gtag.js) - Google Analytics