hadoop网盘的最终效果见下面,可以实现简单的文件上传、删除、下载功能,不同用户可以登录到自己的页面进行管理。
一、准备的安装包资源
(1)hadoop1.1.2安装包
(2)bootmetro一个CSS开元框架,用来提高web前端的开发效率
(3)mysql的Jdbc驱动包
(4)上传组件
(5)mysql安装包(我的电脑是x64,x86系统的请下载对应版本即可)
二、搭建hadoop集群环境
教程见(2)虚拟机下hadoop1.1.2集群环境搭建
三、mysql5.6安装和eclipse上的配置
(1)安装教程网上很多,这里就不详细列举,大家到网上搜索即可。
A、安装好后,把mysql安装文件夹下的bin目录的路径添加到PATH环境变量里。
B、然后打开cmd,输入mysqld,开启mysql服务。
C、创建hadoop数据库
打开cmd,输入:mysql -uroot -hlocalhost -p
然后会提示输入密码:密码默认为空,所以直接回车就可以进入Mysql命令行。
接下来输入:create database hadoop;就创建成功
我们输入:show databases; 来查看
(2)在eclipse上配置mysql
A、首先打开eclipse,创建web工程。
B、把mysql-connector-java-commercial-5.1.25.jar包复制到在WEB-INF/lib下。
C、链接hadoop数据库
在Window菜单栏下打开Open Perspertive,选择 Database Development。
然后再Database Connections文件夹下邮件选择New ..;
然后再URL上填上刚刚创建的hadoop数据库;
点击 Test Connection,测试链接成功。
四、fileupload控件实现文件的上传
(1)首先将commons-fileupload-1.3.1.jar和commons-io-2.4.jar复制到WEB-INF/lib目录下。
(2)在WebContent/下创建inedx.jsp文件用于上传文件。
<%@ page language="java" contentType="text/html; charset=UTF-8"
pageEncoding="UTF-8"%>
<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loose.dtd">
<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=UTF-8">
<title>Insert title here</title>
</head>
<body>
<form class="form-inline" method="POST" enctype="MULTIPART/FORM-DATA" action="UploadServlet" >
<div style="line-height:50px;float:left;">
<input type="submit" name="submit" value="上传文件" />
</div>
<div style="line-height:50px;float:left;">
<input type="file" name="file1" size="30"/>
</div>
</form>
</body>
</html>
然后再创建一个UploadServlet处理上传的文件。
package com.controller;
import java.io.File;
import java.io.IOException;
import java.util.Iterator;
import java.util.List;
import javax.servlet.ServletContext;
import javax.servlet.ServletException;
import javax.servlet.http.HttpServlet;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import javax.servlet.jsp.PageContext;
import org.apache.commons.fileupload.DiskFileUpload;
import org.apache.commons.fileupload.FileItem;
import org.apache.commons.fileupload.disk.DiskFileItemFactory;
import org.apache.commons.fileupload.servlet.ServletFileUpload;
/**
* Servlet implementation class UploadServlet
*/
public class UploadServlet extends HttpServlet {
/**
* @see HttpServlet#doGet(HttpServletRequest request, HttpServletResponse response)
*/
protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
this.doPost(request, response);
}
/**
* @see HttpServlet#doPost(HttpServletRequest request, HttpServletResponse response)
*/
protected void doPost(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
request.setCharacterEncoding("UTF-8");
File file ;
int maxFileSize = 50 * 1024 *1024; //50M
int maxMemSize = 50 * 1024 *1024; //50M
ServletContext context = getServletContext();
String filePath = context.getInitParameter("file-upload");
System.out.println("source file path:"+filePath+"");
// 验证上传内容了类型
String contentType = request.getContentType();
if ((contentType.indexOf("multipart/form-data") >= 0)) {
DiskFileItemFactory factory = new DiskFileItemFactory();
// 设置内存中存储文件的最大值
factory.setSizeThreshold(maxMemSize);
// 本地存储的数据大于 maxMemSize.
factory.setRepository(new File("c:\\temp"));
// 创建一个新的文件上传处理程序
ServletFileUpload upload = new ServletFileUpload(factory);
// 设置最大上传的文件大小
upload.setSizeMax( maxFileSize );
try{
// 解析获取的文件
List fileItems = upload.parseRequest(request);
// 处理上传的文件
Iterator i = fileItems.iterator();
System.out.println("begin to upload file to tomcat server</p>");
while ( i.hasNext () )
{
FileItem fi = (FileItem)i.next();
if ( !fi.isFormField () )
{
// 获取上传文件的参数
String fieldName = fi.getFieldName();
String fileName = fi.getName();
String fn = fileName.substring( fileName.lastIndexOf("\\")+1);
System.out.println("<br>"+fn+"<br>");
boolean isInMemory = fi.isInMemory();
long sizeInBytes = fi.getSize();
// 写入文件
if( fileName.lastIndexOf("\\") >= 0 ){
file = new File( filePath ,
fileName.substring( fileName.lastIndexOf("\\"))) ;
//out.println("filename"+fileName.substring( fileName.lastIndexOf("\\"))+"||||||");
}else{
file = new File( filePath ,
fileName.substring(fileName.lastIndexOf("\\")+1)) ;
}
fi.write( file ) ;
System.out.println("upload file to tomcat server success!");
request.getRequestDispatcher("index.jsp").forward(request, response);
}
}
}catch(Exception ex) {
System.out.println(ex);
}
}else{
System.out.println("<p>No file uploaded</p>");
}
}
}
然后再web.xml下设置上传的路径:
<?xml version="1.0" encoding="UTF-8"?>
<web-app xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns="http://java.sun.com/xml/ns/javaee" xsi:schemaLocation="http://java.sun.com/xml/ns/javaee http://java.sun.com/xml/ns/javaee/web-app_2_5.xsd" id="WebApp_ID" version="2.5">
<display-name>TestHadoop</display-name>
<welcome-file-list>
<welcome-file>index.html</welcome-file>
<welcome-file>index.htm</welcome-file>
<welcome-file>index.jsp</welcome-file>
<welcome-file>default.html</welcome-file>
<welcome-file>default.htm</welcome-file>
<welcome-file>default.jsp</welcome-file>
</welcome-file-list>
<servlet>
<description></description>
<display-name>UploadServlet</display-name>
<servlet-name>UploadServlet</servlet-name>
<servlet-class>com.controller.UploadServlet</servlet-class>
</servlet>
<context-param>
<description>Location to store uploaded file</description>
<param-name>file-upload</param-name>
<param-value>
D:\apache-tomcat-6.0.41\webapps\data
</param-value>
</context-param>
<servlet-mapping>
<servlet-name>UploadServlet</servlet-name>
<url-pattern>/UploadServlet</url-pattern>
</servlet-mapping>
</web-app>
我们测试一下是否可以上传,我现在将上传(1)Centos6.5下hadoop1.1.2环境搭建(单机版).docx文件;
我们到
D:\apache-tomcat-6.0.41\webapps\data
可以看到文件已经上传成功。
分享到:
相关推荐
5. **Oozie**:工作流调度系统,用于管理和协调基于Hadoop的任务,确保网盘应用中的文件操作按照预定义的流程顺利进行。 6. **Hive**:数据仓库工具,使得结构化数据查询和分析变得简单,可以用于对网盘中的海量...
【描述】基于Hadoop的简单网盘实现源代码,配合博客文章进行学习,可以了解到如何将Hadoop的分布式特性应用于文件存储服务。通常,这种网盘实现会包括文件的上传、下载、搜索、删除等基本功能。开发者可以通过分析和...
【标题】基于Hadoop的云盘系统 在云计算领域,数据存储和管理是核心问题之一。基于Hadoop的云盘系统是一种分布式存储解决方案,利用Hadoop的可扩展性和高容错性来处理大规模数据。Hadoop是Apache软件基金会的一个...
标题 "基于Hadoop的简单网盘实现源代码.rar" 提供了一个关键信息,即这个压缩包包含了一套源代码,该代码实现了一个基于Hadoop框架的简单网盘服务。Hadoop是一个开源的分布式计算框架,它允许在大规模数据集上进行...
1. 用户接口:网络硬盘系统的前端通常采用Web或移动应用的形式,提供用户友好的界面,支持文件上传、下载、分享等操作。 2. 后端接口:后端与Hadoop集群交互,处理文件的存储、检索、删除等请求,通常会设计RESTful...
【基于Hadoop的网盘程序】是一个学习项目,旨在实现文件的上传和下载功能,利用了分布式计算框架Hadoop的核心特性。Hadoop是Apache软件基金会的一个开源项目,它为大数据处理提供了可扩展的、可靠的解决方案。这个...
总的来说,基于Hadoop的校园网盘设计实现了安全、高效的文件存储和共享,利用先进的分布式计算技术解决了传统存储方式的局限性,为高校信息化建设提供了新的思路。随着技术的发展,未来还可以考虑引入更高级的功能,...
《基于Hadoop的网盘实现详解》 在当今大数据时代,高效、稳定的数据存储与处理成为企业关注的焦点。Hadoop作为开源的分布式计算框架,以其强大的数据处理能力,广泛应用于各种大规模数据处理场景,包括云盘服务。...
本项目“基于HADOOP的网盘后端”便是对这种分布式存储和处理技术在云存储服务中的具体应用,旨在构建一个高效、可靠且可扩展的网络硬盘后台。 Hadoop是Apache软件基金会开发的一个开源项目,主要由HDFS(Hadoop ...
在实际应用中,基于Hadoop的网盘系统可能会面临一些挑战,如数据安全性、性能优化、扩展性等问题。为了解决这些问题,开发团队可能采用了诸如加密传输、访问控制列表、负载均衡等技术手段。同时,通过持续监控和调优...
本项目“基于hadoop+hbase+springboot实现分布式网盘系统”旨在利用这些技术搭建一个高效、可扩展的存储解决方案。 **Hadoop** 是一个开源的分布式计算框架,主要由HDFS(Hadoop Distributed File System)和...
本资料包"行业分类-设备装置-基于Hadoop平台的应用报表实现方法、设备及存储介质.zip"聚焦于如何利用Hadoop平台来构建和实现应用报表,以及涉及到的相关硬件和存储解决方案。 首先,我们需要理解Hadoop的核心组件。...
本文旨在深入探讨基于Hadoop的Web日志挖掘技术,包括其设计原理、实现机制以及实际应用效果。 #### 二、基于Hadoop的Web日志挖掘平台设计 Hadoop是一个能够处理大规模数据集的开源软件框架,由Apache基金会维护。...
总的来说,设计一个基于Hadoop的数据分析系统涉及到多个环节,从需求分析到系统设计,再到具体的部署和优化,每个步骤都需要细致考虑和精心实施。通过这样的系统,企业能够高效地处理和分析海量数据,从而获取有价值...
【标题】"基于HADOOP的网盘前端.zip"揭示了这个项目是关于构建一个基于Hadoop技术的网络存储系统前端。Hadoop是Apache软件基金会开发的一个开源框架,主要用于处理和存储大量数据,尤其适用于大数据分析。这个项目...
本篇文章将深入探讨Hadoop在人工智能领域的应用,以及如何构建基于Hadoop的数据分析系统。 一、Hadoop核心组件与原理 Hadoop主要由两个关键组件构成:Hadoop Distributed File System (HDFS) 和 MapReduce。HDFS是...
标题 "基于hadoop,利用ssh框架实现hdfs网盘.zip" 暗示了这个压缩包包含的内容是关于如何在Hadoop平台上构建一个基于SSH(Secure Shell)框架的HDFS(Hadoop Distributed File System)网盘。这涉及到分布式存储、...
### 基于Hadoop的海量文本处理系统详解 #### 一、系统简介 ##### 1.1 基础架构概述 该系统基于Hadoop平台构建,旨在处理大规模文本数据。它不仅能够处理静态文件,还支持动态的数据流处理。系统通过Eclipse插件...