`
445822357
  • 浏览: 771270 次
文章分类
社区版块
存档分类
最新评论

(5)基于hadoop的简单网盘应用实现1

 
阅读更多

hadoop网盘的最终效果见下面,可以实现简单的文件上传、删除、下载功能,不同用户可以登录到自己的页面进行管理。


一、准备的安装包资源

(1)hadoop1.1.2安装包


(2)bootmetro一个CSS开元框架,用来提高web前端的开发效率


(3)mysql的Jdbc驱动包


(4)上传组件


(5)mysql安装包(我的电脑是x64,x86系统的请下载对应版本即可)



二、搭建hadoop集群环境

教程见(2)虚拟机下hadoop1.1.2集群环境搭建


三、mysql5.6安装和eclipse上的配置

(1)安装教程网上很多,这里就不详细列举,大家到网上搜索即可。

A、安装好后,把mysql安装文件夹下的bin目录的路径添加到PATH环境变量里。


B、然后打开cmd,输入mysqld,开启mysql服务。

C、创建hadoop数据库

打开cmd,输入:mysql -uroot -hlocalhost -p

然后会提示输入密码:密码默认为空,所以直接回车就可以进入Mysql命令行。

接下来输入:create database hadoop;就创建成功

我们输入:show databases; 来查看



(2)在eclipse上配置mysql

A、首先打开eclipse,创建web工程。


B、把mysql-connector-java-commercial-5.1.25.jar包复制到在WEB-INF/lib下。


C、链接hadoop数据库

在Window菜单栏下打开Open Perspertive,选择 Database Development。


然后再Database Connections文件夹下邮件选择New ..;


然后再URL上填上刚刚创建的hadoop数据库;


点击 Test Connection,测试链接成功。


四、fileupload控件实现文件的上传

(1)首先将commons-fileupload-1.3.1.jar和commons-io-2.4.jar复制到WEB-INF/lib目录下。

(2)在WebContent/下创建inedx.jsp文件用于上传文件。

<%@ page language="java" contentType="text/html; charset=UTF-8"
    pageEncoding="UTF-8"%>
<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN" "http://www.w3.org/TR/html4/loose.dtd">
<html>
<head>
<meta http-equiv="Content-Type" content="text/html; charset=UTF-8">
<title>Insert title here</title>
</head>
<body>
	   <form class="form-inline"  method="POST"  enctype="MULTIPART/FORM-DATA"   action="UploadServlet" >
		   <div style="line-height:50px;float:left;">
		  	  <input type="submit" name="submit" value="上传文件"  />
		   </div>  
		   <div style="line-height:50px;float:left;">
		  	  <input type="file" name="file1" size="30"/>
		   </div>  
</form>
</body>
</html>


然后再创建一个UploadServlet处理上传的文件。

package com.controller;

import java.io.File;
import java.io.IOException;
import java.util.Iterator;
import java.util.List;

import javax.servlet.ServletContext;
import javax.servlet.ServletException;
import javax.servlet.http.HttpServlet;
import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import javax.servlet.jsp.PageContext;

import org.apache.commons.fileupload.DiskFileUpload;
import org.apache.commons.fileupload.FileItem;
import org.apache.commons.fileupload.disk.DiskFileItemFactory;
import org.apache.commons.fileupload.servlet.ServletFileUpload;
 
 

/**
 * Servlet implementation class UploadServlet
 */
public class UploadServlet extends HttpServlet {
 
	/**
	 * @see HttpServlet#doGet(HttpServletRequest request, HttpServletResponse response)
	 */
	protected void doGet(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
		this.doPost(request, response);
	}

	/**
	 * @see HttpServlet#doPost(HttpServletRequest request, HttpServletResponse response)
	 */
	protected void doPost(HttpServletRequest request, HttpServletResponse response) throws ServletException, IOException {
		   request.setCharacterEncoding("UTF-8");
		   File file ;
		   int maxFileSize = 50 * 1024 *1024;  //50M
		   int maxMemSize = 50 * 1024 *1024;    //50M
		   ServletContext context = getServletContext();
		   String filePath = context.getInitParameter("file-upload");
			System.out.println("source file path:"+filePath+"");
		   // 验证上传内容了类型
		   String contentType = request.getContentType();
		   if ((contentType.indexOf("multipart/form-data") >= 0)) {

		      DiskFileItemFactory factory = new DiskFileItemFactory();
		      // 设置内存中存储文件的最大值
		      factory.setSizeThreshold(maxMemSize);
		      // 本地存储的数据大于 maxMemSize.
		      factory.setRepository(new File("c:\\temp"));

		      // 创建一个新的文件上传处理程序
		      ServletFileUpload upload = new ServletFileUpload(factory);
		      // 设置最大上传的文件大小
		      upload.setSizeMax( maxFileSize );
		      try{ 
		         // 解析获取的文件
		         List fileItems = upload.parseRequest(request);

		         // 处理上传的文件
		         Iterator i = fileItems.iterator();

		         System.out.println("begin to upload file to tomcat server</p>"); 
		         while ( i.hasNext () ) 
		         {
		            FileItem fi = (FileItem)i.next();
		            if ( !fi.isFormField () )	
		            {
		            // 获取上传文件的参数
		            String fieldName = fi.getFieldName();
		            String fileName = fi.getName();
		            
		            String fn = fileName.substring( fileName.lastIndexOf("\\")+1);
		            System.out.println("<br>"+fn+"<br>");
		            boolean isInMemory = fi.isInMemory();
		            long sizeInBytes = fi.getSize();
		            // 写入文件
		            if( fileName.lastIndexOf("\\") >= 0 ){
		            file = new File( filePath , 
		            fileName.substring( fileName.lastIndexOf("\\"))) ;
		            //out.println("filename"+fileName.substring( fileName.lastIndexOf("\\"))+"||||||");
		            }else{
		            file = new File( filePath ,
		            fileName.substring(fileName.lastIndexOf("\\")+1)) ;
		            }
		            fi.write( file ) ;
		            System.out.println("upload file to tomcat server success!");
		            
		            request.getRequestDispatcher("index.jsp").forward(request, response);
		            
		            }
		         }
		      }catch(Exception ex) {
		         System.out.println(ex);
		      }
		   }else{
		      System.out.println("<p>No file uploaded</p>"); 
		
		   }
	 
	      
		 
	}

}

然后再web.xml下设置上传的路径:

<?xml version="1.0" encoding="UTF-8"?>
<web-app xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns="http://java.sun.com/xml/ns/javaee" xsi:schemaLocation="http://java.sun.com/xml/ns/javaee http://java.sun.com/xml/ns/javaee/web-app_2_5.xsd" id="WebApp_ID" version="2.5">
  <display-name>TestHadoop</display-name>
  <welcome-file-list>
    <welcome-file>index.html</welcome-file>
    <welcome-file>index.htm</welcome-file>
    <welcome-file>index.jsp</welcome-file>
    <welcome-file>default.html</welcome-file>
    <welcome-file>default.htm</welcome-file>
    <welcome-file>default.jsp</welcome-file>
  </welcome-file-list>
  <servlet>
    <description></description>
    <display-name>UploadServlet</display-name>
    <servlet-name>UploadServlet</servlet-name>
    <servlet-class>com.controller.UploadServlet</servlet-class>
  </servlet>
  <context-param>
    <description>Location to store uploaded file</description>
    <param-name>file-upload</param-name>
    <param-value>
         D:\apache-tomcat-6.0.41\webapps\data
     </param-value>
  </context-param>
  <servlet-mapping>
    <servlet-name>UploadServlet</servlet-name>
    <url-pattern>/UploadServlet</url-pattern>
  </servlet-mapping>
</web-app>

我们测试一下是否可以上传,我现在将上传(1)Centos6.5下hadoop1.1.2环境搭建(单机版).docx文件;


我们到

 D:\apache-tomcat-6.0.41\webapps\data

可以看到文件已经上传成功。








分享到:
评论

相关推荐

    基于hadoop的网盘应用

    5. **Oozie**:工作流调度系统,用于管理和协调基于Hadoop的任务,确保网盘应用中的文件操作按照预定义的流程顺利进行。 6. **Hive**:数据仓库工具,使得结构化数据查询和分析变得简单,可以用于对网盘中的海量...

    基于Hadoop的简单网盘实现源代码

    【描述】基于Hadoop的简单网盘实现源代码,配合博客文章进行学习,可以了解到如何将Hadoop的分布式特性应用于文件存储服务。通常,这种网盘实现会包括文件的上传、下载、搜索、删除等基本功能。开发者可以通过分析和...

    基于hadoop的云盘系统

    【标题】基于Hadoop的云盘系统 在云计算领域,数据存储和管理是核心问题之一。基于Hadoop的云盘系统是一种分布式存储解决方案,利用Hadoop的可扩展性和高容错性来处理大规模数据。Hadoop是Apache软件基金会的一个...

    基于Hadoop的简单网盘实现源代码.rar

    标题 "基于Hadoop的简单网盘实现源代码.rar" 提供了一个关键信息,即这个压缩包包含了一套源代码,该代码实现了一个基于Hadoop框架的简单网盘服务。Hadoop是一个开源的分布式计算框架,它允许在大规模数据集上进行...

    基于Hadoop的网盘管理系统(后端).zip

    1. 用户接口:网络硬盘系统的前端通常采用Web或移动应用的形式,提供用户友好的界面,支持文件上传、下载、分享等操作。 2. 后端接口:后端与Hadoop集群交互,处理文件的存储、检索、删除等请求,通常会设计RESTful...

    基于hadoop的网盘程序

    【基于Hadoop的网盘程序】是一个学习项目,旨在实现文件的上传和下载功能,利用了分布式计算框架Hadoop的核心特性。Hadoop是Apache软件基金会的一个开源项目,它为大数据处理提供了可扩展的、可靠的解决方案。这个...

    基于Hadoop的校园网盘的设计与实现 (2).pdf

    总的来说,基于Hadoop的校园网盘设计实现了安全、高效的文件存储和共享,利用先进的分布式计算技术解决了传统存储方式的局限性,为高校信息化建设提供了新的思路。随着技术的发展,未来还可以考虑引入更高级的功能,...

    基于hadoop的网盘.zip

    《基于Hadoop的网盘实现详解》 在当今大数据时代,高效、稳定的数据存储与处理成为企业关注的焦点。Hadoop作为开源的分布式计算框架,以其强大的数据处理能力,广泛应用于各种大规模数据处理场景,包括云盘服务。...

    基于HADOOP的网盘后端.zip

    本项目“基于HADOOP的网盘后端”便是对这种分布式存储和处理技术在云存储服务中的具体应用,旨在构建一个高效、可靠且可扩展的网络硬盘后台。 Hadoop是Apache软件基金会开发的一个开源项目,主要由HDFS(Hadoop ...

    基于Hadoop的网盘.zip

    在实际应用中,基于Hadoop的网盘系统可能会面临一些挑战,如数据安全性、性能优化、扩展性等问题。为了解决这些问题,开发团队可能采用了诸如加密传输、访问控制列表、负载均衡等技术手段。同时,通过持续监控和调优...

    基于hadoop+hbase+springboot实现分布式网盘系统.zip

    本项目“基于hadoop+hbase+springboot实现分布式网盘系统”旨在利用这些技术搭建一个高效、可扩展的存储解决方案。 **Hadoop** 是一个开源的分布式计算框架,主要由HDFS(Hadoop Distributed File System)和...

    行业分类-设备装置-基于Hadoop平台的应用报表实现方法、设备及存储介质.zip

    本资料包"行业分类-设备装置-基于Hadoop平台的应用报表实现方法、设备及存储介质.zip"聚焦于如何利用Hadoop平台来构建和实现应用报表,以及涉及到的相关硬件和存储解决方案。 首先,我们需要理解Hadoop的核心组件。...

    基于Hadoop的Web日志挖掘

    本文旨在深入探讨基于Hadoop的Web日志挖掘技术,包括其设计原理、实现机制以及实际应用效果。 #### 二、基于Hadoop的Web日志挖掘平台设计 Hadoop是一个能够处理大规模数据集的开源软件框架,由Apache基金会维护。...

    基于Hadoop数据分析系统设计(需求分析).docx

    总的来说,设计一个基于Hadoop的数据分析系统涉及到多个环节,从需求分析到系统设计,再到具体的部署和优化,每个步骤都需要细致考虑和精心实施。通过这样的系统,企业能够高效地处理和分析海量数据,从而获取有价值...

    基于HADOOP的网盘前端.zip

    【标题】"基于HADOOP的网盘前端.zip"揭示了这个项目是关于构建一个基于Hadoop技术的网络存储系统前端。Hadoop是Apache软件基金会开发的一个开源框架,主要用于处理和存储大量数据,尤其适用于大数据分析。这个项目...

    基于hadoop的数据分析系统.zip

    本篇文章将深入探讨Hadoop在人工智能领域的应用,以及如何构建基于Hadoop的数据分析系统。 一、Hadoop核心组件与原理 Hadoop主要由两个关键组件构成:Hadoop Distributed File System (HDFS) 和 MapReduce。HDFS是...

    基于hadoop,利用ssh框架实现hdfs网盘.zip

    标题 "基于hadoop,利用ssh框架实现hdfs网盘.zip" 暗示了这个压缩包包含的内容是关于如何在Hadoop平台上构建一个基于SSH(Secure Shell)框架的HDFS(Hadoop Distributed File System)网盘。这涉及到分布式存储、...

    基于hadoop的海量文本处理系统

    ### 基于Hadoop的海量文本处理系统详解 #### 一、系统简介 ##### 1.1 基础架构概述 该系统基于Hadoop平台构建,旨在处理大规模文本数据。它不仅能够处理静态文件,还支持动态的数据流处理。系统通过Eclipse插件...

Global site tag (gtag.js) - Google Analytics