Java 的 HTTP 文件队列下载
原文地址:http://gceclub.sun.com.cn/yuanchuang/week-15/http.html
作者:杨辽
作者简介
杨辽,软件工程师,您可以通过magicsliao@yahoo.com.cn
和作者取得联系。
序言
许多用户可能会遇到这样的情况:在网站上发现一个很好的资源,但是这个资源是分成了很多个文件存放的,如果想把它保存到本地,只有靠用户点击另存来完成保存,如果资源分了几百甚至上千上万,那简直是个灾难。
在Internet上很多的资源分成多个文件存放时,它的文件命名是有一定的规则的;正因如此,我们就可以用程序来完成这个资源的完全下载。
1. 基础知识
在Internet上,我们要下载网站上的某个资源,我们会获得一个URL(Uniform Resource
Locator),它是一个服务器资源定位的描述,下载的过程总是如下步骤:
- 步骤1:客户端发起连接请求一个URL
- 步骤2:服务器解析URL,并将指定的资源返回一个输入流给客户
- 步骤3:客户端接收输入流,将流中的内容存到文件
2. 网络连接的建立
Java提供了对URL访问和大量的流操作的的API,我们可以很容易的完成对网络上资源的存取,下面的代码段就完成了对一个网站的资源进行访问:
......
destUrl="http://www.ebook.com/java/网络编程001.zip";
url = new URL(destUrl);
httpUrl = (HttpURLConnection) url.openConnection();
//连接指定的网络资源
httpUrl.connect();
//获取网络输入流
bis = new BufferedInputStream(httpUrl.getInputStream());
......
|
3. 代理的访问
Java 中通过代理服务器访问外网的方法已经是世人皆知的秘密了。这里就不再多描述了,访问的JAVA代码如下:
//设置代理服务器
System.getProperties().put("proxySet", "true");
System.getProperties().put("proxyHost", "10.154.134.110");
System.getProperties().put("proxyPort", "8080");
|
4. 网络资源的保存
在上节中,我们已经获取了指定网络资源的输入流,接下来我们要完成的就是读取输入流中的所以内容,并将其保存在文件中。示例代码:
......
fos = new FileOutputStream(fileName);
if (this.DEBUG)
System.out.println("正在获取链接[" + destUrl + "]的内容...\n将其保存为文件[" + fileName +"]");
//保存文件
while ( (size = bis.read(buf)) != -1)
fos.write(buf, 0, size);
......
|
上面的示例代码就将网络资源的内容保存到了本地指定的文件中。
5. 代码清单
下载源代码 HttpGet.java
import java.io.*;
import java.net.*;
import java.util.*;
/**
* <p>Title: 个人开发的API</p>
* <p>Description: 将指定的HTTP网络资源在本地以文件形式存放</p>
* <p>Copyright: Copyright (c) 2004</p>
* <p>Company: NewSky</p>
* @author MagicLiao
* @version 1.0
*/
public class HttpGet {
public final static boolean DEBUG = true;//调试用
private static int BUFFER_SIZE = 8096;//缓冲区大小
private Vector vDownLoad = new Vector();//URL列表
private Vector vFileList = new Vector();//下载后的保存文件名列表
/**
* 构造方法
*/
public HttpGet() {
}
/**
* 清除下载列表
*/
public void resetList() {
vDownLoad.clear();
vFileList.clear();
}
/**
* 增加下载列表项
*
* @param url String
* @param filename String
*/
public void addItem(String url, String filename) {
vDownLoad.add(url);
vFileList.add(filename);
}
/**
* 根据列表下载资源
*/
public void downLoadByList() {
String url = null;
String filename = null;
//按列表顺序保存资源
for (int i = 0; i < vDownLoad.size(); i++) {
url = (String) vDownLoad.get(i);
filename = (String) vFileList.get(i);
try {
saveToFile(url, filename);
}
catch (IOException err) {
if (DEBUG) {
System.out.println("资源[" + url + "]下载失败!!!");
}
}
}
if (DEBUG) {
System.out.println("下载完成!!!");
}
}
/**
* 将HTTP资源另存为文件
*
* @param destUrl String
* @param fileName String
* @throws Exception
*/
public void saveToFile(String destUrl, String fileName) throws IOException {
FileOutputStream fos = null;
BufferedInputStream bis = null;
HttpURLConnection httpUrl = null;
URL url = null;
byte[] buf = new byte[BUFFER_SIZE];
int size = 0;
//建立链接
url = new URL(destUrl);
httpUrl = (HttpURLConnection) url.openConnection();
//连接指定的资源
httpUrl.connect();
//获取网络输入流
bis = new BufferedInputStream(httpUrl.getInputStream());
//建立文件
fos = new FileOutputStream(fileName);
if (this.DEBUG)
System.out.println("正在获取链接[" + destUrl + "]的内容...\n将其保存为文件[" + fileName + "]");
//保存文件
while ( (size = bis.read(buf)) != -1)
fos.write(buf, 0, size);
fos.close();
bis.close();
httpUrl.disconnect();
}
/**
* 设置代理服务器
*
* @param proxy String
* @param proxyPort String
*/
public void setProxyServer(String proxy, String proxyPort) {
//设置代理服务器
System.getProperties().put("proxySet", "true");
System.getProperties().put("proxyHost", proxy);
System.getProperties().put("proxyPort", proxyPort);
}
/**
* 设置认证用户名与密码
*
* @param uid String
* @param pwd String
*/
public void setAuthenticator(String uid, String pwd) {
Authenticator.setDefault(new MyAuthenticator(uid, pwd));
}
/**
* 主方法(用于测试)
*
* @param argv String[]
*/
public static void main(String argv[]) {
HttpGet oInstance = new HttpGet();
try {
//增加下载列表(此处用户可以写入自己代码来增加下载列表)
oInstance.addItem("http://www.ebook.com/java/网络编程001.zip","./网络编程1.zip");
oInstance.addItem("http://www.ebook.com/java/网络编程002.zip","./网络编程2.zip");
oInstance.addItem("http://www.ebook.com/java/网络编程003.zip","./网络编程3.zip");
oInstance.addItem("http://www.ebook.com/java/网络编程004.zip","./网络编程4.zip");
oInstance.addItem("http://www.ebook.com/java/网络编程005.zip","./网络编程5.zip");
oInstance.addItem("http://www.ebook.com/java/网络编程006.zip","./网络编程6.zip");
oInstance.addItem("http://www.ebook.com/java/网络编程007.zip","./网络编程7.zip");
//开始下载
oInstance.downLoadByList();
}
catch (Exception err) {
System.out.println(err.getMessage());
}
}
}
|
|
相关推荐
【Java实现HTTP文件队列下载】教程 在2022年的互联网环境下,高效地下载大量分散的HTTP文件成为了一项必要的技能。本教程将详细讲解如何使用Java语言实现HTTP文件队列下载,以解决手动下载数百乃至数千个文件的难题...
【Java实现HTTP文件队列下载】技术讲解 在互联网上,高效地下载大量分块存储的资源是一项常见的需求。本文将详细介绍如何使用Java语言实现HTTP文件的队列下载功能,帮助开发者解决批量下载的问题。 1. **基础知识*...
在Java编程中,HTTP文件队列下载是一种常见的网络操作,特别是在大数据量或者多文件下载的场景下。HTTP协议是互联网上应用最为广泛的一种网络传输协议,而Java作为一门跨平台的编程语言,提供了多种方式来处理HTTP...
Java多线程读大文件 java多线程写文件:多线程往队列中写入数据
### Java多线程加队列上传文件_后台处理 #### 概述 本文将详细介绍一个基于Java实现的多线程文件上传系统,并结合队列管理技术来优化后台处理流程。该系统通过创建多个线程来并行处理客户端的文件上传请求,同时...
本程序以Java为编程语言,利用文件操作来解决这个问题,实现了从输入文件读取数据并把计算结果保存到输出文件的功能。下面我们将详细讨论如何在Java中通过文件操作来解决最短路径问题。 首先,我们需要了解最短路径...
Java多线程文件下载是一种高效的下载策略,它通过将大文件分割成多个部分,然后创建多个线程分别下载这些部分,来实现并行下载。这种技术可以显著提高下载速度,尤其是在网络条件不稳定或者带宽有限的情况下。下面...
综上所述,"java,jsp读取远程图片到本地服务器"涉及到的技术点包括Java和JSP的基础知识、HTTP通信、文件操作、HTML解析、在线编辑器集成以及性能优化等多个方面。理解并掌握这些知识点对于开发此类应用至关重要。
`SourcePathManager.java`可能负责管理代码源路径,帮助`CodeReader`找到需要解析的Java文件。这可能涉及到文件路径的构建、扫描目录结构、过滤特定类型的源文件等功能。 结合这些信息,这篇博客可能涵盖了以下知识...
在这个"java常用例子(队列,排序,列表,时间,文件操作)40例子"的资源中,初学者可以深入理解Java的核心概念和常用操作。下面我们将详细探讨这些主题。 首先,让我们从队列开始。在计算机科学中,队列是一种先进先出...
在Java编程中,监测文件变化是一项重要的功能,特别是在开发日志系统、自动化构建工具或实时数据处理应用时。本文将详细讲解如何使用Java实现文件变化的监控,并通过一个具体的示例来阐述相关知识点。 首先,Java中...
总结来说,这个Java示例提供了一种使用 `RandomAccessFile` 实现倒序读取文件的方法,通过递归和队列管理来高效地获取文件的尾部数据。在实际应用中,可以根据具体需求调整代码,比如增加错误处理、支持流式读取或...
3. **读取配置文件**:可以使用Java的`java.util.Properties`或者第三方库如Apache Commons Configurations来读取配置文件。配置文件中应包含队列和绑定的信息,例如队列名称、交换机类型、路由键等。 ```java ...
在这个下载器中,Servlet接收用户的下载请求,处理文件队列,而JSP可能用于渲染下载页面和展示文件列表。 2. **文件操作**:下载器需要读取和处理存储在服务器上的文件,这涉及文件I/O操作,包括打开、读取、关闭...
在Java编程语言中,压缩文件是一项常见的任务,用于减少文件的存储空间,提高传输效率。HUFFMAN编码是一种数据压缩算法,它基于字符频率构建一棵最优的二叉树来进行编码,广泛应用于文本压缩。本节将详细介绍如何在...
Plupload是一款强大的、跨浏览器的文件上传组件,支持多文件选择、队列管理、进度条显示、多种上传方式(如HTTP、FTP、Flash、Silverlight、HTML5),以及断点续传等功能。它的设计目标是为用户提供稳定、高效且易于...
当所有分片都上传完毕后,按照分片的顺序读取并合并到一个文件中。 接着,我们需要处理视频的压缩。这通常借助于FFmpeg,一个强大的多媒体处理工具。在Java中,我们可以使用Java的Runtime类或者第三方库(如Xuggler...