`
lhkzyz
  • 浏览: 347710 次
  • 性别: Icon_minigender_1
  • 来自: 北京
社区版块
存档分类
最新评论

mysql 百万级数据查找,并写入txt文件

阅读更多
1,建立mysql的查询类,里面包含查询方法(两个参数,为了分页查找)

package com.test.lihongxu;
import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.ResultSet;
import java.sql.SQLException;
import java.sql.Statement;
import java.util.ArrayList;
import java.util.List;


public class ConnectMysql {
     
	  public List<Instance> getTag(int start,int end){
	  List<Instance> intList=new ArrayList<Instance>();
	  Connection con=getConnetion();
	  try {
		con.setAutoCommit(false);//此处开启事务
		Statement stm=con.createStatement();
		ResultSet set=stm.executeQuery("select * from tag_feed limit "+start+","+end);
		while(set.next()){
			Instance instance=new Instance();
			instance.setFeed_id(set.getInt(2));
			instance.setTag_id(set.getInt(3));
			intList.add(instance);
		}
		con.commit();//事务提交
		con.close(); 
	} catch (SQLException e) {
		 try {
			con.rollback();
			System.out.println("not Ok");
		} catch (SQLException e1) {
			// TODO Auto-generated catch block
			e1.printStackTrace();
		}	
		e.printStackTrace();
	
	}
	    return intList;
  }
	public  Connection getConnetion(){
		Connection con=null;
		 try {
			   Class.forName("com.mysql.jdbc.Driver");
		  } catch (ClassNotFoundException e) {
		   // TODO Auto-generated catch block
		   e.printStackTrace();
		  }
		  
		try {
			 con = DriverManager.getConnection("jdbc:mysql://localhost/minisite?useUnicode=true&characterEncoding=GBK", "root", "admin");
	     } catch (SQLException e) {
			 e.printStackTrace();
		 }
	       return con;
	}

}




2,采取算法规则如下:

1)先设定一个无限循环,

2)循环内嵌套一个循环,每次从数据库查500条,查四次 放入List,然后遍历List 写入txt

3)在内层循环设置一个flag ,当查的数据小于500条时,则false.

4)在外层循环判断false的值,若为false 跳出循环


package com.test.lihongxu;

import java.io.BufferedWriter;
import java.io.FileNotFoundException;
import java.io.FileWriter;
import java.io.IOException;
import java.util.ArrayList;
import java.util.List;

public class WriteTag implements Runnable {
	public void run() {
		//设置标记
		boolean flag=true;
		ConnectMysql cmysql = new ConnectMysql();
		//外层循环,每次加4
		 for (int j = 0;;j += 4) {
		    List<Instance> intList = new ArrayList<Instance>();//储存两千条后清空,重新储存
			for (int i = j; i < j + 4; i++) {
				List<Instance> selectList = new ArrayList<Instance>();//储存五百条后清空,重新储存
				int h = i * 500;
				selectList = cmysql.getTag(h, 500);
				intList.addAll(selectList);
				//设置循环终止条件
				if(selectList.size()<500){
					flag=false;
				}
			}
			//将两千条数据写入txt中
				try {
					FileWriter output = new FileWriter("D:\\tag.txt", true);
					BufferedWriter bf = new BufferedWriter(output);
					for (Instance l : intList) {
						bf.write("http://zhan.renren.com/" + l.getFeed_id()
								+ "?gid=" + l.getTag_id() + "\r\n");
					}
					bf.flush();
				} catch (FileNotFoundException e) {
					e.printStackTrace();
				} catch (IOException e) {
					// TODO Auto-generated catch block
					e.printStackTrace();
				}
			//若查询终止,则跳出循环,结束查询和写入
			 if(!flag){
				 break;
			 }
	}

	}

	public static void main(String[] args) {
		WriteTag rt = new WriteTag();
		Thread demo1 = new Thread(rt);
		demo1.start();
	}
}



分享到:
评论

相关推荐

    易语言连接mysql数据库来实现读取写入修改实例

    在本实例中,我们将探讨如何使用易语言连接MySQL数据库,进行数据的读取、写入和修改操作。 首先,连接MySQL数据库是所有操作的基础。易语言提供了“数据库”类库,其中包含了一系列与数据库交互的命令。我们需要...

    对txt文件读取写入

    在实际项目中,如果你的数据量较大或者需要执行复杂的查询,可能需要连接到数据库(如MySQL、SQLite等),并使用SQL语句进行数据操作。不过,由于本案例主要涉及的是文本文件操作,这部分内容可能不是重点。 总之,...

    python脚本,根据excel数据自动创建mysql库、表-并更新数据

    python3.7.4版本,文件包含excel文件和py文件。 py文件中需要手动设置excel字段在mysql中的类型、index索引及写入时校验的字段...执行py文件,若不存在数据库及表会自动创建,并写入数据(对于指定字段重复的不会写入)

    实现PHP导入MYSQL数据文件

    在PHP开发中,有时我们需要在没有使用像PHPMyAdmin这样的图形界面工具的情况下,通过脚本方式导入MySQL数据库...通过上述步骤,你就可以实现PHP独立导入MySQL数据文件的功能,不再依赖于PHPMyAdmin或其他图形界面工具。

    Mysql高级-day04.pdf

    MySQL的主从复制是一项用于数据备份与高可用性的技术,其中一个MySQL服务器(主服务器)会将其数据变更记录到二进制日志中,而一个或多个从服务器会读取这些日志并应用到自己的数据库副本上,以此实现数据的实时备份...

    MySQL执行delete误删除数据恢复

    在MySQL数据库管理中,有时可能会不小心执行了DELETE命令,导致数据丢失。面对这种情况,有多种方法可以帮助恢复误删除的数据...同时,理解并熟悉如何利用MySQL的binlog系统进行数据恢复是每个数据库管理员必备的技能。

    txt文件模拟数据库存放图书信息_vc6.0

    在TXT文件模拟数据库中,这通常意味着将`Book`对象的各个字段按特定格式(如逗号分隔值CSV)写入文件,然后在读取时解析这些字段。 4. 查询与更新:虽然没有SQL查询的支持,但可以通过搜索函数来查找特定的图书信息...

    Php操作txt文件类库实现增删改查

    它可能通过接收一个数组或者字符串参数,然后将数据格式化并写入文件。这允许开发者以结构化的方式存储信息,例如每行代表一条记录。 2. **读取数据**:类库包含读取TXT文件内容的方法,可以返回文件中的所有记录...

    mysql navicat premium,最新版本,支持mysql5.7 json格式数据,解压即可直接使用

    JSON(JavaScript Object Notation)是一种轻量级的数据交换格式,常用于前后端数据传输。MySQL 5.7引入的JSON字段类型允许存储JSON文档,无需将数据转换为关系型格式,从而简化了非结构化数据的处理。此外,还提供...

    PHP中执行MYSQL事务解决数据写入不完整等情况

    本文将详细介绍在PHP中如何执行MySQL事务来解决数据写入不完整等问题,并通过一个具体的PHP函数来展示事务处理的实现过程。 ### 事务的基本概念 事务是数据库管理系统执行过程中的一个逻辑单位,由一个或多个SQL...

    易语言用TXT文档做数据库源码

    4. **数据查找与更新**:在TXT数据库中查找特定数据通常需要遍历整个文件,找到对应记录后进行更新。这可能效率较低,但考虑到TXT数据库的简单性,这种方法适用于数据量不大的情况。 5. **错误处理**:编写程序时,...

    php操作文件大全和mysql

    - **fputcsv()**:将数组作为 CSV 数据写入文件指针。 - **fputs() / fwrite()**:写入数据到文件指针。 - **fread()**:从文件指针读取固定长度的数据。 - **fscanf()**:格式化读取文件。 - **fseek()**:设置文件...

    MySQL导出数据遇到secure-file-priv问题的解决方法

    在MySQL数据库操作中,有时我们在尝试导出数据时可能会遇到一个错误提示:“ERROR 1290 (HY000): The MySQL server is running with the –secure-file-priv option so it cannot execute this statement.” 这个...

    QT-Mysql-Blob.zip_mysql blob_qt blob 文件_qt blob类型_qt的blob

    你可以将其写入文件,或者以其他方式处理这些二进制数据。 除了基本的插入和查询,你还需要了解如何处理BLOB数据的存储效率和性能问题。例如,对于大文件,可能需要考虑分块读写,以避免一次性加载大量内存。此外,...

    32 一文总结初步了解到的MySQL存储模型以及数据读写机制.pdf

    这种方式要求MySQL能够快速定位到数据页在磁盘上的位置,因此数据页的开始通常会记录一些特殊信息,如页头,页尾和数据页的物理位置标记,帮助定位数据页并读取其内容。 对于数据的修改,如插入、删除、更新操作,...

    行业-33 MySQL数据库的日志顺序读写以及数据文件随机读写的原理.rar

    此外,MySQL还采用了一些策略来降低数据文件的随机读写,例如,通过自适应哈希索引(Adaptive Hash Index)为热点数据提供更快的查找,以及通过预读取(Prefetching)技术提前加载可能需要的数据页。 在优化数据库...

    mysql备份.zip

    mysqldump是一个实用程序,能够将MySQL数据库结构和数据转换为SQL语句,然后将这些语句写入文本文件,以便在需要时重新导入。批处理文件可能包含了指定数据库名称、用户名、密码、备份路径等参数,以及可能的日志...

    mysql索引数据结构详解

    在查找 30 数据时,会把 15、56、77 这些页结点加载到内存中,使用二分查找算法定位到目标数据。 B+ 树的优点 B+ 树的精髓便在页结点中的元素不带数据,单个页结点便能存储更多的元素(N*N*N)。这使得 B+ 树可以...

    mysql表导出word

    4. 创建Word文档并将格式化后的数据写入其中。 5. 最后,保存或导出生成的Word文件。 标签"mysql字典"可能指的是这个过程可以用于创建一个类似于字典或参考手册的文档,其中包含数据库中的信息。这可以帮助数据库...

    mysql存储与索引技术

    MySQL 的索引分为两种主要类型:MyISAM 使用非聚集索引,索引与数据分开存储,而 InnoDB 使用聚集索引,索引和数据在同一结构中,因此 InnoDB 的索引支持更快的查找,但不支持全文检索。在索引优化方面,最左前缀...

Global site tag (gtag.js) - Google Analytics