年前做的视频地址挖掘工具,不知道现在关键标签还对不对,放上来算是个温习吧
代码又臭又长,现在看了很汗颜...,本人菜鸟,轻拍砖
//得到视频标题
public String getVideoTitle(String beginTitleStr,int beginTextNum,String endTitleStr){
int beginTitleNum = videoStr.indexOf(beginTitleStr,beginTextNum)+beginTitleStr.length();
int endTitleNum = videoStr.indexOf(endTitleStr,beginTitleNum);
String videoTitle = new ToolsSubString().mySubString(videoStr,beginTitleNum,endTitleNum);
return videoTitle;
}
//得到视频地址ID
public String getVideoId(String beginIdStr,int beginTextNum,String endIdStr){
int beginIdNum = videoStr.indexOf(beginIdStr,beginTextNum)+beginIdStr.length();
int endIdNum = videoStr.indexOf(endIdStr,beginIdNum);
String videoId = new ToolsSubString().mySubString(videoStr,beginIdNum,endIdNum);
return videoId;
}
//抓取土豆网视频信息的方法
public void catchTudouVideo(int neadCatchNum,String beginSearchVideoNumStr){
//抓取内容定位
String endSearchVideoNumStr = "</em>";
String beginTextStr = "<a class=\"inner\" target=\"new";
String beginIdStr = "href=\"http://www.tudou.com/programs/view/";
String endIdStr = "/\"";
String beginTitleStr = "title=\"";
String endTitleStr = "\"";
int beginTextNum = 0;
//得到搜索到视频个数,循环得到视频信息
int searchVideoNum = getVideoNum(neadCatchNum,beginSearchVideoNumStr, endSearchVideoNumStr);
for(int i=0;i<searchVideoNum;i++){
//内容定位
beginTextNum = videoStr.indexOf(beginTextStr,beginTextNum)+beginTextStr.length();
//得到视频信息
String videoTitle = getVideoTitle(beginTitleStr, beginTextNum, endTitleStr);
String videoId = getVideoId(beginIdStr, beginTextNum, endIdStr);
String videoUrl = "http://www.tudou.com/v/"+videoId+"/v.swf";
//创建video对象保存视频信息,并添加到video集合,为存入数据库做准备
VideoEntity video = new VideoEntity(videoTitle,"土豆网",videoUrl);
videoList.add(video);
}
}
分享到:
相关推荐
Python爬虫技术在IT行业中广泛应用于数据挖掘和自动化任务,特别是在网络视频资源的获取上。本项目专注于自动批量抓取m3u8网页视频,这是一个非常实用的技能,特别是对于那些需要收集网络视频数据的人来说。m3u8是一...
网络爬虫是互联网数据挖掘的一种重要工具,它能够自动化地从网页中提取大量信息,尤其在视频信息抓取方面有着广泛的应用。在这个项目中,我们将使用Structs、Hibernate和Spring这三个核心框架构建一个完整的Web应用...
这在处理屏幕截图或录制的视频时特别有用,例如“抓取录像专家的内容以图片格式保存下来”,意味着该工具支持从视频流中捕获并转换文字。 在IT领域,OCR技术的应用非常广泛,包括文档数字化、网页内容抓取、自动...
描述中的“FLASH页面抓取”是这个工具的核心功能,意味着它可以解析和提取Flash文件中的各种元素,如文本、图像、音频和视频。这对于数据挖掘、内容备份或迁移旧的Flash网站到现代网页技术(如HTML5)来说非常有用。...
Python网络数据抓取代码主要涉及Python爬虫技术,可以用于自动化采集网络上的数据,如网页内容、图片、视频、音频等。这些数据可以用于数据分析、机器学习、自然语言处理等多个领域。 适用人群: Python网络数据...
AcFun视频抓取软件2016。大数据维基网(www.dashuju.wiki)——大数据工作学习第一站,最全的大数据资源导航网站。聚合互联网、股市、娱乐、社交、电商、APP、生活等各类大数据场景需求,火车头、八爪鱼、集搜客等各大...
Python项目开发实战中,数据挖掘与分析是关键的技能,特别是在Bilibili视频爬虫的实践中,这涉及到从海量互联网信息中提取有价值的数据。数据挖掘是这个过程的核心,它通过运用各种算法和技术从大量数据中寻找隐藏的...
网站资源获取工具不仅限于源代码,还包括对图像、音频、视频和其他文件的下载。这些工具能够批量下载整个网站,以备离线查看或进行数据备份。例如,如果你是一名设计师,可能需要收集各种网站的图片作为灵感来源;...
在爬行过程中,爬虫会抓取网页的内容,通常包括HTML代码、图片、视频等资源。这些数据随后会被存储在搜索引擎的数据库中,为后续的索引和检索做准备。 在多线程抓取中,我们利用了计算机的并发处理能力,同时启动多...
1. **Web内容挖掘**:这是对Web页面实际内容的分析,包括文字、图像、视频等信息。通过对这些内容的处理和理解,可以进行文档分类、情感分析、主题识别等,以了解用户的兴趣和需求。 2. **Web结构挖掘**:关注的是...
爬虫通常由搜索引擎、数据挖掘工具、监测系统等应用于网络数据抓取的场景。 爬虫的工作流程包括以下几个关键步骤: URL收集: 爬虫从一个或多个初始URL开始,递归或迭代地发现新的URL,构建一个URL队列。这些URL...
总的来说,CSGET是一款强大而易用的图像和视频挖掘工具,它的高效下载能力和灵活的设置选项使其在同类软件中脱颖而出。无论你是需要批量下载网页图片,还是想获取特定网站的视频资源,CSGET都能为你提供有力的支持。...
非结构化的金融信息包括了文本、图片、音频、视频等多媒体形式的数据,这些数据需要通过特定的文本挖掘技术来提取有效信息。文本挖掘是一种从非结构化文本资料中抽取有价值信息的计算机过程,通过分析和理解文本内容...
智慧课堂通过利用新一代信息技术,如物联网、云计算、视频录制和图像识别技术等,实现对学生行为的全面记录和分析。这些技术的应用,使得教育大数据的采集变得更为便捷,数据类型也更加多样化,从而有助于深入挖掘和...
非结构化数据挖掘涉及文本、图像、视频等复杂类型的数据。 在C#中,我们可以使用HtmlAgilityPack库进行网页抓取和解析。这个库可以方便地解析HTML文档,提取出我们需要的数据。例如,我们可以通过XPath或CSS选择器...
前者主要针对数据库中的表格数据进行挖掘,而后者则是针对文本、图像、音频、视频等类型的非结构化数据进行挖掘。 Python是一种解释型编程语言,它具有简洁、易读、可扩展性强等特点,非常适合用于数据挖掘工作。...
爬虫通常由搜索引擎、数据挖掘工具、监测系统等应用于网络数据抓取的场景。 爬虫的工作流程包括以下几个关键步骤: URL收集: 爬虫从一个或多个初始URL开始,递归或迭代地发现新的URL,构建一个URL队列。这些URL...
1. **网页抓取**:该工具可以自动化地抓取网页内容,包括HTML、图片、视频等各类资源,这对于大数据分析和搜索引擎优化有着显著的价值。 2. **数据过滤与清洗**:它具备对抓取到的数据进行预处理的能力,去除无用...
2. **智能识别**:它能自动识别网页上的多媒体文件,如音频、视频、图片和文档等,并提供一键下载功能。 3. **批量下载**:对于需要下载大量文件的情况,如整站图片或幻灯片,网站挖掘机支持设置规则进行批量下载,...
这个名为“视频搜索下载”的项目,专注于从各种视频网站抓取数据并下载视频,它利用了网络编程、多线程以及网页结构分析等技术。以下是这个项目涉及的一些关键知识点: 1. **网络编程**:网络编程是实现爬虫的基础...