// 要访问的目标页面
string targetUrl = "http://httpbin.org/ip";
// 代理服务器
string proxyHost = "http://t.16yun.cn";
string proxyPort = "6447";
// 代理隧道验证信息
string proxyUser = "16IXNGXO";
string proxyPass = "366338";
// 设置代理服务器
WebProxy proxy = new WebProxy(string.Format("{0}:{1}", proxyHost, proxyPort), true);
ServicePointManager.Expect100Continue = false;
var request = WebRequest.Create(targetUrl) as HttpWebRequest;
request.AllowAutoRedirect = true;
request.KeepAlive = true;
request.Method = "GET";
request.Proxy = proxy;
//request.Proxy.Credentials = CredentialCache.DefaultCredentials;
request.Proxy.Credentials = new System.Net.NetworkCredential(proxyUser, proxyPass);
// 设置Proxy Tunnel
// Random ran=new Random();
// int tunnel =ran.Next(1,10000);
// request.Headers.Add("Proxy-Tunnel", String.valueOf(tunnel));
//request.Timeout = 20000;
//request.ServicePoint.ConnectionLimit = 512;
//request.UserAgent = "Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/48.0.2564.82 Safari/537.36";
//request.Headers.Add("Cache-Control", "max-age=0");
//request.Headers.Add("DNT", "1");
//String encoded = System.Convert.ToBase64String(System.Text.Encoding.GetEncoding("ISO-8859-1").GetBytes(proxyUser + ":" + proxyPass));
//request.Headers.Add("Proxy-Authorization", "Basic " + encoded);
using (var response = request.GetResponse() as HttpWebResponse)
using (var sr = new StreamReader(response.GetResponseStream(), Encoding.UTF8))
{
string htmlStr = sr.ReadToEnd();
}
分享到:
相关推荐
【CefSharp 爬虫程序】是一种使用CefSharp库构建的网络爬虫,它允许开发者在.NET环境中,如VB.NET或C#,进行网页抓取和数据解析。CefSharp是一个开源项目,它是Chromium Embedded Framework (CEF) 的.NET绑定,提供...
在本项目中,开发者利用CEFSharp创建了一个爬虫,其核心特点在于通过XML和JavaScript来配置和控制爬取过程。这种设计方法提供了更大的灵活性和可定制性,因为XML可以用来定义爬取规则,而JavaScript则可以在运行时...
【C#网络爬虫程序】 在信息技术领域,网络爬虫是一种自动抓取互联网信息的程序。C#作为Microsoft开发的一种面向对象的编程语言,凭借其强大的功能和易用性,常被用于构建高效的网络爬虫。本教程将深入探讨如何使用...
本爬虫程序的速度如下: 10线程最快大概500个链接每分钟 6-8线程最快大概400-500个链接每分钟 2-4线程最快大概200-400个链接每分钟 单线程最快大概70-100个链接每分钟 之所以用多线程异步抓取完全是出于效率...
网络爬虫程序是一种自动化浏览互联网并提取数据的软件工具,它是大数据分析、信息挖掘和搜索引擎优化等领域的基础。本项目提供的“CSharpSpider”显然是一款用C#语言编写的网络爬虫程序,它能帮助开发者快速搭建自己...
在实际应用中,可能需要处理反爬虫策略,例如设置用户代理、处理cookies、使用代理服务器等。此外,考虑到网站的动态加载或JavaScript渲染,你可能需要使用如Selenium这样的工具来模拟浏览器行为。 在压缩包文件...
【标题】"带界面的C#爬虫"指的是一个使用C#编程语言开发的网络爬虫程序,该程序集成了用户界面,使得操作更为直观和便捷。与传统的命令行爬虫不同,它提供了图形化的交互体验,使得非编程背景的用户也能较为容易地...
这并不是一个完整的爬虫程序,只是一些示例。 为什么要拿C#开发爬虫项目,因为个人还是比较喜欢C#。C#虽然库少一点,但想要的功能基本还是能实现的。 总结的知识点如果什么错误之处,还恳请大家提个issue指正,一起...
使用cefsharp来制作采集数据软件(爬虫)的思路及步骤。
使用CEFSharp来抓取动态网页 使用WebBrowser(IE)来抓取动态网页 使用Puppeteer来抓取动态网页 使用Selenium来抓取动态网页 WebAPI调用 获取实时天气 调用中国天气网公开API接口来获取天气 获取Bing每日图片 调用...
这个“OpenCvSharp测试程序DEMO”是一个基于WPF(Windows Presentation Foundation)的应用程序,它展示了如何利用OpenCvSharp库进行各种数字图像处理任务。 1. **OpenCV与OpenCvSharp**: OpenCV(开源计算机视觉...
这个压缩包文件提供的是"C-sharp 小程序代码",非常适合初学者用来学习和掌握C#的基础知识。 首先,C#的核心特性包括类型安全、垃圾回收、异常处理、面向对象编程以及强大的内置库支持。作为入门学习,你需要理解C#...
SharpDevelop是一款开源的.NET集成...通过这个小程序,初学者可以学习到使用开源IDE进行.NET开发的基本流程,对于进阶开发者,则能深入了解SharpDevelop的内部机制,甚至参与其社区开发,为这个项目贡献自己的力量。
C Sharp Windows Forms 程序设计(pdf版本)(压缩卷4)
压缩包中的"Test.Cef"可能是一个包含CEF爬虫示例的项目文件,可能包括源代码、配置文件和其他必要的资源。通过查看和学习这个示例,你可以更好地理解如何在实际应用中使用CEF框架构建爬虫。不过,要记住,实际开发中...
【标签】"c_sharp sharp c小程序 聊天平台" “sharp”在这里是对C#的另一种表示,强调了这个项目与.NET生态系统的关联。"c小程序"指的是小型的C#应用程序,可能包含少量代码,但足以展示关键概念。"聊天平台"标签...
C Sharp串口通信程序
C Sharp Windows Forms 程序设计(pdf版本)(压缩卷2)
网络爬虫是一种自动化地从互联网上抓取信息的程序,它是大数据分析、搜索引擎优化和信息监控等领域的基础工具。在本项目中,我们利用网络爬虫技术,结合HtmlAgilityPack库以及Windows服务,实现了一个从博客园...
Microsoft c sharp Windows程序设计(上下册).part1.rar