`
小taomi_77
  • 浏览: 43158 次
  • 性别: Icon_minigender_1
  • 来自: 成都
文章分类
社区版块
存档分类
最新评论

C Sharp爬虫程序配置代理流程

C++ 
阅读更多
// 要访问的目标页面
    string targetUrl = "http://httpbin.org/ip";


    // 代理服务器
    string proxyHost = "http://t.16yun.cn";
    string proxyPort = "6447";

    // 代理隧道验证信息
    string proxyUser = "16IXNGXO";
    string proxyPass = "366338";

    // 设置代理服务器
    WebProxy proxy = new WebProxy(string.Format("{0}:{1}", proxyHost, proxyPort), true);


    ServicePointManager.Expect100Continue = false;

    var request = WebRequest.Create(targetUrl) as HttpWebRequest;

    request.AllowAutoRedirect = true;
    request.KeepAlive = true;
    request.Method    = "GET";
    request.Proxy     = proxy;

    //request.Proxy.Credentials = CredentialCache.DefaultCredentials;

    request.Proxy.Credentials = new System.Net.NetworkCredential(proxyUser, proxyPass);

    // 设置Proxy Tunnel
    // Random ran=new Random();
    // int tunnel =ran.Next(1,10000);
    // request.Headers.Add("Proxy-Tunnel", String.valueOf(tunnel));


    //request.Timeout = 20000;
    //request.ServicePoint.ConnectionLimit = 512;
    //request.UserAgent = "Mozilla/5.0 (Windows NT 6.3; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/48.0.2564.82 Safari/537.36";
    //request.Headers.Add("Cache-Control", "max-age=0");
    //request.Headers.Add("DNT", "1");


    //String encoded = System.Convert.ToBase64String(System.Text.Encoding.GetEncoding("ISO-8859-1").GetBytes(proxyUser + ":" + proxyPass));
    //request.Headers.Add("Proxy-Authorization", "Basic " + encoded);

    using (var response = request.GetResponse() as HttpWebResponse)
    using (var sr = new StreamReader(response.GetResponseStream(), Encoding.UTF8))
    {
        string htmlStr = sr.ReadToEnd();
    }
分享到:
评论

相关推荐

    CefSharp 爬虫程序

    【CefSharp 爬虫程序】是一种使用CefSharp库构建的网络爬虫,它允许开发者在.NET环境中,如VB.NET或C#,进行网页抓取和数据解析。CefSharp是一个开源项目,它是Chromium Embedded Framework (CEF) 的.NET绑定,提供...

    基于cefsharp开发的爬虫,使用xml和javascript配置,解决了分页的问题

    在本项目中,开发者利用CEFSharp创建了一个爬虫,其核心特点在于通过XML和JavaScript来配置和控制爬取过程。这种设计方法提供了更大的灵活性和可定制性,因为XML可以用来定义爬取规则,而JavaScript则可以在运行时...

    C#网络爬虫程序

    【C#网络爬虫程序】 在信息技术领域,网络爬虫是一种自动抓取互联网信息的程序。C#作为Microsoft开发的一种面向对象的编程语言,凭借其强大的功能和易用性,常被用于构建高效的网络爬虫。本教程将深入探讨如何使用...

    由C#编写的多线程异步抓取网页的网络爬虫控制台程序

    本爬虫程序的速度如下: 10线程最快大概500个链接每分钟 6-8线程最快大概400-500个链接每分钟 2-4线程最快大概200-400个链接每分钟 单线程最快大概70-100个链接每分钟 之所以用多线程异步抓取完全是出于效率...

    网络爬虫程序

    网络爬虫程序是一种自动化浏览互联网并提取数据的软件工具,它是大数据分析、信息挖掘和搜索引擎优化等领域的基础。本项目提供的“CSharpSpider”显然是一款用C#语言编写的网络爬虫程序,它能帮助开发者快速搭建自己...

    C#简单爬虫实现

    在实际应用中,可能需要处理反爬虫策略,例如设置用户代理、处理cookies、使用代理服务器等。此外,考虑到网站的动态加载或JavaScript渲染,你可能需要使用如Selenium这样的工具来模拟浏览器行为。 在压缩包文件...

    带界面的C#爬虫

    【标题】"带界面的C#爬虫"指的是一个使用C#编程语言开发的网络爬虫程序,该程序集成了用户界面,使得操作更为直观和便捷。与传统的命令行爬虫不同,它提供了图形化的交互体验,使得非编程背景的用户也能较为容易地...

    CSharpCrawler:C#爬虫示例程序,想学习爬虫入门知识的可以看过来。后续会慢慢加入更多爬虫相关的知识

    这并不是一个完整的爬虫程序,只是一些示例。 为什么要拿C#开发爬虫项目,因为个人还是比较喜欢C#。C#虽然库少一点,但想要的功能基本还是能实现的。 总结的知识点如果什么错误之处,还恳请大家提个issue指正,一起...

    使用cefsharp采集数据原理及思路

    使用cefsharp来制作采集数据软件(爬虫)的思路及步骤。

    C#WPF爬虫示例程序

    使用CEFSharp来抓取动态网页 使用WebBrowser(IE)来抓取动态网页 使用Puppeteer来抓取动态网页 使用Selenium来抓取动态网页 WebAPI调用 获取实时天气 调用中国天气网公开API接口来获取天气 获取Bing每日图片 调用...

    OpenCvSharp测试程序DEMO

    这个“OpenCvSharp测试程序DEMO”是一个基于WPF(Windows Presentation Foundation)的应用程序,它展示了如何利用OpenCvSharp库进行各种数字图像处理任务。 1. **OpenCV与OpenCvSharp**: OpenCV(开源计算机视觉...

    C-sharp 小程序代码,学习用

    这个压缩包文件提供的是"C-sharp 小程序代码",非常适合初学者用来学习和掌握C#的基础知识。 首先,C#的核心特性包括类型安全、垃圾回收、异常处理、面向对象编程以及强大的内置库支持。作为入门学习,你需要理解C#...

    sharpDevelop为基础的一个小程序

    SharpDevelop是一款开源的.NET集成...通过这个小程序,初学者可以学习到使用开源IDE进行.NET开发的基本流程,对于进阶开发者,则能深入了解SharpDevelop的内部机制,甚至参与其社区开发,为这个项目贡献自己的力量。

    C Sharp Windows Forms 程序设计(pdf版本)(压缩卷4)

    C Sharp Windows Forms 程序设计(pdf版本)(压缩卷4)

    基于CEF框架的爬虫

    压缩包中的"Test.Cef"可能是一个包含CEF爬虫示例的项目文件,可能包括源代码、配置文件和其他必要的资源。通过查看和学习这个示例,你可以更好地理解如何在实际应用中使用CEF框架构建爬虫。不过,要记住,实际开发中...

    c-sharp-sample.rar_C sharp_Sharp_c小程序_聊天平台

    【标签】"c_sharp sharp c小程序 聊天平台" “sharp”在这里是对C#的另一种表示,强调了这个项目与.NET生态系统的关联。"c小程序"指的是小型的C#应用程序,可能包含少量代码,但足以展示关键概念。"聊天平台"标签...

    C Sharp串口通信程序.pdf

    C Sharp串口通信程序

    C Sharp Windows Forms 程序设计(pdf版本)(压缩卷2)

    C Sharp Windows Forms 程序设计(pdf版本)(压缩卷2)

    网络爬虫+HtmlAgilityPack+windows服务从博客园爬取20万博文

    网络爬虫是一种自动化地从互联网上抓取信息的程序,它是大数据分析、搜索引擎优化和信息监控等领域的基础工具。在本项目中,我们利用网络爬虫技术,结合HtmlAgilityPack库以及Windows服务,实现了一个从博客园...

    Microsoft c sharp Windows程序设计(上下册).part1.rar

    Microsoft c sharp Windows程序设计(上下册).part1.rar

Global site tag (gtag.js) - Google Analytics