`
cowoo
  • 浏览: 48818 次
  • 性别: Icon_minigender_1
社区版块
存档分类

HTTP Header 存疑

阅读更多
今天帮师姐抓amazon的数据,有一个url用wget抓老是"301 Moved Permanently",猜想可能是根据客户端类型进行了跳转。于是在ruby里面给请求加上浏览器信息。 require ‘net/http’ require ‘uri’ uri = URI.parse(’http://www.amazon.com/review/product/081297543X/ref=cm_cr_pr_recent?_encoding=UTF8&showViewpoints=0&sortBy=bySubmissionDateAscending’) request = Net::HTTP::Get.new(uri.path) request["User-Agent"] = "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US; rv:1.9.0.3) Gecko/2008092417 Firefox/3.0.3" Net::HTTP.start(uri.host, uri.port) do |http|   response = http.request(request)   open(’output.htm’,'w’){|f| f << response.body} end 抓是能抓下来,发现抓下来的也是重定向后的,百思不得其解。无奈之下换成java来写,一样的工作,一样的加了浏览器信息: uc.setRequestProperty("User-Agent", "Mozilla/5.0 (Windows; U; Windows NT [...]
分享到:
评论

相关推荐

    Web应用安全:Livehttpheader插件介绍.pptx

    Live http header插件介绍 1 Live http header插件简介 2 Live http header插件的安装 3 Live http header功能介绍 目录 Live http header插件简介 Live http headers是一个用于抓包改包、分析HTTP流量的 Firefox ...

    http header

    http header 详细介绍,详细的定义,类型等等等,希望对大家有帮助

    Http协议header说明

    Http协议header说明,包括: Content-Length Content-Language Content-Disposition Content-Type Cache-Control .............. 等属性使用

    go-httpheader:Go库,用于将结构编码为Header字段

    go-httpheader go-httpheader是一个Go库,用于将结构编码到Header字段中。安装go get -u github.com/mozillazg/go-httpheader 用法 package mainimport ("fmt""net/http""github.com/mozillazg/go-httpheader")type ...

    Delphi7 Indy HTTP Header ContentLength 错误修复。

    虽然要分,但您回复后,就不扣分了。 主要修改了 ContentLength 的类型错误。 可以方便 用 http 下载大文件。

    C语言头文件 HEADER

    C语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC语言头文件 HEADERC...

    Chrome Header Editor 插件

    Chrome Header Editor是一款强大的浏览器扩展,专门用于编辑和操纵HTTP头信息。在互联网浏览过程中,HTTP头部信息扮演着至关重要的角色,它们包含了用户请求与服务器交互的各种数据,如浏览器类型、操作系统、用户...

    php获取不到自定义header参数原因详解

    在PHP开发中,有时我们需要通过HTTP头(Header)传递自定义信息,比如认证令牌、请求来源等。然而,有时我们可能会遇到PHP无法正确获取自定义Header参数的问题。本篇文章将详细解析这一问题,并提供解决方案。 首先...

    HTTP Header 详解.pdf

    http Header 详解.pdf

    ajax添加header整理

    这种方式适用于简单的HTTP请求,特别是当Header信息固定不变或者变化不大时。 ##### 2. 使用`beforeSend`回调函数设置Header ```javascript $("#test").click(function () { $.ajax({ type: "GET", url: ...

    elasticsearch-header插件

    **Elasticsearch Header 插件详解** Elasticsearch Header 是一个专为 Elasticsearch 客户端设计的插件,它基于 Node.js 运行,旨在增强和扩展ES客户端的功能,特别是对于用户界面和交互方面提供了更丰富的头部信息...

    Delphi的SOAP Header问题

    标题:Delphi的SOAP Header问题 描述:解决Delphi的SOAP Header问题 知识点: ### Delphi与SOAP协议 SOAP(Simple Object Access Protocol)是一种轻量级的协议,用于在Web服务中交换信息,通常基于XML格式。...

    谷歌 edge 增加header插件

    谷歌浏览器 edge浏览器 增加header插件,模拟header 插件,解压后拖拽到浏览器中则可使用.谷歌浏览器插件 ModHeader_4.0.21.crx

    http-signature-header

    HTTP签名标头(http-signature-header) 一个用于创建和验证HTTP签名标头JavaScript库 目录 背景 安装 要在本地安装(用于开发): git clone https://github.com/digitalbazaar/http-signature-header.git cd ...

    UITableView的SectionHeader的复用

    当表格中的数据分为多个部分(sections)时,每个部分通常会有一个header视图,用来标识该部分的主题。然而,随着数据量的增大,如果对每个section都创建一个新的header视图,将导致内存消耗增加,影响应用性能。...

    Header Editor.crx

    google Header editor扩展程序 Kaggle注册用

    go语言在请求http时加入自定义http header的方法

    本文实例讲述了go语言在请求http时加入自定义http header的方法。分享给大家供大家参考。具体实现方法如下: 代码如下: client := &http.Client{] req, err := http.NewRequest(“POST”, “http://example.com”, ...

    教你怎么用Nginx往request的header中添加新字段

    在实际应用中,有时我们需要对HTTP请求进行一些自定义处理,比如向request的header中添加新的字段。这个过程涉及到Nginx的配置和HTTP协议的理解,接下来将详细介绍这一知识点。 首先,了解HTTP协议的基本结构。HTTP...

    listview添加自定义header

    &lt;LinearLayout xmlns:android="http://schemas.android.com/apk/res/android" android:layout_width="match_parent" android:layout_height="wrap_content" android:orientation="vertical" android:background=...

    jQuery在header中设置请求信息的方法

    jquery是js的类库,js本身不能操作header,因为js是在浏览器加载页面过程中才开始执行的header需要服务器端执行操作 如果是ajax,是可以设置header $.ajax({ url: "", data: {}, type: "GET", beforeSend: ...

Global site tag (gtag.js) - Google Analytics