cookieの設定が必要なサイトからwgetを使用してPDFファイルをダウンロードする


8

新聞サイトにアクセスして、電子ペーパーのコピー(PDF形式)をダウンロードしたい。このサイトでは、自分のメールアドレスとパスワードを使用してログインする必要があり、それらのPDF URLにアクセスできます。

Wgetで「セッションの設定」に問題があります。ブラウザからサイトにログインすると、2つのCookie値が設定されます。

UserID=abc@gmail.com
Password=12345

私は試した:

wget --post-data "UserID=abc@gmail.com&Password=12345" http://epaper.abc.com/login.aspx

ただし、ログインページをダウンロードしてローカルに保存しただけです。

ログインページのFORMには2つのフィールドがあります。

txtUserID
txtPassword

そして、このようなラジオボタン:

<input id="rbtnManchester" type="radio" checked="checked" name="txtpub" value="44">

別のボタン:

<input id="rbtnLondon" type="radio" name="txtpub" value="64">

これをlogin.aspxページに投稿すると、同じ出力が得られます

wget --post-data "txtUserID=abc@gmail.com&txtPassword=12345&txtpub=44" http://epaper.abc.com/login.aspx

私が行った場合:

--save-cookies abc_cookies.txt

デフォルトのコンテンツ以外は何もないようです。

最後に、私も--debug同じようにすると、それは言う:

...
Set-Cookie: ASP.NET_SessionId=05kphcn4hjmblq45qgnjoe41; path=/; HttpOnly
...
Stored cookie epaper.abc.com -1 (ANY) / <session> <insecure> [expiry none] ASP.NET_SessionId 05kphcn4hjmblq45qgnjoe41
Length: 107253 (105K) [text/html]
Saving to: `login.aspx'
...
Saving cookies to abc_cookies.txt.

ただし、abc_cookies.txtは以下のみを示します。

# HTTP cookie file.
# Generated by Wget on 2011-08-16 08:03:05.
# Edit at your own risk.

(なぜスタックオーバーフローで応答が得られないのかわかりません-おそらくスーパーユーザーの方が良いサイトです-Cookieの設定が必要なサイトからWgetを使用してPDFファイルをダウンロードします。)


編集1

C:\Temp>wget --cookies=on --keep-session-cookies --save-cookies abc_cookies.txt --post-data "txtUserID=abc%40gmail.com&txtPassword=password&txtpub=44&chkbox=checkbox&submit.x=48&submit.y=7" http://epaper.abc.com/login.aspx --debug
SYSTEM_WGETRC = c:/progra~1/wget/etc/wgetrc
syswgetrc = C:\Program Files (x86)\GnuWin32/etc/wgetrc
DEBUG output created by Wget 1.11.4 on Windows-MinGW.

--2011-08-18 08:15:59--  http://epaper.abc.com/login.aspx
Resolving epaper.abc.com... seconds 0.00, 999.999.99.99
Caching epaper.abc.com => 999.999.99.99
Connecting to epaper.abc.com|999.999.99.99|:80... seconds 0.00, connected.
Created socket 300.
Releasing 0x00a2ae80 (new refcount 1).

---request begin---
POST /login.aspx HTTP/1.0
User-Agent: Wget/1.11.4
Accept: */*
Host: epaper.abc.com
Connection: Keep-Alive
Content-Type: application/x-www-form-urlencoded
Content-Length: 100

---request end---
[POST data: txtUserID=abc%40gmail.com&txtPassword=password&txtpub=44&chkbox=checkbox&submit.x=48&submit.y=7]
HTTP request sent, awaiting response...
---response begin---
HTTP/1.1 200 OK
Connection: keep-alive
Date: Thu, 18 Aug 2011 02:46:17 GMT
Server: Microsoft-IIS/6.0
X-Powered-By: ASP.NET
X-AspNet-Version: 2.0.50727
Set-Cookie: ASP.NET_SessionId=owcrje55yl45kgmhn43gq145; path=/; HttpOnly
Cache-Control: private
Content-Type: text/html; charset=utf-8
Content-Length: 107253

---response end---
200 OK
Registered socket 300 for persistent reuse.

Stored cookie epaper.abc.com -1 (ANY) / <session> <insecure> [expiry none] ASP.NET_SessionId owcrje55yl45kgmhn43gq145
Length: 107253 (105K) [text/html]
Saving to: `login.aspx.1'

100%[======================================================================================================================>] 107,253     24.9K/s   in 4.2s

2011-08-18 08:16:05 (24.9 KB/s) - `login.aspx.1' saved [107253/107253]

Saving cookies to abc_cookies.txt.
Done saving cookies.

C:\Temp>wget --referer=http://epaper.abc.com/login.aspx --cookies=on --load-cookies abc_cookies.txt --keep-session-cookies --save-cookies abc_cookies.txt http://epaper.abc.com/PagePrint/16_08_2011_001.pdf --debug
SYSTEM_WGETRC = c:/progra~1/wget/etc/wgetrc
syswgetrc = C:\Program Files (x86)\GnuWin32/etc/wgetrc
DEBUG output created by Wget 1.11.4 on Windows-MinGW.


Stored cookie epaper.abc.com -1 (ANY) / <session> <insecure> [expiry none] ASP.NET_SessionId owcrje55yl45kgmhn43gq145
--2011-08-18 08:16:12--  http://epaper.abc.com/PagePrint/16_08_2011_001.pdf
Resolving epaper.abc.com... seconds 0.00, 999.999.99.99
Caching epaper.abc.com => 999.999.99.99
Connecting to epaper.abc.com|999.999.99.99|:80... seconds 0.00, connected.
Created socket 300.
Releasing 0x00598290 (new refcount 1).

---request begin---
GET /PagePrint/16_08_2011_001.pdf HTTP/1.0
Referer: http://epaper.abc.com/login.aspx
User-Agent: Wget/1.11.4
Accept: */*
Host: epaper.abc.com
Connection: Keep-Alive
Cookie: ASP.NET_SessionId=owcrje55yl45kgmhn43gq145

---request end---
HTTP request sent, awaiting response...
---response begin---
HTTP/1.1 200 OK
Connection: keep-alive
Date: Thu, 18 Aug 2011 02:46:30 GMT
Server: Microsoft-IIS/6.0
X-Powered-By: ASP.NET
X-AspNet-Version: 2.0.50727
content-disposition: attachement; filename=Default_logo.gif
Cache-Control: private
Content-Type: image/GIF
Content-Length: 4568

---response end---
200 OK
Registered socket 300 for persistent reuse.
Length: 4568 (4.5K) [image/GIF]
Saving to: `16_08_2011_001.pdf'

100%[======================================================================================================================>] 4,568       7.74K/s   in 0.6s

2011-08-18 08:16:14 (7.74 KB/s) - `16_08_2011_001.pdf' saved [4568/4568]

Saving cookies to abc_cookies.txt.
Done saving cookies.

abc_cookies.txtの内容

epaper.abc.com       FALSE   /       FALSE   0       ASP.NET_SessionId       owcrje55yl45kgmhn43gq145

wgetのより高度な使用法に関する専門家はほとんどいないため、応答がないと思います。:(
jcrawfordor '

@Frank-最初のログインwgetで--keep-session-cookiesを使用してみてください。以下の私の回答を参照してください。
EightBitTony 2011

login.aspxはログインページのURLですか、それともログインページが送信するURLですか?
Edward Shtern 2013年

回答:


4

--keep-session-cookiesセッションCookieを保持するためだけではなく、--save-cookies両方を使用する必要があると思います(両方が必要です)。

基本的に、あなた

wget --keep-session-cookies --save-cookies ..... url

ログインしてセッションCookieを取得します。

その後

wget --load-cookie ...... url

PDFをダウンロードします。


:(動作しませんでした...サイコロはありません...
シリコンピ

@フランク-では、各段階で何が起こったのか、ヘッダーに含まれている応答をヘッダーに含めると、期待どおりにディスク上にCookieを取得できたでしょうか。今試行した結果と返された内容で質問を更新できますか。
EightBitTony 2011

こんにちはトニー-助けてくれてありがとう-私はこのすべてに困惑しています!
Siliconpi、2011

こんにちはトニー-詳細なEdit1を見る機会がありましたか?
Siliconpi 2011

はい、何も飛び出しません。私の唯一のクエリは、最初のwgetから取得したときのlogin.aspxの内容です。ログインに成功したことを示していますか?
EightBitTony 2011

2

多分これは役立つでしょう。ログインしようとしたサイトには、正常にログインする前に取得する必要があるいくつかの非表示フィールドがありました。したがって、最初のwgetは追加のフィールドを見つけるためにログインページを取得し、2番目のwgetはサイトにログインしてCookieを保存し、3番目はそれらのCookieを使用して目的のページを取得します。

#!/bin/bash

# get the login page to get the hidden field data
wget -a log.txt -O loginpage.html http://foobar/default.aspx
hiddendata=`cat loginpage.html | grep value | grep foobarhidden | tr '=' ' ' | awk '{print $9}' | sed s/\"//g`
rm loginpage.html

# login into the page and save the cookies
postData=user=fakeuser'&'pw=password'&'foobarhidden=${hiddendata}
wget -a log.txt -O /dev/null --post-data ${postData} --keep-session-cookies --save-cookies cookies.txt http://foobar/default.aspx

# get the page you're after
wget -a log.txt -O results.html --load-cookies cookies.txt http://foobar/lister.aspx?id=42
rm cookies.txt

この他の SO投稿にはいくつかの有用な情報があります:


1
回答をパーソナライズしないでください(「I」を削除してください)。それ以外では、あなたの1人が最初の答えであるので、あなたは素晴らしいことをしています。
wizlog 2012年
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.