Pythonアプリケーションから送信されているHTTPリクエスト全体を確認するにはどうすればよいですか?


263

私の場合、requestsライブラリを使用してHTTPS経由でPayPalのAPIを呼び出しています。残念ながら、PayPalからエラーが発生し、PayPalサポートはエラーの原因や原因を特定できません。彼らは私に「ヘッダー全体を含め、リクエスト全体を提供してほしい」と望んでいます。

どうやってやるの?

回答:


499

簡単な方法:最近のバージョンのリクエスト(1.x以降)でロギングを有効にします。

リクエストは使用http.clientしてlogging説明するように、制御の冗長ロギングにモジュールの構成をここに

デモンストレーション

リンクされたドキュメントから抜粋したコード:

import requests
import logging

# These two lines enable debugging at httplib level (requests->urllib3->http.client)
# You will see the REQUEST, including HEADERS and DATA, and RESPONSE with HEADERS but without DATA.
# The only thing missing will be the response.body which is not logged.
try:
    import http.client as http_client
except ImportError:
    # Python 2
    import httplib as http_client
http_client.HTTPConnection.debuglevel = 1

# You must initialize logging, otherwise you'll not see debug output.
logging.basicConfig()
logging.getLogger().setLevel(logging.DEBUG)
requests_log = logging.getLogger("requests.packages.urllib3")
requests_log.setLevel(logging.DEBUG)
requests_log.propagate = True

requests.get('https://httpbin.org/headers')

出力例

$ python requests-logging.py 
INFO:requests.packages.urllib3.connectionpool:Starting new HTTPS connection (1): httpbin.org
send: 'GET /headers HTTP/1.1\r\nHost: httpbin.org\r\nAccept-Encoding: gzip, deflate, compress\r\nAccept: */*\r\nUser-Agent: python-requests/1.2.0 CPython/2.7.3 Linux/3.2.0-48-generic\r\n\r\n'
reply: 'HTTP/1.1 200 OK\r\n'
header: Content-Type: application/json
header: Date: Sat, 29 Jun 2013 11:19:34 GMT
header: Server: gunicorn/0.17.4
header: Content-Length: 226
header: Connection: keep-alive
DEBUG:requests.packages.urllib3.connectionpool:"GET /headers HTTP/1.1" 200 226

1
ありがとう、@ EmmettJ.Butler =)この情報が最初の問い合わせの時点で利用可能であったかどうかはわかりませんが。
非活動家2013

9
httplibは、コードを移植可能にするにはPython 3で利用できないことに注意してください、交換するimport httplibimport requests.packages.urllib3.connectionpool as httplib、または使用6とfrom six.moves import http_client as httplib
Jason R. Coombs 2014年

ではrequests2.18.1とPython 3、ロガーはlogging.getLogger("requests.packages.urllib3")存在しないかは効果がありません。
Flimm 2017

1
Python3については、こちらをご覧ください-docs.python-requests.org/en/latest/api/?highlight=debug from http.client import HTTPConnection
shershen

残念ながら、「send:」、「reply:」、「header:」の行は実際にはログに記録されず、stdoutに出力されるだけです。しかし、私はこの情報をログファイルに入れたいです!
lesnik

145
r = requests.get('https://api.github.com', auth=('user', 'pass'))

r応答です。必要な情報を持つリクエスト属性があります。

r.request.allow_redirects  r.request.headers          r.request.register_hook
r.request.auth             r.request.hooks            r.request.response
r.request.cert             r.request.method           r.request.send
r.request.config           r.request.params           r.request.sent
r.request.cookies          r.request.path_url         r.request.session
r.request.data             r.request.prefetch         r.request.timeout
r.request.deregister_hook  r.request.proxies          r.request.url
r.request.files            r.request.redirect         r.request.verify

r.request.headers ヘッダーを与える:

{'Accept': '*/*',
 'Accept-Encoding': 'identity, deflate, compress, gzip',
 'Authorization': u'Basic dXNlcjpwYXNz',
 'User-Agent': 'python-requests/0.12.1'}

次にr.request.data、本体をマッピングとして使用します。あなたがurllib.urlencode好むならこれでこれを変換することができます:

import urllib
b = r.request.data
encoded_body = urllib.urlencode(b)

応答のタイプによっては、.data-attributeが欠落していて、.body代わりに-attributeが存在する場合があります。


14
これらのうち、「リクエスト全体、ヘッダーを含む」はどれですか?
クリスB.

1
さらに追加しました。ヘッダーと本文以外に何が必要ですか?
Skylar Saveland、2012年

8
彼らが何を探しているのか、私には完全にはわかりません。彼らのために送信されたすべてを、バイトごとに正確な形式でキャプチャすることを望んでいました。
Chris B.

18
これは、私の場合、推奨される方法です。一つだけ注意:response.requestのようですPreparedRequest私の場合。ありませんが.data.body代わりに。
Antti Haapala 2015

2
完全なURL(クエリ文字列パラメーターを含む)の場合も使用できますresponse.url (そうでないという点で少し異なりますresponse.request...
Chuck van der Linden

7

これを行うには、HTTPツールキットを使用できます。

コードを変更せずにこれをすばやく行う必要がある場合に特に便利です。HTTPToolkitからターミナルを開き、そこからPythonコードを通常どおり実行すると、すべてのHTTP / HTTPSの完全なコンテンツを表示できます。すぐにリクエストしてください。

あなたが必要とするすべてを行うことができる無料版があり、それは100%オープンソースです。

私はHTTP Toolkitの作成者です。まったく同じ問題を解決するために、実際に自分でビルドしました。私も支払いの統合をデバッグしようとしていましたが、SDKが機能せず、理由を特定できませんでした。適切に修正するには、実際に何が起こっているのかを知る必要がありました。それは非常にイライラしますが、生のトラフィックを見ることができることは本当に役立ちます。


5

Python 2.xを使用している場合は、urllib2オープナーをインストールしてみてください。これでヘッダーが出力されますが、HTTPSをヒットするために使用している他のオープナーと組み合わせる必要がある場合があります。

import urllib2
urllib2.install_opener(urllib2.build_opener(urllib2.HTTPHandler(debuglevel=1)))
urllib2.urlopen(url)

2

verbose設定オプションは、あなたが欲しいものを見ることができるかもしれません。あるドキュメントの例が

注:以下のコメントをお読みください:詳細な構成オプションはもう利用できないようです。


3
有る?本当に見つかりません。
BastiBen 2013年

3
@悪い猫。そこ時点での「冗長ログ」セクションでした12月削除されたようです。
Bruno

2
ああ、それはそれを説明するでしょう。:)それでも、デバッグのためにサーバーとクライアント間のトラフィック全体を出力する方法を見つけることができなかったので、今やこの質問はある程度有効です。
BastiBen

1
冗長ロギングと同じ効果を実現するための推奨される「新しい方法」はありますか?
2013年

1
私の答えは、Requests 1.x以降の正しい方法を示しています。
非活動家2013年
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.