Pythonのリクエストライブラリを使用して「ユーザーエージェント」を送信する

"User-agent"Pythonリクエストを使用してウェブページをリクエストしているときに値を送信したいのですが。以下のコードのように、これをヘッダーの一部として送信してもよいかどうかはわかりません。

debug = {'verbose': sys.stderr}
user_agent = {'User-agent': 'Mozilla/5.0'}
response  = requests.get(url, headers = user_agent, config=debug)

デバッグ情報には、リクエスト中に送信されたヘッダーは表示されません。

この情報をヘッダーで送信しても問題ありませんか？そうでない場合、どうすれば送信できますか？

user-agentヘッダ内のフィールドとして指定されるべきです。

以下はHTTPヘッダーフィールドのリストです。おそらく、を含むリクエスト固有のフィールドに興味がありますUser-Agent。

リクエストv2.13以降を使用している場合

あなたが望むことをする最も簡単な方法は、次のように辞書を作成してヘッダーを直接指定することです：

import requests

url = 'SOME URL'

headers = {
    'User-Agent': 'My User Agent 1.0',
    'From': 'youremail@domain.com'  # This is another valid field
}

response = requests.get(url, headers=headers)

リクエストv2.12.x以前を使用している場合

古くなったrequestsデフォルトヘッダーの古いバージョンなので、デフォルトヘッダーを保存して独自のヘッダーを追加するには、次のようにします。

import requests

url = 'SOME URL'

# Get a copy of the default headers that requests would use
headers = requests.utils.default_headers()

# Update the headers with your custom ones
# You don't have to worry about case-sensitivity with
# the dictionary keys, because default_headers uses a custom
# CaseInsensitiveDict implementation within requests' source code.
headers.update(
    {
        'User-Agent': 'My User Agent 1.0',
    }
)

response = requests.get(url, headers=headers)

セッションを使用する方が便利です。これにより、毎回ヘッダーを設定することを覚えておく必要がなくなります。

session = requests.Session()
session.headers.update({'User-Agent': 'Custom user agent'})

session.get('https://httpbin.org/headers')

デフォルトでは、セッションはCookieも管理します。それを無効にしたい場合は、この質問を参照してください。