TypeError:re.findall()でバイトのようなオブジェクトに文字列パターンを使用することはできません


106

ページからURLを自動的に取得する方法を学習しようとしています。次のコードでは、Webページのタイトルを取得しようとしています。

import urllib.request
import re

url = "http://www.google.com"
regex = r'<title>(,+?)</title>'
pattern  = re.compile(regex)

with urllib.request.urlopen(url) as response:
   html = response.read()

title = re.findall(pattern, html)
print(title)

そして、私はこの予期しないエラーを受け取ります:

Traceback (most recent call last):
  File "path\to\file\Crawler.py", line 11, in <module>
    title = re.findall(pattern, html)
  File "C:\Python33\lib\re.py", line 201, in findall
    return _compile(pattern, flags).findall(string)
TypeError: can't use a string pattern on a bytes-like object

何が悪いのですか?


回答:



28

問題は、正規表現が文字列であるがhtmlバイトであるということです。

>>> type(html)
<class 'bytes'>

Pythonはそれらのバイトがどのようにエンコードされているかを認識していないため、それらに文字列正規表現を使用しようとすると例外がスローされます。

decodeバイトから文字列のいずれかを使用できます。

html = html.decode('ISO-8859-1')  # encoding may vary!
title = re.findall(pattern, html)  # no more error

または、バイト正規表現を使用します。

regex = rb'<title>(,+?)</title>'
#        ^

この特定のコンテキストでは、応答ヘッダーからエンコードを取得できます。

with urllib.request.urlopen(url) as response:
    encoding = response.info().get_param('charset', 'utf8')
    html = response.read().decode(encoding)

詳細については、urlopenドキュメントを参照してください。

弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.