(accept-encoding:gzipヘッダーを使用して)gzipされたコンテンツを要求する場合、wgetはコンテンツを読み取れないことを理解しています。したがって、ヒットした最初のページについては、ディスク上のgzip圧縮された単一のファイルになりますが、他のコンテンツはありません。
つまり、wgetを使用してgzip圧縮されたコンテンツを要求したり、サイト全体を同時に再帰したりすることはできません。
wgetがこの機能をサポートできるようにするパッチがあると思いますが、デフォルトの配布バージョンにはありません。
-Sフラグを含めると、Webサーバーが正しいタイプのコンテンツで応答しているかどうかを確認できます。例えば、
wget -S --header="accept-encoding: gzip" wordpress.com
--2011-06-17 16:06:46-- http://wordpress.com/
Resolving wordpress.com (wordpress.com)... 72.233.104.124, 74.200.247.60, 76.74.254.126
Connecting to wordpress.com (wordpress.com)|72.233.104.124|:80... connected.
HTTP request sent, awaiting response...
HTTP/1.1 200 OK
Server: nginx
Date: Fri, 17 Jun 2011 15:06:47 GMT
Content-Type: text/html; charset=UTF-8
Connection: close
Vary: Accept-Encoding
Last-Modified: Fri, 17 Jun 2011 15:04:57 +0000
Cache-Control: max-age=190, must-revalidate
Vary: Cookie
X-hacker: If you're reading this, you should visit automattic.com/jobs and apply to join the fun, mention this header.
X-Pingback: http://wordpress.com/xmlrpc.php
Link: <http://wp.me/1>; rel=shortlink
X-nananana: Batcache
Content-Encoding: gzip
Length: unspecified [text/html]
コンテンツのエンコーディングには明らかにgzipが記載されていますが、linux.about.com(現在)の場合、
wget -S --header="accept-encoding: gzip" linux.about.com
--2011-06-17 16:12:55-- http://linux.about.com/
Resolving linux.about.com (linux.about.com)... 207.241.148.80
Connecting to linux.about.com (linux.about.com)|207.241.148.80|:80... connected.
HTTP request sent, awaiting response...
HTTP/1.1 200 OK
Date: Fri, 17 Jun 2011 15:12:56 GMT
Server: Apache
Set-Cookie: TMog=B6HFCs2H20kA1I4N; domain=.about.com; path=/; expires=Sat, 22-Sep-12 14:19:35 GMT
Set-Cookie: Mint=B6HFCs2H20kA1I4N; domain=.about.com; path=/
Set-Cookie: zBT=1; domain=.about.com; path=/
Vary: *
PRAGMA: no-cache
P3P: CP="IDC DSP COR DEVa TAIa OUR BUS UNI"
Cache-Control: max-age=-3600
Expires: Fri, 17 Jun 2011 14:12:56 GMT
Connection: close
Content-Type: text/html
Length: unspecified [text/html]
text / htmlを返しています。
一部の古いブラウザではgzipでエンコードされたコンテンツにまだ問題があるため、多くのサイトではブラウザの識別に基づいてのみ有効にします。彼らはしばしばデフォルトでそれをオフにし、ブラウザがそれをサポートできることを知っているときだけそれをオフにします-そして彼らは通常そのリストにwgetを含めません。これは、ブラウザでサイトがgzipコンテンツを返さないように見える場合でも、wgetがgzipコンテンツを返さないことがわかる場合があることを意味します。