Golangでhttp.Get（）リクエストのタイムアウトを設定するにはどうすればよいですか？

GoでURLフェッチャーを作成しています。フェッチするURLのリストがあります。http.Get()各URLにリクエストを送信し、その応答を取得します。

resp,fetch_err := http.Get(url)

Getリクエストごとにカスタムタイムアウトを設定するにはどうすればよいですか？（デフォルトの時間は非常に長いため、フェッチャーは非常に遅くなります。）フェッチャーに約40〜45秒のタイムアウトを設定してから、「要求のタイムアウト」を返し、次のURLに移動します。

どうすればこれを達成できますか？

どうやらGo 1.3のhttp.Clientにはタイムアウトフィールドがあります

client := http.Client{
    Timeout: 5 * time.Second,
}
client.Get(url)

それが私のトリックです。

DialTimeoutをラップするカスタムダイヤル関数を使用する独自のトランスポートで独自のクライアントを設定する必要があります。

（完全にテストされていない）これのようなもの：

var timeout = time.Duration(2 * time.Second)

func dialTimeout(network, addr string) (net.Conn, error) {
    return net.DialTimeout(network, addr, timeout)
}

func main() {
    transport := http.Transport{
        Dial: dialTimeout,
    }

    client := http.Client{
        Transport: &transport,
    }

    resp, err := client.Get("http://some.url")
}

Volkerの答えに追加するには、接続タイムアウトに加えて読み取り/書き込みタイムアウトも設定したい場合は、次のようなことを行うことができます

package httpclient

import (
    "net"
    "net/http"
    "time"
)

func TimeoutDialer(cTimeout time.Duration, rwTimeout time.Duration) func(net, addr string) (c net.Conn, err error) {
    return func(netw, addr string) (net.Conn, error) {
        conn, err := net.DialTimeout(netw, addr, cTimeout)
        if err != nil {
            return nil, err
        }
        conn.SetDeadline(time.Now().Add(rwTimeout))
        return conn, nil
    }
}

func NewTimeoutClient(connectTimeout time.Duration, readWriteTimeout time.Duration) *http.Client {

    return &http.Client{
        Transport: &http.Transport{
            Dial: TimeoutDialer(connectTimeout, readWriteTimeout),
        },
    }
}

このコードはテストされ、本番環境で動作しています。テスト付きの完全な要点はこちらから入手できます https：//gist.github.com/dmichael/5710968から。

conn.SetDeadlineからのポイントを将来参照するため、リクエストごとに新しいクライアントを作成する必要があることに注意してください。time.Now()

リクエストごとに行う場合は、簡潔にするためにエラー処理を無視します。

ctx, cncl := context.WithTimeout(context.Background(), time.Second*3)
defer cncl()

req, _ := http.NewRequestWithContext(ctx, http.MethodGet, "https://google.com", nil)

resp, _ := http.DefaultClient.Do(req)

素早く汚い方法：

http.DefaultTransport.(*http.Transport).ResponseHeaderTimeout = time.Second * 45

これは、調整なしでグローバル状態を変化させます。それでも、URLフェッチャーには問題ない可能性があります。それ以外の場合は、次のプライベートインスタンスを作成しますhttp.RoundTripper。

var myTransport http.RoundTripper = &http.Transport{
        Proxy:                 http.ProxyFromEnvironment,
        ResponseHeaderTimeout: time.Second * 45,
}

var myClient = &http.Client{Transport: myTransport}

resp, err := myClient.Get(url)
...

上記のものはテストされていません。

タイムアウトを簡単に処理するhttps://github.com/franela/goreqを使用できます。

timeout := time.Duration(5 * time.Second)
transport := &http.Transport{Proxy: http.ProxyURL(proxyUrl), ResponseHeaderTimeout:timeout}

これは役立つかもしれませんがResponseHeaderTimeout、接続が確立された後にのみ開始されることに注意してください。