イーサネットウォッチドッグタイマーのデッドロックの解決


11

インターフェイスをスニッフィングするpythonスクリプトを実行すると、数時間ごとにデッドロックするdebian linuxボックス(Debian Squeeze)があります...

スタックトレースは、この質問の最後に添付されています。基本的に、bnx2スニッフィングセッションを開始すると停止するように見えるBroadcomイーサネットインターフェイス(ドライバ)があり、同じインターフェイスからフレームを送信しようとします。

私が知ることができることから、カーネルウォッチドッグタイマーが作動しています...

NETDEV WATCHDOG: eth3 (bnx2): transmit queue 0 timed out

ioctl(ref:EmbeddedFreak:linux watchdogの使用方法)でウォッチドッグタイマーを制御する方法があると思います。

質問(オリジナル):

eth3を制御しているウォッチドッグタイマーを見つけるにはどうすればよいですか?タイマーを変更したり、ウォッチドッグを無効にしたりする方法を教えていただければボーナスポイント...

質問(改訂):

イーサネットウォッチドッグタイマーによる問題の発生を防ぐにはどうすればよいですか?


スタックトレース

Apr 30 08:38:44 Hotcoffee kernel: [275460.837147] ------------[ cut here ]------------
Apr 30 08:38:44 Hotcoffee kernel: [275460.837166] WARNING: at /build/buildd-linux-2.6_2.6.32-41squeeze2-amd64-NDo8b7/linux-2.6-2.6.32/debian/build/source_amd64_none/net/sched/sch_generic.c:261 dev_watchdog+0xe2/0x194()
Apr 30 08:38:44 Hotcoffee kernel: [275460.837169] Hardware name: PowerEdge R710
Apr 30 08:38:44 Hotcoffee kernel: [275460.837171] NETDEV WATCHDOG: eth3 (bnx2): transmit queue 0 timed out
Apr 30 08:38:44 Hotcoffee kernel: [275460.837172] Modules linked in: 8021q garp stp parport_pc ppdev lp parport pci_stub vboxpci vboxnetadp vboxnetflt vboxdrv ext2 loop psmouse power_meter button dcdbas evdev pcspkr processor serio_raw ext4 mbcache jbd2 crc16 sg sr_mod cdrom ses ata_generic sd_mod usbhid hid crc_t10dif enclosure uhci_hcd ehci_hcd megaraid_sas ata_piix thermal libata usbcore nls_base scsi_mod bnx2 thermal_sys [last unloaded: scsi_wait_scan]
Apr 30 08:38:44 Hotcoffee kernel: [275460.837202] Pid: 0, comm: swapper Not tainted 2.6.32-5-amd64 #1
Apr 30 08:38:44 Hotcoffee kernel: [275460.837204] Call Trace:
Apr 30 08:38:44 Hotcoffee kernel: [275460.837206]  <IRQ>  [<ffffffff81263086>] ? dev_watchdog+0xe2/0x194
Apr 30 08:38:44 Hotcoffee kernel: [275460.837211]  [<ffffffff81263086>] ? dev_watchdog+0xe2/0x194
Apr 30 08:38:44 Hotcoffee kernel: [275460.837217]  [<ffffffff8104df9c>] ? warn_slowpath_common+0x77/0xa3
Apr 30 08:38:44 Hotcoffee kernel: [275460.837220]  [<ffffffff81262fa4>] ? dev_watchdog+0x0/0x194
Apr 30 08:38:44 Hotcoffee kernel: [275460.837223]  [<ffffffff8104e024>] ? warn_slowpath_fmt+0x51/0x59
Apr 30 08:38:44 Hotcoffee kernel: [275460.837228]  [<ffffffff8104a4ba>] ? try_to_wake_up+0x289/0x29b
Apr 30 08:38:44 Hotcoffee kernel: [275460.837231]  [<ffffffff81262f78>] ? netif_tx_lock+0x3d/0x69
Apr 30 08:38:44 Hotcoffee kernel: [275460.837237]  [<ffffffff8124dda3>] ? netdev_drivername+0x3b/0x40
Apr 30 08:38:44 Hotcoffee kernel: [275460.837240]  [<ffffffff81263086>] ? dev_watchdog+0xe2/0x194
Apr 30 08:38:44 Hotcoffee kernel: [275460.837242]  [<ffffffff8103fa2a>] ? __wake_up+0x30/0x44
Apr 30 08:38:44 Hotcoffee kernel: [275460.837249]  [<ffffffff8105a71b>] ? run_timer_softirq+0x1c9/0x268
Apr 30 08:38:44 Hotcoffee kernel: [275460.837252]  [<ffffffff81053dc7>] ? __do_softirq+0xdd/0x1a6
Apr 30 08:38:44 Hotcoffee kernel: [275460.837257]  [<ffffffff8102462a>] ? lapic_next_event+0x18/0x1d
Apr 30 08:38:44 Hotcoffee kernel: [275460.837262]  [<ffffffff81011cac>] ? call_softirq+0x1c/0x30
Apr 30 08:38:44 Hotcoffee kernel: [275460.837265]  [<ffffffff8101322b>] ? do_softirq+0x3f/0x7c
Apr 30 08:38:44 Hotcoffee kernel: [275460.837267]  [<ffffffff81053c37>] ? irq_exit+0x36/0x76
Apr 30 08:38:44 Hotcoffee kernel: [275460.837270]  [<ffffffff810250f8>] ? smp_apic_timer_interrupt+0x87/0x95
Apr 30 08:38:44 Hotcoffee kernel: [275460.837273]  [<ffffffff81011673>] ? apic_timer_interrupt+0x13/0x20
Apr 30 08:38:44 Hotcoffee kernel: [275460.837274]  <EOI>  [<ffffffffa01bc509>] ? acpi_idle_enter_bm+0x27d/0x2af [processor]
Apr 30 08:38:44 Hotcoffee kernel: [275460.837283]  [<ffffffffa01bc502>] ? acpi_idle_enter_bm+0x276/0x2af [processor]
Apr 30 08:38:44 Hotcoffee kernel: [275460.837289]  [<ffffffff8123a0ba>] ? cpuidle_idle_call+0x94/0xee
Apr 30 08:38:44 Hotcoffee kernel: [275460.837293]  [<ffffffff8100fe97>] ? cpu_idle+0xa2/0xda
Apr 30 08:38:44 Hotcoffee kernel: [275460.837297]  [<ffffffff8151c140>] ? early_idt_handler+0x0/0x71
Apr 30 08:38:44 Hotcoffee kernel: [275460.837301]  [<ffffffff8151ccdd>] ? start_kernel+0x3dc/0x3e8
Apr 30 08:38:44 Hotcoffee kernel: [275460.837304]  [<ffffffff8151c3b7>] ? x86_64_start_kernel+0xf9/0x106
Apr 30 08:38:44 Hotcoffee kernel: [275460.837306] ---[ end trace 92c65e52c9e327ec ]---

1
あなたのMTUは何ですか?
Nils

どのようにして質問することを知りましたか?スニフを実行する前に、このインターフェイスで手動で9000に設定しました。スクリプトが終了する直前に、1500にリセットしました。実際、スクリプトでスニファー機能を無効にした後、スクリプトで実行sudo ip link set mtu 1500 dev eth3すると(終了していたため)別のデッドロックが発生しました。インターフェイスのMTUを変更することについて考えていますか?
Mike Pennington

@Nils、これはPAEカーネルである可能性が非常に高いです...プロセッサはデュアルCPUクアッドコアx86-64です
Mike Pennington

面白い。LinuxとOpenBSDは思ったよりも共通点が多いようです。
Nils

ところで-なぜMTUを変更するのですか-トランクモードでポートミラーをスニッフィングしていますか?
Nils

回答:


5

GeNUAから同様の話を読みました。彼らの回避策は、ネットワークドライバー(OpenBSD)を再起動することでした。Linuxでは、これは次のように変換されます ifdown eth3 && rmmod bnx2 && modprobe bnx2 && ifup eth3

中心的な問題は、broadcom-driverと組み合わせたPAEシステム上のポインターに関する内部コーディングの問題でした。


正確にいつ私がそれらのコマンドを実行することを提案していますか?MTUを変更した後にのみ?
Mike Pennington、2012年

1
@MikePenningtonリンクを自分の回答から英語バージョンに変更しました。読んでください... 30分ごとに変更すべきだと思います。
Nils

これを受け入れる前に数日間本番環境で実行する必要があります...これでうまくいき、賞金も授与します。これは2週間私の尻を蹴っています
マイクペニントン

インターフェースMTUがデフォルト(1500)の場合、おそらくこの問題は発生しないはずですよね?MTUを変更するコードを削除しましたが、依然としてデッドロックが発生します
Mike Pennington

すべてのインターフェースが同じタイプですか?ethtool -gおそらく、この問題を回避するために、受信または送信バッファーを上げることができる状態でそれらを見てください。
Nils

2

ethtoolNICバッファーを変更するために呼び出したコードをコメント化すると、ウォッチドッグタイマーがbnx2カードでトリップするのを停止しました。

ウォッチドッグタイマーに関する質問への回答を探したいが、別の質問をする

def _linux_buffer_alloc(iface=None, rx_ring_buffers=768,
    netdev_max_backlog=30000):

    default_rx = 255
    default_rx_jumbo = 0
    default_netdev_max_backlog = 1000
    ## Set linux rx ring buffers (to prevent tcpdump 'dropped by intf' msg)
## FIXME: removing for now due to systematic deadlocks with the bnx2 driver
#    sample: ethtool -G eth3 rx 768
#    cmd = 'ethtool -G %s rx %s' % (iface, rx_ring_buffers)
#    p = Popen(cmd.split(' '), stdout=PIPE)
#    p.communicate(); time.sleep(0.15)
#    sample: ethtool -G eth3 rx-jumbo 0
#    cmd = 'ethtool -G %s rx-jumbo %s' % (iface, default_rx_jumbo)
#    p = Popen(cmd.split(' '), stdout=PIPE)
#    p.communicate(); time.sleep(0.15)
## /FIXME
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.