DNNの実際の使用におけるホワイトノイズの問題はどのくらいですか?


9

私は、ディープニューラルネットワークが比較的簡単にだまされ(リンク)、信頼性の対象から完全に(または少なくとも大部分)除外されている合成/人工画像の認識に高い信頼を与えることができることを読みました。

個人的には、合成/人工画像に高い信頼性を与えるDNNの大きな問題は実際にはないと思いますが、これはカメラが見る可能性がある本当に自然な現象であるため、ホワイトノイズ(リンク)に高い信頼性を与えることは問題になると思います現実世界では。

DNNの実際の使用におけるホワイトノイズの問題はどのくらいですか?プレーンノイズからこのような誤検知を検出できますか?

回答:


7

DNNをだますホワイトノイズは、実際にはホワイトノイズではありません。合成の誤って分類された画像が変更されたのと同じ方法で変更されました。多くの入力ピクセルをこのような方法で正確に変更する必要があります。これらの小さな変更は認識できませんが、ネットワークを介して伝播されるため、誤って分類されます。これは偶然には起こりません。


1
わかりましたので、私がこれを正しく理解していれば、そのような誤分類は自然ノイズでは起こり得ません...それは朗報です:)。
Kozuch
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.