Pythonのnumpyndarray内の非NaN要素の数を数える


90

numpyndarray行列の非NaN要素の数を計算する必要があります。Pythonでこれを効率的に行うにはどうすればよいですか?これを実現するための簡単なコードは次のとおりです。

import numpy as np

def numberOfNonNans(data):
    count = 0
    for i in data:
        if not np.isnan(i):
            count += 1
    return count 

numpyにこれのための組み込み関数はありますか?私はビッグデータ分析を行っているので、効率は重要です。

助けを求めてThnx!



1
記憶の面で効率的という意味ですか?
Ashwini Chaudhary 2014

+1 CPU時間について考えていましたが、メモリも考えていませんでした。速くて安いほど良い=)
jjepsuomi 2014

3
@jjepsuomiメモリ効率の高いバージョンはありますがsum(not np.isnan(x) for x in a)、速度の点では@ M4rtininumpyバージョンに比べて遅いです。
Ashwini Chaudhary 2014

@AshwiniChaudharyどうもありがとうございました!アプリケーションでどちらがより重要かを確認する必要があります=)
jjepsuomi 2014

回答:


164
np.count_nonzero(~np.isnan(data))

~から返されたブール行列を反転しnp.isnanます。

np.count_nonzero0 \ falseではない値をカウントします。.sum同じ結果が得られるはずです。しかし、おそらくもっと明確に使用するcount_nonzero

テスト速度:

In [23]: data = np.random.random((10000,10000))

In [24]: data[[np.random.random_integers(0,10000, 100)],:][:, [np.random.random_integers(0,99, 100)]] = np.nan

In [25]: %timeit data.size - np.count_nonzero(np.isnan(data))
1 loops, best of 3: 309 ms per loop

In [26]: %timeit np.count_nonzero(~np.isnan(data))
1 loops, best of 3: 345 ms per loop

In [27]: %timeit data.size - np.isnan(data).sum()
1 loops, best of 3: 339 ms per loop

data.size - np.count_nonzero(np.isnan(data))ここではかろうじて最速のようです。他のデータは異なる相対速度の結果を与えるかもしれません。


+1 @ M4rtiniありがとうございました!あなたは素晴らしい!; DIは私ができる限り早くあなたの答えを受け入れます:)
jjepsuomi 2014

3
多分さえnumpy.isnan(array).sum()?しかし、私はnumpyにあまり熟練していません。
msvalkon 2014

2
@ msvalkon、NaNの数をカウントしますが、OPは非NaN要素の数を必要とします。
falsetru 2014


5
@msvalkon回答の拡張:data.size - np.isnan(data).sum()少し効率的になります。
ダニエル

11

すぐに書ける代替案

最速の選択ではありませんが、パフォーマンスが問題にならない場合は、次のものを使用できます。

sum(~np.isnan(data))

パフォーマンス:

In [7]: %timeit data.size - np.count_nonzero(np.isnan(data))
10 loops, best of 3: 67.5 ms per loop

In [8]: %timeit sum(~np.isnan(data))
10 loops, best of 3: 154 ms per loop

In [9]: %timeit np.sum(~np.isnan(data))
10 loops, best of 3: 140 ms per loop

この答えは、要素の数を数えることと同じではない合計を提供します...len代わりに使用する必要があります。
曲がった

1
@BenT特定の条件を満たすbool配列要素の合計は同じであり、サブセット配列のlenに特定の条件を満たす要素を提供します。これがどこで間違っているのか明確にしていただけますか?
GM

2
ブール値が返されるのを忘れた私の間違い。
BENT

3

別の方法ですが、少し遅い方法は、インデックス作成よりも実行することです。

np.isnan(data)[np.isnan(data) == False].size

In [30]: %timeit np.isnan(data)[np.isnan(data) == False].size
1 loops, best of 3: 498 ms per loop 

np.isnan(data)==演算子を2回使用するのは少しやり過ぎかもしれないので、完全を期すためだけに回答を投稿しました。


弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.