numpyを使用した配列の効率的なしきい値フィルター


81

特定のしきい値よりも低い要素を削除するには、配列をフィルタリングする必要があります。私の現在のコードは次のようなものです:

threshold = 5
a = numpy.array(range(10)) # testing data
b = numpy.array(filter(lambda x: x >= threshold, a))

問題は、ラムダ関数(遅い)を持つフィルターを使用して、一時リストを作成することです。

これは非常に単純な操作であるため、効率的な方法でそれを実行するnumpy関数があるかもしれませんが、私はそれを見つけることができませんでした。

これを実現する別の方法は、配列を並べ替え、しきい値のインデックスを見つけて、そのインデックスからスライスを返すことだと思いましたが、これが小さな入力の場合は高速であるとしても(とにかく目立たないでしょう) )、入力サイズが大きくなるにつれて、その効率は明らかに漸近的に低下します。

何か案は?ありがとう!

更新:私もいくつかの測定を行いましたが、入力が100.000.000エントリの場合、並べ替えとスライスは純粋なPythonフィルターの2倍の速さでした。

In [321]: r = numpy.random.uniform(0, 1, 100000000)

In [322]: %timeit test1(r) # filter
1 loops, best of 3: 21.3 s per loop

In [323]: %timeit test2(r) # sort and slice
1 loops, best of 3: 11.1 s per loop

In [324]: %timeit test3(r) # boolean indexing
1 loops, best of 3: 1.26 s per loop

2
ええ、それはとてもいいです:-)コードの実行にほとんど時間が
かから

5
@ yosukesabai-IPython%timeitは組み込みtimeitモジュールを使用します。それも見てください。docs.python.org/library/timeit.html
Joe Kington

回答:


112

b = a[a>threshold] これはする必要があります

私は次のようにテストしました:

import numpy as np, datetime
# array of zeros and ones interleaved
lrg = np.arange(2).reshape((2,-1)).repeat(1000000,-1).flatten()

t0 = datetime.datetime.now()
flt = lrg[lrg==0]
print datetime.datetime.now() - t0

t0 = datetime.datetime.now()
flt = np.array(filter(lambda x:x==0, lrg))
print datetime.datetime.now() - t0

私は得た

$ python test.py
0:00:00.028000
0:00:02.461000

http://docs.scipy.org/doc/numpy/user/basics.indexing.html#boolean-or-mask-index-arrays


1
私が考えていることだけでなく、テスト結果を追加しました。:p
yosukesabai 2011年

3
この種のインデックス付けは配列のサイズを維持しませんが、同じ数の要素を維持し、サブスレッショルド値をゼロにすることはどのように可能ですか?
linello 2013

9
@ linello、a [a <= threshold] = 0は、しきい値を超えない部分をマスクします
yosukesabai 2013

4
私は2つの基準に基づくフィルタリングの問題に遭遇しました。解決策は次のとおりです。stackoverflow.com
ロビンニューハウス

@yosukesabai実際に元の値を変更せずに、これを正確に行うことは可能ですか。それnp.maをするつもりなら、どうしたらいいのかわからない。
embert 2014年
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.