numpy.arrayで一意の行を見つける

で一意の行を見つける必要があります numpy.array。

例えば：

>>> a # I have
array([[1, 1, 1, 0, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [1, 1, 1, 0, 0, 0],
       [1, 1, 1, 1, 1, 0]])
>>> new_a # I want to get to
array([[1, 1, 1, 0, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [1, 1, 1, 1, 1, 0]])

セットを作成して配列をループできることはわかっていますが、効率的な純粋なnumpyソリューションを探しています。データ型をvoidに設定する方法はあると思いますがnumpy.unique、を使用することはできますが、それを機能させる方法を理解できませんでした。

NumPy 1.13以降、任意のN次元配列の一意の値を選択するための軸を選択することができます。一意の行を取得するには、次のようにします。

unique_rows = np.unique(original_array, axis=0)

さらに別の可能な解決策

np.vstack({tuple(row) for row in a})

構造化配列を使用する別のオプションは、void行全体を単一のアイテムに結合するタイプのビューを使用することです。

a = np.array([[1, 1, 1, 0, 0, 0],
              [0, 1, 1, 1, 0, 0],
              [0, 1, 1, 1, 0, 0],
              [1, 1, 1, 0, 0, 0],
              [1, 1, 1, 1, 1, 0]])

b = np.ascontiguousarray(a).view(np.dtype((np.void, a.dtype.itemsize * a.shape[1])))
_, idx = np.unique(b, return_index=True)

unique_a = a[idx]

>>> unique_a
array([[0, 1, 1, 1, 0, 0],
       [1, 1, 1, 0, 0, 0],
       [1, 1, 1, 1, 1, 0]])

編集np.ascontiguousarray以下の@sebergの推奨事項を 追加。配列が隣接していない場合、これによりメソッドの速度が低下します。

編集 上記は、おそらく以下を実行することにより、明確さを犠牲にして、わずかに高速化できます。

unique_a = np.unique(b).view(a.dtype).reshape(-1, a.shape[1])

また、少なくとも私のシステムでは、パフォーマンスに関しては、lexsortメソッドよりもパフォーマンスが同等またはそれ以上です。

a = np.random.randint(2, size=(10000, 6))

%timeit np.unique(a.view(np.dtype((np.void, a.dtype.itemsize*a.shape[1])))).view(a.dtype).reshape(-1, a.shape[1])
100 loops, best of 3: 3.17 ms per loop

%timeit ind = np.lexsort(a.T); a[np.concatenate(([True],np.any(a[ind[1:]]!=a[ind[:-1]],axis=1)))]
100 loops, best of 3: 5.93 ms per loop

a = np.random.randint(2, size=(10000, 100))

%timeit np.unique(a.view(np.dtype((np.void, a.dtype.itemsize*a.shape[1])))).view(a.dtype).reshape(-1, a.shape[1])
10 loops, best of 3: 29.9 ms per loop

%timeit ind = np.lexsort(a.T); a[np.concatenate(([True],np.any(a[ind[1:]]!=a[ind[:-1]],axis=1)))]
10 loops, best of 3: 116 ms per loop

一連のタプルまたは別の同様のデータ構造に変換することによるメモリ消費を回避したい場合は、numpyの構造化配列を利用できます。

トリックは、元の配列を、各項目が元の配列の行に対応する構造化配列として表示することです。これはコピーを作成せず、非常に効率的です。

簡単な例として：

import numpy as np

data = np.array([[1, 1, 1, 0, 0, 0],
                 [0, 1, 1, 1, 0, 0],
                 [0, 1, 1, 1, 0, 0],
                 [1, 1, 1, 0, 0, 0],
                 [1, 1, 1, 1, 1, 0]])

ncols = data.shape[1]
dtype = data.dtype.descr * ncols
struct = data.view(dtype)

uniq = np.unique(struct)
uniq = uniq.view(data.dtype).reshape(-1, ncols)
print uniq

何が起こっているのかを理解するには、中間結果を見てください。

構造化配列として見ると、配列の各要素は元の配列の行になります。（基本的に、タプルのリストと同様のデータ構造です。）

In [71]: struct
Out[71]:
array([[(1, 1, 1, 0, 0, 0)],
       [(0, 1, 1, 1, 0, 0)],
       [(0, 1, 1, 1, 0, 0)],
       [(1, 1, 1, 0, 0, 0)],
       [(1, 1, 1, 1, 1, 0)]],
      dtype=[('f0', '<i8'), ('f1', '<i8'), ('f2', '<i8'), ('f3', '<i8'), ('f4', '<i8'), ('f5', '<i8')])

In [72]: struct[0]
Out[72]:
array([(1, 1, 1, 0, 0, 0)],
      dtype=[('f0', '<i8'), ('f1', '<i8'), ('f2', '<i8'), ('f3', '<i8'), ('f4', '<i8'), ('f5', '<i8')])

を実行するnumpy.uniqueと、構造化配列が返されます。

In [73]: np.unique(struct)
Out[73]:
array([(0, 1, 1, 1, 0, 0), (1, 1, 1, 0, 0, 0), (1, 1, 1, 1, 1, 0)],
      dtype=[('f0', '<i8'), ('f1', '<i8'), ('f2', '<i8'), ('f3', '<i8'), ('f4', '<i8'), ('f5', '<i8')])

次に、「通常の」配列として表示する必要があること（_最後の計算の結果をに格納するため、が表示されipythonます_.view...）。

In [74]: _.view(data.dtype)
Out[74]: array([0, 1, 1, 1, 0, 0, 1, 1, 1, 0, 0, 0, 1, 1, 1, 1, 1, 0])

次に、2D配列に再形成します（-1numpyに正しい行数を計算し、列数を与えるように指示するプレースホルダーです）：

In [75]: _.reshape(-1, ncols)
Out[75]:
array([[0, 1, 1, 1, 0, 0],
       [1, 1, 1, 0, 0, 0],
       [1, 1, 1, 1, 1, 0]])

明らかに、もっと簡潔にしたい場合は、次のように書くことができます。

import numpy as np

def unique_rows(data):
    uniq = np.unique(data.view(data.dtype.descr * data.shape[1]))
    return uniq.view(data.dtype).reshape(-1, data.shape[1])

data = np.array([[1, 1, 1, 0, 0, 0],
                 [0, 1, 1, 1, 0, 0],
                 [0, 1, 1, 1, 0, 0],
                 [1, 1, 1, 0, 0, 0],
                 [1, 1, 1, 1, 1, 0]])
print unique_rows(data)

その結果：

[[0 1 1 1 0 0]
 [1 1 1 0 0 0]
 [1 1 1 1 1 0]]

np.unique私がそれを実行すると、np.random.random(100).reshape(10,10)すべての一意の個々の要素が返されますが、一意の行が必要なので、最初にそれらをタプルに入れる必要があります。

array = #your numpy array of lists
new_array = [tuple(row) for row in array]
uniques = np.unique(new_array)

これが、タイプを変更して必要なことを行う唯一の方法であり、タプルに変更するためのリストの反復が「ループしない」ことで問題ないかどうかはわかりません

np.uniqueは、平坦化された配列をソートしてから、各項目が前の項目と等しいかどうかを調べます。これはフラット化せずに手動で行うことができます：

ind = np.lexsort(a.T)
a[ind[np.concatenate(([True],np.any(a[ind[1:]]!=a[ind[:-1]],axis=1)))]]

このメソッドはタプルを使用しないため、ここで説明する他のメソッドよりもはるかに高速で単純なはずです。

注：これの以前のバージョンでは、a [の直後にindがありませんでした。つまり、誤ったインデックスが使用されていました。また、Joe Kingtonは、これによりさまざまな中間コピーが作成されることを強調しています。次のメソッドは、ソートされたコピーを作成し、そのビューを使用することにより、数を減らしています。

b = a[np.lexsort(a.T)]
b[np.concatenate(([True], np.any(b[1:] != b[:-1],axis=1)))]

これはより速く、より少ないメモリを使用します。

また、配列の次元数に関係なく、ndarray内の一意の行を検索する場合は、以下が機能します。

b = a[lexsort(a.reshape((a.shape[0],-1)).T)];
b[np.concatenate(([True], np.any(b[1:]!=b[:-1],axis=tuple(range(1,a.ndim)))))]

興味深い残りの問題は、任意の次元の配列の任意の軸に沿って並べ替え/一意にしたい場合です。

編集：

速度の違いを示すために、回答に記載されている3つの異なる方法をipythonでいくつかテストしました。では、あなたのこのバージョンは少し速いですが、正確なA、あまり差がありません。

In [87]: %timeit unique(a.view(dtype)).view('<i8')
10000 loops, best of 3: 48.4 us per loop

In [88]: %timeit ind = np.lexsort(a.T); a[np.concatenate(([True], np.any(a[ind[1:]]!= a[ind[:-1]], axis=1)))]
10000 loops, best of 3: 37.6 us per loop

In [89]: %timeit b = [tuple(row) for row in a]; np.unique(b)
10000 loops, best of 3: 41.6 us per loop

ただし、aが大きいほど、このバージョンははるかに高速になります。

In [96]: a = np.random.randint(0,2,size=(10000,6))

In [97]: %timeit unique(a.view(dtype)).view('<i8')
10 loops, best of 3: 24.4 ms per loop

In [98]: %timeit b = [tuple(row) for row in a]; np.unique(b)
10 loops, best of 3: 28.2 ms per loop

In [99]: %timeit ind = np.lexsort(a.T); a[np.concatenate(([True],np.any(a[ind[1:]]!= a[ind[:-1]],axis=1)))]
100 loops, best of 3: 3.25 ms per loop

@Greg pythonic answerの別のバリエーションがあります

np.vstack(set(map(tuple, a)))

私は速度の提案された代替案を比較しましたが、驚くべきことに、ボイドビューuniqueソリューションはnumpyの引数unique付きネイティブよりも少し高速であることがわかりましたaxis。スピードを求めているなら、

numpy.unique(
    a.view(numpy.dtype((numpy.void, a.dtype.itemsize*a.shape[1])))
    ).view(a.dtype).reshape(-1, a.shape[1])

プロットを再現するコード：

import numpy
import perfplot


def unique_void_view(a):
    return numpy.unique(
        a.view(numpy.dtype((numpy.void, a.dtype.itemsize*a.shape[1])))
        ).view(a.dtype).reshape(-1, a.shape[1])


def lexsort(a):
    ind = numpy.lexsort(a.T)
    return a[ind[
        numpy.concatenate((
            [True], numpy.any(a[ind[1:]] != a[ind[:-1]], axis=1)
            ))
        ]]


def vstack(a):
    return numpy.vstack({tuple(row) for row in a})


def unique_axis(a):
    return numpy.unique(a, axis=0)


perfplot.show(
    setup=lambda n: numpy.random.randint(2, size=(n, 20)),
    kernels=[unique_void_view, lexsort, vstack, unique_axis],
    n_range=[2**k for k in range(15)],
    logx=True,
    logy=True,
    xlabel='len(a)',
    equality_check=None
    )

線形代数またはベクトル空間の意味で浮動小数点配列を処理するものはなく、2つの行が「等しい」とは「some以内」を意味するため、これらの回答はどれも好きではありませんでした。許容範囲のしきい値を持つ1つの回答https://stackoverflow.com/a/26867764/500207は、しきい値を要素単位と10進数の両方と見なしました精度に設定しました。これは、いくつかのケースでは機能しますが、真のベクトル距離。

これが私のバージョンです：

from scipy.spatial.distance import squareform, pdist

def uniqueRows(arr, thresh=0.0, metric='euclidean'):
    "Returns subset of rows that are unique, in terms of Euclidean distance"
    distances = squareform(pdist(arr, metric=metric))
    idxset = {tuple(np.nonzero(v)[0]) for v in distances <= thresh}
    return arr[[x[0] for x in idxset]]

# With this, unique columns are super-easy:
def uniqueColumns(arr, *args, **kwargs):
    return uniqueRows(arr.T, *args, **kwargs)

上記のパブリックドメイン関数は、行の各ペアscipy.spatial.distance.pdist間のユークリッド（カスタマイズ可能）距離を見つけるために使用します。次に、それぞれの距離を古い値と比較して、互いの範囲内にある行を見つけ、それぞれから1行だけを返しますthreshthreshthreshクラスター。

示唆したように、距離metric必要がEuclidean-ができないpdistなど雑貨距離を計算することができるcityblock（マンハッタンノルム）とcosine（ベクトル間の角度ます。

thresh=0（デフォルト）の場合、「一意」と見なされるには、行がビット完全である必要があります。threshスケールされたマシン精度を使用するためのその他の適切な値、つまりthresh=np.spacing(1)*1e3。

drop_duplicatesパンダから使用しないのはなぜですか：

>>> timeit pd.DataFrame(image.reshape(-1,3)).drop_duplicates().values
1 loops, best of 3: 3.08 s per loop

>>> timeit np.vstack({tuple(r) for r in image.reshape(-1,3)})
1 loops, best of 3: 51 s per loop

numpy_indexedパッケージは、（免責事項：私はその作者午前）素敵にハイメによって掲示ソリューションとテストインタフェースに加え、多くの機能をラップします：

import numpy_indexed as npi
new_a = npi.unique(a)  # unique elements over axis=0 (rows) by default

np.uniqueはタプルのリストが与えられると動作します：

>>> np.unique([(1, 1), (2, 2), (3, 3), (4, 4), (2, 2)])
Out[9]: 
array([[1, 1],
       [2, 2],
       [3, 3],
       [4, 4]])

リストのリストを使用すると、 TypeError: unhashable type: 'list'

このページの回答に基づいて、MATLABのunique(input,'rows')関数の機能を複製する関数を記述し、一意性をチェックするための許容誤差を受け入れる追加機能を追加しました。また、そのインデックスは、このような返しc = data[ia,:]とdata = c[ic,:]。矛盾やエラーがある場合は報告してください。

def unique_rows(data, prec=5):
    import numpy as np
    d_r = np.fix(data * 10 ** prec) / 10 ** prec + 0.0
    b = np.ascontiguousarray(d_r).view(np.dtype((np.void, d_r.dtype.itemsize * d_r.shape[1])))
    _, ia = np.unique(b, return_index=True)
    _, ic = np.unique(b, return_inverse=True)
    return np.unique(b).view(d_r.dtype).reshape(-1, d_r.shape[1]), ia, ic

@Jaimeの優れた回答を超えて、行を折りたたむ別の方法は、に等しいを使用することですa.strides[0]（aC隣接であると想定）a.dtype.itemsize*a.shape[0]。さらにvoid(n)のショートカットですdtype((void,n))。私たちはついにこの最短バージョンにたどり着きました：

a[unique(a.view(void(a.strides[0])),1)[1]]

ために

[[0 1 1 1 0 0]
 [1 1 1 0 0 0]
 [1 1 1 1 1 0]]

3D以上の多次元のネストされた配列のような一般的な目的のために、これを試してください：

import numpy as np

def unique_nested_arrays(ar):
    origin_shape = ar.shape
    origin_dtype = ar.dtype
    ar = ar.reshape(origin_shape[0], np.prod(origin_shape[1:]))
    ar = np.ascontiguousarray(ar)
    unique_ar = np.unique(ar.view([('', origin_dtype)]*np.prod(origin_shape[1:])))
    return unique_ar.view(origin_dtype).reshape((unique_ar.shape[0], ) + origin_shape[1:])

2Dデータセットを満たす：

a = np.array([[1, 1, 1, 0, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [1, 1, 1, 0, 0, 0],
       [1, 1, 1, 1, 1, 0]])
unique_nested_arrays(a)

与える：

array([[0, 1, 1, 1, 0, 0],
   [1, 1, 1, 0, 0, 0],
   [1, 1, 1, 1, 1, 0]])

しかし、次のような3D配列：

b = np.array([[[1, 1, 1], [0, 1, 1]],
              [[0, 1, 1], [1, 1, 1]],
              [[1, 1, 1], [0, 1, 1]],
              [[1, 1, 1], [1, 1, 1]]])
unique_nested_arrays(b)

与える：

array([[[0, 1, 1], [1, 1, 1]],
   [[1, 1, 1], [0, 1, 1]],
   [[1, 1, 1], [1, 1, 1]]])

これらの答えはどれもうまくいきませんでした。私の一意の行には数字ではなく文字列が含まれていると想定しています。しかし、別のスレッドからのこの答えはうまくいきました：

ソース：https : //stackoverflow.com/a/38461043/5402386

.count（）および.index（）リストのメソッドを使用できます

coor = np.array([[10, 10], [12, 9], [10, 5], [12, 9]])
coor_tuple = [tuple(x) for x in coor]
unique_coor = sorted(set(coor_tuple), key=lambda x: coor_tuple.index(x))
unique_count = [coor_tuple.count(x) for x in unique_coor]
unique_index = [coor_tuple.index(x) for x in unique_coor]

実際にmxn数値numpy配列をmx 1 numpy文字列配列に変換できます。次の関数を使用してみてください。これは、numpy.uniqueと同じようにcount、inverse_idxなどを提供します。

import numpy as np

def uniqueRow(a):
    #This function turn m x n numpy array into m x 1 numpy array storing 
    #string, and so the np.unique can be used

    #Input: an m x n numpy array (a)
    #Output unique m' x n numpy array (unique), inverse_indx, and counts 

    s = np.chararray((a.shape[0],1))
    s[:] = '-'

    b = (a).astype(np.str)

    s2 = np.expand_dims(b[:,0],axis=1) + s + np.expand_dims(b[:,1],axis=1)

    n = a.shape[1] - 2    

    for i in range(0,n):
         s2 = s2 + s + np.expand_dims(b[:,i+2],axis=1)

    s3, idx, inv_, c = np.unique(s2,return_index = True,  return_inverse = True, return_counts = True)

    return a[idx], inv_, c

例：

A = np.array([[ 3.17   9.502  3.291],
  [ 9.984  2.773  6.852],
  [ 1.172  8.885  4.258],
  [ 9.73   7.518  3.227],
  [ 8.113  9.563  9.117],
  [ 9.984  2.773  6.852],
  [ 9.73   7.518  3.227]])

B, inv_, c = uniqueRow(A)

Results:

B:
[[ 1.172  8.885  4.258]
[ 3.17   9.502  3.291]
[ 8.113  9.563  9.117]
[ 9.73   7.518  3.227]
[ 9.984  2.773  6.852]]

inv_:
[3 4 1 0 2 4 0]

c:
[2 1 1 1 2]

numpy行列全体をリストとして取得し、このリストから重複を削除して、最後に一意のリストをnumpy行列に戻します。

matrix_as_list=data.tolist() 
matrix_as_list:
[[1, 1, 1, 0, 0, 0], [0, 1, 1, 1, 0, 0], [0, 1, 1, 1, 0, 0], [1, 1, 1, 0, 0, 0], [1, 1, 1, 1, 1, 0]]

uniq_list=list()
uniq_list.append(matrix_as_list[0])

[uniq_list.append(item) for item in matrix_as_list if item not in uniq_list]

unique_matrix=np.array(uniq_list)
unique_matrix:
array([[1, 1, 1, 0, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [1, 1, 1, 1, 1, 0]])

最も簡単な解決策は、行を文字列にすることによって行を単一の項目にすることです。次に、各行を全体として、numpyを使用してその一意性を比較できます。このソリューションは一般化可能であり、他の組み合わせのために配列を再形成および転置する必要があるだけです。これは、提供された問題の解決策です。

import numpy as np

original = np.array([[1, 1, 1, 0, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [0, 1, 1, 1, 0, 0],
       [1, 1, 1, 0, 0, 0],
       [1, 1, 1, 1, 1, 0]])

uniques, index = np.unique([str(i) for i in original], return_index=True)
cleaned = original[index]
print(cleaned)    

あげる：

 array([[0, 1, 1, 1, 0, 0],
        [1, 1, 1, 0, 0, 0],
        [1, 1, 1, 1, 1, 0]])

ノーベル賞をメールで送ってください

import numpy as np
original = np.array([[1, 1, 1, 0, 0, 0],
                     [0, 1, 1, 1, 0, 0],
                     [0, 1, 1, 1, 0, 0],
                     [1, 1, 1, 0, 0, 0],
                     [1, 1, 1, 1, 1, 0]])
# create a view that the subarray as tuple and return unique indeies.
_, unique_index = np.unique(original.view(original.dtype.descr * original.shape[1]),
                            return_index=True)
# get unique set
print(original[unique_index])