正の整数のゼロ以外のビットをカウントする高速な方法

Pythonで整数のビット数をカウントする高速な方法が必要です。私の現在の解決策は

bin(n).count("1")

しかし、これを行うより速い方法があるかどうか疑問に思っていますか？

PS：（私は大きな2Dバイナリ配列を数値の単一のリストとして表し、ビットごとの演算を行っています。これにより、時間を数時間から数分に短縮できます。次に、それらの余分な分を取り除きたいと思います。

編集：1. Python 2.7または2.6である必要があります

小さな数を最適化することはそれほど問題ではありません。ボトルネックになることは明らかではないためですが、一部の場所には10 000 +ビットの数値があります。

たとえば、これは2000ビットの場合です。

12448057941136394342297748548545082997815840357634948550739612798732309975923280685245876950055614362283769710705811182976142803324242407017104841062064840113262840137625582646683068904149296501029754654149991842951570880471230098259905004533869130509989042199261339990315125973721454059973605358766253998615919997174542922163484086066438120268185904663422979603026066685824578356173882166747093246377302371176167843247359636030248569148734824287739046916641832890744168385253915508446422276378715722482359321205673933317512861336054835392844676749610712462818600179225635467147870208L

任意長の整数の場合、bin(n).count("1")純粋なPythonで私が見つけることができる最速です。

オスカーのソリューションとアダムのソリューションを適用して、それぞれ64ビットと32ビットのチャンクで整数を処理してみました。どちらも少なくとも10倍遅くなりましたbin(n).count("1")（32ビットバージョンでは、約半分の時間がかかりました）。

一方、gmpy popcount()はの約1/20の時間を要しましたbin(n).count("1")。したがって、gmpyをインストールできる場合は、それを使用してください。

コメントの質問に答えるために、バイトについてはルックアップテーブルを使用します。実行時に生成できます。

counts = bytes(bin(x).count("1") for x in range(256))  # py2: use bytearray

または単にそれを文字通り定義します：

counts = (b'\x00\x01\x01\x02\x01\x02\x02\x03\x01\x02\x02\x03\x02\x03\x03\x04'
          b'\x01\x02\x02\x03\x02\x03\x03\x04\x02\x03\x03\x04\x03\x04\x04\x05'
          b'\x01\x02\x02\x03\x02\x03\x03\x04\x02\x03\x03\x04\x03\x04\x04\x05'
          b'\x02\x03\x03\x04\x03\x04\x04\x05\x03\x04\x04\x05\x04\x05\x05\x06'
          b'\x01\x02\x02\x03\x02\x03\x03\x04\x02\x03\x03\x04\x03\x04\x04\x05'
          b'\x02\x03\x03\x04\x03\x04\x04\x05\x03\x04\x04\x05\x04\x05\x05\x06'
          b'\x02\x03\x03\x04\x03\x04\x04\x05\x03\x04\x04\x05\x04\x05\x05\x06'
          b'\x03\x04\x04\x05\x04\x05\x05\x06\x04\x05\x05\x06\x05\x06\x06\x07'
          b'\x01\x02\x02\x03\x02\x03\x03\x04\x02\x03\x03\x04\x03\x04\x04\x05'
          b'\x02\x03\x03\x04\x03\x04\x04\x05\x03\x04\x04\x05\x04\x05\x05\x06'
          b'\x02\x03\x03\x04\x03\x04\x04\x05\x03\x04\x04\x05\x04\x05\x05\x06'
          b'\x03\x04\x04\x05\x04\x05\x05\x06\x04\x05\x05\x06\x05\x06\x06\x07'
          b'\x02\x03\x03\x04\x03\x04\x04\x05\x03\x04\x04\x05\x04\x05\x05\x06'
          b'\x03\x04\x04\x05\x04\x05\x05\x06\x04\x05\x05\x06\x05\x06\x06\x07'
          b'\x03\x04\x04\x05\x04\x05\x05\x06\x04\x05\x05\x06\x05\x06\x06\x07'
          b'\x04\x05\x05\x06\x05\x06\x06\x07\x05\x06\x06\x07\x06\x07\x07\x08')

次にcounts[x]、0≤x≤255である1ビットの数を取得しxます。

次のアルゴリズムを採用できます。

def CountBits(n):
  n = (n & 0x5555555555555555) + ((n & 0xAAAAAAAAAAAAAAAA) >> 1)
  n = (n & 0x3333333333333333) + ((n & 0xCCCCCCCCCCCCCCCC) >> 2)
  n = (n & 0x0F0F0F0F0F0F0F0F) + ((n & 0xF0F0F0F0F0F0F0F0) >> 4)
  n = (n & 0x00FF00FF00FF00FF) + ((n & 0xFF00FF00FF00FF00) >> 8)
  n = (n & 0x0000FFFF0000FFFF) + ((n & 0xFFFF0000FFFF0000) >> 16)
  n = (n & 0x00000000FFFFFFFF) + ((n & 0xFFFFFFFF00000000) >> 32) # This last & isn't strictly necessary.
  return n

これは64ビットの正の数で機能しますが、簡単に拡張でき、引数の対数で（つまり、引数のビットサイズで線形に）操作の数を増やすことができます。

これがどのように機能するかを理解するために、64ビット文字列全体を64個の1ビットバケットに分割するとします。各バケットの値は、バケットに設定されているビット数と同じです（ビットが設定されていない場合は0、1ビットが設定されている場合は1）。最初の変換の結果は類似していますが、それぞれ2ビット長の32バケットがあります。これは、バケットを適切にシフトし、それらの値を追加することで実現されます（バケット間でキャリーが発生しないため、1つの追加ですべてのバケットが処理されます。nビットの数値は常に数値nをエンコードするのに十分な長さです）。さらに変換を行うと、64ビット長のバケットが1つに達するまで、サイズが指数関数的に増大するバケット数が指数関数的に減少する状態になります。これは、元の引数で設定されたビット数を示します。

この投稿で説明されている、人口カウントアルゴリズムのPython実装を次に示します。

def numberOfSetBits(i):
    i = i - ((i >> 1) & 0x55555555)
    i = (i & 0x33333333) + ((i >> 2) & 0x33333333)
    return (((i + (i >> 4) & 0xF0F0F0F) * 0x1010101) & 0xffffffff) >> 24

それは動作し0 <= i < 0x100000000ます。

この投稿によると、これはハミング重みの最も速い実装の1つであるようです（約64KBのメモリを使用してもかまわない場合）。

#http://graphics.stanford.edu/~seander/bithacks.html#CountBitsSetTable
POPCOUNT_TABLE16 = [0] * 2**16
for index in range(len(POPCOUNT_TABLE16)):
    POPCOUNT_TABLE16[index] = (index & 1) + POPCOUNT_TABLE16[index >> 1]

def popcount32_table16(v):
    return (POPCOUNT_TABLE16[ v        & 0xffff] +
            POPCOUNT_TABLE16[(v >> 16) & 0xffff])

Python 2.xでは、に置き換える必要がrangeありxrangeます。

編集する

より良いパフォーマンスが必要な場合（および数値が大きな整数である場合）、GMPライブラリを確認してください。これには、さまざまなアーキテクチャ用の手書きのアセンブリ実装が含まれています。

gmpy GMPライブラリをラップするCコードのPython拡張モジュールです。

>>> import gmpy
>>> gmpy.popcount(2**1024-1)
1024

私はこの方法が本当に好きです。シンプルでかなり高速ですが、Pythonには無限の整数があるため、ビット長に制限はありません。

ゼロをスキャンする時間を無駄にしないため、実際には見た目よりも狡猾です。たとえば、1000000000000000000000010100000001の設定ビットをカウントするのに1111と同じ時間がかかります。

def get_bit_count(value):
   n = 0
   while value:
      n += 1
      value &= value-1
   return n

アルゴリズムを使用して、整数のバイナリ文字列[1]を取得できますが、文字列を連結する代わりに、1の数を数えます。

def count_ones(a):
    s = 0
    t = {'0':0, '1':1, '2':1, '3':2, '4':1, '5':2, '6':2, '7':3}
    for c in oct(a)[1:]:
        s += t[c]
    return s

[1] https://wiki.python.org/moin/BitManipulation

あなたはNumpyが遅すぎると言った。個々のビットを格納するために使用しましたか？intをビット配列として使用するという考えを拡張して、Numpyを使用してそれらを格納しないのはなぜですか？

nビットを配列として格納 ceil(n/32.) 32ビット整数のます。その後、別の配列のインデックス付けに使用するなど、intを使用するのと同じ（まあ、十分に類似した）numpy配列を操作できます。

アルゴリズムは基本的に、各セルに設定されたビット数を並行して計算し、それらが各セルのビット数を合計します。

setup = """
import numpy as np
#Using Paolo Moretti's answer http://stackoverflow.com/a/9829855/2963903
POPCOUNT_TABLE16 = np.zeros(2**16, dtype=int) #has to be an array

for index in range(len(POPCOUNT_TABLE16)):
    POPCOUNT_TABLE16[index] = (index & 1) + POPCOUNT_TABLE16[index >> 1]

def popcount32_table16(v):
    return (POPCOUNT_TABLE16[ v        & 0xffff] +
            POPCOUNT_TABLE16[(v >> 16) & 0xffff])

def count1s(v):
    return popcount32_table16(v).sum()

v1 = np.arange(1000)*1234567                       #numpy array
v2 = sum(int(x)<<(32*i) for i, x in enumerate(v1)) #single int
"""
from timeit import timeit

timeit("count1s(v1)", setup=setup)        #49.55184188873349
timeit("bin(v2).count('1')", setup=setup) #225.1857464598633

私が驚いたのは、Cモジュールを書くことを誰も提案しなかったからです。

#Python prg to count set bits
#Function to count set bits
def bin(n):
    count=0
    while(n>=1):
        if(n%2==0):
            n=n//2
        else:
            count+=1
            n=n//2
    print("Count of set bits:",count)
#Fetch the input from user
num=int(input("Enter number: "))
#Output
bin(num)

最初の表現は、1または0のintのリストのリストであることがわかります。単にその表現でカウントしてください。

整数のビット数はPythonでは一定です。

ただし、設定されたビットの数を数えたい場合、次の疑似コードに準拠したリストを作成するのが最も速い方法です。 [numberofsetbits(n) for n in range(MAXINT)]

これにより、リストを生成した後、一定時間のルックアップが提供されます。これを適切に実装するには、@ PaoloMorettiの回答を参照してください。もちろん、これをすべてメモリに保持する必要はありません。ある種の永続的なKey-Valueストア、またはMySqlを使用することもできます。（別のオプションは、独自のシンプルなディスクベースのストレージを実装することです）。