制約付きバイナリコード

n個の記号のアルファベットがあるとします。文字列で効率的にエンコードできます。たとえば、n = 8の場合： A：0 0 0 B：0 0 1 C：0 1 0 D：0 1 1 E：1 0 0 F：1 0 1 G：1 1 0 H：1 1 1 $\lceil \log_2n\rceil$

これで、各列には最大で1に設定されたpビットが含まれるという追加の制約があります。たとえば、p = 2（およびn = 8）の場合、可能な解決策は次
のとおりです：A：0 0 0 0 0
B：0 0 0 0 1
C：0 0 1 0 0
D：0 0 1 1 0
E：0 1 0 0 0
F：0 1 0 1 0
G：1 0 0 0 0
H：1 0 0 0 1

nとpが与えられた場合、最適なエンコーディング（最短の長さ）を見つけるアルゴリズムはありますか？（そしてそれが最適解を計算することを証明することができますか？）

編集

これまでに、ビット数の下限を推定する2つのアプローチが提案されています $m$。このセクションの目標は、最良の回答の選択を説明するために、2つの回答の分析と比較を提供することです。

Yuvalのアプローチはエントロピーに基づいており、非常に優れた下限を提供します。$\frac{logn}{h(p/n)}$ どこ $h(x) = xlogx + (1-x)log(x)$。

アレックスのアプローチは組み合わせ論に基づいています。彼の推論をもう少し発展させると、非常に優れた下限を計算することもできます。

与えられた $m$ ビット数 $\geq\lceil log_2(n)\rceil$、ユニークな存在します $k$そのような 最適なソリューションはすべてのビットが低いコードワードを使用し、次に1ビットが高い、2ビットが高い、...、kビットが高いコードワードを使用することを納得させることができます。以下のためエンコードに残りのシンボル、使用に最適であるコードワード全く明らかではないが、確かザ用各列の重みは、ビットの高さのコードワードのみを使用でき、場合よりも大きくなります（すべての。したがって、下限を

$$1+\binom{m}{1} + ... +\binom{m}{k} \lt n \leq 1+\binom{m}{1} + ... + \binom{m}{k}+\binom{m}{k+1}$$ $n-1-\binom{m}{1}-...-\binom{m}{k}$$w_i$$k+1$$|w_i - w_j| \leq 1$$i, j$$p=max(w_i)$ $$p_m = 0 + 1 + \binom{m-1}{2} +... + \binom{m-1}{k-1} + \lceil \frac{(n-1-\binom{m}{1}-...-\binom{m}{k}) (k+1)}{m} \rceil$$

ここで、と、を推定してみます。ことがわかっているため、場合、ます。これはの下限を与えます。最初の計算次に最大の検索ように$n$$p$$m$$p_m \leq p$$p \lt p_{m'}$$m' \lt m$$m$$p_m$$m'$$p \lt p_{m'}$

これは、に対して2つの下限を一緒にプロットした場合に得られるものです。下限は緑色のエントロピーに基づいており、下限は上記の組み合わせ論に基づくもので、青色で取得されます。$n=1000$

どちらも非常によく似ています。ただし、2つの下限の差をプロットすると、特に値が小さい場合は、組み合わせ論的推論に基づく下限の方が全体的に優れていることは明らかです。$p$

個々の座標が小さなと相関するようになるため、が小さくなると、不等式が弱くなるという事実から問題が発生すると思います。ただし、これは場合でも非常に優れた下限です。$H(X) \leq \sum H(X_i)$$p$$p$$p=\Omega(n)$

以下は、下限の計算に使用されたスクリプト（python3）です。

from scipy.misc import comb
from math import log, ceil, floor
from matplotlib.pyplot import plot, show, legend, xlabel, ylabel

# compute p_m 
def lowerp(n, m):
  acc = 1
  k = 0
  while acc + comb(m, k+1) < n:
    acc+=comb(m, k+1)
    k+=1

  pm = 0
  for i in range(k):
    pm += comb(m-1, i)

  return pm + ceil((n-acc)*(k+1)/m)

if __name__ == '__main__':
  n = 100

  # compute lower bound based on combinatorics
  pm = [lowerp(n, m) for m in range(ceil(log(n)/log(2)), n)]
  mp  = []
  p = 1
  i = len(pm) - 1
  while i>= 0:
    while i>=0 and pm[i] <= p: i-=1
    mp.append(i+ceil(log(n)/log(2)))
    p+=1
  plot(range(1, p), mp)

  # compute lower bound based on entropy
  lb = [ceil(log(n)/(p/n*log(n/p)+(n-p)/n*log(n/(n-p)))) for p in range(1,p)]
  plot(range(1, p), lb)

  xlabel('p')
  ylabel('m')
  show()

  # plot diff
  plot(range(1, p), [a-b for a, b in zip(mp, lb)])
  xlabel('p')
  ylabel('m')
  show()

作成できる追加の下限があります。これは、@ user3017842がYuvalの回答に関するコメントで述べたようなケースに対処します。（ここでのケース$p$ 特に小さいです。） $m$ すでに：次に $pm$すべてのコードワード全体で高ビットの合計。私たちは興味があるので$p$小さいので、これらの上位ビットを制限リソースと見なし、それを使用してコードを構築したいと考えています（また、取得できるコードワードの数を確認します）。すべて0のコードワードを1つ持つことができます。$m$ 1のコードワード $m \choose 2$ 1を2つ持つなど。コードワードの最大ビット数を呼び出す場合 $k$、その後

$$pm = 0\cdot 1 + 1\cdot m + 2\cdot {m \choose 2}+... \le \sum_i^k i{m \choose i}$$ コードワードの数は $n$ 同様に、 $$n \le \sum_i^k {m \choose i}$$ ケースを見てみると $p \le m$、その後 $k \le 2$最初の不等式はすでに暗示されています。（$pm = m^2 = m + 2{m \choose 2}$）。したがって、コードは$0$-語、 $m$ シングル-$1$-単語、および $(p-1)m/2$ 二-$1$-単語。したがって $$n \le 1 + m + (p-1)m/2$$ または反転 $$m \ge \frac{2(n-1)}{p+1} .$$ これにより、 $m\ge 5$ あなたが提供する例では、前に述べたように、おそらく非常に役立つでしょう $p \approx m$ （または $p \approx \sqrt n$）。

これは、少なくとも一部の範囲のパラメータについて、下限と漸近的に一致する構成です。表記$m$ 列の数、そして簡単にするために、 $p \leq n/2$。

下限から始めます $m$。しましょう$X$ランダムに一様に選択されたシンボルのエンコーディング。しましょう$X_1,\ldots,X_m$ 個別の座標にして、 $w_i \leq p$ の重さ $i$番目の列。その後

$$\log n = H(X) \leq \sum_{i=1}^m H(X_i) = \sum_{i=1}^m h(w_i/n) \leq m h(p/n).$$ したがって $$m \geq \frac{\log n}{h(p/n)}.$$ ここに $H$ 確率変数のエントロピーです $H(X) = -\sum_x \Pr[X=x] \log \Pr[X=x]$ そして $h$ エントロピー関数です $h(x) = -x\log x-(1-x)\log(1-x)$。（任意の対数の底を使用できます。）

漸近的に一致する構造、それはうまくいくはずです $p = \Omega(n)$、選択 $m$ この下限より少し大きく、ランダムなエンコーディングスキームを選択します。各ビットは $1$ ある程度の確率で $q/n$ これは少し小さいです $p/n$。パラメータを正しく選択すると、これにより有効なエンコーディングが得られるはずです（すべてのコードワードが異なり、すべての列の重みが最大で$p$）正の確率。

これは簡単な検索方法です。ビット数の下限から始めて、正当なエンコーディングを見つけようとします。具体的には。

mを現在のビット数とします。シンボルiをbi1、bi2、...、bimとしてエンコードします。

制約：bi xor bjが0ではない-つまり、各シンボルのエンコーディングは一意です。

すべてのjの場合：sum_i bij <= p。

これは、疑似ブールの充足可能性の問題です（標準の充足可能性の問題として簡単にエンコードできます）。したがって、満足できる値が見つかるまでmを増やし続けます（または、下限と上限を使用してバイナリ検索を実行し、最小のmを見つけます）。

もちろん、これは実際に最小のmを実際に見つけることができることを保証するものではなく、SATチェックがタイムアウトする可能性があります。