小さなスペースで確率の順にベクトルを反復する方法

12

検討 $n$ 次元ベクトル。各について、わかっており、が独立していると仮定します。これらの確率を使用して、出力サイズで空間準線形を使用して、最も可能性の高いものから最も低い可能性の順に（タイの任意の選択で）バイナリ次元ベクトルを反復する効率的な方法はありますか？ $v$ $v_i \in \{0,1\}$ $i$ $p_i = P(v_i = 1)$ $v_i$ $n$

例えば取る $p = \{0.8, 0.3, 0.6\}$ 。最も可能性の高いベクトルである $(1,0,1)$ と少なくとも可能性がある $\{0,1,0\}$ 。

非常に小さい $n$ 、 $2^n$ ベクトルのそれぞれにその確率でラベルを付けて単純に並べ替えることができますが、これはもちろんサブリニアスペースを使用しません。

この質問の近い変種は、以前/cs/24123/how-to-iterate-over-vectors-in-order-of-probabilityで尋ねられました。

ds.algorithms space-bounded

— レンビク
ソース

そこにフォローアップの質問をしなかった理由はありますか？ここでの主な問題は、サブリニア空間でこれを行うことの1つですか？

— スレシュヴェンカト

@SureshVenkatはい、問題は完全にサブリニアスペース（出力サイズ）にあります。質問は非常に難しいと思うので、ここで質問しました。

— レンビク14年

これを

空間と時間で解決するには、SUBSET-SUM（サブセットの合計が異なる合計をほぼ打ち消すことをすぐに知る）に似た手法が必要と思われます。したがって、迅速な解決策はありそうにありません。

poly (n)

$\textrm{poly}(n)$

— ジェフリーアーヴィング14年

@GeoffreyIrvingこの直感をもっと形式的にできると思いますか？

— レンビク14年

9

以下は、約時間とスペースを使用するアルゴリズムを示しています。 $2^n$ $2^{n/2}$

最初に、アイテムのすべてのサブセットの合計をソートする問題を見てみましょう。 $n$

この副問題を考えてみましょう。長さソート済みリストが2つあり、リスト内の数値のペアごとの合計のソート済みリストを作成するとします。おおよそ時間（出力サイズ）でこれを行いたいが、サブリニアスペース。空間を実現できます。優先キューを保持し、昇順で優先キューから合計を引き出します。 $m$ $O(m^2)$ $O(m)$

リストはとするおよび、昇順にソートされました。合計、を取得し、それらを優先キューに入れます。 $a_1 \ldots a_m$ $b_1 \ldots b_m$ $m$ $a_i + b_1$ $i = 1 \ldots m$

ここで、残りの最小の合計優先キューから引き出したときに、場合、合計を優先キューに入れます。スペースは、常に最大で合計を含む優先度キューによって占められます。また、各優先度キュー操作にを使用するため、時間はです。これは、 $a_i + b_j$ $j < m$ $a_i + b_{j+1}$ $m$ $O(m^2 \log m)$ $O(\log m)$ 時間とスペース。 $O(m^2 \log m)$ $O(m)$

ここで、数値のすべてのサブセットの合計をソートするには、リストがアイテムの前半のサブセットの合計のセットであり、リストがサブセットの合計のセットでこのサブルーチンを使用しますアイテムの後半の。これらのリストは同じアルゴリズムで再帰的に見つけることができます。 $n$ $a_i$ $b_i$

ここで、元の問題を検討します。LET ある座標のセットで、及びある座標の集合である。次に $S_0$ $0$ $S_1$ $1$

\begin{array}{rcl} \prod_{i \in S_{0}} p (v_{i} = 0) \prod_{i \in S_{1}} p (v_{i} = 1) & = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \prod_{i \in S_{1}} \frac{p (v_{i} = 1)}{p (v_{i} = 0)} \\ = & \prod_{1 \leq i \leq n} p (v_{i} = 0) \exp (\sum_{i \in S_{1}} \log \frac{p (v_{i} = 1)}{p (v_{i} = 0)}) . \end{array}

$\begin{eqnarray*}\prod_{i \in S_0} p(v_i=0) \prod_{i \in S_1} p(v_i=1) &=& \prod_{1\leq i \leq n} p(v_i=0) \prod_{i \in S_1} \frac{p(v_i=1)}{p(v_i=0)} \\ &=& \prod_{1\leq i \leq n} p(v_i=0) \exp\,\left(\sum_{i \in S_1} \log \frac{p(v_i=1)}{p(v_i = 0)}\right).\end{eqnarray*}$

これらの番号をソートする番号がソートと同じである、我々は、の部分集合の和ソーティングに問題が減少しているので、アイテムを。 $\sum_{i\in S_1}\log p(v_i=1) - \log p(v_i=0)$ $n$

— ピーター・ショー
ソース

ポリゴンの時間/空間ソリューションを信じがたいほど減らす可能性がありますか？

— レンビク14年

おそらく

時間未満のソリューションは得られないでしょう。それは出力のサイズだからです（そして私のソリューションは

2^{n}

$2^n$

時間）。ただし、スペースの下限はありません。

n 2^{n}

$n\, 2^n$

— ピーターショー14年

ありがとうございました。もちろん、ポリタイムを意味するのではなく、出力サイズとポリゴン空間で直線的なものを意味します。

— レンビク14年

4

スペースそれを行うことができます実行時間を気にしない場合）。 $O(n)$

与えられた文字列のため、我々は空間に計算することができるの数よりも可能性がある文字列の。すなわち、多数の番目の：ちょうどすべての上行くし、多数のカウント STを $x \in \{0,1\}^n$ $O(n)$ $r(x)$ $x$ $x'$ $p(x') > p(x)$ $x'\in \{0,1\}^n$ $x'$ 。は、出力内の文字列連続番号であることに注意してください。 $p(x') > p(x)$ $r(x)$ $x$
すべてのために、我々は見つけることができと空間におけるすべての上に行く：ごとに、計算、停止及び出力場合。 $k$ $x$ $r(x) = k$ $O(n)$ $x \in \{0,1\}^n$ $x$ $r(x)$ $x$ $r(x) = k$
今ちょうど全て越えるからにごとに、印刷と。 $k$ $0$ $2^n-1$ $k$ $x$ $r(x) =k$

（可能な関係の世話もする必要がありますが、これは難しくありません。）

— ユリー
ソース

ありがとうございました。しかし、それは非常に遅いアルゴリズムです:)

— レンビク2014年

0

編集：この答えは間違っています。詳細についてはコメントをご覧ください。〜ガンダリットル

出力の線形は意味します。もちろん、出力自体は別として、明らかなアルゴリズムはスペースのみを使用すると思います。 $O(2^n)$ $O(n)$

ペアを含むリストを取得し、ソートします、最初に最大。 $(i, p_i)$ $\left|0.5 - p_i\right|$
$v$ $v_i$ $1$ $p_i > 0.5$ $0$ $v$ $v_i$ $v$
ソートされたリストと空のベクトルでこの再帰関数を呼び出します。

$0$ $1$ $0.5$

$O(2^n)$ $O(n)$ ソートにはそれ以上は必要なく、再帰の長さはベクトルの長さであるため、 $n$ . I believe this is also the lower bound because there must be a different state in memory for every time step in the running of the algorithm, and the time complexity is $O(2^n)$ . $O(n)$ states in memory are required to enumerate $O(2^n)$ time steps. Therefore this algorithm is worst-case complexity optimal.

— gandaliter
ソース

The other answer is certainly different as it requires a priority queue and hence uses

Θ (2^{n})

$\Theta(2^n)$ space.

— Lembik

Thanks. I clearly didn't read it carefully enough! I've edited my answer.

— gandaliter

3

Are you sure this solution works? I couldn't figure out the details of the double recursion (pseudocode would help!) but I don't see how this could work. In particular, your solution seems to be local: if it set

v_{1} = 1

$v_1=1$ it's now going to output

2^{n - 1}

$2^{n-1}$ answers with

v_{1} = 1

$v_1=1$ . But the actual answers shouldn't look this way. In fact, as far as I understood your solution, it seems to fail even for the simplest case where all

p_{i} = 0.5

$p_i=0.5$ .

— mobius dumpling

You're right, this doesn't work. Sorry!

— gandaliter