置き換えなしのK数の合計の期待

数値が与えられ、各数値の値が異なる場合、として示され各数値を選択する確率はそれぞれです。 $n$ $v_1, v_2, ..., v_n$ $p_1, p_2, ..., p_n$

ここで、与えられた確率に基づいて個の数値を選択すると、、それらの個の数値の合計の期待値はどうなりますか？番号が重複する番号を含むことができないように、選択は置換なしであることに注意してください。選択が置換である場合、数の合計の期待値はに等しく、ここで $K$ $K \leq n$ $K$ $K$ $K$ $K \times E(V)$

E (V) = v_{1} \times p_{1} + v_{2} \times p_{2} + . . . + v_{n} \times p_{n} .

$E(V) = v_1 \times p_1 + v_2 \times p_2 + ... + v_n \times p_n.$

さらに、それらの数の分散の期待についてはどうですか？ $K$

私はビッグデータの問題に取り組んでいるCS博士課程の学生で、統計の経歴はありません。誰かが答えとして式を教えてくれることを期待しています。ただし、答えが複雑すぎて式で記述できない場合や、集中的な計算が必要な場合は、おおよその答えで十分です。

ここではかなり大きいと想定でき、確率は大きく変動する可能性があります。実際には、これらの確率の値は、一連の集計クエリを記録するクエリログから取得されます。重要なのは、クエリに含まれる各数値の頻度がかなり歪んでいる可能性があることです。つまり、クエリがほとんど行われないこともあれば、頻繁にクエリが行われることもあります。確率分布は正規分布、zipf分布、またはその他の妥当な代替であると想定できます。 $n$

値の分布は、可能な分布の連続したサブセットにすぎません。つまり、特定の分布を表すヒストグラムがある場合、この問題に関係するすべての数値は、1つのバケット内のすべての数値です。

Kの値に関しては、頻繁に照会される要素の数よりも常に少ないと想定できます。

probability

— SciPioneer
ソース

合計の分散の期待値は、置換しないと異なります。代替がない場合は、有限の母集団補正係数が必要になります。（これを直観的に見ると、K = nの場合、合計の分散はゼロになることに注意してください。常に同じ数になるため、Kがnに近づくと、合計の分散は低くなります。）

— zbicyclist

この質問は、見かけよりも難しいかもしれません。およびの場合を考えます。置換で描画された2つの値の予想合計はこれは、当然、1つの値の予想合計の2倍です。しかし、置き換えなしで描画された2つの値の予想される合計は、を除いて、明らかにです。

n = 2

$n=2$

(v_{1}, v_{2}) = (0, 1)

$(v_1,v_2)=(0,1)$

2 p_{2}

$2p_2$

v_{1} + v_{2} = 1 \neq 2 p_{2}

$v_1+v_2=1\ne 2p_2$

p_{1} = p_{2} = 1 / 2

$p_1=p_2=1/2$

— whuber

@zbicyclistおそらく私は問題を明確に述べていませんでした。私のシナリオでは、K = N場合、それらのK数の分散は一般集団ではなく、0の分散であろう

— SciPioneer

（1）これは、私にとって自習用の質問のようには見えません。確率の点で、本当の応用問題のように見えます。（2）どのくらい大きいのでしょうか？正確なソリューションは、すべてのサブセットを列挙できる場合を除いて、実行不可能に見えます。（3）がはるかに超える可能性があり、迅速な列挙ができない場合、について何と言えますか？たとえば、それらは変化する可能性がありますか、それともすべてが非常に近いでしょうか？これは、おおよその答えを見つけるための取り組みに通知することができます。

n

$n$

n

$n$

20

$20$

p_{i}

$p_i$

1 / n

$1/n$

— whuber

編集ありがとうございます。、、、およびについて多くのことを私たちに伝えることができるほど、より良いです。たとえば、場合、置換を伴うサンプリングの式は適切な近似になるはずです（非常に少数の値が存在する場合でも、複数回選択されるため）。最も難しいのは、の値の範囲が広い場合であり、ほとんどの値をゼロで置き換えることはできませんが、かなりの数の pで置き換えることはできません。。

N

$N$

K

$K$

v_{i}

$v_i$

p_{i}

$p_i$

K max (p_{i}) ≪ 1

$K\max(p_i)\ll 1$

p_{i}

$p_i$

p_{i} > 1 / K

$p_i\gt 1/K$

i

$i$

K \approx N / 2

$K\approx N/2$

— whuber

これはおそらく回答の性質上、正確ではありますが、おそらくそれほど有用ではありません。HorvitzとThompson（1952）は、この状況全般をカバーする結果を提供しています。これらの結果は、予想される組み合わせ表現の観点から示されています。

それらの表記法との一貫性を保ち、より広く使用されている表記法とよりよく対応するために、いくつかの数量を再定義させてください。してみましょう母集団内の要素の数であるとサンプルサイズです。 $N$ $n$

ましょう、、表す与えられた値を持つ母集団の要素、、と選択の確率。サイズ特定のサンプルについて、サンプルの観測値をます。 $u_i$ $i=1,...,N$ $N$ $V_i$ $i=1,...,N$ $p_1,...,p_N$ $n$ $v_1,..., v_n$

必要なのは、サンプル合計の平均と分散です

\sum_{i = 1}^{n} v_{i} .

$\sum_{i=1}^n v_i.$

コメントで述べたように、特定のサンプルをこの順序で選択する確率はここでを描画する最初の確率はによって与えられ、を描画する2番目の確率はを母集団から削除したことを条件とします。したがって、引き続く各ユニットは、次のユニットの新しい確率分布になります（したがって、それぞれが異なる分布を表すため、異なる添字の選択）。 $s = \{u_i, u_j, ..., u_t\}$

Pr (s) = p_{i_{1}} p_{j_{2}} \dots p_{t_{n}},

$\textrm{Pr}(s) = p_{i_1}p_{j_2}\cdots p_{t_n},$

p_{i_{1}}

$p_{i_1}$

u_{i}

$u_i$

p_{i}

$p_i$

p_{j_{2}}

$p_{j_2}$

u_{j}

$u_j$

u_{i}

$u_i$

あります母集団全体のうちを含むサイズサンプル。これはを考慮に入れていることに注意してくださいサンプルの順列。

S^{(i)} = n! (\binom{N - 1}{n - 1})

$S^{(i)} = n! \binom{N-1}{n-1}$

n

$n$

u_{i}

$u_i$

n!

$n!$

がを含むサイズ特定のサンプルを示すとしましょう。次に、要素を選択する確率は、与えられますここで、合計は次のサイズのセットを超えていますすべての可能なサンプルはサイズの含有する。（混乱を招くように表記を紙から少し変更しました。） $s_n^{(i)}$ $n$ $u_i$ $u_i$

P (u_{i}) = \sum Pr (s_{n}^{(i)}),

$P(u_i) = \sum \textrm{Pr}(s_n^{(i)}),$

S^{(i)}

$S^{(i)}$

s_{n}^{(i)}

$s_n^{(i)}$

n

$n$

u_{i}

$u_i$

同様に、定義しますは、と両方を含むサンプルの数として。次に、両方を含むサンプルの確率をとして定義できますここで、合計はサイズのセット全ての可能性のあるサンプルのサイズの含有すると。

S^{(i j)} = n! (\binom{N - 2}{n - 2})

$S^{(ij)} = n! \binom{N-2}{n-2}$

u_{i}

$u_i$

u_{j}

$u_j$

P (u_{i} u_{j}) = \sum Pr (s_{n}^{(i j)}),

$\textrm{P}(u_i u_j) = \sum \textrm{Pr}(s_n^{(ij)}),$

S^{(i j)}

$S^{(ij)}$

s_{n}^{(i j)}

$s_n^{(ij)}$

n

$n$

u_{i}

$u_i$

u_{j}

$u_j$

次に、期待値はとして導出されます

E (\sum_{i = 1}^{n} v_{i}) = \sum_{i = 1}^{N} P (u_{i}) V_{i} .

$E \left( \sum_{i=1}^n v_i \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i.$

分散は論文で明示的に導出されていませんが、番目のモーメントの期待値から取得できますと外積 $q$

E (\sum_{i = 1}^{n} v_{i}^{q}) = \sum_{i = 1}^{N} P (u_{i}) V_{i}^{q}

$E \left( \sum_{i=1}^n v_i^q \right) = \sum_{i=1}^N \textrm{P}(u_i) V_i^q$

E (\sum_{i \neq j}^{n} v_{i} v_{j}) = \sum_{i \neq j} P (u_{i} u_{j}) V_{i} V_{j} .

$E \left( \sum_{i \ne j}^n v_iv_j \right) = \sum_{i \ne j} \textrm{P}(u_i u_j) V_i V_j.$

言い換えると、これらの計算を行うには、すべての可能なサブセットを調べる必要があるように見えます。たぶん、これはより小さな値に対して行うことができます。 $n$

Horvitz、DGおよびThompson、DJ（1952）有限宇宙からの置換なしのサンプリングの一般化。Journal of the American Statistical Association 47（260）：663-685。

— jvbraun
ソース