iidランダム変数とは何ですか?


49

iid(独立しており、まったく同じように配布されている)を技術者以外の人にどのように説明しますか?

回答:


55

これは、「独立した同一の分散」を意味します。

良い例は、公正なコインの連続した投球です。コインには記憶がないため、すべての投球は「独立」しています。

そして、すべてのスローは50:50(頭:尾)であるため、コインは公平であり続けます。

良い出発点は、ウィキペディアのページです。

::編集::

このリンクをたどって、概念をさらに探ってください。


11
例トスコインが誤ってすべてのイベントが等確率でなければならないという印象を与える場合、私は...不思議
マイケル・マッゴーワン

1
それでは、IID確率変数が等確率である必要はありませんか?それらが等確率ではない場合、どのように「同一に分布」が説明できますか?事前に感謝します

6
@Nalini「同等」は「同一に分散」の同義語ではありません。とがiidの場合、これは、それらが同じ分布から取得されることを意味します。その分布のすべての値が等しくなる可能性があるわけではありません(正規分布を考えてください)。ただし、と期待値は同じです。y x yxyxy
ジェイソンモーガン

2つの変数が独立で正規分布しているが、平均と分散が異なる場合、それらはまだiidですか?
-spurra

1
@spurra私は、彼らは単に独立している...そうは思わない
user3595632

22

非技術的な説明:

独立は非常に一般的な概念です。1つのイベントが発生しても、他のイベントが発生したかどうかに関する情報が得られない場合、2つのイベントは独立していると言われます。特に、2番目のイベントに起因する確率は、最初のイベントが発生したという知識の影響を受けません。

  • 独立したイベントの例、おそらく同じように分布している
    2つの異なるコインを次々に投げることを検討してください。最初のコインを投げたときに親指が過度に疲れていないと仮定すると、最初のコインのトスがヘッドになったことを知っていることは、2回目のトスのヘッドの確率に影響しないと仮定するのは合理的です。2つのイベント は独立したイベントと言われています。

    {first coin toss resulted in Heads}  and  {second coin toss resulted in Heads}
    • 2つのコインが結果的にヘッドになる確率が異なることを知っている、または頑固に主張する場合、イベントは同じように分散さません。

    • 我々がいる場合知っていると仮定し 2枚のコインが持っている同じ確率ヘッズ来るのを、その後、上記のイベントもされている同一の、分散型 、どちらも同じ確率持っていることを意味し起こるのを。ただし、でない限り、Headsの確率はTailsの確率と等しくないことに注意してください。コメントの1つで述べたように、「同一の分布」は「等しい確率」と同じではありません。p p = 1ppp=12

  • 同じように分散された非独立イベントの例
    黒と白の2つのボールが入った骨nを考えます。私たちはそれに到達し、2つのボールを次々に引き出し、ランダムに最初のボールを選択します(そしてもちろん、これにより次のボールの色が決まります)。したがって、実験の2つの等しく起こりそうな結果は(白、黒)と(黒、白)であり、最初のボールは黒または白であり、2番目のボールも同様に黒であることがわかります。または白。言い換えれば、イベント 確かに同一の分布ですが、それらは間違いなく じゃない1

    {first ball drawn is Black}  and  {second ball drawn is Black}
    独立したイベント。我々は最初のイベントが発生したことを知っていれば実際に、我々は、第二のことを確実に知ることはできません が発生します。したがって、2番目のイベントの確率の最初の評価はですが、最初のイベントが発生したことがわかったら、2番目のイベントの確率がから黒になるという評価を修正するのが最善でした。 112 0120

「コメントの1つで述べたように、「同一の分布」は「等しい確率」と同じではありません。」違いは何ですか?「等しい」とは、頭が尾と同じように見えることを意味しますか?「同一分布」とは、各イベントが同じ可能性があることを意味しますか?
赤エンドウ

3
@TheRedPeaまったくそうではありません。確率でHを返すバイアスコインがある場合、イベント "First Toss is H"およびイベント "Second Toss is H"は独立であり、同様に確率が高い(両方とも確率)。さらに、トス同じように分散されています。両方のトスが同じ確率(HとTに対してそれぞれとを持っています。しかし、イベント「最初のトスはH」と「最初のトスはT」は等しく発生する可能性はありません。また、独立していません。 同一の分布 =すべてのトスは同じ分布です。 pp1pp12pp1p
ディリップサルワテ

2
@TheRedPea(続き)同じ確率は、2つのイベントの確率が同じであることを意味します。イベントは、上記のようにトス全体で、または単一の実験内で定義できます。実験の標準的な単純モデルは、すべて の結果が同じ確率持つ結果を含むサンプル空間です。「フェアコイン」または「フェアダイス」と言うか、「ボールが3つの緑のボールと2つの赤のボールでurからランダムに選択される」などと言うことで、これを説明するのが一般的です。 ....揚げ足取りと、それは「公正ダイ」であることを主張します1n1n
ディリップSarwate

同一の分布は確率分布全体を指し、等確率はその確率分布の一部を指します。わかりました、ありがとうございます。
レッドピース

最後の例が同じように配布されているかどうかはわかりません。「2つのイベントが独立していない場合、それらは同一の分布からのものではない」と主張できますか?たとえば、あなたの例では、2回目のボールドローイングは、最初のイベントのために異なる分布を持っていると思います。
ジグガンジャー

3

ランダム変数は、シナリオ内のすべての可能なイベントの確率を含む変数です。たとえば、コインを100回投げたときの頭の数を表すランダム変数を作成します。ランダム変数には、1頭、2頭、3頭…100頭までの確率が含まれます。このランダム変数Xを呼び出しましょう。

次の場合、2つのランダム変数がある場合、それらはIID(独立して同一に分散)です。

  1. それらが独立している場合。上記で説明したように、独立とは、1つのイベントが発生しても、他のイベントに関する情報が提供されないことを意味します。たとえば、100回のフリップ後に100のヘッドを獲得した場合、次のフリップでヘッドまたはテールを獲得する確率は同じです。
  2. 各ランダム変数が同じ分布を共有する場合。たとえば、上記の-Xからランダム変数を取得できます。Xがコインを100回反転させようとしているオバマを表しているとします。ここで、Yがコインを100回反転しようとしている司祭を表しているとします。オバマ大統領と司祭が頭に同じ確率でコインを投げた場合、XYは同じ分布であると見なされます。プリーストまたはオバマのいずれかから繰り返しサンプリングする場合、サンプルは同一に分布していると見なされます。

サイドノート:独立性は、確率を掛けることができることも意味します。ヘッドの確率がpで、2つのヘッドが連続して得られる確率がp * pまたはp ^ 2であるとします。


2

この例では、2つの従属変数が同じ分布を持つことができることを示しています。

バイアスコインを100回トスする2回の連続した実験を想定します。ここで、頭部の総数は、最初の実験ではランダム変数X1、2番目の実験ではX2としてモデル化されます。X1とX2は、パラメーター100とpを持つ二項確率変数です。ここで、pはコインのバイアスです。
そのため、それらはまったく同じように配布されます。ただし、前者の値は後者の値について非常に有益であるため、これらは独立していません。つまり、最初の実験の結果が100ヘッドの場合、これはコインの偏りについて多くのことを教えてくれるため、X2の分布に関する多くの新しい情報を提供します。
それでもX2とX1は同じコインから派生しているため、同じように配布されます。

また、2つのランダム変数が従属している場合、X1が与えられたX2の事後がX2の事前と同じになることはなく、その逆も成り立ちません。一方、X1とX2が独立している場合、それらの事後確率はそれらの事前確率に等しくなります。したがって、2つの変数が依存している場合、そのうちの1つを観測すると、2番目の変数の分布に関する推定値が修正されます。両方とも同じディストリビューションからのものである可能性がありますが、このディストリビューションの性質について、プロセスでより多くを学んだだけです。コイン投げの実験に戻ると、最初は情報がない状態で、X1とX2がパラメーター100と0.5の二項分布に従うと仮定します。しかし、連続して100個のヘッドを観察した後、pパラメーターに関する推定値を1に非常に近い値に修正します。


1

同じ分布からのいくつかのランダムな描画の集合。一例として、袋から大理石を10,000回引き出し、赤い大理石を引き出した回数を数えます。


1
これが既存の回答にどのように追加されるのかを拡張できますか?
mdewey

0

Xμ=3σ2=4XN(3,4)

YYN(3,4)XY

それでも、同じように分散されていることは、必ずしも独立性を意味するわけではありません。


8
「ランダム変数」、「正規分布」、「pdf」、「分散」、「独立性」などの技術用語に依存する場合、興味深い「非技術者」のセットが必要です。私はそれが空のセットだと言いたいと思います。
whuber

同一に分布していることは、必ずしも独立性を意味するものではありません」。依存関係は、2つの同じ分布変数にどのように影響しますか?依存は非同一性を引き起こすように思えますが、すべての非同一性が依存性によるものではありません
ジグガンジャー
弊社のサイトを使用することにより、あなたは弊社のクッキーポリシーおよびプライバシーポリシーを読み、理解したものとみなされます。
Licensed under cc by-sa 3.0 with attribution required.