ベイジアンは、1つの固定パラメーター値があることを認めますか？

ベイジアンデータ分析では、パラメーターはランダム変数として扱われます。これは、ベイズの確率の主観的概念化に由来します。しかし、ベイジアンは理論上、「実世界」には1つの真の固定パラメーター値があることを認めていますか？

明らかな答えは「はい」であるように思われます。なぜなら、パラメータを推定しようとすることはほとんど無意味だからです。この答えの学術的な引用は大歓迎です。

私見「はい」！グリーンランド（2006年：767）による私のお気に入りの引用の1つは次のとおりです。

「パラメータは頻繁に固定されているが、ベイジアンによってランダムに扱われている」としばしば（誤って）言われます。頻度の高い人やベイジアンにとっても、パラメータの値は最初から固定されているか、物理的にランダムなメカニズムから生成された可能性があります。どちらの場合でも、両方とも、私たちが知りたい固定値をとったと仮定します。ベイジアンは、正式な確率モデルを使用して、その値に関する個人的な不確実性を表現します。これらのモデルの「ランダム性」は、パラメーターの値に関する個人的な不確実性を表しています。パラメータのプロパティではありません（ただし、パラメータを生成したメカニズムのプロパティを正確に反映することを期待する必要があります）。

グリーンランド、S。（2006）。疫学研究に対するベイジアンの視点：I.基礎と基本的な方法。International Journal of Epidemiology、35（3）、765–774。

確率のベイジアン概念は必ずしも主観的ではありません（ジェインズを参照）。ここで重要な違いは、ベイジアンが、その妥当な値の事前分布を、いくつかの観測に含まれる情報を要約する尤度と組み合わせることにより、パラメータの値に関する知識の状態を決定しようとすることです。したがって、ベイジアンとして、パラメータの真の値は正確にはわからないという考えに満足していると思います。事後分布の目的は、もっともらしい値について私が知っていることを要約することです。私の以前の仮定と観察に基づいています。

今、私がモデルを作るとき、モデルは現実ではありません。そのため、場合によっては問題のパラメーターが実際に存在し（例：ウォンバットの平均重量）、存在しない場合（例：回帰パラメーターの真の値-回帰モデルは、結果のモデルにすぎません）システムを支配する物理法則。これは実際には回帰モデルによって完全に捕捉されない場合があります。したがって、実世界には1つの真の固定パラメーター値があると言うことは必ずしも真ではありません。

反対に、ほとんどの頻度の高い人は、統計に真の値が1つあると言うことをお勧めしますが、それはどちらかはわかりませんが、推定値と推定値の信頼区間があります（ある意味では） ）異なる値の妥当性に関する不確実性を定量化します（ただし、頻繁に発生する確率の概念により、これを直接表現することはできません）。

主な点として、ベイジアンデータ分析（第3版、93）で、Gelmanは次のようにも書いています。

ベイジアンデータ分析の観点から、古典的なポイント推定値は、いくつかの暗黙的な完全確率モデルに基づいて、正確または近似の事後の要約としてしばしば解釈できます。実際、大きなサンプルサイズの制限では、漸近理論を使用して、古典的な最尤推定の理論的なベイジアン正当化を構築できます。

したがって、実際には、単一の実パラメータ値があることを「認める」べきベイジアンではなく、推定手順を正当化するためにベイジアン統計に訴える必要がある頻度の高い人です！（私はこれを頬にしっかりと舌で言います。）

余談ですが、ベイジアン統計は主観的確率を前提としているという包括的な声明と、ベイズは主観的であるが他の推論パラダイムはそうではないという意味に反対します。それは確かに、おそらくまた、「コヒーレンス賭けの」引数の観点を含め提起することができます一つの引数、であるが、誰ゲルマンを参照してくださいここで事後分布使用して統計学者として「ベイジアン」を定義、そしてここで、彼は過度に制限的な定義に反対している。$\Pr(\theta|y)$

しかし、自然界または社会システムに単一のパラメーターがあるという考えは、単純化された仮定にすぎません。観察可能な結果を​​生成する華やかなプロセスがあるかもしれませんが、そのシステムの発見は非常に複雑です。単一の固定パラメーター値があると仮定すると、問題は劇的に単純化されます。これはあなたの質問の核心につながると思います。ベイジアンは、この単純化をフリークエンティストがする以上に「認める」必要はないはずです。

子供の成長への牛乳飲酒の貢献のようなもののための単一の「真の固定パラメータ」があると思いますか？または、患者の体内に注入する化学物質Xの量に基づいて腫瘍のサイズを小さくしたいですか？慣れ親しんだモデルを選んで、理論的にも各パラメーターに1つの真の、普遍的で、正確で固定された値があると実際に信じているかどうかを自問してください。

すべての測定が完全に正確で無限に正確であるかのようにモデルを見て、測定エラーを無視してください。モデルを考えると、各パラメーターには現実的に特定のポイント値があると思いますか？

モデルがあるという事実は、いくつかの詳細を省略していることを示しています。モデルを作成するために除外したパラメーター/変数を平均化しているため、モデルにはかなりの不正確さがあります。これは、現実の簡略化された表現です。（ちょうどあなたが惑星の1：1の地図を作っていないので、すべての詳細で完全ではなく、むしろ1：10000000の地図、またはそのような単純化。地図はモデルです。）

除外された変数を平均化する場合、モデルに含める変数のパラメーターはポイント値ではなく分布になります。

これはベイズの哲学の一部にすぎません-理論上の不確実性、測定の不確実性、事前分布などを無視していますが、記述統計が持つのと同じように、パラメーターに分布があるという考えは直感的に理にかなっているように思えます分布。

しかし、ベイジアンは理論上、「実世界」には1つの真の固定パラメーター値があることを認めていますか？

私の意見では、答えはイエスです。パラメーターの不明な値があり、事前分布はそれに関する知識/不確実性を説明しています。ベイジアン数学モデリングでは、は事前分布に従う確率変数の実現と見なされます。$\theta_0$$\theta_0$

ベイジアン主義と決定論的宇宙を結び付けて（「量子」という言葉を含む何かを言う前に、ユーモアを傾け、これがphysics.stackexchangeではないことを思い出してください）、いくつかの興味深い結果が得られます。

仮定を明確にする：

1. 決定論的宇宙の一部であり、観測するベイジアンエージェントがいます。
2. エージェントの計算リソースは限られています。

さて、決定論的宇宙は、原子がニュートンの小さなビリヤードボールである可能性があります。完全に非量子的かもしれません。そうだとしましょう。

エージェントは公正なコインを裏返します。それについて少し考えてみて、決定的な宇宙では公正なコインは何を構成するのでしょうか？50/50の確率比を持つコイン？

しかし、それは決定論的です！十分な計算能力があれば、コインがどのように着弾するかを正確に計算できます。純粋に同じ方法でコインを反転するモデルをシミュレートするだけです。

決定論的な宇宙では、公正なコインは均一な密度の金属のディスクになります。ある面を下にして他の面よりも多くの時間を費やすことを強制することはありません（サイコロの重みの仕組みについて考えてください）。

そのため、エージェントは公正なコインを裏返します。それでも、エージェントは十分に強力ではありません。コインを裏返したときにコインがどのように回転するかを測定するのに十分な目がありませんが、見えますがぼやけています。

そのため、「このコインは50％の確率で頭を上陸させます」と書かれています。情報の欠如は確率につながります。

コインがどのように投げられるかの位相空間を見ることができます。スローの方向、スローの力、コインの回転、風の速度と方向などに関連する軸を持つ、大規模な多次元座標系。このスペースの単一のポイントは、可能な単一のコインフリップに対応します。

以前にエージェントに、与えられたスローごとにヘッドの確率のエージェントの割り当てに対応するグレースケールグラデーションで座標系で色付けするように依頼すると、ほとんどすべてのグレーの均一な色合いに色付けされます。

頭部の確率を計算するためのより強力な内部コンピューターを徐々に提供すれば、より多くの識別可能な色を作成できるようになります。最終的に最も強力な内部コンピューターを与えて全知にすることで、奇妙なチェッカーボードを効果的にペイントします。

公正なコインは確率で作られているのではなく、金属で作られています。確率は計算構造にのみ存在します。ベイジアンはこう言います。

不適切な事前分布があります。たとえば、Jeffreysは、フィッシャー情報マトリックスと一定の関係があります。それは主観的ではありません。