を最大化する点推定を使用する場合、それはあなたの哲学について何と言っていますか？（フリークエンシーまたはベイジアンまたは他の何か？）

誰かが言ったら

「この方法は、を最大化するパラメーターのポイント推定MLEを使用するため、頻度が高く、さらにベイジアンではありません。」$\mathrm{P}(x|\theta)$

同意しますか？

• 背景に関する最新情報：最近、頻繁に投稿されると主張する論文を読みました。私は彼らの主張に同意しない、せいぜい曖昧だと思う。この論文では、MLE（またはMAP）について明示的に言及していません。彼らは単にポイントの推定値を取得し、このポイントの推定値が真であるかのように単純に進みます。彼らはしますませんこの推定量のサンプリング分布、またはそのような何かの分析を行います。モデルは非常に複雑であるため、このような分析はおそらく不可能です。いずれの時点でも「後」という言葉は使用していません。彼らは、額面価格でこのポイント推定値を取得し、関心のある主要トピックである欠落データの推測に進みます。彼らの哲学には何があるかを示唆するアプローチは彼らのアプローチにはないと思います。彼らは頻繁になりたいと思っていたかもしれませんが（袖に哲学をつける義務があると感じているため）、実際のアプローチは非常に単純/便利/怠/で曖昧です。私は今、この研究にはその背後にある哲学は何もないと言う傾向があります。代わりに、彼らの態度はより実用的または便利だったと思う：

  「データを観測し、欠落データzを推定したい。zとxの関係を制御するパラメーターθがあります。目的を達成するための手段を除き、θはあまり気にしません。私はのために見積もり持っθ、それはそれが簡単に予測することになりますZをからのxを、私はの点推定値を選択します。θを、それは便利ですので、特に私が選ぶだろう、θ最大P（X | θを）。」$x$$z$$\theta$$z$$x$$\theta$$\theta$$z$$x$$\theta$$\hat{\theta}$$\mathrm{P}(x|\theta)$

ベイジアン手法では、データとパラメーターの役割は逆になります。特に、現在、観測されたデータを条件として、パラメーターの値について推論を進めています。これには事前の準備が必要です。

これまでのところこれでいいのですが、MLE（Maximum Likelihood Estimate）がこれに適合するのはどこですか？私は、多くの人がそれが周波数主義者である（またはより正確には、ベイジアンではない）と感じているという印象を受けます。しかし、観測データを取得し、を最大化するパラメーターを見つけることを含むため、ベイジアンであると感じています。MLEは暗黙的に均一な事前使用とデータの条件付けを使用し、P （p a r a m e t $P(data | parameter)$。MLEがフリークエンティストとベイジアンの両方に見えると言ってもいいですか？または、すべての単純なツールは、これら2つのカテゴリのいずれかに正確に該当する必要がありますか？$P(parameter | data)$

MLEは一貫していますていますが、一貫性はベイジアンのアイデアとして提示できると思います。任意の大きなサンプルが与えられると、推定値は正解に収束します。「推定値は真の値に等しい」というステートメントは、パラメーターのすべての値に当てはまります。興味深いのは、観測されたデータを条件にしてベイジアンにする場合にも、このステートメントが当てはまることです。この興味深いことは、MLEには当てはまりますが、公平な推定量には当てはまりません。

これが、MLEが周波数主義者として記述される可能性のあるメソッドの「最もベイジアン」であると感じる理由です。

とにかく、有限のサンプルサイズを含む、ほとんどのフリークエンティストの特性（不偏性など）はすべての場合に適用されます。一貫性が不可能なシナリオ（1つの実験内の無限のサンプル）でのみ成立するという事実は、一貫性がそのような有用な特性ではないことを示唆しています。

現実的な（つまり有限の）サンプルが与えられた場合、MLEに当てはまるFrequentistプロパティはありますか？そうでない場合、MLEは実際にはフリークエンティストではありません。

または、すべての単純なツールは、これら2つのカテゴリのいずれかに正確に該当する必要がありますか？

いいえ。単純なツール（それほど単純なツールではありません）は、さまざまな視点から学習できます。尤度関数自体は、ベイジアン統計と頻出統計の両方の基礎であり、両方の観点から調べることができます！必要に応じて、MLEを近似ベイズソリューションとして学習するか、またはその特性を漸近理論で頻繁に調べることができます。

あなたが最尤をやっているときの推定は、あなたが見積もりの値を考慮し、信頼区間として表現見積もりの不確実性を確立するために、推定器のサンプリングプロパティを。信頼区間は一般に観測されなかったサンプルポイントに依存するため、これはあなたの質問に関して重要だと思います。

PSこれは、最尤推定（ポイント+間隔）が尤度の原理を満たさないのに対し、完全な（「サベージスタイル」）ベイジアン解析が行うというより一般的な事実に関連しています。

尤度関数は、データと未知のパラメーターを含む関数です。パラメータの値が与えられると、観測データの確率密度として見ることができます。パラメーターは修正されました。したがって、可能性はそれ自体が頻繁な概念です。尤度を最大化することは、尤度が最大値を取るようにするパラメーターの特定の値を見つけることです。そのため、最尤推定は、データとそれを生成すると想定されるモデルの形式のみに基づいた頻度の高い手法です。ベイズ推定は、事前分布がパラメーターに配置され、ベイズの式を使用して事前分布と尤度を組み合わせてパラメーターの事後分布を取得する場合にのみ開始されます。

「ベイジアン」とは、現在の経験的なベイズの意味ではなく、主観的なベイズ（別名、認識ベイズ、デフィネッティベイズ）を指していると仮定します。一方では、データのみに基づいて推測します。手元に主観的な信念はありません。これは十分な頻度であるように思えます...しかし、フィッシャー自身（厳密な非（主観的）ベイジアン）でも表現されている批判は、データのサンプリング分布の選択において主観性がcいだということです。データ生成プロセスの信念。

結論として、MLEは「頻度」と「ベイジアン」をどのように定義するかという問題だけではありますが、通常は頻度主義の概念と考えられています。

（自分の質問に答える）

推定器は、いくつかのデータを取得し、番号（または番号の範囲）を生成する機能です。推定量自体は、実際には「ベイジアン」または「フリークエンシー」ではありません-数字が入り、数字が出るブラックボックスと考えることができます。同じ推定量を頻繁に使用する人とベイジアンに提示することができ、推定量について異なる意見を言うことができます。

（頻度主義者とベイジアンの単純な区別に満足していません。他にも考慮すべき問題があります。しかし、簡単にするために、明確に定義された2つの哲学的キャンプのふりをしましょう。）

研究者がどの推定量を選択するだけでベイジアンの頻度が高いかを知ることはできません。重要なことは、彼らが推定器で何を分析し、その推定器を選択した理由を聞くことです。

その価値を見つけるソフトウェアを作成するとします $\theta$ 最大化する $\mathrm{P}(\mathbf{x}|\theta)$。このソフトウェアを頻繁に提示し、それについてプレゼンテーションを行うよう依頼します。それらはおそらくサンプリング分布を分析し、推定値が偏っているかどうかをテストすることで進むでしょう。そして、おそらく彼らはそれが一貫しているかどうかをチェックします。このようなプロパティに基づいて、推定者を承認または不承認にします。これらは、頻繁に使用されるプロパティのタイプです。

同じソフトウェアがベイジアンに提示されると、ベイジアンはフリークエンティストの分析の多くに満足するでしょう。はい、他のすべてのものが同等であり、バイアスは良くなく、一貫性は良いです。しかし、ベイジアンは他のことにもっと興味を持つでしょう。ベイジアンは、推定量が事後分布の何らかの関数の形をとるかどうかを確認する必要があります。もしそうなら、どの事前分布が使用されましたか？推定量が事後分布に基づいている場合、ベイジアンは事前分布が良いものかどうか疑問に思います。事前に満足している場合、および推定者が事後のモードを報告している場合（たとえば、事後の平均とは対照的に）、彼らはこの解釈を推定に適用して喜んでいます：正しい可能性が最も高い推定値。」

頻繁に使用されるものとベイジアンは、関係する数字が同じであっても、物事を異なる方法で「解釈する」と言われます。これは少しわかりにくいかもしれませんが、本当のことだとは思いません。それらの解釈は互いに矛盾しません。彼らは単にシステムのさまざまな側面について声明を出します。その時点のポイント推定値を脇に置き、代わりに間隔を考慮しましょう。特に、頻繁な信頼区間とベイジアン信頼区間があります。彼らは通常異なる答えをします。ただし、特定の事前分布を使用した特定のモデルでは、2種類の間隔で同じ数値の答えが得られます。

間隔が同じ場合、どのようにそれらを異なって解釈できますか？頻度の高い人は、区間推定器について言います：

データまたは対応する間隔を見る前に、真のパラメーターが間隔内に含まれる確率が少なくとも95％あると言えます。

一方、ベイジアンは区間推定量について言います：

データまたは対応する間隔を確認した後、真のパラメーターが間隔内に含まれる確率が少なくとも95％あると言えます。

これらの2つのステートメントは、「前」と「後」という言葉を除いて同一です。ベイジアンは前者の声明を理解して同意し、その真理は以前のものとは無関係であることを認め、それにより「より強い」ものにします。しかし、私自身はベイジアンとして話すと、前の声明があまりよくないのではないかと心配になります役に立た。頻度主義者は後者の声明を好まないだろうが、頻度主義者の異議について公正な説明をするほど十分には理解していない。

データを見た後でも、フリークエンシー奏者は、真の値が間隔内に含まれていると楽観視していますか？そうでないかもしれない。これは少し直感に反しますが、信頼区間やサンプリング分布に基づくその他の概念を真に理解するために重要です。頻繁に言うと、「データが与えられれば、95％の確率で真の値がこの間隔にあると思う」と頻繁に言うでしょう。頻繁な人は、その声明が真実であるかどうかを疑うだけでなく、それが真実であるかどうかも疑う、この方法で確率を帰属さ意味あるします。これについてさらに質問がある場合は、私に尋ねないでください。この問題は私には多すぎます！

ベイジアンは、「今見たデータを条件として、真の値がこの範囲にある確率は95％です」と述べています。

最後の点で少し混乱していることを認めなければなりません。私は、データが見られる前に頻繁に行われた声明を理解し、それに同意します。データを見た後にベイジアンが行った声明を理解し、同意します。ただし、データが表示された後、フリークエンシー奏者が何と言うかはよくわかりません。世界に対する彼らの信念は変わりましたか？私はここで頻繁な哲学を理解する立場にありません。

最大化するポイント推定器 $P(x|\theta)$ is the MLE. This is a commonly used point estimator in frequentist statistics, but it is less commonly used in Bayesian statistics. In Bayesian statistics it is usual to use a point estimator which is either the posterior expected value, or the value minimising the expected-loss (risk) in a decision problem. There are certainly some cases where the Bayesian estimator will correspond with the MLE (e.g., if we have a uniform prior, or in some special cases of minimising loss), but this is not a common occurrence. Hence, as a general rule, the MLE is usually a frequentist estimator.