共同推定とは何ですか？

私の質問は単純です：共同推定とは何ですか？そして、それは回帰分析の文脈ではどういう意味ですか？それはどのように行われますか？私はかなりの時間インターネットをさまよいましたが、これらの質問に対する答えは見つかりませんでした。

regression estimation terminology

すべての役立つ回答と、これを明確にするために尽くしてくれた努力に感謝します！

— に回帰で失われる

回答:

同時推定とは、単純に、同時に2つ（またはそれ以上）を同時に推定することです。サンプルから平均と標準偏差を推定するのと同じくらい簡単です。

多くの文献では、特別な推定手順を使用する必要があるため、この用語が使用されています。これは通常、1つの量が他の量に依存し、その逆の場合にも当てはまるため、問題の分析的解決は困難です。共同推定がどのように正確に行われるかは、完全に問題に依存します。

「ジョイントモデリング」またはジョイント推定で頻繁に現れる1つの方法は、EMアルゴリズムです。EMは期待を表します-最大化。これらのステップを交互に行うことにより、EステップはコンポーネントAに依存する欠落データを埋め、MステップはコンポーネントBの最適推定値を見つけます。EステップとMステップを繰り返すことにより、Aの最尤推定値を見つけることができます。およびB、したがって、これらを合同で推定します。

— アダモ
ソース

1つの変数の平均と標準偏差を推定していない例を挙げていただけますか？次に、どのようなアルゴリズムが使用されますか？

— smci

@smci線形混合モデリングは、固定コンポーネントとランダムコンポーネントを共同で推定します。

— AdamO

おかげで、つまり、それ（および他の例）を回答に編集してください。アルゴリズムはEMと完全に異なりますか？（どのようにして両方のコンポーネントを同時に推定することができますか？それは収束を保証しますか？など）

— smci

@smci同意しない。a）OPの問題ではありません。b）無限の「他の例」があります。c）LMEのアルゴリズムとは何か、EMとの違いは別の問題です。

— AdamO

例で答えを説明するのに役立ちます。そして、それはより良い答えになるので、求められたものの一部です。

— smci

統計的な文脈では、「共同推定」という用語は、おそらく次の2つのうちの1つを意味します。

1. 2つ以上のスカラーパラメーターの同時推定（または同等に、少なくとも2つの要素を持つベクトルパラメーターの推定）; または
1. 関節に関連する単一のパラメータの推定（たとえば、大工、配管システム、またはマリファナ喫煙の研究）。

これら2つのオプションのうち、2番目のオプションは冗談です。したがって、ほぼ確実に、同時推定とは2つのスカラーパラメーターを同時に推定することを指します。

— ベン-モニカの復活
ソース

— 熟考

ペダントリーが承認されました-編集済み。

— ベン-モニカを

共同推定では、データを使用して同時に2つ以上のパラメーターを推定します。個別の推定では、各パラメーターを一度に1つずつ評価します。

推定は、何らかの形の最適化プロセスの結果です。このため、統計には独自の推定ソリューションはありません。目標を変更した場合、最適なものを変更します。回帰などのことを最初に学習したとき、なぜあなたが何をしているのかを誰もあなたに言わない。インストラクターの目標は、幅広い状況で機能するメソッドを使用して、ある程度の基本的な機能を提供することです。最初は、回帰について学習していません。代わりに、幅広い状況で広く適用できる1つまたは2つの回帰方法を学習します。

隠れた目標を解決するソリューションを探しているという事実は、理解するのが少し難しくなります。

回帰の文脈で、次の代数式が真のであると想像してください。統計の自明性は、あなたが持っている情報が多いほど、あなたはより良いものになります。が表示されたときに発生する値を決定する必要があると仮定します。問題は、の真の値がわからないことです。大規模で完全なデータセットがあります。

z = β_{x} x + β_{y} y + α

$z=\beta_xx+\beta_yy+\alpha$

z

$z$

(x, y)

$(x,y)$

{β_{x}, β_{y}, α}

$\{\beta_x,\beta_y,\alpha\}$

{x, y, z}

$\{x,y,z\}$

個別の見積もりでは、一度に1つのパラメーターを見積もります。共同推定では、それらすべてを一度に推定します。

経験則として、結合推定は、大規模な完全なデータセットを使用した個別の推定よりも正確です。これには一般的な例外が1つあります。と大きなセットがあり、小さなセットがあるます。ほとんどの値が欠落していると想像してください。 $x$ $z$ $y$ $y$

多くの推定ルーチンでは、欠落しているとを削除し、すべてのセットが完了するまで、作業しているセットを減らします。十分なデータを削除した場合は、多数の sと sを別々に使用して、とを一緒に見積もる方が正確な場合があります。 $x$ $z$ $x$ $z$ $z=\beta_xx+\alpha$ $z=\beta_yy+\alpha$

それがどのように行われるかについて。いくつかの例外的なケースを除いて、すべての見積もりは計算を使用して、何らかの形の損失または何らかのタイプのリスクを最小限に抑える見積もりを見つけます。問題は、サンプルを選択するのが不運になることです。残念ながら、無数の損失関数があります。また、無数のリスク関数があります。

あなたがより一般的な形でそれを見ることができるように、それは巨大なトピックなので、いくつかのビデオを見つけました。彼らは数学修道士からです。

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

そして

https://www.youtube.com/watch?v=WdnP1gmb8Hw。

— デイブ・ハリス
ソース