「クローズドフォームソリューション」とはどういう意味ですか？

82

「クローズドフォームソリューション」という用語に出くわすことがよくあります。閉じた形式のソリューションとはどういう意味ですか？特定の問題に対して厳密な形式の解決策が存在するかどうかをどのように判断しますか？オンラインで検索すると、いくつかの情報が見つかりましたが、統計的または確率的モデル/ソリューションを開発するという文脈では何も見つかりませんでした。

私は回帰を非常によく理解しているので、だれかが回帰またはモデルのあてはめを参照して概念を説明できるなら、それは使いやすいでしょう。:)

— arjsgh21
ソース

4

この質問は、しばらくの間、質の低い回答の磁石のようなものだったようです。おそらく今のところ保護すべきだと思いました。

— Glen_b 14年

37

「方程式は、与えられた一般に受け入れられた集合から関数と数学演算の点で与えられた問題を解決する場合、閉形式の解と言われます。たとえば、無限和は一般に閉形式とは見なされません。新しい「閉形式」関数は無限和の観点から簡単に定義できるため、閉形式を呼び出すものとそうでないものを選択するのはむしろrather意的です。 - ウォルフラムアルファ

そして

「数学では、式は有限の特定の「既知の」関数の観点から分析的に表現できる場合、閉形式の式と呼ばれます。通常、これらの既知の関数は基本関数として定義されます。定数、1つの変数x、算術の基本演算（+ −×÷）、n番目の根、指数および対数（したがって、三角関数と逆三角関数も含まれます）。閉じた式の」-ウィキペディア

線形回帰の閉形式解の例は、最小二乗方程式です

\hat{β} = (X^{T} X)^{- 1} X^{T} y

$\hat\beta=(X^TX)^{-1}X^Ty$

すべての回帰シナリオは方程式系を解く問題として投げかけることができると考えると、いつ閉じた形式の解決策はないでしょうか？不適切な問題またはスパース問題には近似解が必要になるので、閉形式解が存在しない場合はどうでしょうか？正則化で共役勾配降下を使用する場合はどうですか？

— arjsgh21

この議論は役に立ちました-「閉形式と勾配降下の回帰パラメータの解決」リンク

— -arjsgh21

@ arjsgh21閉じた形式のソリューションであることの意味をさらに明確にする必要がありますか？私の意見では、あなたの新しい質問は、完全に新しいトピックであり、新しい質問として尋ねられるべき回帰問題に閉じた形式の解決策があるかどうかに関するものであるようです。

BabakPに感謝します。私は今回帰を参照して、それ以外の場合もそれを得ると思います。

— arjsgh21

1

CrossValidatedが、理解を提供する回答よりも難解であるが正しい回答を一貫してサポートする唯一の「スタック交換フォーラム」である理由を混乱させます。現在の作物の最良の答えは@Lucaであり、高く評価されていません。確かに、それはリンクだけを提供しますが、理解しやすい素晴らしいリンクです。この過度に慎重な答えは、その答えを既に知っている人々にとっての問題の解決にのみ役立ちます。:(

— マイクウィリアムソン

17

ほとんどの推定手順では、目的関数を最小化（または最大化）するパラメーターを見つける必要があります。たとえば、OLSでは、残差の二乗和を最小化します。最大尤度推定では、対数尤度関数を最大化します。違いは簡単です。目的関数の負を使用することで、最小化を最大化に変換できます。

この問題は代数的に解決できる場合があり、閉じた形式のソリューションを生成します。OLSを使用すると、一次条件のシステムを解き、馴染みのある式を取得できます（ただし、答えを評価するにはコンピューターが必要になる可能性があります）。その他の場合、これは数学的に不可能であり、コンピューターを使用してパラメーター値を検索する必要があります。この場合、コンピューターとアルゴリズムが大きな役割を果たします。非線形最小二乗はその一例です。明示的な式は得られません。取得するのは、実装するためにコンピューターに必要なレシピだけです。レシピは、パラメータが何であり、どのように変化する可能性があるかを最初に推測することから始めることができます。次に、パラメーターのさまざまな組み合わせを試して、どのパラメーターが最低/最高の目的関数値を提供するかを確認します。これはブルートフォースアプローチであり、時間がかかります。例えば、 $10^5$ 組み合わせ。これは、運が良ければ正しい答えの近くにあなたを置くだけです。このアプローチはグリッド検索と呼ばれます。

または、推測から始めて、目的関数の改善が特定の値より小さくなるまで、その推測をある方向に絞り込みます。これらは通常勾配法と呼ばれます（ただし、遺伝的アルゴリズムやシミュレーテッドアニーリングなど、どの方向に進むかを選択するのに勾配を使用しないものもあります）。このようないくつかの問題は、正しい答えをすばやく見つけることを保証します（2次目的関数）。その他はそのような保証を与えません。グローバルな最適化ではなくローカルな最適化にこだわっているのではないかと心配するかもしれません。そのため、さまざまな初期推測を試みます。大きく異なるパラメーターが目的関数の同じ値を与えるため、選択するセットがわからないことがあります。

直感をつかむのに良い方法があります。唯一のリグレッサがインターセプトである単純な指数回帰モデルがあるとします：

E [y] = \exp {α}

$\begin{equation} E[y]=\exp\{\alpha\} \end{equation}$

目的関数は

Q_{N} (α) = - \frac{1}{2 N} \sum_{i}^{N} {(y_{i} - \exp {α})}^{2}

$\begin{equation} Q_N(\alpha)=-\frac{1}{2N} \sum_i^N \left( y_i - \exp\{\alpha\} \right)^2 \end{equation}$

この単純な問題では、両方のアプローチが実行可能です。導関数を取得することにより得られる閉形式の解は、です。また、代わりにプラグインすることにより、他の値が目的関数のより高い値を与えることを確認できます。リグレッサーがいる場合、分析ソリューションは範囲外になります。 $\alpha^* = \ln \bar y$ $\ln (\bar y + k)$

— ディミトリイ・V・マスタロフ
ソース

最後の文の「分析的」と「閉じた形式」を暗黙的に同一視しましたか？

— whuber

2

私は当時と同義だと思った：mathworld.wolfram.com/Analytic.html

— V.

MathWorldページの最後に曖昧さ回避コメントが表示されましたか？問題は、現在の文脈では「分析的」はいくつかの異なる方法で合理的に理解できることです。また、「分析的」と「分析的」はまったく同じことを意味するわけではありません（「歴史的」と「歴史的」が異なる意味を持つように）。

— whuber

「分析的解決」、「分析的解決」、および「クローズド・フォーム」に違いがあることは知りません。MathWorldには分析用の個別のエントリがなく、既知の関数、定数などの観点から「閉じた形式」で記述できる問題として分析問題を定義します。歴史的なものと歴史的なものとの区別は有効ですが、この場合に関係することはしません。私が間違っている場合は、修正してください。

— Dimitriy V. Masterov

2

多くの数学的な文脈において、「分析的」は正の収束半径を持つべき級数として局所的に表現可能な任意の関数に適用される正確な技術用語であるのに対し、「分析的」は基本部分への分解性に広く関連しています。BabakPの引用が示すように、「閉じた形式」は、値を結合するための一般に受け入れられている手順のコンテキスト内でのみ意味を取得します（通常は、超越関数ではなく初等関数で構成されます）。

— whuber

13

このウェブサイトは簡単な直観を提供していると思いますが、その抜粋は次のとおりです。

閉形式の解（または閉形式の式）は、有限数の標準操作で評価できる任意の式です。...数値解は、有限数の標準操作で評価できる近似です。閉形式解と数値解は、どちらも有限数の標準操作で評価できるという点で似ています。数値解は近似値にすぎないのに対し、閉形式解は正確であるという点で異なります。

— ルカ・ベルティネット
ソース

2

リンクを提供するだけですが、これは間違いなく最も役立つ答えです。

— マイクウィリアムソン

2

リンクからの引用をウェインが含めることで、答えは間違いなく改善されました。

— Glen_b

2

さらに、ルカのリンクは現在無効です。

— ナラムシム

-2

意味を厳密に定義する一般的な用語や痛みを伴う言葉遣いをお探しですか？他の用語はどこにでもあるので、私は一般的な用語を仮定します。8の平方根の閉形式解が必要だとしましょう。閉形式解は2 *（2）^ 1/2または2の平方根の2倍です。これは、非閉形式のソリューション2.8284とは対照的です。（ウィキペディアの2の平方根を参照してください。小数点以下69桁で、1 / 10,000以内の精度です）1つは数学用語で完全に定義されていますが、もう1つはそうではありません。閉じた形式のソリューションは正確な答えを提供し、閉じた形式ではないものは近似値ですが、必要に応じて閉じた形式のソリューションに近い非閉じた形式のソリューションを取得できます。サウンドは直感的に反しますが、より正確に必要な場合は、もう少し計算を減らしてください。

— チーセパイプ
ソース

3

これは、「閉じた形式」という用語の珍しい使用法です。参照を提供してもらえますか？

— whuber

1

サポートするドキュメントのレベルを十分に提供できるかどうかはわからないが、これ以上議論する必要はないが、ここで説明する。WikipediaでClosed Form Expressionを参照してください。最後の2つのセクションでは、通常、数値計算を使用して解に到達できるため、閉形式の解が必ずしも必要ではないことを説明し、次のセクションでは、いくつかの数学プログラムが数値から閉形式の解を生成する方法を説明します。クローズドフォームソリューションは正確です（スペース不足）

— Cheesepipe

5

ウィキペディアは参考として問題ありません。この場合、「閉じたフォーム式」と「閉じたフォーム番号」を混同しているように見えます。同じことを意味するものではありません。

— whuber

-2

閉じたフォーム=閉じた（機能的な）フォーム

閉じているということは、それ以上中に入ることができないことを意味します。つまり、代替なし=> 1つのソリューションのみ=>結果と予測子の間の関係を確立できる1つの関数のみ。

— ヴィベック・アストヴァンシュ
ソース

3

これはこの用語の珍しい使用法でもあります。このコンテキストで使用されている例をいくつか教えていただけますか？積分に関して閉じた形式/閉じていない形式をよく耳にするので、私はほとんど驚いています。

— マットクラウス14年